Apakah Anda masih meratapi perubahan revolusioner yang dibawa oleh AI generatif? Meratapi kekuatan GPT-4? Masih menebak fitur baru apa yang akan dimiliki GPT-5? OpenAI telah melihat lebih jauh, dan sudah beraksi.
Sumber gambar: Dihasilkan oleh AI Tak Terbatas
Tim OpenAI merilis langkah terbaru mereka kemarin, membentuk tim baru, Superalignment, dipimpin bersama oleh Ilya Sutskever (salah satu pendiri dan kepala ilmuwan OpenAI) dan Jan Leike (pemimpin penyelarasan). Ini adalah tim tentang superintelligence, berfokus pada penelitian penyelarasan superintelligence. OpenAI mengklaim akan menghabiskan 20% sumber daya komputasinya untuk memecahkan masalah penyelarasan super-cerdas dalam empat tahun ke depan, yang cukup untuk menunjukkan pentingnya OpenAI.
Apa itu Superintelligence?
Superintelligence mengacu pada sistem cerdas yang melampaui kecerdasan manusia, bukan hanya program komputer sederhana, tetapi tubuh yang cerdas, yang memiliki karakteristik kemampuan kognitif, kemampuan emosional, kesadaran diri dan niat, serta dapat berpikir, menilai, dan mengambil keputusan secara mandiri. -membuat bahkan dapat melampaui kecerdasan manusia sampai batas tertentu. Konsep superintelligence relatif terhadap sistem kecerdasan buatan saat ini, mengacu pada kecerdasan buatan yang lebih maju yang dapat diterapkan di bidang yang lebih luas dan lingkungan yang kompleks.
Saat ini, superintelligence masih merupakan konsep teoritis dan belum dapat direalisasikan. Mencapai superintelligence membutuhkan pemecahan banyak masalah teknis, termasuk tantangan dalam pembelajaran mesin, pemrosesan bahasa alami, visi komputer, penalaran, dan pengambilan keputusan. Selain itu, munculnya superintelijen juga akan membawa banyak isu etika, sosial, dan politik, seperti isu kontrol superintelijen, keamanan, dan privasi.
Superintelligence adalah konsep yang menarik dan menarik karena dapat menghasilkan berbagai aplikasi penting di berbagai bidang, seperti diagnosis medis, pengembangan obat baru, transportasi cerdas, produksi otomatis, dan pertahanan keamanan, dll. Pada saat yang sama, superintelijen juga memiliki beberapa risiko dan tantangan, jika lepas kendali dapat menimbulkan ancaman besar bagi umat manusia.
Mencapai superintelligence membutuhkan pemecahan banyak masalah teknis. Salah satu isu terpenting adalah bagaimana memungkinkan sistem cerdas memiliki kemampuan untuk belajar secara mandiri, yaitu terus mempelajari pengetahuan dan keterampilan baru dari data dan pengalaman, sehingga dapat terus meningkatkan tingkat kecerdasannya. Pada saat yang sama, superintelligence juga perlu memiliki kemampuan penalaran, pengambilan keputusan dan inovasi yang kuat, serta mampu berpikir secara mandiri dan memecahkan berbagai masalah yang kompleks.
"Saat kita mendekati superintelligence", kita perlu lebih memikirkan tentang risiko eksistensial AI. — Zuckenberg
Superintelijen akan menjadi kenyataan dalam sepuluh tahun? Setidaknya OpenAI berpikir demikian
OpenAI percaya bahwa kecerdasan super akan menjadi teknologi paling berdampak yang pernah ditemukan, membantu kita memecahkan banyak masalah terpenting di dunia. Tetapi kekuatan superintelijen yang sangat besar juga bisa sangat berbahaya dan dapat menyebabkan ketidakberdayaan umat manusia, atau bahkan kepunahannya. Sementara **superintelligence mungkin tampak jauh sekarang, kami yakin itu mungkin dalam satu dekade. **
###
Bagaimana mengatasi risiko superintelligence?
Meskipun superintelijen memiliki energi yang sangat besar, risikonya juga besar. OpenAI mengatakan bahwa mengelola risiko ini akan membutuhkan lembaga tata kelola baru dan mengatasi masalah koordinasi superintelijen, yaitu bagaimana memastikan bahwa sistem kecerdasan buatan jauh lebih pintar daripada manusia tetapi juga mengikuti niat manusia?
OpenAI tidak memberikan jawaban. Mereka percaya bahwa manusia tidak dapat secara andal mengawasi sistem kecerdasan buatan yang lebih pintar dari manusia. Teknologi penyelarasan saat ini tidak dapat diperluas ke superintelligence. Oleh karena itu, terobosan ilmiah dan teknologi baru perlu dicari.
Namun, jalan OpenAI untuk memecahkan masalah penyelarasan superintelligence sudah jelas, yaitu dengan membangun peneliti penyelarasan otomatis secara kasar di tingkat manusia, untuk meningkatkan kemampuan sistem kecerdasan buatan untuk belajar dari umpan balik manusia dan membantu manusia dalam mengevaluasi kecerdasan buatan. Tujuannya adalah untuk membangun sistem AI yang cukup selaras sehingga dapat membantu kita menyelesaikan semua masalah penyelarasan lainnya.
Pada tahun lalu, OpenAI telah menerbitkan posting blog yang mengklarifikasi garis penelitian mereka tentang penyelarasan:
Superalignment tim baru OpenAI
Tim tersebut akan menjadi tim peneliti dan insinyur pembelajaran mesin terbaik, dengan tujuan memecahkan tantangan teknis inti dari penyelarasan superintelligence dalam waktu empat tahun, mulai dari mengembangkan metode baru hingga meningkatkan penerapan. Kepala Ilmuwan OpenAI Ilya Sutskever telah menjadikan masalah penyelarasan superintelligence sebagai fokus penelitian inti. Penyelarasan superintelijen pada dasarnya adalah masalah pembelajaran mesin, dan OpenAI merekrut pakar pembelajaran mesin yang sangat baik.
Referensi:
Lihat Asli
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Tren terbaru OpenAI: Membentuk tim baru, bertaruh pada kecerdasan super, dan memiringkan 20% sumber daya komputasi
Apakah Anda masih meratapi perubahan revolusioner yang dibawa oleh AI generatif? Meratapi kekuatan GPT-4? Masih menebak fitur baru apa yang akan dimiliki GPT-5? OpenAI telah melihat lebih jauh, dan sudah beraksi.
Tim OpenAI merilis langkah terbaru mereka kemarin, membentuk tim baru, Superalignment, dipimpin bersama oleh Ilya Sutskever (salah satu pendiri dan kepala ilmuwan OpenAI) dan Jan Leike (pemimpin penyelarasan). Ini adalah tim tentang superintelligence, berfokus pada penelitian penyelarasan superintelligence. OpenAI mengklaim akan menghabiskan 20% sumber daya komputasinya untuk memecahkan masalah penyelarasan super-cerdas dalam empat tahun ke depan, yang cukup untuk menunjukkan pentingnya OpenAI.
Apa itu Superintelligence?
Superintelligence mengacu pada sistem cerdas yang melampaui kecerdasan manusia, bukan hanya program komputer sederhana, tetapi tubuh yang cerdas, yang memiliki karakteristik kemampuan kognitif, kemampuan emosional, kesadaran diri dan niat, serta dapat berpikir, menilai, dan mengambil keputusan secara mandiri. -membuat bahkan dapat melampaui kecerdasan manusia sampai batas tertentu. Konsep superintelligence relatif terhadap sistem kecerdasan buatan saat ini, mengacu pada kecerdasan buatan yang lebih maju yang dapat diterapkan di bidang yang lebih luas dan lingkungan yang kompleks.
Saat ini, superintelligence masih merupakan konsep teoritis dan belum dapat direalisasikan. Mencapai superintelligence membutuhkan pemecahan banyak masalah teknis, termasuk tantangan dalam pembelajaran mesin, pemrosesan bahasa alami, visi komputer, penalaran, dan pengambilan keputusan. Selain itu, munculnya superintelijen juga akan membawa banyak isu etika, sosial, dan politik, seperti isu kontrol superintelijen, keamanan, dan privasi.
Superintelligence adalah konsep yang menarik dan menarik karena dapat menghasilkan berbagai aplikasi penting di berbagai bidang, seperti diagnosis medis, pengembangan obat baru, transportasi cerdas, produksi otomatis, dan pertahanan keamanan, dll. Pada saat yang sama, superintelijen juga memiliki beberapa risiko dan tantangan, jika lepas kendali dapat menimbulkan ancaman besar bagi umat manusia.
Mencapai superintelligence membutuhkan pemecahan banyak masalah teknis. Salah satu isu terpenting adalah bagaimana memungkinkan sistem cerdas memiliki kemampuan untuk belajar secara mandiri, yaitu terus mempelajari pengetahuan dan keterampilan baru dari data dan pengalaman, sehingga dapat terus meningkatkan tingkat kecerdasannya. Pada saat yang sama, superintelligence juga perlu memiliki kemampuan penalaran, pengambilan keputusan dan inovasi yang kuat, serta mampu berpikir secara mandiri dan memecahkan berbagai masalah yang kompleks.
Superintelijen akan menjadi kenyataan dalam sepuluh tahun? Setidaknya OpenAI berpikir demikian
OpenAI percaya bahwa kecerdasan super akan menjadi teknologi paling berdampak yang pernah ditemukan, membantu kita memecahkan banyak masalah terpenting di dunia. Tetapi kekuatan superintelijen yang sangat besar juga bisa sangat berbahaya dan dapat menyebabkan ketidakberdayaan umat manusia, atau bahkan kepunahannya. Sementara **superintelligence mungkin tampak jauh sekarang, kami yakin itu mungkin dalam satu dekade. **
Bagaimana mengatasi risiko superintelligence?
Meskipun superintelijen memiliki energi yang sangat besar, risikonya juga besar. OpenAI mengatakan bahwa mengelola risiko ini akan membutuhkan lembaga tata kelola baru dan mengatasi masalah koordinasi superintelijen, yaitu bagaimana memastikan bahwa sistem kecerdasan buatan jauh lebih pintar daripada manusia tetapi juga mengikuti niat manusia?
OpenAI tidak memberikan jawaban. Mereka percaya bahwa manusia tidak dapat secara andal mengawasi sistem kecerdasan buatan yang lebih pintar dari manusia. Teknologi penyelarasan saat ini tidak dapat diperluas ke superintelligence. Oleh karena itu, terobosan ilmiah dan teknologi baru perlu dicari.
Namun, jalan OpenAI untuk memecahkan masalah penyelarasan superintelligence sudah jelas, yaitu dengan membangun peneliti penyelarasan otomatis secara kasar di tingkat manusia, untuk meningkatkan kemampuan sistem kecerdasan buatan untuk belajar dari umpan balik manusia dan membantu manusia dalam mengevaluasi kecerdasan buatan. Tujuannya adalah untuk membangun sistem AI yang cukup selaras sehingga dapat membantu kita menyelesaikan semua masalah penyelarasan lainnya.
Pada tahun lalu, OpenAI telah menerbitkan posting blog yang mengklarifikasi garis penelitian mereka tentang penyelarasan:
Superalignment tim baru OpenAI
Tim tersebut akan menjadi tim peneliti dan insinyur pembelajaran mesin terbaik, dengan tujuan memecahkan tantangan teknis inti dari penyelarasan superintelligence dalam waktu empat tahun, mulai dari mengembangkan metode baru hingga meningkatkan penerapan. Kepala Ilmuwan OpenAI Ilya Sutskever telah menjadikan masalah penyelarasan superintelligence sebagai fokus penelitian inti. Penyelarasan superintelijen pada dasarnya adalah masalah pembelajaran mesin, dan OpenAI merekrut pakar pembelajaran mesin yang sangat baik. Referensi: