“Ada orang yang ingin AI diatur secara ketat pada umumnya karena mereka takut dengan konsekuensi AI. Karena mereka mengatakan jika ada yang bisa menguasai AI, jika mereka bisa melakukan apapun yang mereka inginkan dengan AI, maka situasinya bisa jadi. sangat berbahaya, jadi perlu ada regulasi AI yang kuat. Saya sangat tidak setuju dengan itu.”
Butuh waktu lama bagi manusia untuk menetapkan etika dan mekanisme tata kelola saat ini. Jika kecerdasan buatan dibiarkan mengembangkan kesadaran dan kecerdasan seperti manusia, bagaimana manusia dapat memenuhi persyaratan etika dan tata kelola? Bagaimana mekanisme campur tangan manusia dalam kecerdasan buatan?
Pada 6 Juli, Konferensi Kecerdasan Buatan Dunia 2023 dibuka di Shanghai. Yann LeCun, pemenang Turing Award 2018 dan kepala ilmuwan kecerdasan buatan dari tim Meta AI Basic Artificial Intelligence Research Institute, mengatakan pada upacara pembukaan bahwa dia sama sekali tidak setuju bahwa "karena siapa pun dapat menggunakan kecerdasan buatan untuk melakukan apa saja, situasinya mungkin sangat berbahaya." , jadi kecerdasan buatan perlu diatur secara ketat." Dalam jangka panjang, satu-satunya cara untuk membuat platform AI aman, bagus, dan bermanfaat adalah dengan membuka sumbernya.
Yang Likun berbicara tentang bagaimana kecerdasan buatan menjadi cerdas dan dapat dikendalikan. "Jika Anda berpikir bahwa cara untuk mencapai kecerdasan buatan tingkat manusia adalah dengan melakukan LLM (Large Language Model) autoregresif yang lebih besar dan kemudian menggunakan pengujian data multi-model, maka Anda mungkin berpikir bahwa sistem kecerdasan buatan ini tidak aman. Tapi di sebenarnya Saya tidak berpikir sistem ini bisa sangat cerdas. Saya pikir cara mereka menjadi cerdas juga merupakan cara untuk membuat mereka dapat dikontrol, yaitu konsep kecerdasan buatan yang digerakkan oleh tujuan. Pada dasarnya, ini untuk memberi mereka tujuan yang harus dipenuhi.” Yang Likun berkata, Beberapa dari tujuan ini adalah tujuan yang ditentukan oleh tugas, seperti apakah sistem menjawab pertanyaan? Apakah sistem menyalakan mobil Anda? Apakah sistem menghapus tabel? Tujuan lain bertindak sebagai pagar pengaman, seperti tidak menyakiti siapa pun.
Yang Likun percaya bahwa sistem kecerdasan buatan ini tidak akan menipu atau menguasai manusia melalui penyusupan sedikit demi sedikit. Manusia dapat menetapkan tujuan yang memaksa AI untuk jujur, seperti memaksa AI mengalah pada manusia, berhati-hati dalam membuat mereka penasaran, dan memberi mereka akses ke sumber daya yang seharusnya tidak mereka miliki. "Jadi menurut saya sistem ini akan sepenuhnya dapat dikontrol dan dimanipulasi. Sistem dapat dirancang agar aman, tetapi itu tidak mudah. Merancang target ini, membuat sistem aman, akan menjadi tantangan teknik yang berat."
Namun Yang Likun mengatakan bahwa manusia tidak harus mendesainnya dengan baik dari awal, tetapi bisa dimulai dengan membangun sistem secerdas tikus.Tujuan manusia adalah menjadikannya tikus yang baik. "Kami akan menempatkan mereka di kotak pasir atau lingkungan simulasi dan kami ingin memastikan mereka aman, yang merupakan masalah penting karena ada beberapa orang yang secara umum ingin AI diatur secara ketat karena mereka takut konsekuensi dari AI. .Karena mereka mengatakan jika seseorang dapat menguasai AI, jika mereka dapat melakukan apapun yang mereka inginkan dengan AI, maka situasinya bisa sangat berbahaya, jadi perlu ada regulasi AI yang ketat. Saya tidak setuju dengan itu sama sekali.”
Sebaliknya, Yang Likun percaya bahwa dalam jangka panjang, satu-satunya cara untuk membuat platform kecerdasan buatan aman, baik, dan praktis adalah dengan open source. Ke depan, setiap orang akan berinteraksi dengan dunia digital melalui asisten kecerdasan buatan, dan semua informasi manusia harus melewati asisten kecerdasan buatan ini.Jika teknologi dikendalikan oleh beberapa perusahaan, ini bukan hal yang baik. "Sistem AI masa depan akan menjadi harta karun dari semua pengetahuan manusia, dan cara mereka dilatih perlu didasarkan pada banyak sumber. Jadi kita akan melihat lebih banyak LLM open source dan lebih banyak sistem AI open source di masa depan."
Lihat Asli
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Pemenang Penghargaan Turing Yang Likun: Satu-satunya cara untuk membuat platform AI aman, baik, dan praktis adalah open source
Sumber: Makalah
Reporter Zhang Jing
“Ada orang yang ingin AI diatur secara ketat pada umumnya karena mereka takut dengan konsekuensi AI. Karena mereka mengatakan jika ada yang bisa menguasai AI, jika mereka bisa melakukan apapun yang mereka inginkan dengan AI, maka situasinya bisa jadi. sangat berbahaya, jadi perlu ada regulasi AI yang kuat. Saya sangat tidak setuju dengan itu.”
Butuh waktu lama bagi manusia untuk menetapkan etika dan mekanisme tata kelola saat ini. Jika kecerdasan buatan dibiarkan mengembangkan kesadaran dan kecerdasan seperti manusia, bagaimana manusia dapat memenuhi persyaratan etika dan tata kelola? Bagaimana mekanisme campur tangan manusia dalam kecerdasan buatan?
Pada 6 Juli, Konferensi Kecerdasan Buatan Dunia 2023 dibuka di Shanghai. Yann LeCun, pemenang Turing Award 2018 dan kepala ilmuwan kecerdasan buatan dari tim Meta AI Basic Artificial Intelligence Research Institute, mengatakan pada upacara pembukaan bahwa dia sama sekali tidak setuju bahwa "karena siapa pun dapat menggunakan kecerdasan buatan untuk melakukan apa saja, situasinya mungkin sangat berbahaya." , jadi kecerdasan buatan perlu diatur secara ketat." Dalam jangka panjang, satu-satunya cara untuk membuat platform AI aman, bagus, dan bermanfaat adalah dengan membuka sumbernya.
Yang Likun berbicara tentang bagaimana kecerdasan buatan menjadi cerdas dan dapat dikendalikan. "Jika Anda berpikir bahwa cara untuk mencapai kecerdasan buatan tingkat manusia adalah dengan melakukan LLM (Large Language Model) autoregresif yang lebih besar dan kemudian menggunakan pengujian data multi-model, maka Anda mungkin berpikir bahwa sistem kecerdasan buatan ini tidak aman. Tapi di sebenarnya Saya tidak berpikir sistem ini bisa sangat cerdas. Saya pikir cara mereka menjadi cerdas juga merupakan cara untuk membuat mereka dapat dikontrol, yaitu konsep kecerdasan buatan yang digerakkan oleh tujuan. Pada dasarnya, ini untuk memberi mereka tujuan yang harus dipenuhi.” Yang Likun berkata, Beberapa dari tujuan ini adalah tujuan yang ditentukan oleh tugas, seperti apakah sistem menjawab pertanyaan? Apakah sistem menyalakan mobil Anda? Apakah sistem menghapus tabel? Tujuan lain bertindak sebagai pagar pengaman, seperti tidak menyakiti siapa pun.
Yang Likun percaya bahwa sistem kecerdasan buatan ini tidak akan menipu atau menguasai manusia melalui penyusupan sedikit demi sedikit. Manusia dapat menetapkan tujuan yang memaksa AI untuk jujur, seperti memaksa AI mengalah pada manusia, berhati-hati dalam membuat mereka penasaran, dan memberi mereka akses ke sumber daya yang seharusnya tidak mereka miliki. "Jadi menurut saya sistem ini akan sepenuhnya dapat dikontrol dan dimanipulasi. Sistem dapat dirancang agar aman, tetapi itu tidak mudah. Merancang target ini, membuat sistem aman, akan menjadi tantangan teknik yang berat."
Namun Yang Likun mengatakan bahwa manusia tidak harus mendesainnya dengan baik dari awal, tetapi bisa dimulai dengan membangun sistem secerdas tikus.Tujuan manusia adalah menjadikannya tikus yang baik. "Kami akan menempatkan mereka di kotak pasir atau lingkungan simulasi dan kami ingin memastikan mereka aman, yang merupakan masalah penting karena ada beberapa orang yang secara umum ingin AI diatur secara ketat karena mereka takut konsekuensi dari AI. .Karena mereka mengatakan jika seseorang dapat menguasai AI, jika mereka dapat melakukan apapun yang mereka inginkan dengan AI, maka situasinya bisa sangat berbahaya, jadi perlu ada regulasi AI yang ketat. Saya tidak setuju dengan itu sama sekali.”
Sebaliknya, Yang Likun percaya bahwa dalam jangka panjang, satu-satunya cara untuk membuat platform kecerdasan buatan aman, baik, dan praktis adalah dengan open source. Ke depan, setiap orang akan berinteraksi dengan dunia digital melalui asisten kecerdasan buatan, dan semua informasi manusia harus melewati asisten kecerdasan buatan ini.Jika teknologi dikendalikan oleh beberapa perusahaan, ini bukan hal yang baik. "Sistem AI masa depan akan menjadi harta karun dari semua pengetahuan manusia, dan cara mereka dilatih perlu didasarkan pada banyak sumber. Jadi kita akan melihat lebih banyak LLM open source dan lebih banyak sistem AI open source di masa depan."