Dialog dengan Pemenang Penghargaan Turing Hippakis: Ancaman terbesar yang dibawa oleh AI adalah mengubah manusia menjadi "budak dari budak"

Sumber: Teknologi Tencent

Sejak awal tahun 2023, ChatGPT telah menjerumuskan dunia ke dalam kegilaan AI. Dengan debut GPT4, kemampuannya yang kuat membuat orang merasa bahwa hanya dalam beberapa tahun, AI akan menjadi keberadaan yang mahakuasa.

Tapi di manakah batas atas AI berdasarkan paradigma Transformer model bahasa besar? Bisakah itu benar-benar menggantikan kita sepenuhnya? Ada banyak jawaban untuk pertanyaan-pertanyaan ini. Beberapa orang berpikir bahwa model bahasa besar akan membawa era baru, yang sangat mirip dengan kecerdasan buatan yang dapat menyelesaikan semua pekerjaan manusia; tetapi beberapa orang berpikir bahwa itu hanyalah burung beo acak, yang sama sekali tidak dapat memahami dunia. Saat ini, apa pun sudut pandangnya, tidak ada interpretasi yang memadai dan sistem yang terbentuk dengan baik.

Untuk memungkinkan orang melihat masalah ini lebih lengkap, Joseph Hifakis, seorang akademisi asing dari Chinese Academy of Sciences, menulis "Memahami dan Mengubah Dunia", menguraikan pemahamannya selama puluhan tahun tentang kecerdasan buatan yang mengarah ke AGI dari perspektif prinsip-prinsip kognitif berpikir tentang jalur potensial. Joseph Schiffakis telah memenangkan Penghargaan Turing sepuluh tahun lebih awal dari Hinton et al. Kali ini, dia menguraikan dengan sangat jelas dari perspektif prinsip kognitif "kemampuan dan ketidakmampuan kecerdasan buatan" dan "jalan menuju AGI". ” pemikiran selama puluhan tahun.

丨Fokus

1. Manusia dan kecerdasan buatan saling melengkapi dan bukan saling menggantikan. Manusia memiliki pengetahuan akal sehat dan kemampuan abstrak untuk membentuk model, yang tidak dapat dicapai oleh paradigma kecerdasan buatan saat ini, sehingga tidak dapat membentuk inovasi yang berprinsip. Kecerdasan buatan dapat memprediksi hal-hal kompleks yang mungkin memiliki banyak variabel tanpa menguasai prinsipnya. Inilah yang tidak dapat dicapai oleh manusia karena keterbatasan kemampuan kognitif, yang disebut "AI oracle" oleh Hippakis, dan mungkin akan membawa "ilmu baru". 2. Ancaman terbesar yang akan dibawa AI adalah bahwa ketergantungan manusia padanya dapat menyebabkan kita melepaskan penilaian kita sendiri tanpa batas waktu, kehilangan kekuatan pengambilan keputusan, dan akhirnya menjadi "budak dari budak". Untuk menghindarinya, manusia harus mampu menguasai semua proses pengembangan dan aplikasi pengetahuan, memastikan bahwa mesin ini tidak akan membuat keputusan penting bagi kita sendiri. 3. Menurut situasi kemampuan yang saling melengkapi, bagi manusia, skenario masa depan terbaik adalah kerja sama yang harmonis antara mesin dan manusia, dan kemakmuran baru dapat dicapai melalui kerja sama ini. Dalam proses ini, masyarakat harus mengembangkan dan menerapkan teknologi dengan tujuan meningkatkan kehidupan manusia.

01 AI saat ini jauh dari AGI

**Teknologi Tencent: Apa arti kemunculan ChatGPT bagi kecerdasan buatan? Apakah itu paradigma baru, atau lebih merupakan penerapan khusus dari paradigma yang sudah ada? **

Joseph Schiffakis: Menurut saya kemunculan ChatGPT dan model bahasa lainnya merupakan langkah penting dalam pengembangan kecerdasan buatan. **Faktanya, kami telah mengalami perubahan paradigma sehingga hampir semua kueri bahasa alami dapat dijawab, seringkali dengan jawaban yang sangat relevan untuk pertanyaan tersebut. Model bahasa besar memecahkan masalah lama dalam pemrosesan bahasa alami. ** Ini adalah area di mana para peneliti tidak berhasil selama beberapa dekade, secara tradisional didekati oleh aliran pemikiran simbolis, yang memisahkan sintaksis dan semantik bahasa untuk menyusun aturan bagi kecerdasan buatan.

Sekarang, model bahasa besar mengambil pendekatan yang berbeda, dan mereka menganggap arti sebuah kata harus ditentukan oleh semua konteks di mana kata itu digunakan. Mereka menggunakan pembelajaran mesin untuk melakukan perhitungan distribusi probabilitas. Untuk kata-kata, distribusi probabilitas ini digunakan untuk memprediksi kata berikutnya yang paling mungkin terjadi dalam sebuah kalimat. Ini adalah metode yang sangat sederhana namun efektif. Agak naif, tapi ternyata bagus untuk meringkas teks. Tentu saja, sifat solusi yang digunakannya juga menentukan keterbatasannya. Model bahasa sangat bagus untuk membuat ringkasan beberapa teks, atau bahkan menulis puisi. Jika Anda membuatnya menjadi rangkuman sejarah Tiongkok abad ke-20, itu bisa bekerja dengan sangat baik. Namun di sisi lain, jika Anda mengajukan beberapa pertanyaan yang sangat tepat atau menyelesaikan beberapa masalah logika yang sangat sederhana, itu bisa salah. Hal ini dapat kita pahami karena jenis pertanyaan ini adalah model yang tidak bergantung pada konteks, oleh karena itu, kita tidak dapat memeriksa koherensi teks dan jawaban yang diberikannya.

**Teknologi Tencent: Sekarang ada banyak teknologi baru, seperti pohon logika (LOT), yang dapat membantu mesin memandu dirinya sendiri untuk memahami proses logis. Sekarang, model bahasa besar melatih diri mereka sendiri untuk mengembangkan proses logis yang lebih spesifik atau kompleks. Ada banyak lapisan dalam jaringan saraf, dan semakin tinggi levelnya, semakin abstrak pemahamannya. Mungkinkah jika ada sesuatu seperti model atau pemahaman struktural tentang dunia di neuron tingkat yang lebih tinggi ini? **

Joseph Schiffakis: Dalam buku saya, saya menjelaskan bahwa manusia dan mesin mengembangkan dan menerapkan berbagai jenis pengetahuan. Pengetahuan ini memungkinkan manusia dan mesin untuk memecahkan berbagai jenis masalah, tergantung pada seberapa valid dan umumnya. ** Perbedaan penting adalah antara "pengetahuan ilmiah dan teknis" dan "pengetahuan pengalaman yang diperoleh melalui pembelajaran". Misalnya, ketika saya berbicara, ketika saya berjalan, otak saya sebenarnya memecahkan masalah yang sangat sulit, tetapi saya tidak mengerti cara kerjanya, dan Jaringan saraf menghasilkan pengetahuan empiris implisit yang sama, memungkinkan kita untuk Menyelesaikan masalah tanpa pemahaman bagaimana mereka bekerja. **

Inilah yang kami sebut pengetahuan berbasis data atau data-driven. Sebaliknya, sangat penting bahwa pengetahuan ilmiah dan teknis terbaik didasarkan pada penggunaan model matematika yang memberikan pemahaman mendalam tentang fenomena fisik objek dan komponen. Misalnya, ketika Anda membangun sebuah jembatan, Anda dapat yakin (dengan prinsipnya) bahwa jembatan tersebut tidak akan runtuh selama berabad-abad yang akan datang. Namun, dengan jaringan saraf, kami dapat membuat prediksi tertentu, tetapi kami tidak memahami cara kerjanya, dan tidak mungkin menyusun teori yang menjelaskan perilaku jaringan saraf. **Properti ini membuat model bahasa besar sangat terbatas dalam aplikasi kritis tanpa keterlibatan manusia.

Pertanyaannya adalah apakah sistem GPT-LM ini dapat mencapai kecerdasan tingkat manusia. Ini masalahnya. Saya pikir ada banyak kebingungan tentang apa itu kecerdasan, dan bagaimana cara mencapainya. Karena jika kita tidak memiliki konsep kecerdasan yang jelas, kita tidak dapat mengembangkan teori tentang cara kerjanya, dan kita tidak dapat mendefinisikan kecerdasan dengan jelas.

Dan hari ini ada banyak kebingungan. Baru-baru ini, saya menulis makalah yang membahas masalah ini. Nyatanya, jika Anda membuka kamus, seperti Kamus Oxford, Anda akan melihat bahwa **kecerdasan didefinisikan sebagai kemampuan untuk belajar, memahami dan berpikir tentang dunia, dan untuk mencapai tujuan dan bertindak dengan tujuan. **

**Mesin dapat melakukan hal-hal yang mengesankan. Mereka bisa melampaui manusia dalam game. Mereka mampu melakukan berbagai tugas. Prestasi besar juga telah dibuat baru-baru ini. Mereka dapat melakukan tugas-tugas yang berkaitan dengan kemampuan sensorik, seperti pengenalan visual. Namun, mesin tidak dapat melampaui manusia dalam hal kesadaran situasional, adaptasi terhadap perubahan lingkungan, dan pemikiran kreatif. ** Sederhananya, GPT sangat pandai menerjemahkan bahasa alami, tetapi tidak bisa mengendarai mobil. Anda tidak dapat menggunakan GPT untuk mengendarai mobil. Masih ada celah besar di antara mereka. Saya pikir jalan kita masih panjang. **Saat ini kami hanya memiliki kecerdasan buatan yang lemah, kami hanya memiliki beberapa komponen kecerdasan umum. Kami membutuhkan sesuatu yang lebih. **

Saya pikir langkah besar menuju kecerdasan umum adalah sistem otonom. Konsepnya sekarang jelas, sistem otonom muncul dari kebutuhan untuk mengotomatisasi lebih lanjut organisasi yang ada, dengan menggantikan manusia dengan agen otonom, yang juga dipertimbangkan oleh Internet of Things. Faktanya, kita sedang berbicara tentang mobil self-driving, smart grid, smart factory, smart farm, jaringan telekomunikasi yang lebih cerdas. **Sistem ini sangat berbeda dari Narrow AI karena sistem ini terdiri dari agen yang dibatasi dalam waktu nyata dan harus menangani banyak tujuan berbeda. Sasaran ini melibatkan perubahan dalam tindakan dan aktivitas di banyak domain berbeda, dan GPT tidak pandai dalam hal ini, ia pandai menangani bahasa alami dan transformasi dokumen. **Selain itu, kami membutuhkan sistem yang dapat bekerja secara harmonis dengan agen manusia. Semua ini tidak mungkin dilakukan dengan model bahasa lain. Jadi kita masih cukup jauh dari kecerdasan umum buatan. Tentu saja, semuanya bermuara pada apa sebenarnya yang kita anggap sebagai kecerdasan, karena jika kecerdasan didefinisikan hanya sebagai percakapan dan permainan, maka kita telah mencapai kecerdasan umum buatan, tetapi saya tidak setuju dengan definisi itu.

**Teknologi Tencent: Tes kecerdasan standar di masa lalu adalah tes Turing. Jelas GPT telah lulus uji Turing dalam hal dialog, tetapi itu bukanlah kecerdasan otonom. Dalam hal ini, bagaimana kita bisa menilai kecerdasan AI? **

Joseph Schiffakis: Saya baru-baru ini menulis sebuah makalah dengan alasan bahwa tes Turing tidak cukup. **Saya mengusulkan tes lain, yang saya sebut tes substitusi. Faktanya, idenya adalah jika saya dapat mengganti mesin dengan agen lain yang melakukan tugas, saya akan mengatakan bahwa agen ini sama pintarnya dengan agen yang melakukan tugas tersebut. **Jika saya dapat mengganti manusia dengan mesin untuk mengemudikan mobil, mengajar manusia, atau menjadi ahli bedah yang baik, maka saya akan mengatakan bahwa mesin sama pintarnya dengan manusia.

Jadi jika Anda mengambil definisi itu, alih-alih menguji, Anda akan berpikir bahwa kecerdasan manusia sebenarnya adalah kombinasi keterampilan. Jadi, apakah Anda mengerti seberapa jauh kita dari kecerdasan umum? Dalam pengujian alternatif ini, beberapa tindakan mungkin harus dilakukan oleh mesin, seperti robot. Ketika Anda ingin berkebun, Anda membutuhkan robot untuk melakukannya. GPT hanyalah model bahasa, tidak termasuk bagian robot ini.

**Teknologi Tencent: Menurut definisi Anda, kami akan melihat kesenjangan antara kecerdasan buatan dan kecerdasan manusia menghilang hanya ketika komputasi dan sistem dapat secara otomatis mengeksekusi teks dalam jumlah besar dan beradaptasi dengan lingkungan yang berubah. Dan sekarang aplikasi seperti AutoGPT atau Baby AGI dapat membagi tugas menjadi beberapa langkah dan mencoba mencapai tujuan tugas melalui proses yang berbeda. Ini cukup otomatis. Apakah menurut Anda ini semakin dekat dengan AGI dalam prosesnya? **

Joseph Schiffakis: Ada banyak masalah di sini, termasuk masalah rekayasa sistem. **Tidaklah cukup memiliki agen superintelijen, karena Anda juga harus menjamin bahwa perilakunya dapat dijelaskan. ** Ini juga merupakan masalah yang saya bahas secara luas dalam tesis saya, yaitu masalah kecerdasan buatan yang dapat dijelaskan atau kecerdasan buatan yang aman yang dibicarakan semua orang.

Apa yang orang tidak mengerti adalah bahwa ** dengan jaringan saraf, kami tidak dapat memahami perilaku mereka. Jelas Anda tidak dapat menjelaskan mengapa itu menghasilkan keluaran seperti itu, karena Anda tidak dapat memiliki model matematika untuk menggambarkan perilakunya. Tentu saja, kami sepenuhnya memahami bagaimana fungsi matematis dari setiap node jaringan saraf dihitung. **Ini hanya kombinasi masukan linier, ditambah beberapa fungsi non-linier, sehingga kami dapat memahami perilaku setiap node. **Tetapi ketika kami mencoba memahami properti yang muncul dari seluruh jaringan saraf, kami putus asa. **Tapi ini bukan masalah khusus AI, ini masalah umum dalam sains.

Anda tidak dapat menyimpulkan sifat air hanya dari sifat atom oksigen dan hidrogen. Bahkan jika Anda sepenuhnya memahami hal ini, ada masalah skala dan kompleksitas. Inilah titik keputusasaan. **Kita tidak dapat menggunakan logika kombinasi teknologi atau reduksionisme untuk memahami keseluruhan perilaku jaringan saraf melalui perilaku elemen-elemen di dalamnya. Jadi satu-satunya cara kami dapat menerapkannya ke jaringan saraf adalah dengan mengujinya, karena kami tidak dapat memverifikasi perilakunya, dan kami tidak dapat mempertimbangkannya. **Tetapi jika hanya tes yang diterapkan, itu berarti Anda mengambil pendekatan eksperimental murni, bukan pemahaman teoretis. Jadi jenis konten yang sebenarnya dapat Anda uji sangat bervariasi: misalnya, Anda tidak dapat menguji masalah keamanan holistik karena Anda tidak dapat menganalisis perilaku secara keseluruhan. Tetapi Anda dapat melakukan pengujian keamanan secara defensif.

Kami selalu menerapkan pengujian pada perangkat keras dan perangkat lunak. Tetapi untuk menguji, Anda harus memiliki kriteria berapa lama tes itu harus berlangsung. Untuk perangkat keras dan perangkat lunak, kami memiliki model dan standar jangkauan. Tetapi untuk jaringan saraf, kami tidak memiliki standar itu. Saya tidak mengatakan bahwa ini adalah masalah yang sangat sulit untuk dipecahkan, **Untuk jaringan saraf, kami memiliki beberapa kemungkinan alternatif, seperti contoh permusuhan. Tetapi manipulasi ini merusak kekokohan tertentu dalam perilaku mereka. ** Jadi Anda tahu, jika saya mengajukan pertanyaan, Anda akan memberikan jawaban. Jika saya sedikit mengubah pertanyaan Anda, Anda akan memberikan jawaban yang serupa jika Anda seorang manusia. Tapi kita tahu bahwa ketika kita sedikit mengubah masukan ke neuron, responnya bisa sangat berbeda. Jadi ini juga sesuatu yang perlu dipertimbangkan.

02 Munculnya tidak pernah bisa dipahami

**Teknologi Tencent: Apakah menurut Anda kemunculan konsep ini, yaitu transformasi dari kemampuan dasar ke kemampuan yang lebih canggih, tidak dapat dijelaskan? **

Joseph Schiffakis: Ya. Anda mengambil mata pelajaran seperti fisika. Fisika adalah mata pelajaran yang sangat dewasa. Fisikawan mencoba membuat hubungan logis antara teori partikel, teori kuantum, atau relativitas umum, dan menurut saya mereka tidak akan pernah berhasil karena ada masalah skala. Saya pikir masalah serupa ada di sistem apa pun.

**Teknologi Tencent: Jadi menurut Anda, karena fenomena yang tidak dapat dijelaskan ini, kami sebenarnya tidak dapat memprediksi apa yang dapat dilakukan oleh model bahasa besar? **

Joseph Schiffakis: Jelas, kami tidak dapat membuat model untuk memprediksi apa yang dapat dilakukannya. Kami tidak dapat membuat model, maksud saya model matematika. Di sini, komunitas AI menggunakan kata model untuk mengartikan jaringan saraf, yang menjadi sumber kebingungan.

Saya pikir kita harus mengambil pendekatan holistik lain. Karena kita tidak dapat membentuk model yang relevan, **mungkin kita dapat memiliki cara untuk membentuk teori berdasarkan pengujian dan pengamatan empiris. Itu seharusnya menjadi teori pengujian tentang sifat statistik. **Namun menurut pemahaman saya, kami memiliki beberapa kebutuhan yang secara teknis sulit dipenuhi di jaringan saraf saat ini.

**Teknologi Tencent: Ya. Jadi untuk memahami kemampuan yang muncul dari mereka, kita perlu membangun disiplin seperti psikologi untuk memahaminya? **

Joseph Schiffakis: Tepat sekali. Itu pertanyaan yang bagus. Tetapi akan sedikit bermasalah untuk menggunakan GPT itu sendiri untuk membangun pemahaman seperti itu. Karena sebenarnya ada orang yang sekarang mengatakan bahwa GPT berhasil lulus ujian menjadi pengacara atau dokter, lalu mengapa GPT seperti itu tidak bisa menjadi dokter atau pengacara?

Saya pikir ini adalah argumen yang sangat menarik, tetapi melibatkan masalah kekokohan yang saya sebutkan sebelumnya. Juga lulus ujian, kemampuan antara manusia dan jaringan saraf sangat berbeda.

Soal kekokohan adalah jika Anda meminta orang waras untuk menjawab pertanyaan tersebut, jika Anda mengubah pertanyaannya sedikit, jawabannya akan sama. GPT tidak menjamin keseragaman jawaban. Masalah lainnya adalah manusia dapat mengandalkan logika untuk mengontrol apa yang mereka lakukan dan apa yang harus mereka katakan. Tetapi karena jaringan saraf, biasanya seperti ChatGPT, tidak memiliki kendali semantik atas apa yang dilakukannya, ia dapat melakukan hal-hal yang jelas salah. Tidak ada orang yang berakal sehat yang akan membuat kesalahan ini. Jadi kesimpulan dari keseluruhan argumen adalah bahwa jika GPT dapat secara logis mengontrol konsistensi dari apa yang dikatakannya, dan itu juga kuat, maka mengizinkan GPT menjadi pengacara akan sangat bagus. Tapi kami sebenarnya jauh dari tingkat kecerdasan buatan ini. **

**Teknologi Tencent: Mengapa ChatGPT sangat sulit dikendalikan? Apakah karena itu adalah fitur komputasi terdistribusi dari komputer? **

Joseph Schiffakis: GPT adalah jenis komputer yang berbeda. Ini adalah komputer alami. Ini bukan komputer yang menjalankan program saat Anda menulisnya, Anda memiliki kendali mutlak atas apa yang dapat dan tidak dapat dilakukan oleh sistem. Saat Anda melatih jaringan saraf, Anda kehilangan kendali itu. Sistem ini bisa kreatif dalam arti tertentu karena memiliki derajat kebebasan.

Sekarang, jika kita dapat mengontrol derajat kebebasan ini dan memahami bagaimana perilakunya, kita akan baik-baik saja. **Masalahnya adalah kita tidak dapat mengontrol tingkat kebebasan jaringan saraf yang sangat besar ini, dan hampir tidak mungkin untuk mengontrolnya secara teoritis. **Anda dapat membuat perkiraan kasar tentang perilakunya, tetapi Anda tidak akan mendapatkan hasil yang tepat. Jika Anda memiliki program komputer tradisional, meskipun programnya panjang, Anda masih dapat mengekstraksi model semantik dan memahami apa yang terjadi di dalamnya. Ini adalah perbedaan yang sangat penting.

**Teknologi Tencent: Bisakah Anda berbicara tentang konsep mesin alami secara mendetail? **

Joseph Schiffakis: **Mesin alami adalah kecerdasan yang memanfaatkan fenomena alam. Misalnya, jaringan saraf adalah mesin alami yang mirip dengan komputer kuantum atau komputer lain. Dulu, ketika saya masih mahasiswa, kami juga memiliki banyak komputer. Dalam membangun mesin alam ini, kita akan menggunakan beberapa prinsip dalam fenomena fisika, karena setiap fenomena fisika mengandung beberapa kandungan informasi. Misalnya, ketika saya melempar batu, batu itu seperti komputer yang menghitung parabola, yang membentuk algoritme. Anda dapat mengamati fenomena apa pun, dan Anda dapat menggunakan fenomena alam untuk membuat komputer. Tapi komputer ini tidak diprogram sebelumnya. Mereka mengeksploitasi hukum tertentu dalam fisika atau matematika. Ini adalah kasus dengan jaringan saraf. **

**Teknologi Tencent: Mari bicarakan beberapa konten lain di buku Anda. Anda telah membahas beberapa masalah penelitian dan inovasi. Kita semua tahu bahwa meskipun banyak ide jaringan saraf berasal dari Eropa atau Jepang, perusahaan yang menggunakannya dan menghasilkan produk, seperti OpenAI dan Deepmind, semuanya ada di Amerika Serikat. Menurut Anda apa alasannya? **

Joseph Schiffakis: Ada perbedaan antara perhatian dan inovasi. **Karena inovasi adalah kemampuan menerapkan penelitian untuk mengembangkan produk atau layanan baru untuk mencapai terobosan teknologi. **

Saya pikir itu keuntungan yang sangat kuat dari AS, mereka telah melakukan inovasi yang hebat. Ini dimulai di California, di mana Anda memiliki apa yang saya sebut sebagai ekosistem inovasi. **Ekosistem inovasi menyatukan institusi akademik yang sangat baik, perusahaan teknologi besar, perusahaan baru, serta modal ventura dan modal. Konsistensi ini memungkinkan terjemahan hasil dan aplikasi baru yang efektif dan efisien. Negara-negara lain juga mengadopsi model ini. Gagasan ekosistem inovasi adalah hal yang umum, dan negara-negara kecil seperti Israel dan Swiss telah meraih banyak kesuksesan. **Jadi kesimpulannya, menurut saya untuk mencapai inovasi, Anda harus menghubungkan universitas yang hebat dengan industri yang hebat. Tidak hanya bergantung pada sumber daya material, tetapi juga pada faktor budaya, pendidikan dan institusi harus mengakui kreativitas dan kewirausahaan individu.

03 Neural Network Oracle: Ilmu Baru yang Tak Bisa Dipahami

**Teknologi Tencent: Anda baru saja menyebutkan bahwa jaringan saraf adalah proses mensimulasikan otak biologis dan dunia fisik. Bagaimana simulasi ini bisa terjadi ketika pemahaman kita tentang otak biologis masih sangat terbatas? Seberapa jauh jaringan saraf ini dari otak biologis kita? **

Joseph Schiffakis: Itu pertanyaan yang bagus. Saya baru saja mengatakan bahwa jaringan saraf adalah sejenis komputer alami, yang mengadopsi paradigma berbeda dari komputer tradisional. Secara khusus, jaringan saraf terinspirasi oleh cara kerja saraf di otak kita. Ini meniru beberapa proses alami di mana saraf bekerja. **Namun, jaringan saraf hanya meniru prinsip komputasi otak, yang lebih kompleks karena memiliki struktur dan fungsi berbeda di wilayah berbeda. Dan fungsi yang berbeda ini dibangun di atas arsitektur yang lebih kompleks, yang masih kami coba pahami. **Dan jaringan saraf otak adalah mode komputasi paralel. Jaringan saraf juga sangat berbeda dari itu dalam hal ini.

Juga harus dipahami bahwa **jika kita hanya mempelajari otak pada tingkat biologis, saya rasa kita tidak dapat sepenuhnya menangkap semua niat manusia. **Sebagai contoh, gunakan laptop Anda untuk menjalankan perangkat lunak. Kemudian saya akan memberi Anda instrumen elektronik untuk mempelajari cara kerja perangkat keras ini melalui pengukuran. Jika Anda telah menyusun programnya, semua pengetahuan hadir dalam bentuk sinyal listrik di tingkat perangkat keras. Tetapi hanya dengan menganalisis sinyal listrik ini, tidak mungkin menemukan kode sumber dari perangkat lunak yang bermasalah, karena Anda memiliki masalah skala ini. **Saya pikir ini adalah kunci untuk memahami kecerdasan manusia, kita harus mempelajari otak, tetapi tidak hanya otak. Oleh karena itu, fenomena komputasi otak merupakan kombinasi dari sinyal listrik, fenomena fisikokimia, dan fenomena psikologis. **

**Dan masalahnya hari ini adalah bagaimana menghubungkan fenomena mental dengan komputasi otak. Ini adalah tantangan besar menurut saya. Jika kita tidak berhasil dalam hal ini, saya rasa kita tidak akan pernah bisa memahami kecerdasan manusia. **

**Teknologi Tencent: Anda menyebutkan bahwa kecerdasan buatan membuka jalan baru bagi perkembangan pengetahuan manusia, menembus keterbatasan otak manusia dalam menghadapi masalah yang kompleks. Pada titik apa menurut Anda AI dapat sepenuhnya melampaui manusia? **

Joseph Schiffakis: Ya. Dalam buku saya, saya menjelaskan bahwa **mesin dapat membantu kita mengatasi beberapa keterbatasan pemikiran kita. ** Ini telah dikonfirmasi oleh psikolog. Keterbatasan di sini termasuk pikiran manusia yang dibatasi oleh kompleksitas kognitif. **Kita manusia tidak dapat memahami hubungan antara lebih dari lima parameter independen. Inilah mengapa teori yang kami kembangkan sangat sederhana. Kami tidak memiliki teori dengan 1000 parameter independen yang terbentuk. **

**Saya pikir sekarang mungkin untuk mengembangkan teori dengan ribuan parameter. Saya pikir hari ini kita dapat membangun apa yang saya sebut "oracle jaringan saraf" dengan bantuan superkomputer dan kecerdasan buatan. Oracle jaringan saraf adalah jaringan saraf yang dilatih untuk memahami dan menganalisis fenomena kompleks atau sistem kompleks. Fenomena kompleks ini dapat bergantung pada ribuan parameter. ** Mengambil fenomena fisik sebagai contoh, ada beberapa proyek menarik sekarang, seperti melatih jaringan saraf untuk memprediksi gempa bumi. Peserta dalam proyek ini tidak perlu memiliki banyak pengetahuan ilmiah, hanya perlu memberi makan model dengan database. Mereka memiliki data gempa bumi dari seluruh dunia di tangan mereka. Mereka menerbitkan makalah yang menjelaskan bahwa dengan prosedur pelatihan yang sangat sederhana, mereka dapat membuat prediksi yang lebih baik daripada menggunakan teori kompleks yang ada. **

**Jadi menurut saya ini adalah arah yang sangat penting di masa depan. Kami akan memiliki lebih banyak "nubuat" yang membantu kami memprediksi perkembangan fenomena kompleks atau sistem kompleks. ** Misalnya, kami akan memiliki sistem kembar digital cerdas yang akan membantu kami membuat prediksi, tetapi tidak akan mengerti (logika prediksi). Jadi ** kita akan memiliki jenis ilmu baru. **Menurut saya menarik untuk bisa menggunakan ilmu semacam ini, tapi kita juga perlu mengontrol kualitas ilmu yang dihasilkan. **Anda harus memikirkan hal ini, karena manusia tidak lagi memiliki satu-satunya hak istimewa untuk menghasilkan pengetahuan. Sekarang manusia harus bersaing dengan mesin. **

Jadi pertanyaan penting bagi masyarakat kita adalah apakah kita dapat bekerja sama dengan mesin dan menguasai perkembangan dan evolusi pengetahuan yang dikembangkan oleh mesin. **Atau kita akan mengembangkan situasi di mana sains yang digerakkan oleh manusia dan sains yang digerakkan oleh mesin hidup berdampingan. **Akan menjadi skenario yang menarik jika kita memiliki sains paralel yang ditenagai oleh mesin-mesin ini.

**Tencent Technology: Anda menyebutkan bahwa pikiran manusia juga merupakan sistem komputasi. Kedua sistem sangat mirip dalam komponennya dibandingkan dengan mesin otomatis. Jadi apa kemampuan unik manusia dibandingkan dengan kecerdasan buatan yang kuat? **

Joseph Schiffakis: Itu pertanyaan yang sangat bagus. Karena saya sedang mengerjakan sistem otonom, saya mencoba merancang mobil tanpa pengemudi. Untuk mobil tanpa pengemudi, Anda memiliki fungsi seperti persepsi, mengubah informasi sensorik menjadi konsep. Anda akan memiliki fungsi reflektif yang memodelkan dunia luar dan membuat keputusan. Membuat keputusan berarti mengelola banyak tujuan yang berbeda. Untuk mencapai tujuan ini, Anda memerlukan perencanaan dan banyak lagi. Memang ada banyak kesamaan antara sistem otonom dan pikiran manusia.

Namun, ada beberapa perbedaan penting antara manusia dan sistem otonom. ** Satu perbedaan yang sangat penting adalah bahwa manusia memiliki apa yang saya sebut pengetahuan akal sehat. Pengetahuan akal sehat adalah jaringan pengetahuan yang kita kembangkan sejak lahir. Kami memiliki mekanisme, kami tidak tahu cara kerjanya. Namun melalui pengalaman setiap hari, Anda memperkaya jaringan ini dan memperoleh pengetahuan akal sehat untuk memahami dunia. ** Bagi manusia, ketika dia berpikir, dia menghubungkan informasi sensorik dengan model konseptual akal sehat ini. Hasil analisis kemudian diumpankan kembali dari model konseptual ke informasi sensorik. Ini sangat berbeda dari jaringan saraf. Biarkan saya memberi Anda sebuah contoh: Saya tunjukkan tanda berhenti yang sebagian tertutup salju, dan Anda langsung mengatakan itu adalah tanda berhenti tanpa keraguan.

Sekarang, jika Anda ingin melatih jaringan saraf untuk mengenali tanda berhenti yang sebagian tertutup salju, ini berarti karena jaringan saraf tidak dapat menghubungkan informasi sensorik dengan model konseptual, Anda harus melatih jaringan saraf untuk memahami semua cuaca. kondisi Kondisi. **Inilah mengapa anak-anak lebih mudah belajar daripada jaringan saraf. Jika Anda menunjukkan mobil kepada seorang anak sekali, dia akan mengatakan itu mobil di lain waktu. **Karena mereka membentuk model abstrak dari sebuah mobil melalui observasi. Mereka dapat menghubungkan informasi sensorik dengan model konseptual ini. **Ini adalah salah satu tantangan terbesar yang dihadapi kecerdasan buatan saat ini. ** Ini juga merupakan masalah penting untuk mobil tanpa pengemudi. Mobil self-driving harus dapat mengumpulkan informasi sensorik dan menghubungkan informasi tersebut dengan peta dan lainnya. Membuat keputusan hanya berdasarkan informasi sensorik bisa berbahaya. Kami telah memiliki contoh ini sebelumnya.

Tidak jelas mengapa manusia mampu memahami situasi kompleks tanpa banyak analisis dan komputasi. Kita bisa melakukan ini karena kita bisa menghubungkan informasi sensorik dengan informasi konseptual tertentu, informasi abstrak. Jadi di mana kita tidak bisa salah sama sekali, jaringan saraf bisa banyak salah. Saya ingat suatu kali ketika Tesla saya berhenti tiba-tiba karena mengira kombinasi bulan dan pepohonan adalah lampu lalu lintas berwarna kuning. Ini sama sekali tidak terjadi pada manusia, karena manusia dapat mengontekstualisasikan informasi untuk membuatnya masuk akal. Saya langsung mengerti bahwa itu adalah bulan, karena lampu lalu lintas tidak bisa melayang di langit.

Jadi ketika seseorang mengatakan sistem ini dapat bersaing dengan manusia dalam beberapa hal, mungkin bisa. **Tetapi kecerdasan manusia dicirikan oleh kemampuan Anda untuk memahami dunia dan mengajukan pertanyaan dengan tujuan. Kecerdasan buatan masih jauh dari tujuan ini. **

**Teknologi Tencent: Karena Anda telah mempelajari mengemudi otonom, yang sudah mencakup pemahaman tentang lingkungan, kognisi, dan persepsi. Lecun berpendapat bahwa karena kita adalah hewan visual, pemahaman kita tentang dunia sebagian besar didasarkan pada penglihatan. Jika model bahasa besar bisa multimodal dan belajar dari lingkungan, dapatkah mereka memahami dunia itu sendiri? **

Joseph Schiffakis: **Menurut saya, jika AI tidak dapat menghubungkan pengetahuan konkret dengan pengetahuan simbolik, mustahil untuk memahami dunia hanya dengan mengandalkan model bahasa yang besar. AI dapat melakukan ini hanya dengan menggabungkan pengetahuan konkret, yaitu pengetahuan dalam basis data, dengan pengetahuan simbolik. Jika tidak bisa, maka kecerdasan manusia akan mengungguli mesin. Saya cukup yakin akan hal itu. **Saya tahu banyak orang tidak akan setuju dengan saya karena Kecerdasan Komputasi dapat menganalisis dan mengekstrak data melalui jutaan parameter. Manusia tidak melakukan ini dengan baik. Tapi manusia pandai menangani masalah abstrak.

** Kecerdasan manusia bergantung pada kemampuan menggunakan analogi dan metafora. **Bahkan jika kita tidak mengerti bagaimana kreativitas manusia bekerja, saya masih bisa mengatakan itu sangat penting. **Karena dalam kreativitas manusia harus dibedakan antara penemuan dan penemuan. **Mesin dapat menemukan sesuatu dari data yang lebih kompleks dan lebih besar dengan menggunakan analisis data. Tapi penemuan adalah masalah lain. Penemuan berarti saya telah menemukan teori. Saya pikir kita jauh dari memahami bagian kecerdasan manusia ini.

Namun kemampuan menemukan juga bermanfaat, karena dapat membantu manusia menebak pola yang lebih umum. Ini adalah sesuatu yang tidak dapat ditemukan oleh pikiran kita sendiri. Tapi menurut saya mesin tidak akan mampu menciptakan teori ilmiah baru atau menciptakan mesin baru. **Mereka akan memberikan sintesis dari pengetahuan yang mereka miliki. Seperti proses penyulingan, mereka memiliki pengetahuan yang sangat banyak, yang kemudian mereka saring dan sajikan kepada Anda. **Ini luar biasa. Tapi itu tidak cukup. Untuk mencapai lebih banyak kemungkinan masih membutuhkan kemampuan manusia.

Dalam makalah yang saya tulis, saya menjelaskan bahwa sebenarnya ada berbagai jenis kecerdasan. Kecerdasan manusia sangat istimewa karena dasar pengembangan kecerdasan manusia adalah dunia khusus yang kita perjuangkan untuk hidup. **Jika kita lahir di dunia lain, mungkin kita akan mengembangkan kecerdasan lain. Kecerdasan adalah kemampuan untuk menghasilkan pengetahuan dan memecahkan masalah. **Tentu saja, sekarang kita melihat mesin yang dapat memecahkan beberapa masalah yang tidak dapat kita lakukan, mereka sebenarnya memiliki jenis kecerdasan lain. Ini bagus, kami memiliki semacam saling melengkapi. **

04 Perkembangan ilmu pengetahuan dan teknologi harus mengutamakan peningkatan taraf hidup manusia

**Teknologi Tencent: Kami baru saja melakukan beberapa diskusi filosofis, dan sekarang kami akan membahas beberapa masalah tentang dampak moral AI pada masyarakat. Pertanyaan pertama adalah, tidak seperti optimisme bahwa teknologi baru akan menciptakan cukup banyak pekerjaan baru, Anda menyebutkan bahwa kecerdasan buatan akan menyebabkan masalah pengangguran yang serius. Dan apakah masalah tersebut sulit dipecahkan tanpa mengubah sistem sosial ekonomi. Bisakah Anda menjelaskan mengapa Anda mengatakan itu? Karena banyak orang yang khawatir akan hal itu. **

Joseph Schiffakis: Pengembangan AI akan meningkatkan produktivitas. Ada beberapa hukum ekonomi yang sangat sederhana: jika produktivitas meningkat, maka Anda membutuhkan semakin sedikit orang untuk melakukan pekerjaan yang sama. Poin ini sangat jelas.

Sekarang beberapa orang berpikir bahwa AI akan menciptakan beberapa peluang kerja, terutama untuk orang-orang berkualitas tinggi, itu akan menciptakan beberapa peluang kerja baru. **Tetapi jika Anda menimbang pekerjaan yang diciptakan oleh AI terhadap pekerjaan yang hilang karenanya, dampak AI pasti negatif. **

Semua orang sekarang setuju bahwa AI akan menyebabkan pengangguran. Ini jelas. **Namun sepanjang sejarah manusia, teknologi telah mampu meningkatkan produktivitas, yang pada akhirnya meningkatkan kualitas hidup manusia. **Selama berabad-abad, orang bekerja lebih sedikit. Kita harus mempertimbangkan untuk memecahkan masalah ini melalui reformasi ekonomi dan sosial yang tepat. Termasuk reformasi pendidikan, karena harus mendidik masyarakat untuk beradaptasi dengan era baru ini.

**Teknologi Tencent: Dalam revolusi industri, kehidupan orang tidak meningkat pesat pada awalnya. Mereka bekerja di pabrik dan mungkin bekerja 14 jam sehari. Apakah menurut Anda kondisi kehidupan masyarakat akan lebih buruk di masa-masa awal inovasi teknologi? **

Joseph Schiffakis: Tidak, menurut saya Revolusi Industri secara umum meningkatkan kualitas hidup manusia. Inilah inti masalahnya. **Saya pikir masalah masyarakat saat ini adalah mereka tidak menganggap serius tujuan ini, mereka menganggap kemajuan teknologi harus menjadi prioritas. Tapi menurut saya prioritas tertinggi adalah bagaimana meningkatkan kehidupan manusia, yang seharusnya menjadi prioritas pertama. Setidaknya saya seorang kemanusiaan. **

**Teknologi Tencent: Saya juga seorang kemanusiaan dan memahami betapa seriusnya masalah ini. Apakah menurut Anda AI dapat menimbulkan konsekuensi serius selain pengangguran? **

Joseph Schiffakis: Itu mungkin. Tapi masalahnya adalah beberapa orang mengatakan bahwa kecerdasan buatan akan menjadi ancaman bagi manusia, dan bahkan kita bisa menjadi budak mesin. Saya tidak suka pernyataan itu. Saya katakan dalam buku saya bahwa teknologi itu netral. Anda memiliki energi atom, Anda dapat menggunakan energi atom untuk menghasilkan listrik, dan Anda dapat menggunakannya untuk membuat bom dan membunuh orang. Ini keputusanmu. Jika Anda benar-benar memikirkannya, semua orang yang mengatakan bahwa kecerdasan buatan adalah ancaman bagi manusia benar-benar bodoh. Karena penggunaan teknologi adalah tanggung jawab manusia. **

**Saya pikir orang-orang ini mengatakan itu hanya karena mereka juga ingin mengurangi tanggung jawab manusia atas hal ini. **Karena mereka ingin orang menerima AI, itu sangat buruk. Orang harus bertanggung jawab atas kemungkinan masalah. Saya tidak tahu apa yang terjadi di China, tapi sayangnya di dunia barat orang tidak terlalu sensitif tentang hal itu. Mereka menganggap teknologi (dampak negatifnya) sudah ditakdirkan, itu sangat buruk. Saya juga mengatakan dalam buku saya bahwa risiko terbesar bukanlah manusia diatur oleh mesin, tetapi manusia menerima bahwa mesin membuat semua keputusan penting. Jika saya memiliki seorang budak yang bisa melakukan apapun yang saya inginkan, seperti dalam mitos Arab itu, maka pada akhirnya saya akan menjadi budak budak saya. ** Jadi bahayanya datang dari orang-orang. Saya juga melihat ini di sekolah Prancis, jika seorang anak memiliki akses ke chatbot, dia tidak dapat menulis, mengatur pikirannya, dan akhirnya bergantung pada mesin. Ini bukanlah skenario yang indah bagi umat manusia.

**Teknologi Tencent: Beberapa hari yang lalu, banyak tokoh terkenal di bidang AI, termasuk Sam Altman, menandatangani pernyataan tentang ancaman kepunahan AI. Dalam buku Anda, Anda mengatakan bahwa media dan orang dalam industri saat ini adalah melebih-lebihkan kemampuan dan ancaman AI. Salah satunya? Apakah menurut Anda paradigma AI saat ini memiliki kemungkinan membawa krisis peradaban manusia? **

Joseph Schiffakis: **Bahaya yang ditimbulkan oleh AI sudah jelas, dan sebagian besar mungkin berasal dari penyalahgunaannya. **Sayangnya, saat ini kami tidak memiliki peraturan yang relevan terhadap bahaya ini. Karena pemerintah tidak tahu bagaimana hal-hal ini dikembangkan, kurangnya transparansi membuat peraturan tidak bisa diterapkan. Ini terlalu buruk bagi masyarakat. AI sangat mungkin disalahgunakan, jadi saya juga menandatangani petisi untuk mendukung penyelidikan perusahaan.

Teknologi sangat bagus dan saya tidak menentang teknologi. Sungguh luar biasa kami memiliki chatbot, dan kami harus membuat kemajuan ke arah itu. ** Kecerdasan buatan, termasuk kecerdasan buatan umum, adalah hal yang baik, dan saya tidak menentangnya. Yang saya lawan adalah penyalahgunaan teknologi ini. Berbagai negara dan lembaga internasional harus menegakkan peraturan tersebut, meskipun ada beberapa kesulitan karena model bahasa yang besar itu sendiri kurang dapat diinterpretasikan. Tapi kami masih bisa menuntut semacam transparansi dari perusahaan pengembang, seperti bagaimana kumpulan data dibuat, dan bagaimana mesin itu dilatih. **

**Teknologi Tencent: Baru-baru ini, Kongres AS mengadakan dengar pendapat tentang kecerdasan buatan dan orang-orang standar. Termasuk Sam Altman, Marcus telah berpartisipasi, dan tagihan terkait disahkan di Eropa. Apakah menurut Anda ini adalah awal yang baik? **

Joseph Schiffakis: Tapi masalahnya adalah, **ketika orang berbicara tentang kecerdasan buatan yang aman, sering kali mereka tidak membicarakan hal yang sama. **Sebagai seorang insinyur, keamanan memiliki definisi yang sangat jelas bagi saya. Orang lain mungkin berpikir bahwa AI yang aman berarti memercayai AI seperti halnya manusia. Logika yang mendasari ide ini adalah memperlakukan kecerdasan buatan sebagai manusia, bukan mesin. Ada banyak makalah lain yang mengatakan tidak masalah apa yang dilakukan AI, yang penting adalah niat AI, jadi Anda harus bisa memisahkan niat dari hasil dan sebagainya. Jadi diskusinya banyak. **Saya harap semua diskusi ini mengarah pada beberapa peraturan serius, bukan hanya daftar keinginan. **

**Teknologi Tencent: Jadi, mari berdiskusi tentang kemungkinan yang lebih cerah. Jika kecerdasan buatan tidak disalahgunakan, dengan cara apa itu bisa mengubah hidup kita? **

Joseph Schiffakis: Jika kita tidak menyalahgunakan kecerdasan buatan, masa depan cukup menjanjikan. Ini adalah revolusi besar. Ini memiliki potensi yang sangat besar untuk mengembangkan pengetahuan guna mengatasi beberapa tantangan besar yang dihadapi umat manusia saat ini, seperti perubahan iklim, pengelolaan sumber daya, masalah populasi, pandemi, dan lainnya.

Saya katakan sebelumnya bahwa ada saling melengkapi yang jelas antara manusia dan mesin. **Bagi manusia, skenario terbaik adalah kerja sama yang harmonis antara mesin dan manusia. Dan dalam proses ini, manusia akan dapat menguasai semua proses pengembangan dan penerapan pengetahuan, memastikan bahwa mesin ini tidak akan membuat keputusan penting bagi kita sendiri. **

Tantangan ke depan adalah bagi kita untuk menemukan keseimbangan yang tepat, menemukan keseimbangan peran yang tepat antara manusia dan mesin. Saya harap kita dapat melakukan ini dengan sukses.