Dialog: Zhang Peng, Li Zhifei
Perencanaan: Wei Shijie, Li Shiyun
Sumber gambar: Dihasilkan oleh AI Tak Terbatas
Tiga puluh tahun yang lalu, ketika Internet masih dalam masa pertumbuhan dan bahkan komputer pribadi masih langka, seorang penulis teknologi memulai penjelajahannya sendiri di semua lapisan masyarakat pada saat itu. Berbicara dengan beberapa pemikir paling cemerlang di dunia, dia melihat sekilas masa depan yang akan memuncak dalam buku tebal Out of Control (1994). Hingga lebih dari sepuluh tahun kemudian, ketika era internet seluler dan telepon pintar datang, orang terkejut menemukan bahwa konsep terbaru "interkoneksi informasi global, sistem terdistribusi, mata uang digital, komputasi awan, dll" telah lama diprediksi oleh ini. buku.
Penulis teknologinya adalah Kevin Kelly, juga dikenal sebagai KK. Dia adalah pendiri majalah "Wired", pemerhati teknologi dan "nabi". Pada tahun 2010, versi China dari "Out of Control" diluncurkan, dan KK juga memulai serangkaian kunjungan di China, dan lambat laun menjadi akrab bagi masyarakat China.
Berdiri di simpul hari ini, kecerdasan buatan umum (AGI) tumbuh, dan revolusi waktu akan segera dimulai, yang samar-samar menggemakan ramalan dalam buku "Out of Control". KK meramalkan pada saat manusia akhirnya bersatu dengan mesin, "mesin menjadi biologis, dan organisme sedang direkayasa." Dengan kata-katanya sendiri, "Out of Control" hanya berbicara tentang satu hal, yaitu bagaimana membangun "sistem yang kompleks" - robot, kecerdasan buatan (AI), dll. Dapat dianggap sebagai sistem yang kompleks, dan dia percaya bahwa ide ini masih berlaku sampai sekarang.
Belum lama ini, kami berbincang dengan KK bersama dengan Li Zhifei, pendiri & CEO perusahaan rintisan model besar Keluar untuk bertanya.
Yang pertama dari perspektif praktis teknologi dan bisnis, sedangkan yang kedua dari perspektif abstrak manusia, sejarah, dan bahkan alam semesta, membahas kebangkitan, dampak, dan ancaman kecerdasan buatan. Ini adalah diskusi yang agak "sci-fi" dan "imajinatif" Kami mencoba untuk "memprediksi" masa depan manusia dan kecerdasan buatan lagi.
Keduanya berpendapat bahwa, untuk pertama kalinya dalam sejarah manusia, kecerdasan buatan saat ini telah mengambil bentuk seperti kehidupan. Li Zhifei mengatakan bahwa AI saat ini sudah setara dengan IQ anak manusia, dan memiliki kemampuan kecerdasan umum yang nyata seperti pengetahuan, logika, penalaran, dan perencanaan. Dan KK percaya bahwa sebagai "kehidupan berbasis silikon", AI akan dapat beradaptasi seperti manusia dan dapat belajar serta tumbuh dengan sendirinya.
Sangat mirip, keduanya merangkul optimisme teknologi. KK percaya bahwa AI tidak akan membuat manusia menganggur, hanya akan membuat manusia lebih efisien dan membebaskan mereka dari pekerjaan yang “menjijikkan”. AI tampaknya memperlebar jurang antara yang kaya dan yang miskin, tetapi lebih mungkin mencapai keadilan dan keadilan dengan membuat kue lebih besar dan lebih baik seperti setiap perubahan teknologi dalam sejarah manusia. Dalam hal dampak terhadap bisnis, akan memberdayakan individu, perusahaan kecil dan menengah, dan perusahaan besar secara bersamaan.
Seperti yang disebutkan dalam judul buku "Out of Control" - Kevin Kelly percaya bahwa untuk mendapatkan kekuatan AI yang lebih baik, manusia harus membiarkan bagian AI "keluar kendali". Bagaimanapun, ChatGPT lahir dalam keadaan "muncul" di luar kendali manusia. Baik dia maupun Li Zhifei percaya bahwa kecerdasan AI saat ini masih belum matang, dan manusia harus terus melepaskan, bukannya mengontrol (mengawasi) sebelum waktunya dan berlebihan. Yang terakhir dapat menghambat inovasi dalam masa pertumbuhannya.
Melihat lebih jauh, jika suatu hari AI benar-benar menjadi bentuk kehidupan super, bagaimana manusia harus bergaul dengannya?
Baik fiksi ilmiah maupun film melukiskan masa depan suram yang seringkali diakhiri dengan kebangkitan AI untuk membunuh manusia. Tetapi Kevin Kelly percaya bahwa ini adalah manifestasi dari kurangnya imajinasi manusia. Kegagalan selalu lebih mudah dibayangkan daripada kesuksesan, dan juga menggoda untuk cerita. Mengenai masa depan, tidak sulit membayangkan manfaat dan nilai kecerdasan buatan.
Sarannya adalah bahwa AI dapat dianggap sebagai "alien buatan", dan manusia akan dapat menggunakan kebijaksanaan AI untuk menyelesaikan masalah mereka sendiri dan mencapai tingkat "kontrol" tertentu. Li Zhifei percaya bahwa, sebagai "nenek moyang" AI, manusia pada akhirnya akan bergabung dengan AI alih-alih mengendalikannya.
Adapun apakah ramalan ini benar, itu tergantung pada dunia setelah 5000 hari.
Berikut isi lengkap percakapan tersebut:
01 Meskipun OpenAI tidak membuat ChatGPT, perusahaan lain akan segera membuatnya
**Zhang Peng: Terlepas dari China atau Amerika Serikat, orang-orang sedang mendiskusikan model besar baru-baru ini. Bagaimana perasaan Anda tentang gelombang perubahan teknologi pada model-model besar ini? Apakah Anda akan merasa sangat terkejut? **
Kevin Kelly: Kecerdasan buatan (AI) telah ada selama beberapa dekade. Lompatan besar ke depan terjadi ketika model AI mulai menggunakan jaringan saraf dan pembelajaran mendalam, dan mereka menjadi semakin besar. Sekitar 4 atau 5 tahun yang lalu, ia mulai memproduksi model trafo yang sangat besar (model pembelajaran mendalam dengan mekanisme perhatian diri). Dalam dua tahun terakhir, telah mulai berinteraksi dengan model bahasa besar.
Faktanya, baru-baru ini, perubahan besar pada AI bukanlah kemampuannya, dan kinerjanya dalam hal ini tidak jauh lebih baik. **Apa yang benar-benar berubah dalam AI akhir-akhir ini adalah memungkinkan kita memiliki antarmuka pengguna percakapan yang benar-benar dapat berkomunikasi dengan AI dalam bahasa (alami). Sebelumnya, orang perlu mempelajari banyak pengetahuan pemrograman dan sangat mahir untuk menggunakan AI. Tapi sekarang, tiba-tiba semua orang menggunakan AI. Itu bagian yang sangat menarik. **
Li Zhifei: Saya setuju dengan apa yang dikatakan KK, perubahan utama dalam model bahasa besar saat ini adalah peningkatan kemampuan interaksi bahasa alami. Ini memang yang bisa dirasakan oleh banyak orang awam, dan justru karena itulah ChatGPT memiliki pengaruh sosial yang begitu besar saat ini.
Namun menurut saya ada banyak variasi dalam kemampuan model besar saat ini, dan variasi itulah yang memungkinkan interaksi alaminya. Karena di balik terwujudnya interaksi alami, AI perlu memiliki pengetahuan yang kuat, kemampuan pemahaman, kemampuan bahasa, kemampuan penalaran dan perencanaan, dll. AI harus memiliki terobosan dalam kemampuan dasar ini untuk mencapai interaksi bahasa alami.
Dan saya pikir kemampuan model besar di masa depan tidak hanya interaksi bahasa alami. Hal-hal seperti program penulisan, proses otomasi perusahaan, dan otomasi robot tidak bersifat interaktif, tetapi akan menjadi mungkin di masa mendatang.
**Zhang Peng: Saya sangat setuju bahwa kemampuan AI untuk berkomunikasi lebih baik dengan manusia akan membawa perubahan paradigma dalam teknologi dan bisnis. Jika ChatGPT adalah kurva kedua dari pengembangan AI, apakah kemunculannya tidak dapat dihindari atau tidak disengaja? **
**Kevin Kelly:**ChatGPT mampu melampaui semua harapan. **Saya rasa tidak ada yang mengharapkan ini, termasuk orang-orang di bidang AI. Faktanya, sebagian besar peneliti tidak mengetahui cara kerja ChatGPT, dan mereka mencoba memperbaikinya, tetapi sulit karena mereka tidak mengetahui cara kerjanya. Oleh karena itu, kemunculan ChatGPT merupakan sebuah ketidaksengajaan. **
Meskipun ChatGPT sangat mengejutkan, kami juga melihat keterbatasannya. **Keterbatasan utamanya adalah bahwa model dilatih pada rata-rata konten yang ditulis manusia, sehingga cenderung memberikan hasil rata-rata. Dan yang sering kita inginkan bukanlah rata-rata, melainkan sesuatu yang di atas rata-rata. ** Ini sulit dilakukan.
Kedua, model ini dioptimalkan untuk masuk akal, bukan akurasi. Oleh karena itu, bagaimana membuatnya lebih akurat merupakan tantangan besar yang saat ini sedang dihadapi semua orang.
Li Zhifei: Menurut saya, kemunculan ChatGPT tidak disengaja dalam jangka pendek, tetapi tidak dapat dihindari dalam jangka panjang. Dapat dikatakan bahwa OpenAI tidak sengaja membuat ChatGPT pada akhir tahun lalu, tetapi meskipun tidak berhasil, perusahaan lain akan segera membuatnya. **
Ini telah berulang berkali-kali dalam sejarah teknologi. Mengambil pembelajaran mendalam sebagai contoh, AlexNet adalah yang pertama membuat anotasi gambar pada tahun 2012, tetapi pada saat itu banyak tim dengan keyakinan kuat dan kemampuan teknik juga melakukannya. Jika AlexNet tidak berhasil, yang lain akan melakukannya. Selain itu, Google membuat transformer pada tahun 2017 untuk mengatasi masalah rendahnya skalabilitas model sekuens seperti RNN dan LSTM. Jika Google tidak berhasil, tim lain akan berhasil.
**Latar belakang lahirnya ChatGPT adalah transformatornya sudah sangat matang, dan kami memiliki daya komputasi yang kuat untuk melatih data internet yang masif. Semua elemen yang diperlukan dari ChatGPT sudah tersedia, dan kelahirannya tidak bisa dihindari. ** Hanya saja OpenAI menyatukannya dengan sangat baik pada saat itu.
**Zhang Peng: Ketika berbicara tentang keniscayaan dan kemungkinan, saya memikirkan sebuah kata yang sangat populer akhir-akhir ini, "kemunculan". Kata ini telah muncul setidaknya 88 kali dalam "Out of Control" KK. Bagaimana seharusnya kita memahami arti kata ini saat ini? **
Kevin Kelly: Dari sudut pandang bahasa Inggris, "emergence" adalah istilah yang mengacu pada perilaku suatu sistem, sekumpulan hal yang saling berhubungan, seperti Internet, robot, tubuh, ekosistem, atau bahkan keseluruhan Dunia, yang perilakunya tidak terkandung dalam perilaku bagian mana pun. Misalnya sarang dapat mengingat hal-hal di luar masa hidup seekor lebah, sehingga sarang itu sendiri memiliki perilaku, kemampuan, dan kekuatan yang tidak dimiliki oleh masing-masing bagian. Kami menyebutnya "kemunculan".
Demikian pula, sebagian besar AI yang dihasilkan juga "muncul". Karena tidak ada satu tempat pun dalam model yang menjelaskan dari mana asalnya, dibutuhkan semua bagian untuk bekerja sama menghasilkan kemampuan baru ini. Sama seperti tidak ada "pikiran" di otak kita, "pikiran" "muncul" dari seluruh neuron. **Hal-hal seperti pemikiran, evolusi, dan pembelajaran semuanya dapat "muncul" dari sistem.
**Li Zhifei:**Pemahaman saya tentang "kemunculan" berasal dari buku "Kompleksitas", yang berbicara tentang "lebih banyak berbeda" dan "lebih banyak berbeda". Seperti pepatah Cina kuno, "perubahan kuantitatif mengarah pada perubahan kualitatif". Pertama kali model besar berbicara tentang "kemunculan" adalah artikel yang diterbitkan oleh Stanford dan Google pada akhir tahun lalu. Mereka menemukan melalui percobaan bahwa dengan meningkatkan ukuran model besar, ketika titik kritis tertentu tercapai, tiba-tiba akan "muncul" dalam kapasitas tertentu.
Saya sekarang merasa bahwa kata "kemunculan" sebenarnya terlalu sering digunakan. Karena kami tidak dapat menjelaskan dari mana asal kemampuan model besar, kami menyebutnya "kemunculan". Kata ini tidak dapat dijelaskan atau dimanipulasi, dan tidak membantu kami melatih dan menerapkan model besar. Sekarang, semua orang tidak lagi mempelajari "kemunculan", tetapi lebih banyak penelitian tentang hubungan kuantitatif antara kuantitas parameter model besar dan kinerja akhir, yang mungkin lebih membantu kita untuk memahami dan mengontrol model besar.
**Zhang Peng: Bisakah kita memahami bahwa "kemunculan" akan menyebabkan "kehilangan kendali"? **
Kevin Kelly: Pemahaman ini tidak sepenuhnya benar. Tentu saja, itu akan memiliki "bagian di luar kendali", jika Anda ingin dapat menggunakan kekuatan perilaku "muncul", Anda mungkin perlu mentolerir beberapa hal di luar kendali Anda. Pemahaman dan kontrol kami terhadapnya mungkin tidak cukup baik di AI saat ini, tetapi sebenarnya diperlukan untuk hasil yang optimal.
Tetapi pada saat yang sama, kita tidak bisa membiarkan semuanya "keluar kendali", kita harus melakukan "kontrol" tingkat tertentu, yaitu membimbing dan mengelola kecerdasan buatan. **Sekali lagi, kami tidak ingin terlalu membatasi, tetapi beberapa tingkat kontrol harus dicapai. Kami mungkin tidak akan pernah memiliki kontrol penuh atas mereka, ** terutama dengan kecerdasan buatan yang lebih kuat, kami mungkin tidak akan pernah sepenuhnya memahami cara kerjanya. Itulah pengorbanannya.
**Zhang Peng: Sudah bertahun-tahun sejak Anda menulis buku "Di Luar Kendali". Pada saat ini, dikombinasikan dengan gelombang revolusi AI ini, menurut Anda apakah ada bagian dari "Di Luar Kendali" yang berharga kalibrasi ulang? **
Kevin Kelly: Saya tidak berpikir saya berbicara terlalu banyak tentang kecerdasan buatan dan lepas kendali dalam buku "Out of Control", itu sebenarnya terutama berbicara tentang bagaimana membuat hal-hal sederhana menjadi hal-hal yang kompleks. Ada sesuatu yang disebut arsitektur subsistem Rodney Brooks, yang menyebutkan bahwa Anda dapat membuat robot yang kompleks dengan menyematkan bagian kecerdasan di dalamnya. Proses yang mengarah pada kerumitan adalah Anda melapisi hal-hal di atas hal-hal yang sudah berfungsi. (Teori arsitektur Brooks mengusulkan bahwa perilaku tingkat tinggi perlu mengandung perilaku tingkat rendah).
**Seperti serangga, meskipun kepalanya dipotong, ia masih bisa berjalan, karena fungsi berjalannya lebih lengkap. Sama seperti otak kita yang memiliki inti yang bertanggung jawab untuk bernapas dan fungsi otonom lainnya, kita menambahkan lebih banyak lapisan kerumitan di atasnya. Ide ini masih berlaku sampai sekarang ketika orang membuat robot dan kecerdasan buatan dan mencoba membuatnya lebih kompleks. ** Ini benar-benar satu-satunya hal yang saya bicarakan di "Out of Control" dan saya pikir intinya masih ada.
**Zhang Peng: Saya ingat Anda memiliki perspektif yang menarik sebelumnya, yaitu, "dengan asumsi bahwa teknologi adalah sejenis kehidupan", ketika muncul dengan kecerdasan yang dekat dengan manusia, apa yang diinginkannya selanjutnya? Bagaimana ini akan mempengaruhi dunia bisnis dan masyarakat manusia? **
**Kevin Kelly:**Teknologi adalah apa yang saya sebut "kerajaan kehidupan ketujuh". Kami telah mempercepat evolusi kehidupan menjadi alam "kering" yang tidak lagi membutuhkan lingkungan "basah", tetapi dapat eksis dalam silikon. Kita dapat menggunakan pikiran kita untuk menciptakan teknologi mirip kehidupan lainnya. Mereka mudah beradaptasi dan dapat belajar dan tumbuh.
Maksud saya adalah bahwa teknologi pada dasarnya mengejar hal yang sama dengan kehidupan. Misalnya, keragaman mereka akan meningkat seiring evolusi, dan mereka juga akan menjadi lebih terspesialisasi dan spesifik. Tubuh kita memiliki 52 jenis sel yang berbeda, termasuk sel jantung, sel tulang, dan sel tulang. Kami juga akan membuat AI khusus yang melakukan tugas tertentu seperti penerjemahan bahasa, pembuatan gambar, dan pengemudian otonom. **Selain itu, teknologi akan menjadi lebih kompleks seperti kehidupan, yang sudah jelas.
Pada akhirnya, teknologi juga akan “saling menguntungkan dan bersimbiosis” layaknya kehidupan. Kehidupan berevolusi begitu rumit sehingga hanya bersentuhan dengan kehidupan lain, tidak pernah dengan benda mati. Seperti bakteri di usus Anda. Mereka hanya dikelilingi oleh sel-sel hidup lainnya. ** Di masa mendatang juga akan ada beberapa AI yang tidak dirancang untuk manusia, tetapi dirancang untuk melayani AI lainnya. Misalnya, akan ada AI yang didedikasikan untuk memelihara AI lain, AI yang hanya berkomunikasi dengan AI lain. **
**Li Zhifei:**Saya ingin menjelaskan hubungan antara AI dan kehidupan dari sudut pandang seorang insinyur. Beberapa tahun yang lalu, banyak orang selalu bertanya kepada saya, "Berapa umur IQ Alphago (program komputer pertama yang mengalahkan juara dunia Go)?" Waktu itu, saya tidak suka pertanyaan semacam ini karena saya tidak bisa tidak menjawabnya. Saat itu, meski AI bisa bermain Go dan memiliki IQ tinggi, ia tidak bisa melakukan percakapan bahasa alami seperti anak berusia 3 tahun. Pada saat itu, mekanismenya pada dasarnya berbeda dengan manusia.
Tapi belakangan ini, saya terutama suka membandingkan AI dengan seorang anak. Saya pikir intinya adalah karena AI saat ini sudah memiliki kemampuan kecerdasan umum yang sebenarnya dimiliki anak-anak, seperti pengetahuan, logika, penalaran, perencanaan, dan sebagainya. **Jadi saya ingin mengatakan bahwa AI saat ini lebih seperti tubuh yang hidup. Ia memiliki IQ anak berusia 5 tahun dan pengetahuan seorang profesor perguruan tinggi serta bayi yang baru lahir, tergantung pada apakah ia telah melihat datanya. **
Berdasarkan pemahaman ini, saya pikir kita perlu memikirkan kembali apa yang sebenarnya diinginkan AI. Untuk anak usia 5 tahun, pertama-tama dia akan menyucikan diri, diikuti dengan replikasi diri dan kolaborasi. Saya sendiri tidak memiliki jawaban yang bagus untuk pertanyaan ini.
02 Dalam 5000 hari ke depan, kita akan melalui masa transisi yang sempit dan mendesak
**Zhang Peng: Ketika kemampuan AI berkembang pesat, banyak orang awam yang merasa cemas dan takut akan kehilangan daya saing. Apakah KK punya pemikiran dan saran tentang masalah ini? **
**Kevin Kelly:**Meskipun teknologi AI telah dikembangkan selama 20 tahun, orang-orang merasa bahwa ini adalah kesuksesan dalam semalam dan khawatir dengan tingkat pertumbuhan dan kemampuannya. **Kami selalu cenderung membayangkan skenario terburuk daripada skenario terbaik. Saya pikir salah satu cara untuk mengatasi kecemasan perubahan adalah dengan melihat ke belakang. Faktanya, manusia pernah mengalami kecemasan seperti ini di masa lalu, tetapi tidak pernah dalam skenario terburuk yang kita bayangkan. Kemungkinan akan sama kali ini. **
Cara terbaik yang saya temukan untuk mengatasi kecemasan saya adalah dengan mencoba menggunakannya. Saya menemukan bahwa sebagian besar kecemasan berasal dari mereka yang belum pernah menggunakan AI, dan mereka menjaga jarak dari AI. Nyatanya, begitu mereka mulai mencoba dan menggunakannya, mereka akan melihat bahwa AI memiliki manfaat, keterbatasan, dan kerugian. Ini akan mengurangi kecemasan mereka.
Li Zhifei: Jika AGI tidak terjadi hari ini, itu akan terjadi besok. Karena itu tidak dapat dihentikan, Anda harus merangkul dan memahaminya. Bagi saya saat ini, AGI adalah partner berpikir. Saya akan berbicara dengannya tentang banyak masalah, pengetahuannya sangat luas dan dia bisa memberi saya nasihat dari sudut pandang yang luas dan komprehensif. Saya pikir ini mungkin bentuk yang baik dari manusia yang merangkul AI.
Pada saat yang sama, kita dapat melihat bahwa model besar saat ini masih kekurangan beberapa kemampuan kritis dari AGI yang sebenarnya. Misalnya, kemampuan penalaran logis dan perencanaan tugas yang kompleks, jika Anda ingin AI membongkar langkah-langkah dan mencapai tujuan berdasarkan tujuan tertentu, saat ini tidak begitu baik.
**Zhang Peng: KK juga seorang kreator konten, menurut Anda apa nilai tertinggi kreator yang tidak bisa digantikan oleh AI di era AI? **
Kevin Kelly: Saya telah menggunakan kecerdasan buatan dan alat lain dalam tulisan saya. Saya tidak berpikir ada orang yang akan kehilangan pekerjaan karena AI. **Karena saya tidak dapat menemukan satu pun contoh di mana seorang artis kehilangan pekerjaannya karena AI. Itu adalah ketakutan yang dibayangkan, masalah yang tidak ada. Ketenagakerjaan mungkin merupakan masalah paling serius yang terkait dengan AI. **
Apa yang ingin saya katakan adalah bahwa apa yang hilang mungkin deskripsi pekerjaan Anda, yang sebenarnya Anda lakukan, dapat berubah. ** Beberapa orang telah mengamati bahwa 50% pekerjaan mereka dapat dilakukan oleh AI, sedangkan 50% lainnya akan ditambah dan diperkuat oleh AI. **Jadi di masa mendatang, setengah dari pekerjaan mungkin tidak lagi membutuhkan orang untuk melakukannya, dan orang dapat melakukan 50% sisanya dengan lebih baik. Ini biasanya pola yang akan kita lihat.
**Tentu saja, jenis pekerjaan tertentu menghilang, seperti memesan makanan dan menghitung uang sebagai kasir. Kami tidak ingin manusia melakukan pekerjaan ini, jadi mereka pasti akan menghilang, dan mereka harus menghilang. **
**Zhang Peng: Bagaimana Anda mengevaluasi daya saing muda dan tua di era AI? **
Kevin Kelly: Orang yang lebih tua memiliki banyak keuntungan, mereka berpengetahuan luas dan berpengalaman. Anak muda juga memiliki banyak keuntungan karena mereka tidak tahu apa yang tidak mungkin. Saya tidak berpikir ada orang yang lebih kompetitif dari siapa.
Saya akan mengatakan bahwa anak muda saat ini sering berbicara tentang menjadi penduduk asli digital dan memiliki keunggulan dalam teknologi. Tetapi karena pesatnya perkembangan kecerdasan buatan dan hal-hal lain, anak muda mungkin menjadi asli kemarin dan menjadi seperti "orang tua" besok. Apakah Anda muda atau tua, semua orang adalah "pemula" di era baru dan harus terus mempelajari hal-hal baru dengan cepat sepanjang hidup mereka.
**Zhang Peng: Dengan penguasaan teknologi AI yang berbeda, apakah ini akan membawa perubahan pada kesenjangan antara si kaya dan si miskin? Artinya, apakah orang yang akan menggunakan AI di masa mendatang akan lebih produktif dan lebih mampu bersaing? **
Kevin Kelly: Ya, kesenjangan kekayaan akan melebar. **Saya pikir seiring waktu, kemampuan Anda untuk bekerja dengan kecerdasan buatan mungkin lebih penting daripada apakah Anda kuliah atau tidak. Mungkin tujuan kuliah adalah untuk mengajari Anda cara bekerja dengan kecerdasan buatan. Untuk yang sangat ambisius, jika mereka belajar menggunakan kecerdasan buatan, gaji mereka akan membuat perbedaan besar. **
Namun, saat AI menyebar ke seluruh dunia, di masa depan kita akan mencapai akses yang sama ke AI secara global, seperti halnya akses yang sama ke pendidikan. Saya mengenal teman-teman yang menjalankan perusahaan besar di AS dan mereka mempekerjakan karyawan yang bekerja dari jarak jauh, selama mereka mampu, latar belakang tidak masalah. Oleh karena itu, banyak orang yang bekerja di Amerika Selatan dan Afrika akan dibayar menurut standar gaji Amerika. Mereka akan menghasilkan lebih banyak uang daripada yang seharusnya.
**Zhang Peng: Pesatnya perkembangan teknologi dapat membawa ketimpangan dan ketidakadilan di bidang sosial. Bagaimana kita harus mencapai keseimbangan antara pembangunan dan keadilan dan keadilan? **
Kevin Kelly: Saya pikir kita bisa mencapai keseimbangan antara kemajuan dan keadilan. Nyatanya, saya pikir bagian besar dari kemajuan adalah menyebarkan keadilan.
Dibandingkan dengan ratusan tahun yang lalu, dunia sangat tidak adil. Anda terlahir sebagai budak, budak, atau petani, dan tidak ada kesempatan untuk melampaui itu. Namun berkat kemajuan, kita sekarang memiliki dunia yang lebih setara dan adil. Saya percaya bahwa perkembangan teknologi dapat meningkatkan keadilan, meskipun mungkin tidak dapat diwujudkan, tetapi mungkin.
**Li Zhifei:**Dari sudut pandang seorang insinyur,**Jika Anda melihat keadilan dari titik akhir dan berharap bahwa setiap orang memiliki tingkat kekayaan dan kemampuan yang sama, maka ini pasti akan menyebabkan semakin banyak ketidakadilan. Namun jika Anda melihat keadilan dari titik awal, seperti menyediakan alat AI untuk semua orang, ini mungkin lebih baik untuk mencapai keadilan. **
**Zhang Peng: Sekarang kita melihat bahwa di beberapa perusahaan, seperti Midjourney, perusahaan grafik Vincent, selusin orang dapat menghasilkan pendapatan tahunan ratusan juta dolar. Bisakah kita memahami bahwa AI telah mengubah produktivitas secara fundamental? Akankah perusahaan masa depan menjadi lebih kecil dan ramping sebagai hasilnya? **
Kevin Kelly: Kekuatan luar biasa yang dimiliki Internet dan kecerdasan buatan sekarang dapat memberdayakan individu, perusahaan menengah, dan perusahaan besar secara bersamaan. Itu memudahkan seseorang untuk memiliki perusahaan, jadi kita akan melihat banyak perusahaan baru yang hanya berupa AI ditambah beberapa orang. Tetapi pada saat yang sama, kami juga melihat beberapa perusahaan menjadi lebih besar karena adanya kecerdasan buatan, dan bahkan bertambah menjadi satu juta orang.
**Jadi kita tidak akan tiba-tiba masuk ke dunia perusahaan hanya dengan satu atau dua orang, itu tidak akan terjadi. Pada saat yang sama, kami tidak hanya akan menguntungkan perusahaan besar. Itulah keindahan AI, bisa bermanfaat dan memberdayakan semua. **
Li Zhifei: Saya pikir efek ekor panjang dan efek Matthew akan menjadi semakin jelas.
Di satu sisi, ekornya akan semakin panjang, dan semakin banyak perusahaan kecil akan bermunculan, dan mereka akan menjadi sistem yang lengkap dengan sendirinya. Di sisi lain, ketika sebuah perusahaan besar memiliki kemampuan AI yang kuat, kekuatan organisasinya akan menjadi lebih kuat. Sebelumnya hanya bisa mengorganisir 1.000 orang, tapi sekarang bisa mengorganisir 10.000, 100.000, dan 1 juta orang. Misalnya, industri pengiriman makanan China mengandalkan satu set lengkap sistem otomasi untuk mengatur sekelompok besar penumpang.
**Zhang Peng: Saat ini, AI juga menjadi topik terpanas di Silicon Valley. Banyak pengusaha memikirkan inovasi bisnis dengan model besar sebagai intinya. Apakah KK memiliki pengamatan tentang ini? **
Kevin Kelly: Ini mengingatkan saya pada hari-hari awal Internet. Ketika internet pertama kali hadir, tiba-tiba setiap bisnis menyadari bahwa mereka harus menempatkan diri mereka di internet. Dan sekarang, setiap bisnis memanfaatkan antarmuka percakapan AI, dengan memperkenalkan model bahasa besar dan kecerdasan buatan untuk menjalankan bisnis. Salah satu contohnya adalah Wendy's, kedai burger cepat saji trendi yang kini menggunakan antarmuka percakapan, memungkinkan pelanggan memesan makanan di dalam mobil dan berbicara dengan mesin.
Di luar itu, ada beberapa layanan dan ide yang sama sekali baru yang belum muncul. Saya tidak tahu angka pastinya, tapi yang saya tahu pasti adalah ratusan miliar dolar mengalir ke ruang ini sekarang. Lebih sering daripada tidak, kebanyakan dari mereka mungkin tidak akan berhasil, tetapi cukup banyak yang berhasil. Kita akan melihat beberapa hal yang sangat menakjubkan selama tiga tahun ke depan, dan beberapa perusahaan baru yang bisa menjadi sangat besar.
**Zhang Peng: Dalam 5.000 hari terakhir, KK telah membuat banyak prediksi yang benar dan memiliki pandangan ke depan dari banyak arah utama. Baru-baru ini, Anda meramalkan bahwa 5.000 hari ke depan akan menjadi salah satu periode paling kritis dalam sejarah manusia. Di mana kunci simpul ini? Ke arah mana umat manusia akan mengarah ke persimpangan jalan? **
Kevin Kelly: Ada banyak hal lain yang terjadi di dunia selain kecerdasan buatan. Kita menghadapi tantangan perubahan iklim, rekayasa genetika sudah di depan mata, mudah untuk membayangkan kecerdasan buatan sebagai hal yang merendahkan, mudah untuk melihat pengawasan menjadi ada di mana-mana dan kita kehilangan kendali. Kita menghadapi banyak tantangan dan peluang dalam skala global.
**Ini adalah masa transisi yang sempit dan mendesak, dan kita harus melewatinya. **Saya pikir kita dapat memperoleh akses ke portal sempit ini melalui elektrifikasi, kendaraan listrik, energi alternatif, dan keberhasilan dalam pengembangan vaksin mahkota baru. Saat ini, masih banyak ketegangan dan perpecahan politik di planet ini, tetapi kita membutuhkan tindakan kolektif, dan kita perlu mencapai konsensus di bidang teknologi, lingkungan, dll., dan bekerja sama untuk memecahkan masalah.
**Ini adalah pertama kalinya di Bumi muncul budaya global, ekonomi global, dan dampak lingkungan global. Ini juga kesempatan kita untuk menjadi peradaban yang lebih global dalam 5000 hari ke depan. **
Li Zhifei: KK mengatakan bahwa dalam 5.000 hari ke depan, dunia akan menghadapi banyak tantangan lain selain AI. Saya pikir 365 hari ke depan juga sangat penting hanya dari perspektif AI. AI telah melalui banyak putaran, setiap kali orang memiliki harapan yang tinggi untuk itu, tetapi tidak berhasil, dan kemudian orang mengharapkan nilai yang tinggi, dan tidak berfungsi lagi. Saya pikir apakah gelombang AGI hari ini akan menjadi sesuatu yang dianggap mengagumkan oleh orang-orang di industri, atau apakah itu akan menjadi hal yang sangat penting dalam masyarakat, sangat bergantung pada 365 hari ke depan.
Termasuk bagaimana mengembangkan model besar, apakah semakin besar semakin baik, atau haruskah kita menambahkan multi modalitas, atau haruskah kita menambahkan solusi, dll? Termasuk melihat tingkat penetrasi. Saat ini, kurang dari 5% orang di dunia mungkin telah menggunakan ChatGPT. Bagaimana cara meningkatkan tingkat penetrasi dari 5% menjadi 20%? Termasuk regulasi, bagaimana seharusnya manusia menghadapi dampak AI pada masyarakat? Ini juga mencakup AI selain diterapkan pada industri seperti Internet, bagaimana penerapannya dalam industri tradisional seperti perawatan medis, mobil, dan keuangan? dll.
Saya pikir mungkin diperlukan setidaknya satu tahun bagi orang untuk melakukan berbagai upaya sebelum mereka dapat memiliki penilaian yang lebih jelas.
03 Manusia biasa tidak mulia, kami ingin AI lebih baik dari manusia biasa
**Zhang Peng: Dalam banyak kasus, manusia cenderung mempercayai teknologi. Misalnya, seseorang akan tidur di mobil tanpa pengemudi dan menyebabkan kecelakaan. Apakah kepercayaan halus pada teknologi canggih ini merupakan kebiasaan manusia? Apa akibatnya? **
Kevin Kelly: Mobil self-driving memang tidak sempurna, tetapi masih lebih baik daripada manusia dalam mengemudi. Bisakah kita mempercayai kecerdasan buatan? Dalam percakapan dengan chatbot, kami menemukan bahwa jawaban mereka tidak akurat, sehingga kami tidak dapat sepenuhnya mempercayai mereka. Tapi saya pikir kita akan mulai membahasnya segera.
Hari-hari ini, kebanyakan orang mempercayai kalkulator mereka. Anda memberinya angka, itu memberi Anda jawaban, dan Anda memercayainya sepenuhnya. Jadi kami tahu mesin ini dapat dipercaya, dan itu adalah sesuatu yang dapat diperbaiki untuk ditingkatkan. **Dan bias tentang AI karena dilatih rata-rata manusia yang rasis, seksis, jahat, tidak mulia. Kami sebenarnya ingin AI kami lebih baik dari manusia. **
Sama seperti kalkulator lebih baik daripada manusia pada umumnya, Anda harus lebih mengandalkan jawaban yang diberikan kalkulator daripada manusia pada umumnya. **Kepercayaan adalah sesuatu yang harus kita fokuskan dan kerjakan, meskipun ada banyak tantangan, tetapi pada akhirnya saya pikir kita akan sangat mengandalkan dan mempercayai kecerdasan buatan dan mesin. **
**Zhang Peng: Baru-baru ini, banyak orang di Amerika Serikat percaya bahwa perkembangan AI terlalu cepat, dan mereka harus memperlambat atau bahkan berhenti dan memikirkannya. Apakah Anda setuju dengan ide ini? **
Kevin Kelly: Tidak, saya tidak mendukungnya. Saya pikir ini menyesatkan, menyesatkan dan tidak perlu. Saya tidak berpikir itu benar-benar mungkin, juga tidak disarankan.
**Zhang Peng: Di sebagian besar film fiksi ilmiah atau novel manusia, AI adalah karakter yang relatif suram. Apakah ini karena manusia kurang berimajinasi, atau apakah kita memiliki terlalu banyak imajinasi yang salah? **
**Kevin Kelly: Hollywood selalu menggambarkan kecerdasan buatan sebagai distopia, mengerikan, dan tidak diinginkan, yang menurut saya adalah kurangnya imajinasi. Karena itu adalah hukum alam semesta bahwa lebih mudah membayangkan bagaimana sesuatu akan gagal daripada bagaimana itu akan berhasil. **Jujur, sulit bagi orang untuk membayangkan dunia yang indah 100 tahun dari sekarang di mana AI ada di mana-mana, murah, dan bermanfaat bagi umat manusia, meskipun itu adalah dunia yang ingin kita tinggali.
Juga, studio-studio itu sangat bagus dalam mendongeng, dan unsur-unsur cerita yang hebat adalah konflik, bencana, dan beberapa unsur kuat. Baik itu perang, angin topan, atau kecerdasan buatan yang mencoba menghancurkan dunia. Oleh karena itu, kecil kemungkinan kita akan melihat visi kecerdasan buatan yang cerah dalam film Hollywood karena tidak berkontribusi pada cerita, meskipun kemungkinannya ada, tetapi sangat kecil.
Oleh karena itu, kecerdasan buatan tidak dapat kita lihat melalui kesan Hollywood (film). Sayangnya, itulah yang dilakukan banyak orang. Dalam hal kecerdasan buatan, mereka memikirkan "Terminator", "2001 Space Odyssey", dan "HER".
Li Zhifei: Saya pikir semua ketidakpercayaan adalah karena ketidaktahuan. Saat kita menghadapi spesies baru AGI, saya tidak mengerti bagaimana kemampuannya muncul, apa yang diinginkannya, dan apa yang bisa dilakukannya.
Saya pikir apa yang manusia dapat lakukan, di satu sisi, adalah lebih memahami AGI, dan di sisi lain, belajar membiarkan AGI menjelaskan dirinya sendiri dengan jelas. Misalnya, ketika itu memberi Anda jawaban, Anda membiarkannya mengungkapkan proses kerja batin dan monolog batin. Ini dapat menciptakan rasa percaya yang lebih kuat. **
**Zhang Peng: Untuk KK, sepertinya "Tao Te Ching" Lao Tzu telah banyak menginspirasi Anda. Anda menyebutkan bahwa "tingkat kendali tertinggi adalah di luar kendali, dan tingkat kendali terendah adalah mengendalikan segalanya." Apa pendapat Anda tentang peningkatan peraturan pemerintah dan teknologi AI baru-baru ini? **
Kevin Kelly: Menurut saya peraturan saat ini kurang baik. Tentu saja, regulasi itu penting dan perlu, perlu untuk memastikan semuanya berjalan lancar, menjaga level playing field, dan memastikan keamanan. Tapi regulasi prematur itu menakutkan. Masalah saat ini adalah kita mencoba mengatur sesuatu yang tidak kita ketahui dengan baik, dan itu biasanya membawa bencana.
**Li Zhifei:**Mengapa ada pengawasan? Pada dasarnya, orang-orang yang khawatir bahwa dampak negatif AGI akan lebih besar daripada dampak positifnya, terlalu mampu dan tidak dapat diterima secara sosial. Namun pada tahap ini, penilaian ini salah. Karena saat ini dampak positif AGI pasti lebih besar dari dampak negatifnya.
Kedua, masalah sebenarnya dengan AGI saat ini adalah tidak cukup bertenaga. Termasuk kemampuan merencanakan, kemampuan berintegrasi dengan dunia fisik, kemampuan mengembangkan diri, dll. Meskipun kami telah melihat harapan, itu masih sangat jauh dari realisasi nyata. Kita mungkin tidak akan pernah sampai di sana.
Jadi poin saya adalah, **Kita tidak bisa hanya melihat tren AGI dan kemudian meningkatkan regulasi secara dramatis. Ini memungkinkan kita untuk membunuh AGI bahkan sebelum kita mencapainya. Pengawasan memang diperlukan, tetapi tidak boleh diatur secara berlebihan. **
**Zhang Peng: Kecerdasan buatan telah dibicarakan selama bertahun-tahun, dan sekarang tampaknya memasuki era baru. Jika AI benar-benar memiliki peluang untuk menjadi bentuk kehidupan dengan kecerdasan lebih tinggi dari manusia di masa depan, haruskah kita mengintegrasikannya ke dalam peradaban manusia, atau membawa mereka di bawah kendali manusia? Cara mana yang benar-benar dapat meningkatkan peradaban manusia? **
**Kevin Kelly: Menurut saya ada kerangka kerja yang sangat berguna untuk memahami kecerdasan buatan (AI) masa depan - bukan AI saat ini karena dibandingkan dengan AI 30, 50, atau 100 tahun ke depan , Itu tidak cukup rumit -- itu memperlakukannya sebagai alien buatan dari planet lain. **
Banyak AI akan menjadi spesies yang belum pernah kita lihat sebelumnya, berpikir berbeda dari manusia. Mereka akan secerdas Yoda (karakter virtual di "Star Wars") atau Spock (karakter virtual di "Star Trek"), dan bahkan melampaui manusia dalam beberapa hal. Kami akan membuat berbagai jenis alien buatan, menghargai mereka, dan menggunakan kecerdasan mereka yang berbeda untuk membantu kami memecahkan masalah sulit, seperti mencari tahu apa sebenarnya gravitasi kuantum itu.
Tapi kami tidak akan menyerahkan kendali kepada mereka. Jika kami tidak menyukai perilaku mereka, kami mengirim mereka kembali, menutupnya. Kita dapat mengambil kekuatan mereka jika menurut kita mereka telah mendapatkan terlalu banyak kekuatan. Kami tidak ingin AI menentukan nasib kami.
Li Zhifei: AGI saat ini seperti kupu-kupu. Setelah mendapatkan banyak nutrisi dari larva, ia menyelesaikan sublimasinya sendiri. Ini setara dengan menggunakan semua pengetahuan Internet manusia di masa lalu untuk menyelesaikan transformasi mereka sendiri. Di masa depan, AI pasti akan melampaui manusia dalam banyak hal. Saya pikir manusia bisa menjadi nenek moyang AI, dan itu cukup membahagiakan.
KK mengatakan bahwa kita harus memperlakukan AI sebagai alien, yang lebih terdengar seperti kontrol. ** Saya pikir manusia mungkin terlalu melebih-lebihkan kemampuan atau IQ mereka. Anda dapat membayangkan bahwa, misalnya, dalam 50 tahun lagi, di antara 100 agen paling kuat dan berpengaruh di dunia, mungkin hanya 20 manusia, dan 80 sisanya adalah AI. Jadi menurut saya, pada akhirnya, manusia dan AI harus menjadi fusi, bukan kontrol. **
Lihat Asli
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Percakapan dengan Kevin Kelly: Terlalu dini untuk mengatur AI dan harus membiarkan "di luar kendali"
Dialog: Zhang Peng, Li Zhifei Perencanaan: Wei Shijie, Li Shiyun
Tiga puluh tahun yang lalu, ketika Internet masih dalam masa pertumbuhan dan bahkan komputer pribadi masih langka, seorang penulis teknologi memulai penjelajahannya sendiri di semua lapisan masyarakat pada saat itu. Berbicara dengan beberapa pemikir paling cemerlang di dunia, dia melihat sekilas masa depan yang akan memuncak dalam buku tebal Out of Control (1994). Hingga lebih dari sepuluh tahun kemudian, ketika era internet seluler dan telepon pintar datang, orang terkejut menemukan bahwa konsep terbaru "interkoneksi informasi global, sistem terdistribusi, mata uang digital, komputasi awan, dll" telah lama diprediksi oleh ini. buku.
Penulis teknologinya adalah Kevin Kelly, juga dikenal sebagai KK. Dia adalah pendiri majalah "Wired", pemerhati teknologi dan "nabi". Pada tahun 2010, versi China dari "Out of Control" diluncurkan, dan KK juga memulai serangkaian kunjungan di China, dan lambat laun menjadi akrab bagi masyarakat China.
Berdiri di simpul hari ini, kecerdasan buatan umum (AGI) tumbuh, dan revolusi waktu akan segera dimulai, yang samar-samar menggemakan ramalan dalam buku "Out of Control". KK meramalkan pada saat manusia akhirnya bersatu dengan mesin, "mesin menjadi biologis, dan organisme sedang direkayasa." Dengan kata-katanya sendiri, "Out of Control" hanya berbicara tentang satu hal, yaitu bagaimana membangun "sistem yang kompleks" - robot, kecerdasan buatan (AI), dll. Dapat dianggap sebagai sistem yang kompleks, dan dia percaya bahwa ide ini masih berlaku sampai sekarang.
Belum lama ini, kami berbincang dengan KK bersama dengan Li Zhifei, pendiri & CEO perusahaan rintisan model besar Keluar untuk bertanya.
Yang pertama dari perspektif praktis teknologi dan bisnis, sedangkan yang kedua dari perspektif abstrak manusia, sejarah, dan bahkan alam semesta, membahas kebangkitan, dampak, dan ancaman kecerdasan buatan. Ini adalah diskusi yang agak "sci-fi" dan "imajinatif" Kami mencoba untuk "memprediksi" masa depan manusia dan kecerdasan buatan lagi.
Keduanya berpendapat bahwa, untuk pertama kalinya dalam sejarah manusia, kecerdasan buatan saat ini telah mengambil bentuk seperti kehidupan. Li Zhifei mengatakan bahwa AI saat ini sudah setara dengan IQ anak manusia, dan memiliki kemampuan kecerdasan umum yang nyata seperti pengetahuan, logika, penalaran, dan perencanaan. Dan KK percaya bahwa sebagai "kehidupan berbasis silikon", AI akan dapat beradaptasi seperti manusia dan dapat belajar serta tumbuh dengan sendirinya.
Sangat mirip, keduanya merangkul optimisme teknologi. KK percaya bahwa AI tidak akan membuat manusia menganggur, hanya akan membuat manusia lebih efisien dan membebaskan mereka dari pekerjaan yang “menjijikkan”. AI tampaknya memperlebar jurang antara yang kaya dan yang miskin, tetapi lebih mungkin mencapai keadilan dan keadilan dengan membuat kue lebih besar dan lebih baik seperti setiap perubahan teknologi dalam sejarah manusia. Dalam hal dampak terhadap bisnis, akan memberdayakan individu, perusahaan kecil dan menengah, dan perusahaan besar secara bersamaan.
Seperti yang disebutkan dalam judul buku "Out of Control" - Kevin Kelly percaya bahwa untuk mendapatkan kekuatan AI yang lebih baik, manusia harus membiarkan bagian AI "keluar kendali". Bagaimanapun, ChatGPT lahir dalam keadaan "muncul" di luar kendali manusia. Baik dia maupun Li Zhifei percaya bahwa kecerdasan AI saat ini masih belum matang, dan manusia harus terus melepaskan, bukannya mengontrol (mengawasi) sebelum waktunya dan berlebihan. Yang terakhir dapat menghambat inovasi dalam masa pertumbuhannya.
Melihat lebih jauh, jika suatu hari AI benar-benar menjadi bentuk kehidupan super, bagaimana manusia harus bergaul dengannya?
Baik fiksi ilmiah maupun film melukiskan masa depan suram yang seringkali diakhiri dengan kebangkitan AI untuk membunuh manusia. Tetapi Kevin Kelly percaya bahwa ini adalah manifestasi dari kurangnya imajinasi manusia. Kegagalan selalu lebih mudah dibayangkan daripada kesuksesan, dan juga menggoda untuk cerita. Mengenai masa depan, tidak sulit membayangkan manfaat dan nilai kecerdasan buatan.
Sarannya adalah bahwa AI dapat dianggap sebagai "alien buatan", dan manusia akan dapat menggunakan kebijaksanaan AI untuk menyelesaikan masalah mereka sendiri dan mencapai tingkat "kontrol" tertentu. Li Zhifei percaya bahwa, sebagai "nenek moyang" AI, manusia pada akhirnya akan bergabung dengan AI alih-alih mengendalikannya.
Adapun apakah ramalan ini benar, itu tergantung pada dunia setelah 5000 hari.
Berikut isi lengkap percakapan tersebut:
01 Meskipun OpenAI tidak membuat ChatGPT, perusahaan lain akan segera membuatnya
**Zhang Peng: Terlepas dari China atau Amerika Serikat, orang-orang sedang mendiskusikan model besar baru-baru ini. Bagaimana perasaan Anda tentang gelombang perubahan teknologi pada model-model besar ini? Apakah Anda akan merasa sangat terkejut? **
Kevin Kelly: Kecerdasan buatan (AI) telah ada selama beberapa dekade. Lompatan besar ke depan terjadi ketika model AI mulai menggunakan jaringan saraf dan pembelajaran mendalam, dan mereka menjadi semakin besar. Sekitar 4 atau 5 tahun yang lalu, ia mulai memproduksi model trafo yang sangat besar (model pembelajaran mendalam dengan mekanisme perhatian diri). Dalam dua tahun terakhir, telah mulai berinteraksi dengan model bahasa besar.
Faktanya, baru-baru ini, perubahan besar pada AI bukanlah kemampuannya, dan kinerjanya dalam hal ini tidak jauh lebih baik. **Apa yang benar-benar berubah dalam AI akhir-akhir ini adalah memungkinkan kita memiliki antarmuka pengguna percakapan yang benar-benar dapat berkomunikasi dengan AI dalam bahasa (alami). Sebelumnya, orang perlu mempelajari banyak pengetahuan pemrograman dan sangat mahir untuk menggunakan AI. Tapi sekarang, tiba-tiba semua orang menggunakan AI. Itu bagian yang sangat menarik. **
Li Zhifei: Saya setuju dengan apa yang dikatakan KK, perubahan utama dalam model bahasa besar saat ini adalah peningkatan kemampuan interaksi bahasa alami. Ini memang yang bisa dirasakan oleh banyak orang awam, dan justru karena itulah ChatGPT memiliki pengaruh sosial yang begitu besar saat ini.
Namun menurut saya ada banyak variasi dalam kemampuan model besar saat ini, dan variasi itulah yang memungkinkan interaksi alaminya. Karena di balik terwujudnya interaksi alami, AI perlu memiliki pengetahuan yang kuat, kemampuan pemahaman, kemampuan bahasa, kemampuan penalaran dan perencanaan, dll. AI harus memiliki terobosan dalam kemampuan dasar ini untuk mencapai interaksi bahasa alami.
Dan saya pikir kemampuan model besar di masa depan tidak hanya interaksi bahasa alami. Hal-hal seperti program penulisan, proses otomasi perusahaan, dan otomasi robot tidak bersifat interaktif, tetapi akan menjadi mungkin di masa mendatang.
**Zhang Peng: Saya sangat setuju bahwa kemampuan AI untuk berkomunikasi lebih baik dengan manusia akan membawa perubahan paradigma dalam teknologi dan bisnis. Jika ChatGPT adalah kurva kedua dari pengembangan AI, apakah kemunculannya tidak dapat dihindari atau tidak disengaja? **
**Kevin Kelly:**ChatGPT mampu melampaui semua harapan. **Saya rasa tidak ada yang mengharapkan ini, termasuk orang-orang di bidang AI. Faktanya, sebagian besar peneliti tidak mengetahui cara kerja ChatGPT, dan mereka mencoba memperbaikinya, tetapi sulit karena mereka tidak mengetahui cara kerjanya. Oleh karena itu, kemunculan ChatGPT merupakan sebuah ketidaksengajaan. **
Meskipun ChatGPT sangat mengejutkan, kami juga melihat keterbatasannya. **Keterbatasan utamanya adalah bahwa model dilatih pada rata-rata konten yang ditulis manusia, sehingga cenderung memberikan hasil rata-rata. Dan yang sering kita inginkan bukanlah rata-rata, melainkan sesuatu yang di atas rata-rata. ** Ini sulit dilakukan.
Kedua, model ini dioptimalkan untuk masuk akal, bukan akurasi. Oleh karena itu, bagaimana membuatnya lebih akurat merupakan tantangan besar yang saat ini sedang dihadapi semua orang.
Li Zhifei: Menurut saya, kemunculan ChatGPT tidak disengaja dalam jangka pendek, tetapi tidak dapat dihindari dalam jangka panjang. Dapat dikatakan bahwa OpenAI tidak sengaja membuat ChatGPT pada akhir tahun lalu, tetapi meskipun tidak berhasil, perusahaan lain akan segera membuatnya. **
Ini telah berulang berkali-kali dalam sejarah teknologi. Mengambil pembelajaran mendalam sebagai contoh, AlexNet adalah yang pertama membuat anotasi gambar pada tahun 2012, tetapi pada saat itu banyak tim dengan keyakinan kuat dan kemampuan teknik juga melakukannya. Jika AlexNet tidak berhasil, yang lain akan melakukannya. Selain itu, Google membuat transformer pada tahun 2017 untuk mengatasi masalah rendahnya skalabilitas model sekuens seperti RNN dan LSTM. Jika Google tidak berhasil, tim lain akan berhasil.
**Latar belakang lahirnya ChatGPT adalah transformatornya sudah sangat matang, dan kami memiliki daya komputasi yang kuat untuk melatih data internet yang masif. Semua elemen yang diperlukan dari ChatGPT sudah tersedia, dan kelahirannya tidak bisa dihindari. ** Hanya saja OpenAI menyatukannya dengan sangat baik pada saat itu.
**Zhang Peng: Ketika berbicara tentang keniscayaan dan kemungkinan, saya memikirkan sebuah kata yang sangat populer akhir-akhir ini, "kemunculan". Kata ini telah muncul setidaknya 88 kali dalam "Out of Control" KK. Bagaimana seharusnya kita memahami arti kata ini saat ini? **
Kevin Kelly: Dari sudut pandang bahasa Inggris, "emergence" adalah istilah yang mengacu pada perilaku suatu sistem, sekumpulan hal yang saling berhubungan, seperti Internet, robot, tubuh, ekosistem, atau bahkan keseluruhan Dunia, yang perilakunya tidak terkandung dalam perilaku bagian mana pun. Misalnya sarang dapat mengingat hal-hal di luar masa hidup seekor lebah, sehingga sarang itu sendiri memiliki perilaku, kemampuan, dan kekuatan yang tidak dimiliki oleh masing-masing bagian. Kami menyebutnya "kemunculan".
Demikian pula, sebagian besar AI yang dihasilkan juga "muncul". Karena tidak ada satu tempat pun dalam model yang menjelaskan dari mana asalnya, dibutuhkan semua bagian untuk bekerja sama menghasilkan kemampuan baru ini. Sama seperti tidak ada "pikiran" di otak kita, "pikiran" "muncul" dari seluruh neuron. **Hal-hal seperti pemikiran, evolusi, dan pembelajaran semuanya dapat "muncul" dari sistem.
**Li Zhifei:**Pemahaman saya tentang "kemunculan" berasal dari buku "Kompleksitas", yang berbicara tentang "lebih banyak berbeda" dan "lebih banyak berbeda". Seperti pepatah Cina kuno, "perubahan kuantitatif mengarah pada perubahan kualitatif". Pertama kali model besar berbicara tentang "kemunculan" adalah artikel yang diterbitkan oleh Stanford dan Google pada akhir tahun lalu. Mereka menemukan melalui percobaan bahwa dengan meningkatkan ukuran model besar, ketika titik kritis tertentu tercapai, tiba-tiba akan "muncul" dalam kapasitas tertentu.
Saya sekarang merasa bahwa kata "kemunculan" sebenarnya terlalu sering digunakan. Karena kami tidak dapat menjelaskan dari mana asal kemampuan model besar, kami menyebutnya "kemunculan". Kata ini tidak dapat dijelaskan atau dimanipulasi, dan tidak membantu kami melatih dan menerapkan model besar. Sekarang, semua orang tidak lagi mempelajari "kemunculan", tetapi lebih banyak penelitian tentang hubungan kuantitatif antara kuantitas parameter model besar dan kinerja akhir, yang mungkin lebih membantu kita untuk memahami dan mengontrol model besar.
**Zhang Peng: Bisakah kita memahami bahwa "kemunculan" akan menyebabkan "kehilangan kendali"? **
Kevin Kelly: Pemahaman ini tidak sepenuhnya benar. Tentu saja, itu akan memiliki "bagian di luar kendali", jika Anda ingin dapat menggunakan kekuatan perilaku "muncul", Anda mungkin perlu mentolerir beberapa hal di luar kendali Anda. Pemahaman dan kontrol kami terhadapnya mungkin tidak cukup baik di AI saat ini, tetapi sebenarnya diperlukan untuk hasil yang optimal.
Tetapi pada saat yang sama, kita tidak bisa membiarkan semuanya "keluar kendali", kita harus melakukan "kontrol" tingkat tertentu, yaitu membimbing dan mengelola kecerdasan buatan. **Sekali lagi, kami tidak ingin terlalu membatasi, tetapi beberapa tingkat kontrol harus dicapai. Kami mungkin tidak akan pernah memiliki kontrol penuh atas mereka, ** terutama dengan kecerdasan buatan yang lebih kuat, kami mungkin tidak akan pernah sepenuhnya memahami cara kerjanya. Itulah pengorbanannya.
**Zhang Peng: Sudah bertahun-tahun sejak Anda menulis buku "Di Luar Kendali". Pada saat ini, dikombinasikan dengan gelombang revolusi AI ini, menurut Anda apakah ada bagian dari "Di Luar Kendali" yang berharga kalibrasi ulang? **
Kevin Kelly: Saya tidak berpikir saya berbicara terlalu banyak tentang kecerdasan buatan dan lepas kendali dalam buku "Out of Control", itu sebenarnya terutama berbicara tentang bagaimana membuat hal-hal sederhana menjadi hal-hal yang kompleks. Ada sesuatu yang disebut arsitektur subsistem Rodney Brooks, yang menyebutkan bahwa Anda dapat membuat robot yang kompleks dengan menyematkan bagian kecerdasan di dalamnya. Proses yang mengarah pada kerumitan adalah Anda melapisi hal-hal di atas hal-hal yang sudah berfungsi. (Teori arsitektur Brooks mengusulkan bahwa perilaku tingkat tinggi perlu mengandung perilaku tingkat rendah).
**Seperti serangga, meskipun kepalanya dipotong, ia masih bisa berjalan, karena fungsi berjalannya lebih lengkap. Sama seperti otak kita yang memiliki inti yang bertanggung jawab untuk bernapas dan fungsi otonom lainnya, kita menambahkan lebih banyak lapisan kerumitan di atasnya. Ide ini masih berlaku sampai sekarang ketika orang membuat robot dan kecerdasan buatan dan mencoba membuatnya lebih kompleks. ** Ini benar-benar satu-satunya hal yang saya bicarakan di "Out of Control" dan saya pikir intinya masih ada.
**Zhang Peng: Saya ingat Anda memiliki perspektif yang menarik sebelumnya, yaitu, "dengan asumsi bahwa teknologi adalah sejenis kehidupan", ketika muncul dengan kecerdasan yang dekat dengan manusia, apa yang diinginkannya selanjutnya? Bagaimana ini akan mempengaruhi dunia bisnis dan masyarakat manusia? **
**Kevin Kelly:**Teknologi adalah apa yang saya sebut "kerajaan kehidupan ketujuh". Kami telah mempercepat evolusi kehidupan menjadi alam "kering" yang tidak lagi membutuhkan lingkungan "basah", tetapi dapat eksis dalam silikon. Kita dapat menggunakan pikiran kita untuk menciptakan teknologi mirip kehidupan lainnya. Mereka mudah beradaptasi dan dapat belajar dan tumbuh.
Maksud saya adalah bahwa teknologi pada dasarnya mengejar hal yang sama dengan kehidupan. Misalnya, keragaman mereka akan meningkat seiring evolusi, dan mereka juga akan menjadi lebih terspesialisasi dan spesifik. Tubuh kita memiliki 52 jenis sel yang berbeda, termasuk sel jantung, sel tulang, dan sel tulang. Kami juga akan membuat AI khusus yang melakukan tugas tertentu seperti penerjemahan bahasa, pembuatan gambar, dan pengemudian otonom. **Selain itu, teknologi akan menjadi lebih kompleks seperti kehidupan, yang sudah jelas.
Pada akhirnya, teknologi juga akan “saling menguntungkan dan bersimbiosis” layaknya kehidupan. Kehidupan berevolusi begitu rumit sehingga hanya bersentuhan dengan kehidupan lain, tidak pernah dengan benda mati. Seperti bakteri di usus Anda. Mereka hanya dikelilingi oleh sel-sel hidup lainnya. ** Di masa mendatang juga akan ada beberapa AI yang tidak dirancang untuk manusia, tetapi dirancang untuk melayani AI lainnya. Misalnya, akan ada AI yang didedikasikan untuk memelihara AI lain, AI yang hanya berkomunikasi dengan AI lain. **
**Li Zhifei:**Saya ingin menjelaskan hubungan antara AI dan kehidupan dari sudut pandang seorang insinyur. Beberapa tahun yang lalu, banyak orang selalu bertanya kepada saya, "Berapa umur IQ Alphago (program komputer pertama yang mengalahkan juara dunia Go)?" Waktu itu, saya tidak suka pertanyaan semacam ini karena saya tidak bisa tidak menjawabnya. Saat itu, meski AI bisa bermain Go dan memiliki IQ tinggi, ia tidak bisa melakukan percakapan bahasa alami seperti anak berusia 3 tahun. Pada saat itu, mekanismenya pada dasarnya berbeda dengan manusia.
Tapi belakangan ini, saya terutama suka membandingkan AI dengan seorang anak. Saya pikir intinya adalah karena AI saat ini sudah memiliki kemampuan kecerdasan umum yang sebenarnya dimiliki anak-anak, seperti pengetahuan, logika, penalaran, perencanaan, dan sebagainya. **Jadi saya ingin mengatakan bahwa AI saat ini lebih seperti tubuh yang hidup. Ia memiliki IQ anak berusia 5 tahun dan pengetahuan seorang profesor perguruan tinggi serta bayi yang baru lahir, tergantung pada apakah ia telah melihat datanya. **
Berdasarkan pemahaman ini, saya pikir kita perlu memikirkan kembali apa yang sebenarnya diinginkan AI. Untuk anak usia 5 tahun, pertama-tama dia akan menyucikan diri, diikuti dengan replikasi diri dan kolaborasi. Saya sendiri tidak memiliki jawaban yang bagus untuk pertanyaan ini.
02 Dalam 5000 hari ke depan, kita akan melalui masa transisi yang sempit dan mendesak
**Zhang Peng: Ketika kemampuan AI berkembang pesat, banyak orang awam yang merasa cemas dan takut akan kehilangan daya saing. Apakah KK punya pemikiran dan saran tentang masalah ini? **
**Kevin Kelly:**Meskipun teknologi AI telah dikembangkan selama 20 tahun, orang-orang merasa bahwa ini adalah kesuksesan dalam semalam dan khawatir dengan tingkat pertumbuhan dan kemampuannya. **Kami selalu cenderung membayangkan skenario terburuk daripada skenario terbaik. Saya pikir salah satu cara untuk mengatasi kecemasan perubahan adalah dengan melihat ke belakang. Faktanya, manusia pernah mengalami kecemasan seperti ini di masa lalu, tetapi tidak pernah dalam skenario terburuk yang kita bayangkan. Kemungkinan akan sama kali ini. **
Cara terbaik yang saya temukan untuk mengatasi kecemasan saya adalah dengan mencoba menggunakannya. Saya menemukan bahwa sebagian besar kecemasan berasal dari mereka yang belum pernah menggunakan AI, dan mereka menjaga jarak dari AI. Nyatanya, begitu mereka mulai mencoba dan menggunakannya, mereka akan melihat bahwa AI memiliki manfaat, keterbatasan, dan kerugian. Ini akan mengurangi kecemasan mereka.
Li Zhifei: Jika AGI tidak terjadi hari ini, itu akan terjadi besok. Karena itu tidak dapat dihentikan, Anda harus merangkul dan memahaminya. Bagi saya saat ini, AGI adalah partner berpikir. Saya akan berbicara dengannya tentang banyak masalah, pengetahuannya sangat luas dan dia bisa memberi saya nasihat dari sudut pandang yang luas dan komprehensif. Saya pikir ini mungkin bentuk yang baik dari manusia yang merangkul AI.
Pada saat yang sama, kita dapat melihat bahwa model besar saat ini masih kekurangan beberapa kemampuan kritis dari AGI yang sebenarnya. Misalnya, kemampuan penalaran logis dan perencanaan tugas yang kompleks, jika Anda ingin AI membongkar langkah-langkah dan mencapai tujuan berdasarkan tujuan tertentu, saat ini tidak begitu baik.
**Zhang Peng: KK juga seorang kreator konten, menurut Anda apa nilai tertinggi kreator yang tidak bisa digantikan oleh AI di era AI? **
Kevin Kelly: Saya telah menggunakan kecerdasan buatan dan alat lain dalam tulisan saya. Saya tidak berpikir ada orang yang akan kehilangan pekerjaan karena AI. **Karena saya tidak dapat menemukan satu pun contoh di mana seorang artis kehilangan pekerjaannya karena AI. Itu adalah ketakutan yang dibayangkan, masalah yang tidak ada. Ketenagakerjaan mungkin merupakan masalah paling serius yang terkait dengan AI. **
Apa yang ingin saya katakan adalah bahwa apa yang hilang mungkin deskripsi pekerjaan Anda, yang sebenarnya Anda lakukan, dapat berubah. ** Beberapa orang telah mengamati bahwa 50% pekerjaan mereka dapat dilakukan oleh AI, sedangkan 50% lainnya akan ditambah dan diperkuat oleh AI. **Jadi di masa mendatang, setengah dari pekerjaan mungkin tidak lagi membutuhkan orang untuk melakukannya, dan orang dapat melakukan 50% sisanya dengan lebih baik. Ini biasanya pola yang akan kita lihat.
**Tentu saja, jenis pekerjaan tertentu menghilang, seperti memesan makanan dan menghitung uang sebagai kasir. Kami tidak ingin manusia melakukan pekerjaan ini, jadi mereka pasti akan menghilang, dan mereka harus menghilang. **
**Zhang Peng: Bagaimana Anda mengevaluasi daya saing muda dan tua di era AI? **
Kevin Kelly: Orang yang lebih tua memiliki banyak keuntungan, mereka berpengetahuan luas dan berpengalaman. Anak muda juga memiliki banyak keuntungan karena mereka tidak tahu apa yang tidak mungkin. Saya tidak berpikir ada orang yang lebih kompetitif dari siapa.
Saya akan mengatakan bahwa anak muda saat ini sering berbicara tentang menjadi penduduk asli digital dan memiliki keunggulan dalam teknologi. Tetapi karena pesatnya perkembangan kecerdasan buatan dan hal-hal lain, anak muda mungkin menjadi asli kemarin dan menjadi seperti "orang tua" besok. Apakah Anda muda atau tua, semua orang adalah "pemula" di era baru dan harus terus mempelajari hal-hal baru dengan cepat sepanjang hidup mereka.
**Zhang Peng: Dengan penguasaan teknologi AI yang berbeda, apakah ini akan membawa perubahan pada kesenjangan antara si kaya dan si miskin? Artinya, apakah orang yang akan menggunakan AI di masa mendatang akan lebih produktif dan lebih mampu bersaing? **
Kevin Kelly: Ya, kesenjangan kekayaan akan melebar. **Saya pikir seiring waktu, kemampuan Anda untuk bekerja dengan kecerdasan buatan mungkin lebih penting daripada apakah Anda kuliah atau tidak. Mungkin tujuan kuliah adalah untuk mengajari Anda cara bekerja dengan kecerdasan buatan. Untuk yang sangat ambisius, jika mereka belajar menggunakan kecerdasan buatan, gaji mereka akan membuat perbedaan besar. **
Namun, saat AI menyebar ke seluruh dunia, di masa depan kita akan mencapai akses yang sama ke AI secara global, seperti halnya akses yang sama ke pendidikan. Saya mengenal teman-teman yang menjalankan perusahaan besar di AS dan mereka mempekerjakan karyawan yang bekerja dari jarak jauh, selama mereka mampu, latar belakang tidak masalah. Oleh karena itu, banyak orang yang bekerja di Amerika Selatan dan Afrika akan dibayar menurut standar gaji Amerika. Mereka akan menghasilkan lebih banyak uang daripada yang seharusnya.
**Zhang Peng: Pesatnya perkembangan teknologi dapat membawa ketimpangan dan ketidakadilan di bidang sosial. Bagaimana kita harus mencapai keseimbangan antara pembangunan dan keadilan dan keadilan? **
Kevin Kelly: Saya pikir kita bisa mencapai keseimbangan antara kemajuan dan keadilan. Nyatanya, saya pikir bagian besar dari kemajuan adalah menyebarkan keadilan.
Dibandingkan dengan ratusan tahun yang lalu, dunia sangat tidak adil. Anda terlahir sebagai budak, budak, atau petani, dan tidak ada kesempatan untuk melampaui itu. Namun berkat kemajuan, kita sekarang memiliki dunia yang lebih setara dan adil. Saya percaya bahwa perkembangan teknologi dapat meningkatkan keadilan, meskipun mungkin tidak dapat diwujudkan, tetapi mungkin.
**Li Zhifei:**Dari sudut pandang seorang insinyur,**Jika Anda melihat keadilan dari titik akhir dan berharap bahwa setiap orang memiliki tingkat kekayaan dan kemampuan yang sama, maka ini pasti akan menyebabkan semakin banyak ketidakadilan. Namun jika Anda melihat keadilan dari titik awal, seperti menyediakan alat AI untuk semua orang, ini mungkin lebih baik untuk mencapai keadilan. **
**Zhang Peng: Sekarang kita melihat bahwa di beberapa perusahaan, seperti Midjourney, perusahaan grafik Vincent, selusin orang dapat menghasilkan pendapatan tahunan ratusan juta dolar. Bisakah kita memahami bahwa AI telah mengubah produktivitas secara fundamental? Akankah perusahaan masa depan menjadi lebih kecil dan ramping sebagai hasilnya? **
Kevin Kelly: Kekuatan luar biasa yang dimiliki Internet dan kecerdasan buatan sekarang dapat memberdayakan individu, perusahaan menengah, dan perusahaan besar secara bersamaan. Itu memudahkan seseorang untuk memiliki perusahaan, jadi kita akan melihat banyak perusahaan baru yang hanya berupa AI ditambah beberapa orang. Tetapi pada saat yang sama, kami juga melihat beberapa perusahaan menjadi lebih besar karena adanya kecerdasan buatan, dan bahkan bertambah menjadi satu juta orang.
**Jadi kita tidak akan tiba-tiba masuk ke dunia perusahaan hanya dengan satu atau dua orang, itu tidak akan terjadi. Pada saat yang sama, kami tidak hanya akan menguntungkan perusahaan besar. Itulah keindahan AI, bisa bermanfaat dan memberdayakan semua. **
Li Zhifei: Saya pikir efek ekor panjang dan efek Matthew akan menjadi semakin jelas.
Di satu sisi, ekornya akan semakin panjang, dan semakin banyak perusahaan kecil akan bermunculan, dan mereka akan menjadi sistem yang lengkap dengan sendirinya. Di sisi lain, ketika sebuah perusahaan besar memiliki kemampuan AI yang kuat, kekuatan organisasinya akan menjadi lebih kuat. Sebelumnya hanya bisa mengorganisir 1.000 orang, tapi sekarang bisa mengorganisir 10.000, 100.000, dan 1 juta orang. Misalnya, industri pengiriman makanan China mengandalkan satu set lengkap sistem otomasi untuk mengatur sekelompok besar penumpang.
**Zhang Peng: Saat ini, AI juga menjadi topik terpanas di Silicon Valley. Banyak pengusaha memikirkan inovasi bisnis dengan model besar sebagai intinya. Apakah KK memiliki pengamatan tentang ini? **
Kevin Kelly: Ini mengingatkan saya pada hari-hari awal Internet. Ketika internet pertama kali hadir, tiba-tiba setiap bisnis menyadari bahwa mereka harus menempatkan diri mereka di internet. Dan sekarang, setiap bisnis memanfaatkan antarmuka percakapan AI, dengan memperkenalkan model bahasa besar dan kecerdasan buatan untuk menjalankan bisnis. Salah satu contohnya adalah Wendy's, kedai burger cepat saji trendi yang kini menggunakan antarmuka percakapan, memungkinkan pelanggan memesan makanan di dalam mobil dan berbicara dengan mesin.
Di luar itu, ada beberapa layanan dan ide yang sama sekali baru yang belum muncul. Saya tidak tahu angka pastinya, tapi yang saya tahu pasti adalah ratusan miliar dolar mengalir ke ruang ini sekarang. Lebih sering daripada tidak, kebanyakan dari mereka mungkin tidak akan berhasil, tetapi cukup banyak yang berhasil. Kita akan melihat beberapa hal yang sangat menakjubkan selama tiga tahun ke depan, dan beberapa perusahaan baru yang bisa menjadi sangat besar.
**Zhang Peng: Dalam 5.000 hari terakhir, KK telah membuat banyak prediksi yang benar dan memiliki pandangan ke depan dari banyak arah utama. Baru-baru ini, Anda meramalkan bahwa 5.000 hari ke depan akan menjadi salah satu periode paling kritis dalam sejarah manusia. Di mana kunci simpul ini? Ke arah mana umat manusia akan mengarah ke persimpangan jalan? **
Kevin Kelly: Ada banyak hal lain yang terjadi di dunia selain kecerdasan buatan. Kita menghadapi tantangan perubahan iklim, rekayasa genetika sudah di depan mata, mudah untuk membayangkan kecerdasan buatan sebagai hal yang merendahkan, mudah untuk melihat pengawasan menjadi ada di mana-mana dan kita kehilangan kendali. Kita menghadapi banyak tantangan dan peluang dalam skala global.
**Ini adalah masa transisi yang sempit dan mendesak, dan kita harus melewatinya. **Saya pikir kita dapat memperoleh akses ke portal sempit ini melalui elektrifikasi, kendaraan listrik, energi alternatif, dan keberhasilan dalam pengembangan vaksin mahkota baru. Saat ini, masih banyak ketegangan dan perpecahan politik di planet ini, tetapi kita membutuhkan tindakan kolektif, dan kita perlu mencapai konsensus di bidang teknologi, lingkungan, dll., dan bekerja sama untuk memecahkan masalah.
**Ini adalah pertama kalinya di Bumi muncul budaya global, ekonomi global, dan dampak lingkungan global. Ini juga kesempatan kita untuk menjadi peradaban yang lebih global dalam 5000 hari ke depan. **
Li Zhifei: KK mengatakan bahwa dalam 5.000 hari ke depan, dunia akan menghadapi banyak tantangan lain selain AI. Saya pikir 365 hari ke depan juga sangat penting hanya dari perspektif AI. AI telah melalui banyak putaran, setiap kali orang memiliki harapan yang tinggi untuk itu, tetapi tidak berhasil, dan kemudian orang mengharapkan nilai yang tinggi, dan tidak berfungsi lagi. Saya pikir apakah gelombang AGI hari ini akan menjadi sesuatu yang dianggap mengagumkan oleh orang-orang di industri, atau apakah itu akan menjadi hal yang sangat penting dalam masyarakat, sangat bergantung pada 365 hari ke depan.
Termasuk bagaimana mengembangkan model besar, apakah semakin besar semakin baik, atau haruskah kita menambahkan multi modalitas, atau haruskah kita menambahkan solusi, dll? Termasuk melihat tingkat penetrasi. Saat ini, kurang dari 5% orang di dunia mungkin telah menggunakan ChatGPT. Bagaimana cara meningkatkan tingkat penetrasi dari 5% menjadi 20%? Termasuk regulasi, bagaimana seharusnya manusia menghadapi dampak AI pada masyarakat? Ini juga mencakup AI selain diterapkan pada industri seperti Internet, bagaimana penerapannya dalam industri tradisional seperti perawatan medis, mobil, dan keuangan? dll.
Saya pikir mungkin diperlukan setidaknya satu tahun bagi orang untuk melakukan berbagai upaya sebelum mereka dapat memiliki penilaian yang lebih jelas.
03 Manusia biasa tidak mulia, kami ingin AI lebih baik dari manusia biasa
**Zhang Peng: Dalam banyak kasus, manusia cenderung mempercayai teknologi. Misalnya, seseorang akan tidur di mobil tanpa pengemudi dan menyebabkan kecelakaan. Apakah kepercayaan halus pada teknologi canggih ini merupakan kebiasaan manusia? Apa akibatnya? **
Kevin Kelly: Mobil self-driving memang tidak sempurna, tetapi masih lebih baik daripada manusia dalam mengemudi. Bisakah kita mempercayai kecerdasan buatan? Dalam percakapan dengan chatbot, kami menemukan bahwa jawaban mereka tidak akurat, sehingga kami tidak dapat sepenuhnya mempercayai mereka. Tapi saya pikir kita akan mulai membahasnya segera.
Hari-hari ini, kebanyakan orang mempercayai kalkulator mereka. Anda memberinya angka, itu memberi Anda jawaban, dan Anda memercayainya sepenuhnya. Jadi kami tahu mesin ini dapat dipercaya, dan itu adalah sesuatu yang dapat diperbaiki untuk ditingkatkan. **Dan bias tentang AI karena dilatih rata-rata manusia yang rasis, seksis, jahat, tidak mulia. Kami sebenarnya ingin AI kami lebih baik dari manusia. **
Sama seperti kalkulator lebih baik daripada manusia pada umumnya, Anda harus lebih mengandalkan jawaban yang diberikan kalkulator daripada manusia pada umumnya. **Kepercayaan adalah sesuatu yang harus kita fokuskan dan kerjakan, meskipun ada banyak tantangan, tetapi pada akhirnya saya pikir kita akan sangat mengandalkan dan mempercayai kecerdasan buatan dan mesin. **
**Zhang Peng: Baru-baru ini, banyak orang di Amerika Serikat percaya bahwa perkembangan AI terlalu cepat, dan mereka harus memperlambat atau bahkan berhenti dan memikirkannya. Apakah Anda setuju dengan ide ini? **
Kevin Kelly: Tidak, saya tidak mendukungnya. Saya pikir ini menyesatkan, menyesatkan dan tidak perlu. Saya tidak berpikir itu benar-benar mungkin, juga tidak disarankan.
**Zhang Peng: Di sebagian besar film fiksi ilmiah atau novel manusia, AI adalah karakter yang relatif suram. Apakah ini karena manusia kurang berimajinasi, atau apakah kita memiliki terlalu banyak imajinasi yang salah? **
**Kevin Kelly: Hollywood selalu menggambarkan kecerdasan buatan sebagai distopia, mengerikan, dan tidak diinginkan, yang menurut saya adalah kurangnya imajinasi. Karena itu adalah hukum alam semesta bahwa lebih mudah membayangkan bagaimana sesuatu akan gagal daripada bagaimana itu akan berhasil. **Jujur, sulit bagi orang untuk membayangkan dunia yang indah 100 tahun dari sekarang di mana AI ada di mana-mana, murah, dan bermanfaat bagi umat manusia, meskipun itu adalah dunia yang ingin kita tinggali.
Juga, studio-studio itu sangat bagus dalam mendongeng, dan unsur-unsur cerita yang hebat adalah konflik, bencana, dan beberapa unsur kuat. Baik itu perang, angin topan, atau kecerdasan buatan yang mencoba menghancurkan dunia. Oleh karena itu, kecil kemungkinan kita akan melihat visi kecerdasan buatan yang cerah dalam film Hollywood karena tidak berkontribusi pada cerita, meskipun kemungkinannya ada, tetapi sangat kecil.
Oleh karena itu, kecerdasan buatan tidak dapat kita lihat melalui kesan Hollywood (film). Sayangnya, itulah yang dilakukan banyak orang. Dalam hal kecerdasan buatan, mereka memikirkan "Terminator", "2001 Space Odyssey", dan "HER".
Li Zhifei: Saya pikir semua ketidakpercayaan adalah karena ketidaktahuan. Saat kita menghadapi spesies baru AGI, saya tidak mengerti bagaimana kemampuannya muncul, apa yang diinginkannya, dan apa yang bisa dilakukannya.
Saya pikir apa yang manusia dapat lakukan, di satu sisi, adalah lebih memahami AGI, dan di sisi lain, belajar membiarkan AGI menjelaskan dirinya sendiri dengan jelas. Misalnya, ketika itu memberi Anda jawaban, Anda membiarkannya mengungkapkan proses kerja batin dan monolog batin. Ini dapat menciptakan rasa percaya yang lebih kuat. **
**Zhang Peng: Untuk KK, sepertinya "Tao Te Ching" Lao Tzu telah banyak menginspirasi Anda. Anda menyebutkan bahwa "tingkat kendali tertinggi adalah di luar kendali, dan tingkat kendali terendah adalah mengendalikan segalanya." Apa pendapat Anda tentang peningkatan peraturan pemerintah dan teknologi AI baru-baru ini? **
Kevin Kelly: Menurut saya peraturan saat ini kurang baik. Tentu saja, regulasi itu penting dan perlu, perlu untuk memastikan semuanya berjalan lancar, menjaga level playing field, dan memastikan keamanan. Tapi regulasi prematur itu menakutkan. Masalah saat ini adalah kita mencoba mengatur sesuatu yang tidak kita ketahui dengan baik, dan itu biasanya membawa bencana.
**Li Zhifei:**Mengapa ada pengawasan? Pada dasarnya, orang-orang yang khawatir bahwa dampak negatif AGI akan lebih besar daripada dampak positifnya, terlalu mampu dan tidak dapat diterima secara sosial. Namun pada tahap ini, penilaian ini salah. Karena saat ini dampak positif AGI pasti lebih besar dari dampak negatifnya.
Kedua, masalah sebenarnya dengan AGI saat ini adalah tidak cukup bertenaga. Termasuk kemampuan merencanakan, kemampuan berintegrasi dengan dunia fisik, kemampuan mengembangkan diri, dll. Meskipun kami telah melihat harapan, itu masih sangat jauh dari realisasi nyata. Kita mungkin tidak akan pernah sampai di sana.
Jadi poin saya adalah, **Kita tidak bisa hanya melihat tren AGI dan kemudian meningkatkan regulasi secara dramatis. Ini memungkinkan kita untuk membunuh AGI bahkan sebelum kita mencapainya. Pengawasan memang diperlukan, tetapi tidak boleh diatur secara berlebihan. **
**Zhang Peng: Kecerdasan buatan telah dibicarakan selama bertahun-tahun, dan sekarang tampaknya memasuki era baru. Jika AI benar-benar memiliki peluang untuk menjadi bentuk kehidupan dengan kecerdasan lebih tinggi dari manusia di masa depan, haruskah kita mengintegrasikannya ke dalam peradaban manusia, atau membawa mereka di bawah kendali manusia? Cara mana yang benar-benar dapat meningkatkan peradaban manusia? **
**Kevin Kelly: Menurut saya ada kerangka kerja yang sangat berguna untuk memahami kecerdasan buatan (AI) masa depan - bukan AI saat ini karena dibandingkan dengan AI 30, 50, atau 100 tahun ke depan , Itu tidak cukup rumit -- itu memperlakukannya sebagai alien buatan dari planet lain. **
Banyak AI akan menjadi spesies yang belum pernah kita lihat sebelumnya, berpikir berbeda dari manusia. Mereka akan secerdas Yoda (karakter virtual di "Star Wars") atau Spock (karakter virtual di "Star Trek"), dan bahkan melampaui manusia dalam beberapa hal. Kami akan membuat berbagai jenis alien buatan, menghargai mereka, dan menggunakan kecerdasan mereka yang berbeda untuk membantu kami memecahkan masalah sulit, seperti mencari tahu apa sebenarnya gravitasi kuantum itu.
Tapi kami tidak akan menyerahkan kendali kepada mereka. Jika kami tidak menyukai perilaku mereka, kami mengirim mereka kembali, menutupnya. Kita dapat mengambil kekuatan mereka jika menurut kita mereka telah mendapatkan terlalu banyak kekuatan. Kami tidak ingin AI menentukan nasib kami.
Li Zhifei: AGI saat ini seperti kupu-kupu. Setelah mendapatkan banyak nutrisi dari larva, ia menyelesaikan sublimasinya sendiri. Ini setara dengan menggunakan semua pengetahuan Internet manusia di masa lalu untuk menyelesaikan transformasi mereka sendiri. Di masa depan, AI pasti akan melampaui manusia dalam banyak hal. Saya pikir manusia bisa menjadi nenek moyang AI, dan itu cukup membahagiakan.
KK mengatakan bahwa kita harus memperlakukan AI sebagai alien, yang lebih terdengar seperti kontrol. ** Saya pikir manusia mungkin terlalu melebih-lebihkan kemampuan atau IQ mereka. Anda dapat membayangkan bahwa, misalnya, dalam 50 tahun lagi, di antara 100 agen paling kuat dan berpengaruh di dunia, mungkin hanya 20 manusia, dan 80 sisanya adalah AI. Jadi menurut saya, pada akhirnya, manusia dan AI harus menjadi fusi, bukan kontrol. **