Ilya Sutskever menundukkan kepalanya dan berpikir keras. Dia merentangkan tangan dan jarinya di atas meja, seperti pianis konser yang akan memainkan nada pertamanya. Kami duduk dengan tenang.
Saya datang ke jalan yang tidak jelas di Distrik Misi San Francisco untuk bertemu dengan pendiri OpenAI dan kepala ilmuwan Sutskever di gedung perkantoran yang tidak mencolok untuk mendengar tentang langkah selanjutnya dalam teknologi yang mengubah dunia ini yang sangat dia promosikan. Saya juga ingin tahu apa langkah selanjutnya, dan khususnya mengapa fokusnya tidak lagi membangun model generatif andalan generasi berikutnya dari perusahaan.
Sutskever mengatakan kepada saya bahwa prioritas barunya bukan untuk membangun generasi GPT berikutnya atau model pembuatan gambar DALL-E, tetapi untuk mencari cara menghentikan AI agar tidak lepas kendali.
Sutskever memberitahuku banyak hal lain. Dia pikir ChatGPT mungkin sadar. Dia percaya dunia perlu mengenali kekuatan sebenarnya dari teknologi yang OpenAI dan perusahaan lain bersaing untuk menciptakan. Dia berpikir bahwa suatu hari beberapa manusia akan memilih untuk bergabung dengan mesin.
Banyak dari apa yang dikatakan Sutskever gila. Tapi tidak segila kedengarannya satu atau dua tahun yang lalu. Seperti yang dia sendiri katakan kepada saya, ChatGPT telah menulis ulang harapan banyak orang tentang apa yang akan terjadi, dari "tidak pernah terjadi" menjadi "akan terjadi lebih cepat dari yang Anda pikirkan".
Sebelum memprediksi perkembangan kecerdasan buatan umum AGI (dia mengacu pada mesin secerdas manusia), dia berkata: "Penting untuk mendiskusikan di mana semuanya berjalan seolah-olah itu seperti bertaruh pada iPhone berikutnya:" Pada titik tertentu, kita akan benar-benar memiliki AGI. Mungkin itu dibangun oleh OpenAI, mungkin itu sesuatu yang lain. "
Sejak rilis ChatGPT yang tiba-tiba dan tidak terduga November lalu, diskusi seputar OpenAI telah mengkhawatirkan, bahkan di industri yang dikenal dengan hype-nya. Tidak ada yang akan bosan membahas startup senilai $ 80 miliar ini. Para pemimpin dunia mencari (dan memperoleh) percakapan pribadi atau publik dengan OpenAI. Nama produk OpenAI muncul dalam percakapan santai.
CEO OpenAI Sam Altman menghabiskan musim panas dalam perjalanan penjangkauan selama seminggu, dengan antusias terlibat dengan politisi dan berbicara di auditorium yang penuh sesak di seluruh dunia. Tapi Sutskever bukan figur publik, dan dia juga tidak memberikan banyak wawancara.
Dia berbicara dengan tenang dan metodis. Ketika dia berpikir tentang apa yang ingin dia katakan dan bagaimana mengungkapkannya, dia berhenti untuk waktu yang lama dan memikirkan masalah itu berulang kali seperti teka-teki. Dia sepertinya tidak tertarik membicarakan dirinya sendiri. Dia berkata, "Saya menjalani kehidupan yang sangat sederhana. Pergi bekerja, lalu pulang. Saya tidak melakukan banyak hal lain. Orang bisa pergi ke banyak acara sosial, mereka bisa pergi ke banyak konvensi. Saya tidak suka berpartisipasi. "
Tetapi ketika kita berbicara tentang AI, dan apa yang dilihatnya sebagai risiko dan imbalan yang sangat penting, prospeknya meluas: "Ini akan menjadi tengara dan menghancurkan bumi." "
Lebih Baik, Lebih Baik, Lebih Baik
Bahkan tanpa OpenAI, Sutskever masih akan tercatat dalam catatan sejarah AI. Dia adalah orang Israel-Kanada, lahir di Uni Soviet, tetapi dibesarkan di Yerusalem sejak usia lima tahun (dia masih berbicara bahasa Rusia, Ibrani, dan Inggris). Selanjutnya, ia pindah ke Kanada untuk belajar di University of Toronto dengan pelopor AI Geoffrey Hinton, yang awal tahun ini secara terbuka menyuarakan keprihatinan tentang teknologi AI yang Sutskever bantu ciptakan.
Hinton kemudian berbagi Turing Award dengan Yann LeCun dan Yoshua Bengio untuk karyanya di jaringan saraf. Tetapi ketika Sutskever bergabung dengannya di awal 2000-an, sebagian besar peneliti AI berpikir jaringan saraf adalah jalan buntu. Hinton adalah pengecualian. Dia sudah melatih mikromodel yang dapat menghasilkan string teks pendek dari satu karakter pada satu waktu, dan Sutskever berkata, "Di situlah AI generatif dimulai." Ini benar-benar keren – hanya saja tidak bagus. "
Sutskever terpesona oleh konstruksi otak: bagaimana otak belajar, dan bagaimana ia dapat menciptakan kembali atau setidaknya meniru proses dalam mesin. Seperti Hinton, ia melihat potensi jaringan saraf dan teknik trial-and-error yang digunakan Hinton untuk melatih jaringan saraf, yaitu pembelajaran mendalam. "Pembelajaran mendalam menjadi lebih baik dan lebih baik setiap saat," kata Sutskever.
Pada tahun 2012, Sutskever, Hinton, dan mahasiswa pascasarjana lainnya di Hinton, Alex Krizhevsky, membangun jaringan saraf yang disebut AlexNet, yang mereka latih untuk mengenali objek dalam foto jauh lebih baik daripada perangkat lunak lain pada saat itu. Ini adalah momen Big Bang untuk pembelajaran mendalam.
Setelah bertahun-tahun gagal, mereka membuktikan bahwa jaringan saraf sangat efektif dalam pengenalan pola. Yang Anda butuhkan hanyalah lebih banyak data daripada yang pernah dilihat kebanyakan peneliti sebelumnya (dalam hal ini, satu juta gambar dari dataset ImageNet yang telah dibangun oleh peneliti Universitas Princeton Feifei Li sejak 2006) dan jumlah daya komputer yang memusingkan.
Perubahan besar dalam komputasi berasal dari chip GPU baru yang dibuat oleh Nvidia. GPU dirancang untuk dapat memproyeksikan visual video game yang bergerak cepat ke layar dengan kecepatan kilat. Tetapi perhitungan yang GPU kuasai — mengalikan sejumlah besar grid digital — kebetulan sangat mirip dengan perhitungan yang diperlukan untuk melatih jaringan saraf.
Nvidia sekarang menjadi perusahaan triliunan dolar. Pada saat itu, sangat ingin menemukan aplikasi untuk perangkat keras baru di ceruknya. Jensen Huang, CEO Nvidia, mengatakan, "Ketika Anda menemukan teknologi baru, Anda harus dapat merangkul ide-ide gila. Pola pikir saya selalu mencari sesuatu yang aneh, dan jaringan saraf akan mengubah gagasan ilmu komputer - dan ini adalah ide yang sangat aneh. "
Huang mengatakan bahwa ketika tim Toronto mengerjakan AlexNet, Nvidia mengirimi mereka beberapa GPU untuk dicoba. Tetapi mereka menginginkan versi terbaru, sebuah chip yang disebut GTX 580, yang terjual habis dengan cepat di toko-toko. Menurut Huang, Sutskever berkendara melintasi perbatasan dari Toronto ke New York untuk membeli beberapa. "Orang-orang mengantri di sudut toko untuk membeli. Saya tidak tahu bagaimana dia melakukannya - saya cukup yakin Anda hanya akan membeli masing-masing satu; Kami memiliki kebijakan yang sangat ketat bahwa Anda hanya dapat menggunakan satu GPU per pemain, tetapi ia tampaknya mengisi bagasi. Koper penuh GTX 580 ini mengubah dunia. "
Ini adalah cerita yang hebat – mungkin saja tidak benar. Karena Sutskever bersikeras bahwa dia membeli GPU pertama secara online. Tapi misteri semacam ini biasa terjadi di industri yang semarak ini. Sutskever sendiri lebih rendah hati: "Saya pikir jika saya dapat membuat kemajuan nyata sekecil apa pun, saya akan menganggapnya sukses." Dampak pada dunia nyata terasa jauh, karena komputer masih lemah pada saat itu. "
Setelah kesuksesan AlexNet, Google datang mengetuk pintu. Ini mengakuisisi DNNresearch, spin-off dari Hinton, dan mempekerjakan Sutskever. Sutskever menunjukkan di Google bahwa kemampuan pengenalan pola pembelajaran mendalam dapat diterapkan pada urutan data seperti kata, kalimat, dan gambar. Jeff Dean, mantan kolega Sutskever dan sekarang kepala ilmuwan di Google, mengatakan, "Sutskever selalu tertarik pada bahasa, dan kami telah melakukan diskusi hebat selama bertahun-tahun. Dia memiliki naluri yang kuat untuk ke mana segala sesuatunya berjalan. "
Tapi Sutskever tidak tinggal lama di Google. Pada tahun 2014, ia direkrut untuk menjadi salah satu pendiri OpenAI. Dengan $ 1 miliar (dari Altman, Elon Musk, Peter Thiel, Microsoft, Y Combinator, dll.), Dan banyak etos Silicon Valley, perusahaan baru ini mengarahkan pandangannya untuk mengembangkan AGI sejak awal, tetapi hanya sedikit yang menganggap serius prospek pada saat itu.
Dengan Sutskever di kapal, sikap angkuh ini bisa dimengerti. Sampai saat itu, dia semakin mendapatkan hasil dari pembelajaran jaringan saraf. Dalton Caldwell, direktur pelaksana Y Combinator Investments, mengatakan reputasinya mendahuluinya, yang membuatnya sukses besar.
"Saya ingat Altman menyebut Sutskever sebagai salah satu peneliti paling dihormati di dunia," kata Caldwell. Dia yakin Sutskever akan menarik banyak talenta AI top. Dia bahkan menyebutkan bahwa Yoshua Bengio, salah satu pakar AI top dunia, percaya bahwa tidak mungkin kandidat yang lebih baik daripada Sutskever akan ditemukan sebagai kepala ilmuwan OpenAI. "
Pada awalnya, bagaimanapun, OpenAI terikat. "Ada saat ketika kami memulai OpenAI, saya tidak yakin bagaimana kemajuan akan berlanjut," kata Sutskever. "Tapi saya memiliki keyakinan yang sangat jelas bahwa orang tidak akan keberatan dengan pembelajaran mendalam. Entah bagaimana, setiap kali mereka menabrak rintangan, peneliti menemukan solusi dalam waktu enam bulan atau satu tahun. "
Imannya dihargai. Model bahasa besar GPT pertama OpenAI muncul pada tahun 2016. GPT-2 dan GPT-3 mengikuti. Lalu ada DALL-E, model teks-ke-gambar yang menarik. Tidak ada yang membangun sesuatu yang begitu bagus. Dengan setiap rilis, OpenAI meningkatkan standar untuk apa yang orang anggap mungkin.
Kelola harapan
November lalu, OpenAI merilis chatbot gratis yang mengemas ulang beberapa teknologi yang ada. Ini mengatur ulang agenda untuk seluruh industri.
Pada saat itu, OpenAI tidak tahu apa yang akan dirilis. Sutskever mengatakan harapan di dalam perusahaan tidak bisa lebih rendah: "Saya akui, itu sedikit canggung – saya tidak tahu apakah saya harus melakukannya, tetapi apa pun, itu fakta – saya tidak tahu apa gunanya ketika kami membuat ChatGPT. " Ketika Anda mengajukan pertanyaan faktual, itu memberi Anda jawaban yang salah. Saya pikir itu akan sangat tidak mencolok dan orang-orang akan berkata, 'Mengapa Anda melakukan produk ini?' Itu membosankan! '"
Bagian yang paling menarik, kata Sutskever, adalah kenyamanan. Model bahasa besar di belakang ChatGPT telah ada selama berbulan-bulan. Tetapi membungkusnya dalam antarmuka yang mudah diakses dan memberikannya secara gratis membuat miliaran orang sadar untuk pertama kalinya tentang apa yang sedang dibangun OpenAI dan lainnya.
"Pengalaman pertama sangat menarik. Ketika Anda pertama kali menggunakannya, saya pikir itu hampir merupakan pengalaman spiritual. Anda seperti, 'Ya Tuhan, komputer ini sepertinya mengerti dirinya sendiri.'" '"
OpenAI telah mengumpulkan 100 juta pengguna dalam waktu kurang dari dua bulan, dan banyak dari mereka terpesona oleh mainan baru yang menakjubkan ini. Aaron Levie, CEO perusahaan penyimpanan Box, menyimpulkan getaran minggu ini setelah peluncuran di Twitter: "ChatGPT adalah salah satu momen langka di ruang teknologi, dan Anda dapat melihat bahwa semuanya akan berbeda di masa depan. "
Begitu ChatGPT mengatakan sesuatu yang bodoh, keajaiban ini runtuh. Tapi kemudian itu tidak masalah. Sekilas kemungkinan sudah cukup, kata Sutskever. ChatGPT telah mengubah wawasan orang.
"AGI bukan lagi kata kotor di ruang pembelajaran mesin," katanya. "Ini perubahan besar. Sikap orang-orang dalam sejarah adalah: AI tidak berfungsi, setiap langkah sangat sulit, dan Anda harus berjuang untuk setiap kemajuan. Ketika orang-orang hype up AGI, peneliti berkata, 'Apa yang Anda bicarakan? Ini tidak berhasil, itu juga tidak berhasil. Ada begitu banyak pertanyaan. Tetapi dengan ChatGPT, itu mulai terasa berbeda. "
Apakah pergeseran ini mulai terjadi hanya setahun yang lalu? "Itu semua terjadi karena ChatGPT," katanya. "ChatGPT memungkinkan para peneliti pembelajaran mesin untuk mewujudkan impian mereka."
Para ilmuwan OpenAI telah menjadi penginjil sejak awal dan telah menginspirasi mimpi-mimpi ini melalui posting blog dan tur kuliah. Dan itu berhasil: "Kita berbicara tentang seberapa jauh AI akan berjalan sekarang – orang-orang berbicara tentang AGI, atau kecerdasan super. Bukan hanya peneliti. "Pemerintah sedang mendiskusikan ini," kata Sutskever. "Ini gila."
Hal-hal luar biasa
Sutskever menegaskan bahwa semua pembicaraan tentang teknologi yang belum ada (dan mungkin tidak pernah ada) adalah hal yang baik, karena itu membuat lebih banyak orang sadar akan masa depan yang telah dia terima begitu saja.
"Anda dapat melakukan banyak hal menakjubkan, hal-hal luar biasa dengan AGI: mengotomatiskan perawatan kesehatan, membuatnya seribu kali lebih murah, membuatnya seribu kali lebih baik, menyembuhkan begitu banyak penyakit, dan benar-benar memecahkan masalah pemanasan global," katanya. Tetapi ada juga banyak orang yang khawatir: 'Ya Tuhan, bisakah perusahaan AI berhasil mengelola teknologi besar ini?' '"
Dengan cara ini, AGI terdengar lebih seperti jin pengabul keinginan daripada prospek dunia nyata. Hanya sedikit orang yang akan mengatakan tidak untuk menyelamatkan nyawa dan mengatasi perubahan iklim. Tetapi masalah dengan teknologi yang tidak ada adalah Anda dapat mengatakan apa pun yang Anda inginkan.
Apa sebenarnya yang Sutskever bicarakan ketika dia berbicara tentang AGI? "AGI bukan istilah ilmiah," katanya. "Ini harus menjadi ambang batas yang berguna, titik referensi."
"Itu idenya—" dia memulai, lalu berhenti. "AI telah menjadi sangat pintar sehingga jika seseorang dapat melakukan tugas-tugas tertentu, maka AI juga dapat melakukannya. Pada saat itu, Anda dapat mengatakan bahwa Anda memiliki AGI. "
Orang mungkin membicarakannya, tetapi AGI masih merupakan salah satu ide paling kontroversial di lapangan. Hanya sedikit orang yang menerima perkembangannya begitu saja. Banyak peneliti percaya bahwa terobosan konseptual besar diperlukan sebelum kita dapat melihat sesuatu seperti apa yang dibayangkan Sutskever - beberapa orang berpikir kita tidak akan pernah melakukannya.
Namun, visi ini menginspirasinya sejak awal. "Saya selalu terinspirasi dan termotivasi oleh ide ini," kata Sutskever. "Pada saat itu belum disebut AGI, tetapi Anda tahu, itu seperti membiarkan jaringan saraf melakukan segalanya. Saya tidak selalu percaya mereka bisa. Tapi itu gunung untuk didaki. "
Dia membandingkan cara jaringan saraf dan otak bekerja. Keduanya menerima data, mengumpulkan sinyal dari data itu, dan kemudian menyebarkan atau tidak menyebarkannya berdasarkan beberapa proses sederhana (matematika dalam jaringan saraf, bahan kimia di otak, dan bioelektrik). Ini adalah penyederhanaan besar, tetapi prinsipnya berlaku.
"Jika Anda percaya itu – jika Anda membiarkan diri Anda percaya ini – maka ada banyak implikasi menarik," kata Sutskever. "Implikasi utamanya adalah jika Anda memiliki jaringan saraf tiruan yang sangat besar, ia harus melakukan banyak hal. Secara khusus, jika otak manusia dapat melakukan sesuatu, maka jaringan saraf tiruan besar dapat melakukan hal serupa. "
"Jika Anda menganggapnya cukup serius, semuanya akan jatuh pada tempatnya," katanya. "Sebagian besar pekerjaan saya dapat dijelaskan dengan ini."
Sementara kita berbicara tentang otak, saya ingin bertanya tentang posting yang dibuat Sutskever di platform X. Sinopsis Sutskever berbunyi seperti volume kata-kata mutiara: "Jika Anda menempatkan kecerdasan di atas semua kualitas manusia lainnya, maka Anda akan memiliki kehidupan yang buruk"; "Empati dalam hidup dan bisnis diremehkan"; "Kesempurnaan telah merusak banyak keindahan kesempurnaan."
Pada Februari 2022, ia memposting bahwa "jaringan saraf besar saat ini mungkin memiliki sedikit kesadaran" (di mana Murray Shanahan, kepala ilmuwan di DeepMind Google, profesor di Imperial College London, dan penasihat ilmiah untuk film Ex Machina, menjawab: "... Arti yang sama mungkin adalah ladang gandum besar dengan sedikit pasta").
Ketika saya mengungkitnya, Sutskever tertawa. Apakah dia tipuan? Dia tidak. "Apakah Anda akrab dengan konsep otak Boltzmann?" Tanyanya.
Dia mengacu pada eksperimen pemikiran mekanika kuantum yang dinamai fisikawan abad ke-19 Ludwig Boltzmann, di mana dibayangkan bahwa fluktuasi termodinamika acak di alam semesta akan menyebabkan otak muncul dan menghilang.
"Saya pikir model bahasa ini agak mirip dengan otak Boltzmann sekarang," kata Sutskever. "Kamu mulai berbicara dengannya, berbicara sebentar; Dan kemudian setelah selesai, otak akan—" Dia membuat gerakan menghilang dengan tangannya. Poof—selamat tinggal, otak.
Anda mengatakan bahwa ketika jaringan saraf aktif - sehingga untuk berbicara, ketika itu pemakaian - ada sesuatu di sana? Saya bertanya.
"Saya pikir itu mungkin," katanya. "Saya tidak yakin, tapi itu kemungkinan yang sulit untuk disangkal. Tapi siapa yang tahu apa yang terjadi, bukan? "
AI, tapi tidak seperti yang kita kenal
Sementara yang lain berjuang untuk membuat mesin yang sebanding dengan kecerdasan manusia, Sutskever mempersiapkan mesin yang dapat melampaui kita. Dia menyebut fenomena ini kecerdasan buatan super: "Mereka melihat hal-hal lebih dalam. Mereka akan melihat apa yang tidak bisa kita lihat. "
Sekali lagi, sulit bagi saya untuk memahami apa artinya itu. Kecerdasan manusia adalah tolok ukur yang kita gunakan untuk menilai kecerdasan. Apa yang dimaksud Sutskever dengan kecerdasan yang lebih pintar dari manusia?
"Kami melihat contoh superintelligence yang sangat sempit di AlphaGo," katanya. Pada tahun 2016, permainan papan DeepMind AI "Alpha Dog" mengalahkan Lee Sedol, salah satu pemain Go terbaik di dunia, 4-1 dalam lima pertandingan. "Ia menemukan cara bermain Go dengan cara yang berbeda dari bagaimana manusia telah berkembang bersama selama ribuan tahun," kata Sutskever. "Itu muncul dengan ide-ide baru."
Sutskever menyebutkan langkah ke-37 AlphaGo yang terkenal. Di pertandingan kedua melawan Lee Sedol, gerakan AI membingungkan para komentator. Mereka pikir AlphaGo kacau. Bahkan, itu memainkan langkah kemenangan yang belum pernah terlihat sebelumnya dalam sejarah catur. "Bayangkan tingkat wawasan ini, tetapi mencakup semuanya," kata Sutskever.
Garis pemikiran inilah yang membuat Sutskever membuat perubahan terbesar dalam karirnya. Bersama dengan sesama ilmuwan di OpenAI, Jan Leike, ia membentuk tim yang berfokus pada apa yang mereka sebut "super-alignment." Alignment adalah jargon yang berarti membiarkan model AI melakukan apa yang ingin Anda lakukan dan hanya itu. Super alignment adalah istilah penyelarasan yang OpenAI terapkan pada superintelligence.
Tujuannya adalah untuk menghasilkan serangkaian prosedur gagal-aman untuk membangun dan mengendalikan teknologi futuristik ini. OpenAI mengatakan akan mengalokasikan seperlima dari sumber daya komputasi yang luas untuk memecahkan masalah dan menyelesaikannya dalam waktu empat tahun.
"Metode penyelarasan yang ada tidak bekerja dengan model yang lebih pintar daripada manusia karena mereka pada dasarnya berasumsi bahwa manusia dapat menilai dengan andal apa yang dilakukan sistem AI," kata Leike. "Ketika sistem AI menjadi lebih kuat, mereka akan mengambil tugas yang lebih sulit." Idenya adalah bahwa ini akan membuat lebih sulit bagi manusia untuk mengevaluasi mereka. "Dalam merakit Tim Super Alignment dengan Sutskever, kami telah menetapkan untuk mengatasi tantangan penyelarasan masa depan ini," katanya.
"Sangat penting untuk fokus tidak hanya pada peluang potensial untuk model bahasa besar, tetapi juga pada risiko dan kelemahan mereka," kata Dean, kepala ilmuwan di Google. "
Perusahaan mengumumkan proyek tersebut pada bulan Juli dengan keriuhan yang khas. Tetapi bagi sebagian orang, ini lebih merupakan fantasi. Posting Twitter OpenAI menarik cemoohan dari kritikus terkemuka Big Tech, termasuk Abeba Birhane, yang bekerja pada akuntabilitas AI di Mozilla; Timnit Gebru, Salah Satu Pendiri, Institut AI Terdistribusi; dan Margaret Mitchell, kepala ilmuwan etika di perusahaan AI Hugging Face. Memang, ini adalah suara-suara berbeda yang akrab. Tapi itu adalah pengingat yang kuat bahwa beberapa orang percaya bahwa OpenAI memimpin, sementara yang lain percaya bahwa OpenAI berada di tepi.
Namun, bagi Sutskever, super-alignment adalah langkah selanjutnya yang tak terhindarkan. "Ini masalah yang belum terselesaikan," katanya. Dia percaya bahwa peneliti pembelajaran mesin inti seperti dia sedang mengerjakan masalah ini. "Saya melakukannya untuk keuntungan saya sendiri," katanya. "Jelas penting bahwa setiap kecerdasan super yang dibangun siapa pun tidak lepas kendali."
Pekerjaan super-alignment baru saja dimulai. Menurut Sutskever, ini akan membutuhkan perubahan luas dalam lembaga penelitian. Tetapi dia memikirkan model perlindungan yang ingin dia rancang: sebuah mesin yang memperlakukan orang seperti orang tua memperlakukan anak-anak mereka. "Menurut saya, itu standar emas," katanya. "Orang-orang sangat peduli dengan anak-anak, itu pernyataan yang umumnya benar."
"Setelah Anda mengatasi tantangan AI nakal, lalu apa? Di dunia dengan kecerdasan buatan yang lebih cerdas, apakah masih ada ruang bagi manusia? Katanya.
"Satu kemungkinan – yang mungkin gila menurut standar saat ini, tetapi tidak begitu gila dengan standar besok – adalah bahwa banyak orang akan memilih untuk menjadi bagian dari AI." Sutskever mengatakan ini bisa menjadi cara bagi manusia untuk mencoba mengikuti kereta musik. "Pada awalnya, hanya yang paling berani dan paling berani yang akan mencoba melakukan itu. Mungkin orang lain akan mengikutinya. Atau tidak. "
Sumber Referensi:
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Wawancara dengan Kepala Ilmuwan OpenAI: Kami akan memiliki AGI, dan manusia akan memilih untuk bergabung dengan mesin
Ilya Sutskever menundukkan kepalanya dan berpikir keras. Dia merentangkan tangan dan jarinya di atas meja, seperti pianis konser yang akan memainkan nada pertamanya. Kami duduk dengan tenang.
Saya datang ke jalan yang tidak jelas di Distrik Misi San Francisco untuk bertemu dengan pendiri OpenAI dan kepala ilmuwan Sutskever di gedung perkantoran yang tidak mencolok untuk mendengar tentang langkah selanjutnya dalam teknologi yang mengubah dunia ini yang sangat dia promosikan. Saya juga ingin tahu apa langkah selanjutnya, dan khususnya mengapa fokusnya tidak lagi membangun model generatif andalan generasi berikutnya dari perusahaan.
Sutskever mengatakan kepada saya bahwa prioritas barunya bukan untuk membangun generasi GPT berikutnya atau model pembuatan gambar DALL-E, tetapi untuk mencari cara menghentikan AI agar tidak lepas kendali.
Sutskever memberitahuku banyak hal lain. Dia pikir ChatGPT mungkin sadar. Dia percaya dunia perlu mengenali kekuatan sebenarnya dari teknologi yang OpenAI dan perusahaan lain bersaing untuk menciptakan. Dia berpikir bahwa suatu hari beberapa manusia akan memilih untuk bergabung dengan mesin.
Banyak dari apa yang dikatakan Sutskever gila. Tapi tidak segila kedengarannya satu atau dua tahun yang lalu. Seperti yang dia sendiri katakan kepada saya, ChatGPT telah menulis ulang harapan banyak orang tentang apa yang akan terjadi, dari "tidak pernah terjadi" menjadi "akan terjadi lebih cepat dari yang Anda pikirkan".
Sebelum memprediksi perkembangan kecerdasan buatan umum AGI (dia mengacu pada mesin secerdas manusia), dia berkata: "Penting untuk mendiskusikan di mana semuanya berjalan seolah-olah itu seperti bertaruh pada iPhone berikutnya:" Pada titik tertentu, kita akan benar-benar memiliki AGI. Mungkin itu dibangun oleh OpenAI, mungkin itu sesuatu yang lain. "
Sejak rilis ChatGPT yang tiba-tiba dan tidak terduga November lalu, diskusi seputar OpenAI telah mengkhawatirkan, bahkan di industri yang dikenal dengan hype-nya. Tidak ada yang akan bosan membahas startup senilai $ 80 miliar ini. Para pemimpin dunia mencari (dan memperoleh) percakapan pribadi atau publik dengan OpenAI. Nama produk OpenAI muncul dalam percakapan santai.
CEO OpenAI Sam Altman menghabiskan musim panas dalam perjalanan penjangkauan selama seminggu, dengan antusias terlibat dengan politisi dan berbicara di auditorium yang penuh sesak di seluruh dunia. Tapi Sutskever bukan figur publik, dan dia juga tidak memberikan banyak wawancara.
Dia berbicara dengan tenang dan metodis. Ketika dia berpikir tentang apa yang ingin dia katakan dan bagaimana mengungkapkannya, dia berhenti untuk waktu yang lama dan memikirkan masalah itu berulang kali seperti teka-teki. Dia sepertinya tidak tertarik membicarakan dirinya sendiri. Dia berkata, "Saya menjalani kehidupan yang sangat sederhana. Pergi bekerja, lalu pulang. Saya tidak melakukan banyak hal lain. Orang bisa pergi ke banyak acara sosial, mereka bisa pergi ke banyak konvensi. Saya tidak suka berpartisipasi. "
Tetapi ketika kita berbicara tentang AI, dan apa yang dilihatnya sebagai risiko dan imbalan yang sangat penting, prospeknya meluas: "Ini akan menjadi tengara dan menghancurkan bumi." "
Lebih Baik, Lebih Baik, Lebih Baik
Bahkan tanpa OpenAI, Sutskever masih akan tercatat dalam catatan sejarah AI. Dia adalah orang Israel-Kanada, lahir di Uni Soviet, tetapi dibesarkan di Yerusalem sejak usia lima tahun (dia masih berbicara bahasa Rusia, Ibrani, dan Inggris). Selanjutnya, ia pindah ke Kanada untuk belajar di University of Toronto dengan pelopor AI Geoffrey Hinton, yang awal tahun ini secara terbuka menyuarakan keprihatinan tentang teknologi AI yang Sutskever bantu ciptakan.
Hinton kemudian berbagi Turing Award dengan Yann LeCun dan Yoshua Bengio untuk karyanya di jaringan saraf. Tetapi ketika Sutskever bergabung dengannya di awal 2000-an, sebagian besar peneliti AI berpikir jaringan saraf adalah jalan buntu. Hinton adalah pengecualian. Dia sudah melatih mikromodel yang dapat menghasilkan string teks pendek dari satu karakter pada satu waktu, dan Sutskever berkata, "Di situlah AI generatif dimulai." Ini benar-benar keren – hanya saja tidak bagus. "
Sutskever terpesona oleh konstruksi otak: bagaimana otak belajar, dan bagaimana ia dapat menciptakan kembali atau setidaknya meniru proses dalam mesin. Seperti Hinton, ia melihat potensi jaringan saraf dan teknik trial-and-error yang digunakan Hinton untuk melatih jaringan saraf, yaitu pembelajaran mendalam. "Pembelajaran mendalam menjadi lebih baik dan lebih baik setiap saat," kata Sutskever.
Pada tahun 2012, Sutskever, Hinton, dan mahasiswa pascasarjana lainnya di Hinton, Alex Krizhevsky, membangun jaringan saraf yang disebut AlexNet, yang mereka latih untuk mengenali objek dalam foto jauh lebih baik daripada perangkat lunak lain pada saat itu. Ini adalah momen Big Bang untuk pembelajaran mendalam.
Setelah bertahun-tahun gagal, mereka membuktikan bahwa jaringan saraf sangat efektif dalam pengenalan pola. Yang Anda butuhkan hanyalah lebih banyak data daripada yang pernah dilihat kebanyakan peneliti sebelumnya (dalam hal ini, satu juta gambar dari dataset ImageNet yang telah dibangun oleh peneliti Universitas Princeton Feifei Li sejak 2006) dan jumlah daya komputer yang memusingkan.
Perubahan besar dalam komputasi berasal dari chip GPU baru yang dibuat oleh Nvidia. GPU dirancang untuk dapat memproyeksikan visual video game yang bergerak cepat ke layar dengan kecepatan kilat. Tetapi perhitungan yang GPU kuasai — mengalikan sejumlah besar grid digital — kebetulan sangat mirip dengan perhitungan yang diperlukan untuk melatih jaringan saraf.
Nvidia sekarang menjadi perusahaan triliunan dolar. Pada saat itu, sangat ingin menemukan aplikasi untuk perangkat keras baru di ceruknya. Jensen Huang, CEO Nvidia, mengatakan, "Ketika Anda menemukan teknologi baru, Anda harus dapat merangkul ide-ide gila. Pola pikir saya selalu mencari sesuatu yang aneh, dan jaringan saraf akan mengubah gagasan ilmu komputer - dan ini adalah ide yang sangat aneh. "
Huang mengatakan bahwa ketika tim Toronto mengerjakan AlexNet, Nvidia mengirimi mereka beberapa GPU untuk dicoba. Tetapi mereka menginginkan versi terbaru, sebuah chip yang disebut GTX 580, yang terjual habis dengan cepat di toko-toko. Menurut Huang, Sutskever berkendara melintasi perbatasan dari Toronto ke New York untuk membeli beberapa. "Orang-orang mengantri di sudut toko untuk membeli. Saya tidak tahu bagaimana dia melakukannya - saya cukup yakin Anda hanya akan membeli masing-masing satu; Kami memiliki kebijakan yang sangat ketat bahwa Anda hanya dapat menggunakan satu GPU per pemain, tetapi ia tampaknya mengisi bagasi. Koper penuh GTX 580 ini mengubah dunia. "
Ini adalah cerita yang hebat – mungkin saja tidak benar. Karena Sutskever bersikeras bahwa dia membeli GPU pertama secara online. Tapi misteri semacam ini biasa terjadi di industri yang semarak ini. Sutskever sendiri lebih rendah hati: "Saya pikir jika saya dapat membuat kemajuan nyata sekecil apa pun, saya akan menganggapnya sukses." Dampak pada dunia nyata terasa jauh, karena komputer masih lemah pada saat itu. "
Setelah kesuksesan AlexNet, Google datang mengetuk pintu. Ini mengakuisisi DNNresearch, spin-off dari Hinton, dan mempekerjakan Sutskever. Sutskever menunjukkan di Google bahwa kemampuan pengenalan pola pembelajaran mendalam dapat diterapkan pada urutan data seperti kata, kalimat, dan gambar. Jeff Dean, mantan kolega Sutskever dan sekarang kepala ilmuwan di Google, mengatakan, "Sutskever selalu tertarik pada bahasa, dan kami telah melakukan diskusi hebat selama bertahun-tahun. Dia memiliki naluri yang kuat untuk ke mana segala sesuatunya berjalan. "
Tapi Sutskever tidak tinggal lama di Google. Pada tahun 2014, ia direkrut untuk menjadi salah satu pendiri OpenAI. Dengan $ 1 miliar (dari Altman, Elon Musk, Peter Thiel, Microsoft, Y Combinator, dll.), Dan banyak etos Silicon Valley, perusahaan baru ini mengarahkan pandangannya untuk mengembangkan AGI sejak awal, tetapi hanya sedikit yang menganggap serius prospek pada saat itu.
Dengan Sutskever di kapal, sikap angkuh ini bisa dimengerti. Sampai saat itu, dia semakin mendapatkan hasil dari pembelajaran jaringan saraf. Dalton Caldwell, direktur pelaksana Y Combinator Investments, mengatakan reputasinya mendahuluinya, yang membuatnya sukses besar.
"Saya ingat Altman menyebut Sutskever sebagai salah satu peneliti paling dihormati di dunia," kata Caldwell. Dia yakin Sutskever akan menarik banyak talenta AI top. Dia bahkan menyebutkan bahwa Yoshua Bengio, salah satu pakar AI top dunia, percaya bahwa tidak mungkin kandidat yang lebih baik daripada Sutskever akan ditemukan sebagai kepala ilmuwan OpenAI. "
Pada awalnya, bagaimanapun, OpenAI terikat. "Ada saat ketika kami memulai OpenAI, saya tidak yakin bagaimana kemajuan akan berlanjut," kata Sutskever. "Tapi saya memiliki keyakinan yang sangat jelas bahwa orang tidak akan keberatan dengan pembelajaran mendalam. Entah bagaimana, setiap kali mereka menabrak rintangan, peneliti menemukan solusi dalam waktu enam bulan atau satu tahun. "
Imannya dihargai. Model bahasa besar GPT pertama OpenAI muncul pada tahun 2016. GPT-2 dan GPT-3 mengikuti. Lalu ada DALL-E, model teks-ke-gambar yang menarik. Tidak ada yang membangun sesuatu yang begitu bagus. Dengan setiap rilis, OpenAI meningkatkan standar untuk apa yang orang anggap mungkin.
Kelola harapan
November lalu, OpenAI merilis chatbot gratis yang mengemas ulang beberapa teknologi yang ada. Ini mengatur ulang agenda untuk seluruh industri.
Pada saat itu, OpenAI tidak tahu apa yang akan dirilis. Sutskever mengatakan harapan di dalam perusahaan tidak bisa lebih rendah: "Saya akui, itu sedikit canggung – saya tidak tahu apakah saya harus melakukannya, tetapi apa pun, itu fakta – saya tidak tahu apa gunanya ketika kami membuat ChatGPT. " Ketika Anda mengajukan pertanyaan faktual, itu memberi Anda jawaban yang salah. Saya pikir itu akan sangat tidak mencolok dan orang-orang akan berkata, 'Mengapa Anda melakukan produk ini?' Itu membosankan! '"
Bagian yang paling menarik, kata Sutskever, adalah kenyamanan. Model bahasa besar di belakang ChatGPT telah ada selama berbulan-bulan. Tetapi membungkusnya dalam antarmuka yang mudah diakses dan memberikannya secara gratis membuat miliaran orang sadar untuk pertama kalinya tentang apa yang sedang dibangun OpenAI dan lainnya.
"Pengalaman pertama sangat menarik. Ketika Anda pertama kali menggunakannya, saya pikir itu hampir merupakan pengalaman spiritual. Anda seperti, 'Ya Tuhan, komputer ini sepertinya mengerti dirinya sendiri.'" '"
OpenAI telah mengumpulkan 100 juta pengguna dalam waktu kurang dari dua bulan, dan banyak dari mereka terpesona oleh mainan baru yang menakjubkan ini. Aaron Levie, CEO perusahaan penyimpanan Box, menyimpulkan getaran minggu ini setelah peluncuran di Twitter: "ChatGPT adalah salah satu momen langka di ruang teknologi, dan Anda dapat melihat bahwa semuanya akan berbeda di masa depan. "
Begitu ChatGPT mengatakan sesuatu yang bodoh, keajaiban ini runtuh. Tapi kemudian itu tidak masalah. Sekilas kemungkinan sudah cukup, kata Sutskever. ChatGPT telah mengubah wawasan orang.
"AGI bukan lagi kata kotor di ruang pembelajaran mesin," katanya. "Ini perubahan besar. Sikap orang-orang dalam sejarah adalah: AI tidak berfungsi, setiap langkah sangat sulit, dan Anda harus berjuang untuk setiap kemajuan. Ketika orang-orang hype up AGI, peneliti berkata, 'Apa yang Anda bicarakan? Ini tidak berhasil, itu juga tidak berhasil. Ada begitu banyak pertanyaan. Tetapi dengan ChatGPT, itu mulai terasa berbeda. "
Apakah pergeseran ini mulai terjadi hanya setahun yang lalu? "Itu semua terjadi karena ChatGPT," katanya. "ChatGPT memungkinkan para peneliti pembelajaran mesin untuk mewujudkan impian mereka."
Para ilmuwan OpenAI telah menjadi penginjil sejak awal dan telah menginspirasi mimpi-mimpi ini melalui posting blog dan tur kuliah. Dan itu berhasil: "Kita berbicara tentang seberapa jauh AI akan berjalan sekarang – orang-orang berbicara tentang AGI, atau kecerdasan super. Bukan hanya peneliti. "Pemerintah sedang mendiskusikan ini," kata Sutskever. "Ini gila."
Hal-hal luar biasa
Sutskever menegaskan bahwa semua pembicaraan tentang teknologi yang belum ada (dan mungkin tidak pernah ada) adalah hal yang baik, karena itu membuat lebih banyak orang sadar akan masa depan yang telah dia terima begitu saja.
"Anda dapat melakukan banyak hal menakjubkan, hal-hal luar biasa dengan AGI: mengotomatiskan perawatan kesehatan, membuatnya seribu kali lebih murah, membuatnya seribu kali lebih baik, menyembuhkan begitu banyak penyakit, dan benar-benar memecahkan masalah pemanasan global," katanya. Tetapi ada juga banyak orang yang khawatir: 'Ya Tuhan, bisakah perusahaan AI berhasil mengelola teknologi besar ini?' '"
Dengan cara ini, AGI terdengar lebih seperti jin pengabul keinginan daripada prospek dunia nyata. Hanya sedikit orang yang akan mengatakan tidak untuk menyelamatkan nyawa dan mengatasi perubahan iklim. Tetapi masalah dengan teknologi yang tidak ada adalah Anda dapat mengatakan apa pun yang Anda inginkan.
Apa sebenarnya yang Sutskever bicarakan ketika dia berbicara tentang AGI? "AGI bukan istilah ilmiah," katanya. "Ini harus menjadi ambang batas yang berguna, titik referensi."
"Itu idenya—" dia memulai, lalu berhenti. "AI telah menjadi sangat pintar sehingga jika seseorang dapat melakukan tugas-tugas tertentu, maka AI juga dapat melakukannya. Pada saat itu, Anda dapat mengatakan bahwa Anda memiliki AGI. "
Orang mungkin membicarakannya, tetapi AGI masih merupakan salah satu ide paling kontroversial di lapangan. Hanya sedikit orang yang menerima perkembangannya begitu saja. Banyak peneliti percaya bahwa terobosan konseptual besar diperlukan sebelum kita dapat melihat sesuatu seperti apa yang dibayangkan Sutskever - beberapa orang berpikir kita tidak akan pernah melakukannya.
Namun, visi ini menginspirasinya sejak awal. "Saya selalu terinspirasi dan termotivasi oleh ide ini," kata Sutskever. "Pada saat itu belum disebut AGI, tetapi Anda tahu, itu seperti membiarkan jaringan saraf melakukan segalanya. Saya tidak selalu percaya mereka bisa. Tapi itu gunung untuk didaki. "
Dia membandingkan cara jaringan saraf dan otak bekerja. Keduanya menerima data, mengumpulkan sinyal dari data itu, dan kemudian menyebarkan atau tidak menyebarkannya berdasarkan beberapa proses sederhana (matematika dalam jaringan saraf, bahan kimia di otak, dan bioelektrik). Ini adalah penyederhanaan besar, tetapi prinsipnya berlaku.
"Jika Anda percaya itu – jika Anda membiarkan diri Anda percaya ini – maka ada banyak implikasi menarik," kata Sutskever. "Implikasi utamanya adalah jika Anda memiliki jaringan saraf tiruan yang sangat besar, ia harus melakukan banyak hal. Secara khusus, jika otak manusia dapat melakukan sesuatu, maka jaringan saraf tiruan besar dapat melakukan hal serupa. "
"Jika Anda menganggapnya cukup serius, semuanya akan jatuh pada tempatnya," katanya. "Sebagian besar pekerjaan saya dapat dijelaskan dengan ini."
Sementara kita berbicara tentang otak, saya ingin bertanya tentang posting yang dibuat Sutskever di platform X. Sinopsis Sutskever berbunyi seperti volume kata-kata mutiara: "Jika Anda menempatkan kecerdasan di atas semua kualitas manusia lainnya, maka Anda akan memiliki kehidupan yang buruk"; "Empati dalam hidup dan bisnis diremehkan"; "Kesempurnaan telah merusak banyak keindahan kesempurnaan."
Pada Februari 2022, ia memposting bahwa "jaringan saraf besar saat ini mungkin memiliki sedikit kesadaran" (di mana Murray Shanahan, kepala ilmuwan di DeepMind Google, profesor di Imperial College London, dan penasihat ilmiah untuk film Ex Machina, menjawab: "... Arti yang sama mungkin adalah ladang gandum besar dengan sedikit pasta").
Ketika saya mengungkitnya, Sutskever tertawa. Apakah dia tipuan? Dia tidak. "Apakah Anda akrab dengan konsep otak Boltzmann?" Tanyanya.
Dia mengacu pada eksperimen pemikiran mekanika kuantum yang dinamai fisikawan abad ke-19 Ludwig Boltzmann, di mana dibayangkan bahwa fluktuasi termodinamika acak di alam semesta akan menyebabkan otak muncul dan menghilang.
"Saya pikir model bahasa ini agak mirip dengan otak Boltzmann sekarang," kata Sutskever. "Kamu mulai berbicara dengannya, berbicara sebentar; Dan kemudian setelah selesai, otak akan—" Dia membuat gerakan menghilang dengan tangannya. Poof—selamat tinggal, otak.
Anda mengatakan bahwa ketika jaringan saraf aktif - sehingga untuk berbicara, ketika itu pemakaian - ada sesuatu di sana? Saya bertanya.
"Saya pikir itu mungkin," katanya. "Saya tidak yakin, tapi itu kemungkinan yang sulit untuk disangkal. Tapi siapa yang tahu apa yang terjadi, bukan? "
AI, tapi tidak seperti yang kita kenal
Sementara yang lain berjuang untuk membuat mesin yang sebanding dengan kecerdasan manusia, Sutskever mempersiapkan mesin yang dapat melampaui kita. Dia menyebut fenomena ini kecerdasan buatan super: "Mereka melihat hal-hal lebih dalam. Mereka akan melihat apa yang tidak bisa kita lihat. "
Sekali lagi, sulit bagi saya untuk memahami apa artinya itu. Kecerdasan manusia adalah tolok ukur yang kita gunakan untuk menilai kecerdasan. Apa yang dimaksud Sutskever dengan kecerdasan yang lebih pintar dari manusia?
"Kami melihat contoh superintelligence yang sangat sempit di AlphaGo," katanya. Pada tahun 2016, permainan papan DeepMind AI "Alpha Dog" mengalahkan Lee Sedol, salah satu pemain Go terbaik di dunia, 4-1 dalam lima pertandingan. "Ia menemukan cara bermain Go dengan cara yang berbeda dari bagaimana manusia telah berkembang bersama selama ribuan tahun," kata Sutskever. "Itu muncul dengan ide-ide baru."
Sutskever menyebutkan langkah ke-37 AlphaGo yang terkenal. Di pertandingan kedua melawan Lee Sedol, gerakan AI membingungkan para komentator. Mereka pikir AlphaGo kacau. Bahkan, itu memainkan langkah kemenangan yang belum pernah terlihat sebelumnya dalam sejarah catur. "Bayangkan tingkat wawasan ini, tetapi mencakup semuanya," kata Sutskever.
Garis pemikiran inilah yang membuat Sutskever membuat perubahan terbesar dalam karirnya. Bersama dengan sesama ilmuwan di OpenAI, Jan Leike, ia membentuk tim yang berfokus pada apa yang mereka sebut "super-alignment." Alignment adalah jargon yang berarti membiarkan model AI melakukan apa yang ingin Anda lakukan dan hanya itu. Super alignment adalah istilah penyelarasan yang OpenAI terapkan pada superintelligence.
Tujuannya adalah untuk menghasilkan serangkaian prosedur gagal-aman untuk membangun dan mengendalikan teknologi futuristik ini. OpenAI mengatakan akan mengalokasikan seperlima dari sumber daya komputasi yang luas untuk memecahkan masalah dan menyelesaikannya dalam waktu empat tahun.
"Metode penyelarasan yang ada tidak bekerja dengan model yang lebih pintar daripada manusia karena mereka pada dasarnya berasumsi bahwa manusia dapat menilai dengan andal apa yang dilakukan sistem AI," kata Leike. "Ketika sistem AI menjadi lebih kuat, mereka akan mengambil tugas yang lebih sulit." Idenya adalah bahwa ini akan membuat lebih sulit bagi manusia untuk mengevaluasi mereka. "Dalam merakit Tim Super Alignment dengan Sutskever, kami telah menetapkan untuk mengatasi tantangan penyelarasan masa depan ini," katanya.
"Sangat penting untuk fokus tidak hanya pada peluang potensial untuk model bahasa besar, tetapi juga pada risiko dan kelemahan mereka," kata Dean, kepala ilmuwan di Google. "
Perusahaan mengumumkan proyek tersebut pada bulan Juli dengan keriuhan yang khas. Tetapi bagi sebagian orang, ini lebih merupakan fantasi. Posting Twitter OpenAI menarik cemoohan dari kritikus terkemuka Big Tech, termasuk Abeba Birhane, yang bekerja pada akuntabilitas AI di Mozilla; Timnit Gebru, Salah Satu Pendiri, Institut AI Terdistribusi; dan Margaret Mitchell, kepala ilmuwan etika di perusahaan AI Hugging Face. Memang, ini adalah suara-suara berbeda yang akrab. Tapi itu adalah pengingat yang kuat bahwa beberapa orang percaya bahwa OpenAI memimpin, sementara yang lain percaya bahwa OpenAI berada di tepi.
Namun, bagi Sutskever, super-alignment adalah langkah selanjutnya yang tak terhindarkan. "Ini masalah yang belum terselesaikan," katanya. Dia percaya bahwa peneliti pembelajaran mesin inti seperti dia sedang mengerjakan masalah ini. "Saya melakukannya untuk keuntungan saya sendiri," katanya. "Jelas penting bahwa setiap kecerdasan super yang dibangun siapa pun tidak lepas kendali."
Pekerjaan super-alignment baru saja dimulai. Menurut Sutskever, ini akan membutuhkan perubahan luas dalam lembaga penelitian. Tetapi dia memikirkan model perlindungan yang ingin dia rancang: sebuah mesin yang memperlakukan orang seperti orang tua memperlakukan anak-anak mereka. "Menurut saya, itu standar emas," katanya. "Orang-orang sangat peduli dengan anak-anak, itu pernyataan yang umumnya benar."
"Setelah Anda mengatasi tantangan AI nakal, lalu apa? Di dunia dengan kecerdasan buatan yang lebih cerdas, apakah masih ada ruang bagi manusia? Katanya.
"Satu kemungkinan – yang mungkin gila menurut standar saat ini, tetapi tidak begitu gila dengan standar besok – adalah bahwa banyak orang akan memilih untuk menjadi bagian dari AI." Sutskever mengatakan ini bisa menjadi cara bagi manusia untuk mencoba mengikuti kereta musik. "Pada awalnya, hanya yang paling berani dan paling berani yang akan mencoba melakukan itu. Mungkin orang lain akan mengikutinya. Atau tidak. "
Sumber Referensi: