GPT-4 hanya percikan AGI? LLM pada akhirnya akan keluar, model dunia adalah masa depan

Sumber asli: Xinzhiyuan

Dalam kognisi manusia, tampaknya kecerdasan umum buatan (AGI) telah lama digunakan untuk menetapkan bentuk akhir kecerdasan buatan dan tujuan akhir pembangunan.

Padahal OpenAI telah lama menetapkan tujuan perusahaan untuk mencapai AGI. Namun untuk apa itu AGI, CEO OpenAI Sam Altman sendiri belum bisa memberikan definisi spesifik.

Adapun kapan AGI akan datang, itu hanya ada dalam skenario naratif dalam waktu dekat yang dilontarkan oleh para bos.Sepertinya bisa dijangkau, tapi jauh sekali.

Hari ini, di situs web podcast asing terkenal Substack, seorang veteran industri kecerdasan buatan bernama Valentino Zocca, berdiri di sudut pandang naratif sejarah manusia, menulis sebuah artikel megah, yang secara komprehensif dan mendalam menceritakan kisah manusia dan buatan umum. kecerdasan Jarak antara kecerdasan.

Dalam artikel tersebut, AGI secara kasar didefinisikan sebagai "model yang dapat memahami dunia", bukan sekadar "model yang menggambarkan dunia".

Dia percaya bahwa jika manusia ingin benar-benar mencapai dunia AGI, mereka perlu membangun "sistem yang dapat mempertanyakan realitas mereka sendiri dan mampu mengeksplorasi diri mereka sendiri".

Dalam proses eksplorasi yang hebat ini, mungkin tidak ada yang memiliki kualifikasi dan kemampuan untuk memberikan peta jalan tertentu.

Seperti yang dijelaskan oleh ilmuwan OpenAI Kenneth Stanley dan Joel Lehman dalam buku terbaru mereka, "Mengapa Kehebatan Tidak Dapat Direncanakan", pengejaran kehebatan memiliki arah, tetapi hasil spesifiknya bisa tidak terduga.

**Seberapa jauh kita dari AGI? **

Sekitar 200.000 tahun yang lalu, Homo sapiens mulai berjalan tegak di atas bumi, dan pada saat yang sama, mereka juga mulai berkelana dalam bidang pemikiran dan pengetahuan.

Serangkaian penemuan dan penemuan dalam sejarah manusia telah membentuk sejarah manusia. Beberapa di antaranya tidak hanya memengaruhi bahasa dan pemikiran kita, tetapi juga berpotensi memengaruhi susunan biologis kita.

Misalnya, penemuan api memungkinkan manusia primitif memasak makanan. Makanan yang dimasak memberikan lebih banyak energi untuk otak, sehingga mendorong perkembangan kecerdasan manusia.

Dari penemuan roda hingga penciptaan mesin uap, umat manusia mengantarkan Revolusi Industri. Listrik semakin membuka jalan bagi perkembangan teknologi yang kita miliki saat ini, dan pencetakan mempercepat penyebaran gagasan dan budaya baru secara luas, memacu perkembangan inovasi manusia.

Namun, kemajuan tidak hanya datang dari penemuan dimensi fisik baru, tetapi juga dari ide-ide baru.

Sejarah dunia Barat adalah dari jatuhnya Kekaisaran Romawi hingga Abad Pertengahan, mengalami kelahiran kembali selama Renaisans dan Pencerahan.

Tetapi dengan tumbuhnya pengetahuan manusia, spesies manusia mulai menyadari ketidakberartiannya sendiri.

Lebih dari dua ribu tahun setelah Socrates, manusia mulai "tahu bahwa mereka tidak tahu apa-apa", dan bumi kita tidak lagi dipandang sebagai pusat alam semesta. Alam semesta itu sendiri mengembang, dan kita hanyalah setitik debu di dalamnya.

Mengubah persepsi realitas

Namun perubahan terbesar dalam persepsi manusia tentang dunia terjadi pada abad ke-20.

Pada tahun 1931, Kurt Gödel menerbitkan teorema ketidaklengkapan.

Hanya empat tahun kemudian, untuk melanjutkan tema "kelengkapan", Einstein, Podolsky dan Rosen menerbitkan makalah berjudul "Can Quantum-Mechanical Deion of Physical Reality Be Dianggap Lengkap?" of?)

Selanjutnya, Niels Bohr membantah makalah ini, membuktikan validitas fisika kuantum.

Teorema Gödel menunjukkan bahwa bahkan matematika tidak dapat membuktikan segalanya secara meyakinkan—manusia akan selalu memiliki fakta yang tidak dapat dibuktikan—sementara teori kuantum menunjukkan bahwa dunia kita kurang pasti, menghalangi kita untuk memprediksi peristiwa tertentu, seperti kecepatan dan kecepatan elektron.

Terlepas dari pernyataan Einstein yang terkenal bahwa "Tuhan tidak bermain dadu dengan alam semesta", pada dasarnya, keterbatasan manusia terlihat sepenuhnya dalam hal memprediksi atau memahami sesuatu dalam fisika.

Betapapun kerasnya manusia berusaha merancang alam semesta matematis yang dijalankan oleh aturan-aturan yang dirumuskan oleh manusia, alam semesta abstrak seperti itu selalu tidak lengkap, dan ada aksioma-aksioma objektif yang tidak dapat dibuktikan dan tidak dapat disangkal tersembunyi di dalamnya.

Selain rumusan matematika yang abstrak, dunia manusia juga diungkapkan oleh filsafat yang menggambarkan realitas.

Tetapi manusia menemukan diri mereka tidak dapat mendeskripsikan, mengartikulasikan sepenuhnya, memahami, atau bahkan hanya mendefinisikan representasi ini.

Pada awal abad ke-20, konsep "kebenaran" masih belum pasti, dan konsep seperti "seni", "keindahan", dan "kehidupan" tidak memiliki konsensus dasar pada tingkat definisi.

Hal yang sama berlaku untuk banyak konsep penting lainnya, "kebijaksanaan" dan "kesadaran" juga tidak dapat didefinisikan dengan jelas oleh manusia itu sendiri.

Definisi Kecerdasan

Untuk mengisi celah dalam definisi kecerdasan, pada tahun 2007, Legg dan Hart mengusulkan definisi kecerdasan mesin dalam buku “Kecerdasan Umum”: “Kecerdasan mengukur kemampuan agen (Agent) untuk mencapai tujuan dalam lingkungan yang berubah. ."

Demikian juga dalam “Problem Solving and Intelligence”, Hambrick, Burgoyne, dan Altman berpendapat bahwa pemecahan masalah bukan sekedar aspek atau karakteristik kecerdasan, melainkan esensi dari kecerdasan.

Kedua pernyataan ini serupa dalam deskripsi bahasa, dan keduanya percaya bahwa "mencapai tujuan" dapat dikaitkan dengan "memecahkan masalah".

Dalam buku "Mainstream Science on Intelligence: An Editorial with 52 Signatories", Gottfredson merangkum definisi kecerdasan dari beberapa peneliti dari perspektif yang lebih luas:

“Kecerdasan adalah kemampuan mental yang sangat umum yang mencakup penalaran, perencanaan, pemecahan masalah, pemikiran abstrak, pemahaman ide-ide kompleks, pembelajaran cepat, dan belajar dari pengalaman. Bukan hanya pengetahuan buku, keterampilan akademis yang sempit, atau keterampilan mengerjakan ujian. Melainkan , itu mencerminkan kemampuan yang lebih luas dan lebih dalam untuk memahami lingkungan seseorang — kemampuan untuk 'menangkap', 'memahami' sesuatu, atau 'mencari tahu' apa yang harus dilakukan”.

Definisi ini mengambil konstruksi kecerdasan lebih dari sekadar "keterampilan memecahkan masalah" dan memperkenalkan dua dimensi utama: kemampuan untuk belajar dari pengalaman dan kemampuan untuk memahami lingkungan sekitar.

Dengan kata lain, kecerdasan tidak boleh dilihat sebagai kemampuan abstrak untuk menemukan solusi untuk masalah umum, melainkan sebagai kemampuan konkret untuk menerapkan apa yang telah kita pelajari dari pengalaman sebelumnya ke kemampuan lingkungan kita untuk berbagai situasi yang mungkin muncul.

Ini menggarisbawahi hubungan intrinsik antara kecerdasan dan pembelajaran.

Dalam buku “How We Learn”, Stanislas Dehaene mendefinisikan belajar sebagai “belajar adalah proses pembentukan model dunia”, yang berarti kecerdasan juga merupakan kemampuan yang memerlukan pemahaman lingkungan sekitar dan penciptaan model internal untuk menggambarkan dunia. lingkungan.

Oleh karena itu, kecerdasan juga membutuhkan kemampuan untuk membuat model dunia, meskipun bukan hanya kemampuan ini.

**Seberapa pintar mesin saat ini? **

Saat membahas kecerdasan umum buatan (AGI) dan kecerdasan buatan sempit (AI Sempit), kami sering menekankan perbedaan di antara keduanya.

Kecerdasan buatan yang sempit (atau kecerdasan buatan yang lemah) sangat umum dan berhasil, seringkali melampaui manusia dalam tugas tertentu.

Misalnya, contoh terkenal ini, pada tahun 2016, kecerdasan buatan sempit AlphaGo mengalahkan juara dunia Li Shidol dengan skor 4 banding 1 di game Go, yang merupakan contoh yang bagus.

Namun, pada tahun 2023, pecatur amatir Kellin Perline menggunakan taktik yang tidak dapat diatasi oleh kecerdasan buatan untuk memenangkan permainan bagi manusia di lapangan Go, yang menunjukkan bahwa kecerdasan buatan yang sempit memang memiliki keterbatasan dalam beberapa kasus.

Itu tidak memiliki kemampuan manusia untuk mengenali taktik yang tidak biasa dan menyesuaikannya.

Selain itu, pada tingkat paling dasar, bahkan ilmuwan data pemula pun memahami bahwa setiap model pembelajaran mesin yang diandalkan oleh kecerdasan buatan perlu mencapai keseimbangan antara bias dan varians.

Ini berarti belajar dari data, memahami dan menggeneralisasi solusi, bukan hanya menghafal.

Narrow AI menggunakan daya komputasi dan kapasitas memori komputer untuk menghasilkan model kompleks berdasarkan sejumlah besar data yang diamati dengan relatif mudah.

Namun, begitu kondisi sedikit berubah, model ini seringkali tidak dapat digeneralisasikan.

Seolah-olah kita datang dengan teori gravitasi untuk mendeskripsikan Bumi berdasarkan pengamatan, hanya untuk menemukan bahwa benda jauh lebih ringan di Bulan.

Jika kita menggunakan variabel alih-alih angka berdasarkan pengetahuan teoretis kita tentang gravitasi, kita dapat memahami cara menggunakan nilai yang benar untuk memprediksi dengan cepat besarnya gravitasi di setiap planet atau bulan.

Tetapi jika kita hanya menggunakan persamaan numerik tanpa variabel, kita tidak akan dapat menggeneralisasikan persamaan ini dengan tepat ke planet lain tanpa menulis ulang persamaan tersebut.

Dengan kata lain, kecerdasan buatan mungkin tidak dapat benar-benar “belajar”, tetapi hanya menyaring informasi atau pengalaman. AI tidak mengerti dengan membentuk model dunia yang komprehensif, tetapi hanya dengan membuat ringkasan untuk diekspresikan.

**Apakah kita benar-benar sudah mencapai AGI? **

AGI sekarang secara umum dipahami sebagai: sistem kecerdasan buatan yang dapat memahami dan bernalar dalam berbagai bidang kognitif pada tingkat manusia atau lebih tinggi, yaitu kecerdasan buatan yang kuat.

Dan kecerdasan buatan kami saat ini untuk tugas tertentu hanyalah kecerdasan buatan yang lemah, seperti AlphaGO dari Go.

AGI mewakili sistem kecerdasan buatan dengan kecerdasan tingkat manusia yang mencakup berbagai bidang di bidang pemikiran abstrak.

Artinya, yang kita butuhkan untuk AGI adalah model dunia yang konsisten dengan pengalaman dan dapat membuat prediksi yang akurat.

Seperti yang ditunjukkan oleh Everitt, Lea, dan Hutter dalam "Tinjauan Literatur Keselamatan" (Tinjauan Literatur Keselamatan AGI): AGI belum ada di sini.

Untuk pertanyaan “Seberapa jauh kita dari AGI yang sebenarnya?”, prediksi yang berbeda sangat bervariasi.

Tetapi ini konsisten dengan pandangan sebagian besar peneliti kecerdasan buatan dan lembaga otoritatif, yaitu, manusia setidaknya berjarak beberapa tahun dari kecerdasan buatan umum yang sebenarnya.

Setelah GPT-4 dirilis, menghadapi kecerdasan buatan paling kuat saat ini, banyak orang menganggap GPT-4 sebagai cikal bakal AGI.

Pada 13 April, mitra OpenAI Microsoft merilis makalah "Sparks of Artificial General Intelligence: Eksperimen awal dengan GPT-4" (Sparks of General Artificial Intelligence: Eksperimen awal dengan GPT-4).

Alamat kertas:

yang menyebutkan:

"GPT-4 tidak hanya menguasai bahasa, tetapi juga menyelesaikan tugas-tugas mutakhir yang mencakup matematika, pengkodean, penglihatan, kedokteran, hukum, psikologi, dan bidang lainnya, tanpa memerlukan petunjuk khusus.

Dan dalam semua tugas di atas, tingkat kinerja GPT-4 hampir setara dengan tingkat manusia. Berdasarkan keluasan dan kedalaman kemampuan GPT-4, kami yakin GPT-4 dapat dipandang sebagai versi kecerdasan buatan umum yang hampir tetapi tidak lengkap. "

Namun seperti yang dikomentari oleh Maarten Sap, seorang profesor di Universitas Carnegie Mellon, "percikan AGI" hanyalah contoh dari beberapa perusahaan besar yang memasukkan makalah penelitian sebagai hubungan masyarakat.

Di sisi lain, peneliti dan pengusaha mesin Rodney Brooks menunjukkan kesalahpahaman: “Saat mengevaluasi fungsionalitas sistem seperti ChatGPT, kami sering menyamakan performa dengan kemampuan.”

Salah menyamakan kinerja dengan kemampuan berarti bahwa GPT-4 menghasilkan deskripsi sumatif dunia yang dianggap sebagai pemahaman tentang dunia nyata.

Ini ada hubungannya dengan data model AI yang dilatih.

Sebagian besar model saat ini hanya dilatih pada teks, dan tidak memiliki kemampuan untuk berbicara, mendengar, mencium, dan hidup di dunia nyata.

Situasi ini mirip dengan alegori gua Plato, orang yang tinggal di dalam gua hanya dapat melihat bayangan di dinding, tetapi tidak dapat mengenali keberadaan benda yang sebenarnya.

Model dunia yang dilatih hanya pada teks hanya dijamin benar secara tata bahasa. Namun pada intinya, ia tidak memahami apa yang dimaksud dengan bahasa tersebut, dan ia tidak memiliki akal sehat untuk berhubungan langsung dengan lingkungan.

Keterbatasan utama dari model besar saat ini

Tantangan paling kontroversial dari model bahasa besar (LLM) adalah kecenderungan mereka untuk berhalusinasi.

Halusinasi mengacu pada situasi di mana model memalsukan referensi dan fakta, atau mengacaukan kesimpulan logis, kesimpulan kausal, dll., dan menghasilkan konten yang tidak berarti.

Ilusi model bahasa besar berasal dari kurangnya pemahaman mereka tentang hubungan sebab akibat antar peristiwa.

Dalam makalah "Is ChatGPT a Good Causal Reasoner? A Comprehensive uation", para peneliti mengkonfirmasi fakta ini:

Model bahasa besar seperti ChatGPT, terlepas dari apakah ada hubungan dalam kenyataan, mereka cenderung berasumsi bahwa ada hubungan sebab akibat antara peristiwa.

Alamat kertas:

Para peneliti akhirnya menyimpulkan:

"ChatGPT adalah penjelasan kausal yang sangat baik, tetapi bukan inferensi kausal yang baik."

Demikian pula, kesimpulan ini juga dapat diperluas ke LLM lainnya.

Artinya LLM pada hakekatnya hanya memiliki kemampuan induksi kausal melalui pengamatan, tetapi bukan kemampuan deduksi kausal.

Ini juga mengarah pada keterbatasan LLM.Jika kecerdasan berarti belajar dari pengalaman dan mengubah konten yang dipelajari menjadi model dunia untuk memahami lingkungan sekitar, maka inferensi kausal, sebagai elemen dasar pembelajaran, tidak mungkin untuk bagian yang hilang dari kecerdasan.

LLM yang ada kekurangan aspek ini, itulah sebabnya Yann LeCun percaya bahwa model bahasa besar saat ini tidak dapat menjadi AGI.

Kesimpulannya

Seperti yang diungkapkan oleh lahirnya mekanika kuantum di awal abad ke-20, realitas seringkali berbeda dengan intuisi kita yang dibentuk oleh pengamatan sehari-hari.

Bahasa, pengetahuan, data teks, bahkan video, audio, dan materi lain yang kita bangun hanyalah bagian yang sangat terbatas dari realitas yang dapat kita alami.

Sama seperti kita menjelajahi, mempelajari, dan menguasai realitas yang bertentangan dengan intuisi dan pengalaman kita, AGI hanya akan benar-benar terwujud ketika kita dapat membangun sistem yang memiliki kemampuan untuk mempertanyakan realitasnya sendiri, yang mampu menyelidiki diri sendiri.

Dan setidaknya pada tahap ini, kita harus membangun sebuah model yang dapat membuat kesimpulan kausal dan memahami dunia.

Prospek ini merupakan satu lagi langkah maju dalam sejarah manusia, menyiratkan pemahaman yang lebih besar tentang sifat dunia kita.

Meskipun munculnya AGI akan melemahkan nilai unik kita dan pentingnya keberadaan kita, melalui kemajuan yang berkelanjutan dan perluasan batas-batas kognitif, kita akan lebih jelas memahami status manusia di alam semesta, dan hubungan antara manusia dan hubungan dengan manusia. alam semesta.

Referensi: