Bagaimana para ilmuwan dapat mengetahui apakah kecerdasan buatan memiliki kesadaran otonom?

Gagasan tentang kecerdasan buatan yang membangkitkan kesadaran telah lama menjadi bagian dari fiksi ilmiah, mengingatkan kita pada superkomputer yang berubah menjadi penjahat HAL 9000 dalam film tahun 1968 2001: A Space Odyssey. Dengan pesatnya perkembangan kecerdasan buatan, kemungkinan ini menjadi semakin tidak aneh, bahkan diakui oleh tokoh-tokoh terkemuka di bidang kecerdasan buatan.

Tahun lalu, Ilya Sutskever, kepala ilmuwan di OpenAI, perusahaan di balik chatbot ChatGPT, men-tweet bahwa beberapa jaringan AI paling canggih mungkin "****sedikit sadar" **.

Banyak peneliti mengatakan sistem kecerdasan buatan belum sadar. Namun kecepatan evolusi AI membuat mereka bertanya-tanya: Bagaimana kita tahu jika AI sadar?

Untuk menjawab pertanyaan ini, sebuah tim yang terdiri dari 19 ahli saraf, filsuf, dan ilmuwan komputer membuat daftar kriteria yang, jika terpenuhi, akan menunjukkan bahwa suatu sistem memiliki kemungkinan besar untuk berada dalam kesadaran. Mereka menerbitkan panduan sementara, yang belum ditinjau oleh rekan sejawat, di repositori pracetak arXiv awal pekan ini.

Rekan penulis Robert Long, seorang filsuf di Pusat Keamanan AI di San Francisco, California, mengatakan mereka melakukan penelitian ini karena "tampaknya masih ada kekurangan penelitian yang mendalam, berbasis empiris, dan matang mengenai kesadaran AI. ." berdiskusi".

Tim peneliti mengatakan ketidakmampuan untuk mengidentifikasi apakah sistem AI sadar dapat menimbulkan implikasi etika yang signifikan. Megan Peters, seorang ahli saraf dan salah satu penulis studi tersebut, mengatakan bahwa jika sesuatu diberi label "sadar", "hal itu harus secara dramatis mengubah cara kita, sebagai manusia, dalam mendekatinya."

Long menambahkan, sepengetahuannya, perusahaan-perusahaan yang membangun sistem AI canggih belum berbuat cukup banyak untuk menilai kesadaran model-model tersebut dan membuat rencana yang sesuai. Dia berkata: "Meskipun saya mendengar beberapa pidato dari kepala laboratorium terkemuka, mereka mengatakan bahwa kesadaran kecerdasan buatan atau persepsi kecerdasan buatan adalah sesuatu yang layak untuk dipikirkan, tetapi menurut saya itu tidak cukup."

Nature menghubungi dua perusahaan teknologi utama yang mendorong pengembangan AI—Microsoft dan Google. Juru bicara Microsoft mengatakan inti pengembangan kecerdasan buatan yang dilakukan perusahaan adalah membantu manusia menjadi lebih produktif dengan cara yang bertanggung jawab, bukan meniru kecerdasan manusia.

Juru bicara tersebut mengatakan bahwa sejak peluncuran GPT-4, versi terbaru dari rilis publik ChatGPT, menjadi jelas bahwa “pencarian kita untuk mewujudkan potensi penuh dari kecerdasan buatan untuk kepentingan masyarakat secara keseluruhan memerlukan cara-cara baru untuk mengevaluasi hal ini.” Kemampuan Model Cerdas buatan". Google tidak menanggapi.

01.

*********Apa itu kesadaran? ***********

Salah satu tantangan ketika mempelajari kesadaran AI adalah mendefinisikan apa itu kesadaran. Untuk keperluan laporan ini, para peneliti berfokus pada "kesadaran fenomenal", atau pengalaman subjektif, kata Peters. Artinya, indera yang ada pada manusia, hewan, atau sistem kecerdasan buatan (jika salah satunya terbukti memiliki kesadaran).

Ada banyak teori berbasis ilmu saraf yang menggambarkan dasar biologis dari kesadaran. Namun tidak ada konsensus mengenai mana yang "benar". Oleh karena itu, penulis menggunakan berbagai teori untuk membuat kerangka kerjanya. Pemikiran mereka adalah jika fungsionalitas sistem AI sesuai dengan berbagai aspek dari teori-teori ini, maka sistem tersebut memiliki peluang lebih besar untuk disadari.

Mereka berpendapat bahwa cara menilai kesadaran ini lebih baik daripada sekadar melakukan tes perilaku, seperti menanyakan ChatGPT apakah ia sadar, atau menantangnya dan mengamati responsnya. Karena sistem AI telah mencapai kemajuan luar biasa dalam meniru manusia.

Ahli saraf Anil Seth, direktur Pusat Sains Kesadaran di Universitas Sussex di Inggris, berpendapat bahwa pendekatan yang secara teoritis ketat dari tim ini adalah pendekatan yang bagus. Namun, katanya, "diperlukan teori kesadaran yang lebih tepat dan teruji."

02.

*Pendekatan intensif teori

Untuk merumuskan kriterianya, penulis berpendapat bahwa kesadaran berkaitan dengan bagaimana sistem memproses informasi, apakah itu terbuat dari neuron, chip komputer, atau bahan lainnya. Pendekatan ini dikenal sebagai fungsionalisme komputasi. Mereka juga berhipotesis bahwa teori kesadaran berbasis ilmu saraf, yang berasal dari pemindaian otak dan studi teknis lainnya terhadap manusia dan hewan, dapat diterapkan pada kecerdasan buatan.

Berdasarkan asumsi-asumsi ini, tim memilih enam teori berikut, yang darinya mereka mengekstrak serangkaian indikator kesadaran.

Salah satunya adalah teori ruang kerja global, yang menyatakan bahwa manusia dan hewan lain menggunakan banyak sistem khusus (juga disebut modul) untuk melakukan tugas kognitif seperti penglihatan dan pendengaran. Modul-modul ini bekerja secara independen namun paralel dan terintegrasi ke dalam satu sistem untuk berbagi informasi.

Menurut Long, “dengan melihat arsitektur sistem dan cara informasi mengalir di dalamnya,” seseorang dapat menilai apakah sistem AI tertentu menunjukkan indikator yang diturunkan dari teori tersebut.

Seth terkesan dengan usulan tim. “Dipikirkan dengan sangat matang, tidak bombastis, dan asumsi-asumsinya jelas sekali,” ujarnya. Walaupun saya tidak setuju dengan beberapa asumsi, tapi tidak apa-apa karena ada kemungkinan saya salah. "

Para penulis mengatakan makalah ini masih jauh dari meyakinkan mengenai cara mengevaluasi sistem AI yang sadar, dan mereka berharap peneliti lain akan membantu menyempurnakan metodologi mereka. Tetapi standar ini sudah dapat diterapkan pada sistem kecerdasan buatan yang ada.

Misalnya, laporan tersebut mengevaluasi model bahasa skala besar seperti ChatGPT dan menemukan bahwa sistem tersebut dapat dikatakan memiliki beberapa indikator kesadaran terkait teori ruang kerja global. Namun, penelitian ini tidak menunjukkan bahwa sistem AI yang ada merupakan kandidat kuat untuk mewujudkan kesadaran, setidaknya untuk saat ini.