Yapay Zeka Farkındalığa Sahip Olursa Bilim İnsanları Bunu Nasıl Öğrenebilir?

Yazar: Mariana Lenharo, Derleyici: Metaevrenin Kalbi

Yapay zekanın bilinç oluşturma fikri uzun zamandır bilim kurgunun bir parçası olmuştur ve bu, 1968 yapımı 2001: A Space Odyssey filmindeki süper bilgisayardan kötü adama dönüşen HAL 9000'i hatırlatmaktadır. Yapay zekanın hızla gelişmesiyle birlikte, bu olasılık daha az tuhaf hale geliyor, hatta yapay zekanın önde gelen isimleri tarafından bile kabul ediliyor.

Geçtiğimiz yıl, ChatGPT sohbet robotunun arkasındaki şirket olan OpenAI'nin baş bilim adamı Ilya Sutskever, **en gelişmiş yapay zeka ağlarından bazılarının "biraz bilinçli" hale gelebileceğini" tweetledi.

Pek çok araştırmacı yapay zeka sistemlerinin henüz bilinçli olmadığını söylüyor. Ancak yapay zekanın evrimleşme hızı onları düşünmeye sevk ediyor: Bir yapay zekanın bilinçli olup olmadığını nasıl bilebiliriz?

Bu soruyu yanıtlamak için 19 sinir bilimci, filozof ve bilgisayar bilimciden oluşan bir ekip, karşılandığı takdirde bir sistemin bilinçli olma olasılığının yüksek olduğunu gösteren bir kriter listesi hazırladı. Henüz hakem incelemesinden geçmemiş olan geçici kılavuzu bu hafta başında arXiv ön baskı deposunda yayınladılar.

Kaliforniya, San Francisco'daki Yapay Zeka Güvenliği Merkezi'nde filozof olan ortak yazar Robert Long, bu çalışmayı yaptıklarını çünkü "Yapay zeka bilinci konusunda ayrıntılı, ampirik temelli, düşünülmüş araştırmaların gerçekten eksikliği var gibi görünüyor" dedi. "tartışmak".

Araştırma ekibi, bir yapay zeka sisteminin bilinçli olup olmadığının tespit edilememesinin önemli etik sonuçlara yol açabileceğini söylüyor. Sinir bilimci ve çalışmanın ortak yazarı Megan Peters, eğer bir şey "bilinçli" olarak etiketlenecekse, bunun "insanlar olarak ona yaklaşım şeklimizi çarpıcı biçimde değiştirmesi gerektiğini" söyledi.

Long, kendi bilgisine göre, gelişmiş yapay zeka sistemleri geliştiren şirketlerin bu modellerin farkındalığını değerlendirmek ve buna göre plan yapmak için yeterince çaba göstermediğini ekledi. "Önde gelen laboratuvarların başkanlarından bazı konuşmalar duymama rağmen yapay zeka bilincinin veya yapay zeka algısının üzerinde düşünmeye değer bir konu olduğunu söylediler ama bunun yeterli olduğunu düşünmüyorum."

Nature, yapay zeka gelişimini destekleyen iki ana teknoloji şirketiyle (Microsoft ve Google) temasa geçti. Bir Microsoft sözcüsü, şirketin yapay zeka gelişiminin temelinin, insan zekasını kopyalamak değil, insanların sorumlu bir şekilde daha üretken olmalarına yardımcı olmak olduğunu söyledi.

Sözcü, ChatGPT'nin kamuya açık sürümünün en son sürümü olan GPT-4'ün piyasaya sürülmesinden bu yana şunun açıkça ortaya çıktığını söyledi: "Yapay zekanın tüm potansiyelini bir bütün olarak toplumun yararına gerçekleştirme arayışımız, bunları değerlendirmenin yeni yollarını gerektiriyor." yapay Akıllı Model Yetenekleri". Google yanıt vermedi.

01. Bilinç nedir?

Yapay zeka bilincini incelerken karşılaşılan zorluklardan biri bilincin ne olduğunu tanımlamaktır. Peters, raporun amaçları doğrultusunda araştırmacıların "olağanüstü farkındalığa" veya öznel deneyime odaklandıklarını söyledi. Yani insanlarda, hayvanlarda veya yapay zeka sistemlerinde (bunlardan birinin bilinçli olduğu kanıtlanırsa) var olan duyular.

Bilincin biyolojik temelini tanımlayan sinir bilimine dayalı birçok teori vardır. Ancak hangisinin "doğru" olduğu konusunda bir fikir birliği yok. Bu nedenle yazarlar çerçevelerini oluşturmak için çeşitli teorilerden yararlanırlar. Onların düşüncesi şu: eğer bir yapay zeka sisteminin işlevselliği bu teorilerin birçok yönüyle eşleşiyorsa, o zaman bilinçli olma şansı daha yüksektir.

Bilinci değerlendirmenin bu yolunun, ChatGPT'ye bilinçli olup olmadığını sormak veya ona meydan okuyup yanıtlarını izlemek gibi basit davranış testleri yapmaktan daha iyi olduğunu savunuyorlar. Çünkü yapay zeka sistemleri insanları taklit etme konusunda inanılmaz ilerleme kaydetti.

Birleşik Krallık'taki Sussex Üniversitesi Bilinç Bilimi Merkezi'nin yöneticisi olan sinir bilimci Anil Seth, ekibin teorik açıdan titiz yaklaşımının iyi bir yaklaşım olduğunu düşünüyor. Ancak "daha kesin, iyi test edilmiş bilinç teorilerine ihtiyaç var" diyor.

02. Teori ağırlıklı bir yaklaşım

Kriterlerini formüle etmek için yazarlar, bilincin, ister nöronlardan, ister bilgisayar çiplerinden, ister başka malzemelerden yapılmış olsun, sistemlerin bilgiyi nasıl işlediğiyle ilgili olduğunu öne sürüyorlar. Bu yaklaşım hesaplamalı işlevselcilik olarak bilinir. Ayrıca beyin taramalarından ve insan ve hayvanlar üzerinde yapılan diğer teknik çalışmalardan elde edilen sinirbilim temelli bilinç teorilerinin yapay zekaya uygulanabileceğini de öne sürdüler.

Bu varsayımlara dayanarak ekip bu teorilerden altısını seçti ve bunlardan bir dizi bilinç göstergesi çıkardı.

Bunlardan biri, insanların ve diğer hayvanların görme ve işitme gibi bilişsel görevleri gerçekleştirmek için birçok özel sistemi (ayrıca modüller olarak da adlandırılır) kullandığını iddia eden küresel çalışma alanı teorisidir. Bu modüller bağımsız fakat paralel olarak çalışır ve bilgi paylaşımı için tek bir sisteme entegre olur.

Long'a göre, "sistemin mimarisine ve bilginin onun içindeki akış şekline bakarak" belirli bir yapay zeka sisteminin teoriden türetilen göstergeleri sergileyip sergilemediği değerlendirilebilir.

Seth, ekibin teklifinden etkilendi. "Çok iyi düşünülmüş, abartılı değil ve varsayımlarını açıkça ortaya koyuyor" dedi. Bazı varsayımlara katılmasam da bu tamamen sorun değil çünkü yanılma ihtimalim var. "

Yazarlar, makalenin bilinçli yapay zeka sistemlerinin nasıl değerlendirileceği konusunda nihai olmaktan uzak olduğunu ve diğer araştırmacıların metodolojilerini iyileştirmeye yardımcı olacağını umduklarını söylüyor. Ancak bu standartlar halihazırda mevcut yapay zeka sistemlerine uygulanabilir.

Örneğin rapor, ChatGPT gibi büyük ölçekli dil modellerini değerlendiriyor ve bu tür sistemlerin küresel çalışma alanı teorisine ilişkin bazı farkındalık göstergelerine sahip olduğunun söylenebileceği sonucuna varıyor. Yine de çalışma, mevcut yapay zeka sistemlerinin en azından şimdilik bilinç için güçlü adaylar olduğunu öne sürmüyor.