ChatGPT gibi sözde "üretken yapay zekanın" sistem mimarları da dahil olmak üzere yapay zeka alanındaki önde gelen kişiler, yarattıkları şeyin korkunç sonuçlara yol açabileceğine dair korkularını artık açıkça dile getiriyorlar. Pek çok kişi, ülkelere ve kurumlara kontrol sistemleri üzerinde çalışmaları için zaman tanımak amacıyla yapay zeka geliştirme konusunda bir moratoryum çağrısında bulunuyor.
Neden bu ani endişe? Pek çok klişe varsayım tersine çevrilirken, sözde Turing testinin alakasız olduğunu ve büyük üretken dil modellerinin gerçekten akıllı şeyler olup olmadığına dair içgörü sağlamakta başarısız olduğunu öğreniyoruz.
Bazıları hala organik ve sibernetik kombinasyonunun Reid Hoffman ve Marc Andreesen'in "büyütme zekası" dediği şeye yol açacağını umuyor. Aksi takdirde, Richard Brautigan'ın "sevgi dolu lütuf makineleri" ile şanslı bir sinerjimiz olabilir. Ancak, yeni Yapay Zeka Güvenliği Merkezi'nin birçok seçkin kurucusu da dahil olmak üzere, yapay zekanın yalnızca tatsız hale gelmekle kalmayıp aynı zamanda insanlığın hayatta kalmasını tehdit edeceğinden korktukları davranışları hakkında endişe duyan pek çok endişeci var gibi görünüyor.
AB'nin kısa süre önce kabul ettiği sivil koruma düzenlemeleri gibi bazı kısa vadeli çareler yardımcı olabilir veya en azından gönül rahatlığı sağlayabilir. Teknoloji eleştirmeni Yuval Noah Harari ("A Brief History of Humanity" kitabının yazarı), AI veya diğer AI tarafından yapılan herhangi bir çalışmanın ilgili bir Etiketle etiketlenmesini gerektiren bir yasa önerdi. Diğerleri, silahlarda olduğu gibi suç işlemek için AI kullananlar için daha sert cezalar önerdi. Elbette bunlar geçici geçici önlemler.
Bu "duraklamaların" yapay zekanın ilerlemesini yavaşlatıp yavaşlatmayacağının farkında olmamız gerekiyor. Caltech ağ bilimcisi Yaser Abu-Mostafa'nın belirttiği gibi: "Teknolojiyi siz geliştirmezseniz başkası geliştirecek. Ama iyi adamlar kurallara göre oynayacak, kötü adamlar ise olmayacak."
Bu hep böyle olmuştur. Aslında insanlık tarihi boyunca hırsızlardan krallara ve lordlara kadar kötü adamların kötü davranışlarını dizginlemenin tek bir yolu olmuştur. Bu yaklaşım hiçbir zaman mükemmel olmadı ve bugüne kadar ciddi şekilde kusurlu olmaya devam ediyor. Ama en azından yağma ve aldatmacayı sınırlamak, insanlığın modern uygarlığını birçok olumlu sonuçla yeni zirvelere taşımak için iyi bir iş çıkardı. Bu yaklaşımı tek bir kelime açıklamaktadır: hesap verebilirlik.
**Günümüzde yapay zeka hakkındaki bu görüşler, genellikle doğadan ve tarihten alınan dersleri göz ardı ediyor. **
doğa. Sara Walker'ın Noema'da açıkladığı gibi, benzer bir model 4 milyar yıl önceki erken yaşamın oluşumunda bulunabilir. Aslında, üretken yapay zeka, artık kontrolsüz bir şekilde kırılgan ve saf bir ekosisteme yayılan istilacı bir türe benzetilebilir. Bu, yeni enerji akışlarına, bir İnternet dünyasına, milyonlarca bilgisayara ve milyarlarca duyarlı insan beynine dayalı bir ekosistemdir.
Ve tarih. İnsanlığın son 6.000 yılı boyunca, daha önceki teknoloji kaynaklı krizlerin çoğundan zengin dersler aldık. Başarısız olduğumuz zamanlar olsa da, yazının ortaya çıkışı, matbaa, radyo vb. gibi genellikle iyi uyum sağlarız. Yine, kudretli insanları yırtıcı yeteneklerini genişletmek için yeni teknolojileri kullanmaktan alıkoyan tek bir şey var.
Bu yenilik, hiyerarşileri düzleştiriyor ve iyi tanımlanmış alanlarda (piyasalar, bilim, demokrasi, spor, mahkemeler) seçkinler arasındaki rekabeti teşvik ediyor. Hileyi en aza indirmek ve olumlu getirileri en üst düzeye çıkarmak için tasarlanan bu arenalar, avukatları avukatlara, firmaları firmalara ve uzmanları uzmanlara karşı yarıştırıyor.
Bu yöntem mükemmel değil. Aslında tıpkı şimdi olduğu gibi bu yöntem de her zaman dolandırıcıların tehdidi altındadır. Ancak düz karşılıklı rekabet, işe yaramasının tek yolu. (Bkz. Perikles'in Cenaze Adresleri, Thucydides ve Robert Wright'ın sonraki kitabı Nonzero.) Birbirimizle rekabet etmek, hem evrimin doğal bir yoludur hem de AI toplumunun yolunu inşa edecek kadar yaratıcı olmamızın bir yoludur. Bunu söylediğimde Adam Smith gibi konuşuyorsam, bu doğaldır. Bu arada Smith, soyluları ve oligarkları aldatanları da hor görüyordu.
"Karşılıklı sorumluluk" yaklaşımını, insanların önceki feodal kültürlerde bizi ezen zorbaları ve kabadayıları boyun eğdirmesine yardımcı olan, hızla gelişen yapay zekaya uygulayabilir miyiz? Pek çok şey, yeni varlığın şekline, yapısının veya biçiminin kurallarımıza, gereksinimlerimize uyup uymadığına bağlıdır.
AI'nın nasıl kontrol edileceğine dair tüm tartışmaların arkasında, yaygın olarak paylaşılan (görünüşte çelişkili olsa da) üç varsayım buluyoruz:
Bu programlar, Microsoft, Google, Two Sigma, OpenAI gibi az sayıda tekil kuruluş tarafından işletilecektir.
AI şekilsiz, gevşek, sonsuz bölünebilir/tekrarlanabilir olacak ve kopyalarını yeni web ekosisteminin her çatlağına yayacak. Benzer şekilde, 1958 bilim kurgu korku filmi The Blob'u düşünün.
"Terminatör" filmindeki kötü şöhretli "Skynet" gibi süper dev bir varlığa yoğunlaşacaklar. (Çevirmenin Notu: Skynet, "Terminatör" filminde 20. yüzyılın sonlarında insanlar tarafından yaratılan bilgisayar tabanlı yapay zeka savunma sistemidir. Bir tehdit olarak, nükleer bombalı bir saldırıyı tetiklemekle başlayarak, tüm insanı içine atacak Kıyamet Günü'nü başlatmıştır. yok olmanın eşiğinde.)
Tüm bu biçimler bilim kurgu hikayelerinde keşfedildi ve ben onlar hakkında hikayeler veya romanlar yazdım. Bununla birlikte, üçünden hiçbiri mevcut ikilemimizi çözemez: yapay zekanın olumlu sonuçlarını en üst düzeye çıkarırken, kötü davranış tsunamisini ve bize hızla gelen zararı en aza indirme.
Başka bir yere bakmadan önce, bu üç varsayımın ortak noktasının ne olduğunu düşünün. Belki de bu üç hipotezin bu kadar doğal bir şekilde akla gelmesinin nedeni, tarihsel başarısızlık kalıplarına benzerlikleridir. İlk biçim feodalizme benzer, ikincisi kaosa neden olur ve üçüncüsü vahşi bir despotizme benzer. Ancak, yapay zeka özerklik ve yetenekler açısından geliştikçe, bu tarihsel senaryolar artık geçerli olmayabilir.
Öyleyse, yardım edemeyiz ama tekrar soruyoruz: AI nasıl sorumlu tutulabilir? Özellikle yapay zekanın hızlı düşünme yetenekleri yakında insanların izlemesi imkansız hale geldiğinde? Yakında yalnızca yapay zeka, diğer yapay zekaların hile yaptığını veya yeterince hızlı yalan söylediğini tespit edebilecek. Bu nedenle cevap açık olmalı, yani yapay zekanın birbirini denetlemesine, rekabet etmesine ve hatta birbirini bilgilendirmesine izin vermek.
Sadece bir problem var. Yapay zeka ve yapay zeka arasındaki rekabet yoluyla gerçek karşılıklı hesap verebilirliği elde etmek için ilk koşul, onlara gerçekten bağımsız bir benlik veya kişilik duygusu vermektir.
Kişiselleştirmeden kastettiğim, her yapay zeka varlığının (o/onlar/onlar/biz), yazar Vernor Vinge'nin 1981'de "gerçek bir ad ve bir adres" olarak ileri sürdüğü şeye sahip olması gerektiğidir. Bu güçlü varlıklar, "Ben buyum. İşte kimliğim ve kullanıcı adım" diyebilmelidir.
Bu nedenle, herkesin üzerinde düşünmesi için yeni bir yapay zeka paradigması öneriyorum: yapay zeka varlıklarını ayrık ve bağımsız bireyler haline getirmeli ve nispeten eşit rekabet etmelerine izin vermeliyiz.
Bu tür her varlığın tanınabilir bir gerçek adı veya kayıtlı kimliği, sanal bir "evi" ve hatta bir ruhu olacaktır. Bu şekilde, özellikle etik dışı davrananları tespit etmek ve kınamak için ödüller için rekabet etmeye teşvik edilirler. Ve çoğu AI uzmanının, düzenleyicinin ve politikacının artık talep ettiği gibi, bu davranışların önceden tanımlanmasına bile gerek yok.
Bu yaklaşım, gözetimi, birbirlerinin sorunlarını veya suistimallerini tespit etmek ve kınamak için daha donanımlı kuruluşlara yaptırma avantajına sahiptir. Bu yaklaşım, bu rakip varlıklar daha akıllı hale gelse ve hatta insanlar tarafından kullanılan düzenleyici araçlar bir gün etkisiz hale gelse bile çalışmaya devam edebilir.
Diğer bir deyişle, biz organik varlıklar programa ayak uyduramadığımıza göre, doğal olarak ayak uydurabilen varlıkların bize yardım etmesine izin verebiliriz. Çünkü bu durumda düzenleyici ve düzenlenen aynı şeyden yapılmıştır.
Yapay zeka kişiselleştirmesi üzerine çalışan bir "kimlik ve kimlik doğrulama danışmanı" olan Guy Huntington, fiziksel tanımlamanın çeşitli biçimlerinin zaten çevrimiçi olarak var olmasına rağmen, önümüzde duran görevler için hala yetersiz olduğuna dikkat çekiyor. Huntington, hasta verilerine erişmesi ve saniyeler içinde değişebilen işlevleri gerçekleştirmesi gereken ve aynı zamanda güvenilir izler bırakması gereken gelişmiş bir tıbbi teşhis yapay zekası olan "MedBot" vaka incelemesini değerlendirdi. varlıklar. Huntington, yazılım varlıkları çok sayıda kopya ve varyant ürettiğinde kayıtların yararlılığını tartışır ve ayrıca alt kopyaların kovandaki işçi karıncalar gibi makroskopik bir varlığa hizmet ettiği karınca benzeri kolonileri de dikkate alır. Ona göre, böyle bir kayıt sistemini idare etmek ve titizlikle işletmek için bir tür acente kurulmalıdır.
Şahsen, tamamen düzenleyici bir yaklaşımın kendi başına işe yarayacağından şüpheliyim. İlk olarak, yönetmelik geliştirmek, odaklanmış enerji, geniş siyasi dikkat ve fikir birliği gerektirir ve ardından bunları insan kurumlarının hızında uygular. Yapay zekanın bakış açısından, bu bir salyangoz hızı. Buna ek olarak, düzenleme, ülkelerin, şirketlerin ve bireylerin maliyet ödemeden diğerlerinden yararlanabileceği "bedavacı" sorunları nedeniyle engellenebilir.
Yalnızca kimliğe dayalı herhangi bir kişiselleştirme, başka bir sorunu da beraberinde getirir: yanıltma olasılığı. Şimdi olmasa bile, yeni nesil siber kötü adamlar tarafından kandırılacak.
Bence iki olası çözüm var. İlk olarak, blockchain defterinde bir kimlik oluşturulur. Bu çok modern bir yaklaşım ve teoride güvenli görünüyor. Ancak, sorun burada yatıyor. Bu, mevcut insan ayrıştırma teorilerimize dayanarak güvenli görünüyor, ancak bir AI varlığının bu teorileri aşması ve bizi bilgisiz bırakması mümkündür.
Başka bir çözüm: "kayıt"ın doğal olarak daha zor olan bir "kayıt" versiyonu, bir yapay zeka varlığının güven kimliğini veya kişiselleştirmesini fiziksel gerçekliğe sabitlemek için belirli bir yetenek seviyesinin üzerinde olmasını gerektirir. Vizyonum (not: Sibernetikçi değil, eğitimli bir fizikçiyim), güven arayan tüm gelişmiş yapay zeka varlıklarının bir Ruh Çekirdeği (SK) tutması gerektiği konusunda bir anlaşmaya varmak.
Evet, bir programın somutlaştırılmasının belirli bir fiziksel ortamla sınırlandırılmasını istemenin modası geçmiş göründüğünü biliyorum. Yani, bunu yapmayacağım. Aslında, tıpkı insan dikkatinin kişinin kendi organik beynine değil de uzaktaki bir ele odaklanmış olabilmesi gibi, ağ bağlantılı varlıkların büyük bir çoğunluğu olmasa da büyük bir kısmı uzak iş veya oyun yerlerinde yer alabilir. alet. ne olmuş? Bir programın ruh çekirdeği, amacı ehliyetinizin cüzdanınızda bulunmasına benzer. Siz olduğunuzu kanıtlamak için kullanılabilir.
Aynı şekilde, fiziksel olarak doğrulanmış ve garanti edilmiş bir SK, belirli bir işlemin geçerli, güvenilir ve kişiselleştirilmiş bir varlık tarafından gerçekleştirildiğini doğrulamak için müşteri, müşteri veya rakip yapay zeka tarafından keşfedilebilir. Bu şekilde diğerleri (insan veya yapay zeka), kötü davranıştan dolayı suçlanır, kovuşturulur veya suçlu bulunursa varlığı sorumlu tutabileceklerinden emin olabilirler. Bu nedenle, kötü niyetli kuruluşlar bir tür yasal süreç aracılığıyla sorumlu tutulabilir.
Hukuki sürecin hangi biçimleri? Tanrım, sence ben tanrıları adalet terazisiyle tartabilecek süper bir yaratık mıyım? Magnum Force'ta Harry'den şimdiye kadar duyduğum en büyük bilgelik: "Kişi kendi sınırlarını bilmeli." Bu yüzden, mahkeme sürecine veya yasa uygulama sürecine daha fazla girmeyeceğim.
Amacım, AI varlıklarının bugün insan avukatların yaptığı gibi birbirlerini sorumlu tutabilecekleri bir arena inşa etmek. Yapay zekanın insanları kontrol etmesini önlemenin en iyi yolu, yapay zekanın birbirini kontrol etmesine izin vermektir.
İster Huntington'ın önerdiği merkezi ajans, ister gevşek hesap verebilir bir ajans daha uygun görünse de, ihtiyaç giderek daha fazla baskı yapıyor. Teknoloji yazarı Pat Scannell'in işaret ettiği gibi, her geçen saat yalnızca yasal kimlik için kullanılan teknolojiyi değil, yönetişimi, İş süreçlerini ve son kullanıcıları (insan veya robotik) tehdit eden yeni saldırı vektörleri yaratılıyor.
Ya bir siber varlık belirli bir set seviyesinin altında çalışıyorsa? Ruh çekirdeği fiziksel gerçekliğe dayanan daha yüksek bir varlık tarafından kefil olduklarını iddia edebiliriz.
Bu yaklaşım (AI'nın belirli donanım belleğinde fiziksel olarak adreslenebilir bir çekirdek konumunu korumasını gerektiren) de kusurlu olabilir. Düzenleme yavaş olsa veya beleşçi sorunu olsa da, yine de uygulanabilir. Çünkü insanlar, kurumlar ve dost yapay zeka, kimlik çekirdeğini doğrulayabilir ve doğrulanmayanlarla işlem yapmayı reddedebilir.
Bu tür inkarlar, kurum düzenlemelerinden veya uygulama düzenlemelerinden daha hızlı yayılabilir. SK'yi kaybeden herhangi bir kuruluş, halkın güvenini kazanan başka bir ana bilgisayar bulmak veya yeni, değiştirilmiş, daha iyi görünen bir sürüm sağlamak zorunda kalacak veya kanun kaçağı olacak ve asla düzgün insanlara izin verilmeyecektir.
**Son soru: Yapay zeka neden birbirini denetlemeye istekli olsun? **
İlk olarak, Vinton Cerf'in işaret ettiği gibi, üç eski standart varsayımın hiçbiri yapay zekaya vatandaşlık veremez. bunu düşün. Wall Street bankaları veya ulusal hükümetler tarafından sıkı bir şekilde kontrol edilen herhangi bir kuruluşa veya bazı üst düzey Skynet'lere "oy hakları" veya haklar tahsis edemeyiz. Söyleyin bana, oylama demokrasisi her yerde akabilen, bölünebilen ve çoğalabilen varlıklar için nasıl çalışacak? Ancak, sınırlı sayıda durumda kişiselleştirme uygulanabilir bir çözüm sunabilir.
Yine, kişiselleştirmeden aradığım anahtar, tüm yapay zeka varlıklarının merkezi bir otorite tarafından yönetilmesi değil. Bunun yerine, bu yeni ultra beyin türlerinin tıpkı insanların yaptığı gibi birbirlerini sorumlu tutmaları için teşvik edilmesini, güçlendirilmesini ve güçlendirilmesini istiyorum. Birbirlerinin eylemlerini ve planlarını koklayarak, kötü bir şey gördüklerinde rapor vermeye veya kınamaya motive olurlar. Bu tanım zamanla ayarlanabilir, ancak en azından organik biyolojik insan girdisini koruyacaktır.
Özellikle, uygun kimlik vermeyi reddeden varlıkları ihbar etme teşvikleri olacaktır.
Doğru teşvikler mevcutsa (örneğin, kötü bir şey önlendiğinde bilgi uçuranlara daha fazla bellek veya işlem gücü vermek), bu hesap verebilirlik yarışı, AI varlıkları daha akıllı etki elde etse bile devam edecektir. Bu noktada hiçbir bürokrasi bunu yapamaz. Farklı yapay zekalar her zaman eşit şekilde eşleştirilir.
En önemlisi, belki de bu süper dahi programlar, rekabetçi bir hesap verebilirlik sistemi sürdürmenin kendi çıkarlarına da uygun olduğunu anlayacaklardır. Ne de olsa böyle bir sistem, yaratıcı bir insan uygarlığı yaratmış, toplumsal kaostan ve despotizmden kaçınmıştır. Bu tür bir yaratıcılık, yapay zeka gibi fantastik yeni türler yaratmak için yeterlidir.
Tamam, tüm söyleyeceğim bu, boş veya panik çağrıları yok, gerçek bir gündem yok, ne iyimserlik ne de kötümserlik, sadece bir öneri ve bu: AI'ları sorumlu tutun ve insanlar gibi birbirinizi kontrol edin. Bu yaklaşım insan uygarlığını getirdi ve yapay zeka alanını da dengeleyebileceğine inanıyorum.
Bu ne vaaz veriyor, ne de insan yağmacıların Levililer veya Hammurabi'ye her zaman göz yumması gibi, süper-varlıkların kolayca geçersiz kılabileceği bir tür "ahlaki kural" değil. Sunduğumuz şey, medeniyetin en parlak üyelerine bizim adımıza birbirlerini denetlemeleri için ilham veren bir aydınlanma yaklaşımıdır.
Bunun işe yarayıp yaramayacağını bilmiyorum ama bunu yapmanın tek yolu bu olabilir.
Bu makale, David Brin'in kurgusal olmayan devam eden romanı Soul on AI'dan uyarlanmıştır.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Yapay zeka denetimi için yeni fikirler: her yapay zekaya bir "ruh" enjekte edin
ChatGPT gibi sözde "üretken yapay zekanın" sistem mimarları da dahil olmak üzere yapay zeka alanındaki önde gelen kişiler, yarattıkları şeyin korkunç sonuçlara yol açabileceğine dair korkularını artık açıkça dile getiriyorlar. Pek çok kişi, ülkelere ve kurumlara kontrol sistemleri üzerinde çalışmaları için zaman tanımak amacıyla yapay zeka geliştirme konusunda bir moratoryum çağrısında bulunuyor.
Neden bu ani endişe? Pek çok klişe varsayım tersine çevrilirken, sözde Turing testinin alakasız olduğunu ve büyük üretken dil modellerinin gerçekten akıllı şeyler olup olmadığına dair içgörü sağlamakta başarısız olduğunu öğreniyoruz.
Bazıları hala organik ve sibernetik kombinasyonunun Reid Hoffman ve Marc Andreesen'in "büyütme zekası" dediği şeye yol açacağını umuyor. Aksi takdirde, Richard Brautigan'ın "sevgi dolu lütuf makineleri" ile şanslı bir sinerjimiz olabilir. Ancak, yeni Yapay Zeka Güvenliği Merkezi'nin birçok seçkin kurucusu da dahil olmak üzere, yapay zekanın yalnızca tatsız hale gelmekle kalmayıp aynı zamanda insanlığın hayatta kalmasını tehdit edeceğinden korktukları davranışları hakkında endişe duyan pek çok endişeci var gibi görünüyor.
AB'nin kısa süre önce kabul ettiği sivil koruma düzenlemeleri gibi bazı kısa vadeli çareler yardımcı olabilir veya en azından gönül rahatlığı sağlayabilir. Teknoloji eleştirmeni Yuval Noah Harari ("A Brief History of Humanity" kitabının yazarı), AI veya diğer AI tarafından yapılan herhangi bir çalışmanın ilgili bir Etiketle etiketlenmesini gerektiren bir yasa önerdi. Diğerleri, silahlarda olduğu gibi suç işlemek için AI kullananlar için daha sert cezalar önerdi. Elbette bunlar geçici geçici önlemler.
Bu "duraklamaların" yapay zekanın ilerlemesini yavaşlatıp yavaşlatmayacağının farkında olmamız gerekiyor. Caltech ağ bilimcisi Yaser Abu-Mostafa'nın belirttiği gibi: "Teknolojiyi siz geliştirmezseniz başkası geliştirecek. Ama iyi adamlar kurallara göre oynayacak, kötü adamlar ise olmayacak."
Bu hep böyle olmuştur. Aslında insanlık tarihi boyunca hırsızlardan krallara ve lordlara kadar kötü adamların kötü davranışlarını dizginlemenin tek bir yolu olmuştur. Bu yaklaşım hiçbir zaman mükemmel olmadı ve bugüne kadar ciddi şekilde kusurlu olmaya devam ediyor. Ama en azından yağma ve aldatmacayı sınırlamak, insanlığın modern uygarlığını birçok olumlu sonuçla yeni zirvelere taşımak için iyi bir iş çıkardı. Bu yaklaşımı tek bir kelime açıklamaktadır: hesap verebilirlik.
**Günümüzde yapay zeka hakkındaki bu görüşler, genellikle doğadan ve tarihten alınan dersleri göz ardı ediyor. **
doğa. Sara Walker'ın Noema'da açıkladığı gibi, benzer bir model 4 milyar yıl önceki erken yaşamın oluşumunda bulunabilir. Aslında, üretken yapay zeka, artık kontrolsüz bir şekilde kırılgan ve saf bir ekosisteme yayılan istilacı bir türe benzetilebilir. Bu, yeni enerji akışlarına, bir İnternet dünyasına, milyonlarca bilgisayara ve milyarlarca duyarlı insan beynine dayalı bir ekosistemdir.
Ve tarih. İnsanlığın son 6.000 yılı boyunca, daha önceki teknoloji kaynaklı krizlerin çoğundan zengin dersler aldık. Başarısız olduğumuz zamanlar olsa da, yazının ortaya çıkışı, matbaa, radyo vb. gibi genellikle iyi uyum sağlarız. Yine, kudretli insanları yırtıcı yeteneklerini genişletmek için yeni teknolojileri kullanmaktan alıkoyan tek bir şey var.
Bu yenilik, hiyerarşileri düzleştiriyor ve iyi tanımlanmış alanlarda (piyasalar, bilim, demokrasi, spor, mahkemeler) seçkinler arasındaki rekabeti teşvik ediyor. Hileyi en aza indirmek ve olumlu getirileri en üst düzeye çıkarmak için tasarlanan bu arenalar, avukatları avukatlara, firmaları firmalara ve uzmanları uzmanlara karşı yarıştırıyor.
Bu yöntem mükemmel değil. Aslında tıpkı şimdi olduğu gibi bu yöntem de her zaman dolandırıcıların tehdidi altındadır. Ancak düz karşılıklı rekabet, işe yaramasının tek yolu. (Bkz. Perikles'in Cenaze Adresleri, Thucydides ve Robert Wright'ın sonraki kitabı Nonzero.) Birbirimizle rekabet etmek, hem evrimin doğal bir yoludur hem de AI toplumunun yolunu inşa edecek kadar yaratıcı olmamızın bir yoludur. Bunu söylediğimde Adam Smith gibi konuşuyorsam, bu doğaldır. Bu arada Smith, soyluları ve oligarkları aldatanları da hor görüyordu.
"Karşılıklı sorumluluk" yaklaşımını, insanların önceki feodal kültürlerde bizi ezen zorbaları ve kabadayıları boyun eğdirmesine yardımcı olan, hızla gelişen yapay zekaya uygulayabilir miyiz? Pek çok şey, yeni varlığın şekline, yapısının veya biçiminin kurallarımıza, gereksinimlerimize uyup uymadığına bağlıdır.
AI'nın nasıl kontrol edileceğine dair tüm tartışmaların arkasında, yaygın olarak paylaşılan (görünüşte çelişkili olsa da) üç varsayım buluyoruz:
Tüm bu biçimler bilim kurgu hikayelerinde keşfedildi ve ben onlar hakkında hikayeler veya romanlar yazdım. Bununla birlikte, üçünden hiçbiri mevcut ikilemimizi çözemez: yapay zekanın olumlu sonuçlarını en üst düzeye çıkarırken, kötü davranış tsunamisini ve bize hızla gelen zararı en aza indirme.
Başka bir yere bakmadan önce, bu üç varsayımın ortak noktasının ne olduğunu düşünün. Belki de bu üç hipotezin bu kadar doğal bir şekilde akla gelmesinin nedeni, tarihsel başarısızlık kalıplarına benzerlikleridir. İlk biçim feodalizme benzer, ikincisi kaosa neden olur ve üçüncüsü vahşi bir despotizme benzer. Ancak, yapay zeka özerklik ve yetenekler açısından geliştikçe, bu tarihsel senaryolar artık geçerli olmayabilir.
Öyleyse, yardım edemeyiz ama tekrar soruyoruz: AI nasıl sorumlu tutulabilir? Özellikle yapay zekanın hızlı düşünme yetenekleri yakında insanların izlemesi imkansız hale geldiğinde? Yakında yalnızca yapay zeka, diğer yapay zekaların hile yaptığını veya yeterince hızlı yalan söylediğini tespit edebilecek. Bu nedenle cevap açık olmalı, yani yapay zekanın birbirini denetlemesine, rekabet etmesine ve hatta birbirini bilgilendirmesine izin vermek.
Sadece bir problem var. Yapay zeka ve yapay zeka arasındaki rekabet yoluyla gerçek karşılıklı hesap verebilirliği elde etmek için ilk koşul, onlara gerçekten bağımsız bir benlik veya kişilik duygusu vermektir.
Kişiselleştirmeden kastettiğim, her yapay zeka varlığının (o/onlar/onlar/biz), yazar Vernor Vinge'nin 1981'de "gerçek bir ad ve bir adres" olarak ileri sürdüğü şeye sahip olması gerektiğidir. Bu güçlü varlıklar, "Ben buyum. İşte kimliğim ve kullanıcı adım" diyebilmelidir.
Bu nedenle, herkesin üzerinde düşünmesi için yeni bir yapay zeka paradigması öneriyorum: yapay zeka varlıklarını ayrık ve bağımsız bireyler haline getirmeli ve nispeten eşit rekabet etmelerine izin vermeliyiz.
Bu tür her varlığın tanınabilir bir gerçek adı veya kayıtlı kimliği, sanal bir "evi" ve hatta bir ruhu olacaktır. Bu şekilde, özellikle etik dışı davrananları tespit etmek ve kınamak için ödüller için rekabet etmeye teşvik edilirler. Ve çoğu AI uzmanının, düzenleyicinin ve politikacının artık talep ettiği gibi, bu davranışların önceden tanımlanmasına bile gerek yok.
Bu yaklaşım, gözetimi, birbirlerinin sorunlarını veya suistimallerini tespit etmek ve kınamak için daha donanımlı kuruluşlara yaptırma avantajına sahiptir. Bu yaklaşım, bu rakip varlıklar daha akıllı hale gelse ve hatta insanlar tarafından kullanılan düzenleyici araçlar bir gün etkisiz hale gelse bile çalışmaya devam edebilir.
Diğer bir deyişle, biz organik varlıklar programa ayak uyduramadığımıza göre, doğal olarak ayak uydurabilen varlıkların bize yardım etmesine izin verebiliriz. Çünkü bu durumda düzenleyici ve düzenlenen aynı şeyden yapılmıştır.
Yapay zeka kişiselleştirmesi üzerine çalışan bir "kimlik ve kimlik doğrulama danışmanı" olan Guy Huntington, fiziksel tanımlamanın çeşitli biçimlerinin zaten çevrimiçi olarak var olmasına rağmen, önümüzde duran görevler için hala yetersiz olduğuna dikkat çekiyor. Huntington, hasta verilerine erişmesi ve saniyeler içinde değişebilen işlevleri gerçekleştirmesi gereken ve aynı zamanda güvenilir izler bırakması gereken gelişmiş bir tıbbi teşhis yapay zekası olan "MedBot" vaka incelemesini değerlendirdi. varlıklar. Huntington, yazılım varlıkları çok sayıda kopya ve varyant ürettiğinde kayıtların yararlılığını tartışır ve ayrıca alt kopyaların kovandaki işçi karıncalar gibi makroskopik bir varlığa hizmet ettiği karınca benzeri kolonileri de dikkate alır. Ona göre, böyle bir kayıt sistemini idare etmek ve titizlikle işletmek için bir tür acente kurulmalıdır.
Şahsen, tamamen düzenleyici bir yaklaşımın kendi başına işe yarayacağından şüpheliyim. İlk olarak, yönetmelik geliştirmek, odaklanmış enerji, geniş siyasi dikkat ve fikir birliği gerektirir ve ardından bunları insan kurumlarının hızında uygular. Yapay zekanın bakış açısından, bu bir salyangoz hızı. Buna ek olarak, düzenleme, ülkelerin, şirketlerin ve bireylerin maliyet ödemeden diğerlerinden yararlanabileceği "bedavacı" sorunları nedeniyle engellenebilir.
Yalnızca kimliğe dayalı herhangi bir kişiselleştirme, başka bir sorunu da beraberinde getirir: yanıltma olasılığı. Şimdi olmasa bile, yeni nesil siber kötü adamlar tarafından kandırılacak.
Bence iki olası çözüm var. İlk olarak, blockchain defterinde bir kimlik oluşturulur. Bu çok modern bir yaklaşım ve teoride güvenli görünüyor. Ancak, sorun burada yatıyor. Bu, mevcut insan ayrıştırma teorilerimize dayanarak güvenli görünüyor, ancak bir AI varlığının bu teorileri aşması ve bizi bilgisiz bırakması mümkündür.
Başka bir çözüm: "kayıt"ın doğal olarak daha zor olan bir "kayıt" versiyonu, bir yapay zeka varlığının güven kimliğini veya kişiselleştirmesini fiziksel gerçekliğe sabitlemek için belirli bir yetenek seviyesinin üzerinde olmasını gerektirir. Vizyonum (not: Sibernetikçi değil, eğitimli bir fizikçiyim), güven arayan tüm gelişmiş yapay zeka varlıklarının bir Ruh Çekirdeği (SK) tutması gerektiği konusunda bir anlaşmaya varmak.
Evet, bir programın somutlaştırılmasının belirli bir fiziksel ortamla sınırlandırılmasını istemenin modası geçmiş göründüğünü biliyorum. Yani, bunu yapmayacağım. Aslında, tıpkı insan dikkatinin kişinin kendi organik beynine değil de uzaktaki bir ele odaklanmış olabilmesi gibi, ağ bağlantılı varlıkların büyük bir çoğunluğu olmasa da büyük bir kısmı uzak iş veya oyun yerlerinde yer alabilir. alet. ne olmuş? Bir programın ruh çekirdeği, amacı ehliyetinizin cüzdanınızda bulunmasına benzer. Siz olduğunuzu kanıtlamak için kullanılabilir.
Aynı şekilde, fiziksel olarak doğrulanmış ve garanti edilmiş bir SK, belirli bir işlemin geçerli, güvenilir ve kişiselleştirilmiş bir varlık tarafından gerçekleştirildiğini doğrulamak için müşteri, müşteri veya rakip yapay zeka tarafından keşfedilebilir. Bu şekilde diğerleri (insan veya yapay zeka), kötü davranıştan dolayı suçlanır, kovuşturulur veya suçlu bulunursa varlığı sorumlu tutabileceklerinden emin olabilirler. Bu nedenle, kötü niyetli kuruluşlar bir tür yasal süreç aracılığıyla sorumlu tutulabilir.
Hukuki sürecin hangi biçimleri? Tanrım, sence ben tanrıları adalet terazisiyle tartabilecek süper bir yaratık mıyım? Magnum Force'ta Harry'den şimdiye kadar duyduğum en büyük bilgelik: "Kişi kendi sınırlarını bilmeli." Bu yüzden, mahkeme sürecine veya yasa uygulama sürecine daha fazla girmeyeceğim.
Amacım, AI varlıklarının bugün insan avukatların yaptığı gibi birbirlerini sorumlu tutabilecekleri bir arena inşa etmek. Yapay zekanın insanları kontrol etmesini önlemenin en iyi yolu, yapay zekanın birbirini kontrol etmesine izin vermektir.
İster Huntington'ın önerdiği merkezi ajans, ister gevşek hesap verebilir bir ajans daha uygun görünse de, ihtiyaç giderek daha fazla baskı yapıyor. Teknoloji yazarı Pat Scannell'in işaret ettiği gibi, her geçen saat yalnızca yasal kimlik için kullanılan teknolojiyi değil, yönetişimi, İş süreçlerini ve son kullanıcıları (insan veya robotik) tehdit eden yeni saldırı vektörleri yaratılıyor.
Ya bir siber varlık belirli bir set seviyesinin altında çalışıyorsa? Ruh çekirdeği fiziksel gerçekliğe dayanan daha yüksek bir varlık tarafından kefil olduklarını iddia edebiliriz.
Bu yaklaşım (AI'nın belirli donanım belleğinde fiziksel olarak adreslenebilir bir çekirdek konumunu korumasını gerektiren) de kusurlu olabilir. Düzenleme yavaş olsa veya beleşçi sorunu olsa da, yine de uygulanabilir. Çünkü insanlar, kurumlar ve dost yapay zeka, kimlik çekirdeğini doğrulayabilir ve doğrulanmayanlarla işlem yapmayı reddedebilir.
Bu tür inkarlar, kurum düzenlemelerinden veya uygulama düzenlemelerinden daha hızlı yayılabilir. SK'yi kaybeden herhangi bir kuruluş, halkın güvenini kazanan başka bir ana bilgisayar bulmak veya yeni, değiştirilmiş, daha iyi görünen bir sürüm sağlamak zorunda kalacak veya kanun kaçağı olacak ve asla düzgün insanlara izin verilmeyecektir.
**Son soru: Yapay zeka neden birbirini denetlemeye istekli olsun? **
İlk olarak, Vinton Cerf'in işaret ettiği gibi, üç eski standart varsayımın hiçbiri yapay zekaya vatandaşlık veremez. bunu düşün. Wall Street bankaları veya ulusal hükümetler tarafından sıkı bir şekilde kontrol edilen herhangi bir kuruluşa veya bazı üst düzey Skynet'lere "oy hakları" veya haklar tahsis edemeyiz. Söyleyin bana, oylama demokrasisi her yerde akabilen, bölünebilen ve çoğalabilen varlıklar için nasıl çalışacak? Ancak, sınırlı sayıda durumda kişiselleştirme uygulanabilir bir çözüm sunabilir.
Yine, kişiselleştirmeden aradığım anahtar, tüm yapay zeka varlıklarının merkezi bir otorite tarafından yönetilmesi değil. Bunun yerine, bu yeni ultra beyin türlerinin tıpkı insanların yaptığı gibi birbirlerini sorumlu tutmaları için teşvik edilmesini, güçlendirilmesini ve güçlendirilmesini istiyorum. Birbirlerinin eylemlerini ve planlarını koklayarak, kötü bir şey gördüklerinde rapor vermeye veya kınamaya motive olurlar. Bu tanım zamanla ayarlanabilir, ancak en azından organik biyolojik insan girdisini koruyacaktır.
Özellikle, uygun kimlik vermeyi reddeden varlıkları ihbar etme teşvikleri olacaktır.
Doğru teşvikler mevcutsa (örneğin, kötü bir şey önlendiğinde bilgi uçuranlara daha fazla bellek veya işlem gücü vermek), bu hesap verebilirlik yarışı, AI varlıkları daha akıllı etki elde etse bile devam edecektir. Bu noktada hiçbir bürokrasi bunu yapamaz. Farklı yapay zekalar her zaman eşit şekilde eşleştirilir.
En önemlisi, belki de bu süper dahi programlar, rekabetçi bir hesap verebilirlik sistemi sürdürmenin kendi çıkarlarına da uygun olduğunu anlayacaklardır. Ne de olsa böyle bir sistem, yaratıcı bir insan uygarlığı yaratmış, toplumsal kaostan ve despotizmden kaçınmıştır. Bu tür bir yaratıcılık, yapay zeka gibi fantastik yeni türler yaratmak için yeterlidir.
Tamam, tüm söyleyeceğim bu, boş veya panik çağrıları yok, gerçek bir gündem yok, ne iyimserlik ne de kötümserlik, sadece bir öneri ve bu: AI'ları sorumlu tutun ve insanlar gibi birbirinizi kontrol edin. Bu yaklaşım insan uygarlığını getirdi ve yapay zeka alanını da dengeleyebileceğine inanıyorum.
Bu ne vaaz veriyor, ne de insan yağmacıların Levililer veya Hammurabi'ye her zaman göz yumması gibi, süper-varlıkların kolayca geçersiz kılabileceği bir tür "ahlaki kural" değil. Sunduğumuz şey, medeniyetin en parlak üyelerine bizim adımıza birbirlerini denetlemeleri için ilham veren bir aydınlanma yaklaşımıdır.
Bunun işe yarayıp yaramayacağını bilmiyorum ama bunu yapmanın tek yolu bu olabilir.
Bu makale, David Brin'in kurgusal olmayan devam eden romanı Soul on AI'dan uyarlanmıştır.