Turing Ödüllü Hippakis ile Diyalog: Yapay zekanın getirdiği en büyük tehdit, insanları "kölelerin kölesi" haline getirmektir

Kaynak: Tencent Teknolojisi

2023'ün başından beri ChatGPT, dünyayı yapay zeka çılgınlığına sürükledi. GPT4'ün çıkışıyla birlikte, ortaya çıkan güçlü yetenekleri, insanlara yalnızca birkaç yıl içinde yapay zekanın her şeye gücü yeten bir varlık haline geleceğini hissettiriyor.

Ancak büyük dil modeli Transformer paradigmasına dayalı yapay zekanın üst sınırı nerede? Gerçekten tamamen bizim yerimizi alabilir mi? Bu sorulara birçok cevap verildi. Kimileri büyük dil modelinin, insanın tüm işlerini tamamlayabilen yapay zekaya çok yakın yeni bir çağ getireceğini düşünürken, kimileri de onun dünyayı hiç anlayamayan rastgele bir papağan olduğunu düşünüyor. Şu anda hangi açıdan bakılırsa bakılsın yeterli bir yorum ve iyi oluşturulmuş bir sistem eksikliği var.

Çin Bilimler Akademisi'nden yabancı akademisyen Joseph Hifakis, insanların bu konuyu daha iyi görmelerini sağlamak için, AGI'ye yol açan yapay zeka konusundaki onlarca yıllık anlayışını perspektiften açıklayan "Dünyayı Anlamak ve Değiştirmek" yazdı. potansiyel yollar hakkında düşünen bilişsel ilkeler. Joseph Schiffakis, Turing Ödülü'nü Hinton ve diğerlerinden on yıl önce kazanmıştı. Bu kez, "yapay zekanın yeteneği ve yetersizliği" ile "AGI'ye giden yol"u bilişsel ilkeler açısından çok net bir şekilde açıkladı. ” onlarca yıllık düşünce.

丨Odaklanma

1. İnsanlar ve yapay zeka birbirinin ikamesi değil tamamlayıcısıdır. İnsanlar, mevcut yapay zeka paradigmasıyla elde edilemeyen sağduyu bilgisine ve soyut model oluşturma yeteneğine sahiptir, bu nedenle ilkeli yenilikler oluşturamazlar. Yapay zeka, ilkelerde uzmanlaşmadan çok sayıda değişkene sahip olabilecek karmaşık şeyleri tahmin edebilir. Bilişsel yeteneğin sınırlı olması nedeniyle insanların başaramadığı şey budur.Bu, Hippakis tarafından "AI oracle" olarak adlandırılır ve "yeni bir bilim" getirebilir. 2. Yapay zekanın getireceği en büyük tehdit, insanoğlunun ona bağımlılığının kendi yargılarımızdan süresiz olarak vazgeçmemize, karar verme gücümüzü kaybetmemize ve sonunda "kölelerin kölesi" olmamıza neden olabilmesidir. Bundan kaçınmak için, insanlar bilgi geliştirme ve uygulamanın tüm süreçlerinde ustalaşabilmeli ve bu makinelerin bizim için önemli kararları kendi başlarına almamasını sağlamalıdır. 3. Tamamlayıcı yeteneklerin durumuna göre, insanlar için en iyi gelecek senaryosu, makineler ve insanlar arasında uyumlu bir işbirliğidir ve bu işbirliği sayesinde yeni refah elde edilebilir. Bu süreçte toplum, insan yaşamını iyileştirme hedefiyle teknolojiyi geliştirmek ve uygulamak zorundadır.

01 Mevcut yapay zeka, AGI'den çok uzak

**Tencent Teknolojisi: ChatGPT'nin ortaya çıkışı yapay zeka için ne anlama geliyor? Yeni bir paradigma mı yoksa mevcut bir paradigmanın özel bir uygulaması mı? **

Joseph Schiffakis: ChatGPT ve diğer dil modellerinin ortaya çıkışının yapay zekanın gelişiminde önemli bir adım olduğunu düşünüyorum. **Aslında, neredeyse tüm doğal dil sorgularının, çoğu zaman soruyla çok alakalı bir yanıtla yanıtlanabileceği bir paradigma değişikliğine uğradık. Büyük dil modelleri, doğal dil işlemede uzun süredir devam eden sorunları çözer. **Bu, yapay zeka kuralları oluşturmak için dilin sözdizimini ve anlamını ayıran sembolist düşünce okulunun geleneksel olarak yaklaştığı, araştırmacıların onlarca yıldır başarısız olduğu bir alandır.

Şimdi, büyük dil modelleri farklı bir yaklaşım benimsiyor ve bir kelimenin anlamının, kullanıldığı tüm bağlamlarla tanımlandığını düşünüyorlar. Olasılık dağılımlarının hesaplamalarını yapmak için makine öğrenimini kullanırlar. Sözcükler için bu olasılık dağılımı, bir cümledeki en olası sonraki sözcüğü tahmin etmek için kullanılır. Bu çok basit ama etkili bir yöntemdir. Biraz safça ama metni özetlemek için harika olduğu ortaya çıktı. Elbette kullandığı çözümün doğası da sınırlamalarını belirler. Dil modelleri, bazı metinlerin özetlerini oluşturmak ve hatta şiir yazmak için harikadır. 20. yüzyıl Çin tarihinin bir özetini yaparsanız, gerçekten iyi bir iş çıkarabilir. Ancak öte yandan, çok kesin sorular sorarsanız veya çok basit mantık problemleri çözerseniz, işler ters gidebilir. Bunu anlayabiliriz çünkü bu tür sorular bağlamdan bağımsız bir modeldir, bu nedenle metnin ve verdiği cevapların tutarlılığını kontrol edemeyiz.

**Tencent Teknolojisi: Artık, makinelerin mantıksal süreçleri anlamaları için kendilerine rehberlik etmelerine yardımcı olabilecek mantık ağaçları (LOT) gibi birçok yeni teknoloji var. Şimdi, büyük dil modelleri kendilerini daha spesifik veya karmaşık mantıksal süreçler geliştirmek için eğitiyor. Bir sinir ağında birçok katman vardır ve seviye ne kadar yüksek olursa, anlayış o kadar soyut olur. Bu üst düzey nöronlarda dünyanın bir modeli veya yapısal bir anlayışı gibi bir şey olabilir mi? **

Joseph Schiffakis: Kitabımda, insanların ve makinelerin farklı bilgi türlerini geliştirip uyguladıklarını açıklıyorum. Bu bilgi, ne kadar geçerli ve genel olduğuna bağlı olarak, insanların ve makinelerin farklı türdeki sorunları çözmesini sağlar. **Önemli bir ayrım, "bilimsel ve teknik bilgi" ile "öğrenme yoluyla edinilen incelenmiş deneyimsel bilgi" arasındadır. Örneğin, konuştuğumda, yürüdüğümde beynim aslında çok zor sorunları çözüyor ama nasıl çalıştıklarını anlamıyorum ve Sinir ağları aynı örtük ampirik bilgiyi üreterek sorunları anlamadan çözmemize olanak tanıyor. onlar nasıl çalışır. **

Veriye dayalı veya veriye dayalı bilgi dediğimiz şey budur. Aksine, en iyi bilimsel ve teknik bilginin, nesnelerin ve bileşenlerin fiziksel fenomenlerinin derinlemesine anlaşılmasını sağlayan matematiksel modellerin kullanımına dayanması çok önemlidir. Örneğin, bir köprü inşa ettiğinizde (ilkelerine göre) köprünün yüzyıllar boyunca yıkılmayacağından emin olabilirsiniz. Bununla birlikte, sinir ağları ile belirli tahminler yapabiliriz, ancak bunların nasıl çalıştığını anlamayız ve sinir ağlarının davranışını açıklayan bir teori oluşturmak imkansızdır. **Bu özellik, insan müdahalesi olmadan kritik uygulamalarda büyük dil modellerini ciddi şekilde sınırlandırır.

Soru, bu GPT-LM sistemlerinin insan düzeyinde zekaya ulaşıp ulaşamayacağıdır. Sorun bu. Bence zekanın ne olduğu ve ona nasıl ulaşılacağı konusunda çok fazla kafa karışıklığı var. Çünkü net bir zeka kavramımız olmazsa onun nasıl çalıştığına dair teoriler geliştiremeyiz ve zekayı net bir şekilde tanımlayamayız.

Ve bugün çok fazla kafa karışıklığı var. Geçenlerde, bu konuyu tartışan bir makale yazdım. Aslında, Oxford Sözlüğü gibi bir sözlük açarsanız, **zekanın dünyayı öğrenme, anlama ve düşünme ve hedeflere ulaşma ve amaçla hareket etme yeteneği olarak tanımlandığını göreceksiniz. **

**Makineler etkileyici şeyler yapabilir. Oyunlarda insanları geçebilirler. Çeşitli görevleri yerine getirme yeteneğine sahiptirler. Son zamanlarda büyük başarılar da elde edildi. Görsel tanıma gibi duyusal yeteneklerle ilgili görevleri yerine getirebilirler. Ancak durumsal farkındalık, çevresel değişikliklere uyum ve yaratıcı düşünme söz konusu olduğunda makineler insanları geçemez. **Açıkçası, GPT doğal dili çevirmede çok iyidir, ancak araba kullanamaz. GPT'yi araba sürmek için kullanamazsınız. Aralarında hala büyük bir boşluk var. Bence daha gidecek çok yolumuz var. **Bugün sadece zayıf yapay zekamız var, genel zekanın sadece bazı bileşenlerine sahibiz. Daha fazlasına ihtiyacımız var. **

Genel zekaya doğru büyük bir adımın otonom sistemler olacağını düşünüyorum. Konsept artık netleşti, otonom sistemler, yine Nesnelerin İnterneti tarafından da öngörülen, insanları otonom ajanlarla değiştirerek mevcut organizasyonları daha fazla otomatikleştirme ihtiyacından ortaya çıkıyor. Aslında sürücüsüz arabalardan, akıllı şebekelerden, akıllı fabrikalardan, akıllı çiftliklerden, daha akıllı telekomünikasyon ağlarından bahsediyoruz. **Bu sistemler, gerçek zamanlı olarak kısıtlanmış ve birçok farklı hedefle uğraşmak zorunda olan aracılardan oluştuğu için Narrow AI'dan çok farklıdır. Bu hedefler, birçok farklı alandaki eylem ve etkinliklerdeki değişiklikleri içerir ve GPT bu konuda iyi değildir, doğal dil ve belge dönüşümü ile başa çıkmakta iyidir. **Ayrıca insan etmenlerle uyumlu çalışabilen sistemlere ihtiyacımız var. Bunların hepsi diğer dil modelleriyle mümkün değildir. Yani hala yapay genel zekadan oldukça uzağız. Tabii ki, her şey zekayı tam olarak ne olarak kabul ettiğimize bağlı, çünkü zeka sadece konuşmalar ve oyunlar olarak tanımlanırsa, o zaman yapay genel zekaya ulaşmışızdır, ancak bu tanıma katılmıyorum.

**Tencent Teknolojisi: Geçmişteki standart zeka testi Turing testidir. Açıkçası GPT, Turing testini diyalog açısından geçti, ancak otonom bir zeka değil. Bu durumda, AI'nın zekasını nasıl yargılayabiliriz? **

Joseph Schiffakis: Geçenlerde Turing testinin yeterli olmadığını savunan bir makale yazdım. **İkame testi dediğim başka bir test öneriyorum. Aslında fikir şu ki, bir görevi yerine getiren başka bir aracının yerine bir makine koyabilseydim, bu aracının görevi gerçekleştiren aracı kadar akıllı olduğunu söylerdim. **Eğer araba sürmek, bir insana öğretmek veya iyi bir cerrah olmak için bir insanı bir makineyle değiştirebilseydim, o zaman bir makinenin bir insan kadar akıllı olduğunu söylerdim.

Test etmek yerine bu tanımı alırsanız, insan zekasının aslında becerilerin bir bileşimi olduğunu düşünürsünüz. Peki genel istihbarattan ne kadar uzakta olduğumuzu anlıyor musunuz? Bu alternatif testte, bazı eylemlerin robot gibi bir makine tarafından gerçekleştirilmesi gerekebilir. Bahçecilik yapmak istediğinizde, bunu yapacak bir robota ihtiyacınız var. GPT sadece bir dil modelidir, bu robot parçalarını içermez.

**Tencent Teknolojisi: Tanımınıza göre, yapay zeka ile insan zekası arasındaki uçurumun ancak bilgi işlem ve sistemler büyük miktarda metni otomatik olarak çalıştırıp değişen ortamlara uyum sağlayabildiğinde ortadan kalkacağını göreceğiz. Ve artık AutoGPT veya Baby AGI gibi uygulamalar, görevi farklı adımlara bölebilir ve farklı süreçler aracılığıyla görevin amacına ulaşmaya çalışabilir. Bir bakıma oldukça otomatik. Sence bu süreçte AGI'ye yaklaşıyor mu? **

Joseph Schiffakis: Burada sistem mühendisliği sorunları da dahil olmak üzere pek çok sorun var. **Süperzeki bir ajana sahip olmak yeterli değildir, çünkü davranışının açıklanabileceğini de garanti etmelisiniz. **Bu da herkesin bahsettiği açıklanabilir yapay zeka veya güvenli yapay zeka sorunu olan tezimde kapsamlı olarak ele aldığım bir sorundur.

İnsanların anlamadığı şey, **sinir ağları ile onların davranışlarını anlayamamamızdır. Açıkçası, neden böyle bir çıktı verdiğini açıklayamazsınız, çünkü onların davranışlarını tanımlayacak matematiksel bir modele sahip olamazsınız. Tabii ki, sinir ağının her bir düğümünün matematiksel fonksiyonlarının nasıl hesaplandığını tam olarak anlıyoruz. **Girişlerin ve bazı doğrusal olmayan işlevlerin yalnızca doğrusal bir birleşimidir, böylece her bir düğümün davranışını anlayabiliriz. **Fakat tüm sinir ağının ortaya çıkan özelliklerini anlamaya çalıştığımızda umutsuzluğa kapılırız. **Ancak bu yapay zekaya özgü bir sorun değil, bilimdeki genel bir sorundur.

Suyun özelliklerini sadece oksijen ve hidrojen atomlarının özelliklerinden çıkaramazsınız. Bunu tam olarak anlasanız bile, bir ölçek ve karmaşıklık sorunu vardır. Bu umutsuzluğun noktasıdır. **İçindeki öğelerin davranışları aracılığıyla sinir ağının genel davranışını anlamak için teknoloji kombinasyonu veya indirgemecilik mantığını kullanamayız. Yani onu bir sinir ağına uygulayabilmemizin tek yolu onu test etmektir, çünkü davranışını doğrulayamayız ve bunun hakkında akıl yürütemeyiz. **Ancak yalnızca testler uygulanıyorsa, teorik anlayış değil, tamamen deneysel bir yaklaşım izliyorsunuz demektir. Bu nedenle, gerçekte test edebileceğiniz içerik türü büyük ölçüde değişir: örneğin, genel davranışı analiz edemediğiniz için bütünsel güvenlik sorunlarını test edemezsiniz. Ancak güvenlik testini defansif olarak yapabilirsiniz.

Testi her zaman donanım ve yazılıma uyguladık. Ancak test yapabilmek için testin ne kadar sürmesi gerektiğine dair kriterlerinizin olması gerekir. Donanım ve yazılım için modellerimiz ve kapsam standartlarımız var. Ancak sinir ağları için bu standarda sahip değiliz. Bunun çözülmesi çok zor bir problem olduğunu söylemiyorum, **Sinir ağları için, rakip örnekler gibi bazı alternatif olasılıklarımız var. Ancak bu manipülasyonlar, davranışlarında belirli bir sağlamlığı bozar. **Yani ben sana soru sorarsam cevap vereceksin. Sorunuzu biraz değiştirirsem, insan olsaydınız benzer cevaplar verirdiniz. Ancak bir nöronun girdisini biraz değiştirdiğimizde tepkinin çok farklı olabileceğini biliyoruz. Yani bu da dikkate alınması gereken bir şey.

02 Oluşum asla anlaşılamaz

**Tencent Teknolojisi: Sizce bu kavramın ortaya çıkışı, yani temel yeteneklerden daha gelişmiş yeteneklere geçiş açıklanamaz mı? **

Joseph Schiffakis: Evet. Fizik gibi bir konuyu çıkarıyorsunuz. Fizik çok olgun bir konu. Fizikçiler parçacık teorisi, kuantum teorisi veya genel görelilik arasında mantıksal bir bağlantı kurmaya çalışıyorlar ve ölçek sorunu olduğu için bunu asla başaramayacaklarını düşünüyorum. Her türlü sistemde benzer sorunlar olduğunu düşünüyorum.

**Tencent Teknolojisi: Yani size göre, bu açıklanamayan fenomen nedeniyle, büyük dil modelinin neler yapabileceğini gerçekten tahmin edemiyoruz? **

Joseph Schiffakis: Açıkçası, ne yapabileceğini tahmin etmek için bir model oluşturamayız. Modeller oluşturamayız, yani matematiksel modeller. Burada AI topluluğu, bir kafa karışıklığı kaynağı olan bir sinir ağı anlamında model kelimesini kullanıyor.

Başka bir bütünsel yaklaşım benimsememiz gerektiğini düşünüyorum. İlgili bir model oluşturamadığımız için, **belki testlere ve ampirik gözlemlere dayalı bir teori oluşturmanın bir yolunu bulabiliriz. İstatistiksel özellikler hakkında bir test teorisi olması gerekiyordu. **Ancak anladığım kadarıyla günümüzün sinir ağlarında karşılanması teknik olarak zor olan bazı ihtiyaçlarımız var.

**Tencent Teknolojisi: Evet. Peki onlardan ortaya çıkan bu yetenekleri anlamak için psikoloji gibi bir disiplin mi kurmalıyız anlamak için? **

Joseph Schiffakis: Kesinlikle. Bu iyi bir soru. Ancak böyle bir anlayış oluşturmak için GPT'nin kendisini kullanmak biraz sorunlu olacaktır. Çünkü aslında bazı insanlar şimdi bir GPT'nin avukat veya doktor olmak için sınavı başarıyla geçtiğini söylüyor, peki böyle bir GPT neden doktor veya avukat olamıyor?

Bunun çok ilginç bir argüman olduğunu düşünüyorum, ancak daha önce bahsettiğim sağlamlık konusunu içeriyor. Ayrıca sınavı geçmek, insan ve sinir ağları arasındaki yetenek çok farklıdır.

Sağlamlık sorusu şu ki, aklı başında bir kişiden soruyu yanıtlamasını isteseniz, soruyu biraz değiştirseniz, yanıt benzer olacaktır. GPT, cevapların tekdüzeliğini garanti etmez. Başka bir sorun da, insanların ne yaptıklarını ve ne söylemeleri gerektiğini kontrol etmek için mantığa güvenebilmeleridir. Ancak tipik olarak ChatGPT gibi bir sinir ağının yaptıkları üzerinde anlamsal bir denetimi olmadığı için açıkça yanlış olan şeyler yapabilir. Hiçbir makul insan bu hatayı yapmaz. Dolayısıyla, tüm argümanın sonucu şu: GPT, söylediklerinin tutarlılığını mantıksal olarak kontrol edebiliyorsa ve buna uygun olarak sağlamsa, o zaman GPT'nin bir avukat olmasına izin vermek harika olurdu. Ama aslında bu yapay zeka seviyesinden çok uzağız. **

**Tencent Teknolojisi: ChatGPT'yi kontrol etmek neden bu kadar zor? Bir bilgisayarın dağıtılmış bilgi işlem özelliği olduğu için mi? **

Joseph Schiffakis: GPT farklı bir bilgisayar türüdür. Doğal bir bilgisayardır. Siz programları yazarken çalıştıran bir bilgisayar değildir, sistemin ne yapıp ne yapamayacağı üzerinde mutlak kontrole sahipsiniz. Bir sinir ağını eğittiğinizde, bu kontrolü kaybedersiniz. Bu sistemler bir anlamda yaratıcı olabilirler çünkü serbestlik dereceleri vardır.

Şimdi, eğer bu serbestlik derecelerini kontrol edebilir ve nasıl davrandıklarını anlayabilirsek, iyi olacağız. **Sorun şu ki, sinir ağlarının bu büyük serbestlik derecesini kontrol edemiyoruz ve bunu teorik olarak kontrol etmek neredeyse imkansız. **Nasıl davrandıklarına dair kabaca bir tahminde bulunabilirsiniz, ancak kesin sonuçlara sahip olamazsınız. Geleneksel bir bilgisayar programınız varsa, uzun bir program olsa bile, anlamsal modeli çıkarabilir ve içinde neler olduğunu anlayabilirsiniz. Bu çok önemli bir ayrımdır.

**Tencent Teknolojisi: Doğal makineler konseptinden detaylı olarak bahseder misiniz? **

Joseph Schiffakis: **Doğal makineler, doğal olaylardan yararlanan zekalardır. Örneğin, bir sinir ağı, kuantum bilgisayara veya diğer bilgisayarlara benzer doğal bir makinedir. Geçmişte ben öğrenciyken bir sürü bilgisayarımız da vardı. Bu doğal makineyi inşa ederken, fiziksel fenomenlerdeki bazı ilkeleri kullanacağız çünkü herhangi bir fiziksel fenomen bir miktar bilgi içeriği içerir. Örneğin ben bir taş attığımda taş bir bilgisayar gibidir, bir parabol hesaplar, o da bir algoritma oluşturur. Herhangi bir fenomeni gözlemleyebilir ve bilgisayar oluşturmak için doğal fenomenleri kullanabilirsiniz. Ancak bu bilgisayarlar önceden programlanmamıştır. Fizik veya matematikteki belirli yasaları kullanırlar. Sinir ağlarında durum böyledir. **

**Tencent Teknolojisi: Kitabınızdaki diğer bazı içeriklerden bahsedelim. Bazı araştırma ve yenilik konularını tartıştınız. Sinir ağları ile ilgili birçok fikrin Avrupa veya Japonya'dan gelse de, onu kullanan ve OpenAI ve Deepmind gibi ürünler üreten şirketlerin hepsinin Amerika Birleşik Devletleri'nde olduğunu hepimiz biliyoruz. Sizce bunun sebebi nedir? **

Joseph Schiffakis: Dikkat ve yenilik arasında bir fark vardır. **Çünkü yenilik, teknolojik atılımlara ulaşmak için yeni ürünler veya hizmetler geliştirmek üzere araştırmayı uygulama becerisidir. **

Bence bu ABD'nin çok güçlü bir avantajı, inovasyon konusunda harika bir iş çıkardılar. Bu, inovasyon ekosistemi dediğim şeye sahip olduğunuz Kaliforniya'da başladı. **İnovasyon ekosistemi, çok iyi akademik kurumları, büyük teknoloji şirketlerini, start-up'ları ve risk sermayesi ile sermayeyi bir araya getiriyor. Bu tutarlılık, yeni sonuçların ve uygulamaların etkili ve verimli bir şekilde çevrilmesini sağlar. Diğer ülkeler de bu modeli benimsemiştir. İnovasyon ekosistemi fikri yaygındır ve İsrail ve İsviçre gibi daha küçük ülkeler çok başarılı olmuştur. **Özetle özetlemek gerekirse, inovasyona ulaşmak için harika üniversiteleri büyük endüstrilerle ilişkilendirmeniz gerektiğini düşünüyorum. Sadece maddi kaynaklara değil, aynı zamanda kültürel faktörlere de bağlıdır, eğitim ve kurumlar bireysel yaratıcılığı ve girişimciliği tanımalıdır.

03 Neural Network Oracle: Anlaşılamayan Yeni Bir Bilim

**Tencent Teknolojisi: Az önce sinir ağlarının biyolojik beyinleri ve fiziksel dünyayı simüle etme süreci olduğundan bahsettiniz. Biyolojik beyinler hakkındaki anlayışımız hala çok sınırlıyken bu simülasyon nasıl mümkün olabiliyor? Bu sinir ağı biyolojik beynimizden ne kadar uzakta? **

Joseph Schiffakis: Bu güzel bir soru. Az önce sinir ağlarının, geleneksel bilgisayarlardan farklı bir paradigmayı benimseyen bir tür doğal bilgisayar olduğunu söyledim. Spesifik olarak, sinir ağları beynimizdeki sinirsel çalışmalardan ilham alır. Sinirlerin çalıştığı bazı doğal süreçleri taklit eder. **Bununla birlikte, sinir ağları yalnızca, farklı bölgelerde farklı yapı ve işlevlere sahip olduğu için daha karmaşık olan beynin hesaplama ilkelerini taklit eder. Ve bu farklı işlevler, hala anlamaya çalıştığımız daha karmaşık bir mimarinin üzerine inşa edilmiştir. **Ve beynin sinir ağı paralel bir hesaplama modudur. Sinir ağları da bu açıdan ondan oldukça farklıdır.

Şu da anlaşılmalıdır ki **beyni sadece biyolojik düzeyde incelersek, tüm insan niyetlerini tam olarak yakalayabileceğimizi düşünmüyorum. **Örnek olarak, bir yazılımı çalıştırmak için dizüstü bilgisayarınızı kullanın. Daha sonra bu donanımın nasıl çalıştığını ölçümler yoluyla incelemeniz için size elektronik aletler vereceğim. Programı derlediyseniz, tüm bilgiler donanım seviyesinde elektrik sinyalleri şeklinde mevcuttur. Ama sadece bu elektrik sinyalini analiz ederek problemli yazılımın kaynak kodunu bulmanız mümkün değil çünkü bu ölçek probleminiz var. **Bence insan zekasını anlamanın anahtarı bu, beyni incelememiz gerekiyor, sadece beyni değil. Bu nedenle, beynin hesaplama fenomeni, elektrik sinyallerinin, fizikokimyasal fenomenlerin ve psikolojik fenomenlerin bir kombinasyonudur. **

**Ve günümüzün sorunu, zihinsel fenomenlerin beyin hesaplamalarına nasıl bağlanacağıdır. Bu bence önemli bir zorluk. Bunu başaramazsak, insan zekasını hiçbir zaman anlayamayacağımızı düşünüyorum. **

**Tencent Teknolojisi: Yapay zekanın karmaşık problemlerle uğraşırken insan beyninin sınırlarını aşarak insan bilgisinin gelişimi için yeni bir yol açtığından bahsettiniz. Yapay zekanın insanları hangi noktalarda tamamen geçebileceğini düşünüyorsunuz? **

Joseph Schiffakis: Evet. Kitabımda, **makinelerin düşüncemizin bazı sınırlamalarının üstesinden gelmemize yardımcı olabileceğini açıklıyorum. **Bu, psikologlar tarafından onaylanmıştır. Buradaki sınırlamalar, insan zihninin bilişsel karmaşıklıkla sınırlandırılmasını içerir. **Biz insanlar, beşten fazla bağımsız parametre arasındaki ilişkiyi anlayamayız. Bu nedenle geliştirdiğimiz teoriler çok basittir. 1000'lerce bağımsız parametrenin oluştuğu bir teorimiz yok. **

**Bence artık binlerce parametreli bir teori geliştirmek mümkün. Bence bugün süper bilgisayarların ve yapay zekanın yardımıyla benim "nöral ağ kehaneti" dediğim şeyi inşa edebiliriz. Bir sinir ağı kehaneti, karmaşık olayları veya karmaşık sistemleri anlamak ve analiz etmek için eğitilmiş bir sinir ağıdır. Bu karmaşık fenomenler binlerce parametreye bağlı olabilir. ** Fiziksel olayları örnek alarak, şu anda depremleri tahmin etmek için sinir ağlarını eğitmek gibi bazı ilginç projeler var. Bu projelere katılanların çok fazla bilimsel bilgiye sahip olmaları gerekmez, sadece modeli veri tabanı ile beslemeleri yeterlidir. Ellerinde dünyanın her yerinden deprem verileri var. Çok basit bir eğitim prosedürü ile mevcut karmaşık teorileri kullanarak yapabileceklerinden daha iyi tahminlerde bulunabileceklerini açıklayan bir makale yayınladılar. **

**Bu yüzden bunun gelecekte çok önemli bir yön olduğunu düşünüyorum. Karmaşık fenomenlerin veya karmaşık sistemlerin gelişimini tahmin etmemize yardımcı olacak daha fazla "kehanete" sahip olacağız. **Örneğin, tahminlerde bulunmamıza yardımcı olacak, ancak (tahminlerin mantığını) anlayamayacak akıllı dijital ikiz sistemlerimiz olacak. Yani ** yeni bir bilim türüne sahip olacağız. **Bence bu tür bir bilimi kullanabilmek ilginç ama üretilen bilginin kalitesini de kontrol etmemiz gerekiyor. **Bunu bir düşünmelisiniz, çünkü artık insanların tek ayrıcalığı bilgi üretme ayrıcalığı olmayacak. Artık insan makinelerle rekabet etmek zorundadır. **

Dolayısıyla toplumumuz için önemli olan soru, makinelerle işbirliği yapıp yapamayacağımız ve makineler tarafından geliştirilen bilginin gelişimi ve evriminde ustalaşıp ustalaşamayacağımızdır. **Ya da insan güdümlü bilim ile makine güdümlü bilimin bir arada var olduğu bir durum geliştireceğiz. **Bu makinelerden güç alan paralel bilimimiz olsaydı ilginç bir senaryo olurdu.

**Tencent Teknolojisi: İnsan zihninin de bir bilgi işlem sistemi olduğundan bahsetmiştiniz. Her iki sistem de otomatik makinelere kıyasla bileşenlerinde çok benzer. Peki, güçlü yapay zekaya kıyasla insanların benzersiz yetenekleri nelerdir? **

Joseph Schiffakis: Bu çok güzel bir soru. Otonom sistemler üzerinde çalıştığım için sürücüsüz arabalar tasarlamayı denedim. Kendi kendine giden bir araba için, algı, duyusal bilgileri kavramlara dönüştürme gibi işlevlere sahip olacaksınız. Dış dünyayı modelleyen ve kararlar veren yansıtıcı bir işleve sahip olursunuz. Karar vermek, birçok farklı hedefi yönetmek anlamına gelir. Bu hedeflere ulaşmak için planlamaya ve daha fazlasına ihtiyacınız var. Otonom sistemler ile insan zihni arasında gerçekten de pek çok benzerlik var.

Bununla birlikte, insanlar ve otonom sistemler arasında bazı önemli farklılıklar vardır. **Çok önemli bir fark, insanların benim sağduyu bilgisi dediğim şeye sahip olmasıdır. Sağduyu bilgisi, doğumdan itibaren geliştirdiğimiz bilgi ağıdır. Bir mekanizmamız var, nasıl çalıştığını bilmiyoruz. Ancak her gün deneyimleyerek bu ağı zenginleştirir ve dünyayı anlamak için sağduyu bilgisine sahip olursunuz. ** Bir insan için, düşündüğünde, duyusal bilgileri bu sağduyu kavramsal modeliyle ilişkilendirir. Analiz sonuçları daha sonra kavramsal modelden duyusal bilgilere geri beslenir. Bu sinir ağlarından çok farklıdır. Size bir örnek vereyim: Size kısmen karla kaplı bir dur levhası gösteriyorum ve siz hemen bunun dur levhası olduğunu hiç şüphe duymadan söylüyorsunuz.

Şimdi, bir sinir ağını kısmen karla kaplı bir dur işaretini tanıması için eğitmek istiyorsanız, bunun anlamı, sinir ağı duyusal bilgiyi kavramsal modele bağlayamadığı için, sinir ağını tüm hava durumunu anlayacak şekilde eğitmeniz gerektiğidir. koşullar. **Bu nedenle çocukların öğrenmesi sinir ağlarından daha kolaydır. Bir çocuğa arabayı bir kez gösterirseniz, bir dahaki sefere araba olduğunu söyler. **Çünkü gözlem yoluyla bir arabanın ne olduğunun soyut bir modelini oluştururlar. Duyusal bilgileri bu kavramsal modelle ilişkilendirebilirler. **Bu, günümüzde yapay zekanın karşı karşıya olduğu en büyük zorluklardan biridir. **Bu aynı zamanda sürücüsüz araçlar için de önemli bir problemdir. Kendi kendine giden arabalar, duyusal bilgileri toplayabilmeli ve bu bilgileri haritalar ve daha fazlası ile ilişkilendirebilmelidir. Yalnızca duyusal bilgilere dayalı kararlar vermek tehlikeli olabilir. Bunun örneklerini daha önce yaşadık.

İnsanların neden çok fazla analiz ve hesaplama yapmadan karmaşık durumları anlayabildikleri açık değil. Bunu yapabiliriz çünkü duyusal bilgileri belirli kavramsal bilgilerle, soyut bilgilerle ilişkilendirebiliriz. Yani bizim hiç hata yapamayacağımız yerde, sinir ağları çok fazla hata yapabilir. Bir keresinde Tesla'mın ay ve ağaçların birleşimini sarı bir trafik ışığı sandığı için aniden durduğunu hatırlıyorum. Bu kesinlikle insanların başına gelmez, çünkü insanlar bilgiyi anlamlandırmak için bağlamsallaştırabilir. Ay olduğunu hemen anladım, çünkü trafik ışıkları gökyüzünde yüzemez.

Yani birisi bu sistemlerin bazı yönlerden insanlarla rekabet edebileceğini söylediğinde, belki de rekabet edebilir. **Fakat insan zekası, dünyayı anlama ve amaca yönelik sorular sorma yeteneğinizle karakterize edilir. Yapay zeka henüz bu hedeften çok uzak. **

**Tencent Teknolojisi: Çünkü halihazırda çevre, biliş ve algı anlayışını içeren otonom sürüş eğitimi aldınız. Lecun, görsel hayvanlar olduğumuz için dünyayı anlamamızın büyük ölçüde vizyona dayalı olduğunu savunuyor. Büyük dil modelleri çok modlu olabilir ve çevreden öğrenebilirse, dünyanın kendisini anlayabilirler mi? **

Joseph Schiffakis: **Bence yapay zeka somut bilgi ile sembolik bilgi arasında bağlantı kuramazsa, dünyayı yalnızca büyük dil modellerine dayanarak anlamanın imkansız olacağını düşünüyorum. Yapay zeka bunu ancak somut bilgiyi, yani veritabanlarındaki bilgiyi sembolik bilgi ile birleştirerek yapabilir. Eğer yapamazsa, o zaman insan zekası makinelerden daha iyi performans gösterecektir. Bundan oldukça eminim. **Birçok kişinin benimle aynı fikirde olmayacağını biliyorum çünkü Hesaplamalı Zeka milyonlarca parametre aracılığıyla verileri analiz edip çıkarabilir. İnsanlar bunu iyi yapmıyor. Ancak insanlar soyut problemlerle uğraşmakta iyidir.

**İnsan zekası analoji ve mecaz kullanma yeteneğine bağlıdır. **İnsan yaratıcılığının nasıl çalıştığını anlamasak bile, bunun çok önemli olduğunu söyleyebilirim. **Çünkü insan yaratıcılığında keşif ile icat arasında bir ayrım yapılmalıdır. **Makine, veri analizini kullanarak daha karmaşık ve daha büyük verilerden bir şeyler keşfedebilir. Ancak buluş başka bir konudur. Buluş, bir teori icat ettiğim anlamına gelir. Bence insan zekasının bu kısmını anlamaktan çok uzağız.

Ancak keşfetme yeteneği de yararlıdır çünkü insanların daha genel kalıpları tahmin etmesine yardımcı olabilir. Bu, kendi zihnimizin keşfedemeyeceği bir şeydir. Ama makinelerin yeni bilimsel teoriler yaratabileceğini veya yeni makineler yaratabileceğini düşünmüyorum. **Sahip oldukları bilginin sentezini sağlayacaklardır. Bir damıtma işlemi gibi, daha sonra damıtıp size sundukları çok miktarda bilgiye sahiptirler. **Bu harika. Ama bu yeterli değil. Daha fazla olasılık elde etmek için hala insan yetenekleri gerekiyor.

Yazdığım bir yazıda aslında farklı zeka türleri olduğunu anlatmıştım. İnsan zekası çok özeldir çünkü insan zekasının gelişiminin temeli içinde yaşamaya çalıştığımız özel dünyadır. **Başka bir dünyada doğsaydık belki başka bir zeka geliştirirdik. Zeka, bilgi üretme ve problem çözme yeteneğidir. **Elbette, bizim çözemediğimiz bazı sorunları çözebilen makineler gördüğümüze göre, aslında farklı bir tür zekaya sahipler. Harika, bir çeşit tamamlayıcılığımız var. **

04 Bilim ve teknolojinin gelişmesi önceliği insan yaşamını iyileştirmeye vermelidir

**Tencent Teknolojisi: Az önce bazı felsefi tartışmalar yaptık ve şimdi yapay zekanın toplum üzerindeki ahlaki etkisi hakkında bazı konuları tartışacağız. İlk soru, yeni teknolojilerin yeterince yeni istihdam yaratacağı iyimserliğinin aksine, yapay zekanın ciddi işsizlik sorunlarına yol açacağından bahsediyorsunuz. Ve bu sorunların sosyo-ekonomik sistemi değiştirmeden çözülmesi zor olabilir. Bunu neden söylediğini açıklayabilir misin? Çünkü birçok insan bundan endişe duyuyor. **

Joseph Schiffakis: Yapay zekanın gelişimi üretkenliği artıracak. Ekonomide bazı çok basit yasalar vardır: eğer üretkenlik artarsa, aynı işi yapmak için gittikçe daha az insana ihtiyacınız olur. Bu nokta çok açıktır.

Şimdi bazı insanlar yapay zekanın özellikle yüksek kaliteli insanlar için bazı iş fırsatları yaratacağını düşünüyor, bazı yeni iş fırsatları yaratacak. **Ancak yapay zeka tarafından yaratılan işleri, onun yüzünden kaybedilen işlere karşı tartarsanız, yapay zekanın etkisinin negatif olması gerekir. **

Yapay zekanın işsizliğe neden olacağı konusunda artık herkes hemfikir. Bu apaçık. **Ancak insanlık tarihi boyunca teknoloji, nihayetinde insanların yaşam kalitesini iyileştiren üretkenliği artırmayı başardı. **Yüzyıllar boyunca insanlar daha az saat çalıştı. Bu sorunu uygun ekonomik ve sosyal reformlarla çözmeyi düşünmeliyiz. Eğitim reformu dahil, çünkü insanları bu yeni çağa uyum sağlayacak şekilde eğitmek zorundasınız.

**Tencent Teknolojisi: Sanayi devriminde, insanların yaşamları başta büyük ölçüde iyileşmedi. Fabrikalarda çalışırlar ve günde 14 saat çalışabilirler. Sizce teknolojik yeniliklerin ilk zamanlarında insanların yaşam koşulları daha mı kötü olacak? **

Joseph Schiffakis: Hayır, bence Sanayi Devrimi genel olarak insan yaşamının kalitesini iyileştirdi. Bu, konunun özüdür. **Bence bugün toplumun sorunu bu hedefi ciddiye almaması, teknolojik ilerlemenin bir öncelik olması gerektiğini düşünüyorlar. Ama bence en yüksek öncelik, insan yaşamının nasıl iyileştirileceğidir ki bu da birinci öncelik olmalıdır. En azından ben insancıl biriyim. **

**Tencent Technology: Ben de insancıl biriyim ve bu sorunun ne kadar ciddi olduğunu anlıyorum. AI'nın işsizlik dışında ciddi sonuçları olabileceğini düşünüyor musunuz? **

Joseph Schiffakis: Mümkün. Ama sorun şu ki, bazı insanlar yapay zekanın insanlar için tehdit oluşturacağını ve hatta makinelerin kölesi olabileceğimizi söylüyor. Bu ifadeyi sevmiyorum. Kitabımda teknolojinin tarafsız olduğunu söylüyorum. Atom enerjiniz var, atom enerjisini elektrik üretmek için kullanabilirsiniz ve onu bomba yapmak ve insanları öldürmek için kullanabilirsiniz. Bu senin kararın. Gerçekten düşünürseniz, yapay zekanın insanlar için bir tehdit olduğunu söyleyen tüm bu insanlar tamamen aptaldır. Çünkü teknolojiyi kullanmak bir insan sorumluluğudur. **

**Bence bu insanlar bunu sadece bunun için insan sorumluluğunu da azaltmak istedikleri için söylüyorlar. **Çünkü insanların yapay zekayı kabul etmesini istiyorlar ki bu çok kötü. İnsanlar olası sorunlar için sorumluluk almalıdır. Çin'de neler olup bittiğini bilmiyorum ama ne yazık ki batı dünyasında insanlar bu konuda çok hassas değiller. Teknolojinin (olumsuz etkinin) önceden belirlenmiş olduğunu düşünüyorlar ki bu çok kötü. Ayrıca kitabımda en büyük riskin insanların makineler tarafından yönetilmesi değil, insanların tüm önemli kararları makinelerin verdiğini kabul etmesi olduğunu da söyledim. Arap efsanelerindeki gibi her istediğimi yapabilen bir kölem olsaydı, sonunda kölemin kölesi olurdum. **Yani tehlike insanlardan geliyor. Bunu Fransız okullarında da gördüm, bir çocuk bir chatbot'a erişirse yazamaz, düşüncelerini organize edemez ve sonunda makineye bağımlı hale gelir. Bu insanlık için pembe bir senaryo değil.

**Tencent Teknolojisi: Birkaç gün önce, Sam Altman da dahil olmak üzere yapay zeka alanında tanınmış birçok isim, yapay zekanın yok olma tehdidiyle ilgili bir bildiri imzaladı. AI'nın yeteneklerini ve tehditlerini abartmak. Bunlardan biri mi? Mevcut yapay zeka paradigmasının bir insan uygarlığı krizine yol açma olasılığı olduğunu düşünüyor musunuz? **

Joseph Schiffakis: **Yapay zekanın yarattığı tehlikeler açıktır ve esas olarak yanlış kullanımından kaynaklanabilir. **Maalesef bugün bu tehlikeye karşı ilgili düzenlemelerimiz bulunmamaktadır. Hükümet bu şeylerin nasıl geliştirildiğini bilmediği için şeffaflığın olmaması, düzenlemelerin uygulanamayacağı anlamına gelir. Toplum için çok kötü. Yapay zekanın kötüye kullanılması çok muhtemeldir, bu yüzden şirketin soruşturulmasını desteklemek için bir dilekçe de imzaladım.

Teknoloji çok iyi ve teknolojiye karşı bir şeyim yok. Chatbot'larımızın olması harika bir şey ve bu yönde ilerleme kaydetmeliyiz. **Yapay zeka, genel yapay zeka da dahil olmak üzere iyi bir şey ve buna karşı hiçbir şeyim yok. Benim karşı olduğum şey bu teknolojilerin kötüye kullanılmasıdır. Geniş dil modelinin kendisi yorumlanabilirlikten yoksun olduğu için bazı zorluklar olsa da, çeşitli ülkeler ve uluslararası kurumlar düzenlemeleri uygulamalıdır. Ancak yine de geliştirme şirketlerinden, veri kümelerinin nasıl oluşturulduğu ve bu motorların nasıl eğitildiği gibi bir tür şeffaflık talep edebiliriz. **

**Tencent Teknolojisi: Geçenlerde ABD Kongresi yapay zeka ve standart insanlar hakkında bir duruşma düzenledi. Sam Altman da dahil olmak üzere Marcus katıldı ve Avrupa'da ilgili yasa tasarıları geçiriliyor. Sence bu iyi bir başlangıç mı? **

Joseph Schiffakis: Ama sorun şu ki, **insanlar güvenli yapay zekadan bahsettiklerinde çoğu zaman aynı şeyden bahsetmiyorlar. **Bir mühendis olarak güvenliğin benim için çok net bir tanımı var. Diğerleri, güvenli yapay zekanın, yapay zekaya insanlar kadar güvenmek anlamına geldiğini düşünebilir. Bu fikrin altında yatan mantık, yapay zekayı bir makine olarak değil, bir insan olarak ele almaktır. AI'nın ne yaptığının önemli olmadığını, önemli olanın AI'nın niyeti olduğunu söyleyen birçok başka makale var, bu nedenle niyeti sonuçtan ayırabilmelisiniz vb. Yani çok fazla tartışma var. **Umarım tüm bu tartışma sadece bir dilek listesine değil, ciddi bir düzenlemeye yol açar. **

**Tencent Teknolojisi: O halde, daha parlak olasılıklar hakkında konuşalım. Yapay zeka kötüye kullanılmaz ise hayatımızı hangi yönlerden değiştirebilir? **

Joseph Schiffakis: Yapay zekayı kötüye kullanmazsak, gelecek oldukça ümit vericidir. Bu çok büyük bir devrimdir. İklim değişikliği, kaynak yönetimi, nüfus sorunları, salgın hastalıklar ve daha fazlası gibi bugün insanlığın karşı karşıya olduğu bazı büyük zorlukların üstesinden gelmek için bilgi geliştirme konusunda muazzam bir potansiyele sahiptir.

İnsanlar ve makineler arasında açık bir tamamlayıcılık olduğunu daha önce söylemiştim. **İnsanlar için en iyi senaryo, makineler ve insanlar arasında uyumlu bir işbirliğidir. Ve bu süreçte insanlar, bilgi geliştirme ve uygulamanın tüm süreçlerinde ustalaşabilecek ve bu makinelerin bizim için önemli kararları kendi başlarına almamasını sağlayacak. **

Bizi bekleyen zorluk, doğru dengeyi, insanlar ve makineler arasındaki doğru rol dengesini bulmaktır. Umarım bunu başarıyla yapabiliriz.