Diyalog: Zhang Peng, Li Zhifei
Planlama: Wei Shijie, Li Shiyun
Görsel kaynağı: Unbounded AI tarafından oluşturuldu
Otuz yıl önce, İnternet henüz emekleme aşamasındayken ve kişisel bilgisayarlar bile nadirken, bir teknoloji yazarı, o zamanlar hayatın her kesiminde kendi sınırını dolaşmaya başladı. Dünyanın en parlak beyinlerinden bazılarıyla konuşurken, Out of Control (1994) kitabıyla doruğa ulaşacak olan geleceğin bir kısmını gördü. On yıldan uzun bir süre sonra, mobil internet ve akıllı telefonlar çağı gelene kadar, insanlar en son kavramların "küresel bilgi bağlantısı, dağıtılmış sistemler, dijital para birimi, bulut bilgi işlem vb." kitap.
Teknoloji yazarı, KK olarak da bilinen Kevin Kelly'dir. "Wired" dergisinin kurucusu, teknoloji gözlemcisi ve "peygamber"dir. 2010 yılında "Out of Control"ün Çince versiyonu piyasaya sürüldü ve KK ayrıca Çin'de bir dizi ziyaret başlattı ve yavaş yavaş Çin halkına aşina oldu.
Bugünün düğüm noktasında duran genel yapay zeka (AGI) filizleniyor ve "Out of Control" kitabındaki kehaneti belli belirsiz yansıtan bir zaman devrimi başlamak üzere. KK, o sırada insanların sonunda makinelerle birleşeceğini tahmin etmişti, "makineler biyolojik hale geliyor ve organizmalar tasarlanıyor." Kendi deyimiyle "Out of Control" yalnızca tek bir şeyden bahsetti, o da "karmaşık bir sistemin" nasıl inşa edileceğinden - robotlar, yapay zeka (AI) vb. bugün hala geçerlidir.
Kısa bir süre önce, büyük model başlangıç şirketi Going Out'un kurucusu ve CEO'su Li Zhifei ile birlikte KK ile bir görüşme yaptık.
İlki, teknoloji ve iş dünyasının pratik perspektifinden, ikincisi ise soyut insan, tarih ve hatta evren perspektifinden, yapay zekanın yükselişini, etkisini ve tehdidini tartışıyor. Bu biraz "bilimkurgu" ve "hayal ürünü" bir tartışma... İnsanların ve yapay zekanın geleceğini yeniden "tahmin etmeye" çalışıyoruz.
Her ikisi de, insanlık tarihinde ilk kez günümüzün yapay zekasının yaşam benzeri biçimler aldığını savunuyor. Li Zhifei, mevcut AI'nın zaten bir insan çocuğunun IQ'suna eşdeğer olduğunu ve bilgi, mantık, muhakeme ve planlama gibi gerçek genel zeka yeteneklerine sahip olduğunu söyledi. Ve KK, "silikon tabanlı bir yaşam" olarak yapay zekanın insanlar kadar uyarlanabilir olacağına ve kendi kendine öğrenip büyüyebileceğine inanıyor.
Çok benzer şekilde, ikisi de teknolojik iyimserliği benimsiyor. KK, yapay zekanın insanları işsiz bırakmayacağına, yalnızca insanları daha verimli hale getireceğine ve onları "iğrenç" işlerden kurtaracağına inanıyor. AI, zengin ve fakir arasındaki uçurumu genişletiyor gibi görünüyor, ancak insanlık tarihindeki her teknolojik değişiklik gibi pastayı daha büyük ve daha iyi hale getirerek adaleti ve adaleti sağlama olasılığı daha yüksek. İş üzerindeki etkisi açısından, bireyleri, küçük ve orta ölçekli şirketleri ve büyük şirketleri aynı anda güçlendirecektir.
"Out of Control" kitabının adından da anlaşılacağı gibi - Kevin Kelly, AI'nın gücünü daha iyi elde etmek için insanların AI parçalarının "kontrolden çıkmasına" izin vermesi gerektiğine inanıyor. Ne de olsa ChatGPT, insanlar için kontrolden çıkmış bir "ortaya çıkma" durumunda doğdu. Hem o hem de Li Zhifei, AI'nın mevcut zekasının hala olgunlaşmamış olduğuna ve insanların erken ve aşırı kontrol etmek (denetlemek) yerine bırakmaya devam etmesi gerektiğine inanıyor. İkincisi, emekleme döneminde yeniliği boğabilir.
Daha uzun bir bakış açısıyla, eğer bir gün yapay zeka gerçekten süper bir yaşam formu olursa, insanlar onunla nasıl geçinmeli?
Hem bilim kurgu hem de filmler, genellikle yapay zekaların insanları öldürmek için uyanmasıyla sona eren kasvetli bir geleceği resmeder. Ancak Kevin Kelly, bunun insanın hayal gücü eksikliğinin bir tezahürü olduğuna inanıyor. Başarısızlığı hayal etmek her zaman başarıdan daha kolaydır ve aynı zamanda hikayeler için caziptir. Gelecekle ilgili olarak, yapay zekanın faydalarını ve değerini hayal etmek zor değil.
Önerisi, yapay zekanın "yapay bir uzaylı" olarak kabul edilebileceği ve insanların kendi sorunlarını çözmek ve belirli bir dereceye kadar "kontrol" elde etmek için yapay zekanın bilgeliğini kullanabilecekleridir. Li Zhifei, AI'nın "atası" olarak insanların sonunda AI'yı kontrol etmek yerine onunla birleşeceğine inanıyor.
Bu kehanetin gerçekleşip gerçekleşmeyeceği ise 5000 gün sonra dünyaya bağlı.
Görüşmenin tam metni şöyle:
01 ChatGPT'yi OpenAI yapmasa bile diğer şirketler yakında yapacak
**Zhang Peng: Çin veya Amerika Birleşik Devletleri fark etmeksizin, insanlar son zamanlarda büyük modelleri tartışıyor. Büyük modellerdeki bu teknolojik değişim dalgası hakkında ne düşünüyorsunuz? Çok şok hissedecek misin? **
Kevin Kelly: Yapay zeka (AI) onlarca yıldır var. Yapay zeka modelleri sinir ağlarını ve derin öğrenmeyi kullanmaya başladığında ve daha da büyüdüklerinde ileriye doğru büyük bir sıçrama gerçekleşti. Yaklaşık 4-5 yıl önce çok büyük trafo modelleri (self-attention mekanizmalı derin öğrenme modelleri) üretmeye başladı. Son iki yılda büyük dil modelleri ile arayüz oluşturmaya başlamıştır.
Aslında son zamanlarda AI'daki büyük değişiklik, yeteneğinde değil ve bu konudaki performansı da pek iyi değil. **Yapay zekada son zamanlarda gerçekten değişen şey, yapay zeka ile (doğal) dilde fiilen iletişim kurabilen, sohbete dayalı bir kullanıcı arayüzüne sahip olmamıza izin vermesidir. Bundan önce, insanların yapay zekayı kullanmak için çok fazla programlama bilgisi öğrenmesi ve çok yetkin olması gerekiyordu. Ama şimdi, birdenbire herkes yapay zeka kullanıyor. Bu gerçekten heyecan verici kısım. **
Li Zhifei: KK'nin söylediklerine katılıyorum. Mevcut geniş dil modelindeki ana değişiklik, doğal dil etkileşimi yeteneklerinin iyileştirilmesidir. Bu gerçekten de pek çok sıradan insanın hissedebildiği şeydir ve tam da bu nedenle ChatGPT'nin bugün çok büyük bir sosyal etkisi vardır.
Ancak günümüzde büyük modellerin yeteneklerinde de çok fazla çeşitlilik olduğunu düşünüyorum ve doğal etkileşimini mümkün kılan da bu çeşitlilik. Çünkü doğal etkileşimin gerçekleşmesinin arkasında yapay zekanın güçlü bilgiye, anlama yeteneğine, dil becerisine, akıl yürütme ve planlama becerisine vb. sahip olması gerekir. Doğal dil etkileşimi elde etmek için yapay zekanın bu temel yeteneklerde bir atılım yapması gerekir.
Ve gelecekte büyük modellerin yeteneğinin sadece doğal dil etkileşimi olmayacağını düşünüyorum. Program yazmak, kurumsal otomasyon süreçleri, robot otomasyonu gibi şeyler etkileşimli değil ama gelecekte mümkün olacak.
**Zhang Peng: Yapay zekanın insanlarla daha iyi iletişim kurma yeteneğinin teknoloji ve iş dünyasında bir paradigma değişikliğine yol açacağına tamamen katılıyorum. ChatGPT, AI gelişiminin ikinci eğrisiyse, ortaya çıkması kaçınılmaz mı yoksa tesadüfi mi? **
**Kevin Kelly:**ChatGPT, tüm beklentileri aşma yeteneğine sahiptir. **Yapay zeka alanındaki insanlar dahil kimsenin bunu beklediğini sanmıyorum. Aslında, çoğu araştırmacı ChatGPT'nin nasıl çalıştığını bilmez ve onu geliştirmeye çalışır, ancak bu zordur çünkü nasıl çalıştığını bilmezler. Bu nedenle, ChatGPT'nin ortaya çıkışı bir kazaydı. **
ChatGPT çok şaşırtıcı olsa da sınırlamalarını da görüyoruz. **Temel sınırlaması, modelin insanlar tarafından yazılan ortalama içerik üzerinde eğitilmiş olmasıdır, bu nedenle ortalama sonuçlar üretme eğilimindedir. Ve genellikle istediğimiz şey ortalama değil, ortalamanın üzerinde bir şeydir. **Bunu yapmak zordur.
İkincisi, bu modeller doğruluk için değil, makullük için optimize edilmiştir. Bu nedenle, bunların nasıl daha doğru hale getirileceği şu anda herkesin boğuştuğu büyük bir zorluktur.
Li Zhifei: ChatGPT'nin ortaya çıkışının kısa vadede tesadüfi, uzun vadede ise kaçınılmaz olduğunu düşünüyorum. OpenAI'nin ChatGPT'yi geçen yılın sonunda yapması tesadüftü denilebilir ama o başaramasa bile yakında diğer şirketler yapacak. **
Bu, teknoloji tarihinde sayısız kez tekrarlandı. Derin öğrenmeyi örnek alırsak, AlexNet 2012'de görüntü ek açıklaması yapan ilk kişiydi, ancak o zamanlar güçlü inançlara ve mühendislik yeteneklerine sahip birçok ekip de bunu yapıyordu. AlexNet başaramazsa diğerleri yapardı. Ayrıca Google, RNN ve LSTM gibi dizi modellerinin düşük ölçeklenebilirlik sorunlarını çözmek için 2017'de bir transformatör yaptı. Google başaramasaydı diğer ekipler yapacaktı.
**ChatGPT'nin doğuşunun arka planı, dönüştürücünün zaten çok olgunlaşmış olması ve İnternet'in devasa verilerini eğitmek için güçlü bilgi işlem gücüne sahip olmamızdır. ChatGPT'nin gerekli tüm öğeleri zaten mevcuttur ve doğumu kaçınılmazdır. **Sadece OpenAI, zamanın o noktasında en iyi şekilde bir araya getirdi.
**Zhang Peng: Kaçınılmazlık ve olumsallıktan bahsederken, son zamanlarda çok popüler olan bir kelimeyi düşündüm, "ortaya çıkma". Bu kelime KK'nin "Out of Control" programında en az 88 defa geçmiştir.Bu kelimenin günümüzdeki anlamını nasıl anlamalıyız? **
Kevin Kelly: İngiliz bakış açısına göre "ortaya çıkma", bir sistemin, İnternet, robotlar, vücutlar, ekosistemler gibi birbirine bağlı bir sürü şeyin ve hatta tümünün davranışını ifade eden bir terimdir. Davranışı herhangi bir parçanın davranışında yer almayan dünya. Örneğin bir kovan, tek bir arının ömrünün ötesindeki şeyleri hatırlayabilir, dolayısıyla kovanın kendisi, bireysel parçaların sahip olmadığı bir davranışa, yeteneğe ve güce sahiptir. Biz buna "ortaya çıkış" diyoruz.
Aynı şekilde, üretilen yapay zekanın çoğu da "ortaya çıkıyor". Modelde nereden geldiğini açıklayan tek bir yer olmadığı için, bu yeni yeteneği üretmek için tüm parçaların birlikte çalışması gerekir. Beynimizde "düşünce" olmadığı gibi, tüm nörondan "düşünce" "çıkar". **Düşünme, evrim ve öğrenme gibi şeylerin tümü sistemden "ortaya çıkabilir".
Li Zhifei:"Ortaya çıkış" anlayışım, "daha fazlası farklıdır" ve "daha fazlası farklıdır"dan bahseden "Karmaşıklık" kitabından geliyor. Tıpkı eski bir Çin atasözü gibi, "niceliksel değişim niteliksel değişime yol açar". Büyük modelin "ortaya çıkış"tan ilk kez bahsettiği, geçen yılın sonunda Stanford ve Google tarafından yayınlanan bir makaleydi. Deneyler yoluyla, büyük modelin boyutunu artırarak, belirli bir kritik noktaya ulaşıldığında, aniden belirli bir kapasitede "ortaya çıkacağını" buldular.
Şimdi "ortaya çıkma" kelimesinin aslında gereğinden fazla kullanıldığını hissediyorum. Büyük modelin yeteneğinin nereden geldiğini açıklayamadığımız için "ortaya çıkış" diyoruz.Bu kelime açıklanamaz veya manipüle edilemez ve büyük modeli eğitmemize ve uygulamamıza yardımcı olmaz. Artık herkes "ortaya çıkma" üzerine çalışmıyor, ancak büyük modelin parametre miktarı ile nihai yetenek performansı arasındaki nicel ilişki hakkında daha fazla araştırma yapıyor, bu da büyük modeli anlamamıza ve kontrol etmemize daha yardımcı olabilir.
Kevin Kelly: Bu anlayış tamamen doğru değil. Elbette "kontrol dışı" yanları olacaktır, "ortaya çıkma" davranışının gücünü kullanabilmek istiyorsanız, kontrolünüz dışındaki bazı şeylere tahammül etmeniz gerekebilir. Buna ilişkin anlayışımız ve kontrolümüz şu anda yapay zekada yeterince iyi olmayabilir, ancak aslında en iyi sonuçlar için gereklidir.
Ama aynı zamanda her şeyin "kontrolden çıkmasına" izin veremeyiz, belirli bir derecede "kontrol" yapmalıyız, yani yapay zekayı yönlendirip yönetmeliyiz. Yine, aşırı derecede kısıtlayıcı olmak istemiyoruz, ancak bir düzeyde kontrol sağlanmalıdır. Yine de onlar üzerinde hiçbir zaman tam kontrole sahip olamayacağız, özellikle daha güçlü yapay zekalarla, nasıl çalıştıklarını muhtemelen hiçbir zaman tam olarak anlayamayacağız. Bu değiş tokuş.
**Zhang Peng: "Out of Control" kitabını yazalı uzun yıllar oldu. Bugünün bu noktasında, bu yapay zeka devrimi dalgasıyla birleştiğinde, sizce "Out of Control"ün kayda değer bir yanı var mı? yeniden kalibre etmek? **
Kevin Kelly: "Out of Control" kitabında yapay zeka ve kontrol dışı hakkında çok fazla konuştuğumu sanmıyorum, aslında kitap basit şeylerin nasıl karmaşık şeylere dönüştürüleceğinden bahsediyordu. Rodney Brooks'un alt sistem mimarisi diye bir şey var, içine zeka parçaları yerleştirerek karmaşık bir robot yapabileceğinizden bahsediyor. Karmaşıklığa yol açan süreç, halihazırda çalışmakta olan şeylerin üstüne bir şeyler katmanızdır. (Brooks'un mimari teorisi, üst düzey davranışın alt düzey davranışı içermesi gerektiğini önermektedir).
**Böcek gibi kafasını kesseniz de yürüyebilir, çünkü yürüme işlevini kısmen tamamlamıştır. Beynimizin nefes almaktan ve diğer otonomik işlevlerden sorumlu bir çekirdeği olduğu gibi, bunun üzerine daha fazla karmaşıklık katmanı ekleriz. Bu fikir, insanların robotlar ve yapay zekalar yapıp onları daha karmaşık hale getirmeye çalıştığı günümüzde hala geçerliliğini koruyor. **Bu gerçekten "Out of Control"de bahsettiğim tek şey ve bence mesele hala geçerli.
**Zhang Peng: Daha önce ilginç bir bakış açısına sahip olduğunuzu hatırlıyorum, yani "teknolojinin bir tür yaşam olduğunu varsayarsak", insana yakın bir zeka ile ortaya çıktığında, bundan sonra ne isteyecek? Bu iş dünyasını ve insan toplumunu nasıl etkileyecek? **
**Kevin Kelly:**Teknoloji benim "yaşamın yedinci krallığı" dediğim şeydir. Yaşamın evrimini, artık "ıslak" bir ortama ihtiyaç duymayan, ancak silikonda var olabilen "kuru" bir aleme doğru hızlandırdık. Aklımızı başka yaşam benzeri teknolojiler yaratmak için kullanabiliriz. Uyarlanabilirler ve öğrenip büyüyebilirler.
Demek istediğim, teknolojinin temel olarak yaşamla aynı şeyleri takip ettiğidir. Örneğin, evrim geçirdikçe çeşitlilikleri artacak ve aynı zamanda daha uzmanlaşmış ve spesifik hale geleceklerdir. Vücudumuzda kalp hücreleri, kemik hücreleri ve kemik hücreleri dahil olmak üzere 52 farklı hücre tipi vardır. Ayrıca dil çevirisi, görüntü oluşturma ve otonom sürüş gibi belirli görevleri yerine getiren özel yapay zekalar da oluşturacağız. **Ayrıca teknoloji yaşam gibi daha karmaşık hale gelecek ki bu çok açık.
Sonunda teknoloji de yaşam gibi "karşılıklı olarak faydalı ve simbiyotik" olacaktır. Yaşam o kadar karmaşık bir şekilde gelişti ki, yalnızca diğer yaşamlarla temasa geçti, cansız maddelerle asla temas kurmadı. Midenizdeki bakteriler gibi. Sadece diğer canlı hücrelerle çevrilidirler. ** Gelecekte, insanlar için tasarlanmamış, ancak diğer yapay zekalara hizmet etmek üzere tasarlanmış bazı yapay zekalar da olacak. Örneğin, yalnızca diğer AI'larla iletişim kuran AI'lar olan diğer AI'ları korumaya adanmış AI'lar olacaktır. **
**Li Zhifei:**Yapay zeka ile yaşam arasındaki ilişkiyi bir mühendisin bakış açısından açıklamak istiyorum. Birkaç yıl önce birçok kişi bana hep "Alphago'nun (Go'nun dünya şampiyonunu yenen ilk bilgisayar programı) IQ'su kaç yaşında?" diye soruyordu. Cevap verme. O zamanlar AI, Go oynayabilmesine ve yüksek bir IQ'ya sahip olmasına rağmen, 3 yaşındaki bir çocuk gibi doğal dil konuşmaları yapamıyordu. O zamanlar, mekanizması temel olarak insanoğlununkinden farklıydı.
Ama bu günlerde özellikle yapay zekayı bir çocukla karşılaştırmayı seviyorum. Bence işin özü, bugünün yapay zekasının çocukların sahip olduğu bilgi, mantık, muhakeme, planlama vb. gibi gerçek genel zeka yeteneklerine halihazırda sahip olmasıdır. **Bugünün yapay zekasının daha çok canlı bir vücut gibi olduğunu söylemek istiyorum. Verileri görüp görmediğine bağlı olarak, 5 yaşındaki bir çocuğun IQ'suna ve bir üniversite profesörünün yanı sıra yeni doğmuş bir bebeğin bilgisine sahiptir. **
Bu anlayışa dayanarak, yapay zekanın gerçekte ne istediğini yeniden düşünmemiz gerektiğini düşünüyorum. 5 yaşındaki bir çocuk için önce kendini arındıracak, ardından kendini kopyalama ve işbirliği yapacaktır. Bu soruya kendim için iyi bir cevabım yok.
02 Önümüzdeki 5000 gün içinde dar ve acil bir geçiş döneminden geçeceğiz
**Zhang Peng: Yapay zekanın yetenekleri hızla arttığında, birçok sıradan insan endişeli hissediyor ve rekabet güçlerini kaybedeceklerinden korkuyor. KK'nın bu konuda herhangi bir düşüncesi ve önerisi var mı? **
**Kevin Kelly:**Yapay zeka teknolojisi 20 yıldır geliştiriliyor olsa da, insanlar bunun bir gecede başarı olduğunu düşünüyor ve büyüme hızı ile yetenekleri konusunda endişeli. **Her zaman en iyi senaryolardan ziyade en kötü senaryoları hayal etmeye eğilimliyiz. Bence değişim kaygısıyla başa çıkmanın bir yolu geriye bakmak. Aslında, insanlar geçmişte bu tür bir kaygı yaşadılar, ancak asla hayal ettiğimiz en kötü senaryoda değil. Bu sefer de aynı olması muhtemel. **
Endişelerimle başa çıkmak için bulduğum en iyi yol, onları kullanmaya çalışmaktır. Anksiyetenin çoğunun yapay zekayı kullanmamış olanlardan geldiğini ve yapay zekaya karşı bir mesafe hissini koruduklarını görüyorum. Aslında, bir kez denemeye ve kullanmaya başladıklarında, AI'nın hem faydaları hem de sınırlamaları ve zararları olduğunu görecekler. Bu onların kaygılarını azaltacaktır.
Li Zhifei: AGI bugün olmazsa yarın olur. Durdurulamaz olduğu için onu kucaklamalı ve anlamalısınız. Şu anda benim için AGI bir düşünce ortağı. Kendisiyle birçok sorun hakkında konuşacağım, bilgisi çok kapsamlı ve bana geniş ve kapsamlı bir bakış açısıyla tavsiyelerde bulunabiliyor. Bence bu, insanı kucaklayan yapay zekanın iyi bir biçimi olabilir.
Aynı zamanda, günümüzün büyük modellerinin hala gerçek AGI'nin bazı kritik yeteneklerinden yoksun olduğunu görebiliriz. Örneğin, mantıksal muhakeme yeteneği ve karmaşık görev planlama AI'nın adımları parçalara ayırmasını ve belirli bir hedefe dayalı olarak hedefe ulaşmasını istiyorsanız, şu anda o kadar iyi değil.
**Zhang Peng: KK aynı zamanda bir içerik oluşturucudur. Sizce yapay zeka çağında içerik oluşturucuların yapay zeka ile değiştirilemeyecek nihai değeri nedir? **
Kevin Kelly: Yazılarımda yapay zeka ve diğer araçları kullandım. AI yüzünden kimsenin işini kaybedeceğini düşünmüyorum. **Çünkü yapay zeka yüzünden bir sanatçının işini kaybettiği tek bir örnek bulamıyorum. Hayali bir korku, var olmayan bir sorun. İstihdam muhtemelen AI ile ilişkili en az ciddi sorundur. **
Söylemeye çalıştığım şey, giden belki de aslında yaptığınız iş tanımınız değişebilir. ** Bazı insanlar, işlerinin %50'sinin yapay zeka tarafından yapılabileceğini, diğer %50'sinin ise yapay zeka tarafından artırılacağını ve güçlendirileceğini gözlemledi. **Yani gelecekte, işin yarısının artık insanlara ihtiyacı olmayabilir ve insanlar işin geri kalan %50'sini daha iyi yapabilir. Bu genellikle göreceğimiz modeldir.
**Elbette, yemek siparişi vermek ve kasiyer olarak para saymak gibi belirli işler ortadan kalkar. Bu işleri insanların yapmasını istemiyoruz, bu yüzden mutlaka yok olacaklar ve yok olmalılar. **
**Zhang Peng: AI çağında genç ve yaşlıların rekabet gücünü nasıl değerlendiriyorsunuz? **
Kevin Kelly: Yaşlıların pek çok avantajı var, bilgili ve tecrübeliler. Gençlerin de bir çok avantajı var çünkü neyin imkansız olduğunu bilmiyorlar. Kimsenin kimden daha rekabetçi olduğunu düşünmüyorum.
Bugünün gençlerinin sık sık dijital yerliler olmaktan ve teknoloji üzerinde üstünlük sahibi olmaktan bahsettiklerini söyleyebilirim. Ancak yapay zeka ve diğer şeylerin hızlı gelişimi nedeniyle, gençler dün yerli olabilir ve yarın "yaşlı insanlar" gibi olabilir. İster genç, ister yaşlı, herkes yeni çağda bir "acemi"dir ve hayatı boyunca hızla yeni şeyler öğrenmeye devam etmelidir.
**Zhang Peng: AI teknolojisindeki farklı ustalıkla, bu, zengin ve fakir arasındaki uçurumda değişikliklere yol açacak mı? Yani, gelecekte AI kullanacak insanlar daha üretken olacak ve daha iyi rekabet edebilecek mi? **
Kevin Kelly: Evet, servet uçurumu genişleyecek. **Zamanla üniversiteye gidip gitmemektense yapay zeka ile çalışma becerinizin daha önemli olabileceğini düşünüyorum. Belki de üniversitenin amacı size yapay zeka ile nasıl çalışılacağını öğretmek olacaktır. Çok hırslı olanlar için yapay zekayı nasıl kullanacaklarını öğrenirlerse maaşları büyük fark yaratacaktır. **
Ancak yapay zeka tüm dünyaya yayıldıkça, gelecekte tıpkı eğitime eşit erişim gibi küresel olarak yapay zekaya eşit erişim elde edeceğiz. ABD'de büyük şirketler yöneten ve yapabildikleri sürece uzaktan çalışan çalışanları işe alan arkadaşlar tanıyorum, geçmiş önemli değil. Bu nedenle, Güney Amerika ve Afrika'da çalışan birçok kişiye Amerikan maaş standartlarına göre ödeme yapılacaktır. Aksi takdirde kazanacaklarından daha fazla para kazanacaklar.
**Zhang Peng: Teknolojinin hızlı gelişimi sosyal alanda eşitsizliği ve adaletsizliği getirebilir. Kalkınma ile adalet ve adalet arasında nasıl bir denge kurmalıyız? **
Kevin Kelly: İlerleme ile adalet arasında bir denge kurabileceğimizi düşünüyorum. Aslında, ilerlemenin büyük bir kısmının eşitliği yaymak olduğunu düşünüyorum.
Yüzlerce yıl öncesine kıyasla dünya çok adaletsizdi. Bir köle, bir serf ya da bir köylü olarak doğdunuz ve bunun ötesine geçme şansınız yoktu. Ancak ilerleme sayesinde artık daha eşit ve adil bir dünyaya sahibiz. Teknolojinin gelişmesinin adaleti artırabileceğine, gerçekleşmese de mümkün olduğuna inanıyorum.
**Li Zhifei:**Bir mühendisin bakış açısından,**Adilliğe uç noktadan bakarsanız ve herkesin aynı zenginlik ve yetenek düzeyine sahip olmasını umarsanız, bu kesinlikle daha fazla adaletsizliğe yol açacaktır. Ancak, yapay zeka araçlarını herkesin kullanımına sunmak gibi bir başlangıç noktasından adalete bakarsanız, bu, adalete ulaşmak için daha iyi olabilir. **
**Zhang Peng: Şimdi bir Wenshengtu şirketi olan Midjourney gibi bazı şirketlerin sadece bir düzine insanla yıllık yüz milyonlarca dolar gelir yarattığını görüyoruz. Yapay zekanın üretkenliği temelden değiştirdiğini anlayabilir miyiz? Sonuç olarak geleceğin şirketleri daha küçük ve daha yalın hale mi gelecek? **
Kevin Kelly: İnternetin ve yapay zekanın şu anda sahip olduğu inanılmaz güç, aynı anda bireyleri, orta ölçekli şirketleri ve büyük şirketleri güçlendirebilir. Bir bireyin bir şirkete sahip olmasını kolaylaştırır, bu nedenle yalnızca yapay zeka artı birkaç kişiden oluşan birçok yeni şirket göreceğiz. Ama aynı zamanda bazı şirketlerin yapay zeka sayesinde büyüdüğünü, hatta bir milyon insanı büyüttüğünü de gördük.
**Yani birdenbire sadece bir veya iki kişinin olduğu bir şirketler dünyasına girmeyeceğiz, bu olmayacak. Aynı zamanda sadece büyük şirketlere fayda sağlamış olmayacağız. AI'nın güzelliği bu, herkese fayda sağlayabilir ve onları güçlendirebilir. **
Li Zhifei: Bence uzun kuyruk etkisi ve Matthew etkisi giderek daha belirgin hale gelecek.
Bir yandan kuyruk uzadıkça uzayacak ve giderek daha fazla küçük şirket ortaya çıkacak ve bunlar kendi başlarına tam bir sistem haline gelecekler. Öte yandan, büyük bir şirket güçlü yapay zeka yeteneklerine sahip olduğunda, organizasyonel gücü daha da güçlenecektir. Önceleri sadece 1.000 kişiyi örgütleyebiliyorken şimdi 10.000, 100.000 veya 1 milyon kişiyi örgütleyebiliyor. Örneğin, Çin'in gıda dağıtım endüstrisi, büyük bir binici grubunu organize etmek için eksiksiz bir otomasyon sistemleri setine güveniyor.
**Zhang Peng: Şu anda Yapay Zeka aynı zamanda Silikon Vadisi'ndeki en sıcak konudur. Birçok girişimci, iş inovasyonunu büyük modellerle temel olarak düşünür. KK'nın bu konuda herhangi bir gözlemi var mı? **
Kevin Kelly: Bu bana internetin ilk günlerini hatırlattı. İnternet ilk ortaya çıktığında, birdenbire her işletme internete girmesi gerektiğini fark etti. Ve şimdi her işletme, iş yapmak için büyük dil modelleri ve yapay zeka sunarak yapay zekanın konuşma arayüzünden yararlanıyor. Bir örnek, müşterilerin arabada yemek sipariş etmesine ve bir makineyle konuşmasına olanak tanıyan, artık sohbete dayalı bir arayüz kullanan, modaya uygun bir fast-food burger restoranı olan Wendy's.
Bunun ötesinde, henüz ortaya çıkmamış tamamen yeni hizmetler ve fikirler var. Kesin rakamları bilmiyorum ama kesin olarak bildiğim şu ki, şu anda bu alana yüz milyarlarca dolar akıyor. Çoğu zaman, çoğu muhtemelen başarılı olmayacak, ancak yeterli sayıda olacaktır. Önümüzdeki üç yıl içinde oldukça şaşırtıcı şeyler ve gerçekten büyüyebilecek tamamen yeni şirketler göreceğiz.
**Zhang Peng: Son 5.000 gün içinde KK birçok doğru tahminde bulundu ve birçok ana yönü ileriye dönük olarak kavradı. Yakın zamanda, önümüzdeki 5000 günün insanlık tarihinin en kritik dönemlerinden biri olacağını tahmin ettiniz. Bu düğümün anahtarı nerede? İnsanlık hangi yöne yol ayrımına varacak? **
Kevin Kelly: Dünyada yapay zekanın yanı sıra başka birçok şey de oluyor. İklim değişikliğinin zorluğuyla karşı karşıyayız, genetik mühendisliği ufukta görünüyor, yapay zekayı küçük düşürücü olarak hayal etmek kolay, gözetimin her yerde hazır ve nazır hale geldiğini görmek kolay ve kontrolü kaybediyoruz. Küresel ölçekte birçok zorluk ve fırsatla karşı karşıyayız.
**Bu, dar ve acil bir geçiş dönemi ve bunu atlatmalıyız. **Bence bu dar portala elektrifikasyon, elektrikli araçlar, alternatif enerji ve yeni bir taç aşının geliştirilmesindeki başarı ile erişebiliriz. Şu anda, gezegende hala birçok siyasi gerilim ve bölünme var, ancak kolektif eyleme ihtiyacımız var ve teknoloji, çevre vb. alanlarda fikir birliğine varmalı ve sorunları çözmek için birlikte çalışmalıyız.
**Dünya üzerinde ilk kez küresel kültürler, küresel ekonomiler ve küresel çevresel etkiler ortaya çıkıyor. Bu aynı zamanda önümüzdeki 5000 gün içinde daha küresel bir medeniyet olma şansımız. **
Li Zhifei: KK, önümüzdeki 5.000 gün içinde yapay zekanın yanı sıra dünyanın başka birçok zorlukla karşılaşacağını söyledi. Önümüzdeki 365 günün yapay zeka açısından da çok önemli olduğunu düşünüyorum. Yapay zeka birçok turdan geçti, her seferinde insanlar ondan yüksek beklentiler besliyor ama işe yaramıyor ve sonra insanlar yüksek değerler bekliyor ve yine işe yaramıyor. Bence bugünün AGI dalgası, sektördeki insanların harika olduğunu düşündüğü bir şey mi olacak yoksa toplumda çok önemli bir şey mi olacak, büyük ölçüde önümüzdeki 365 güne bağlı.
Büyük modelin nasıl geliştirileceği de dahil olmak üzere, ne kadar büyükse o kadar iyidir, yoksa çoklu modalite mi eklemeliyiz yoksa çözümler mi eklemeliyiz, vb. Penetrasyon oranına bakmak dahil. Şu anda dünyadaki insanların %5'inden azı ChatGPT kullanmış olabilir. Penetrasyon oranını %5'ten %20'ye nasıl yükseltebiliriz? Düzenlemeler de dahil olmak üzere, insanlar yapay zekanın toplum üzerindeki etkisiyle nasıl başa çıkmalı? İnternet gibi endüstrilere uygulanmasına ek olarak yapay zekayı da içerir, tıbbi bakım, otomobiller ve finans gibi geleneksel endüstrilerde nasıl uygulanmalıdır? vesaire.
İnsanların daha net bir yargıya varabilmeleri için çeşitli girişimlerde bulunmalarının en az bir yıl sürebileceğini düşünüyorum.
03 Ortalama insanlar asil değildir, yapay zekanın ortalama insanlardan daha iyi olmasını istiyoruz
**Zhang Peng: Çoğu durumda insanlar teknolojiye güvenme eğilimindedir. Örneğin, birisi kendi kendine giden bir arabada uyuyacak ve bir kazaya neden olacaktır. İleri teknolojiye duyulan bu ince güven bir insan alışkanlığı mı? Sonuçları nelerdir? **
Kevin Kelly: Kendi kendine giden arabalar mükemmel değiller ama yine de araba kullanma konusunda insanlardan daha iyiler. Yapay zekaya güvenebilir miyiz? Sohbet robotlarıyla yaptığımız konuşmalarda cevaplarının doğru olmadığını gördük ve bu nedenle onlara tam olarak güvenemedik. Ama sanırım yakında bunu ele almaya başlayacağız.
Bugünlerde çoğu insan hesap makinelerine güveniyor. Ona rakamlar verirsin, o sana cevaplar verir ve ona tamamen güvenirsin. Bu nedenle, makinenin güvenilir olduğunu biliyoruz ve bu, iyileştirilmek üzere üzerinde çalışılabilecek bir şeydir. **Ve ırkçı, cinsiyetçi, kötü niyetli ve asil olmayan ortalama insanlar üzerinde eğitildikleri için yapay zeka hakkındaki önyargılar. Aslında yapay zekamızın insanlardan daha iyi olmasını istiyoruz. **
Tıpkı bir hesap makinesinin ortalama bir insandan daha iyi olması gibi, siz de hesap makinesinin size verdiği cevaplara ortalama bir insandan daha fazla güvenmelisiniz. **Güven, odaklanmamız ve üzerinde çalışmamız gereken bir şey, ancak birçok zorluk olsa da, sonunda yapay zekaya ve makinelere fazlasıyla güveneceğimizi düşünüyorum. **
**Zhang Peng: Son zamanlarda, Amerika Birleşik Devletleri'ndeki birçok kişi yapay zekanın gelişiminin çok hızlı olduğuna ve yavaşlaması, hatta durup düşünmesi gerektiğine inanıyor. Bu fikre katılıyor musunuz? **
Kevin Kelly: Hayır, desteklemiyorum. Bunun yanıltıcı, yanıltıcı ve gereksiz olduğunu düşünüyorum. Bunun gerçekten mümkün olduğunu ve tavsiye edilebileceğini düşünmüyorum.
**Zhang Peng: Çoğu bilim kurgu filminde veya insan romanında yapay zeka nispeten kasvetli bir karakterdir. Bunun nedeni insanların hayal gücünden yoksun olması mı yoksa çok fazla yanlış hayal gücümüz mü var? **
**Kevin Kelly: Hollywood yapay zekayı her zaman distopik, korkunç ve istenmeyen olarak resmetmiştir ki bence bu bir hayal gücü eksikliğidir. Çünkü bir şeyin nasıl başarısız olacağını hayal etmenin, nasıl başarılı olacağından çok daha kolay olduğu, evrenin bir yasasıdır. **Dürüst olmak gerekirse, içinde yaşamak istediğimiz dünya bu olsa da yapay zekanın her yerde hazır, ucuz ve insanlığa faydalı olduğu, bundan 100 yıl sonra harika bir dünya hayal etmek insanlar için zor.
Ayrıca, bu stüdyolar hikaye anlatımında çok iyiler ve harika bir hikayenin unsurları çatışma, felaket ve bazı güçlü unsurlardır. Dünyayı yok etmeye çalışan savaşlar, kasırgalar veya yapay zeka olsun. Dolayısıyla yapay zekanın pembe bir vizyonunu bir Hollywood filminde görmemiz pek olası değil çünkü hikayeye katkısı yok, ihtimal var ama çok küçük.
Dolayısıyla yapay zekaya Hollywood (film) izlenimi ile bakamayız. Ne yazık ki, birçok insanın yaptığı bu. Yapay zeka denilince akıllarına "Terminator", "2001 Space Odyssey" ve "HER" geliyor.
Li Zhifei: Bence tüm güvensizlik cehaletten kaynaklanıyor. AGI'nin yeni türüyle karşı karşıya kaldığımızda, yeteneklerinin nasıl ortaya çıktığını, ne istediğini ve neler yapabileceğini anlamıyorum, temel mesele bu.
Bence insanların yapabileceği şey, bir yandan AGI'yi daha fazla anlamak ve diğer yandan AGI'nin kendisini net bir şekilde anlatmasına izin vermeyi öğrenmek. Örneğin, size bir cevap verdiğinde, içsel çalışma sürecini ve iç monologu dile getirmesine izin verirsiniz. Bu, daha güçlü bir güven duygusu yaratabilir. **
**Zhang Peng: KK için Lao Tzu'nun "Tao Te Ching" adlı eseri size çok ilham vermiş gibi görünüyor. "En yüksek kontrol seviyesi kontrol dışıdır ve en düşük kontrol seviyesi her şeyi kontrol etmektir" demiştiniz. AI'nın hükümet ve teknoloji düzenlemesindeki son artış hakkında ne düşünüyorsunuz? **
Kevin Kelly: Mevcut düzenlemenin iyi olduğunu düşünmüyorum. Düzenleme elbette önemli ve gerekli, işlerin sorunsuz yürümesini sağlamak, eşit şartlar sağlamak ve güvenliği sağlamak için gereklidir. Ancak erken düzenleme korkutucudur. Şu andaki sorun şu ki, çok iyi bilmediğimiz bir şeyi düzenlemeye çalışıyoruz ve bu genellikle felakete yol açıyor.
**Li Zhifei:**Neden denetim var? Temel olarak, AGI'nin olumsuz etkisinin olumluya ağır basacağından, çok yetenekli ve sosyal olarak kabul edilemez olacağından endişe duyan insanlardır. Ancak bu aşamada bu yargı yanlıştır. Çünkü bugün AGI'nin olumlu etkisi, olumsuz etkisinden daha büyük olmalıdır.
İkincisi, bugün AGI ile ilgili asıl sorun, yeterince güçlü olmamasıdır. Planlama yeteneği, fiziksel dünyayla bütünleşme yeteneği, kendini geliştirme yeteneği vb. Umudu görmemize rağmen, gerçek gerçekleşmeden hala çok uzak. Oraya asla ulaşamayabiliriz.
Demek istediğim şu: **AGI trendini öylece görüp ardından düzenlemeyi önemli ölçüde artıramayız. Bu, daha başarmadan AGI'yi öldürmemize izin verebilir. Denetim kesinlikle gereklidir, ancak aşırı regüle edilmemelidir. **
**Zhang Peng: Yapay zeka uzun yıllardır konuşuluyor ve şimdi yeni bir döneme giriyor gibi görünüyor. Yapay zekanın gelecekte insandan daha yüksek zekaya sahip bir yaşam formu olma şansı gerçekten varsa, onları insan uygarlığına entegre mi etmeliyiz yoksa insan kontrolü altına mı almalıyız? Hangi yol gerçekten insan uygarlığını yükseltebilir? **
**Kevin Kelly: Geleceğin yapay zekasını (AI) anlamak için çok yararlı bir çerçeve olduğunu düşünüyorum - gelecek 30, 50 veya 100 yılın AI ile karşılaştırıldığında bugünün AI'sını değil , Bu yeterince karmaşık değil -- ona başka bir gezegenden gelen yapay bir uzaylı gibi davranmak. **
Pek çok yapay zeka, insanlardan farklı düşünen, daha önce hiç görmediğimiz bir tür olacak. Yoda ("Yıldız Savaşları"ndaki sanal karakter) veya Spock ("Uzay Yolu"ndaki sanal karakter) kadar zeki olacaklar ve hatta bazı yönlerden insanları geçecekler. Pek çok farklı türde yapay uzaylı yapar, onlara saygı duyar ve kuantum yerçekiminin gerçekte ne olduğunu bulmak gibi zor sorunları çözmemize yardımcı olması için farklı zekalarını kullanırdık.
Ama kontrolü onlara teslim etmeyeceğiz. Davranışlarını beğenmezsek geri göndeririz, kapatırız. Çok fazla güç kazandıklarına inanırsak güçlerini ellerinden alabiliriz. AI'nın kaderimize karar vermesini istemiyoruz.
**Li Zhifei:**Mevcut AGI kelebek gibidir.Larvalardan çok miktarda besin aldıktan sonra kendi süblimleşmesini tamamlar. Bu, kendi dönüşümünü tamamlamak için geçmişteki tüm internet bilgisini kullanmakla eşdeğerdir. Gelecekte, AI kesinlikle birçok yönden insanları geçecek. İnsanların AI'nın atası olabileceğini düşünüyorum ve bu oldukça mutlu.
KK, yapay zekaya bir uzaylı gibi davranmamız gerektiğini söyledi ki bu kulağa daha çok kontrol gibi geliyor. **İnsanların yeteneklerini veya IQ'larını çok fazla abarttığını düşünüyorum. Örneğin, bir 50 yıl sonra, dünyadaki en güçlü ve etkili 100 ajan arasında belki sadece 20'sinin insan ve kalan 80'inin yapay zeka olacağını hayal edebilirsiniz. Bu yüzden, sonunda insanlar ve yapay zekanın kontrol değil, füzyon olması gerektiğini düşünüyorum. **
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Kevin Kelly ile söyleşi: Yapay zekayı düzenlemek için henüz çok erken ve "kontrolden çıkma"ya izin vermeli
Diyalog: Zhang Peng, Li Zhifei Planlama: Wei Shijie, Li Shiyun
Otuz yıl önce, İnternet henüz emekleme aşamasındayken ve kişisel bilgisayarlar bile nadirken, bir teknoloji yazarı, o zamanlar hayatın her kesiminde kendi sınırını dolaşmaya başladı. Dünyanın en parlak beyinlerinden bazılarıyla konuşurken, Out of Control (1994) kitabıyla doruğa ulaşacak olan geleceğin bir kısmını gördü. On yıldan uzun bir süre sonra, mobil internet ve akıllı telefonlar çağı gelene kadar, insanlar en son kavramların "küresel bilgi bağlantısı, dağıtılmış sistemler, dijital para birimi, bulut bilgi işlem vb." kitap.
Teknoloji yazarı, KK olarak da bilinen Kevin Kelly'dir. "Wired" dergisinin kurucusu, teknoloji gözlemcisi ve "peygamber"dir. 2010 yılında "Out of Control"ün Çince versiyonu piyasaya sürüldü ve KK ayrıca Çin'de bir dizi ziyaret başlattı ve yavaş yavaş Çin halkına aşina oldu.
Bugünün düğüm noktasında duran genel yapay zeka (AGI) filizleniyor ve "Out of Control" kitabındaki kehaneti belli belirsiz yansıtan bir zaman devrimi başlamak üzere. KK, o sırada insanların sonunda makinelerle birleşeceğini tahmin etmişti, "makineler biyolojik hale geliyor ve organizmalar tasarlanıyor." Kendi deyimiyle "Out of Control" yalnızca tek bir şeyden bahsetti, o da "karmaşık bir sistemin" nasıl inşa edileceğinden - robotlar, yapay zeka (AI) vb. bugün hala geçerlidir.
Kısa bir süre önce, büyük model başlangıç şirketi Going Out'un kurucusu ve CEO'su Li Zhifei ile birlikte KK ile bir görüşme yaptık.
İlki, teknoloji ve iş dünyasının pratik perspektifinden, ikincisi ise soyut insan, tarih ve hatta evren perspektifinden, yapay zekanın yükselişini, etkisini ve tehdidini tartışıyor. Bu biraz "bilimkurgu" ve "hayal ürünü" bir tartışma... İnsanların ve yapay zekanın geleceğini yeniden "tahmin etmeye" çalışıyoruz.
Her ikisi de, insanlık tarihinde ilk kez günümüzün yapay zekasının yaşam benzeri biçimler aldığını savunuyor. Li Zhifei, mevcut AI'nın zaten bir insan çocuğunun IQ'suna eşdeğer olduğunu ve bilgi, mantık, muhakeme ve planlama gibi gerçek genel zeka yeteneklerine sahip olduğunu söyledi. Ve KK, "silikon tabanlı bir yaşam" olarak yapay zekanın insanlar kadar uyarlanabilir olacağına ve kendi kendine öğrenip büyüyebileceğine inanıyor.
Çok benzer şekilde, ikisi de teknolojik iyimserliği benimsiyor. KK, yapay zekanın insanları işsiz bırakmayacağına, yalnızca insanları daha verimli hale getireceğine ve onları "iğrenç" işlerden kurtaracağına inanıyor. AI, zengin ve fakir arasındaki uçurumu genişletiyor gibi görünüyor, ancak insanlık tarihindeki her teknolojik değişiklik gibi pastayı daha büyük ve daha iyi hale getirerek adaleti ve adaleti sağlama olasılığı daha yüksek. İş üzerindeki etkisi açısından, bireyleri, küçük ve orta ölçekli şirketleri ve büyük şirketleri aynı anda güçlendirecektir.
"Out of Control" kitabının adından da anlaşılacağı gibi - Kevin Kelly, AI'nın gücünü daha iyi elde etmek için insanların AI parçalarının "kontrolden çıkmasına" izin vermesi gerektiğine inanıyor. Ne de olsa ChatGPT, insanlar için kontrolden çıkmış bir "ortaya çıkma" durumunda doğdu. Hem o hem de Li Zhifei, AI'nın mevcut zekasının hala olgunlaşmamış olduğuna ve insanların erken ve aşırı kontrol etmek (denetlemek) yerine bırakmaya devam etmesi gerektiğine inanıyor. İkincisi, emekleme döneminde yeniliği boğabilir.
Daha uzun bir bakış açısıyla, eğer bir gün yapay zeka gerçekten süper bir yaşam formu olursa, insanlar onunla nasıl geçinmeli?
Hem bilim kurgu hem de filmler, genellikle yapay zekaların insanları öldürmek için uyanmasıyla sona eren kasvetli bir geleceği resmeder. Ancak Kevin Kelly, bunun insanın hayal gücü eksikliğinin bir tezahürü olduğuna inanıyor. Başarısızlığı hayal etmek her zaman başarıdan daha kolaydır ve aynı zamanda hikayeler için caziptir. Gelecekle ilgili olarak, yapay zekanın faydalarını ve değerini hayal etmek zor değil.
Önerisi, yapay zekanın "yapay bir uzaylı" olarak kabul edilebileceği ve insanların kendi sorunlarını çözmek ve belirli bir dereceye kadar "kontrol" elde etmek için yapay zekanın bilgeliğini kullanabilecekleridir. Li Zhifei, AI'nın "atası" olarak insanların sonunda AI'yı kontrol etmek yerine onunla birleşeceğine inanıyor.
Bu kehanetin gerçekleşip gerçekleşmeyeceği ise 5000 gün sonra dünyaya bağlı.
Görüşmenin tam metni şöyle:
01 ChatGPT'yi OpenAI yapmasa bile diğer şirketler yakında yapacak
**Zhang Peng: Çin veya Amerika Birleşik Devletleri fark etmeksizin, insanlar son zamanlarda büyük modelleri tartışıyor. Büyük modellerdeki bu teknolojik değişim dalgası hakkında ne düşünüyorsunuz? Çok şok hissedecek misin? **
Kevin Kelly: Yapay zeka (AI) onlarca yıldır var. Yapay zeka modelleri sinir ağlarını ve derin öğrenmeyi kullanmaya başladığında ve daha da büyüdüklerinde ileriye doğru büyük bir sıçrama gerçekleşti. Yaklaşık 4-5 yıl önce çok büyük trafo modelleri (self-attention mekanizmalı derin öğrenme modelleri) üretmeye başladı. Son iki yılda büyük dil modelleri ile arayüz oluşturmaya başlamıştır.
Aslında son zamanlarda AI'daki büyük değişiklik, yeteneğinde değil ve bu konudaki performansı da pek iyi değil. **Yapay zekada son zamanlarda gerçekten değişen şey, yapay zeka ile (doğal) dilde fiilen iletişim kurabilen, sohbete dayalı bir kullanıcı arayüzüne sahip olmamıza izin vermesidir. Bundan önce, insanların yapay zekayı kullanmak için çok fazla programlama bilgisi öğrenmesi ve çok yetkin olması gerekiyordu. Ama şimdi, birdenbire herkes yapay zeka kullanıyor. Bu gerçekten heyecan verici kısım. **
Li Zhifei: KK'nin söylediklerine katılıyorum. Mevcut geniş dil modelindeki ana değişiklik, doğal dil etkileşimi yeteneklerinin iyileştirilmesidir. Bu gerçekten de pek çok sıradan insanın hissedebildiği şeydir ve tam da bu nedenle ChatGPT'nin bugün çok büyük bir sosyal etkisi vardır.
Ancak günümüzde büyük modellerin yeteneklerinde de çok fazla çeşitlilik olduğunu düşünüyorum ve doğal etkileşimini mümkün kılan da bu çeşitlilik. Çünkü doğal etkileşimin gerçekleşmesinin arkasında yapay zekanın güçlü bilgiye, anlama yeteneğine, dil becerisine, akıl yürütme ve planlama becerisine vb. sahip olması gerekir. Doğal dil etkileşimi elde etmek için yapay zekanın bu temel yeteneklerde bir atılım yapması gerekir.
Ve gelecekte büyük modellerin yeteneğinin sadece doğal dil etkileşimi olmayacağını düşünüyorum. Program yazmak, kurumsal otomasyon süreçleri, robot otomasyonu gibi şeyler etkileşimli değil ama gelecekte mümkün olacak.
**Zhang Peng: Yapay zekanın insanlarla daha iyi iletişim kurma yeteneğinin teknoloji ve iş dünyasında bir paradigma değişikliğine yol açacağına tamamen katılıyorum. ChatGPT, AI gelişiminin ikinci eğrisiyse, ortaya çıkması kaçınılmaz mı yoksa tesadüfi mi? **
**Kevin Kelly:**ChatGPT, tüm beklentileri aşma yeteneğine sahiptir. **Yapay zeka alanındaki insanlar dahil kimsenin bunu beklediğini sanmıyorum. Aslında, çoğu araştırmacı ChatGPT'nin nasıl çalıştığını bilmez ve onu geliştirmeye çalışır, ancak bu zordur çünkü nasıl çalıştığını bilmezler. Bu nedenle, ChatGPT'nin ortaya çıkışı bir kazaydı. **
ChatGPT çok şaşırtıcı olsa da sınırlamalarını da görüyoruz. **Temel sınırlaması, modelin insanlar tarafından yazılan ortalama içerik üzerinde eğitilmiş olmasıdır, bu nedenle ortalama sonuçlar üretme eğilimindedir. Ve genellikle istediğimiz şey ortalama değil, ortalamanın üzerinde bir şeydir. **Bunu yapmak zordur.
İkincisi, bu modeller doğruluk için değil, makullük için optimize edilmiştir. Bu nedenle, bunların nasıl daha doğru hale getirileceği şu anda herkesin boğuştuğu büyük bir zorluktur.
Li Zhifei: ChatGPT'nin ortaya çıkışının kısa vadede tesadüfi, uzun vadede ise kaçınılmaz olduğunu düşünüyorum. OpenAI'nin ChatGPT'yi geçen yılın sonunda yapması tesadüftü denilebilir ama o başaramasa bile yakında diğer şirketler yapacak. **
Bu, teknoloji tarihinde sayısız kez tekrarlandı. Derin öğrenmeyi örnek alırsak, AlexNet 2012'de görüntü ek açıklaması yapan ilk kişiydi, ancak o zamanlar güçlü inançlara ve mühendislik yeteneklerine sahip birçok ekip de bunu yapıyordu. AlexNet başaramazsa diğerleri yapardı. Ayrıca Google, RNN ve LSTM gibi dizi modellerinin düşük ölçeklenebilirlik sorunlarını çözmek için 2017'de bir transformatör yaptı. Google başaramasaydı diğer ekipler yapacaktı.
**ChatGPT'nin doğuşunun arka planı, dönüştürücünün zaten çok olgunlaşmış olması ve İnternet'in devasa verilerini eğitmek için güçlü bilgi işlem gücüne sahip olmamızdır. ChatGPT'nin gerekli tüm öğeleri zaten mevcuttur ve doğumu kaçınılmazdır. **Sadece OpenAI, zamanın o noktasında en iyi şekilde bir araya getirdi.
**Zhang Peng: Kaçınılmazlık ve olumsallıktan bahsederken, son zamanlarda çok popüler olan bir kelimeyi düşündüm, "ortaya çıkma". Bu kelime KK'nin "Out of Control" programında en az 88 defa geçmiştir.Bu kelimenin günümüzdeki anlamını nasıl anlamalıyız? **
Kevin Kelly: İngiliz bakış açısına göre "ortaya çıkma", bir sistemin, İnternet, robotlar, vücutlar, ekosistemler gibi birbirine bağlı bir sürü şeyin ve hatta tümünün davranışını ifade eden bir terimdir. Davranışı herhangi bir parçanın davranışında yer almayan dünya. Örneğin bir kovan, tek bir arının ömrünün ötesindeki şeyleri hatırlayabilir, dolayısıyla kovanın kendisi, bireysel parçaların sahip olmadığı bir davranışa, yeteneğe ve güce sahiptir. Biz buna "ortaya çıkış" diyoruz.
Aynı şekilde, üretilen yapay zekanın çoğu da "ortaya çıkıyor". Modelde nereden geldiğini açıklayan tek bir yer olmadığı için, bu yeni yeteneği üretmek için tüm parçaların birlikte çalışması gerekir. Beynimizde "düşünce" olmadığı gibi, tüm nörondan "düşünce" "çıkar". **Düşünme, evrim ve öğrenme gibi şeylerin tümü sistemden "ortaya çıkabilir".
Li Zhifei:"Ortaya çıkış" anlayışım, "daha fazlası farklıdır" ve "daha fazlası farklıdır"dan bahseden "Karmaşıklık" kitabından geliyor. Tıpkı eski bir Çin atasözü gibi, "niceliksel değişim niteliksel değişime yol açar". Büyük modelin "ortaya çıkış"tan ilk kez bahsettiği, geçen yılın sonunda Stanford ve Google tarafından yayınlanan bir makaleydi. Deneyler yoluyla, büyük modelin boyutunu artırarak, belirli bir kritik noktaya ulaşıldığında, aniden belirli bir kapasitede "ortaya çıkacağını" buldular.
Şimdi "ortaya çıkma" kelimesinin aslında gereğinden fazla kullanıldığını hissediyorum. Büyük modelin yeteneğinin nereden geldiğini açıklayamadığımız için "ortaya çıkış" diyoruz.Bu kelime açıklanamaz veya manipüle edilemez ve büyük modeli eğitmemize ve uygulamamıza yardımcı olmaz. Artık herkes "ortaya çıkma" üzerine çalışmıyor, ancak büyük modelin parametre miktarı ile nihai yetenek performansı arasındaki nicel ilişki hakkında daha fazla araştırma yapıyor, bu da büyük modeli anlamamıza ve kontrol etmemize daha yardımcı olabilir.
**Zhang Peng: "Ortaya çıkmanın" "kontrol kaybına" yol açacağını anlayabilir miyiz? **
Kevin Kelly: Bu anlayış tamamen doğru değil. Elbette "kontrol dışı" yanları olacaktır, "ortaya çıkma" davranışının gücünü kullanabilmek istiyorsanız, kontrolünüz dışındaki bazı şeylere tahammül etmeniz gerekebilir. Buna ilişkin anlayışımız ve kontrolümüz şu anda yapay zekada yeterince iyi olmayabilir, ancak aslında en iyi sonuçlar için gereklidir.
Ama aynı zamanda her şeyin "kontrolden çıkmasına" izin veremeyiz, belirli bir derecede "kontrol" yapmalıyız, yani yapay zekayı yönlendirip yönetmeliyiz. Yine, aşırı derecede kısıtlayıcı olmak istemiyoruz, ancak bir düzeyde kontrol sağlanmalıdır. Yine de onlar üzerinde hiçbir zaman tam kontrole sahip olamayacağız, özellikle daha güçlü yapay zekalarla, nasıl çalıştıklarını muhtemelen hiçbir zaman tam olarak anlayamayacağız. Bu değiş tokuş.
**Zhang Peng: "Out of Control" kitabını yazalı uzun yıllar oldu. Bugünün bu noktasında, bu yapay zeka devrimi dalgasıyla birleştiğinde, sizce "Out of Control"ün kayda değer bir yanı var mı? yeniden kalibre etmek? **
Kevin Kelly: "Out of Control" kitabında yapay zeka ve kontrol dışı hakkında çok fazla konuştuğumu sanmıyorum, aslında kitap basit şeylerin nasıl karmaşık şeylere dönüştürüleceğinden bahsediyordu. Rodney Brooks'un alt sistem mimarisi diye bir şey var, içine zeka parçaları yerleştirerek karmaşık bir robot yapabileceğinizden bahsediyor. Karmaşıklığa yol açan süreç, halihazırda çalışmakta olan şeylerin üstüne bir şeyler katmanızdır. (Brooks'un mimari teorisi, üst düzey davranışın alt düzey davranışı içermesi gerektiğini önermektedir).
**Böcek gibi kafasını kesseniz de yürüyebilir, çünkü yürüme işlevini kısmen tamamlamıştır. Beynimizin nefes almaktan ve diğer otonomik işlevlerden sorumlu bir çekirdeği olduğu gibi, bunun üzerine daha fazla karmaşıklık katmanı ekleriz. Bu fikir, insanların robotlar ve yapay zekalar yapıp onları daha karmaşık hale getirmeye çalıştığı günümüzde hala geçerliliğini koruyor. **Bu gerçekten "Out of Control"de bahsettiğim tek şey ve bence mesele hala geçerli.
**Zhang Peng: Daha önce ilginç bir bakış açısına sahip olduğunuzu hatırlıyorum, yani "teknolojinin bir tür yaşam olduğunu varsayarsak", insana yakın bir zeka ile ortaya çıktığında, bundan sonra ne isteyecek? Bu iş dünyasını ve insan toplumunu nasıl etkileyecek? **
**Kevin Kelly:**Teknoloji benim "yaşamın yedinci krallığı" dediğim şeydir. Yaşamın evrimini, artık "ıslak" bir ortama ihtiyaç duymayan, ancak silikonda var olabilen "kuru" bir aleme doğru hızlandırdık. Aklımızı başka yaşam benzeri teknolojiler yaratmak için kullanabiliriz. Uyarlanabilirler ve öğrenip büyüyebilirler.
Demek istediğim, teknolojinin temel olarak yaşamla aynı şeyleri takip ettiğidir. Örneğin, evrim geçirdikçe çeşitlilikleri artacak ve aynı zamanda daha uzmanlaşmış ve spesifik hale geleceklerdir. Vücudumuzda kalp hücreleri, kemik hücreleri ve kemik hücreleri dahil olmak üzere 52 farklı hücre tipi vardır. Ayrıca dil çevirisi, görüntü oluşturma ve otonom sürüş gibi belirli görevleri yerine getiren özel yapay zekalar da oluşturacağız. **Ayrıca teknoloji yaşam gibi daha karmaşık hale gelecek ki bu çok açık.
Sonunda teknoloji de yaşam gibi "karşılıklı olarak faydalı ve simbiyotik" olacaktır. Yaşam o kadar karmaşık bir şekilde gelişti ki, yalnızca diğer yaşamlarla temasa geçti, cansız maddelerle asla temas kurmadı. Midenizdeki bakteriler gibi. Sadece diğer canlı hücrelerle çevrilidirler. ** Gelecekte, insanlar için tasarlanmamış, ancak diğer yapay zekalara hizmet etmek üzere tasarlanmış bazı yapay zekalar da olacak. Örneğin, yalnızca diğer AI'larla iletişim kuran AI'lar olan diğer AI'ları korumaya adanmış AI'lar olacaktır. **
**Li Zhifei:**Yapay zeka ile yaşam arasındaki ilişkiyi bir mühendisin bakış açısından açıklamak istiyorum. Birkaç yıl önce birçok kişi bana hep "Alphago'nun (Go'nun dünya şampiyonunu yenen ilk bilgisayar programı) IQ'su kaç yaşında?" diye soruyordu. Cevap verme. O zamanlar AI, Go oynayabilmesine ve yüksek bir IQ'ya sahip olmasına rağmen, 3 yaşındaki bir çocuk gibi doğal dil konuşmaları yapamıyordu. O zamanlar, mekanizması temel olarak insanoğlununkinden farklıydı.
Ama bu günlerde özellikle yapay zekayı bir çocukla karşılaştırmayı seviyorum. Bence işin özü, bugünün yapay zekasının çocukların sahip olduğu bilgi, mantık, muhakeme, planlama vb. gibi gerçek genel zeka yeteneklerine halihazırda sahip olmasıdır. **Bugünün yapay zekasının daha çok canlı bir vücut gibi olduğunu söylemek istiyorum. Verileri görüp görmediğine bağlı olarak, 5 yaşındaki bir çocuğun IQ'suna ve bir üniversite profesörünün yanı sıra yeni doğmuş bir bebeğin bilgisine sahiptir. **
Bu anlayışa dayanarak, yapay zekanın gerçekte ne istediğini yeniden düşünmemiz gerektiğini düşünüyorum. 5 yaşındaki bir çocuk için önce kendini arındıracak, ardından kendini kopyalama ve işbirliği yapacaktır. Bu soruya kendim için iyi bir cevabım yok.
02 Önümüzdeki 5000 gün içinde dar ve acil bir geçiş döneminden geçeceğiz
**Zhang Peng: Yapay zekanın yetenekleri hızla arttığında, birçok sıradan insan endişeli hissediyor ve rekabet güçlerini kaybedeceklerinden korkuyor. KK'nın bu konuda herhangi bir düşüncesi ve önerisi var mı? **
**Kevin Kelly:**Yapay zeka teknolojisi 20 yıldır geliştiriliyor olsa da, insanlar bunun bir gecede başarı olduğunu düşünüyor ve büyüme hızı ile yetenekleri konusunda endişeli. **Her zaman en iyi senaryolardan ziyade en kötü senaryoları hayal etmeye eğilimliyiz. Bence değişim kaygısıyla başa çıkmanın bir yolu geriye bakmak. Aslında, insanlar geçmişte bu tür bir kaygı yaşadılar, ancak asla hayal ettiğimiz en kötü senaryoda değil. Bu sefer de aynı olması muhtemel. **
Endişelerimle başa çıkmak için bulduğum en iyi yol, onları kullanmaya çalışmaktır. Anksiyetenin çoğunun yapay zekayı kullanmamış olanlardan geldiğini ve yapay zekaya karşı bir mesafe hissini koruduklarını görüyorum. Aslında, bir kez denemeye ve kullanmaya başladıklarında, AI'nın hem faydaları hem de sınırlamaları ve zararları olduğunu görecekler. Bu onların kaygılarını azaltacaktır.
Li Zhifei: AGI bugün olmazsa yarın olur. Durdurulamaz olduğu için onu kucaklamalı ve anlamalısınız. Şu anda benim için AGI bir düşünce ortağı. Kendisiyle birçok sorun hakkında konuşacağım, bilgisi çok kapsamlı ve bana geniş ve kapsamlı bir bakış açısıyla tavsiyelerde bulunabiliyor. Bence bu, insanı kucaklayan yapay zekanın iyi bir biçimi olabilir.
Aynı zamanda, günümüzün büyük modellerinin hala gerçek AGI'nin bazı kritik yeteneklerinden yoksun olduğunu görebiliriz. Örneğin, mantıksal muhakeme yeteneği ve karmaşık görev planlama AI'nın adımları parçalara ayırmasını ve belirli bir hedefe dayalı olarak hedefe ulaşmasını istiyorsanız, şu anda o kadar iyi değil.
**Zhang Peng: KK aynı zamanda bir içerik oluşturucudur. Sizce yapay zeka çağında içerik oluşturucuların yapay zeka ile değiştirilemeyecek nihai değeri nedir? **
Kevin Kelly: Yazılarımda yapay zeka ve diğer araçları kullandım. AI yüzünden kimsenin işini kaybedeceğini düşünmüyorum. **Çünkü yapay zeka yüzünden bir sanatçının işini kaybettiği tek bir örnek bulamıyorum. Hayali bir korku, var olmayan bir sorun. İstihdam muhtemelen AI ile ilişkili en az ciddi sorundur. **
Söylemeye çalıştığım şey, giden belki de aslında yaptığınız iş tanımınız değişebilir. ** Bazı insanlar, işlerinin %50'sinin yapay zeka tarafından yapılabileceğini, diğer %50'sinin ise yapay zeka tarafından artırılacağını ve güçlendirileceğini gözlemledi. **Yani gelecekte, işin yarısının artık insanlara ihtiyacı olmayabilir ve insanlar işin geri kalan %50'sini daha iyi yapabilir. Bu genellikle göreceğimiz modeldir.
**Elbette, yemek siparişi vermek ve kasiyer olarak para saymak gibi belirli işler ortadan kalkar. Bu işleri insanların yapmasını istemiyoruz, bu yüzden mutlaka yok olacaklar ve yok olmalılar. **
**Zhang Peng: AI çağında genç ve yaşlıların rekabet gücünü nasıl değerlendiriyorsunuz? **
Kevin Kelly: Yaşlıların pek çok avantajı var, bilgili ve tecrübeliler. Gençlerin de bir çok avantajı var çünkü neyin imkansız olduğunu bilmiyorlar. Kimsenin kimden daha rekabetçi olduğunu düşünmüyorum.
Bugünün gençlerinin sık sık dijital yerliler olmaktan ve teknoloji üzerinde üstünlük sahibi olmaktan bahsettiklerini söyleyebilirim. Ancak yapay zeka ve diğer şeylerin hızlı gelişimi nedeniyle, gençler dün yerli olabilir ve yarın "yaşlı insanlar" gibi olabilir. İster genç, ister yaşlı, herkes yeni çağda bir "acemi"dir ve hayatı boyunca hızla yeni şeyler öğrenmeye devam etmelidir.
**Zhang Peng: AI teknolojisindeki farklı ustalıkla, bu, zengin ve fakir arasındaki uçurumda değişikliklere yol açacak mı? Yani, gelecekte AI kullanacak insanlar daha üretken olacak ve daha iyi rekabet edebilecek mi? **
Kevin Kelly: Evet, servet uçurumu genişleyecek. **Zamanla üniversiteye gidip gitmemektense yapay zeka ile çalışma becerinizin daha önemli olabileceğini düşünüyorum. Belki de üniversitenin amacı size yapay zeka ile nasıl çalışılacağını öğretmek olacaktır. Çok hırslı olanlar için yapay zekayı nasıl kullanacaklarını öğrenirlerse maaşları büyük fark yaratacaktır. **
Ancak yapay zeka tüm dünyaya yayıldıkça, gelecekte tıpkı eğitime eşit erişim gibi küresel olarak yapay zekaya eşit erişim elde edeceğiz. ABD'de büyük şirketler yöneten ve yapabildikleri sürece uzaktan çalışan çalışanları işe alan arkadaşlar tanıyorum, geçmiş önemli değil. Bu nedenle, Güney Amerika ve Afrika'da çalışan birçok kişiye Amerikan maaş standartlarına göre ödeme yapılacaktır. Aksi takdirde kazanacaklarından daha fazla para kazanacaklar.
**Zhang Peng: Teknolojinin hızlı gelişimi sosyal alanda eşitsizliği ve adaletsizliği getirebilir. Kalkınma ile adalet ve adalet arasında nasıl bir denge kurmalıyız? **
Kevin Kelly: İlerleme ile adalet arasında bir denge kurabileceğimizi düşünüyorum. Aslında, ilerlemenin büyük bir kısmının eşitliği yaymak olduğunu düşünüyorum.
Yüzlerce yıl öncesine kıyasla dünya çok adaletsizdi. Bir köle, bir serf ya da bir köylü olarak doğdunuz ve bunun ötesine geçme şansınız yoktu. Ancak ilerleme sayesinde artık daha eşit ve adil bir dünyaya sahibiz. Teknolojinin gelişmesinin adaleti artırabileceğine, gerçekleşmese de mümkün olduğuna inanıyorum.
**Li Zhifei:**Bir mühendisin bakış açısından,**Adilliğe uç noktadan bakarsanız ve herkesin aynı zenginlik ve yetenek düzeyine sahip olmasını umarsanız, bu kesinlikle daha fazla adaletsizliğe yol açacaktır. Ancak, yapay zeka araçlarını herkesin kullanımına sunmak gibi bir başlangıç noktasından adalete bakarsanız, bu, adalete ulaşmak için daha iyi olabilir. **
**Zhang Peng: Şimdi bir Wenshengtu şirketi olan Midjourney gibi bazı şirketlerin sadece bir düzine insanla yıllık yüz milyonlarca dolar gelir yarattığını görüyoruz. Yapay zekanın üretkenliği temelden değiştirdiğini anlayabilir miyiz? Sonuç olarak geleceğin şirketleri daha küçük ve daha yalın hale mi gelecek? **
Kevin Kelly: İnternetin ve yapay zekanın şu anda sahip olduğu inanılmaz güç, aynı anda bireyleri, orta ölçekli şirketleri ve büyük şirketleri güçlendirebilir. Bir bireyin bir şirkete sahip olmasını kolaylaştırır, bu nedenle yalnızca yapay zeka artı birkaç kişiden oluşan birçok yeni şirket göreceğiz. Ama aynı zamanda bazı şirketlerin yapay zeka sayesinde büyüdüğünü, hatta bir milyon insanı büyüttüğünü de gördük.
**Yani birdenbire sadece bir veya iki kişinin olduğu bir şirketler dünyasına girmeyeceğiz, bu olmayacak. Aynı zamanda sadece büyük şirketlere fayda sağlamış olmayacağız. AI'nın güzelliği bu, herkese fayda sağlayabilir ve onları güçlendirebilir. **
Li Zhifei: Bence uzun kuyruk etkisi ve Matthew etkisi giderek daha belirgin hale gelecek.
Bir yandan kuyruk uzadıkça uzayacak ve giderek daha fazla küçük şirket ortaya çıkacak ve bunlar kendi başlarına tam bir sistem haline gelecekler. Öte yandan, büyük bir şirket güçlü yapay zeka yeteneklerine sahip olduğunda, organizasyonel gücü daha da güçlenecektir. Önceleri sadece 1.000 kişiyi örgütleyebiliyorken şimdi 10.000, 100.000 veya 1 milyon kişiyi örgütleyebiliyor. Örneğin, Çin'in gıda dağıtım endüstrisi, büyük bir binici grubunu organize etmek için eksiksiz bir otomasyon sistemleri setine güveniyor.
**Zhang Peng: Şu anda Yapay Zeka aynı zamanda Silikon Vadisi'ndeki en sıcak konudur. Birçok girişimci, iş inovasyonunu büyük modellerle temel olarak düşünür. KK'nın bu konuda herhangi bir gözlemi var mı? **
Kevin Kelly: Bu bana internetin ilk günlerini hatırlattı. İnternet ilk ortaya çıktığında, birdenbire her işletme internete girmesi gerektiğini fark etti. Ve şimdi her işletme, iş yapmak için büyük dil modelleri ve yapay zeka sunarak yapay zekanın konuşma arayüzünden yararlanıyor. Bir örnek, müşterilerin arabada yemek sipariş etmesine ve bir makineyle konuşmasına olanak tanıyan, artık sohbete dayalı bir arayüz kullanan, modaya uygun bir fast-food burger restoranı olan Wendy's.
Bunun ötesinde, henüz ortaya çıkmamış tamamen yeni hizmetler ve fikirler var. Kesin rakamları bilmiyorum ama kesin olarak bildiğim şu ki, şu anda bu alana yüz milyarlarca dolar akıyor. Çoğu zaman, çoğu muhtemelen başarılı olmayacak, ancak yeterli sayıda olacaktır. Önümüzdeki üç yıl içinde oldukça şaşırtıcı şeyler ve gerçekten büyüyebilecek tamamen yeni şirketler göreceğiz.
**Zhang Peng: Son 5.000 gün içinde KK birçok doğru tahminde bulundu ve birçok ana yönü ileriye dönük olarak kavradı. Yakın zamanda, önümüzdeki 5000 günün insanlık tarihinin en kritik dönemlerinden biri olacağını tahmin ettiniz. Bu düğümün anahtarı nerede? İnsanlık hangi yöne yol ayrımına varacak? **
Kevin Kelly: Dünyada yapay zekanın yanı sıra başka birçok şey de oluyor. İklim değişikliğinin zorluğuyla karşı karşıyayız, genetik mühendisliği ufukta görünüyor, yapay zekayı küçük düşürücü olarak hayal etmek kolay, gözetimin her yerde hazır ve nazır hale geldiğini görmek kolay ve kontrolü kaybediyoruz. Küresel ölçekte birçok zorluk ve fırsatla karşı karşıyayız.
**Bu, dar ve acil bir geçiş dönemi ve bunu atlatmalıyız. **Bence bu dar portala elektrifikasyon, elektrikli araçlar, alternatif enerji ve yeni bir taç aşının geliştirilmesindeki başarı ile erişebiliriz. Şu anda, gezegende hala birçok siyasi gerilim ve bölünme var, ancak kolektif eyleme ihtiyacımız var ve teknoloji, çevre vb. alanlarda fikir birliğine varmalı ve sorunları çözmek için birlikte çalışmalıyız.
**Dünya üzerinde ilk kez küresel kültürler, küresel ekonomiler ve küresel çevresel etkiler ortaya çıkıyor. Bu aynı zamanda önümüzdeki 5000 gün içinde daha küresel bir medeniyet olma şansımız. **
Li Zhifei: KK, önümüzdeki 5.000 gün içinde yapay zekanın yanı sıra dünyanın başka birçok zorlukla karşılaşacağını söyledi. Önümüzdeki 365 günün yapay zeka açısından da çok önemli olduğunu düşünüyorum. Yapay zeka birçok turdan geçti, her seferinde insanlar ondan yüksek beklentiler besliyor ama işe yaramıyor ve sonra insanlar yüksek değerler bekliyor ve yine işe yaramıyor. Bence bugünün AGI dalgası, sektördeki insanların harika olduğunu düşündüğü bir şey mi olacak yoksa toplumda çok önemli bir şey mi olacak, büyük ölçüde önümüzdeki 365 güne bağlı.
Büyük modelin nasıl geliştirileceği de dahil olmak üzere, ne kadar büyükse o kadar iyidir, yoksa çoklu modalite mi eklemeliyiz yoksa çözümler mi eklemeliyiz, vb. Penetrasyon oranına bakmak dahil. Şu anda dünyadaki insanların %5'inden azı ChatGPT kullanmış olabilir. Penetrasyon oranını %5'ten %20'ye nasıl yükseltebiliriz? Düzenlemeler de dahil olmak üzere, insanlar yapay zekanın toplum üzerindeki etkisiyle nasıl başa çıkmalı? İnternet gibi endüstrilere uygulanmasına ek olarak yapay zekayı da içerir, tıbbi bakım, otomobiller ve finans gibi geleneksel endüstrilerde nasıl uygulanmalıdır? vesaire.
İnsanların daha net bir yargıya varabilmeleri için çeşitli girişimlerde bulunmalarının en az bir yıl sürebileceğini düşünüyorum.
03 Ortalama insanlar asil değildir, yapay zekanın ortalama insanlardan daha iyi olmasını istiyoruz
**Zhang Peng: Çoğu durumda insanlar teknolojiye güvenme eğilimindedir. Örneğin, birisi kendi kendine giden bir arabada uyuyacak ve bir kazaya neden olacaktır. İleri teknolojiye duyulan bu ince güven bir insan alışkanlığı mı? Sonuçları nelerdir? **
Kevin Kelly: Kendi kendine giden arabalar mükemmel değiller ama yine de araba kullanma konusunda insanlardan daha iyiler. Yapay zekaya güvenebilir miyiz? Sohbet robotlarıyla yaptığımız konuşmalarda cevaplarının doğru olmadığını gördük ve bu nedenle onlara tam olarak güvenemedik. Ama sanırım yakında bunu ele almaya başlayacağız.
Bugünlerde çoğu insan hesap makinelerine güveniyor. Ona rakamlar verirsin, o sana cevaplar verir ve ona tamamen güvenirsin. Bu nedenle, makinenin güvenilir olduğunu biliyoruz ve bu, iyileştirilmek üzere üzerinde çalışılabilecek bir şeydir. **Ve ırkçı, cinsiyetçi, kötü niyetli ve asil olmayan ortalama insanlar üzerinde eğitildikleri için yapay zeka hakkındaki önyargılar. Aslında yapay zekamızın insanlardan daha iyi olmasını istiyoruz. **
Tıpkı bir hesap makinesinin ortalama bir insandan daha iyi olması gibi, siz de hesap makinesinin size verdiği cevaplara ortalama bir insandan daha fazla güvenmelisiniz. **Güven, odaklanmamız ve üzerinde çalışmamız gereken bir şey, ancak birçok zorluk olsa da, sonunda yapay zekaya ve makinelere fazlasıyla güveneceğimizi düşünüyorum. **
**Zhang Peng: Son zamanlarda, Amerika Birleşik Devletleri'ndeki birçok kişi yapay zekanın gelişiminin çok hızlı olduğuna ve yavaşlaması, hatta durup düşünmesi gerektiğine inanıyor. Bu fikre katılıyor musunuz? **
Kevin Kelly: Hayır, desteklemiyorum. Bunun yanıltıcı, yanıltıcı ve gereksiz olduğunu düşünüyorum. Bunun gerçekten mümkün olduğunu ve tavsiye edilebileceğini düşünmüyorum.
**Zhang Peng: Çoğu bilim kurgu filminde veya insan romanında yapay zeka nispeten kasvetli bir karakterdir. Bunun nedeni insanların hayal gücünden yoksun olması mı yoksa çok fazla yanlış hayal gücümüz mü var? **
**Kevin Kelly: Hollywood yapay zekayı her zaman distopik, korkunç ve istenmeyen olarak resmetmiştir ki bence bu bir hayal gücü eksikliğidir. Çünkü bir şeyin nasıl başarısız olacağını hayal etmenin, nasıl başarılı olacağından çok daha kolay olduğu, evrenin bir yasasıdır. **Dürüst olmak gerekirse, içinde yaşamak istediğimiz dünya bu olsa da yapay zekanın her yerde hazır, ucuz ve insanlığa faydalı olduğu, bundan 100 yıl sonra harika bir dünya hayal etmek insanlar için zor.
Ayrıca, bu stüdyolar hikaye anlatımında çok iyiler ve harika bir hikayenin unsurları çatışma, felaket ve bazı güçlü unsurlardır. Dünyayı yok etmeye çalışan savaşlar, kasırgalar veya yapay zeka olsun. Dolayısıyla yapay zekanın pembe bir vizyonunu bir Hollywood filminde görmemiz pek olası değil çünkü hikayeye katkısı yok, ihtimal var ama çok küçük.
Dolayısıyla yapay zekaya Hollywood (film) izlenimi ile bakamayız. Ne yazık ki, birçok insanın yaptığı bu. Yapay zeka denilince akıllarına "Terminator", "2001 Space Odyssey" ve "HER" geliyor.
Li Zhifei: Bence tüm güvensizlik cehaletten kaynaklanıyor. AGI'nin yeni türüyle karşı karşıya kaldığımızda, yeteneklerinin nasıl ortaya çıktığını, ne istediğini ve neler yapabileceğini anlamıyorum, temel mesele bu.
Bence insanların yapabileceği şey, bir yandan AGI'yi daha fazla anlamak ve diğer yandan AGI'nin kendisini net bir şekilde anlatmasına izin vermeyi öğrenmek. Örneğin, size bir cevap verdiğinde, içsel çalışma sürecini ve iç monologu dile getirmesine izin verirsiniz. Bu, daha güçlü bir güven duygusu yaratabilir. **
**Zhang Peng: KK için Lao Tzu'nun "Tao Te Ching" adlı eseri size çok ilham vermiş gibi görünüyor. "En yüksek kontrol seviyesi kontrol dışıdır ve en düşük kontrol seviyesi her şeyi kontrol etmektir" demiştiniz. AI'nın hükümet ve teknoloji düzenlemesindeki son artış hakkında ne düşünüyorsunuz? **
Kevin Kelly: Mevcut düzenlemenin iyi olduğunu düşünmüyorum. Düzenleme elbette önemli ve gerekli, işlerin sorunsuz yürümesini sağlamak, eşit şartlar sağlamak ve güvenliği sağlamak için gereklidir. Ancak erken düzenleme korkutucudur. Şu andaki sorun şu ki, çok iyi bilmediğimiz bir şeyi düzenlemeye çalışıyoruz ve bu genellikle felakete yol açıyor.
**Li Zhifei:**Neden denetim var? Temel olarak, AGI'nin olumsuz etkisinin olumluya ağır basacağından, çok yetenekli ve sosyal olarak kabul edilemez olacağından endişe duyan insanlardır. Ancak bu aşamada bu yargı yanlıştır. Çünkü bugün AGI'nin olumlu etkisi, olumsuz etkisinden daha büyük olmalıdır.
İkincisi, bugün AGI ile ilgili asıl sorun, yeterince güçlü olmamasıdır. Planlama yeteneği, fiziksel dünyayla bütünleşme yeteneği, kendini geliştirme yeteneği vb. Umudu görmemize rağmen, gerçek gerçekleşmeden hala çok uzak. Oraya asla ulaşamayabiliriz.
Demek istediğim şu: **AGI trendini öylece görüp ardından düzenlemeyi önemli ölçüde artıramayız. Bu, daha başarmadan AGI'yi öldürmemize izin verebilir. Denetim kesinlikle gereklidir, ancak aşırı regüle edilmemelidir. **
**Zhang Peng: Yapay zeka uzun yıllardır konuşuluyor ve şimdi yeni bir döneme giriyor gibi görünüyor. Yapay zekanın gelecekte insandan daha yüksek zekaya sahip bir yaşam formu olma şansı gerçekten varsa, onları insan uygarlığına entegre mi etmeliyiz yoksa insan kontrolü altına mı almalıyız? Hangi yol gerçekten insan uygarlığını yükseltebilir? **
**Kevin Kelly: Geleceğin yapay zekasını (AI) anlamak için çok yararlı bir çerçeve olduğunu düşünüyorum - gelecek 30, 50 veya 100 yılın AI ile karşılaştırıldığında bugünün AI'sını değil , Bu yeterince karmaşık değil -- ona başka bir gezegenden gelen yapay bir uzaylı gibi davranmak. **
Pek çok yapay zeka, insanlardan farklı düşünen, daha önce hiç görmediğimiz bir tür olacak. Yoda ("Yıldız Savaşları"ndaki sanal karakter) veya Spock ("Uzay Yolu"ndaki sanal karakter) kadar zeki olacaklar ve hatta bazı yönlerden insanları geçecekler. Pek çok farklı türde yapay uzaylı yapar, onlara saygı duyar ve kuantum yerçekiminin gerçekte ne olduğunu bulmak gibi zor sorunları çözmemize yardımcı olması için farklı zekalarını kullanırdık.
Ama kontrolü onlara teslim etmeyeceğiz. Davranışlarını beğenmezsek geri göndeririz, kapatırız. Çok fazla güç kazandıklarına inanırsak güçlerini ellerinden alabiliriz. AI'nın kaderimize karar vermesini istemiyoruz.
**Li Zhifei:**Mevcut AGI kelebek gibidir.Larvalardan çok miktarda besin aldıktan sonra kendi süblimleşmesini tamamlar. Bu, kendi dönüşümünü tamamlamak için geçmişteki tüm internet bilgisini kullanmakla eşdeğerdir. Gelecekte, AI kesinlikle birçok yönden insanları geçecek. İnsanların AI'nın atası olabileceğini düşünüyorum ve bu oldukça mutlu.
KK, yapay zekaya bir uzaylı gibi davranmamız gerektiğini söyledi ki bu kulağa daha çok kontrol gibi geliyor. **İnsanların yeteneklerini veya IQ'larını çok fazla abarttığını düşünüyorum. Örneğin, bir 50 yıl sonra, dünyadaki en güçlü ve etkili 100 ajan arasında belki sadece 20'sinin insan ve kalan 80'inin yapay zeka olacağını hayal edebilirsiniz. Bu yüzden, sonunda insanlar ve yapay zekanın kontrol değil, füzyon olması gerektiğini düşünüyorum. **