Görsel kaynağı: Unbounded AI tarafından oluşturuldu
"Derin Öğrenmede Üç Büyük Üç" başlığı, AI'nın yükselişindeki okuyucular için kesinlikle yabancı değil. Ancak derin öğrenme yetenekleri arasında Hinton, Yann Lecun ve Yoshua Bengio'yu dev olarak ayırmak için hangi değerlendirme kriterleri kullanılıyor? Yarışma, tartışma veya sıralama yok.Bu unvan, AI alanındaki en ünlü muhabir Cade Metz tarafından 18 yıl önce belirlendi.
"Wired" dergisinin kıdemli yazarı, "New York Times" yapay zeka köşesinin baş yazarı ve "Derin Öğrenme Devrimi"nin yazarı olarak Cade Metz, temelde yapay zeka alanında on yılı aşkın süredir tüm tanınmış uzmanlarla röportaj yaptı. Sam Altman, ChatGPT'yi başlatmadan önce ona danıştı ve Hinton, Google'dan ayrıldıktan sonra onunla konuştu. Bu temel figürlerle iletişim kurarak, çeşitli temel iş kararlarının ardındaki temel anları ve dramatik sahneleri ortaya çıkarmak için Microsoft, Google ve Meta gibi yapay zeka devlerinin derinliklerine de indi.Bir süre önce yazılan "Derin Öğrenme Devrimi" kitabı da ilk kez ifşa edildi.Yapay zekanın gidişatını on yıl önce değiştiren gizli müzayede.
Kitap, 2012 yılında gerçekleştirilen ve tüm yapay zeka sektörünü derinden etkileyen müzayedeyi ayrıntılarıyla anlatıyor.
Aralık 2012'de, bel fıtığı nedeniyle yerinde oturamayan Hinton, iki öğrencisiyle birlikte Lake Tahoe'nin kayak dağlarının eteğindeki bir kumarhane otelde bir hafta kaldı. O ve yeni kurduğu şirketi, aralarında Microsoft, Google, Deepmind ve Baidu'nun da bulunduğu dünyanın en ünlü şirketlerinin teklif turlarını kabul ediyor.
En dramatik sahne Hinton, Baidu tarafından gönderilen o zamanki araştırma enstitüsünün dekan yardımcısı Yu Kai'nin ani ziyaretiyle uğraşırken ortaya çıktı. "Yaşlı olduğumu düşünmesine izin vermemek" için öğrencilerinden şunları istedi: Bel ağrısı, koltuk minderleriyle geçici olarak örülmüş kanopiyi rahatlattı ve bu onları oldukça telaşlandırdı. Belirli bir ziyaret sırasında Hinton, Yu Kai'nin sol sırt çantasıyla karşılaştı ve Baidu'nun rezerv fiyatı hakkında bilgi aramak için öğrencilerle uzun süre mücadele etti. Ama sonunda, haysiyet onları pes ettirdi. Nihayet bir hafta sonra Hinton, Google'ın teklifini kabul ederek, henüz tamamen boş olan şirketi deve 44 milyon dolara sattı ve dev yapay zeka savaşının perdesini araladı.
Kariyeri boyunca bu tür ayrıntılarla dolu sahneler ve dramatik çatışmalar her yerde görülebilir. Bu nedenle, ona yapay zeka alanındaki en derin gözlemci demek abartı olmaz.
Bu röportajda Metz, derin öğrenmenin tarihi ve temel anlarından yapay zekanın geleceğine ve insan toplumu üzerindeki etkisine kadar yapay zeka alanındaki kapsamlı bilgisini bir kez daha gösterdi. Özellikle Çin'in yapay zeka durumuna ilişkin gözlemci tarzı değerlendirmesini de yaptı.
Sam Altman'ın OpenAI'yi öne çıkarabilmesinin temel nedeninin, güçlü müzakere yeteneğinin OpenAI ile Microsoft arasındaki işbirliğine katkıda bulunması olduğuna inanıyor. Ayrıca yapay zeka konusunda Çin ile Amerika Birleşik Devletleri arasındaki uçurumun kamuoyunun düşündüğü kadar uzak olmadığına inanıyor, çünkü mevcut teknolojinin kendisinde hendek yok. AI'nın geleceği ile ilgili olarak Hinton ile benzer endişeleri var ve AGI'nin ortaya çıkmasının toplumda büyük değişikliklere yol açacağından endişe edecek. Görgü tanıkları açıktır, aşağıdakiler yapay zeka gözlemcilerinden alınan içgörülerdir.
Odaklan:
1 Yapay zekanın geliştirilmesinde iki önemli an; birincisi, akademik topluluğun sinir ağlarının görüntü tanımada büyük başarı elde edebileceğini anlamasını sağlayan AlexNet makalesinin yayınlanmasıdır. Bir diğeri, halkın gözünü açan ChatGPT'nin piyasaya sürülmesidir.
2 İkisi arasındaki genel bilgi, finansman ve kaynak farkı o kadar büyük olmadığından, Çinli şirketlerin dil modelleri açısından yakında OpenAI'yi yakalaması çok muhtemeldir.
3 İnsanlar sistemin sınırlamaları hakkında pek bir şey bilmedikleri için yapay zeka etrafındaki medya aldatmacası var. GPT, AGI seviyesinin çok altında, muhakeme ve tahminde zayıftır. Ancak yapay zekanın bu aşamadaki riskleri gerçekten de gerçek.
4 AGI gelirse, insanlık durumu daha kötü olacak. Çünkü işçi olarak değerleri o zaman sıfıra düşer ve tüm bunları makinelerin yapması insanları işe almaktan daha ucuza gelir. Ancak mevcut AI hala bu hedeften uzak.
Çin ile ABD arasındaki uçurum o kadar büyük değil, yapay zekanın hendeği yok
Tencent Teknolojisi:
OpenAI hikayesi artık gündeme geldiğine göre, kitabınızda onun kuruluşu ve yolculuğu hakkında çok şey yazdınız. Sam Altman'dan bahseder misiniz? OpenAI'yi bugün olduğu yere götürmesini hangi nitelikler sağladı?
Cade Metz:
**Sam çok hırslıdır ve insanları, yapmalarını istediği şeyi yapmaya ikna etmede iyidir. Açıkçası, ekipler oluşturmakta ve onları belirli bir yola sokmak konusunda iyidir. **Bu sadece gelişimin beceri düzeyi ile ilgili değildir. Bunu yapmak için çok paraya ihtiyaçları var. Bu tür sistemlerin eğitimi, yüz milyonlarca dolar olmasa da on milyonlarca dolara mal olur. İnternetteki tüm metinleri analiz etmenin ve öğrenmenin ve bu sistemlerin kendi kendilerine öğrenmelerine izin vermenin aylar sürdüğünü ve aslında büyük teknoloji şirketlerinin sahip olduğu ve kontrol ettiği çok büyük bilgi işlem sistemleri gerektirdiğini söyledim.
Sam, kabaca 2019'da 1 milyar doların üzerinde para topladı. Bu yüzden, beceri setinin iyi bir kısmı anlaşmayı müzakere ediyor. **Bu büyük bir anlaşmaydı, Sam ihtiyacı olan parayı ve ihtiyaç duyduğu bilgi işlem gücünü aldı. Daha sonra **Microsoft'tan 11 milyar doların üzerinde bir miktar daha toplayarak toplamda yaklaşık 13 milyar dolar topladılar. Bu kadar önemli olmasının büyük bir nedeni bu.
Tencent Teknolojisi:
Microsoft'tan bahsettiniz, ancak yapay zekanın son dalgasında rakiplerinin tamamen gerisinde kaldı. Öyleyse Microsoft neden bu yapay zeka dalgasında bu fırsatı değerlendirip bu kadar hızlı hareket edebiliyor?
Cade Metz:
Bu, Microsoft için ilginç bir hamle. Bir zamanlar rekabetin gerisindeydiler ama inşa ettikleri teknolojinin önemini anladılar. Rakibi Google ve diğer şirketlerin bu teknolojinin kullanılabileceği bir senaryosu var: Google ilk olarak sinir ağlarını büyük ölçekte Android telefonlara ve dijital asistanı Google Home'a konuşma tanıma için yerleştirdi. Böylece evinizde bu akıllı hoparlörleri kullandığınızda, sorularınızı yanıtlayabilirler. Google, dağıtmak için gerekli senaryolara ve donanıma sahip olduğu için bu teknolojiyi çok hızlı bir şekilde dağıtmaya başlayabilir. Microsoft'ta bu senaryo yoktur.
Ancak Microsoft sonunda onu dağıtmaya çalıştığında başka sorunlarla karşılaştı. Birkaç yıl önce ABD'de Tay adında bir chatbot başlattılar ve neredeyse raflara çıkar çıkmaz ırkçı olanlar da dahil olmak üzere bazı saldırgan mesajlar vermeye başladı. Microsoft onu ancak yakında kaldırabilir.
**ABD'de yapay zeka teknolojisi geliştikçe bu, hikayenin bir yönüdür, çünkü bu sistemler bazen belirli insanlara karşı önyargılı olan gereksiz metinler üretir ve nefret söylemi üretir. Bu nedenle, büyük şirketlerin bu ürünü piyasaya sürmeye karar vermesi zordur ve bu riski almak istemezler. Ancak Microsoft, sistemi başlatan OpenAI ile ortaklık kurdu, böylece insanlar sistemin kusurlarına Microsoft'a verdikleri kadar güçlü tepki vermesinler. ** İnsanlar bu hataların Microsoft gibi tanınmış bir şirketten değil, küçük ve bilinmeyen bir şirketten geldiğini kabul edeceklerdir.
Tencent Teknolojisi:
Gözleminize göre yapay zeka alanında Çin ile ABD arasındaki fark ne kadar büyük? Sizce Çin'in yapay zeka konusunda ne gibi avantajları var?
Cade Metz:
Çin bir süredir bu konuda çalışıyor. Buradaki teknolojiyi anlayan birçok kişi ve şirket var, ancak zorluklar olabiliyor. Bu sistemleri eğitmek için gerekli olan bilgisayar çipleri en üst düzeyde Amerikan firmaları tarafından üretilmektedir. Şimdi ticaret yasağı var, bu çipler Çin'e satılamıyor. Bu bir dezavantaj olabilir.
Bu teknolojiyi inşa etmeye gelince nasıl sonuçlanacağını göreceğiz. **Sam Altman geçtiğimiz günlerde Çin'in iki yıl geride kaldığını hissettiğini söyledi. Bu bir tahmindir. Sektörün bir bütün olarak onun ve şirketinin yaptıklarını oldukça hızlı bir şekilde yakalayabileceğini düşünüyorum. Bunu şimdiden görmeye başladık ve bunun Çin'de de olabileceğini düşünüyorum. **
Tencent Teknolojisi:
Bu boşluk büyüyor mu yoksa küçülüyor mu?
Cade Metz:
Ticaret yasağı nedeniyle söylemek zor. Bu, Çin'in karşı karşıya olduğu bir zorluktur. Bildiğim kadarıyla Çin, veri merkezleri için gerekli çipleri ve ekipmanı inşa etmek, tasarlamak ve tedarik etmek için yoğun bir şekilde çalışıyor.
**İster Çin'de ister Amerika Birleşik Devletleri'nde, rekabet gibi ticari sürtüşmelerin oynadığı birçok potansiyel rolle uğraşmak zorunda kalacağız. OpenAI teknolojisinin şu anda rakiplerinin çoğunun önünde olduğu artık genel olarak kabul ediliyor. Ancak dünyada yeterli bilgiye, paraya ve gerçekten rekabet etmek için gereken kaynaklara erişime sahip birçok başka şirket var. **
Bu nedenle, AI rekabetinin henüz ilk aşamalarındayız ve hala keşfedilecek birçok yol var. Sonucun hala beklemesi ve görmesi gerekiyor.
Tencent Teknolojisi:
Kitabında Baidu'dan bahsetmiştin. Çinli şirket ayrıca 2012'de bu tür yapay zeka teknolojisini denemeye başladı, daha şimdiden yarışın ilk aşamalarındaydı. Sizce bugün neden güç göstermedi? Sizce bu duruma katkıda bulunan başlıca faktörler nelerdir?
Cade Metz:
**Bence fikirlerin alanı yönlendirdiğini düşünüyorum. **Derin öğrenme tüm dünyada ünlüdür ve Çin'deki araştırmacılar benzer teknikler geliştirmiştir. Ancak tıpkı ABD'de olduğu gibi, insanlar daha önce bahsettiğim insan geri bildirim eğitimi adımının ne kadar iyi çalıştığına şaşırdılar. **Bu nedenle, bu tekniği (insan geri bildirimi ile eğitim) büyük dil modellerine uygulamada ABD'deki pek çok kişinin bir adım gerisindedirler. **
Tencent Teknolojisi:
OpenAI, Google, Meta gibi büyüklerin yanı sıra pek çok şirketin de bu yarışta olduğundan bahsetmiştiniz, izlenmeye değer küçük şirketler var mı?
Cade Metz:
OpenAI'den ayrılan bir grup insan tarafından kurulan Anthropic adında bir şirket var. Şirket pek bilinmiyor ama bu alanda önemli olacaklar. ChatGPT'yi oluşturan teknolojinin çoğunun oluşturulmasına yardımcı oldular ve henüz genel kullanıma sunulmamış olan kendi sohbet robotlarını oluşturdular. Yeteneklerinin ChatGPT ile karşılaştırılabilir olacağını tahmin ediyorum.
Toronto'da benzer bir şey yapan Coherence adında bir şirket var; ABD'de eski Google çalışanları tarafından kurulan Character.AI adlı bir şirket var; DeepMind of'un kurucularından biri tarafından kurulan Inflection AI adlı başka bir şirket var. DeepMind, esas olarak Google'a ait olan ve Londra merkezli bir başka önemli laboratuvardır.
Tencent Teknolojisi:
AI segmentinde gelişen şirketler için fırsatlar nerede?
Cade Metz:
Bu küçük alanların çalışma şekli, birisi büyük dil modeli adı verilen bir sistem oluşturduğunda, onu her türlü başka tekniği oluşturmak için kullanabilirsiniz. Bir sohbet robotu yapabilirsin, bir arama motoru kurabilirsin, kişisel bir öğretmen kurabilirsin. **Öyleyse OpenAI'nin yaptığı şey, bu çekirdek sistemi inşa etmeleri. Buna GPT-4 diyorlar ve sonra bu sistemi kullanmak isteyen diğer işletmelere sunuyorlar. Bu, başka uygulamalar oluşturmanın bir yoludur.
Görmeye başladığımız şey bu. **Bu tür bir hizmet sunan OpenAI gibi şirketler göreceğinizi düşünüyorum. Herkes bunun üzerine kendi uygulamalarını oluşturmak için kullanabilir. **Bence şirketlerin bu temel hizmeti alıp üzerine yeni şeyler inşa edip bu uygulamaları satabilecekleri her türlü fırsat var. Ancak en zor şey, bu temel hizmeti oluşturmaktır ve bunu pek çok şirket yapamaz. Amerika Birleşik Devletleri'nde Google, Microsoft ve Meta gibi devler var ve sadece birkaç girişim gerekli sermayeye ve yeteneğe sahip. Daha önce de söylediğim gibi, bu çekirdek sistemi kurmak için yüz milyonlarca dolara ihtiyacınız var. **Bu nedenle, şu anda küçük şirketlerin temel modeli oluşturma konusunda onlarla rekabet etmesi zor. **
Pek çok insan, fiyatlar düştükçe ve açık kaynak projeleri geliştikçe, insanların kendi çekirdek sistemlerini kurmalarının daha kolay hale geleceğini ve bunun sonunda değişeceğini düşünüyor. Ama emin değilim.
Yapay zekanın geliştirilmesinde iki dönüm noktası: bir açık artırma ve ChatGPT'nin doğuşu
Tencent Teknolojisi:
Kıdemli bir AI yazarı olarak, on yıllık kariyerinizde temel olarak derin öğrenme alanına odaklandınız ve bu alandaki tüm önemli rolleri kurdunuz ve aradaki çeşitli belirleyici anlara katıldınız. Sizi bu alana dikkat etmeye iten ne oldu?
Cade Metz:
2011 veya 2012 civarında, San Francisco'da Wired'a katıldım. Odaklanmaya karar verdiğim alanlardan biri de bu. On yılı aşkın bir süre önce o zamanlar, bu alanın çok önemli hale geleceği şimdiden sezilebilirdi. İşte o zaman, teknolojiye ilgi duymamı sağlayan birkaç önemli an meydana geldi.
Hinton, "Derin Öğrenme Devrimi" kitabının baş kahramanıdır ve ben onun yükselişi ve son 10 yılda birçok ilerlemeyi yönlendiren sinir ağlarının temel kavramı hakkında yazdım. Sonunda 2013'te Google'a katıldı.
Daha sonra bunun Google, Microsoft ve Çinli Baidu dahil olmak üzere dünyanın en büyük teknoloji şirketlerinden bazıları arasında bir açık artırma olduğunu öğrendim. Bu çok önemli bir andı ve bir şeylerin olmaya başladığını görebiliyordunuz. Yıllar geçtikçe, alanı giderek daha fazla takip etmeye başladım ve Hinton ve uzun süredir meslektaşı olan Yann Lecun gibi, sahadaki diğer kişilerin yanı sıra sonunda Facebook'a ve şimdi Meta'ya katılan insanları tanımaya başladım. Wired'da çok fazla haber yapmaya başladık ve sonra daha da büyüdü. En sonunda, Wired'dan The New York Times'a geçtiğimde de yazmaya devam ettiğim alanla ilgili bir kitap yazmaya karar verdim.
Tencent Teknolojisi:
Uzun süredir yapay zekayı takip eden bir muhabir olarak bir döngüden geçiyor gibisiniz, makine öğrenimi, yapay zeka alanında dip dönemini yaşadınız. Sizce Hinton ve diğerlerinin ısrar etmesini sağlayan şey neydi?
Cade Metz:
Hinton, 1972'de sinir ağları üzerinde çalışmaya başladı. O zamanlar neredeyse hiç kimse bunun başarılı olacağına inanmıyordu, çünkü** tüm yapay zeka alanı sinir ağlarının yönünü terk etti. Ama ** Hinton, inandığı şeye gerçekten inanan ve bu yönde kararlı olan, aklı başında bir adamdır.
**1980'lerde, büyük ölçüde Hinton'un kendi çabaları sayesinde, teknoloji bazı büyük ilerlemeler kaydetti. Birçok insan bu fikre yeniden inanmaya başladı. Ama 90'ların başında insanlar yine pes etti ama o çalışmaya devam etti ve tutarlı tavrını her zaman korudu. ** Fikrin gelişmeye devam edeceğine inanıyorlardı ve haklıydılar. Bu hikayeyi bu kadar ilginç kılan şeylerden biri, yakın meslektaşlarından bile bu kadar çok şüphe duymalarına rağmen çalışmaya devam etmeleri.
Tüm sektörün gözlerini gerçekten açan an, artık AlexNet gazetesi olarak bilinen şeydi. Hinton ve Toronto Üniversitesi'ndeki iki öğrencisi tarafından yazılan bu araştırma makalesi, sinir ağlarının fotoğraflardaki çiçekler, arabalar, insanlar, hayvanlar vb. nesneleri tanımlayarak görüntü tanımada büyük başarı elde edebildiğini gösteriyor.
Makale 2012'de yayınlandığında Google, Microsoft, Baidu ve sonunda Facebook'un gözlerini açtı. Bu yetenek savaşını, bu fikri gezegendeki en büyük şirketlerden bazılarında sadece görüntü tanıma için değil, konuşma tanıma, çeviri vb. için uygulamaya yönelik bu aceleyi görebiliriz. O kağıt çok önemli bir andı. İşte bu yüzden kitabım o kağıtla başlıyor**, Hinton'un şirketini açık arttırmayla en yüksek teklifi verene sattığı an o andı ve diğer her şeyi ateşledi. **
O zamandan bugüne gelişmeye devam ettik. 2012'de sektör bilincinin yukarıda belirtilen uyanışı kritik bir andı ve 10 yıl sonra, bir başka kritik an olan ChatGPT piyasaya sürüldü. AI tarihine baktığımızda bu anların her ikisi de çok önemli dönüm noktalarıdır.
Tencent Teknolojisi:
**Kitabınızda, derin öğrenmenin gelişimini açıklıyorsunuz ve AlphaGo, Deepfake ve GPT serisi gibi ürün kilometre taşları, kamuoyunda kapsamlı tartışmalara yol açtı. Ancak ChatGPT ortaya çıkana kadar herkes gerçek sanayi devriminin geldiğini gerçekten hissetti.GPT serisini bu kadar farklı kılan nedir? **
Cade Metz:
Bu harika bir soru. GPT ve ChatGPT ile ilgili teknolojiler bir süredir geliştirilmiştir. OpenAI sonunda Chat GPT'yi geliştirdi ve Google, Meta (eski adıyla Facebook) ve Microsoft gibi şirketler de beş yıl önce sözde büyük dil modelleri geliştirmeye başladı.
Teknolojinin arkasındaki fikir, verilerden öğrenebilen matematiksel bir sistem olan bir sinir ağı oluşturmaktır. Olabildiğince çok metin besleyin ve o metni analiz eder ve bu metni analiz etme sürecinde, metnin kendisini oluşturmayı öğrenir. Wikipedia makalelerini, blog gönderilerini, sohbet günlüklerini ve İnternet'teki çeşitli içerikleri analiz ederek, kelimeleri bir araya getirme şeklimizdeki kalıpları fark etti ve bunu yapmayı öğrendi. Son birkaç yılda bu teknolojinin meyvelerini verdiğini gördük ve birkaç ilginç sistem piyasaya sürüldü.
OpenAI, GPT-2, GPT-3'ü yayınladı, hepsi çok etkileyici. Bu sistemlerin insanlar gibi metin üretmeye başladığını görebiliriz. Ancak, genel kamuoyunun bunu gerçekten fark etmesini sağlayan ChatGPT'nin piyasaya sürülmesiydi. Diğer şirketler aylar, haftalar önce bile kendi sohbet robotlarını yayınladılar, örneğin Meta (eski Facebook) bilim camiasında bir sohbet robotu yayınladı, ancak bu sadece insanların ilgisini çekmedi, aynı zamanda alay konusu olarak da eleştirildi. Çünkü dezenformasyon yaratıyor ve insanlar bundan çok rahatsız oluyor. Meta hızla onu indirdi. Ancak bundan kısa bir süre sonra OpenAI, ChatGPT'yi Twitter'da yayınladı.
**Kısmen nasıl piyasaya sürüldüğü ve kısmen de onu piyasaya süren şirket sayesinde popüler oldu. Ancak ChatGPT, bazı önemli teknik yönlerde gelişme gösteriyor. Çünkü internetin her yerinden öğrenilen bu büyük dil modellerini oluştururken, onlara insan geri bildirimlerini uyguluyorlar. İnsanlardan sohbet robotunun yanıtlarını derecelendirmelerini istediler. İnsanlardan bir yanıtı iyi olarak derecelendirmelerini mi istiyorlar? bu gerçek mi Çalışıyor mu? Bir beğeni ya da beğenmeme verirler ve sonra bu derecelendirmeleri sisteme geri gönderirler ve bu derecelendirmelerden öğrenmesine izin verirler. **
Bu şekilde, chatbot'a neredeyse her sorulduğunda ikna edici bir metin ürettiği noktaya kadar bilemeyi başardılar. Her zaman doğru olmayabilir ve yine de dezenformasyona neden olabilir, ancak **insanlarla, insanların gerçekten kullandığı duyarlı bir şekilde iletişim kurar. Sadece alandaki uzmanlarla değil, herkesle. Bu gerçekten insanların hayal gücünü ele geçirdi. **Bu teknolojinin algısında, yalnızca sıradan insanlar arasında değil, aynı zamanda bu teknoloji alanındaki birçok araştırmacı arasında da gerçek bir değişim oldu. ChatGPT'nin popülaritesi, bu tür bir teknolojide yeni bir çağı ve giderek daha etkileyici yapay zekaya doğru yeni bir yarışı başlattı.
Tencent Teknolojisi:
Sizce ChatGPT'nin başarısı için teknik anahtar faktör esas olarak RLHF'dir (İnsan Geri Bildirimiyle Öğrenme)?
Cade Metz:
Evet, **GPT-3 gibi bazı eski sürümleri kullanıyorsanız, belirli bir şekilde sorduğunuz zaman bazen etkileyici olabilir. Örneğin, Donald Trump tarzında bir konuşma yapmasını isterseniz, etkileyici bir konuşma yapma şansının yarısı kadardır. Bu biraz zar atmak gibidir, bazen size istediğinizi verir, bazen vermez. Bu durumda sistem sıradan insanların dikkatini çekmez. **Ama bu temel sistemi aldılar, ancak sistem her yanıt ürettiğinde, not verenlere bunu puanlattı. İnsanlardan puan alabilir, bu yanıtları nasıl değerlendirdiklerini görebilir ve bunu sistemi yeniden eğitmek için kullanabilir. Ek açıklama yapan kişi, GPT'ye ne tür yanıtların iyi, ne tür yanıtların kötü olduğunu söylüyor.
Sonunda OpenAI, neredeyse her seferinde bir insan gibi sohbet edebilen bir sohbet robotuna sahip oldu. Bu sistemi sıradan insanların önüne koyuyorlar ve bu hararetli tartışma, insanların onun ortaya çıkışına tepki verme şekli. Twitter'da herkes onu kullanabilir ve insanlar buna gerçekten yanıt verir.
AGI hala çok uzakta, ancak gelişi tüm insan emeği değerinin yerini alacak
Tencent Teknolojisi:
Musk bir süre önce bir röportajında AGI'nin 5 veya 6 yıl içinde gerçekleşeceğini söylemişti, AGI'nin kolay bir hedef olacağını düşünüyor musunuz?
Cade Metz:
Bunu söylemek gerçekten zor ve bu konuda pek çok tartışma var. **Bugünün AI sistemlerinin bu seviyeye yakın olmadığını biliyoruz. Etkileyici bir şekilde dil üretebilirler, ancak insanlar gibi akıl yürütemezler ve insanların sağduyusuna sahip değillerdir. **
Pek çok insan, onlara bu yeteneği vermenin yeni yollarına ihtiyacımız olduğuna ve mevcut yöntemlerimizin AGI'ye ulaşmalarını sağlayamayacağına inanıyor. Fiziksel dünya hakkında sadece dilden daha fazlasını bilmeleri gerekir. Bu konuda pek çok tartışma ve anlaşmazlık var, ancak bu kesinlikle bugün düşünmemiz gereken bir şey değil ve henüz AGI'ye yeterince yakın değiliz.
Tencent Teknolojisi:
Gerçek genel yapay zekaya kıyasla mevcut sistemin ne gibi eksiklikleri olduğunu düşünüyorsunuz?
Cade Metz:
Bu sistemler kullanıldığında, mevcut yapay zekanın kusurları kolayca bulunabilir. İnsan gibi akıl yürütmelerini sağlamaya çalışırsanız bazen taklit edebilirler ama çoğu zaman yapamazlar.
Gerçek zorluk bu. **AGI ile arasındaki en büyük fark, makul metinler üretmeleri ve gerçekten akıl yürütmeleridir. **
**Bu sistemler geçmişte olan şeylerle, yani internette belgelenen şeylerle başa çıkmada çok iyidir. Ama gelecek hakkında konuşmazlar ve neler olabileceği hakkında spekülasyon yapmazlar. **Sen ve ben, gelecek hakkında konuştuğumuz ve neler olabileceğini düşündüğümüz bu konuşmayı yapabiliriz. Bu sistemler bunu yapmakta iyi değil. Daha önce gördüklerini taklit etmekte iyidirler. Bu yüzden standart testleri geçmekte çok iyidirler. Hukuk ve lise bilimi ve matematik gibi sınavlarda o kadar başarılılar ki medyada çok fazla ilgi görüyorlar.
**Ancak diğer araştırmalar, onlara yalnızca tamamen yeni sorular verirseniz, eğitildikten sonra yazılan soruları verirseniz, o kadar iyi performans göstermediklerini göstermiştir. Dolayısıyla, tüm bu standartlaştırılmış soruları cevaplarken, mutlaka muhakeme yapmıyorlar. **Yaptıkları daha önce görüleni tekrarlamak.
Tencent Teknolojisi:
Yapay zeka tehdidiyle ilgili olarak, opaklık gibi, Hinton'dan ilginç bir pasaj kaydettiniz "İnsanların 'kara kutu' sorunuyla yaşaması gerekiyor, iç işleyişi göremeseniz bile, onlar yapmaları gerekeni yapacaklar. yapmak" , ancak kısa süre önce Hinton Google'dan ayrıldı ve siz de onunla bir röportaj yaptınız ve burada AI ile ilgili birçok endişesini dile getirdi. Hinton'un yapay zekaya karşı tutumundaki değişikliği nasıl anlıyorsunuz?
Cade Metz:
Düşüncesi kesinlikle değişti. Kitabı yayınladığımda, yapay zekanın risklerinin oldukça uzak olduğunu düşündü. Ancak geçen yıl, şimdi gördüğümüz ChatGPT teknolojisini görünce fikrini değiştirdi.
Bazı açılardan sistemlerin insan beyninden daha güçlü olduğunu fark etti. **Sen ve ben tüm interneti kavrayamayız, o insan erişiminin ötesindedir. Bu kadar veriden biz öğrenemeyiz ama sistem öğrenebilir. **Dezenformasyon yaymak için kullanıldıklarından endişe ediyor, bu durumda gerçek olmayan metin, gerçek olmayan görüntü, gerçek olmayan video.
**Buna ek olarak, sistemin insanların işlerini elinden almaya başlamasından, otomatik sistemlerin savaş alanında kullanılması, silah olarak kullanılması gibi daha büyük sorunlardan da endişe duyuyor; hatta endişeleniyor. daha uzun bir süre, yapay zekanın kontrolünü kaybedeceğiz. **
Tencent Teknolojisi:
Hinton'un uzun süredir meslektaşı olan Yann Lecun ve diğer yapay zeka bilim adamları, son zamanlarda medyanın yapay zeka yeteneklerini ve tehditlerini abartması hakkında gerçekten çok konuştular. Sence o haklı mı? Medya hangi yollarla bu meseleleri gerçekte olduğundan daha fazla karmaşık hale getirebilir?
Cade Metz:
**Medyanın abarttığını düşünüyorum. Chat GPT ilk çıktığında insanlar kusurlarını göremediler ve insanları yanıltmak için yanlış bilgiler ürettiğini anlamaları uzun zaman aldı.Gazeteciler dahil birçok kişi neler olup bittiğini anlamakta güçlük çekiyor. yayıldıkça insanları yanıltmaya devam ediyorlar. **Bu durumda, aşırı abartma kolayca gerçekleşebilir.
Elbette, bazen kasıtlı abartma yanlış anlamalardan kaynaklanır, ancak bazı insanlar kasıtlı olarak, bazıları da bilinçsizce abartırlar. Ama bunun çoğunlukla insanların gördüklerini tam olarak anlamamasından kaynaklandığını düşünüyorum.
Tencent Teknolojisi:
Sizce mevcut AI patlamasının tarihsel önemi nedir? Yeni bir sanayi devriminin başlangıcı mı?
Cade Metz:
Bu mümkün. Sanırım bu sistemlerde iyileştirmeler görmeye devam edeceğiz. **Yalnızca metinleri değil, resimleri de işleyebilecekler. OpenAI tarafından oluşturulan teknolojinin en son sürümünün bir görüntü aldığını ve içindekileri açıklayarak onunla ilgili soruları yanıtladığını gördük. Bu henüz halka açık değil, ancak inşa ettikleri şeyin bir parçası. Giderek daha fazla becerinin insanlara benzeyeceğini ve insanların işlerini değiştirmeye devam edeceğini vaat ediyor.
Bu yüzden, son altı ayda gördüklerimizin önümüzdeki birkaç yıl içinde gerçekten büyük bir değişim geçireceğimizi gösterdiğini düşünüyorum. Bu dönüşüm ilk sanayi devrimi kadar kapsamlı olacak gibi görünüyor. Hala erken aşamalardayız. Bu şeyler genellikle insanların düşündüğünden daha yavaş ilerler. Ama sanırım o yöne gidiyoruz.
Tencent Teknolojisi:
Yapay zekanın bu toplumu nasıl yeniden şekillendireceğini düşünüyorsunuz? AGI gerçekleştiğinde insanın değeri nerede?
Cade Metz:
AGI denen insan beyninin yapabildiği her şeyi yapabilen bir sisteme gerçekten sahip olmanın insanlar için zor bir durum olacağını düşünüyorum.
**Eğer bir makine bir insanın yapabileceği her şeyi yapabilseydi, o zaman bir işçinin değeri sıfıra düşerdi çünkü bir makineyi kullanmak bir insanı işe almaktan daha ucuza gelirdi. Bence bu insanoğlu için iyi bir durum değil. ** Ancak yapay zeka henüz orada değil.
Bilgisayar programcılarını örnek alalım.Bugün sistem bilgisayar programlarını ve bilgisayar kodlarını çok iyi üretebiliyor ama kodlarda hala hatalar olabilir.Onların ürettikleri kodu devralmak, düzenlemek ve entegre etmek için hala deneyimli bir insan programcıya ihtiyaç var. daha büyük bir program, sonunda bir uygulama oluşturuyor. Bu sistemler zamanla daha iyi hale geldikçe, insanların yaptığı şeylerin yerini giderek daha fazla alacak. Bu aşamadaki sorun, AI'nın yakında daha az deneyimli genç programcıların, programcı endüstrisinin en altında yer alan, AI ile aynı şeyi yapan, bazı temel kodlar yazıp daha deneyimli kişilere teslim eden kişilerin yerini almaya başlamasıdır. programcılar. entegre edilecek insanlar.
** Yapay zeka gelişmeye devam ettikçe, makineler kesinlikle her şeyi daha fazla değiştirecek, ancak yapay zekanın birdenbire çok sayıda işin yerini alacağı noktada değiliz. **
Bir diğer endişem de bu sistemlerin gerçekçi metin ve görseller üretebilmesi. Hatta anında video oluşturmaya başlıyorlar, internette olmayandan neyin gerçek olduğunu ayırt edemeyeceğiz ve internetteki hemen hemen her şeye göz atarken kesinlikle zihniyetimizi değiştirmek zorunda kalacağız. Kitlelere, genel olarak düşünme biçimlerini değiştirme gücüne sahip olup olmadıklarını sormalısınız. **
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Efsanevi AI muhabiri Cade Metz ile röportaj: Endüstride hendek yok ve Çin yakında OpenAI'yi yakalayacak
Yazar | Tencent Technology Hao Boyang
"Derin Öğrenmede Üç Büyük Üç" başlığı, AI'nın yükselişindeki okuyucular için kesinlikle yabancı değil. Ancak derin öğrenme yetenekleri arasında Hinton, Yann Lecun ve Yoshua Bengio'yu dev olarak ayırmak için hangi değerlendirme kriterleri kullanılıyor? Yarışma, tartışma veya sıralama yok.Bu unvan, AI alanındaki en ünlü muhabir Cade Metz tarafından 18 yıl önce belirlendi.
"Wired" dergisinin kıdemli yazarı, "New York Times" yapay zeka köşesinin baş yazarı ve "Derin Öğrenme Devrimi"nin yazarı olarak Cade Metz, temelde yapay zeka alanında on yılı aşkın süredir tüm tanınmış uzmanlarla röportaj yaptı. Sam Altman, ChatGPT'yi başlatmadan önce ona danıştı ve Hinton, Google'dan ayrıldıktan sonra onunla konuştu. Bu temel figürlerle iletişim kurarak, çeşitli temel iş kararlarının ardındaki temel anları ve dramatik sahneleri ortaya çıkarmak için Microsoft, Google ve Meta gibi yapay zeka devlerinin derinliklerine de indi.Bir süre önce yazılan "Derin Öğrenme Devrimi" kitabı da ilk kez ifşa edildi.Yapay zekanın gidişatını on yıl önce değiştiren gizli müzayede.
Kitap, 2012 yılında gerçekleştirilen ve tüm yapay zeka sektörünü derinden etkileyen müzayedeyi ayrıntılarıyla anlatıyor.
Aralık 2012'de, bel fıtığı nedeniyle yerinde oturamayan Hinton, iki öğrencisiyle birlikte Lake Tahoe'nin kayak dağlarının eteğindeki bir kumarhane otelde bir hafta kaldı. O ve yeni kurduğu şirketi, aralarında Microsoft, Google, Deepmind ve Baidu'nun da bulunduğu dünyanın en ünlü şirketlerinin teklif turlarını kabul ediyor.
En dramatik sahne Hinton, Baidu tarafından gönderilen o zamanki araştırma enstitüsünün dekan yardımcısı Yu Kai'nin ani ziyaretiyle uğraşırken ortaya çıktı. "Yaşlı olduğumu düşünmesine izin vermemek" için öğrencilerinden şunları istedi: Bel ağrısı, koltuk minderleriyle geçici olarak örülmüş kanopiyi rahatlattı ve bu onları oldukça telaşlandırdı. Belirli bir ziyaret sırasında Hinton, Yu Kai'nin sol sırt çantasıyla karşılaştı ve Baidu'nun rezerv fiyatı hakkında bilgi aramak için öğrencilerle uzun süre mücadele etti. Ama sonunda, haysiyet onları pes ettirdi. Nihayet bir hafta sonra Hinton, Google'ın teklifini kabul ederek, henüz tamamen boş olan şirketi deve 44 milyon dolara sattı ve dev yapay zeka savaşının perdesini araladı.
Kariyeri boyunca bu tür ayrıntılarla dolu sahneler ve dramatik çatışmalar her yerde görülebilir. Bu nedenle, ona yapay zeka alanındaki en derin gözlemci demek abartı olmaz.
Bu röportajda Metz, derin öğrenmenin tarihi ve temel anlarından yapay zekanın geleceğine ve insan toplumu üzerindeki etkisine kadar yapay zeka alanındaki kapsamlı bilgisini bir kez daha gösterdi. Özellikle Çin'in yapay zeka durumuna ilişkin gözlemci tarzı değerlendirmesini de yaptı.
Sam Altman'ın OpenAI'yi öne çıkarabilmesinin temel nedeninin, güçlü müzakere yeteneğinin OpenAI ile Microsoft arasındaki işbirliğine katkıda bulunması olduğuna inanıyor. Ayrıca yapay zeka konusunda Çin ile Amerika Birleşik Devletleri arasındaki uçurumun kamuoyunun düşündüğü kadar uzak olmadığına inanıyor, çünkü mevcut teknolojinin kendisinde hendek yok. AI'nın geleceği ile ilgili olarak Hinton ile benzer endişeleri var ve AGI'nin ortaya çıkmasının toplumda büyük değişikliklere yol açacağından endişe edecek. Görgü tanıkları açıktır, aşağıdakiler yapay zeka gözlemcilerinden alınan içgörülerdir.
Çin ile ABD arasındaki uçurum o kadar büyük değil, yapay zekanın hendeği yok
Tencent Teknolojisi:
OpenAI hikayesi artık gündeme geldiğine göre, kitabınızda onun kuruluşu ve yolculuğu hakkında çok şey yazdınız. Sam Altman'dan bahseder misiniz? OpenAI'yi bugün olduğu yere götürmesini hangi nitelikler sağladı?
Cade Metz:
**Sam çok hırslıdır ve insanları, yapmalarını istediği şeyi yapmaya ikna etmede iyidir. Açıkçası, ekipler oluşturmakta ve onları belirli bir yola sokmak konusunda iyidir. **Bu sadece gelişimin beceri düzeyi ile ilgili değildir. Bunu yapmak için çok paraya ihtiyaçları var. Bu tür sistemlerin eğitimi, yüz milyonlarca dolar olmasa da on milyonlarca dolara mal olur. İnternetteki tüm metinleri analiz etmenin ve öğrenmenin ve bu sistemlerin kendi kendilerine öğrenmelerine izin vermenin aylar sürdüğünü ve aslında büyük teknoloji şirketlerinin sahip olduğu ve kontrol ettiği çok büyük bilgi işlem sistemleri gerektirdiğini söyledim.
Sam, kabaca 2019'da 1 milyar doların üzerinde para topladı. Bu yüzden, beceri setinin iyi bir kısmı anlaşmayı müzakere ediyor. **Bu büyük bir anlaşmaydı, Sam ihtiyacı olan parayı ve ihtiyaç duyduğu bilgi işlem gücünü aldı. Daha sonra **Microsoft'tan 11 milyar doların üzerinde bir miktar daha toplayarak toplamda yaklaşık 13 milyar dolar topladılar. Bu kadar önemli olmasının büyük bir nedeni bu.
Tencent Teknolojisi:
Microsoft'tan bahsettiniz, ancak yapay zekanın son dalgasında rakiplerinin tamamen gerisinde kaldı. Öyleyse Microsoft neden bu yapay zeka dalgasında bu fırsatı değerlendirip bu kadar hızlı hareket edebiliyor?
Cade Metz:
Bu, Microsoft için ilginç bir hamle. Bir zamanlar rekabetin gerisindeydiler ama inşa ettikleri teknolojinin önemini anladılar. Rakibi Google ve diğer şirketlerin bu teknolojinin kullanılabileceği bir senaryosu var: Google ilk olarak sinir ağlarını büyük ölçekte Android telefonlara ve dijital asistanı Google Home'a konuşma tanıma için yerleştirdi. Böylece evinizde bu akıllı hoparlörleri kullandığınızda, sorularınızı yanıtlayabilirler. Google, dağıtmak için gerekli senaryolara ve donanıma sahip olduğu için bu teknolojiyi çok hızlı bir şekilde dağıtmaya başlayabilir. Microsoft'ta bu senaryo yoktur.
Ancak Microsoft sonunda onu dağıtmaya çalıştığında başka sorunlarla karşılaştı. Birkaç yıl önce ABD'de Tay adında bir chatbot başlattılar ve neredeyse raflara çıkar çıkmaz ırkçı olanlar da dahil olmak üzere bazı saldırgan mesajlar vermeye başladı. Microsoft onu ancak yakında kaldırabilir.
**ABD'de yapay zeka teknolojisi geliştikçe bu, hikayenin bir yönüdür, çünkü bu sistemler bazen belirli insanlara karşı önyargılı olan gereksiz metinler üretir ve nefret söylemi üretir. Bu nedenle, büyük şirketlerin bu ürünü piyasaya sürmeye karar vermesi zordur ve bu riski almak istemezler. Ancak Microsoft, sistemi başlatan OpenAI ile ortaklık kurdu, böylece insanlar sistemin kusurlarına Microsoft'a verdikleri kadar güçlü tepki vermesinler. ** İnsanlar bu hataların Microsoft gibi tanınmış bir şirketten değil, küçük ve bilinmeyen bir şirketten geldiğini kabul edeceklerdir.
Tencent Teknolojisi:
Gözleminize göre yapay zeka alanında Çin ile ABD arasındaki fark ne kadar büyük? Sizce Çin'in yapay zeka konusunda ne gibi avantajları var?
Cade Metz:
Çin bir süredir bu konuda çalışıyor. Buradaki teknolojiyi anlayan birçok kişi ve şirket var, ancak zorluklar olabiliyor. Bu sistemleri eğitmek için gerekli olan bilgisayar çipleri en üst düzeyde Amerikan firmaları tarafından üretilmektedir. Şimdi ticaret yasağı var, bu çipler Çin'e satılamıyor. Bu bir dezavantaj olabilir.
Bu teknolojiyi inşa etmeye gelince nasıl sonuçlanacağını göreceğiz. **Sam Altman geçtiğimiz günlerde Çin'in iki yıl geride kaldığını hissettiğini söyledi. Bu bir tahmindir. Sektörün bir bütün olarak onun ve şirketinin yaptıklarını oldukça hızlı bir şekilde yakalayabileceğini düşünüyorum. Bunu şimdiden görmeye başladık ve bunun Çin'de de olabileceğini düşünüyorum. **
Tencent Teknolojisi:
Bu boşluk büyüyor mu yoksa küçülüyor mu?
Cade Metz:
Ticaret yasağı nedeniyle söylemek zor. Bu, Çin'in karşı karşıya olduğu bir zorluktur. Bildiğim kadarıyla Çin, veri merkezleri için gerekli çipleri ve ekipmanı inşa etmek, tasarlamak ve tedarik etmek için yoğun bir şekilde çalışıyor.
**İster Çin'de ister Amerika Birleşik Devletleri'nde, rekabet gibi ticari sürtüşmelerin oynadığı birçok potansiyel rolle uğraşmak zorunda kalacağız. OpenAI teknolojisinin şu anda rakiplerinin çoğunun önünde olduğu artık genel olarak kabul ediliyor. Ancak dünyada yeterli bilgiye, paraya ve gerçekten rekabet etmek için gereken kaynaklara erişime sahip birçok başka şirket var. **
Bu nedenle, AI rekabetinin henüz ilk aşamalarındayız ve hala keşfedilecek birçok yol var. Sonucun hala beklemesi ve görmesi gerekiyor.
Tencent Teknolojisi:
Kitabında Baidu'dan bahsetmiştin. Çinli şirket ayrıca 2012'de bu tür yapay zeka teknolojisini denemeye başladı, daha şimdiden yarışın ilk aşamalarındaydı. Sizce bugün neden güç göstermedi? Sizce bu duruma katkıda bulunan başlıca faktörler nelerdir?
Cade Metz:
**Bence fikirlerin alanı yönlendirdiğini düşünüyorum. **Derin öğrenme tüm dünyada ünlüdür ve Çin'deki araştırmacılar benzer teknikler geliştirmiştir. Ancak tıpkı ABD'de olduğu gibi, insanlar daha önce bahsettiğim insan geri bildirim eğitimi adımının ne kadar iyi çalıştığına şaşırdılar. **Bu nedenle, bu tekniği (insan geri bildirimi ile eğitim) büyük dil modellerine uygulamada ABD'deki pek çok kişinin bir adım gerisindedirler. **
Tencent Teknolojisi:
OpenAI, Google, Meta gibi büyüklerin yanı sıra pek çok şirketin de bu yarışta olduğundan bahsetmiştiniz, izlenmeye değer küçük şirketler var mı?
Cade Metz:
OpenAI'den ayrılan bir grup insan tarafından kurulan Anthropic adında bir şirket var. Şirket pek bilinmiyor ama bu alanda önemli olacaklar. ChatGPT'yi oluşturan teknolojinin çoğunun oluşturulmasına yardımcı oldular ve henüz genel kullanıma sunulmamış olan kendi sohbet robotlarını oluşturdular. Yeteneklerinin ChatGPT ile karşılaştırılabilir olacağını tahmin ediyorum.
Toronto'da benzer bir şey yapan Coherence adında bir şirket var; ABD'de eski Google çalışanları tarafından kurulan Character.AI adlı bir şirket var; DeepMind of'un kurucularından biri tarafından kurulan Inflection AI adlı başka bir şirket var. DeepMind, esas olarak Google'a ait olan ve Londra merkezli bir başka önemli laboratuvardır.
Tencent Teknolojisi:
AI segmentinde gelişen şirketler için fırsatlar nerede?
Cade Metz:
Bu küçük alanların çalışma şekli, birisi büyük dil modeli adı verilen bir sistem oluşturduğunda, onu her türlü başka tekniği oluşturmak için kullanabilirsiniz. Bir sohbet robotu yapabilirsin, bir arama motoru kurabilirsin, kişisel bir öğretmen kurabilirsin. **Öyleyse OpenAI'nin yaptığı şey, bu çekirdek sistemi inşa etmeleri. Buna GPT-4 diyorlar ve sonra bu sistemi kullanmak isteyen diğer işletmelere sunuyorlar. Bu, başka uygulamalar oluşturmanın bir yoludur.
Görmeye başladığımız şey bu. **Bu tür bir hizmet sunan OpenAI gibi şirketler göreceğinizi düşünüyorum. Herkes bunun üzerine kendi uygulamalarını oluşturmak için kullanabilir. **Bence şirketlerin bu temel hizmeti alıp üzerine yeni şeyler inşa edip bu uygulamaları satabilecekleri her türlü fırsat var. Ancak en zor şey, bu temel hizmeti oluşturmaktır ve bunu pek çok şirket yapamaz. Amerika Birleşik Devletleri'nde Google, Microsoft ve Meta gibi devler var ve sadece birkaç girişim gerekli sermayeye ve yeteneğe sahip. Daha önce de söylediğim gibi, bu çekirdek sistemi kurmak için yüz milyonlarca dolara ihtiyacınız var. **Bu nedenle, şu anda küçük şirketlerin temel modeli oluşturma konusunda onlarla rekabet etmesi zor. **
Pek çok insan, fiyatlar düştükçe ve açık kaynak projeleri geliştikçe, insanların kendi çekirdek sistemlerini kurmalarının daha kolay hale geleceğini ve bunun sonunda değişeceğini düşünüyor. Ama emin değilim.
Yapay zekanın geliştirilmesinde iki dönüm noktası: bir açık artırma ve ChatGPT'nin doğuşu
Tencent Teknolojisi:
Kıdemli bir AI yazarı olarak, on yıllık kariyerinizde temel olarak derin öğrenme alanına odaklandınız ve bu alandaki tüm önemli rolleri kurdunuz ve aradaki çeşitli belirleyici anlara katıldınız. Sizi bu alana dikkat etmeye iten ne oldu?
Cade Metz:
2011 veya 2012 civarında, San Francisco'da Wired'a katıldım. Odaklanmaya karar verdiğim alanlardan biri de bu. On yılı aşkın bir süre önce o zamanlar, bu alanın çok önemli hale geleceği şimdiden sezilebilirdi. İşte o zaman, teknolojiye ilgi duymamı sağlayan birkaç önemli an meydana geldi.
Hinton, "Derin Öğrenme Devrimi" kitabının baş kahramanıdır ve ben onun yükselişi ve son 10 yılda birçok ilerlemeyi yönlendiren sinir ağlarının temel kavramı hakkında yazdım. Sonunda 2013'te Google'a katıldı.
Daha sonra bunun Google, Microsoft ve Çinli Baidu dahil olmak üzere dünyanın en büyük teknoloji şirketlerinden bazıları arasında bir açık artırma olduğunu öğrendim. Bu çok önemli bir andı ve bir şeylerin olmaya başladığını görebiliyordunuz. Yıllar geçtikçe, alanı giderek daha fazla takip etmeye başladım ve Hinton ve uzun süredir meslektaşı olan Yann Lecun gibi, sahadaki diğer kişilerin yanı sıra sonunda Facebook'a ve şimdi Meta'ya katılan insanları tanımaya başladım. Wired'da çok fazla haber yapmaya başladık ve sonra daha da büyüdü. En sonunda, Wired'dan The New York Times'a geçtiğimde de yazmaya devam ettiğim alanla ilgili bir kitap yazmaya karar verdim.
Tencent Teknolojisi:
Uzun süredir yapay zekayı takip eden bir muhabir olarak bir döngüden geçiyor gibisiniz, makine öğrenimi, yapay zeka alanında dip dönemini yaşadınız. Sizce Hinton ve diğerlerinin ısrar etmesini sağlayan şey neydi?
Cade Metz:
Hinton, 1972'de sinir ağları üzerinde çalışmaya başladı. O zamanlar neredeyse hiç kimse bunun başarılı olacağına inanmıyordu, çünkü** tüm yapay zeka alanı sinir ağlarının yönünü terk etti. Ama ** Hinton, inandığı şeye gerçekten inanan ve bu yönde kararlı olan, aklı başında bir adamdır.
**1980'lerde, büyük ölçüde Hinton'un kendi çabaları sayesinde, teknoloji bazı büyük ilerlemeler kaydetti. Birçok insan bu fikre yeniden inanmaya başladı. Ama 90'ların başında insanlar yine pes etti ama o çalışmaya devam etti ve tutarlı tavrını her zaman korudu. ** Fikrin gelişmeye devam edeceğine inanıyorlardı ve haklıydılar. Bu hikayeyi bu kadar ilginç kılan şeylerden biri, yakın meslektaşlarından bile bu kadar çok şüphe duymalarına rağmen çalışmaya devam etmeleri.
Tüm sektörün gözlerini gerçekten açan an, artık AlexNet gazetesi olarak bilinen şeydi. Hinton ve Toronto Üniversitesi'ndeki iki öğrencisi tarafından yazılan bu araştırma makalesi, sinir ağlarının fotoğraflardaki çiçekler, arabalar, insanlar, hayvanlar vb. nesneleri tanımlayarak görüntü tanımada büyük başarı elde edebildiğini gösteriyor.
Makale 2012'de yayınlandığında Google, Microsoft, Baidu ve sonunda Facebook'un gözlerini açtı. Bu yetenek savaşını, bu fikri gezegendeki en büyük şirketlerden bazılarında sadece görüntü tanıma için değil, konuşma tanıma, çeviri vb. için uygulamaya yönelik bu aceleyi görebiliriz. O kağıt çok önemli bir andı. İşte bu yüzden kitabım o kağıtla başlıyor**, Hinton'un şirketini açık arttırmayla en yüksek teklifi verene sattığı an o andı ve diğer her şeyi ateşledi. **
O zamandan bugüne gelişmeye devam ettik. 2012'de sektör bilincinin yukarıda belirtilen uyanışı kritik bir andı ve 10 yıl sonra, bir başka kritik an olan ChatGPT piyasaya sürüldü. AI tarihine baktığımızda bu anların her ikisi de çok önemli dönüm noktalarıdır.
Tencent Teknolojisi:
**Kitabınızda, derin öğrenmenin gelişimini açıklıyorsunuz ve AlphaGo, Deepfake ve GPT serisi gibi ürün kilometre taşları, kamuoyunda kapsamlı tartışmalara yol açtı. Ancak ChatGPT ortaya çıkana kadar herkes gerçek sanayi devriminin geldiğini gerçekten hissetti.GPT serisini bu kadar farklı kılan nedir? **
Cade Metz:
Bu harika bir soru. GPT ve ChatGPT ile ilgili teknolojiler bir süredir geliştirilmiştir. OpenAI sonunda Chat GPT'yi geliştirdi ve Google, Meta (eski adıyla Facebook) ve Microsoft gibi şirketler de beş yıl önce sözde büyük dil modelleri geliştirmeye başladı.
Teknolojinin arkasındaki fikir, verilerden öğrenebilen matematiksel bir sistem olan bir sinir ağı oluşturmaktır. Olabildiğince çok metin besleyin ve o metni analiz eder ve bu metni analiz etme sürecinde, metnin kendisini oluşturmayı öğrenir. Wikipedia makalelerini, blog gönderilerini, sohbet günlüklerini ve İnternet'teki çeşitli içerikleri analiz ederek, kelimeleri bir araya getirme şeklimizdeki kalıpları fark etti ve bunu yapmayı öğrendi. Son birkaç yılda bu teknolojinin meyvelerini verdiğini gördük ve birkaç ilginç sistem piyasaya sürüldü.
OpenAI, GPT-2, GPT-3'ü yayınladı, hepsi çok etkileyici. Bu sistemlerin insanlar gibi metin üretmeye başladığını görebiliriz. Ancak, genel kamuoyunun bunu gerçekten fark etmesini sağlayan ChatGPT'nin piyasaya sürülmesiydi. Diğer şirketler aylar, haftalar önce bile kendi sohbet robotlarını yayınladılar, örneğin Meta (eski Facebook) bilim camiasında bir sohbet robotu yayınladı, ancak bu sadece insanların ilgisini çekmedi, aynı zamanda alay konusu olarak da eleştirildi. Çünkü dezenformasyon yaratıyor ve insanlar bundan çok rahatsız oluyor. Meta hızla onu indirdi. Ancak bundan kısa bir süre sonra OpenAI, ChatGPT'yi Twitter'da yayınladı.
**Kısmen nasıl piyasaya sürüldüğü ve kısmen de onu piyasaya süren şirket sayesinde popüler oldu. Ancak ChatGPT, bazı önemli teknik yönlerde gelişme gösteriyor. Çünkü internetin her yerinden öğrenilen bu büyük dil modellerini oluştururken, onlara insan geri bildirimlerini uyguluyorlar. İnsanlardan sohbet robotunun yanıtlarını derecelendirmelerini istediler. İnsanlardan bir yanıtı iyi olarak derecelendirmelerini mi istiyorlar? bu gerçek mi Çalışıyor mu? Bir beğeni ya da beğenmeme verirler ve sonra bu derecelendirmeleri sisteme geri gönderirler ve bu derecelendirmelerden öğrenmesine izin verirler. **
Bu şekilde, chatbot'a neredeyse her sorulduğunda ikna edici bir metin ürettiği noktaya kadar bilemeyi başardılar. Her zaman doğru olmayabilir ve yine de dezenformasyona neden olabilir, ancak **insanlarla, insanların gerçekten kullandığı duyarlı bir şekilde iletişim kurar. Sadece alandaki uzmanlarla değil, herkesle. Bu gerçekten insanların hayal gücünü ele geçirdi. **Bu teknolojinin algısında, yalnızca sıradan insanlar arasında değil, aynı zamanda bu teknoloji alanındaki birçok araştırmacı arasında da gerçek bir değişim oldu. ChatGPT'nin popülaritesi, bu tür bir teknolojide yeni bir çağı ve giderek daha etkileyici yapay zekaya doğru yeni bir yarışı başlattı.
Tencent Teknolojisi:
Sizce ChatGPT'nin başarısı için teknik anahtar faktör esas olarak RLHF'dir (İnsan Geri Bildirimiyle Öğrenme)?
Cade Metz:
Evet, **GPT-3 gibi bazı eski sürümleri kullanıyorsanız, belirli bir şekilde sorduğunuz zaman bazen etkileyici olabilir. Örneğin, Donald Trump tarzında bir konuşma yapmasını isterseniz, etkileyici bir konuşma yapma şansının yarısı kadardır. Bu biraz zar atmak gibidir, bazen size istediğinizi verir, bazen vermez. Bu durumda sistem sıradan insanların dikkatini çekmez. **Ama bu temel sistemi aldılar, ancak sistem her yanıt ürettiğinde, not verenlere bunu puanlattı. İnsanlardan puan alabilir, bu yanıtları nasıl değerlendirdiklerini görebilir ve bunu sistemi yeniden eğitmek için kullanabilir. Ek açıklama yapan kişi, GPT'ye ne tür yanıtların iyi, ne tür yanıtların kötü olduğunu söylüyor.
Sonunda OpenAI, neredeyse her seferinde bir insan gibi sohbet edebilen bir sohbet robotuna sahip oldu. Bu sistemi sıradan insanların önüne koyuyorlar ve bu hararetli tartışma, insanların onun ortaya çıkışına tepki verme şekli. Twitter'da herkes onu kullanabilir ve insanlar buna gerçekten yanıt verir.
AGI hala çok uzakta, ancak gelişi tüm insan emeği değerinin yerini alacak
Tencent Teknolojisi:
Musk bir süre önce bir röportajında AGI'nin 5 veya 6 yıl içinde gerçekleşeceğini söylemişti, AGI'nin kolay bir hedef olacağını düşünüyor musunuz?
Cade Metz:
Bunu söylemek gerçekten zor ve bu konuda pek çok tartışma var. **Bugünün AI sistemlerinin bu seviyeye yakın olmadığını biliyoruz. Etkileyici bir şekilde dil üretebilirler, ancak insanlar gibi akıl yürütemezler ve insanların sağduyusuna sahip değillerdir. **
Pek çok insan, onlara bu yeteneği vermenin yeni yollarına ihtiyacımız olduğuna ve mevcut yöntemlerimizin AGI'ye ulaşmalarını sağlayamayacağına inanıyor. Fiziksel dünya hakkında sadece dilden daha fazlasını bilmeleri gerekir. Bu konuda pek çok tartışma ve anlaşmazlık var, ancak bu kesinlikle bugün düşünmemiz gereken bir şey değil ve henüz AGI'ye yeterince yakın değiliz.
Tencent Teknolojisi:
Gerçek genel yapay zekaya kıyasla mevcut sistemin ne gibi eksiklikleri olduğunu düşünüyorsunuz?
Cade Metz:
Bu sistemler kullanıldığında, mevcut yapay zekanın kusurları kolayca bulunabilir. İnsan gibi akıl yürütmelerini sağlamaya çalışırsanız bazen taklit edebilirler ama çoğu zaman yapamazlar.
Gerçek zorluk bu. **AGI ile arasındaki en büyük fark, makul metinler üretmeleri ve gerçekten akıl yürütmeleridir. **
**Bu sistemler geçmişte olan şeylerle, yani internette belgelenen şeylerle başa çıkmada çok iyidir. Ama gelecek hakkında konuşmazlar ve neler olabileceği hakkında spekülasyon yapmazlar. **Sen ve ben, gelecek hakkında konuştuğumuz ve neler olabileceğini düşündüğümüz bu konuşmayı yapabiliriz. Bu sistemler bunu yapmakta iyi değil. Daha önce gördüklerini taklit etmekte iyidirler. Bu yüzden standart testleri geçmekte çok iyidirler. Hukuk ve lise bilimi ve matematik gibi sınavlarda o kadar başarılılar ki medyada çok fazla ilgi görüyorlar.
**Ancak diğer araştırmalar, onlara yalnızca tamamen yeni sorular verirseniz, eğitildikten sonra yazılan soruları verirseniz, o kadar iyi performans göstermediklerini göstermiştir. Dolayısıyla, tüm bu standartlaştırılmış soruları cevaplarken, mutlaka muhakeme yapmıyorlar. **Yaptıkları daha önce görüleni tekrarlamak.
Tencent Teknolojisi:
Yapay zeka tehdidiyle ilgili olarak, opaklık gibi, Hinton'dan ilginç bir pasaj kaydettiniz "İnsanların 'kara kutu' sorunuyla yaşaması gerekiyor, iç işleyişi göremeseniz bile, onlar yapmaları gerekeni yapacaklar. yapmak" , ancak kısa süre önce Hinton Google'dan ayrıldı ve siz de onunla bir röportaj yaptınız ve burada AI ile ilgili birçok endişesini dile getirdi. Hinton'un yapay zekaya karşı tutumundaki değişikliği nasıl anlıyorsunuz?
Cade Metz:
Düşüncesi kesinlikle değişti. Kitabı yayınladığımda, yapay zekanın risklerinin oldukça uzak olduğunu düşündü. Ancak geçen yıl, şimdi gördüğümüz ChatGPT teknolojisini görünce fikrini değiştirdi.
Bazı açılardan sistemlerin insan beyninden daha güçlü olduğunu fark etti. **Sen ve ben tüm interneti kavrayamayız, o insan erişiminin ötesindedir. Bu kadar veriden biz öğrenemeyiz ama sistem öğrenebilir. **Dezenformasyon yaymak için kullanıldıklarından endişe ediyor, bu durumda gerçek olmayan metin, gerçek olmayan görüntü, gerçek olmayan video.
**Buna ek olarak, sistemin insanların işlerini elinden almaya başlamasından, otomatik sistemlerin savaş alanında kullanılması, silah olarak kullanılması gibi daha büyük sorunlardan da endişe duyuyor; hatta endişeleniyor. daha uzun bir süre, yapay zekanın kontrolünü kaybedeceğiz. **
Tencent Teknolojisi:
Hinton'un uzun süredir meslektaşı olan Yann Lecun ve diğer yapay zeka bilim adamları, son zamanlarda medyanın yapay zeka yeteneklerini ve tehditlerini abartması hakkında gerçekten çok konuştular. Sence o haklı mı? Medya hangi yollarla bu meseleleri gerçekte olduğundan daha fazla karmaşık hale getirebilir?
Cade Metz:
**Medyanın abarttığını düşünüyorum. Chat GPT ilk çıktığında insanlar kusurlarını göremediler ve insanları yanıltmak için yanlış bilgiler ürettiğini anlamaları uzun zaman aldı.Gazeteciler dahil birçok kişi neler olup bittiğini anlamakta güçlük çekiyor. yayıldıkça insanları yanıltmaya devam ediyorlar. **Bu durumda, aşırı abartma kolayca gerçekleşebilir.
Elbette, bazen kasıtlı abartma yanlış anlamalardan kaynaklanır, ancak bazı insanlar kasıtlı olarak, bazıları da bilinçsizce abartırlar. Ama bunun çoğunlukla insanların gördüklerini tam olarak anlamamasından kaynaklandığını düşünüyorum.
Tencent Teknolojisi:
Sizce mevcut AI patlamasının tarihsel önemi nedir? Yeni bir sanayi devriminin başlangıcı mı?
Cade Metz:
Bu mümkün. Sanırım bu sistemlerde iyileştirmeler görmeye devam edeceğiz. **Yalnızca metinleri değil, resimleri de işleyebilecekler. OpenAI tarafından oluşturulan teknolojinin en son sürümünün bir görüntü aldığını ve içindekileri açıklayarak onunla ilgili soruları yanıtladığını gördük. Bu henüz halka açık değil, ancak inşa ettikleri şeyin bir parçası. Giderek daha fazla becerinin insanlara benzeyeceğini ve insanların işlerini değiştirmeye devam edeceğini vaat ediyor.
Bu yüzden, son altı ayda gördüklerimizin önümüzdeki birkaç yıl içinde gerçekten büyük bir değişim geçireceğimizi gösterdiğini düşünüyorum. Bu dönüşüm ilk sanayi devrimi kadar kapsamlı olacak gibi görünüyor. Hala erken aşamalardayız. Bu şeyler genellikle insanların düşündüğünden daha yavaş ilerler. Ama sanırım o yöne gidiyoruz.
Tencent Teknolojisi:
Yapay zekanın bu toplumu nasıl yeniden şekillendireceğini düşünüyorsunuz? AGI gerçekleştiğinde insanın değeri nerede?
Cade Metz:
AGI denen insan beyninin yapabildiği her şeyi yapabilen bir sisteme gerçekten sahip olmanın insanlar için zor bir durum olacağını düşünüyorum.
**Eğer bir makine bir insanın yapabileceği her şeyi yapabilseydi, o zaman bir işçinin değeri sıfıra düşerdi çünkü bir makineyi kullanmak bir insanı işe almaktan daha ucuza gelirdi. Bence bu insanoğlu için iyi bir durum değil. ** Ancak yapay zeka henüz orada değil.
Bilgisayar programcılarını örnek alalım.Bugün sistem bilgisayar programlarını ve bilgisayar kodlarını çok iyi üretebiliyor ama kodlarda hala hatalar olabilir.Onların ürettikleri kodu devralmak, düzenlemek ve entegre etmek için hala deneyimli bir insan programcıya ihtiyaç var. daha büyük bir program, sonunda bir uygulama oluşturuyor. Bu sistemler zamanla daha iyi hale geldikçe, insanların yaptığı şeylerin yerini giderek daha fazla alacak. Bu aşamadaki sorun, AI'nın yakında daha az deneyimli genç programcıların, programcı endüstrisinin en altında yer alan, AI ile aynı şeyi yapan, bazı temel kodlar yazıp daha deneyimli kişilere teslim eden kişilerin yerini almaya başlamasıdır. programcılar. entegre edilecek insanlar.
** Yapay zeka gelişmeye devam ettikçe, makineler kesinlikle her şeyi daha fazla değiştirecek, ancak yapay zekanın birdenbire çok sayıda işin yerini alacağı noktada değiliz. **
Bir diğer endişem de bu sistemlerin gerçekçi metin ve görseller üretebilmesi. Hatta anında video oluşturmaya başlıyorlar, internette olmayandan neyin gerçek olduğunu ayırt edemeyeceğiz ve internetteki hemen hemen her şeye göz atarken kesinlikle zihniyetimizi değiştirmek zorunda kalacağız. Kitlelere, genel olarak düşünme biçimlerini değiştirme gücüne sahip olup olmadıklarını sormalısınız. **