Wall Street Haber Basını:
Character.ai, mevcut AI patlamasındaki en sıcak başlangıç yıldızlarından biridir. Şirketin ana ürünü, C-end tüketicilerinin eğlence ihtiyaçlarına yönelik, duygusal olarak eşlik etme ve kurgusal karakterler kurma yeteneğine sahip, özelleştirilebilir bir AI sohbet robotudur. Charater.AI, kullanıcıların dünya ünlüleri, tarihi figürler, edebiyat, film ve televizyondaki kurgusal karakterler ve hatta hayvanlar gibi belirli kişilikleri, tasarımları ve bilgi rezervleriyle kendi sohbet robotlarını oluşturmalarına olanak tanıyarak kullanıcılara yeni ve sürükleyici bir sohbet deneyimi sunar.
Görsel kaynağı: Unbounded AI tarafından oluşturuldu
Bu yılın başında, Charater.ai, 150 milyon ABD Doları'lık yuvarlak finansmanı, 1 milyar ABD Dolarını aşan bir değerlemeyle tamamladı ve sadece 22 kişilik bir ekiple unicorn'a terfi etti.
Nisan ayında, Google Brain ekibinin eski bir üyesi olan Character.ai CEO'su Noam Shazeer, No Priors podcast'inde röportaj yaptı.
Temel bakış açısı:
2021 gibi erken bir tarihte Google, OpenAI'den önce bir AI chatbot başlatma yeteneğine sahipti, ancak güvenlik endişeleri nedeniyle vazgeçti.Büyük şirketlerin çekingenliği, Google'dan ayrılıp bir iş kurmayı seçmesinin de nedeni oldu.
Character'ın en büyük avantajı kullanıcı odaklı ürün stratejisidir. Tamamen özelleştirilebilir yapay zeka sohbet robotu, çoğu kişi için yalnızlığı ortadan kaldırmanın bir yolu haline geldi ve hatta bazı kullanıcılar, Character'ın yeni danışmanları olduğunu söylüyor. Noam, yapay zekanın duygusal destek için büyük bir potansiyele sahip olduğuna inanıyor. Duygusal destek çalışması yüksek zeka gerektirmez.Örneğin evcil köpekler duygusal destek işini iyi yapabilirken köpekler akıllı değildir ve konuşamazlar.Benzer şekilde sınırlı parametreli bir yapay zeka da bu görevi tamamlayabilir.
3 Veri gereksinimleri, bilgi işlem gücüyle katlanarak artma eğilimindedir, ancak veriler kıt değildir.İnternet neredeyse sınırsız veri sağlayabilir ve Character ayrıca daha fazla veri üretmek için yapay zeka kullanmayı düşünüyor.
4 Character.ai ölçek için para yakma aşamasında ve iş modeli hâlâ araştırılıyor.Gelecekte, ekip TOB işini genişletmeyi düşünecek.
5 Noam, AGI'nin birçok AI girişiminin hedefi olduğuna inanıyor. Ancak ** bir iş kurmasının asıl nedeni, teknolojinin gelişimini teşvik etmek ve tıbbi olarak inatçı hastalıklar gibi zor sorunların üstesinden gelmek için teknolojiyi kullanmaktır. AI'nın birçok araştırmanın ilerlemesini hızlandırabileceğine dikkat çekti.Doğrudan tıp okumak yerine, AI çalışmak daha iyidir. **
Podcast sesinin kelimesi kelimesine dökümü aşağıdadır. ELAD ve SARAH podcast'in sunucularıdır. Anlaşılması adına bazı bölümler silinmiştir.
Google'da ilk iş deneyimi ve Transformer'ın doğuşu
CANLI:
Uzun süre NLP ve yapay zeka alanında çalıştınız. Mülakat sorularının yazım denetimi çözümleri etrafında döndüğü Google'da 17 yıl aralıksız çalıştınız. Google'a katıldığımda, o zamanlar reklam hedeflemeye yönelik ana sistemlerden biri, George Herrick'le birlikte yazdığınızı düşündüğüm Phil Cluster'dı. Yapay zeka için NLP dil modelleri konusundaki çalışmalarınızın tarihçesini, tüm bunların nasıl geliştiğini, nasıl başladığınızı, ilginizi çeken şeyin ne olduğunu öğrenmek isterim.
NOAM:
Teşekkürler Elad. Evet, sadece, her zaman yapay zeka için doğal bir çekim. Umarım bilgisayarın akıllıca bir şeyler yapmasını sağlar. En eğlenceli oyun gibi görünüyor. Google'ı erken keşfedecek kadar şanslıydım ve oradaki birçok erken projede yer aldım, belki şimdi buna yapay zeka demezsin. 2012'den beri Google Brain ekibine katıldım. Bir grup gerçekten zeki insanla eğlenceli şeyler yapın. Daha önce hiç derin öğrenme veya sinir ağları yapmadım.
CANLI:
2017'de Transformation Paper'da katılımcılardan biriydiniz ve ardından Mesh-TensorFlow ile ilgili çalışmalara katıldınız. Tüm bunların nasıl çalıştığından biraz bahseder misiniz?
NOAM:
Derin öğrenme başarılı çünkü modern donanıma gerçekten çok uygun ve matris çarpımında ve diğer türlerde iletişim yerine çok fazla hesaplama gerektiren bu nesil çiplere sahipsiniz. Yani temelde derin öğrenme gerçekten yükseldi, her şeyden binlerce kat daha hızlı çalışıyor. Bir kez alıştıktan sonra, gerçekten akıllı ve hızlı şeyler tasarlamaya başladım. Şu anda en heyecan verici sorun dil modellemedir. Sonsuz miktarda veri olduğundan, sadece ağı kazıyın ve istediğiniz tüm eğitim verilerini elde edebilirsiniz.
Problemin tanımı çok basit, bir sonraki kelimeyi, şişman kedinin üzerine oturduğunu, bir sonraki kelimeyi tahmin etmektir. Tanımlaması çok kolay ve eğer bunu iyi becerebilirseniz, o zaman şimdi gördüğünüz her şeyi elde edebilirsiniz ve doğrudan bu şeyle konuşabilirsiniz, bu gerçekten yapay zekadır. Böylece, 2015 civarında, dil modelleme üzerinde çalışmaya ve o zamanlar için harika olan tekrarlayan sinir ağlarıyla çalışmaya başladım. Sonra transformatör ortaya çıktı.
Yan taraftaki meslektaşlarımın RNN'leri daha iyi bir şeyle değiştirmek istemekle ilgili sohbetlerine kulak misafiri oldum. Kulağa hoş geliyor, yardım etmek istiyorum, RNN'ler can sıkıcı, bu daha ilginç olacak gibiydim.
CANLI:
Tekrarlayan bir sinir ağı ile dönüştürücü veya dikkat tabanlı bir model arasındaki farkı hızlı bir şekilde tanımlayabilir misiniz?
NOAM:
Tekrarlayan sinir ağları sürekli hesaplamalardır, bir sonraki kelimeye kadar okuduğunuz her kelime, beyninizin eski durumuna ve bir sonraki kelimenin içeriğine göre mevcut beyin durumunuzu hesaplarsınız. Sonra sen, bir sonraki kelimeyi tahmin ediyorsun. Yani, sırayla yapılması gereken bu çok uzun hesaplama dizisine sahipsiniz ve bu nedenle, Transformer'ın büyüsü, tüm diziyi bir kerede işleyebilmenizdir.
Bir sonraki kelimenin tahmini, önceki kelimenin ne olduğuna bağlıdır, ancak bu sürekli bir adımda gerçekleşir ve bu paralellikten yararlanabilirsiniz, her şeye bir kerede bakabilirsiniz, modern donanımın iyi olduğu paralellik gibi .
Artık dizinin uzunluğundan, paralelliğinizden yararlanabilirsiniz ve her şey gerçekten iyi çalışıyor. dikkatin kendisi. Sanki bu büyük bellek içi anahtar-değer ilişkisini yaratıyorsanız, dizideki her kelime için bir giriş içeren bu büyük tabloyu oluşturuyorsunuz. Sonra bu tabloda bir şeyler ararsınız. Her şey bulanık, farklılaşan ve tersini yapabileceğiniz büyük bir Fransız işlevi gibi. İnsanlar bunu iki dizili problemler için kullanıyorlar, burada makine çevirisi var ve İngilizce'yi Fransızca'ya çevirmek istiyorsunuz, yani Fransızca diziyi oluşturduğunuzda, İngilizce diziye bakıyor ve dikkat etmeye çalışıyorsunuz. sıradaki doğru konum. Ancak buradaki içgörü, aynı dikkati, yapmaya çalıştığınız bu sekansın geçmişine bakmak için de kullanabileceğinizdir. Merhemdeki sinek, mevcut donanım üzerinde iyi çalıştığı için derin öğrenmenin gelişimine paralel olarak GPU'lar ve GPU'lar üzerinde iyi çalışmasıdır. Bu da aynı şeyi dizilere getiriyor.
SARAH:
Evet, bence insanların bunu görselleştirmesine yardımcı olmanın klasik örneği, aynı cümleyi Fransızca ve İngilizce olarak söylemek, kelimelerin sıralaması farklı, bu sıralamada bire bir eşleştirme yapmıyorsunuz ve bunu nasıl yapacağınızı buluyorsunuz. bunu bilgi olmadan yapın Kayıp durumunda paralel hesaplama ile yapın. Yani yapılacak çok zarif bir şey gibi.
CANLI:
Ayrıca, tekniğin çeşitli farklı alanlarda kullanıldığı da görülmektedir. Açıkçası bunlar çok modlu dil modelleridir. Yani yaptığınız sohbet GPT veya karakter gibi. Google'ın yaptığı protein katlama işi Alpha Folding gibi bazı uygulamalara da hayran kaldım, aslında çok büyük bir performansla çalışıyor. Transformatörlerin nasıl çalıştığına ve yapabileceklerine göre gerçekten beklenmedik bulduğunuz herhangi bir uygulama alanı var mı?
NOAM:
Dil konusunda başımı eğiyorum, sanki burada bir sorununuz var ve her şeyi yapabilirsiniz. Umarım bu şey yeterince iyidir. Ben de sordum, kanseri nasıl tedavi edersin? O zaman bir çözüm icat etmek gibi. Bu yüzden, diğer tüm modlarda insanların ne yaptığını tamamen görmezden geliyordum ve bence derin öğrenmedeki ilk başarıların çoğu görüntülerde oldu ve insanlar görüntüler konusunda heyecanlanıyor ama tamamen görmezden geliyorlar. Çünkü bir resim bin kelimeye bedeldir ama bir milyon pikseli vardır, dolayısıyla metin bin kat daha yoğundur. Yani, ben büyük bir edebi hayranıyım. Ancak, diğer tüm şekillerde ilerlediğini görmek oldukça heyecan verici. Bu şeyler harika. İnsanların kullanmak isteyeceği ürünler oluşturmak için çok faydalı, ancak bence temel zekanın çoğu bu metin modellerinden gelecek.
Büyük modellerin sınırlamaları: bilgi işlem gücü sorun değil, veriler de sorun değil
CANLI:
Sizce bu modellerin limitleri neler? İnsanlar genellikle sadece ölçeklendirme hakkında konuşurlar, sanki daha fazla bilgi işlem gücü kullanırsanız bu şey daha da ölçeklenir. Orada olabilecek veya olmayabilecek veriler ve farklı veri türleri vardır. Ve algoritmik ince ayarlar ve bellek veya geri döngüler veya bunun gibi bir şey gibi yeni şeyler eklemek. Sizce insanların hala inşa etmesi gereken büyük şeyler nelerdir ve sizce bu bir mimari olarak nerede kullanılıyor?
NOAM:
Evet, elenir mi bilmiyorum. Yani, henüz çıktığını görmedik. Muhtemelen içine giren iş miktarına kıyasla hiçbir şey. Bu nedenle, insanların daha iyi eğitim algoritmaları, daha iyi model mimarileri, çip oluşturmanın ve nicelemeyi kullanmanın daha iyi yollarıyla ve tüm bunlarla elde ettiği her türden iki tür verimsizlik olması muhtemeldir. Ve sonra ölçeklendirme ve para gibi 10'lu, 100'lü ve 1000'li faktörler olacak ve insanlar bu şeye atacaklar çünkü hey, herkes bu şeyin inanılmaz derecede değerli olduğunu anladı. Aynı zamanda, bu şeyin bir duvar için ne kadar iyi olduğunu kimsenin gördüğünü sanmıyorum. Bu yüzden bence sadece, daha iyi olmaya devam edecek. Bilmiyorum ve onu neyin durdurduğunu bilmiyorum.
SARAH:
Bu fikir hakkında ne düşünüyorsunuz, hesaplama gücünü artırabiliriz, ancak en büyük model eğitim verileri yeterli değildir. İnternette kolayca bulunabilen tüm metin verilerini kullandık. Kaliteyi geliştirmek için gitmeliyiz, insan geribildirimine gitmeliyiz. ne düşünüyorsun.
NOAM:
10 milyar insanla her kişi 1.000 veya 10.000 kelime üretiyor ki bu çok büyük bir veri miktarı. Hepimiz AI sistemleriyle çok fazla konuşma yapıyoruz. Bu yüzden, bazı AI sistemlerine çok fazla verinin gideceğine dair bir his var, yani gizliliği koruyan bir şekilde, umarım bu veriler gidebilir. Daha sonra veri gereksinimleri, bilgi işlem gücüyle katlanarak ölçeklenme eğilimindedir, çünkü daha büyük bir modeli eğitiyorsunuz ve ardından ona daha fazla veri atıyorsunuz. Veri eksikliğinden endişe duymuyorum, yapay zeka ile daha fazla veri üretebiliriz.
CANLI:
Peki sizce bu modellerin gelecekte çözeceği temel sorunlar neler? Bir halüsinasyon mu, bir anı mı yoksa başka bir şey mi?
NOAM:
Hiçbir fikrim yok. Halüsinasyonları severim.
SARAH:
Bu da bir özelliktir.
NOAM:
En çok yapmak istediğimiz şey hatırlamak çünkü kullanıcılarımız kesinlikle sanal arkadaşlarının kendilerini hatırlamasını istiyor. Kişiselleştirme ile çok şey yapabilirsiniz, çok fazla veriyi atmak ve verimli bir şekilde kullanmak istersiniz. Neyin gerçek neyin halüsinasyon olduğunu anlamaya çalışmak için çok fazla çalışma var. Elbette, bunu düzelteceğimizi düşünüyorum.
Character.ai'nin girişimcilik hikayesi
CANLI:
Bana biraz LaMDA'dan ve içindeki rolünüzden bahseder misiniz, Karakteri nasıl buldunuz?
NOAM:
Kurucu ortağım Daniel Freitas tanıdığım en çalışkan, en çalışkan, en zeki adam. Tüm hayatı boyunca bu sohbet botları oluşturma görevi üzerinde çalışıyor. Çocukluğundan beri sohbet botları yapmaya çalışıyor. Böylece Google Brain'e katıldı. Bazı makaleler okudu ve bu nöral dil modelleme tekniğinin gerçekten genelleştirebilecek ve gerçekten açık bir alan oluşturabilecek bir şey olduğunu düşündü.
Pek çok kişinin desteğini alamamasına rağmen bu projeyi sadece bir kenar çizgisi olarak aldı ve zamanının %20'sini buna harcadı.
Ardından, sistemi kurmasına yardımcı olan yüzde 20'lik bir asistan ordusu kurdu.
Hatta başkalarının TPU kotasını kapıyor, hoşuna gittiği için projesine Mina diyor, bir rüyada bulmuş sanırım. Bir ara puan tablosuna baktım ve bu Mina denen şey nedir, neden 30 TPU puanı var diye düşündüm.
CANLI:
LaMDA böyle bir şey, Google'ın GPT'den önce yaptığı dahili bir chatbot olduğunu biliyorum. Haber, bir mühendisin hikmetli olduğunu düşündüğü için meşhur oldu.
NOAM:
Evet, onu bazı büyük dil modellerine koyduk ve sonra şirket içinde bir vızıltı oldu ve Mina'nın adı LaMDA olarak değiştirildi ve o zamana kadar biz ayrılmıştık ve onda hayat olduğuna inanan insanlar vardı.
SARAH:
Neden daha sonra yayınlanmadı ve endişeleri nelerdir?
NOAM:
Büyük bir şirket için her şeyi bilen bir ürünü piyasaya sürmek biraz tehlikelidir. Sanırım bu sadece bir risk meselesi. Bu yüzden, uzun uzun düşündükten sonra, bir iş kurmak doğru fikir gibi göründü.
SARAH:
Karakterin köken hikayesi nasıl?
NOAM:
Sadece bir şeyler inşa etmek ve onu olabildiğince çabuk piyasaya sürmek istiyoruz. Mühendislerden ve araştırmacılardan oluşan punk bir ekip kurdum, biraz bilgi işlem gücüm oldu ve bir iş kurdum.
CANLI:
Nasıl işe alınır?
NOAM:
Google'da tanıştığımız adamlardan bazıları, eskiden Meta'dan olan Myat ile tanıştı ve o çok şey sundu ve onların büyük dil modeli şeylerinin ve sinir dili modeli altyapılarının çoğunu oluşturdu ve diğer bazı insanlar. Meta onu takip etti, Çok güzeller.
CANLI:
Yetenek ararken özel gereksinimleriniz veya test yöntemleriniz var mı? Yoksa sıradan bir görüşme mi?
NOAM
Bunun büyük ölçüde motivasyona bağlı olduğunu düşünüyorum. Daniel'in motivasyona çok odaklandığını düşünüyorum, güçlü bir arzu ile çocukluk hayali arasında bir durum arıyor, bu yüzden o seviyeye ulaşamadıkları için işe almadığımız birçok iyi insan var ama biz de işe alıyoruz. pek çok insan, Yeni kurulan bir şirkete katılmak için mükemmeller, çok yetenekliler ve azimliler.
Piyasada zaten Siri ve Alexa var, işlevsellik açısından büyük şirketlerle kafa kafaya rekabet etmeyin
SARAH:
Çocukluk hayallerinden bahsetmişken, bu ürünü anlatmak ister misiniz? Bu botlara sahipsiniz, kullanıcı tarafından yaratılabilirler, karakter tarafından yaratılabilirler, tanınmış kişiler, tarihi figürler, kurgusal karakterler olabilirler, bu modeli nasıl buldunuz?
NOAM:
Kullanıcılar genellikle bu şeyle ne yapmak istediklerini sizden daha iyi bilirler. ** Siri, Alexa ve Google Asistan zaten piyasada, bu büyük şirketlerle işlevsellik konusunda rekabet etmeye gerek yok. **
Herkesin sevdiği halka açık bir kişiyi sunmaya çalışırsanız, sonunda can sıkıntısından başka bir şeyle karşılaşmazsınız. Ve insanlar sıkılmaktan hoşlanmazlar, insan gibi hissettiren şeylerle etkileşim kurmak isterler.
Yani temel olarak birden fazla karakter yapmanız ve insanların istedikleri gibi karakterler icat etmelerine izin vermeniz gerekiyor ve Karakter adında sevdiğim bir şey var, birkaç farklı anlamı var: metin, karakter, karakter.
SARAH:
Peki insanlar ne istiyor? bir arkadaş? roman yazmak? Tamamen yeni başka bir şey var mı?
NOAM:
Bazı kullanıcılar, ürünlerimiz hakkında sanal halk figürleri ve nüfuz sahibi kişilerle sohbet edecek. Kullanıcılar bir karakter oluşturabilir ve onunla konuşabilir. Bazı kullanıcılar kendilerini yalnız hissedebilir ve konuşacak birine ihtiyaç duyabilirken, birçoğunun konuşacak kimsesi yoktur. Bazıları bu rolün artık benim yeni danışmanım olduğunu söyleyebilir.
SARAH:
Duygu hakkında düşünmenin iki yolu, değil mi? İnsanların karakterlerle kurduğu ilişkinin ne kadar önemli olduğu veya tutarlı duyguları ifade etme konusunda hangi seviyede olduğumuz gibi.
NOAM:
Evet, **Duygusal destek için muhtemelen o üst düzey entelektüel seviyeye ihtiyacınız olmadığını kastediyorum. Duygular harika ve çok önemlidir, ancak bir köpek duygusal destek konusunda da harika bir iş çıkarabilir. Köpekler büyük bir duygusal destek sağlar ancak çok az sözel yeteneğe sahiptir, **
CANLI:
Büyüttüğünüzde sisteme ne olacağını düşünüyorsunuz?
NOAM:
Bence onu çeşitli şekillerde daha akıllı hale getirebilmeliyiz. Daha fazla bilgi işlem gücü elde etmek, daha büyük bir modeli eğitmek ve daha uzun süre eğitim almak, daha akıllı, daha bilgili, insanların ne istediği ve ne aradığı konusunda daha iyi hale gelmelidir.
SARAH:
Karakteri günde birçok saat kullanan bazı kullanıcılarınız var. Hedef kitleniz kim? Beklenen kullanım şekliniz nedir?
NOAM:
Karar vermek için bunu kullanıcıya bırakacağız. Amacımız her zaman bir şeyler ortaya çıkarmak ve kullanıcıların bunun ne için iyi olduğunu düşündüklerine karar vermelerine izin vermek olmuştur.
Bugün Character web sitesinde bulunan kişilerin ortalama aktif kalma sürelerinin iki saat olduğunu görüyoruz. Bu, bugün çılgın ama önemli olan mesajı gönderen kişidir ve insanların bir tür değer bulduğunu söylüyor.
Ve dediğim gibi, bu değerin tam olarak ne olduğunu söylemek gerçekten zor çünkü bu gerçekten büyük bir karma şey gibi. Ancak amacımız, bu şeyi insanların özelleştirmesi ve onunla ne yapmak istediklerine karar vermesi için daha kullanışlı hale getirmek. Kullanıcıların eline verelim ve ne olacağını görelim.
Ölçek TOC için para yakmak birinci önceliktir
SARAH:
Ticarileştirme hakkında ne düşünüyorsunuz?
NOAM:
**Kullanıcı başına para kaybediyoruz ve bunu hacimle telafi ediyoruz. **
SARAH:
iyi. Bu iyi bir strateji.
NOAM:
Hayır şaka yapıyorum.
CANLI:
1990'ların geleneksel iş modeli gibi, yani sorun değil.
SARAH:
Bu aynı zamanda 2022 için bir iş modelidir.
CANLI:
Bir jeton çıkarmalı ve onu bir kripto para birimine dönüştürmelisiniz.
NOAM:
** Yakında bir noktada para kazanmaya başlayacağız. Bu, çok fazla bilgi işlem gücünden yararlanan bir iştir. Yatırımcıların parasını yakmak yerine, yeterli sayıda kullanıcıya değer sağlamayı ve yol boyunca para kazanmayı umuyoruz. Premium abonelik türleri gibi bazı hizmetler daha sonra denenebilir. Bazı yeni özellikler geliştirdikçe, sonraki ücretlerin fiyatı artabilir. **
CANLI:
Demek istediğim, Bir İçindekiler Servisi olarak Karakter gerçekten dramatik bir şekilde yükseldi. Kullanıcı sayısına ve kullanıcı başına kullanım süresine bakarsanız, bu çılgınca. Gelecekte TOB işine başlayacak mısınız? Müşteri hizmetleri robotu gibi mi?
NOAM:
Şu anda 22 çalışanımız var, bu yüzden öncelik vermemiz gerekiyor ve işe alıyoruz. İlk öncelik TOC'dir.
SARAH:
LaMDA'nın hemen başlatılmamasının temel nedenlerinden birinin güvenlik olduğunu söylediniz. Siz ne düşünüyorsunuz?
NOAM:
Başka sebepler var. Örneğin Google, insanların kendilerini ya da başkalarını incitmelerini istemiyor ve pornografiyi engellemesi gerekiyor. Bu konuda bazı protestolar oldu.
CANLI:
Tüm bunların AGI'ye veya süper zekaya giden yol olduğunu düşünüyor musunuz? Bazı şirketler için bu, hedefin bir parçası gibi görünürken, diğerleri için açık bir hedef gibi görünmüyor.
NOAM:
Evet, AGI birçok AI girişiminin hedefidir. **Asıl sebep, teknolojiyi ileriye taşımak istemem. Dünyada çözülebilecek o kadar çok teknik sorun var ki, örneğin tıbbi tedavisi zor hastalıklar gibi. Teknik çözümler üretebiliriz. **
Bu yüzden yapay zekayı araştırıyorum** çünkü doğrudan tıp okumak yerine yapay zekayı incelemek daha iyi ve o zaman yapay zeka diğer araştırma çabalarını hızlandırmak için kullanılabilir. Temelde bu yüzden AI üzerinde çok çalışıyorum, hem AGI hem de önce ürün olan bir şirket kurmak istiyorum. **
Ürününüz tamamen yapay zekanın kalitesine bağlıdır. Ürünümüzün kalitesinin en büyük belirleyicisi o şeyin ne kadar akıllı olacağıdır. Artık AI'yı daha iyi hale getirmek, ürünleri daha iyi hale getirmek için tamamen motive olduk.
CANLI:
Evet, bu gerçekten güzel bir satın alma-geri bildirim döngüsü çünkü sizin açınızdan bir ürünü daha iyi hale getirdiğinizde, daha fazla insan onunla etkileşime giriyor ve bu da ürünün daha iyi olmasına yardımcı oluyor. Bu yüzden çok zekice bir yaklaşım. İnsanlar kadar veya daha akıllı olan yapay zekadan ne kadar uzaktayız sizce? Açıkçası, zaten bazı yönlerden insanlardan daha akıllılar, ama ben tam da bunun gibi bir şey düşünüyordum.
NOAM:
Yapay zekanın insanlardan daha iyi performans gösterebilmesine her zaman hayret ediyoruz. Bazı AI artık ödevinizi sizin için yapabilir. Keşke benim de çocukken böyle bir şeyim olsaydı.
CANLI:
Sizinkine benzer bir geçmişe sahip olanlara ne tavsiye edersiniz? Örneğin, bir kurucu olarak Google'da veya başka bir yerde çalışırken öğrenmeniz gerekmeyen ne öğrendiniz?
NOAM:
iyi soru. Temel olarak, korkunç hatalarınızdan ders alırsınız. Yine de çok, çok kötü hatalar yaptığımızı veya en azından telafi ettiğimizi düşünmüyorum.
SARAH:
Ne tür bir yetenek arıyorsunuz?
NOAM:
şu ana kadar? 22 kişiden 21'i mühendis. Ayrıca daha fazla mühendis işe alacağız. İster derin öğrenme, ister ön uç ve arka uç olsun, iş ve ürün tarafında daha fazla insanı işe aldığınızdan emin olun.
CANLI:
Son iki veya üç hızlı soru, en sevdiğiniz matematikçi veya bilgisayar bilimcisi kim?
NOAM:
Google'da Jeff Dean (Google Brain başkanı) ile çok çalışıyorum. O gerçekten hoş ve birlikte çalışmak eğlenceli. Sanırım şu anda büyük dil modelleri üzerinde çalışıyor. Google'dan ayrılmak biraz üzücü ve gelecekte onunla çalışmayı umuyorum.
CANLI:
Sizce matematik icat mı edildi yoksa keşfedildi mi?
NOAM:
Bence belki keşfedildi, belki her şey keşfedildi ve biz sadece keşfediyoruz.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
1 milyar değerinde 22 kişi! Character.ai CEO'su ile Diyalog: Doğrudan tıp okumak yerine yapay zeka çalışmak daha iyidir
Bu yılın başında, Charater.ai, 150 milyon ABD Doları'lık yuvarlak finansmanı, 1 milyar ABD Dolarını aşan bir değerlemeyle tamamladı ve sadece 22 kişilik bir ekiple unicorn'a terfi etti.
Nisan ayında, Google Brain ekibinin eski bir üyesi olan Character.ai CEO'su Noam Shazeer, No Priors podcast'inde röportaj yaptı.
Podcast sesinin kelimesi kelimesine dökümü aşağıdadır. ELAD ve SARAH podcast'in sunucularıdır. Anlaşılması adına bazı bölümler silinmiştir.
Google'da ilk iş deneyimi ve Transformer'ın doğuşu
CANLI:
Uzun süre NLP ve yapay zeka alanında çalıştınız. Mülakat sorularının yazım denetimi çözümleri etrafında döndüğü Google'da 17 yıl aralıksız çalıştınız. Google'a katıldığımda, o zamanlar reklam hedeflemeye yönelik ana sistemlerden biri, George Herrick'le birlikte yazdığınızı düşündüğüm Phil Cluster'dı. Yapay zeka için NLP dil modelleri konusundaki çalışmalarınızın tarihçesini, tüm bunların nasıl geliştiğini, nasıl başladığınızı, ilginizi çeken şeyin ne olduğunu öğrenmek isterim.
NOAM:
Teşekkürler Elad. Evet, sadece, her zaman yapay zeka için doğal bir çekim. Umarım bilgisayarın akıllıca bir şeyler yapmasını sağlar. En eğlenceli oyun gibi görünüyor. Google'ı erken keşfedecek kadar şanslıydım ve oradaki birçok erken projede yer aldım, belki şimdi buna yapay zeka demezsin. 2012'den beri Google Brain ekibine katıldım. Bir grup gerçekten zeki insanla eğlenceli şeyler yapın. Daha önce hiç derin öğrenme veya sinir ağları yapmadım.
CANLI:
2017'de Transformation Paper'da katılımcılardan biriydiniz ve ardından Mesh-TensorFlow ile ilgili çalışmalara katıldınız. Tüm bunların nasıl çalıştığından biraz bahseder misiniz?
NOAM:
Derin öğrenme başarılı çünkü modern donanıma gerçekten çok uygun ve matris çarpımında ve diğer türlerde iletişim yerine çok fazla hesaplama gerektiren bu nesil çiplere sahipsiniz. Yani temelde derin öğrenme gerçekten yükseldi, her şeyden binlerce kat daha hızlı çalışıyor. Bir kez alıştıktan sonra, gerçekten akıllı ve hızlı şeyler tasarlamaya başladım. Şu anda en heyecan verici sorun dil modellemedir. Sonsuz miktarda veri olduğundan, sadece ağı kazıyın ve istediğiniz tüm eğitim verilerini elde edebilirsiniz.
Problemin tanımı çok basit, bir sonraki kelimeyi, şişman kedinin üzerine oturduğunu, bir sonraki kelimeyi tahmin etmektir. Tanımlaması çok kolay ve eğer bunu iyi becerebilirseniz, o zaman şimdi gördüğünüz her şeyi elde edebilirsiniz ve doğrudan bu şeyle konuşabilirsiniz, bu gerçekten yapay zekadır. Böylece, 2015 civarında, dil modelleme üzerinde çalışmaya ve o zamanlar için harika olan tekrarlayan sinir ağlarıyla çalışmaya başladım. Sonra transformatör ortaya çıktı.
Yan taraftaki meslektaşlarımın RNN'leri daha iyi bir şeyle değiştirmek istemekle ilgili sohbetlerine kulak misafiri oldum. Kulağa hoş geliyor, yardım etmek istiyorum, RNN'ler can sıkıcı, bu daha ilginç olacak gibiydim.
CANLI:
Tekrarlayan bir sinir ağı ile dönüştürücü veya dikkat tabanlı bir model arasındaki farkı hızlı bir şekilde tanımlayabilir misiniz?
NOAM:
Tekrarlayan sinir ağları sürekli hesaplamalardır, bir sonraki kelimeye kadar okuduğunuz her kelime, beyninizin eski durumuna ve bir sonraki kelimenin içeriğine göre mevcut beyin durumunuzu hesaplarsınız. Sonra sen, bir sonraki kelimeyi tahmin ediyorsun. Yani, sırayla yapılması gereken bu çok uzun hesaplama dizisine sahipsiniz ve bu nedenle, Transformer'ın büyüsü, tüm diziyi bir kerede işleyebilmenizdir.
Bir sonraki kelimenin tahmini, önceki kelimenin ne olduğuna bağlıdır, ancak bu sürekli bir adımda gerçekleşir ve bu paralellikten yararlanabilirsiniz, her şeye bir kerede bakabilirsiniz, modern donanımın iyi olduğu paralellik gibi .
Artık dizinin uzunluğundan, paralelliğinizden yararlanabilirsiniz ve her şey gerçekten iyi çalışıyor. dikkatin kendisi. Sanki bu büyük bellek içi anahtar-değer ilişkisini yaratıyorsanız, dizideki her kelime için bir giriş içeren bu büyük tabloyu oluşturuyorsunuz. Sonra bu tabloda bir şeyler ararsınız. Her şey bulanık, farklılaşan ve tersini yapabileceğiniz büyük bir Fransız işlevi gibi. İnsanlar bunu iki dizili problemler için kullanıyorlar, burada makine çevirisi var ve İngilizce'yi Fransızca'ya çevirmek istiyorsunuz, yani Fransızca diziyi oluşturduğunuzda, İngilizce diziye bakıyor ve dikkat etmeye çalışıyorsunuz. sıradaki doğru konum. Ancak buradaki içgörü, aynı dikkati, yapmaya çalıştığınız bu sekansın geçmişine bakmak için de kullanabileceğinizdir. Merhemdeki sinek, mevcut donanım üzerinde iyi çalıştığı için derin öğrenmenin gelişimine paralel olarak GPU'lar ve GPU'lar üzerinde iyi çalışmasıdır. Bu da aynı şeyi dizilere getiriyor.
SARAH:
Evet, bence insanların bunu görselleştirmesine yardımcı olmanın klasik örneği, aynı cümleyi Fransızca ve İngilizce olarak söylemek, kelimelerin sıralaması farklı, bu sıralamada bire bir eşleştirme yapmıyorsunuz ve bunu nasıl yapacağınızı buluyorsunuz. bunu bilgi olmadan yapın Kayıp durumunda paralel hesaplama ile yapın. Yani yapılacak çok zarif bir şey gibi.
CANLI:
Ayrıca, tekniğin çeşitli farklı alanlarda kullanıldığı da görülmektedir. Açıkçası bunlar çok modlu dil modelleridir. Yani yaptığınız sohbet GPT veya karakter gibi. Google'ın yaptığı protein katlama işi Alpha Folding gibi bazı uygulamalara da hayran kaldım, aslında çok büyük bir performansla çalışıyor. Transformatörlerin nasıl çalıştığına ve yapabileceklerine göre gerçekten beklenmedik bulduğunuz herhangi bir uygulama alanı var mı?
NOAM:
Dil konusunda başımı eğiyorum, sanki burada bir sorununuz var ve her şeyi yapabilirsiniz. Umarım bu şey yeterince iyidir. Ben de sordum, kanseri nasıl tedavi edersin? O zaman bir çözüm icat etmek gibi. Bu yüzden, diğer tüm modlarda insanların ne yaptığını tamamen görmezden geliyordum ve bence derin öğrenmedeki ilk başarıların çoğu görüntülerde oldu ve insanlar görüntüler konusunda heyecanlanıyor ama tamamen görmezden geliyorlar. Çünkü bir resim bin kelimeye bedeldir ama bir milyon pikseli vardır, dolayısıyla metin bin kat daha yoğundur. Yani, ben büyük bir edebi hayranıyım. Ancak, diğer tüm şekillerde ilerlediğini görmek oldukça heyecan verici. Bu şeyler harika. İnsanların kullanmak isteyeceği ürünler oluşturmak için çok faydalı, ancak bence temel zekanın çoğu bu metin modellerinden gelecek.
Büyük modellerin sınırlamaları: bilgi işlem gücü sorun değil, veriler de sorun değil
CANLI:
Sizce bu modellerin limitleri neler? İnsanlar genellikle sadece ölçeklendirme hakkında konuşurlar, sanki daha fazla bilgi işlem gücü kullanırsanız bu şey daha da ölçeklenir. Orada olabilecek veya olmayabilecek veriler ve farklı veri türleri vardır. Ve algoritmik ince ayarlar ve bellek veya geri döngüler veya bunun gibi bir şey gibi yeni şeyler eklemek. Sizce insanların hala inşa etmesi gereken büyük şeyler nelerdir ve sizce bu bir mimari olarak nerede kullanılıyor?
NOAM:
Evet, elenir mi bilmiyorum. Yani, henüz çıktığını görmedik. Muhtemelen içine giren iş miktarına kıyasla hiçbir şey. Bu nedenle, insanların daha iyi eğitim algoritmaları, daha iyi model mimarileri, çip oluşturmanın ve nicelemeyi kullanmanın daha iyi yollarıyla ve tüm bunlarla elde ettiği her türden iki tür verimsizlik olması muhtemeldir. Ve sonra ölçeklendirme ve para gibi 10'lu, 100'lü ve 1000'li faktörler olacak ve insanlar bu şeye atacaklar çünkü hey, herkes bu şeyin inanılmaz derecede değerli olduğunu anladı. Aynı zamanda, bu şeyin bir duvar için ne kadar iyi olduğunu kimsenin gördüğünü sanmıyorum. Bu yüzden bence sadece, daha iyi olmaya devam edecek. Bilmiyorum ve onu neyin durdurduğunu bilmiyorum.
SARAH:
Bu fikir hakkında ne düşünüyorsunuz, hesaplama gücünü artırabiliriz, ancak en büyük model eğitim verileri yeterli değildir. İnternette kolayca bulunabilen tüm metin verilerini kullandık. Kaliteyi geliştirmek için gitmeliyiz, insan geribildirimine gitmeliyiz. ne düşünüyorsun.
NOAM:
10 milyar insanla her kişi 1.000 veya 10.000 kelime üretiyor ki bu çok büyük bir veri miktarı. Hepimiz AI sistemleriyle çok fazla konuşma yapıyoruz. Bu yüzden, bazı AI sistemlerine çok fazla verinin gideceğine dair bir his var, yani gizliliği koruyan bir şekilde, umarım bu veriler gidebilir. Daha sonra veri gereksinimleri, bilgi işlem gücüyle katlanarak ölçeklenme eğilimindedir, çünkü daha büyük bir modeli eğitiyorsunuz ve ardından ona daha fazla veri atıyorsunuz. Veri eksikliğinden endişe duymuyorum, yapay zeka ile daha fazla veri üretebiliriz.
CANLI:
Peki sizce bu modellerin gelecekte çözeceği temel sorunlar neler? Bir halüsinasyon mu, bir anı mı yoksa başka bir şey mi?
NOAM:
Hiçbir fikrim yok. Halüsinasyonları severim.
SARAH:
Bu da bir özelliktir.
NOAM:
En çok yapmak istediğimiz şey hatırlamak çünkü kullanıcılarımız kesinlikle sanal arkadaşlarının kendilerini hatırlamasını istiyor. Kişiselleştirme ile çok şey yapabilirsiniz, çok fazla veriyi atmak ve verimli bir şekilde kullanmak istersiniz. Neyin gerçek neyin halüsinasyon olduğunu anlamaya çalışmak için çok fazla çalışma var. Elbette, bunu düzelteceğimizi düşünüyorum.
Character.ai'nin girişimcilik hikayesi
CANLI:
Bana biraz LaMDA'dan ve içindeki rolünüzden bahseder misiniz, Karakteri nasıl buldunuz?
NOAM:
Kurucu ortağım Daniel Freitas tanıdığım en çalışkan, en çalışkan, en zeki adam. Tüm hayatı boyunca bu sohbet botları oluşturma görevi üzerinde çalışıyor. Çocukluğundan beri sohbet botları yapmaya çalışıyor. Böylece Google Brain'e katıldı. Bazı makaleler okudu ve bu nöral dil modelleme tekniğinin gerçekten genelleştirebilecek ve gerçekten açık bir alan oluşturabilecek bir şey olduğunu düşündü.
Pek çok kişinin desteğini alamamasına rağmen bu projeyi sadece bir kenar çizgisi olarak aldı ve zamanının %20'sini buna harcadı.
Ardından, sistemi kurmasına yardımcı olan yüzde 20'lik bir asistan ordusu kurdu.
Hatta başkalarının TPU kotasını kapıyor, hoşuna gittiği için projesine Mina diyor, bir rüyada bulmuş sanırım. Bir ara puan tablosuna baktım ve bu Mina denen şey nedir, neden 30 TPU puanı var diye düşündüm.
CANLI:
LaMDA böyle bir şey, Google'ın GPT'den önce yaptığı dahili bir chatbot olduğunu biliyorum. Haber, bir mühendisin hikmetli olduğunu düşündüğü için meşhur oldu.
NOAM:
Evet, onu bazı büyük dil modellerine koyduk ve sonra şirket içinde bir vızıltı oldu ve Mina'nın adı LaMDA olarak değiştirildi ve o zamana kadar biz ayrılmıştık ve onda hayat olduğuna inanan insanlar vardı.
SARAH:
Neden daha sonra yayınlanmadı ve endişeleri nelerdir?
NOAM:
Büyük bir şirket için her şeyi bilen bir ürünü piyasaya sürmek biraz tehlikelidir. Sanırım bu sadece bir risk meselesi. Bu yüzden, uzun uzun düşündükten sonra, bir iş kurmak doğru fikir gibi göründü.
SARAH:
Karakterin köken hikayesi nasıl?
NOAM:
Sadece bir şeyler inşa etmek ve onu olabildiğince çabuk piyasaya sürmek istiyoruz. Mühendislerden ve araştırmacılardan oluşan punk bir ekip kurdum, biraz bilgi işlem gücüm oldu ve bir iş kurdum.
CANLI:
Nasıl işe alınır?
NOAM:
Google'da tanıştığımız adamlardan bazıları, eskiden Meta'dan olan Myat ile tanıştı ve o çok şey sundu ve onların büyük dil modeli şeylerinin ve sinir dili modeli altyapılarının çoğunu oluşturdu ve diğer bazı insanlar. Meta onu takip etti, Çok güzeller.
CANLI:
Yetenek ararken özel gereksinimleriniz veya test yöntemleriniz var mı? Yoksa sıradan bir görüşme mi?
NOAM
Bunun büyük ölçüde motivasyona bağlı olduğunu düşünüyorum. Daniel'in motivasyona çok odaklandığını düşünüyorum, güçlü bir arzu ile çocukluk hayali arasında bir durum arıyor, bu yüzden o seviyeye ulaşamadıkları için işe almadığımız birçok iyi insan var ama biz de işe alıyoruz. pek çok insan, Yeni kurulan bir şirkete katılmak için mükemmeller, çok yetenekliler ve azimliler.
Piyasada zaten Siri ve Alexa var, işlevsellik açısından büyük şirketlerle kafa kafaya rekabet etmeyin
SARAH:
Çocukluk hayallerinden bahsetmişken, bu ürünü anlatmak ister misiniz? Bu botlara sahipsiniz, kullanıcı tarafından yaratılabilirler, karakter tarafından yaratılabilirler, tanınmış kişiler, tarihi figürler, kurgusal karakterler olabilirler, bu modeli nasıl buldunuz?
NOAM:
Kullanıcılar genellikle bu şeyle ne yapmak istediklerini sizden daha iyi bilirler. ** Siri, Alexa ve Google Asistan zaten piyasada, bu büyük şirketlerle işlevsellik konusunda rekabet etmeye gerek yok. **
Herkesin sevdiği halka açık bir kişiyi sunmaya çalışırsanız, sonunda can sıkıntısından başka bir şeyle karşılaşmazsınız. Ve insanlar sıkılmaktan hoşlanmazlar, insan gibi hissettiren şeylerle etkileşim kurmak isterler.
Yani temel olarak birden fazla karakter yapmanız ve insanların istedikleri gibi karakterler icat etmelerine izin vermeniz gerekiyor ve Karakter adında sevdiğim bir şey var, birkaç farklı anlamı var: metin, karakter, karakter.
SARAH:
Peki insanlar ne istiyor? bir arkadaş? roman yazmak? Tamamen yeni başka bir şey var mı?
NOAM:
Bazı kullanıcılar, ürünlerimiz hakkında sanal halk figürleri ve nüfuz sahibi kişilerle sohbet edecek. Kullanıcılar bir karakter oluşturabilir ve onunla konuşabilir. Bazı kullanıcılar kendilerini yalnız hissedebilir ve konuşacak birine ihtiyaç duyabilirken, birçoğunun konuşacak kimsesi yoktur. Bazıları bu rolün artık benim yeni danışmanım olduğunu söyleyebilir.
SARAH:
Duygu hakkında düşünmenin iki yolu, değil mi? İnsanların karakterlerle kurduğu ilişkinin ne kadar önemli olduğu veya tutarlı duyguları ifade etme konusunda hangi seviyede olduğumuz gibi.
NOAM:
Evet, **Duygusal destek için muhtemelen o üst düzey entelektüel seviyeye ihtiyacınız olmadığını kastediyorum. Duygular harika ve çok önemlidir, ancak bir köpek duygusal destek konusunda da harika bir iş çıkarabilir. Köpekler büyük bir duygusal destek sağlar ancak çok az sözel yeteneğe sahiptir, **
CANLI:
Büyüttüğünüzde sisteme ne olacağını düşünüyorsunuz?
NOAM:
Bence onu çeşitli şekillerde daha akıllı hale getirebilmeliyiz. Daha fazla bilgi işlem gücü elde etmek, daha büyük bir modeli eğitmek ve daha uzun süre eğitim almak, daha akıllı, daha bilgili, insanların ne istediği ve ne aradığı konusunda daha iyi hale gelmelidir.
SARAH:
Karakteri günde birçok saat kullanan bazı kullanıcılarınız var. Hedef kitleniz kim? Beklenen kullanım şekliniz nedir?
NOAM:
Karar vermek için bunu kullanıcıya bırakacağız. Amacımız her zaman bir şeyler ortaya çıkarmak ve kullanıcıların bunun ne için iyi olduğunu düşündüklerine karar vermelerine izin vermek olmuştur.
Bugün Character web sitesinde bulunan kişilerin ortalama aktif kalma sürelerinin iki saat olduğunu görüyoruz. Bu, bugün çılgın ama önemli olan mesajı gönderen kişidir ve insanların bir tür değer bulduğunu söylüyor.
Ve dediğim gibi, bu değerin tam olarak ne olduğunu söylemek gerçekten zor çünkü bu gerçekten büyük bir karma şey gibi. Ancak amacımız, bu şeyi insanların özelleştirmesi ve onunla ne yapmak istediklerine karar vermesi için daha kullanışlı hale getirmek. Kullanıcıların eline verelim ve ne olacağını görelim.
Ölçek TOC için para yakmak birinci önceliktir
SARAH:
Ticarileştirme hakkında ne düşünüyorsunuz?
NOAM:
**Kullanıcı başına para kaybediyoruz ve bunu hacimle telafi ediyoruz. **
SARAH:
iyi. Bu iyi bir strateji.
NOAM:
Hayır şaka yapıyorum.
CANLI:
1990'ların geleneksel iş modeli gibi, yani sorun değil.
SARAH:
Bu aynı zamanda 2022 için bir iş modelidir.
CANLI:
Bir jeton çıkarmalı ve onu bir kripto para birimine dönüştürmelisiniz.
NOAM:
** Yakında bir noktada para kazanmaya başlayacağız. Bu, çok fazla bilgi işlem gücünden yararlanan bir iştir. Yatırımcıların parasını yakmak yerine, yeterli sayıda kullanıcıya değer sağlamayı ve yol boyunca para kazanmayı umuyoruz. Premium abonelik türleri gibi bazı hizmetler daha sonra denenebilir. Bazı yeni özellikler geliştirdikçe, sonraki ücretlerin fiyatı artabilir. **
CANLI:
Demek istediğim, Bir İçindekiler Servisi olarak Karakter gerçekten dramatik bir şekilde yükseldi. Kullanıcı sayısına ve kullanıcı başına kullanım süresine bakarsanız, bu çılgınca. Gelecekte TOB işine başlayacak mısınız? Müşteri hizmetleri robotu gibi mi?
NOAM:
Şu anda 22 çalışanımız var, bu yüzden öncelik vermemiz gerekiyor ve işe alıyoruz. İlk öncelik TOC'dir.
SARAH:
LaMDA'nın hemen başlatılmamasının temel nedenlerinden birinin güvenlik olduğunu söylediniz. Siz ne düşünüyorsunuz?
NOAM:
Başka sebepler var. Örneğin Google, insanların kendilerini ya da başkalarını incitmelerini istemiyor ve pornografiyi engellemesi gerekiyor. Bu konuda bazı protestolar oldu.
CANLI:
Tüm bunların AGI'ye veya süper zekaya giden yol olduğunu düşünüyor musunuz? Bazı şirketler için bu, hedefin bir parçası gibi görünürken, diğerleri için açık bir hedef gibi görünmüyor.
NOAM:
Evet, AGI birçok AI girişiminin hedefidir. **Asıl sebep, teknolojiyi ileriye taşımak istemem. Dünyada çözülebilecek o kadar çok teknik sorun var ki, örneğin tıbbi tedavisi zor hastalıklar gibi. Teknik çözümler üretebiliriz. **
Bu yüzden yapay zekayı araştırıyorum** çünkü doğrudan tıp okumak yerine yapay zekayı incelemek daha iyi ve o zaman yapay zeka diğer araştırma çabalarını hızlandırmak için kullanılabilir. Temelde bu yüzden AI üzerinde çok çalışıyorum, hem AGI hem de önce ürün olan bir şirket kurmak istiyorum. **
Ürününüz tamamen yapay zekanın kalitesine bağlıdır. Ürünümüzün kalitesinin en büyük belirleyicisi o şeyin ne kadar akıllı olacağıdır. Artık AI'yı daha iyi hale getirmek, ürünleri daha iyi hale getirmek için tamamen motive olduk.
CANLI:
Evet, bu gerçekten güzel bir satın alma-geri bildirim döngüsü çünkü sizin açınızdan bir ürünü daha iyi hale getirdiğinizde, daha fazla insan onunla etkileşime giriyor ve bu da ürünün daha iyi olmasına yardımcı oluyor. Bu yüzden çok zekice bir yaklaşım. İnsanlar kadar veya daha akıllı olan yapay zekadan ne kadar uzaktayız sizce? Açıkçası, zaten bazı yönlerden insanlardan daha akıllılar, ama ben tam da bunun gibi bir şey düşünüyordum.
NOAM:
Yapay zekanın insanlardan daha iyi performans gösterebilmesine her zaman hayret ediyoruz. Bazı AI artık ödevinizi sizin için yapabilir. Keşke benim de çocukken böyle bir şeyim olsaydı.
CANLI:
Sizinkine benzer bir geçmişe sahip olanlara ne tavsiye edersiniz? Örneğin, bir kurucu olarak Google'da veya başka bir yerde çalışırken öğrenmeniz gerekmeyen ne öğrendiniz?
NOAM:
iyi soru. Temel olarak, korkunç hatalarınızdan ders alırsınız. Yine de çok, çok kötü hatalar yaptığımızı veya en azından telafi ettiğimizi düşünmüyorum.
SARAH:
Ne tür bir yetenek arıyorsunuz?
NOAM:
şu ana kadar? 22 kişiden 21'i mühendis. Ayrıca daha fazla mühendis işe alacağız. İster derin öğrenme, ister ön uç ve arka uç olsun, iş ve ürün tarafında daha fazla insanı işe aldığınızdan emin olun.
CANLI:
Son iki veya üç hızlı soru, en sevdiğiniz matematikçi veya bilgisayar bilimcisi kim?
NOAM:
Google'da Jeff Dean (Google Brain başkanı) ile çok çalışıyorum. O gerçekten hoş ve birlikte çalışmak eğlenceli. Sanırım şu anda büyük dil modelleri üzerinde çalışıyor. Google'dan ayrılmak biraz üzücü ve gelecekte onunla çalışmayı umuyorum.
CANLI:
Sizce matematik icat mı edildi yoksa keşfedildi mi?
NOAM:
Bence belki keşfedildi, belki her şey keşfedildi ve biz sadece keşfediyoruz.