Yakın zamanda, OpenAI'nin kurucu ortağı Andrej Karpathy, bir geliştirici etkinliğinde kendisinin ve OpenAI'nin AI Ajanları (yapay zeka ajanları) hakkındaki dahili görüşleri hakkında kısa bir konuşma yaptı.
Andrej Karpathy, geçmişte AI Agent'ları geliştirmenin zorluklarını yeni teknolojik araçlar altında geliştirilen yeni fırsatlarla karşılaştırdı ve "otopilot tarafından dikkati dağıldığı" için Tesla'daki çalışmasıyla alay etmeyi unutmadı. Otonom sürüşü ve VR'yi kötü yapay zeka ajanlarına örnek olarak görüyor.
Yeni fırsatlar için, Andrej Karpathy, tıpkı derin öğrenmenin ilk günlerinde olduğu gibi, nörobilime yeniden dönme ve ondan ilham alma anının geldiğine inanıyor.
Andrej Karpathy ise sıradan insanların, girişimcilerin ve ineklerin AI Aracıları oluşturmada OpenAI gibi şirketlerden daha fazla avantaja sahip olduğuna inanıyor.Şu anda herkes eşit rekabet halinde ve bu konudaki sonuçları görmek için sabırsızlanıyor.
Bu paylaşımın tam metni şöyle:
Herkese merhaba. AI Temsilcileri konusunda bazı motive edici sözler söylemeye davet edildim.
AI Agent'ların bir şekilde bana yakın olduğunu düşünüyorum, bir hikaye ile başlayayım, bu çok erken bir OpenAI hikayesi, OpenAI belki sadece bir düzine kişi o zamanlar, 2016 civarında, o zamanlar Trend aslında RL Ajanları ( Takviye Öğrenme Aracıları). Herkes ajan oluşturmakla çok ilgileniyordu, ancak o zamanlar çoğunlukla oyun tabanlıydı ve heyecan Atari gibi oyun şirketleri etrafındaydı ve OpenAI'deki projem RL Ajanlarını klavyelere odaklamaya çalışıyordu ve Fare bilgisayarda kullanılıyor , oyun değil. Onları daha kullanışlı hale getirmek ve çok iş yapmak istiyorum, projenin adı World of Bits. Birkaç meslektaşım ve ben bir makale yayınladık.
Harika bir makale değil, çünkü aslında RL pekiştirmeli öğrenme yöntemlerine dayanıyor. Web sayfalarımız çok basittir ve insanların uçuş rezervasyonu yapmasına veya yemek sipariş etmesine vb. olanak tanır. Bunların hiçbiri işe yaramayacaktı çünkü teknoloji hazır değildi ve o zamanlar bu tür şeyleri yapmak akıllıca olmazdı. Gerçekler, AI Aracılarını tamamen unutmamız ve dil modelleri yapmamız gerektiğini kanıtladı.
Beş yıl sonra buraya geri döndük ve otonom sürüş dikkatimi biraz dağıtmıştı ama şimdi AI Agent'lar yeniden havalı, araç kutumuz tamamen farklı ve bu sorunlara yaklaşma şeklimiz tamamen farklı. Aslında hepiniz AI Aracıları üzerinde çalışıyorsunuz, ancak herhangi bir pekiştirmeli öğrenme yöntemi kullanmıyor olabilirsiniz. Bu çılgınca, bunun olacağını göreceğimizi sanmıyorum. Çok eğlenceliydi.
Yapay Zeka Temsilcilerinin neden bu kadar popüler olduğundan bahsetmek için biraz zaman ayırmama izin verin. AGI'nin (yapay genel zeka) AI Aracılarının yeteneklerinden tam olarak yararlanacağını düşünüyorum, bir değil, birçok kişi. Belki çok ilham verici, hatta biraz çılgınca olduğunu düşündüğüm dijital varlıkların organizasyonları veya medeniyetleri olacak. Ancak bunun üzerine biraz soğuk su da dökmek istiyorum. Bence hayal etmesi kolay, inşa etmesi kolay, göstermesi kolay ama bir ürün yapması gerçekten zor olan bir dizi problem var. Pek çok şey bu kategoriye giriyor, bence otonom sürüş buna bir örnek.
Otonom sürüşü hayal etmek ve bir blok etrafında sürüş yapan bir arabanın demosunu yapmak kolaydır, ancak bunu bir ürüne dönüştürmek on yıl sürdü. Aynı şekilde, bence VR ile aynı, çalışmasını sağlamak on yıl alacak.
Aynı şeyin bir dereceye kadar AI Temsilcileri için de geçerli olduğunu düşünüyorum. Bunun için senaryolar hayal etmek kolay ve çok heyecan verici, ama bence eğer içindeyseniz, gerçekten işe yaraması için ona on yıl yatırım yapmalısınız.
Söylemek istediğim başka bir şey de şu anda sinirbilime geri dönmenin ve bir şekilde ondan yeniden ilham almanın ilginç olduğunu düşünüyorum, derin öğrenmenin ilk günleri sinirbilimden ilham aldı. Aralarındaki ilişkiyi düşünmek çok ilginç, özellikle bence pek çok insan dil modellerine çözümün bir parçası olarak bakıyor, ancak insanların tüm bilişsel yeteneklerine sahip eksiksiz bir dijital varlık nasıl oluşturulur? Açıkçası, yaptığımız şeyi planlamak, düşünmek ve yansıtmak için bir çeşit temel sisteme ihtiyacımız olduğu konusunda hepimiz hemfikiriz ve sinirbilimin devreye girdiği yer burasıdır.
Örneğin, hipokampus çok önemlidir.AI Agent'larda hafızayı depolamak, geri çağırmayı işaretlemek vb. için kullanılan hipokampusun rolünü ne oynar? Görsel ve işitsel kortekslerin nasıl inşa edileceğine dair genel bir anlayışa sahibiz, ancak AI Agent'larda bunun ne anlama geldiğini bilmediğimiz birçok şey var. AI Agents'ta görsel bir oyun neye benziyor? AI Agents'ta bilinçaltının yeri olan talamusun karşılığı nedir? Bu çok ilginç.
Aslında bugün yanımda bir nörobilim kitabı getirdim, David Eagleman'ın yazdığı Beyin ve Davranış, çok ilginç ve aydınlatıcı buldum. Bireysel nöronları tasarladığımız ilk günlerde yaptığımız gibi, nörobilimden bazı ilginç ilhamlar alarak, muhtemelen bugün bunu tekrar yapmalıyız.
Son olarak bazı cesaret verici sözlerle bitirmek istiyorum. İlginç ama bariz olmayan bir şey ise, oluşturduğunuz AI Agent'ların (canlı izleyiciye atıfta bulunarak) aslında çağdaş AI Agent'ların yeteneklerinin ön saflarında yer almasıdır.OpenAI, DeFi vb.Gibi tüm büyük LLM kurumları, I Ön planda olduklarından şüphe yok. Ön plandasın.
Örneğin, OpenAI, Transformer büyük dil modellerini eğitmede çok iyidir. Bir makale farklı bir eğitim yöntemi önerirse, OpenAI içindeki Slack grubumuzdaki tartışma, ah evet, biri bunu iki buçuk yıl boyunca denedi ve işe yaramadı, bu yöntemle ilgilenmiyoruz gibi olacaktır. Artıları ve eksileri çok iyi anlıyor. Ama yeni AI Agents makalesi çıktığında çok ilgilendik ve çok havalı olduğunu düşündük, çünkü ekibimiz bunun için beş yıl harcamadı, sizden daha fazla bir şey bilmiyoruz, hepinizle çalışıyoruz İnsanlar birlikte yarışırlar. Yapay Zeka Aracılarının yapabileceklerinde ön saflarda olduğunuzu düşünmemizin nedeni budur.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
OpenAI kurucu ortağı Karpathy paylaştı: AI ajanlarının gerçekten çalışması 10 yıl alabilir
Organize: Twitter hesabı "@GPTDAOCN"
Yakın zamanda, OpenAI'nin kurucu ortağı Andrej Karpathy, bir geliştirici etkinliğinde kendisinin ve OpenAI'nin AI Ajanları (yapay zeka ajanları) hakkındaki dahili görüşleri hakkında kısa bir konuşma yaptı.
Andrej Karpathy, geçmişte AI Agent'ları geliştirmenin zorluklarını yeni teknolojik araçlar altında geliştirilen yeni fırsatlarla karşılaştırdı ve "otopilot tarafından dikkati dağıldığı" için Tesla'daki çalışmasıyla alay etmeyi unutmadı. Otonom sürüşü ve VR'yi kötü yapay zeka ajanlarına örnek olarak görüyor.
Yeni fırsatlar için, Andrej Karpathy, tıpkı derin öğrenmenin ilk günlerinde olduğu gibi, nörobilime yeniden dönme ve ondan ilham alma anının geldiğine inanıyor.
Andrej Karpathy ise sıradan insanların, girişimcilerin ve ineklerin AI Aracıları oluşturmada OpenAI gibi şirketlerden daha fazla avantaja sahip olduğuna inanıyor.Şu anda herkes eşit rekabet halinde ve bu konudaki sonuçları görmek için sabırsızlanıyor.
Herkese merhaba. AI Temsilcileri konusunda bazı motive edici sözler söylemeye davet edildim.
AI Agent'ların bir şekilde bana yakın olduğunu düşünüyorum, bir hikaye ile başlayayım, bu çok erken bir OpenAI hikayesi, OpenAI belki sadece bir düzine kişi o zamanlar, 2016 civarında, o zamanlar Trend aslında RL Ajanları ( Takviye Öğrenme Aracıları). Herkes ajan oluşturmakla çok ilgileniyordu, ancak o zamanlar çoğunlukla oyun tabanlıydı ve heyecan Atari gibi oyun şirketleri etrafındaydı ve OpenAI'deki projem RL Ajanlarını klavyelere odaklamaya çalışıyordu ve Fare bilgisayarda kullanılıyor , oyun değil. Onları daha kullanışlı hale getirmek ve çok iş yapmak istiyorum, projenin adı World of Bits. Birkaç meslektaşım ve ben bir makale yayınladık.
Harika bir makale değil, çünkü aslında RL pekiştirmeli öğrenme yöntemlerine dayanıyor. Web sayfalarımız çok basittir ve insanların uçuş rezervasyonu yapmasına veya yemek sipariş etmesine vb. olanak tanır. Bunların hiçbiri işe yaramayacaktı çünkü teknoloji hazır değildi ve o zamanlar bu tür şeyleri yapmak akıllıca olmazdı. Gerçekler, AI Aracılarını tamamen unutmamız ve dil modelleri yapmamız gerektiğini kanıtladı.
Beş yıl sonra buraya geri döndük ve otonom sürüş dikkatimi biraz dağıtmıştı ama şimdi AI Agent'lar yeniden havalı, araç kutumuz tamamen farklı ve bu sorunlara yaklaşma şeklimiz tamamen farklı. Aslında hepiniz AI Aracıları üzerinde çalışıyorsunuz, ancak herhangi bir pekiştirmeli öğrenme yöntemi kullanmıyor olabilirsiniz. Bu çılgınca, bunun olacağını göreceğimizi sanmıyorum. Çok eğlenceliydi.
Yapay Zeka Temsilcilerinin neden bu kadar popüler olduğundan bahsetmek için biraz zaman ayırmama izin verin. AGI'nin (yapay genel zeka) AI Aracılarının yeteneklerinden tam olarak yararlanacağını düşünüyorum, bir değil, birçok kişi. Belki çok ilham verici, hatta biraz çılgınca olduğunu düşündüğüm dijital varlıkların organizasyonları veya medeniyetleri olacak. Ancak bunun üzerine biraz soğuk su da dökmek istiyorum. Bence hayal etmesi kolay, inşa etmesi kolay, göstermesi kolay ama bir ürün yapması gerçekten zor olan bir dizi problem var. Pek çok şey bu kategoriye giriyor, bence otonom sürüş buna bir örnek.
Otonom sürüşü hayal etmek ve bir blok etrafında sürüş yapan bir arabanın demosunu yapmak kolaydır, ancak bunu bir ürüne dönüştürmek on yıl sürdü. Aynı şekilde, bence VR ile aynı, çalışmasını sağlamak on yıl alacak.
Aynı şeyin bir dereceye kadar AI Temsilcileri için de geçerli olduğunu düşünüyorum. Bunun için senaryolar hayal etmek kolay ve çok heyecan verici, ama bence eğer içindeyseniz, gerçekten işe yaraması için ona on yıl yatırım yapmalısınız.
Söylemek istediğim başka bir şey de şu anda sinirbilime geri dönmenin ve bir şekilde ondan yeniden ilham almanın ilginç olduğunu düşünüyorum, derin öğrenmenin ilk günleri sinirbilimden ilham aldı. Aralarındaki ilişkiyi düşünmek çok ilginç, özellikle bence pek çok insan dil modellerine çözümün bir parçası olarak bakıyor, ancak insanların tüm bilişsel yeteneklerine sahip eksiksiz bir dijital varlık nasıl oluşturulur? Açıkçası, yaptığımız şeyi planlamak, düşünmek ve yansıtmak için bir çeşit temel sisteme ihtiyacımız olduğu konusunda hepimiz hemfikiriz ve sinirbilimin devreye girdiği yer burasıdır.
Örneğin, hipokampus çok önemlidir.AI Agent'larda hafızayı depolamak, geri çağırmayı işaretlemek vb. için kullanılan hipokampusun rolünü ne oynar? Görsel ve işitsel kortekslerin nasıl inşa edileceğine dair genel bir anlayışa sahibiz, ancak AI Agent'larda bunun ne anlama geldiğini bilmediğimiz birçok şey var. AI Agents'ta görsel bir oyun neye benziyor? AI Agents'ta bilinçaltının yeri olan talamusun karşılığı nedir? Bu çok ilginç.
Aslında bugün yanımda bir nörobilim kitabı getirdim, David Eagleman'ın yazdığı Beyin ve Davranış, çok ilginç ve aydınlatıcı buldum. Bireysel nöronları tasarladığımız ilk günlerde yaptığımız gibi, nörobilimden bazı ilginç ilhamlar alarak, muhtemelen bugün bunu tekrar yapmalıyız.
Son olarak bazı cesaret verici sözlerle bitirmek istiyorum. İlginç ama bariz olmayan bir şey ise, oluşturduğunuz AI Agent'ların (canlı izleyiciye atıfta bulunarak) aslında çağdaş AI Agent'ların yeteneklerinin ön saflarında yer almasıdır.OpenAI, DeFi vb.Gibi tüm büyük LLM kurumları, I Ön planda olduklarından şüphe yok. Ön plandasın.
Örneğin, OpenAI, Transformer büyük dil modellerini eğitmede çok iyidir. Bir makale farklı bir eğitim yöntemi önerirse, OpenAI içindeki Slack grubumuzdaki tartışma, ah evet, biri bunu iki buçuk yıl boyunca denedi ve işe yaramadı, bu yöntemle ilgilenmiyoruz gibi olacaktır. Artıları ve eksileri çok iyi anlıyor. Ama yeni AI Agents makalesi çıktığında çok ilgilendik ve çok havalı olduğunu düşündük, çünkü ekibimiz bunun için beş yıl harcamadı, sizden daha fazla bir şey bilmiyoruz, hepinizle çalışıyoruz İnsanlar birlikte yarışırlar. Yapay Zeka Aracılarının yapabileceklerinde ön saflarda olduğunuzu düşünmemizin nedeni budur.