Aziz Paul tarafından yazıldı

OpenAI'nin 2022'nin sonunda ChatGPT'yi piyasaya sürmesinin ardından yatırım alanının yapay zeka alanına dair anlayışı derinleşmeye devam etti. Yapay zeka endüstrisi zinciri kabaca çekirdek teknoloji sağlayıcıları, yapay zeka sistemleri ve yapay zeka kullanıcılarına ayrılabilir. Küresel yatırımcıların genel algısına bakılırsa artık herkes, tıpkı 30 yıl önceki bilgisayarların ya da 20 yıl önceki internetin olduğu gibi, yapay zekanın da gelecekte uzun süre bir yatırım aracı haline geleceğini anlıyor. Ve gelecek için uygulamalar zaten bir gerçektir.

Alt bölümlere ayrılmış alanlara yatırımın anlaşılması için her zaman sektördeki yatırımcılardan öğrenmeye ihtiyacımız var. Tanınmış risk sermayedarı A16Z, yapay zeka alanında ağır bahisler oynamaya devam ediyor. Geçtiğimiz günlerde OpenAI'nin CTO'su Mira Murati ile bir görüşme yaptılar. ChatGPT'nin arkasındaki hikayeyi ve yapay zeka ile insan-bilgisayar etkileşiminin geleceğini paylaştı.

Özet

• ChatGPT, takviyeli öğrenme için insan geri bildirimini kullanan güvenli bir yapay zeka sisteminin nasıl oluşturulacağı düşüncesinden doğmuştur.
• OpenAI, insanların dijital bilgilerle nasıl etkileşimde bulunduğunu yeniden tanımlıyor, ortak benzeri bir asistan haline geliyor ve yapay zeka sistemlerinin tutarlılığını ve güvenliğini sürekli olarak geliştiriyor. Ürünleştirme durumu aracılığıyla gerçek dünyadaki kullanıcılardan geri bildirim almak laboratuvarda oturmaktan çok daha fazlasıdır.
• ChatGPT metne dayalı olarak resimler, videolar ve diğerlerini ekliyor. Bu, modellerin, dünyayı nasıl anladığımıza ve gözlemlediğimize benzer şekilde etrafımızdaki dünyanın daha eksiksiz bir resmini sunmasına olanak tanır.
• Her ne kadar gelecekte dünyaya hükmedecek tek bir model olmayacak olsa da, çünkü insanlar eninde sonunda ihtiyaçlarına en uygun aracı arayacaklar.

#Mira Murati Arkaplan

Mira, komünizmin sona ermesinden hemen sonra Arnavutluk'ta doğdu. O dönemde Arnavutluk bugünkü Kuzey Kore'ye çok benziyordu. Sürekli değişimin ve belirsizliğin olduğu bir çağda eğitim her şeyin anahtarıdır. Üstelik o zamanlar kitapların dışında pek eğlence yoktu. Mira o sıralarda kitaplarda cevaplar arıyordu. Mira, bilimde istikrarlı ve derinlemesine incelenebilecek gerçekleri tercih ediyor. Tarih ve sosyoloji gibi beşeri bilimlerin kaynakları da sorgulanabilir çünkü tarih sürekli değişiyor. Yani Mira, bilime ve matematiğe karşı sezgisel ve doğal bir eğilimle yetiştirildi. Temel olarak Mira hâlâ Open AI'da matematikle ilgileniyor.

Mira, mükemmel akademik performansı nedeniyle burs aldı ve lisenin son iki yılını Kanada'da tamamladı.

Mira üniversitede makine mühendisliği okudu çünkü bilgiyi gerçek dünyadaki sorunlara uygulamanın en iyi yolunun bu olduğuna inanıyordu. O zamanlar Mira, dünyaya sürdürülebilir ulaşım ve sürdürülebilir enerji getirmenin yolları ile çok ilgileniyordu. O zamanki mezuniyet projesi süper kapasitörler kullanan hibrit bir yarış arabası yapmaktı.

Kısa süre sonra Mira Tesla'ya katıldı ve Model S çift motor çalışmalarına katıldı. İlk tasarımının ilk günlerinden itibaren Model X ile çalıştı ve sonunda tüm projenin lansmanına öncülük etti.

Mira'nın yapay zeka uygulamalarına, özellikle de otonom sürüşe ilgi duymasını sağlayan da Tesla'da çalışmasıydı. Çünkü seyahatte devrim yaratmak için yapay zeka ve bilgisayar görüşünü kullanabilir. Yapay zekanın farklı uygulamaları hakkında daha fazla düşünmeye başladı. Böylece Mira, yapay zekaya ve onun dünyada yapabileceği değişikliklere giderek daha fazla ilgi duymaya başladı.

Özellikle yapay zekanın insan-bilgisayar etkileşimini ve insanların genel olarak bilgiyle etkileşime girme şeklini nasıl etkilediğini çok merak ediyor ve mekansal hesaplamayla çok ilgileniyor. Daha sonra siyahi bir teknoloji şirketi olan Leap Motion'a ürün ve mühendislikten sorumlu başkan yardımcısı olarak katıldı. Ürünleştirme yeteneklerini daha da güçlendiren bu deneyim oldu.

(Bu arada Leap Motion'ın kurucusu David Holz, Leap Motion'ı sattıktan sonra bir başka popüler yapay zeka uygulaması Midjourney'i kurdu).

Mira, 2018'de OpenAI'ye katıldı. İşte o zaman sadece çok yönlülüğe odaklanırsa ne olacağı hakkında daha fazla düşünmeye başladı.

Ayrıca Mira'nın araştırma yöntemlerine ilişkin tartışmasında, onun belirsiz bir ortamda teknolojik yeniliklere yönelik araştırmacı ruhunu da görebiliyoruz:

• Bazen kestirirsiniz ve yeni fikirlerle uyanırsınız. Günler veya haftalar boyunca nihai çözümünüze ulaşacaksınız. Bu hızlı bir geri dönüş değildir ve bazen yinelemeli de değildir.
• Neredeyse farklı bir düşünme biçimi gibi, sezgiyi geliştiriyorsunuz ama aynı zamanda sorunlara yaklaşma disiplinine sahip oluyorsunuz ve bunları çözmek için kendinize güveniyorsunuz. Zamanla hangi sorunların gerçekten çözülmesi gerektiğine dair bir sezgi geliştireceksiniz.

Görüşme özeti

Tanınmış risk sermayedarı A16Z, yapay zeka alanında büyük bir bahis yaptı. Aşağıdaki alıntılar A16Z'nin fon yöneticisi Martin ile Mira arasındaki bir konuşmadan alıntılardır. Mira, ChatGPT'nin arkasındaki hikayeyi ve yapay zeka ile insan-bilgisayar etkileşiminin geleceğini paylaştı. Ürün yöneticisi geçmişine sahip olan Mira'nın, ürünlerin uygulanabilirliği konusunda son derece kaygılı olduğunu da görebiliyoruz.

MARTIN: Şu anda bunun daha çok bir sistem sorunu mu, yoksa bir mühendislik sorunu mu olduğunu düşünüyorsunuz?

Mira: Her ikisi de. Sistemler ve mühendislik sorunları çok büyük ve biz bu teknolojileri kullanıyoruz ve onları ölçeklendirmeye, daha verimli hale getirmeye ve erişilebilir hale getirmeye çalışıyoruz. Bu, bunları kullanmak için ML'nin inceliklerini bilmenize gerek olmadığı anlamına gelir.

Aslında, bu modelleri API aracılığıyla sağlamakla teknolojiyi ChatGPT aracılığıyla sağlamak arasında bir karşıtlık görebiliriz. Bu, olası bir istisna dışında temelde aynı teknolojidir: ChatGPT'nin takviyeli öğrenme ve insan geri bildirimi yetenekleri vardır. Bunun anlamı, insanların hayal gücünü yakalama ve bu teknolojiyi her gün kullanmalarına olanak sağlama yeteneğinin ve tepkisinin tamamen farklı olduğudur.

doğal dil arayüzü

Martin: Ayrıca ChatGPT API'sinin çok ilginç bir şey olduğunu düşünüyorum. Ne zaman bu modelleri programlarımda kullansam, sanki bir süper bilgisayarı abaküsün içine sarıyormuşum gibi hissediyorum. Bazen şöyle derim: "Modele bir klavye ve fare vereceğim ve programlamayı yapmasına izin vereceğim." API İngilizcedir ve ona ne yapması gerektiğini söyleyeceğim ve tüm programlamayı o yapacak. Merak ediyorum, ChatGPT gibi bir şey tasarladığınızda, zamanla gerçek arayüzün doğal dil olacağını mı düşünüyorsunuz, yoksa programların hâlâ büyük bir rol oynayacağını mı düşünüyorsunuz?

Mira: ChatGPT'de programlama daha az soyut hale geliyor ve bilgisayarlarla doğal dili kullanarak yüksek bant genişliğinde konuşabiliyoruz. Ama belki başka bir vektör de bu teknolojinin onu programlamak yerine onunla gerçekten nasıl çalışacağımızı anlamamıza yardımcı olmasıdır. Doğal dilde programlayabildiğiniz için programlama katmanı daha kolay ve erişilebilir hale geliyor. Ancak bunun ChatGPT'de gördüğümüz diğer tarafı da modelle aslında bir ortak veya meslektaş gibi çalışabilmenizdir.

MARTIN: Zamanla neler olacağını görmek ilginç olacak. ChatGTP'de bir API'ye sahip olmaya karar verdiniz, ancak bir iş arkadaşı olarak bir API'niz yok. Bir meslektaşınızla konuşuyorsunuz. Zamanla bu şeyler doğal dilde konuşmaya dönüşebilir. Yoksa sistemde her zaman sonlu durum makinesi veya geleneksel bilgisayar gibi bir bileşenin olması gerektiğini mi düşünüyorsunuz?

Mira: Şu anda dijital bilgilerle nasıl etkileşim kuracağımızı yeniden tanımladığımız bir dönüm noktası var ve bunu yapay zeka sistemleri biçiminde yapıyoruz. Belki birden fazla yapay zeka sistemimiz var, belki hepsinin farklı yetenekleri var. Belki bizi her yerde takip eden, geçmişimi, bugün ne yaptığımı, hayatta ve işte hedeflerimin neler olduğunu bilen, zor zamanlarımda bana yardımcı olan, bana yol gösteren vb. evrensel bir sistemimiz var. Tahmin edebileceğiniz gibi bu süper güçlü bir şey.

Şimdi onu yeniden tanımlamanın bir dönüm noktasındayız. Geleceğin nasıl görüneceğini bilmiyoruz ve deneyebilmeleri ve ne olacağını görebilmemiz için bu araç ve teknikleri diğer birçok insanın kullanımına sunmak için çok çalışıyoruz. Baştan beri uyguladığımız strateji bu.

Geçen haftaki ChatGPT'de bunun yeterince iyi olmadığından endişeliydik. Ne olduğunu hepimiz gördük. Bunu ortaya koyduk ve insanlar bize bunun yeni vaka bulma konusunda gerçekten iyi bir iş çıkardığını söyledi. Bunları erişilebilir ve kullanımı kolay hale getirdiğinizde ve bunları herkesin kullanmasını kolaylaştırdığınızda olan şey budur.

OpenAI Geliştirme Yol Haritası

MARTIN: Yapay zeka söz konusu olduğunda insanlar henüz nasıl düşüneceklerini bilmiyorlar. Biraz rehberlik olmalı, bazı seçimler yapmalısınız. OpenAI'desiniz ve bundan sonra ne yapacağınıza karar vermelisiniz. Bu karar verme sürecinden geçebilseydiniz: Ne yapacağınıza, neye odaklanacağınıza, neyi yayınlayacağınıza veya kendinizi nasıl konumlandıracağınıza nasıl karar verirsiniz?

Mira: ChatGPT'nin nasıl ortaya çıktığını düşünürseniz, piyasaya sürmek istediğimiz bir ürün değildi. Aslında gerçek kökleri, güvenli bir yapay zeka sisteminin nasıl oluşturulacağını düşündüğümüz 5 yıl öncesine dayanıyor. Bir insanın amaç fonksiyonunu gerçekten yazmasını istemezsiniz, çünkü bunu karmaşık bir amaç fonksiyonunun yerine geçecek birinin olmasını istemezsiniz veya hata yapmak istemezsiniz çünkü bu çok tehlikeli olabilir.

İnsan geri bildirimini kullanarak takviyeli öğrenmenin devreye girdiği yer burasıdır. Gerçekte başarmaya çalıştığımız şey, yapay zeka sistemini insani değerlerle uyumlu hale getirmek ve insan geri bildirimlerini kabul etmesine izin vermek. İnsanların geri bildirimlerine dayanarak, doğru olanı yapma olasılığı daha yüksek, yapmak istemediğiniz bir şeyi yapma olasılığı ise daha düşüktür. Daha sonra, GPT-3'ü geliştirip API'de yayınladıktan sonra, güvenlik araştırmamızı ilk kez gerçek dünyaya uyguladık. Bu, talimat takip modeliyle gerçekleştirilir.

API'yi kullanan müşterilerden ipuçları almak için bu yaklaşımı kullanıyoruz ve ardından yüklenicilerin modelin öğrenebileceği geri bildirimler oluşturmasını sağlıyoruz. Bu verilere dayanarak modele ince ayar yaptık ve talimatları takip eden bir model oluşturduk. Kullanıcının amacını takip etme ve gerçekte yapmasını istediğiniz şeyi yapma olasılıkları daha yüksektir. Bu çok güçlü çünkü yapay zeka güvenliği sadece orada oturup hakkında konuştuğunuz teorik bir kavram değil. Aslında şöyle oluyor: Artık yapay zeka güvenlik sistemleri çağına giriyoruz, bunu gerçek dünyaya nasıl entegre edersiniz?

Açıkçası, büyük dil modellerinde kavramların ve gerçek dünya fikirlerinin harika temsillerini görüyoruz. Ancak çıktı açısından birçok sorun var. En büyük sorunlardan biri elbette halüsinasyondur. Yanılsama ve özgünlük konuları üzerinde çalışıyoruz. Bu modellerin belirsizliği ifade etmesini nasıl sağlarsınız?

ChatGPT'nin öncülü aslında WebGPT adını verdiğimiz, bilgi edinmek ve kaynaklardan alıntı yapmak için erişimi kullanan başka bir projeydi. Bu proje sonunda ChatGPT oldu çünkü sohbetlerin özel olduğunu düşündük. Soru sormanıza, diğer kişiyi düzeltmenize ve belirsizliği ifade etmenize olanak tanır.

MARTIN: Etkileşimde olduğunuz için hatalar sürekli keşfediliyor...

Mira: Evet, bu tür bir etkileşimle daha derindeki gerçeği anlayabilirsiniz. Biz de bu yönde ilerlemeye başladık ve o dönemde bunu GPT-3 ve GPT-3.5 ile yapıyorduk. Güvenlik açısından bakıldığında bu konuda çok heyecanlıyız. Ancak insanların unuttuğu bir şey şu anda GPT-4'ü eğittiğimizdir. OpenAI içinde GPT-4 konusunda çok heyecanlıyız ve dikiz aynasında ChatGPT var. Sonra şunu fark ettik: "Altı ayı GPT-4 uyumu ve güvenliğine odaklanarak geçireceğiz" ve ne yapabileceğimizi düşünmeye başladık. Asıl şeylerden biri aslında ChatGPT'yi araştırmacıların ellerine teslim etmektir ve artık bu konuşma modeline sahip olduğumuz için bize geri bildirimde bulunabilirler. Başlangıçtaki amaç araştırmacılardan geri bildirim almak ve bunu GPT-4'ü daha tutarlı, güvenli, sağlam ve güvenilir hale getirmek için kullanmaktır.

MARTIN: Tutarlılık ve güvenlik derken, her istediğini yaptığını da eklemekte haklı mısın? Yoksa güvende olmak mı, aslında kendinizi bir tür zarardan korumak mı demek istiyorsunuz?

Mira: Tutarlı derken, genellikle kullanıcının amacına uyduğunu, yani tam olarak sizin yapmasını istediğiniz şeyi yaptığını kastediyorum. Ancak güvenlik, kullanıcıların kasıtlı olarak zararlı çıktılar üretmek için bir model kullanmaya çalıştığı kötüye kullanım gibi başka şeyleri de içerir. ChatGPT ile aslında modelin yapmasını istediğiniz şeyi yapma olasılığını artırarak onu daha tutarlı hale getirmeye çalışıyoruz. Ayrıca son derece zor bir sorun olduğu aşikar olan halüsinasyon sorununu da çözmek istedik.

Takviyeli öğrenme için insan geribildirimini kullanmaya yönelik bu yaklaşımın, eğer bunu yapmaya çalışırsak, belki de ihtiyacımız olan şey olduğunu düşünüyorum.

MARTIN: Peki büyük bir planın yok mu? AGI'ye ulaşmak için ne yapmamız gerekiyor? Bu sadece her seferinde bir adım atma meselesi.

Mira: Evet. Ve yol boyunca aldığınız tüm küçük kararlar. Belki birkaç yıl önce ürünü takip etmek için stratejik bir karar verdiğimiz için bunun gerçekleşme olasılığı daha yüksektir. Bunu yapıyoruz çünkü gerçek dünyadaki kullanıcıların geri bildirimi olmadan bir laboratuvarda oturup bu şeyleri boşlukta geliştirmenin imkansız olduğuna inanıyoruz. Varsayım bu. Bunun, bu kararlardan bazılarını almamıza ve temel altyapıyı oluşturmamıza yardımcı olduğunu düşünüyorum, böylece sonunda ChatGPT gibi bir şeyi konuşlandırabiliriz.

Oranlar Kanunu

MARTIN: Orantı yasasını tekrarlayabilirsiniz. Bunun herkesin yaşadığı büyük bir sorun olduğunu düşünüyorum. İlerleme hızı şaşırtıcıdır. Ancak yapay zekanın tarihi öyle görünüyor ki bir noktada azalan getirilere ulaşıyorsunuz ve bu parametrik değil. Bir nevi azalıyor. Sizin bakış açınıza göre (ki bu muhtemelen tüm sektördeki en akıllıca bakış açısıdır), ölçeklendirme yasasının geçerli olacağını ve ilerleme görmeye devam edeceğimizi mi düşünüyorsunuz, yoksa getirilerin azalmasına doğru gittiğimizi mi düşünüyorsunuz?

Mira: Modeli veri ve hesaplama eksenleri boyunca genişletmeye devam ettikçe daha iyi, daha güçlü modeller elde edemeyeceğimize dair hiçbir kanıt yok. AGI'ye (Yapay Genel İstihbarat) kadar ulaşıp ulaşmayacağı farklı bir soru. Bu süreçte başka atılımlara ve ilerlemelere de ihtiyaç duyulabilir. Bu daha büyük modellerden gerçekten çok fazla fayda elde etmek için ölçeklendirme yasalarının hala kat etmesi gereken uzun bir yol var.

MARTIN: AGI'yi nasıl tanımlıyorsunuz?

Mira: OpenAI sözleşmemizde. Entelektüel işlerin çoğunu otonom olarak tamamlayabilen bir bilgisayar sistemi olarak tanımlıyoruz.

Martin: Öğle yemeği yiyordum ve Anyscale'den Robert Nishihara da oradaydı. Benim Robert Nishihara sorusu dediğim şeyi sordu. Bunun aslında oldukça iyi bir karakterizasyon olduğunu düşünüyorum. Şöyle dedi: "Bilgisayarlar ve Einstein'lar arasında bir süreklilik var. Bilgisayarlardan kedilere, kedilerden sıradan insanlara ve sıradan insanlardan Einstein'lara gidiyorsunuz." Sonra şu soruyu sordu: "Biz bir süreklilik üzerindeyiz." Hangi sorunlar çözülecek?”

Herkes bir kediden insana nasıl geçileceğini bildiğimiz konusunda hemfikirdir. Bilgisayardan kediye nasıl geçeceğimizi bilmiyoruz çünkü bu evrensel bir algı sorunudur. Yaklaştık ama henüz o noktaya gelmedik ve Einstein'ın nasıl yapılacağını gerçekten bilmiyoruz ve bu da yerleşik bir mantık.

Mira: İnce ayarlarla çok şey elde edebilirsiniz, ancak genel olarak çoğu görevde şu anda stajyer seviyesinde olduğumuzu düşünüyorum. Sorun güvenilirliktir. Her zaman yapmasını istediğiniz şeyi yapması için sisteme tamamen güvenemezsiniz. Birçok görevde bunu yapamaz. Zaman içinde güvenilirliği nasıl artırırsınız ve ardından bu modellerin yapabileceği yeni yetenekleri nasıl genişletirsiniz?

Çok güvenilmez olsalar bile, ortaya çıkan bu yeteneklere dikkat etmenin önemli olduğunu düşünüyorum. Özellikle bugün şirket kuran insanlar için şunu gerçekten düşünmek istersiniz: "Bugün neler mümkün? Bugün ne görüyorsunuz?" Bu modeller çok hızlı bir şekilde güvenilir hale geliyor.

**Tek bir model dünyayı fethedebilir mi? **

MARTIN: Hemen soracağım, geleceğin nasıl görüneceğini tahmin edeceğim. Ama bencilce sormadan önce, bunun ekonomisinin nasıl sonuçlanacağını düşünüyorsunuz? Bana neyi hatırlattığını söylüyorum. Bu bana silikon endüstrisini hatırlatıyor. 90'lı yıllarda bir bilgisayar satın aldığınızda çok sayıda tuhaf yazma işlemcisinin bulunduğunu hatırlıyorum. "Bu dize eşleştirme, bu kayan nokta, bu şifreleme", bunların hepsi CPU'yu tüketiyor.

Çok yönlülüğün o kadar güçlü olduğu ortaya çıktı ki hem Intel'in hem de AMD'nin oyuncu olduğu belirli bir ekonomi türü yaratıyor. Elbette bu çipleri yapmak çok paraya mal oluyor.

Yani iki gelecek hayal edebilirsiniz. Gelecekte çok yönlülük o kadar güçlü olacak ki, büyük modeller zamanla tüm işlevleri özümseyecek. Ve ayrıca bir sürü farklı modelin, her türden parçanın, tasarım alanında farklı noktaların olduğu başka bir gelecek daha var. Şu düşünceye sahip misiniz: OpenAI benzersiz mi, yoksa birçok modeli var mı?

Mira: Ne yapmak istediğine bağlı. Açıkçası, şu andaki gidişat, bu yapay zeka sistemlerinin bizim yaptığımız işin giderek daha fazlasını yapması yönünde. Otonom olarak çalışabilecekler, ancak bizim yönlendirme, rehberlik ve gözetim sağlamamız gerekecek. Ancak her gün yapmak zorunda olduğum, tekrarlayan çok fazla iş yapmak istemiyorum. Başka şeylere odaklanmak istiyorum. Belki günde 10-12 saat çalışmamıza gerek yok, belki daha az çalışıp daha üretken olabiliriz. Ben de bunu umuyorum. Platformun çalışma şekline bakıldığında bugün bile API aracılığıyla çok küçük modellerden son teknoloji modellerimize kadar pek çok modelimizin mevcut olduğunu görebilirsiniz.

Her zaman en güçlü ve yetenekli modeli kullanmaya gerek yoktur. Bazen sadece kendi özel kullanım durumlarına uyan bir modele ihtiyaç duyarlar ve bu çok daha ekonomiktir. Bir aralık olacağını düşünüyorum. Ancak platform oyunlarını nasıl hayal ettiğimiz konusunda, kesinlikle insanların modelimizin üzerine inşa etmelerini istiyoruz ve onlara bunu kolaylaştıracak araçları vermek ve onlara giderek daha fazla erişim ve kontrol hakkı vermek istiyoruz. Verilerinizi getirebilir, bu modelleri özelleştirebilirsiniz. Gerçekten modelin dışındaki katmanlara odaklanıp ürünü tanımlayabilirsiniz ki bu aslında çok ama çok zordur. Artık daha fazla model oluşturmaya odaklanılıyor ancak bu modellerin üzerine iyi ürünler oluşturmak çok zor.

Gelecek 5-10 yıl

MARTIN: Bunun üç, beş ya da 10 yıl içinde nerede olacağını düşündüğünüzü tahmin etmenizi istiyorum.

Mira: Bugünkü temel modelin metinde dünyayı büyük bir şekilde temsil ettiğini düşünüyorum. Resimler, videolar ve diğer birçok şey gibi başka modeller ekliyoruz, böylece bu modeller, dünyayı nasıl anladığımıza ve gözlemlediğimize benzer şekilde etrafımızdaki dünyanın daha eksiksiz bir resmini sunabilir. Dünya sadece kelimelerde değil, görüntülerde de var. Kesinlikle bu yönde ilerliyoruz ve eğitim öncesi çalışmalarda tüm bu kalıpları kullanan daha büyük modellere sahip olacağız. Bu önceden eğitilmiş modellerin dünyayı bizim gibi anlamasını gerçekten istiyoruz.

Modelin çıktı kısmında insan geri bildirimiyle takviyeli öğrenmeyi tanıtıyoruz. Modelin aslında yapmasını istediğimiz şeyi yapmasını istiyoruz ve bunun güvenilir olmasını istiyoruz. Bu, yeni bilgilerin elde edilebilmesi, referans alınabilmesi ve halüsinasyonların çözülebilmesi için çok fazla çalışma ve belki de taramanın başlatılmasını gerektirir. Bunun mümkün olduğunu düşünmüyorum. Bunun başarılabilir olduğunu düşünüyorum.

Ürün tarafında, bunların hepsini insanların birlikte çalıştığı bir ürün koleksiyonunda bir araya getirmek ve insanların üzerine inşa edebileceği bir platform sağlamak istiyoruz. Eğer gerçekten dışarıya doğru giderseniz, bu modeller çok ama çok güçlüdür. Açıkçası, bununla birlikte bu çok güçlü modellerin niyetlerimizle tutarsız olduğu korkusu da geliyor. Büyük bir zorluk, zor bir teknik zorluk olan Süper Hizalamadır. OpenAI'de bu soruna odaklanmış bir ekibimiz var.