Yapay zeka modelinde "açık kaynak" başlığı altında bazı tuzaklar olabilir mi?

ChatGPT'nin ortaya çıkışı, daha fazla insanın güçlü yapay zekaya (AI) erişmesini sağladı, ancak chatbot'un iç işleyişi açıklanmayan bir sır olarak kalıyor.

Sonuç olarak, yapay zekayı daha "açık" hale getirmeye yönelik çalışmalar son aylarda daha fazla ilgi görmüş gibi görünüyor. **

Bu yılın mayıs ayında birisi Meta'nın "Llama" modelini sızdırdı ve bu modelin temel koduna ve davranışını belirleyen model ağırlıklarına dış dünyanın erişimini sağladı. Temmuz ayında Meta, herkesin indirmesinin, değiştirmesinin ve yeniden kullanmasının ücretsiz olduğunu iddia ettiği daha güçlü bir model olan Llama 2'yi piyasaya sürdü. O zamandan bu yana, Meta'nın Llama serisi modelleri birçok şirketin, araştırmacının ve yapay zeka amatörlerinin ChatGPT benzeri yeteneklere sahip araçlar ve uygulamalar oluşturmasının temelini oluşturdu.

"Bugün dünya çapında yapay zekaya yönelik açık yaklaşımımıza inanan çok çeşitli seçmen kitlemiz var... Araştırmacılar bu modeli kullanarak araştırma yapmaya kararlılar ve teknoloji, akademi ve politika alanındaki kişiler de bizimle çalışıyor. Llama'nın ve açık platformun faydaları" dedi Meta, Llama 2'nin lansmanında. Birkaç gün önce Meta, kodlama için ince ayar yapılmış başka bir model olan Llama 2 Code'u da piyasaya sürdü.

**On yıllar boyunca yazılıma erişimin demokratikleştirilmesi, şeffaflığın sağlanması ve güvenliğin iyileştirilmesinden sonra, artık açık kaynak yaklaşımının yapay zeka üzerinde benzer bir etkiye sahip olması bekleniyor. **

** Ancak bu yeterli olmayabilir. **

Carnegie Mellon Üniversitesi, AI Now Enstitüsü ve Signal Vakfı'ndan bir araştırma ekibi, "Açık (İş İçin): Büyük Teknoloji, Konsantre Güç ve Açık Yapay Zekanın Ekonomi Politiği" başlıklı bir makale yayınladı ve "Llama"nın gerçeklerini araştırdı 2" ve bir bakıma "açık kaynaklı" olan diğer yapay zeka modelleri. "Açık kaynak" başlığı altındaki modelde bazı "başarısızlıklar" olabileceğini söylediler.

Makaleye göre, **Llama 2'nin indirilmesi, değiştirilmesi ve dağıtılması ücretsiz olmasına rağmen, geleneksel açık kaynak lisansları kapsamında değildir. ** Meta'nın lisansı, Llama 2'nin diğer dil modellerini eğitmek için kullanılmasını yasaklar ve bir geliştiricinin, Llama 2'yi günlük 700 milyondan fazla kullanıcısı olan bir uygulama veya hizmete dağıtması durumunda özel bir lisans gerekir.

**Bu kontrol düzeyi, Llama 2'nin Meta'ya önemli teknik ve stratejik faydalar getirebileceği anlamına gelir; örneğin, harici şirketler Llama 2 modelini kendi uygulamalarında kullandıklarında Meta, faydalı ayarlamalardan yararlanabilir. **

Araştırmacılar, kar amacı gütmeyen EleutherAI'nin GPT Neo'su gibi ortak açık kaynak lisansları altında piyasaya sürülen modellerin daha açık olduğunu söyledi. Ancak bu projeler daha büyük şirketlerin başlattığı modellerle rekabet etmekte zorlanıyor.

Birincisi, gelişmiş modelleri eğitmek için gereken veriler genellikle gizlidir; İkincisi, bu tür modelleri oluşturmak için gereken yazılım çerçeveleri genellikle büyük şirketler tarafından kontrol edilir ve en popüler iki yazılım çerçevesi sırasıyla TensorFlow ve Pytorch'tur. Google ve Meta tarafından sağlanan; Ayrıca, büyük ölçekli yapay zeka modellerini eğitmek için gereken bilgisayar gücü, sıradan geliştiricilerin veya şirketlerin ulaşamayacağı düzeydedir; bir eğitim oturumu için genellikle on milyonlarca veya yüz milyonlarca dolar gerekir. ; *Son olarak *, bu modelleri geliştirmek ve geliştirmek için gereken insan gücü de çoğunlukla yalnızca büyük şirketlerin elde edebileceği bir kaynaktır.

Bu nedenle araştırma ekibi, mevcut trendlere bakılırsa, onlarca yılın en önemli teknolojilerinden birinin, aralarında OpenAI, Microsoft, Meta ve Google'ın da bulunduğu yalnızca birkaç şirketin yeteneklerini zenginleştirip geliştirebileceğine inanıyor. Eğer yapay zeka gerçekten dünyayı değiştirebilecek bir teknoloji ise ve daha geniş çapta uygulanıp yaygınlaştırılabilirse tüm dünyaya en büyük faydayı sağlayabilir.

Makalenin yazarlarından biri olan Meredith Whittaker, Wired'a şunları söyledi: "Analizimiz, açık kaynağın (bu seviyede) yapay zekayı 'demokratikleştirmeyeceğini' gösteriyor, "Aslında şirketler ve kurumlar bunu yapabilir ve "açık kaynak" teknolojilerinden yararlandı güç yoğunlaşmasını sağlamlaştırmak ve genişletmek."

Dahası** en açık "açık" yapay zeka sistemleri bile tek başına yapay zekada demokratik erişimi veya anlamlı rekabeti sağlayamaz, açıklık da tek başına gözetim ve sansür sorunlarını çözemez. **

Whittaker, açık kaynağın, çok ihtiyaç duyulan yapay zeka düzenlemelerinde önemli bir husus olması gerektiğini ekledi: "Büyük tekeller tarafından tanımlanan ve hakimiyet altına alınan teknolojilere gerçekten anlamlı alternatiflere ihtiyacımız var; özellikle de yapay zeka sistemleri sağlık hizmetleri gibi belirli kamu etkisine sahip son derece hassas alanlara entegre edildiğinde , finans, eğitim vb. Bu ikameyi mümkün kılacak koşulları yaratmak, antitröst reformu gibi düzenleyici hareketlerle bir arada var olabilecek, hatta onlar tarafından desteklenebilecek bir projedir.”

Araştırma ekibi ayrıca, büyük şirketlerin gücünü dengelemenin yanı sıra, yapay zekayı daha açık hale getirmenin, teknolojinin en iyi potansiyelini açığa çıkarırken en kötü eğilimlerden kaçınma açısından da çok önemli olabileceğini söylüyor. **

** Son teknoloji ürünü yapay zeka modellerinin ne kadar yetenekli olduğunu anlamak ve konuşlandırmanın ve daha fazla geliştirmenin yol açabileceği riskleri azaltmak istiyorsak, bu modelleri dünya çapındaki bilim adamlarının kullanımına sunmak en iyisidir. **

Nasıl ki "gizlilik yoluyla güvenlik" kodun güvenli bir şekilde çalıştığını hiçbir zaman gerçek anlamda garanti edemezse, güçlü yapay zeka modellerinin çalışmasını korumak da mutlaka yapılacak en akıllıca şey değildir.

Referans bağlantısı: