DoD, istihbaratı ve muharebe planlamasını geliştirmeye yardımcı olmak için üretken AI görev gücü oluşturur

Kaynak: Kağıt

Muhabir Fang Xiao

Görsel kaynağı: Unbounded AI tarafından oluşturuldu

Lima Görev Gücü, Savunma Bakanlığı genelinde üretken yapay zeka yeteneklerini değerlendirecek, senkronize edecek ve bunlardan yararlanacak ve ayrıca Savunma Bakanlığı ile istihbarat topluluğu ve diğer devlet kurumları arasındaki ortaklıklardan yararlanacak.

"Hareket eden her şey" gibi birçok kullanım durumunda veya ölümcül silahlarla uğraşırken büyük dil modelleri için "halüsinasyon görme" riski çok yüksektir.

10 Ağustos'ta, yerel saatle, ABD Savunma Bakanlığı, büyük dil modeli gibi üretken yapay zekayı analiz edecek ve entegre edecek, Lima (Lima) çalışma grubu adı verilen bir üretken yapay zeka (AI) çalışma grubunun kurulduğunu duyurdu. LLM) Akıllı araçlar önemli bir rol oynamaktadır.

"Sorumlu Uygulama"

Grubun oluşumunu yöneten Savunma Müsteşarı Kathleen Hicks, "Lima Görev Gücü'nün oluşumu, Savunma Bakanlığı'nın yapay zeka inovasyonuna liderlik etme konusundaki güçlü taahhüdünün altını çiziyor" dedi ve ekledi: "Yapay zekanın dönüştürücü gücünü geliştirirken, odak noktamız hala ulusal güvenliği sağlamak, riski en aza indirmek ve bu teknolojileri sorumlu bir şekilde entegre etmektir.Ulusal savunmanın geleceği sadece en son teknolojileri benimsemekle ilgili değil, aynı zamanda öngörü, sorumluluk ve ulusumuza daha fazla bağlılık ile ilgilidir. Bunu başarmak için geniş kapsamlı çıkarımlar."

Dijital ve Yapay Zeka Genel Müdürlüğü liderliğindeki Lima Görev Gücü, Savunma Bakanlığı genelinde üretken yapay zeka yeteneklerini değerlendirecek, senkronize edecek ve bunlardan yararlanacak ve ayrıca Savunma Bakanlığı ile istihbarat topluluğu ve diğer devlet kurumları arasındaki ortaklıklardan yararlanacak.

Dijital ve Yapay Zeka Genel Müdürlüğü, Haziran 2022'de faaliyete geçecek ve kendisini Savunma Bakanlığı genelinde yapay zeka yeteneklerini entegre etmeye ve optimize etmeye adamıştır.

ABD Savunma Bakanlığı, üretken yapay zeka modellerini kullanarak savaş, ticaret, sağlık, savaşa hazırlık ve politika alanlarındaki operasyonlarını geliştirmeyi hedeflediğini söyledi. Savunma Bakanlığı dijital ve yapay zeka başkanı Craig Martell, "Düşmanlarımızın bu teknolojiyi ne ölçüde kullanacağını ve yapay zeka tabanlı çözümler anlayışımızı baltalamaya çalışacağını da düşünmeliyiz" dedi.

"Savunma Bakanlığı, üretken yapay zekanın zekayı, operasyonel planlamayı ve idari ve ticari süreçleri önemli ölçüde iyileştirme potansiyelinin farkındadır. Ancak sorumlu uygulama, ilgili riskleri etkili bir şekilde yönetmenin anahtarıdır." Lima Görev Gücü Görev Komutanı, Dijital ve Donanma Kaptanı Manuel Xavier Lugo, Yapay Zeka Genel Müdürlüğü Algoritmik Savaş Konseyi üyesi.

ABD askeri medyası "Defense One"a göre görev gücü, Pentagon'un daha fazla bulut hizmeti, veri veya sentetik veri ve model içerebilen yeni yapay zeka hedeflerine ulaşmak için nelerin satın alınması gerektiğini daha iyi anlamasına yardımcı olacak.

** "İlüzyon" sorunu nasıl çözülür? **

Üretken yapay zeka, eğitilmiş verilere dayalı olarak yeni çıktılar üretir. Halk için bu tür araçlar, insan çıktısına benzeyen yeni metinler yazabilen ChatGPT gibi büyük dil modellerine dayalı sohbet robotlarını içerir. Makaleler, iş planları ve hatta yazmak için kullanılmıştır. bilimsel belgeler. Ancak büyük dil modelleri internetten gelen verilerle eğitildiğinden, bazen "halüsinasyon" olarak bilinen yalan söyleyebilirler. Bu nedenle Pentagon yetkilileri, üretici yapay zekayı benimseme konusundaki isteksizlikleri konusunda seslerini yükseltiyor.

Martell, "DoD, uygun önlemleri belirlerken ve eğitim verilerinin yanlış yönetimi gibi sorunlardan kaynaklanabilecek ulusal güvenlik risklerini azaltırken, sorumlu bir şekilde üretken yapay zeka modellerini benimsemeye çalışmalıdır" dedi. "Hareket eden herhangi bir şey" gibi büyük dil modellerini kullanmak için "halüsinasyon" riskinin çok yüksek olduğu veya ölümcül silahlarla uğraşırken birçok kullanım durumu olduğunu belirtti. Savunma Bakanlığı, bunların nerede güvenli bir şekilde kullanılabileceğini ve düşmanların onları nereye konuşlandırabileceğini anlamalıdır.

Bir soru, DoD'nin üretici yapay zekanın çalışması için yeterli veriye sahip olup olmadığıdır. Departman özenle derlenmiş çok sayıda dahili veriye sahip olsa da, Orta Doğu'daki tonlarca jet motoru teşhisi veya yıllarca süren insansız hava aracı gözetleme görüntüleri büyük dil modelleri oluşturmaz.

"Önceden eğitilmiş veriler olmadan modelin değerini korumak için yeterince geniş bir aralığı kapsayan yeterli veriye sahip olup olmadığımız açık bir soru. Martel, halüsinasyon görmek için. Yani bu, keşfetmemiz gereken bir değiş tokuş. Bilmiyorum ve aslında bilim camiasının cevabı henüz bildiğini sanmıyorum, "dedi Martel.

ChatGPT gibi araçların şu anda Savunma Bakanlığı için uygun olmamasının nedenlerinden en az biri, uygun sonuçlar üretmek için gereken mühendislik miktarıdır. Martel, hobiciler için uzun bir bilgi istemi ağacının iyi olduğunu, ancak karmaşık görevleri gerçekleştirmek zorunda olan operatörlerin en başından itibaren sezgisel ve daha işlevsel bir arayüze ihtiyaç duyduklarını söyledi.