27 Ekim'de OpenAI, yapay zeka ile ilişkili "felaket risklerini" değerlendirmek ve azaltmak için yeni bir ekip olan Preparedness'ı oluşturduğunu duyurdu. Ekibin ana görevi, nükleer tehditler de dahil olmak üzere yapay zekanın neden olduğu potansiyel olarak önemli sorunları "izlemek, değerlendirmek, tahmin etmek ve korumaktır". Buna ek olarak, ekip "kimyasal, biyolojik ve radyolojik tehditleri" ve AI'nın "özerk replikasyon" davranışını azaltmak için çalışacak. Ekip ayrıca riske dayalı bir geliştirme politikası (RDP) geliştirmek ve sürdürmekle görevlidir. RDP, geliştirme süreci boyunca titiz son teknoloji model yetenek değerlendirmesi ve izleme, bir dizi koruma eylemi oluşturma ve hesap verebilirlik ve gözetim yönetişim yapıları oluşturma yaklaşımını detaylandıracaktır.
Ayrıca OpenAI, feci suistimali önlemek için AI Hazırlık Mücadelesini başlatacak. OpenAI, en iyi 10 oyun için 25.000 ABD doları değerinde API kredisi sağlayacaktır.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
OpenAI, yapay zekanın "felaket risklerini" değerlendirmek için Hazırlık adlı yeni bir ekip kuruyor
27 Ekim'de OpenAI, yapay zeka ile ilişkili "felaket risklerini" değerlendirmek ve azaltmak için yeni bir ekip olan Preparedness'ı oluşturduğunu duyurdu. Ekibin ana görevi, nükleer tehditler de dahil olmak üzere yapay zekanın neden olduğu potansiyel olarak önemli sorunları "izlemek, değerlendirmek, tahmin etmek ve korumaktır". Buna ek olarak, ekip "kimyasal, biyolojik ve radyolojik tehditleri" ve AI'nın "özerk replikasyon" davranışını azaltmak için çalışacak. Ekip ayrıca riske dayalı bir geliştirme politikası (RDP) geliştirmek ve sürdürmekle görevlidir. RDP, geliştirme süreci boyunca titiz son teknoloji model yetenek değerlendirmesi ve izleme, bir dizi koruma eylemi oluşturma ve hesap verebilirlik ve gözetim yönetişim yapıları oluşturma yaklaşımını detaylandıracaktır.
Ayrıca OpenAI, feci suistimali önlemek için AI Hazırlık Mücadelesini başlatacak. OpenAI, en iyi 10 oyun için 25.000 ABD doları değerinde API kredisi sağlayacaktır.