Pada 27 Oktober, OpenAI mengumumkan bahwa mereka menciptakan tim baru, Kesiapsiagaan, untuk menilai dan mengurangi "risiko bencana" yang terkait dengan AI. Misi utama tim adalah untuk "melacak, menilai, memprediksi dan melindungi" masalah yang berpotensi signifikan yang disebabkan oleh AI, termasuk ancaman nuklir. Selain itu, tim akan bekerja untuk mengurangi "ancaman kimia, biologi dan radiologi," serta perilaku "replikasi otonom" AI. Tim ini juga bertugas mengembangkan dan memelihara kebijakan pengembangan berdasarkan informasi risiko (RDP). RDP akan merinci pendekatannya untuk mengembangkan penilaian dan pemantauan kemampuan model mutakhir yang ketat, menciptakan serangkaian tindakan konservasi, dan membangun struktur tata kelola akuntabilitas dan pengawasan selama proses pembangunan.
Selain itu, OpenAI akan meluncurkan AI Preparedness Challenge untuk mencegah penyalahgunaan bencana. OpenAI akan memberikan $ 25.000 dalam kredit API hingga 10 judul terbaik.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
OpenAI membentuk tim baru, Kesiapsiagaan, untuk menilai "risiko bencana" AI
Pada 27 Oktober, OpenAI mengumumkan bahwa mereka menciptakan tim baru, Kesiapsiagaan, untuk menilai dan mengurangi "risiko bencana" yang terkait dengan AI. Misi utama tim adalah untuk "melacak, menilai, memprediksi dan melindungi" masalah yang berpotensi signifikan yang disebabkan oleh AI, termasuk ancaman nuklir. Selain itu, tim akan bekerja untuk mengurangi "ancaman kimia, biologi dan radiologi," serta perilaku "replikasi otonom" AI. Tim ini juga bertugas mengembangkan dan memelihara kebijakan pengembangan berdasarkan informasi risiko (RDP). RDP akan merinci pendekatannya untuk mengembangkan penilaian dan pemantauan kemampuan model mutakhir yang ketat, menciptakan serangkaian tindakan konservasi, dan membangun struktur tata kelola akuntabilitas dan pengawasan selama proses pembangunan.
Selain itu, OpenAI akan meluncurkan AI Preparedness Challenge untuk mencegah penyalahgunaan bencana. OpenAI akan memberikan $ 25.000 dalam kredit API hingga 10 judul terbaik.