OpenAI 正組建新團隊 Preparedness 以評估人工智慧的“災難性風險”

巴比特訊,10 月 27 日,OpenAI 宣佈正在創建新團隊 Preparedness,以評估和減輕與人工智慧相關的“災難性風險”。 據悉,該團隊的主要任務是「跟蹤、評估、預測和保護」人工智慧造成的潛在重大問題,包括核威脅。 此外,該團隊將致力於減輕「化學、生物和放射性威脅」 以及人工智慧的「自主複製」 行為。 該團隊的任務還包括制定和維護風險知情發展政策(RDP)。 RDP 將詳細說明其在開發嚴格的前沿模型能力評估和監控、創建一系列保護行動以及建立整個開發過程的問責和監督治理結構方面所採用的方法。

此外,OpenAI 還將發起人工智慧防備挑戰賽,以預防災難性濫用。 OpenAI 將為最多 10 個最優秀的作品提供 25,000 美元的 API 積分。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 留言
  • 分享
留言
0/400
暫無留言
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)