Vào ngày 27 tháng 10, OpenAI thông báo rằng họ đang thành lập một nhóm mới, Preparedness, để đánh giá và giảm thiểu "rủi ro thảm khốc" liên quan đến AI. Nhiệm vụ chính của nhóm nghiên cứu là "theo dõi, đánh giá, dự đoán và bảo vệ" các vấn đề quan trọng tiềm tàng do AI gây ra, bao gồm cả các mối đe dọa hạt nhân. Ngoài ra, nhóm nghiên cứu sẽ làm việc để giảm thiểu "các mối đe dọa hóa học, sinh học và phóng xạ", cũng như hành vi "sao chép tự động" của AI. Nhóm cũng được giao nhiệm vụ phát triển và duy trì chính sách phát triển thông báo rủi ro (RDP). RDP sẽ trình bày chi tiết cách tiếp cận của mình để phát triển đánh giá và giám sát năng lực mô hình tiên tiến nghiêm ngặt, tạo ra một tập hợp các hành động bảo tồn và thiết lập trách nhiệm giải trình và giám sát các cấu trúc quản trị trong suốt quá trình phát triển.
Ngoài ra, OpenAI sẽ khởi động Thử thách chuẩn bị AI để ngăn chặn lạm dụng thảm khốc. OpenAI sẽ cung cấp 25.000 đô la tín dụng API cho tối đa 10 tựa game hay nhất.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
OpenAI đang thành lập một nhóm mới, Preparedness, để đánh giá "rủi ro thảm khốc" của AI
Vào ngày 27 tháng 10, OpenAI thông báo rằng họ đang thành lập một nhóm mới, Preparedness, để đánh giá và giảm thiểu "rủi ro thảm khốc" liên quan đến AI. Nhiệm vụ chính của nhóm nghiên cứu là "theo dõi, đánh giá, dự đoán và bảo vệ" các vấn đề quan trọng tiềm tàng do AI gây ra, bao gồm cả các mối đe dọa hạt nhân. Ngoài ra, nhóm nghiên cứu sẽ làm việc để giảm thiểu "các mối đe dọa hóa học, sinh học và phóng xạ", cũng như hành vi "sao chép tự động" của AI. Nhóm cũng được giao nhiệm vụ phát triển và duy trì chính sách phát triển thông báo rủi ro (RDP). RDP sẽ trình bày chi tiết cách tiếp cận của mình để phát triển đánh giá và giám sát năng lực mô hình tiên tiến nghiêm ngặt, tạo ra một tập hợp các hành động bảo tồn và thiết lập trách nhiệm giải trình và giám sát các cấu trúc quản trị trong suốt quá trình phát triển.
Ngoài ra, OpenAI sẽ khởi động Thử thách chuẩn bị AI để ngăn chặn lạm dụng thảm khốc. OpenAI sẽ cung cấp 25.000 đô la tín dụng API cho tối đa 10 tựa game hay nhất.