27 жовтня OpenAI оголосила, що створює нову команду Preparedness для оцінки та пом'якшення «катастрофічних ризиків», пов'язаних зі штучним інтелектом. Основна місія команди полягає в тому, щоб «відстежувати, оцінювати, прогнозувати та захищати» потенційно значні проблеми, спричинені штучним інтелектом, включаючи ядерні загрози. Крім того, команда працюватиме над пом'якшенням «хімічних, біологічних та радіологічних загроз», а також «автономної реплікації» ШІ. Команді також доручено розробити та підтримувати політику розвитку з урахуванням ризиків (RDP). РРП детально розповість про свій підхід до розробки суворої передової моделі оцінки можливостей та моніторингу, створення набору природоохоронних заходів та встановлення структур управління підзвітністю та наглядом протягом усього процесу розробки.
Крім того, OpenAI запустить конкурс готовності до штучного інтелекту, щоб запобігти катастрофічним зловживанням. OpenAI надасть 25 000 доларів США у вигляді кредитів API для 10 найкращих ігор.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
OpenAI формує нову команду Preparedness для оцінки «катастрофічних ризиків» ШІ
27 жовтня OpenAI оголосила, що створює нову команду Preparedness для оцінки та пом'якшення «катастрофічних ризиків», пов'язаних зі штучним інтелектом. Основна місія команди полягає в тому, щоб «відстежувати, оцінювати, прогнозувати та захищати» потенційно значні проблеми, спричинені штучним інтелектом, включаючи ядерні загрози. Крім того, команда працюватиме над пом'якшенням «хімічних, біологічних та радіологічних загроз», а також «автономної реплікації» ШІ. Команді також доручено розробити та підтримувати політику розвитку з урахуванням ризиків (RDP). РРП детально розповість про свій підхід до розробки суворої передової моделі оцінки можливостей та моніторингу, створення набору природоохоронних заходів та встановлення структур управління підзвітністю та наглядом протягом усього процесу розробки.
Крім того, OpenAI запустить конкурс готовності до штучного інтелекту, щоб запобігти катастрофічним зловживанням. OpenAI надасть 25 000 доларів США у вигляді кредитів API для 10 найкращих ігор.