27 октября OpenAI объявила о создании новой команды Preparedness для оценки и смягчения «катастрофических рисков», связанных с ИИ. Основная миссия команды заключается в «отслеживании, оценке, прогнозировании и защите» потенциально серьезных проблем, вызванных искусственным интеллектом, включая ядерные угрозы. Кроме того, команда будет работать над смягчением «химических, биологических и радиологических угроз», а также над «автономной репликацией» ИИ. В задачи команды также входит разработка и поддержание риск-ориентированной политики развития (RDP). В рамках RDP будет подробно описан подход к разработке тщательной оценки и мониторингу возможностей передовых моделей, созданию набора мер по сохранению и созданию структур подотчетности и надзора на протяжении всего процесса разработки.
Кроме того, OpenAI запустит AI Preparedness Challenge, чтобы предотвратить катастрофические злоупотребления. OpenAI предоставит 25 000 долларов США в виде кредитов API для 10 лучших игр.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
OpenAI формирует новую команду, Preparedness, для оценки «катастрофических рисков» ИИ
27 октября OpenAI объявила о создании новой команды Preparedness для оценки и смягчения «катастрофических рисков», связанных с ИИ. Основная миссия команды заключается в «отслеживании, оценке, прогнозировании и защите» потенциально серьезных проблем, вызванных искусственным интеллектом, включая ядерные угрозы. Кроме того, команда будет работать над смягчением «химических, биологических и радиологических угроз», а также над «автономной репликацией» ИИ. В задачи команды также входит разработка и поддержание риск-ориентированной политики развития (RDP). В рамках RDP будет подробно описан подход к разработке тщательной оценки и мониторингу возможностей передовых моделей, созданию набора мер по сохранению и созданию структур подотчетности и надзора на протяжении всего процесса разработки.
Кроме того, OpenAI запустит AI Preparedness Challenge, чтобы предотвратить катастрофические злоупотребления. OpenAI предоставит 25 000 долларов США в виде кредитов API для 10 лучших игр.