Em 27 de outubro, a OpenAI anunciou que está criando uma nova equipe, Preparedness, para avaliar e mitigar "riscos catastróficos" associados à IA. A principal missão da equipa é "rastrear, avaliar, prever e proteger" problemas potencialmente significativos causados pela IA, incluindo ameaças nucleares. Além disso, a equipe trabalhará para mitigar "ameaças químicas, biológicas e radiológicas", bem como o comportamento de "replicação autônoma" da IA. A equipa está também encarregada de desenvolver e manter uma política de desenvolvimento informada sobre os riscos (PDR). O PDR irá detalhar a sua abordagem para desenvolver uma avaliação e monitorização rigorosas da capacidade de modelos de ponta, criando um conjunto de ações de conservação e estabelecendo estruturas de governação de responsabilização e supervisão ao longo do processo de desenvolvimento.
Além disso, a OpenAI lançará o Desafio de Preparação para a IA para prevenir abusos catastróficos. A OpenAI fornecerá $25.000 em créditos de API para até 10 dos melhores títulos.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
A OpenAI está formando uma nova equipe, a Preparedness, para avaliar os "riscos catastróficos" da IA
Em 27 de outubro, a OpenAI anunciou que está criando uma nova equipe, Preparedness, para avaliar e mitigar "riscos catastróficos" associados à IA. A principal missão da equipa é "rastrear, avaliar, prever e proteger" problemas potencialmente significativos causados pela IA, incluindo ameaças nucleares. Além disso, a equipe trabalhará para mitigar "ameaças químicas, biológicas e radiológicas", bem como o comportamento de "replicação autônoma" da IA. A equipa está também encarregada de desenvolver e manter uma política de desenvolvimento informada sobre os riscos (PDR). O PDR irá detalhar a sua abordagem para desenvolver uma avaliação e monitorização rigorosas da capacidade de modelos de ponta, criando um conjunto de ações de conservação e estabelecendo estruturas de governação de responsabilização e supervisão ao longo do processo de desenvolvimento.
Além disso, a OpenAI lançará o Desafio de Preparação para a IA para prevenir abusos catastróficos. A OpenAI fornecerá $25.000 em créditos de API para até 10 dos melhores títulos.