Em 30 de outubro, horário de Washington, o site oficial da Casa Branca divulgou a ordem executiva do presidente Biden sobre o desenvolvimento de IA (inteligência artificial) segura, confiável e confiável.
A Casa Branca disse que a ordem executiva estabelece novos padrões para a segurança e proteção da IA, protege a privacidade dos dados dos usuários, promove a equidade e os direitos civis, protege os interesses dos consumidores e trabalhadores, promove a inovação tecnológica e a concorrência, e muito mais.
O EO também se baseia nos anteriores "Generative AI Safety Pledges" assinados com 15 empresas para promover o desenvolvimento de IA generativa segura, saudável e confiável em todos os setores.
A emissão desta ordem executiva desempenhou um papel crucial na promoção e proteção do desenvolvimento de produtos de IA generativa, como o ChatGPT, por gigantes da tecnologia como Microsoft, OpenAI, Google, Meta, Amazon e Anthropic.
Endereço original:
Seguem-se alguns dos conteúdos da Ordem Executiva:
Novo Padrão de Segurança de IA
À medida que as capacidades de IA crescem, aumenta também o seu impacto na segurança dos americanos. Com esta ordem executiva, o presidente Biden dirige as ações mais amplas já tomadas para proteger os americanos dos riscos potenciais dos sistemas de IA:
Os desenvolvedores dos sistemas de IA mais poderosos são obrigados a compartilhar seus resultados de testes de segurança e outras informações críticas com o governo dos EUA. De acordo com a Lei de Produção de Defesa, a ordem exigirá que as empresas que desenvolvam qualquer modelo básico que represente um sério risco para a segurança nacional, a segurança econômica nacional ou a saúde e segurança pública notifiquem o governo federal ao treinar o modelo e compartilhem os resultados de todos os testes de segurança da equipe vermelha. Essas medidas garantirão que os sistemas de IA sejam seguros, confiáveis e confiáveis até que sejam divulgados publicamente pela empresa.
Desenvolva padrões, ferramentas e testes para ajudar a garantir que os sistemas de IA sejam seguros, confiáveis e confiáveis. O Instituto Nacional de Padrões e Tecnologia desenvolverá padrões rigorosos para uma ampla gama de testes de equipe vermelha para garantir a segurança antes da liberação pública. O Departamento de Segurança Interna aplicará estas normas a setores de infraestruturas críticas e estabelecerá um Conselho de Segurança e Proteção da IA.
O Departamento de Energia e o Departamento de Segurança Interna também abordarão a ameaça dos sistemas de IA às infraestruturas críticas, bem como os riscos químicos, biológicos, radiológicos, nucleares e de cibersegurança. No geral, essas são as ações mais importantes que qualquer governo está tomando para promover a segurança da IA.
Proteja-se contra o risco de usar a engenharia de IA para projetar biomateriais perigosos, desenvolvendo critérios de triagem rigorosos para novas biossínteses. As instituições que financiam projetos de ciências da vida condicionarão esses critérios ao financiamento federal, criando fortes incentivos para garantir a triagem e o gerenciamento adequados dos riscos que a IA pode exacerbar.
Proteja os americanos contra fraudes e enganos habilitados por IA estabelecendo padrões e práticas recomendadas para autenticação de conteúdo e marca d'água.
O Departamento de Comércio desenvolverá diretrizes para autenticação de conteúdo e marca d'água para rotular claramente o conteúdo gerado por IA. As agências federais usarão essas ferramentas para tornar mais fácil para os americanos saberem que as comunicações que recebem do governo são genuínas e para dar um exemplo para o setor privado e governos em todo o mundo.
Estabelecer um programa avançado de segurança cibernética para desenvolver ferramentas de IA para encontrar e corrigir vulnerabilidades em software crítico como forma de aproveitar os desafios contínuos de segurança cibernética de IA do governo Biden-Harris. No geral, esses esforços aproveitarão as capacidades cibernéticas potencialmente revolucionárias da IA para tornar o software e as redes mais seguros.
Dirige o Conselho de Segurança Nacional e o Gabinete do Chefe do Estado-Maior da Casa Branca para desenvolver um memorando de segurança nacional sobre IA e segurança. O documento garantirá o uso seguro, ético e eficaz da IA pelos militares e inteligência dos EUA em missões e orientará as operações para combater o uso de IA militar por um adversário.
Protegendo a privacidade americana
Sem salvaguardas, a IA pode ameaçar ainda mais a privacidade dos americanos. A IA não só torna mais fácil extrair, identificar e utilizar dados pessoais, mas também intensifica o incentivo para fazê-lo, à medida que as empresas usam dados para treinar sistemas de IA.
Para proteger melhor a privacidade dos americanos, incluindo os riscos da IA, o presidente pediu ao Congresso que aprovasse uma legislação bipartidária sobre dados de privacidade para proteger todos os americanos, especialmente as crianças, e direcionou as seguintes ações:
Proteja a privacidade dos americanos, priorizando o apoio para acelerar o desenvolvimento e o uso de tecnologias de preservação da privacidade, incluindo tecnologias de ponta que permitem que os sistemas de IA treinem enquanto protegem a privacidade dos dados de treinamento.
Ao financiar uma rede de coordenação da investigação destinada a reforçar a investigação e as tecnologias que preservam a privacidade, tais como ferramentas de encriptação para proteger a privacidade individual, a rede promoverá avanços e desenvolvimentos rápidos. A National Science Foundation também trabalhará com a rede para promover a adoção de tecnologias líderes de preservação da privacidade por agências federais.
Avaliando como as agências coletam e usam informações disponíveis comercialmente, inclusive de corretores de dados, e fortalecendo as diretrizes de privacidade das agências federais para considerar os riscos da IA. Este trabalho centrar-se-á, em particular, em informações comercialmente disponíveis que contenham dados pessoalmente identificáveis.
Desenvolver diretrizes para as agências federais avaliarem a eficácia das tecnologias de preservação da privacidade, incluindo as usadas em sistemas de IA. Essas diretrizes promoverão os esforços da agência para proteger os dados dos americanos.
Garantir o uso responsável da IA pelos departamentos governamentais
A IA pode ajudar os governos a oferecer melhores resultados para o povo americano. A capacidade das instituições para regulamentar, governar e proporcionar benefícios pode ser expandida, os custos podem ser reduzidos e os sistemas governamentais podem ser melhorados.
No entanto, também podem existir riscos associados à utilização da IA, como a discriminação e a tomada de decisões inseguras. Para garantir que as agências governamentais implantem a IA de forma responsável e modernizem a infraestrutura federal de IA, tome as seguintes ações:
Orientações para os editores sobre a utilização da IA, incluindo critérios claros para proteger os direitos e a segurança, melhorar a aquisição de IA e melhorar a implantação da IA.
Ajude as agências a acessar produtos e serviços de IA designados de forma mais rápida, barata e eficiente por meio de contratos mais rápidos e eficientes.
Acelere a contratação rápida de profissionais de IA por meio do Escritório de Gestão de Pessoal, dos Serviços Digitais dos EUA, da Equipe Digital dos EUA e da Bolsa de Inovação do Presidente para uma onda de choque de talentos de IA em todo o governo. A organização fornecerá treinamento de IA para funcionários em todos os níveis em áreas relacionadas.
Defender os interesses dos consumidores, doentes e estudantes
A IA pode trazer benefícios tangíveis aos consumidores, por exemplo, tornando os produtos melhores, mais baratos e mais amplamente disponíveis. Mas a IA também aumenta o risco de prejudicar, enganar ou prejudicar os americanos. Para garantir que a IA beneficie os americanos enquanto protege os consumidores, o presidente dirigiu as seguintes ações:
Promover a utilização responsável da IA nos cuidados de saúde e o desenvolvimento de medicamentos a preços acessíveis que salvam vidas.
O Departamento de Saúde e Serviços Humanos também estabelecerá um programa de segurança para receber relatórios de danos ou práticas médicas inseguras causadas pela IA e tomar medidas corretivas.
Moldar o potencial da IA na educação, por exemplo, criando recursos de tutoria personalizados nas escolas.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
A Casa Branca emitiu uma ordem presidencial para incentivar o desenvolvimento da IA de forma segura e confiável
Fonte original: AIGC Open Community
Em 30 de outubro, horário de Washington, o site oficial da Casa Branca divulgou a ordem executiva do presidente Biden sobre o desenvolvimento de IA (inteligência artificial) segura, confiável e confiável.
A Casa Branca disse que a ordem executiva estabelece novos padrões para a segurança e proteção da IA, protege a privacidade dos dados dos usuários, promove a equidade e os direitos civis, protege os interesses dos consumidores e trabalhadores, promove a inovação tecnológica e a concorrência, e muito mais.
O EO também se baseia nos anteriores "Generative AI Safety Pledges" assinados com 15 empresas para promover o desenvolvimento de IA generativa segura, saudável e confiável em todos os setores.
A emissão desta ordem executiva desempenhou um papel crucial na promoção e proteção do desenvolvimento de produtos de IA generativa, como o ChatGPT, por gigantes da tecnologia como Microsoft, OpenAI, Google, Meta, Amazon e Anthropic.
Seguem-se alguns dos conteúdos da Ordem Executiva:
Novo Padrão de Segurança de IA
À medida que as capacidades de IA crescem, aumenta também o seu impacto na segurança dos americanos. Com esta ordem executiva, o presidente Biden dirige as ações mais amplas já tomadas para proteger os americanos dos riscos potenciais dos sistemas de IA:
Os desenvolvedores dos sistemas de IA mais poderosos são obrigados a compartilhar seus resultados de testes de segurança e outras informações críticas com o governo dos EUA. De acordo com a Lei de Produção de Defesa, a ordem exigirá que as empresas que desenvolvam qualquer modelo básico que represente um sério risco para a segurança nacional, a segurança econômica nacional ou a saúde e segurança pública notifiquem o governo federal ao treinar o modelo e compartilhem os resultados de todos os testes de segurança da equipe vermelha. Essas medidas garantirão que os sistemas de IA sejam seguros, confiáveis e confiáveis até que sejam divulgados publicamente pela empresa.
Desenvolva padrões, ferramentas e testes para ajudar a garantir que os sistemas de IA sejam seguros, confiáveis e confiáveis. O Instituto Nacional de Padrões e Tecnologia desenvolverá padrões rigorosos para uma ampla gama de testes de equipe vermelha para garantir a segurança antes da liberação pública. O Departamento de Segurança Interna aplicará estas normas a setores de infraestruturas críticas e estabelecerá um Conselho de Segurança e Proteção da IA.
O Departamento de Energia e o Departamento de Segurança Interna também abordarão a ameaça dos sistemas de IA às infraestruturas críticas, bem como os riscos químicos, biológicos, radiológicos, nucleares e de cibersegurança. No geral, essas são as ações mais importantes que qualquer governo está tomando para promover a segurança da IA.
Proteja-se contra o risco de usar a engenharia de IA para projetar biomateriais perigosos, desenvolvendo critérios de triagem rigorosos para novas biossínteses. As instituições que financiam projetos de ciências da vida condicionarão esses critérios ao financiamento federal, criando fortes incentivos para garantir a triagem e o gerenciamento adequados dos riscos que a IA pode exacerbar.
Proteja os americanos contra fraudes e enganos habilitados por IA estabelecendo padrões e práticas recomendadas para autenticação de conteúdo e marca d'água.
O Departamento de Comércio desenvolverá diretrizes para autenticação de conteúdo e marca d'água para rotular claramente o conteúdo gerado por IA. As agências federais usarão essas ferramentas para tornar mais fácil para os americanos saberem que as comunicações que recebem do governo são genuínas e para dar um exemplo para o setor privado e governos em todo o mundo.
Estabelecer um programa avançado de segurança cibernética para desenvolver ferramentas de IA para encontrar e corrigir vulnerabilidades em software crítico como forma de aproveitar os desafios contínuos de segurança cibernética de IA do governo Biden-Harris. No geral, esses esforços aproveitarão as capacidades cibernéticas potencialmente revolucionárias da IA para tornar o software e as redes mais seguros.
Dirige o Conselho de Segurança Nacional e o Gabinete do Chefe do Estado-Maior da Casa Branca para desenvolver um memorando de segurança nacional sobre IA e segurança. O documento garantirá o uso seguro, ético e eficaz da IA pelos militares e inteligência dos EUA em missões e orientará as operações para combater o uso de IA militar por um adversário.
Protegendo a privacidade americana
Sem salvaguardas, a IA pode ameaçar ainda mais a privacidade dos americanos. A IA não só torna mais fácil extrair, identificar e utilizar dados pessoais, mas também intensifica o incentivo para fazê-lo, à medida que as empresas usam dados para treinar sistemas de IA.
Para proteger melhor a privacidade dos americanos, incluindo os riscos da IA, o presidente pediu ao Congresso que aprovasse uma legislação bipartidária sobre dados de privacidade para proteger todos os americanos, especialmente as crianças, e direcionou as seguintes ações:
Proteja a privacidade dos americanos, priorizando o apoio para acelerar o desenvolvimento e o uso de tecnologias de preservação da privacidade, incluindo tecnologias de ponta que permitem que os sistemas de IA treinem enquanto protegem a privacidade dos dados de treinamento.
Ao financiar uma rede de coordenação da investigação destinada a reforçar a investigação e as tecnologias que preservam a privacidade, tais como ferramentas de encriptação para proteger a privacidade individual, a rede promoverá avanços e desenvolvimentos rápidos. A National Science Foundation também trabalhará com a rede para promover a adoção de tecnologias líderes de preservação da privacidade por agências federais.
Avaliando como as agências coletam e usam informações disponíveis comercialmente, inclusive de corretores de dados, e fortalecendo as diretrizes de privacidade das agências federais para considerar os riscos da IA. Este trabalho centrar-se-á, em particular, em informações comercialmente disponíveis que contenham dados pessoalmente identificáveis.
Desenvolver diretrizes para as agências federais avaliarem a eficácia das tecnologias de preservação da privacidade, incluindo as usadas em sistemas de IA. Essas diretrizes promoverão os esforços da agência para proteger os dados dos americanos.
Garantir o uso responsável da IA pelos departamentos governamentais
A IA pode ajudar os governos a oferecer melhores resultados para o povo americano. A capacidade das instituições para regulamentar, governar e proporcionar benefícios pode ser expandida, os custos podem ser reduzidos e os sistemas governamentais podem ser melhorados.
No entanto, também podem existir riscos associados à utilização da IA, como a discriminação e a tomada de decisões inseguras. Para garantir que as agências governamentais implantem a IA de forma responsável e modernizem a infraestrutura federal de IA, tome as seguintes ações:
Orientações para os editores sobre a utilização da IA, incluindo critérios claros para proteger os direitos e a segurança, melhorar a aquisição de IA e melhorar a implantação da IA.
Ajude as agências a acessar produtos e serviços de IA designados de forma mais rápida, barata e eficiente por meio de contratos mais rápidos e eficientes.
Acelere a contratação rápida de profissionais de IA por meio do Escritório de Gestão de Pessoal, dos Serviços Digitais dos EUA, da Equipe Digital dos EUA e da Bolsa de Inovação do Presidente para uma onda de choque de talentos de IA em todo o governo. A organização fornecerá treinamento de IA para funcionários em todos os níveis em áreas relacionadas.
Defender os interesses dos consumidores, doentes e estudantes
A IA pode trazer benefícios tangíveis aos consumidores, por exemplo, tornando os produtos melhores, mais baratos e mais amplamente disponíveis. Mas a IA também aumenta o risco de prejudicar, enganar ou prejudicar os americanos. Para garantir que a IA beneficie os americanos enquanto protege os consumidores, o presidente dirigiu as seguintes ações:
Promover a utilização responsável da IA nos cuidados de saúde e o desenvolvimento de medicamentos a preços acessíveis que salvam vidas.
O Departamento de Saúde e Serviços Humanos também estabelecerá um programa de segurança para receber relatórios de danos ou práticas médicas inseguras causadas pela IA e tomar medidas corretivas.
Moldar o potencial da IA na educação, por exemplo, criando recursos de tutoria personalizados nas escolas.