El 30 de octubre, hora de Washington, el sitio web oficial de la Casa Blanca publicó la orden ejecutiva del presidente Biden sobre el desarrollo de IA (inteligencia artificial) segura, confiable y confiable.
La Casa Blanca dijo que la orden ejecutiva establece nuevos estándares para la seguridad de la IA, protege la privacidad de los datos de los usuarios, promueve la equidad y los derechos civiles, protege los intereses de los consumidores y trabajadores, promueve la innovación tecnológica y la competencia, y más.
La Orden Ejecutiva también se basa en los anteriores "Compromisos de Seguridad de la IA Generativa" firmados con 15 empresas para promover el desarrollo de una IA generativa segura, saludable y fiable en todos los ámbitos.
La emisión de esta orden ejecutiva ha jugado un papel crucial en la promoción y protección del desarrollo de productos de IA generativa como ChatGPT por parte de gigantes tecnológicos como Microsoft, OpenAI, Google, Meta, Amazon y Anthropic.
Dirección original:
Los siguientes son algunos de los contenidos de la Orden Ejecutiva
Nuevo estándar de seguridad de IA
A medida que crecen las capacidades de IA, también lo hace su impacto en la seguridad de los estadounidenses. Con esta orden ejecutiva, el presidente Biden dirige las acciones más amplias jamás tomadas para proteger a los estadounidenses de los riesgos potenciales de los sistemas de IA:
Los desarrolladores de los sistemas de IA más potentes deben compartir los resultados de sus pruebas de seguridad y otra información crítica con el gobierno de Estados Unidos. Según la Ley de Producción de Defensa, la orden requerirá que las empresas que desarrollen cualquier modelo base que represente un riesgo grave para la seguridad nacional, la seguridad económica nacional o la salud y seguridad públicas notifiquen al gobierno federal cuando entrenen el modelo y compartan los resultados de todas las pruebas de seguridad del equipo rojo. Estas medidas garantizarán que los sistemas de IA sean seguros, fiables y dignos de confianza hasta que la empresa los publique.
Desarrolle estándares, herramientas y pruebas para ayudar a garantizar que los sistemas de IA sean seguros, confiables y dignos de confianza. El Instituto Nacional de Estándares y Tecnología desarrollará estándares rigurosos para una amplia gama de pruebas del equipo rojo para garantizar la seguridad antes de su lanzamiento público. El Departamento de Seguridad Nacional aplicará estas normas a los sectores de infraestructuras críticas y establecerá un Consejo de Seguridad y Protección de la IA.
El Departamento de Energía y el Departamento de Seguridad Nacional también abordarán la amenaza de los sistemas de IA a la infraestructura crítica, así como los riesgos químicos, biológicos, radiológicos, nucleares y de ciberseguridad. En general, estas son las acciones más importantes que cualquier gobierno está tomando para avanzar en la seguridad de la IA.
Protéjase contra el riesgo de utilizar la ingeniería de IA para diseñar biomateriales peligrosos mediante el desarrollo de rigurosos criterios de selección para la nueva biosíntesis. Las instituciones que financian proyectos de ciencias de la vida condicionarán estos criterios a la financiación federal, creando fuertes incentivos para garantizar la detección y la gestión adecuadas de los riesgos que la IA puede exacerbar.
Proteja a los estadounidenses del fraude y el engaño habilitados por IA mediante el establecimiento de estándares y mejores prácticas para la autenticación de contenido y la marca de agua.
El Departamento de Comercio desarrollará pautas para la autenticación de contenido y marcas de agua para etiquetar claramente el contenido generado por IA. Las agencias federales utilizarán estas herramientas para facilitar que los estadounidenses sepan que las comunicaciones que reciben del gobierno son genuinas y para dar ejemplo al sector privado y a los gobiernos de todo el mundo.
Establecer un programa avanzado de ciberseguridad para desarrollar herramientas de IA para encontrar y corregir vulnerabilidades en software crítico como una forma de aprovechar los desafíos de ciberseguridad de IA en curso de la administración Biden-Harris. En general, estos esfuerzos aprovecharán las capacidades cibernéticas potenciales de la IA para hacer que el software y las redes sean más seguros.
Ordena al Consejo de Seguridad Nacional y a la Oficina del Jefe de Gabinete de la Casa Blanca que desarrollen un memorando de seguridad nacional sobre IA y seguridad. El documento garantizará el uso seguro, ético y eficaz de la IA por parte del ejército y la inteligencia de EE. UU. en las misiones y guiará las operaciones para contrarrestar el uso de la IA militar por parte de un adversario.
Protegiendo la privacidad estadounidense
Sin salvaguardas, la IA podría amenazar aún más la privacidad de los estadounidenses. La IA no solo facilita la extracción, identificación y utilización de datos personales, sino que también intensifica el incentivo para hacerlo, ya que las empresas utilizan los datos para entrenar sistemas de IA.
Para proteger mejor la privacidad de los estadounidenses, incluidos los riesgos de la IA, el presidente pidió al Congreso que apruebe una legislación bipartidista sobre la privacidad de los datos para proteger a todos los estadounidenses, especialmente a los niños, y ordenó las siguientes acciones:
Proteger la privacidad de los estadounidenses priorizando el apoyo para acelerar el desarrollo y el uso de tecnologías que preservan la privacidad, incluidas las tecnologías de vanguardia que permiten que los sistemas de IA entrenen mientras protegen la privacidad de los datos de entrenamiento.
Al financiar una red de coordinación de la investigación para mejorar la investigación y las tecnologías que preservan la privacidad, como las herramientas de cifrado para proteger la privacidad individual, la red avanzará en rápidos avances y desarrollos. La Fundación Nacional de Ciencias también trabajará con la red para promover la adopción de tecnologías líderes para preservar la privacidad por parte de las agencias federales.
Evaluando cómo las agencias recopilan y utilizan la información disponible comercialmente, incluso de los corredores de datos, y fortaleciendo las pautas de privacidad de las agencias federales para considerar los riesgos de la IA. Esta labor se centrará en particular en la información disponible comercialmente que contiene datos de identificación personal.
Desarrollar directrices para que las agencias federales evalúen la eficacia de las tecnologías que preservan la privacidad, incluidas las utilizadas en los sistemas de IA. Estas pautas promoverán los esfuerzos de la agencia para proteger los datos de los estadounidenses.
Garantizar el uso responsable de la IA por parte de los departamentos gubernamentales
La IA puede ayudar a los gobiernos a ofrecer mejores resultados para el pueblo estadounidense. Se puede ampliar la capacidad de las instituciones para regular, gobernar y otorgar beneficios, y se pueden reducir los costos y mejorar los sistemas gubernamentales.
Sin embargo, también puede haber riesgos asociados con el uso de la IA, como la discriminación y la toma de decisiones inseguras. Para garantizar que las agencias gubernamentales implementen la IA de manera responsable y modernicen la infraestructura federal de IA, tome las siguientes medidas:
Guía para editores sobre el uso de la IA, incluidos criterios claros para proteger los derechos y la seguridad, mejorar la adquisición de IA y mejorar la implementación de la IA.
Ayude a las agencias a acceder a productos y servicios de IA designados de forma más rápida, barata y eficiente a través de contratos más rápidos y eficientes.
Acelere la rápida contratación de profesionales de IA a través de la Oficina de Administración de Personal, los Servicios Digitales de EE. UU., el Equipo Digital de EE. UU. y la Beca de Innovación del Presidente para una onda expansiva de talento de IA en todo el gobierno. La organización proporcionará capacitación en IA a los empleados de todos los niveles en campos relacionados.
Defender los intereses de los consumidores, pacientes y estudiantes
La IA puede aportar beneficios tangibles a los consumidores, por ejemplo, haciendo que los productos sean mejores, más baratos y estén más disponibles. Pero la IA también aumenta el riesgo de dañar, engañar o dañar a los estadounidenses. Para garantizar que la IA beneficie a los estadounidenses y al mismo tiempo proteja a los consumidores, el Presidente ordenó las siguientes acciones:
Avanzar en el uso responsable de la IA en la atención sanitaria y el desarrollo de medicamentos asequibles que salven vidas.
El Departamento de Salud y Servicios Humanos también establecerá un programa de seguridad para recibir informes de daños o prácticas médicas inseguras causadas por la IA y tomar medidas correctivas.
Dar forma al potencial de la IA en la educación, por ejemplo, mediante la creación de recursos de tutoría personalizados en las escuelas.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
La Casa Blanca emitió una orden presidencial para fomentar el desarrollo de la IA de forma segura y fiable
Fuente original: AIGC Open Community
El 30 de octubre, hora de Washington, el sitio web oficial de la Casa Blanca publicó la orden ejecutiva del presidente Biden sobre el desarrollo de IA (inteligencia artificial) segura, confiable y confiable.
La Casa Blanca dijo que la orden ejecutiva establece nuevos estándares para la seguridad de la IA, protege la privacidad de los datos de los usuarios, promueve la equidad y los derechos civiles, protege los intereses de los consumidores y trabajadores, promueve la innovación tecnológica y la competencia, y más.
La Orden Ejecutiva también se basa en los anteriores "Compromisos de Seguridad de la IA Generativa" firmados con 15 empresas para promover el desarrollo de una IA generativa segura, saludable y fiable en todos los ámbitos.
La emisión de esta orden ejecutiva ha jugado un papel crucial en la promoción y protección del desarrollo de productos de IA generativa como ChatGPT por parte de gigantes tecnológicos como Microsoft, OpenAI, Google, Meta, Amazon y Anthropic.
Los siguientes son algunos de los contenidos de la Orden Ejecutiva
Nuevo estándar de seguridad de IA
A medida que crecen las capacidades de IA, también lo hace su impacto en la seguridad de los estadounidenses. Con esta orden ejecutiva, el presidente Biden dirige las acciones más amplias jamás tomadas para proteger a los estadounidenses de los riesgos potenciales de los sistemas de IA:
Los desarrolladores de los sistemas de IA más potentes deben compartir los resultados de sus pruebas de seguridad y otra información crítica con el gobierno de Estados Unidos. Según la Ley de Producción de Defensa, la orden requerirá que las empresas que desarrollen cualquier modelo base que represente un riesgo grave para la seguridad nacional, la seguridad económica nacional o la salud y seguridad públicas notifiquen al gobierno federal cuando entrenen el modelo y compartan los resultados de todas las pruebas de seguridad del equipo rojo. Estas medidas garantizarán que los sistemas de IA sean seguros, fiables y dignos de confianza hasta que la empresa los publique.
Desarrolle estándares, herramientas y pruebas para ayudar a garantizar que los sistemas de IA sean seguros, confiables y dignos de confianza. El Instituto Nacional de Estándares y Tecnología desarrollará estándares rigurosos para una amplia gama de pruebas del equipo rojo para garantizar la seguridad antes de su lanzamiento público. El Departamento de Seguridad Nacional aplicará estas normas a los sectores de infraestructuras críticas y establecerá un Consejo de Seguridad y Protección de la IA.
El Departamento de Energía y el Departamento de Seguridad Nacional también abordarán la amenaza de los sistemas de IA a la infraestructura crítica, así como los riesgos químicos, biológicos, radiológicos, nucleares y de ciberseguridad. En general, estas son las acciones más importantes que cualquier gobierno está tomando para avanzar en la seguridad de la IA.
Protéjase contra el riesgo de utilizar la ingeniería de IA para diseñar biomateriales peligrosos mediante el desarrollo de rigurosos criterios de selección para la nueva biosíntesis. Las instituciones que financian proyectos de ciencias de la vida condicionarán estos criterios a la financiación federal, creando fuertes incentivos para garantizar la detección y la gestión adecuadas de los riesgos que la IA puede exacerbar.
Proteja a los estadounidenses del fraude y el engaño habilitados por IA mediante el establecimiento de estándares y mejores prácticas para la autenticación de contenido y la marca de agua.
El Departamento de Comercio desarrollará pautas para la autenticación de contenido y marcas de agua para etiquetar claramente el contenido generado por IA. Las agencias federales utilizarán estas herramientas para facilitar que los estadounidenses sepan que las comunicaciones que reciben del gobierno son genuinas y para dar ejemplo al sector privado y a los gobiernos de todo el mundo.
Establecer un programa avanzado de ciberseguridad para desarrollar herramientas de IA para encontrar y corregir vulnerabilidades en software crítico como una forma de aprovechar los desafíos de ciberseguridad de IA en curso de la administración Biden-Harris. En general, estos esfuerzos aprovecharán las capacidades cibernéticas potenciales de la IA para hacer que el software y las redes sean más seguros.
Ordena al Consejo de Seguridad Nacional y a la Oficina del Jefe de Gabinete de la Casa Blanca que desarrollen un memorando de seguridad nacional sobre IA y seguridad. El documento garantizará el uso seguro, ético y eficaz de la IA por parte del ejército y la inteligencia de EE. UU. en las misiones y guiará las operaciones para contrarrestar el uso de la IA militar por parte de un adversario.
Protegiendo la privacidad estadounidense
Sin salvaguardas, la IA podría amenazar aún más la privacidad de los estadounidenses. La IA no solo facilita la extracción, identificación y utilización de datos personales, sino que también intensifica el incentivo para hacerlo, ya que las empresas utilizan los datos para entrenar sistemas de IA.
Para proteger mejor la privacidad de los estadounidenses, incluidos los riesgos de la IA, el presidente pidió al Congreso que apruebe una legislación bipartidista sobre la privacidad de los datos para proteger a todos los estadounidenses, especialmente a los niños, y ordenó las siguientes acciones:
Proteger la privacidad de los estadounidenses priorizando el apoyo para acelerar el desarrollo y el uso de tecnologías que preservan la privacidad, incluidas las tecnologías de vanguardia que permiten que los sistemas de IA entrenen mientras protegen la privacidad de los datos de entrenamiento.
Al financiar una red de coordinación de la investigación para mejorar la investigación y las tecnologías que preservan la privacidad, como las herramientas de cifrado para proteger la privacidad individual, la red avanzará en rápidos avances y desarrollos. La Fundación Nacional de Ciencias también trabajará con la red para promover la adopción de tecnologías líderes para preservar la privacidad por parte de las agencias federales.
Evaluando cómo las agencias recopilan y utilizan la información disponible comercialmente, incluso de los corredores de datos, y fortaleciendo las pautas de privacidad de las agencias federales para considerar los riesgos de la IA. Esta labor se centrará en particular en la información disponible comercialmente que contiene datos de identificación personal.
Desarrollar directrices para que las agencias federales evalúen la eficacia de las tecnologías que preservan la privacidad, incluidas las utilizadas en los sistemas de IA. Estas pautas promoverán los esfuerzos de la agencia para proteger los datos de los estadounidenses.
Garantizar el uso responsable de la IA por parte de los departamentos gubernamentales
La IA puede ayudar a los gobiernos a ofrecer mejores resultados para el pueblo estadounidense. Se puede ampliar la capacidad de las instituciones para regular, gobernar y otorgar beneficios, y se pueden reducir los costos y mejorar los sistemas gubernamentales.
Sin embargo, también puede haber riesgos asociados con el uso de la IA, como la discriminación y la toma de decisiones inseguras. Para garantizar que las agencias gubernamentales implementen la IA de manera responsable y modernicen la infraestructura federal de IA, tome las siguientes medidas:
Guía para editores sobre el uso de la IA, incluidos criterios claros para proteger los derechos y la seguridad, mejorar la adquisición de IA y mejorar la implementación de la IA.
Ayude a las agencias a acceder a productos y servicios de IA designados de forma más rápida, barata y eficiente a través de contratos más rápidos y eficientes.
Acelere la rápida contratación de profesionales de IA a través de la Oficina de Administración de Personal, los Servicios Digitales de EE. UU., el Equipo Digital de EE. UU. y la Beca de Innovación del Presidente para una onda expansiva de talento de IA en todo el gobierno. La organización proporcionará capacitación en IA a los empleados de todos los niveles en campos relacionados.
Defender los intereses de los consumidores, pacientes y estudiantes
La IA puede aportar beneficios tangibles a los consumidores, por ejemplo, haciendo que los productos sean mejores, más baratos y estén más disponibles. Pero la IA también aumenta el riesgo de dañar, engañar o dañar a los estadounidenses. Para garantizar que la IA beneficie a los estadounidenses y al mismo tiempo proteja a los consumidores, el Presidente ordenó las siguientes acciones:
Avanzar en el uso responsable de la IA en la atención sanitaria y el desarrollo de medicamentos asequibles que salven vidas.
El Departamento de Salud y Servicios Humanos también establecerá un programa de seguridad para recibir informes de daños o prácticas médicas inseguras causadas por la IA y tomar medidas correctivas.
Dar forma al potencial de la IA en la educación, por ejemplo, mediante la creación de recursos de tutoría personalizados en las escuelas.