0****1 Introducción

En los últimos años, el rápido progreso de la tecnología AIGC (Inteligencia Artificial Generativa) ha traído nuevas oportunidades para el desarrollo social y económico. Todos los ámbitos de la vida han comenzado a prestar atención a la aplicación de tecnologías relacionadas con AIGC en la implementación comercial, y las nuevas empresas y proyectos relacionados con AIGC han surgido como hongos. Sin embargo, AIGC también ha presentado nuevos desafíos durante su desarrollo, como la difusión de información falsa, la infracción de los derechos de información personal, la seguridad de los datos y los prejuicios.

En respuesta al rápido desarrollo de AIGC, siete departamentos, incluida la Administración del Ciberespacio de China, la Comisión Nacional de Desarrollo y Reforma y el Ministerio de Educación, publicaron oficialmente las "Medidas provisionales para la gestión de los servicios de inteligencia artificial generativa" el 10 de julio. , que es también la primera regulación regulatoria del mundo en el campo de AIGC.

Además de esta regulación regulatoria especial, mi país ha emitido una serie de leyes, reglamentos administrativos y otros documentos normativos en materia de desarrollo tecnológico, seguridad de redes, protección de datos personales, información en Internet, etc. Ángulo del sistema de gobernanza normativa.

Este artículo resume y ordena las políticas regulatorias actuales en el campo de la inteligencia artificial en el país y en el extranjero por parte del bufete de abogados Shanghai Mankiw.

0****2 Supervisión de AIGC por parte de China

(1) Ley

"La Ley de Progreso de la Ciencia y la Tecnología de la República Popular China"

La Ley Básica en el campo de la ciencia y la tecnología en mi país será revisada por segunda vez en 2021 y entrará en vigor el 1 de enero de 2022.

"Ley de Protección de Información Personal de la República Popular China"

Se implementará oficialmente el 1 de noviembre de 2021, e incluye algunas regulaciones sobre inteligencia artificial, como prohibir el uso de información personal para actividades ilegales y violatorias de los derechos personales, y exigir la transparencia y explicabilidad de la toma de decisiones de inteligencia artificial.

"Ley de Seguridad de Datos de la República Popular China"

Se implementará oficialmente el 1 de septiembre de 2021, e incluye algunas regulaciones sobre inteligencia artificial, como el requisito de fortalecer la protección de seguridad y la gestión de datos relacionados con la inteligencia artificial.

"Ley de Seguridad de Redes de la República Popular China"

Entró en vigencia el 1 de junio de 2017. El artículo 22 estipula que los operadores de red deben tomar las medidas técnicas y otras medidas necesarias para prevenir y reducir la ocurrencia de incidentes de seguridad en la red, incluido el uso de inteligencia artificial y otros medios técnicos.

(2) Reglamentos del departamento

"Medidas Provisionales para la Gestión del Servicio de Inteligencia Artificial Generativa"

El 11 de abril de 2023, la Administración del Ciberespacio de China emitió las "Medidas para la Administración de Servicios de Inteligencia Artificial Generativa (Borrador para comentarios)" (en adelante, las "Medidas (Borrador para comentarios)"). Después de solicitar y considerar exhaustivamente las opiniones de todas las partes, la Administración del Ciberespacio de China, junto con la Comisión Nacional de Desarrollo y Reforma, el Ministerio de Educación, el Ministerio de Ciencia y Tecnología, el Ministerio de Industria y Tecnología de la Información y la Administración Estatal de Radio, Cine y Televisión, lanzó oficialmente "Medidas Provisionales para la Administración de Servicios de Inteligencia Artificial Generativa" el 10 de julio de 2023 (en lo sucesivo, las "Medidas Provisionales"). Como el primer documento legal a nivel nacional del mundo que regula directamente la inteligencia artificial generativa, las "Medidas provisionales" se implementarán oficialmente el 15 de agosto de 2023. El modelo de gestión de gobernanza ágil de inteligencia artificial de mi país ha logrado resultados iniciales.

"Reglamento de gestión de recomendaciones de algoritmos de servicios de información de Internet"

"Reglamento de gestión de recomendaciones de algoritmos del servicio de información de Internet" (""Reglamento de recomendación de algoritmos""), que entró en vigor el 1 de marzo de 2022, requiere que los proveedores de servicios de recomendación de algoritmos establezcan un mecanismo de algoritmo sólido revisión, el mecanismo del algoritmo, el modelo, los datos y los resultados de la aplicación deben revisarse, evaluarse y verificarse periódicamente, y no deben establecerse modelos de algoritmos que induzcan adicción al usuario, consumo excesivo, etc. que violen las leyes y regulaciones o violen la ética y la moral . Además, el "Reglamento de Recomendación de Algoritmos" requiere que los servicios de recomendación de algoritmos se presenten ante el Departamento de Información de Internet: Los proveedores de servicios de recomendación de algoritmos con atributos de opinión pública o capacidades de movilización social deben pasar el algoritmo del servicio de información de Internet dentro de los diez días hábiles a partir de la fecha de prestación del servicio, el sistema de archivo rellena información como el nombre del prestador del servicio, formulario de servicio, campo de aplicación, tipo de algoritmo, informe de autoevaluación del algoritmo, contenido a publicitar, etc., y realiza los trámites de archivo.

"Reglamento sobre la Administración de Síntesis Profunda de los Servicios de Información de Internet"

"Reglamento de gestión de síntesis profunda del servicio de información de Internet" (""Reglamento de síntesis profunda""), que entró en vigor el 10 de enero de 2023, es el reglamento regulador central en el campo de AIGC. "Tecnología de síntesis profunda" se refiere a la tecnología de usar algoritmos de síntesis generativa representados por aprendizaje profundo y realidad virtual para producir texto, imágenes, audio, video, escenas virtuales y otra información, incluyendo texto a voz, generación de música, generación de rostros, Reemplazo de rostros humanos, mejora de imágenes y otras tecnologías. Por lo tanto, AIGC cae dentro del alcance regulatorio de las Regulaciones de Síntesis Profunda.

El "Reglamento de síntesis profunda" estipula claramente que los proveedores de servicios de síntesis profunda deben adoptar métodos técnicos o manuales para revisar los datos de entrada y los resultados de síntesis de los usuarios del servicio de síntesis profunda. Para los servicios que generan o cambian significativamente la función del contenido de la información, como escenas reales. , es necesario marcar de forma destacada la posición razonable y el área del contenido de información generado o editado para recordar al público la síntesis en profundidad. **

(3) Documentos normativos del Departamento

** "Código Ético de Inteligencia Artificial de Nueva Generación"**

El 25 de septiembre de 2021, el Comité Nacional Profesional de Gobernanza de la Inteligencia Artificial de Nueva Generación emitió el "Código de Ética de la Inteligencia Artificial de Nueva Generación" (en adelante, el "Código de Ética"), que tiene como objetivo integrar la ética en todo el ciclo de vida de la inteligencia artificial. y proporcionar una base para el desarrollo de la inteligencia artificial Proporcionar orientación ética a las personas físicas, jurídicas y otras instituciones pertinentes que participen en actividades pertinentes.

El "Código de Ética" ha sido objeto de una investigación especial, redacción intensiva y consulta de opiniones. Considera plenamente las preocupaciones éticas actuales de todos los sectores de la sociedad relacionadas con la privacidad, los prejuicios, la discriminación y la equidad, incluidos los principios generales, la ética de actividades específicas, e implementación organizacional. El "Código de Ética" presenta seis requisitos éticos básicos, que incluyen mejorar el bienestar humano, promover la equidad y la justicia, proteger la privacidad y la seguridad, garantizar la controlabilidad y la credibilidad, fortalecer la responsabilidad y mejorar la educación ética. Al mismo tiempo, se proponen 18 requisitos éticos específicos para actividades específicas como la gestión, investigación y desarrollo, suministro y uso de inteligencia artificial.

"Pautas de práctica estándar de seguridad de red: pautas para la prevención de riesgos de seguridad ética de inteligencia artificial"

Con el fin de prevenir los riesgos de seguridad ética de la inteligencia artificial, el 5 de enero de 2021, la Secretaría del Comité Técnico Nacional de Normalización de Seguridad de la Información organizó la compilación de la “Guía de Práctica de Estándares de Seguridad de Redes-Guía para la Prevención de Riesgos de Seguridad Ética de la Inteligencia Artificial”. ", que es para organizaciones o individuos para llevar a cabo investigaciones de inteligencia artificial. Brindar orientación para actividades relacionadas, como desarrollo, diseño y fabricación, e implementación de aplicaciones.

(4) Estándares de la industria y documentos de orientación

《Principios rectores para la revisión del registro de dispositivos médicos de inteligencia artificial》

En marzo de 2022, el Centro de Evaluación de Dispositivos emitió los "Principios rectores para el registro y la revisión de dispositivos médicos de inteligencia artificial" para estandarizar aún más los requisitos de control de calidad para todo el proceso del ciclo de vida de los dispositivos médicos de inteligencia artificial y los requisitos para los materiales de declaración de registro. Al mismo tiempo, propuso que las bases de datos de terceros también puedan realizar una evaluación del desempeño de los algoritmos y aclaró los requisitos específicos para las bases de datos de terceros en términos de autoridad, cientificidad, normatividad, diversidad, cierre y dinámica.

** "Directrices para la clasificación y definición de productos de software médico de inteligencia artificial"**

El 8 de julio de 2021, con el fin de fortalecer aún más la supervisión y gestión de los productos de software médico de inteligencia artificial y promover el desarrollo de alta calidad de la industria, la Administración Estatal de Alimentos y Medicamentos organizó la formulación y lanzó oficialmente las "Directrices para la Clasificación y definición de productos de software médico de inteligencia artificial" (en adelante, las "Directrices") en principio").

En los "Principios rectores", la Administración de Alimentos y Medicamentos definió claramente el software médico de inteligencia artificial, que se refiere a "software independiente que utiliza tecnología de inteligencia artificial para lograr sus propósitos médicos basados en datos de dispositivos médicos. La clasificación de dispositivos médicos que contienen software de inteligencia artificial componentes La definición puede hacer referencia a este principio". Al mismo tiempo, también hace una definición clara de los datos del dispositivo médico, que se refiere a "datos objetivos generados por dispositivos médicos para fines médicos, y en casos especiales puede incluir datos objetivos generados por equipos de uso general para fines médicos". Además, los "Principios rectores" también definen los atributos de gestión y las categorías de gestión.

** "Puntos clave de la revisión del software de dispositivos médicos que ayudan a tomar decisiones de aprendizaje profundo"**

En julio de 2019, el Centro de Evaluación de Tecnología de Dispositivos Médicos de la Administración Estatal de Alimentos y Medicamentos (en lo sucesivo, el Centro de Evaluación de Dispositivos) publicó los "Puntos de revisión del software de dispositivos médicos para la toma de decisiones asistida por aprendizaje profundo", que aclaró el alcance de la revisión de software de dispositivos médicos para la toma de decisiones asistida por aprendizaje profundo, y presentó un método de supervisión del ciclo de vida completo basado en el riesgo.

(5) Reglamentos locales

"Regulaciones municipales de Shanghái sobre la promoción del desarrollo de la industria de la inteligencia artificial"

El 22 de septiembre de 2022, la 44.ª reunión del Comité Permanente de la 15.ª Asamblea Popular Municipal de Shanghái votó a favor de aprobar el "Reglamento municipal de Shanghái para promover el desarrollo de la industria de la inteligencia artificial", que entrará en vigor el 1 de octubre de 2022.

"Reglamento de Promoción de la Industria de Inteligencia Artificial de la Zona Económica Especial de Shenzhen"

En septiembre de 2022, Shenzhen promulgó la primera legislación especial del país para la industria de la inteligencia artificial** "Reglamento de Promoción de la Industria de la Inteligencia Artificial de la Zona Económica Especial de Shenzhen"**. Vigente a partir del 1 de noviembre de 2022.

"Reglamento de datos de Shanghái"

Adoptado en la 37.ª reunión del Comité Permanente de la 15.ª Asamblea Popular Municipal de Shanghái el 25 de noviembre de 2021 y entrará en vigor el 1 de enero de 2022.

(6) Documentos de Trabajo Local

**"Plan de implementación para que Beijing acelere la construcción de un centro de innovación de inteligencia artificial influyente a nivel mundial (2023-2025)"****, ***"Varias medidas para que Beijing promueva la innovación y el desarrollo de Inteligencia Artificial" *

En la tarde del 30 de mayo de 2023, el Foro Zhongguancun 2023 celebró una conferencia especial sobre los principales logros científicos y tecnológicos. En la reunión, Liu Hang, inspector de segundo nivel de la Comisión Municipal de Ciencia y Tecnología de Beijing y el Comité de Gestión de Zhongguancun, publicó ** "Plan de implementación de Beijing para acelerar la construcción de una fuente de innovación de inteligencia artificial influyente a nivel mundial (2023-2025) " (en adelante, el "Plan de implementación") "), "Varias medidas de Beijing para promover la innovación y el desarrollo de la inteligencia artificial general" (en adelante, "Varias medidas")** dos políticas. A través de estas dos políticas, desde la perspectiva de alentar y guiar el desarrollo de la industria, Beijing coordinará aún más los recursos en torno a las necesidades comunes de innovación y desarrollo, y promoverá de manera integral la construcción de sistemas tecnológicos independientes de inteligencia artificial y el desarrollo de la ecología industrial.

El lanzamiento de estas dos políticas tiene como objetivo acelerar la implementación de la estrategia de desarrollo impulsada por la innovación, construir una zona piloto nacional de innovación y desarrollo de inteligencia artificial de nueva generación de alto nivel y una zona piloto nacional de aplicación de innovación de inteligencia artificial, continuar mejorando el global influencia de la inteligencia artificial, y promover aún más la inteligencia artificial.La innovación y la innovación conducen y se desarrollan de manera saludable, apoyando la construcción del Centro Internacional de Innovación en Ciencia y Tecnología de Beijing.

0****3 Todos los países del mundo supervisan AIGC

UE

Ley de Gobierno de Datos

A partir de junio de 2022. El proyecto de ley es el primer proyecto de ley que se presenta en el marco de la Estrategia Europea de Datos, cuyo primer contenido fue en noviembre de 2020. En general, la "Ley de gobernanza de datos" se centra en la innovación institucional para fomentar el intercambio de datos, mejorar la eficiencia del uso de datos y permitir el flujo y el uso de recursos de datos para lograr propósitos de política pública más elevados. Una es construir un sistema para que el sector público reutilice los datos. El segundo es construir un marco que sea propicio para el desarrollo de intermediarios de datos. El tercero es regular y orientar el comportamiento altruista de los datos.

Además, en el Capítulo VI de la Ley de Gobierno de Datos, se estableció un Consejo Europeo de Innovación de Datos para brindar asesoramiento para incluir información sobre proveedores de servicios de intercambio de datos, intercambio de datos entre industrias, reutilización de datos, etc.

Ley de Ley de Inteligencia Artificial

En abril de 2021, la Comisión Europea propuso el proyecto de reglamento de la "Ley de inteligencia artificial", que se considera un hito para la UE en el campo de la inteligencia artificial y la estrategia digital más amplia de la UE. Es solo que el avance de la propuesta no ha sido tan fácil como se esperaba, y los miembros del Parlamento Europeo aún no han llegado a un acuerdo sobre los principios básicos de la propuesta.

** "Pautas de ética de inteligencia artificial confiable"**

Publicadas en 2019, las directrices abarcan siete áreas: actividad humana y gobernanza; solidez tecnológica y seguridad; privacidad y gestión de datos; transparencia; diversidad y no discriminación y equidad; bienestar social y ambiental; y rendición de cuentas.

《Reglamento General de Protección de Datos》

Aprobado en 2016 y entró en vigor en 2018. El propósito es resolver el problema de recopilar y utilizar los datos del usuario. Reemplazará la "Directiva de Protección de Datos" promulgada por la Unión Europea en 1995 para adaptarse al desarrollo de la computación en la nube, Internet y el big data. El propósito del "Reglamento" es restringir el procesamiento de datos personales y confidenciales por parte de las empresas de Internet y big data, y proteger los derechos e intereses legítimos de los interesados. A diferencia de su predecesora, la Directiva de Protección de Datos, el RGPD puede aplicarse directamente a todos los estados miembros de la UE sin requerir que ningún país lo convierta en ley nacional.

REINO UNIDO

Un enfoque regulatorio de la inteligencia artificial para la innovación

El 29 de marzo de 2023, el Reino Unido publicó un libro blanco sobre "Enfoques regulatorios de inteligencia artificial para promover la innovación", que describe cinco principios para la gobernanza de la inteligencia artificial. Propone su enfoque basado en principios para la gobernanza de la IA para brindar a las empresas y al público confianza en el uso de la IA, y un enfoque seguro y coherente de la regulación para la industria. En este libro blanco, el Reino Unido presenta cinco principios que deben seguirse en el desarrollo y uso de la inteligencia artificial en varios departamentos. En el futuro, cada departamento regulador publicará las mejores prácticas en varios campos en función de los cinco principios de acuerdo con circunstancias guía. Al mismo tiempo, el libro blanco señaló que para fomentar la innovación de la inteligencia artificial y garantizar una respuesta oportuna a los diversos desafíos que surgirán en el futuro, en la actualidad no se impondrá una legislación estricta a la industria de la inteligencia artificial. Además, el libro blanco enfatiza específicamente la importancia de la gobernanza colaborativa entre el gobierno, la industria y las empresas, así como la importancia de fortalecer la cooperación global y la interoperabilidad en la gobernanza de la inteligencia artificial, a fin de concretar el liderazgo mundial del Reino Unido en el campo de la inteligencia artificial lo antes posible.

Italia

El 31 de marzo de 2023, la Agencia de Protección de Datos del Gobierno italiano (Garante) solicitó prohibir el uso de ChatGPT, un robot de chat de IA desarrollado por OpenAI, en Italia, y abrió una investigación sobre la supuesta violación de las reglas de privacidad por parte de la aplicación ChatGPT. El regulador federal de privacidad de Canadá anunció recientemente que abrió una investigación sobre OpenAI por supuestamente "recopilar, usar y divulgar información personal sin consentimiento".

EE.UU

** "Marco de Gestión de Riesgos de Inteligencia Artificial" (AI RMF) Versión 1.0**

El Instituto Nacional de Estándares y Tecnología lanzó la versión 1.0 del "Marco de gestión de riesgos de inteligencia artificial" (AI RMF) en enero de 2023, cuyo objetivo es guiar a las organizaciones para reducir los riesgos de seguridad, evitar sesgos y otros riesgos al desarrollar e implementar sistemas de inteligencia artificial. Consecuencias negativas, aumentando la credibilidad de la IA.

Ya en 2016, Estados Unidos promulgó dos documentos marco a nivel nacional, promocionales en lugar de normativos y vinculantes, el "Plan estratégico nacional de investigación y desarrollo de inteligencia artificial" y "Preparación para el futuro de la inteligencia artificial". Se ha actualizado continuamente. en años recientes. Los dos marcos de políticas tienen como objetivo promover activamente el desarrollo de la tecnología de IA y la innovación tecnológica. En respuesta a los desafíos planteados por la tecnología de inteligencia artificial, el documento solo propone una respuesta de principios.

Canadá

Ley de datos e inteligencia artificial

En junio de 2022, Canadá publicó la "Ley de datos e inteligencia artificial", cuyo objetivo es regular las transacciones del sistema de inteligencia artificial internacional y provincial. Con este fin, la ley establece que se deben tomar medidas para reducir el daño y el sesgo de salida causado por la inteligencia artificial de alto impacto; se debe divulgar la información pública sobre inteligencia artificial; se debe autorizar al ministro de innovación, tecnología e industria para formular políticas. relacionados con los sistemas de inteligencia artificial, y "Mantener o usar información personal obtenida ilegalmente" está prohibido en consecuencia para proteger la privacidad de los datos con el fin de diseñar, desarrollar, usar o proporcionar sistemas de inteligencia artificial.

Alemania

La ley de conducción autónoma

Publicado en julio de 2021. El propósito del proyecto de ley es proporcionar la base legal y el marco regulatorio para la aplicación comercial de la tecnología sin conductor. Uno de los aspectos más destacados de la propuesta es que proporciona una base legal para la operación normal de vehículos no tripulados de nivel L4 en tramos de carretera específicos en autopistas, y aclara claramente los requisitos técnicos relevantes, las condiciones de conducción y el procesamiento de datos. Alemania se convierte así en la primera del mundo en permitir que los vehículos no tripulados se incorporen al tráfico diario y promocionarlo a todo el país.

Otro contenido importante del proyecto de ley es el establecimiento de un sistema de seguimiento técnico de las "características de conducción no tripulada". Por lo tanto, los propietarios de vehículos de motor inteligentes deben regular el uso de vehículos de motor para garantizar la seguridad de los vehículos de motor y la compatibilidad del uso de vehículos de motor, y ser responsables del uso de vehículos de motor. Estas responsabilidades incluyen: el mantenimiento periódico del sistema para mantener la conducción autónoma en buen estado de funcionamiento, las medidas cautelares para el cumplimiento de las normas de tránsito y la responsabilidad de la supervisión técnica. Para cumplir con esta obligación, el propietario del automóvil deberá designar a una persona física con habilidades especializadas como monitor técnico para llevar a cabo el monitoreo e intervención remota en el automóvil.