0****1 Présentation

Ces dernières années, les progrès rapides de la technologie AIGC (Generative Artificial Intelligence) ont apporté de nouvelles opportunités de développement social et économique. Tous les horizons ont commencé à prêter attention à l'application des technologies liées à l'AIGC dans la mise en œuvre commerciale, et les startups et projets liés à l'AIGC ont poussé comme des champignons. Cependant, l'AIGC a également apporté de nouveaux défis au cours de son développement, tels que la diffusion de fausses informations, la violation des droits à l'information personnelle, la sécurité des données et les préjugés.

En réponse au développement rapide de l'AIGC, sept départements, dont l'Administration du cyberespace de Chine, la Commission nationale du développement et de la réforme et le ministère de l'Éducation, ont officiellement publié les "Mesures provisoires pour la gestion des services d'intelligence artificielle générative" le 10 juillet. , qui est également le premier règlement réglementaire au monde dans le domaine de l'AIGC.

En plus de ce règlement réglementaire spécial, mon pays a publié un certain nombre de lois, de règlements administratifs et d'autres documents normatifs en termes de développement technologique, de sécurité des réseaux, de protection des informations personnelles, d'informations sur Internet, etc. Angle du système de gouvernance normatif.

Cet article résume et trie les politiques réglementaires actuelles dans le domaine de l'intelligence artificielle au pays et à l'étranger par le cabinet d'avocats Shanghai Mankiw.

0****2 Supervision de l'AIGC par la Chine

(1) Loi

"La loi sur le progrès scientifique et technologique de la République populaire de Chine"

La Loi fondamentale dans le domaine de la science et de la technologie dans mon pays sera révisée pour la deuxième fois en 2021 et entrera en vigueur le 1er janvier 2022.

"Loi sur la protection des informations personnelles de la République populaire de Chine"

Il sera officiellement mis en œuvre le 1er novembre 2021, qui comprend certaines réglementations sur l'intelligence artificielle, telles que l'interdiction de l'utilisation d'informations personnelles pour des activités illégales et la violation des droits de la personne, et exigeant la transparence et l'explicabilité de la prise de décision en matière d'intelligence artificielle.

"Loi sur la sécurité des données de la République populaire de Chine"

Il sera officiellement mis en œuvre le 1er septembre 2021, ce qui comprend certaines réglementations sur l'intelligence artificielle, telles que l'exigence de renforcer la protection et la gestion de la sécurité des données liées à l'intelligence artificielle.

"Loi sur la sécurité des réseaux de la République populaire de Chine"

Il est entré en vigueur le 1er juin 2017. L'article 22 stipule que les opérateurs de réseau doivent prendre les mesures techniques et autres mesures nécessaires pour prévenir et réduire la survenue d'incidents de sécurité du réseau, y compris l'utilisation de l'intelligence artificielle et d'autres moyens techniques.

(2) Règlement départemental

"Mesures provisoires pour la gestion des services d'intelligence artificielle générative"

Le 11 avril 2023, l'Administration du cyberespace de Chine a publié les "Mesures pour l'administration des services d'intelligence artificielle générative (projet pour commentaires)" (ci-après dénommées les "Mesures (projet pour commentaires)"). Après avoir sollicité et examiné de manière approfondie les opinions de toutes les parties, l'Administration du cyberespace de Chine, en collaboration avec la Commission nationale du développement et de la réforme, le ministère de l'Éducation, le ministère de la Science et de la Technologie, le ministère de l'Industrie et des Technologies de l'information et l'Administration d'État de la radio, du cinéma et de la télévision, a officiellement publié « Mesures provisoires pour l'administration des services d'intelligence artificielle générative » le 10 juillet 2023 (ci-après dénommées les « Mesures provisoires »). En tant que premier document juridique au niveau national au monde qui réglemente directement l'intelligence artificielle générative, les « Mesures provisoires » seront officiellement mises en œuvre le 15 août 2023. Le modèle de gestion de gouvernance agile de l'intelligence artificielle de mon pays a obtenu des résultats initiaux.

"Règlement sur la gestion des recommandations d'algorithmes de service d'information sur Internet"

"Internet Information Service Algorithm Recommendation Management Regulations" (""Algorithm Recommendation Regulations""), qui est entré en vigueur le 1er mars 2022, oblige les fournisseurs de services de recommandation d'algorithmes à établir un mécanisme d'algorithme solide examen, Le mécanisme de l'algorithme, le modèle, les données et les résultats de l'application doivent être régulièrement examinés, évalués et vérifiés, et les modèles d'algorithme qui induisent une dépendance de l'utilisateur, une consommation excessive, etc. qui violent les lois et règlements ou violent l'éthique et la morale ne doivent pas être mis en place . En outre, le "Règlement sur la recommandation d'algorithmes" exige que les services de recommandation d'algorithmes soient déposés auprès du Département de l'information sur Internet : les fournisseurs de services de recommandation d'algorithmes ayant des attributs d'opinion publique ou des capacités de mobilisation sociale doivent passer l'algorithme du service d'information sur Internet dans les dix jours ouvrables à compter de la date Le système de classement renseigne les informations telles que le nom du prestataire, le formulaire de service, le champ d'application, le type d'algorithme, le rapport d'auto-évaluation de l'algorithme, le contenu à publier, etc., et effectue les procédures de classement.

"Règlement sur l'administration de la synthèse approfondie des services d'information sur Internet"

"Règlement sur la gestion de la synthèse approfondie des services d'information sur Internet" (""Règlement sur la synthèse approfondie""), qui est entré en vigueur le 10 janvier 2023, est le règlement réglementaire de base dans le domaine de l'AIGC. La "technologie de synthèse profonde" fait référence à la technologie d'utilisation d'algorithmes de synthèse générative représentés par l'apprentissage en profondeur et la réalité virtuelle pour produire du texte, des images, de l'audio, de la vidéo, des scènes virtuelles et d'autres informations, y compris la synthèse vocale, la génération de musique, la génération de visage, Remplacement du visage humain, amélioration de l'image et autres technologies. Par conséquent, l'AIGC relève du champ d'application réglementaire du Règlement sur la synthèse profonde.

Le "Règlement sur la synthèse approfondie" stipule clairement que les fournisseurs de services de synthèse approfondie doivent adopter des méthodes techniques ou manuelles pour examiner les données d'entrée et les résultats de synthèse des utilisateurs de services de synthèse approfondie. Pour les services qui génèrent ou modifient de manière significative la fonction du contenu de l'information, tels que des scènes réelles , il est nécessaire de marquer bien en évidence la position et la zone raisonnables du contenu informatif généré ou édité pour rappeler au public la synthèse approfondie. **

(3) Documents normatifs du département

** "Code de déontologie de l'intelligence artificielle nouvelle génération" **

Le 25 septembre 2021, le Comité Professionnel National de la Gouvernance de l'Intelligence Artificielle Nouvelle Génération a émis le « Code de déontologie de l'Intelligence Artificielle Nouvelle Génération » (ci-après le « Code de déontologie ») qui vise à intégrer l'éthique dans l'ensemble du cycle de vie de l'intelligence artificielle. et fournir une base pour le développement de l'intelligence artificielle Fournir des conseils éthiques aux personnes physiques, aux personnes morales et aux autres institutions concernées impliquées dans des activités pertinentes.

Le "Code d'éthique" a fait l'objet d'une recherche spéciale, d'une rédaction intensive et d'une consultation d'opinions. Il prend pleinement en compte les préoccupations éthiques actuelles de tous les secteurs de la société liées à la vie privée, aux préjugés, à la discrimination et à l'équité, y compris les principes généraux, l'éthique des activités spécifiques, et la mise en œuvre organisationnelle. Le « Code d'éthique » énonce six exigences éthiques fondamentales, notamment l'amélioration du bien-être humain, la promotion de l'équité et de la justice, la protection de la vie privée et de la sécurité, la garantie de la contrôlabilité et de la crédibilité, le renforcement de la responsabilité et l'amélioration des connaissances éthiques. Dans le même temps, 18 exigences éthiques spécifiques pour des activités spécifiques telles que la gestion de l'intelligence artificielle, la recherche et le développement, la fourniture et l'utilisation sont proposées.

"Network Security Standard Practice Guidelines-Guidelines for Prevention of Artificial Intelligence Ethical Security Risks"

Afin de prévenir les risques de sécurité éthique de l'intelligence artificielle, le Secrétariat du Comité technique national de normalisation de la sécurité de l'information a organisé le 5 janvier 2021 la compilation des "Network Security Standards Practice Guidelines-Guidelines for the Prevention of Artificial Intelligence Ethical Security Risks ", qui permet aux organisations ou aux individus de mener des recherches sur l'intelligence artificielle. Fournir des conseils pour les activités connexes telles que le développement, la conception et la fabrication, et le déploiement d'applications.

(4) Normes de l'industrie et documents d'orientation

《Principes directeurs pour l'examen de l'enregistrement des dispositifs médicaux d'intelligence artificielle》

En mars 2022, le Center for Device Evaluation a publié les « Principes directeurs pour l'enregistrement et l'examen des dispositifs médicaux d'intelligence artificielle » afin de normaliser davantage les exigences de contrôle de la qualité pour l'ensemble du processus de cycle de vie des dispositifs médicaux d'intelligence artificielle et les exigences relatives aux documents de déclaration d'enregistrement. Dans le même temps, il a proposé que les bases de données tierces puissent également effectuer une évaluation des performances des algorithmes et a clarifié les exigences spécifiques des bases de données tierces en termes d'autorité, de scientificité, de normativité, de diversité, de fermeture et de dynamique.

** "Lignes directrices pour la classification et la définition des produits logiciels médicaux d'intelligence artificielle"**

Le 8 juillet 2021, afin de renforcer davantage la supervision et la gestion des produits logiciels médicaux d'intelligence artificielle et de promouvoir le développement de haute qualité de l'industrie, la State Food and Drug Administration a organisé la formulation et publié officiellement les "Lignes directrices pour la classification et Définition des Produits Logiciels Médicaux d'Intelligence Artificielle » (ci-après dénommées les « Directives ») en principe »).

Dans les "Guiding Principles", la Food and Drug Administration a clairement défini le logiciel médical d'intelligence artificielle, qui fait référence à "un logiciel indépendant qui utilise la technologie de l'intelligence artificielle pour atteindre ses objectifs médicaux sur la base des données des dispositifs médicaux". La classification des dispositifs médicaux contenant des logiciels d'intelligence artificielle La définition peut faire référence à ce principe. » Dans le même temps, elle donne également une définition claire des données relatives aux dispositifs médicaux, qui fait référence aux « données objectives générées par des dispositifs médicaux à des fins médicales et, dans des cas particuliers, peuvent inclure des données objectives générées par équipements d'usage général à des fins médicales." En outre, les "Principes directeurs" définissent également les attributs de gestion et les catégories de gestion.

** " Points clés de l'examen du logiciel d'aide à la décision pour les dispositifs médicaux d'apprentissage en profondeur" **

En juillet 2019, le Centre d'évaluation de la technologie des dispositifs médicaux de la State Food and Drug Administration (ci-après dénommé le Centre d'évaluation des dispositifs) a publié les " Points d'examen des logiciels de dispositifs médicaux de prise de décision assistée par apprentissage en profondeur ", qui ont clarifié la portée de l'examen des logiciel de dispositif médical d'aide à la décision assistée par apprentissage en profondeur, Et proposer une méthode de supervision du cycle de vie complet basée sur les risques.

(5) Réglementations locales

"Réglementation municipale de Shanghai sur la promotion du développement de l'industrie de l'intelligence artificielle"

Le 22 septembre 2022, la 44e réunion du Comité permanent de la 15e Assemblée populaire municipale de Shanghai a voté l'adoption du « Règlement municipal de Shanghai sur la promotion du développement de l'industrie de l'intelligence artificielle », qui entrera en vigueur le 1er octobre 2022.

"Règlement sur la promotion de l'industrie de l'intelligence artificielle dans la zone économique spéciale de Shenzhen"

En septembre 2022, Shenzhen a promulgué la première législation spéciale du pays pour l'industrie de l'intelligence artificielle** "Règlement sur la promotion de l'industrie de l'intelligence artificielle dans la zone économique spéciale de Shenzhen"**. En vigueur à partir du 1er novembre 2022.

"Règlement sur les données de Shanghai"

Adopté lors de la 37e réunion du Comité permanent du 15e Congrès populaire municipal de Shanghai le 25 novembre 2021 et entrera en vigueur le 1er janvier 2022.

(6) Documents de travail locaux

**"Plan de mise en œuvre pour Pékin visant à accélérer la construction d'un centre d'innovation en intelligence artificielle d'influence mondiale (2023-2025)"****, ***"Plusieurs mesures pour Pékin afin de promouvoir l'innovation et le développement Intelligence Artificielle" *

Dans l'après-midi du 30 mai 2023, le Forum Zhongguancun 2023 a tenu une conférence spéciale sur les principales réalisations scientifiques et technologiques. Lors de la réunion, Liu Hang, inspecteur de deuxième niveau de la Commission municipale des sciences et technologies de Pékin et du Comité de gestion de Zhongguancun, a publié ** "Plan de mise en œuvre de Pékin pour accélérer la construction d'une source d'innovation en intelligence artificielle d'influence mondiale (2023-2025) " (ci-après dénommé le " Plan de mise en œuvre") "), " Plusieurs mesures de Pékin pour promouvoir l'innovation et le développement de l'intelligence artificielle générale" (ci-après dénommées " Plusieurs mesures") ** deux politiques. Grâce à ces deux politiques, dans la perspective d'encourager et de guider le développement de l'industrie, Pékin coordonnera davantage les ressources autour des besoins communs d'innovation et de développement, et promouvra de manière globale la construction de systèmes technologiques indépendants d'intelligence artificielle et le développement de l'écologie industrielle.

La publication de ces deux politiques vise à accélérer la mise en œuvre de la stratégie de développement axée sur l'innovation, à construire une zone pilote nationale d'innovation et de développement de l'intelligence artificielle de nouvelle génération de haut niveau et une zone pilote nationale d'application de l'innovation en intelligence artificielle, à continuer d'améliorer le marché mondial influence de l'intelligence artificielle et promouvoir davantage l'intelligence artificielle.L'innovation et l'innovation mènent et se développent sainement, soutenant la construction du Centre international d'innovation scientifique et technologique de Pékin.

0****3 Tous les pays du monde supervisent l'AIGC

UE

Loi sur la gouvernance des données

En vigueur en juin 2022. Le projet de loi est le premier projet de loi à être déposé dans le cadre de la stratégie européenne sur les données, dont le premier contenu remonte à novembre 2020. Dans l'ensemble, la "Loi sur la gouvernance des données" se concentre sur l'innovation institutionnelle pour encourager le partage des données, améliorer l'efficacité de l'utilisation des données et permettre le flux et l'utilisation des ressources de données pour atteindre des objectifs de politique publique plus élevés. L'une consiste à créer un système permettant au secteur public de réutiliser les données. Le second est de construire un cadre propice au développement des intermédiaires de données. Le troisième est de réglementer et de guider le comportement altruiste des données.

En outre, au chapitre VI de la loi sur la gouvernance des données, un Conseil européen de l'innovation des données a été créé pour fournir des conseils afin d'inclure des informations sur les fournisseurs de services de partage de données, le partage de données intersectorielles, la réutilisation des données, etc.

Projet de loi sur l'intelligence artificielle

En avril 2021, la Commission européenne a proposé le projet de règlement pour la "loi sur l'intelligence artificielle", qui est considérée comme un événement marquant pour l'UE dans le domaine de l'intelligence artificielle et de la stratégie numérique de l'UE au sens large. C'est juste que l'avancement de la proposition n'a pas été aussi fluide que prévu, et les membres du Parlement européen ne sont pas encore parvenus à un accord sur les principes de base de la proposition.

** "Lignes directrices éthiques fiables sur l'intelligence artificielle"**

Publiées en 2019, les lignes directrices couvrent sept domaines : activité humaine et gouvernance ; robustesse et sécurité technologiques ; confidentialité et gestion des données ; transparence ; diversité et non-discrimination et équité ; bien-être social et environnemental ; et responsabilité.

《Règlement général sur la protection des données》

Adopté en 2016 et entré en vigueur en 2018. Le but est de résoudre le problème de la collecte et de l'utilisation des données des utilisateurs. Elle remplacera la « directive sur la protection des données » promulguée par l'Union européenne en 1995 pour s'adapter au développement du cloud computing, d'Internet et du big data. L'objectif du "Règlement" est de restreindre le traitement des données personnelles et sensibles par les entreprises de l'Internet et du big data, et de protéger les droits et intérêts légitimes des personnes concernées. Contrairement à son prédécesseur, la directive sur la protection des données, le RGPD peut s'appliquer directement à tous les États membres de l'UE sans obliger aucun pays à le convertir en législation nationale.

ROYAUME-UNI

Une approche réglementaire de l'intelligence artificielle pour l'innovation

Le 29 mars 2023, le Royaume-Uni a publié un livre blanc sur les «Approches réglementaires de l'intelligence artificielle pour promouvoir l'innovation», décrivant cinq principes de gouvernance de l'intelligence artificielle. Propose son approche fondée sur des principes de la gouvernance de l'IA pour donner aux entreprises et au public la confiance dans l'utilisation de l'IA, ainsi qu'une approche sûre et cohérente de la réglementation pour l'industrie. Dans ce livre blanc, le Royaume-Uni met en avant cinq principes qui devraient être suivis dans le développement et l'utilisation de l'intelligence artificielle dans divers départements. À l'avenir, chaque département réglementaire publiera les meilleures pratiques dans différents domaines sur la base des cinq principes selon des critères spécifiques. circonstances. Dans le même temps, le livre blanc a souligné qu'afin d'encourager l'innovation de l'intelligence artificielle et d'assurer une réponse rapide aux divers défis qui se présenteront à l'avenir, une législation stricte ne sera pas imposée à l'industrie de l'intelligence artificielle pour le moment. En outre, le livre blanc souligne spécifiquement l'importance de la gouvernance collaborative entre le gouvernement, l'industrie et les entreprises, ainsi que l'importance de renforcer la coopération mondiale et l'interopérabilité dans la gouvernance de l'intelligence artificielle, afin de concrétiser le leadership mondial du Royaume-Uni dans le domaine de l'intelligence artificielle dès que possible.

Italie

Le 31 mars 2023, l'Agence gouvernementale italienne de protection des données (Garante) a demandé l'interdiction d'utiliser ChatGPT, un robot de chat IA développé par OpenAI, en Italie, et a ouvert une enquête sur la violation présumée des règles de confidentialité par l'application ChatGPT. Le régulateur fédéral de la protection de la vie privée du Canada a récemment annoncé qu'il avait ouvert une enquête sur OpenAI pour avoir prétendument "collecté, utilisé et divulgué des informations personnelles sans consentement".

ETATS-UNIS

** "Cadre de gestion des risques liés à l'intelligence artificielle" (AI RMF) Version 1.0**

L'Institut national des normes et de la technologie a publié la version 1.0 du « cadre de gestion des risques de l'intelligence artificielle » (AI RMF) en janvier 2023, qui vise à guider les organisations pour réduire les risques de sécurité, éviter les biais et autres risques lors du développement et du déploiement de systèmes d'intelligence artificielle. Conséquences négatives, augmentation de la crédibilité de l'IA.

Dès 2016, les États-Unis ont promulgué deux documents-cadres nationaux, promotionnels plutôt que réglementaires, et contraignants, « National Artificial Intelligence Research and Development Strategic Plan » et « Preparing for the Future of Artificial Intelligence ». au cours des dernières années. Les deux cadres politiques visent à promouvoir activement le développement de la technologie de l'IA et de l'innovation technologique. En réponse aux défis posés par la technologie de l'intelligence artificielle, le document ne propose qu'une réponse de principe.

Canada

Loi sur l'intelligence artificielle et les données

En juin 2022, le Canada a publié la « Loi sur l'intelligence artificielle et les données », qui vise à réglementer les transactions internationales et provinciales des systèmes d'intelligence artificielle. À cette fin, la loi stipule que : des mesures doivent être prises pour réduire les dommages et les biais de production causés par l'intelligence artificielle à fort impact ; les informations publiques sur l'intelligence artificielle doivent être divulguées ; le ministre de l'innovation, de la technologie et de l'industrie doit être autorisé à formuler politiques relatives aux systèmes d'intelligence artificielle, et à « la détention ou l'utilisation d'informations personnelles obtenues illégalement » est interdite en conséquence afin de protéger la confidentialité des données dans le but de concevoir, développer, utiliser ou fournir des systèmes d'intelligence artificielle.

Allemagne

La loi sur la conduite autonome

Sortie juillet 2021. L'objectif du projet de loi est de fournir la base juridique et le cadre réglementaire pour l'application commerciale de la technologie sans conducteur. L'un des points forts de la proposition est qu'elle fournit une base juridique pour le fonctionnement normal des véhicules sans pilote de niveau L4 sur des tronçons de route spécifiques sur les autoroutes, et apporte des clarifications claires sur les exigences techniques pertinentes, les conditions de conduite et le traitement des données. L'Allemagne est ainsi devenue la première au monde à autoriser les véhicules sans pilote à rejoindre le trafic quotidien et à le promouvoir dans tout le pays.

Un autre contenu important du projet de loi est la mise en place d'un système de surveillance technique des "fonctions de conduite sans pilote". Par conséquent, les propriétaires de véhicules à moteur intelligents doivent réglementer l'utilisation des véhicules à moteur pour assurer la sécurité des véhicules à moteur et la compatibilité de l'utilisation des véhicules à moteur, et être responsables de l'utilisation des véhicules à moteur. Ces responsabilités comprennent : la maintenance régulière du système pour maintenir la conduite autonome en bon état de fonctionnement, les mesures de précaution pour le respect des règles de circulation et la responsabilité de la surveillance technique. Afin de remplir cette obligation, le propriétaire de la voiture désignera une personne physique ayant des compétences spécialisées en tant que moniteur technique pour surveiller et intervenir à distance sur la voiture.