0****1 はじめに

近年、AIGC（Generative Artificial Intelligence）技術の急速な進歩は、社会的および経済的発展に新たな機会をもたらしています。 AIGC 関連技術の商用実装への応用に各界が注目し始めており、AIGC 関連のスタートアップやプロジェクトがキノコのように湧き出ています。しかし、AIGC はその発展の過程で、虚偽の情報の流布、個人情報の権利侵害、データのセキュリティ、偏見などの新たな課題ももたらしました。

AIGCの急速な発展を受けて、中国サイバースペース局、国家発展改革委員会、教育部など7部門は7月10日、「生成型人工知能サービスの管理に関する暫定措置」を正式に発表した。 、これはAIGC分野における世界初の規制でもあります。

この特別な規制規制に加えて、我が国は、技術開発、ネットワークセキュリティ、個人情報保護、インターネット情報などの観点から、多くの法律、行政規制、その他の規範文書を発行しています。規範的なガバナンスシステムの角度。

本稿は、上海マンキュー法律事務所による国内外の人工知能分野における現在の規制政策を要約・整理したものである。

0****2 AIGC に対する中国の監督

(1) 法律

「中華人民共和国科学技術進歩法」

我が国の科学技術分野の基本法は2021年に2回目の改正となり、2022年1月1日に施行される予定です。

「中華人民共和国個人情報保護法」

この法律は2021年11月1日に正式に施行され、違法行為や個人の権利侵害への個人情報の使用の禁止、人工知能の意思決定の透明性と説明可能性の要求など、人工知能に関するいくつかの規制が含まれています。

「中華人民共和国のデータセキュリティ法」

これは、人工知能関連データのセキュリティ保護と管理の強化要件など、人工知能に関するいくつかの規制を含む、2021 年 9 月 1 日に正式に施行される予定です。

「中華人民共和国ネットワークセキュリティ法」

この法律は 2017 年 6 月 1 日に発効しました。第 22 条では、ネットワーク事業者は、人工知能やその他の技術的手段の使用を含む、ネットワーク セキュリティ インシデントの発生を防止および軽減するために技術的措置およびその他の必要な措置を講じるべきであると規定しています。

(2) 部門規定

「生成型人工知能サービス運営に係る暫定措置」

2023年4月11日、中国サイバースペース局は「生成型人工知能サービスの管理に関する措置（コメント草案）」（以下「措置（コメント草案）」という）を発表した。中国サイバースペース局は、国家発展改革委員会、教育部、科学技術部、工業情報化部、国家行政とともに、各関係者の意見を求め、総合的に検討した結果、ラジオ、映画、テレビ局は、2023 年 7 月 10 日に 「生成型人工知能サービスの管理に関する暫定措置」 を正式に発表しました (以下、「暫定措置」といいます)。生成人工知能を直接規制する世界初の国家レベルの法的文書として、「暫定措置」は2023年8月15日に正式に施行される予定です。我が国の人工知能のアジャイルガバナンス管理モデルは初期の成果を達成しました。

「インターネット情報サービスアルゴリズム推奨管理規程」

「インターネット情報サービスアルゴリズム推奨管理規程」（「「アルゴリズム推奨規程」」）は、2022年3月1日に施行され、アルゴリズム推奨サービスを提供する事業者に対し、健全なアルゴリズムの仕組みを確立することを義務付けています。アルゴリズムの仕組み、モデル、データ、適用結果を定期的に見直し、評価、検証する必要があり、ユーザーの依存症、過剰消費等を誘発する法令違反や倫理道徳に違反するアルゴリズムモデルを設定してはならない。 。さらに、「アルゴリズム推奨に関する規則」では、アルゴリズム推奨サービスをインターネット情報部門に提出する必要があると規定しています。世論属性または社会動員機能を持つアルゴリズム推奨サービスプロバイダーは、その日から 10 営業日以内にインターネット情報サービスアルゴリズムを通過する必要があります。ファイリングシステムは、サービス提供者名、サービス形態、申請分野、アルゴリズムの種類、アルゴリズム自己評価報告書、公表する内容等の情報を入力し、ファイリング手続きを行います。

「インターネット情報サービスの深層合成の管理に関する規則」

「インターネット インフォメーション サービス深層合成管理規則」 (「「深層合成規則」」) は、2023 年 1 月 10 日に発効し、AIGC 分野の中核的な規制規則です。 「深層合成技術」とは、深層学習や仮想現実に代表される生成合成アルゴリズムを利用して、テキスト、画像、音声、ビデオ、仮想シーンなどの情報を生成する技術を指します。これには、テキスト読み上げ、音楽生成、顔生成、人間の顔の置き換え、画像の強調などのテクノロジー。したがって、AIGC は深層合成規制の規制範囲内に含まれます。

「深層合成規定」では、深層合成サービス提供者が、深層合成サービス利用者の入力データや合成結果を技術的または手動の方法でレビューすることを明確に規定しています。現実のシーンなどの情報コンテンツの機能を生成または大幅に変更するサービスについては、 、詳細な合成を公衆に思い出させるために、生成または編集された情報コンテンツの合理的な位置と領域を目立つようにマークする必要があります。 **

(3) 部門の規範文書

「新世代人工知能倫理規定」

2021年9月25日、国家新世代人工知能ガバナンス専門委員会は、人工知能のライフサイクル全体に倫理を統合することを目的とした「新世代人工知能倫理規定」（以下、「倫理規定」）を公布した。人工知能の開発の基礎を提供し、関連する活動に関与する自然人、法人、およびその他の関連機関に倫理的指導を提供します。

「倫理規定」は、特別な研究、集中的な起草、意見の協議を経て、一般原則、特定の活動倫理、プライバシー、偏見、差別、公平性に関連する社会のあらゆる部門の現在の倫理的懸念を十分に考慮しています。そして組織的な実施。 「倫理規定」では、人間の幸福の向上、公平性と正義の推進、プライバシーとセキュリティの保護、制御性と信頼性の確保、責任の強化、倫理リテラシーの向上など、6つの基本的な倫理要件を掲げています。同時に、人工知能の管理、研究開発、供給、使用などの特定の活動に対する18の具体的な倫理要件が提案されています。

「ネットワーク セキュリティ標準実践ガイドライン - 人工知能の倫理的セキュリティ リスクの防止に関するガイドライン」

人工知能の倫理的セキュリティリスクを防止するため、国家情報セキュリティ標準化専門委員会事務局は2021年1月5日、「ネットワークセキュリティ標準実践ガイドライン～人工知能の倫理的セキュリティリスク防止のためのガイドライン～」を取りまとめた。 「」は、組織または個人が人工知能の研究を実行するためのサービスです。開発、設計、製造、アプリケーションの展開などの関連活動に関するガイダンスを提供します。

(4) 業界標準およびガイダンス文書

《人工知能医療機器の登録審査に関する指針》

2022年3月、機器評価センターは、人工知能医療機器のライフサイクルプロセス全体の品質管理要件と登録宣言材料の要件をさらに標準化するために、「人工知能医療機器の登録および審査に関する指導原則」を発行しました。同時に、サードパーティのデータベースでもアルゴリズムのパフォーマンス評価を実行できることを提案し、権威性、科学性、規範性、多様性、閉鎖性、ダイナミクスの観点からサードパーティのデータベースに対する具体的な要件を明確にしました。

「人工知能医療ソフトウェア製品の分類と定義に関するガイドライン」

2021年7月8日、人工知能医療ソフトウェア製品の監督管理をさらに強化し、業界の質の高い発展を促進するために、国家食品医薬品局は策定を組織し、「分類ガイドライン」を正式に発表した。 「人工知能医療ソフトウェア製品の定義」（以下「ガイドライン」という。）を原則とする。）

食品医薬品局は「指導原則」の中で、人工知能医療ソフトウェアを「医療機器データに基づいて医療目的を達成するために人工知能技術を使用する独立したソフトウェア」を指すと明確に定義しました。人工知能ソフトウェアを含む医療機器の分類この定義では、この原則を参照することができます。」と同時に、医療機器データの明確な定義も作成されており、医療機器データとは、「医療目的で医療機器によって生成される客観的なデータであり、特別な場合には、医療機器によって生成される客観的なデータが含まれる場合があります」とされています。また、「指導原則」では管理属性や管理区分も定めています。

「ディープラーニング意思決定支援医療機器ソフトウェアレビューのキーポイント」

2019年7月、国家食品医薬品局医療機器技術評価センター（以下、機器評価センター）は「ディープラーニングによる意思決定支援医療機器ソフトウェア審査要点」を発表し、一般的な審査範囲を明確にした。深層学習支援による意思決定医療機器ソフトウェア、そしてリスクベースの完全なライフサイクル監視手法を提唱します。

(5) 現地の規制

「人工知能産業の発展促進に関する上海市条例」

2022年9月22日、第15期上海市人民代表大会常務委員会第44回会議は、2022年10月1日に施行される「上海市人工知能産業発展促進条例」の可決を可決した。

「深セン経済特区人工知能産業促進条例」

2022 年 9 月、深セン市は国内初の人工知能産業に関する特別立法**「深セン経済特区人工知能産業促進条例」**を公布しました。 2022 年 11 月 1 日から発効します。

「上海データ規制」

2021年11月25日に第15期上海市人民代表大会常務委員会第37回会議で採択され、2022年1月1日に施行される。

(6) 現地作業文書

*「世界的に影響力のある人工知能イノベーションセンターの建設を加速する北京の実施計画（2023-2025）」、「一般的な人工知能のイノベーションと発展を促進するための北京のいくつかの措置」人工知能」 *

2023年5月30日午後、2023年中関村フォーラムは主要な科学技術成果に関する特別会議を開催した。会議で、北京市科学技術委員会および中関村管理委員会の二級検査官である劉航氏は**「世界的に影響力のある人工知能イノベーションソースの構築を加速するための北京の実施計画（2023年～2025年）」を発表した。 「（以下「実施計画」といいます）」、「汎用人工知能の革新と発展を促進するための北京のいくつかの措置」（以下「いくつかの措置」といいます）** の 2 つの政策。これら2つの政策を通じて、産業の発展を奨励し指導する観点から、北京はイノベーションと開発の共通のニーズを中心にリソースをさらに調整し、人工知能に依存しない技術システムの構築と産業エコロジーの発展を包括的に推進します。

これら 2 つのポリシーのリリースは、イノベーション主導の開発戦略の実施を加速し、ハイレベルの国家新世代人工知能イノベーションおよび開発パイロットゾーンと国家人工知能イノベーションアプリケーションパイロットゾーンを構築し、世界的なイノベーションを強化し続けることを目的としています。人工知能の影響を軽減し、人工知能をさらに促進し、イノベーションとイノベーションが健全に導き、発展し、北京国際科学技術イノベーションセンターの建設をサポートします。

0****3 世界中のすべての国が AIGC を監督しています

＃＃ EU

データガバナンス法

2022 年 6 月から発効します。この法案は欧州データ戦略の枠組み内で提出される初めての法案であり、最初の内容は2020年11月にあった。全体として、「データガバナンス法」は、データ共有を促進し、データ使用の効率を向上させ、より高度な公共政策目的を達成するためのデータリソースの流れと使用を可能にするための制度的革新に焦点を当てています。 1つは公共部門がデータを再利用するシステムを構築することだ。 2つ目は、データ仲介業者の発展に資する枠組みを構築することです。 3 つ目は、データの利他的な動作を規制し、誘導することです。

さらに、データガバナンス法の第6章では、データ共有サービスプロバイダーに関する情報の盛り込み、業界を超えたデータ共有、データ再利用などについて助言を提供する欧州データイノベーション評議会が設立されました。

人工知能法案

2021年4月、欧州委員会は「人工知能法」の規制草案を提案したが、これは人工知能と広範なEUデジタル戦略の分野におけるEUにとってのマイルストーンイベントとみなされている。ただ、この提案の進展は期待したほどスムーズではなく、欧州議会議員はまだ提案の基本原則について合意に達していない。

「信頼できる人工知能倫理ガイドライン」

2019年に発行されたこのガイドラインは、人間の活動とガバナンス、技術の堅牢性とセキュリティ、プライバシーとデータ管理、透明性、多様性と無差別と公平性、社会的および環境的福祉、説明責任の7つの分野をカバーしている。

《一般データ保護規則》

2016年に可決され、2018年に発効した。ユーザーデータの収集と活用の課題を解決するのが目的だ。これは、クラウド コンピューティング、インターネット、ビッグ データの発展に適応するために、1995 年に欧州連合によって公布された「データ保護指令」に代わるものです。 「規制」の目的は、インターネットおよびビッグデータ企業による個人データおよび機密データの処理を制限し、データ主体の正当な権利と利益を保護することです。前身のデータ保護指令とは対照的に、GDPR は、どの国も国内法に変換する必要がなく、すべての EU 加盟国に直接適用できます。

＃＃ イギリス

イノベーションのための人工知能への規制アプローチ

2023 年 3 月 29 日、英国は人工知能ガバナンスの 5 つの原則を概説した「イノベーションを促進するための人工知能規制アプローチ」に関する白書を発表しました。 AI ガバナンスに対する原則に基づいたアプローチを提案し、企業と一般の人々に AI の使用に対する自信を提供し、業界の規制に対する確実で一貫したアプローチを提供します。この白書では、英国はさまざまな部門において人工知能の開発と利用において従うべき5つの原則を提示しており、将来的に各規制部門は、特定の分野に応じて5つの原則に基づいてさまざまな分野でベストプラクティスを発行する予定です。都合のご案内です。同時に白書は、人工知能の革新を促進し、将来発生するさまざまな課題へのタイムリーな対応を確保するために、現時点では人工知能業界に厳格な法律は課されないと指摘した。さらに、白書では、人工知能の分野における英国の世界的なリーダーシップを実現するために、政府、業界、企業間の協力的なガバナンスの重要性、および人工知能のガバナンスにおける世界的な協力と相互運用性の強化の重要性を特に強調しています。人工知能を一刻も早く。

イタリア

2023 年 3 月 31 日、イタリア政府データ保護庁 (Garante) は、OpenAI が開発した AI チャット ロボット ChatGPT のイタリア国内での使用禁止を要請し、ChatGPT アプリケーションによるプライバシー ルール違反の疑いで調査を開始しました。カナダの連邦プライバシー規制当局は最近、「同意なしに個人情報を収集、使用、開示した」疑いでOpenAIに対する調査を開始したと発表した。

アメリカ

「人工知能リスク管理フレームワーク」(AI RMF) バージョン 1.0

米国立標準技術研究所は、2023 年 1 月に「人工知能リスク管理フレームワーク」(AI RMF) バージョン 1.0 をリリースしました。これは、組織が人工知能システムの開発および導入時にセキュリティ リスクを軽減し、偏見やその他のリスクを回避できるように導くことを目的としています。マイナスの結果、AI の信頼性が高まります。

早くも 2016 年に、米国は、「国家人工知能研究開発戦略計画」と「人工知能の将来に向けた準備」という、規制ではなく推進を目的とした拘束力のある文書である 2 つの国家レベルの枠組みを公布しました。近年では。 2 つの政策枠組みは、AI 技術の開発と技術革新を積極的に促進することを目的としています。人工知能技術によってもたらされる課題への対応として、この文書では原則に基づいた対応が提案されているだけです。

カナダ

人工知能およびデータ法

2022 年 6 月、カナダは国際および地方の人工知能システム取引を規制することを目的とした「人工知能およびデータ法」を発表しました。この目的のために、法律は次のように規定しています: 影響の大きい人工知能によって引き起こされる害と出力の偏りを軽減するための措置を講じるべきである; 人工知能に関する公的情報が開示されるべきである; イノベーション・技術・産業大臣が策定する権限を与えられるべきである人工知能システムの設計、開発、使用、提供を目的としたデータのプライバシーを保護するために、「違法に取得された個人情報の保持または使用」は、人工知能システムに関連するポリシーに従って禁止されています。

ドイツ

自動運転法

2021年7月発売。この法案の目的は、無人運転技術の商業応用のための法的根拠と規制の枠組みを提供することです。この提案の最大のハイライトの 1 つは、高速道路の特定の道路区間での L4 レベルの無人車両の通常の運行に対する法的根拠を提供し、関連する技術要件、走行条件、データ処理を明確にしていることです。こうしてドイツは、世界で初めて無人車両の日常交通への参加を許可し、国全体に導入を推進した。

法案のもう一つの重要な内容は、「無人運転機能」に関する技術監視体制の確立である。したがって、賢明な自動車所有者は、自動車の安全性と自動車使用の両立性を確保するために自動車の使用を規制し、自動車の使用に対して責任を負わなければなりません。これらの責任には、自動運転を良好な状態に保つためのシステムの定期メンテナンス、交通規則遵守のための予防措置、技術的監督の責任が含まれます。この義務を果たすために、自動車の所有者は、自動車を遠隔監視し介入するための専門技術を有する自然人を技術監視員として任命しなければなりません。