AI規制の難題:「魔法で魔法を克服する」方法

出典: 中国ニュースウィークリー

著者: ハリク

画像ソース: Unbounded AI によって生成‌

世界的な AI 法のプロセスは大幅に加速しており、世界中の規制が AI の進化に追いつきつつあります。

現地時間の6月14日、欧州議会は賛成499、反対28、棄権93で人工知能法（AI法）の交渉任務草案を可決した。 EUの立法プロセスによると、欧州議会、EU加盟国、欧州委員会は法案の最終条件を決定するための「三者交渉」を開始する。

欧州議会は、史上初の人工知能法案の制定に向けて「交渉の準備ができている」と述べた。バイデン米大統領はAIを規制する信号を発し、米議会の一部議員はAI規制法案を提出した。米上院民主党指導者のチャック・シューマー氏は「AI安全イノベーションの枠組み」を発表し、連邦AI法案をわずか「数カ月」以内に成立させる計画を立てている。

我が国の関連法案も議題に上っており、人工知能法案は年内に全人代常務委員会に提出され審議される予定だ。 6月20日には、国内の深層合成サービスのアルゴリズム申請リストの第1弾も発表され、百度（バイドゥ）、アリババ、テンセントなど26社、合計41のアルゴリズムがリストに掲載された。

中国、米国、欧州連合はいずれも、精度、安全性、透明性などの原則に基づいた AI 規制概念を提唱していますが、具体的な考え方や手法には多くの違いがあります。包括的なAI法の公布は、独自のルールのアウトプットの背後にあり、ルールの利点を把握したいと考えています。

国内の一部の専門家は人工知能に関する法規制の早急な整備を求めているが、現状の現実的な問題を無視することはできない。さらに、規制するか開発するかという、もう 1 つの重要な考慮事項があります。これは二者択一の選択ではありませんが、デジタル領域では 2 つのバランスを取るのは簡単ではありません。

EU の疾走、中国と米国の加速

すべてがうまくいけば、欧州議会を通過した人工知能法案は今年末までに承認される予定です。世界初の包括的な人工知能規制法がEUに上陸する可能性が高い。

「この草案は、立法化を加速するために傍観している他の国々にも影響を与えるだろう。人工知能技術を法的監督の範囲に含めるべきかどうかについては、長い間、絶え間なく論争が続いてきた。今見てみると、」 「人工知能法」が施行され、ビジネスコンテンツやユーザーなど関連するネットワークプラットフォームの情報生成に焦点を当てたプラットフォームは、より高い監査義務を負わざるを得ない」と北京大学法学部准教授のZhao Jingwu氏はチャイナニュースに語った。毎週。

デジタル戦略の一環として、欧州連合は「人工知能法」を通じて人工知能を包括的に規制することを望んでおり、その背後にある戦略的レイアウトも俎上に上っている。

北京万上天琴（杭州）法律事務所のエグゼクティブディレクター、ペン・シャオヤン氏はチャイナ・ニュース・ウィークリーに対し、「人工知能法」はEUに適用されるだけでなく、EU域外にあるシステムプロバイダーのシステム出力データがEU内で使用されているシステムプロバイダーも規制していると語った。 EU またはユーザー。同法の管轄範囲と適用範囲は大幅に拡大されており、データ要素の管轄権を先取りする手がかりも垣間見える。

中国国際問題研究院欧州研究所の副所長兼研究員であるジン・リン氏も、「世界初の人工知能立法：イノベーションと規制の難しいバランス」という記事で、「人工知能法」は道徳的基準を強調していると書いている。 EU AI ガバナンスの利点 は、その規範力を最大限に発揮し、ルールの利点によって技術的欠点を補おうとする EU によるもう 1 つの試みです。これは、人工知能の分野で道徳的優位性を獲得するという EU の戦略的意図を反映しています。

人工知能法は制定に 2 年かかりました。 2021年4月、欧州委員会は「リスク分類」の枠組みに基づいた人工知能法制の提案を提出し、数回の議論を経て修正された。 ChatGPT などの生成 AI の人気を受けて、EU 議員は緊急に「パッチ」を追加しました。

新たな変化は、「人工知能法」の最新草案が汎用AIの透明性要件を強化したことだ。たとえば、基本モデルに基づく生成 AI は、生成されたコンテンツにラベルを付け、ユーザーがディープフェイクと本物の情報を区別できるようにし、違法なコンテンツの生成を確実に防止する必要があります。 OpenAI や Google などの基本モデルのプロバイダーも、モデルのトレーニング中に著作権で保護されたデータを使用する場合、トレーニング データの詳細を開示する必要があります。

さらに、公共の場でのリアルタイム遠隔生体認証技術は「高リスク」レベルから「禁止」レベル、つまりEU諸国の公共の場での顔認証にAI技術を使用してはならないと調整された。

最新の草案では、違反に対する罰金の額もさらに増額され、違反企業の前年度の世界売上高の6%または3,000万ユーロの上限が、最大4,000万ユーロまたは世界の年間売上高の7%に変更される。侵害企業の前年度の売上高。これは、世界収益の最大 4% または 2,000 万ユーロの罰金を科せられる欧州の代表的なデータセキュリティ法である一般データ保護規則よりも大幅に高い額です。

彭暁燕氏はチャイナ・ニュース・ウィークリーに対し、刑罰の増額は人工知能を監督するEU当局の決意と強さを反映していると語った。数千億ドルの収益を誇るグーグル、マイクロソフト、アップルなどのテクノロジー大手にとって、「人工知能法」の規定に違反した場合、罰金は数百億ドルに達する可能性がある。

海の向こうの米国では、ワシントンがマスク氏らのAI制御強化の呼びかけへの対応に追われている間に、6月20日、バイデン米大統領がサンフランシスコで人工知能の専門家や研究者のグループと会談し、議論した。この新しいテクノロジーのリスクをどのように管理するか。バイデン氏は当時、AIの巨大な可能性を活用しながら、AIが社会、経済、国家安全保障にもたらすリスクを管理する必要があると述べた。

AIにおけるリスク管理やコントロールが話題になっている背景には、米国がAI技術に対して厳格な独占禁止措置を講じておらず、連邦レベルでの包括的なAI規制法がまだ導入されていないことが挙げられる。

米国連邦政府が人工知能規制の分野に初めて正式に進出したのは2020年1月で、人工知能の新たな問題に対する規制および非規制措置に関する指針を提供する「人工知能の適用に関する規制ガイドライン」を発表した。 2021年に導入された「国家人工知能イニシアチブ法2020」はAI分野における政策方針に近く、人工知能のガバナンスや強力な監督とはまだ一定の距離がある。 1 年後、2022 年 10 月にホワイトハウスによって発表された AI 権利章典の青写真 (「青写真」) は、AI ガバナンスをサポートする枠組みを提供しますが、これは米国の公式政策ではなく、拘束力はありません。

米国のAI法制はほとんど進展しておらず、多くの不満を引き起こしている。米国はデジタル経済のルール策定において欧州連合（ＥＵ）や中国に後れを取っていると多くの人が批判してきた。しかし、欧州連合の「人工知能法」が最後の「ハードル」を越えようとしていると見てか、米国議会は最近、立法を加速する兆しを見せている。

バイデンのAIカンファレンスの当日、民主党のテッド・W・リュー下院議員とアンナ・エシュー下院議員は、共和党のケン・バック下院議員とともに、「人工知能に関する国家評議会」案を提出した。一方、民主党のブライアン・シャッツ上院議員は、AI規制に焦点を当てた付随法案を上院に提出する予定だ。

法案の内容によると、人工知能委員会は政府、産業界、市民社会、コンピューターサイエンスの専門家２０人で構成され、米国の現在の人工知能規制手法を見直し、包括的な規制枠組みを共同開発する。 。

テッド・リュー氏は声明で「AIは社会で驚くべきことを行っている。チェックされず規制されないまま放置されれば、重大な害を引き起こす可能性がある。議会は傍観してはならない」と述べた。

翌日の6月21日、上院民主党指導者のチャック・シューマー氏は戦略国際問題研究所（CSIS）で演説し、「人工知能セキュリティイノベーションのフレームワーク」（「AIフレームワーク」）を明らかにした。安全性、説明責任、基盤、解釈可能性は、ブループリントを含む壮大な計画を反映しています。同氏は4月に枠組みを提案したが、その時点では詳細についてはほとんど明らかにしなかった。

AI フレームワークの背後には、チャック シューマーによる立法戦略があります。この演説の中で、同氏は連邦人工知能法案がわずか「数カ月」以内に成立すると述べた。しかし、米国の立法手続きは煩雑で、上院と下院での採決が必要なだけでなく、複数回の公聴会を経る必要があり、長い時間がかかります。

AIフレームワークの一環として、進歩を加速するために、チャック・シューマー氏は今年9月からイノベーション、知的財産、国家安全保障、プライバシーなど10のトピックをカバーする一連の人工知能洞察フォーラムを開催する予定だ。同氏は外部に対し、インサイト・フォーラムは人工知能に関する議会公聴会に代わるものではなく、議会が数年ではなく数カ月でこの技術に関する政策を導入できるよう並行して開催されると語った。同氏は、米国のAI法制で「具体的なことが見え始めるには秋までかかるかもしれない」と予想した。

進捗状況は欧州連合に追いついていませんが、我が国の関連法案も議題に上っています。 6月初め、国務院総弁公室は「2023年国務院立法作業計画」を発表し、人工知能法案が全国人民代表大会常務委員会に審議のために提出される準備が整っていると述べた。 。

我が国の「立法法」の規定によれば、国務院が全国人民代表大会常務委員会に法案を提案した後、主席会議はそれを常務委員会会議の議題に含めることを決定するか、または最初に提出する。当該特別委員会に審議を求め、報告書を提出し、常任委員会への付議を決定する 会議の議題は、通常、採決されるまでに 3 回の審議を経る必要がある。

今年の初め以来、多くの国で AI の法整備が加速していますが、Peng Xiaoyan 氏は、これは競争と技術開発の両方の結果であると考えています。

「データ要素はますます国家戦略要素になりつつあり、各国は法律を通じて管轄権を確立し、人工知能で発言する権利を掌握することも望んでいます。同時に、ChatGPTなどの人工知能技術の反復的な更新により、社会は「強力な人工知能の開発に新たな期待が寄せられています。テクノロジーの発展は必然的に新たな社会問題や社会矛盾を引き起こし、それには規制の介入や調整が必要ですが、テクノロジーの発展は法律の更新をある程度促進しました。」と彭氏は述べた。シャオヤンは言った。

発散の数は収束をはるかに上回ります

中国、米国、欧州連合は世界的な AI 開発の主な原動力ですが、この 3 か国の間では AI 法制にもいくつかの違いがあります。

EUの「人工知能法」では、人工知能応用のリスクを用途や機能の観点から4段階に分類しており、草案が何度修正されても「リスク分類」は依然としてEUの中核概念となっている。 AI ガバナンス。

ピラミッドの頂点は人間の安全保障にとって「容認できない」リスクとなるはずだ。たとえば、社会的行動や個人的特徴などに基づいて人々を分類するスコアリングシステムは完全に禁止されることになる。

最新の草案では、欧州議会は侵入的で差別的なAIシステムを防ぐために「容認できないリスク」のリストを拡大した。公共空間での生体認証、感情認識、予測的取り締まり（プロファイリング、位置情報、または過去の犯罪行為に基づく）、インターネットからの顔画像のランダムな取得など、6 種類の人工知能システムは完全に禁止されています。

2 番目のカテゴリは、人間の安全保障や基本的権利に悪影響を及ぼし、「高リスク」とみなされる AI システムです。たとえば、航空、自動車、医療機器などの製品で使用される AI システムのほか、重要インフラ、教育、トレーニング、法執行機関などをカバーする EU データベースへの登録が必要な 8 つの特定分野があります。 AI 規制と事前の適合性評価を条件として、一連の要件と義務を条件として、さまざまな「高リスク」AI システムが EU 市場に参入することが許可されます。

さらに、有権者や選挙結果に影響を与える人工知能システムや、Facebook、Twitter、Instagram などの 4,500 万人以上のユーザーを抱えるソーシャル メディア プラットフォームで使用される推奨システムも、以下の高リスク リストに追加されます。 EU のデジタル サービス法。

ピラミッドの最下位にあるのは、リスクが制限されているか、ほとんどまたはまったくない AI システムです。前者には特定の透明性義務があり、ユーザーがAIシステムと対話していることを通知する必要がありますが、後者には強制的な規制はなく、スパムフィルターなどのアプリケーションなど基本的に規制されていません。

「人工知能法」は、その厳格な規制規定により、多くの業界関係者から鋭い「牙」がたくさんあると見なされています。しかし、この法案は強力な規制とイノベーションのバランスをとろうともしている。

例えば、最新の草案では、加盟国に対し、中小企業や新興企業が、監督下で安全かつ制御可能なシナリオで、革新的な人工物をテストするために無料で使用できる「規制サンドボックス」を少なくとも1つ確立することを義務付けている。コンプライアンス要件が満たされるまで、インテリジェンス システムが使用される前に。 EUは一般的に、この提案により当局が技術変化にリアルタイムで注意を払うことができるようになるだけでなく、AI企業が規制の圧力を軽減しながらイノベーションを継続できるようになると考えている。

ジン・リン氏は前述の記事で、EUの上流ガバナンス手法では企業に対しより多くの初期費用負担を求める一方で、リスク評価の不確実性が企業の投資熱意にも影響を与えると述べた。したがって、欧州委員会はAI法が欧州デジタル経済のイノベーションと成長を支援すると繰り返し強調しているが、現実的な経済分析はこの結論を支持していないようだ。この法案は、効果的にバランスをとることが難しい、イノベーションの促進と権利の保護との間のEU固有の対立を反映している。

欧州連合や中国と同様、米国はリスクベースの AI 規制アプローチを支持し、正確性、セキュリティ、透明性を主張しています。しかし、Zhao Jingwu氏の見解では、米国の規制上の考え方は、AI業界のイノベーションと発展を促進し、最終的には米国のリーダーシップと競争力を維持するためのAIの利用により重点を置いているという。

「中国やEUが持つ『リスク防止と技術セキュリティ』という規制概念とは異なり、米国は商業開発に重点を置いている。中国もEUも、人工知能技術の悪用を防ぐため、人工知能技術アプリケーションのセキュリティに重点を置いている」個人の権利の侵害を防ぐ一方、米国は産業発展に重点を置き、監督の焦点を絞っている」と趙景武氏は語った。

研究によると、米国議会の法律は主に政府による人工知能の使用の奨励と指導に焦点を当てていることがわかっています。たとえば、米国上院は 2021 年に AI イノベーション法を導入し、米国国防総省に対し、最高の AI および機械学習ソフトウェア機能を確実に利用できるようにするパイロット プログラムの実施を義務付けました。

前述のスピーチの中で、チャック・シューマー氏はイノベーションを北極星と見なしており、彼の AI フレームワークは人工知能の大きな可能性を解き放ち、米国主導の人工知能技術革新をサポートすることになっています。 「人工知能アプリケーションの監督ガイドライン」の冒頭では、技術の進歩とイノベーションを引き続き促進する必要があることが明らかです。 2020 年国家人工知能イニシアチブ法の最終目標は、研究投資の増加と労働力システムの確立によって、米国が世界の AI 技術分野で主導的地位を維持することを確保することでもあります。

彭暁燕氏は、仕様設計を指導するという観点から見ると、米国における人工知能の開発は依然として立法・制度レベルでの監督が弱い状態にあり、社会は人工知能技術の革新と拡大を積極的に奨励していると述べた。オープンな態度。

より明確な調査権限と包括的な規制範囲を有する欧州連合と比較して、米国は AI 規制に対して分散型アプローチを採用しており、一部の州や機関は AI ガバナンスをそれほど進んでいません。その結果、国家的な AI 規制への取り組みは非常に広範囲かつ原則に基づいています。

例えば、「ブループリント」は米国の人工知能ガバナンス政策のマイルストーンイベントであり、安全で効果的なシステム、アルゴリズムによる差別の防止、データプライバシーの保護、通知と説明、意思決定への人間の参加を含む5つの基本原則を策定しています。 -作成. これ以上の詳細な規定はありません。

彭暁燕氏は、「青写真」は具体的な実装措置を策定するものではなく、人工知能システムの設計、使用、展開を導くことを目的として、原則的な方法で人工知能開発の基本的な枠組みを構築するものであると考えている。

「このような基準は義務ではありません。これは、米国が人工知能産業の発展を支援することを考慮しているためです。現在、人工知能はまだ開発の新興段階にあり、厳重な監督は産業の発展と産業の発展を制限することは必至です」 「技術革新はある程度進んでいる。したがって、米国は立法に関して比較的控えめな態度を維持している」と彭暁燕氏は述べた。

「政府機関に新たな権限を与える法律がなければ、政府機関はすでに持っている権限に従って人工知能の使用を規制することしかできません。一方で、人工知能に関連する倫理原則はあまり規制されておらず、政府機関は自ら規制方法を決定できます」カーネギーのアナリスト、ハドリアン・プージェ氏によると、これにより、ホワイトハウス主導の連邦政府機関は制限されながらも自由になるという。

利用とイノベーションを中心とした AI ガバナンスの概念は、米国の「拳」にあまり負担をかけない運命にあります。米国の著名なシンクタンク、ブルッキングス研究所の研究者アレックス・エングラー氏は、教育、金融、雇用などの社会的影響を与える人工知能に対して、欧州連合と米国は異なる規制アプローチを採用していると指摘した。

特定の AI アプリケーションに関して言えば、欧州連合の「人工知能法」にはチャット ロボットに対する透明性要件が定められていますが、米国には連邦規制がありません。顔認識は欧州連合によって「容認できないリスク」とみなされており、米国は国立標準技術研究所（NIST）の顔認識ベンダーテストプログラムを通じて公開情報を提供しているが、規則は義務付けていない。

「EUの規制範囲は、より広範囲のアプリケーションをカバーしているだけでなく、これらのAIアプリケーションのためのより多くのルールを定めています。米国のアプローチは、AIを管理しようとする現在の制度的規制の適応にさらに狭い範囲で限定されていますが、AIの範囲も広範囲に渡っています」アレックス・エングラー氏は、原則はほぼ同じであるにもかかわらず、AI リスク管理では収束よりも発散のほうがはるかに多いと述べています。

趙京武氏は中国、欧州連合、米国のAI規制モデルを要約し、中国は人工知能技術の応用シナリオに限定されており、顔認識技術などの応用シナリオに向けた特別な規制ルールを策定していることを発見した。 、深層合成、および自動推奨。 EU は、人工知能アプリケーションのリスク レベルが許容可能なレベルであるかどうかに応じて、リスク レベルを基準にしています。米国は、既存の伝統的な法制度の枠組みの中で人工知能技術の適用の合法性を判断します。

さらに、米国も人工知能研究にさらに注目し、より多くの資金を投資しています。ちょうど5月初旬、ホワイトハウスは7つの国立人工知能研究機関を新たに設立するために約1億4,000万米ドルを投資すると発表した。研究者の中には、米国のこの動きによりAIへの理解が深まり、規制プロセスから生じる懸念が軽減されることを期待していると考える人もいる。

彭暁燕氏は、我が国は関連分野の管理を限定的に規制しながら人工知能技術の開発を奨励し、調整された政策と管理要件で人工知能技術の開発を指導する措置を講じていると述べた。

私の国の法律は多くの現実的な問題に直面しています

欧州連合は世界初のAI規制法案の施行を加速しており、趙静武氏はチャイナニュースウィークリーに対し、欧州連合の人工知能規制措置は「リスクレベルシステム」であり、「人工知能法」で提案されている「一般モデル」規制概念であると語った。 、ChatGPT の特定の規制 生成型人工知能アプリケーションの開示義務とデータ著作権遵守義務は、我が国の人工知能法にとって参考価値があります。

実際、私の国の人工知能に関する法整備はすでに始まっており、2017年に国務院は「新世代人工知能発展計画」を発表し、2025年までに人工知能に関する法規制、倫理規範、政策体系を整備することを提案した。最初に確立され、人工知能のセキュリティ評価とポリシーが形成される必要があります。

地元では、2022 年に深セン市が「深セン経済特別区人工知能産業促進条例」を公布しました。これは、我が国初の人工知能産業に対する特別立法とみなされます。 「規制」では、人工知能製品やサービスで発生する可能性のある倫理的セキュリティリスクとコンプライアンスリスクを防ぐために、人工知能分野の監督メカニズムを改善する必要があると述べられています。

現在、我が国の人工知能規制は、主にいくつかの主要省庁と委員会が共同で推進しており、さまざまな分野で人工知能の規制と開発を推進しています。 「インターネット情報サービスのアルゴリズム勧告の管理に関する規則」、「インターネット情報サービスの深層合成の管理に関する規則」、「生成的人工知能サービスに関する管理措置（意見募集草案）」などの規範文書も制定されています。発行されました。

「歴史的な管理規範の観点から見ると、我が国の人工知能分野の規制は、事業分野と技術の方向性を区別する措置を採用しており、管理規範は分散化する傾向にあります。規範が導入される際には、タイムリーであることが多いという特徴があります」 「特定の技術の出現後、特別な管理規定を作成する。規定は監督に重点を置いて行政部門によって公布され、規制レベルの法律に格上げされていない」と彭暁燕氏は述べた。

なお、6月20日には国内深層合成サービスのアルゴリズム申請リストの第1弾が発表され、Baidu、Alibaba、Tencent、ByteDance、Meituanなど26社、合計41のアルゴリズムがリストに名を連ねた。

AI法規制の熱が高まるにつれ、国内の専門家は人工知能法規制の迅速な整備を求め始めている。しかし、趙景武氏の見解では、我が国の人工知能に関する特別立法は実現可能だが、多くの現実的な問題にも直面している。

「1つは立法文書間のシステム接続の問題です。人工知能固有の立法と他の規範文書との適用関係はまだ解決されておらず、特に特別立法と現行法の内容レベルでの重複は未解決です。2つ目は人工知能です。」インテリジェンス技術：更新と反復の速度が加速しており、法と技術の同時発展を確保することが困難である、第三に、人工知能の規制規則は完全性を欠いており、データ、アルゴリズムの 3 つの核心要素の規制規則が欠如している。 、コンピューティング能力はまだ模索段階にあり、第四に、人工知能法制セキュリティリスク管理に重点を置くべきか、産業発展に重点を置くべきかは、より議論の余地がある」とZhao Jingwu氏は述べた。

欧州連合の「人工知能法」であれ、中国、米国、その他の国々のAIに関する規制、取り組み、計画であれ、彼らは安全性を確保するだけでなく、 AIにとってより良い条件を。

この普遍性の原則に基づいて、彭暁燕氏はチャイナニュースウィークリーに対し、我が国における人工知能法の制定は、まず開発と革新を積極的に奨励することに基づいて行われ、人工知能が比較的オープンな空間で規制、開発できるようにすべきであると語った。レッドライン。

「さらに、人工知能の違法コンテンツの禁止、人工知能のデータセキュリティの保護、人工知能の保護など、現在誰もが懸念している人工知能の分野の法的問題を解決する必要があります。倫理と安全、知的財産侵害の防止など」と彭暁燕氏は語った。

Zhao Jingwu は、我が国は産業発展保護を目的とした人工知能法を制定すべきであると考えています。

「現在の法律は、基本的に人工知能技術アプリケーションの監督ニーズを満たすことができます。技術的リスクの防止と技術的セキュリティの確保はガバナンスのプロセスにすぎず、最終的な目標は依然として人工知能の開発レベルに戻る必要があります」結局のところ、人工知能法は産業の発展を制限するものではなく、関連産業の健全な発展を導き、保証するものなのです」とZhao Jingwu氏は語った。