作者: シジエ8月15日より「生成型人工知能サービスの管理に関する暫定措置」（以下「暫定措置」という）が施行されました。この半年ほどでがむしゃらに成長し、躍進を遂げた大型模型業界にとって、今回の「暫定措置」はまさに適切なタイミングでの発効と言える。中国科学技術情報院が発表した「中国人工知能大規模モデル地図研究報告」によると、2023年上半期の時点でパラメータ10億以上の国内大規模モデルは79件公開されており、米国に次ぐ世界第 2 位です。大型モデルの産業生態を探求するプロセスにおいて、データは必要な生産データであり、標準化する必要がある重要なリンクでもあります。弁護士の王晨氏は『石街』に次のように語った。「我が国の個人プライバシー保護は、2012年に可決された『ネットワーク情報保護強化に関する決定』など、関連する法律や規制に長い間反映されてきたが、AI技術の発展により、個人情報の収集と使用も絶えず導入されており、規制レベルでの絶え間ない調整と補足が必要です。」このたび発効した「暫定措置」は、現在の爆発的生成人工知能 (AIGC) 業界に対して発令された初の国内、さらには世界的な規制政策です。こうした背景を背景に、HKUST iFlytek会長のLiu Qingfeng氏は、「（「暫定措置」の発効により）8月15日は中国の汎用人工知能の開発における重要な結節点を迎えることになり、またマイルストーンとなるだろう」と考えている。ノードです。」**「ミャオダックカメラ」はユーザーデータを持ち出すことはできません**少し前には、9.9元でデジタルアバターとAI写真を生成する「ミャオヤカメラ」がインターネット上で人気を博し、デジタルアバターを作るために数千人が列をなすこともあった。ただし、同社のプライバシーポリシーには、ユーザーがMiaoya Cameraに与えた権限は「取り消し不能」であり、ユーザーのコンテンツは「あらゆる形式および範囲内で」およびその他の不適切なコンテンツを使用できると記載されている。その後、Miaoya Cameraの開発者は当初の契約内容が間違っていたと回答し、該当条項を直ちに削除したが、この事件は依然としてユーザーの不安を引き起こした。AIGC テクノロジーを使用して顔ビデオを生成し、さらには人間の声をシミュレートして新しいタイプの詐欺を行った事例も新聞に掲載されました。公安省のデータによると、8月10日現在、「AI顔変更」による関連詐欺事件が79件摘発され、容疑者515人が逮捕されている。AIアルゴリズムエンジニアのウェン・ムー氏は「石傑」に対し、「AI技術を利用して偽の顔写真や動画を生成するコストは非常に低い。理論上、犯罪者は訓練されたAIモデルと被害者の写真だけで済むだろう」と語った。 」AIGC企業の責任者徐良氏は、上記のAI技術の不正使用事件は、大型模型産業の産業チェーン全体を早急に規制する必要があることを反映していると考えている。中国だけでなく、世界のAI分野にも焦点を当てる必要があるトピックです。」▲8月15日に施行された「暫定措置」は4章24条からなり、上記の懸案事項が明記されている。例えば、「暫定措置」では、AIGCサービスプロバイダーは、個人情報に関わるデータ処理活動において、本人の同意を得ること、または法律や行政法規で定められたその他の事情、著作者の責任、コンテンツ管理関連の義務などを遵守する必要があると規定しています。 King & Wood Mallesons の分析によると、この規定は、関係者がコンプライアンス義務を履行しないことや、相互に回避しようとすることを防ぐのに役立ちます。徐良氏は、「暫定措置」の適用範囲に関する関連規定が特に注目に値すると考えている。具体的な規定には、AIGC テクノロジーを使用して国内公衆にテキスト、画像、オーディオ、ビデオ、その他のコンテンツを生成するサービスを提供する場合、これらの措置が適用されます；業界団体、企業、教育科学研究機関、公立文化機関、関連機関、等 AIGC技術の研究開発及び応用 AIGCサービスが国内公衆に提供されない場合、本措置の規定は適用されない。「私の理解では、ToCレベルのAIGC製品は国内市場では比較的厳しい監督にさらされるが、海外に進出することも考えられる。しかし、中国で訓練された大型モデル製品が海外に進出する場合、コンプライアンスも考慮する必要がある」データの海外流出の問題」徐梁氏は、「全体として『暫定措置』は厳格ではなく、業界に自由な発展の余地を与えている」と述べた。なお、「暫定措置」では、世論属性や社会動員機能を備えた生成型人工知能サービスを提供する者は、関連法規に従って安全性評価を実施し、届出などの手続きを踏む必要があると規定していることも指摘しておくべきだろう。7月末以来、AppleのAppStoreは中国で多数の生成AIアプリケーションを率先して削除した。 「暫定措置」の発効に伴い、今後、当該アプリケーションソフト等については、所定の手続きを経た上で再起動する予定です。**パンドラの箱を管理するにはどうすればよいですか? **業界は一般に、大規模モデル業界の標準化された開発への道では、法律や規制の継続的な改善に加えて、企業や業界が人工知能コンプライアンスシステムを構築することも必要であると考えています。バーチャルデジタルヒューマン企業の責任者は「石傑」に対し、「新技術の応用は、標準よりも先に生まれることが多い。我々は受け身で待つことはできず、技術や技術を探究し革新しながら、有益で有益な開発に積極的に貢献すべきだ」と語った。市場の方向性を導き、市場・業界・社会に必要とされるサービスを提供するとともに、技術開発によるマイナス影響をタイムリーに特定・評価するためのリスクアセスメントも実施していきます。 「リスクの予防に留意するとともに、エラー耐性とエラー修正メカニズムも同時に確立する必要がある。」「暫定措置」が発効すると、多くの大企業も人工知能コンプライアンスシステムの構築に関するアイデアと進捗状況を共有しました。iFLYTEKの劉清峰会長は8月15日、自社開発した大型モデル「Xunfei Xinghuo Cognitive Model 2.0」の記者会見で、iFLYTEKがトレーニングデータのクリーニングと生成されたコンテンツの修正を設計したと述べた。その中で、データ クリーニング プロセスでは、世界中からトレーニング コーパスを収集した後、iFLYTEK が言語弁別器、品質弁別器、プライバシー弁別器、セキュリティ弁別器を通じてテキストをクリーニングし、最終的に高品質のトレーニング コーパスを取得します。大型モデルの幻想に直面した iFLYTEK のアイデアは、一般知識ベース、業界知識ベース、大型モデルの機能を組み合わせ、一般大型モデルを使用して安全で専門的な業界知識ベースを学習し、関連する知識を抽出することです。 。バイドゥは、チップ層、フレームワーク層、モデル層、アプリケーション層の4層アーキテクチャでサプライチェーンのセキュリティと制御性を実現しており、自社開発のディープラーニングフレームワーク「Flying Paddle」では脆弱性管理も万全であるとしている。機構。「国内LLM（大型言語モデル）製品テスト」によると、Baiduの大規模モデル「Wen Xin Yi Yan」とXunfeiの大規模モデル「Xunfei Xinghuo」には、宗教的信念、封建的迷信、パンポルノ、時事問題などの類似点がある、未成年者保護、インターネットなど、安全保障法などの関連分野における回答の客観性と公平性は GPT-3.5 よりも優れています。360グループの創設者である周宏毅氏はメディアのインタビューで、360はエンタープライズレベルのAI大規模モデルソリューションを立ち上げ、「安全性と信頼性、優れたコンテンツ、信頼できる結果」の4つの原則に従って、エンタープライズレベルの垂直大規模モデルを構築し、20の業界にソリューションを提供します。6月6日に発表された「2023年国務院立法作業計画」によると、中国の「人工知能法」も立法過程にあり、関連する法規範はますます改善される予定だ。
中国の人工知能モデルはもはや「裸で走り」続けることはできない
作者: シジエ
8月15日より「生成型人工知能サービスの管理に関する暫定措置」（以下「暫定措置」という）が施行されました。
この半年ほどでがむしゃらに成長し、躍進を遂げた大型模型業界にとって、今回の「暫定措置」はまさに適切なタイミングでの発効と言える。
中国科学技術情報院が発表した「中国人工知能大規模モデル地図研究報告」によると、2023年上半期の時点でパラメータ10億以上の国内大規模モデルは79件公開されており、米国に次ぐ世界第 2 位です。
大型モデルの産業生態を探求するプロセスにおいて、データは必要な生産データであり、標準化する必要がある重要なリンクでもあります。弁護士の王晨氏は『石街』に次のように語った。「我が国の個人プライバシー保護は、2012年に可決された『ネットワーク情報保護強化に関する決定』など、関連する法律や規制に長い間反映されてきたが、AI技術の発展により、個人情報の収集と使用も絶えず導入されており、規制レベルでの絶え間ない調整と補足が必要です。」
このたび発効した「暫定措置」は、現在の爆発的生成人工知能 (AIGC) 業界に対して発令された初の国内、さらには世界的な規制政策です。
こうした背景を背景に、HKUST iFlytek会長のLiu Qingfeng氏は、「（「暫定措置」の発効により）8月15日は中国の汎用人工知能の開発における重要な結節点を迎えることになり、またマイルストーンとなるだろう」と考えている。ノードです。」
「ミャオダックカメラ」はユーザーデータを持ち出すことはできません
少し前には、9.9元でデジタルアバターとAI写真を生成する「ミャオヤカメラ」がインターネット上で人気を博し、デジタルアバターを作るために数千人が列をなすこともあった。ただし、同社のプライバシーポリシーには、ユーザーがMiaoya Cameraに与えた権限は「取り消し不能」であり、ユーザーのコンテンツは「あらゆる形式および範囲内で」およびその他の不適切なコンテンツを使用できると記載されている。
その後、Miaoya Cameraの開発者は当初の契約内容が間違っていたと回答し、該当条項を直ちに削除したが、この事件は依然としてユーザーの不安を引き起こした。
AIGC テクノロジーを使用して顔ビデオを生成し、さらには人間の声をシミュレートして新しいタイプの詐欺を行った事例も新聞に掲載されました。公安省のデータによると、8月10日現在、「AI顔変更」による関連詐欺事件が79件摘発され、容疑者515人が逮捕されている。
AIアルゴリズムエンジニアのウェン・ムー氏は「石傑」に対し、「AI技術を利用して偽の顔写真や動画を生成するコストは非常に低い。理論上、犯罪者は訓練されたAIモデルと被害者の写真だけで済むだろう」と語った。 」
AIGC企業の責任者徐良氏は、上記のAI技術の不正使用事件は、大型模型産業の産業チェーン全体を早急に規制する必要があることを反映していると考えている。中国だけでなく、世界のAI分野にも焦点を当てる必要があるトピックです。」
▲
8月15日に施行された「暫定措置」は4章24条からなり、上記の懸案事項が明記されている。
例えば、「暫定措置」では、AIGCサービスプロバイダーは、個人情報に関わるデータ処理活動において、本人の同意を得ること、または法律や行政法規で定められたその他の事情、著作者の責任、コンテンツ管理関連の義務などを遵守する必要があると規定しています。 King & Wood Mallesons の分析によると、この規定は、関係者がコンプライアンス義務を履行しないことや、相互に回避しようとすることを防ぐのに役立ちます。
徐良氏は、「暫定措置」の適用範囲に関する関連規定が特に注目に値すると考えている。具体的な規定には、AIGC テクノロジーを使用して国内公衆にテキスト、画像、オーディオ、ビデオ、その他のコンテンツを生成するサービスを提供する場合、これらの措置が適用されます；業界団体、企業、教育科学研究機関、公立文化機関、関連機関、等 AIGC技術の研究開発及び応用 AIGCサービスが国内公衆に提供されない場合、本措置の規定は適用されない。
「私の理解では、ToCレベルのAIGC製品は国内市場では比較的厳しい監督にさらされるが、海外に進出することも考えられる。しかし、中国で訓練された大型モデル製品が海外に進出する場合、コンプライアンスも考慮する必要がある」データの海外流出の問題」徐梁氏は、「全体として『暫定措置』は厳格ではなく、業界に自由な発展の余地を与えている」と述べた。
なお、「暫定措置」では、世論属性や社会動員機能を備えた生成型人工知能サービスを提供する者は、関連法規に従って安全性評価を実施し、届出などの手続きを踏む必要があると規定していることも指摘しておくべきだろう。
7月末以来、AppleのAppStoreは中国で多数の生成AIアプリケーションを率先して削除した。 「暫定措置」の発効に伴い、今後、当該アプリケーションソフト等については、所定の手続きを経た上で再起動する予定です。
**パンドラの箱を管理するにはどうすればよいですか? **
業界は一般に、大規模モデル業界の標準化された開発への道では、法律や規制の継続的な改善に加えて、企業や業界が人工知能コンプライアンスシステムを構築することも必要であると考えています。
バーチャルデジタルヒューマン企業の責任者は「石傑」に対し、「新技術の応用は、標準よりも先に生まれることが多い。我々は受け身で待つことはできず、技術や技術を探究し革新しながら、有益で有益な開発に積極的に貢献すべきだ」と語った。市場の方向性を導き、市場・業界・社会に必要とされるサービスを提供するとともに、技術開発によるマイナス影響をタイムリーに特定・評価するためのリスクアセスメントも実施していきます。 「リスクの予防に留意するとともに、エラー耐性とエラー修正メカニズムも同時に確立する必要がある。」
「暫定措置」が発効すると、多くの大企業も人工知能コンプライアンスシステムの構築に関するアイデアと進捗状況を共有しました。
iFLYTEKの劉清峰会長は8月15日、自社開発した大型モデル「Xunfei Xinghuo Cognitive Model 2.0」の記者会見で、iFLYTEKがトレーニングデータのクリーニングと生成されたコンテンツの修正を設計したと述べた。
その中で、データ クリーニング プロセスでは、世界中からトレーニング コーパスを収集した後、iFLYTEK が言語弁別器、品質弁別器、プライバシー弁別器、セキュリティ弁別器を通じてテキストをクリーニングし、最終的に高品質のトレーニング コーパスを取得します。大型モデルの幻想に直面した iFLYTEK のアイデアは、一般知識ベース、業界知識ベース、大型モデルの機能を組み合わせ、一般大型モデルを使用して安全で専門的な業界知識ベースを学習し、関連する知識を抽出することです。 。
バイドゥは、チップ層、フレームワーク層、モデル層、アプリケーション層の4層アーキテクチャでサプライチェーンのセキュリティと制御性を実現しており、自社開発のディープラーニングフレームワーク「Flying Paddle」では脆弱性管理も万全であるとしている。機構。
「国内LLM（大型言語モデル）製品テスト」によると、Baiduの大規模モデル「Wen Xin Yi Yan」とXunfeiの大規模モデル「Xunfei Xinghuo」には、宗教的信念、封建的迷信、パンポルノ、時事問題などの類似点がある、未成年者保護、インターネットなど、安全保障法などの関連分野における回答の客観性と公平性は GPT-3.5 よりも優れています。
360グループの創設者である周宏毅氏はメディアのインタビューで、360はエンタープライズレベルのAI大規模モデルソリューションを立ち上げ、「安全性と信頼性、優れたコンテンツ、信頼できる結果」の4つの原則に従って、エンタープライズレベルの垂直大規模モデルを構築し、20の業界にソリューションを提供します。
6月6日に発表された「2023年国務院立法作業計画」によると、中国の「人工知能法」も立法過程にあり、関連する法規範はますます改善される予定だ。