AIモデル「フィッティング」製品は本物なのか？購入できますか?専門家: 消費者の知る権利と選択する権利を侵害しないように、販売業者は表示義務を履行する必要があります。

出典: 法務日報

著者: 孫天角

研修生記者ディン・イー

小さな顔、完璧な肌、完璧な体の比率、モデルと彼女の体に着た服が互いに補い合い、服がよりフィットしてトレンディになっています... これは電子商取引プラットフォームに掲載された商品の写真です。しかし、よく見てみると、その服を試着しているモデルたちは実在の人物ではないようです。店に個人的に手紙を送ったところ、相手は「服の細部をよりよく見せるために」プロモーションマップがAIによって描かれたことをあっさり認めた。

「法の支配日報」の記者が最近調査したところ、複数の電子商取引プラットフォームの多くの販売業者がAIモデルを使用して商品を展示する衣類を試着していることが判明した。それだけではなく、ECプラットフォーム上では「AI描画モデル生成」や「実物モデルのダミー」などのAIモデル描画サービスを提供する店舗も出てきています。

AIモデルを使って写真を「フィッティング」して宣伝する場合、提示される商品効果は信頼できるのでしょうか？消費者は買うでしょうか？ AI モデルの「適合」画像は自由に作成および使用できますか?また、それらはどのような法的リスクに直面する可能性がありますか?こうした疑問を抱いて、記者は調査インタビューを開始した。

細部には明らかな違いがあり、誤ったプロパガンダの疑いがある

AIモデルの「フィッティング」広報写真、服はモデルにぴったりフィットし、シワもほとんどないが、本当にそうなのだろうか？

記者は最近、「絶妙なスーツ」などのキーワードを使用して主要な電子商取引プラットフォームを検索したところ、多くの商品の宣伝写真が明らかにAIモデルが「フィッティング」した写真であることが判明した。これらの AI モデルのより明らかな特徴は、明らかな体の曲線、ほっそりした手足、似顔絵のような非常に繊細な顔の特徴を持ち、背景のほとんどがぼかした単色背景であることです。

たとえば、電子商取引プラットフォームで 6,000 件のお気に入りが登録されている店舗では、店舗の賞賛リストの 2 位は 450 着以上の売り上げを記録したスーツであり、商品写真にはブロンドの髪と青い目のアニメのモデルが表示されています。ソフトフォーカス（写真撮影において、ソフトフォーカスレンズを使用したり、レンズの前にソフトフォーカスフィルターを追加して、繊細で柔らかい画像を実現することを指します）のような写真です。図。

記者が商品を注文し、商品が届いて開けてみると、届いたスーツと宣材写真には大きな違いがあり、色が違ったり、プリーツが突然入っていたりした。 、ネックラインの高さが合わなかった。さらに絶句するのは、モデル写真の服は肩が落ちたランタンスリーブで、丈は肘上くらいですが、実際の服は袖が肘にかかるくらいで、袖口が絞れないことです。

記者が遭遇した状況は特別なケースではなく、オンラインストアでは、AIモデルが「試着」した画像を宣伝画像として使用した洋服が数百着も売れ、コメント欄にはこうしたコメントが溢れている。 ：「AI画像のせいか、絵にかなり近いのに、届いてみると太りすぎている。」 「スカートにプリーツがたっぷり入っている。」 「服の色が写真と違う」 。」

ソーシャルプラットフォームでは、「AIモデル」という項目の下で、多くのネチズンはAIモデルにお金を払いたくないことを明らかにしており、多くのネチズンはAIモデルを使用して服を表示することでオンラインショッピングの可能性が高まると信じています。一部のネチズンは「本物の人は上半身を試着することを許可されていない。本当に買う人がいるのか？」「AIモデルの頭身比率は人間のそれと一致しない」と率直に述べた。 「AI モデルの画像が生成されると、物理的な製品も仮想になります。真正性はどのように保証されますか?」一部のネチズンは「AIが生成した商品写真が付いている商品は買わない」と明言した。

中国政法大学の教授で中国消費者保護法研究協会の副事務局長でもある孫英氏は、電子商取引販売分野における人工知能の適用は、ライブモデルやアンカーが最適であると述べた。 AI技術を使用して、さまざまなスタイルの服を自動的に変更して表示します。 「現時点では、モデル写真のAI制作には技術的に克服できないいくつかの障害がまだあり、細部が異なるため、消費者は服の実際の外観を判断できません。」

「AIモデルマップは、商品の外観、スタイル、色、模様などの客観的条件を完全かつ真実に示すことができないため、消費者の知る権利や選択する権利の侵害は避けられず、消費者の知る権利に違反するものとなります。 「通信事業者の消費者に対する義務は、総合的かつ包括的な製品またはサービス情報を提供することです。真実かつ正確である義務があり、虚偽または誤解を招くプロパガンダに関与する可能性さえあります」とSun Ying氏は述べた。

生産コストが低く効率的だが、技術レベルの向上が必要

なぜ一部の販売者は、製品のプロモーションに AI モデルに「適合する」写真を選択しようとするのでしょうか?

一部の業界関係者は記者団に対し、これは主に一部のオンラインショップが撮影コストを節約したいためだと語った。公開報道によると、一部の商店が本物のモデルをAIモデルに置き換えたところ、モデル、カメラマン、その他のスタッフの人件費、会場費、設備費などを含めて、月々のコストが約4万元節約されたという。

「中小企業の中には、モデルを雇う余裕がなかったり、あまり綺麗なショットが撮れなかったりする場合が多いです。AIモデルを活用することで、より低コストで高品質な商品ディスプレイを完成させることができます。また、特定のショットでは外国人モデルなどが必要になる場合もあり、 「AIモデルが使われている。実際に適切なモデルを見つけるよりも便利で早いだろう」と業界関係者は語る。

それに伴い、AIGC（AI Generated Content、人工知能が自動生成するコンテンツ）機能を提供するソフトウェアも増えています。関連ソフトウェアで AI モデルの画像を生成する主な方法は、純粋なテキストの説明、テキストと画像、および画像と画像を使用して、ワンクリックで AI モデルに「適合」する画像を生成できます。

記者の調査によると、加盟店のAIモデル「フィッティング」画像の制作ニーズに伴い、AIモデル「フィッティング」画像の生成サービスも一部の加盟店の主力商品になりつつあることが判明した。記者がネット通販アプリで「AIモデル生成」「AI服装モデル生成」などのキーワードで検索したところ、関連商品が多数出てきた。

これらの商品の詳細紹介ページでは、ダミー試着モデルから実物モデルへの変換、モデル試着画像を直接生成するための服装写真の提供、モデルの外観特徴の指定などの販売業者のサービスが提供されています。具体的な操作に関しては、多くの販売業者は写真を使用して画像を生成していると述べ、「衣服の写真を提供するだけでよく、できれば偽のモデルや実際の人物がそれを着ている場合、効果はより良くなります。」と述べています。

価格に関しては、記者がいくつかの店に尋ねたところ、他の人が写真の制作を手伝ってくれた場合、3枚から10枚までの価格は100元から300元の範囲であることがわかった。電子商取引事業者は、ソフトウェアを購入して自分でチュートリアルを学習し、ソフトウェア人工知能を使用して必要なモデル画像を生成することもできます。

記者が選んだのは月間販売量4,000個以上の店舗で、初回注文は1元未満で「描画の代わりにAI描画」サービスを1回体験できる。同店のガイドラインに従い、記者が服装の写真と「巻き髪の女の子」「可愛い」「スリム」などのキーワードを提供すると、数分後に相手が生成した写真4枚を提供した。

これらの写真では、モデルの外観は期待どおりであり、さらに現実的であり、実際の人物とほとんど変わりません。ただし、服装の類似点はかなり異なり、色はもちろん、襟元のデザイン、袖の長さ、袖先、ベルトの有無、装飾の位置などが原画とは大きく異なります。

「特定のキーワードを検索できます。」記者の質問に対し、同店はキーワードを限定することで写真をより満足のいくものにすることができ、「本物の人物や偽のモデルが着用している写真を提供すると、生成されるレンダリングがより良くなります」と述べた。 。

西南政法大学民商法学部の准教授であり、サイバースペースガバナンス研究所の副所長でもある鄭志峰氏によると、AI技術を利用してモデル画像を生成するのは、特定のアプリケーションシナリオを反映しているという。販売コストの削減につながるAI技術の導入。同時に、生成人工知能技術は、さまざまなモデル画像をバッチで効率的に生成でき、多くのモデル画像でも非常に創造的で美しいですが、生成されたコンテンツが実際のモデルとまったく同じであることは難しく、信頼性と精度が低くなります。アルゴリズムのさらなる開発が必要です。

ビジネスマンは表示義務を果たし、肖像権侵害のリスクに注意する必要があります

人工知能製品の適用を規制するため、国家インターネット情報局とその他の 3 つの部門は、今年 1 月 10 日に発効した「インターネット情報サービス深層合成管理規則」を検討し可決しました。この規則には、深層合成について明確に記載されています。サービスプロバイダーと技術サポーターは、技術管理を強化し、合成アルゴリズムを生成するメカニズムを定期的にレビュー、評価、検証する必要があります。顔や音声などの生体情報を生成・編集できるモデルやテンプレートなどのツールを提供する深層合成サービス提供者や技術支援者は、法律に基づき自らまたは専門機関に委託してセキュリティ評価を実施しなければなりません。

この規制では、顔の生成、顔の置換、顔の操作、ジェスチャー操作、および個人のアイデンティティ特性を大幅に変更する、公衆の混乱や誤認を引き起こす可能性のあるその他の画像およびビデオの生成または編集サービスを提供する深層合成サービスプロバイダーは、大幅に規制されなければならないことも明確にしています。生成または編集された情報コンテンツの適切な位置と領域をマークして、深い統合を一般の人々に思い出させる。

国家インターネット情報局など7部門が審査・承認した「生成型人工知能サービス管理暫定措置」は、今年8月15日に発効する。生成型人工知能サービスプロバイダーは、「インターネット情報サービスの深層合成管理に関する規則」に従って、画像やビデオなどの生成されたコンテンツを識別する必要があることを再度強調します。

「電子商取引の分野、特に商品や製品、サービスを表示する過程において、AIの応用傾向は避けられない」と中国法学会法治研究所の研究員、Liu Jinrui氏は述べた。販売業者が商品の表示に AI を使用する場合、上記 2 つの規制を遵守する必要があり、法的規範は消費者に、モデル画像が本人確認義務を果たすために人工知能によって生成されたものであることを十分に通知すると同時に、遵守する必要があります。広告法、電子商取引法、消費者権利保護法など、該当するシナリオに応じた特別な規制要件が適用されます。

しかし、記者の調査によると、明らかなアニメキャラクター風のAIモデル画像を使用している販売者であっても、ソーシャルプラットフォーム上で「高度に擬人化されたAIモデル」を持っていることを明確に宣伝している販売者であっても、特定の製品ページがあり、AI モデル マップを特定します。

「プラットフォームは監督責任を負います。AIモデル画像を使用する販売者にとって、プラットフォームが技術サービスの提供者でもある場合、「生成型人工知能サービスの管理に関する暫定措置」およびその他の法令を遵守する必要があります。プラットフォームの秩序を監督し確保するための効果的な措置を講じてください」と鄭志峰氏は述べた。

一部の AI データベースには大量の顔データが含まれているため、一部の AI モデル画像は生成後に実際の人間の顔に非常に類似する可能性があることに注意してください。これに関して、一部のネチズンは懸念を表明し、侵害が関与しているかどうかについて疑問を呈した。

中央財経大学法学部の准教授で博士指導者のワン・イェガン氏は、「企業がAIを通じて生成した写真が他人の肖像画と高度な類似性を持っていれば、他人がその人物を特定できるようになる」と述べた。 AI写真から特定の人物を特定する場合、AIが生成した写真は他人の肖像に属するものであり、販売者は写真を作成および使用する際に肖像権者の同意を得なければなりません。そうでない場合は、他人の肖像権の侵害に該当します。」

Zheng Zhifeng氏は、商人は、人工知能に違法なキーワードを意図的に提供して不適切なコンテンツを含む画像を生成したり、他人の肖像権、名誉権、個人情報の権利を侵害したりするなど、違法な目的でAI技術を意図的に使用することを禁止すべきであると述べた。 . コンテンツ; 人工知能の通常の使用によって生成されたコンテンツについては、生成されたコンテンツが規制に違反している疑いがあることが判明した場合には、生成されたコンテンツが準拠していることを保証するために適切な注意義務を負う必要もあります。適時にテクニカルサービスプロバイダーに報告する必要があります。