Le produit « adapté » au modèle d'IA est-il réel ? Puis-je l'acheter ? Expert : Les commerçants doivent remplir leurs obligations en matière d'étiquetage pour éviter de compromettre le droit des consommateurs de savoir et de choisir

Source : Quotidien juridique

Auteur : Sun Tianjiao

Journaliste stagiaire Ding Yi

Petit visage, peau impeccable, rapport corporel parfait, le modèle et les vêtements sur son corps se complètent, rendant les vêtements plus ajustés et tendances... Voici une photo d'un produit apparu sur une plateforme de commerce électronique. Mais un examen plus approfondi révèle que les mannequins essayant les vêtements ne semblent pas être de vraies personnes. Après avoir envoyé un courrier privé au magasin, l'autre partie a volontiers admis que la carte promotionnelle avait été dessinée par AI, "afin de mieux montrer les détails des vêtements".

Un journaliste du "Rule of Law Daily" a récemment enquêté et découvert que de nombreux marchands sur plusieurs plates-formes de commerce électronique avaient utilisé des modèles d'IA pour essayer des vêtements afin d'afficher des produits. Non seulement cela, sur la plate-forme de commerce électronique, certains magasins ont commencé à fournir des services de dessin de modèles d'IA, tels que « génération de modèles de dessin d'IA », « mannequin pour modèle réel », etc.

En utilisant des images "adaptées" au modèle d'IA pour la publicité, l'effet produit présenté est-il fiable ? Les consommateurs vont-ils l'acheter ? Les images "ajustées" des modèles d'IA peuvent-elles être créées et utilisées à volonté, et à quels risques juridiques peuvent-elles être confrontées ? Avec ces questions, le journaliste a lancé une interview d'enquête.

Il existe des différences évidentes dans les détails, qui peuvent être suspectés de fausse propagande

Image publicitaire "fitting" du modèle AI, les vêtements s'adaptent parfaitement au modèle, il n'y a presque pas de rides, mais est-ce vraiment le cas ?

Le journaliste a récemment effectué une recherche sur les principales plates-formes de commerce électronique en utilisant des mots-clés tels que "costumes exquis" et a découvert que les images publicitaires de nombreux produits sont manifestement des images "adaptées" aux modèles d'IA. Les caractéristiques les plus évidentes de ces modèles d'IA sont qu'ils ont des courbes corporelles évidentes, des membres élancés, des traits du visage extrêmement délicats avec un sens de la caricature, et l'arrière-plan est principalement un arrière-plan flou de couleur unie.

Par exemple, dans un magasin avec 6 000 favoris sur une plate-forme de commerce électronique, la deuxième place dans la liste des éloges du magasin est un costume avec des ventes de plus de pièces 450. La photo du produit est présentée par un modèle de dessin animé aux cheveux blonds et aux yeux bleus Les photos semblent floues (se réfère à l'utilisation d'un objectif à mise au point douce ou à l'ajout d'un filtre à mise au point douce devant l'objectif en photographie pour obtenir une image délicate et douce). À première vue, cela ressemble à un dessin animé illustration.

Le journaliste a passé une commande pour le produit, et après avoir reçu le produit, il l'a ouvert et a constaté qu'il y avait une grande différence entre le costume qu'il avait reçu et la photo promotionnelle : la couleur était différente, il y avait un pli supplémentaire à partir de rien , et la hauteur de l'encolure ne correspondait pas. Ce qui est encore plus sans voix, c'est que les vêtements sur la photo du modèle ont des manches lanternes avec des épaules tombantes et que la longueur est juste au-dessus des coudes, tandis que les manches des vêtements réels couvrent les coudes et que les poignets ne peuvent pas être serrés.

La situation rencontrée par le journaliste n'est pas un cas isolé. Dans une boutique en ligne, un vêtement avec une image "fitting" d'un modèle d'IA comme image publicitaire, qui s'est vendu à des centaines de pièces, est plein de tels commentaires dans la zone de commentaires : "C'est peut-être parce que la photo AI est très ajustée dans le tableau, mais elle est trop grosse après l'avoir reçue." "La jupe est pleine de plis." "La couleur des vêtements est différente de celle de la photo ."

Sur les plateformes sociales, sous l'entrée "modèle d'IA", de nombreux internautes ont clairement indiqué qu'ils ne voulaient pas payer pour des modèles d'IA. De nombreux internautes pensent que l'utilisation de modèles d'IA pour afficher des vêtements augmentera la probabilité d'achats en ligne. Certains internautes ont carrément déclaré : "Aucune vraie personne n'est autorisée à essayer le haut du corps. Y a-t-il vraiment quelqu'un qui l'achète ?" "La proportion de la tête et du corps du modèle IA ne correspond pas à celle d'un humain . Comment peut-il y avoir une référence ?" "Après la génération de l'image du modèle d'IA, le produit physique devient également virtuel. Comment peut-on garantir l'authenticité ?" Certains internautes ont clairement indiqué qu'ils "n'achèteraient aucun produit avec des images de produits générées par l'IA".

Sun Ying, professeur à l'Université chinoise des sciences politiques et du droit et secrétaire général adjoint de l'Association chinoise de recherche sur le droit de la protection des consommateurs, a déclaré que l'application de l'intelligence artificielle dans le domaine des ventes de commerce électronique est meilleure lorsque des modèles vivants ou des ancres utilisez la technologie AI pour changer automatiquement différents styles de vêtements à afficher. "À l'heure actuelle, il existe encore des obstacles techniquement insurmontables dans la production d'images de modèles par IA, et les détails seront différents, de sorte que les consommateurs ne pourront pas juger de l'apparence réelle des vêtements."

"Parce que la carte du modèle d'IA ne peut pas montrer complètement et véritablement les conditions objectives telles que l'apparence, le style, la couleur et la conception du produit, elle entraînera inévitablement une atteinte au droit de savoir et au droit de choisir du consommateur, et viole le l'obligation de l'opérateur envers le consommateur de fournir des informations complètes et complètes sur le produit ou le service. L'obligation d'être véridique et exacte, et peut même être impliqué dans une propagande fausse ou trompeuse ", a déclaré Sun Ying.

Le coût de production est faible et efficace, et le niveau technique doit être amélioré

Pourquoi certains marchands sont-ils prêts à choisir des images "adaptées" au modèle d'IA pour la promotion de leurs produits ?

Certaines personnes de l'industrie ont déclaré aux journalistes que c'était principalement parce que certaines boutiques en ligne voulaient économiser sur les coûts de prise de vue. Selon des rapports publics, après que certains marchands ont remplacé de vrais modèles par des modèles d'IA, y compris les coûts des modèles, des photographes et des autres membres du personnel, les frais de salle, les frais d'équipement, etc., le coût du mois a été économisé d'environ 40 000 yuans.

"Certaines petites et moyennes entreprises n'ont souvent pas les moyens de s'offrir des modèles, ou ne peuvent pas faire de très beaux clichés. Les modèles d'IA peuvent les aider à compléter l'affichage de produits de haute qualité à moindre coût. De plus, certains clichés spécifiques nécessitent des modèles étrangers, etc., et Des modèles d'IA sont utilisés. Ce sera plus pratique et plus rapide que de trouver un modèle approprié dans la réalité », a déclaré l'initié de l'industrie.

Sous la demande correspondante, il existe de plus en plus de logiciels qui fournissent des fonctions AIGC (AI Generated Content, contenu généré automatiquement par l'intelligence artificielle). Les principales méthodes de génération d'images de modèles d'IA par un logiciel connexe sont les suivantes : en utilisant une description textuelle pure, du texte plus des images et des images plus des images, vous pouvez générer des images "adaptées" au modèle AI en un seul clic.

L'enquête du journaliste a révélé qu'en plus des besoins des commerçants pour la production d'images "adaptées" au modèle d'IA, le service de génération d'images "adaptées" au modèle d'IA devient également le produit principal de certains commerçants. Sur une application d'achat en ligne, le journaliste a effectué une recherche avec des mots-clés tels que « génération de modèles d'IA » et « génération de modèles de vêtements d'IA », et un certain nombre de produits connexes sont apparus.

Sur les pages d'introduction détaillées de ces produits, les services fournis par les commerçants incluent : la conversion de modèles d'ajustement factices en modèles réels, la fourniture de photos de vêtements pour générer directement des images d'ajustement de modèles, la spécification des caractéristiques d'apparence des modèles, etc. En termes d'opérations spécifiques, de nombreux commerçants ont déclaré utiliser des photos pour générer des images, "Fournissez simplement des photos de vêtements, de préférence avec de faux modèles ou de vraies personnes qui les portent, l'effet sera meilleur."

En termes de prix, le journaliste a demandé à un certain nombre de magasins et a appris que si d'autres aidaient à générer des images, le prix de 3 à 10 images varie de 100 yuans à 300 yuans. Les opérateurs de commerce électronique peuvent également acheter eux-mêmes des logiciels et étudier des didacticiels, et utiliser l'intelligence artificielle logicielle pour générer les images de modèle requises.

Le journaliste a choisi un magasin avec un volume de ventes mensuel de plus de 4 000 pièces.La première commande est inférieure à 1 yuan et vous pouvez expérimenter une fois le service "Dessin AI au lieu de dessiner". Selon les directives du magasin, le journaliste a fourni des images de vêtements et des mots-clés tels que "fille aux cheveux bouclés", "mignonne" et "mince". Après quelques minutes, l'autre partie a donné 4 images générées.

Sur ces images, l'apparence des modèles est conforme aux attentes, encore plus réaliste, et semble peu différente des personnes réelles. Cependant, la similitude des styles vestimentaires est assez différente.En plus de la couleur, le design de l'encolure, la longueur des manches, le bord des manches, s'il y a une ceinture ou non, et la position des décorations sont tous très différents de l'image originale.

"Vous pouvez rechercher des mots-clés spécifiques." Face à la question du journaliste, le magasin a déclaré qu'il pouvait rendre les images plus satisfaisantes en limitant les mots-clés, "fournir des images avec de vraies personnes ou de faux modèles les portant, et les rendus générés seront meilleurs" .

Selon Zheng Zhifeng, professeur agrégé à l'École de droit civil et commercial de l'Université de sciences politiques et de droit du Sud-Ouest et directeur adjoint du Cyberspace Governance Research Institute, l'utilisation de la technologie de l'IA pour générer des images modèles reflète les scénarios d'application spécifiques de la technologie de l'IA, propice à la réduction des coûts de vente. Dans le même temps, la technologie d'intelligence artificielle générative peut générer efficacement diverses images de modèles par lots, et même de nombreuses images de modèles sont très créatives et esthétiques, mais il est difficile pour le contenu généré d'être exactement le même que de vrais modèles. précision nécessitent un développement ultérieur des algorithmes .

** Les hommes d'affaires doivent respecter leurs obligations en matière d'étiquetage et être attentifs au risque de contrefaçon de portrait **

Afin de réglementer l'application des produits d'intelligence artificielle, le Bureau national de l'information sur Internet et trois autres départements ont examiné et adopté le "Règlement sur la gestion de la synthèse approfondie du service d'information sur Internet", qui est entré en vigueur le 10 janvier de cette année, qui mentionnait clairement que la synthèse approfondie les prestataires de services et les supports techniques doivent renforcer la gestion technique, revoir, évaluer et vérifier régulièrement le mécanisme de génération d'algorithmes synthétiques. Les fournisseurs de services de synthèse profonde et les supports techniques qui fournissent des modèles, des modèles et d'autres outils capables de générer ou d'éditer des informations biométriques telles que des visages et des voix doivent effectuer eux-mêmes des évaluations de sécurité ou en confiant des institutions professionnelles conformément à la loi.

Les règlements précisent également que les fournisseurs de services de synthèse profonde qui fournissent des services de génération de visage, de remplacement de visage, de manipulation de visage, de manipulation de gestes et d'autres services de génération ou d'édition d'images et de vidéos qui modifient de manière significative les caractéristiques de l'identité personnelle, ce qui peut entraîner une confusion ou une identification erronée du public, doivent considérablement marquez la position et la zone raisonnables du contenu informatif généré ou édité pour rappeler au public la synthèse approfondie.

Les "Mesures provisoires pour la gestion des services d'intelligence artificielle générative" examinées et approuvées par sept départements, dont le Bureau national d'information sur Internet, entreront en vigueur le 15 août de cette année. Il est à nouveau souligné que les fournisseurs de services d'intelligence artificielle générative doivent identifier le contenu généré tel que les images et les vidéos conformément au "Règlement sur l'administration de la synthèse approfondie des services d'information sur Internet".

"Dans le domaine du commerce électronique, en particulier dans le processus d'affichage des biens, des produits et des services, la tendance à l'application de l'IA est inévitable", a déclaré Liu Jinrui, chercheur à l'Institut de l'état de droit de la China Law Society. que si les commerçants utilisent l'IA pour l'affichage des produits, ils doivent respecter les deux réglementations ci-dessus. Les réglementations légales, informent pleinement les consommateurs que la carte modèle est générée par l'intelligence artificielle, afin de remplir l'obligation d'identification, et en même temps, il doit également se conformer aux dispositions réglementaires particulières de la scène applicable, telles que la loi sur la publicité, la loi sur le commerce électronique, la loi sur la protection des droits des consommateurs, etc.

Cependant, l'enquête du journaliste a révélé que peu importe qu'il s'agisse d'un commerçant qui utilise une image de modèle d'IA de style personnage d'animation évident, ou d'un commerçant qui annonce clairement qu'il a un "modèle d'IA hautement anthropomorphique" sur une plate-forme sociale, il ne le fait pas. avoir une page de produit spécifique Identifiez la carte du modèle d'IA.

"La plateforme est responsable de la supervision. Pour les commerçants utilisant des images de modèles d'IA, si la plateforme est également un fournisseur de services techniques, ils doivent respecter les "Mesures provisoires pour la gestion des services d'intelligence artificielle générative" et d'autres lois et réglementations. Prenez des mesures efficaces pour superviser et assurer l'ordre de la plate-forme », a déclaré Zheng Zhifeng.

Il convient de noter que, comme certaines bases de données d'IA contiennent des données faciales massives, certaines images de modèles d'IA peuvent être très similaires à de vrais visages humains après génération. À cet égard, certains internautes ont exprimé des inquiétudes et soulevé des questions quant à savoir s'il s'agissait d'une infraction.

Wang Yegang, professeur agrégé et directeur de doctorat à la faculté de droit de l'Université centrale des finances et de l'économie, a déclaré : « Si les images générées par une entreprise grâce à l'IA sont très similaires aux portraits d'autres personnes, afin que d'autres puissent identifier l'identité d'un personne spécifique à partir des images AI, l'IA générée Les images doivent appartenir aux portraits d'autres personnes, et les commerçants doivent obtenir le consentement du titulaire des droits de portrait lors de la création et de l'utilisation des images, sinon cela constituera une violation d'autres le droit au portrait des personnes."

Zheng Zhifeng a déclaré que les commerçants devraient interdire l'utilisation intentionnelle de la technologie de l'IA à des fins illégales, telles que fournir délibérément à l'intelligence artificielle certains mots-clés illégaux pour générer des images impliquant un contenu inapproprié, ou enfreindre les droits de portrait, les droits de réputation et les droits d'informations personnelles d'autres personnes. . contenu ; pour le contenu généré par l'utilisation normale de l'intelligence artificielle, il est également nécessaire d'assumer une obligation de vigilance appropriée pour s'assurer que le contenu généré est conforme. Si le contenu généré s'avère suspecté d'enfreindre la réglementation, il doit être signalé au prestataire technique dans les meilleurs délais.