O produto "adequado" do modelo de IA é real? Posso comprá-lo? Especialista: os comerciantes devem cumprir suas obrigações de rotulagem para evitar comprometer o direito dos consumidores de conhecer e escolher

Fonte: Diário Jurídico See More

Autor: Sun Tianjiao

Repórter estagiário Ding Yi

Rosto pequeno, pele impecável, proporção corporal perfeita, a modelo e as roupas em seu corpo se complementam, tornando as roupas mais fit e trendy... Essa é a foto de um produto que apareceu em uma plataforma de e-commerce. Mas um olhar mais atento revela que as modelos experimentando as roupas não parecem ser pessoas reais. Após carta privada à loja, a outra parte prontamente admitiu que o mapa promocional foi desenhado pela AI, "para melhor mostrar os detalhes da roupa".

Um repórter do "Rule of Law Daily" investigou recentemente e descobriu que muitos comerciantes em várias plataformas de comércio eletrônico usaram modelos de IA para experimentar roupas para exibir produtos. Além disso, na plataforma de comércio eletrônico, algumas lojas começaram a fornecer serviços de desenho de modelo de IA, como "geração de modelo de desenho de IA", "manequim para modelo real" e assim por diante.

Usando imagens "adequadas" do modelo AI para publicidade, o efeito do produto apresentado é confiável? Os consumidores vão comprá-lo? As imagens "adequadas" dos modelos de IA podem ser feitas e usadas à vontade e quais riscos legais elas podem enfrentar? Com essas perguntas, o repórter lançou uma entrevista de pesquisa.

Existem diferenças óbvias nos detalhes, que podem ser suspeitas de falsa propaganda

Imagem publicitária "adequada" ao modelo AI, as roupas se encaixam perfeitamente no modelo, quase não há rugas, mas é mesmo assim?

O repórter pesquisou recentemente nas principais plataformas de comércio eletrônico usando palavras-chave como "ternos requintados" e descobriu que as imagens publicitárias de muitos produtos são obviamente imagens "adequadas" de modelos de IA. As características mais óbvias desses modelos de IA são que eles têm curvas corporais óbvias, membros esbeltos, características faciais extremamente delicadas com um senso de caricatura e o fundo é principalmente um fundo desfocado de cor sólida.

Por exemplo, em uma loja com 6.000 favoritos em uma plataforma de comércio eletrônico, o segundo lugar na lista de elogios da loja é um terno com vendas de mais de 450 peças. A imagem do produto é apresentada por uma modelo de desenho animado com cabelos loiros e olhos azuis . As fotos parecem ter foco suave (refere-se ao uso de uma lente de foco suave ou à adição de um filtro de foco suave na frente da lente na fotografia para obter uma imagem delicada e suave). À primeira vista, parece um desenho animado ilustração.

O repórter fez um pedido do produto e, ao receber o produto, abriu e percebeu que havia uma grande diferença entre o terno que recebeu e a foto promocional: a cor era diferente, havia uma prega extra do nada , e a altura do decote não combinava. O que é ainda mais sem palavras é que as roupas da foto da modelo têm mangas lanterna com ombros caídos, e o comprimento fica logo acima dos cotovelos, enquanto as mangas das roupas reais cobrem os cotovelos, e os punhos não podem ser apertados.

A situação encontrada pelo repórter não é um caso isolado. Em uma loja online, uma peça de roupa com imagem "fitting" de modelo de IA como imagem publicitária, que já vendeu centenas de peças, está repleta de tais comentários na área de comentários : "Pode ser porque a imagem AI, então é muito justo na pintura, mas é muito gordo depois de recebê-lo." "A saia está cheia de pregas." "A cor das roupas é diferente da imagem ."

Nas plataformas sociais, na entrada "modelo AI", muitos internautas deixaram claro que não querem pagar por modelos AI. Muitos internautas acreditam que usar modelos AI para exibir roupas aumentará a probabilidade de compras online. Alguns internautas disseram sem rodeios: "Nenhuma pessoa real pode experimentar a parte superior do corpo. Existe realmente alguém que compre?" "A proporção da cabeça e do corpo do modelo AI não corresponde à de um humano . Como pode haver alguma referência?" "Depois que a imagem do modelo AI é gerada, o produto físico também se torna virtual. Como garantir a autenticidade?" Alguns internautas deixaram claro que "não comprariam nenhum produto com imagens de produtos geradas por IA".

Sun Ying, professor da Universidade de Ciência Política e Direito da China e vice-secretário-geral da Associação de Pesquisa de Legislação de Proteção ao Consumidor da China, disse que a aplicação de inteligência artificial no campo de vendas de comércio eletrônico é melhor quando modelos ou âncoras vivos use a tecnologia AI para mudar automaticamente diferentes estilos de roupas para exibição. “Atualmente, ainda existem alguns obstáculos tecnicamente intransponíveis na produção de imagens de modelos por IA, e os detalhes serão diferentes, para que os consumidores não possam julgar a aparência real das roupas”.

“Como o mapa do modelo AI não pode mostrar completa e verdadeiramente as condições objetivas, como aparência, estilo, cor e design do produto, isso envolverá inevitavelmente danos ao direito de saber e direito de escolha do consumidor e viola o a obrigação do operador para com o consumidor de fornecer informações completas e abrangentes sobre produtos ou serviços. A obrigação de ser verdadeiro e preciso, e pode até estar envolvido em propaganda falsa ou enganosa.", disse Sun Ying.

O custo de produção é baixo e eficiente, e o nível técnico precisa ser melhorado

Por que alguns comerciantes estão dispostos a escolher fotos "adequadas" de modelos de IA para promoção de produtos?

Algumas pessoas do setor disseram aos repórteres que isso ocorre principalmente porque algumas lojas on-line desejam economizar nos custos de filmagem. De acordo com relatórios públicos, depois que alguns comerciantes substituíram modelos reais por modelos de IA, incluindo os custos de modelos, fotógrafos e outros funcionários, taxas de locais, taxas de equipamentos etc., o custo do mês foi economizado em cerca de 40.000 yuans.

"Algumas empresas de pequeno e médio porte geralmente não podem pagar por modelos ou não podem fazer fotos muito bonitas. Os modelos de IA podem ajudá-los a concluir a exibição de produtos de alta qualidade a um custo menor. Além disso, algumas fotos específicas exigem modelos estrangeiros, etc., e Modelos de IA são usados. Será mais conveniente e mais rápido do que encontrar um modelo adequado na realidade”, disse o especialista da indústria.

Sob a demanda correspondente, há cada vez mais softwares que fornecem funções AIGC (AI Generated Content, conteúdo gerado automaticamente por inteligência artificial). Os principais métodos para gerar imagens de modelo AI por software relacionado são: usando descrição de texto puro, texto mais imagens e imagens mais imagens, você pode gerar imagens de "ajuste" do modelo AI com um clique.

A investigação do repórter descobriu que, juntamente com as necessidades dos comerciantes para a produção de imagens "adequadas" de modelos de IA, o serviço de geração de imagens "adequadas" de modelos de IA também está se tornando o principal produto de alguns comerciantes. Em um aplicativo de compras on-line, o repórter pesquisou palavras-chave como "geração de modelo AI" e "geração de modelo de roupa AI", e vários produtos relacionados apareceram.

Nas páginas de introdução detalhada desses produtos, os serviços fornecidos pelos comerciantes incluem: conversão de modelos de manequins em modelos reais, fornecimento de fotos de roupas para gerar diretamente fotos de modelos de modelos e especificação das características de aparência dos modelos, etc. Em termos de operações específicas, muitos comerciantes disseram que usam fotos para gerar imagens: "Basta fornecer fotos de roupas, de preferência com modelos falsos ou pessoas reais usando, o efeito será melhor".

Em termos de preço, o repórter perguntou a várias lojas e descobriu que, se outras pessoas ajudarem a gerar fotos, o preço de 3 a 10 fotos varia de 100 a 300 yuans. Os operadores de comércio eletrônico também podem comprar software e estudar tutoriais por conta própria e usar inteligência artificial de software para gerar as imagens de modelo necessárias.

O repórter escolheu uma loja com um volume de vendas mensal de mais de 4.000 peças. O primeiro pedido é inferior a 1 yuan e você pode experimentar o serviço "desenho AI em vez de desenhar" uma vez. De acordo com as diretrizes da loja, o repórter forneceu fotos de roupas e palavras-chave como "garota de cabelos cacheados", "fofa" e "magra" Após alguns minutos, a outra parte forneceu 4 fotos geradas.

Nessas fotos, a aparência dos modelos está de acordo com as expectativas, ainda mais realistas, e parece pouco diferente das pessoas reais. No entanto, a semelhança de estilos de roupas é bem diferente, além da cor, o desenho do decote, o comprimento da manga, a borda da manga, se tem cinto ou não e a posição das decorações são muito diferentes da imagem original.

"Você pode pesquisar palavras-chave específicas." Diante da pergunta do repórter, a loja disse que pode tornar as fotos mais satisfatórias limitando as palavras-chave, "forneça fotos com pessoas reais ou modelos falsos usando-as, e as renderizações geradas serão melhores" .

De acordo com Zheng Zhifeng, professor associado da Escola de Direito Civil e Comercial da Southwest University of Political Science and Law e vice-diretor do Cyberspace Governance Research Institute, o uso da tecnologia AI para gerar modelos de imagens é um reflexo dos cenários de aplicação específicos da tecnologia AI, que é propício para reduzir os custos de vendas. Ao mesmo tempo, a tecnologia de inteligência artificial generativa pode gerar com eficiência várias imagens de modelos em lotes, e até mesmo muitas imagens de modelos são muito criativas e esteticamente agradáveis, mas é difícil que o conteúdo gerado seja exatamente igual aos modelos reais. A autenticidade e a precisão requer maior desenvolvimento de algoritmos.

Empresários devem cumprir suas obrigações de rotulagem e estar atentos ao risco de violação de retrato

A fim de regular a aplicação de produtos de inteligência artificial, o Escritório Estadual de Informações da Internet e outros três departamentos revisaram e aprovaram os "Regulamentos de Gerenciamento de Síntese Profunda do Serviço de Informações da Internet", que entraram em vigor em 10 de janeiro deste ano, que mencionavam claramente essa síntese profunda os provedores de serviços e os suportes técnicos devem fortalecer o gerenciamento técnico, revisar, avaliar e verificar regularmente o mecanismo para gerar algoritmos sintéticos. Provedores de serviços de síntese profunda e suportes técnicos que fornecem modelos, gabaritos e outras ferramentas que podem gerar ou editar informações biométricas, como rostos e vozes, devem realizar avaliações de segurança por conta própria ou confiar em instituições profissionais de acordo com a lei.

Os regulamentos também deixam claro que os provedores de serviços de síntese profunda que fornecem geração de rosto, substituição de rosto, manipulação de rosto, manipulação de gestos e outros serviços de geração ou edição de imagem e vídeo que alteram significativamente as características de identidade pessoal, o que pode causar confusão pública ou identificação incorreta, devem significativamente marcar a posição e a área razoáveis do conteúdo da informação gerada ou editada para lembrar o público da síntese profunda.

As "Medidas Provisórias para a Gestão de Serviços Gerativos de Inteligência Artificial" revisadas e aprovadas por sete departamentos, incluindo o Escritório Estadual de Informações da Internet, entrarão em vigor em 15 de agosto deste ano. Ressalta-se novamente que os provedores de serviços de inteligência artificial generativa devem identificar o conteúdo gerado, como fotos e vídeos, de acordo com o "Regulamento sobre a Administração de Síntese Profunda de Serviços de Informações da Internet".

"No campo do comércio eletrônico, especialmente no processo de exibição de bens e produtos e serviços, a tendência de aplicação da IA é inevitável." Liu Jinrui, pesquisador do Instituto do Estado de Direito da China Law Society, disse que, se os comerciantes usarem IA para exibição de produtos, eles precisam cumprir os dois regulamentos acima. Os regulamentos legais informam plenamente os consumidores de que o mapa do modelo é gerado por inteligência artificial, a fim de cumprir a obrigação de identificação e, ao mesmo tempo, também deve cumprir as disposições regulamentares especiais do cenário aplicável, tais como lei de publicidade, lei de comércio eletrônico, lei de proteção dos direitos do consumidor, etc.

No entanto, a investigação do repórter descobriu que não importa se é um comerciante que usa uma imagem de modelo de IA de estilo de personagem de animação óbvia ou um comerciante que anuncia claramente que tem um "modelo de IA altamente antropomórfico" em uma plataforma social, não ter uma página de produto específica. Identifique o mapa do modelo AI.

"A plataforma é responsável pela supervisão. Para os comerciantes que usam fotos de modelos de IA, se a plataforma também for um provedor de serviços técnicos, eles precisam cumprir as "Medidas provisórias para o gerenciamento de serviços de inteligência artificial generativa" e outras leis e regulamentos. Tome medidas eficazes para supervisionar e garantir a ordem da plataforma”, disse Zheng Zhifeng.

Vale a pena notar que, como alguns bancos de dados de IA contêm dados faciais massivos, algumas imagens de modelos de IA podem ser altamente semelhantes a rostos humanos reais após a geração. A esse respeito, alguns internautas expressaram preocupação e levantaram questões sobre se houve infração.

Wang Yegang, professor associado e supervisor de doutorado na Faculdade de Direito da Universidade Central de Finanças e Economia, disse: "Se as imagens geradas por uma empresa por meio da IA tiverem um alto grau de semelhança com os retratos de outras pessoas, para que outros possam identificar o identidade de uma pessoa específica a partir das imagens AI, a AI gerada A imagem deve pertencer ao retrato de outras pessoas, e o comerciante deve obter o consentimento do titular do direito do retrato ao fazer e usar a imagem, caso contrário, constituirá uma violação do direito de retrato de outros”.

Zheng Zhifeng disse que os comerciantes devem proibir o uso intencional da tecnologia de IA para fins ilegais, como fornecer deliberadamente à inteligência artificial algumas palavras-chave ilegais para gerar algumas imagens que envolvam conteúdo impróprio ou infringir os direitos de imagem, reputação e informações pessoais de outras pessoas . conteúdo; para o conteúdo gerado pelo uso normal de inteligência artificial, também é necessário ter um dever de cuidado adequado para garantir que o conteúdo gerado seja compatível. Se o conteúdo gerado for considerado suspeito de violar os regulamentos, ele deve ser relatado ao provedor de serviços técnicos em tempo hábil.