¿Es real el producto de "ajuste" del modelo de IA? ¿Puedo comprarlo? Experto: Los comerciantes deben cumplir con sus obligaciones de etiquetado para evitar comprometer el derecho de los consumidores a saber y elegir

Fuente: Diario Legal

Autor: Sun Tianjiao

Periodista en prácticas Ding Yi

Rostro pequeño, piel impecable, proporciones corporales perfectas, la modelo y la ropa de su cuerpo se complementan entre sí, haciendo que la ropa se ajuste más y esté a la moda... Esta es una imagen de un producto que apareció en una plataforma de comercio electrónico. Pero una mirada más cercana revela que los modelos que se prueban la ropa no parecen ser personas reales. Después de enviar cartas privadas a la tienda, la otra parte admitió que AI dibujó el mapa promocional "para mostrar mejor los detalles de la ropa".

Un reportero del "Rule of Law Daily" investigó recientemente y descubrió que muchos comerciantes en múltiples plataformas de comercio electrónico han usado modelos de IA para probarse ropa para mostrar productos. No solo eso, en la plataforma de comercio electrónico, algunas tiendas han comenzado a proporcionar servicios de dibujo de modelos de IA, como "generación de modelos de dibujo de IA", "ficticio para modelo real", etc.

Usando imágenes de "ajuste" del modelo de IA para publicidad, ¿el efecto del producto presentado es confiable? ¿Lo comprarán los consumidores? ¿Se pueden hacer y usar a voluntad las imágenes "adecuadas" de los modelos de IA, y qué riesgos legales pueden enfrentar? Con estas preguntas, el reportero lanzó una encuesta de entrevista.

Hay diferencias obvias en los detalles, que pueden ser sospechosos de falsa propaganda

Imagen publicitaria "ajustada" del modelo AI, la ropa se ajusta perfectamente al modelo, casi no hay arrugas, pero ¿es realmente así?

El reportero buscó recientemente en las principales plataformas de comercio electrónico utilizando palabras clave como "trajes exquisitos" y descubrió que las imágenes publicitarias de muchos productos son obviamente imágenes "ajustadas" de modelos de IA. Las características más obvias de estos modelos de IA son que tienen curvas corporales obvias, extremidades delgadas, rasgos faciales extremadamente delicados con una sensación de caricatura, y el fondo es principalmente un fondo borroso de color sólido.

Por ejemplo, en una tienda con 6000 favoritos en una plataforma de comercio electrónico, el segundo lugar en la lista de elogios de la tienda es un traje con ventas de más de 450 piezas. La imagen del producto es presentada por un modelo de dibujos animados con cabello rubio y ojos azules. Las fotos parecen tener un enfoque suave (se refiere a usar una lente de enfoque suave o agregar un filtro de enfoque suave frente a la lente en la fotografía para lograr una imagen delicada y suave). A primera vista, parece una caricatura. ilustración.

El reportero hizo un pedido del producto y, después de recibirlo, lo abrió y descubrió que había una gran diferencia entre el traje que recibió y la imagen promocional: el color era diferente, había un pliegue extra de la nada. , y la altura del escote no coincidía. Lo que es aún más sin palabras es que la ropa en la imagen del modelo tiene mangas linterna con hombros caídos, y la longitud está justo por encima de los codos, mientras que las mangas de la ropa real cubren los codos y los puños no se pueden apretar.

La situación con la que se encuentra el reportero no es un caso aislado, en una tienda en línea, una prenda de vestir con una imagen de "ajuste" de modelo de IA como imagen publicitaria, que ha vendido cientos de piezas, está llena de comentarios de este tipo en el área de comentarios. : "Puede ser porque la imagen es AI, por lo que queda muy ajustada en la pintura, pero es demasiado gorda después de recibirla". "La falda está llena de pliegues". "El color de la ropa es diferente al de la imagen". ."

En las plataformas sociales, bajo la entrada de "Modelo de IA", muchos internautas dejaron en claro que no quieren pagar por modelos de IA. Muchos internautas creen que usar modelos de IA para exhibir ropa aumentará la probabilidad de comprar en línea. Algunos internautas dijeron sin rodeos: "No se permite que personas reales se prueben la parte superior del cuerpo. ¿Hay realmente alguien que lo compre? "La proporción de la cabeza con respecto al cuerpo del modelo de IA no coincide con la de un humano. ¿Cómo puede haber alguna referencia?" "Después de que se genera la imagen del modelo de IA, el producto físico también se vuelve virtual. ¿Cómo se puede garantizar la autenticidad?" Algunos internautas dejaron en claro que "no comprarían ningún producto con imágenes de productos generadas por IA".

Sun Ying, profesor de la Universidad de Ciencias Políticas y Derecho de China y subsecretario general de la Asociación de Investigación de Leyes de Protección al Consumidor de China, dijo que la aplicación de inteligencia artificial en el campo de las ventas de comercio electrónico es mejor cuando los modelos en vivo o anclas use la tecnología AI para cambiar automáticamente diferentes estilos de ropa para mostrar. "En la actualidad, todavía existen algunos obstáculos técnicamente insuperables en la producción de imágenes de modelos con IA, y los detalles serán diferentes, de modo que los consumidores no puedan juzgar la apariencia real de la ropa".

"Debido a que el mapa del modelo de IA no puede mostrar completa y verdaderamente las condiciones objetivas como la apariencia, el estilo, el color y el diseño del producto, inevitablemente implicará un daño al derecho a saber y el derecho a elegir del consumidor, y viola la la obligación del operador para con el consumidor de proporcionar información completa e integral sobre productos o servicios. La obligación de ser verdadera y precisa, e incluso puede estar involucrada en propaganda falsa o engañosa ", dijo Sun Ying.

El costo de producción es bajo y eficiente, y el nivel técnico debe mejorarse

¿Por qué algunos comerciantes están dispuestos a elegir imágenes "ajustadas" del modelo de IA para la promoción de productos?

Algunas personas en la industria dijeron a los periodistas que esto se debe principalmente a que algunas tiendas en línea quieren ahorrar costos de filmación. Según los informes públicos, después de que algunos comerciantes reemplazaran modelos reales con modelos de IA, incluidos los costos de modelos, fotógrafos y otro personal, tarifas del lugar, tarifas de equipos, etc., el costo del mes se ahorró en aproximadamente 40,000 yuanes.

"Algunas pequeñas y medianas empresas a menudo no pueden pagar los modelos o no pueden hacer tomas muy hermosas. Los modelos de IA pueden ayudarlos a completar una exhibición de productos de alta calidad a un costo menor. Además, algunas tomas específicas requieren modelos extranjeros, etc., y Se utilizan modelos de IA. Será más conveniente y rápido que encontrar un modelo adecuado en la realidad”, dijo la fuente de la industria.

Bajo la demanda correspondiente, hay cada vez más software que proporciona funciones AIGC (Contenido generado por IA, contenido generado automáticamente por inteligencia artificial). Los métodos principales para generar imágenes de modelos de IA mediante software relacionado son: utilizando una descripción de texto puro, texto más imágenes e imágenes más imágenes, puede generar imágenes de "ajuste" de modelos de IA con un solo clic.

La investigación del reportero encontró que junto con las necesidades de los comerciantes para la producción de imágenes de "ajuste" del modelo de IA, el servicio de generación de imágenes de "ajuste" del modelo de IA también se está convirtiendo en el producto principal de algunos comerciantes. En una aplicación de compras en línea, el reportero buscó con palabras clave como "Generación de modelos de IA" y "Generación de modelos de ropa de IA", y aparecieron varios productos relacionados.

En las páginas de introducción detalladas de estos productos, los servicios proporcionados por los comerciantes incluyen: convertir modelos ficticios en modelos reales, proporcionar fotos de ropa para generar directamente imágenes de modelos y especificar las características de apariencia de los modelos, etc. En términos de operaciones específicas, muchos comerciantes dijeron que usan fotos para generar imágenes: "Simplemente proporcione fotos de ropa, preferiblemente con modelos falsos o personas reales usándolas, el efecto será mejor".

En cuanto al precio, el reportero preguntó a varias tiendas y se enteró de que si otros ayudan a generar imágenes, el precio de 3 a 10 imágenes oscila entre 100 y 300 yuanes. Los operadores de comercio electrónico también pueden comprar software y estudiar tutoriales por sí mismos, y usar software de inteligencia artificial para generar las imágenes modelo requeridas.

El reportero eligió una tienda con un volumen de ventas mensual de más de 4000 piezas. El primer pedido es de menos de 1 yuan, y puede experimentar el servicio "Dibujo de IA en lugar de dibujo" una vez. De acuerdo con las pautas de la tienda, el reportero proporcionó imágenes de ropa y palabras clave como "chica de cabello rizado", "linda" y "delgada". Después de unos minutos, la otra parte proporcionó 4 imágenes generadas.

En estas imágenes, la apariencia de los modelos está en línea con las expectativas, incluso más realista, y se ve un poco diferente de la gente real. Sin embargo, la similitud de los estilos de ropa es bastante diferente. Además del color, el diseño del escote, la longitud de la manga, el borde de la manga, si hay un cinturón o no, y la posición de las decoraciones son muy diferentes de la imagen original.

"Puede buscar palabras clave específicas". Ante la pregunta del reportero, la tienda dijo que puede hacer que las imágenes sean más satisfactorias al limitar las palabras clave, "proporcionar imágenes con personas reales o modelos falsos usándolas, y las representaciones generadas serán mejores". .

Según Zheng Zhifeng, profesor asociado de la Facultad de Derecho Civil y Comercial de la Universidad de Ciencias Políticas y Derecho del Suroeste y subdirector del Instituto de Investigación de Gobernanza del Ciberespacio, el uso de la tecnología de IA para generar imágenes modelo es un reflejo de los escenarios de aplicación específicos. de la tecnología de IA, que favorece la reducción de los costes de venta. Al mismo tiempo, la tecnología de inteligencia artificial generativa puede generar de manera eficiente varias imágenes de modelos en lotes, e incluso muchas imágenes de modelos son muy creativas y estéticamente agradables, pero es difícil que el contenido generado sea exactamente igual al de los modelos reales. la precisión requiere un mayor desarrollo de algoritmos.

Los empresarios deben cumplir con sus obligaciones de etiquetado y estar alerta ante el riesgo de infracción del retrato

Para regular la aplicación de productos de inteligencia artificial, la Oficina Estatal de Información de Internet y otros tres departamentos revisaron y aprobaron el "Reglamento de Gestión de Síntesis Profunda del Servicio de Información de Internet", que entró en vigencia el 10 de enero de este año, que menciona claramente que la síntesis profunda Los proveedores de servicios y los soportes técnicos deben fortalecer la gestión técnica, revisar, evaluar y verificar periódicamente el mecanismo para generar algoritmos sintéticos. Los proveedores de servicios de síntesis profunda y los colaboradores técnicos que proporcionen modelos, plantillas y otras herramientas que puedan generar o editar información biométrica, como rostros y voces, realizarán evaluaciones de seguridad por sí mismos o encomendando instituciones profesionales de conformidad con la ley.

Las regulaciones también dejan en claro que los proveedores de servicios de síntesis profunda que brindan generación de rostros, reemplazo de rostros, manipulación de rostros, manipulación de gestos y otros servicios de edición o generación de imágenes y videos que cambian significativamente las características de identidad personal, lo que puede causar confusión pública o identificación errónea, deberán marque la posición razonable y el área del contenido de información generado o editado para recordarle al público la síntesis profunda.

Las “Medidas Provisionales para la Gestión de los Servicios de Inteligencia Artificial Generativa” revisadas y aprobadas por siete departamentos incluyendo la Oficina Estatal de Información de Internet entrarán en vigencia el 15 de agosto de este año. Se enfatiza nuevamente que los proveedores de servicios de inteligencia artificial generativa deben identificar el contenido generado, como imágenes y videos, de acuerdo con el "Reglamento sobre la Administración de Síntesis Profunda de los Servicios de Información de Internet".

"En el campo del comercio electrónico, especialmente en el proceso de exhibición de bienes, productos y servicios, la tendencia de aplicación de la IA es inevitable", dijo Liu Jinrui, investigador del Instituto del Estado de Derecho de la Sociedad Jurídica de China. que si los comerciantes usan IA para la exhibición de productos, deben cumplir con las dos regulaciones anteriores. Las regulaciones legales informan completamente a los consumidores que el mapa modelo es generado por inteligencia artificial, para cumplir con la obligación de identificación y, al mismo tiempo, además deberá cumplir con las disposiciones reglamentarias especiales del ámbito aplicable, tales como la ley de publicidad, la ley de comercio electrónico, la ley de protección de los derechos del consumidor, etc.

Sin embargo, la investigación del reportero encontró que no importa si es un comerciante que usa una imagen de modelo de IA de estilo de personaje de anime obvio, o un comerciante que anuncia claramente que tiene un "modelo de IA altamente antropomórfico" en una plataforma social, no lo hace. especificar si está o no en la ficha detallada del producto Identificar el mapa del modelo de IA.

"La plataforma es responsable de la supervisión. Para los comerciantes que usan imágenes de modelos de IA, si la plataforma también es un proveedor de servicios técnicos, deben cumplir con las "Medidas provisionales para la gestión de servicios de inteligencia artificial generativa" y otras leyes y reglamentos. Tome medidas efectivas para supervisar y garantizar el orden de la plataforma”, dijo Zheng Zhifeng.

Vale la pena señalar que debido a que algunas bases de datos de IA contienen datos masivos de rostros, algunas imágenes de modelos de IA pueden ser muy similares a los rostros humanos reales después de la generación. En este sentido, algunos cibernautas expresaron su preocupación y plantearon dudas sobre si se trataba de una infracción.

Wang Yegang, profesor asociado y supervisor de doctorado en la Facultad de Derecho de la Universidad Central de Finanzas y Economía, dijo: "Si las imágenes generadas por una empresa a través de IA son muy similares a los retratos de otras personas, para que otros puedan identificar la identidad de un persona específica de las imágenes de IA, la imagen generada por IA debe pertenecer al retrato de otros, y el comerciante debe obtener el consentimiento del titular del derecho del retrato al hacer y usar la imagen, de lo contrario constituirá una infracción de la retrato a la derecha de los demás".

Zheng Zhifeng dijo que los comerciantes deberían prohibir el uso intencional de la tecnología de inteligencia artificial para fines ilegales, como proporcionar deliberadamente inteligencia artificial con algunas palabras clave ilegales para generar algunas imágenes que involucren contenido inapropiado o infringir los derechos de imagen, derechos de reputación y derechos de información personal de otras personas. contenido; para el contenido generado por el uso normal de la inteligencia artificial, también es necesario tener un deber de cuidado apropiado para garantizar que el contenido generado sea compatible. Si se descubre que el contenido generado es sospechoso de violar las regulaciones, debe ser informado al proveedor del servicio técnico de manera oportuna.