¿Video personalizado de "cambio de cara por IA" sin consentimiento y venta de tutoriales? ¡Este caso de litigio de interés público ha sido juzgado!

Fuente: Tribunal de Internet de Hangzhou

El Tribunal de Internet de Hangzhou formó un panel colegiado de siete miembros para escuchar el caso de litigio de interés público civil contra la Fiscalía Popular del Distrito de Xiaoshan de la ciudad de Hangzhou contra una determinada demanda de interés público de protección de información personal, y ordenó al acusado Yu que eliminara la información personal obtenida ilegalmente. , pedir disculpas públicas y eliminar Un total de 60.000 yuanes fueron afectados y compensados por las pérdidas.

El acusado Yu obedeció la sentencia del tribunal y cumplió con sus responsabilidades civiles, como disculpas y obligaciones de compensación. El monto de la compensación se utilizará exclusivamente para asuntos de bienestar público, como la protección de la información personal y la gestión de la aplicación inadecuada de la tecnología de síntesis facial profunda.

Caso expreso

**El demandante en un litigio de interés público afirmó que **durante el desempeño de sus funciones, descubrió que a partir de 2021, con fines de lucro, Yu utilizó ilegalmente el software de "cambio de rostro con IA" sin el consentimiento de la persona editada. información facial de otras personas, reemplazar y sintetizar información facial de otras personas con información facial en algunos videos y generar videos falsos que cambien caras. El comportamiento antes mencionado violó la seguridad de la información pública, transportaba la información personal de una mayoría no especificada de sujetos sociales, alteró el orden público social y constituyó una violación de los intereses sociales y públicos en el campo de la seguridad de la información pública. Se presentó una demanda de intereses ante el Tribunal de Internet de Hangzhou para solicitar una sentencia. El acusado Yu tiene la responsabilidad civil de detener la infracción, compensar las pérdidas y presentar disculpas.

**El demandado Yu dijo que **no tiene objeciones a los hechos y razones expuestas en la demanda del demandante por litigio de interés público, y lamenta profundamente sus acciones, y está dispuesto a disculparse sinceramente ante el público y cumplirá activamente con la obligación del fallo de hacer compensar el daño al bien público.

Puntos de juez

El Tribunal de Internet de Hangzhou cree que la información facial es la información biométrica más importante entre la información personal sensible, que está relacionada con la dignidad personal, la seguridad personal y la seguridad de la propiedad de cada individuo. El abuso de la información facial involucra los intereses públicos de grupos sociales no especificados.

En este caso, Yu utilizó software (tecnología) de cambio de rostro para sintetizar y falsificar profundamente videos e imágenes, que se publicaron en múltiples grupos de software social de más de 2000 personas y, al mismo tiempo, proporcionó servicios personalizados de reemplazo de rostros para otros sin un tema específico, y vendieron software que cambia la cara y enseñaron tutoriales de tecnología que cambian la cara con fines de lucro. Intereses ilegales de más de decenas de miles de yuanes, el comportamiento mencionado anteriormente constituye una violación de los derechos e intereses de la información personal. Yu publicó vídeos e imágenes sintéticos y falsificados en una gran cantidad de grupos en línea, lo que tiene una alta posibilidad de difusión y una amplia gama de influencia, lo que hace que grupos potenciales no especificados en la sociedad sean probablemente objetivos de infracción, y es aún más Es probable que haga que el público forme "ver y no ver" La expectativa psicológica de "ser verdad" socava la confianza de la comunidad social en el mundo digital de Internet y daña los intereses públicos sociales en campos relacionados.

En resumen, el tribunal determinó que el abuso por parte de Yu de la tecnología de síntesis facial profunda había dañado el interés público y dictaminó que él debería asumir la responsabilidad civil de detener la infracción, compensar las pérdidas y presentar una disculpa.

El juez dice

La aplicación de la tecnología es un arma de doble filo: su uso para el bien puede beneficiar a la sociedad, mientras que su uso indebido provocará riesgos y daños sociales. La regulación de la aplicación de la tecnología de síntesis profunda, como el software de cambio de cara, debe comenzar con sus participantes, incluidos inventores, aplicadores, comunicadores, etc., y tener como objetivo regular el uso de la tecnología de síntesis profunda como el camino para lograr lo razonable. uso de tecnología de síntesis profunda y evitar La tecnología plantea muchos riesgos para los individuos, la sociedad y el país. Al mismo tiempo, también es necesario guiar el desarrollo de la tecnología y a los usuarios para que cumplan conscientemente las regulaciones legales y la ética científica y tecnológica, cultiven un entorno de investigación, desarrollo y aplicación positivo, saludable y positivo, y protejan y fomenten la exploración beneficiosa de las tecnologías emergentes. tecnologías inteligentes.