Vídeo personalizado de "mudança de rosto de IA" sem consentimento e vender tutoriais? Este caso de litígio de interesse público foi julgado!

Fonte: Tribunal da Internet de Hangzhou

O Tribunal da Internet de Hangzhou formou um painel colegiado de sete membros para ouvir o caso de litígio de interesse público civil contra a Procuradoria Popular do distrito de Xiaoshan da cidade de Hangzhou contra um determinado processo de interesse público de proteção de informações pessoais e ordenou que o réu Yu excluísse as informações pessoais obtidas ilegalmente , faça um pedido público de desculpas e elimine Um total de 60,000 yuans foi afetado e compensado pelas perdas.

O réu Yu obedeceu à decisão do tribunal e cumpriu responsabilidades civis, como desculpas e obrigações de compensação. O valor da compensação será utilizado exclusivamente para questões de bem-estar público, como proteção de informações pessoais e governança da aplicação indevida de tecnologia de síntese facial profunda.

Caso Expresso

**O demandante de litígio de interesse público alegou que **no processo de desempenho de suas funções, ele descobriu que a partir de 2021, com o propósito de obter lucros, Yu usou o software "AI face-shift" ilegalmente sem o consentimento da pessoa editada Processar informações faciais de outras pessoas, substituir e sintetizar informações faciais de outras pessoas com informações faciais em alguns vídeos e gerar vídeos falsos de mudança de rosto. O comportamento acima mencionado violou a segurança da informação pública transportada nas informações pessoais de uma maioria indeterminada de sujeitos sociais, perturbou a ordem pública social e constituiu uma violação dos interesses sociais e públicos no domínio da segurança da informação pública. uma ação de juros foi movida no Tribunal da Internet de Hangzhou para solicitar um julgamento. O réu Yu assume a responsabilidade civil de interromper a infração, compensar as perdas e apresentar um pedido de desculpas.

** O réu Yu disse que ** não tem objeções aos fatos e razões declarados na reclamação do demandante do litígio de interesse público e lamenta profundamente suas ações e está disposto a pedir desculpas sinceras ao público e cumprirá ativamente a obrigação de julgamento de fazer pelos danos ao bem público.

Pontos do Juiz

O Tribunal da Internet de Hangzhou acredita que as informações faciais são as informações biométricas mais importantes entre as informações pessoais confidenciais, que estão relacionadas à dignidade pessoal, segurança pessoal e segurança patrimonial de cada indivíduo. O abuso de informações faciais envolve os interesses públicos de grupos sociais não especificados.

Nesse caso, Yu usou software (tecnologia) de mudança de rosto para sintetizar profundamente e forjar vídeos e fotos. Vídeos e fotos foram publicados em vários grupos de software social de mais de 2.000 pessoas. Ao mesmo tempo, forneceu serviços personalizados de substituição de rosto para outros sem um assunto específico, e venderam software de mudança de rosto e ensinaram tutoriais de tecnologia de mudança de rosto para obter lucro.Interesses ilegais de mais de dezenas de milhares de yuans, o comportamento acima mencionado constitui uma violação dos direitos e interesses de informações pessoais. Yu publicou vídeos e fotos sintéticos e forjados em um grande número de grupos on-line, que têm uma grande possibilidade de disseminação e uma ampla gama de influência, tornando possíveis grupos não especificados na sociedade suscetíveis de serem alvos de infração, e é ainda mais susceptível de fazer com que o público forme "ver e não ver".A expectativa psicológica de "ser verdadeiro" mina a confiança da comunidade social no mundo digital da Internet e prejudica os interesses públicos sociais em áreas afins.

Resumindo, o tribunal concluiu que o abuso da tecnologia de síntese facial profunda por parte de Yu prejudicou o interesse público e decidiu que ele deveria assumir a responsabilidade civil de impedir a violação, compensar as perdas e apresentar um pedido de desculpas.

O juiz diz

A aplicação da tecnologia é uma faca de dois gumes: usá-la para o bem pode beneficiar a sociedade, enquanto o uso indevido causará riscos e danos sociais. A regulamentação da aplicação da tecnologia de síntese profunda, como software de mudança de face, deve começar com seus participantes, incluindo inventores, aplicadores, comunicadores, etc., e ter o propósito de regulamentar o uso da tecnologia de síntese profunda como o caminho para realizar o razoável uso de tecnologia de síntese profunda e evitação A tecnologia representa muitos riscos para os indivíduos, a sociedade e o país. Ao mesmo tempo, também é necessário orientar o desenvolvimento da tecnologia e os usuários para que cumpram conscientemente os regulamentos legais e a ética científica e tecnológica, cultivem um ambiente de pesquisa e desenvolvimento e aplicação positivo, saudável e positivo, e protejam e incentivem a exploração benéfica de emergentes tecnologias inteligentes.