Como saber se é uma imagem de IA? A mais recente ferramenta de grande modelo do Google coloca ‘marcas d’água’ no DNA das pinturas de IA

Fonte original: Laboratório de Inovação AGI

Com a iteração contínua da tecnologia, as imagens AIGC têm sido capazes de "falsificar a coisa real", e a diferença entre trabalhos de IA e não-AI às vezes é difícil de distinguir a "olho nu".

Fonte da imagem: gerada por Unbounded AI‌

As imagens geradas por IA estão se tornando cada vez mais populares a cada dia. Mas como podemos identificá-los melhor, especialmente quando parecem tão realistas?

O Google DeepMind, equipe de inteligência artificial do Google, acaba de anunciar o lançamento do SynthID, ferramenta para adicionar marcas d'água e identificar imagens geradas por IA, em parceria com o Google Cloud. Esta tecnologia incorpora uma marca d'água digital diretamente nos pixels de uma imagem, tornando-a imperceptível ao olho humano, mas detectável para identificação.

Atualmente, o SynthID pode adicionar marcas d'água às imagens geradas pelo modelo gráfico Imagen do Google Vincent e identificar se as imagens são geradas pelo modelo. A versão beta foi lançada. O CEO do Google, Sundar Pichai, elogiou o SynthID como um importante desenvolvimento inicial do DeepMind em marcas d'água.

Embora o AIGC possa desbloquear um enorme potencial criativo, também introduz novos riscos, como permitir que os criadores espalhem desinformação, intencionalmente ou não. Ser capaz de reconhecer conteúdo gerado por IA é fundamental para que as pessoas saibam quando estão interagindo com a mídia gerada e para ajudar a prevenir a propagação de desinformação.

**Como o SynthID identifica imagens de IA? Seu princípio? **

** Marca d'água de IA "invisível"**

Uma marca d'água é um design que pode ser colocado em camadas em uma imagem para identificá-la. Eles evoluíram ao longo da história, desde impressões físicas em papel até textos e símbolos translúcidos vistos hoje em fotos digitais.

As marcas d'água tradicionais não são suficientes para identificar imagens geradas por IA, pois geralmente são aplicadas como um carimbo na imagem e podem ser facilmente removidas no Photoshop. Essas marcas d'água geralmente ocupam grande parte de toda a área da imagem, afetando seriamente a beleza da própria imagem.

As marcas d'água tradicionais, após modificações como adição de filtros, alteração de cor e brilho, são facilmente afetadas e podem até se tornar difíceis de serem detectadas novamente. SynthID não, e a marca d'água ainda pode ser detectada mesmo após modificações, como adição de filtros, alteração de cores e salvamento com vários esquemas de compactação com perdas (mais comumente JPEG).

SynthID gera marcas d'água digitais imperceptíveis para imagens de IA

SynthID usa dois modelos de aprendizado profundo (para marca d’água e reconhecimento de marca d’água) que foram treinados juntos em diferentes conjuntos de imagens. O modelo combinado é otimizado para uma série de objetivos, incluindo a identificação correta do conteúdo com marca d'água e a melhoria da imperceptibilidade, alinhando visualmente a marca d'água com o conteúdo original.

Marcas d'água adicionadas pelo SynthID podem ser detectadas mesmo após modificações como adição de filtros, alteração de cores e brilho

De acordo com testes internos do Google, as imagens geradas pelo Imagen e com marca d'água pelo SynthID ainda podem ser reconhecidas com precisão pelo SynthID após passarem por muitos processamentos de imagem comuns.

Método de combinação de SynthID:

• Adicionar marca d'água: SynthID pode adicionar uma marca d'água imperceptível à imagem composta gerada pelo Imagen. ‍
• Identificar marcas d'água: Ao digitalizar marcas d'água digitais em uma imagem, o SynthID pode avaliar sua probabilidade de criar uma imagem para o Imagen.

SynthID pode ajudar a avaliar a probabilidade de uma imagem ter sido criada pelo Imagen. A ferramenta fornece três níveis de confiança para interpretar os resultados do reconhecimento de marca d'água (marca d'água digital detectada, marca d'água digital não detectada, marca d'água digital provavelmente detectada). Se uma marca d'água digital for detectada, provavelmente parte da imagem foi gerada pelo Imagen.

Um dos métodos mais utilizados para identificar conteúdo é por meio de metadados, que fornecem informações como quem o criou e quando. Esta informação é armazenada com o arquivo de imagem. Assinaturas digitais adicionadas aos metadados podem mostrar se uma imagem foi alterada.

Quando as informações de metadados estão completas, os usuários podem identificar facilmente as imagens. No entanto, os metadados podem ser removidos manualmente ou até mesmo perdidos durante a edição de um arquivo. Como a marca d'água do SynthID está incorporada nos pixels de uma imagem, ela é compatível com outros métodos de reconhecimento de imagem baseados em metadados e permanece detectável mesmo se os metadados estiverem faltando.

Mas para algumas imagens extremamente processadas, a equipe da DeepMind também disse que não há garantia de que o SynthID seja infalível, mas fornece um método técnico promissor para promover o uso responsável de conteúdo gerado por IA por pessoas e organizações.