¿Cómo saber si se trata de una imagen de IA? La última herramienta de modelos grandes de Google pone 'marcas de agua' en el ADN de las pinturas de IA

Fuente original: Laboratorio de Innovación AGI

Con la iteración continua de la tecnología, las imágenes de AIGC han podido "falsificar la realidad", y la diferencia entre obras con y sin IA a veces es difícil de distinguir a simple vista.

Fuente de la imagen: Generada por Unbounded AI‌

Las imágenes generadas por IA son cada día más populares. Pero, ¿cómo podemos identificarlos mejor, especialmente cuando parecen tan reales?

El equipo de inteligencia artificial de Google, Google DeepMind, acaba de anunciar una asociación con Google Cloud para lanzar SynthID, una herramienta para marcar e identificar imágenes generadas por IA. La tecnología incorpora una marca de agua digital directamente en los píxeles de una imagen, haciéndola invisible para el ojo humano pero detectable para su identificación.

SynthID actualmente puede agregar marcas de agua a las imágenes generadas por el modelo gráfico Imagen de Google Vincent e identificar si la imagen fue generada por este modelo. Se ha lanzado una versión beta. El director ejecutivo de Google, Sundar Pichai, elogió a SynthID como un desarrollo temprano importante de DeepMind en marcas de agua.

Si bien AIGC puede desbloquear un enorme potencial creativo, también introduce nuevos riesgos, como permitir a los creadores difundir información falsa, intencionalmente o no. Ser capaz de identificar el contenido generado por IA es fundamental para que las personas sepan cuándo están interactuando con los medios generados y ayudar a prevenir la difusión de información errónea.

** ¿Cómo identifica SynthID las imágenes de IA? ¿Su principio? **

** Marca de agua de IA "invisible"**

Las marcas de agua son diseños que se pueden superponer a una imagen para identificarla. Han evolucionado a lo largo de la historia, desde huellas físicas en papel hasta textos y símbolos translúcidos que se ven hoy en día en fotografías digitales.

Las marcas de agua tradicionales son insuficientes para identificar imágenes generadas por IA porque a menudo se aplican como sellos en la imagen y se pueden eliminar fácilmente con Photoshop. Estas marcas de agua suelen ocupar gran parte del área total de la imagen, afectando gravemente la belleza de la propia imagen.

Las marcas de agua tradicionales se ven afectadas fácilmente e incluso pueden ser difíciles de detectar después de modificaciones como agregar filtros, cambiar el color y el brillo. SynthID no lo hace, la marca de agua sigue siendo detectable incluso después de modificaciones como agregar filtros, cambiar colores y guardar con varios esquemas de compresión con pérdida (JPEG es el más utilizado).

SynthID genera marcas de agua digitales imperceptibles para imágenes de IA

SynthID utiliza dos modelos de aprendizaje profundo (para agregar marcas de agua e identificar marcas de agua) que se han entrenado juntos en diferentes conjuntos de imágenes. El modelo combinado está optimizado para una variedad de objetivos, incluida la identificación correcta del contenido con marca de agua y la mejora de la imperceptibilidad al alinear visualmente la marca de agua con el contenido original.

Las marcas de agua agregadas por SynthID se pueden detectar incluso después de modificaciones como agregar filtros, cambiar colores y brillo.

Según las pruebas internas de Google, las imágenes generadas por Imagen y con marcas de agua por SynthID aún pueden ser identificadas con precisión por SynthID después de muchos procesamientos de imágenes comunes.

Método de combinación SynthID:

• Agregar marca de agua: SynthID puede agregar una marca de agua imperceptible a la imagen compuesta generada por Imagen. ‍
• Reconocimiento de marcas de agua: al escanear marcas de agua digitales en imágenes, SynthID puede evaluar su probabilidad de crear una imagen para Imagen.

SynthID puede ayudar a evaluar la probabilidad de que Imagen haya creado una imagen. La herramienta proporciona tres niveles de confianza para interpretar los resultados de la identificación de marcas de agua (marca de agua digital detectada, marca de agua digital no detectada, marca de agua digital posiblemente detectada). Si se detecta una marca de agua digital, probablemente parte de la imagen fue generada por Imagen.

Uno de los métodos más utilizados para identificar contenido es a través de metadatos, que proporcionan información como quién lo creó y cuándo. Esta información se almacena con el archivo de imagen. Las firmas digitales agregadas a los metadatos pueden mostrar si se ha modificado una imagen.

Cuando la información de metadatos está completa, los usuarios pueden identificar fácilmente las imágenes. Sin embargo, los metadatos se pueden eliminar manualmente o incluso perderse al editar un archivo. Debido a que la marca de agua de SynthID está incrustada en los píxeles de la imagen, es compatible con otros métodos de reconocimiento de imágenes basados en metadatos y permanece detectable incluso si se pierden los metadatos.

Pero para algunas imágenes extremadamente procesadas, el equipo de DeepMind también dijo que no se garantiza que SynthID sea infalible, pero sí proporciona un método técnico prometedor para promover el uso responsable del contenido generado por IA por parte de personas y organizaciones.