Comment savoir s’il s’agit d’une image IA ? Le dernier outil de modélisation à grande échelle de Google place des « filigranes » dans l’ADN de la peinture IA

Source originale : AGI Innovation Lab

Avec l'itération continue de la technologie, les images AIGC ont pu « simuler la réalité », et la différence entre les œuvres IA et non IA est parfois difficile à distinguer « à l'œil nu ».

Source de l'image : générée par Unbounded AI‌

Les images générées par l’IA deviennent chaque jour de plus en plus populaires. Mais comment mieux les identifier, surtout quand ils semblent si réalistes ?

L'équipe d'intelligence artificielle de Google, Google DeepMind, vient d'annoncer un partenariat avec Google Cloud pour lancer SynthID, un outil de filigrane et d'identification des images générées par l'IA. Cette technologie intègre un filigrane numérique directement dans les pixels d'une image, la rendant imperceptible à l'œil humain, mais détectable pour l'identification.

SynthID peut actuellement ajouter des filigranes aux images générées par le modèle graphique Google Vincent Imagen et identifier si l'image a été générée par ce modèle. Une version bêta a été publiée. Le PDG de Google, Sundar Pichai, a salué SynthID comme un premier développement important de DeepMind en matière de filigrane.

Si l’AIGC peut libérer un énorme potentiel créatif, elle introduit également de nouveaux risques, comme celui de permettre aux créateurs de diffuser de fausses informations, intentionnellement ou non. Être capable d'identifier le contenu généré par l'IA est essentiel pour informer les gens lorsqu'ils interagissent avec les médias générés et contribuer à empêcher la propagation de fausses informations.

**Comment SynthID identifie-t-il les images IA ? Son principe ? **

** Filigrane IA "invisible" **

Un filigrane est un dessin qui peut être superposé à une image pour l'identifier. Ils ont évolué au fil de l’histoire, depuis les empreintes physiques sur papier jusqu’aux textes et symboles translucides que l’on voit aujourd’hui sur les photos numériques.

Les filigranes traditionnels sont insuffisants pour identifier les images générées par l’IA, car ils sont souvent appliqués comme des tampons sur l’image et peuvent facilement être supprimés avec Photoshop. Ces filigranes occupent généralement une grande partie de la zone entière de l’image, affectant sérieusement la beauté de l’image elle-même.

Les filigranes traditionnels, après des modifications telles que l'ajout de filtres, le changement de couleur et de luminosité, sont facilement affectés et peuvent même devenir à nouveau difficiles à détecter. Ce n'est pas le cas de SynthID, le filigrane reste détectable même après des modifications telles que l'ajout de filtres, le changement de couleurs et l'enregistrement avec divers schémas de compression avec perte (JPEG est le plus couramment utilisé).

SynthID génère des filigranes numériques imperceptibles pour les images IA

SynthID utilise deux modèles d'apprentissage en profondeur (pour ajouter des filigranes et identifier les filigranes) qui ont été formés ensemble sur différents ensembles d'images. Le modèle combiné est optimisé pour une série d'objectifs, notamment l'identification correcte du contenu filigrané et l'amélioration de l'imperceptibilité en alignant visuellement le filigrane avec le contenu original.

Les filigranes ajoutés par SynthID peuvent être détectés même après des modifications telles que l'ajout de filtres, la modification des couleurs et de la luminosité.

Selon les tests internes de Google, les images générées par Imagen et filigranées par SynthID peuvent toujours être reconnues avec précision par SynthID après avoir subi de nombreux traitements d'image courants.

Méthode de combinaison de SynthID :

  • Ajouter un filigrane : SynthID peut ajouter un filigrane imperceptible à l'image composite générée par Imagen. ‍
  • Reconnaissance des filigranes : en numérisant les filigranes numériques dans les images, SynthID peut évaluer sa probabilité de créer une image pour Imagen.

SynthID peut aider à évaluer la probabilité qu'une image ait été créée par Imagen. L'outil fournit trois niveaux de confiance pour interpréter les résultats de la reconnaissance du filigrane (filigrane numérique détecté, filigrane numérique non détecté, filigrane numérique probablement détecté). Si un filigrane numérique est détecté, une partie de l'image a probablement été générée par Imagen.

L’une des méthodes les plus largement utilisées pour identifier un contenu consiste à utiliser les métadonnées, qui fournissent des informations telles que qui l’a créé et quand. Ces informations sont stockées avec le fichier image. Les signatures numériques ajoutées aux métadonnées peuvent indiquer si une image a été modifiée.

Lorsque les informations de métadonnées sont complètes, les utilisateurs peuvent facilement identifier les images. Cependant, les métadonnées peuvent être supprimées manuellement ou même perdues lors de la modification d'un fichier. Étant donné que le filigrane de SynthID est intégré dans les pixels d'une image, il est compatible avec d'autres méthodes de reconnaissance d'images basées sur des métadonnées et reste détectable même si les métadonnées sont manquantes.

Mais pour certaines images extrêmement traitées, l’équipe DeepMind a également déclaré que SynthID n’est pas garanti à toute épreuve, mais qu’il fournit une méthode technique prometteuse pour promouvoir l’utilisation responsable du contenu généré par l’IA par les personnes et les organisations.

Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Partager
Commentaire
0/400
Aucun commentaire
  • Épingler
Trader les cryptos partout et à tout moment
qrCode
Scan pour télécharger Gate app
Communauté
Français (Afrique)
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)