AIの写真かどうかを見分けるには？ Googleの最新ビッグモデルツールはAI絵画のDNAに「透かし」を入れる

出典: AGI イノベーション ラボ

技術の継続的な反復により、AIGC の写真は「本物を隠す」ことができるようになり、AI 作品と非 AI 作品の違いを「肉眼で」区別することが困難になる場合があります。

画像ソース: Unbounded AI によって生成‌

AI によって生成された画像の人気は日に日に高まっています。しかし、特に本物そっくりに見える場合、どうすればそれらをよりよく識別できるでしょうか?

Google の人工知能チームである Google DeepMind は、AI が生成した画像に透かしを入れて識別するツールである SynthID を開始するために、Google Cloud との提携を発表したばかりです。この技術は、電子透かしを画像のピクセルに直接埋め込み、人間の目には感知できませんが、識別のために検出できるようにします。

SynthID は現在、Google Vincent グラフ モデル Imagen によって生成された画像にウォーターマークを追加し、画像がこのモデルによって生成されたかどうかを識別することができ、ベータ版がリリースされています。 Google CEO の Sundar Pichai 氏は、SynthID を DeepMind のウォーターマーキングにおける重要な初期開発として賞賛しました。

AIGC は創造性の巨大な可能性を解き放つことができますが、意図的か否かにかかわらず、クリエイターが偽情報を広めることを可能にするなど、新たなリスクももたらします。 AI が生成したコンテンツを認識できることは、生成されたメディアを利用していることを人々に知らせ、誤った情報の拡散を防ぐために重要です。

**SynthID は AI 画像をどのように識別するのですか?その原理は？ **

*「目に見えない」AI ウォーターマーク

ウォーターマークは、画像を識別するために画像に重ねて表示できるデザインです。これらは、紙上の物理的な痕跡から、今日のデジタル写真で見られる半透明のテキストや記号に至るまで、歴史の中で進化してきました。

従来の透かしは、スタンプのように画像に適用されることが多く、簡単にフォトショップで削除できるため、AI で生成された画像を識別するには不十分です。これらの透かしは通常、画像領域全体の大部分を占め、画像自体の美しさに重大な影響を与えます。

従来の透かしは影響を受けやすく、フィルターの追加、色や明るさの変更などの変更を加えると検出が困難になる場合もあります。 SynthID では検出されず、フィルターの追加、色の変更、さまざまな非可逆圧縮スキーム (最も一般的な JPEG) での保存などの変更を行った後でも、ウォーターマークは引き続き検出されます。

SynthID は AI 画像に知覚できない電子透かしを生成します

SynthID は、異なる画像セットで一緒にトレーニングされた 2 つの深層学習モデル (透かしの追加と透かしの識別用) を使用します。結合されたモデルは、透かし入りのコンテンツを正確に識別することや、透かしを元のコンテンツと視覚的に位置合わせすることによる知覚不能性の向上など、さまざまな目的に合わせて最適化されています。

SynthIDによって追加されたウォーターマークは、フィルターの追加、色や明るさの変更などの変更後でも検出できます

Google の内部テストによると、Imagen によって生成され、SynthID によってウォーターマークが埋め込まれた画像は、多くの一般的な画像処理の後でも SynthID によって正確に識別できます。

SynthIDの組み合わせ方法：

• 透かしの追加: SynthID は、Imagen によって生成された合成画像に知覚できない透かしを追加できます。 ‍
• 透かしの識別: 画像内の電子透かしをスキャンすることで、SynthID は Imagen 用の画像を作成する可能性を評価できます。

SynthID は、イメージが Imagen によって作成された可能性を評価するのに役立ちます。このツールは、透かし識別の結果を解釈するための 3 つの信頼レベル (電子透かしが検出された、電子透かしが検出されなかった、電子透かしが検出された可能性がある) を提供します。電子透かしが検出された場合、画像の一部は Imagen によって生成された可能性があります。

コンテンツを識別するために最も広く使用されている方法の 1 つは、誰がいつ作成したかなどの情報を提供するメタデータを使用することです。この情報は画像ファイルとともに保存されます。メタデータにデジタル署名を追加すると、画像が変更されたかどうかを示すことができます。

メタデータ情報が完成すると、ユーザーは画像を簡単に識別できます。ただし、ファイルの編集時にメタデータが手動で削除されたり、失われたりする場合があります。 SynthID のウォーターマークは画像のピクセルに埋め込まれているため、他のメタデータベースの画像認識方法と互換性があり、メタデータが欠落している場合でも検出可能です。

しかし、一部の極端に処理された画像については、DeepMind チームは、SynthID は確実であるとは保証されていないが、人々や組織による AI 生成コンテンツの責任ある使用を促進するための有望な技術的方法を提供するとも述べています。