Как определить, является ли это изображение AI? Последний инструмент Google для больших моделей вставляет «водяные знаки» в ДНК картин ИИ

Первоисточник: Инновационная лаборатория AGI.

Благодаря постоянному развитию технологий изображения AIGC смогли «замаскировать настоящие», а разницу между работами ИИ и не ИИ иногда трудно различить «невооруженным глазом».

Источник изображения: Создано Unbounded AI‌

Изображения, созданные с помощью искусственного интеллекта, с каждым днем становятся все популярнее. Но как нам лучше их идентифицировать, особенно если они выглядят настолько реалистично?

Google DeepMind, команда Google по искусственному интеллекту, только что объявила о запуске SynthID, инструмента для добавления водяных знаков и идентификации изображений, созданных искусственным интеллектом, в партнерстве с Google Cloud. Технология встраивает цифровой водяной знак непосредственно в пиксели изображения, делая его невидимым для человеческого глаза, но обнаруживаемым для идентификации.

SynthID в настоящее время может добавлять водяные знаки к изображениям, созданным графической моделью Google Vincent Imagen, и определять, было ли изображение создано с помощью этой модели. Выпущена бета-версия. Генеральный директор Google Сундар Пичаи похвалил SynthID как важное раннее развитие DeepMind в области водяных знаков.

Хотя AIGC может раскрыть огромный творческий потенциал, он также создает новые риски, например, позволяет авторам намеренно или непреднамеренно распространять ложную информацию. Возможность идентифицировать контент, созданный ИИ, имеет решающее значение для информирования людей, когда они взаимодействуют с созданными медиа, и помогает предотвратить распространение дезинформации.

**Как SynthID идентифицирует изображения AI? Его принцип? **

Невидимый водяной знак AI

Водяные знаки — это рисунки, которые можно накладывать на изображение для его идентификации. Они развивались на протяжении всей истории: от физических отпечатков на бумаге до полупрозрачного текста и символов, которые сегодня можно увидеть на цифровых фотографиях.

Традиционных водяных знаков недостаточно для идентификации изображений, созданных искусственным интеллектом, поскольку они часто наносятся на изображение как штампы и их легко можно удалить в фотошопе. Эти водяные знаки обычно занимают большую часть всей площади изображения, серьезно влияя на красоту самого изображения.

Традиционные водяные знаки после таких модификаций, как добавление фильтров, изменение цвета и яркости, легко повреждаются, и их может даже становится трудно обнаружить снова. SynthID этого не делает, водяной знак остается обнаруживаемым даже после таких модификаций, как добавление фильтров, изменение цветов и сохранение с использованием различных схем сжатия с потерями (чаще всего используется JPEG).

SynthID генерирует незаметные цифровые водяные знаки для изображений AI

SynthID использует две модели глубокого обучения (для нанесения водяных знаков и распознавания водяных знаков), которые были обучены вместе на разных наборах изображений. Комбинированная модель оптимизирована для решения ряда задач, включая правильную идентификацию контента с водяными знаками и повышение незаметности за счет визуального выравнивания водяного знака с исходным контентом.

Водяные знаки, добавленные SynthID, можно обнаружить даже после таких изменений, как добавление фильтров, изменение цветов и яркости.

Согласно внутреннему тестированию Google, изображения, созданные Imagen и помеченные водяными знаками SynthID, по-прежнему могут точно распознаваться SynthID после прохождения многих распространенных обработок изображений.

Метод комбинирования SynthID:

• Водяные знаки: SynthID может добавлять незаметные водяные знаки к синтетическим изображениям, созданным Imagen. ‍
• Распознавание водяных знаков: сканируя цифровые водяные знаки на изображениях, SynthID может оценить вероятность создания изображения для Imagen.

SynthID может помочь оценить вероятность того, что изображение было создано Imagen. Инструмент предоставляет три уровня достоверности для интерпретации результатов распознавания водяных знаков (цифровой водяной знак обнаружен, цифровой водяной знак не обнаружен, цифровой водяной знак вероятно обнаружен). Если обнаружен цифровой водяной знак, возможно, часть изображения была создана Imagen.

Одним из наиболее широко используемых методов идентификации контента является использование метаданных, которые предоставляют информацию о том, кто его создал и когда. Эта информация хранится вместе с файлом изображения. Цифровые подписи, добавленные к метаданным, могут показать, было ли изменено изображение.

Когда информация метаданных заполнена, пользователи могут легко идентифицировать изображения. Однако метаданные могут быть удалены вручную или даже потеряны при редактировании файлов. Поскольку водяной знак SynthID встроен в пиксели изображения, он совместим с другими методами распознавания изображений на основе метаданных и остается обнаруживаемым, даже если метаданные отсутствуют.

Но в отношении некоторых чрезвычайно обработанных изображений команда DeepMind также заявила, что SynthID не гарантирует надежность, но он обеспечивает многообещающий технический метод, способствующий ответственному использованию контента, созданного ИИ, людьми и организациями.