Як визначити, чи це зображення AI? Останній інструмент Google для створення великих моделей додає «водяні знаки» в ДНК малюнків штучного інтелекту

Джерело: AGI Innovation Lab

Завдяки безперервному вдосконаленню технологій зображення AIGC змогли «підробити справжні речі», і різницю між роботами штучного інтелекту та роботами без штучного інтелекту іноді важко розрізнити «неозброєним оком».

Джерело зображення: створено Unbounded AI‌

Зображення, створені ШІ, з кожним днем стають все популярнішими. Але як ми можемо їх краще ідентифікувати, особливо коли вони виглядають такими реалістичними?

Google DeepMind, команда штучного інтелекту Google, щойно оголосила про запуск SynthID, інструменту для додавання водяних знаків і ідентифікації зображень, створених ШІ, у партнерстві з Google Cloud. Ця технологія вбудовує цифровий водяний знак безпосередньо в пікселі зображення, роблячи його непомітним для людського ока, але його можна виявити для ідентифікації.

Наразі SynthID може додавати водяні знаки до зображень, згенерованих графічною моделлю Google Vincent Imagen, і визначати, чи створені зображення цією моделлю. Випущено бета-версію. Генеральний директор Google Сундар Пічаї похвалив SynthID як важливий ранній розвиток DeepMind у водяних знаках.

Хоча AIGC може розкрити величезний творчий потенціал, він також створює нові ризики, наприклад, дозволяє творцям поширювати неправдиву інформацію, навмисно чи ненавмисно. Можливість ідентифікувати контент, створений штучним інтелектом, має вирішальне значення для того, щоб люди знали, коли вони взаємодіють із створеним медіа, і допомагає запобігти поширенню дезінформації.

**Як SynthID ідентифікує зображення AI? Його принцип? **

"Невидимий" водяний знак AI

Водяний знак — це дизайн, який можна накласти на зображення, щоб його ідентифікувати. Вони еволюціонували протягом історії, від фізичних відбитків на папері до напівпрозорого тексту та символів, які сьогодні можна побачити на цифрових фотографіях.

Традиційних водяних знаків недостатньо для ідентифікації створених штучним інтелектом зображень, оскільки вони часто наносяться на зображення як штампи, і їх можна легко обробити в фотошопі. Ці водяні знаки зазвичай займають більшу частину всієї області зображення, серйозно впливаючи на красу самого зображення.

Традиційні водяні знаки легко піддаються впливу, і їх навіть важко виявити після модифікацій, таких як додавання фільтрів, зміна кольору та яскравості. SynthID цього не робить, і водяний знак усе ще можна виявити навіть після таких змін, як додавання фільтрів, зміна кольорів і збереження за допомогою різних схем стиснення з втратами (найчастіше JPEG).

SynthID створює непомітні цифрові водяні знаки для зображень AI

SynthID використовує дві моделі глибокого навчання (для додавання водяних знаків і ідентифікації водяних знаків), які були навчені разом на різних наборах зображень. Комбінована модель оптимізована для ряду цілей, у тому числі для правильної ідентифікації вмісту з водяними знаками та покращення непомітності шляхом візуального вирівнювання водяного знака з оригінальним вмістом.

Водяні знаки, додані SynthID, можна виявити навіть після модифікацій, таких як додавання фільтрів, зміна кольору та яскравості тощо.

Відповідно до внутрішнього тестування Google, зображення, згенеровані Imagen і водяні знаки SynthID, можуть точно розпізнаватися SynthID після багатьох стандартних обробок зображень.

Метод комбінування SynthID:

• Додати водяний знак: SynthID може додати непомітний водяний знак до складеного зображення, створеного Imagen. ‍
• Розпізнавання водяних знаків: Скануючи цифрові водяні знаки на зображеннях, SynthID може оцінити ймовірність створення зображення для Imagen.

SynthID може допомогти оцінити ймовірність того, що зображення було створено Imagen. Інструмент надає три рівні достовірності для інтерпретації результатів розпізнавання водяного знака (цифровий водяний знак виявлено, цифровий водяний знак не виявлено, цифровий водяний знак, ймовірно, виявлено). Якщо виявлено цифровий водяний знак, частина зображення, ймовірно, була створена Imagen.

Одним із найпоширеніших методів ідентифікації вмісту є метадані, які надають інформацію про те, хто і коли його створив. Ця інформація зберігається разом із файлом зображення. Цифрові підписи, додані до метаданих, можуть показати, чи було змінено зображення.

Коли інформація метаданих буде повна, користувачі зможуть легко ідентифікувати зображення. Проте метадані можна видалити вручну або навіть втратити під час редагування файлу. Оскільки водяний знак SynthID вбудовано в пікселі зображення, він сумісний з іншими методами розпізнавання зображень на основі метаданих і залишається видимим, навіть якщо метадані відсутні.

Але для деяких надзвичайно оброблених зображень команда DeepMind також заявила, що SynthID не гарантовано надійний, але він надає багатообіцяючий технічний метод сприяння відповідальному використанню людьми та організаціями контенту, створеного ШІ.