Bunun bir AI resmi olup olmadığı nasıl anlaşılır? Google'ın en yeni büyük ölçekli modelleme aracı, yapay zeka resimlerinin DNA'sına "filigranlar" yerleştiriyor

Orijinal kaynak: AGI İnovasyon Laboratuvarı

Teknolojinin sürekli yenilenmesiyle, AIGC resimleri "gerçek olanları gizleyebildi" ve yapay zeka ile yapay zeka olmayan çalışmalar arasındaki farkı "çıplak gözle" ayırt etmek bazen zor olabiliyor.

Resim kaynağı: Sınırsız Yapay Zeka tarafından oluşturulmuştur

Yapay zeka tarafından oluşturulan görüntüler her geçen gün daha popüler hale geliyor. Peki, özellikle de bu kadar gerçekçi göründüklerinde onları nasıl daha iyi tanımlayabiliriz?

Google'ın yapay zeka ekibi Google DeepMind, yapay zeka tarafından oluşturulan görüntülere filigran ekleme ve tanımlama aracı olan SynthID'yi başlatmak için Google Cloud ile ortaklık kurduğunu duyurdu. Teknoloji, dijital filigranı doğrudan görüntünün piksellerine gömerek görüntüyü insan gözüyle görünmez ancak tanımlama için tespit edilebilir hale getiriyor.

SynthID şu anda Google Vincent grafik modeli Imagen tarafından oluşturulan görsellere filigran ekleyebiliyor ve görsellerin model tarafından oluşturulup oluşturulmadığını tespit edebiliyor.Beta sürümü yayınlandı. Google CEO'su Sundar Pichai, SynthID'yi filigranlamada DeepMind'ın önemli bir erken gelişimi olarak övdü.

AIGC muazzam yaratıcı potansiyelin kilidini açabilirken aynı zamanda yaratıcıların kasıtlı olsun ya da olmasın dezenformasyon yaymasına olanak sağlamak gibi yeni riskleri de beraberinde getiriyor. Yapay zeka tarafından oluşturulan içeriği tanıyabilmek, insanların oluşturulan medyayla etkileşime girdiklerinde bunu bilmelerini sağlamak ve yanlış bilgilerin yayılmasını önlemeye yardımcı olmak açısından kritik öneme sahiptir.

**SynthID AI görüntülerini nasıl tanımlar? Prensibi? **

"Görünmez" AI filigranı

Filigranlar, bir resmi tanımlamak için üzerine katmanlar halinde yerleştirilebilen tasarımlardır. Kağıt üzerindeki fiziksel baskılardan, günümüzde dijital fotoğraflarda görülen yarı saydam metin ve sembollere kadar tarih boyunca evrim geçirmişlerdir.

Geleneksel filigranlar, yapay zeka tarafından oluşturulan görüntüleri tanımlamak için yetersizdir çünkü bunlar genellikle görüntü üzerine damga gibi uygulanır ve kolayca photoshop ile çıkartılabilir. Bu filigranlar genellikle tüm görüntü alanının büyük bir bölümünü kaplar ve görüntünün güzelliğini ciddi şekilde etkiler.

Geleneksel filigranlar kolayca etkilenir ve filtre ekleme, renk ve parlaklık değiştirme gibi değişikliklerden sonra bile tespit edilmesi zor olabilir. SynthID bunu yapmaz; filigran, filtre ekleme, renkleri değiştirme ve çeşitli kayıplı sıkıştırma şemalarıyla kaydetme (en yaygın olarak JPEG kullanılır) gibi değişikliklerden sonra bile tespit edilebilir kalır.

SynthID, AI görüntüleri için algılanamayan dijital filigranlar oluşturur

SynthID, farklı görüntü kümeleri üzerinde birlikte eğitilmiş iki derin öğrenme modelini (filigranlama ve filigran tanıma için) kullanır. Birleştirilmiş model, filigranlı içeriğin doğru şekilde tanımlanması ve filigranı orijinal içerikle görsel olarak hizalayarak algılanamazlığın iyileştirilmesi de dahil olmak üzere bir dizi hedef için optimize edilmiştir.

SynthID tarafından eklenen filigranlar, filtre ekleme, renkleri ve parlaklığı değiştirme gibi değişikliklerden sonra bile tespit edilebilir

Google'ın dahili testlerine göre, Imagen tarafından oluşturulan ve SynthID tarafından filigran eklenen görüntüler, birçok yaygın görüntü işleme sonrasında hâlâ SynthID tarafından doğru şekilde tanımlanabiliyor.

SynthID'nin kombinasyon yöntemi:

• Filigranlama: SynthID, Imagen tarafından oluşturulan sentetik görüntülere algılanamayan filigranlar ekleyebilir. -
• Filigranları Tanıma: SynthID, görüntülerdeki dijital filigranları tarayarak Imagen için bir görüntü oluşturma olasılığını değerlendirebilir.

SynthID, bir görselin Imagen tarafından yaratılmış olma olasılığının değerlendirilmesine yardımcı olabilir. Araç, filigran tanıma sonuçlarını yorumlamak için üç güven düzeyi sağlar (dijital filigran algılandı, dijital filigran algılanmadı, dijital filigran muhtemelen algılandı). Dijital filigran tespit edilirse görüntünün bir kısmı muhtemelen Imagen tarafından oluşturulmuştur.

İçeriği tanımlamanın en yaygın kullanılan yöntemlerinden biri, onu kimin ve ne zaman oluşturduğu gibi bilgiler sağlayan meta verilerdir. Bu bilgi görüntü dosyasıyla birlikte saklanır. Meta verilere eklenen dijital imzalar, bir görselin değiştirilip değiştirilmediğini gösterebilir.

Meta veri bilgileri tamamlandığında kullanıcılar görüntüleri kolayca tanımlayabilir. Ancak, dosyalar düzenlenirken meta veriler manuel olarak kaldırılabilir veya hatta kaybolabilir. SynthID'nin filigranı görüntünün piksellerine gömülü olduğundan, diğer meta veri tabanlı görüntü tanıma yöntemleriyle uyumludur ve meta veriler eksik olsa bile tespit edilebilir kalır.

Ancak DeepMind ekibi, son derece işlenmiş bazı görüntüler için SynthID'nin kusursuz olduğunun garanti edilmediğini, ancak yapay zeka tarafından oluşturulan içeriğin kişiler ve kuruluşlar tarafından sorumlu kullanımını teşvik etmek için umut verici bir teknik yöntem sağladığını da söyledi.