Bagaimana cara mengetahui apakah itu gambar AI? Alat pemodelan berskala besar terbaru dari Google memasukkan “tanda air” ke dalam DNA lukisan AI

Sumber asli: Lab Inovasi AGI

Dengan teknologi yang terus diulang, gambar AIGC telah mampu "menyamarkan gambar asli", dan perbedaan antara karya AI dan non-AI terkadang sulit dibedakan "dengan mata telanjang".

Sumber gambar: Dihasilkan oleh AI Tanpa Batas‌

Gambar yang dihasilkan AI menjadi semakin populer setiap hari. Namun bagaimana kita dapat mengidentifikasi mereka dengan lebih baik, terutama jika mereka terlihat sangat hidup?

Google DeepMind, tim kecerdasan buatan Google, baru saja mengumumkan peluncuran SynthID, alat untuk menambahkan tanda air dan mengidentifikasi gambar yang dihasilkan AI, dalam kemitraan dengan Google Cloud. Teknologi ini menyematkan tanda air digital langsung ke dalam piksel suatu gambar, sehingga tidak terlihat oleh mata manusia namun dapat dideteksi untuk identifikasi.

SynthID saat ini dapat menambahkan tanda air ke gambar yang dihasilkan oleh model grafik Google Vincent Imagen, dan mengidentifikasi apakah gambar tersebut dihasilkan oleh model ini. Versi beta telah dirilis. CEO Google Sundar Pichai memuji SynthID sebagai pengembangan awal yang penting dari DeepMind dalam watermarking.

Meskipun AIGC dapat membuka potensi kreatif yang sangat besar, AIGC juga menimbulkan risiko baru, seperti memungkinkan pembuat konten menyebarkan informasi palsu, baik disengaja maupun tidak. Kemampuan mengidentifikasi konten yang dihasilkan oleh AI sangat penting untuk memberi tahu orang-orang saat mereka berinteraksi dengan media yang dihasilkan dan membantu mencegah penyebaran informasi yang salah.

**Bagaimana SynthID mengidentifikasi gambar AI? Prinsipnya? **

Tanda air AI "tak terlihat"

Tanda air adalah desain yang dapat dilapiskan pada suatu gambar untuk mengidentifikasinya. Mereka telah berevolusi sepanjang sejarah, dari cetakan fisik di atas kertas hingga teks dan simbol tembus pandang yang terlihat pada foto digital saat ini.

Tanda air tradisional tidak cukup untuk mengidentifikasi gambar yang dihasilkan AI karena sering kali diterapkan seperti stempel pada gambar dan dapat dengan mudah di-photoshop. Tanda air ini biasanya menempati sebagian besar area gambar, sehingga sangat memengaruhi keindahan gambar itu sendiri.

Tanda air tradisional, setelah dimodifikasi seperti menambahkan filter, mengubah warna dan kecerahan, mudah terpengaruh dan bahkan mungkin sulit dideteksi lagi. SynthID tidak, dan tanda air masih dapat dideteksi bahkan setelah modifikasi seperti menambahkan filter, mengubah warna, dan menyimpan dengan berbagai skema kompresi lossy (paling umum JPEG).

SynthID menghasilkan tanda air digital yang tidak terlihat untuk gambar AI

SynthID menggunakan dua model pembelajaran mendalam (untuk menambahkan tanda air dan mengidentifikasi tanda air) yang telah dilatih bersama pada kumpulan gambar berbeda. Model gabungan ini dioptimalkan untuk berbagai tujuan, termasuk mengidentifikasi konten yang diberi watermark dengan benar dan meningkatkan ketidakjelasan dengan menyelaraskan watermark secara visual dengan konten asli.

Tanda air yang ditambahkan oleh SynthID dapat dideteksi bahkan setelah modifikasi seperti menambahkan filter, mengubah warna dan kecerahan, dll.

Menurut pengujian internal Google, gambar yang dihasilkan oleh Imagen dan diberi tanda air oleh SynthID masih dapat dikenali secara akurat oleh SynthID setelah menjalani banyak pemrosesan gambar umum.

Metode kombinasi SynthID:

• Tambahkan tanda air: SynthID dapat menambahkan tanda air yang tidak terlihat ke gambar komposit yang dihasilkan oleh Imagen. ‍
• Identifikasi tanda air: Dengan memindai tanda air digital pada suatu gambar, SynthID dapat mengevaluasi kemungkinannya membuat gambar untuk Imagen.

SynthID dapat membantu mengevaluasi kemungkinan suatu gambar dibuat oleh Imagen. Alat ini menyediakan tiga tingkat kepercayaan untuk menginterpretasikan hasil identifikasi watermark (watermark digital terdeteksi, watermark digital tidak terdeteksi, watermark digital mungkin terdeteksi). Jika tanda air digital terdeteksi, sebagian gambar mungkin dihasilkan oleh Imagen.

Salah satu metode yang paling banyak digunakan untuk mengidentifikasi konten adalah melalui metadata, yang memberikan informasi seperti siapa yang membuatnya dan kapan. Informasi ini disimpan dengan file gambar. Tanda tangan digital yang ditambahkan ke metadata dapat menunjukkan apakah suatu gambar telah diubah.

Ketika informasi metadata sudah lengkap, pengguna dapat dengan mudah mengidentifikasi gambar. Namun, metadata dapat dihapus secara manual atau bahkan hilang saat mengedit file. Karena tanda air SynthID tertanam dalam piksel suatu gambar, tanda air ini kompatibel dengan metode pengenalan gambar berbasis metadata lainnya dan tetap dapat dideteksi meskipun metadatanya hilang.

Namun untuk beberapa gambar yang sangat diproses, tim DeepMind juga mengatakan bahwa SynthID tidak dijamin sangat mudah, namun memberikan metode teknis yang menjanjikan untuk mempromosikan penggunaan konten yang dihasilkan AI secara bertanggung jawab oleh masyarakat dan organisasi.