Làm thế nào để biết đó có phải là hình ảnh AI hay không? Công cụ mô hình lớn mới nhất của Google đưa 'hình mờ' vào DNA của các bức tranh AI

Nguồn gốc: Phòng thí nghiệm đổi mới AGI

Với sự lặp lại không ngừng của công nghệ, những bức ảnh AIGC đã có khả năng "làm giả đồ thật", và sự khác biệt giữa tác phẩm AI và không phải AI đôi khi rất khó phân biệt bằng "mắt thường".

Nguồn hình ảnh: Được tạo bởi AI‌ không giới hạn

Hình ảnh do AI tạo ra đang trở nên phổ biến hơn mỗi ngày. Nhưng làm thế nào chúng ta có thể xác định chúng tốt hơn, đặc biệt là khi chúng trông rất giống thật?

Nhóm trí tuệ nhân tạo của Google, Google DeepMind, vừa công bố hợp tác với Google Cloud để ra mắt SynthID, một công cụ đánh dấu hình mờ và xác định hình ảnh do AI tạo ra. Công nghệ này nhúng hình mờ kỹ thuật số trực tiếp vào các pixel của hình ảnh, khiến mắt người không nhìn thấy được nhưng vẫn có thể phát hiện được để nhận dạng.

SynthID hiện có thể thêm hình mờ vào hình ảnh được tạo bởi mô hình biểu đồ Google Vincent Imagen và xác định xem hình ảnh có được tạo bởi mô hình này hay không. Phiên bản beta đã được phát hành. Giám đốc điều hành Google Sundar Pichai ca ngợi SynthID là bước phát triển ban đầu quan trọng đối với DeepMind trong lĩnh vực thủy ấn.

Mặc dù AIGC có thể mở ra tiềm năng sáng tạo to lớn nhưng nó cũng gây ra những rủi ro mới, chẳng hạn như cho phép người sáng tạo lan truyền thông tin sai lệch, dù cố ý hay vô ý. Khả năng xác định nội dung do AI tạo là rất quan trọng để cho mọi người biết khi nào họ đang tương tác với phương tiện được tạo và giúp ngăn chặn sự lan truyền thông tin sai lệch.

** SynthID xác định hình ảnh AI như thế nào? Nguyên tắc của nó? **

** Hình mờ AI "vô hình"**

Hình mờ là các thiết kế có thể được xếp lớp trên hình ảnh để nhận dạng nó. Chúng đã phát triển trong suốt lịch sử, từ những dấu ấn vật lý trên giấy đến văn bản và biểu tượng mờ nhìn thấy trên các bức ảnh kỹ thuật số ngày nay.

Hình mờ truyền thống không đủ để xác định hình ảnh do AI tạo ra vì chúng thường được áp dụng giống như tem trên hình ảnh và có thể dễ dàng bị chỉnh sửa bằng photoshop. Những hình mờ này thường chiếm một phần lớn toàn bộ diện tích hình ảnh, ảnh hưởng nghiêm trọng đến vẻ đẹp của hình ảnh.

Hình mờ truyền thống dễ bị ảnh hưởng và thậm chí có thể khó phát hiện sau khi sửa đổi như thêm bộ lọc, thay đổi màu sắc và độ sáng. SynthID thì không, và hình mờ vẫn có thể được phát hiện ngay cả sau khi sửa đổi như thêm bộ lọc, thay đổi màu sắc và lưu bằng nhiều sơ đồ nén mất dữ liệu khác nhau (phổ biến nhất là JPEG).

SynthID tạo hình mờ kỹ thuật số không thể nhận thấy cho hình ảnh AI

SynthID sử dụng hai mô hình deep learning (để thêm hình mờ và xác định hình mờ) đã được đào tạo cùng nhau trên các bộ hình ảnh khác nhau. Mô hình kết hợp được tối ưu hóa cho nhiều mục tiêu, bao gồm xác định chính xác nội dung hình mờ và cải thiện khả năng không thể nhận thấy bằng cách căn chỉnh trực quan hình mờ với nội dung gốc.

Hình mờ được SynthID thêm có thể được phát hiện ngay cả sau khi sửa đổi như thêm bộ lọc, thay đổi màu sắc và độ sáng, v.v.

Theo thử nghiệm nội bộ của Google, hình ảnh do Imagen tạo ra và được SynthID đóng dấu chìm vẫn có thể được SynthID nhận dạng chính xác sau khi trải qua nhiều quá trình xử lý hình ảnh thông thường.

Phương pháp kết hợp SynthID:

• Hình mờ: SynthID có thể thêm hình mờ không thể nhận thấy vào hình ảnh tổng hợp do Imagen tạo ra. ‍
• Xác định hình mờ: Bằng cách quét hình mờ kỹ thuật số trong hình ảnh, SynthID có thể đánh giá khả năng tạo hình ảnh cho Imagen.

SynthID có thể giúp đánh giá khả năng hình ảnh được tạo bởi Imagen. Công cụ này cung cấp ba mức độ tin cậy để diễn giải kết quả nhận dạng hình mờ (đã phát hiện hình mờ kỹ thuật số, không phát hiện hình mờ kỹ thuật số, có thể đã phát hiện hình mờ kỹ thuật số). Nếu phát hiện hình mờ kỹ thuật số thì một phần hình ảnh có thể được tạo bởi Imagen.

Một trong những phương pháp được sử dụng rộng rãi nhất để xác định nội dung là thông qua siêu dữ liệu, cung cấp thông tin như ai tạo ra nội dung đó và khi nào. Thông tin này được lưu trữ với tập tin hình ảnh. Chữ ký số được thêm vào siêu dữ liệu có thể cho biết hình ảnh có bị thay đổi hay không.

Khi thông tin siêu dữ liệu đầy đủ, người dùng có thể dễ dàng nhận biết hình ảnh. Tuy nhiên, siêu dữ liệu có thể bị xóa thủ công hoặc thậm chí bị mất khi chỉnh sửa tệp. Vì hình mờ của SynthID được nhúng vào các pixel của hình ảnh nên nó tương thích với các phương pháp nhận dạng hình ảnh dựa trên siêu dữ liệu khác và vẫn có thể được phát hiện ngay cả khi siêu dữ liệu bị mất.

Nhưng đối với một số hình ảnh được xử lý cực kỳ kỹ lưỡng, nhóm DeepMind cũng cho biết SynthID không được đảm bảo là hoàn hảo nhưng nó cung cấp một phương pháp kỹ thuật đầy hứa hẹn để thúc đẩy việc sử dụng có trách nhiệm nội dung do AI tạo ra bởi các cá nhân và tổ chức.