Mô hình AI "lắp" sản phẩm có thật? Tôi có thể mua nó không? Chuyên gia: Người bán nên thực hiện nghĩa vụ ghi nhãn của mình để tránh ảnh hưởng đến quyền được biết và lựa chọn của người tiêu dùng

Nguồn: Pháp luật hàng ngày

Tác giả: Tôn Thiên Kiều

Phóng viên thực tập Ding Yi

Khuôn mặt nhỏ nhắn, làn da không tì vết, tỷ lệ cơ thể hoàn hảo, người mẫu và trang phục trên người cô ấy bổ sung cho nhau khiến trang phục vừa vặn và hợp thời trang hơn... Đây là hình ảnh của một sản phẩm xuất hiện trên sàn thương mại điện tử. Nhưng nhìn kỹ hơn sẽ thấy những người mẫu thử quần áo dường như không phải là người thật. Sau khi gửi thư riêng cho cửa hàng, bên kia đã sẵn sàng thừa nhận rằng bản đồ quảng cáo được vẽ bởi AI, "để hiển thị rõ hơn các chi tiết của quần áo."

Một phóng viên của "Nhật báo Pháp trị" gần đây đã điều tra và phát hiện ra rằng nhiều người bán trên nhiều nền tảng thương mại điện tử đã sử dụng người mẫu AI để thử quần áo để trưng bày sản phẩm. Không chỉ vậy, trên nền tảng thương mại điện tử, một số cửa hàng đã bắt đầu cung cấp dịch vụ vẽ mô hình AI, chẳng hạn như "Tạo mô hình vẽ AI", "mô hình giả cho mô hình thực", v.v.

Sử dụng hình ảnh "lắp ghép" mô hình AI để quảng bá, liệu hiệu ứng sản phẩm được thể hiện có đáng tin cậy? Người tiêu dùng sẽ mua nó? Những bức ảnh "phù hợp" của các mô hình AI có thể được tạo ra và sử dụng theo ý muốn hay không và chúng có thể gặp phải những rủi ro pháp lý nào? Với những câu hỏi này, phóng viên đã thực hiện cuộc phỏng vấn khảo sát.

Có sự khác biệt rõ ràng về chi tiết, có thể bị nghi ngờ là tuyên truyền sai sự thật

Người mẫu AI "vừa vặn" hình ảnh công khai, quần áo vừa vặn với người mẫu, hầu như không có nếp nhăn, nhưng đây có thực sự là trường hợp?

Phóng viên gần đây đã tìm kiếm trên các nền tảng thương mại điện tử lớn bằng các từ khóa như "bộ đồ tinh tế" và nhận thấy rằng hình ảnh quảng cáo của nhiều sản phẩm rõ ràng là hình ảnh "phù hợp" của người mẫu AI. Đặc điểm rõ ràng hơn của các mô hình AI này là chúng có đường cong cơ thể rõ ràng, tứ chi mảnh khảnh, các đường nét trên khuôn mặt cực kỳ thanh tú mang cảm giác biếm họa và nền chủ yếu là nền đồng màu được làm mờ.

Ví dụ: trong một cửa hàng có 6.000 lượt yêu thích trên nền tảng thương mại điện tử, vị trí thứ hai trong danh sách khen ngợi của cửa hàng là một bộ vest với số lượng bán ra trên 450 chiếc. mắt. Các bức ảnh dường như được lấy nét mềm (ám chỉ việc sử dụng ống kính lấy nét mềm hoặc thêm bộ lọc lấy nét mềm trước ống kính trong nhiếp ảnh để có được hình ảnh tinh tế và mềm mại), và nó trông giống như một hình minh họa hoạt hình tại cái nhìn đầu tiên.

Phóng viên đã đặt hàng sản phẩm, sau khi nhận được sản phẩm, anh ta mở ra thì thấy có sự khác biệt lớn giữa bộ vest mình nhận được và hình ảnh quảng cáo: màu sắc khác, có thêm một nếp gấp. và chiều cao của đường viền cổ áo không khớp. Điều đáng nói hơn nữa là bộ quần áo trên hình người mẫu có tay áo dạng đèn lồng trễ vai, chiều dài vừa qua khuỷu tay, trong khi tay áo của quần áo thực che đến khuỷu tay, cổ tay áo không thể thắt lại.

Tình huống mà phóng viên gặp phải không phải là trường hợp cá biệt, tại một cửa hàng trực tuyến, một mẫu quần áo có hình ảnh người mẫu AI "vừa vặn" làm hình ảnh quảng cáo đã bán được hàng trăm chiếc, tràn ngập những bình luận như vậy ở khu vực bình luận. : "Có thể do AI chụp nên trong hình mặc rất ôm sát, nhưng nhận hàng thì mập quá" "Váy có nhiều nếp gấp" "Màu áo khác so với hình ."

Trên các nền tảng xã hội, dưới mục nhập của "mô hình AI", nhiều cư dân mạng đã nói rõ rằng họ không muốn trả tiền cho các mô hình AI, nhiều cư dân mạng cho rằng việc sử dụng các mô hình AI để trưng bày quần áo sẽ tăng khả năng mua sắm trực tuyến. Một số cư dân mạng thẳng thừng cho rằng: "Người thật không được phép thử phần thân trên, liệu có ai thực sự mua không?" "Tỷ lệ giữa đầu và cơ thể của mô hình AI không khớp với con người, vì vậy không có tài liệu tham khảo. "Làm thế nào có thể xác thực được đảm bảo?" Một số cư dân mạng nói rõ rằng họ "sẽ không mua bất kỳ sản phẩm nào có hình ảnh sản phẩm do AI tạo ra".

Sun Ying, giáo sư tại Đại học Khoa học Chính trị và Luật Trung Quốc, đồng thời là phó tổng thư ký Hiệp hội Nghiên cứu Luật Bảo vệ Người tiêu dùng Trung Quốc, cho rằng việc ứng dụng trí tuệ nhân tạo trong lĩnh vực bán hàng thương mại điện tử là tốt nhất khi người mẫu trực tiếp hoặc người dẫn chương trình. sử dụng công nghệ AI để tự động thay đổi các kiểu quần áo khác nhau để trưng bày. "Hiện tại, vẫn còn một số trở ngại về mặt kỹ thuật không thể vượt qua trong quá trình sản xuất hình ảnh người mẫu bằng AI, và các chi tiết sẽ khác nhau, do đó người tiêu dùng không thể đánh giá hình thức thực của quần áo."

“Do bản đồ mô hình AI không thể hiện đầy đủ và chân thực các điều kiện khách quan như hình thức, kiểu dáng, màu sắc, mẫu mã của sản phẩm nên chắc chắn sẽ dẫn đến thiệt hại đến quyền được biết, quyền lựa chọn của người tiêu dùng, vi phạm các quy định của pháp luật. nghĩa vụ của nhà điều hành đối với người tiêu dùng là cung cấp thông tin sản phẩm hoặc dịch vụ đầy đủ và toàn diện. Nghĩa vụ phải đúng và chính xác, thậm chí có thể liên quan đến tuyên truyền sai lệch hoặc gây hiểu lầm.", Sun Ying nói.

Chi phí sản xuất thấp, hiệu quả, trình độ kỹ thuật cần nâng cao

Tại sao một số thương nhân sẵn sàng chọn hình ảnh "lắp" mô hình AI để quảng cáo sản phẩm?

Một số người trong ngành nói với các phóng viên rằng điều này chủ yếu là do một số cửa hàng trực tuyến muốn tiết kiệm chi phí chụp ảnh. Theo báo cáo công khai, sau khi một số thương nhân thay thế người mẫu thực bằng người mẫu AI, bao gồm chi phí cho người mẫu, nhiếp ảnh gia và nhân viên khác, phí địa điểm, phí thiết bị, v.v., chi phí trong tháng đã tiết kiệm được khoảng 40.000 nhân dân tệ.

"Một số doanh nghiệp vừa và nhỏ thường không đủ khả năng mua người mẫu, hoặc không thể chụp được những bức ảnh rất đẹp. Người mẫu AI có thể giúp họ hoàn thành việc trưng bày sản phẩm chất lượng cao với chi phí thấp hơn. Ngoài ra, một số cảnh quay đặc thù cần có người mẫu nước ngoài, v.v. và Các mô hình AI được sử dụng sẽ thuận tiện và nhanh chóng hơn so với việc tìm kiếm một mô hình phù hợp trong thực tế”, người trong ngành cho biết.

Theo nhu cầu tương ứng, ngày càng có nhiều phần mềm cung cấp chức năng AIGC (AI Generated Content, nội dung được tạo tự động bằng trí tuệ nhân tạo). Các phương pháp chính để tạo ảnh mô hình AI bằng phần mềm liên quan là: sử dụng mô tả văn bản thuần túy, văn bản cộng ảnh và ảnh cộng ảnh, bạn có thể tạo ảnh "phù hợp" với mô hình AI chỉ bằng một cú nhấp chuột.

Điều tra của phóng viên cho thấy cùng với nhu cầu sản xuất ảnh "lắp" mô hình AI của các thương nhân, dịch vụ tạo ảnh "lắp" mô hình AI cũng đang trở thành sản phẩm chính của một số thương nhân. Trên một ứng dụng mua sắm trực tuyến, phóng viên đã tìm kiếm với các từ khóa như "thế hệ người mẫu AI" và "thế hệ người mẫu quần áo AI", và một số sản phẩm liên quan đã xuất hiện.

Trên các trang giới thiệu chi tiết của các sản phẩm này, các dịch vụ do người bán cung cấp bao gồm: chuyển đổi người mẫu thử đồ giả thành người mẫu thật, cung cấp ảnh quần áo để trực tiếp tạo ra hình ảnh thử đồ mẫu và chỉ định đặc điểm ngoại hình của người mẫu, v.v. Về nghiệp vụ cụ thể, nhiều thương gia cho biết họ dùng ảnh để tạo ảnh: “Chỉ cần cung cấp ảnh quần áo, tốt nhất là mẫu giả hoặc người thật mặc thì hiệu quả sẽ tốt hơn”.

Về giá cả, phóng viên đã hỏi một số cửa hàng và được biết, nếu người khác làm giúp tranh thì giá từ 3 đến 10 bức dao động từ 100 tệ đến 300 tệ. Các nhà khai thác thương mại điện tử cũng có thể tự mua phần mềm và nghiên cứu các hướng dẫn, đồng thời sử dụng trí tuệ nhân tạo phần mềm để tạo ra các hình ảnh mô hình cần thiết.

Phóng viên đã chọn một cửa hàng có doanh số hàng tháng hơn 4.000 chiếc, đơn hàng đầu tiên chưa đến 1 nhân dân tệ và bạn có thể trải nghiệm dịch vụ "AI vẽ thay vì vẽ" một lần. Theo hướng dẫn của cửa hàng, phóng viên cung cấp hình ảnh quần áo và các từ khóa như "cô gái tóc xoăn", "dễ thương" và "mỏng manh", sau vài phút, bên kia đưa ra 4 bức ảnh được tạo ra.

Trong những bức ảnh này, sự xuất hiện của các mô hình phù hợp với mong đợi, thậm chí còn thực tế hơn và trông hơi khác so với người thật. Tuy nhiên, sự giống nhau của các kiểu quần áo là khá khác nhau, ngoài màu sắc, thiết kế đường viền cổ áo, độ dài tay áo, mép tay áo, có thắt lưng hay không và vị trí trang trí đều khác rất nhiều so với hình ảnh ban đầu.

"Bạn có thể tìm kiếm các từ khóa cụ thể." Trước câu hỏi của phóng viên, cửa hàng nói rằng họ có thể làm cho các bức ảnh hài lòng hơn bằng cách hạn chế các từ khóa, "cung cấp hình ảnh có người thật hoặc người mẫu giả mặc chúng, và kết xuất được tạo ra sẽ tốt hơn" .

Theo Zheng Zhifeng, phó giáo sư tại Trường Luật Dân sự và Thương mại thuộc Đại học Khoa học Chính trị và Luật Tây Nam, đồng thời là phó giám đốc Viện Nghiên cứu Quản trị Không gian mạng, việc sử dụng công nghệ AI để tạo ra các bức tranh mô hình phản ánh các tình huống ứng dụng cụ thể. của công nghệ AI, có lợi cho việc giảm chi phí bán hàng. Đồng thời, công nghệ trí tuệ nhân tạo tổng hợp có thể tạo ra hàng loạt ảnh mô hình khác nhau một cách hiệu quả, thậm chí nhiều ảnh mô hình rất sáng tạo và thẩm mỹ, nhưng nội dung tạo ra khó giống hoàn toàn với mô hình thật. độ chính xác đòi hỏi sự phát triển hơn nữa của các thuật toán.

Các doanh nhân nên thực hiện nghĩa vụ ghi nhãn của mình và cảnh giác với nguy cơ vi phạm ảnh chân dung

Để điều chỉnh việc áp dụng các sản phẩm trí tuệ nhân tạo, Văn phòng Thông tin Internet Nhà nước và ba bộ khác đã xem xét và thông qua "Quy định quản lý tổng hợp sâu dịch vụ thông tin Internet", có hiệu lực vào ngày 10 tháng 1 năm nay, trong đó đề cập rõ ràng rằng tổng hợp sâu các nhà cung cấp dịch vụ, hỗ trợ kỹ thuật tăng cường công tác quản lý kỹ thuật, thường xuyên rà soát, đánh giá, kiểm định cơ chế sinh thuật toán tổng hợp. Các nhà cung cấp dịch vụ tổng hợp sâu và những người hỗ trợ kỹ thuật cung cấp các mô hình, mẫu và các công cụ khác có thể tạo hoặc chỉnh sửa thông tin sinh trắc học như khuôn mặt và giọng nói sẽ tự mình hoặc ủy thác cho các tổ chức chuyên nghiệp tiến hành đánh giá bảo mật theo quy định của pháp luật.

Các quy định cũng làm rõ rằng các nhà cung cấp dịch vụ tổng hợp sâu cung cấp các dịch vụ tạo khuôn mặt, thay thế khuôn mặt, thao tác khuôn mặt, thao tác cử chỉ và các dịch vụ tạo hoặc chỉnh sửa hình ảnh và video khác làm thay đổi đáng kể các đặc điểm nhận dạng cá nhân, có thể gây nhầm lẫn hoặc nhận dạng sai công khai, sẽ đánh dấu Đáng kể vị trí và diện tích hợp lý của nội dung thông tin được tạo ra hoặc chỉnh sửa để gợi cho công chúng tính tổng hợp sâu sắc.

"Các biện pháp tạm thời để quản lý các dịch vụ trí tuệ nhân tạo sáng tạo" được xem xét và phê duyệt bởi bảy bộ phận bao gồm Văn phòng thông tin Internet của bang sẽ có hiệu lực vào ngày 15 tháng 8 năm nay. Một lần nữa xin nhấn mạnh rằng các nhà cung cấp dịch vụ trí tuệ nhân tạo tổng hợp phải xác định nội dung được tạo ra như hình ảnh và video theo "Quy định về quản lý tổng hợp sâu các dịch vụ thông tin Internet".

"Trong lĩnh vực thương mại điện tử, đặc biệt là trong quá trình trưng bày hàng hóa, sản phẩm và dịch vụ, xu hướng ứng dụng AI là tất yếu", Liu Jinrui, nhà nghiên cứu tại Viện Pháp quyền thuộc Hiệp hội Luật Trung Quốc, cho biết rằng nếu thương nhân sử dụng AI để trưng bày sản phẩm, họ cần tuân thủ hai quy định trên.Các quy định pháp lý, thông báo đầy đủ cho người tiêu dùng rằng bản đồ mô hình được tạo ra bởi trí tuệ nhân tạo, để thực hiện nghĩa vụ nhận dạng, đồng thời, nó cũng phải tuân thủ các quy định pháp lý đặc biệt của bối cảnh áp dụng, chẳng hạn như luật quảng cáo, luật thương mại điện tử, luật bảo vệ quyền lợi người tiêu dùng, v.v.

Tuy nhiên, cuộc điều tra của phóng viên cho thấy rằng bất kể đó là người bán sử dụng hình ảnh mô hình AI kiểu nhân vật hoạt hình rõ ràng hay người bán quảng cáo rõ ràng rằng họ có "mô hình AI có tính nhân văn cao" trên nền tảng xã hội, thì điều đó không có trang sản phẩm cụ thể Xác định bản đồ mô hình AI.

"Nền tảng chịu trách nhiệm giám sát. Đối với những người bán sử dụng bản đồ mô hình AI, nếu nền tảng này cũng là nhà cung cấp dịch vụ kỹ thuật, họ cần tuân thủ "Các biện pháp tạm thời để quản lý dịch vụ trí tuệ nhân tạo sáng tạo" và các luật và quy định khác, và hành vi sử dụng trí tuệ nhân tạo để quảng bá công khai nên được thực hiện. Thực hiện các biện pháp hiệu quả để giám sát và đảm bảo trật tự của nền tảng.” Zheng Zhifeng nói.

Điều đáng chú ý là do một số cơ sở dữ liệu AI chứa một lượng lớn dữ liệu khuôn mặt nên một số hình ảnh mô hình AI có thể rất giống với khuôn mặt người thật sau thế hệ. Về vấn đề này, một số cư dân mạng bày tỏ sự lo lắng và đặt ra câu hỏi liệu có hành vi vi phạm hay không.

Wang Yegang, phó giáo sư và giám sát viên tiến sĩ tại Trường Luật Kinh tế và Tài chính Đại học Trung ương, cho biết: "Nếu những bức ảnh do một doanh nghiệp tạo ra thông qua AI có mức độ tương đồng cao với chân dung của người khác, thì người khác có thể xác định được danh tính của một người cụ thể từ ảnh AI, AI tạo ra Ảnh phải thuộc về ảnh chân dung của người khác và người bán phải được sự đồng ý của chủ sở hữu quyền ảnh chân dung khi tạo và sử dụng ảnh, nếu không nó sẽ cấu thành xâm phạm quyền chụp ảnh chân dung của người khác.”

Zheng Zhifeng nói rằng các thương nhân nên nghiêm cấm việc cố ý sử dụng công nghệ AI cho các mục đích bất hợp pháp, chẳng hạn như cố tình cung cấp cho trí tuệ nhân tạo một số từ khóa bất hợp pháp để tạo ra một số hình ảnh có nội dung không phù hợp hoặc vi phạm quyền chân dung, quyền danh tiếng và quyền thông tin cá nhân của người khác .nội dung; đối với nội dung được tạo ra bằng cách sử dụng trí tuệ nhân tạo thông thường, cũng cần phải chịu trách nhiệm chăm sóc thích hợp để đảm bảo rằng nội dung được tạo ra tuân thủ. Nếu nội dung được tạo ra bị nghi ngờ vi phạm các quy định, thì nên được báo cáo cho nhà cung cấp dịch vụ kỹ thuật một cách kịp thời.