AI modeli "uydurma" ürün gerçek mi? Satın alabilir miyim? Uzman: Tüccarlar, tüketicilerin bilme ve seçme hakkından taviz vermemek için etiketleme yükümlülüklerini yerine getirmelidir

Kaynak: Legal Daily

Yazar: Sun Tianjiao

Stajyer muhabir Ding Yi

Küçük yüz, kusursuz cilt, mükemmel vücut oranı, model ve vücudundaki kıyafetler birbirini tamamlayarak kıyafetleri daha fit ve trend hale getiriyor... Bu, bir e-ticaret platformunda ortaya çıkan bir ürünün resmi. Ancak daha yakından bakıldığında, kıyafetleri deneyen modellerin gerçek insanlar gibi görünmediği ortaya çıkıyor. Mağazaya özel mektup yazdıktan sonra, karşı taraf promosyon haritasının "kıyafetlerin ayrıntılarını daha iyi göstermek için" yapay zeka tarafından çizildiğini hemen kabul etti.

"Rule of Law Daily" gazetesinden bir muhabir kısa süre önce araştırma yaptı ve birden fazla e-ticaret platformundaki birçok satıcının, ürünleri sergilemek için kıyafetleri denemek üzere yapay zeka modellerini kullandığını buldu. Sadece bu da değil, e-ticaret platformunda bazı mağazalar, "AI çizim modeli oluşturma", "kukla değiştirme gerçek modeli" ve benzeri gibi AI model çizim hizmetleri sunmaya başladı.

Tanıtım için resimleri "uyduran" AI modeli kullanmak, sunulan ürün efekti güvenilir mi? Tüketiciler satın alacak mı? Yapay zeka modellerinin "uygun" resimleri istendiğinde hazırlanıp kullanılabilir mi ve hangi yasal risklerle karşılaşabilirler? Muhabir bu sorularla bir anket röportajı başlattı.

Ayrıntılarda yanlış propaganda olduğundan şüphelenilebilecek bariz farklılıklar var

AI modeli tanıtım resmine "uygun", giysiler modele mükemmel bir şekilde uyuyor, neredeyse hiç kırışık yok, ama durum gerçekten böyle mi?

Muhabir yakın zamanda büyük e-ticaret platformlarında "mükemmel takım elbise" gibi anahtar kelimeler kullanarak arama yaptı ve birçok ürünün tanıtım resimlerinin açıkça resimlere "uygun" AI modelleri olduğunu buldu. Bu AI modellerinin daha belirgin özellikleri, belirgin vücut kıvrımlarına, ince uzuvlara, karikatür hissi veren son derece hassas yüz özelliklerine sahip olmaları ve arka planın çoğunlukla bulanık düz renkli bir arka plan olmasıdır.

Örneğin bir e-ticaret platformunda 6.000 favorisi olan bir mağazada, mağazanın övgü listesinde ikinci sırada 450 adetten fazla satışı olan bir takım elbise gelmektedir.Ürün resmi, sarı saçlı ve mavi gözlü bir karikatür model tarafından sunulmaktadır. . Fotoğraflar yumuşak odaklı görünüyor (fotoğrafçılıkta hassas ve yumuşak bir görüntü elde etmek için yumuşak odaklı bir lens kullanılması veya lensin önüne yumuşak odaklı bir filtre eklenmesi anlamına gelir) İlk bakışta bir çizgi film gibi görünüyor illüstrasyon.

Muhabir ürün için sipariş verdi ve ürünü teslim aldıktan sonra açtı ve aldığı takım elbise ile tanıtım resmi arasında büyük bir fark olduğunu gördü: rengi farklıydı, yoktan var olan fazladan bir pilesi vardı. ve boyun çizgisinin yüksekliği uyuşmuyordu. Daha da suskun olan şey, model resimdeki kıyafetlerin düşük omuzlu fener kollu olması ve uzunluğu dirseklerin hemen üzerinde iken, gerçek kıyafetlerin kolları dirsekleri örtmesi ve manşetlerin sıkılmamasıdır.

Muhabirin karşılaştığı durum münferit bir durum değildir.Bir çevrimiçi mağazada, yüzlerce parça satan bir tanıtım görseli olarak "uyduran" bir yapay zeka modeli görüntüsüne sahip bir giyim parçası, yorum alanında bu tür yorumlarla doludur. : "Al resim olduğu için olabilir, bu yüzden resimde çok dar, ancak aldıktan sonra çok şişman." "Etek pilelerle dolu." "Kıyafetlerin rengi resimden farklı ."

Sosyal platformlarda, "AI modeli" girişi altında birçok netizen, AI modelleri için ödeme yapmak istemediklerini açıkça belirtti.Birçok netizen, AI modellerini kıyafetleri sergilemek için kullanmanın çevrimiçi alışveriş olasılığını artıracağına inanıyor. Bazı netizenler açıkça şöyle dedi: "Gerçek insanların vücudunun üst kısmını denemesine izin verilmiyor. Gerçekten onu satın alan var mı?" "Yapay zeka modelinin baş ve vücut oranı bir insanınkiyle eşleşmiyor .Nasıl herhangi bir referans olabilir?""AI model görüntüsü oluşturulduktan sonra fiziksel ürün de sanal hale geliyor. Özgünlük nasıl garanti edilebilir?" Bazı netizenler, "yapay zeka tarafından oluşturulan ürün resimleri olan hiçbir ürünü satın almayacaklarını" açıkça belirtti.

Çin Siyaset Bilimi ve Hukuk Üniversitesi'nde profesör ve Çin Tüketici Haklarını Koruma Yasası Araştırma Derneği genel sekreter yardımcısı Sun Ying, e-ticaret satışları alanında yapay zeka uygulamasının en iyi canlı modeller veya çapalar olduğunda olduğunu söyledi. Sergilenmek üzere farklı giysi stillerini otomatik olarak değiştirmek için AI teknolojisini kullanın. "Şu anda yapay zeka tarafından model resimlerinin üretilmesinde hala bazı aşılmaz teknik engeller var. Ayrıntılar farklı olacak, böylece tüketiciler kıyafetlerin gerçek görünümünü yargılayamıyor."

“Yapay zeka model haritası, ürünün görünüm, stil, renk, desen vb. nesnel koşullarını tam ve doğru olarak gösteremeyeceği için, kaçınılmaz olarak tüketicinin bilme ve seçme hakkına zarar verecek ve tüketicinin haklarını ihlal edecektir. Sun Ying, operatörün tüketicilere kapsamlı ve kapsamlı ürün veya hizmet bilgileri sağlama yükümlülüğü Doğru ve doğru olma yükümlülüğü ve hatta yanlış veya yanıltıcı propagandaya dahil olabilir." dedi.

Üretim maliyeti düşük ve verimli ve teknik seviyenin iyileştirilmesi gerekiyor

Neden bazı satıcılar, ürün tanıtımı için AI modeline "uygun" resimler seçmeye istekli?

Sektördeki bazı kişiler gazetecilere bunun başlıca nedeninin bazı çevrimiçi mağazaların çekim maliyetlerinden tasarruf etmek istemesi olduğunu söyledi. Kamuya açık raporlara göre, bazı tüccarlar gerçek modelleri AI modelleriyle değiştirdikten sonra, modellerin, fotoğrafçıların ve diğer personelin maliyetleri, mekan ücretleri, ekipman ücretleri vb. dahil olmak üzere, aylık maliyet yaklaşık 40.000 yuan tasarruf etti.

"Bazı küçük ve orta ölçekli işletmeler genellikle modelleri karşılayamaz veya çok güzel çekimler yapamaz. Yapay zeka modelleri, yüksek kaliteli ürün teşhirini daha düşük bir maliyetle tamamlamalarına yardımcı olabilir. Ayrıca, bazı özel çekimler için yabancı modeller vb. gerekir ve Yapay zeka modelleri kullanılıyor, gerçekte uygun bir model bulmaktan daha kolay ve hızlı olacak” dedi.

Karşılık gelen talep altında, AIGC (AI Generated Content, yapay zeka tarafından otomatik olarak oluşturulmuş içerik) işlevleri sağlayan yazılımların sayısı gün geçtikçe artıyor. İlgili yazılım tarafından AI model resimleri oluşturmanın ana yöntemleri şunlardır: saf metin açıklaması, metin artı resimler ve resimler artı resimler kullanarak, tek bir tıklamayla AI modeli "uydurma" resimleri oluşturabilirsiniz.

Muhabirin araştırması, tüccarların AI modeli "uydurma" resimlerinin üretimine yönelik ihtiyaçlarının yanı sıra, AI modeli "uydurma" resimleri oluşturma hizmetinin de bazı tüccarların ana ürünü haline geldiğini buldu. Muhabir, çevrimiçi bir alışveriş uygulamasında "AI model oluşturma" ve "AI giyim modeli oluşturma" gibi anahtar kelimelerle arama yaptı ve bir dizi ilgili ürün çıktı.

Bu ürünlerin ayrıntılı tanıtım sayfalarında, satıcılar tarafından sağlanan hizmetler şunları içerir: manken takma modellerini gerçek modellere dönüştürme, doğrudan model takma resimleri oluşturmak için giyim fotoğrafları sağlama ve modellerin görünüm özelliklerini belirleme vb. Spesifik operasyonlar açısından birçok tüccar, fotoğrafları fotoğraf oluşturmak için kullandıklarını söyledi, "Sadece kıyafetlerin fotoğraflarını sağlayın, tercihen sahte modeller veya onları giyen gerçek insanlar, etki daha iyi olacaktır."

Muhabir, fiyat açısından birkaç dükkana sordu ve diğerleri resim oluşturmaya yardımcı olursa, 3 ila 10 resmin fiyatının 100 yuan ile 300 yuan arasında değiştiğini öğrendi. E-ticaret operatörleri ayrıca yazılım satın alabilir ve öğreticileri kendileri inceleyebilir ve gerekli model resimlerini oluşturmak için yazılım yapay zekasını kullanabilir.

Muhabir, aylık satış hacmi 4.000 adetten fazla olan bir mağaza seçti.İlk sipariş 1 yuan'dan az ve "Çizim yerine AI çizim" hizmetini bir kez deneyimleyebilirsiniz. Mağaza kurallarına göre muhabir, "kıvırcık saçlı kız", "sevimli" ve "ince" gibi giyim resimleri ve anahtar kelimeler sağladı.Birkaç dakika sonra, karşı taraf oluşturulmuş 4 resim verdi.

Bu resimlerde, modellerin görünümü beklentiler doğrultusunda, hatta daha gerçekçi ve gerçek insanlardan biraz farklı görünüyor. Ancak giyim tarzlarının benzerliği oldukça farklıdır.Renge ek olarak, yaka tasarımı, kol uzunluğu, kol kenarı, kemer olup olmadığı ve süslemelerin konumu orijinal resimden çok farklıdır.

"Belirli anahtar kelimeleri arayabilirsiniz." Muhabirin sorusu üzerine mağaza, anahtar kelimeleri sınırlandırarak resimleri daha tatmin edici hale getirebileceğini, "gerçek insanların veya onları giyen sahte modellerin olduğu resimler sağlayın ve oluşturulan renderların daha iyi olacağını" söyledi. .

Güneybatı Siyaset Bilimi ve Hukuk Üniversitesi Medeni ve Ticari Hukuk Fakültesi'nde doçent ve Siber Uzay Yönetişimi Araştırma Enstitüsü müdür yardımcısı Zheng Zhifeng'e göre, model resimler oluşturmak için AI teknolojisinin kullanılması, belirli uygulama senaryolarının bir yansımasıdır. satış maliyetlerini düşürmeye yardımcı olan yapay zeka teknolojisi. Aynı zamanda, üretken yapay zeka teknolojisi, çeşitli model resimlerini toplu olarak verimli bir şekilde üretebilir ve hatta birçok model resim bile çok yaratıcı ve estetik açıdan hoştur, ancak oluşturulan içeriğin gerçek modellerle tamamen aynı olması zordur. doğruluk, algoritmaların daha da geliştirilmesini gerektirir.

İşadamları etiketleme yükümlülüklerini yerine getirmeli ve portre ihlali riskine karşı dikkatli olmalıdır

Yapay zeka ürünlerinin uygulanmasını düzenlemek için, Devlet İnternet Enformasyon Dairesi ve diğer üç daire, bu yıl 10 Ocak'ta yürürlüğe giren ve derin sentezden açıkça bahseden "İnternet Bilişim Hizmeti Derin Sentez Yönetim Yönetmeliği" ni inceleyip kabul etti. hizmet sağlayıcılar ve Teknik destekçiler teknik yönetimi güçlendirmeli, sentetik algoritmalar üretme mekanizmasını düzenli olarak gözden geçirmeli, değerlendirmeli ve doğrulamalıdır. Yüzler ve sesler gibi biyometrik bilgileri üretebilen veya düzenleyebilen modeller, şablonlar ve diğer araçları sağlayan derin sentez hizmet sağlayıcıları ve teknik destekçiler, güvenlik değerlendirmelerini kanuna uygun olarak kendileri veya profesyonel kurumlara emanet ederek yapacaklardır.

Yönetmelik ayrıca, halk tarafından kafa karışıklığına veya yanlış tanımaya neden olabilecek, kişisel kimlik özelliklerini önemli ölçüde değiştiren yüz oluşturma, yüz değiştirme, yüz manipülasyonu, jest manipülasyonu ve diğer görüntü ve video oluşturma veya düzenleme hizmetlerini sağlayan derin sentez hizmet sağlayıcılarının, kamuoyuna derin sentezi hatırlatmak için oluşturulan veya düzenlenen bilgi içeriğinin makul konumunu ve alanını işaretleyin.

Devlet İnternet Enformasyon Dairesi dahil yedi daire tarafından incelenip onaylanan "Üretken Yapay Zeka Hizmetlerinin Yönetimine Yönelik Geçici Tedbirler" bu yıl 15 Ağustos'ta yürürlüğe girecek. Üretken yapay zeka hizmet sağlayıcılarının ürettiği resim ve video gibi içerikleri “İnternet Bilgi Servislerinin Derin Sentez Yönetimine İlişkin Yönetmelik” uyarınca tanımlaması gerektiği bir kez daha vurgulanmıştır.

Çin Hukuk Derneği Hukukun Üstünlüğü Enstitüsü'nde araştırmacı olan Liu Jinrui, "E-ticaret alanında, özellikle mal ve ürün ve hizmetlerin teşhiri sürecinde, yapay zekanın uygulama eğilimi kaçınılmazdır." dedi. tacirlerin ürün teşhiri için yapay zeka kullanması durumunda yukarıdaki iki düzenlemeye uyması gerektiği, model resimlerinin yapay zeka tarafından kimlik tespiti yükümlülüğünü yerine getirmek için üretildiği konusunda tüketicilere yasal normların eksiksiz olarak bildirilmesi ve aynı zamanda uymaları gerektiği belirtilmiştir. Reklam Kanunu, E-Ticaret Kanunu ve Tüketici Haklarının Korunması Kanunu gibi ilgili senaryoların özel düzenleme gereklilikleri ile.

Bununla birlikte, muhabirin araştırması, ister bariz bir animasyon karakter tarzı AI model resmini kullanan bir tüccar, ister bir sosyal platformda "son derece antropomorfik bir AI modeline" sahip olduğunu açıkça ilan eden bir tüccar olsun, olmadığını buldu. belirli bir ürün sayfasına sahip olun AI model haritasını tanımlayın.

"Platform denetimden sorumludur. AI model resimlerini kullanan işyerleri, eğer platform aynı zamanda bir teknik hizmet sağlayıcısıysa, "Üretken Yapay Zeka Hizmetlerinin Yönetimine Yönelik Geçici Tedbirler" ve diğer yasa ve yönetmeliklere uymak zorundadır. Platformun düzenini denetlemek ve sağlamak için etkili önlemler alın." Zheng Zhifeng söyledi.

Bazı AI veritabanları büyük miktarda yüz verisi içerdiğinden, bazı AI model görüntülerinin üretimden sonra gerçek insan yüzlerine oldukça benzeyebileceğini belirtmekte fayda var. Bu bağlamda, bazı netizenler endişelerini dile getirdiler ve ihlalin söz konusu olup olmadığına dair sorular sordular.

Central University of Finance and Economics School of Law'da doçent ve doktora danışmanı olan Wang Yegang şunları söyledi: "Bir işletmenin AI aracılığıyla ürettiği resimler, diğer insanların portreleriyle yüksek derecede benzerlik gösteriyorsa, böylece diğerleri tanımlayabilir. AI resimlerinden belirli bir kişinin kimliği, AI tarafından oluşturulan Resim, başkalarının portresine ait olmalı ve tacir, resmi yaparken ve kullanırken portre hakkı sahibinin onayını almalıdır, aksi takdirde resmi oluşturacaktır. başkalarının portre hakkının ihlali."

Zheng Zhifeng, tüccarların yapay zekaya uygunsuz içerik içeren bazı resimler oluşturmak için bazı yasa dışı anahtar kelimeler sağlamak veya diğer kişilerin portre haklarını, itibar haklarını ve kişisel bilgi haklarını ihlal etmek gibi yasadışı amaçlar için kasıtlı olarak AI teknolojisinin kullanılmasını yasaklaması gerektiğini söyledi. . içerik; yapay zekanın normal kullanımıyla oluşturulan içerik için, üretilen içeriğin uyumlu olmasını sağlamak için uygun bir özen yükümlülüğünün de gösterilmesi gerekir. Üretilen içeriğin düzenlemeleri ihlal ettiğinden şüphelenildiği tespit edilirse, zamanında teknik servis sağlayıcıya bildirilmelidir.