- Topik
78k Popularitas
33k Popularitas
10k Popularitas
4k Popularitas
4k Popularitas
29k Popularitas
16k Popularitas
22k Popularitas
13k Popularitas
3k Popularitas
- Sematkan
78k Popularitas
33k Popularitas
10k Popularitas
4k Popularitas
4k Popularitas
29k Popularitas
16k Popularitas
22k Popularitas
13k Popularitas
3k Popularitas
Apakah produk "pas" model AI itu nyata? Bisakah saya membelinya? Pakar: Pedagang harus memenuhi kewajiban pelabelan mereka untuk menghindari mengorbankan hak konsumen untuk mengetahui dan memilih
Sumber: Harian Hukum
Penulis: Sun Tianjiao
Reporter magang Ding Yi
Wajah kecil, kulit mulus, rasio tubuh sempurna, model dan pakaian di tubuhnya saling melengkapi, membuat pakaiannya lebih pas dan trendi... Ini adalah gambar produk yang muncul di platform e-commerce. Tapi melihat lebih dekat mengungkapkan bahwa model mencoba pakaian tampaknya bukan orang yang nyata. Setelah mengirim surat pribadi ke toko, pihak lain dengan mudah mengakui bahwa peta promosi digambar oleh AI, "untuk menunjukkan detail pakaian dengan lebih baik."
Seorang reporter dari "Rule of Law Daily" baru-baru ini menyelidiki dan menemukan bahwa banyak pedagang di berbagai platform e-niaga telah menggunakan model AI untuk mencoba pakaian guna memajang produk. Tidak hanya itu, di platform e-commerce, beberapa toko sudah mulai menyediakan layanan menggambar model AI, seperti "AI drawing model generation", "dummy for real model" dan lain sebagainya.
Menggunakan gambar "pas" model AI untuk publisitas, apakah efek produk yang disajikan dapat diandalkan? Apakah konsumen akan membelinya? Bisakah gambar model AI yang "pas" dibuat dan digunakan sesuka hati, dan risiko hukum apa yang mungkin mereka hadapi? Dengan pertanyaan-pertanyaan ini, reporter meluncurkan wawancara survei.
Ada perbedaan yang jelas dalam detailnya, yang dapat dicurigai sebagai propaganda palsu
Gambar publisitas "pas" model AI, pakaiannya pas dengan modelnya, hampir tidak ada kerutan, tetapi apakah ini benar-benar terjadi?
Reporter baru-baru ini mencari di platform e-niaga utama menggunakan kata kunci seperti "setelan indah" dan menemukan bahwa gambar publisitas dari banyak produk jelas merupakan gambar model AI yang "pas". Fitur yang lebih jelas dari model AI ini adalah bahwa mereka memiliki lekuk tubuh yang jelas, anggota tubuh yang ramping, fitur wajah yang sangat halus dengan kesan karikatur, dan latar belakang sebagian besar merupakan latar belakang warna solid yang kabur.
Misalnya, di toko dengan 6.000 favorit di platform e-niaga, tempat kedua dalam daftar pujian toko adalah jas dengan penjualan lebih dari 450 buah Gambar produk disajikan oleh model kartun dengan rambut pirang dan mata biru . Foto tampak soft-focus (mengacu pada penggunaan lensa soft-focus atau menambahkan filter soft-focus di depan lensa dalam fotografi untuk mendapatkan gambar yang halus dan lembut) Sepintas, terlihat seperti kartun ilustrasi.
Reporter memesan produk, dan setelah menerima produk, dia membukanya dan menemukan bahwa ada perbedaan besar antara setelan yang dia dapatkan dan gambar promosi: warnanya berbeda, ada lipatan ekstra dari udara tipis , dan tinggi garis leher tidak cocok. Yang lebih mencengangkan lagi, baju pada gambar model berlengan lampion dengan bahu turun, dan panjangnya tepat di atas siku, sedangkan lengan baju asli menutupi siku, dan manset tidak bisa dikencangkan.
Situasi yang dihadapi oleh reporter bukanlah kasus yang terisolasi, di sebuah toko online, sepotong pakaian dengan gambar model AI yang "pas" sebagai gambar promosi, yang telah terjual ratusan potong, penuh dengan komentar seperti itu di area komentar : "Mungkin karena gambar AI, jadi sangat pas di lukisan, tapi terlalu gemuk setelah menerimanya." "Roknya penuh lipatan." "Warna bajunya berbeda dari gambar ."
Di platform sosial, di bawah entri "model AI", banyak netizen menjelaskan bahwa mereka tidak ingin membayar model AI. Banyak netizen percaya bahwa menggunakan model AI untuk memajang pakaian akan meningkatkan kemungkinan belanja online. Beberapa netizen dengan blak-blakan mengatakan: "Orang sungguhan tidak boleh mencoba tubuh bagian atas. Benarkah ada yang membelinya?" "Proporsi kepala dan tubuh model AI tidak cocok dengan manusia Bagaimana bisa ada referensi?" "Setelah gambar model AI dihasilkan, produk fisik juga menjadi virtual. Bagaimana keasliannya bisa dijamin?" Beberapa netizen memperjelas bahwa mereka "tidak akan membeli produk apa pun dengan gambar produk yang dibuat oleh AI".
Sun Ying, seorang profesor di China University of Political Science and Law dan wakil sekretaris jenderal Asosiasi Riset Hukum Perlindungan Konsumen China, mengatakan bahwa penerapan kecerdasan buatan di bidang penjualan e-niaga adalah yang terbaik saat model langsung atau jangkar menggunakan teknologi AI untuk secara otomatis mengubah gaya pakaian yang berbeda untuk ditampilkan. "Saat ini, masih ada beberapa kendala teknis yang tidak dapat diatasi dalam produksi gambar model AI, dan detailnya akan berbeda, sehingga konsumen tidak dapat menilai tampilan sebenarnya dari pakaian tersebut."
“Karena peta model AI tidak dapat sepenuhnya dan benar-benar menunjukkan kondisi objektif seperti tampilan, gaya, warna, dan desain produk, mau tidak mau akan melibatkan kerusakan pada hak konsumen untuk mengetahui dan hak untuk memilih, serta melanggar hak kewajiban operator kepada konsumen untuk memberikan informasi produk atau layanan yang komprehensif dan komprehensif Kewajiban untuk menjadi benar dan akurat, dan bahkan mungkin terlibat dalam propaganda palsu atau menyesatkan," kata Sun Ying.
Biaya produksi rendah dan efisien, dan tingkat teknis perlu ditingkatkan
Mengapa beberapa pedagang bersedia memilih gambar model AI yang "pas" untuk promosi produk?
Beberapa orang di industri mengatakan kepada wartawan bahwa ini terutama karena beberapa toko online ingin menghemat biaya pengambilan gambar. Menurut laporan publik, setelah beberapa pedagang mengganti model asli dengan model AI, termasuk biaya model, fotografer dan staf lainnya, biaya tempat, biaya peralatan, dll., biaya bulan itu dihemat sekitar 40.000 yuan.
"Beberapa bisnis kecil dan menengah seringkali tidak mampu membeli model, atau tidak dapat membuat bidikan yang sangat indah. Model AI dapat membantu mereka melengkapi tampilan produk berkualitas tinggi dengan biaya lebih rendah. Selain itu, beberapa bidikan tertentu memerlukan model asing, dll., dan Model AI digunakan. Ini akan lebih mudah dan lebih cepat daripada menemukan model yang cocok di dunia nyata," kata orang dalam industri tersebut.
Di bawah permintaan yang sesuai, semakin banyak perangkat lunak yang menyediakan fungsi AIGC (AI Generated Content, kecerdasan buatan konten yang dihasilkan secara otomatis). Metode utama untuk menghasilkan gambar model AI dengan perangkat lunak terkait adalah: menggunakan deskripsi teks murni, teks plus gambar, dan gambar plus gambar, Anda dapat membuat gambar "pas" model AI dengan satu klik.
Investigasi reporter menemukan bahwa seiring dengan kebutuhan pedagang untuk produksi gambar "pas" model AI, layanan pembuatan gambar "pas" model AI juga menjadi produk utama beberapa pedagang. Di aplikasi belanja online, reporter mencari dengan kata kunci seperti "generasi model AI" dan "generasi model pakaian AI", dan sejumlah produk terkait muncul.
Pada halaman pengenalan mendetail dari produk-produk ini, layanan yang disediakan oleh pedagang meliputi: mengubah model pemasangan dummy menjadi model nyata, memberikan foto pakaian untuk langsung menghasilkan gambar pemasangan model, dan menentukan karakteristik penampilan model, dll. Dalam hal operasi tertentu, banyak pedagang mengatakan bahwa mereka menggunakan foto untuk menghasilkan gambar, "Cukup berikan foto pakaian, sebaiknya dengan model palsu atau orang asli yang memakainya, efeknya akan lebih baik."
Reporter memilih toko dengan volume penjualan bulanan lebih dari 4.000 buah, pesanan pertama kurang dari 1 yuan, dan Anda dapat mencoba layanan "menggambar AI alih-alih menggambar" satu kali. Menurut pedoman toko, reporter memberikan gambar pakaian dan kata kunci seperti "gadis berambut keriting", "imut", dan "langsing". Setelah beberapa menit, pihak lain memberikan 4 gambar yang dihasilkan.
Dalam gambar-gambar ini, penampilan para model sesuai dengan ekspektasi, bahkan lebih realistis, dan terlihat sedikit berbeda dari orang aslinya. Namun kemiripan gaya pakaiannya cukup berbeda, selain warna, desain garis leher, panjang lengan, tepi lengan, apakah ada ikat pinggang atau tidak, dan posisi dekorasi semuanya sangat berbeda dengan gambar aslinya.
"Anda dapat mencari kata kunci tertentu." Menghadapi pertanyaan reporter, toko mengatakan bahwa itu dapat membuat gambar lebih memuaskan dengan membatasi kata kunci, "berikan gambar dengan orang sungguhan atau model palsu yang memakainya, dan rendering yang dihasilkan akan lebih baik" .
Menurut Zheng Zhifeng, seorang profesor di Sekolah Hukum Perdata dan Komersial Universitas Ilmu Politik dan Hukum Southwest dan wakil direktur Cyberspace Governance Research Institute, penggunaan teknologi AI untuk menghasilkan gambar model adalah cerminan dari skenario aplikasi spesifik teknologi AI, yang kondusif untuk mengurangi biaya penjualan. Pada saat yang sama, teknologi kecerdasan buatan generatif dapat secara efisien menghasilkan berbagai gambar model dalam batch, dan bahkan banyak gambar model sangat kreatif dan estetis, tetapi konten yang dihasilkan sulit untuk persis sama dengan model nyata. akurasi memerlukan pengembangan lebih lanjut dari algoritma.
Pengusaha harus memenuhi kewajiban pelabelan dan waspada terhadap risiko pelanggaran potret
Untuk mengatur penerapan produk kecerdasan buatan, Kantor Informasi Internet Negara dan tiga departemen lainnya meninjau dan mengesahkan "Peraturan Manajemen Sintesis Mendalam Layanan Informasi Internet", yang mulai berlaku pada 10 Januari tahun ini, yang dengan jelas menyebutkan bahwa sintesis mendalam penyedia layanan dan pendukung Teknis harus memperkuat manajemen teknis, secara teratur meninjau, mengevaluasi, dan memverifikasi mekanisme untuk menghasilkan algoritme sintetik. Penyedia layanan sintesis mendalam dan pendukung teknis yang menyediakan model, templat, dan alat lain yang dapat menghasilkan atau mengedit informasi biometrik seperti wajah dan suara harus melakukan penilaian keamanan sendiri atau dengan mempercayakan lembaga profesional sesuai dengan undang-undang.
Peraturan tersebut juga memperjelas bahwa penyedia layanan deep synthesis yang menyediakan pembuatan wajah, penggantian wajah, manipulasi wajah, manipulasi gerakan, dan layanan pembuatan atau pengeditan gambar dan video lainnya yang secara signifikan mengubah karakteristik identitas pribadi, yang dapat menyebabkan kebingungan atau kesalahan identifikasi publik, harus secara signifikan tandai posisi dan area yang wajar dari konten informasi yang dihasilkan atau diedit untuk mengingatkan publik tentang sintesis yang dalam.
"Langkah Sementara untuk Manajemen Layanan Kecerdasan Buatan Generatif" yang ditinjau dan disetujui oleh tujuh departemen termasuk Kantor Informasi Internet Negara akan mulai berlaku pada 15 Agustus tahun ini. Ditekankan kembali bahwa penyedia layanan kecerdasan buatan generatif harus mengidentifikasi konten yang dihasilkan seperti gambar dan video sesuai dengan "Peraturan Administrasi Sintesis Mendalam Layanan Informasi Internet".
“Di bidang e-commerce, terutama dalam proses menampilkan barang dan produk serta layanan, tren penerapan AI tidak dapat dihindari.” Liu Jinrui, seorang peneliti di Institute of the Rule of Law of the China Law Society, mengatakan bahwa jika pedagang menggunakan AI untuk tampilan produk, mereka harus mematuhi dua peraturan di atas Peraturan hukum, sepenuhnya memberi tahu konsumen bahwa peta model dihasilkan oleh kecerdasan buatan, untuk memenuhi kewajiban identifikasi, dan pada saat yang sama, itu juga harus mematuhi ketentuan peraturan khusus dari tempat yang berlaku, seperti undang-undang periklanan, undang-undang e-niaga, undang-undang perlindungan hak konsumen, dll.
Namun, penyelidikan reporter menemukan bahwa tidak peduli apakah itu pedagang yang menggunakan gambar model AI gaya karakter anime yang jelas, atau pedagang yang dengan jelas mengiklankan bahwa ia memiliki "model AI yang sangat antropomorfik" di platform sosial, itu tidak tentukan apakah itu ada di halaman produk terperinci Identifikasi peta model AI.
"Platform bertanggung jawab atas pengawasan. Untuk pedagang yang menggunakan gambar model AI, jika platform tersebut juga merupakan penyedia layanan teknis, mereka harus mematuhi" Tindakan Sementara untuk Pengelolaan Layanan Kecerdasan Buatan Generatif "dan undang-undang dan peraturan lainnya. Ambil tindakan efektif untuk mengawasi dan memastikan ketertiban platform,” kata Zheng Zhifeng.
Perlu dicatat bahwa karena beberapa database AI berisi data wajah yang masif, beberapa gambar model AI mungkin sangat mirip dengan wajah manusia asli setelah beberapa generasi. Dalam hal ini, beberapa netizen menyatakan keprihatinan dan mengajukan pertanyaan tentang apakah ada pelanggaran.
Wang Yegang, profesor asosiasi dan pengawas doktoral di Fakultas Hukum Universitas Pusat Keuangan dan Ekonomi, mengatakan: "Jika gambar yang dihasilkan oleh bisnis melalui AI sangat mirip dengan potret orang lain, maka orang lain dapat mengidentifikasi identitas seorang orang tertentu dari gambar AI, gambar AI yang dihasilkan harus menjadi milik potret orang lain, dan pedagang harus mendapatkan persetujuan dari pemegang hak potret saat membuat dan menggunakan gambar, jika tidak maka akan merupakan pelanggaran terhadap hak potret orang lain.”
Zheng Zhifeng mengatakan bahwa pedagang harus melarang penggunaan teknologi AI secara sengaja untuk tujuan ilegal, seperti dengan sengaja menyediakan kecerdasan buatan dengan beberapa kata kunci ilegal untuk menghasilkan beberapa gambar yang melibatkan konten yang tidak pantas, atau melanggar hak potret, hak reputasi, dan hak informasi pribadi orang lain. .konten; untuk konten yang dihasilkan oleh penggunaan kecerdasan buatan secara normal, juga perlu untuk memikul tugas kehati-hatian yang sesuai untuk memastikan bahwa konten yang dihasilkan sesuai. Jika konten yang dihasilkan ditemukan diduga melanggar peraturan, konten tersebut harus dilaporkan kepada penyedia layanan teknis pada waktu yang tepat.