Sudut pandang: Bagaimana seharusnya industri media menerapkan pencegahan risiko saat menggunakan AI?

Sumber gambar: Dihasilkan oleh AI Tak Terbatas

Sumber: Riset Tata Kelola Digital

Pengarang: Zhang Feng

Penerapan teknologi kecerdasan buatan generatif (Artificial Intelligence, AI) telah menjadi sangat umum, sangat meningkatkan efisiensi industri media. Misalnya, Associated Press menggunakan teknologi pemrosesan bahasa alami untuk menghasilkan berita laporan keuangan perusahaan secara otomatis, Google Text-to-Speech menghasilkan suara realistis untuk penyiaran berita dan prakiraan cuaca secara otomatis, sistem rekomendasi Netflix merekomendasikan film dan serial TV berdasarkan riwayat tontonan pengguna , evaluasi dan preferensi, platform iklan otomatis Adobe secara otomatis menghasilkan konten iklan yang dipersonalisasi berdasarkan minat dan perilaku pengguna.

Kami percaya bahwa kombinasi kecerdasan buatan generatif dan industri media adalah tren yang tak terhindarkan dan memiliki hukum yang melekat, tentu ada beberapa masalah yang perlu diperhatikan.

1. Industri media dan digitalisasinya

Industri media mengacu pada penciptaan, produksi, dan penyebaran berbagai jenis informasi dan pengetahuan, serta penyediaan berbagai produk informasi dalam bentuk teks, grafik, video, suara, simbol digital, dan berbagai layanan bernilai tambah. Industri media dapat menyampaikan informasi berita, hiburan budaya, dll. kepada audiens, dan bahkan memberikan berbagai peluang perdagangan, platform perdagangan, atau mempromosikan penyelesaian transaksi dan informasi terkait lainnya, yang memainkan peran yang semakin penting dalam pembangunan ekonomi, sosial, dan budaya. .

Dengan perkembangan aplikasi teknologi digital yang inovatif, kecepatan penyebaran informasi lebih cepat, jangkauan lebih luas, pengaruh lebih besar, bentuk produk media lebih kaya, produksi lebih efisien, dan interaksi lebih fleksibel. Di industri media dan pasar media dalam proses digitalisasi, platform komunikasi digital telah menjadi arus utama, inovasi konten telah menjadi daya saing inti, analisis data dan pemasaran presisi telah menjadi sarana penting, kebutuhan individu telah menjadi tren pengembangan, dan lintas- media komunikasi telah menjadi bentuk yang penting.

Kedua, Mekanisme Bisnis Industri Media

Industri media memiliki karakteristik unik yang membedakannya dari industri lain, dan berkisar pada pembuatan, produksi, dan distribusi konten.

**Pertama, industri media adalah industri perhatian dengan layanan informasi sebagai badan utamanya, dan bagaimana kreasi kreatif menarik perhatian adalah intinya. **Selain menjual produk mereka sendiri untuk mendapatkan hadiah, pengembalian ekonomi organisasi media yang lebih penting berasal dari "penjualan kedua" - yaitu, untuk "menjual" perhatian audiens yang mereka kumpulkan kepada pengiklan atau siapa pun yang tertarik dengan ini Khalayak Propagandis, yaitu perhatian khalayak yang ditariknya merupakan nilai ekonomi utama dari media.

Sebagai "industri perhatian", nilai pasar industri media terkait erat dengan apakah ia dapat secara efektif menarik perhatian audiens. Secara khusus, faktor-faktor yang mempengaruhi nilai pasar industri media meliputi tingkat perhatian khalayak, durasi perhatian khalayak, dan pemilihan kelompok khalayak yang efektif.

Yang kedua adalah bahwa mode produksi industri media adalah industrialisasi skala besar, dan bagaimana produksi konten yang berkualitas tinggi dan efisien merupakan keuntungan. Sejak revolusi ilmu pengetahuan dan teknologi, sistem produksi industri media telah menciptakan era mempopulerkan dan mempopulerkan media. Standardisasi, proseduralisasi, pemformatan, serialisasi, dan penskalaan adalah karakteristik dasar produksi media industri, yang sangat meningkatkan efisiensi produksi media, dan biaya intelektual pengumpulan informasi dan pembuatan konten sebenarnya tercermin dalam biaya produksi pabrik dan biaya material, bisnis gagasan dan konten informasi Menjadi inti kekuatan produktif media. Dalam beberapa tahun terakhir, berbagai teknologi digital, termasuk penerapan teknologi kecerdasan buatan, telah membuat industrialisasi media semakin berkembang menuju kecerdasan, membuka ruang keuntungan yang belum pernah terjadi sebelumnya untuk media, dan terus mengurangi biaya produksi konten, memperluas skala, dan memperdalam dampaknya.Industri lain terintegrasi lebih erat.

**Yang ketiga adalah sarana utama alokasi sumber daya dalam industri media adalah pasar, dan cara efektif menjangkau distribusi konten adalah kuncinya. **Perusahaan media adalah bagian utama dari industri media, dan jenis organisasi media lainnya melakukan misi khusus seperti menyediakan produk media publik dan layanan publik yang dibutuhkan oleh industri. Keuntungan bukanlah tujuan utamanya, tetapi organisasi dan operasinya tetap memiliki karakteristik umum dari perusahaan media umum.fitur.

Pasar media yang sehat membutuhkan panduan makro dari pemerintah, tetapi lebih bergantung pada mekanisme pasar yang sehat, dan faktor produktivitas media terutama bergantung pada penyebaran organisasi pasar. Kecuali untuk beberapa produk media publik, konsumsi produk media umum sepenuhnya dikomoditisasi.Bagaimana membuat distribusi konten memandu sumber daya media untuk fokus pada skenario aplikasi efisiensi tinggi dan efektif melalui harga, meningkatkan nilai guna sumber daya media, dan menjangkau khalayak secara efektif untuk memenuhi kebutuhan mereka adalah kuncinya.

3. Bagaimana kecerdasan buatan generatif memengaruhi industri media

**Yang pertama adalah tautan pembuatan konten kreatif. ** Kecerdasan buatan generatif memiliki dampak positif pada kreasi kreatif media.

Pertama-tama, ini dapat membantu perusahaan media meningkatkan efisiensi kreasi kreatif. Dengan menggunakan algoritme pembuatan AI, secara otomatis dapat menghasilkan sejumlah besar materi kreatif termasuk salinan iklan, alur cerita, dll., yang dapat sangat mengurangi beban kerja personel kreatif.

Kedua, dapat memperluas batasan kreatif perusahaan media. AI dapat mempelajari dan mensimulasikan sejumlah besar karya dan ide untuk menghasilkan ide dan karya baru, seperti mempelajari gaya melukis pelukis terkenal melalui teknologi pembelajaran mendalam, dan menghasilkan karya dengan gaya serupa, memberikan lebih banyak opsi dan kemungkinan kreatif kepada perusahaan media.

Selain itu, ini dapat membantu perusahaan media lebih memahami kebutuhan audiens. Dengan menganalisis sejumlah besar data pengguna dan informasi umpan balik, AI dapat menambang minat, preferensi, dan kebutuhan pengguna, sehingga memberi perusahaan media ide dan konten yang lebih bertarget.

**Yang kedua adalah tautan produksi dan pembuatan konten. **Dalam hal produksi konten, AI generatif dapat membantu jurnalis menyelesaikan pembuatan konten dengan lebih efisien.

Sumber materi konten dapat diperluas. Melalui teknologi pemrosesan bahasa alami, AI dapat memantau dan mengumpulkan data dari berbagai sumber informasi secara real time, mengekstrak informasi penting secara otomatis, menghasilkan laporan berita atau mengatur publikasi, situs web, dan konten lainnya.

Itu dapat meningkatkan efisiensi produksi konten. Melalui fotografi otomatis dan pengeditan video, AI dapat secara otomatis memilih dan mengedit gambar dan materi video sesuai dengan gaya dan persyaratan yang ditentukan; AI dapat secara otomatis menghasilkan berbagai jenis konten teks seperti laporan berita, artikel, cerita, dll. sesuai dengan topik atau persyaratan input , yang sangat meningkatkan Peningkatan efisiensi dan kecepatan pembuatan konten.

Dapat mempercepat umpan balik informasi pengguna. Analisis sentimen dapat digunakan untuk menilai reaksi audiens konten, sehingga menyesuaikan strategi, dan pada saat yang sama memberikan kemungkinan yang lebih kreatif bagi media; dengan menganalisis data dalam jumlah besar, menemukan tren dan pola, dan memberikan berita yang lebih berharga kepada jurnalis. petunjuk dan bahan.

**Yang ketiga adalah tautan penyebaran pasar konten. **Dalam hal distribusi konten, AI generatif dapat mewujudkan rekomendasi yang dipersonalisasi dengan menganalisis perilaku dan minat pengguna.

Meningkatkan akurasi pengiriman. AI dapat membantu media untuk menganalisis dan memprediksi data, sehingga dapat lebih memahami kebutuhan audiens dan merumuskan strategi konten yang lebih akurat; untuk meningkatkan rekomendasi yang dipersonalisasi dan kemampuan penyesuaian konten, AI dapat melakukan rekomendasi yang dipersonalisasi dan penyesuaian konten berdasarkan minat dan perilaku pengguna, sehingga Tingkatkan pengalaman pengguna.

Meningkatkan pengalaman pengiriman. AI dapat muncul di media sebagai host virtual atau asisten cerdas, memberikan pengalaman interaktif dan nilai hiburan; AI juga dapat didistribusikan melalui media sosial dan platform online lainnya untuk memperluas jangkauannya.

Keempat, risiko dan pencegahan kecerdasan buatan generatif aplikasi industri media

Namun, AI generatif juga menghadirkan beberapa tantangan dan risiko. Misalnya, AI dapat menghasilkan beberapa informasi yang tidak akurat, tidak lengkap, atau tidak dapat diandalkan, atau ilegal, atau melanggar, yang dapat berdampak negatif pada reputasi dan merek perusahaan media. Di sisi lain, karena terlalu bergantung pada data dan model, AI generatif dapat berdampak pada kognisi, penilaian, serta kreativitas dan orisinalitas manusia, yang mengarah ke bentuk asimetri informasi lainnya. Oleh karena itu, ketika perusahaan media menerapkan AI generatif, mereka perlu mengevaluasi risiko dan manfaatnya secara hati-hati, dan memastikan penerapannya etis dan legal.

Untuk masalah peninjauan konten, produk media tidak boleh melanggar hukum dan peraturan nasional, tidak boleh melanggar hak dan kepentingan orang lain, harus memastikan keaslian, keadilan, dan legalitas konten, tidak boleh memproduksi dan menyebarkan konten ilegal, dan menolak konten yang buruk. Konten yang mengandung unsur vulgar, pornografi, kekerasan, terorisme, dll. perlu dikontrol dengan ketat. Industri media perlu meninjau konten untuk memastikan kepatuhan terhadap undang-undang dan peraturan dan moralitas sosial; saat menggunakan teknologi AI untuk peninjauan konten, perlu untuk memastikan legitimasi dan keadilan standar ulasan dan hasil ulasan.

Mengingat masalah perlindungan kekayaan intelektual, produk media harus menghormati hak kekayaan intelektual, dan konten bajakan atau pelanggaran tidak boleh digunakan. Pada saat yang sama, perusahaan media perlu memberikan perhatian untuk melindungi hak kekayaan intelektualnya sendiri dan mencegahnya dilanggar oleh pihak lain. Karya yang dihasilkan oleh AI dapat melibatkan masalah hak cipta dari karya asli, sehingga perlu untuk memastikan kepatuhan terhadap undang-undang dan peraturan hak cipta yang relevan saat menggunakan teknologi AI; selain itu, untuk konten yang dihasilkan menggunakan teknologi AI, juga perlu untuk memastikan bahwa terdapat lisensi atau hak yang sah.

Bertujuan untuk masalah keamanan data dan perlindungan privasi, dengan munculnya era digital, perusahaan media perlu melindungi keamanan data pengguna, mencegah kebocoran dan penyalahgunaan data; pada saat yang sama, mereka harus melindungi informasi pribadi dan privasi. Penerapan teknologi AI di industri media, seperti pengenalan wajah, mungkin melibatkan masalah perlindungan privasi pribadi, dan perlu mematuhi undang-undang dan peraturan privasi yang relevan, seperti pengumpulan, penggunaan, dan penyimpanan informasi pribadi, untuk memastikan keamanan informasi pribadi. Data pemrosesan teknologi AI mungkin melibatkan rahasia bisnis, dan langkah-langkah perlu diambil untuk memastikan keamanan data dan mencegah kebocoran dan penyalahgunaan data.

Untuk masalah kepatuhan komunikasi. Iklan di industri media harus mematuhi "Hukum Periklanan" negara saya dan undang-undang serta peraturan lainnya, dan publisitas palsu tidak boleh dilakukan, dan hak serta kepentingan konsumen tidak boleh dilanggar. Saat menggunakan AI untuk penyebaran dan publisitas konten, perhatian khusus harus diberikan pada pemberitahuan dan pengingat yang relevan, agar tidak melanggar hak pengguna untuk mengetahui, hak untuk memilih, dan hak atas perdagangan yang adil.

Bertujuan pada isu persaingan yang sehat, perusahaan media perlu menghindari perilaku monopolistik, menghormati aturan pasar, mematuhi prinsip persaingan yang sehat, dan tidak boleh menggunakan posisi dominannya sendiri untuk menekan pesaing. Teknologi AI dapat membawa keunggulan kompetitif, tetapi juga perlu mencegah praktik persaingan yang tidak sehat. Misalnya, beberapa algoritme mungkin mendapatkan rahasia komersial pesaing secara tidak benar, yang dilarang oleh undang-undang.

Menghadapi masalah memang membutuhkan respon yang efektif. Yang pertama adalah memperkuat konstruksi sistem dan mekanisme, menetapkan sistem manajemen kepatuhan yang komprehensif dan prosedur pengoperasian untuk konten, iklan, hak kekayaan intelektual, perlindungan data dan privasi, dan antimonopoli, serta mengklarifikasi berbagai persyaratan dan tanggung jawab kepatuhan , terutama untuk memastikan bahwa Mematuhi undang-undang dan peraturan yang relevan saat menggunakan teknologi AI, seperti undang-undang hak cipta, undang-undang perlindungan privasi, dll., dan mengambil tindakan untuk memastikan keamanan data dan perlindungan privasi, seperti enkripsi, kontrol akses, dll. Yang kedua adalah melakukan pemeriksaan dan penilaian kepatuhan secara berkala untuk mendeteksi dan menangani pelanggaran secara tepat waktu, terutama untuk mengawasi penggunaan teknologi AI guna memastikan kepatuhannya terhadap undang-undang, peraturan, dan etika sosial. Yang ketiga adalah memperkuat publisitas kepatuhan serta pendidikan dan pelatihan untuk meningkatkan kesadaran kepatuhan dan kemampuan kepatuhan karyawan. Keempat, memperkuat komunikasi dan kerja sama dengan departemen dan industri terkait, belajar dari praktik terbaik di industri, dan bersama-sama mendorong pengembangan kepatuhan industri.

Penulis: Zhang Feng, mitra Firma Hukum V&T, direktur Komite Profesional Hukum Digital T&C, wakil sekretaris jenderal Komite Kekayaan Intelektual Shanghai Outstanding Contribution Experts Association, tamu di Pusat Penelitian Hukum Energi dan Sumber Daya Lingkungan Universitas Shanghai Ilmu Politik dan Profesor Hukum dan pengajar master paruh waktu, pakar think tank/ahli evaluasi teknologi dari Asosiasi Teknologi Blockchain Shanghai, anggota tetap Komite Kerja Industri Metaverse Federasi Komunikasi Seluler China, wakil ketua Forum 50 anggota Metaverse Industri Masa Depan.