Tujuh departemen termasuk Cyberspace Administration of China bersama-sama mengumumkan "Langkah Sementara untuk Pengelolaan Layanan Kecerdasan Buatan Generatif"

Sumber: China Netcom

Baru-baru ini, Administrasi Dunia Maya Negara Tiongkok, bersama dengan Komisi Pembangunan dan Reformasi Nasional, Kementerian Pendidikan, Kementerian Sains dan Teknologi, Kementerian Perindustrian dan Teknologi Informasi, Kementerian Keamanan Publik, dan Administrasi Radio Negara , Film dan Televisi, mengumumkan "Langkah Sementara untuk Administrasi Layanan Kecerdasan Buatan Generatif" (selanjutnya disebut sebagai "Langkah"). Ini akan mulai berlaku pada tanggal 15 Agustus. Orang yang relevan yang bertanggung jawab atas Kantor Informasi Internet Negara menyatakan bahwa pengenalan "Tindakan" bertujuan untuk mempromosikan pengembangan yang sehat dan penerapan standar kecerdasan buatan generatif, melindungi keamanan nasional dan kepentingan publik sosial, dan melindungi hak dan kepentingan yang sah dari warga negara, badan hukum dan organisasi lainnya.

Dalam beberapa tahun terakhir, perkembangan pesat teknologi kecerdasan buatan generatif telah membawa peluang baru bagi pembangunan ekonomi dan sosial, pada saat yang sama juga menimbulkan masalah seperti penyebaran informasi palsu, pelanggaran hak informasi pribadi, keamanan data, dan prasangka. Bagaimana mengkoordinasikan pengembangan kecerdasan buatan generatif dan Keselamatan telah menarik perhatian semua pihak. Pengenalan "Tindakan" tidak hanya merupakan persyaratan penting untuk mempromosikan perkembangan kecerdasan buatan generatif yang sehat, tetapi juga kebutuhan praktis untuk mencegah risiko layanan kecerdasan buatan generatif.

"Langkah-langkah" mengusulkan agar negara mematuhi prinsip menggabungkan pembangunan dan keamanan, mempromosikan inovasi dan pemerintahan berdasarkan hukum, mengambil langkah-langkah efektif untuk mendorong inovasi dan pengembangan kecerdasan buatan generatif, dan menerapkan kehati-hatian inklusif dan pengawasan rahasia dan hierarkis generatif layanan kecerdasan buatan Persyaratan umum untuk menggunakan layanan kecerdasan buatan generatif. Langkah-langkah khusus untuk mempromosikan pengembangan teknologi kecerdasan buatan generatif diusulkan, dan persyaratan untuk melatih aktivitas pemrosesan data dan pelabelan data diklarifikasi. Ini menetapkan spesifikasi layanan kecerdasan buatan generatif, dan mengklarifikasi bahwa penyedia layanan kecerdasan buatan generatif harus mengambil tindakan efektif untuk mencegah pengguna di bawah umur terlalu mengandalkan atau memanjakan layanan kecerdasan buatan generatif.dan konten lain yang dihasilkan harus ditandai, dan konten ilegal harus segera diambil untuk menanganinya. Selain itu, sistem seperti penilaian keamanan, pengajuan algoritme, dan pelaporan keluhan juga ditetapkan, dan tanggung jawab hukum diklarifikasi.

Penanggung jawab Kantor Informasi Internet Negara menunjukkan bahwa pengembangan dan tata kelola layanan kecerdasan buatan generatif membutuhkan partisipasi pemerintah, perusahaan, masyarakat, dan netizen untuk bersama-sama mempromosikan pengembangan kecerdasan buatan generatif yang sehat dan membuat kecerdasan buatan generatif teknologi lebih bermanfaat bagi masyarakat. .

Kantor Informasi Internet Negara

Komisi Pembangunan dan Reformasi Nasional, Republik Rakyat Tiongkok

Kementerian Pendidikan Republik Rakyat Tiongkok

Kementerian Sains dan Teknologi Republik Rakyat Tiongkok

Kementerian Perindustrian dan Teknologi Informasi Republik Rakyat Tiongkok

Kementerian Keamanan Publik Republik Rakyat Tiongkok

Tata Negara Radio dan Televisi

membuat

Nomor 15

"Langkah Sementara untuk Pengelolaan Layanan Kecerdasan Buatan Generatif" telah ditinjau dan disetujui pada rapat kantor ke-12 Kantor Informasi Internet Negara tahun 2023 pada tanggal 23 Mei 2023, dan telah disetujui oleh Komisi Pembangunan dan Reformasi Nasional, Komisi Kementerian Pendidikan, Kementerian Sains dan Teknologi, Industri dan Kementerian Teknologi Informasi, Kementerian Keamanan Publik, dan Administrasi Radio dan Televisi Negara setuju, dan dengan ini diundangkan dan akan mulai berlaku pada 15 Agustus , 2023.

Zhuang Rongwen, direktur Kantor Informasi Internet Negara

Zheng Shanjie, Direktur Komisi Pembangunan dan Reformasi Nasional

Menteri Pendidikan Huai Jinpeng

Menteri Sains dan Teknologi Wang Zhigang

Jin Zhuanglong, Menteri Perindustrian dan Teknologi Informasi

Menteri Keamanan Publik Wang Xiaohong

Cao Shumin, direktur Administrasi Radio dan Televisi Negara

10 Juli 2023

Tindakan Sementara untuk Manajemen Layanan Kecerdasan Buatan Generatif

Bab 1 Ketentuan Umum

Pasal 1 Untuk mempromosikan perkembangan yang sehat dan penerapan standar kecerdasan buatan generatif, melindungi keamanan nasional dan kepentingan publik sosial, serta melindungi hak dan kepentingan sah warga negara, badan hukum, dan organisasi lain, menurut "Jaringan Undang-Undang Keamanan Republik Rakyat Tiongkok", "Tindakan-Tindakan Ini Tiongkok dirumuskan sesuai dengan undang-undang dan peraturan administratif seperti Undang-Undang Keamanan Data Republik Rakyat Tiongkok, Undang-Undang Perlindungan Informasi Pribadi Republik Rakyat Tiongkok, dan Hukum Kemajuan Sains dan Teknologi Republik Rakyat Tiongkok.

Pasal 2 Tindakan ini berlaku untuk penggunaan teknologi kecerdasan buatan generatif untuk menyediakan layanan pembuatan teks, gambar, audio, video, dan konten lainnya kepada publik di dalam wilayah Republik Rakyat Tiongkok (selanjutnya disebut sebagai layanan kecerdasan buatan generatif).

Jika negara memiliki peraturan lain tentang penggunaan layanan kecerdasan buatan generatif untuk terlibat dalam kegiatan seperti penerbitan berita, produksi film dan televisi, dan kreasi sastra dan seni, peraturan tersebut akan berlaku.

Organisasi industri, badan usaha, lembaga pendidikan dan penelitian ilmiah, lembaga budaya masyarakat, dan lembaga profesional terkait yang mengembangkan dan menerapkan teknologi kecerdasan buatan generatif, tetapi tidak memberikan layanan kecerdasan buatan generatif kepada publik di dalam negeri, tidak tunduk pada ketentuan ini Pengukuran.

Pasal 3 Negara menganut prinsip-prinsip yang sama pentingnya dengan pembangunan dan keamanan, mempromosikan inovasi dan pemerintahan berdasarkan hukum, mengadopsi langkah-langkah efektif untuk mendorong inovasi dan pengembangan kecerdasan buatan generatif, dan menerapkan kehati-hatian inklusif dan rahasia dan hierarkis pengawasan layanan kecerdasan buatan generatif.

Pasal 4 Penyediaan dan penggunaan layanan kecerdasan buatan generatif tunduk pada hukum dan peraturan administrasi, menghormati moralitas dan etika sosial, dan mematuhi ketentuan sebagai berikut:

(1) Mematuhi nilai-nilai inti sosialisme, dan tidak boleh menimbulkan hasutan untuk menumbangkan kekuasaan negara, menggulingkan sistem sosialis, membahayakan keamanan dan kepentingan nasional, merusak citra nasional, menghasut pemisahan diri, merusak persatuan nasional dan stabilitas sosial, mempromosikan terorisme , ekstremisme, mempromosikan Konten yang dilarang oleh undang-undang dan peraturan administratif seperti kebencian etnis, diskriminasi etnis, kekerasan, kecabulan, dan informasi berbahaya palsu;

(2) Dalam proses desain algoritme, pemilihan data pelatihan, pembuatan dan pengoptimalan model, dan penyediaan layanan, mengambil tindakan efektif untuk mencegah diskriminasi berdasarkan etnis, kepercayaan, negara, wilayah, jenis kelamin, usia, pekerjaan, kesehatan, dll.;

(3) Menghormati hak kekayaan intelektual, etika bisnis, menjaga rahasia bisnis, dan tidak menggunakan algoritma, data, platform, dan keuntungan lainnya untuk menerapkan monopoli dan persaingan tidak sehat;

(4) Menghormati hak dan kepentingan sah orang lain, dan tidak boleh membahayakan kesehatan fisik dan mental orang lain, dan tidak boleh melanggar hak potret, hak reputasi, hak kehormatan, hak privasi, dan hak informasi pribadi orang lain;

(5) Berdasarkan karakteristik jenis layanan, ambil tindakan efektif untuk meningkatkan transparansi layanan kecerdasan buatan generatif dan meningkatkan akurasi dan keandalan konten yang dihasilkan.

Bab Dua Pengembangan dan Tata Kelola Teknologi

Pasal 5 Mendorong penerapan inovatif teknologi kecerdasan buatan generatif di berbagai industri dan bidang, menghasilkan konten berkualitas tinggi yang positif, sehat, dan positif, mengeksplorasi dan mengoptimalkan skenario aplikasi, serta membangun ekosistem aplikasi.

Mendukung organisasi industri, perusahaan, lembaga pendidikan dan penelitian ilmiah, lembaga budaya publik, dan lembaga profesional terkait untuk berkolaborasi dalam inovasi teknologi kecerdasan buatan generatif, konstruksi sumber daya data, transformasi dan aplikasi, serta pencegahan risiko.

Pasal 6 Mendorong inovasi mandiri teknologi dasar seperti algoritme kecerdasan buatan generatif, kerangka kerja, chip, dan platform perangkat lunak pendukung, melakukan pertukaran dan kerja sama internasional atas dasar kesetaraan dan saling menguntungkan, serta berpartisipasi dalam perumusan internasional aturan yang berkaitan dengan kecerdasan buatan generatif.

Mempromosikan pembangunan infrastruktur kecerdasan buatan generatif dan platform sumber daya data pelatihan publik. Mempromosikan pembagian sumber daya daya komputasi secara kolaboratif dan meningkatkan efisiensi pemanfaatan sumber daya daya komputasi. Mempromosikan pembukaan teratur klasifikasi dan klasifikasi data publik, dan memperluas sumber daya data pelatihan publik berkualitas tinggi. Dorong adopsi chip, perangkat lunak, alat, daya komputasi, dan sumber daya data yang aman dan tepercaya.

Pasal 7 Penyedia layanan kecerdasan buatan generatif (selanjutnya disebut penyedia) wajib melakukan pra-pelatihan, pelatihan pengoptimalan, dan kegiatan pemrosesan data pelatihan lainnya sesuai dengan undang-undang, dan mematuhi ketentuan sebagai berikut:

(1) Menggunakan data dan model dasar dengan sumber yang sah;

(2) Dalam hal hak kekayaan intelektual terlibat, hak kekayaan intelektual yang dinikmati oleh orang lain tidak boleh dilanggar;

(3) Jika informasi pribadi terlibat, persetujuan dari individu harus diperoleh atau keadaan lain yang sesuai dengan undang-undang dan peraturan administratif;

(4) Mengambil tindakan efektif untuk meningkatkan kualitas data pelatihan, dan meningkatkan keaslian, akurasi, objektivitas, dan keragaman data pelatihan;

(5) Ketentuan hukum dan peraturan administratif lainnya yang relevan seperti "Hukum Keamanan Jaringan Republik Rakyat Tiongkok", "Hukum Keamanan Data Republik Rakyat Tiongkok", "Hukum Perlindungan Informasi Pribadi Republik Rakyat Tiongkok" , dan persyaratan peraturan yang relevan dari otoritas kompeten yang relevan.

Pasal 8 Jika pelabelan data dilakukan selama penelitian dan pengembangan teknologi kecerdasan buatan generatif, penyedia harus merumuskan aturan pelabelan yang jelas, spesifik, dan dapat dioperasikan yang memenuhi persyaratan langkah-langkah ini; melakukan penilaian kualitas pelabelan data, dan melakukan verifikasi sampling keakuratan isi pelabelan;melakukan pelatihan yang diperlukan untuk personel pelabelan, meningkatkan kesadaran untuk menghormati dan mematuhi hukum, serta mengawasi dan membimbing personel pelabelan untuk melakukan pekerjaan pelabelan secara standar.

Bab Tiga Spesifikasi Layanan

Pasal 9 Penyedia harus memikul tanggung jawab produsen konten informasi jaringan sesuai dengan undang-undang dan memenuhi kewajiban keamanan informasi jaringan. Jika informasi pribadi terlibat, tanggung jawab pemroses informasi pribadi akan diambil sesuai dengan hukum, dan kewajiban untuk melindungi informasi pribadi harus dipenuhi.

Penyedia harus menandatangani perjanjian layanan dengan pengguna layanan kecerdasan buatan generatif (selanjutnya disebut sebagai pengguna) yang mendaftarkan layanannya, menjelaskan hak dan kewajiban kedua belah pihak.

Pasal 10 Penyedia harus mengklarifikasi dan mengungkapkan populasi, kesempatan, dan penggunaan layanan mereka yang berlaku, memandu pengguna untuk memahami secara ilmiah dan rasional dan menggunakan teknologi kecerdasan buatan generatif sesuai dengan hukum, dan mengambil tindakan efektif untuk mencegah pengguna di bawah umur dari ketergantungan berlebihan atau kecanduan Layanan kecerdasan buatan generatif.

Pasal 11 Penyedia harus memenuhi kewajiban untuk melindungi informasi masukan pengguna dan catatan penggunaan sesuai dengan undang-undang, tidak boleh mengumpulkan informasi pribadi yang tidak perlu, tidak boleh menyimpan informasi masukan dan catatan penggunaan yang dapat mengidentifikasi identitas pengguna secara ilegal, dan tidak akan secara ilegal mengirim Orang Lain memberikan informasi input dan catatan penggunaan pengguna.

Penyedia harus menerima dan memproses permintaan individu untuk meninjau, menyalin, mengoreksi, menambah, dan menghapus informasi pribadi mereka secara tepat waktu sesuai dengan hukum.

Pasal 12 Penyedia harus menandai konten yang dihasilkan seperti gambar dan video sesuai dengan "Peraturan Administrasi Deep Synthesis of Internet Information Services".

Pasal 13 Penyedia harus memberikan layanan yang aman, stabil, dan berkelanjutan selama proses layanannya untuk memastikan penggunaan normal pengguna.

Pasal 14 Jika penyedia menemukan konten ilegal, penyedia harus segera mengambil tindakan seperti menghentikan pembuatan, menghentikan transmisi, dan penghapusan, mengambil tindakan seperti pelatihan pengoptimalan model untuk melakukan perbaikan, dan melaporkan kepada otoritas kompeten terkait.

Jika penyedia menemukan bahwa pengguna menggunakan layanan kecerdasan buatan generatif untuk terlibat dalam aktivitas ilegal, penyedia harus mengambil langkah-langkah seperti peringatan, membatasi fungsi, menangguhkan atau menghentikan penyediaan layanan sesuai dengan undang-undang, menyimpan catatan yang relevan, dan melaporkan kepada otoritas berwenang yang relevan.

Pasal 15 Penyedia harus menetapkan dan memperbaiki mekanisme pengaduan dan pelaporan, membuat portal pengaduan dan pelaporan yang nyaman, mengumumkan proses penanganan dan batas waktu umpan balik, menerima dan menangani pengaduan dan laporan publik secara tepat waktu, dan memberikan umpan balik tentang hasil penanganan.

Bab IV Pengawasan dan Pemeriksaan serta Tanggung Jawab Hukum

Pasal 16 Departemen keamanan siber dan informatisasi, pengembangan dan reformasi, pendidikan, sains dan teknologi, industri dan informatisasi, keamanan publik, radio dan televisi, pers dan publikasi, dll., harus memperkuat pengelolaan layanan kecerdasan buatan generatif di sesuai dengan undang-undang sesuai dengan tanggung jawab masing-masing.

Otoritas nasional yang relevan harus, mengingat karakteristik teknologi kecerdasan buatan generatif dan aplikasi layanannya di industri dan bidang terkait, meningkatkan metode pengawasan ilmiah yang kompatibel dengan inovasi dan pengembangan, dan merumuskan aturan atau pedoman klasifikasi dan pengawasan klasifikasi yang sesuai.

Pasal 17 Mereka yang menyediakan layanan kecerdasan buatan generatif dengan atribut opini publik atau kemampuan mobilisasi sosial harus melakukan penilaian keamanan sesuai dengan peraturan nasional yang relevan, dan melakukan pengajuan dan modifikasi algoritme, prosedur pengajuan Pembatalan.

Pasal 18 Jika pengguna menemukan bahwa layanan kecerdasan buatan generatif tidak mematuhi undang-undang, peraturan administratif, dan ketentuan tindakan ini, mereka berhak untuk mengajukan keluhan dan melaporkan kepada otoritas kompeten terkait.

Pasal 19 Departemen terkait yang kompeten melakukan pengawasan dan pemeriksaan layanan kecerdasan buatan generatif sesuai dengan tugasnya, dan penyedia harus bekerja sama sesuai dengan undang-undang, dan menjelaskan sumber, skala, jenis, aturan pelabelan, mekanisme algoritme, dll dari data pelatihan sesuai kebutuhan, dan memberikan dukungan dan bantuan teknis dan data yang diperlukan.

Instansi dan personel terkait yang terlibat dalam penilaian keselamatan dan pengawasan serta inspeksi layanan kecerdasan buatan generatif harus menjaga rahasia negara, rahasia dagang, privasi pribadi, dan informasi pribadi yang diketahui dalam pelaksanaan tugasnya secara rahasia sesuai dengan undang-undang, dan tidak boleh mengungkapkan atau secara ilegal memberikannya kepada orang lain.

Pasal 20 Jika penyediaan layanan kecerdasan buatan generatif dari luar wilayah Republik Rakyat Tiongkok tidak mematuhi undang-undang, peraturan administratif, dan ketentuan tindakan ini, departemen informasi jaringan nasional harus memberi tahu lembaga terkait untuk mengambil tindakan teknis dan tindakan lain yang diperlukan dibuang.

Pasal 21 Jika penyedia melanggar ketentuan tindakan ini, departemen kompeten terkait harus mengikuti "Undang-Undang Keamanan Jaringan Republik Rakyat Tiongkok", "Undang-Undang Keamanan Data Republik Rakyat Tiongkok", "Informasi Pribadi Hukum Perlindungan Republik Rakyat Tiongkok", "Hukum Republik Rakyat Tiongkok tentang Kemajuan Ilmu Pengetahuan dan Teknologi" dan undang-undang dan peraturan administrasi lainnya akan dihukum; jika tidak ada ketentuan dalam undang-undang dan peraturan administrasi, departemen yang berwenang terkait akan mengeluarkan peringatan, mengedarkan pemberitahuan kritik sesuai dengan tugasnya, dan memerintahkannya untuk melakukan koreksi dalam batas waktu; jika menolak untuk melakukan koreksi atau keadaan serius, diperintahkan untuk menangguhkan penyediaan layanan terkait.

Jika itu merupakan pelanggaran manajemen keamanan publik, itu akan dihukum menurut undang-undang; jika itu merupakan kejahatan, itu akan diselidiki untuk pertanggungjawaban pidana menurut undang-undang.

Bab Lima Ketentuan Tambahan

Pasal 22 Arti istilah-istilah berikut dalam Tindakan ini adalah:

(1) Teknologi kecerdasan buatan generatif mengacu pada model dan teknologi terkait yang memiliki kemampuan untuk menghasilkan konten seperti teks, gambar, audio, dan video.

(2) Penyedia layanan kecerdasan buatan generatif mengacu pada organisasi dan individu yang menggunakan teknologi kecerdasan buatan generatif untuk menyediakan layanan kecerdasan buatan generatif (termasuk menyediakan layanan kecerdasan buatan generatif dengan menyediakan antarmuka yang dapat diprogram, dll.).

(3) Pengguna layanan kecerdasan buatan generatif mengacu pada organisasi dan individu yang menggunakan layanan kecerdasan buatan generatif untuk menghasilkan konten.

Pasal 23 Apabila undang-undang dan peraturan administrasi menetapkan bahwa izin administratif yang relevan harus diperoleh untuk penyediaan layanan kecerdasan buatan generatif, penyedia harus memperoleh izin sesuai dengan undang-undang.

Layanan kecerdasan buatan generatif investasi asing harus mematuhi ketentuan undang-undang dan peraturan administrasi terkait investasi asing.

Pasal 24 Tindakan ini mulai berlaku pada tanggal 15 Agustus 2023.