0****1 Pengenalan

Dalam beberapa tahun terakhir, kemajuan pesat teknologi AIGC (Generative Artificial Intelligence) telah membawa peluang baru bagi pembangunan sosial dan ekonomi. Semua lapisan masyarakat mulai memperhatikan penerapan teknologi terkait AIGC dalam implementasi komersial, dan startup serta proyek terkait AIGC bermunculan seperti jamur. Namun, AIGC juga membawa tantangan baru dalam perkembangannya, seperti penyebaran informasi palsu, pelanggaran hak informasi pribadi, keamanan data, dan prasangka.

Menanggapi perkembangan pesat AIGC, tujuh departemen, termasuk Administrasi Dunia Maya China, Komisi Pembangunan dan Reformasi Nasional, dan Kementerian Pendidikan, secara resmi merilis "Langkah Sementara untuk Pengelolaan Layanan Kecerdasan Buatan Generatif" pada 10 Juli , yang juga merupakan peraturan regulasi pertama di dunia di bidang AIGC.

Selain peraturan peraturan khusus ini, negara saya telah mengeluarkan sejumlah undang-undang, peraturan administratif, dan dokumen normatif lainnya dalam hal pengembangan teknologi, keamanan jaringan, perlindungan informasi pribadi, informasi Internet, dll. Sudut sistem pemerintahan normatif.

Artikel ini merangkum dan memilah kebijakan regulasi terkini di bidang kecerdasan buatan di dalam dan luar negeri oleh Firma Hukum Shanghai Mankiw.

0****2 Pengawasan China terhadap AIGC

(1) Hukum

"Hukum Kemajuan Ilmu Pengetahuan dan Teknologi Republik Rakyat Tiongkok"

Undang-Undang Dasar bidang iptek di negara saya akan direvisi untuk kedua kalinya pada tahun 2021 dan akan mulai berlaku pada tanggal 1 Januari 2022.

"Hukum Perlindungan Informasi Pribadi Republik Rakyat Tiongkok"

Ini akan secara resmi diterapkan pada 1 November 2021, yang mencakup beberapa peraturan tentang kecerdasan buatan, seperti larangan penggunaan informasi pribadi untuk aktivitas ilegal dan pelanggaran hak pribadi, dan membutuhkan transparansi dan kejelasan pengambilan keputusan kecerdasan buatan.

"Hukum Keamanan Data Republik Rakyat Tiongkok"

Ini akan secara resmi diterapkan pada 1 September 2021, yang mencakup beberapa peraturan tentang kecerdasan buatan, seperti persyaratan untuk memperkuat perlindungan keamanan dan pengelolaan data terkait kecerdasan buatan.

"Hukum Keamanan Jaringan Republik Rakyat Tiongkok"

Ini mulai berlaku pada 1 Juni 2017. Pasal 22 menetapkan bahwa operator jaringan harus mengambil tindakan teknis dan tindakan lain yang diperlukan untuk mencegah dan mengurangi terjadinya insiden keamanan jaringan, termasuk penggunaan kecerdasan buatan dan sarana teknis lainnya.

(2) Peraturan Departemen

"Langkah Sementara untuk Manajemen Layanan Kecerdasan Buatan Generatif"

Pada 11 April 2023, Administrasi Dunia Maya China mengeluarkan "Langkah-langkah untuk Administrasi Layanan Kecerdasan Buatan Generatif (Draf untuk Komentar)" (selanjutnya disebut sebagai "Langkah-langkah (Draf untuk Komentar)"). Setelah meminta dan mempertimbangkan pendapat semua pihak secara komprehensif, Cyberspace Administration of China, bersama dengan Komisi Pembangunan dan Reformasi Nasional, Kementerian Pendidikan, Kementerian Sains dan Teknologi, Kementerian Perindustrian dan Teknologi Informasi, dan Administrasi Negara Radio, Film, dan Televisi, secara resmi merilis "Tindakan Sementara untuk Administrasi Layanan Kecerdasan Buatan Generatif" pada 10 Juli 2023 (Selanjutnya disebut sebagai "Tindakan Sementara"). Sebagai dokumen hukum tingkat nasional pertama di dunia yang secara langsung mengatur kecerdasan buatan generatif, "Tindakan Sementara" akan secara resmi diterapkan pada 15 Agustus 2023. Model manajemen tata kelola kecerdasan buatan negara saya yang gesit telah mencapai hasil awal.

"Peraturan Manajemen Rekomendasi Algoritma Layanan Informasi Internet"

"Peraturan Manajemen Rekomendasi Algoritma Layanan Informasi Internet" (""Peraturan Rekomendasi Algoritma""), yang mulai berlaku pada 1 Maret 2022, mewajibkan penyedia layanan rekomendasi algoritme untuk membuat mekanisme algoritme yang baik tinjauan, Mekanisme algoritme, model, data, dan hasil aplikasi harus ditinjau, dievaluasi, dan diverifikasi secara berkala, dan model algoritme yang menyebabkan kecanduan pengguna, konsumsi berlebihan, dll. yang melanggar hukum dan peraturan atau melanggar etika dan moral tidak boleh diatur . Selain itu, "Peraturan tentang Rekomendasi Algoritma" mensyaratkan bahwa layanan rekomendasi algoritme harus diajukan ke Departemen Informasi Internet: Penyedia layanan rekomendasi algoritme dengan atribut opini publik atau kemampuan mobilisasi sosial harus lulus algoritme layanan informasi Internet dalam waktu sepuluh hari kerja sejak tanggal penyediaan layanan Sistem pengarsipan mengisi informasi seperti nama penyedia layanan, formulir layanan, bidang aplikasi, jenis algoritme, laporan penilaian algoritme mandiri, konten yang akan dipublikasikan, dll., dan melakukan prosedur pengarsipan.

"Peraturan Administrasi Deep Synthesis of Internet Information Services"

"Peraturan Manajemen Sintesis Dalam Layanan Informasi Internet" (""Peraturan Sintesis Mendalam""), yang mulai berlaku pada 10 Januari 2023, adalah peraturan regulasi inti di bidang AIGC. "Teknologi sintesis mendalam" mengacu pada teknologi yang menggunakan algoritme sintesis generatif yang diwakili oleh pembelajaran mendalam dan realitas virtual untuk menghasilkan teks, gambar, audio, video, adegan virtual, dan informasi lainnya, termasuk teks-ke-ucapan, pembuatan musik, pembuatan wajah, penggantian wajah manusia, peningkatan gambar dan teknologi lainnya. Oleh karena itu, AIGC termasuk dalam ruang lingkup regulasi Peraturan Sintesis Mendalam.

"Peraturan Sintesis Dalam" dengan jelas menetapkan bahwa penyedia layanan sintesis dalam harus mengadopsi metode teknis atau manual untuk meninjau data input dan hasil sintesis dari pengguna layanan sintesis dalam. Untuk layanan yang menghasilkan atau secara signifikan mengubah fungsi konten informasi, seperti adegan nyata , perlu menandai secara jelas posisi dan area yang wajar dari konten informasi yang dihasilkan atau diedit untuk mengingatkan publik tentang sintesis yang mendalam. **

(3) Dokumen normatif Departemen

** "Kode Etik Kecerdasan Buatan Generasi Baru"**

Pada tanggal 25 September 2021, Komite Profesional Tata Kelola Kecerdasan Buatan Generasi Baru Nasional mengeluarkan "Kode Etik Kecerdasan Buatan Generasi Baru" (selanjutnya disebut "Kode Etik"), yang bertujuan untuk mengintegrasikan etika ke dalam seluruh siklus hidup kecerdasan buatan dan memberikan dasar untuk pengembangan kecerdasan buatan.Memberikan panduan etika kepada perorangan, badan hukum, dan lembaga terkait lainnya yang terlibat dalam kegiatan terkait.

"Kode Etik" telah menjalani penelitian khusus, penyusunan intensif, dan konsultasi pendapat. Ini sepenuhnya mempertimbangkan keprihatinan etika saat ini dari semua sektor masyarakat terkait dengan privasi, prasangka, diskriminasi, dan keadilan, termasuk prinsip umum, etika aktivitas khusus, dan implementasi organisasi. "Kode Etik" mengedepankan enam persyaratan etika dasar, termasuk meningkatkan kesejahteraan manusia, mempromosikan keadilan dan keadilan, melindungi privasi dan keamanan, memastikan kontrol dan kredibilitas, memperkuat tanggung jawab, dan meningkatkan literasi etika. Pada saat yang sama, 18 persyaratan etika khusus untuk kegiatan tertentu seperti manajemen kecerdasan buatan, penelitian dan pengembangan, pasokan, dan penggunaan diusulkan.

"Pedoman Praktik Standar Keamanan Jaringan-Pedoman untuk Pencegahan Risiko Keamanan Etis Kecerdasan Buatan"

Untuk mencegah risiko keamanan etis dari kecerdasan buatan, pada tanggal 5 Januari 2021, Sekretariat Komite Teknis Standardisasi Keamanan Informasi Nasional menyelenggarakan kompilasi "Panduan Praktik Standar Keamanan Jaringan - Pedoman Pencegahan Risiko Keamanan Etis Kecerdasan Buatan ", yaitu untuk organisasi atau individu untuk melakukan penelitian kecerdasan buatan. Memberikan panduan untuk aktivitas terkait seperti pengembangan, desain dan pembuatan, serta penyebaran aplikasi.

(4) Standar industri dan dokumen panduan

《Prinsip Panduan untuk Tinjauan Pendaftaran Alat Kesehatan Kecerdasan Buatan》

Pada bulan Maret 2022, Pusat Evaluasi Perangkat mengeluarkan "Prinsip Panduan untuk Registrasi dan Peninjauan Alat Kesehatan Kecerdasan Buatan" untuk lebih menstandardisasi persyaratan kontrol kualitas untuk seluruh proses siklus hidup perangkat medis kecerdasan buatan dan persyaratan untuk materi deklarasi pendaftaran Pada saat yang sama, diusulkan agar database pihak ketiga juga dapat melakukan evaluasi kinerja algoritme, dan mengklarifikasi persyaratan khusus untuk database pihak ketiga dalam hal otoritas, ilmiah, normatif, keragaman, ketertutupan, dan dinamika.

** "Pedoman Klasifikasi dan Definisi Produk Perangkat Lunak Kecerdasan Buatan Medis"**

Pada 8 Juli 2021, untuk lebih memperkuat pengawasan dan manajemen produk perangkat lunak medis kecerdasan buatan dan mempromosikan pengembangan industri berkualitas tinggi, Badan Pengawas Obat dan Makanan Negara mengatur perumusan dan secara resmi merilis "Pedoman Klasifikasi dan Definisi Produk Perangkat Lunak Medis Kecerdasan Buatan" (selanjutnya disebut sebagai "Pedoman") pada prinsipnya").

Dalam "Prinsip Panduan", Food and Drug Administration dengan jelas mendefinisikan perangkat lunak medis kecerdasan buatan, yang mengacu pada "perangkat lunak independen yang menggunakan teknologi kecerdasan buatan untuk mencapai tujuan medisnya berdasarkan data perangkat medis. Klasifikasi perangkat medis yang mengandung perangkat lunak kecerdasan buatan komponen Definisi dapat merujuk pada prinsip ini." Pada saat yang sama, juga membuat definisi yang jelas tentang data alat kesehatan, yang mengacu pada "data objektif yang dihasilkan oleh alat kesehatan untuk keperluan medis, dan dalam kasus khusus dapat mencakup data objektif yang dihasilkan oleh peralatan serba guna untuk keperluan medis." Selain itu, "Prinsip Panduan" juga menentukan atribut manajemen dan kategori manajemen.

** "Poin-Poin Penting Tinjauan Perangkat Lunak Perangkat Medis Pembantu Keputusan Pembelajaran Mendalam"**

Pada bulan Juli 2019, Pusat Evaluasi Teknologi Alat Kesehatan dari Administrasi Makanan dan Obat Negara (selanjutnya disebut sebagai Pusat Evaluasi Perangkat) merilis "Poin Peninjauan Perangkat Lunak Perangkat Lunak Pengambilan Keputusan dengan Bantuan Pembelajaran Dalam", yang mengklarifikasi ruang lingkup peninjauan umum perangkat lunak perangkat medis pengambilan keputusan dengan bantuan pembelajaran mendalam, Dan mengedepankan metode pengawasan siklus hidup penuh berbasis risiko.

(5) Peraturan Daerah

"Peraturan Kota Shanghai tentang Mempromosikan Pengembangan Industri Kecerdasan Buatan"

Pada 22 September 2022, pertemuan ke-44 Komite Tetap Kongres Rakyat Kota Shanghai ke-15 memilih untuk mengesahkan "Peraturan Kota Shanghai tentang Mempromosikan Pengembangan Industri Kecerdasan Buatan", yang akan mulai berlaku pada 1 Oktober 2022.

"Peraturan Promosi Industri Kecerdasan Buatan Zona Ekonomi Khusus Shenzhen"

Pada bulan September 2022, Shenzhen mengumumkan undang-undang khusus pertama negara itu untuk industri kecerdasan buatan** "Peraturan Promosi Industri Kecerdasan Buatan Zona Ekonomi Khusus Shenzhen"**. Efektif mulai 1 November 2022.

"Peraturan Data Shanghai"

Diadopsi pada pertemuan ke-37 Komite Tetap Kongres Rakyat Kota Shanghai ke-15 pada 25 November 2021, dan akan mulai berlaku pada 1 Januari 2022.

(6) Dokumen Kerja Lokal

**"Rencana Implementasi Beijing untuk Mempercepat Pembangunan Pusat Inovasi Kecerdasan Buatan yang Berpengaruh Secara Global (2023-2025)"****, ***"Beberapa Langkah Beijing untuk Mempromosikan Inovasi dan Pengembangan Umum Kecerdasan Buatan" *

Pada sore hari tanggal 30 Mei 2023, Forum Zhongguancun 2023 mengadakan konferensi khusus tentang pencapaian ilmiah dan teknologi utama. Pada pertemuan tersebut, Liu Hang, inspektur tingkat kedua dari Komisi Sains dan Teknologi Kota Beijing dan Komite Manajemen Zhongguancun, merilis ** "Rencana Implementasi Beijing untuk Mempercepat Pembangunan Sumber Inovasi Kecerdasan Buatan yang Berpengaruh Secara Global (2023-2025) " (selanjutnya disebut sebagai "Rencana Implementasi") "), "Beberapa Tindakan Beijing untuk Mempromosikan Inovasi dan Pengembangan Kecerdasan Buatan Umum" (selanjutnya disebut sebagai "Beberapa Tindakan")** dua kebijakan. Melalui dua kebijakan ini, dari perspektif mendorong dan membimbing pengembangan industri, Beijing akan lebih mengoordinasikan sumber daya seputar kebutuhan umum inovasi dan pengembangan, dan secara komprehensif mempromosikan pembangunan sistem teknologi independen kecerdasan buatan dan pengembangan ekologi industri.

Pelepasan kedua kebijakan ini bertujuan untuk mempercepat implementasi strategi pengembangan berbasis inovasi, membangun zona percontohan pengembangan dan inovasi kecerdasan buatan generasi baru nasional tingkat tinggi dan zona percontohan aplikasi inovasi kecerdasan buatan nasional, terus meningkatkan global pengaruh kecerdasan buatan, dan lebih lanjut mempromosikan kecerdasan buatan.Inovasi dan inovasi memimpin dan berkembang secara sehat, mendukung pembangunan Pusat Inovasi Sains dan Teknologi Internasional Beijing.

0****3 Semua negara di dunia mengawasi AIGC

UE

Undang-Undang Tata Kelola Data

Efektif Juni 2022. RUU tersebut adalah rancangan undang-undang pertama yang diajukan dalam kerangka Strategi Data Eropa, yang konten pertamanya adalah pada November 2020. Secara keseluruhan, "Undang-Undang Tata Kelola Data" berfokus pada inovasi kelembagaan untuk mendorong pembagian data, meningkatkan efisiensi penggunaan data, dan memungkinkan aliran dan penggunaan sumber daya data untuk mencapai tujuan kebijakan publik yang lebih tinggi. Salah satunya adalah membangun sistem bagi sektor publik untuk menggunakan kembali data. Yang kedua adalah membangun kerangka kerja yang kondusif untuk pengembangan perantara data. Yang ketiga adalah mengatur dan memandu perilaku altruistik data.

Selain itu, dalam Bab VI Undang-Undang Tata Kelola Data, Dewan Inovasi Data Eropa dibentuk untuk memberikan saran tentang penyertaan informasi tentang penyedia layanan berbagi data, berbagi data lintas industri, penggunaan ulang data, dll.

RUU RUU Kecerdasan Buatan

Pada bulan April 2021, Komisi Eropa mengusulkan rancangan peraturan untuk "Undang-Undang Kecerdasan Buatan", yang dianggap sebagai peristiwa penting bagi UE di bidang kecerdasan buatan dan strategi digital UE yang lebih luas. Hanya saja, pemajuan proposal tersebut belum semulus yang diharapkan, dan anggota Parlemen Eropa belum mencapai kesepakatan tentang prinsip dasar proposal tersebut.

** "Pedoman Etika Kecerdasan Buatan yang Andal"**

Diterbitkan pada tahun 2019, pedoman tersebut mencakup tujuh bidang: aktivitas manusia dan tata kelola; ketahanan dan keamanan teknologi; privasi dan manajemen data; transparansi; keragaman dan non-diskriminasi dan keadilan; kesejahteraan sosial dan lingkungan; dan akuntabilitas.

《Peraturan Perlindungan Data Umum》

Lulus pada tahun 2016 dan mulai berlaku pada tahun 2018. Tujuannya adalah untuk memecahkan masalah pengumpulan dan pemanfaatan data pengguna. Ini akan menggantikan "Pedoman Perlindungan Data" yang diumumkan oleh Uni Eropa pada tahun 1995 untuk beradaptasi dengan perkembangan komputasi awan, Internet, dan data besar. Tujuan dari "Peraturan" adalah untuk membatasi pemrosesan data pribadi dan sensitif oleh Internet dan perusahaan data besar, dan untuk melindungi hak dan kepentingan yang sah dari subjek data. Berbeda dengan pendahulunya, Arahan Perlindungan Data, GDPR dapat langsung diterapkan ke semua negara anggota UE tanpa mewajibkan negara mana pun untuk mengubahnya menjadi undang-undang nasional.

Inggris Raya

Pendekatan Peraturan untuk Kecerdasan Buatan untuk Inovasi

Pada 29 Maret 2023, Inggris Raya merilis buku putih tentang "Pendekatan Regulasi Kecerdasan Buatan untuk Mempromosikan Inovasi", yang menguraikan lima prinsip tata kelola kecerdasan buatan. Mengusulkan pendekatan berbasis prinsipnya terhadap tata kelola AI untuk memberikan kepercayaan kepada bisnis dan publik dalam penggunaan AI, dan pendekatan yang pasti dan konsisten terhadap regulasi untuk industri. Dalam buku putih ini, Inggris Raya mengedepankan lima prinsip yang harus diikuti dalam pengembangan dan penggunaan kecerdasan buatan di berbagai departemen. Kedepannya, setiap departemen regulasi akan mengeluarkan praktik terbaik di berbagai bidang berdasarkan lima prinsip tersebut sesuai dengan spesifikasinya. situasi.panduan. Pada saat yang sama, buku putih tersebut menunjukkan bahwa untuk mendorong inovasi kecerdasan buatan dan memastikan respons yang tepat waktu terhadap berbagai tantangan yang akan muncul di masa depan, undang-undang yang ketat tidak akan dikenakan pada industri kecerdasan buatan saat ini. Selain itu, buku putih tersebut secara khusus menekankan pentingnya tata kelola kolaboratif antara pemerintah, industri, dan perusahaan, serta pentingnya memperkuat kerja sama global dan interoperabilitas dalam tata kelola kecerdasan buatan, sehingga dapat mewujudkan kepemimpinan global Inggris di bidang kecerdasan buatan sesegera mungkin.

Italia

Pada 31 Maret 2023, Badan Perlindungan Data (Garante) Pemerintah Italia meminta untuk melarang penggunaan ChatGPT, robot obrolan AI yang dikembangkan oleh OpenAI, di Italia, dan meluncurkan penyelidikan atas dugaan pelanggaran aturan privasi oleh aplikasi ChatGPT. Regulator privasi federal Kanada baru-baru ini mengumumkan bahwa mereka telah membuka penyelidikan terhadap OpenAI karena diduga "mengumpulkan, menggunakan, dan mengungkapkan informasi pribadi tanpa persetujuan".

AS

** "Kerangka Manajemen Risiko Kecerdasan Buatan" (AI RMF) Versi 1.0**

Institut Standar dan Teknologi Nasional merilis versi 1.0 dari "Kerangka Kerja Manajemen Risiko Kecerdasan Buatan" (AI RMF) pada Januari 2023, yang bertujuan memandu organisasi untuk mengurangi risiko keamanan, menghindari bias, dan risiko lain saat mengembangkan dan menerapkan sistem kecerdasan buatan. Konsekuensi negatif, meningkatkan kredibilitas AI.

Pada awal 2016, Amerika Serikat mengumumkan dua kerangka kerja tingkat nasional, promosi daripada peraturan, dan dokumen yang mengikat, "Rencana Strategis Penelitian dan Pengembangan Kecerdasan Buatan Nasional" dan "Mempersiapkan Masa Depan Kecerdasan Buatan". dalam beberapa tahun terakhir. Kedua kerangka kebijakan tersebut bertujuan untuk secara aktif mempromosikan pengembangan teknologi AI dan inovasi teknologi. Menanggapi tantangan yang ditimbulkan oleh teknologi kecerdasan buatan, dokumen tersebut hanya mengusulkan tanggapan yang berprinsip.

Kanada

Undang-Undang Kecerdasan Buatan dan Data

Pada Juni 2022, Kanada merilis "Undang-Undang Kecerdasan Buatan dan Data", yang bertujuan untuk mengatur transaksi sistem kecerdasan buatan internasional dan provinsi. Untuk tujuan ini, undang-undang menetapkan bahwa langkah-langkah harus diambil untuk mengurangi kerugian dan bias keluaran yang disebabkan oleh kecerdasan buatan berdampak tinggi; informasi publik tentang kecerdasan buatan harus diungkapkan; menteri inovasi, teknologi, dan industri harus diberi wewenang untuk merumuskan kebijakan terkait dengan sistem kecerdasan buatan, dan untuk "Menyimpan atau menggunakan informasi pribadi yang diperoleh secara ilegal" dilarang untuk melindungi privasi data untuk tujuan merancang, mengembangkan, menggunakan atau menyediakan sistem kecerdasan buatan.

Jerman

Undang-Undang Mengemudi Sendiri

Dirilis Juli 2021. Tujuan dari RUU ini adalah untuk memberikan dasar hukum dan kerangka peraturan untuk aplikasi komersial teknologi tanpa pengemudi. Salah satu sorotan terbesar dari proposal tersebut adalah bahwa proposal tersebut memberikan dasar hukum untuk pengoperasian normal kendaraan tak berawak tingkat L4 di ruas jalan tertentu di jalan bebas hambatan, dan membuat klarifikasi yang jelas tentang persyaratan teknis yang relevan, kondisi mengemudi, dan pemrosesan data. Dengan demikian, Jerman telah menjadi yang pertama di dunia yang mengizinkan kendaraan tak berawak bergabung dengan lalu lintas harian dan mempromosikannya ke seluruh negeri.

Isi penting lainnya dari RUU tersebut adalah pembentukan sistem pemantauan teknis untuk "fitur mengemudi tanpa awak". Oleh karena itu, pemilik kendaraan bermotor pintar harus mengatur penggunaan kendaraan bermotor untuk menjamin keamanan kendaraan bermotor dan kesesuaian penggunaan kendaraan bermotor, serta bertanggung jawab atas penggunaan kendaraan bermotor. Tanggung jawab ini meliputi: pemeliharaan rutin sistem untuk menjaga pengemudian otonom tetap berfungsi dengan baik, tindakan pencegahan untuk mematuhi peraturan lalu lintas, dan tanggung jawab untuk pengawasan teknis. Untuk memenuhi kewajiban ini, pemilik mobil harus menunjuk orang perseorangan dengan keahlian khusus sebagai pengawas teknis untuk memantau dan mengintervensi mobil dari jarak jauh.