Proses legislasi AI global telah dipercepat secara signifikan, dan regulasi di seluruh dunia mengejar evolusi AI.
Pada 14 Juni, waktu setempat, Parlemen Eropa memberikan suara 499 setuju, 28 menentang dan 93 abstain, dan mengesahkan draf mandat negosiasi untuk Artificial Intelligence Act (AI Act). Menurut proses legislatif UE, Parlemen Eropa, negara-negara anggota UE, dan Komisi Eropa akan memulai "negosiasi tripartit" untuk menentukan ketentuan akhir RUU tersebut.
Parlemen Eropa mengatakan "siap untuk negosiasi" untuk memberlakukan RUU kecerdasan buatan yang pertama. Presiden AS Biden mengeluarkan sinyal untuk mengontrol AI, dan beberapa anggota Kongres AS mengajukan proposal untuk undang-undang peraturan AI. Pemimpin Senat Demokrat AS Chuck Schumer meluncurkan "Kerangka untuk Inovasi Keamanan AI" dan berencana untuk memberlakukan RUU AI federal hanya dalam "beberapa bulan."
undang-undang negara saya yang relevan juga telah dimasukkan ke dalam agenda, dan rancangan undang-undang kecerdasan buatan akan diajukan ke Komite Tetap Kongres Rakyat Nasional untuk dibahas dalam tahun ini. Pada tanggal 20 Juni, gelombang pertama daftar pengarsipan algoritme layanan sintesis mendalam domestik juga dirilis, dengan 26 perusahaan termasuk Baidu, Alibaba, dan Tencent, dan total 41 algoritme dalam daftar.
Meskipun China, Amerika Serikat, dan Uni Eropa semuanya menganjurkan konsep regulasi AI yang berprinsip seperti akurasi, keamanan, dan transparansi, ada banyak perbedaan dalam ide dan metode spesifik. Pengesahan undang-undang AI yang komprehensif berada di balik keluaran dari peraturannya sendiri, dan ingin memahami keuntungan dari peraturan tersebut.
Beberapa ahli dalam negeri telah menyerukan perkembangan pesat peraturan hukum tentang kecerdasan buatan, tetapi masalah praktis saat ini tidak dapat diabaikan. Selain itu, ada pertimbangan penting lainnya: mengatur atau mengembangkan. Ini bukan pilihan biner, tapi di ranah digital, menyeimbangkan keduanya tidaklah mudah.
Sprint UE, China dan Amerika Serikat mempercepat
Jika semua berjalan dengan baik, RUU Kecerdasan Buatan yang disahkan oleh Parlemen Eropa diharapkan akan disetujui pada akhir tahun ini. Undang-undang pengaturan kecerdasan buatan komprehensif pertama di dunia kemungkinan akan mendarat di UE.
“Draf ini akan mempengaruhi negara-negara lain yang berada di sela-sela percepatan legislasi. Sejak lama, apakah teknologi kecerdasan buatan harus masuk dalam ruang lingkup pengawasan hukum selalu menjadi kontroversi. Melihatnya sekarang, setelah “Undang-Undang Kecerdasan Buatan” "diimplementasikan, platform jaringan yang relevan, seperti konten bisnis dan platform pengguna yang berfokus pada pembuatan informasi terikat untuk memikul kewajiban audit yang lebih tinggi." Zhao Jingwu, seorang profesor di Fakultas Hukum Universitas Beihang, mengatakan kepada China News Weekly.
Sebagai bagian dari strategi digital, Uni Eropa berharap untuk mengatur kecerdasan buatan secara komprehensif melalui "Undang-Undang Kecerdasan Buatan", dan tata letak strategis di baliknya juga telah diletakkan di atas meja.
Peng Xiaoyan, direktur eksekutif Firma Hukum Beijing Wanshang Tianqin (Hangzhou), mengatakan kepada China News Weekly bahwa "Undang-Undang Kecerdasan Buatan" tidak hanya berlaku untuk UE, tetapi juga mengatur penyedia sistem yang berlokasi di luar UE tetapi data keluaran sistemnya digunakan di Uni Eropa atau pengguna. Cakupan yurisdiksi dan penerapan Undang-Undang tersebut telah sangat diperluas, dan petunjuk untuk mendahului yurisdiksi elemen data juga dapat dilihat sekilas.
Jin Ling, wakil direktur dan peneliti dari European Institute of the China Institute of International Studies, juga menulis dalam artikel "Legislasi Kecerdasan Buatan Pertama di Dunia: Keseimbangan yang Sulit Antara Inovasi dan Regulasi" bahwa "Undang-Undang Kecerdasan Buatan" menyoroti moral keuntungan dari tata kelola AI UE , adalah upaya lain oleh UE untuk memberikan permainan penuh pada kekuatan normatifnya dan menutupi kekurangan teknis melalui keunggulan aturan. Ini mencerminkan niat strategis UE untuk merebut landasan moral yang tinggi di bidang kecerdasan buatan.
Undang-Undang Kecerdasan Buatan telah dibuat selama dua tahun. Pada April 2021, Komisi Eropa mengajukan proposal undang-undang kecerdasan buatan berdasarkan kerangka "klasifikasi risiko", yang telah dibahas dan direvisi setelah beberapa putaran. Setelah popularitas AI generatif seperti ChatGPT, anggota parlemen UE segera menambahkan "tambalan".
Perubahan baru adalah draf terbaru "Undang-Undang Kecerdasan Buatan" telah memperkuat persyaratan transparansi untuk tujuan umum AI. Misalnya, AI generatif berdasarkan model dasar harus memberi label pada konten yang dihasilkan, membantu pengguna membedakan informasi palsu yang mendalam dari informasi nyata, dan memastikan bahwa konten ilegal dicegah agar tidak dibuat. Penyedia model dasar seperti OpenAI dan Google juga perlu mengungkapkan detail data pelatihan jika mereka menggunakan data berhak cipta selama pelatihan model.
Selain itu, teknologi biometrik jarak jauh real-time di tempat umum telah disesuaikan dari tingkat "risiko tinggi" ke tingkat "terlarang", yaitu teknologi AI tidak boleh digunakan untuk pengenalan wajah di tempat umum di negara-negara UE.
Draf terbaru juga semakin meningkatkan jumlah penalti untuk pelanggaran, mengubah maksimal 30 juta euro atau 6% dari omset global perusahaan yang melanggar pada tahun fiskal sebelumnya menjadi maksimal 40 juta euro atau 7% dari omzet tahunan global. omzet perusahaan pelanggar pada tahun sebelumnya. Itu jauh lebih tinggi daripada Peraturan Perlindungan Data Umum, undang-undang keamanan data khas Eropa, yang dapat dikenakan denda hingga 4 persen dari pendapatan global, atau 20 juta euro.
Peng Xiaoyan mengatakan kepada China News Weekly bahwa peningkatan jumlah hukuman mencerminkan tekad dan kekuatan otoritas UE untuk mengawasi kecerdasan buatan. Bagi raksasa teknologi seperti Google, Microsoft, dan Apple dengan pendapatan ratusan miliar dolar, jika melanggar ketentuan "Artificial Intelligence Act", dendanya bisa mencapai puluhan miliar dolar.
Di Amerika Serikat di sisi lain lautan, ketika Washington sibuk menanggapi seruan Musk dan lainnya untuk kontrol AI yang lebih kuat, pada 20 Juni, Presiden AS Biden bertemu dengan sekelompok pakar kecerdasan buatan dan peneliti di San Francisco untuk membahas bagaimana mengelola risiko dari teknologi baru ini. Biden mengatakan pada saat itu bahwa sambil memanfaatkan potensi AI yang sangat besar, perlu untuk mengelola risiko yang ditimbulkannya bagi masyarakat, ekonomi, dan keamanan nasional.
Latar belakang manajemen risiko dan kontrol menjadi topik hangat di AI adalah bahwa Amerika Serikat belum mengadopsi langkah-langkah anti-monopoli yang ketat terhadap teknologi AI, dan belum memperkenalkan undang-undang peraturan AI yang komprehensif di tingkat federal.
Perampokan resmi pertama pemerintah federal AS ke bidang regulasi kecerdasan buatan adalah pada Januari 2020, ketika merilis "Pedoman Peraturan untuk Penerapan Kecerdasan Buatan" untuk memberikan panduan tentang langkah-langkah pengaturan dan non-peraturan untuk masalah kecerdasan buatan yang muncul. "National Artificial Intelligence Initiative Act 2020" yang diperkenalkan pada tahun 2021 lebih merupakan tata letak kebijakan di bidang AI, dan masih ada jarak tertentu dari tata kelola kecerdasan buatan dan pengawasan yang kuat. Setahun kemudian, Cetak Biru untuk AI Bill of Rights ("Cetak Biru") yang dirilis oleh Gedung Putih pada Oktober 2022 memberikan kerangka kerja pendukung untuk tata kelola AI, tetapi ini bukan kebijakan resmi AS dan tidak mengikat.
Sedikit kemajuan telah dibuat dalam undang-undang AI di Amerika Serikat, yang menyebabkan banyak ketidakpuasan. Banyak orang mengkritik bahwa Amerika Serikat tertinggal dari Uni Eropa dan China dalam merumuskan aturan untuk ekonomi digital. Namun, mungkin melihat bahwa "Undang-Undang Kecerdasan Buatan" Uni Eropa akan melewati "rintangan" terakhir, Kongres AS baru-baru ini menunjukkan tanda-tanda percepatan undang-undang.
Pada hari konferensi AI Biden, Perwakilan Demokrat Ted W. Lieu dan Anna Eshoo, bersama dengan Perwakilan Republik Ken Buck, mengajukan Dewan Nasional untuk Undang-Undang Kecerdasan Buatan. Sementara itu, Senator Demokrat Brian Schatz akan memperkenalkan undang-undang pendamping di Senat yang akan fokus pada regulasi AI.
Menurut isi RUU tersebut, Komisi Kecerdasan Buatan akan terdiri dari 20 pakar dari pemerintah, industri, masyarakat sipil, dan ilmu komputer.Mereka akan meninjau metode pengaturan kecerdasan buatan saat ini di Amerika Serikat dan bersama-sama mengembangkan kerangka peraturan yang komprehensif .
"AI melakukan hal-hal luar biasa di masyarakat. Jika dibiarkan dan diatur, itu dapat menyebabkan kerugian yang signifikan. Kongres tidak boleh berpangku tangan," kata Ted Liu dalam sebuah pernyataan.
Sehari kemudian, pada tanggal 21 Juni, pemimpin Senat Demokrat Chuck Schumer menyampaikan pidato di Pusat Studi Strategis dan Internasional (CSIS), mengungkapkan "Kerangka untuk Inovasi Keamanan Kecerdasan Buatan" ("AI Framework")— — Mendorong inovasi sambil memajukan keselamatan, akuntabilitas, dasar, dan interpretasi, menggemakan rencana besar termasuk Cetak Biru. Dia mengusulkan kerangka tersebut pada bulan April, tetapi memberikan sedikit rincian pada saat itu.
Di balik kerangka kerja AI terdapat strategi legislatif oleh Chuck Schumer. Dalam pidatonya, dia mengatakan bahwa RUU intelijen buatan federal akan diberlakukan hanya dalam "beberapa bulan". Namun, proses legislatif AS rumit, tidak hanya harus dipilih oleh Senat dan Dewan Perwakilan Rakyat, tetapi juga harus melalui beberapa putaran dengar pendapat, yang memakan waktu lama.
Untuk mempercepat kemajuan, sebagai bagian dari kerangka AI, Chuck Schumer berencana mengadakan serangkaian forum wawasan kecerdasan buatan mulai September tahun ini, yang mencakup 10 topik termasuk inovasi, kekayaan intelektual, keamanan nasional, dan privasi. Dia mengatakan kepada dunia luar bahwa Forum Wawasan tidak akan menggantikan sidang kongres tentang kecerdasan buatan, tetapi akan diadakan secara paralel sehingga badan legislatif dapat memperkenalkan kebijakan tentang teknologi tersebut dalam hitungan bulan, bukan tahun. Dia meramalkan bahwa mungkin diperlukan waktu hingga musim gugur "untuk mulai melihat beberapa hal konkret" dalam undang-undang AI AS.
Meskipun kemajuannya belum menyusul Uni Eropa, undang-undang yang relevan di negara saya juga telah dimasukkan dalam agenda. Pada awal Juni, Kantor Umum Dewan Negara mengeluarkan "Rencana Kerja Legislatif Dewan Negara 2023", yang menyebutkan bahwa rancangan undang-undang kecerdasan buatan disiapkan untuk diajukan ke Komite Tetap Kongres Rakyat Nasional untuk dibahas. .
Menurut ketentuan "Hukum Legislatif" negara saya, setelah Dewan Negara mengusulkan rancangan undang-undang kepada Komite Tetap Kongres Rakyat Nasional, rapat ketua memutuskan untuk memasukkannya ke dalam agenda rapat Komite Tetap, atau terlebih dahulu mengajukannya kepada panitia khusus yang bersangkutan untuk musyawarah dan menyampaikan laporan, kemudian memutuskan untuk memasukkannya ke dalam Panitia Tetap Agenda rapat umumnya harus melalui tiga musyawarah sebelum pemungutan suara.
Sejak awal tahun ini, banyak negara telah mempercepat undang-undang AI, Peng Xiaoyan percaya bahwa ini adalah hasil dari persaingan dan perkembangan teknologi.
“Elemen data semakin menjadi elemen strategis nasional, dan negara-negara juga berharap untuk menetapkan yurisdiksi melalui undang-undang dan merebut hak untuk berbicara dalam kecerdasan buatan. Pada saat yang sama, pembaruan berulang teknologi kecerdasan buatan seperti ChatGPT telah memungkinkan masyarakat untuk melihat harapan baru untuk pengembangan kecerdasan buatan yang kuat. Baru Perkembangan teknologi pasti akan membawa masalah sosial baru dan kontradiksi sosial, yang memerlukan intervensi dan penyesuaian peraturan, dan perkembangan teknologi telah mendorong pembaruan undang-undang sampai batas tertentu." Peng Kata Xiao Yan.
Divergensi jauh melebihi konvergensi
China, Amerika Serikat, dan Uni Eropa adalah kekuatan pendorong utama pengembangan AI global, tetapi ada juga beberapa perbedaan dalam undang-undang AI di antara ketiganya.
"Undang-Undang Kecerdasan Buatan" Uni Eropa membagi risiko aplikasi kecerdasan buatan menjadi empat tingkat dari perspektif penggunaan dan fungsi. Tidak peduli berapa banyak putaran revisi yang telah dilalui draf tersebut, "klasifikasi risiko" masih menjadi konsep inti dari undang-undang UE tata kelola AI.
Bagian atas piramida harus menimbulkan risiko yang "tidak dapat diterima" bagi keamanan manusia. Misalnya, sistem penilaian yang mengklasifikasikan orang berdasarkan perilaku sosial atau karakteristik pribadi, dll., akan dilarang sama sekali.
Dalam draf terbaru, Parlemen Eropa memperluas daftar "risiko yang tidak dapat diterima" untuk mencegah sistem AI yang mengganggu dan diskriminatif. Enam jenis sistem kecerdasan buatan, seperti identifikasi biometrik di ruang publik, pengenalan emosi, pemolisian prediktif (berdasarkan profil, lokasi, atau perilaku kriminal di masa lalu), dan pengambilan gambar wajah secara acak dari Internet, sepenuhnya dilarang.
Kategori kedua adalah sistem AI yang berdampak negatif terhadap keamanan manusia atau hak fundamental dan dianggap "berisiko tinggi". Misalnya, sistem AI yang digunakan dalam produk seperti penerbangan, mobil, dan peralatan medis, serta delapan bidang khusus yang harus didaftarkan di database UE, mencakup infrastruktur penting, pendidikan, pelatihan, penegakan hukum, dan lainnya. Tunduk pada peraturan AI dan penilaian kesesuaian sebelumnya, berbagai sistem AI "berisiko tinggi" akan diizinkan untuk memasuki pasar UE dengan tunduk pada serangkaian persyaratan dan kewajiban.
Selain itu, sistem kecerdasan buatan yang memengaruhi pemilih dan hasil pemilu, serta sistem rekomendasi yang digunakan oleh platform media sosial dengan lebih dari 45 juta pengguna, seperti Facebook, Twitter, dan Instagram, juga akan ditempatkan pada daftar berisiko tinggi di bawah daftar tersebut. Hukum Layanan Digital UE .
Di bagian bawah piramida adalah sistem AI dengan risiko terbatas, sedikit atau tanpa risiko. Yang pertama memiliki kewajiban transparansi khusus dan perlu memberi tahu pengguna bahwa mereka berinteraksi dengan sistem AI, sedangkan yang terakhir tidak memiliki peraturan wajib dan pada dasarnya tidak diatur, seperti aplikasi seperti filter spam.
Karena ketentuan peraturannya yang ketat, "Undang-Undang Kecerdasan Buatan" dianggap oleh banyak orang dalam industri memiliki banyak "gigi" yang tajam. Namun, RUU tersebut juga berupaya menyeimbangkan antara regulasi yang kuat dan inovasi.
Misalnya, draf terbaru mengharuskan negara anggota untuk membuat setidaknya satu "kotak pasir peraturan" yang dapat digunakan secara gratis oleh usaha kecil dan menengah dan perusahaan baru, dalam skenario yang diawasi dan aman serta dapat dikontrol, untuk menguji teknologi buatan yang inovatif. sistem intelijen sebelum digunakan, sampai persyaratan kepatuhan terpenuhi. UE secara umum percaya bahwa proposal tersebut tidak hanya akan memungkinkan pihak berwenang memperhatikan perubahan teknologi secara real time, tetapi juga membantu perusahaan AI terus berinovasi sambil mengurangi tekanan peraturan.
Jin Ling mengatakan dalam artikel tersebut bahwa di satu sisi, metode tata kelola hulu UE mengharuskan perusahaan untuk menanggung lebih banyak biaya di muka, dan di sisi lain, ketidakpastian penilaian risiko juga memengaruhi antusiasme investasi perusahaan. Oleh karena itu, meskipun Komisi telah berulang kali menekankan bahwa undang-undang AI akan mendukung inovasi dan pertumbuhan ekonomi digital Eropa, analisis ekonomi yang realistis tampaknya tidak mendukung kesimpulan ini. RUU tersebut mencerminkan konflik inheren UE antara mempromosikan inovasi dan melindungi hak yang sulit untuk diseimbangkan secara efektif.
Seperti Uni Eropa dan China, Amerika Serikat mendukung pendekatan regulasi AI berbasis risiko, yang menganjurkan akurasi, keamanan, dan transparansi. Namun, dalam pandangan Zhao Jingwu, pemikiran regulasi AS lebih terfokus pada penggunaan AI untuk mempromosikan inovasi dan pengembangan industri AI, dan pada akhirnya mempertahankan kepemimpinan dan daya saing Amerika Serikat.
“Berbeda dari konsep peraturan 'pencegahan risiko dan keamanan teknis' yang dipegang oleh China dan UE, Amerika Serikat fokus pada pengembangan komersial sebagai prioritas. Baik China maupun UE fokus pada keamanan penerapan teknologi kecerdasan buatan untuk mencegah penyalahgunaan teknologi kecerdasan buatan dari pelanggaran hak-hak individu, sedangkan Amerika Serikat didasarkan pada pengembangan Industri adalah fokus pengawasan." Kata Zhao Jingwu.
Studi telah menemukan bahwa undang-undang Kongres AS terutama berfokus pada mendorong dan membimbing pemerintah untuk menggunakan kecerdasan buatan. Misalnya, Senat A.S. memperkenalkan Undang-Undang Inovasi AI pada tahun 2021, yang mewajibkan Departemen Pertahanan A.S. untuk menerapkan program percontohan guna memastikannya memiliki akses ke kemampuan perangkat lunak AI dan pembelajaran mesin terbaik.
Dalam pidato yang disebutkan di atas, Chuck Schumer menganggap inovasi sebagai Bintang Utara, dan kerangka kerja AI-nya adalah untuk mengeluarkan potensi besar kecerdasan buatan dan mendukung inovasi yang dipimpin AS dalam teknologi kecerdasan buatan. Di awal “Pedoman Pengawasan Aplikasi Kecerdasan Buatan”, terlihat jelas bahwa kemajuan teknologi dan inovasi harus terus digalakkan. Tujuan akhir dari National Artificial Intelligence Initiative Act 2020 juga untuk memastikan bahwa Amerika Serikat mempertahankan posisi terdepan dalam bidang teknologi AI global dengan meningkatkan investasi penelitian dan membangun sistem tenaga kerja.
Peng Xiaoyan mengatakan bahwa dari perspektif desain spesifikasi panduan, pengembangan kecerdasan buatan di Amerika Serikat masih dalam keadaan lemah pengawasan di tingkat legislatif dan kelembagaan, dan masyarakat secara aktif mendorong inovasi dan perluasan teknologi kecerdasan buatan dengan sikap terbuka.
Dibandingkan dengan Uni Eropa, yang memiliki kekuatan investigasi yang lebih jelas dan cakupan regulasi yang komprehensif, Amerika Serikat telah mengadopsi pendekatan desentralisasi terhadap regulasi AI, dengan beberapa negara bagian dan lembaga memajukan tata kelola AI pada tingkat yang lebih rendah. Akibatnya, inisiatif pengaturan AI nasional sangat luas dan berprinsip.
Misalnya, "Cetak Biru" adalah peristiwa penting dalam kebijakan tata kelola intelijen buatan AS. Ini telah merumuskan lima prinsip dasar termasuk sistem yang aman dan efektif, pencegahan diskriminasi algoritmik, perlindungan privasi data, pemberitahuan dan penjelasan, dan partisipasi manusia dalam pengambilan keputusan. -pembuatan Tidak ada ketentuan yang lebih rinci.
Peng Xiaoyan percaya bahwa "Cetak Biru" tidak merumuskan langkah-langkah implementasi khusus, tetapi membangun kerangka dasar untuk pengembangan kecerdasan buatan dengan cara yang berprinsip, yang bertujuan untuk memandu desain, penggunaan, dan penerapan sistem kecerdasan buatan.
“Standar seperti ini tidak wajib. Ini karena Amerika Serikat menganggap mendukung pengembangan industri kecerdasan buatan. Saat ini, kecerdasan buatan masih dalam tahap pengembangan, dan pengawasan intensitas tinggi terikat untuk membatasi pengembangan industri dan inovasi sampai batas tertentu. Oleh karena itu, Amerika Serikat mempertahankan sikap yang relatif sederhana dalam undang-undang," kata Peng Xiaoyan.
"Tanpa undang-undang yang memberikan kekuatan baru kepada agensi, mereka hanya dapat mengatur penggunaan kecerdasan buatan sesuai dengan kekuatan yang sudah mereka miliki. Di sisi lain, prinsip etika terkait kecerdasan buatan tetap kurang diatur, dan agensi dapat memutuskan bagaimana mengaturnya sendiri . Hak pakai yang mana.” Menurut analis Carnegie Hadrien Pouget, hal ini membuat lembaga federal yang dipimpin oleh Gedung Putih dibatasi dan bebas.
Konsep tata kelola AI yang didominasi oleh pemanfaatan dan inovasi ditakdirkan untuk tidak terlalu keras di "tinju" Amerika Serikat. Alex Engler, seorang peneliti di Brookings Institution, sebuah wadah pemikir terkenal Amerika, menunjukkan bahwa Uni Eropa dan Amerika Serikat mengadopsi pendekatan peraturan yang berbeda terhadap kecerdasan buatan yang memiliki dampak sosial seperti pendidikan, keuangan, dan pekerjaan.
Dalam hal aplikasi AI tertentu, "Undang-Undang Kecerdasan Buatan" Uni Eropa memiliki persyaratan transparansi untuk robot obrolan, sementara tidak ada peraturan federal di Amerika Serikat. Pengenalan wajah dianggap sebagai "risiko yang tidak dapat diterima" oleh Uni Eropa, dan Amerika Serikat memberikan informasi publik melalui program pengujian vendor pengenalan wajah National Institute of Standards and Technology (NIST), tetapi tidak mengamanatkan peraturan.
“Jangkauan peraturan UE tidak hanya mencakup aplikasi yang lebih luas, tetapi menetapkan lebih banyak aturan untuk aplikasi AI ini. Sedangkan pendekatan AS lebih terbatas pada mengadaptasi regulator kelembagaan saat ini untuk mencoba mengatur AI, ruang lingkup AI juga banyak lebih terbatas.” Alex Engler mengatakan ada jauh lebih banyak divergensi daripada konvergensi dalam manajemen risiko AI, meskipun prinsipnya identik secara luas.
Zhao Jingwu meringkas model regulasi AI China, Uni Eropa, dan Amerika Serikat, dan menemukan bahwa China terbatas pada skenario aplikasi teknologi kecerdasan buatan, dan telah merumuskan aturan regulasi khusus untuk skenario aplikasi seperti teknologi pengenalan wajah , sintesis mendalam, dan rekomendasi otomatis. UE dipandu oleh tingkat risiko, bergantung pada apakah tingkat risiko aplikasi kecerdasan buatan merupakan tingkat yang dapat diterima. Amerika Serikat menilai legalitas penerapan teknologi kecerdasan buatan dalam kerangka sistem hukum tradisional yang ada.
Selain itu, Amerika Serikat juga lebih memusatkan perhatian pada penelitian kecerdasan buatan dan menginvestasikan lebih banyak dana di dalamnya. Baru pada awal Mei, Gedung Putih mengumumkan investasi sekitar 140 juta dolar AS untuk mendirikan tujuh lembaga penelitian kecerdasan buatan nasional yang baru. Beberapa peneliti percaya bahwa langkah Amerika Serikat ini berharap untuk lebih memahami AI, sehingga mengurangi kekhawatiran yang timbul dari proses regulasi.
Peng Xiaoyan mengatakan bahwa negara saya telah mengadopsi langkah-langkah untuk mendorong pengembangan teknologi kecerdasan buatan sambil mengatur pengelolaan bidang terkait secara terbatas, dan memandu pengembangan teknologi kecerdasan buatan dengan kebijakan dan persyaratan manajemen yang terkoordinasi.
undang-undang negara saya menghadapi banyak masalah praktis
Uni Eropa sedang mempercepat implementasi RUU regulasi AI pertama di dunia.Zhao Jingwu mengatakan kepada China News Weekly bahwa tindakan regulasi kecerdasan buatan "sistem tingkat risiko" Uni Eropa, konsep regulasi "model umum" yang diusulkan dalam "Undang-Undang Kecerdasan Buatan". , dan peraturan khusus untuk ChatGPT Kewajiban pengungkapan dan kewajiban kepatuhan hak cipta data dari aplikasi kecerdasan buatan generatif merupakan nilai referensi untuk undang-undang kecerdasan buatan negara saya.
Faktanya, undang-undang negara saya tentang kecerdasan buatan sudah dimulai. Pada tahun 2017, Dewan Negara mengeluarkan "Rencana Pengembangan Kecerdasan Buatan Generasi Baru", yang mengusulkan bahwa pada tahun 2025, undang-undang dan peraturan kecerdasan buatan, norma etika, dan sistem kebijakan harus ditetapkan awalnya ditetapkan, dan penilaian dan kebijakan keamanan kecerdasan buatan harus dibentuk.Kemampuan kontrol.
Secara lokal, pada tahun 2022, Kota Shenzhen mengumumkan "Peraturan Promosi Industri Kecerdasan Buatan Zona Ekonomi Khusus Shenzhen", yang dianggap sebagai undang-undang khusus pertama negara saya untuk industri kecerdasan buatan. Dalam “Peraturan” disebutkan bahwa mekanisme pengawasan di bidang kecerdasan buatan harus ditingkatkan untuk mencegah kemungkinan risiko keamanan etika dan risiko kepatuhan yang mungkin timbul pada produk dan layanan kecerdasan buatan.
Saat ini, peraturan kecerdasan buatan negara saya terutama dipromosikan bersama oleh beberapa kementerian dan komisi besar, yang mempromosikan pengaturan dan pengembangan kecerdasan buatan di berbagai bidang. Dokumen normatif seperti "Peraturan tentang Administrasi Rekomendasi Algoritma untuk Layanan Informasi Internet", "Peraturan tentang Administrasi Sintesis Mendalam Layanan Informasi Internet", dan "Tindakan Administratif untuk Layanan Kecerdasan Buatan Generatif (Draf untuk Komentar)" juga telah telah dikeluarkan.
"Dari perspektif norma manajemen historis, peraturan negara saya di bidang kecerdasan buatan mengadopsi langkah-langkah untuk membedakan bidang bisnis dan arah teknis, dan norma manajemen cenderung terdesentralisasi. Ketika norma diperkenalkan, seringkali memiliki karakteristik tepat waktu .Setelah munculnya teknologi khusus Buat peraturan manajemen khusus Peraturan tersebut diundangkan oleh departemen administrasi, dengan fokus pada pengawasan, dan belum ditingkatkan menjadi undang-undang di tingkat peraturan.” Kata Peng Xiaoyan.
Perlu dicatat bahwa pada tanggal 20 Juni, batch pertama daftar pengarsipan algoritme layanan sintesis mendalam domestik dirilis.26 perusahaan termasuk Baidu, Alibaba, Tencent, ByteDance, dan Meituan, dan total 41 algoritme ada dalam daftar.
Saat panasnya undang-undang AI memanas, para ahli domestik mulai menyerukan perkembangan pesat peraturan hukum kecerdasan buatan. Namun, dalam pandangan Zhao Jingwu, undang-undang khusus negara saya tentang kecerdasan buatan dapat dilakukan, tetapi juga menghadapi banyak masalah praktis.
“Yang pertama adalah masalah koneksi sistem antara dokumen legislatif. Hubungan yang berlaku antara undang-undang khusus kecerdasan buatan dan dokumen normatif lainnya belum terselesaikan, terutama konten undang-undang khusus yang tumpang tindih dan undang-undang saat ini yang perlu segera diselesaikan. Yang kedua adalah teknologi kecerdasan buatan Kecepatan pembaruan dan iterasi dipercepat, dan sulit untuk memastikan perkembangan hukum dan teknologi secara bersamaan; ketiga, aturan regulasi untuk kecerdasan buatan kurang integritas, dan aturan regulasi untuk tiga elemen inti data, algoritme, dan daya komputasi masih dalam tahap eksplorasi; keempat, undang-undang kecerdasan buatan Apakah fokusnya harus pada manajemen risiko keamanan atau pada pengembangan industri lebih kontroversial," kata Zhao Jingwu.
Apakah itu "Undang-Undang Kecerdasan Buatan" Uni Eropa, atau peraturan, inisiatif, dan rencana China, Amerika Serikat, dan negara lain untuk AI, mereka mencoba membangun kerangka peraturan komprehensif yang tidak hanya dapat memastikan keamanan, tetapi juga menciptakan kondisi yang lebih baik untuk AI.
Berdasarkan prinsip universalitas ini, Peng Xiaoyan mengatakan kepada China News Weekly bahwa pembentukan undang-undang kecerdasan buatan di negara saya pertama-tama harus didasarkan pada pengembangan dan inovasi yang mendorong secara aktif, sehingga kecerdasan buatan dapat diatur dan dikembangkan di ruang yang relatif terbuka. garis merah.
“Selain itu, masalah hukum di bidang kecerdasan buatan yang menjadi perhatian semua orang saat ini perlu diselesaikan, termasuk namun tidak terbatas pada pelarangan konten ilegal dalam kecerdasan buatan, perlindungan keamanan data kecerdasan buatan, perlindungan kecerdasan buatan. etika dan keamanan, pencegahan pelanggaran kekayaan intelektual, dll. "kata Peng Xiaoyan.
Zhao Jingwu percaya bahwa negara saya harus menetapkan undang-undang kecerdasan buatan yang berorientasi pada perlindungan pengembangan industri.
“Sampai batas tertentu, undang-undang saat ini pada dasarnya dapat memenuhi kebutuhan pengawasan aplikasi teknologi kecerdasan buatan. Mencegah risiko teknologi dan memastikan keamanan teknologi hanyalah proses tata kelola, dan tujuan akhirnya masih perlu kembali ke tingkat pengembangan kecerdasan buatan industri. Lagi pula, undang-undang kecerdasan buatan tidak membatasi pengembangan industri, tetapi untuk memandu dan menjamin perkembangan yang baik dari industri terkait," kata Zhao Jingwu.
Lihat Asli
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Teka-teki regulasi AI: Cara 'mengalahkan sihir dengan sihir'
Sumber asli: China News Weekly
Pengarang: Hallik
Proses legislasi AI global telah dipercepat secara signifikan, dan regulasi di seluruh dunia mengejar evolusi AI.
Pada 14 Juni, waktu setempat, Parlemen Eropa memberikan suara 499 setuju, 28 menentang dan 93 abstain, dan mengesahkan draf mandat negosiasi untuk Artificial Intelligence Act (AI Act). Menurut proses legislatif UE, Parlemen Eropa, negara-negara anggota UE, dan Komisi Eropa akan memulai "negosiasi tripartit" untuk menentukan ketentuan akhir RUU tersebut.
Parlemen Eropa mengatakan "siap untuk negosiasi" untuk memberlakukan RUU kecerdasan buatan yang pertama. Presiden AS Biden mengeluarkan sinyal untuk mengontrol AI, dan beberapa anggota Kongres AS mengajukan proposal untuk undang-undang peraturan AI. Pemimpin Senat Demokrat AS Chuck Schumer meluncurkan "Kerangka untuk Inovasi Keamanan AI" dan berencana untuk memberlakukan RUU AI federal hanya dalam "beberapa bulan."
undang-undang negara saya yang relevan juga telah dimasukkan ke dalam agenda, dan rancangan undang-undang kecerdasan buatan akan diajukan ke Komite Tetap Kongres Rakyat Nasional untuk dibahas dalam tahun ini. Pada tanggal 20 Juni, gelombang pertama daftar pengarsipan algoritme layanan sintesis mendalam domestik juga dirilis, dengan 26 perusahaan termasuk Baidu, Alibaba, dan Tencent, dan total 41 algoritme dalam daftar.
Meskipun China, Amerika Serikat, dan Uni Eropa semuanya menganjurkan konsep regulasi AI yang berprinsip seperti akurasi, keamanan, dan transparansi, ada banyak perbedaan dalam ide dan metode spesifik. Pengesahan undang-undang AI yang komprehensif berada di balik keluaran dari peraturannya sendiri, dan ingin memahami keuntungan dari peraturan tersebut.
Beberapa ahli dalam negeri telah menyerukan perkembangan pesat peraturan hukum tentang kecerdasan buatan, tetapi masalah praktis saat ini tidak dapat diabaikan. Selain itu, ada pertimbangan penting lainnya: mengatur atau mengembangkan. Ini bukan pilihan biner, tapi di ranah digital, menyeimbangkan keduanya tidaklah mudah.
Sprint UE, China dan Amerika Serikat mempercepat
Jika semua berjalan dengan baik, RUU Kecerdasan Buatan yang disahkan oleh Parlemen Eropa diharapkan akan disetujui pada akhir tahun ini. Undang-undang pengaturan kecerdasan buatan komprehensif pertama di dunia kemungkinan akan mendarat di UE.
“Draf ini akan mempengaruhi negara-negara lain yang berada di sela-sela percepatan legislasi. Sejak lama, apakah teknologi kecerdasan buatan harus masuk dalam ruang lingkup pengawasan hukum selalu menjadi kontroversi. Melihatnya sekarang, setelah “Undang-Undang Kecerdasan Buatan” "diimplementasikan, platform jaringan yang relevan, seperti konten bisnis dan platform pengguna yang berfokus pada pembuatan informasi terikat untuk memikul kewajiban audit yang lebih tinggi." Zhao Jingwu, seorang profesor di Fakultas Hukum Universitas Beihang, mengatakan kepada China News Weekly.
Sebagai bagian dari strategi digital, Uni Eropa berharap untuk mengatur kecerdasan buatan secara komprehensif melalui "Undang-Undang Kecerdasan Buatan", dan tata letak strategis di baliknya juga telah diletakkan di atas meja.
Peng Xiaoyan, direktur eksekutif Firma Hukum Beijing Wanshang Tianqin (Hangzhou), mengatakan kepada China News Weekly bahwa "Undang-Undang Kecerdasan Buatan" tidak hanya berlaku untuk UE, tetapi juga mengatur penyedia sistem yang berlokasi di luar UE tetapi data keluaran sistemnya digunakan di Uni Eropa atau pengguna. Cakupan yurisdiksi dan penerapan Undang-Undang tersebut telah sangat diperluas, dan petunjuk untuk mendahului yurisdiksi elemen data juga dapat dilihat sekilas.
Jin Ling, wakil direktur dan peneliti dari European Institute of the China Institute of International Studies, juga menulis dalam artikel "Legislasi Kecerdasan Buatan Pertama di Dunia: Keseimbangan yang Sulit Antara Inovasi dan Regulasi" bahwa "Undang-Undang Kecerdasan Buatan" menyoroti moral keuntungan dari tata kelola AI UE , adalah upaya lain oleh UE untuk memberikan permainan penuh pada kekuatan normatifnya dan menutupi kekurangan teknis melalui keunggulan aturan. Ini mencerminkan niat strategis UE untuk merebut landasan moral yang tinggi di bidang kecerdasan buatan.
Undang-Undang Kecerdasan Buatan telah dibuat selama dua tahun. Pada April 2021, Komisi Eropa mengajukan proposal undang-undang kecerdasan buatan berdasarkan kerangka "klasifikasi risiko", yang telah dibahas dan direvisi setelah beberapa putaran. Setelah popularitas AI generatif seperti ChatGPT, anggota parlemen UE segera menambahkan "tambalan".
Perubahan baru adalah draf terbaru "Undang-Undang Kecerdasan Buatan" telah memperkuat persyaratan transparansi untuk tujuan umum AI. Misalnya, AI generatif berdasarkan model dasar harus memberi label pada konten yang dihasilkan, membantu pengguna membedakan informasi palsu yang mendalam dari informasi nyata, dan memastikan bahwa konten ilegal dicegah agar tidak dibuat. Penyedia model dasar seperti OpenAI dan Google juga perlu mengungkapkan detail data pelatihan jika mereka menggunakan data berhak cipta selama pelatihan model.
Selain itu, teknologi biometrik jarak jauh real-time di tempat umum telah disesuaikan dari tingkat "risiko tinggi" ke tingkat "terlarang", yaitu teknologi AI tidak boleh digunakan untuk pengenalan wajah di tempat umum di negara-negara UE.
Draf terbaru juga semakin meningkatkan jumlah penalti untuk pelanggaran, mengubah maksimal 30 juta euro atau 6% dari omset global perusahaan yang melanggar pada tahun fiskal sebelumnya menjadi maksimal 40 juta euro atau 7% dari omzet tahunan global. omzet perusahaan pelanggar pada tahun sebelumnya. Itu jauh lebih tinggi daripada Peraturan Perlindungan Data Umum, undang-undang keamanan data khas Eropa, yang dapat dikenakan denda hingga 4 persen dari pendapatan global, atau 20 juta euro.
Peng Xiaoyan mengatakan kepada China News Weekly bahwa peningkatan jumlah hukuman mencerminkan tekad dan kekuatan otoritas UE untuk mengawasi kecerdasan buatan. Bagi raksasa teknologi seperti Google, Microsoft, dan Apple dengan pendapatan ratusan miliar dolar, jika melanggar ketentuan "Artificial Intelligence Act", dendanya bisa mencapai puluhan miliar dolar.
Di Amerika Serikat di sisi lain lautan, ketika Washington sibuk menanggapi seruan Musk dan lainnya untuk kontrol AI yang lebih kuat, pada 20 Juni, Presiden AS Biden bertemu dengan sekelompok pakar kecerdasan buatan dan peneliti di San Francisco untuk membahas bagaimana mengelola risiko dari teknologi baru ini. Biden mengatakan pada saat itu bahwa sambil memanfaatkan potensi AI yang sangat besar, perlu untuk mengelola risiko yang ditimbulkannya bagi masyarakat, ekonomi, dan keamanan nasional.
Latar belakang manajemen risiko dan kontrol menjadi topik hangat di AI adalah bahwa Amerika Serikat belum mengadopsi langkah-langkah anti-monopoli yang ketat terhadap teknologi AI, dan belum memperkenalkan undang-undang peraturan AI yang komprehensif di tingkat federal.
Perampokan resmi pertama pemerintah federal AS ke bidang regulasi kecerdasan buatan adalah pada Januari 2020, ketika merilis "Pedoman Peraturan untuk Penerapan Kecerdasan Buatan" untuk memberikan panduan tentang langkah-langkah pengaturan dan non-peraturan untuk masalah kecerdasan buatan yang muncul. "National Artificial Intelligence Initiative Act 2020" yang diperkenalkan pada tahun 2021 lebih merupakan tata letak kebijakan di bidang AI, dan masih ada jarak tertentu dari tata kelola kecerdasan buatan dan pengawasan yang kuat. Setahun kemudian, Cetak Biru untuk AI Bill of Rights ("Cetak Biru") yang dirilis oleh Gedung Putih pada Oktober 2022 memberikan kerangka kerja pendukung untuk tata kelola AI, tetapi ini bukan kebijakan resmi AS dan tidak mengikat.
Sedikit kemajuan telah dibuat dalam undang-undang AI di Amerika Serikat, yang menyebabkan banyak ketidakpuasan. Banyak orang mengkritik bahwa Amerika Serikat tertinggal dari Uni Eropa dan China dalam merumuskan aturan untuk ekonomi digital. Namun, mungkin melihat bahwa "Undang-Undang Kecerdasan Buatan" Uni Eropa akan melewati "rintangan" terakhir, Kongres AS baru-baru ini menunjukkan tanda-tanda percepatan undang-undang.
Pada hari konferensi AI Biden, Perwakilan Demokrat Ted W. Lieu dan Anna Eshoo, bersama dengan Perwakilan Republik Ken Buck, mengajukan Dewan Nasional untuk Undang-Undang Kecerdasan Buatan. Sementara itu, Senator Demokrat Brian Schatz akan memperkenalkan undang-undang pendamping di Senat yang akan fokus pada regulasi AI.
Menurut isi RUU tersebut, Komisi Kecerdasan Buatan akan terdiri dari 20 pakar dari pemerintah, industri, masyarakat sipil, dan ilmu komputer.Mereka akan meninjau metode pengaturan kecerdasan buatan saat ini di Amerika Serikat dan bersama-sama mengembangkan kerangka peraturan yang komprehensif .
"AI melakukan hal-hal luar biasa di masyarakat. Jika dibiarkan dan diatur, itu dapat menyebabkan kerugian yang signifikan. Kongres tidak boleh berpangku tangan," kata Ted Liu dalam sebuah pernyataan.
Sehari kemudian, pada tanggal 21 Juni, pemimpin Senat Demokrat Chuck Schumer menyampaikan pidato di Pusat Studi Strategis dan Internasional (CSIS), mengungkapkan "Kerangka untuk Inovasi Keamanan Kecerdasan Buatan" ("AI Framework")— — Mendorong inovasi sambil memajukan keselamatan, akuntabilitas, dasar, dan interpretasi, menggemakan rencana besar termasuk Cetak Biru. Dia mengusulkan kerangka tersebut pada bulan April, tetapi memberikan sedikit rincian pada saat itu.
Di balik kerangka kerja AI terdapat strategi legislatif oleh Chuck Schumer. Dalam pidatonya, dia mengatakan bahwa RUU intelijen buatan federal akan diberlakukan hanya dalam "beberapa bulan". Namun, proses legislatif AS rumit, tidak hanya harus dipilih oleh Senat dan Dewan Perwakilan Rakyat, tetapi juga harus melalui beberapa putaran dengar pendapat, yang memakan waktu lama.
Untuk mempercepat kemajuan, sebagai bagian dari kerangka AI, Chuck Schumer berencana mengadakan serangkaian forum wawasan kecerdasan buatan mulai September tahun ini, yang mencakup 10 topik termasuk inovasi, kekayaan intelektual, keamanan nasional, dan privasi. Dia mengatakan kepada dunia luar bahwa Forum Wawasan tidak akan menggantikan sidang kongres tentang kecerdasan buatan, tetapi akan diadakan secara paralel sehingga badan legislatif dapat memperkenalkan kebijakan tentang teknologi tersebut dalam hitungan bulan, bukan tahun. Dia meramalkan bahwa mungkin diperlukan waktu hingga musim gugur "untuk mulai melihat beberapa hal konkret" dalam undang-undang AI AS.
Meskipun kemajuannya belum menyusul Uni Eropa, undang-undang yang relevan di negara saya juga telah dimasukkan dalam agenda. Pada awal Juni, Kantor Umum Dewan Negara mengeluarkan "Rencana Kerja Legislatif Dewan Negara 2023", yang menyebutkan bahwa rancangan undang-undang kecerdasan buatan disiapkan untuk diajukan ke Komite Tetap Kongres Rakyat Nasional untuk dibahas. .
Menurut ketentuan "Hukum Legislatif" negara saya, setelah Dewan Negara mengusulkan rancangan undang-undang kepada Komite Tetap Kongres Rakyat Nasional, rapat ketua memutuskan untuk memasukkannya ke dalam agenda rapat Komite Tetap, atau terlebih dahulu mengajukannya kepada panitia khusus yang bersangkutan untuk musyawarah dan menyampaikan laporan, kemudian memutuskan untuk memasukkannya ke dalam Panitia Tetap Agenda rapat umumnya harus melalui tiga musyawarah sebelum pemungutan suara.
Sejak awal tahun ini, banyak negara telah mempercepat undang-undang AI, Peng Xiaoyan percaya bahwa ini adalah hasil dari persaingan dan perkembangan teknologi.
“Elemen data semakin menjadi elemen strategis nasional, dan negara-negara juga berharap untuk menetapkan yurisdiksi melalui undang-undang dan merebut hak untuk berbicara dalam kecerdasan buatan. Pada saat yang sama, pembaruan berulang teknologi kecerdasan buatan seperti ChatGPT telah memungkinkan masyarakat untuk melihat harapan baru untuk pengembangan kecerdasan buatan yang kuat. Baru Perkembangan teknologi pasti akan membawa masalah sosial baru dan kontradiksi sosial, yang memerlukan intervensi dan penyesuaian peraturan, dan perkembangan teknologi telah mendorong pembaruan undang-undang sampai batas tertentu." Peng Kata Xiao Yan.
Divergensi jauh melebihi konvergensi
China, Amerika Serikat, dan Uni Eropa adalah kekuatan pendorong utama pengembangan AI global, tetapi ada juga beberapa perbedaan dalam undang-undang AI di antara ketiganya.
"Undang-Undang Kecerdasan Buatan" Uni Eropa membagi risiko aplikasi kecerdasan buatan menjadi empat tingkat dari perspektif penggunaan dan fungsi. Tidak peduli berapa banyak putaran revisi yang telah dilalui draf tersebut, "klasifikasi risiko" masih menjadi konsep inti dari undang-undang UE tata kelola AI.
Dalam draf terbaru, Parlemen Eropa memperluas daftar "risiko yang tidak dapat diterima" untuk mencegah sistem AI yang mengganggu dan diskriminatif. Enam jenis sistem kecerdasan buatan, seperti identifikasi biometrik di ruang publik, pengenalan emosi, pemolisian prediktif (berdasarkan profil, lokasi, atau perilaku kriminal di masa lalu), dan pengambilan gambar wajah secara acak dari Internet, sepenuhnya dilarang.
Kategori kedua adalah sistem AI yang berdampak negatif terhadap keamanan manusia atau hak fundamental dan dianggap "berisiko tinggi". Misalnya, sistem AI yang digunakan dalam produk seperti penerbangan, mobil, dan peralatan medis, serta delapan bidang khusus yang harus didaftarkan di database UE, mencakup infrastruktur penting, pendidikan, pelatihan, penegakan hukum, dan lainnya. Tunduk pada peraturan AI dan penilaian kesesuaian sebelumnya, berbagai sistem AI "berisiko tinggi" akan diizinkan untuk memasuki pasar UE dengan tunduk pada serangkaian persyaratan dan kewajiban.
Selain itu, sistem kecerdasan buatan yang memengaruhi pemilih dan hasil pemilu, serta sistem rekomendasi yang digunakan oleh platform media sosial dengan lebih dari 45 juta pengguna, seperti Facebook, Twitter, dan Instagram, juga akan ditempatkan pada daftar berisiko tinggi di bawah daftar tersebut. Hukum Layanan Digital UE .
Di bagian bawah piramida adalah sistem AI dengan risiko terbatas, sedikit atau tanpa risiko. Yang pertama memiliki kewajiban transparansi khusus dan perlu memberi tahu pengguna bahwa mereka berinteraksi dengan sistem AI, sedangkan yang terakhir tidak memiliki peraturan wajib dan pada dasarnya tidak diatur, seperti aplikasi seperti filter spam.
Karena ketentuan peraturannya yang ketat, "Undang-Undang Kecerdasan Buatan" dianggap oleh banyak orang dalam industri memiliki banyak "gigi" yang tajam. Namun, RUU tersebut juga berupaya menyeimbangkan antara regulasi yang kuat dan inovasi.
Misalnya, draf terbaru mengharuskan negara anggota untuk membuat setidaknya satu "kotak pasir peraturan" yang dapat digunakan secara gratis oleh usaha kecil dan menengah dan perusahaan baru, dalam skenario yang diawasi dan aman serta dapat dikontrol, untuk menguji teknologi buatan yang inovatif. sistem intelijen sebelum digunakan, sampai persyaratan kepatuhan terpenuhi. UE secara umum percaya bahwa proposal tersebut tidak hanya akan memungkinkan pihak berwenang memperhatikan perubahan teknologi secara real time, tetapi juga membantu perusahaan AI terus berinovasi sambil mengurangi tekanan peraturan.
Jin Ling mengatakan dalam artikel tersebut bahwa di satu sisi, metode tata kelola hulu UE mengharuskan perusahaan untuk menanggung lebih banyak biaya di muka, dan di sisi lain, ketidakpastian penilaian risiko juga memengaruhi antusiasme investasi perusahaan. Oleh karena itu, meskipun Komisi telah berulang kali menekankan bahwa undang-undang AI akan mendukung inovasi dan pertumbuhan ekonomi digital Eropa, analisis ekonomi yang realistis tampaknya tidak mendukung kesimpulan ini. RUU tersebut mencerminkan konflik inheren UE antara mempromosikan inovasi dan melindungi hak yang sulit untuk diseimbangkan secara efektif.
Seperti Uni Eropa dan China, Amerika Serikat mendukung pendekatan regulasi AI berbasis risiko, yang menganjurkan akurasi, keamanan, dan transparansi. Namun, dalam pandangan Zhao Jingwu, pemikiran regulasi AS lebih terfokus pada penggunaan AI untuk mempromosikan inovasi dan pengembangan industri AI, dan pada akhirnya mempertahankan kepemimpinan dan daya saing Amerika Serikat.
“Berbeda dari konsep peraturan 'pencegahan risiko dan keamanan teknis' yang dipegang oleh China dan UE, Amerika Serikat fokus pada pengembangan komersial sebagai prioritas. Baik China maupun UE fokus pada keamanan penerapan teknologi kecerdasan buatan untuk mencegah penyalahgunaan teknologi kecerdasan buatan dari pelanggaran hak-hak individu, sedangkan Amerika Serikat didasarkan pada pengembangan Industri adalah fokus pengawasan." Kata Zhao Jingwu.
Studi telah menemukan bahwa undang-undang Kongres AS terutama berfokus pada mendorong dan membimbing pemerintah untuk menggunakan kecerdasan buatan. Misalnya, Senat A.S. memperkenalkan Undang-Undang Inovasi AI pada tahun 2021, yang mewajibkan Departemen Pertahanan A.S. untuk menerapkan program percontohan guna memastikannya memiliki akses ke kemampuan perangkat lunak AI dan pembelajaran mesin terbaik.
Dalam pidato yang disebutkan di atas, Chuck Schumer menganggap inovasi sebagai Bintang Utara, dan kerangka kerja AI-nya adalah untuk mengeluarkan potensi besar kecerdasan buatan dan mendukung inovasi yang dipimpin AS dalam teknologi kecerdasan buatan. Di awal “Pedoman Pengawasan Aplikasi Kecerdasan Buatan”, terlihat jelas bahwa kemajuan teknologi dan inovasi harus terus digalakkan. Tujuan akhir dari National Artificial Intelligence Initiative Act 2020 juga untuk memastikan bahwa Amerika Serikat mempertahankan posisi terdepan dalam bidang teknologi AI global dengan meningkatkan investasi penelitian dan membangun sistem tenaga kerja.
Peng Xiaoyan mengatakan bahwa dari perspektif desain spesifikasi panduan, pengembangan kecerdasan buatan di Amerika Serikat masih dalam keadaan lemah pengawasan di tingkat legislatif dan kelembagaan, dan masyarakat secara aktif mendorong inovasi dan perluasan teknologi kecerdasan buatan dengan sikap terbuka.
Dibandingkan dengan Uni Eropa, yang memiliki kekuatan investigasi yang lebih jelas dan cakupan regulasi yang komprehensif, Amerika Serikat telah mengadopsi pendekatan desentralisasi terhadap regulasi AI, dengan beberapa negara bagian dan lembaga memajukan tata kelola AI pada tingkat yang lebih rendah. Akibatnya, inisiatif pengaturan AI nasional sangat luas dan berprinsip.
Misalnya, "Cetak Biru" adalah peristiwa penting dalam kebijakan tata kelola intelijen buatan AS. Ini telah merumuskan lima prinsip dasar termasuk sistem yang aman dan efektif, pencegahan diskriminasi algoritmik, perlindungan privasi data, pemberitahuan dan penjelasan, dan partisipasi manusia dalam pengambilan keputusan. -pembuatan Tidak ada ketentuan yang lebih rinci.
Peng Xiaoyan percaya bahwa "Cetak Biru" tidak merumuskan langkah-langkah implementasi khusus, tetapi membangun kerangka dasar untuk pengembangan kecerdasan buatan dengan cara yang berprinsip, yang bertujuan untuk memandu desain, penggunaan, dan penerapan sistem kecerdasan buatan.
“Standar seperti ini tidak wajib. Ini karena Amerika Serikat menganggap mendukung pengembangan industri kecerdasan buatan. Saat ini, kecerdasan buatan masih dalam tahap pengembangan, dan pengawasan intensitas tinggi terikat untuk membatasi pengembangan industri dan inovasi sampai batas tertentu. Oleh karena itu, Amerika Serikat mempertahankan sikap yang relatif sederhana dalam undang-undang," kata Peng Xiaoyan.
"Tanpa undang-undang yang memberikan kekuatan baru kepada agensi, mereka hanya dapat mengatur penggunaan kecerdasan buatan sesuai dengan kekuatan yang sudah mereka miliki. Di sisi lain, prinsip etika terkait kecerdasan buatan tetap kurang diatur, dan agensi dapat memutuskan bagaimana mengaturnya sendiri . Hak pakai yang mana.” Menurut analis Carnegie Hadrien Pouget, hal ini membuat lembaga federal yang dipimpin oleh Gedung Putih dibatasi dan bebas.
Konsep tata kelola AI yang didominasi oleh pemanfaatan dan inovasi ditakdirkan untuk tidak terlalu keras di "tinju" Amerika Serikat. Alex Engler, seorang peneliti di Brookings Institution, sebuah wadah pemikir terkenal Amerika, menunjukkan bahwa Uni Eropa dan Amerika Serikat mengadopsi pendekatan peraturan yang berbeda terhadap kecerdasan buatan yang memiliki dampak sosial seperti pendidikan, keuangan, dan pekerjaan.
Dalam hal aplikasi AI tertentu, "Undang-Undang Kecerdasan Buatan" Uni Eropa memiliki persyaratan transparansi untuk robot obrolan, sementara tidak ada peraturan federal di Amerika Serikat. Pengenalan wajah dianggap sebagai "risiko yang tidak dapat diterima" oleh Uni Eropa, dan Amerika Serikat memberikan informasi publik melalui program pengujian vendor pengenalan wajah National Institute of Standards and Technology (NIST), tetapi tidak mengamanatkan peraturan.
“Jangkauan peraturan UE tidak hanya mencakup aplikasi yang lebih luas, tetapi menetapkan lebih banyak aturan untuk aplikasi AI ini. Sedangkan pendekatan AS lebih terbatas pada mengadaptasi regulator kelembagaan saat ini untuk mencoba mengatur AI, ruang lingkup AI juga banyak lebih terbatas.” Alex Engler mengatakan ada jauh lebih banyak divergensi daripada konvergensi dalam manajemen risiko AI, meskipun prinsipnya identik secara luas.
Zhao Jingwu meringkas model regulasi AI China, Uni Eropa, dan Amerika Serikat, dan menemukan bahwa China terbatas pada skenario aplikasi teknologi kecerdasan buatan, dan telah merumuskan aturan regulasi khusus untuk skenario aplikasi seperti teknologi pengenalan wajah , sintesis mendalam, dan rekomendasi otomatis. UE dipandu oleh tingkat risiko, bergantung pada apakah tingkat risiko aplikasi kecerdasan buatan merupakan tingkat yang dapat diterima. Amerika Serikat menilai legalitas penerapan teknologi kecerdasan buatan dalam kerangka sistem hukum tradisional yang ada.
Selain itu, Amerika Serikat juga lebih memusatkan perhatian pada penelitian kecerdasan buatan dan menginvestasikan lebih banyak dana di dalamnya. Baru pada awal Mei, Gedung Putih mengumumkan investasi sekitar 140 juta dolar AS untuk mendirikan tujuh lembaga penelitian kecerdasan buatan nasional yang baru. Beberapa peneliti percaya bahwa langkah Amerika Serikat ini berharap untuk lebih memahami AI, sehingga mengurangi kekhawatiran yang timbul dari proses regulasi.
Peng Xiaoyan mengatakan bahwa negara saya telah mengadopsi langkah-langkah untuk mendorong pengembangan teknologi kecerdasan buatan sambil mengatur pengelolaan bidang terkait secara terbatas, dan memandu pengembangan teknologi kecerdasan buatan dengan kebijakan dan persyaratan manajemen yang terkoordinasi.
undang-undang negara saya menghadapi banyak masalah praktis
Uni Eropa sedang mempercepat implementasi RUU regulasi AI pertama di dunia.Zhao Jingwu mengatakan kepada China News Weekly bahwa tindakan regulasi kecerdasan buatan "sistem tingkat risiko" Uni Eropa, konsep regulasi "model umum" yang diusulkan dalam "Undang-Undang Kecerdasan Buatan". , dan peraturan khusus untuk ChatGPT Kewajiban pengungkapan dan kewajiban kepatuhan hak cipta data dari aplikasi kecerdasan buatan generatif merupakan nilai referensi untuk undang-undang kecerdasan buatan negara saya.
Faktanya, undang-undang negara saya tentang kecerdasan buatan sudah dimulai. Pada tahun 2017, Dewan Negara mengeluarkan "Rencana Pengembangan Kecerdasan Buatan Generasi Baru", yang mengusulkan bahwa pada tahun 2025, undang-undang dan peraturan kecerdasan buatan, norma etika, dan sistem kebijakan harus ditetapkan awalnya ditetapkan, dan penilaian dan kebijakan keamanan kecerdasan buatan harus dibentuk.Kemampuan kontrol.
Secara lokal, pada tahun 2022, Kota Shenzhen mengumumkan "Peraturan Promosi Industri Kecerdasan Buatan Zona Ekonomi Khusus Shenzhen", yang dianggap sebagai undang-undang khusus pertama negara saya untuk industri kecerdasan buatan. Dalam “Peraturan” disebutkan bahwa mekanisme pengawasan di bidang kecerdasan buatan harus ditingkatkan untuk mencegah kemungkinan risiko keamanan etika dan risiko kepatuhan yang mungkin timbul pada produk dan layanan kecerdasan buatan.
Saat ini, peraturan kecerdasan buatan negara saya terutama dipromosikan bersama oleh beberapa kementerian dan komisi besar, yang mempromosikan pengaturan dan pengembangan kecerdasan buatan di berbagai bidang. Dokumen normatif seperti "Peraturan tentang Administrasi Rekomendasi Algoritma untuk Layanan Informasi Internet", "Peraturan tentang Administrasi Sintesis Mendalam Layanan Informasi Internet", dan "Tindakan Administratif untuk Layanan Kecerdasan Buatan Generatif (Draf untuk Komentar)" juga telah telah dikeluarkan.
"Dari perspektif norma manajemen historis, peraturan negara saya di bidang kecerdasan buatan mengadopsi langkah-langkah untuk membedakan bidang bisnis dan arah teknis, dan norma manajemen cenderung terdesentralisasi. Ketika norma diperkenalkan, seringkali memiliki karakteristik tepat waktu .Setelah munculnya teknologi khusus Buat peraturan manajemen khusus Peraturan tersebut diundangkan oleh departemen administrasi, dengan fokus pada pengawasan, dan belum ditingkatkan menjadi undang-undang di tingkat peraturan.” Kata Peng Xiaoyan.
Perlu dicatat bahwa pada tanggal 20 Juni, batch pertama daftar pengarsipan algoritme layanan sintesis mendalam domestik dirilis.26 perusahaan termasuk Baidu, Alibaba, Tencent, ByteDance, dan Meituan, dan total 41 algoritme ada dalam daftar.
Saat panasnya undang-undang AI memanas, para ahli domestik mulai menyerukan perkembangan pesat peraturan hukum kecerdasan buatan. Namun, dalam pandangan Zhao Jingwu, undang-undang khusus negara saya tentang kecerdasan buatan dapat dilakukan, tetapi juga menghadapi banyak masalah praktis.
“Yang pertama adalah masalah koneksi sistem antara dokumen legislatif. Hubungan yang berlaku antara undang-undang khusus kecerdasan buatan dan dokumen normatif lainnya belum terselesaikan, terutama konten undang-undang khusus yang tumpang tindih dan undang-undang saat ini yang perlu segera diselesaikan. Yang kedua adalah teknologi kecerdasan buatan Kecepatan pembaruan dan iterasi dipercepat, dan sulit untuk memastikan perkembangan hukum dan teknologi secara bersamaan; ketiga, aturan regulasi untuk kecerdasan buatan kurang integritas, dan aturan regulasi untuk tiga elemen inti data, algoritme, dan daya komputasi masih dalam tahap eksplorasi; keempat, undang-undang kecerdasan buatan Apakah fokusnya harus pada manajemen risiko keamanan atau pada pengembangan industri lebih kontroversial," kata Zhao Jingwu.
Apakah itu "Undang-Undang Kecerdasan Buatan" Uni Eropa, atau peraturan, inisiatif, dan rencana China, Amerika Serikat, dan negara lain untuk AI, mereka mencoba membangun kerangka peraturan komprehensif yang tidak hanya dapat memastikan keamanan, tetapi juga menciptakan kondisi yang lebih baik untuk AI.
Berdasarkan prinsip universalitas ini, Peng Xiaoyan mengatakan kepada China News Weekly bahwa pembentukan undang-undang kecerdasan buatan di negara saya pertama-tama harus didasarkan pada pengembangan dan inovasi yang mendorong secara aktif, sehingga kecerdasan buatan dapat diatur dan dikembangkan di ruang yang relatif terbuka. garis merah.
“Selain itu, masalah hukum di bidang kecerdasan buatan yang menjadi perhatian semua orang saat ini perlu diselesaikan, termasuk namun tidak terbatas pada pelarangan konten ilegal dalam kecerdasan buatan, perlindungan keamanan data kecerdasan buatan, perlindungan kecerdasan buatan. etika dan keamanan, pencegahan pelanggaran kekayaan intelektual, dll. "kata Peng Xiaoyan.
Zhao Jingwu percaya bahwa negara saya harus menetapkan undang-undang kecerdasan buatan yang berorientasi pada perlindungan pengembangan industri.
“Sampai batas tertentu, undang-undang saat ini pada dasarnya dapat memenuhi kebutuhan pengawasan aplikasi teknologi kecerdasan buatan. Mencegah risiko teknologi dan memastikan keamanan teknologi hanyalah proses tata kelola, dan tujuan akhirnya masih perlu kembali ke tingkat pengembangan kecerdasan buatan industri. Lagi pula, undang-undang kecerdasan buatan tidak membatasi pengembangan industri, tetapi untuk memandu dan menjamin perkembangan yang baik dari industri terkait," kata Zhao Jingwu.