Penulis: Cao Jianfeng, Peneliti Senior, Lembaga Penelitian Tencent
Sumber gambar: Dihasilkan oleh AI Tak Terbatas
Abad ke-21 adalah era perkembangan digitalisasi, jaringan, dan kecerdasan yang mendalam. Kecerdasan buatan (AI), sebagai teknologi utama, telah menarik banyak perhatian dari semua lapisan masyarakat. Sepuluh tahun terakhir dianggap sebagai "dekade emas" AI yang diwakili oleh pembelajaran mendalam. ** [1] Melalui pembelajaran mendalam, teknologi jaringan saraf (Neural Networks) di bidang AI mengantarkan pemulihan, mengantarkan "musim semi ketiga" dari perkembangan pesat di bidang AI. Sebelumnya, sejak konsep "kecerdasan buatan" diusulkan pada Konferensi Dartmouth pada tahun 1956, bidang AI telah mengalami dua pasang surut. Secara khusus, konvergensi dan pengembangan banyak elemen teknis seperti algoritme pembelajaran mesin, data besar, komputasi awan, chip khusus AI, dan kerangka kerja perangkat lunak sumber terbuka telah mendorong kemajuan luar biasa di bidang AI. teknologi tujuan umum baru dan basis cerdas ekonomi dan masyarakat, dan digunakan secara luas di berbagai bidang ekonomi dan masyarakat, menghadirkan produk dan layanan baru. Dari rekomendasi algoritme, konten buatan AI (AIGC), dan chatbot di bidang Internet konsumen, hingga kendaraan tak berawak di bidang industri, perangkat lunak medis AI, pemeriksaan kualitas AI, dan berbagai aplikasi praktis dalam layanan publik sosial, AI memiliki dampak yang besar pada ekonomi Nilai besar pembangunan sosial berkualitas tinggi terus ditunjukkan. [2] Singkatnya, sebagai teknologi strategis yang memimpin babak baru revolusi teknologi dan transformasi industri (revolusi industri keempat), AI diharapkan dapat membentuk kembali ekonomi manusia dan masyarakat, dan akan berdampak besar pada produktivitas, ketenagakerjaan, distribusi pendapatan, globalisasi, dll.
**Dalam konteks ini, AI telah menjadi fokus baru persaingan internasional, dan negara-negara di seluruh dunia telah memperkenalkan strategi pengembangan AI dan kebijakan khusus untuk meraih keunggulan strategis dan peluang pengembangan. ** Pada Juli 2017, China merilis "Rencana Pengembangan Kecerdasan Buatan Generasi Baru", dan AI diangkat menjadi strategi nasional; pada April 2018, UE mengeluarkan strategi AI, yang bertujuan menjadikan UE sebagai pusat AI kelas dunia dan memastikan bahwa AI berorientasi pada manusia , kredibel; pada Februari 2019, "Rencana AI Amerika" dirilis, meluncurkan strategi AI, yang bertujuan untuk meningkatkan kepemimpinan Amerika Serikat di bidang AI; pada September 2021, Inggris mengeluarkan strategi AI, berharap untuk membangun Inggris Untuk negara adidaya AI. Menganalisis strategi AI dari berbagai negara, tidak sulit untuk melihat bahwa persaingan internasional di bidang AI tidak hanya terkait dengan inovasi teknologi dan ekonomi industri, tetapi juga melibatkan dimensi seperti tata kelola AI. Dengan meluasnya penerapan AI, banyak masalah etika ilmiah dan teknologi yang dibawa oleh AI terus menarik perhatian besar dari semua lapisan masyarakat, seperti diskriminasi algoritme, kepompong informasi, pengambilan keputusan AI yang tidak adil, penyalahgunaan informasi pribadi dan pelanggaran privasi, AI keamanan, kotak hitam algoritme, Tanggung jawab, penyalahgunaan teknologi (seperti pembunuhan data besar, penipuan AI, dan informasi palsu sintetis), dampak pekerjaan dan ketenagakerjaan, dampak etika dan moral, serta tantangan risiko lainnya. [3] Oleh karena itu, seiring dengan pesatnya perkembangan dan penerapan teknologi AI dalam sepuluh tahun terakhir, semua lapisan masyarakat di dalam dan luar negeri secara bersamaan mempromosikan tata kelola AI, mengeksplorasi berbagai langkah tata kelola dan mekanisme jaminan seperti undang-undang, kerangka kerja etis, standar dan sertifikasi, dan praktik terbaik industri untuk mendukung pengembangan AI yang bertanggung jawab, Tepercaya, dan berpusat pada manusia.
Berdasarkan perspektif internasional, artikel ini memilah kemajuan penting Tiongkok di bidang tata kelola AI dalam sepuluh tahun terakhir, menganalisis dan merangkum hukum dan tren, serta menantikan perkembangan di masa mendatang. Di masa mendatang, seiring AI menjadi lebih mampu, penerapan dan dampaknya akan semakin dalam dari hari ke hari.Oleh karena itu, AI yang bertanggung jawab (Responsible AI) akan menjadi semakin penting. Kemajuan dan penerapan AI yang bertanggung jawab tidak dapat dipisahkan dari tata kelola AI yang wajar dan efektif. Dengan kata lain, membangun tata kelola AI yang baik adalah satu-satunya cara untuk bergerak menuju AI yang bertanggung jawab dan memastikan pengembangan AI di masa depan. Artikel ini diharapkan dapat membantu pengembangan dan penerapan tata kelola AI secara berkelanjutan di masa mendatang.
Delapan Tren Tata Kelola AI
Strategi makro dan kebijakan implementasi dikembangkan secara bersamaan untuk menumbuhkan daya saing AI nasional
Sejak "Guiding Opinions on Promoting the Orderly and Healthy Development of Internet of Things" yang dikeluarkan pada Februari 2013 mengedepankan "economic and social intelligent development", AI telah memasuki bidang visi strategi makro nasional dan telah menjadi topik penting dokumen kebijakan tingkat atas nasional. Misalnya, pada tahun 2015, "Opini Pemandu tentang Secara Aktif Mempromosikan Aksi "Internet Plus"" mengusulkan untuk pertama kalinya "memupuk dan mengembangkan industri kecerdasan buatan yang sedang berkembang". Sejak saat itu, negara ini semakin memperhatikan AI, dan terus menerapkan pengembangan AI di tingkat strategis untuk memastikan bahwa teknologi inti dapat dikendalikan sendiri dan mendorong kemandirian dan kemandirian teknologi tingkat tinggi. ketergantungan (Tabel 1).
Kebijakan pendaratan sama pentingnya. AI adalah kompleks teknologi baru dan industri baru, hanya ketika inovasi teknologi AI diubah menjadi ekologi industri yang berkelanjutan dan terintegrasi secara mendalam dengan ekonomi nyata, AI dapat sepenuhnya memainkan perannya yang kuat sebagai mesin pertumbuhan baru. Dalam hal ini, model first-first-trial seperti test area dan pilot area memegang peranan penting. Kementerian Sains dan Teknologi telah membuat pencapaian luar biasa dalam pembangunan zona percontohan inovasi dan pengembangan kecerdasan buatan.Negara ini telah menyetujui pembangunan 18 zona percontohan inovasi dan pengembangan kecerdasan buatan generasi baru nasional, yang telah memainkan peran yang baik dalam kebijakan alat, model aplikasi, pengalaman dan praktik, peran. Sejak 2019, Kementerian Perindustrian dan Teknologi Informasi telah menyetujui pembangunan 11 zona percontohan inovasi kecerdasan buatan nasional dan aplikasi untuk mempromosikan integrasi mendalam AI dan ekonomi nyata; "Guiding Opinions on Quality Development", fokus pada penyelesaian masalah Aplikasi AI dan industrialisasi, dan gunakan troika "basis data + platform daya komputasi + pembukaan adegan" untuk mendorong integrasi mendalam antara AI dan pembangunan ekonomi dan sosial, dan mendukung pembangunan berkualitas tinggi dengan lebih baik.
Dengan dukungan berkelanjutan dari strategi makro nasional dan kebijakan implementasi, inovasi dan kewirausahaan di bidang AI di Tiongkok terus aktif. Laboratorium nasional di bidang AI telah didirikan satu demi satu, dan pencapaian penting telah dibuat dalam inovasi teknologi, aplikasi industri, dan skala bakat di bidang AI. . "Laporan Indeks Inovasi Kecerdasan Buatan Global 2021" yang dirilis oleh Institut Informasi Ilmiah dan Teknologi Tiongkok menunjukkan bahwa perkembangan AI global saat ini menyajikan pola keseluruhan yang dipimpin oleh Tiongkok dan Amerika Serikat serta persaingan sengit di antara negara-negara besar. [4] Perkembangan AI China telah mencapai hasil yang luar biasa. Tingkat inovasi AI telah memasuki eselon satu dunia, dan jarak dengan Amerika Serikat semakin menyempit. Pusat superkomputer China, skala perusahaan AI, jumlah pendaftaran paten, pembangunan tim bakat, dan kekuatan penelitian ilmiah semuanya memimpin dunia. Di masa depan, kontribusi AI terhadap pertumbuhan ekonomi dan perkembangan sosial China akan terus meningkat. Sebuah laporan penelitian oleh PricewaterhouseCoopers memperkirakan bahwa secara global, pada tahun 2030, kontribusi AI terhadap ekonomi global akan mencapai 15,7 triliun dolar AS, dan China akan meraup keuntungan ekonomi terbesar dari AI, mencapai 7 triliun dolar AS, yang berarti AI akan Mempromosikan Pertumbuhan PDB China sekitar 26,1%, diikuti Amerika Serikat dan Amerika Utara, akan mencapai 3,7 triliun dolar AS. [5]
Sistem etika ilmiah dan teknologi terus ditingkatkan dan menjadi jaminan penting bagi inovasi AI
Di era digital, teknologi digital yang muncul seperti AI memiliki keunikan dan kompleksitas yang berbeda dengan penerapan teknologi di era industri. Terutama tercermin dalam: (1) Konektivitas yang lebih luas, koneksi jaringan, serta pengumpulan dan pemrosesan data ada di mana-mana; (2) Otonomi yang lebih kuat, sistem AI menggerakkan berbagai produk dan layanan untuk beroperasi secara mandiri tanpa campur tangan manusia; (3) Keburaman yang lebih dalam, "algorithmic black kotak" dari sistem AI sulit untuk dipahami dan dijelaskan; [6] (4) Fidelitas yang lebih tinggi, konten, data, dan dunia virtual yang dihasilkan dan disintesis oleh AI semakin mendekati kenyataan. Karena itu, masalah sosial dan etika yang mungkin disebabkan oleh penerapan teknologi baru seperti AI semakin ditandai dengan tiba-tiba, penyembunyian, skala, dan ketidakpastian, yang menimbulkan tantangan baru bagi tata kelola etika sains dan teknologi. Dalam proses pengembangan dan penerapan AI, menjadi semakin perlu dan penting untuk secara bersamaan mempertimbangkan atau bahkan mempertimbangkan masalah etika ilmiah dan teknologi terlebih dahulu. [7] Penyesuaian dan peningkatan sistem etika ilmu pengetahuan dan teknologi dengan demikian menjadi isu penting di era AI. Perlu adanya pergeseran dari fokus pada etika manusia menjadi fokus pada etika teknis, menerapkan batasan moral pada agen cerdas, dan membangun tatanan sosial digital yang ramah. [8] Lebih jauh lagi, dengan persaingan global yang semakin intensif dalam iptek, etika iptek tidak hanya terkait dengan pencegahan risiko dan tantangan keamanan teknologi, tetapi juga untuk membangun daya saing teknologi nasional.
**Sejak Kongres Nasional Partai Komunis Tiongkok ke-18, negara semakin memperhatikan etika iptek, dengan jelas menyatakan bahwa etika iptek adalah kriteria nilai yang harus diikuti dalam kegiatan iptek , dan telah memasukkan etika sains dan teknologi ke dalam desain kebijakan tingkat atas sebagai dukungan dan jaminan penting untuk inovasi sains dan teknologi. ** "Keputusan Komite Sentral Partai Komunis Tiongkok tentang Mengikuti dan Meningkatkan Sistem Sosialis dengan Karakteristik Tiongkok dan Mempromosikan Modernisasi Sistem Pemerintahan Nasional dan Kemampuan Pemerintahan" dan "Rencana Lima Tahun Keempat Belas dan Garis Besar -term Goals for 2035" telah membuat penyebaran tingkat atas untuk etika sains dan teknologi, Diperlukan untuk meningkatkan sistem tata kelola etika sains dan teknologi dan meningkatkan sistem etika sains dan teknologi. Saat ini, negara terus membangun dan meningkatkan sistem etika iptek, dan membentuk konsep budaya dan mekanisme penjaminan iptek untuk kebaikan. Ini terutama tercermin dalam tiga aspek berikut:
**Pertama, membentuk Komite Etika Iptek Nasional, yang bertanggung jawab untuk membimbing, mengkoordinasikan dan mempromosikan pembangunan sistem tata kelola etika Iptek nasional. **Pada Juli 2019, Pertemuan Kesembilan Komite Reformasi Pendalaman Komprehensif Pusat meninjau dan menyetujui "Rencana Pembentukan Komite Etika Sains dan Teknologi Nasional", yang secara resmi mendirikan organisasi manajemen etika sains dan teknologi nasional China. "Pendapat tentang Penguatan Tata Kelola Etika Sains dan Teknologi" yang dikeluarkan pada Maret 2022 semakin memperjelas tanggung jawab manajemen Komite Etika Sains dan Teknologi Nasional.
**Kedua, mensosialisasikan kebijakan dan peraturan terkait etika iptek untuk mendukung pelaksanaan tata kelola etika iptek. ** Salah satu yang menarik dari "UU Kemajuan Ilmu Pengetahuan dan Teknologi" yang direvisi pada Desember 2021 adalah penambahan ketentuan terkait etika ilmu pengetahuan dan teknologi. Mata pelajaran seperti perguruan tinggi, perusahaan dan lembaga publik harus melakukan tanggung jawab utama ilmiah dan manajemen etika teknologi, melakukan tinjauan etis terhadap kegiatan ilmiah dan teknologi, dan pada saat yang sama mengklarifikasi garis dasar hukum dan etika dari kegiatan penelitian, pengembangan dan penerapan ilmu pengetahuan dan teknologi. “Pendapat tentang Penguatan Tata Kelola Etis Iptek” mengedepankan persyaratan yang lebih komprehensif untuk tata kelola etis ilmu pengetahuan dan teknologi, yang melibatkan enam aspek utama: persyaratan umum, prinsip, sistem, jaminan kelembagaan, tinjauan dan pengawasan, pendidikan dan publisitas, dan meletakkan dasar penerapan tata kelola etik iptek Implementasi meletakkan dasar. Tindak lanjut juga akan disusun regulasi pendukung seperti metode kajian etika iptek, daftar kegiatan iptek berisiko tinggi dalam etika iptek, dan norma etik iptek bidang subdivisi.
**Ketiga, menekankan tata kelola etika sains dan teknologi di bidang AI. **Komite Profesional Tata Kelola Kecerdasan Buatan Generasi Baru Nasional telah secara berturut-turut mengeluarkan "Prinsip Tata Kelola Kecerdasan Buatan Generasi Baru-Mengembangkan Kecerdasan Buatan yang Bertanggung Jawab" dan "Etika Kecerdasan Buatan Generasi Baru", yang memberikan pedoman etis untuk pengembangan AI yang bertanggung jawab. "Hukum Keamanan Data", "Peraturan Manajemen Rekomendasi Algoritma Layanan Informasi Internet", "Opini Pemandu tentang Penguatan Tata Kelola Algoritma Layanan Informasi Internet yang Komprehensif" dan undang-undang dan peraturan lainnya mengedepankan persyaratan etika ilmiah dan teknologi serta langkah-langkah manajemen untuk data dan algoritme kegiatan. "Pendapat tentang Penguatan Tata Kelola Etika Iptek" menganggap AI, ilmu hayati, dan kedokteran sebagai tiga bidang utama selama periode "Rencana Lima Tahun ke-14", membutuhkan perumusan norma dan pedoman etika iptek khusus, memperkuat undang-undang etika sains dan teknologi, dan membutuhkan eksekutif industri yang relevan Departemen meluncurkan tindakan pengawasan etika sains dan teknologi. Regulasi etika teknologi di bidang AI diperkirakan akan diperkuat di masa mendatang. Selain itu, undang-undang tingkat lokal seperti "Peraturan Promosi Industri Kecerdasan Buatan Shenzhen" dan "Peraturan Shanghai tentang Promosi Pengembangan Industri Kecerdasan Buatan" sama-sama menganggap tata kelola etis AI sebagai jaminan penting untuk mendukung perkembangan AI yang sehat industri.
**Dari analisis di atas, dapat dilihat bahwa dalam tata kelola etika iptek AI, kecenderungan yang signifikan adalah mengambil tanggung jawab mata pelajaran etika iptek manajemen sebagai titik awal utama, yang serupa untuk penekanan pada tanggung jawab subjek platform dalam pengawasan platform Internet.Kesamaan tertentu. **Pengawasan pemerintah terhadap platform sebagian besar dicapai melalui implementasi dan pemadatan tanggung jawab utama platform. Undang-undang yang relevan di bidang Internet telah menetapkan sistem kewajiban platform yang komprehensif sebelum, selama, dan setelah acara. Administrasi Pasar Negara Pengawasan menerbitkan "Pedoman untuk Melaksanakan Tanggung Jawab Subjek pada Platform Internet (Draf untuk Komentar)" mencoba menyempurnakan tanggung jawab subjek dari berbagai jenis platform. Peraturan pemerintah tentang AI menunjukkan gagasan serupa. Kebijakan dan peraturan yang relevan saat ini mencoba untuk menyempurnakan tanggung jawab mata pelajaran manajemen etika ilmu pengetahuan dan teknologi, yang membutuhkan mata pelajaran inovasi untuk membentuk komite etika, mematuhi garis bawah etika ilmu pengetahuan dan teknologi, melakukan tinjauan etika ilmu pengetahuan dan teknologi, melaksanakan ilmu pengetahuan dan teknologi pemantauan risiko etika, peringatan dini dan penilaian, dan melakukan pelatihan etika ilmiah dan teknologi.
Penerapan algoritme di bidang Internet telah menjadi objek utama pengawasan AI
Rekomendasi algoritme, pengambilan keputusan otomatis algoritme, sintesis mendalam AI, dan aplikasi algoritme lainnya di bidang Internet telah menjadi fokus pengawasan pemerintah di bidang AI karena faktor-faktor seperti aplikasi yang luas, perhatian publik yang tinggi, dan penyorotan masalah negatif yang terus menerus . Dalam beberapa tahun terakhir, negara telah mengumumkan serangkaian undang-undang dan peraturan untuk secara aktif mengatur penerapan algoritme di bidang Internet. [9] "Pendapat Panduan tentang Penguatan Tata Kelola Algoritma Layanan Informasi Internet yang Komprehensif" yang dikeluarkan oleh Kantor Informasi Internet Negara dan sembilan departemen lainnya mengajukan persyaratan manajemen yang relatif komprehensif. Diharapkan dalam waktu sekitar tiga tahun, mekanisme tata kelola yang baik, pengawasan yang baik sistem, dan standar ekologi algoritmik akan ditetapkan secara bertahap Pola tata kelola komprehensif keamanan algoritmik. Pendapat tersebut juga menekankan penguatan tanggung jawab perusahaan, termasuk tanggung jawab keamanan algoritma dan tinjauan etika ilmiah dan teknologi.
Dalam hal rekomendasi algoritme, "Peraturan tentang Tata Kelola Ekologi Konten Informasi Jaringan" mengusulkan untuk meningkatkan intervensi manusia dan mekanisme pemilihan sendiri pengguna untuk teknologi rekomendasi algoritme. "Peraturan tentang Administrasi Rekomendasi Algoritma untuk Layanan Informasi Internet", yang akan diterapkan pada 1 Maret 2022, adalah undang-undang pertama China yang berfokus pada tata kelola algoritme. Serangkaian tindakan pengaturan seperti pemantauan risiko keamanan, penilaian keamanan algoritme, dan manajemen pengarsipan algoritme semakin memperkuat tanggung jawab keamanan algoritme perusahaan platform. Orang dalam industri menganggap ini sebagai tanda dan menyebut 2022 sebagai tahun pertama regulasi algoritme.
Dalam hal pengambilan keputusan otomatis algoritmik, "Hukum Perlindungan Informasi Pribadi Republik Rakyat Tiongkok", "Hukum E-Commerce Republik Rakyat Tiongkok", "Ketentuan Sementara tentang Layanan Manajemen Pariwisata Online" dan ketentuan lainnya memiliki relevansi ketentuan tentang diskriminasi algoritme, pengenalan data besar, dll. Untuk mengatur perilaku pengambilan keputusan algoritme yang sah, metode regulasi seperti memberikan hak pilihan kepada individu, melakukan penilaian dampak, dan individu dapat meminta penjelasan dan menikmati hak penolakan diusulkan untuk lebih baik menyeimbangkan perlindungan hak pribadi dan aktivitas aplikasi komersial dari algoritma.
Dalam hal sintesis dalam AI (terutama mengacu pada penggunaan teknologi AI untuk menghasilkan dan mensintesis konten informasi), undang-undang yang relevan secara aktif menggambarkan garis merah untuk penerapan teknologi sintesis dalam AI dan mempromosikan penerapan teknologi yang positif, seperti " Peraturan Manajemen Layanan Informasi Audio dan Video Jaringan", "Jaringan Peraturan Tata Kelola Ekologi Konten Informasi, Peraturan Administrasi Rekomendasi Algoritma Layanan Informasi Internet, dll. semuanya melarang penggunaan algoritme sintesis mendalam untuk informasi berita palsu dan aktivitas ilegal lainnya . "Peraturan tentang Administrasi Deep Synthesis of Internet Information Services" yang disahkan pada November 2022 merangkum pengalaman regulasi sebelumnya dan secara komprehensif mengatur penerapan teknologi deep synthesis dalam hal tanggung jawab utama penyedia layanan deep synthesis dan pengelolaan konten informasi deep synthesis identifikasi Langkah-langkah keamanan yang diperlukan seperti identifikasi, deteksi dan identifikasi, dan ketertelusuran konten memastikan bahwa penerapan teknologi sintesis dalam aman dan andal, dan lebih baik mempromosikan inovasi dan pengembangan teknologi dan aplikasi positif.
Secara keseluruhan, pengawasan algoritme di bidang Internet menekankan berbagai tujuan seperti keamanan dan pengendalian, perlindungan hak dan kepentingan, keadilan dan keadilan, keterbukaan dan transparansi, dan pencegahan penyalahgunaan.Berdasarkan klasifikasi dan klasifikasi aplikasi algoritme, ini berfokus pada pengaturan aplikasi algoritma berisiko tinggi. Regulasi penilaian dan klasifikasi algoritme serupa dengan regulasi sistem AI di European Union Artificial Intelligence Act.persyaratan regulasi yang berbeda. Dalam konteks ini, komunitas akademik memiliki minat yang kuat dalam penelitian tata kelola algoritmik, dan telah mengajukan banyak gagasan seperti interpretasi algoritme, penilaian dampak algoritme, dan audit algoritme. Kedepannya, semua lapisan masyarakat perlu lebih mendalami dan menyempurnakan metode dan langkah-langkah tata kelola pengawasan algoritme, sehingga dapat lebih memastikan penerapan algoritme ke atas dan baik.
Menggunakan inovasi regulasi untuk mempromosikan penerapan AI di bidang regulasi tradisional yang kuat
Untuk bidang peraturan tradisional yang kuat seperti transportasi dan perawatan medis, masalah utama yang dihadapi hal-hal baru seperti mobil self-driving, drone berawak (mobil terbang tak berawak), perangkat lunak medis AI, dll. adalah aplikasi komersialnya masih menghadapi tantangan yang lebih besar. dan hambatan regulasi. Hambatan ini tidak hanya memengaruhi kepercayaan konsumen dan publik terhadap teknologi, tetapi juga mematahkan semangat para inovator dan investor. Oleh karena itu, inovasi regulasi yang efektif menjadi kunci pengembangan dan penerapan hal-hal baru tersebut. Mengambil mobil self-driving sebagai contoh, penerapan komersial mobil self-driving hanya dapat dipercepat dengan mempercepat reformasi kerangka legislatif dan peraturan yang ditujukan untuk mengatur mobil tradisional dan pengemudi manusia, dan kemudian membentuk kerangka regulasi baru dan efektif.
Pembuat kebijakan China secara aktif menginovasi metode dan sarana regulasi, dan mendukung serta mempromosikan penerapan hal-hal AI baru melalui "Regulatory Sandbox" (Regulatory Sandbox, lihat pengantar di bawah), proyek percontohan, dan aplikasi demonstrasi. Di bidang mobil self-driving, negara telah mengeluarkan serangkaian undang-undang dan dokumen normatif untuk mendorong, mendukung dan mengatur kegiatan uji jalan dan aplikasi demonstrasi mobil self-driving, menjelajahi "kotak pasir peraturan" standar keselamatan untuk diri sendiri -mengemudi mobil, dan meningkatkan standarisasi mobil self-driving Aturan lintas masuk dan masuk jalan untuk memastikan keamanan transportasi mobil self-driving. Karena kebijakan peraturan yang menguntungkan, tempat-tempat seperti Beijing, Shanghai, Guangzhou, dan Shenzhen telah merebut dataran tinggi pembangunan satu demi satu. Beberapa kota telah mengeluarkan izin operasi uji coba untuk mobil tanpa pengemudi yang tidak mengizinkan pengemudi di dalam mobil dan dapat dioperasikan dengan biaya tertentu ; Shenzhen adalah negara pertama yang mengeluarkan " Peraturan tentang Administrasi Kendaraan Terhubung Cerdas Shenzhen menetapkan kerangka kerja legislatif dan peraturan untuk aplikasi komersial. Di bidang perawatan medis AI, karena perangkat lunak medis AI memiliki banyak fitur baru yang berbeda dari perangkat medis tradisional, termasuk otonomi, kemampuan belajar dan evolusi, iterasi berkelanjutan, kotak hitam algoritme, ketidakpastian, dll., sulit untuk prosedur persetujuan tradisional untuk beradaptasi secara efektif dengan perawatan medis AI Kebutuhan pengembangan perangkat lunak. Untuk tujuan ini, otoritas pengatur secara aktif meningkatkan deklarasi pendaftaran dan prosedur persetujuan dan menggunakan spesifikasi manajemen perangkat medis AI, dan mendukung aplikasi klinis yang dipercepat dari perangkat lunak medis AI untuk diagnosis dan perawatan tambahan seperti pencitraan medis cerdas; saat ini, medis AI perangkat lunak telah disetujui di Tiongkok, seperti perangkat lunak diagnosis glaukoma berbantuan AI Tencent Miying dan sistem diagnosis berbantuan AI pneumonia keduanya telah disetujui untuk sertifikat pendaftaran perangkat medis kelas tiga ("tiga jenis sertifikat"). Di masa mendatang, pihak berwenang perlu terus meningkatkan dan mengoptimalkan prosedur pendaftaran, aplikasi, dan persetujuan untuk perangkat lunak medis AI, sehingga aplikasi medis AI dapat meningkatkan penghidupan dan kesejahteraan masyarakat dengan lebih baik.
Mempercepat eksplorasi aturan perlindungan kekayaan intelektual AI
Konten yang dihasilkan AI (AI-Generated Contents, singkatnya AIGC) telah menjadi batas baru AI, mewakili arah pengembangan AI di masa depan [10] . Di bidang Internet, AIGC adalah bentuk produksi konten setelah PGC (produksi konten profesional) dan UGC (konten produksi pengguna), membawa perubahan besar dalam produksi konten otomatis. Saat ini, teknologi AIGC telah mampu memproduksi berbagai bentuk konten secara mandiri, antara lain teks, gambar, audio, video, konten 3D (objek 3D, adegan virtual 3D), dll. Aturan perlindungan hak kekayaan intelektual untuk teknologi AIGC dan aplikasinya telah menjadi isu penting yang tidak dapat dihindari.Masalah seperti "bagaimana menetapkan perlindungan hak cipta dan kepemilikan konten AIGC" dan "apakah teknologi AIGC melanggar hak cipta orang lain konten" adalah masalah mendesak untuk diselesaikan. [11] Beberapa sarjana asing telah menyarankan bahwa perlu untuk menetapkan aturan khusus perlindungan kekayaan intelektual AI dan perjanjian internasional, karena teknologi AI melanggar model yang ada bahwa pencipta dan penemu hanya bisa manusia. [12]
Di dalam dan luar negeri, aturan perlindungan kekayaan intelektual untuk konten yang dihasilkan AI telah dieksplorasi secara aktif. Di luar negeri, Inggris Raya, Uni Eropa, Jepang, Afrika Selatan, dll. sedang mempertimbangkan atau telah merumuskan aturan khusus perlindungan kekayaan intelektual AI, seperti klausul perlindungan karya yang dihasilkan komputer dalam "Undang-Undang Hak Cipta, Desain, dan Paten" Inggris. dan "Petunjuk Hak Cipta Pasar Digital Tunggal Uni Eropa". "Pengecualian hak cipta penambangan data dan teks berdasarkan teknologi AI, dll. Dalam hal paten, kebijakan Inggris menunjukkan bahwa karena AI belum cukup maju untuk menciptakan dan menciptakan secara mandiri, tidak perlu mengubah undang-undang paten saat ini, tetapi perlu memperhatikan kemajuan teknologi dan mengevaluasi AI. masalah paten secara tepat waktu.
Di Tiongkok, dalam kasus Firma Hukum Film Beijing melawan kasus pelanggaran hak cipta “Baijiahao” Baidu, pengadilan memutuskan bahwa hanya karya asli yang dibuat oleh orang perseorangan yang dapat memperoleh perlindungan hak cipta, sehingga menyangkal hak cipta atas karya yang dihasilkan secara langsung dan independen oleh AI. bahwa hak dan kepentingan yang relevan (seperti hak dan kepentingan persaingan) dari konten yang dihasilkan oleh AI dapat dilindungi melalui undang-undang persaingan dan cara lainnya. Dalam kasus Shenzhen Tencent Computer System Co., Ltd. v. Shanghai Yingxun Technology Co., Ltd. atas pelanggaran hak cipta dan perselisihan persaingan tidak sehat, pengadilan, berdasarkan realitas kolaborasi manusia-komputer di bidang AI, menunjukkan bahwa karya yang "dihasilkan" secara teknis dari perangkat lunak penulisan AI Dream writer hanyalah kreasi. Sebagai penghubung dalam proses, keseluruhan aktivitas intelektual yang dibentuk oleh pembagian kerja multi-tim dan multi-orang yang diselenggarakan oleh penggugat adalah mata rantai inti penciptaan, dan dengan demikian ditentukan bahwa artikel yang terlibat dalam kasus ini adalah pekerjaan badan hukum yang diselenggarakan oleh penggugat. Penentuan kasus penulis Dream lebih sejalan dengan perkembangan teknologi AIGC saat ini dan aplikasinya, dan memiliki signifikansi referensi yang besar untuk lebih memperjelas aturan perlindungan kekayaan intelektual untuk konten yang dihasilkan AI melalui undang-undang di masa mendatang. Dalam hal undang-undang, "Hukum Hak Cipta Republik Rakyat Tiongkok" yang baru direvisi pada tahun 2020 mengadopsi metode identifikasi karya terbuka.Sementara mengklarifikasi komposisi karya dan menyebutkan jenis karya utama, juga menetapkan bolak-balik terbuka klausa, menyediakan AIGC dan teknologi baru lainnya.Perlindungan objek baru yang dibawa oleh aplikasi memiliki ruang institusional.
Konstruksi standardisasi adalah bagian penting dari tata kelola AI
**"Garis Besar Pengembangan Standardisasi Nasional" menunjukkan bahwa standardisasi memainkan peran mendasar dan utama dalam mempromosikan modernisasi sistem tata kelola nasional dan kemampuan tata kelola. Untuk bidang AI, standar AI tidak hanya merupakan sarana penting untuk mendukung dan mempromosikan pengembangan, kemajuan, dan penerapan AI secara luas (seperti standar teknis), tetapi juga merupakan cara yang efektif untuk mempromosikan penerapan tata kelola AI (seperti tata kelola standar, standar etika), karena standar tata kelola AI Ini dapat memainkan peran penting dalam "melakukan legislasi dan pengawasan, dan praktik teknis docking". Selain itu, standar di bidang tata kelola AI lebih gesit, fleksibel, dan mudah beradaptasi daripada legislasi dan regulasi. Oleh karena itu, standar tata kelola AI telah menjadi titik tertinggi dalam pengembangan teknologi dan industri AI, dan komunitas internasional telah mengusulkan langkah-langkah implementasi. **Perwakilan umum termasuk standar AI tepercaya Uni Eropa, manajemen risiko AI yang dipimpin Institut Nasional Standar dan Teknologi (NIST) AS, identifikasi diskriminasi AI dan standar tata kelola lainnya, rencana pengembangan ekosistem sertifikasi AI Inggris Raya, standar etika AI IEEE, dll. . Dalam hal implementasi, IEEE telah meluncurkan proyek sertifikasi etika AI untuk industri; Inggris berharap dapat menumbuhkan industri sertifikasi AI terkemuka dunia senilai miliaran pound dalam 5 tahun, dan lulus layanan sertifikasi AI dari pihak ketiga yang netral (termasuk audit, mempengaruhi penilaian, sertifikasi) untuk mengevaluasi dan mengkomunikasikan kredibilitas dan kepatuhan sistem AI.
**Tiongkok sangat mementingkan konstruksi standardisasi di bidang AI. "Garis Besar Pengembangan Standardisasi Nasional" membutuhkan penelitian standardisasi di bidang AI, informasi kuantum, dan bioteknologi. **Dalam beberapa tahun terakhir, semua lapisan masyarakat terus mempromosikan standardisasi standar nasional, standar industri, standar lokal, dan standar grup di bidang tata kelola AI. Misalnya, Komite Manajemen Standardisasi Nasional membentuk Kelompok Umum Standardisasi Kecerdasan Buatan Nasional, dan Komite Teknis Standardisasi Teknologi Informasi Nasional membentuk Komite Sub-Teknis Kecerdasan Buatan, keduanya bertujuan untuk mempromosikan perumusan standar nasional di bidang AI . "Pedoman untuk Pembangunan Sistem Standar Kecerdasan Buatan Generasi Baru Nasional" yang dikeluarkan pada Juli 2020 mengklarifikasi desain tingkat atas di bidang standar AI. AI menetapkan sistem kepatuhan untuk mempromosikan pengembangan AI yang sehat dan berkelanjutan. Ke depan, standar terkait tata kelola AI perlu dirumuskan dan diimplementasikan lebih cepat, sehingga lebih memberikan jaminan bagi inovasi teknologi dan perkembangan industri di bidang AI.
Industri secara aktif mengeksplorasi langkah-langkah disiplin diri untuk tata kelola AI, dan mempraktikkan konsep inovasi dan teknologi yang bertanggung jawab untuk kebaikan
**Tata kelola AI yang efektif memerlukan partisipasi bersama dari berbagai pihak seperti pemerintah, perusahaan, organisasi industri, kelompok akademik, pengguna atau konsumen, dan publik. Diantaranya, tata kelola mandiri dan manajemen disiplin diri perusahaan teknologi adalah bagian penting dari penerapan konsep "ethics first". **Alasan untuk menyerukan "etika pertama" sebagian besar disebabkan oleh fakta bahwa dalam menghadapi perkembangan pesat AI, fenomena "keterlambatan hukum" menjadi semakin menonjol. Di bidang AI, "etika pertama" pertama kali diwujudkan dalam manajemen disiplin diri etika teknologi perusahaan teknologi, dan praktik terbaik perusahaan terkemuka seringkali dapat memainkan peran utama yang sangat baik, mempromosikan praktik inovasi dan teknologi yang bertanggung jawab untuk kebaikan di seluruh ide industri.
Di tingkat industri, dalam beberapa tahun terakhir, lembaga penelitian dan organisasi industri yang relevan telah mengusulkan pedoman etika AI dan konvensi disiplin diri untuk memberikan panduan etis bagi aktivitas AI perusahaan. Perwakilan umum dalam hal ini termasuk "Konvensi Disiplin Diri Industri Kecerdasan Buatan" dan "Panduan Operasi AI Tepercaya" dari Aliansi Pengembangan Industri Kecerdasan Buatan China (AIIA), "Konsensus Kecerdasan Buatan Beijing" dan "Konsensus Kecerdasan Buatan" dari Beijing Institut Penelitian Kecerdasan Buatan Zhiyuan. Deklarasi Tanggung Jawab Industri", "Pedoman Praktik Standar Keamanan Jaringan-Pedoman-Pedoman Praktik Standar Keamanan Informasi Nasional untuk Pencegahan Risiko Keamanan Etis Kecerdasan Buatan", dll.
Di tingkat perusahaan, perusahaan teknologi, sebagai badan utama inovasi teknologi AI dan aplikasi industri, memikul tanggung jawab penting atas penelitian dan pengembangan serta penerapan AI yang bertanggung jawab. Di luar negeri, perusahaan teknologi telah menjelajahi pengalaman yang relatif matang dan mengumpulkan banyak sumber daya, mulai dari mengusulkan prinsip etika AI, hingga mendirikan organisasi tata kelola etika AI internal, hingga mengembangkan alat manajemen dan teknis, dan bahkan solusi AI yang bertanggung jawab secara komersial. 2) [13] . Dalam beberapa tahun terakhir, perusahaan teknologi dalam negeri telah secara aktif menerapkan persyaratan peraturan dan mengeksplorasi langkah-langkah pengaturan mandiri yang relevan, terutama termasuk: menerbitkan prinsip etika AI, membentuk organisasi tata kelola AI internal (seperti komite etika), melakukan tinjauan etika atau penilaian risiko keamanan untuk aktivitas AI , dan mengungkapkan algoritme ke dunia luar Informasi yang relevan, mempromosikan keterbukaan dan transparansi algoritme, dan mengeksplorasi solusi teknis untuk masalah etika AI (seperti alat deteksi dan identifikasi untuk konten informasi sintetik, alat evaluasi tata kelola AI, dan solusi komputasi privasi seperti sebagai pembelajaran federasi), dll.
Kerja sama tata kelola AI global dan persaingan hidup berdampingan
**Persaingan AI global bukan hanya persaingan antara teknologi dan industri, tetapi juga persaingan antara aturan dan standar tata kelola. **Perkembangan ekonomi digital global membentuk aturan internasional baru untuk AI dan data, seperti aliran data, kerangka tata kelola AI, dll. Dalam beberapa tahun terakhir, kerja sama tata kelola AI global terus meningkat. Prinsip AI OECD/G20 2019 adalah kerangka kerja kebijakan AI global pertama. Pada November 2021, Perserikatan Bangsa-Bangsa UNESCO mengesahkan perjanjian etika AI pertama di dunia "Rekomendasi Etika Kecerdasan Buatan" (Rekomendasi Etika Kecerdasan Buatan), yang saat ini merupakan kerangka kerja kebijakan AI global yang paling komprehensif dan disepakati secara luas. , penilaian dampak etis dan mekanisme lain untuk memperkuat tata kelola etika AI.
Pada saat yang sama, Amerika Serikat dan Eropa mempercepat kebijakan AI untuk memperkuat kepemimpinan mereka di bidang kebijakan AI dan memengaruhi aturan dan standar tata kelola AI global. Misalnya, Uni Eropa sedang mengerjakan RUU AI yang diselaraskan yang, ketika diharapkan disahkan pada tahun 2023, akan membentuk jalur regulasi berbasis risiko yang komprehensif untuk AI. Banyak ahli memperkirakan bahwa, seperti dampak undang-undang privasi data GPDR sebelumnya pada industri teknologi global, Undang-Undang AI UE akan memperluas "Efek Brussels" ke bidang AI, yang persis seperti yang diharapkan UE untuk membangun tata kelola AI bagi dunia melalui standar regulasi. [14] Selain undang-undang AI, Dewan Eropa masih merencanakan "Konvensi AI Internasional" pertama di dunia. Sama seperti "Konvensi Kejahatan Dunia Maya" dan "Konvensi Privasi" sebelumnya, baik negara anggota maupun negara non-anggota dapat bergabung dan meratifikasi AI di masa mendatang. Konvensi. [15] Amerika Serikat selalu menjadi pemimpin global di bidang AI dalam hal teknologi dan industri, dan dalam beberapa tahun terakhir mulai aktif membentuk kembali kepemimpinannya di bidang kebijakan AI. Salah satu tugas inti Dewan Perdagangan dan Teknologi AS-UE yang dibentuk pada tahun 2020 adalah mempromosikan kerja sama AS-UE dalam tata kelola AI. [16] Kesimpulannya, persaingan AI global semakin menekankan persaingan soft power di bidang kebijakan dan tata kelola AI, yang dapat dikatakan merupakan pergeseran besar dalam persaingan teknologi di abad ke-21.
Dalam beberapa tahun terakhir, China sangat mementingkan partisipasi dalam tata kelola sains dan teknologi global, secara aktif mengajukan proposisinya sendiri, dan berusaha untuk mendapatkan lebih banyak pengakuan dan konsensus. Misalnya, China telah mengedepankan "Inisiatif Keamanan Data Global", yang terus menyuntikkan energi positif ke tata kelola digital global. Pada November 2022, pada Konferensi Negara-Negara Pihak pada Konvensi Perserikatan Bangsa-Bangsa tentang Senjata Konvensional Tertentu, Tiongkok mengajukan dokumen tentang penguatan tata kelola etika kecerdasan buatan, dan mengajukan proposisi seperti pertama-tama berpegang pada etika, memperkuat disiplin diri, penggunaan kecerdasan buatan yang bertanggung jawab, dan mendorong kerja sama internasional.
PANDANGAN TIGA POIN
Berbagai kebijakan dan dokumen normatif seperti “Rencana Lima Tahun ke-14 dan Garis Besar Tujuan Jangka Panjang Tahun 2035”, “Pembangunan Negara Hukum di Tiongkok (2020-2025)”, “Opini tentang Penguatan Tata Kelola Etis Sains dan Teknologi" serta kebijakan dan dokumen normatif lainnya menunjukkan bahwa tata kelola AI terus menjadi isu utama dalam tata kelola sains dan teknologi. Area inti etika teknologi. Untuk lebih meningkatkan daya saing global China di bidang AI, China tidak hanya perlu lebih memperhatikan budidaya teknologi dan hard power industri, tetapi juga perlu fokus pada pembentukan soft power, terutama hak untuk berbicara dan memimpin dalam kebijakan dan tata kelola AI . Karena tata kelola AI telah menjadi bagian penting dari daya saing AI global.
Menengok ke belakang, China telah mengklarifikasi gagasan pengawasan dan tata kelola AI yang memberikan perhatian yang sama pada pengembangan dan keamanan, serta inovasi dan etika yang paralel. Sambil mendukung dan mempromosikan inovasi dan pengembangan, ini juga memastikan keamanan, keandalan, dan kemampuan kontrol dari aplikasi teknologi. Menghadapi masa depan, kita perlu memanfaatkan upaya bersama pemerintah, industri/perusahaan, lembaga penelitian, organisasi sosial, pengguna/konsumen, publik, media, dan pemangku kepentingan lainnya dengan lebih baik untuk terus mempromosikan perkembangan AI yang sehat praktik tata kelola dan membuat AI Lebih Baik memberi manfaat bagi pembangunan ekonomi dan sosial, meningkatkan penghidupan dan kesejahteraan masyarakat, serta mendorong ilmu pengetahuan dan teknologi ke tingkat yang lebih tinggi.
Selain itu, "dekade emas" AI yang lalu telah membawa model AI yang semakin kuat kepada orang-orang, dan di masa mendatang, AI hanya akan menjadi lebih kuat. Artinya, ketika AI berinteraksi dengan ekosistem sosial, kemungkinan dampaknya terhadap manusia, sosial, dan lingkungan akan jauh melebihi teknologi sebelumnya. Oleh karena itu, tugas utama tata kelola AI adalah terus mengadvokasi dan mempraktikkan konsep "AI yang bertanggung jawab"; Untuk menciptakan nilai bagi pemangku kepentingan dan meningkatkan kesejahteraan mereka, dan untuk mencegah penyalahgunaan, penyalahgunaan, dan penggunaan yang buruk. Singkatnya, tata kelola AI yang efektif perlu mendorong pengembangan praktik AI yang bertanggung jawab dan menciptakan AI yang dapat dipercaya (Trustworthy AI).
Terus tingkatkan data dan kerangka hukum AI serta promosikan pengawasan yang tepat dan tangkas
Perkembangan AI yang sehat dan berkelanjutan tidak terlepas dari pengawasan yang wajar dan efektif di satu sisi, dan di sisi lain perlu terus meningkatkan tingkat penyediaan dan peredaran serta pemanfaatan data di bidang AI. Faktanya, salah satu masalah utama yang dihadapi pengembangan dan penerapan AI di banyak bidang seperti perawatan medis, manufaktur, dan keuangan adalah masalah akuisisi dan pemanfaatan data, termasuk akuisisi data yang sulit, kualitas data yang buruk, dan standar data yang tidak konsisten. Oleh karena itu, pengembangan lebih lanjut AI di masa depan sangat bergantung pada peningkatan berkelanjutan dari data dan kerangka hukum AI. "Rencana Regulasi Digital" Inggris mengusulkan bahwa regulasi yang dirancang dengan baik dapat memiliki efek yang kuat dalam mempromosikan pembangunan dan membentuk ekonomi dan masyarakat digital yang dinamis, tetapi regulasi yang dirancang dengan buruk atau restriktif dapat menghambat inovasi. Aturan yang tepat dapat membantu orang mempercayai produk dan layanan yang mereka gunakan, yang pada gilirannya akan mendorong popularitas produk dan layanan serta konsumsi, investasi, dan inovasi lebih lanjut. [17] Hal yang sama berlaku untuk AI.
** Di satu sisi, untuk tata kelola AI, perlu untuk mempromosikan pengawasan yang tepat dan gesit dengan lebih baik. Ini termasuk: Pertama, terapkan aturan yang berbeda untuk produk, layanan, dan aplikasi AI yang berbeda. **Karena aplikasi AI hampir ada di mana-mana sekarang, sulit bagi aturan satu ukuran untuk semua untuk beradaptasi secara wajar dengan karakteristik unik aplikasi AI di berbagai industri dan bidang serta dampaknya terhadap individu dan masyarakat. Ini mengharuskan kami untuk mengadopsi kerangka kerja kebijakan tata kelola AI berbasis risiko. Misalnya, teknologi AI yang sama dapat digunakan tidak hanya untuk menganalisis dan memprediksi atribut dan preferensi pribadi pengguna, dan untuk mendorong konten yang dipersonalisasi, tetapi juga untuk membantu diagnosis dan pengobatan penyakit; Klasifikasi dan organisasi juga dapat digunakan untuk mengidentifikasi tumor kanker. Aplikasi ini memiliki perbedaan besar dalam hal tingkat risiko, pentingnya hasil, dan dampak pribadi dan sosial Jelas tidak ilmiah atau realistis untuk mengajukan persyaratan peraturan secara umum dan satu ukuran untuk semua. **Kedua, ini menekankan penerapan pengawasan terdesentralisasi dan terdiferensiasi berdasarkan penilaian dan klasifikasi aplikasi AI. **Sama seperti Internet, AI adalah teknologi yang sangat luas dan serba guna, yang tidak cocok dan sulit untuk melakukan pengawasan terpadu. Dari perspektif asing, saat ini hanya Uni Eropa yang mencoba untuk membangun kerangka peraturan terpadu dan umum untuk semua aplikasi AI (model UE), sedangkan Inggris dan Amerika Serikat menekankan pengawasan industri yang terdesentralisasi berdasarkan skenario dan risiko aplikasi ( model Anglo-Amerika). Inggris mengusulkan untuk dipandu oleh prinsip-prinsip dan untuk mengadopsi pengawasan yang mempromosikan inovasi pada aplikasi AI Konsep intinya meliputi: berfokus pada skenario aplikasi tertentu, dan memastikan proporsionalitas dan kemampuan beradaptasi pengawasan berdasarkan tingkat risiko; [18] Amerika Serikat selalu menekankan jalur tata kelola yang menggabungkan regulasi industri dan disiplin diri industri.Misalnya, "Cetak Biru AI Bill of Rights" tidak hanya mengusulkan lima prinsip, tetapi juga mengklarifikasi gagasan regulasi terdesentralisasi yang dipimpin oleh otoritas industri dan berorientasi skenario aplikasi. [19] Sejauh menyangkut China, undang-undang dan pengawasan AI di masa lalu lebih mirip dengan model Anglo-Amerika, yaitu aturan regulasi terpisah dirumuskan untuk aplikasi AI yang berbeda seperti layanan rekomendasi algoritme, sintesis mendalam, dan mengemudi otonom. Model peraturan yang terdesentralisasi dan berbeda ini sesuai dengan prinsip tata kelola yang gesit dan dapat lebih beradaptasi dengan karakteristik kompleks dari perkembangan pesat dan iterasi teknologi AI dan aplikasinya. **Ketiga, panggilan untuk inovasi berkelanjutan dari kotak alat peraturan dan penerapan inisiatif peraturan yang beragam. Salah satunya adalah "kotak pasir regulasi" AI. ** Salah satu inisiatif utama Uni Eropa dalam regulasi AI adalah "kotak pasir regulasi" AI yang diusulkan. [20] Sebagai cara yang efektif untuk mendukung dan mempromosikan komunikasi dan kolaborasi antara regulator dan subjek inovasi, "kotak pasir regulasi" dapat menyediakan lingkungan yang terkendali untuk mengembangkan, menguji, dan memverifikasi aplikasi AI inovatif yang sesuai. Praktik terbaik dan pedoman implementasi yang dihasilkan dari "regulatory sandbox" akan membantu perusahaan, terutama usaha kecil, menengah, dan mikro serta perusahaan pemula untuk menerapkan aturan regulasi. **Yang kedua adalah layanan sosial tata kelola AI, termasuk standar tata kelola AI, sertifikasi, pengujian, evaluasi, audit, dll. **Di bidang keamanan jaringan, layanan sosial keamanan jaringan seperti sertifikasi keamanan jaringan, pengujian, dan penilaian risiko adalah cara penting untuk menerapkan persyaratan peraturan. Tata kelola AI dapat belajar dari pendekatan ini. Saat ini, Uni Eropa, Inggris Raya, Amerika Serikat, dan IEEE semuanya mempromosikan layanan sosial tata kelola AI. Misalnya, IEEE telah meluncurkan sertifikasi etika AI untuk industri; [21] "Peta Jalan untuk Membangun Ekosistem Sertifikasi AI yang Efektif" yang dikeluarkan oleh Inggris berharap untuk menumbuhkan industri sertifikasi AI terkemuka dunia, melalui layanan sertifikasi AI pihak ketiga yang netral (termasuk penilaian dampak, audit bias dan audit kepatuhan, sertifikasi, penilaian kepatuhan) , pengujian kinerja, dll.) untuk mengevaluasi dan mengomunikasikan kredibilitas dan kepatuhan sistem AI. Inggris percaya ini akan menjadi industri baru bernilai miliaran pound. [22] China perlu mempercepat pembentukan sistem layanan sosial tata kelola AI yang baik, dan menjalankan serta mengimplementasikan undang-undang hulu dan persyaratan peraturan dengan lebih baik melalui layanan tata kelola AI hilir. Selain itu, metode pengaturan seperti pedoman kebijakan, tempat perlindungan yang aman, proyek percontohan, aplikasi demonstrasi, dan akuntabilitas pasca-acara semuanya dapat memainkan peran penting dalam skenario aplikasi yang berbeda.
**Di sisi lain, perlu untuk mempercepat peningkatan kerangka hukum untuk sirkulasi dan pemanfaatan data, dan terus meningkatkan tingkat pasokan data di bidang AI. **Yang pertama adalah membangun kerangka hukum untuk data publik terbuka dan bersama di tingkat nasional, menyatukan kualitas data dan standar tata kelola data, dan menggunakan unduhan data, antarmuka API, komputasi privat (pembelajaran federasi, komputasi multi-pihak yang aman, keamanan dan lingkungan komputasi tepercaya, dll.), data Manajemen yang beragam dan metode teknis seperti Ruang Data untuk mempromosikan pembagian data publik secara maksimal. Kedua, secara aktif menghilangkan berbagai hambatan dalam pengembangan dan penerapan teknologi komputasi privasi dan teknologi data sintetik. Saat ini, dalam sirkulasi dan pemanfaatan berbagai data, teknologi komputasi privasi seperti pembelajaran federasi memainkan peran yang semakin penting, dan dapat mencapai efek seperti "data tersedia/dapat dihitung dan tidak terlihat", "data tidak mengubah algoritme/nilai bergerak". Didorong oleh pengembangan AI dan aplikasi data besar, pembelajaran federasi, sebagai metode promosi dan aplikasi utama di bidang komputasi privasi, saat ini merupakan jalur teknis yang paling matang. Pada langkah selanjutnya, kami dapat mendukung penerapan dan pengembangan teknologi komputasi privasi dengan lebih baik seperti pembelajaran federasi dengan membangun ruang data di area strategis, merumuskan standar industri untuk komputasi privasi, dan mengeluarkan pedoman hukum untuk penerapan teknologi komputasi privasi.
Tata kelola etis AI perlu beralih dari prinsip ke praktik
Dengan berkembangnya pelembagaan dan legalisasi tata kelola etika iptek, penguatan tata kelola etik iptek telah menjadi salah satu "pilihan wajib" dan "pertanyaan wajib" bagi perusahaan iptek. Di bawah konsep "etika pertama", persyaratan untuk tata kelola etika ilmu pengetahuan dan teknologi berarti bahwa perusahaan teknologi tidak dapat berharap untuk menangani masalah etika AI dengan cara tindakan perbaikan setelah fakta, tetapi harus terlibat dalam keseluruhan Siklus hidup AI dari desain hingga pengembangan hingga penerapan, di antaranya, secara aktif memenuhi tanggung jawab badan utama manajemen etika sains dan teknologi, dan secara inovatif mempromosikan disiplin diri etika sains dan teknologi dengan berbagai cara. Secara keseluruhan, dalam masyarakat yang sangat berteknologi dan digital, perusahaan teknologi perlu mempertimbangkan untuk memasukkan tata kelola AI ke dalam lanskap tata kelola perusahaan mereka sebagai modul yang sama pentingnya dengan modul yang sudah ada seperti urusan hukum, keuangan, dan pengendalian risiko. Aspek-aspek berikut layak untuk dieksplorasi lebih lanjut:
**Pertama, dalam hal manajemen, perlu dibentuk mekanisme manajemen risiko etis AI. **Manajemen risiko etis AI perlu dijalankan di seluruh siklus hidup AI, termasuk tahap pra-desain, tahap desain dan pengembangan, tahap penerapan, serta aktivitas pengujian dan evaluasi di seluruh tahap ini, sehingga dapat mengidentifikasi, menganalisis, mengevaluasi secara komprehensif , mengelola, dan mengatur risiko etika AI . Ini bergantung pada perusahaan untuk menetapkan struktur organisasi dan norma manajemen yang sesuai, seperti komite etika, proses tinjauan etika, dan alat manajemen lainnya. Pembuat kebijakan dapat mempertimbangkan untuk mengeluarkan pedoman kebijakan dalam hal ini.
Kedua, dalam hal desain, perlu mengikuti konsep desain yang berorientasi pada orang dan mempraktikkan konsep "Ethics by Design"** (Ethicsby Design). **Desain tersemat yang etis berarti mengintegrasikan nilai-nilai etis, prinsip, persyaratan, dan prosedur ke dalam desain, pengembangan, dan penerapan AI, robotika, dan sistem data besar. Perusahaan perlu merenungkan R&D AI dan proses aplikasi yang dipimpin oleh teknisi, dan lebih menekankan pada beragam latar belakang dan partisipasi aktivitas R&D dan aplikasi AI. Memperkenalkan kebijakan, hukum, etika, masyarakat, filosofi, dan personel multidisiplin dan interdisipliner lainnya ke dalam tim pengembangan teknologi adalah cara paling langsung dan efektif untuk menanamkan persyaratan etika ke dalam desain dan pengembangan teknologi. Di masa mendatang, pembuat kebijakan dapat bergandengan tangan dengan industri untuk meringkas pengalaman dan pelajaran, serta mengeluarkan pedoman teknis, praktik terbaik, dan dokumen lain untuk desain tertanam yang etis.
**Terakhir, dalam hal teknologi, penting untuk terus mengeksplorasi pendekatan teknis dan berorientasi pasar untuk menangani masalah etika AI dan membuat aplikasi AI yang kredibel. **Salah satunya adalah alat etis AI. Banyak masalah dalam aplikasi AI, seperti penjelasan, keadilan, keamanan, perlindungan privasi, dll., Dapat diselesaikan melalui inovasi teknologi. Berfokus pada masalah ini, industri telah mengeksplorasi beberapa alat etika AI dan alat audit AI, dan pekerjaan di masa mendatang di bidang ini perlu dikembangkan lebih lanjut. Yang kedua adalah layanan etika AI (Layanan AIEthicsasa). [23] Ini adalah jalur yang berorientasi pasar. Perusahaan etika AI terkemuka dan perusahaan rintisan etika AI mengembangkan solusi AI yang bertanggung jawab yang berpusat pada alat dan layanan etika AI, dan menyediakannya sebagai layanan komersial. [24] Firma riset dan konsultan Forrester memperkirakan bahwa semakin banyak perusahaan teknologi AI dan perusahaan di bidang lain yang menerapkan AI akan membeli solusi AI yang bertanggung jawab untuk membantu mereka menerapkan prinsip etika AI yang adil dan transparan, dan ukuran pasar layanan etika AI akan berlipat ganda. Yang ketiga adalah metode crowdsourcing teknologi seperti AI Ethics Bounty. Mirip dengan hadiah kerentanan keamanan jaringan (Bug bounty), hadiah diskriminasi algoritme (Bounty Bias Algoritma) dan metode crowdsourcing teknis lainnya yang banyak digunakan oleh perusahaan Internet, ini dapat menemukan, mengidentifikasi, dan memecahkan masalah etika AI, mengembangkan alat audit AI, dan membuat aplikasi AI yang dapat dipercaya akan memainkan peran penting. Beberapa perusahaan asing dan lembaga penelitian universitas, seperti Twitter dan Stanford University, telah meluncurkan Algorithmic Discrimination Bounty Challenge dan AI Audit Challenge, meminta peserta untuk mengembangkan alat untuk mengidentifikasi dan mengurangi diskriminasi algoritmik dalam model AI. Menumbuhkan dan memperkuat komunitas etis AI melalui metode crowdsourcing teknologi ini akan memainkan peran penting dalam tata kelola AI.
Kerja sama tata kelola AI global perlu terus diperdalam
Seperti disebutkan sebelumnya, tata kelola AI global menghadirkan situasi kompetitif, yang tidak sesuai dengan konsep teknologi yang berorientasi pada orang, terbuka dan bersama, serta pembangunan yang inklusif. Negara-negara perlu terus memperdalam kerja sama dalam tata kelola AI internasional, mempromosikan perumusan perjanjian internasional tentang etika dan tata kelola AI, membentuk kerangka kerja, standar, dan norma tata kelola AI internasional dengan konsensus luas, meningkatkan pertukaran dan kolaborasi dalam teknologi, bakat, industri, dll. ., dan menentang eksklusionisme , mempromosikan inklusivitas teknologi dan teknologi untuk kebaikan, dan mewujudkan pembangunan inklusif di semua negara. Partisipasi mendalam China dalam tata kelola teknologi global perlu memanfaatkan babak baru peluang pembuatan aturan internasional di bidang AI dan data, terus mengusulkan solusi tata kelola AI yang sesuai dengan konsensus global, dan terus menyuntikkan kebijaksanaan China ke dalam tata kelola digital global dan tata kelola AI. Pada saat yang sama, kita perlu memperkuat suara internasional kita, mengintegrasikan gagasan, proposisi, dan praktik kita ke dalam komunitas internasional, mengupayakan lebih banyak pengakuan dan konsensus, serta meningkatkan suara dan pengaruh kita.
Menghadapi masa depan, dengan perkembangan teknologi AI yang berkelanjutan, AI akan menjadi semakin kuat, dan AI umum (Artificial General Intelligence, singkatnya AGI) mungkin muncul di masa depan. AI umum akan memiliki tingkat kecerdasan yang setara dengan manusia dan mampu melakukan tugas intelektual apa pun yang mampu dilakukan oleh manusia. Secara teori, AI umum dapat merancang tingkat kecerdasan yang lebih tinggi, menghasilkan ledakan besar kecerdasan, yang disebut "singularitas", yang menghasilkan superintelligence. Dari aplikasi AI saat ini ke AGI masa depan, ini mungkin merupakan lompatan dari perubahan kuantitatif ke perubahan kualitatif. Hal ini menimbulkan kekhawatiran tentang AGI yang menggusur pekerjaan manusia, lepas kendali dan bahkan mengancam keberadaan manusia. Oleh karena itu, untuk pengembangan AI tujuan umum dan potensi masalah keselamatan dan etika, dunia perlu merencanakan ke depan dan bekerja sama untuk memastikan bahwa teknologi AI lebih inklusif, aman, andal, dan dapat dikendalikan untuk kepentingan seluruh umat manusia.
Artikel ini pertama kali muncul di Edisi 4, 2023 dari "Journal of Shanghai Normal University (Edisi Filsafat dan Ilmu Sosial)"
Lihat Asli
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Menuju AI yang Bertanggung Jawab: Tren dan Prospek Tata Kelola AI di Cina
Penulis: Cao Jianfeng, Peneliti Senior, Lembaga Penelitian Tencent
Abad ke-21 adalah era perkembangan digitalisasi, jaringan, dan kecerdasan yang mendalam. Kecerdasan buatan (AI), sebagai teknologi utama, telah menarik banyak perhatian dari semua lapisan masyarakat. Sepuluh tahun terakhir dianggap sebagai "dekade emas" AI yang diwakili oleh pembelajaran mendalam. ** [1] Melalui pembelajaran mendalam, teknologi jaringan saraf (Neural Networks) di bidang AI mengantarkan pemulihan, mengantarkan "musim semi ketiga" dari perkembangan pesat di bidang AI. Sebelumnya, sejak konsep "kecerdasan buatan" diusulkan pada Konferensi Dartmouth pada tahun 1956, bidang AI telah mengalami dua pasang surut. Secara khusus, konvergensi dan pengembangan banyak elemen teknis seperti algoritme pembelajaran mesin, data besar, komputasi awan, chip khusus AI, dan kerangka kerja perangkat lunak sumber terbuka telah mendorong kemajuan luar biasa di bidang AI. teknologi tujuan umum baru dan basis cerdas ekonomi dan masyarakat, dan digunakan secara luas di berbagai bidang ekonomi dan masyarakat, menghadirkan produk dan layanan baru. Dari rekomendasi algoritme, konten buatan AI (AIGC), dan chatbot di bidang Internet konsumen, hingga kendaraan tak berawak di bidang industri, perangkat lunak medis AI, pemeriksaan kualitas AI, dan berbagai aplikasi praktis dalam layanan publik sosial, AI memiliki dampak yang besar pada ekonomi Nilai besar pembangunan sosial berkualitas tinggi terus ditunjukkan. [2] Singkatnya, sebagai teknologi strategis yang memimpin babak baru revolusi teknologi dan transformasi industri (revolusi industri keempat), AI diharapkan dapat membentuk kembali ekonomi manusia dan masyarakat, dan akan berdampak besar pada produktivitas, ketenagakerjaan, distribusi pendapatan, globalisasi, dll.
**Dalam konteks ini, AI telah menjadi fokus baru persaingan internasional, dan negara-negara di seluruh dunia telah memperkenalkan strategi pengembangan AI dan kebijakan khusus untuk meraih keunggulan strategis dan peluang pengembangan. ** Pada Juli 2017, China merilis "Rencana Pengembangan Kecerdasan Buatan Generasi Baru", dan AI diangkat menjadi strategi nasional; pada April 2018, UE mengeluarkan strategi AI, yang bertujuan menjadikan UE sebagai pusat AI kelas dunia dan memastikan bahwa AI berorientasi pada manusia , kredibel; pada Februari 2019, "Rencana AI Amerika" dirilis, meluncurkan strategi AI, yang bertujuan untuk meningkatkan kepemimpinan Amerika Serikat di bidang AI; pada September 2021, Inggris mengeluarkan strategi AI, berharap untuk membangun Inggris Untuk negara adidaya AI. Menganalisis strategi AI dari berbagai negara, tidak sulit untuk melihat bahwa persaingan internasional di bidang AI tidak hanya terkait dengan inovasi teknologi dan ekonomi industri, tetapi juga melibatkan dimensi seperti tata kelola AI. Dengan meluasnya penerapan AI, banyak masalah etika ilmiah dan teknologi yang dibawa oleh AI terus menarik perhatian besar dari semua lapisan masyarakat, seperti diskriminasi algoritme, kepompong informasi, pengambilan keputusan AI yang tidak adil, penyalahgunaan informasi pribadi dan pelanggaran privasi, AI keamanan, kotak hitam algoritme, Tanggung jawab, penyalahgunaan teknologi (seperti pembunuhan data besar, penipuan AI, dan informasi palsu sintetis), dampak pekerjaan dan ketenagakerjaan, dampak etika dan moral, serta tantangan risiko lainnya. [3] Oleh karena itu, seiring dengan pesatnya perkembangan dan penerapan teknologi AI dalam sepuluh tahun terakhir, semua lapisan masyarakat di dalam dan luar negeri secara bersamaan mempromosikan tata kelola AI, mengeksplorasi berbagai langkah tata kelola dan mekanisme jaminan seperti undang-undang, kerangka kerja etis, standar dan sertifikasi, dan praktik terbaik industri untuk mendukung pengembangan AI yang bertanggung jawab, Tepercaya, dan berpusat pada manusia.
Berdasarkan perspektif internasional, artikel ini memilah kemajuan penting Tiongkok di bidang tata kelola AI dalam sepuluh tahun terakhir, menganalisis dan merangkum hukum dan tren, serta menantikan perkembangan di masa mendatang. Di masa mendatang, seiring AI menjadi lebih mampu, penerapan dan dampaknya akan semakin dalam dari hari ke hari.Oleh karena itu, AI yang bertanggung jawab (Responsible AI) akan menjadi semakin penting. Kemajuan dan penerapan AI yang bertanggung jawab tidak dapat dipisahkan dari tata kelola AI yang wajar dan efektif. Dengan kata lain, membangun tata kelola AI yang baik adalah satu-satunya cara untuk bergerak menuju AI yang bertanggung jawab dan memastikan pengembangan AI di masa depan. Artikel ini diharapkan dapat membantu pengembangan dan penerapan tata kelola AI secara berkelanjutan di masa mendatang.
Delapan Tren Tata Kelola AI
Strategi makro dan kebijakan implementasi dikembangkan secara bersamaan untuk menumbuhkan daya saing AI nasional
Sejak "Guiding Opinions on Promoting the Orderly and Healthy Development of Internet of Things" yang dikeluarkan pada Februari 2013 mengedepankan "economic and social intelligent development", AI telah memasuki bidang visi strategi makro nasional dan telah menjadi topik penting dokumen kebijakan tingkat atas nasional. Misalnya, pada tahun 2015, "Opini Pemandu tentang Secara Aktif Mempromosikan Aksi "Internet Plus"" mengusulkan untuk pertama kalinya "memupuk dan mengembangkan industri kecerdasan buatan yang sedang berkembang". Sejak saat itu, negara ini semakin memperhatikan AI, dan terus menerapkan pengembangan AI di tingkat strategis untuk memastikan bahwa teknologi inti dapat dikendalikan sendiri dan mendorong kemandirian dan kemandirian teknologi tingkat tinggi. ketergantungan (Tabel 1).
Dengan dukungan berkelanjutan dari strategi makro nasional dan kebijakan implementasi, inovasi dan kewirausahaan di bidang AI di Tiongkok terus aktif. Laboratorium nasional di bidang AI telah didirikan satu demi satu, dan pencapaian penting telah dibuat dalam inovasi teknologi, aplikasi industri, dan skala bakat di bidang AI. . "Laporan Indeks Inovasi Kecerdasan Buatan Global 2021" yang dirilis oleh Institut Informasi Ilmiah dan Teknologi Tiongkok menunjukkan bahwa perkembangan AI global saat ini menyajikan pola keseluruhan yang dipimpin oleh Tiongkok dan Amerika Serikat serta persaingan sengit di antara negara-negara besar. [4] Perkembangan AI China telah mencapai hasil yang luar biasa. Tingkat inovasi AI telah memasuki eselon satu dunia, dan jarak dengan Amerika Serikat semakin menyempit. Pusat superkomputer China, skala perusahaan AI, jumlah pendaftaran paten, pembangunan tim bakat, dan kekuatan penelitian ilmiah semuanya memimpin dunia. Di masa depan, kontribusi AI terhadap pertumbuhan ekonomi dan perkembangan sosial China akan terus meningkat. Sebuah laporan penelitian oleh PricewaterhouseCoopers memperkirakan bahwa secara global, pada tahun 2030, kontribusi AI terhadap ekonomi global akan mencapai 15,7 triliun dolar AS, dan China akan meraup keuntungan ekonomi terbesar dari AI, mencapai 7 triliun dolar AS, yang berarti AI akan Mempromosikan Pertumbuhan PDB China sekitar 26,1%, diikuti Amerika Serikat dan Amerika Utara, akan mencapai 3,7 triliun dolar AS. [5]
Sistem etika ilmiah dan teknologi terus ditingkatkan dan menjadi jaminan penting bagi inovasi AI
Di era digital, teknologi digital yang muncul seperti AI memiliki keunikan dan kompleksitas yang berbeda dengan penerapan teknologi di era industri. Terutama tercermin dalam: (1) Konektivitas yang lebih luas, koneksi jaringan, serta pengumpulan dan pemrosesan data ada di mana-mana; (2) Otonomi yang lebih kuat, sistem AI menggerakkan berbagai produk dan layanan untuk beroperasi secara mandiri tanpa campur tangan manusia; (3) Keburaman yang lebih dalam, "algorithmic black kotak" dari sistem AI sulit untuk dipahami dan dijelaskan; [6] (4) Fidelitas yang lebih tinggi, konten, data, dan dunia virtual yang dihasilkan dan disintesis oleh AI semakin mendekati kenyataan. Karena itu, masalah sosial dan etika yang mungkin disebabkan oleh penerapan teknologi baru seperti AI semakin ditandai dengan tiba-tiba, penyembunyian, skala, dan ketidakpastian, yang menimbulkan tantangan baru bagi tata kelola etika sains dan teknologi. Dalam proses pengembangan dan penerapan AI, menjadi semakin perlu dan penting untuk secara bersamaan mempertimbangkan atau bahkan mempertimbangkan masalah etika ilmiah dan teknologi terlebih dahulu. [7] Penyesuaian dan peningkatan sistem etika ilmu pengetahuan dan teknologi dengan demikian menjadi isu penting di era AI. Perlu adanya pergeseran dari fokus pada etika manusia menjadi fokus pada etika teknis, menerapkan batasan moral pada agen cerdas, dan membangun tatanan sosial digital yang ramah. [8] Lebih jauh lagi, dengan persaingan global yang semakin intensif dalam iptek, etika iptek tidak hanya terkait dengan pencegahan risiko dan tantangan keamanan teknologi, tetapi juga untuk membangun daya saing teknologi nasional.
**Sejak Kongres Nasional Partai Komunis Tiongkok ke-18, negara semakin memperhatikan etika iptek, dengan jelas menyatakan bahwa etika iptek adalah kriteria nilai yang harus diikuti dalam kegiatan iptek , dan telah memasukkan etika sains dan teknologi ke dalam desain kebijakan tingkat atas sebagai dukungan dan jaminan penting untuk inovasi sains dan teknologi. ** "Keputusan Komite Sentral Partai Komunis Tiongkok tentang Mengikuti dan Meningkatkan Sistem Sosialis dengan Karakteristik Tiongkok dan Mempromosikan Modernisasi Sistem Pemerintahan Nasional dan Kemampuan Pemerintahan" dan "Rencana Lima Tahun Keempat Belas dan Garis Besar -term Goals for 2035" telah membuat penyebaran tingkat atas untuk etika sains dan teknologi, Diperlukan untuk meningkatkan sistem tata kelola etika sains dan teknologi dan meningkatkan sistem etika sains dan teknologi. Saat ini, negara terus membangun dan meningkatkan sistem etika iptek, dan membentuk konsep budaya dan mekanisme penjaminan iptek untuk kebaikan. Ini terutama tercermin dalam tiga aspek berikut:
**Pertama, membentuk Komite Etika Iptek Nasional, yang bertanggung jawab untuk membimbing, mengkoordinasikan dan mempromosikan pembangunan sistem tata kelola etika Iptek nasional. **Pada Juli 2019, Pertemuan Kesembilan Komite Reformasi Pendalaman Komprehensif Pusat meninjau dan menyetujui "Rencana Pembentukan Komite Etika Sains dan Teknologi Nasional", yang secara resmi mendirikan organisasi manajemen etika sains dan teknologi nasional China. "Pendapat tentang Penguatan Tata Kelola Etika Sains dan Teknologi" yang dikeluarkan pada Maret 2022 semakin memperjelas tanggung jawab manajemen Komite Etika Sains dan Teknologi Nasional.
**Kedua, mensosialisasikan kebijakan dan peraturan terkait etika iptek untuk mendukung pelaksanaan tata kelola etika iptek. ** Salah satu yang menarik dari "UU Kemajuan Ilmu Pengetahuan dan Teknologi" yang direvisi pada Desember 2021 adalah penambahan ketentuan terkait etika ilmu pengetahuan dan teknologi. Mata pelajaran seperti perguruan tinggi, perusahaan dan lembaga publik harus melakukan tanggung jawab utama ilmiah dan manajemen etika teknologi, melakukan tinjauan etis terhadap kegiatan ilmiah dan teknologi, dan pada saat yang sama mengklarifikasi garis dasar hukum dan etika dari kegiatan penelitian, pengembangan dan penerapan ilmu pengetahuan dan teknologi. “Pendapat tentang Penguatan Tata Kelola Etis Iptek” mengedepankan persyaratan yang lebih komprehensif untuk tata kelola etis ilmu pengetahuan dan teknologi, yang melibatkan enam aspek utama: persyaratan umum, prinsip, sistem, jaminan kelembagaan, tinjauan dan pengawasan, pendidikan dan publisitas, dan meletakkan dasar penerapan tata kelola etik iptek Implementasi meletakkan dasar. Tindak lanjut juga akan disusun regulasi pendukung seperti metode kajian etika iptek, daftar kegiatan iptek berisiko tinggi dalam etika iptek, dan norma etik iptek bidang subdivisi.
**Ketiga, menekankan tata kelola etika sains dan teknologi di bidang AI. **Komite Profesional Tata Kelola Kecerdasan Buatan Generasi Baru Nasional telah secara berturut-turut mengeluarkan "Prinsip Tata Kelola Kecerdasan Buatan Generasi Baru-Mengembangkan Kecerdasan Buatan yang Bertanggung Jawab" dan "Etika Kecerdasan Buatan Generasi Baru", yang memberikan pedoman etis untuk pengembangan AI yang bertanggung jawab. "Hukum Keamanan Data", "Peraturan Manajemen Rekomendasi Algoritma Layanan Informasi Internet", "Opini Pemandu tentang Penguatan Tata Kelola Algoritma Layanan Informasi Internet yang Komprehensif" dan undang-undang dan peraturan lainnya mengedepankan persyaratan etika ilmiah dan teknologi serta langkah-langkah manajemen untuk data dan algoritme kegiatan. "Pendapat tentang Penguatan Tata Kelola Etika Iptek" menganggap AI, ilmu hayati, dan kedokteran sebagai tiga bidang utama selama periode "Rencana Lima Tahun ke-14", membutuhkan perumusan norma dan pedoman etika iptek khusus, memperkuat undang-undang etika sains dan teknologi, dan membutuhkan eksekutif industri yang relevan Departemen meluncurkan tindakan pengawasan etika sains dan teknologi. Regulasi etika teknologi di bidang AI diperkirakan akan diperkuat di masa mendatang. Selain itu, undang-undang tingkat lokal seperti "Peraturan Promosi Industri Kecerdasan Buatan Shenzhen" dan "Peraturan Shanghai tentang Promosi Pengembangan Industri Kecerdasan Buatan" sama-sama menganggap tata kelola etis AI sebagai jaminan penting untuk mendukung perkembangan AI yang sehat industri.
**Dari analisis di atas, dapat dilihat bahwa dalam tata kelola etika iptek AI, kecenderungan yang signifikan adalah mengambil tanggung jawab mata pelajaran etika iptek manajemen sebagai titik awal utama, yang serupa untuk penekanan pada tanggung jawab subjek platform dalam pengawasan platform Internet.Kesamaan tertentu. **Pengawasan pemerintah terhadap platform sebagian besar dicapai melalui implementasi dan pemadatan tanggung jawab utama platform. Undang-undang yang relevan di bidang Internet telah menetapkan sistem kewajiban platform yang komprehensif sebelum, selama, dan setelah acara. Administrasi Pasar Negara Pengawasan menerbitkan "Pedoman untuk Melaksanakan Tanggung Jawab Subjek pada Platform Internet (Draf untuk Komentar)" mencoba menyempurnakan tanggung jawab subjek dari berbagai jenis platform. Peraturan pemerintah tentang AI menunjukkan gagasan serupa. Kebijakan dan peraturan yang relevan saat ini mencoba untuk menyempurnakan tanggung jawab mata pelajaran manajemen etika ilmu pengetahuan dan teknologi, yang membutuhkan mata pelajaran inovasi untuk membentuk komite etika, mematuhi garis bawah etika ilmu pengetahuan dan teknologi, melakukan tinjauan etika ilmu pengetahuan dan teknologi, melaksanakan ilmu pengetahuan dan teknologi pemantauan risiko etika, peringatan dini dan penilaian, dan melakukan pelatihan etika ilmiah dan teknologi.
Penerapan algoritme di bidang Internet telah menjadi objek utama pengawasan AI
Rekomendasi algoritme, pengambilan keputusan otomatis algoritme, sintesis mendalam AI, dan aplikasi algoritme lainnya di bidang Internet telah menjadi fokus pengawasan pemerintah di bidang AI karena faktor-faktor seperti aplikasi yang luas, perhatian publik yang tinggi, dan penyorotan masalah negatif yang terus menerus . Dalam beberapa tahun terakhir, negara telah mengumumkan serangkaian undang-undang dan peraturan untuk secara aktif mengatur penerapan algoritme di bidang Internet. [9] "Pendapat Panduan tentang Penguatan Tata Kelola Algoritma Layanan Informasi Internet yang Komprehensif" yang dikeluarkan oleh Kantor Informasi Internet Negara dan sembilan departemen lainnya mengajukan persyaratan manajemen yang relatif komprehensif. Diharapkan dalam waktu sekitar tiga tahun, mekanisme tata kelola yang baik, pengawasan yang baik sistem, dan standar ekologi algoritmik akan ditetapkan secara bertahap Pola tata kelola komprehensif keamanan algoritmik. Pendapat tersebut juga menekankan penguatan tanggung jawab perusahaan, termasuk tanggung jawab keamanan algoritma dan tinjauan etika ilmiah dan teknologi.
Dalam hal rekomendasi algoritme, "Peraturan tentang Tata Kelola Ekologi Konten Informasi Jaringan" mengusulkan untuk meningkatkan intervensi manusia dan mekanisme pemilihan sendiri pengguna untuk teknologi rekomendasi algoritme. "Peraturan tentang Administrasi Rekomendasi Algoritma untuk Layanan Informasi Internet", yang akan diterapkan pada 1 Maret 2022, adalah undang-undang pertama China yang berfokus pada tata kelola algoritme. Serangkaian tindakan pengaturan seperti pemantauan risiko keamanan, penilaian keamanan algoritme, dan manajemen pengarsipan algoritme semakin memperkuat tanggung jawab keamanan algoritme perusahaan platform. Orang dalam industri menganggap ini sebagai tanda dan menyebut 2022 sebagai tahun pertama regulasi algoritme.
Dalam hal pengambilan keputusan otomatis algoritmik, "Hukum Perlindungan Informasi Pribadi Republik Rakyat Tiongkok", "Hukum E-Commerce Republik Rakyat Tiongkok", "Ketentuan Sementara tentang Layanan Manajemen Pariwisata Online" dan ketentuan lainnya memiliki relevansi ketentuan tentang diskriminasi algoritme, pengenalan data besar, dll. Untuk mengatur perilaku pengambilan keputusan algoritme yang sah, metode regulasi seperti memberikan hak pilihan kepada individu, melakukan penilaian dampak, dan individu dapat meminta penjelasan dan menikmati hak penolakan diusulkan untuk lebih baik menyeimbangkan perlindungan hak pribadi dan aktivitas aplikasi komersial dari algoritma.
Dalam hal sintesis dalam AI (terutama mengacu pada penggunaan teknologi AI untuk menghasilkan dan mensintesis konten informasi), undang-undang yang relevan secara aktif menggambarkan garis merah untuk penerapan teknologi sintesis dalam AI dan mempromosikan penerapan teknologi yang positif, seperti " Peraturan Manajemen Layanan Informasi Audio dan Video Jaringan", "Jaringan Peraturan Tata Kelola Ekologi Konten Informasi, Peraturan Administrasi Rekomendasi Algoritma Layanan Informasi Internet, dll. semuanya melarang penggunaan algoritme sintesis mendalam untuk informasi berita palsu dan aktivitas ilegal lainnya . "Peraturan tentang Administrasi Deep Synthesis of Internet Information Services" yang disahkan pada November 2022 merangkum pengalaman regulasi sebelumnya dan secara komprehensif mengatur penerapan teknologi deep synthesis dalam hal tanggung jawab utama penyedia layanan deep synthesis dan pengelolaan konten informasi deep synthesis identifikasi Langkah-langkah keamanan yang diperlukan seperti identifikasi, deteksi dan identifikasi, dan ketertelusuran konten memastikan bahwa penerapan teknologi sintesis dalam aman dan andal, dan lebih baik mempromosikan inovasi dan pengembangan teknologi dan aplikasi positif.
Secara keseluruhan, pengawasan algoritme di bidang Internet menekankan berbagai tujuan seperti keamanan dan pengendalian, perlindungan hak dan kepentingan, keadilan dan keadilan, keterbukaan dan transparansi, dan pencegahan penyalahgunaan.Berdasarkan klasifikasi dan klasifikasi aplikasi algoritme, ini berfokus pada pengaturan aplikasi algoritma berisiko tinggi. Regulasi penilaian dan klasifikasi algoritme serupa dengan regulasi sistem AI di European Union Artificial Intelligence Act.persyaratan regulasi yang berbeda. Dalam konteks ini, komunitas akademik memiliki minat yang kuat dalam penelitian tata kelola algoritmik, dan telah mengajukan banyak gagasan seperti interpretasi algoritme, penilaian dampak algoritme, dan audit algoritme. Kedepannya, semua lapisan masyarakat perlu lebih mendalami dan menyempurnakan metode dan langkah-langkah tata kelola pengawasan algoritme, sehingga dapat lebih memastikan penerapan algoritme ke atas dan baik.
Menggunakan inovasi regulasi untuk mempromosikan penerapan AI di bidang regulasi tradisional yang kuat
Untuk bidang peraturan tradisional yang kuat seperti transportasi dan perawatan medis, masalah utama yang dihadapi hal-hal baru seperti mobil self-driving, drone berawak (mobil terbang tak berawak), perangkat lunak medis AI, dll. adalah aplikasi komersialnya masih menghadapi tantangan yang lebih besar. dan hambatan regulasi. Hambatan ini tidak hanya memengaruhi kepercayaan konsumen dan publik terhadap teknologi, tetapi juga mematahkan semangat para inovator dan investor. Oleh karena itu, inovasi regulasi yang efektif menjadi kunci pengembangan dan penerapan hal-hal baru tersebut. Mengambil mobil self-driving sebagai contoh, penerapan komersial mobil self-driving hanya dapat dipercepat dengan mempercepat reformasi kerangka legislatif dan peraturan yang ditujukan untuk mengatur mobil tradisional dan pengemudi manusia, dan kemudian membentuk kerangka regulasi baru dan efektif.
Pembuat kebijakan China secara aktif menginovasi metode dan sarana regulasi, dan mendukung serta mempromosikan penerapan hal-hal AI baru melalui "Regulatory Sandbox" (Regulatory Sandbox, lihat pengantar di bawah), proyek percontohan, dan aplikasi demonstrasi. Di bidang mobil self-driving, negara telah mengeluarkan serangkaian undang-undang dan dokumen normatif untuk mendorong, mendukung dan mengatur kegiatan uji jalan dan aplikasi demonstrasi mobil self-driving, menjelajahi "kotak pasir peraturan" standar keselamatan untuk diri sendiri -mengemudi mobil, dan meningkatkan standarisasi mobil self-driving Aturan lintas masuk dan masuk jalan untuk memastikan keamanan transportasi mobil self-driving. Karena kebijakan peraturan yang menguntungkan, tempat-tempat seperti Beijing, Shanghai, Guangzhou, dan Shenzhen telah merebut dataran tinggi pembangunan satu demi satu. Beberapa kota telah mengeluarkan izin operasi uji coba untuk mobil tanpa pengemudi yang tidak mengizinkan pengemudi di dalam mobil dan dapat dioperasikan dengan biaya tertentu ; Shenzhen adalah negara pertama yang mengeluarkan " Peraturan tentang Administrasi Kendaraan Terhubung Cerdas Shenzhen menetapkan kerangka kerja legislatif dan peraturan untuk aplikasi komersial. Di bidang perawatan medis AI, karena perangkat lunak medis AI memiliki banyak fitur baru yang berbeda dari perangkat medis tradisional, termasuk otonomi, kemampuan belajar dan evolusi, iterasi berkelanjutan, kotak hitam algoritme, ketidakpastian, dll., sulit untuk prosedur persetujuan tradisional untuk beradaptasi secara efektif dengan perawatan medis AI Kebutuhan pengembangan perangkat lunak. Untuk tujuan ini, otoritas pengatur secara aktif meningkatkan deklarasi pendaftaran dan prosedur persetujuan dan menggunakan spesifikasi manajemen perangkat medis AI, dan mendukung aplikasi klinis yang dipercepat dari perangkat lunak medis AI untuk diagnosis dan perawatan tambahan seperti pencitraan medis cerdas; saat ini, medis AI perangkat lunak telah disetujui di Tiongkok, seperti perangkat lunak diagnosis glaukoma berbantuan AI Tencent Miying dan sistem diagnosis berbantuan AI pneumonia keduanya telah disetujui untuk sertifikat pendaftaran perangkat medis kelas tiga ("tiga jenis sertifikat"). Di masa mendatang, pihak berwenang perlu terus meningkatkan dan mengoptimalkan prosedur pendaftaran, aplikasi, dan persetujuan untuk perangkat lunak medis AI, sehingga aplikasi medis AI dapat meningkatkan penghidupan dan kesejahteraan masyarakat dengan lebih baik.
Mempercepat eksplorasi aturan perlindungan kekayaan intelektual AI
Konten yang dihasilkan AI (AI-Generated Contents, singkatnya AIGC) telah menjadi batas baru AI, mewakili arah pengembangan AI di masa depan [10] . Di bidang Internet, AIGC adalah bentuk produksi konten setelah PGC (produksi konten profesional) dan UGC (konten produksi pengguna), membawa perubahan besar dalam produksi konten otomatis. Saat ini, teknologi AIGC telah mampu memproduksi berbagai bentuk konten secara mandiri, antara lain teks, gambar, audio, video, konten 3D (objek 3D, adegan virtual 3D), dll. Aturan perlindungan hak kekayaan intelektual untuk teknologi AIGC dan aplikasinya telah menjadi isu penting yang tidak dapat dihindari.Masalah seperti "bagaimana menetapkan perlindungan hak cipta dan kepemilikan konten AIGC" dan "apakah teknologi AIGC melanggar hak cipta orang lain konten" adalah masalah mendesak untuk diselesaikan. [11] Beberapa sarjana asing telah menyarankan bahwa perlu untuk menetapkan aturan khusus perlindungan kekayaan intelektual AI dan perjanjian internasional, karena teknologi AI melanggar model yang ada bahwa pencipta dan penemu hanya bisa manusia. [12]
Di dalam dan luar negeri, aturan perlindungan kekayaan intelektual untuk konten yang dihasilkan AI telah dieksplorasi secara aktif. Di luar negeri, Inggris Raya, Uni Eropa, Jepang, Afrika Selatan, dll. sedang mempertimbangkan atau telah merumuskan aturan khusus perlindungan kekayaan intelektual AI, seperti klausul perlindungan karya yang dihasilkan komputer dalam "Undang-Undang Hak Cipta, Desain, dan Paten" Inggris. dan "Petunjuk Hak Cipta Pasar Digital Tunggal Uni Eropa". "Pengecualian hak cipta penambangan data dan teks berdasarkan teknologi AI, dll. Dalam hal paten, kebijakan Inggris menunjukkan bahwa karena AI belum cukup maju untuk menciptakan dan menciptakan secara mandiri, tidak perlu mengubah undang-undang paten saat ini, tetapi perlu memperhatikan kemajuan teknologi dan mengevaluasi AI. masalah paten secara tepat waktu.
Di Tiongkok, dalam kasus Firma Hukum Film Beijing melawan kasus pelanggaran hak cipta “Baijiahao” Baidu, pengadilan memutuskan bahwa hanya karya asli yang dibuat oleh orang perseorangan yang dapat memperoleh perlindungan hak cipta, sehingga menyangkal hak cipta atas karya yang dihasilkan secara langsung dan independen oleh AI. bahwa hak dan kepentingan yang relevan (seperti hak dan kepentingan persaingan) dari konten yang dihasilkan oleh AI dapat dilindungi melalui undang-undang persaingan dan cara lainnya. Dalam kasus Shenzhen Tencent Computer System Co., Ltd. v. Shanghai Yingxun Technology Co., Ltd. atas pelanggaran hak cipta dan perselisihan persaingan tidak sehat, pengadilan, berdasarkan realitas kolaborasi manusia-komputer di bidang AI, menunjukkan bahwa karya yang "dihasilkan" secara teknis dari perangkat lunak penulisan AI Dream writer hanyalah kreasi. Sebagai penghubung dalam proses, keseluruhan aktivitas intelektual yang dibentuk oleh pembagian kerja multi-tim dan multi-orang yang diselenggarakan oleh penggugat adalah mata rantai inti penciptaan, dan dengan demikian ditentukan bahwa artikel yang terlibat dalam kasus ini adalah pekerjaan badan hukum yang diselenggarakan oleh penggugat. Penentuan kasus penulis Dream lebih sejalan dengan perkembangan teknologi AIGC saat ini dan aplikasinya, dan memiliki signifikansi referensi yang besar untuk lebih memperjelas aturan perlindungan kekayaan intelektual untuk konten yang dihasilkan AI melalui undang-undang di masa mendatang. Dalam hal undang-undang, "Hukum Hak Cipta Republik Rakyat Tiongkok" yang baru direvisi pada tahun 2020 mengadopsi metode identifikasi karya terbuka.Sementara mengklarifikasi komposisi karya dan menyebutkan jenis karya utama, juga menetapkan bolak-balik terbuka klausa, menyediakan AIGC dan teknologi baru lainnya.Perlindungan objek baru yang dibawa oleh aplikasi memiliki ruang institusional.
Konstruksi standardisasi adalah bagian penting dari tata kelola AI
**"Garis Besar Pengembangan Standardisasi Nasional" menunjukkan bahwa standardisasi memainkan peran mendasar dan utama dalam mempromosikan modernisasi sistem tata kelola nasional dan kemampuan tata kelola. Untuk bidang AI, standar AI tidak hanya merupakan sarana penting untuk mendukung dan mempromosikan pengembangan, kemajuan, dan penerapan AI secara luas (seperti standar teknis), tetapi juga merupakan cara yang efektif untuk mempromosikan penerapan tata kelola AI (seperti tata kelola standar, standar etika), karena standar tata kelola AI Ini dapat memainkan peran penting dalam "melakukan legislasi dan pengawasan, dan praktik teknis docking". Selain itu, standar di bidang tata kelola AI lebih gesit, fleksibel, dan mudah beradaptasi daripada legislasi dan regulasi. Oleh karena itu, standar tata kelola AI telah menjadi titik tertinggi dalam pengembangan teknologi dan industri AI, dan komunitas internasional telah mengusulkan langkah-langkah implementasi. **Perwakilan umum termasuk standar AI tepercaya Uni Eropa, manajemen risiko AI yang dipimpin Institut Nasional Standar dan Teknologi (NIST) AS, identifikasi diskriminasi AI dan standar tata kelola lainnya, rencana pengembangan ekosistem sertifikasi AI Inggris Raya, standar etika AI IEEE, dll. . Dalam hal implementasi, IEEE telah meluncurkan proyek sertifikasi etika AI untuk industri; Inggris berharap dapat menumbuhkan industri sertifikasi AI terkemuka dunia senilai miliaran pound dalam 5 tahun, dan lulus layanan sertifikasi AI dari pihak ketiga yang netral (termasuk audit, mempengaruhi penilaian, sertifikasi) untuk mengevaluasi dan mengkomunikasikan kredibilitas dan kepatuhan sistem AI.
**Tiongkok sangat mementingkan konstruksi standardisasi di bidang AI. "Garis Besar Pengembangan Standardisasi Nasional" membutuhkan penelitian standardisasi di bidang AI, informasi kuantum, dan bioteknologi. **Dalam beberapa tahun terakhir, semua lapisan masyarakat terus mempromosikan standardisasi standar nasional, standar industri, standar lokal, dan standar grup di bidang tata kelola AI. Misalnya, Komite Manajemen Standardisasi Nasional membentuk Kelompok Umum Standardisasi Kecerdasan Buatan Nasional, dan Komite Teknis Standardisasi Teknologi Informasi Nasional membentuk Komite Sub-Teknis Kecerdasan Buatan, keduanya bertujuan untuk mempromosikan perumusan standar nasional di bidang AI . "Pedoman untuk Pembangunan Sistem Standar Kecerdasan Buatan Generasi Baru Nasional" yang dikeluarkan pada Juli 2020 mengklarifikasi desain tingkat atas di bidang standar AI. AI menetapkan sistem kepatuhan untuk mempromosikan pengembangan AI yang sehat dan berkelanjutan. Ke depan, standar terkait tata kelola AI perlu dirumuskan dan diimplementasikan lebih cepat, sehingga lebih memberikan jaminan bagi inovasi teknologi dan perkembangan industri di bidang AI.
Industri secara aktif mengeksplorasi langkah-langkah disiplin diri untuk tata kelola AI, dan mempraktikkan konsep inovasi dan teknologi yang bertanggung jawab untuk kebaikan
**Tata kelola AI yang efektif memerlukan partisipasi bersama dari berbagai pihak seperti pemerintah, perusahaan, organisasi industri, kelompok akademik, pengguna atau konsumen, dan publik. Diantaranya, tata kelola mandiri dan manajemen disiplin diri perusahaan teknologi adalah bagian penting dari penerapan konsep "ethics first". **Alasan untuk menyerukan "etika pertama" sebagian besar disebabkan oleh fakta bahwa dalam menghadapi perkembangan pesat AI, fenomena "keterlambatan hukum" menjadi semakin menonjol. Di bidang AI, "etika pertama" pertama kali diwujudkan dalam manajemen disiplin diri etika teknologi perusahaan teknologi, dan praktik terbaik perusahaan terkemuka seringkali dapat memainkan peran utama yang sangat baik, mempromosikan praktik inovasi dan teknologi yang bertanggung jawab untuk kebaikan di seluruh ide industri.
Di tingkat industri, dalam beberapa tahun terakhir, lembaga penelitian dan organisasi industri yang relevan telah mengusulkan pedoman etika AI dan konvensi disiplin diri untuk memberikan panduan etis bagi aktivitas AI perusahaan. Perwakilan umum dalam hal ini termasuk "Konvensi Disiplin Diri Industri Kecerdasan Buatan" dan "Panduan Operasi AI Tepercaya" dari Aliansi Pengembangan Industri Kecerdasan Buatan China (AIIA), "Konsensus Kecerdasan Buatan Beijing" dan "Konsensus Kecerdasan Buatan" dari Beijing Institut Penelitian Kecerdasan Buatan Zhiyuan. Deklarasi Tanggung Jawab Industri", "Pedoman Praktik Standar Keamanan Jaringan-Pedoman-Pedoman Praktik Standar Keamanan Informasi Nasional untuk Pencegahan Risiko Keamanan Etis Kecerdasan Buatan", dll.
Di tingkat perusahaan, perusahaan teknologi, sebagai badan utama inovasi teknologi AI dan aplikasi industri, memikul tanggung jawab penting atas penelitian dan pengembangan serta penerapan AI yang bertanggung jawab. Di luar negeri, perusahaan teknologi telah menjelajahi pengalaman yang relatif matang dan mengumpulkan banyak sumber daya, mulai dari mengusulkan prinsip etika AI, hingga mendirikan organisasi tata kelola etika AI internal, hingga mengembangkan alat manajemen dan teknis, dan bahkan solusi AI yang bertanggung jawab secara komersial. 2) [13] . Dalam beberapa tahun terakhir, perusahaan teknologi dalam negeri telah secara aktif menerapkan persyaratan peraturan dan mengeksplorasi langkah-langkah pengaturan mandiri yang relevan, terutama termasuk: menerbitkan prinsip etika AI, membentuk organisasi tata kelola AI internal (seperti komite etika), melakukan tinjauan etika atau penilaian risiko keamanan untuk aktivitas AI , dan mengungkapkan algoritme ke dunia luar Informasi yang relevan, mempromosikan keterbukaan dan transparansi algoritme, dan mengeksplorasi solusi teknis untuk masalah etika AI (seperti alat deteksi dan identifikasi untuk konten informasi sintetik, alat evaluasi tata kelola AI, dan solusi komputasi privasi seperti sebagai pembelajaran federasi), dll.
**Persaingan AI global bukan hanya persaingan antara teknologi dan industri, tetapi juga persaingan antara aturan dan standar tata kelola. **Perkembangan ekonomi digital global membentuk aturan internasional baru untuk AI dan data, seperti aliran data, kerangka tata kelola AI, dll. Dalam beberapa tahun terakhir, kerja sama tata kelola AI global terus meningkat. Prinsip AI OECD/G20 2019 adalah kerangka kerja kebijakan AI global pertama. Pada November 2021, Perserikatan Bangsa-Bangsa UNESCO mengesahkan perjanjian etika AI pertama di dunia "Rekomendasi Etika Kecerdasan Buatan" (Rekomendasi Etika Kecerdasan Buatan), yang saat ini merupakan kerangka kerja kebijakan AI global yang paling komprehensif dan disepakati secara luas. , penilaian dampak etis dan mekanisme lain untuk memperkuat tata kelola etika AI.
Pada saat yang sama, Amerika Serikat dan Eropa mempercepat kebijakan AI untuk memperkuat kepemimpinan mereka di bidang kebijakan AI dan memengaruhi aturan dan standar tata kelola AI global. Misalnya, Uni Eropa sedang mengerjakan RUU AI yang diselaraskan yang, ketika diharapkan disahkan pada tahun 2023, akan membentuk jalur regulasi berbasis risiko yang komprehensif untuk AI. Banyak ahli memperkirakan bahwa, seperti dampak undang-undang privasi data GPDR sebelumnya pada industri teknologi global, Undang-Undang AI UE akan memperluas "Efek Brussels" ke bidang AI, yang persis seperti yang diharapkan UE untuk membangun tata kelola AI bagi dunia melalui standar regulasi. [14] Selain undang-undang AI, Dewan Eropa masih merencanakan "Konvensi AI Internasional" pertama di dunia. Sama seperti "Konvensi Kejahatan Dunia Maya" dan "Konvensi Privasi" sebelumnya, baik negara anggota maupun negara non-anggota dapat bergabung dan meratifikasi AI di masa mendatang. Konvensi. [15] Amerika Serikat selalu menjadi pemimpin global di bidang AI dalam hal teknologi dan industri, dan dalam beberapa tahun terakhir mulai aktif membentuk kembali kepemimpinannya di bidang kebijakan AI. Salah satu tugas inti Dewan Perdagangan dan Teknologi AS-UE yang dibentuk pada tahun 2020 adalah mempromosikan kerja sama AS-UE dalam tata kelola AI. [16] Kesimpulannya, persaingan AI global semakin menekankan persaingan soft power di bidang kebijakan dan tata kelola AI, yang dapat dikatakan merupakan pergeseran besar dalam persaingan teknologi di abad ke-21.
Dalam beberapa tahun terakhir, China sangat mementingkan partisipasi dalam tata kelola sains dan teknologi global, secara aktif mengajukan proposisinya sendiri, dan berusaha untuk mendapatkan lebih banyak pengakuan dan konsensus. Misalnya, China telah mengedepankan "Inisiatif Keamanan Data Global", yang terus menyuntikkan energi positif ke tata kelola digital global. Pada November 2022, pada Konferensi Negara-Negara Pihak pada Konvensi Perserikatan Bangsa-Bangsa tentang Senjata Konvensional Tertentu, Tiongkok mengajukan dokumen tentang penguatan tata kelola etika kecerdasan buatan, dan mengajukan proposisi seperti pertama-tama berpegang pada etika, memperkuat disiplin diri, penggunaan kecerdasan buatan yang bertanggung jawab, dan mendorong kerja sama internasional.
PANDANGAN TIGA POIN
Berbagai kebijakan dan dokumen normatif seperti “Rencana Lima Tahun ke-14 dan Garis Besar Tujuan Jangka Panjang Tahun 2035”, “Pembangunan Negara Hukum di Tiongkok (2020-2025)”, “Opini tentang Penguatan Tata Kelola Etis Sains dan Teknologi" serta kebijakan dan dokumen normatif lainnya menunjukkan bahwa tata kelola AI terus menjadi isu utama dalam tata kelola sains dan teknologi. Area inti etika teknologi. Untuk lebih meningkatkan daya saing global China di bidang AI, China tidak hanya perlu lebih memperhatikan budidaya teknologi dan hard power industri, tetapi juga perlu fokus pada pembentukan soft power, terutama hak untuk berbicara dan memimpin dalam kebijakan dan tata kelola AI . Karena tata kelola AI telah menjadi bagian penting dari daya saing AI global.
Menengok ke belakang, China telah mengklarifikasi gagasan pengawasan dan tata kelola AI yang memberikan perhatian yang sama pada pengembangan dan keamanan, serta inovasi dan etika yang paralel. Sambil mendukung dan mempromosikan inovasi dan pengembangan, ini juga memastikan keamanan, keandalan, dan kemampuan kontrol dari aplikasi teknologi. Menghadapi masa depan, kita perlu memanfaatkan upaya bersama pemerintah, industri/perusahaan, lembaga penelitian, organisasi sosial, pengguna/konsumen, publik, media, dan pemangku kepentingan lainnya dengan lebih baik untuk terus mempromosikan perkembangan AI yang sehat praktik tata kelola dan membuat AI Lebih Baik memberi manfaat bagi pembangunan ekonomi dan sosial, meningkatkan penghidupan dan kesejahteraan masyarakat, serta mendorong ilmu pengetahuan dan teknologi ke tingkat yang lebih tinggi.
Selain itu, "dekade emas" AI yang lalu telah membawa model AI yang semakin kuat kepada orang-orang, dan di masa mendatang, AI hanya akan menjadi lebih kuat. Artinya, ketika AI berinteraksi dengan ekosistem sosial, kemungkinan dampaknya terhadap manusia, sosial, dan lingkungan akan jauh melebihi teknologi sebelumnya. Oleh karena itu, tugas utama tata kelola AI adalah terus mengadvokasi dan mempraktikkan konsep "AI yang bertanggung jawab"; Untuk menciptakan nilai bagi pemangku kepentingan dan meningkatkan kesejahteraan mereka, dan untuk mencegah penyalahgunaan, penyalahgunaan, dan penggunaan yang buruk. Singkatnya, tata kelola AI yang efektif perlu mendorong pengembangan praktik AI yang bertanggung jawab dan menciptakan AI yang dapat dipercaya (Trustworthy AI).
Terus tingkatkan data dan kerangka hukum AI serta promosikan pengawasan yang tepat dan tangkas
Perkembangan AI yang sehat dan berkelanjutan tidak terlepas dari pengawasan yang wajar dan efektif di satu sisi, dan di sisi lain perlu terus meningkatkan tingkat penyediaan dan peredaran serta pemanfaatan data di bidang AI. Faktanya, salah satu masalah utama yang dihadapi pengembangan dan penerapan AI di banyak bidang seperti perawatan medis, manufaktur, dan keuangan adalah masalah akuisisi dan pemanfaatan data, termasuk akuisisi data yang sulit, kualitas data yang buruk, dan standar data yang tidak konsisten. Oleh karena itu, pengembangan lebih lanjut AI di masa depan sangat bergantung pada peningkatan berkelanjutan dari data dan kerangka hukum AI. "Rencana Regulasi Digital" Inggris mengusulkan bahwa regulasi yang dirancang dengan baik dapat memiliki efek yang kuat dalam mempromosikan pembangunan dan membentuk ekonomi dan masyarakat digital yang dinamis, tetapi regulasi yang dirancang dengan buruk atau restriktif dapat menghambat inovasi. Aturan yang tepat dapat membantu orang mempercayai produk dan layanan yang mereka gunakan, yang pada gilirannya akan mendorong popularitas produk dan layanan serta konsumsi, investasi, dan inovasi lebih lanjut. [17] Hal yang sama berlaku untuk AI.
** Di satu sisi, untuk tata kelola AI, perlu untuk mempromosikan pengawasan yang tepat dan gesit dengan lebih baik. Ini termasuk: Pertama, terapkan aturan yang berbeda untuk produk, layanan, dan aplikasi AI yang berbeda. **Karena aplikasi AI hampir ada di mana-mana sekarang, sulit bagi aturan satu ukuran untuk semua untuk beradaptasi secara wajar dengan karakteristik unik aplikasi AI di berbagai industri dan bidang serta dampaknya terhadap individu dan masyarakat. Ini mengharuskan kami untuk mengadopsi kerangka kerja kebijakan tata kelola AI berbasis risiko. Misalnya, teknologi AI yang sama dapat digunakan tidak hanya untuk menganalisis dan memprediksi atribut dan preferensi pribadi pengguna, dan untuk mendorong konten yang dipersonalisasi, tetapi juga untuk membantu diagnosis dan pengobatan penyakit; Klasifikasi dan organisasi juga dapat digunakan untuk mengidentifikasi tumor kanker. Aplikasi ini memiliki perbedaan besar dalam hal tingkat risiko, pentingnya hasil, dan dampak pribadi dan sosial Jelas tidak ilmiah atau realistis untuk mengajukan persyaratan peraturan secara umum dan satu ukuran untuk semua. **Kedua, ini menekankan penerapan pengawasan terdesentralisasi dan terdiferensiasi berdasarkan penilaian dan klasifikasi aplikasi AI. **Sama seperti Internet, AI adalah teknologi yang sangat luas dan serba guna, yang tidak cocok dan sulit untuk melakukan pengawasan terpadu. Dari perspektif asing, saat ini hanya Uni Eropa yang mencoba untuk membangun kerangka peraturan terpadu dan umum untuk semua aplikasi AI (model UE), sedangkan Inggris dan Amerika Serikat menekankan pengawasan industri yang terdesentralisasi berdasarkan skenario dan risiko aplikasi ( model Anglo-Amerika). Inggris mengusulkan untuk dipandu oleh prinsip-prinsip dan untuk mengadopsi pengawasan yang mempromosikan inovasi pada aplikasi AI Konsep intinya meliputi: berfokus pada skenario aplikasi tertentu, dan memastikan proporsionalitas dan kemampuan beradaptasi pengawasan berdasarkan tingkat risiko; [18] Amerika Serikat selalu menekankan jalur tata kelola yang menggabungkan regulasi industri dan disiplin diri industri.Misalnya, "Cetak Biru AI Bill of Rights" tidak hanya mengusulkan lima prinsip, tetapi juga mengklarifikasi gagasan regulasi terdesentralisasi yang dipimpin oleh otoritas industri dan berorientasi skenario aplikasi. [19] Sejauh menyangkut China, undang-undang dan pengawasan AI di masa lalu lebih mirip dengan model Anglo-Amerika, yaitu aturan regulasi terpisah dirumuskan untuk aplikasi AI yang berbeda seperti layanan rekomendasi algoritme, sintesis mendalam, dan mengemudi otonom. Model peraturan yang terdesentralisasi dan berbeda ini sesuai dengan prinsip tata kelola yang gesit dan dapat lebih beradaptasi dengan karakteristik kompleks dari perkembangan pesat dan iterasi teknologi AI dan aplikasinya. **Ketiga, panggilan untuk inovasi berkelanjutan dari kotak alat peraturan dan penerapan inisiatif peraturan yang beragam. Salah satunya adalah "kotak pasir regulasi" AI. ** Salah satu inisiatif utama Uni Eropa dalam regulasi AI adalah "kotak pasir regulasi" AI yang diusulkan. [20] Sebagai cara yang efektif untuk mendukung dan mempromosikan komunikasi dan kolaborasi antara regulator dan subjek inovasi, "kotak pasir regulasi" dapat menyediakan lingkungan yang terkendali untuk mengembangkan, menguji, dan memverifikasi aplikasi AI inovatif yang sesuai. Praktik terbaik dan pedoman implementasi yang dihasilkan dari "regulatory sandbox" akan membantu perusahaan, terutama usaha kecil, menengah, dan mikro serta perusahaan pemula untuk menerapkan aturan regulasi. **Yang kedua adalah layanan sosial tata kelola AI, termasuk standar tata kelola AI, sertifikasi, pengujian, evaluasi, audit, dll. **Di bidang keamanan jaringan, layanan sosial keamanan jaringan seperti sertifikasi keamanan jaringan, pengujian, dan penilaian risiko adalah cara penting untuk menerapkan persyaratan peraturan. Tata kelola AI dapat belajar dari pendekatan ini. Saat ini, Uni Eropa, Inggris Raya, Amerika Serikat, dan IEEE semuanya mempromosikan layanan sosial tata kelola AI. Misalnya, IEEE telah meluncurkan sertifikasi etika AI untuk industri; [21] "Peta Jalan untuk Membangun Ekosistem Sertifikasi AI yang Efektif" yang dikeluarkan oleh Inggris berharap untuk menumbuhkan industri sertifikasi AI terkemuka dunia, melalui layanan sertifikasi AI pihak ketiga yang netral (termasuk penilaian dampak, audit bias dan audit kepatuhan, sertifikasi, penilaian kepatuhan) , pengujian kinerja, dll.) untuk mengevaluasi dan mengomunikasikan kredibilitas dan kepatuhan sistem AI. Inggris percaya ini akan menjadi industri baru bernilai miliaran pound. [22] China perlu mempercepat pembentukan sistem layanan sosial tata kelola AI yang baik, dan menjalankan serta mengimplementasikan undang-undang hulu dan persyaratan peraturan dengan lebih baik melalui layanan tata kelola AI hilir. Selain itu, metode pengaturan seperti pedoman kebijakan, tempat perlindungan yang aman, proyek percontohan, aplikasi demonstrasi, dan akuntabilitas pasca-acara semuanya dapat memainkan peran penting dalam skenario aplikasi yang berbeda.
**Di sisi lain, perlu untuk mempercepat peningkatan kerangka hukum untuk sirkulasi dan pemanfaatan data, dan terus meningkatkan tingkat pasokan data di bidang AI. **Yang pertama adalah membangun kerangka hukum untuk data publik terbuka dan bersama di tingkat nasional, menyatukan kualitas data dan standar tata kelola data, dan menggunakan unduhan data, antarmuka API, komputasi privat (pembelajaran federasi, komputasi multi-pihak yang aman, keamanan dan lingkungan komputasi tepercaya, dll.), data Manajemen yang beragam dan metode teknis seperti Ruang Data untuk mempromosikan pembagian data publik secara maksimal. Kedua, secara aktif menghilangkan berbagai hambatan dalam pengembangan dan penerapan teknologi komputasi privasi dan teknologi data sintetik. Saat ini, dalam sirkulasi dan pemanfaatan berbagai data, teknologi komputasi privasi seperti pembelajaran federasi memainkan peran yang semakin penting, dan dapat mencapai efek seperti "data tersedia/dapat dihitung dan tidak terlihat", "data tidak mengubah algoritme/nilai bergerak". Didorong oleh pengembangan AI dan aplikasi data besar, pembelajaran federasi, sebagai metode promosi dan aplikasi utama di bidang komputasi privasi, saat ini merupakan jalur teknis yang paling matang. Pada langkah selanjutnya, kami dapat mendukung penerapan dan pengembangan teknologi komputasi privasi dengan lebih baik seperti pembelajaran federasi dengan membangun ruang data di area strategis, merumuskan standar industri untuk komputasi privasi, dan mengeluarkan pedoman hukum untuk penerapan teknologi komputasi privasi.
Tata kelola etis AI perlu beralih dari prinsip ke praktik
Dengan berkembangnya pelembagaan dan legalisasi tata kelola etika iptek, penguatan tata kelola etik iptek telah menjadi salah satu "pilihan wajib" dan "pertanyaan wajib" bagi perusahaan iptek. Di bawah konsep "etika pertama", persyaratan untuk tata kelola etika ilmu pengetahuan dan teknologi berarti bahwa perusahaan teknologi tidak dapat berharap untuk menangani masalah etika AI dengan cara tindakan perbaikan setelah fakta, tetapi harus terlibat dalam keseluruhan Siklus hidup AI dari desain hingga pengembangan hingga penerapan, di antaranya, secara aktif memenuhi tanggung jawab badan utama manajemen etika sains dan teknologi, dan secara inovatif mempromosikan disiplin diri etika sains dan teknologi dengan berbagai cara. Secara keseluruhan, dalam masyarakat yang sangat berteknologi dan digital, perusahaan teknologi perlu mempertimbangkan untuk memasukkan tata kelola AI ke dalam lanskap tata kelola perusahaan mereka sebagai modul yang sama pentingnya dengan modul yang sudah ada seperti urusan hukum, keuangan, dan pengendalian risiko. Aspek-aspek berikut layak untuk dieksplorasi lebih lanjut:
**Pertama, dalam hal manajemen, perlu dibentuk mekanisme manajemen risiko etis AI. **Manajemen risiko etis AI perlu dijalankan di seluruh siklus hidup AI, termasuk tahap pra-desain, tahap desain dan pengembangan, tahap penerapan, serta aktivitas pengujian dan evaluasi di seluruh tahap ini, sehingga dapat mengidentifikasi, menganalisis, mengevaluasi secara komprehensif , mengelola, dan mengatur risiko etika AI . Ini bergantung pada perusahaan untuk menetapkan struktur organisasi dan norma manajemen yang sesuai, seperti komite etika, proses tinjauan etika, dan alat manajemen lainnya. Pembuat kebijakan dapat mempertimbangkan untuk mengeluarkan pedoman kebijakan dalam hal ini.
Kedua, dalam hal desain, perlu mengikuti konsep desain yang berorientasi pada orang dan mempraktikkan konsep "Ethics by Design"** (Ethicsby Design). **Desain tersemat yang etis berarti mengintegrasikan nilai-nilai etis, prinsip, persyaratan, dan prosedur ke dalam desain, pengembangan, dan penerapan AI, robotika, dan sistem data besar. Perusahaan perlu merenungkan R&D AI dan proses aplikasi yang dipimpin oleh teknisi, dan lebih menekankan pada beragam latar belakang dan partisipasi aktivitas R&D dan aplikasi AI. Memperkenalkan kebijakan, hukum, etika, masyarakat, filosofi, dan personel multidisiplin dan interdisipliner lainnya ke dalam tim pengembangan teknologi adalah cara paling langsung dan efektif untuk menanamkan persyaratan etika ke dalam desain dan pengembangan teknologi. Di masa mendatang, pembuat kebijakan dapat bergandengan tangan dengan industri untuk meringkas pengalaman dan pelajaran, serta mengeluarkan pedoman teknis, praktik terbaik, dan dokumen lain untuk desain tertanam yang etis.
**Terakhir, dalam hal teknologi, penting untuk terus mengeksplorasi pendekatan teknis dan berorientasi pasar untuk menangani masalah etika AI dan membuat aplikasi AI yang kredibel. **Salah satunya adalah alat etis AI. Banyak masalah dalam aplikasi AI, seperti penjelasan, keadilan, keamanan, perlindungan privasi, dll., Dapat diselesaikan melalui inovasi teknologi. Berfokus pada masalah ini, industri telah mengeksplorasi beberapa alat etika AI dan alat audit AI, dan pekerjaan di masa mendatang di bidang ini perlu dikembangkan lebih lanjut. Yang kedua adalah layanan etika AI (Layanan AIEthicsasa). [23] Ini adalah jalur yang berorientasi pasar. Perusahaan etika AI terkemuka dan perusahaan rintisan etika AI mengembangkan solusi AI yang bertanggung jawab yang berpusat pada alat dan layanan etika AI, dan menyediakannya sebagai layanan komersial. [24] Firma riset dan konsultan Forrester memperkirakan bahwa semakin banyak perusahaan teknologi AI dan perusahaan di bidang lain yang menerapkan AI akan membeli solusi AI yang bertanggung jawab untuk membantu mereka menerapkan prinsip etika AI yang adil dan transparan, dan ukuran pasar layanan etika AI akan berlipat ganda. Yang ketiga adalah metode crowdsourcing teknologi seperti AI Ethics Bounty. Mirip dengan hadiah kerentanan keamanan jaringan (Bug bounty), hadiah diskriminasi algoritme (Bounty Bias Algoritma) dan metode crowdsourcing teknis lainnya yang banyak digunakan oleh perusahaan Internet, ini dapat menemukan, mengidentifikasi, dan memecahkan masalah etika AI, mengembangkan alat audit AI, dan membuat aplikasi AI yang dapat dipercaya akan memainkan peran penting. Beberapa perusahaan asing dan lembaga penelitian universitas, seperti Twitter dan Stanford University, telah meluncurkan Algorithmic Discrimination Bounty Challenge dan AI Audit Challenge, meminta peserta untuk mengembangkan alat untuk mengidentifikasi dan mengurangi diskriminasi algoritmik dalam model AI. Menumbuhkan dan memperkuat komunitas etis AI melalui metode crowdsourcing teknologi ini akan memainkan peran penting dalam tata kelola AI.
Kerja sama tata kelola AI global perlu terus diperdalam
Seperti disebutkan sebelumnya, tata kelola AI global menghadirkan situasi kompetitif, yang tidak sesuai dengan konsep teknologi yang berorientasi pada orang, terbuka dan bersama, serta pembangunan yang inklusif. Negara-negara perlu terus memperdalam kerja sama dalam tata kelola AI internasional, mempromosikan perumusan perjanjian internasional tentang etika dan tata kelola AI, membentuk kerangka kerja, standar, dan norma tata kelola AI internasional dengan konsensus luas, meningkatkan pertukaran dan kolaborasi dalam teknologi, bakat, industri, dll. ., dan menentang eksklusionisme , mempromosikan inklusivitas teknologi dan teknologi untuk kebaikan, dan mewujudkan pembangunan inklusif di semua negara. Partisipasi mendalam China dalam tata kelola teknologi global perlu memanfaatkan babak baru peluang pembuatan aturan internasional di bidang AI dan data, terus mengusulkan solusi tata kelola AI yang sesuai dengan konsensus global, dan terus menyuntikkan kebijaksanaan China ke dalam tata kelola digital global dan tata kelola AI. Pada saat yang sama, kita perlu memperkuat suara internasional kita, mengintegrasikan gagasan, proposisi, dan praktik kita ke dalam komunitas internasional, mengupayakan lebih banyak pengakuan dan konsensus, serta meningkatkan suara dan pengaruh kita.
Menghadapi masa depan, dengan perkembangan teknologi AI yang berkelanjutan, AI akan menjadi semakin kuat, dan AI umum (Artificial General Intelligence, singkatnya AGI) mungkin muncul di masa depan. AI umum akan memiliki tingkat kecerdasan yang setara dengan manusia dan mampu melakukan tugas intelektual apa pun yang mampu dilakukan oleh manusia. Secara teori, AI umum dapat merancang tingkat kecerdasan yang lebih tinggi, menghasilkan ledakan besar kecerdasan, yang disebut "singularitas", yang menghasilkan superintelligence. Dari aplikasi AI saat ini ke AGI masa depan, ini mungkin merupakan lompatan dari perubahan kuantitatif ke perubahan kualitatif. Hal ini menimbulkan kekhawatiran tentang AGI yang menggusur pekerjaan manusia, lepas kendali dan bahkan mengancam keberadaan manusia. Oleh karena itu, untuk pengembangan AI tujuan umum dan potensi masalah keselamatan dan etika, dunia perlu merencanakan ke depan dan bekerja sama untuk memastikan bahwa teknologi AI lebih inklusif, aman, andal, dan dapat dikendalikan untuk kepentingan seluruh umat manusia.
Artikel ini pertama kali muncul di Edisi 4, 2023 dari "Journal of Shanghai Normal University (Edisi Filsafat dan Ilmu Sosial)"