Produk ChatGPT muncul dalam aliran tanpa akhir, dan regulasi global melintasi sungai dengan merasakan bebatuan

Sumber: Pembangkit Listrik, Penulis: Zhang Yongyi, Editor: Gao Yulei

Sumber gambar: Dihasilkan oleh alat AI Tak Terbatas

Pada tanggal 31 Juli, produk chatgpt di Apple's App Store di China ditarik dari rak secara kolektif Menurut Apple, produk terkait perlu mendapatkan lisensi operasi.

Tidak hanya China, tetapi juga Amerika Serikat dan Eropa yang bertekad untuk bersaing di bidang ini, secara aktif menegakkan legislasi dan regulasi sambil mendorong inovasi.

Pada April 2021, Komisi Eropa pertama kali menerbitkan proposal untuk struktur peraturan untuk pengoperasian dan tata kelola aplikasi pembelajaran mesin, mengusulkan peraturan AI. Saat itu, pandangan paling populer di industri AI masih berupa sindiran Wu Enda yang terkenal bahwa "mengkhawatirkan kecerdasan buatan saat ini seperti mengkhawatirkan kelebihan populasi di Mars".

Tetapi pada tahun 2023, pandangan seperti itu tidak lagi menjadi arus utama: butuh waktu kurang dari 6 bulan bagi AI generatif untuk menunjukkan kepada dunia potensi besar untuk menggantikan manusia dan sepenuhnya mengubah dunia yang ada — seperti yang dikembangkan dalam Perang Dunia II. seperti senjata nuklir.

Fisikawan J-Robert Oppenheimer memimpin pengembangan bom atom pertama di dunia Pada saat itu, Perang Dunia II telah berakhir, tetapi bom nuklir, sebagai senjata paling mengerikan dalam sejarah manusia, masih mendominasi sebagian besar tren sejarah: Amerika Serikat Pemerintah tidak menerima kritik dan saran dari para ahli seperti Oppenheimer bahwa "proliferasi nuklir akan menyebabkan perlombaan senjata yang belum pernah terjadi sebelumnya", yang akhirnya menyebabkan pecahnya perlombaan senjata nuklir antara Amerika Serikat dan Uni Soviet yang diwakili oleh pengembangan bom hidrogen "bom nuklir super"—dan dalam Selama Krisis Rudal Kuba, hampir seluruh peradaban manusia terseret ke dalam jurang gelap yang tak bisa ditebus.

Krisis yang dihadapi Oppenheimer memiliki banyak kemiripan dengan "AI Omnic Crisis" yang dihadapi manusia saat ini: sebelum manusia menggunakan AI untuk menyeret dirinya ke masa depan yang lebih besar dan tak terkendali, arahkan ke masa depan yang lebih masif dan tak terkendali. Mungkin cara terbaik adalah untuk melaksanakan pengawasan dalam jalur yang aman.

Pada tahun 2021, "persiapan untuk hari hujan" Uni Eropa akhirnya menjadi kerangka peraturan pertama untuk industri kecerdasan buatan dalam sejarah manusia — ini juga merupakan pendahulu dari Undang-Undang Kecerdasan Buatan (AI Act) Uni Eropa.

Namun, ketika pembuat undang-undang merancang RUU ini, mereka tidak mengharapkan adanya kecerdasan buatan generatif atau model besar pada akhir tahun 2022. Oleh karena itu, ledakan AI generatif pada tahun 2023 juga telah menambahkan lebih banyak Bagian tentang AI generatif: termasuk transparansi penggunaan model besar, dan regulasi pengumpulan/penggunaan data pengguna.

Saat ini, RUU ini telah dipilih oleh Parlemen Eropa pada pertengahan Juni Langkah selanjutnya untuk persyaratan akhir adalah menyelesaikan undang-undang tersebut dalam negosiasi antara tiga badan pembuat keputusan UE - Parlemen, Dewan dan Komisi. Kesepakatan akan tercapai dan akhirnya mulai berlaku.

Di Cina, undang-undang tentang AI generatif juga sedang dalam proses: pada 13 Juli, "Langkah Sementara untuk Administrasi Layanan Kecerdasan Buatan Generatif" (selanjutnya secara kolektif disebut sebagai "Langkah Sementara") telah dikeluarkan bersama oleh tujuh kementerian dan komisi termasuk Cyberspace Administration of China, yang akan mulai berlaku pada bulan Agustus.

Ini mungkin menjadi peraturan manajemen kecerdasan buatan generatif pertama yang akhirnya akan diterapkan.Pada putaran terakhir "Perlombaan Legislatif AI", proses legislasi AI China telah melampaui itu, dan telah menjadi peraturan khusus yang tumbuh paling cepat di bidang generatif AI. .

Di negara lain yang berada di eselon pertama pengembangan AI, seperti Inggris Raya dan Amerika Serikat, undang-undang peraturan tentang AI juga sedang dalam proses: pada 16 Maret, Kantor Hak Cipta AS meluncurkan inisiatif untuk mempelajari hukum hak cipta dan masalah kebijakan yang timbul dari teknologi kecerdasan buatan: termasuk Cakupan hak cipta dalam karya yang dihasilkan menggunakan alat kecerdasan buatan, dan penggunaan materi berhak cipta untuk tujuan pembelajaran mesin. Pemerintah Inggris merilis kerangka peraturan AI pertamanya pada 4 April. Sejak saat itu, National Telecommunications and Information Administration (NTIA) AS telah merilis draf akuntabilitas AI untuk mengumpulkan umpan balik publik yang lebih luas tentang tindakan dan kebijakan akuntabilitas AI.

“Haruskah kita mengembangkan pemikiran non-manusia yang pada akhirnya dapat sepenuhnya menggantikan manusia dalam hal kuantitas dan kecerdasan?” Ini adalah pertanyaan yang diajukan dalam surat terbuka yang ditandatangani oleh sejumlah CEO dan peneliti terkenal pada bulan Maret tahun ini. Menengok ke belakang sekarang, di jalur pengembangan AI generatif, seruan "semua orang menangguhkan penelitian selama enam bulan" terlalu idealis. Saat ini, hanya negara yang mempromosikan undang-undang terkait AI generatif yang memainkan peran pengaturan yang mungkin efektif. alasan.

INOVASI DAN AKUNTABILITAS

Perundang-undangan dan tata kelola AI generatif adalah bidang baru yang belum pernah diinjak oleh siapa pun sebelumnya, dan setiap legislator harus menghadapi tekanan keraguan dari dunia luar: Pada konferensi pengembang Google I/O tahun ini, Google secara resmi merilis AI generatif Robot percakapan Bard, tetapi ruang lingkup layanan sepenuhnya mengecualikan wilayah Eropa.

Hal ini membuat banyak peneliti/perusahaan AI Eropa bertanya: Mengapa Eropa hilang? Belakangan, Google berkali-kali menyatakan bahwa "berharap untuk membuka diri bagi pengguna Eropa", yang selanjutnya ditafsirkan sebagai "langkah lindung nilai" bagi Google untuk menghindari area abu-abu legal yang ada dalam AI generatif, yang mengakibatkan denda besar di UE. .

Pada bulan Juli, Google akhirnya mengungkapkan alasannya: Jack Krawczyk, kepala produk Bard, menulis dalam posting blog: Pada awal penelitian, Komisi Perlindungan Data Irlandia (DPC) telah mengusulkan niat untuk melepaskan Bard di Eropa, tetapi pada akhirnya , butuh waktu hingga Juli untuk memenuhi permintaan regulator agar informasi diberikan.

Hari ini, "Undang-Undang Kecerdasan Buatan" Uni Eropa telah dirilis, dan hampir setiap undang-undang di dalamnya secara langsung menunjukkan masalah yang muncul atau potensial dalam pengembangan AI saat ini: penyebaran informasi palsu/salah, kemungkinan pendidikan/kesehatan mental, dan masalah besar lainnya. masalah.

Tetapi kemudian legislator menemukan bahwa bagian yang lebih rumit dari penyelesaian masalah ini terletak pada bagaimana menentukan undang-undang: perlu untuk melindungi inovasi/menghindari monopoli raksasa di bidang AI, dan untuk memastikan pengendalian AI sampai batas tertentu. . Hindari banjir dengan konten palsu. Ini telah menjadi inti umum dari undang-undang AI generatif di Cina, Amerika Serikat, dan Eropa, tetapi mereka memiliki penekanan yang berbeda dalam peraturan yang sebenarnya.

Banyak kasus kecerdasan buatan di Eropa sebelumnya telah menyebabkan perlakuan negatif dari institusi seperti Google dan OpenAI Banyak perusahaan teknologi lokal Eropa dan bahkan legislator khawatir undang-undang yang terlalu ketat akan memungkinkan Eropa untuk kembali ke tingkat terdepan dunia dengan bantuan AI ​realisasi visi menjadi sulit: Setelah "Undang-Undang Kecerdasan Buatan" resmi disahkan, Uni Eropa berhak mengeluarkan denda hingga 30 juta euro, atau 6% dari pendapatan tahunan perusahaan , terhadap perusahaan yang melanggar peraturan kecerdasan buatan. Ini tidak diragukan lagi merupakan peringatan yang jelas bagi perusahaan seperti Google dan Microsoft yang ingin memperluas bisnis AI generatif mereka di Eropa.

Dalam "Undang-Undang Kecerdasan Buatan" versi bulan Juni, anggota parlemen UE dengan jelas memasukkan ketentuan baru untuk mendorong inovasi kecerdasan buatan yang bertanggung jawab sambil mengurangi risiko teknologi, mengawasi kecerdasan buatan dengan benar, dan menempatkannya di garis depan Posisi penting: Pasal 1 RUU tersebut dengan jelas mendukung langkah-langkah inovatif untuk usaha kecil dan menengah dan start-up, termasuk pembentukan "kotak pasir peraturan" dan langkah-langkah lain untuk mengurangi beban kepatuhan pada usaha kecil dan menengah dan start-up.

Namun, sebelum menjual layanan AI atau menerapkan sistem ke pasar, AI generatif harus memenuhi serangkaian persyaratan peraturan untuk manajemen risiko, data, transparansi, dan dokumentasi.Pada saat yang sama, penggunaan kecerdasan buatan di area sensitif seperti infrastruktur kritis akan dianggap sebagai "Risiko tinggi" termasuk dalam ruang lingkup pengawasan.

Saat ini, spesifikasi AI berdasarkan "Tindakan Sementara" telah mengambil tindakan: Pada 31 Juli, sejumlah besar aplikasi yang menyediakan layanan ChatGPT di App Store di China secara kolektif dihapus dari rak oleh Apple, dan tidak tidak menyediakan akses ChatGPT langsung, tetapi juga berfokus pada fungsi AI. Kumpulan aplikasi lain tidak akan terpengaruh untuk saat ini.

Sebagai tanggapan kepada pengembang, saran tinjauan resmi Apple adalah bahwa "layanan kecerdasan buatan generatif harus memenuhi persyaratan lisensi untuk beroperasi di China, termasuk mendapatkan lisensi dari Kementerian Perindustrian dan Teknologi Informasi." Perubahan dalam spesifikasi ulasan ini juga secara langsung sesuai. untuk Kategori "menyediakan layanan kepada publik" dalam "Tindakan Sementara".

Pasal 15 dari "Tindakan Sementara" China juga dengan jelas menyebutkan metode manajemen untuk menghasilkan konten berisiko "penyedia harus segera mengambil tindakan seperti menghentikan pembangkitan, menghentikan transmisi, dan eliminasi, dan mengambil tindakan seperti pelatihan pengoptimalan model untuk melakukan perbaikan." Ini telah disebutkan dalam "Draf Komentar"; namun, dibandingkan dengan versi sebelumnya, deskripsi dalam "Tindakan Sementara" lebih moderat, dan deskripsi tenggat waktu seperti "perbaikan dalam tiga bulan" telah dihapus .

Di antara kontroversi saat ini seputar kelahiran AI generatif, sengketa hak cipta data yang digunakan untuk melatih model bahasa skala besar untuk AI generatif, produsen di eselon pertama pengembangan AI generatif sudah merasa dibatasi oleh kurangnya konten berkualitas tinggi. " Langit-langit yang tak terlihat", tetapi pada saat yang sama, pencipta dan media yang tak terhitung jumlahnya telah mulai memulai proses hukum dan tindakan lain atas masalah hak cipta yang disebabkan oleh AI generatif. Sangat dekat untuk merumuskan klausul perlindungan hak cipta konten untuk pengembangan AI generatif.

Oleh karena itu, ini juga menjadi fokus undang-undang AI generatif di Amerika Serikat dan Eropa: "Undang-Undang Kecerdasan Buatan" Eropa dengan jelas mewajibkan pemasok model skala besar untuk menyatakan apakah mereka menggunakan materi berhak cipta untuk melatih AI, dan pada saat yang sama mencatat informasi log yang cukup bagi pencipta untuk mencari Kompensasi; sementara Kantor Hak Cipta AS telah mengeluarkan tinjauan baru, meminta saran tentang masalah hak cipta luas yang diangkat oleh AI generatif, dan mencari undang-undang khusus untuk menyelesaikannya.

Dalam "Tindakan Sementara" saat ini, paragraf yang relevan dalam draf untuk komentar pada bulan April telah dihapus, meninggalkan "Tindakan Sementara" saat ini dengan ketentuan kosong tentang perlindungan hak kekayaan intelektual terkait sumber data, yang perlu segera diperbaiki.

Tetapi untuk model besar yang bergantung pada AI generatif untuk pengembangan; itu adalah hukum pengembangan untuk mencari data di Internet untuk mempercepat pengembangan berulang model besar, dan pembatasan satu ukuran untuk semua kemungkinan akan menyebabkan pukulan besar untuk seluruh industri Disebutkan "pengecualian" dalam skenario yang berbeda: Dalam "Hukum Kecerdasan Buatan" Uni Eropa, pengecualian untuk penelitian AI oleh pengembang sumber terbuka disertakan: kerja sama dan membangun komponen kecerdasan buatan di lingkungan terbuka akan menerima perlindungan khusus. Pada saat yang sama, dalam "Tindakan Sementara", klausul yang relevan juga memperjelas ruang lingkup pengecualian undang-undang:

"Selama perusahaan, lembaga penelitian ilmiah, dll. tidak secara terbuka menyediakan layanan kecerdasan buatan generatif kepada publik, undang-undang ini tidak berlaku."

"Perundang-undangan di bidang kekayaan intelektual masih membutuhkan lebih banyak waktu untuk penelitian dan demonstrasi." Seorang konsultan hukum yang saat ini melayani produsen model berskala besar mengatakan kepada wartawan: "Kumpulan data berkualitas tinggi China lebih langka daripada konten bahasa Inggris, dan generatif. Pelatihan AI menentukan bahwa bahkan raksasa tidak dapat sepenuhnya menandatangani kontrak dengan setiap platform dan setiap pembuat konten secara mandiri, belum lagi biaya lisensi yang sangat tinggi sudah menjadi pukulan besar bagi para pemula.

"Mungkin masalah saat ini hanya bisa dibiarkan untuk pengembangan industri untuk mendapatkan solusi praktis yang lebih baik." Persaingan dan kerja sama, tambah konsultan. Meskipun dalam persaingan antara China dan Amerika Serikat, pengembangan AI telah menjadi salah satu medan perang utama bagi Amerika Serikat untuk menahan perkembangan China, namun di bidang legislasi AI generatif, kerjasama antara China, Amerika Serikat dan Eropa secara bertahap menjadi arus utama.

Pada tahap ini, perusahaan kecerdasan buatan di Amerika Serikat telah menyadari risiko yang menyertai pengembangan AI. Janji telah dibuat untuk memastikan bahwa AI "tidak melakukan kejahatan": OpenAI menyatakan bahwa misinya adalah "untuk memastikan bahwa kecerdasan umum buatan bermanfaat bagi seluruh umat manusia." Prinsip operasi DeepMind mencakup komitmen untuk "menjadi pelopor yang bertanggung jawab di bidang kecerdasan buatan", sementara pendiri DeepMind berjanji untuk tidak terlibat dalam penelitian kecerdasan buatan yang mematikan, dan prinsip penelitian kecerdasan buatan Google juga menetapkan bahwa Google tidak akan menyebarkan atau merancang untuk Senjata. yang merugikan manusia, atau kecerdasan buatan yang melanggar norma pengawasan internasional.

Pada 26 Juli, Anthropic, Google, Microsoft, dan OpenAI meluncurkan Frontier Model Forum, sebuah badan industri yang berfokus untuk memastikan pengembangan model AI mutakhir yang aman dan bertanggung jawab.

Forum ini bertujuan untuk "bekerja dengan pembuat kebijakan, akademisi, dan masyarakat sipil untuk meminimalkan risiko dan berbagi pengetahuan tentang risiko keamanan" sembari memajukan penelitian AI. Pada saat yang sama, integrasikan secara aktif ke dalam kerja sama multilateral internasional yang ada: termasuk G7, OECD, dan perumusan kebijakan organisasi lain tentang AI generatif. Untuk mempromosikan sinkronisasi negara-negara ke arah konsep undang-undang dan peraturan.

Sebelumnya, majalah Time berkomentar bahwa ada banyak kemungkinan kerja sama antara China dan Amerika Serikat sebagai "pemain signifikan" dalam AI generatif, dan Eropa, yang sering menjadi "pelopor" de facto dalam undang-undang teknologi baru, adalah demi kepentingan semua pihak untuk memulai kerja sama pada tahap legislatif, dan juga merupakan salah satu sarana penting untuk mendorong pengembangan IB generatif.

Hal ini juga sejalan dengan pandangan Max Tegmark, seorang profesor di Massachusetts Institute of Technology dan pendiri Future of Life Institute: "China berada dalam posisi yang menguntungkan di banyak bidang AI generatif, dan kemungkinan besar akan menjadi pemimpin dalam pengendalian kecerdasan buatan."

Jumlah model berskala besar di China dan Amerika Serikat menyumbang 90% dari dunia, sehingga koordinasi legislatif antara China, Amerika Serikat, dan Eropa bahkan akan menentukan tren perkembangan industri AI generatif global. "Koordinasi hukum dengan China dengan alasan menyesuaikan dengan kepentingan Amerika Serikat" secara bertahap menjadi konsensus kalangan politik dan akademik Amerika.

Sampul cerita fitur WIRED

Lebih representatif adalah langkah-langkah penilaian untuk risiko AI: "Tindakan Sementara" China menyebutkan "kehati-hatian inklusif dan klasifikasi dan pengawasan penilaian untuk layanan kecerdasan buatan generatif", tetapi tidak menguraikan penilaian dalam versi saat ini. Saat ini, hanya paragraf seperti " mengembangkan aturan atau pedoman pengawasan klasifikasi dan penilaian yang sesuai" telah ditulis.

"Hukum Kecerdasan Buatan" Eropa juga mengusulkan sistem penilaian untuk menyesuaikan dengan kewajiban pengembang AI dengan tingkat risiko yang berbeda. "Tingkat ancaman" AI yang diusulkan saat ini mencakup empat kategori:

• AI risiko terbatas
• AI berisiko tinggi
• Tingkat risiko yang tidak dapat diterima
• AI Generatif: Produk seperti ChatGPT

Dalam versi saat ini, "Hukum Kecerdasan Buatan" mengekstraksi AI generatif sebagai klasifikasi independen, dan pada saat yang sama secara ketat membatasi produk yang diklasifikasikan sebagai "AI berisiko tinggi".Kemungkinan risiko. Ini juga dianggap sebagai "cetak biru referensi" untuk undang-undang mendatang tentang risiko AI di China dan Amerika Serikat.

Selain itu, dilihat dari proses legislasi yang sebenarnya, aktifnya mengundang masyarakat dan lembaga riset AI untuk berpartisipasi dalam proses legislasi merupakan konsensus yang dibentuk oleh badan regulator di berbagai negara melalui pengalaman enam bulan terakhir. tidak dapat dipertanyakan.

"AI generatif mungkin tidak pernah sempurna, tetapi hukum ditakdirkan untuk memainkan peran utama dalam arah kunci pengembangan AI"

Sama seperti Oppenheimer yang tidak pernah menyesal mengembangkan bom atom di New Mexico meskipun dia menentang penggunaan senjata nuklir dalam perang, tidak ada yang bisa menghentikan peneliti yang ingin tahu menggunakan teknologi yang ada untuk mengembangkan AI yang lebih cerdas, laju eksplorasi sains tidak akan pernah berhenti di situ. Pengawasan yang "perlu dan masuk akal" adalah "benjolan kecepatan" di jalan AI yang panik, dan juga merupakan "garis pertahanan terakhir" untuk mencegah kecerdasan buatan generatif menyebabkan kerusakan nyata.

Namun berfokus pada "bagaimana menghindari ketinggalan dalam perlombaan AI yang disebabkan oleh regulasi" masih menjadi salah satu hal yang paling diperhatikan oleh pembuat undang-undang. Legislasi yang relevan pasti akan menjadi lebih lengkap dengan lebih banyak pengalaman dan umpan balik.

"Badan pengatur akan menjunjung tinggi semangat legislasi ilmiah dan legislasi pintu terbuka, serta melakukan revisi dan perbaikan tepat waktu." Bagian tentang AI generatif dalam "Tindakan Sementara" mungkin merupakan prinsip terbaik untuk legislasi di era AI generatif.