Mungkin ada beberapa kendala dalam model AI di bawah bendera "open source"?

Kemunculan ChatGPT telah memberi lebih banyak orang akses terhadap kecerdasan buatan (AI) yang canggih, namun cara kerja chatbot tetap menjadi rahasia yang dirahasiakan.

Akibatnya, upaya untuk membuat AI lebih "terbuka" tampaknya mendapat lebih banyak perhatian dalam beberapa bulan terakhir. **

Pada bulan Mei tahun ini, seseorang membocorkan model "Llama" Meta, memberikan dunia luar akses ke kode yang mendasarinya dan bobot model yang menentukan perilakunya. Pada bulan Juli, Meta meluncurkan model yang lebih kuat, Llama 2, yang diklaim gratis untuk diunduh, dimodifikasi, dan digunakan kembali oleh siapa saja. Sejak itu, rangkaian model Llama Meta telah menjadi dasar bagi banyak perusahaan, peneliti, dan amatir AI untuk membangun alat dan aplikasi dengan kemampuan seperti ChatGPT.

"Kami memiliki banyak pendukung di seluruh dunia yang percaya pada pendekatan terbuka kami terhadap AI saat ini...Para peneliti berkomitmen untuk melakukan penelitian menggunakan model ini, dan orang-orang di bidang teknologi, akademisi, dan kebijakan bekerja sama dengan kami. Kami juga melihat manfaat Llama dan platform terbuka," kata Meta saat peluncuran Llama 2. Beberapa hari yang lalu, Meta juga merilis model lain - Llama 2 Code, yang disesuaikan untuk pengkodean.

**Setelah puluhan tahun melakukan demokratisasi akses terhadap perangkat lunak, memastikan transparansi, dan meningkatkan keamanan, pendekatan open source kini tampaknya diharapkan memiliki dampak serupa pada kecerdasan buatan. **

** Tapi ini mungkin tidak cukup. **

Tim peneliti dari Carnegie Mellon University, AI Now Institute, dan Signal Foundation menerbitkan makalah berjudul "Open (For Business): Big Tech, Concentrated Power, and the Political Economy of Open AI" yang mengeksplorasi realitas "Llama 2" dan model kecerdasan buatan lainnya yang "bersumber terbuka" dalam beberapa hal. Mereka mengatakan bahwa mungkin ada beberapa "kesalahan" dalam model di bawah bendera "open source".

Menurut makalah tersebut, **Meskipun Llama 2 gratis untuk diunduh, dimodifikasi, dan diterapkan, namun tidak tercakup dalam lisensi sumber terbuka tradisional. ** Lisensi Meta melarang penggunaan Llama 2 untuk melatih model bahasa lain, dan lisensi khusus diperlukan jika pengembang menyebarkan Llama 2 ke dalam aplikasi atau layanan dengan lebih dari 700 juta pengguna harian.

**Tingkat kendali ini berarti bahwa Llama 2 dapat memberikan manfaat teknis dan strategis yang signifikan bagi Meta - misalnya, Meta dapat memperoleh manfaat dari penyesuaian yang bermanfaat ketika perusahaan eksternal menggunakan model Llama 2 dalam aplikasi mereka sendiri. **

Model yang dirilis di bawah lisensi sumber terbuka umum, seperti GPT Neo milik lembaga nirlaba EleutherAI, lebih terbuka, kata para peneliti. Namun proyek-proyek ini kesulitan bersaing dengan model yang diluncurkan oleh perusahaan besar.

Pertama, data yang diperlukan untuk melatih model tingkat lanjut sering kali dirahasiakan; Kedua, framework software yang diperlukan untuk membuat model seperti itu biasanya dikendalikan oleh perusahaan besar, dan dua framework software yang paling populer adalah TensorFlow dan Pytorch. Dikelola oleh Google dan Meta; Selanjutnya, kekuatan komputer yang dibutuhkan untuk melatih model kecerdasan buatan skala besar berada di luar jangkauan pengembang atau perusahaan biasa, biasanya diperlukan puluhan juta atau ratusan juta dolar untuk satu sesi pelatihan ; *Terakhir * , tenaga kerja yang dibutuhkan untuk menyempurnakan dan menyempurnakan model ini juga sebagian besar merupakan sumber daya yang hanya dapat diperoleh oleh perusahaan besar.

Oleh karena itu, tim peneliti percaya bahwa dilihat dari tren saat ini, salah satu teknologi terpenting dalam beberapa dekade ini mungkin hanya akan memperkaya dan meningkatkan kemampuan beberapa perusahaan, termasuk OpenAI, Microsoft, Meta, dan Google. Jika kecerdasan buatan benar-benar merupakan teknologi yang dapat mengubah dunia, dan jika dapat diterapkan dan dipopulerkan secara lebih luas, maka hal tersebut dapat membawa manfaat sebesar-besarnya bagi seluruh dunia.

“Analisis kami menunjukkan bahwa (tingkat) open source tidak hanya tidak akan ‘mendemokratisasi’ AI,” Meredith Whittaker, salah satu penulis makalah tersebut, mengatakan kepada Wired, “Memang, perusahaan dan institusi dapat melakukannya. Dan mereka telah memanfaatkan teknologi “open source” untuk mengkonsolidasikan dan memperluas konsentrasi kekuasaan."

Lebih jauh lagi,** bahkan sistem AI yang paling terbuka sekalipun tidak akan menjamin akses demokratis atau persaingan yang berarti dalam AI, dan keterbukaan juga tidak akan menyelesaikan masalah pengawasan dan sensor. **

Whittaker menambahkan bahwa open source harus menjadi pertimbangan penting dalam peraturan AI yang sangat dibutuhkan, “Kita benar-benar membutuhkan alternatif yang berarti terhadap teknologi yang didefinisikan dan didominasi oleh monopoli besar—terutama ketika sistem AI diintegrasikan ke dalam area yang sangat sensitif dengan dampak publik tertentu seperti layanan kesehatan. , keuangan, pendidikan, dll. Menciptakan kondisi yang memungkinkan substitusi ini adalah sebuah proyek yang dapat hidup berdampingan, atau bahkan didukung oleh, gerakan regulasi seperti reformasi antimonopoli.”

Tim peneliti juga mengatakan bahwa, selain menyeimbangkan kekuatan perusahaan-perusahaan besar, menjadikan AI lebih terbuka mungkin penting untuk membuka potensi terbaik teknologi – sekaligus menghindari kecenderungan terburuknya. **

** Jika kita ingin memahami seberapa canggih model AI, dan mengurangi risiko penerapan dan pengembangan lebih lanjut, yang terbaik adalah menyediakan model ini bagi para ilmuwan di seluruh dunia. **

Sama seperti “keamanan melalui ketidakjelasan” tidak pernah benar-benar menjamin bahwa kode berjalan dengan aman, melindungi cara kerja model AI yang kuat belum tentu merupakan hal paling cerdas untuk dilakukan.

Tautan referensi: