Pengingat mendesak! Klausa tuan di belakang AI mengejutkan!

Sumber: tumpukan teknologi 51CTO

Pengarang: Qianshan

Selama epidemi, telecommuting menjadi permintaan yang kaku, dan sejumlah alat konferensi video diluncurkan. Zoom adalah salah satu yang terbaik. Namun baru-baru ini, Zoom mengalami masalah.

Software Freedom Conservancy (SFC) meminta pengembang sumber terbuka untuk berhenti menggunakan konferensi video Zoom setelah skandal terungkap tentang aplikasi tersebut.

Pada bulan Maret, Zoom diam-diam mengubah ketentuan layanan ramah AI-nya, menambahkan klausul di Bagian 10.4 yang menetapkan bahwa hak bisnis obrolan video untuk menggunakan "konten pelanggan" untuk melatih model pembelajaran mesin bersifat abadi dan bebas royalti. Itu menyebabkan kemarahan publik untuk sementara waktu.

Pemicu ketidakkonsistenan

Banyak perusahaan tampaknya tertarik untuk memperluas apa yang dapat mereka lakukan dengan data buatan pengguna sambil membatasi apa yang dapat dilakukan perusahaan lain dengannya. Perubahan aturan Zoom terjadi sebulan setelah Microsoft mengambil langkah serupa, mengubah persyaratan layanannya untuk memberi Bing lebih banyak kebebasan dalam memproses dan menyimpan masukan pengguna.

Pada bulan Juli, raksasa tersebut mengatakan akan mengubah Perjanjian Layanan Microsoft pada akhir September untuk membatasi rekayasa balik dan ekstraksi data. Sementara itu, The New York Times merevisi persyaratan layanannya untuk memperjelas bahwa kontennya tidak dapat digunakan untuk melatih model kecerdasan buatan. Reddit dan Twitter telah mengambil langkah serupa untuk mencegah data situs web dimasukkan ke model AI.

Baru pada awal bulan ini penyelundupan Zoom terungkap dan mendapat perhatian luas, dan kemudian Zoom menanggapi reaksi terhadap insiden tersebut dengan posting blog pada 7 Agustus. Untuk menebusnya, perusahaan mengubah ketentuan aksesnya di Bagian 10.4 menjadi, “Terlepas dari hal tersebut di atas, Zoom tidak akan menggunakan konten audio, video, atau obrolan pelanggan untuk melatih staf manusia kami tanpa persetujuan Anda. "

Sumber: Blog Zoom

Secara dramatis, empat hari kemudian, yaitu pada 11 Agustus, Zoom mundur selangkah dan menulis ulang detail Bagian 10.4, menghapus kualifikasi "tanpa persetujuan Anda", yang secara langsung menyatakan bahwa ia menolak menggunakan konten pelanggan untuk pembelajaran mesin.

"Zoom tidak akan menggunakan audio, video, obrolan, berbagi layar, lampiran, atau komunikasi pelanggan lainnya (seperti hasil jajak pendapat, papan tulis, dan reaksi) untuk melatih Zoom atau model kecerdasan buatan pihak ketiga," menurut pengajuan hukum perusahaan. saat membaca jalan.

Palu berat dari dunia open source

Sementara Zoom tampaknya mencoba menghapus sesuatu, beberapa orang mengatakan cukup sudah. Kakak laki-laki yang mengangkat tangannya kali ini adalah Software Freedom Conservation Association (SFC).

Didirikan pada tahun 2006, Software Freedom Conservancy (SFC, Software Freedom Conservancy) adalah organisasi nirlaba yang dirancang untuk menyediakan dukungan dan infrastruktur untuk proyek perangkat lunak bebas dan sumber terbuka. SFC telah lama menerima dukungan finansial dari Google, Red Hat, dan perusahaan lain.

“Selama pandemi dan adopsi Zoom yang meluas, kami memperingatkan bahaya** mengandalkan teknologi berpemilik, terkontrol, nirlaba sebagai infrastruktur penting,” tulis SFC pada hari Selasa. berhenti menggunakan layanan mereka tanpa penundaan lebih lanjut."

Untuk membantu mencapai tujuan ini, SFC mengatakan akan mengadopsi perangkat lunak obrolan sumber terbuka BigBlueButton, yang sebelumnya hanya tersedia untuk proyek anggota FOSS, sebagai bagian resmi dari infrastruktur organisasi. Setiap kontributor FOSS yang ingin menggunakan layanan obrolan video dapat mendaftar untuk menggunakannya, kata SFC.

Ketika diminta untuk mengomentari seruan SFC untuk membatalkan Zoom, juru bicara Zoom mencatat bahwa perusahaan telah membatalkan persyaratannya pada 11 Agustus dan telah mengirimkan salinan pernyataan yang menyangkal penggunaan data pengguna yang relevan. model AI.

Media asing The Register lebih lanjut mempertanyakan hal ini: Jadi sebelum ketentuan diubah, apakah Zoom benar-benar menggunakan konten pelanggan untuk melatih model model kecerdasan buatan", atau apakah itu berarti bahwa Zoom hanya "memberikan" hak untuk melakukannya tanpa benar-benar melakukannya .

Seorang juru bicara Zoom mengatakan tidak ada pelatihan semacam itu yang dilakukan.

Tidak peduli bagaimana Zoom menyangkalnya, SFC tidak membelinya. Dalam rilis publiknya, ia mengutip langkah Zoom untuk mengubah ketentuannya pada bulan Maret sebagai alasan untuk meninggalkan aplikasi tersebut, meskipun ia juga mengakui bahwa Zoom kini telah mengubah posisinya dan berusaha menjauhkan diri dari pertarungan hak AI.

"Mengikuti reaksi yang meluas dan pers negatif, Zoom telah mengubah persyaratan layanan mereka untuk menyatakan bahwa mereka tidak akan menggunakan data dari partisipasi pengguna mana pun dalam pertemuan Zoom untuk melatih model mereka," kata SFC.

"Tapi yang membuat frustrasi, dalam persyaratan layanan yang sangat panjang dan sarat hukum, Zoom berhak mengubah persyaratan kapan saja."

Dengan analisis terbaru yang menunjukkan bahwa membaca syarat dan ketentuan Zoom dapat memakan waktu hingga 30 jam, SFC ingin komunitas FOSS mempertimbangkan kembali ketergantungannya pada perangkat lunak Zoom.

GitHub adalah pelajaran berharga

Tahun lalu, SFC mengambil sikap serupa terhadap GitHub, yang setelah diakuisisi oleh Microsoft meluncurkan Copilot, asisten pemrograman yang dengan cepat beralih ke model berbasis biaya. Tetapi poin utamanya adalah bahwa Copilot didasarkan pada penelitian kode komunitas open source, yang telah menarik ketidakpuasan yang kuat dari beberapa organisasi di industri ini.

Pelepasan kopilot menimbulkan sejumlah pertanyaan. Open source tidak berarti sepenuhnya gratis, persyaratan lisensi dan persyaratan atribusi masih harus dipenuhi, Copilot tidak pernah menjadi "generator kode AI asli", jadi jika Copilot "salin-tempel" kode dari satu proyek dan merekomendasikannya ke proyek lain Ada akan ada perselisihan tentang "siapa" pembuat sebenarnya dari perangkat lunak tersebut, yang dapat dikatakan telah membuka kotak Pandora untuk tuntutan hukum pelanggaran hak cipta.

SFC juga termasuk di antara penentang yang menyerukan diakhirinya penggunaan GitHub Microsoft untuk hosting proyek dan mendesak pengembang perangkat lunak lain untuk berhenti juga.

Sumber gambar:

Peneliti kebijakan Bradley Kuhn mengatakan SFC tidak memiliki sumber daya perusahaan yang harus dikumpulkan Microsoft untuk menilai dampak kampanye GitHub-nya, dan ketentuan layanan GitHub melarang pencarian akun GitHub untuk menemukan logo GiveUpGitHub.

Kuhn berkata: "Kami juga berbicara secara teratur dengan kontributor proyek FOSS yang ingin menyingkirkan GitHub dalam jangka panjang." Dalam pandangannya, proyek FOSS yang berorientasi komunitas umumnya tidak ingin tinggal di GitHub, tetapi pemimpin kerugian GitHub ) Efek jaringan dari produk berpemilik membuat mereka bermasalah. Dia menyamakan situasi tersebut dengan tantangan menjauh dari kendaraan berbahan bakar fosil.

"Kami juga tidak melihat acara Exit Zoom atau GiveUp GitHub terjadi dalam waktu dekat," tambah Kuhn.

"Seluruh masalah dengan layanan berpemilik ini adalah bahwa mereka menyusup ke alur kerja bisnis, dan menyingkirkannya membutuhkan banyak usaha, terkadang sulit."

Tetap saja, Kuhn mengatakan bahwa meskipun sumber daya terbatas, SFC telah membuat kemajuan dalam menjauhkan orang dari ketergantungan pada layanan dan perangkat lunak berpemilik. SFC telah melakukan pembicaraan jangka panjang dengan Lab Sumber Terbuka Oregon State University untuk mengembangkan alternatif untuk hosting GitHub, katanya. Selain itu, proyek Sourceware baru-baru ini bergabung dengan SFC untuk menyediakan layanan hosting berbasis perangkat lunak sumber terbuka untuk proyek tertentu.

“Dalam hal Exit Zoom, Anda dapat melihat dari pengumuman kami selama seminggu terakhir memastikan bahwa kami siap untuk segera menawarkan layanan berbasis BigBlueButton kepada anggota komunitas FOSS.” paket yang perlu dipertahankan, yakinlah kami dapat menyediakan layanan eksternal untuk kontributor FOSS yang membutuhkan obrolan video tetapi ingin keluar dari Zoom. Dibandingkan dengan GiveUpGitHub membutuhkan waktu lebih lama."

Antara privasi dan kenyamanan, apakah kita harus memilih salah satu?

Secara umum, apakah menyerukan untuk meninggalkan GitHub atau meninggalkan Zoom, SFC membuat beberapa kemajuan, tetapi juga menghadapi penolakan besar, tetapi yang pasti hal ini pasti akan memberikan tekanan yang cukup besar pada organisasi terkait, mendorong mereka untuk mengubah kualitas. produk mereka, mode operasi dan memberikan lebih banyak transparansi kepada pengguna.

Namun sejauh menyangkut insiden itu sendiri, dengan perkembangan teknologi kecerdasan buatan, aplikasi seperti model besar dan AIGC terus berkembang pesat.Pelanggaran privasi yang disertai dengan teknologi semacam ini hampir tidak mungkin ditolak oleh semua orang. Jadi apakah ada garis bawah yang tidak dapat diatasi? Di mana garis bawah ini akan jatuh?

Dalam gelombang teknologi ini, data pengguna secara bertahap menjadi sumber daya yang paling mahal dan termurah. Dari sudut pandang pengguna, apakah itu pelanggaran data privasi atau pelanggaran hak untuk mengetahui, sepertinya selalu pasif.

Tidak dapat dipungkiri bahwa banyak orang akan setuju untuk melepaskan privasi karena kenyamanan tertentu. Secara kasar dapat dikaitkan dengan tiga poin:

Pertama, secara default, Anda dapat melepaskan privasi Anda untuk kenyamanan kehidupan nyata, dan semua orang seperti ini, jadi lebih baik mengikuti orang banyak, dan tanpa pamrih berdebat keras.

Kedua, pedagang dengan sengaja menyembunyikan beberapa klausul terkait privasi di balik perjanjian yang panjang dan terminologis. Sama seperti perjanjian layanan Zoom, dibutuhkan waktu 30 jam untuk membacanya. Hanya sedikit orang yang memiliki cukup kesabaran, waktu, dan cadangan pengetahuan untuk menyelidiki keseluruhan cerita; Bahkan jika seseorang mengejarnya , masih ada yang mahakuasa "hak terakhir atas interpretasi adalah milik pedagang".

Ketiga, orang yang berbeda memiliki tingkat pemahaman dan penekanan yang berbeda pada privasi, serta risiko yang ditimbulkan oleh kebocoran privasi.

Namun nyatanya, bagaimanapun teknologi berkembang, data pengguna tidak boleh digunakan atau dijual secara terbuka. Dalam spekulasi jangka panjang, daripada bertanya "apakah Anda bersedia mengorbankan privasi demi kenyamanan", lebih baik waspada dari sumbernya.Masyarakat yang harus memilih antara privasi dan kenyamanan seharusnya bukan masyarakat yang kita kejar.

Tautan referensi: