Acil HATIRLATMA! AI'nın arkasındaki derebeyi maddesi şok edici!

Kaynak: 51CTO teknoloji yığını

Yazar: Qianshan

Salgın sırasında, uzaktan çalışma katı bir talep haline geldi ve bir dizi video konferans aracı yükseldi. Yakınlaştırma en iyilerinden biridir. Ancak son zamanlarda Zoom sorun yaşadı.

Yazılım Özgürlüğünü Koruma (SFC), uygulamayla ilgili bir skandalın ortaya çıkmasının ardından açık kaynak geliştiricileri Zoom video konferansı kullanmayı bırakmaya çağırıyor.

Mart ayında Zoom, yapay zeka dostu hizmet şartlarının ayrıntılı metnini sessizce değiştirerek Bölüm 10.4'e görüntülü sohbet işinin makine öğrenimi modellerini eğitmek için "müşteri içeriğini" kullanma hakkının kalıcı ve telifsiz olduğunu şart koşan bir madde ekledi. Bir süre kamuoyunda tepkiye neden oldu.

Tutarsızlığın kışkırtıcısı

Pek çok şirket, diğer şirketlerin bu verilerle yapabileceklerini sınırlarken, kullanıcı tarafından oluşturulan verilerle yapabileceklerini genişletmeye hevesli görünüyor. Zoom'un kural değişikliği, Microsoft'un benzer bir adım atıp hizmet şartlarını yapay zeka ile geliştirilmiş Bing'e kullanıcı girdisini işleme ve depolama konusunda daha fazla özgürlük verecek şekilde değiştirmesinden bir ay sonra geldi.

Temmuz ayında dev, tersine mühendislik ve veri çıkarmayı kısıtlamak için Microsoft Hizmet Anlaşmasını Eylül ayı sonuna kadar değiştireceğini söyledi. Bu arada The New York Times, içeriğinin yapay zeka modellerini eğitmek için kullanılamayacağını açıkça belirtmek için hizmet şartlarını revize etti. Reddit ve Twitter, web sitesi verilerinin AI modellerine beslenmesini önlemek için benzer adımlar attı.

Bu ayın başlarında, Zoom'un kaçakçılığının gün ışığına çıkmasıyla geniş ilgi gördü ve ardından Zoom, olaya yönelik tepkilere 7 Ağustos'ta bir blog gönderisiyle yanıt verdi. Değişiklik yapmak için şirket, Bölüm 10.4'teki erişim koşullarını şu şekilde değiştirmiştir: "Yukarıdaki hükümlere bakılmaksızın Zoom, insan personelimizi sizin onayınız olmadan eğitmek için sesli, görüntülü veya müşteri sohbeti içeriğini akıllı model kullanmayacaktır. "

Kaynak: Zoom Blogu

Dramatik bir şekilde, dört gün sonra, yani 11 Ağustos'ta Zoom geri adım attı ve Bölüm 10.4'ün ayrıntılarını yeniden yazdı, "izniniz olmadan" niteleyicisini kaldırdı ve müşteri içeriğini makine öğrenimi için kullanmayı reddettiğini doğrudan belirtti.

Şirketin yasal beyannamesi, "Zoom, Zoom'u veya üçüncü taraf yapay zeka modellerini eğitmek için ses, video, sohbet, ekran paylaşımları, ekleri veya diğer müşteri iletişimlerini (anket sonuçları, beyaz tahtalar ve tepkiler gibi) kullanmayacaktır." şu anda yol okur.

Açık kaynak dünyasından ağır bir çekiç

Zoom bir şeyleri silmeye çalışıyor gibi görünse de, bazıları artık yeter diyor. Bu sefer kollarını kaldıran ağabey Yazılım Özgürlüğünü Koruma Derneği (SFC).

2006 yılında kurulan Software Freedom Conservancy (SFC, Software Freedom Conservancy), ücretsiz ve açık kaynaklı yazılım projelerine destek ve altyapı sağlamak için tasarlanmış, kar amacı gütmeyen bir kuruluştur. SFC, uzun süredir Google, Red Hat ve diğer şirketlerden finansal destek alıyor.

SFC Salı günü yaptığı açıklamada, "Pandemi ve Zoom'un yaygın olarak benimsenmesi sırasında, temel altyapı olarak tescilli, kontrollü, kar amacı güden teknolojiye güvenmenin tehlikelerine** karşı uyarıda bulunuyoruz. Geçen hafta, Zoom bize neden herkesin yapması gerektiğini gösterdi. daha fazla gecikmeden hizmetlerini kullanmayı bırakın."

Bu hedefe ulaşılmasına yardımcı olmak için SFC, BigBlueButton'ın daha önce yalnızca FOSS üyesi projelerde kullanılabilen açık kaynaklı sohbet yazılımını kuruluşun altyapısının resmi bir parçası olarak benimseyeceğini söyledi. SFC, görüntülü sohbet hizmetini kullanmak isteyen herhangi bir FOSS katılımcısının kullanmak için başvurabileceğini söyledi.

SFC'nin Zoom'u bırakma çağrısı hakkında yorum yapması istendiğinde bir Zoom sözcüsü, şirketin 11 Ağustos'ta şartlarını iptal ettiğini ve ilgili kullanıcı verilerinin Zoom'u veya üçüncü tarafları eğitmek için kullanıldığını reddeden bir açıklamanın bir kopyasını gönderdiğini belirtti. AI modelleri.

Yabancı medya The Register bunu daha da sorguladı: Yani şartlar değiştirilmeden önce, Zoom gerçekten müşteri içeriğini yapay zeka modellerini eğitmek için mi kullandı? .

Zoom sözcüsü, böyle bir eğitimin yapılmadığını söyledi.

Zoom bunu ne kadar reddetse de SFC satın almıyor. Halka açık açıklamasında, Zoom'un Mart ayında şartlarını değiştirme hamlesini uygulamayı terk etmek için bir neden olarak gösterdi, ancak Zoom'un artık konumunu değiştirdiğini ve kendisini AI hakları savaşından uzaklaştırmaya çalıştığını da kabul etti.

SFC, "Yaygın tepkiler ve olumsuz basının ardından Zoom, hizmet şartlarını değiştirerek, hiçbir kullanıcının Zoom toplantılarına katılımından elde edilen verileri modellerini eğitmek için kullanmayacaklarını belirtti." Dedi.

"Fakat sinir bozucu bir şekilde, inanılmaz derecede uzun ve yasal yükümlülüklerle dolu hizmet şartlarında, Zoom şartları herhangi bir zamanda değiştirme hakkını saklı tutar."

Zoom'un hüküm ve koşullarını okumanın 30 saate kadar sürebileceğini gösteren yakın tarihli bir analizle SFC, FOSS topluluğunun Zoom yazılımına olan güvenini yeniden gözden geçirmesini istiyor.

GitHub öğrenilen bir dersti

Geçen yıl SFC, Microsoft tarafından satın alındıktan sonra hızla ücretli bir modele geçen bir programlama asistanı olan Copilot'u piyasaya süren GitHub'a karşı benzer bir tavır aldı. Ancak kilit nokta, Copilot'un sektördeki bazı kuruluşlardan ciddi memnuniyetsizlik çeken açık kaynak topluluk kodu araştırmasına dayanmasıdır.

Copilot'un serbest bırakılması birçok soruyu gündeme getiriyor. Açık kaynak, tamamen ücretsiz anlamına gelmez, lisans gereksinimleri ve atıf gereksinimlerinin yine de karşılanması gerekir, Copilot hiçbir zaman bir "yerel AI kod üreticisi" olmadı, bu nedenle, Copilot bir projeden kodu "kopyala-yapıştır" yaparsa ve başka bir projeye tavsiye ederse Orada Telif hakkı ihlali davaları için Pandora'nın kutusunu açtığı söylenebilecek yazılımın gerçek yazarının "kim" olduğu konusunda anlaşmazlıklar çıkacak.

SFC aynı zamanda proje barındırma için Microsoft'un GitHub'ının kullanımına son verilmesi ve diğer yazılım geliştiricilerin de istifa etmesi çağrısında bulunan muhalifler arasında yer alıyor.

Görüntü kaynağı:

Politika araştırmacısı Bradley Kuhn, SFC'nin Microsoft'un GitHub kampanyasının etkisini değerlendirmek için veri toplaması gereken kurumsal kaynaklara sahip olmadığını ve GitHub'ın hizmet şartlarının, GiveUpGitHub logosunu bulmak için GitHub hesaplarının aranmasını yasakladığını söyledi.

Kuhn şunları söyledi: "Uzun vadede GitHub'dan kurtulmak isteyen FOSS projelerine katkıda bulunanlarla da düzenli olarak görüşüyoruz." Ona göre topluluk odaklı FOSS projeleri genellikle GitHub'da kalmak istemiyor, GitHub'ın kayıp lideri) Tescilli ürünlerin ağ etkileri, başlarını belaya soktu. Durumu fosil yakıtlı araçlardan kurtulmanın zorluğuna benzetiyor.

Kuhn, "Ayrıca yakın zamanda bir Exit Zoom veya GiveUp GitHub etkinliği görmüyoruz" diye ekledi.

"Bu tescilli hizmetlerle ilgili tüm sorun, işin iş akışına sızmaları ve onlardan kurtulmanın çok fazla, bazen zahmetli çaba gerektirmesidir."

Yine de Kuhn, sınırlı kaynaklara rağmen, SFC'nin insanları tescilli hizmetlere ve yazılımlara bağımlılıktan uzaklaştırmada ilerleme kaydettiğini söyledi. SFC, GitHub barındırmaya bir alternatif geliştirmek için Oregon Eyalet Üniversitesi Açık Kaynak Laboratuvarı ile uzun vadeli görüşmelerde bulunduğunu söyledi. Ayrıca Sourceware projesi, belirli projeler için açık kaynak yazılıma dayalı barındırma hizmetleri sağlamak üzere yakın zamanda SFC'ye katıldı.

"Exit Zoom açısından, BigBlueButton tabanlı hizmeti FOSS topluluğunun üyelerine hemen sunmaya hazır olduğumuzu geçen haftaki duyurularımızdan görebilirsiniz." "Görüntülü sohbet yalnızca bir hizmet olduğundan, temelde A sürdürülmesi gereken bir paket olarak, görüntülü sohbete ihtiyaç duyan ancak Zoom'dan çıkmak isteyen FOSS katılımcıları için dışa dönük bir hizmet sağlayabileceğimize inanıyoruz. GiveUpGitHub ile karşılaştırıldığında daha uzun sürüyor."

Gizlilik ve rahatlık arasında, birini veya diğerini seçmek zorunda mıyız?

Genel olarak konuşursak, ister GitHub'ı terk edin ister Zoom'u terk edin, SFC biraz ilerleme kaydediyor, ancak aynı zamanda büyük bir direnişle de karşılaşıyor, ancak bunun ilgili kuruluşlar üzerinde kaçınılmaz olarak önemli bir baskı oluşturacağı ve onları kaliteyi değiştirmeye sevk edeceği kesin. ürünlerinin çalışma modu ve kullanıcılara daha fazla şeffaflık sağlar.

Ancak olayın kendisine gelince, yapay zeka teknolojisinin gelişmesiyle birlikte büyük modeller ve AIGC gibi uygulamalar hızla ilerlemeye devam ediyor.Teknolojinin eşlik ettiği bu tür gizlilik ihlallerine herkesin karşı koyması neredeyse imkansız. Öyleyse aşılmaz bir alt çizgi var mı? Bu sonuç nereye düşecek?

Bu teknoloji dalgasında, kullanıcı verileri giderek en pahalı ve en ucuz kaynak haline geldi. Kullanıcı açısından bakıldığında ister mahremiyet verilerinin ihlali olsun, ister bilme hakkının ihlali olsun, her zaman pasif görünmektedir.

Pek çok insanın belirli kolaylıklar nedeniyle mahremiyetten vazgeçmeyi kabul edeceği inkar edilemez. Kabaca üç noktaya atfedilebilir:

Birincisi, varsayılan olarak, gerçek hayatın rahatlığı için mahremiyetinizden vazgeçebilirsiniz ve herkes böyledir, bu yüzden kalabalığı takip etmek daha iyidir ve sert tartışmak nankördür.

İkincisi, satıcılar gizlilikle ilgili bazı maddeleri uzun ve terminolojik anlaşmaların arkasına kasıtlı olarak gizler. Tıpkı Zoom'un hizmet sözleşmesinde olduğu gibi, okunması 30 saat sürer. Çok az kişinin tüm hikayeyi araştırmak için yeterli sabrı, zamanı ve bilgisi vardır; Biri peşinden gitse bile. , hala her şeye gücü yeten "son yorumlama hakkı tüccara aittir" vardır.

Üçüncüsü, farklı insanlar mahremiyet ve mahremiyet sızıntılarının getirdiği riskler konusunda farklı anlayış ve vurgu seviyelerine sahiptir.

Ama aslında teknoloji ne kadar gelişirse gelişsin kullanıcı verilerinin açık bir şekilde kullanılmaması veya satılmaması gerekiyor. Uzun vadeli spekülasyonda, "rahatlık için mahremiyetten biraz fedakarlık etmeye istekli misiniz" diye sormak yerine, kaynağından tetikte olmak daha iyidir. Mahremiyet ve rahatlık arasında seçim yapması gereken bir toplum, peşinde olduğumuz toplum olmamalıdır.

Referans bağlantısı: