Термінове нагадування! Положення про володаря, що стоїть за ШІ, шокує!

Джерело: стек технологій 51CTO

Автор: Цяньшань

Під час епідемії дистанційна робота стала жорстким попитом, і низка інструментів для відеоконференцій набула популярності. Zoom один з найкращих. Але нещодавно у Zoom виникла проблема.

Software Freedom Conservancy (SFC) закликає розробників відкритих вихідних кодів припинити використання відеоконференцій Zoom після розкриття скандалу щодо програми.

У березні Zoom тихо змінила дрібний шрифт своїх умов надання послуг, додавши пункт у Розділ 10.4, який передбачає, що право бізнесу відеочату використовувати «контент клієнтів» для навчання моделей машинного навчання є постійним і безоплатним. На деякий час це викликало громадський резонанс.

Призвідник неузгодженості

Багато компаній, здається, прагнуть розширити те, що вони можуть робити з даними, створеними користувачами, обмежуючи те, що інші компанії можуть робити з ними. Зміна правил Zoom відбулася через місяць після того, як корпорація Майкрософт зробила подібний крок, внісши зміни до своїх умов обслуговування, щоб надати покращеному ШІ Bing більше свободи в тому, як він обробляє та зберігає введені користувачем дані.

У липні гігант заявив, що до кінця вересня внесе зміни в Угоду про надання послуг Microsoft, щоб обмежити зворотне проектування та вилучення даних. Тим часом The New York Times переглянула свої умови обслуговування, щоб чітко вказати, що її вміст не можна використовувати для навчання моделей штучного інтелекту. Reddit і Twitter вжили аналогічних заходів, щоб запобігти передачі даних веб-сайтів моделям ШІ.

Лише на початку цього місяця про контрабанду Zoom стало відомо, що вона привернула широку увагу, а потім Zoom відповів на негативну реакцію на інцидент публікацією в блозі 7 серпня. Щоб виправити провину, компанія змінила умови доступу до Розділу 10.4, щоб читати: «Незважаючи на вищесказане, Zoom не використовуватиме аудіо-, відео- або вміст чату клієнтів для навчання нашого персоналу без вашої згоди. smart model. "

Джерело: Zoom Blog

Через чотири дні, тобто 11 серпня, Zoom зробив крок назад і переписав деталі Розділу 10.4, видаливши кваліфікатор «без вашої згоди», прямо заявивши, що він відмовляється використовувати контент клієнтів для машинного навчання.

«Zoom не використовуватиме ваші аудіо, відео, чати, покази екрана, вкладення або інші повідомлення клієнтів (наприклад, результати опитувань, дошки та реакції) для навчання Zoom або моделей штучного інтелекту сторонніх розробників», — юридична заява компанії. зараз читає дорогу.

Важкий молоток зі світу відкритого коду

Хоча Zoom, здається, намагається списати речі з рахунків, деякі кажуть, що досить. Старшим братом, який підняв руки цього разу, є Асоціація збереження свободи програмного забезпечення (SFC).

Заснована в 2006 році Software Freedom Conservancy (SFC, Software Freedom Conservancy) є некомерційною організацією, покликаною надавати підтримку та інфраструктуру для проектів безкоштовного програмного забезпечення з відкритим кодом. Довгий час SFC отримувала фінансову підтримку від Google, Red Hat та інших компаній.

«Під час пандемії та широкого впровадження Zoom ми попереджаємо про небезпеку** покладатися на власну, контрольовану, прибуткову технологію як основну інфраструктуру», – написало SFC у вівторок. «Минулого тижня Zoom показав нам, чому кожен повинен припинити користуватися їхніми послугами без подальших зволікань».

Щоб допомогти досягти цієї мети, SFC заявив, що запровадить програмне забезпечення для чату з відкритим кодом BigBlueButton, яке раніше було доступне лише для проектів учасників FOSS, як офіційну частину інфраструктури організації. Будь-який учасник FOSS, який хоче використовувати службу відеочату, може подати заявку на її використання, повідомили в SFC.

Коли його попросили прокоментувати заклик SFC відмовитися від Zoom, представник Zoom зазначив, що компанія скасувала свої умови 11 серпня та надіслала копію заяви, яка заперечує будь-яке використання відповідних даних користувачів для навчання Zoom або третьої сторони. моделі AI.

Іноземні ЗМІ The Register також поставили під сумнів: чи дійсно Zoom використовував контент клієнтів для навчання моделей штучного інтелекту? модель», чи Zoom просто «надав» собі право робити це, не роблячи цього насправді. .

Представник Zoom сказав, що такого навчання не було.

Як би Zoom не заперечував це, SFC не купує. У своєму публічному релізі він назвав зміну умов Zoom у березні причиною відмови від програми, хоча також визнав, що Zoom змінив свою позицію та намагається дистанціюватися від боротьби за права на AI.

«Після широко поширеної негативної реакції та негативної преси Zoom вніс поправки до своїх умов обслуговування, щоб стверджувати, що вони не використовуватимуть дані про участь будь-яких користувачів у зустрічах Zoom для навчання своїх моделей», — заявили в SFC.

«Але, на жаль, через неймовірно довгі та переповнені законодавством умови надання послуг Zoom зберігає за собою право змінювати умови в будь-який час».

Оскільки нещодавній аналіз показує, що ознайомлення з умовами Zoom може зайняти до 30 годин, SFC хоче, щоб спільнота FOSS переглянула свою залежність від програмного забезпечення Zoom.

GitHub був засвоєним уроком

Минулого року SFC зайняв подібну позицію проти GitHub, який після придбання Microsoft запустив Copilot, помічника з програмування, який швидко перейшов на платну модель. Але ключовим моментом є те, що Copilot базується на дослідженні коду спільноти з відкритим вихідним кодом, яке викликало сильне незадоволення деяких організацій у галузі.

Реліз Copilot викликає масу питань. Відкритий вихідний код не означає повністю безкоштовний, ліцензійні вимоги та вимоги до атрибуції все ще повинні бути виконані, Copilot ніколи не був «власним генератором коду штучного інтелекту», тому, якщо Copilot «скопіювати-вставити» код з одного проекту та рекомендувати його для іншого проекту Там будуть суперечки щодо того, «хто» є справжнім автором програмного забезпечення, що, можна сказати, відкрило скриньку Пандори для позовів про порушення авторських прав.

SFC також є одним із скептиків, які закликають припинити використання GitHub від Microsoft для розміщення проектів і закликають інших розробників програмного забезпечення також залишити це.

Джерело зображення:

Дослідник політики Бредлі Кун сказав, що SFC не має корпоративних ресурсів, які має Microsoft для збору даних для оцінки впливу своєї кампанії GitHub, а умови використання GitHub забороняють пошук облікових записів GitHub для пошуку логотипу GiveUpGitHub.

Кун сказав: «Ми також регулярно спілкуємося з учасниками проектів FOSS, які прагнуть позбутися GitHub у довгостроковій перспективі». На його думку, проекти FOSS, орієнтовані на спільноту, загалом не хочуть залишатися в GitHub, але лідер втрати GitHub ) Мережеві ефекти запатентованих продуктів створили їм проблеми. Він порівнює ситуацію з проблемою відмови від транспортних засобів, які працюють на викопному паливі.

«Ми також не бачимо найближчим часом події Exit Zoom або GiveUp GitHub», — додав Кун.

«Вся проблема з цими пропрієтарними службами полягає в тому, що вони впроваджуються в робочий процес бізнесу, і щоб позбутися від них, потрібно докласти багато, іноді важких, зусиль».

Тим не менш, Кун сказав, що, незважаючи на обмежені ресурси, SFC досягла прогресу в тому, щоб позбавити людей залежності від власних послуг і програмного забезпечення. За його словами, SFC веде довгострокові переговори з лабораторією відкритого коду Університету штату Орегон щодо розробки альтернативи хостингу GitHub. Крім того, проект Sourceware нещодавно приєднався до SFC для надання послуг хостингу на основі програмного забезпечення з відкритим кодом для певних проектів.

«Що стосується Exit Zoom, ви можете побачити з наших оголошень за минулий тиждень, щоб переконатися, що ми готові негайно запропонувати послугу на основі BigBlueButton членам спільноти FOSS». «Оскільки відеочат — це лише послуга, в основному A пакет, який потрібно підтримувати, вважаємо, що ми можемо надати зовнішню службу для учасників FOSS, яким потрібен відеочат, але вони хочуть вийти із Zoom. Порівняно з GiveUpGitHub це займає більше часу."

Чи повинні ми вибрати одне чи інше між конфіденційністю та зручністю?

Загалом, незалежно від того, закликає вона відмовитися від GitHub чи залишити Zoom, SFC досягає певного прогресу, але вона також стикається з великим опором, але можна сказати, що це неминуче чинить значний тиск на відповідні організації, спонукаючи їх змінити якість. їхніх продуктів.режим роботи та забезпечують більшу прозорість для користувачів.

Але що стосується самого інциденту, то з розвитком технології штучного інтелекту такі додатки, як великі моделі та AIGC, продовжують швидко розвиватися.Цьому виду порушення конфіденційності, що супроводжується технологією, майже неможливо протистояти кожному. Отже, чи є непереборна нижня межа? Куди впаде цей результат?

У цій хвилі технологій дані користувача поступово стали найдорожчим і найдешевшим ресурсом. З точки зору користувача, незалежно від того, чи йдеться про порушення конфіденційності даних, чи про порушення права на інформацію, він завжди виглядає пасивним.

Незаперечно, що багато людей погодяться відмовитися від приватності через певні зручності. Це можна приблизно пояснити трьома моментами:

По-перше, за замовчуванням можна поступитися приватністю заради зручності реального життя, а так у всіх, тому краще йти за натовпом, а сперечатися невдячно.

По-друге, продавці навмисно приховують деякі пункти, пов’язані з конфіденційністю, за довгими термінологічними угодами. Так само, як угода про надання послуг Zoom, її читання займає 30 годин. Мало хто має достатньо терпіння, часу та запасу знань, щоб дослідити всю історію; навіть якщо хтось це переслідує , є ще всемогутнє «останнє право тлумачення належить купцеві».

По-третє, різні люди мають різний рівень розуміння та наголошення на конфіденційності, а також на ризиках, спричинених витоком конфіденційності.

Але насправді, як би не розвивалися технології, дані користувачів не повинні використовуватися або продавати відкрито. У довгострокових спекуляціях замість того, щоб запитувати «чи готові ви пожертвувати часткою конфіденційності заради зручності», краще бути пильним з джерела. Суспільство, яке має вибирати між конфіденційністю та зручністю, не повинно бути суспільством, до якого ми прагнемо.

Посилання на посилання: