Срочное напоминание! Пункт о повелителях, стоящий за ИИ, шокирует!

Источник: стек технологий 51CTO.

Добавить Автора

Во время эпидемии удаленная работа стала жестким спросом, и ряд инструментов для видеоконференций стал популярным. Зум один из лучших. Но недавно у Zoom возникли проблемы.

Организация Software Freedom Conservancy (SFC) призывает разработчиков с открытым исходным кодом прекратить использование видеоконференций Zoom после того, как разразился скандал вокруг приложения.

В марте Zoom незаметно изменил мелкий шрифт своих условий обслуживания, ориентированных на ИИ, добавив пункт в Раздел 10.4, в котором говорится, что право бизнеса видеочата на использование «контента клиента» для обучения моделей машинного обучения является бессрочным и бесплатным. На какое-то время это вызвало общественный резонанс.

Зачинщик несоответствия

Многие компании, кажется, заинтересованы в расширении того, что они могут делать с пользовательскими данными, ограничивая при этом возможности других компаний. Изменение правил Zoom произошло через месяц после того, как Microsoft предприняла аналогичный шаг, изменив свои условия обслуживания, чтобы дать Bing с улучшенным ИИ больше свободы в том, как он обрабатывает и хранит пользовательский ввод.

В июле гигант заявил, что к концу сентября внесет поправки в Соглашение об услугах Microsoft, чтобы ограничить обратное проектирование и извлечение данных. Тем временем The New York Times пересмотрела свои условия предоставления услуг, чтобы было ясно, что ее контент нельзя использовать для обучения моделей искусственного интеллекта. Reddit и Twitter предприняли аналогичные шаги, чтобы предотвратить передачу данных веб-сайтов в модели ИИ.

Только в начале этого месяца стало известно о контрабанде Zoom, которая привлекла к себе всеобщее внимание, а затем 7 августа Zoom отреагировал на негативную реакцию на этот инцидент сообщением в блоге. Чтобы загладить вину, компания изменила свои условия доступа в Разделе 10.4 следующим образом: «Несмотря на вышеизложенное, Zoom не будет использовать аудио-, видеоматериалы или содержимое чата с клиентами для обучения нашего персонала без вашего согласия. "

Источник: Блог Zoom.

Драматическим образом четыре дня спустя, то есть 11 августа, Zoom сделал шаг назад и переписал детали Раздела 10.4, удалив квалификатор «без вашего согласия», прямо заявив, что отказывается использовать контент клиентов для машинного обучения.

«Zoom не будет использовать ваши аудио, видео, чаты, демонстрации экрана, вложения или другие сообщения клиентов (такие как результаты опросов, доски и реакции) для обучения Zoom или сторонних моделей искусственного интеллекта», — говорится в заявлении компании. в настоящее время читает дорогу.

Тяжелый молот из мира с открытым исходным кодом

В то время как Zoom, похоже, пытается списать все со счетов, некоторые говорят, что с него хватит. Большой брат, который на этот раз поднял руки, — это Ассоциация защиты свободы программного обеспечения (SFC).

Основанная в 2006 году организация Software Freedom Conservancy (SFC, Software Freedom Conservancy) является некоммерческой организацией, призванной обеспечивать поддержку и инфраструктуру для проектов бесплатного программного обеспечения с открытым исходным кодом. Долгое время SFC получала финансовую поддержку от Google, Red Hat и других компаний.

«Во время пандемии и широкого внедрения Zoom мы предупреждаем об опасностях** использования проприетарных, контролируемых коммерческих технологий в качестве необходимой инфраструктуры, — написала SFC во вторник. — На прошлой неделе Zoom показал нам, почему каждый должен прекратите пользоваться их услугами без дальнейшего промедления».

Чтобы помочь в достижении этой цели, SFC заявила, что примет программное обеспечение для чата с открытым исходным кодом BigBlueButton, ранее доступное только для проектов-членов FOSS, в качестве официальной части инфраструктуры организации. По словам SFC, любой участник FOSS, который хочет использовать службу видеочата, может подать заявку на ее использование.

Когда его попросили прокомментировать призыв SFC отказаться от Zoom, представитель Zoom отметил, что компания отменила свои условия 11 августа и отправила копию заявления, отрицающего любое использование соответствующих пользовательских данных для обучения Zoom или третьих лиц. модели ИИ.

Иностранные СМИ The Register также поставили под сомнение это: Итак, до того, как условия были изменены, действительно ли Zoom использовал контент клиентов для обучения моделей искусственного интеллекта? «Модель», или это означает, что Zoom просто «дал» себе право делать это, фактически не делая этого. .

Представитель Zoom заявил, что такого обучения не проводилось.

Как бы Zoom это ни отрицал, SFC на это не покупается. В своем публичном релизе он упомянул мартовский шаг Zoom по изменению своих условий как причину отказа от приложения, хотя также признал, что теперь Zoom изменил свою позицию и пытается дистанцироваться от битвы за права ИИ.

«После широкой негативной реакции и негативной прессы Zoom изменил свои условия обслуживания, заявив, что они не будут использовать данные об участии каких-либо пользователей в собраниях Zoom для обучения своих моделей», — говорится в сообщении SFC.

«Но, к сожалению, в невероятно длинных и юридических условиях обслуживания Zoom оставляет за собой право изменить условия в любое время».

Недавний анализ показал, что ознакомление с положениями и условиями Zoom может занять до 30 часов, SFC хочет, чтобы сообщество FOSS пересмотрело свое отношение к программному обеспечению Zoom.

GitHub был усвоенным уроком

В прошлом году SFC заняла аналогичную позицию в отношении GitHub, который после приобретения Microsoft запустил Copilot, помощника по программированию, который быстро перешел на платную модель. Но ключевым моментом является то, что Copilot основан на исследованиях кода сообщества с открытым исходным кодом, что вызвало сильное недовольство некоторых организаций в отрасли.

Релиз второго пилота вызывает массу вопросов. Открытый исходный код не означает полностью бесплатный, требования лицензии и требования к атрибуции по-прежнему должны быть соблюдены, Copilot никогда не был «родным генератором кода AI», поэтому, если Copilot «скопирует-вставит» код из одного проекта и порекомендует его для другого проекта. будут споры о том, «кто» является фактическим автором программного обеспечения, что, можно сказать, открыло ящик Пандоры для исков о нарушении авторских прав.

SFC также входит в число скептиков, призывающих прекратить использование Microsoft GitHub для хостинга проектов и других разработчиков программного обеспечения.

Источник изображения:

Исследователь политики Брэдли Кун сказал, что у SFC нет корпоративных ресурсов, которые Microsoft должна собирать для оценки влияния своей кампании GitHub, а условия обслуживания GitHub запрещают поиск учетных записей GitHub для поиска логотипа GiveUpGitHub.

Кун сказал: «Мы также регулярно общаемся с участниками проектов FOSS, которые хотят избавиться от GitHub в долгосрочной перспективе». Сетевые эффекты проприетарных продуктов доставили им неприятности. Он сравнивает ситуацию с проблемой отказа от автомобилей, работающих на ископаемом топливе.

«Мы также не видим событий Exit Zoom или GiveUp GitHub в ближайшее время», — добавил Кун.

«Вся проблема с этими проприетарными сервисами заключается в том, что они проникают в рабочий процесс бизнеса, и избавление от них требует больших, иногда тяжелых усилий».

Тем не менее, Кун сказал, что, несмотря на ограниченные ресурсы, SFC добилась прогресса в избавлении людей от зависимости от проприетарных услуг и программного обеспечения. По его словам, SFC ведет долгосрочные переговоры с Лабораторией открытого исходного кода Университета штата Орегон о разработке альтернативы хостингу GitHub. Кроме того, проект Sourceware недавно присоединился к SFC для предоставления услуг хостинга на основе программного обеспечения с открытым исходным кодом для определенных проектов.

«Что касается Exit Zoom, вы можете видеть из наших объявлений за последнюю неделю, что мы готовы немедленно предложить услугу на основе BigBlueButton членам сообщества FOSS». пакет, который необходимо поддерживать, полагаю, что мы можем предоставить внешнюю услугу для участников FOSS, которым нужен видеочат, но которые хотят выйти из Zoom. По сравнению с GiveUpGitHub это занимает больше времени».

Должны ли мы выбирать между конфиденциальностью и удобством?

Вообще говоря, призывает ли она отказаться от GitHub или покинуть Zoom, SFC добивается определенного прогресса, но также сталкивается с большим сопротивлением, но несомненно то, что это неизбежно окажет значительное давление на соответствующие организации, побуждая их изменить качество. своих продуктов, режим работы и обеспечить большую прозрачность для пользователей.

Но что касается самого инцидента, то с развитием технологии искусственного интеллекта такие приложения, как большие модели и AIGC, продолжают быстро развиваться.Этому нарушению конфиденциальности, сопровождаемому технологиями, практически невозможно сопротивляться каждому. Так есть ли непреодолимая нижняя граница? Куда упадет эта нижняя линия?

На этой волне технологий пользовательские данные постепенно стали самым дорогим и самым дешевым ресурсом. С точки зрения пользователя, будь то нарушение конфиденциальности данных или нарушение права на информацию, оно всегда кажется пассивным.

Нельзя отрицать, что многие люди согласятся отказаться от конфиденциальности ради некоторого удобства. Его можно условно отнести к трем пунктам:

Во-первых, по умолчанию можно отказаться от приватности ради удобства реальной жизни, а так у всех, так что лучше идти за толпой, а спорить упорно неблагодарно.

Во-вторых, продавцы намеренно скрывают некоторые пункты, касающиеся конфиденциальности, за длинными и терминологическими соглашениями.Так же, как соглашение об обслуживании Zoom, его чтение занимает 30 часов.Немногие люди имеют достаточно терпения, времени и запасов знаний, чтобы исследовать всю историю;даже если кто-то преследует это , там еще всемогущее "окончательное право толкования принадлежит купцу".

В-третьих, разные люди по-разному понимают и уделяют внимание конфиденциальности, а также рискам, связанным с утечкой конфиденциальной информации.

Но на самом деле, как бы ни развивались технологии, пользовательские данные не должны использоваться или продаваться открыто. В долгосрочной перспективе вместо того, чтобы спрашивать: «Готовы ли вы пожертвовать конфиденциальностью ради удобства», лучше быть бдительным в отношении источника.Общество, которое должно выбирать между конфиденциальностью и удобством, не должно быть тем обществом, к которому мы стремимся.

Ссылка на ссылку: