Lembrete urgente! A cláusula de overlord por trás da IA é chocante!

Fonte: pilha de tecnologia 51CTO

Autor: Qianshan

Durante a epidemia, o teletrabalho tornou-se uma demanda rígida e várias ferramentas de videoconferência decolaram. Zoom é um dos melhores. Mas, recentemente, o Zoom teve problemas.

A Software Freedom Conservancy (SFC) está pedindo aos desenvolvedores de código aberto que parem de usar a videoconferência Zoom depois que um escândalo foi revelado sobre o aplicativo.

Em março, a Zoom alterou discretamente as letras miúdas de seus termos de serviço compatíveis com IA, adicionando uma cláusula na Seção 10.4 estipulando que o direito da empresa de bate-papo por vídeo de usar "conteúdo do cliente" para treinar modelos de aprendizado de máquina é perpétuo e isento de royalties. Isso causou um clamor público por um tempo.

O instigador da inconsistência

Muitas empresas parecem interessadas em expandir o que podem fazer com os dados gerados pelo usuário, ao mesmo tempo em que limitam o que outras empresas podem fazer com eles. A mudança de regra do Zoom ocorre um mês depois que a Microsoft deu um passo semelhante, alterando seus termos de serviço para dar ao Bing aprimorado por IA mais liberdade na forma como processa e armazena a entrada do usuário.

Em julho, a gigante disse que alteraria o Contrato de Serviços da Microsoft até o final de setembro para restringir a engenharia reversa e a extração de dados. Enquanto isso, o The New York Times revisou seus termos de serviço para deixar claro que seu conteúdo não pode ser usado para treinar modelos de inteligência artificial. O Reddit e o Twitter tomaram medidas semelhantes para impedir que os dados do site sejam alimentados com modelos de IA.

Não foi até o início deste mês que o contrabando de Zoom veio à tona e recebeu atenção generalizada, e então Zoom respondeu à reação contra o incidente com uma postagem no blog em 7 de agosto. Para remediar, a empresa alterou seus termos de acesso ao serviço na seção 10.4, "Não obstante o acima exposto, o Zoom não usará áudio, vídeo ou conteúdo de bate-papo do cliente para treinar nossa equipe humana sem o seu consentimento. modelo inteligente."

Fonte: Blog Zoom See More

Dramaticamente, quatro dias depois, ou seja, em 11 de agosto, o Zoom deu um passo atrás e reescreveu os detalhes da Seção 10.4, removendo o qualificador "sem o seu consentimento", afirmando diretamente que se recusa a usar o conteúdo do cliente para aprendizado de máquina.

“O Zoom não usará nenhum áudio, vídeo, bate-papo, compartilhamentos de tela, anexos ou outras comunicações do cliente (como resultados de enquetes, quadros brancos e reações) para treinar o Zoom ou modelos de inteligência artificial de terceiros”, o documento legal da empresa atualmente lê estrada.

Um martelo pesado do mundo do código aberto

Embora o Zoom pareça estar tentando anular as coisas, alguns dizem que já é o suficiente. O irmão mais velho que levantou os braços desta vez é a Software Freedom Conservation Association (SFC).

Fundada em 2006, a Software Freedom Conservancy (SFC, Software Freedom Conservancy) é uma organização sem fins lucrativos projetada para fornecer suporte e infraestrutura para projetos de software livre e de código aberto. Por muito tempo, o SFC recebeu apoio financeiro do Google, Red Hat e outras empresas.

“Durante a pandemia e a adoção generalizada do Zoom, alertamos sobre os perigos** de **confiar em tecnologia proprietária, controlada e com fins lucrativos como infraestrutura essencial'”, escreveu o SFC na terça-feira. “Na semana passada, o Zoom nos mostrou por que todos devem parar de usar seus serviços sem demora."

Para ajudar a atingir esse objetivo, o SFC disse que adotará o software de bate-papo de código aberto da BigBlueButton, anteriormente disponível apenas para projetos membros da FOSS, como parte oficial da infraestrutura da organização. Qualquer colaborador do FOSS que queira usar o serviço de bate-papo por vídeo pode se inscrever para usá-lo, disse o SFC.

Quando solicitado a comentar a ligação do SFC para retirar o Zoom, um porta-voz do Zoom observou que a empresa rescindiu seus termos em 11 de agosto e enviou uma cópia de uma declaração negando qualquer uso de dados relevantes do usuário. modelos de IA.

A mídia estrangeira The Register questionou ainda o seguinte: Então, antes de os termos serem alterados, o Zoom realmente usou o conteúdo do cliente para treinar modelos de inteligência artificial? .

Um porta-voz da Zoom disse que tal treinamento não ocorreu.

Não importa o quanto o Zoom negue, o SFC não o compra. Em seu post público, citou a mudança do Zoom em março como um motivo para abandonar o aplicativo, embora também reconhecesse que o Zoom agora mudou de posição e está tentando se distanciar da batalha pelos direitos da IA.

“Após ampla reação negativa e imprensa negativa, o Zoom alterou seus termos de serviço para afirmar que não usará dados da participação de nenhum usuário nas reuniões do Zoom para treinar seus modelos”, disse o SFC.

"Mas, frustrantemente, nos termos de serviço incrivelmente longos e carregados de juridiquês, a Zoom ** reserva-se o direito de alterar os termos a qualquer momento **."

Com uma análise recente mostrando que a leitura dos termos e condições do Zoom pode levar até 30 horas, o SFC quer que a comunidade FOSS reconsidere sua confiança no software Zoom.

GitHub foi uma lição aprendida

No ano passado, o SFC adotou uma postura semelhante contra o GitHub, que, após ser adquirido pela Microsoft, lançou o Copilot, um assistente de programação que rapidamente mudou para um modelo pago. Mas o ponto principal é que o Copilot é baseado em pesquisa de código comunitário de código aberto, o que atraiu forte insatisfação de algumas organizações do setor.

A liberação do Copilot levanta uma série de questões. Código aberto não significa totalmente gratuito, requisitos de licença e requisitos de atribuição ainda precisam ser atendidos, o Copilot nunca foi um "gerador de código AI nativo", portanto, se o Copilot "copiar e colar" o código de um projeto e recomendá-lo para outro projeto haverá disputas sobre "quem" é o verdadeiro autor do software, que pode ser dito ter aberto uma caixa de Pandora para ações judiciais de violação de direitos autorais.

O SFC também está entre os opositores que pedem o fim do uso do GitHub da Microsoft para hospedagem de projetos e pedem que outros desenvolvedores de software também saiam.

Fonte da imagem:

O pesquisador de políticas Bradley Kuhn disse que o SFC não possui os recursos corporativos que a Microsoft possui para coletar dados para avaliar o impacto de sua campanha no GitHub, e os termos de serviço do GitHub proíbem a pesquisa de contas do GitHub para encontrar o logotipo GiveUpGitHub.

Kuhn disse: "Também conversamos regularmente com colaboradores de projetos FOSS que estão ansiosos para se livrar do GitHub a longo prazo". Os efeitos de rede dos produtos proprietários os colocaram em apuros. Ele compara a situação ao desafio de abandonar os veículos movidos a combustíveis fósseis.

“Também não vemos um evento Exit Zoom ou GiveUp GitHub acontecendo tão cedo”, acrescentou Kuhn.

"Todo o problema com esses serviços proprietários é que eles se infiltram no fluxo de trabalho do negócio, e livrar-se deles requer muito esforço, às vezes árduo."

Ainda assim, Kuhn disse que, apesar dos recursos limitados, a SFC fez progressos em afastar as pessoas da dependência de serviços e software proprietários. A SFC está em negociações de longo prazo com o Open Source Lab da Oregon State University para desenvolver uma alternativa à hospedagem do GitHub, disse ele. Além disso, o projeto Sourceware juntou-se recentemente ao SFC para fornecer serviços de hospedagem baseados em software de código aberto para determinados projetos.

“Em termos de Exit Zoom, você pode ver nossos anúncios na semana passada, certificando-se de que estamos prontos para oferecer imediatamente o serviço baseado em BigBlueButton aos membros da comunidade FOSS.” “Como o bate-papo por vídeo é apenas um serviço, basicamente um pacote que precisa ser mantido, acredito que podemos fornecer um serviço externo para colaboradores FOSS que precisam de bate-papo por vídeo, mas desejam sair do Zoom. Em comparação com o GiveUpGitHub, leva mais tempo."

Entre privacidade e comodidade, temos que escolher um ou outro?

De um modo geral, quer se trate de abandonar o GitHub ou sair do Zoom, o SFC está a fazer alguns progressos, mas também a enfrentar grandes resistências, mas o certo é que isso inevitavelmente exercerá uma pressão considerável sobre as organizações relevantes, levando-as a mudar a qualidade do modo de operação de seus produtos e dar mais transparência aos usuários.

Mas no que diz respeito ao incidente em si, com o desenvolvimento da tecnologia de inteligência artificial, aplicativos como modelos grandes e AIGC continuam avançando rapidamente. Esse tipo de violação de privacidade acompanhada pela tecnologia é quase impossível para todos resistirem. Então, há uma linha de fundo intransponível? Onde essa linha de fundo cairá?

Nesta onda de tecnologia, os dados do usuário tornaram-se gradualmente o recurso mais caro e mais barato. Do ponto de vista do usuário, seja a violação dos dados de privacidade ou a violação do direito de saber, parece sempre ser passivo.

É inegável que muitas pessoas concordarão em abrir mão da privacidade por causa de certas conveniências. Pode ser aproximadamente atribuído a três pontos:

Primeiro, por padrão, você pode desistir de sua privacidade para a conveniência da vida real, e todo mundo é assim, então é melhor seguir a multidão e é ingrato argumentar muito.

Em segundo lugar, os comerciantes escondem deliberadamente algumas cláusulas relacionadas à privacidade por trás de acordos longos e terminológicos. Assim como o contrato de serviço do Zoom, leva 30 horas para ler. Poucas pessoas têm paciência, tempo e reservas de conhecimento suficientes para investigar toda a história; Mesmo que alguém o persiga , ainda existe o onipotente "o direito final de interpretação pertence ao comerciante".

Em terceiro lugar, diferentes pessoas têm diferentes níveis de compreensão e ênfase na privacidade, bem como os riscos decorrentes de vazamentos de privacidade.

Mas, na verdade, não importa como a tecnologia se desenvolva, os dados do usuário não devem ser usados ou vendidos abertamente. Na especulação de longo prazo, em vez de perguntar "você está disposto a sacrificar um pouco de privacidade por conveniência", é melhor estar vigilante desde a fonte. Uma sociedade que deve escolher entre privacidade e conveniência não deve ser a sociedade que buscamos.

Link de referência: