¡Recordatorio urgente! ¡La cláusula del señor supremo detrás de la IA es impactante!

Fuente: pila de tecnología 51CTO

Autor: Qian Shan

Durante la epidemia, el teletrabajo se convirtió en una demanda rígida y despegaron varias herramientas de videoconferencia. Zoom es uno de los mejores. Pero recientemente, Zoom ha tenido problemas.

Software Freedom Conservancy (SFC) está pidiendo a los desarrolladores de código abierto que dejen de usar las videoconferencias de Zoom después de que se revelara un escándalo sobre la aplicación.

En marzo, Zoom modificó discretamente la letra pequeña de sus términos de servicio amigables con la IA, agregando una cláusula en la Sección 10.4 que estipula que el derecho del negocio de chat de video a usar "contenido del cliente" para entrenar modelos de aprendizaje automático es perpetuo y libre de regalías. Causó una protesta pública por un tiempo.

El instigador de la inconsistencia

Muchas empresas parecen dispuestas a ampliar lo que pueden hacer con los datos generados por los usuarios y, al mismo tiempo, limitan lo que otras empresas pueden hacer con ellos. El cambio de regla de Zoom se produce un mes después de que Microsoft diera un paso similar, modificando sus términos de servicio para dar a Bing mejorado con IA más libertad en la forma en que procesa y almacena las entradas de los usuarios.

En julio, el gigante dijo que modificaría el Acuerdo de servicios de Microsoft a fines de septiembre para restringir la ingeniería inversa y la extracción de datos. Mientras tanto, The New York Times revisó sus términos de servicio para dejar claro que su contenido no puede usarse para entrenar modelos de inteligencia artificial. Reddit y Twitter han tomado medidas similares para evitar que los datos del sitio web se envíen a los modelos de IA.

No fue hasta principios de este mes que salió a la luz el contrabando de Zoom que recibió una atención generalizada, y luego Zoom respondió a la reacción violenta contra el incidente con una publicación de blog el 7 de agosto. Para remediarlo, la empresa modificó sus términos de acceso al servicio en la sección 10.4, "Sin perjuicio de lo anterior, Zoom no utilizará contenido de audio, video o chat de clientes para capacitar a nuestro personal humano sin su consentimiento. modelo inteligente".

Fuente: ZoomBlog

Dramáticamente, cuatro días después, es decir, el 11 de agosto, Zoom dio un paso atrás y reescribió los detalles de la Sección 10.4, eliminando el calificativo "sin su consentimiento", afirmando directamente que se niega a usar el contenido del cliente para el aprendizaje automático.

"Zoom no utilizará ninguno de sus audios, videos, chats, pantallas compartidas, archivos adjuntos u otras comunicaciones con los clientes (como resultados de encuestas, pizarras y reacciones) para capacitar a Zoom o modelos de inteligencia artificial de terceros", la presentación legal de la compañía. actualmente lee camino.

Un martillo pesado del mundo del código abierto

Si bien Zoom parece estar tratando de descartar las cosas, algunos dicen que ya es suficiente. El hermano mayor que levantó los brazos esta vez es Software Freedom Conservation Association (SFC).

Fundada en 2006, Software Freedom Conservancy (SFC, Software Freedom Conservancy) es una organización sin fines de lucro diseñada para proporcionar soporte e infraestructura para proyectos de software libre y de código abierto. Durante mucho tiempo, SFC ha recibido apoyo financiero de Google, Red Hat y otras empresas.

“Durante la pandemia y la adopción generalizada de Zoom, advertimos sobre los peligros** de confiar en tecnología patentada, controlada y con fines de lucro como infraestructura esencial”, escribió la SFC el martes. “La semana pasada, Zoom nos mostró por qué todos deben dejar de usar su servicio sin más demora".

Para ayudar a lograr este objetivo, SFC dijo que adoptará el software de chat de código abierto de BigBlueButton, que anteriormente solo estaba disponible para los proyectos de los miembros de FOSS, como parte oficial de la infraestructura de la organización. Cualquier colaborador de FOSS que quiera usar el servicio de chat de video puede solicitarlo, dijo la SFC.

Cuando se le pidió que comentara sobre el llamado de la SFC para abandonar Zoom, un portavoz de Zoom señaló que la compañía había rescindido sus términos el 11 de agosto y había enviado una copia de una declaración negando cualquier uso de datos de usuarios relevantes para capacitar a Zoom o a un tercero. modelos de IA.

El medio extranjero The Register cuestionó aún más esto: Entonces, antes de que se cambiaran los términos, ¿Zoom realmente usó el contenido del cliente para entrenar modelos de inteligencia artificial? "Modelo", o significa que Zoom simplemente se "otorgó" a sí mismo el derecho de hacerlo sin hacerlo realmente. .

Un portavoz de Zoom dijo que no se había realizado tal capacitación.

No importa cómo Zoom lo niegue, SFC no lo compra. En su comunicado público, citó la decisión de Zoom de cambiar sus términos en marzo como una razón para abandonar la aplicación, aunque también reconoció que Zoom ahora ha cambiado de posición y está tratando de distanciarse de la batalla por los derechos de la IA.

“Después de una reacción violenta generalizada y la prensa negativa, Zoom modificó sus términos de servicio para establecer que no usarán los datos de la participación de ningún usuario en las reuniones de Zoom para entrenar a sus modelos”, dijo SFC.

"Pero, de manera frustrante, en los términos de servicio increíblemente largos y cargados de jerga legal, Zoom se reserva el derecho de cambiar los términos en cualquier momento".

Con un análisis reciente que muestra que leer los términos y condiciones de Zoom podría llevar hasta 30 horas, la SFC quiere que la comunidad FOSS reconsidere su confianza en el software Zoom.

GitHub fue una lección aprendida

El año pasado, la SFC tomó una postura similar contra GitHub, que, luego de ser adquirida por Microsoft, lanzó Copilot, un asistente de programación que rápidamente cambió a un modelo basado en tarifas. Pero el punto clave es que Copilot se basa en la investigación de código comunitario de código abierto, lo que ha atraído una gran insatisfacción por parte de algunas organizaciones de la industria.

La liberación de Copilot plantea una serie de preguntas. El código abierto no significa completamente gratuito, los requisitos de licencia y los requisitos de atribución aún deben cumplirse, Copilot nunca ha sido un "generador de código de IA nativo", por lo que si Copilot "copia y pega" el código de un proyecto y lo recomienda a otro proyecto allí habrá disputas sobre "quién" es el autor real del software, lo que puede decirse que abrió la caja de Pandora para las demandas por infracción de derechos de autor.

El SFC también se encuentra entre los detractores que piden el fin del uso de GitHub de Microsoft para el alojamiento de proyectos e insta a otros desarrolladores de software a que también renuncien.

Fuente de imagen:

El investigador de políticas Bradley Kuhn dijo que SFC no tiene los recursos corporativos que Microsoft tiene para recopilar datos para evaluar el impacto de su campaña de GitHub, y los términos de servicio de GitHub prohíben buscar cuentas de GitHub para encontrar el logotipo de GiveUpGitHub.

Kuhn dijo: "También hablamos regularmente con colaboradores de proyectos FOSS que están ansiosos por deshacerse de GitHub a largo plazo". En su opinión, los proyectos FOSS orientados a la comunidad generalmente no quieren quedarse en GitHub, pero el líder de pérdida de GitHub) Los efectos de red de los productos patentados los metieron en problemas. Él compara la situación con el desafío de alejarse de los vehículos de combustibles fósiles.

"Tampoco vemos que ocurra un evento Exit Zoom o GiveUp GitHub en el corto plazo", agregó Kuhn.

"Todo el problema con estos servicios propietarios es que se infiltran en el flujo de trabajo de la empresa, y deshacerse de ellos requiere mucho esfuerzo, a veces arduo".

Aún así, Kuhn dijo que, a pesar de los recursos limitados, SFC ha logrado avances en alejar a las personas de la dependencia de los servicios y software propietarios. SFC ha estado en conversaciones a largo plazo con el Open Source Lab de la Universidad Estatal de Oregón para desarrollar una alternativa al alojamiento de GitHub, dijo. Además, el proyecto Sourceware se ha unido recientemente a la SFC para proporcionar servicios de hosting basados en software de código abierto para determinados proyectos.

"En términos de Exit Zoom, puede ver en nuestros anuncios durante la semana pasada que estamos seguros de que estamos listos para ofrecer de inmediato el servicio basado en BigBlueButton a los miembros de la comunidad FOSS". paquete que necesita mantenimiento, creemos que podemos proporcionar un servicio externo para los colaboradores de FOSS que necesitan chat de video pero quieren salir de Zoom. En comparación con GiveUpGitHub, toma más tiempo".

Entre privacidad y comodidad, ¿hay que elegir una u otra?

En términos generales, ya sea que llame a abandonar GitHub o dejar Zoom, SFC está logrando algunos avances, pero también enfrenta una gran resistencia, pero lo cierto es que esto inevitablemente ejercerá una presión considerable sobre las organizaciones relevantes, incitándolas a cambiar la calidad. de sus productos modo de operación y brindar más transparencia a los usuarios.

Pero en lo que respecta al incidente en sí, con el desarrollo de la tecnología de inteligencia artificial, las aplicaciones como los modelos grandes y AIGC continúan avanzando rápidamente. Este tipo de violación de la privacidad acompañada de tecnología es casi imposible de resistir para todos. Entonces, ¿hay un resultado final insuperable? ¿Dónde caerá este resultado final?

En esta ola de tecnología, los datos de los usuarios se han convertido gradualmente en el recurso más caro y más barato. Desde el punto de vista del usuario, ya sea la violación de la privacidad de los datos o la violación del derecho a saber, siempre parece ser pasivo.

Es innegable que muchas personas aceptarán renunciar a la privacidad por ciertas conveniencias. Se puede atribuir aproximadamente a tres puntos:

Primero, de forma predeterminada, puede renunciar a su privacidad por la comodidad de la vida real, y todos son así, por lo que es mejor seguir a la multitud, y es desagradecido discutir mucho.

En segundo lugar, los comerciantes ocultan deliberadamente algunas cláusulas relacionadas con la privacidad detrás de acuerdos extensos y terminológicos. Al igual que el acuerdo de servicio de Zoom, se tarda 30 horas en leerlo. Pocas personas tienen suficientes reservas de paciencia, tiempo y conocimiento para investigar toda la historia; incluso si alguien lo persigue. , todavía existe el omnipotente "el derecho final de interpretación pertenece al comerciante".

En tercer lugar, diferentes personas tienen diferentes niveles de comprensión y énfasis en la privacidad, así como los riesgos que conllevan las filtraciones de privacidad.

Pero, de hecho, no importa cómo se desarrolle la tecnología, los datos de los usuarios no deben usarse ni venderse abiertamente. En la especulación a largo plazo, en lugar de preguntar "¿estás dispuesto a sacrificar algo de privacidad por conveniencia?", es mejor estar alerta desde la fuente. Una sociedad que debe elegir entre privacidad y conveniencia no debería ser la sociedad que perseguimos.

Link de referencia: