¿Puede haber algunos obstáculos en el modelo de IA bajo el lema de "código abierto"?

La llegada de ChatGPT ha brindado a más personas acceso a una poderosa inteligencia artificial (IA), pero el funcionamiento interno del chatbot sigue siendo un secreto no revelado.

Como resultado, el trabajo para hacer que la IA sea más "abierta" parece haber ganado más atención en los últimos meses. **

En mayo de este año, alguien filtró el modelo "Llama" de Meta, dando al mundo exterior acceso a su código subyacente y los pesos del modelo que determinan su comportamiento. En julio, Meta lanzó un modelo más potente, Llama 2, que, según afirma, cualquiera puede descargar, modificar y reutilizar de forma gratuita. Desde entonces, la serie de modelos Llama de Meta se ha convertido en la base para que muchas empresas, investigadores y aficionados a la IA creen herramientas y aplicaciones con capacidades similares a ChatGPT.

"Tenemos una amplia gama de electores en todo el mundo que creen en nuestro enfoque abierto hacia la IA hoy... Los investigadores están comprometidos a realizar investigaciones utilizando el modelo, y personas en tecnología, academia y políticas están trabajando con Nosotros también vemos la beneficios de Llama y una plataforma abierta", dijo Meta en el lanzamiento de Llama 2. Hace unos días, Meta también lanzó otro modelo: Llama 2 Code, que está optimizado para la codificación.

**Después de décadas de democratizar el acceso al software, garantizar la transparencia y mejorar la seguridad, ahora parece que se espera que un enfoque de código abierto tenga un impacto similar en la inteligencia artificial. **

** Pero puede que esto no sea suficiente. **

Un equipo de investigación de la Universidad Carnegie Mellon, el AI Now Institute y la Signal Foundation publicaron un artículo titulado "Open (For Business): Big Tech, Concentrated Power, and the Political Economy of Open AI" explora las realidades de "Llama 2" y otros modelos de inteligencia artificial que son de "código abierto" de alguna manera. Dijeron que puede haber algunos "errores" en el modelo bajo el lema "código abierto".

Según el documento, **Aunque Llama 2 se puede descargar, modificar e implementar de forma gratuita, no está cubierto por las licencias tradicionales de código abierto. ** La licencia de Meta prohíbe el uso de Llama 2 para entrenar otros modelos de lenguaje y se requiere una licencia especial si un desarrollador implementa Llama 2 en una aplicación o servicio con más de 700 millones de usuarios diarios.

**Este nivel de control significa que Llama 2 puede aportar importantes beneficios técnicos y estratégicos a Meta; por ejemplo, Meta puede beneficiarse de ajustes beneficiosos cuando empresas externas utilizan el modelo Llama 2 en sus propias aplicaciones. **

Los modelos lanzados bajo licencias comunes de código abierto, como GPT Neo de la organización sin fines de lucro EleutherAI, son más abiertos, dijeron los investigadores. Pero estos proyectos tienen dificultades para competir con los modelos lanzados por empresas más grandes.

Primero, los datos necesarios para entrenar modelos avanzados suelen ser confidenciales; Segundo, los marcos de software necesarios para construir dichos modelos suelen estar controlados por grandes empresas, y los dos marcos de software más populares son TensorFlow y Pytorch, respectivamente. Mantenido por Google y Meta; Además, la potencia informática necesaria para entrenar modelos de inteligencia artificial a gran escala está fuera del alcance de los desarrolladores o empresas comunes, por lo general se necesitan decenas de millones o cientos de millones de dólares para una sesión de capacitación. ; *Finalmente * , la mano de obra necesaria para refinar y mejorar estos modelos también es principalmente un recurso que sólo las grandes empresas pueden obtener.

Por ello, el equipo de investigación cree que a juzgar por las tendencias actuales, esta una de las tecnologías más importantes en décadas puede acabar enriqueciendo y potenciando las capacidades de sólo unas pocas empresas, entre ellas OpenAI, Microsoft, Meta y Google. Si la inteligencia artificial es realmente una tecnología que puede cambiar el mundo, y si puede aplicarse y popularizarse más ampliamente, puede aportar el mayor beneficio a todo el mundo.

"Nuestro análisis muestra que (este nivel de) código abierto no sólo no 'democratizará' la IA", dijo a Wired Meredith Whittaker, una de las autoras del artículo, "de hecho, las empresas y las instituciones pueden hacerlo. Y ha aprovechado las tecnologías de "código abierto". consolidar y ampliar la concentración de poder".

Además,** incluso los sistemas de IA más abiertos no garantizarán, por sí solos, el acceso democrático o una competencia significativa en la IA, ni la apertura por sí sola resolverá los problemas de supervisión y censura. **

Whittaker agregó que el código abierto debería ser una consideración importante en las tan necesarias regulaciones de IA: "Realmente necesitamos alternativas significativas a las tecnologías definidas y dominadas por grandes monopolios, especialmente cuando los sistemas de IA se integran en áreas altamente sensibles de impacto público particular, como la atención médica". , finanzas, educación, etc. Crear las condiciones para hacer posible esta sustitución es un proyecto que puede coexistir con, o incluso ser apoyado por, movimientos regulatorios como la reforma antimonopolio”.

El equipo de investigación también dice que, además de equilibrar el poder de las grandes empresas, hacer que la IA sea más abierta puede ser crucial para desbloquear el mejor potencial de la tecnología y, al mismo tiempo, evitar sus peores tendencias. **

** Si queremos comprender cuán capaces son los modelos de IA de última generación y reducir los riesgos que su implementación y desarrollo posterior pueden implicar, lo mejor es poner estos modelos a disposición de los científicos de todo el mundo. **

Así como la "seguridad a través de la oscuridad" nunca puede garantizar realmente que el código se ejecute de forma segura, proteger la potencia de los modelos de IA no es necesariamente lo más inteligente.

Link de referencia: