Meta Releases Code Llama: un modelo de generación de código de IA de código abierto

En el feroz campo de la inteligencia artificial, Meta lanzó Code Llama, un sistema de aprendizaje automático para generar e interpretar código, con el objetivo de causar sensación. La empresa comparte esta innovación como código abierto, avanzando aún más en el campo de la inteligencia artificial.

Meta, con su enfoque innovador y abierto, lanzó anteriormente una serie de modelos de inteligencia artificial para generar texto, traducir idiomas y crear audio. Hoy extienden este esfuerzo al campo del código, a través del código abierto Code Llama para generar código en varios lenguajes de programación, incluidos Python, C++, Java, PHP, TypeScript, C# y Bash.

Code Llama es similar a algunos generadores de códigos de inteligencia artificial de código abierto famosos, como GitHub Copilot y Amazon CodeWhisperer, etc. Se basa en el modelo de generación de texto Llama 2, que puede generar e interpretar códigos para lenguajes naturales específicos (especialmente el inglés).

En una publicación de blog que Meta compartió con TechCrunch, afirmaron: "En Meta, creemos firmemente que los modelos de IA, especialmente los modelos de lenguaje grandes para codificación, se benefician más de un enfoque abierto. Los modelos abiertos y centrados en código pueden impulsar el desarrollo de nuevas tecnologías para "

Existen varias versiones de Code Llama, incluida una optimizada para Python y otra optimizada para comprender las instrucciones. Estos modelos se entrenaron utilizando conjuntos de datos de fuentes disponibles públicamente en la web, centrándose en subconjuntos de datos que incluían código. Los tamaños de los modelos oscilan entre 7 mil millones y 34 mil millones de parámetros y se entrenan utilizando 500 mil millones de tokens de código. Entre ellos, la versión específica de Python se ajustó en 100 mil millones de tokens de código Python, y la versión de comprensión de instrucciones se ajustó utilizando comentarios de anotadores humanos para generar respuestas "útiles" y "seguras" a las preguntas.

Las herramientas de generación de código pueden tener un gran atractivo tanto para programadores como para no programadores. Por ejemplo, GitHub afirma que más de 400 organizaciones están utilizando Copilot, que permite a los desarrolladores codificar un 55% más rápido que antes. La encuesta de Stack Overflow también muestra que el 70% de las personas ya están usando o planean usar herramientas de codificación de inteligencia artificial para mejorar la productividad y la velocidad de aprendizaje.

Sin embargo, como ocurre con todas las formas de IA generativa, las herramientas de codificación pueden introducir nuevos riesgos. Los ingenieros que utilizan herramientas de inteligencia artificial tienen más probabilidades de introducir vulnerabilidades de seguridad en sus aplicaciones, según muestra una investigación. Además, algunos modelos de generación de código pueden entrenarse bajo licencias restringidas o con derechos de autor, lo que podría plantear problemas de propiedad intelectual. También existe el riesgo de que los piratas informáticos intenten utilizar generadores de código fuente abierto para escribir código malicioso.

Code Llama ha formado parte del equipo rojo dentro de Meta, pero a pesar de esto, aún puede producir respuestas inexactas u ofensivas en algunos casos. Meta reconoce que Code Llama puede salir mal en algunos casos, por lo que los desarrolladores deben probarlo y ajustarlo por motivos de seguridad antes de implementarlo en sus aplicaciones.

Si bien existen riesgos, Meta impone restricciones relativamente laxas sobre la implementación de Code Llama. Los desarrolladores sólo necesitan aceptar no utilizar el modelo con fines maliciosos y solicitar una licencia al implementarlo en la plataforma con más de 700 millones de usuarios activos mensuales.

La distribución de código abierto de Code Llama tiene como objetivo apoyar a los ingenieros de software en una variedad de campos, incluida la investigación, la industria, proyectos de código abierto, ONG y corporaciones. Meta espera que esta iniciativa inspire a otros a utilizar Llama 2 para crear herramientas nuevas e innovadoras para apoyar la investigación y el desarrollo de productos comerciales.

En general, Code Llama de Meta representa un avance importante en el campo de la inteligencia artificial, llevando el poder de generación de código a un nuevo nivel. A pesar de algunos riesgos y desafíos potenciales, a medida que la tecnología continúa evolucionando, podemos esperar ver surgir más innovaciones y soluciones para satisfacer mejor las necesidades de los desarrolladores y usuarios.