- Tema
63k Popularidad
39k Popularidad
13k Popularidad
4k Popularidad
3k Popularidad
30k Popularidad
16k Popularidad
23k Popularidad
13k Popularidad
3k Popularidad
- Anclado
63k Popularidad
39k Popularidad
13k Popularidad
4k Popularidad
3k Popularidad
30k Popularidad
16k Popularidad
23k Popularidad
13k Popularidad
3k Popularidad
Último lanzamiento del equipo de LangChain: LangSmith, una plataforma de desarrollo de aplicaciones de modelos a gran escala, permite poner LLM en una aplicación real
Fuente original: pensamiento profundo SenseAI
El soporte de herramientas para modelos de lenguaje grande (LLM) aún está en pañales. Debido a la naturaleza y la naturaleza dinámica de LLM, las herramientas de software tradicionales a menudo no pueden satisfacer completamente las necesidades de estos modelos.
Ahí es donde entran LangChain y LangSmith.
En esta publicación, exploraremos la última oferta del equipo que creó Langchain (la herramienta de software LLM más popular) y veremos los nuevos problemas que LangSmith espera resolver en la pila LLM.
**01. ¿Qué es LangSmith? **
Cuando se creó originalmente Langchain, el objetivo era reducir la barrera de entrada para construir modelos LLM. Si bien ha habido cierto debate sobre la viabilidad de Langchain como herramienta, en gran medida ha logrado este objetivo. Después de resolver el problema de creación de prototipos, el siguiente problema es ayudar a estas aplicaciones a desarrollarse y garantizar que se implementen de manera confiable y mantenible. La mentalidad simple es:
Langchain = Prototipo
LangSmith = Aplicación
**Pero, ¿cuáles son los desafíos menos relevantes en la creación de prototipos que deben abordarse en el desarrollo? **
Confiabilidad: es fácil crear una funcionalidad que funcione para ejemplos simples y restringidos, pero crear una aplicación LLM coherente que satisfaga los requisitos de la mayoría de las empresas es bastante difícil.
Para abordar esto, LangSmith proporciona una nueva funcionalidad en torno a los siguientes 5 pilares básicos:
Uno de los grandes valores de LangSmith es la capacidad de realizar todas estas operaciones a través de una interfaz de usuario sencilla e intuitiva, lo que reduce en gran medida la barrera de entrada para los desarrolladores sin experiencia en software.
Muchas funciones de LLM no son intuitivas desde un punto de vista numérico, por lo que una interfaz visual sería muy útil. Los autores descubrieron que tener una interfaz de usuario bien diseñada puede acelerar la creación de prototipos y el trabajo para los usuarios, ya que hacer todo con solo código a menudo puede ser tedioso.
Además, ser capaz de visualizar el proceso y la cadena de comandos compleja de un sistema LLM es muy útil para comprender por qué obtiene un determinado resultado. A medida que los usuarios crean flujos de trabajo más complejos, puede ser difícil comprender exactamente cómo se pasan las consultas a través de diferentes procesos, por lo que poder ver estos procesos y registrar datos históricos a través de una interfaz simple será un servicio de valor agregado de primer nivel.
**02. ¿Quién compite con LangSmith? **
Si bien aún no es un competidor directo, tendría sentido que una organización como Vercel (con su SDK de IA) implemente capacidades similares para convertirse en la plataforma de referencia para los desarrolladores de IA. En los próximos 3 a 6 meses, debido al enorme potencial de mercado de estas herramientas, se espera que otras plataformas lancen herramientas similares.
**Actualmente, Vercel está más enfocado en la implementación y los servicios de LLM, ya que esto encaja mejor con su producto principal histórico, pero a la larga, tiene más sentido expandir el SDK de IA. **
Si bien LangSmith no parece estar profundamente involucrado en la tecnología integrada todavía, parece haber muchas intersecciones naturales en esta área, con diferencias con los muchos proveedores integrados que ofrecen interfaces de usuario integradas. Los ecosistemas como LlamaIndex se beneficiarían de este tipo de desarrollo de productos, pero la pregunta es si pueden permanecer diferenciados en un espacio de problemas similar.
Aún así, es bueno ver que LangSmith todavía quiere conectarse con tantas herramientas como sea posible. En la publicación del blog, mencionan la integración con OpenAI s, así como múltiples proveedores de ajustes, que permitirán a los desarrolladores exportar datos y capacitarse directamente. Parece que este tipo de integraciones no solo generarán muchos elogios para los desarrolladores, sino que con el tiempo también servirán como una barrera de protección liviana (conectar varias herramientas no siempre es fácil).
**03. ¿Cómo creció LangSmith? **
El autor principalmente quiere que sea extensible. Porque si LangSmith se puede incorporar a otras aplicaciones y servicios, su alcance podría crecer exponencialmente. Por ejemplo, permitir que los desarrolladores inicien sesión con cuentas de LangChain y supervisen sus LLM en Vercel, combinado con AI SDK e información de implementación, sería muy valioso.
**¿Qué se necesita para mantener la diferenciación a largo plazo? **
El autor está muy entusiasmado con LangSmith y cree que resuelve una serie de problemas reales que los desarrolladores y creadores de productos encuentran cuando intentan pasar a producción. La verdadera pregunta a largo plazo sigue siendo: "¿Hay suficiente contenido para construir un negocio competitivo a largo plazo?". **
Pero el autor no tiene una respuesta clara ahora.La idea general ahora es que muchas de las funciones actuales de LangSmith son condiciones necesarias para los desarrolladores. La mayoría de los proveedores de LLM esperan incorporar una funcionalidad similar en sus plataformas en el futuro. Pero eso no significa que LangSmith no pueda tener éxito. Solo mire Terraform de HashiCorp, el pegamento que conecta a todos los proveedores de la nube y resuelve un problema lo suficientemente grande como para ser una empresa pública. Sin embargo, LangSmith necesita continuar expandiendo su alcance para poder competir con múltiples proveedores y un ecosistema de otras herramientas.
Referencias