- Tópico
84k Popularidade
38k Popularidade
13k Popularidade
4k Popularidade
3k Popularidade
30k Popularidade
16k Popularidade
23k Popularidade
13k Popularidade
3k Popularidade
- Pino
84k Popularidade
38k Popularidade
13k Popularidade
4k Popularidade
3k Popularidade
30k Popularidade
16k Popularidade
23k Popularidade
13k Popularidade
3k Popularidade
O último lançamento da equipe LangChain: LangSmith, uma plataforma de desenvolvimento de aplicativos de modelo em grande escala, permite que o LLM seja colocado em aplicativos reais
Fonte original: pensamento profundo SenseAI
O suporte de ferramentas para modelos de linguagem grandes (LLMs) ainda está em sua infância. Devido à natureza dinâmica do LLM, as ferramentas de software tradicionais muitas vezes não conseguem atender totalmente às necessidades desses modelos.
É aí que entram a LangChain e a LangSmith.
Nesta postagem, exploraremos a oferta mais recente da equipe que criou o Langchain (a ferramenta de software LLM mais popular) e veremos os novos problemas que LangSmith espera resolver na pilha LLM.
**01. O que é LangSmith? **
Quando o Langchain foi originalmente criado, o objetivo era diminuir a barreira de entrada para a construção de modelos LLM. Embora tenha havido algum debate sobre a viabilidade do Langchain como ferramenta, ele alcançou amplamente esse objetivo. Depois de resolver o problema de prototipagem, o próximo problema é ajudar esses aplicativos no desenvolvimento e garantir que sejam implementados de maneira confiável e sustentável. A mentalidade simples é:
Langchain = Protótipo
LangSmith = Aplicação
**Mas quais são os desafios menos relevantes na prototipagem que precisam ser abordados no desenvolvimento? **
Confiabilidade - É fácil criar uma funcionalidade que funcione para exemplos simples e restritos, mas criar um aplicativo LLM consistente que satisfaça os requisitos da maioria das empresas é, na verdade, bastante difícil.
Para resolver isso, LangSmith fornece novas funcionalidades em torno dos seguintes 5 pilares principais:
Um dos grandes valores do LangSmith é a capacidade de realizar todas essas operações por meio de uma interface de usuário simples e intuitiva, o que diminui muito a barreira de entrada para desenvolvedores sem experiência em software.
Muitos recursos do LLM não são intuitivos do ponto de vista numérico, portanto, uma interface visual seria muito útil. Os autores descobriram que ter uma interface de usuário bem projetada pode realmente acelerar a prototipagem e o trabalho para os usuários, já que fazer tudo apenas com código pode ser entediante.
Além disso, ser capaz de visualizar o processo e a complexa cadeia de comandos de um sistema LLM é muito útil para entender por que você obtém uma determinada saída. À medida que os usuários criam fluxos de trabalho mais complexos, pode ser difícil entender exatamente como as consultas são passadas por diferentes processos, portanto, poder visualizar esses processos e registrar dados históricos por meio de uma interface simples será um serviço de valor agregado de primeira linha.
**02. Quem está competindo com a LangSmith? **
Embora ainda não seja um concorrente direto, faria sentido para uma organização como a Vercel (com seu AI SDK) lançar recursos semelhantes para se tornar a plataforma ideal para criadores de IA. Nos próximos 3-6 meses, devido ao enorme potencial de mercado dessas ferramentas, espera-se que outras plataformas lancem ferramentas semelhantes.
**Atualmente, a Vercel está mais focada na implantação e serviços LLM, pois isso se encaixa melhor com seu produto principal histórico, mas, a longo prazo, faz mais sentido expandir o AI SDK. **
Embora a LangSmith ainda não pareça estar profundamente envolvida com a tecnologia embarcada, parece haver muitas interseções naturais nessa área, com diferenças em relação aos muitos provedores embarcados que oferecem interfaces de usuário integradas. Ecossistemas como o LlamaIndex se beneficiariam com esse tipo de desenvolvimento de produto, mas a questão é se eles podem permanecer diferenciados em um espaço de problemas semelhante.
Ainda assim, é bom ver que LangSmith ainda deseja se conectar com o maior número possível de ferramentas. Na postagem do blog publicada, eles mencionam a integração com OpenAI s, bem como vários provedores de ajuste fino, que permitirão aos desenvolvedores exportar dados e treinar diretamente. Parece que esses tipos de integrações não apenas trarão muitos elogios aos desenvolvedores, mas com o tempo também servirão como uma barreira leve de proteção (conectar várias ferramentas nem sempre é fácil).
**03. Como a LangSmith cresceu? **
O autor deseja principalmente que seja extensível. Porque se o LangSmith puder ser incorporado a outros aplicativos e serviços, seu alcance poderá crescer exponencialmente. Por exemplo, permitir que os desenvolvedores façam login com contas LangChain e monitorem seus LLMs no Vercel, combinado com AI SDK e informações de implantação, seria muito valioso.
**O que é necessário para manter a diferenciação a longo prazo? **
O autor está muito entusiasmado com o LangSmith e acredita que ele resolve uma série de problemas reais que os desenvolvedores e criadores de produtos encontram ao tentar ir para a produção. A verdadeira questão de longo prazo permanece: "Existe conteúdo suficiente para construir um negócio competitivo de longo prazo". **
Mas o autor não tem uma resposta clara agora.A ideia geral agora é que muitas das funções atuais do LangSmith são condições necessárias para os desenvolvedores. A maioria dos provedores de LLM espera incorporar funcionalidades semelhantes em suas plataformas no futuro. Mas isso não significa que LangSmith não possa ter sucesso. Basta olhar para o Terraform da HashiCorp, a cola que conecta todos os provedores de nuvem e resolve um problema grande o suficiente para se tornar uma empresa pública. No entanto, a LangSmith precisa continuar expandindo seu alcance para competir com vários fornecedores e um ecossistema de outras ferramentas.
Referências