Останній випуск команди LangChain: LangSmith, платформа розробки широкомасштабних моделей додатків, дозволяє використовувати LLM у реальних програмах

Langchain, який отримав фінансування в розмірі 10 мільйонів доларів США в березні, повинен бути відомий кожному.Як інтегрована структура розробки з відкритим кодом, вона може допомогти користувачам швидко створити прототип програми LLM. Однак від простих прототипів моделей LLM до реальних виробничих застосувань ще довгий шлях. **18 липня Langchain продовжила випуск широкомасштабної платформи для розробки додатків LangSmith, сподіваючись дозволити розробникам швидко створювати програму LLM, яку можна використовувати у фактичному робочому середовищі. **

Перше джерело: deep thinking SenseAI

Джерело зображення: створено Unbounded AI‌

Підтримка інструментів для великих мовних моделей (LLM) все ще знаходиться в зародковому стані. Через характер і динамічний характер LLM традиційні програмні засоби часто не можуть повністю задовольнити потреби цих моделей.

Тут на допомогу приходять LangChain і LangSmith.

У цій публікації ми розглянемо останню пропозицію від команди, яка створила Langchain (найпопулярніший програмний інструмент LLM), і розглянемо нові проблеми, які LangSmith сподівається вирішити в стеку LLM.

**01. Що таке LangSmith? **

Коли Langchain спочатку створювався, мета полягала в тому, щоб знизити бар’єр входу для створення моделей LLM. Хоча точаться деякі дебати щодо життєздатності Langchain як інструменту, він значною мірою досяг цієї мети. Після вирішення проблеми прототипування наступна проблема полягає в тому, щоб допомогти цим програмам у розробці та переконатися, що вони реалізовані надійним і придатним для обслуговування способом. Просте мислення таке:

Langchain = Прототип

LangSmith = Застосування

**Але які менш актуальні виклики у створенні прототипів необхідно вирішити під час розробки? **

Надійність. Легко створити функціональність, яка працює для простих, обмежених прикладів, але побудувати послідовну програму LLM, яка задовольняє вимоги більшості компаній, насправді досить складно.

Щоб вирішити цю проблему, LangSmith надає нову функціональність навколо наступних 5 основних компонентів:

• Налагодження
• тест
• Оцініть
• моніторинг
• Показники використання

Однією з найбільших цінностей LangSmith є можливість виконувати всі ці операції через простий та інтуїтивно зрозумілий інтерфейс користувача, що значно знижує бар’єр входу для розробників без досвіду програмного забезпечення.

Багато функцій LLM не є інтуїтивно зрозумілими з числової точки зору, тому візуальний інтерфейс був би дуже корисним. Автори виявили, що наявність добре розробленого інтерфейсу користувача може фактично пришвидшити створення прототипів і роботу для користувачів, оскільки робити все за допомогою лише коду часто може бути виснажливим.

Крім того, можливість візуалізувати процес і складний ланцюжок команд системи LLM дуже корисна для розуміння, чому ви отримуєте певний результат. Оскільки користувачі створюють складніші робочі процеси, може бути важко зрозуміти, як саме запити передаються через різні процеси, тому можливість переглядати ці процеси та записувати історичні дані через простий інтерфейс буде першорядною послугою з доданою вартістю.

**02. Хто конкурує з LangSmith? **

Незважаючи на те, що компанія ще не є прямим конкурентом, для такої організації, як Vercel (з її SDK для штучного інтелекту), було б доцільно розгорнути подібні можливості, щоб стати основною платформою для розробників ШІ. У найближчі 3-6 місяців через величезний ринковий потенціал цих інструментів очікується, що інші платформи запустять подібні інструменти.

**Наразі Vercel більше зосереджена на розгортанні та послугах LLM, оскільки це краще підходить до їх історичного основного продукту, але в довгостроковій перспективі має більше сенсу розширити AI SDK. **

Незважаючи на те, що LangSmith, здається, ще не дуже залучений до вбудованих технологій, здається, що в цій сфері є багато природних перетинів, які відрізняються від багатьох вбудованих постачальників, які пропонують вбудовані інтерфейси користувача. Такі екосистеми, як LlamaIndex, виграли б від такого типу розробки продуктів, але питання полягає в тому, чи зможуть вони залишатися диференційованими в подібному проблемному просторі.

Тим не менш, приємно бачити, що LangSmith все ще хоче підключатися до якомога більшої кількості інструментів. В опублікованій публікації в блозі вони згадують інтеграцію з OpenAI, а також кілька постачальників тонкого налаштування, що дозволить розробникам експортувати дані та навчатися напряму. Схоже, такі типи інтеграцій не тільки принесуть багато похвал розробникам, але з часом також стануть легким бар’єром захисту (підключити різні інструменти не завжди легко).

**03. Як розвивався LangSmith? **

Автор головним чином хоче, щоб він був розширюваним. Тому що якщо LangSmith можна буде інтегрувати в інші програми та служби, його охоплення може зрости експоненціально. Наприклад, дозволити розробникам входити в систему за допомогою облікових записів LangChain і контролювати свої LLM на Vercel у поєднанні з AI SDK і інформацією про розгортання було б дуже цінно.

**Що потрібно для підтримки диференціації в довгостроковій перспективі? **

Автор дуже захоплений LangSmith і вважає, що він вирішує низку реальних проблем, з якими стикаються розробники та розробники продуктів, намагаючись перейти до виробництва. Справжнім довгостроковим питанням залишається: «Чи достатньо контенту для побудови довгострокового конкурентоспроможного бізнесу». **

Але зараз у автора немає чіткої відповіді, загальна думка полягає в тому, що багато з поточних функцій LangSmith є необхідними умовами для розробників. Більшість провайдерів LLM сподіваються включити подібну функціональність у свої платформи в майбутньому. Але це не означає, що LangSmith не може досягти успіху. Просто подивіться на Terraform від HashiCorp, клей, який об’єднує всіх хмарних провайдерів і вирішує досить велику проблему, щоб стати публічною компанією. Однак LangSmith має продовжувати розширювати охоплення, щоб конкурувати з кількома постачальниками та екосистемою інших інструментів.

Список літератури