LangChain團隊最新發布：大模型應用開發平台LangSmith，讓LLM真正投入應用

在3 月獲得1000 萬美金融資的Langchain 想必大家都有所知，作為一個開源集成開發框架它能夠幫助用戶快速構建一個LLM 原型應用。然而，從簡單的LLM 模型原型到實際的生產應用還有很長的距離。 **7 月18 日，Langchain 繼續發布了大模型應用開發平台LangSmith，期望讓開發者能夠快速的構建一個可以投入實際生產環境的LLM 應用。 **

原文來源：深思SenseAI

圖片來源：由無界AI‌ 生成

現在大語言模型（LLM）的工具支持還處於起步階段。由於LLM 的特性和本身俱備的動態性，傳統的軟件工具往往無法完全滿足這些模型的需求。

這就是LangChain 和LangSmith 出現的原因。

在這篇文章中，我們將探索這個由創建Langchain 的團隊推出的最新產品（最受歡迎的LLM 軟件工具），看看LangSmith 在LLM 堆棧中希望解決的新問題。

**01.什麼是LangSmith？ **

當最初創建Langchain 時，目標是降低構建LLM 模型的門檻。儘管人們對Langchain 作為工具的可行性有些異議，但它其實在很大程度上實現了這個目標。在解決了原型問題後，接下來要解決的問題是幫助這些應用程序投入開發，並確保以可靠和可維護的方式實現。簡單的思維模式是：

Langchain = 原型

LangSmith = 應用

**但是，在開發中需要解決哪些在原型中不太相關的挑戰呢？ **

可靠性- 構建適用於簡單受限示例的功能很容易，但是構建能夠滿足大多數公司要求的一致性LLM 應用程序實際上仍然相當困難。

為了解決這個問題，LangSmith 提供了圍繞以下5 個核心支柱的新功能：

• 調試（Debugging）
• 測試
• 評估
• 監控
• 使用指標（Usage metrics）

LangSmith 的重要價值之一是能夠通過簡單直觀的用戶界面執行所有這些操作，這極大地降低了那些沒有軟件背景的開發者的門檻。

從數字角度來看，LLM 的許多特性並不直觀，因此可視化的界面展示將非常有用。作者發現，擁有一個精心設計的用戶界面實際上可以加速用戶的原型設計和工作，因為只用代碼來處理一切往往會很繁瑣。

此外，能夠可視化LLM 系統的過程和復雜的命令鏈，在理解為什麼會得到特定輸出時非常有用。隨著用戶構建更複雜的工作流程，很難準確理解查詢是如何在不同流程中傳遞的，因此可以通過簡單的界面來查看這些過程並記錄歷史數據，這將成為首要的增值服務。

**02.誰在與LangSmith 競爭？ **

儘管目前還不是直接競爭對手，但對於像Vercel（擁有AI SDK）這樣的組織來說，推出類似功能以成為AI 構建者的首選平台是很有意義的。在未來的3-6 個月內，由於這些工具市場潛力巨大，其他平台預計也會推出類似的工具。

**目前，Vercel 更加專注於LLM 的部署和服務，因為這與他們歷史上的核心產品更加契合，但長期來看，將AI SDK 擴展是更為合理的。 **

雖然LangSmith 似乎還沒有深入涉足嵌入式技術，但似乎在這方面有很多自然的交叉點，與許多提供內置UI 的嵌入式提供商之間存在差異。 LlamaIndex 等生態系統將從這種類型的產品發展中受益，但問題是它們是否能在問題空間相似的情況下保持差異化。

儘管如此，看到LangSmith 仍然希望與盡可能多的工具連接起來令人高興。在發布的博文中，他們提到與OpenAI s 的集成，以及多個微調提供者的集成，這將使開發人員能夠導出數據並直接進行訓練。這些類型的集成似乎不僅將帶來很多開發者好評，而且隨著時間的推移，還將作為一種輕量級的保護壁壘（連接各種工具並不總是容易的）。

**03.LangSmith 如何增長？ **

作者主要希望它具有可擴展性。因為如果LangSmith 能夠融入其他應用程序和服務中，其影響力可能會成倍增長。比如，允許開發人員使用LangChain 帳號登錄，並在Vercel 上監控他們的LLM，結合AI SDK 和部署信息，將非常有價值。

**長期保持差異性又需要什麼？ **

作者對LangSmith 非常興奮，認為它解決了開發者和產品構建者在嘗試進行生產時遇到的一系列實際問題。真正的長遠問題仍然是：**“是否有足夠的內容來構建一個具有長期競爭力的業務”。 **

但作者現在也沒有明確答案，現在的總體思路是，LangSmith 目前的許多功能對開發者來說是必要條件。大多數LLM 提供商希望在未來將類似功能納入其平台。但這並不意味著LangSmith 不能成功。只需看看HashiCorp 的Terraform，它是連接所有云提供商並解決足夠大問題的粘合劑，並由此成為一家上市公司。但是，LangSmith 需要繼續擴大範圍，以便與多個提供商和其他工俱生態系統競爭。

參考材料