LangChain ekibinin son sürümü: Büyük ölçekli bir model uygulama geliştirme platformu olan LangSmith, LLM'nin gerçek uygulamaya konulmasına olanak tanır

Mart ayında 10 milyon ABD Doları tutarında finansman alan Langchain, herkes tarafından bilinmelidir.Açık kaynaklı entegre bir geliştirme çerçevesi olarak, kullanıcıların hızlı bir şekilde bir LLM prototip uygulaması oluşturmasına yardımcı olabilir. Bununla birlikte, basit LLM modeli prototiplerinden gerçek üretim uygulamalarına gitmek için hala uzun bir yol var. ** 18 Temmuz'da Langchain, geliştiricilerin gerçek üretim ortamına konulabilecek bir LLM uygulamasını hızlı bir şekilde oluşturmasına olanak sağlamayı umarak büyük ölçekli uygulama geliştirme platformu LangSmith'i piyasaya sürmeye devam etti. **

Orijinal kaynak: derin düşünme SenseAI

Görsel kaynağı: Unbounded AI‌ tarafından oluşturuldu

Büyük dil modelleri (LLM'ler) için araç desteği henüz başlangıç aşamasındadır. LLM'nin doğası ve dinamik yapısı nedeniyle, geleneksel yazılım araçları genellikle bu modellerin ihtiyaçlarını tam olarak karşılayamaz.

LangChain ve LangSmith burada devreye giriyor.

Bu yazıda, Langchain'i (en popüler LLM yazılım aracı) oluşturan ekibin sunduğu en son teklifi inceleyeceğiz ve LangSmith'in LLM yığınında çözmeyi umduğu yeni sorunlara bakacağız.

**01. LangSmith nedir? **

Langchain başlangıçta oluşturulduğunda amaç, LLM modelleri oluşturmak için giriş engelini azaltmaktı. Langchain'in bir araç olarak uygulanabilirliği hakkında bazı tartışmalar olsa da, bu amaca büyük ölçüde ulaştı. Prototipleme problemini çözdükten sonraki problem, bu uygulamaların geliştirilmesine yardımcı olmak ve güvenilir ve sürdürülebilir bir şekilde uygulanmasını sağlamaktır. Basit zihniyet şudur:

Langchain = Prototip

LangSmith = Uygulama

**Fakat geliştirme aşamasında ele alınması gereken prototip oluşturmada daha az ilgili zorluklar nelerdir? **

Güvenilirlik - Basit, kısıtlı örnekler için çalışan işlevsellik oluşturmak kolaydır, ancak çoğu şirketin gereksinimlerini karşılayan tutarlı bir LLM uygulaması oluşturmak aslında oldukça zordur.

Bunu ele almak için LangSmith, aşağıdaki 5 temel sütun etrafında yeni işlevsellik sağlar:

• Hata ayıklama
• Ölçek
• Değerlendirmek
• izleme
• Kullanım metrikleri

LangSmith'in en büyük değerlerinden biri, tüm bu işlemleri basit ve sezgisel bir kullanıcı arayüzü aracılığıyla gerçekleştirme yeteneğidir; bu, yazılım altyapısı olmayan geliştiriciler için giriş engelini büyük ölçüde azaltır.

LLM'nin birçok özelliği sayısal açıdan sezgisel değildir, bu nedenle görsel bir arayüz çok faydalı olacaktır. Yazarlar, iyi tasarlanmış bir kullanıcı arayüzüne sahip olmanın aslında prototip oluşturmayı hızlandırabileceğini ve kullanıcılar için çalışabileceğini keşfetti çünkü her şeyi sadece kodla yapmak çoğu zaman sıkıcı olabiliyor.

Ayrıca, bir LLM sisteminin sürecini ve karmaşık komut zincirini görselleştirebilmek, neden belirli bir çıktı aldığınızı anlamanız açısından çok faydalıdır. Kullanıcılar daha karmaşık iş akışları oluşturdukça, sorguların farklı işlemlerden tam olarak nasıl geçtiğini anlamak zor olabilir, bu nedenle basit bir arabirim aracılığıyla bu süreçleri görüntüleyebilmek ve geçmiş verileri kaydedebilmek birinci sınıf bir katma değerli hizmet olacaktır.

**02. LangSmith ile kim rekabet ediyor? **

Henüz doğrudan bir rakip olmasa da, Vercel gibi bir kuruluşun (AI SDK'sı ile) benzer yetenekleri sunarak AI oluşturucular için başvurulacak platform haline gelmesi mantıklı olacaktır. Önümüzdeki 3-6 ay içinde, bu araçların büyük pazar potansiyeli nedeniyle diğer platformların da benzer araçları piyasaya sürmesi bekleniyor.

**Şu anda Vercel, LLM dağıtımına ve hizmetlerine daha fazla odaklanıyor çünkü bu, geçmişteki temel ürünlerine daha iyi uyuyor, ancak uzun vadede AI SDK'yı genişletmek daha mantıklı. **

LangSmith henüz gömülü teknolojiyle derinden ilgilenmiyor gibi görünse de, yerleşik kullanıcı arayüzleri sunan birçok yerleşik sağlayıcıdan farklı olarak, bu alanda pek çok doğal kesişme noktası var gibi görünüyor. LlamaIndex gibi ekosistemler bu tür bir ürün geliştirmeden faydalanabilir, ancak soru, benzer bir sorun alanında farklılaşıp kalamayacaklarıdır.

Yine de LangSmith'in mümkün olduğu kadar çok araçla bağlantı kurmak istediğini görmek güzel. Yayınlanan blog gönderisinde, OpenAI'lerle entegrasyonun yanı sıra, geliştiricilerin verileri dışa aktarmasına ve doğrudan eğitim vermesine olanak tanıyan çok sayıda ince ayar sağlayıcısından bahsediyorlar. Görünüşe göre bu tür entegrasyonlar yalnızca çok sayıda geliştirici övgüsü getirmekle kalmayacak, aynı zamanda zamanla hafif bir koruma bariyeri görevi görecek (çeşitli araçları birbirine bağlamak her zaman kolay değildir).

**03. LangSmith nasıl büyüdü? **

Yazar esas olarak genişletilebilir olmasını istiyor. Çünkü LangSmith diğer uygulamalara ve hizmetlere dahil edilebilirse erişimi katlanarak artabilir. Örneğin, geliştiricilerin LangChain hesaplarıyla oturum açmalarına ve Vercel'deki LLM'lerini AI SDK ve dağıtım bilgileriyle birlikte izlemelerine izin vermek çok değerli olacaktır.

**Uzun vadede farklılaşmayı sürdürmek için ne gerekiyor? **

Yazar, LangSmith için çok heyecanlı ve geliştiricilerin ve ürün geliştiricilerin üretime geçmeye çalışırken karşılaştıkları bir dizi gerçek sorunu çözdüğüne inanıyor. Asıl uzun vadeli soru şu: "Uzun vadeli rekabetçi bir iş kurmak için yeterli içerik var mı?" **

Ancak yazarın şu anda net bir yanıtı yok.Şimdi genel fikir, LangSmith'in mevcut işlevlerinin birçoğunun geliştiriciler için gerekli koşullar olduğudur. Çoğu LLM sağlayıcısı, benzer işlevleri gelecekte platformlarına dahil etmeyi umuyor. Ancak bu, LangSmith'in başarılı olamayacağı anlamına gelmez. HashiCorp'un tüm bulut sağlayıcılarını birbirine bağlayan ve halka açık bir şirket haline gelecek kadar büyük bir sorunu çözen yapıştırıcı Terraform'a bir bakın. Ancak, LangSmith'in birden çok sağlayıcıyla ve diğer araçlardan oluşan bir ekosistemle rekabet edebilmek için erişimini genişletmeye devam etmesi gerekiyor.

Referanslar