Tencent Cloud Wu Yunsheng: Genel model ve endüstri modeli zıt değil

Görsel kaynağı: Unbounded AI tarafından oluşturuldu

"100 müşteri sorununun %70-%80'ini çözmektense, bir müşterinin sorununu %100 çözmeyi tercih ederiz."

7 Temmuz'da 2023 Dünya Yapay Zeka Konferansı (WAIC) Tencent Forum'da, neden önce sektör odaklı büyük ölçekli modelin piyasaya sürüldüğü sorulduğunda, Tencent Cloud başkan yardımcısı ve Tencent Cloud Intelligence başkanı Wu Yunsheng bu şekilde yanıt verdi. .

Büyük ölçekli modeller, bu yıl yapay zeka dünyasının en sıcak konusu. Temel genel amaçlı büyük ölçekli modeli ilk kez başlatan Baidu, Ali ve diğer devlerle karşılaştırıldığında, Tencent dikkatini doğrudan sektöre odakladı - WAIC 19 Haziran'da yapılmadan önce Tencent Cloud, MaaS'yi (Hizmet Olarak Model) resmen duyurdu. 10 büyük endüstri, kültür turizmi, finans, medya, eğitim ve devlet işleri gibi birçok farklı senaryoyu kapsayan 50'den fazla çözüm ihraç etti.

Doğal olarak, senaryo uygulaması ve iniş, WAIC Tencent Forumu boyunca tema haline geldi.

"Genel amaçlı büyük modeller, model uygulamaları için tek yön değildir. Dikey endüstriler için modeller, büyük modellerin değerinin taşma noktası olacaktır." Tencent'in başkan yardımcısı ve Tencent'in hükümet ve kurumsal iş birimi başkanı Li Qiang, bunu tahmin etti forumda

Wu Yunsheng, OTA'nın (Çevrimiçi Seyahat Acentesi) akıllı müşteri hizmetini örnek aldı ve kullanıcıların gerçek iletişim sürecinde genellikle birden çok niyetin birbirine karıştığını açıkladı. İletişim sürecinde her an niyet de değişebilir.

"(Kullanıcı) ayın 10'unda oteli rezerve etmek istedi ve makine cevap vermek üzereydi ve birdenbire 11'inde oteli göreyim dedi." Müşteri hizmetleri sahnesindeki son derece karmaşık süreçle karşı karşıya kalan general, büyük model görevi mükemmel bir şekilde tamamlayamaz, bazı karmaşık modelleri belirli senaryolarla birlikte yeniden oluşturmak gerekir.

Bununla birlikte, mevcut genel amaçlı büyük ölçekli model, araştırma ve geliştirmenin henüz erken bir aşamasındadır ve endüstriyel uygulamalarda yüksek maliyet sorunuyla karşı karşıya kalacaktır.Wu Yunsheng, bazı özel senaryolarda, genel amaçlı büyük olduğundan -ölçekli model ihtiyacı %100 karşılayamıyorsa, o zaman "çözüm maliyeti düzeyine bakılırsa, çok fazla anlam ifade etmez." Farklı sektörler ve senaryolar için çözümler çok değişkenlik gösterse de genel olarak işletmelerin verimliliğini %30'dan fazla artırmakta bir sorun yok.

Tencent Cloud başkan yardımcısı ve Tencent Cloud Intelligence başkanı Wu Yunsheng. Kaynak: Tencent

Forumda Tencent Cloud, büyük modelle ilgili son önemli güncellemeleri de tanıttı. İki ana teknik üssü olan Xingmai Network ve Vector Database kapasite yükseltmelerinden geçmiştir. Yükseltilmiş Xingmai yüksek performanslı bilgi işlem ağı, GPU kullanımını %40 artırabilir, model eğitim maliyetlerinden %30 - %60 tasarruf sağlayabilir ve yapay zeka büyük modellerin iletişim performansını yaklaşık 10 kat artırabilir.

Ve sadece 4 Temmuz'da Tencent Cloud, AI yerel vektör veritabanını resmi olarak yayınladı.Geleneksel yöntemle karşılaştırıldığında, büyük model ön eğitim verilerinin sınıflandırılması, tekilleştirilmesi ve temizlenmesi için kullanılır ve veritabanı 10 kat elde edebilir verimlilikte artış. Model çıkarımı için harici bir bilgi tabanı olarak kullanmak, maliyeti 2-4 kat azaltabilir.

Bu yılki WAIC'de ilginç bir olgu da ortaya çıktı: toplantıda 30'dan fazla genel amaçlı ve sektöre yönelik büyük ölçekli model tanıtıldı ve hepsi de büyük ölçekli modeller yapacaklarını söyledi. Homojenleştirme konusu hemen tartışmanın odak noktası haline geldi: Yapay zeka alanında girişimcilik hala anlamlı mı? Her büyük fabrikanın kendi büyük modeli vardır, eğer herkes ona sahip olsa, büyük model yine de Ezber Bozan olacak mı?

Wu Yunsheng, büyük modellerin geliştirilmesinin ilk aşamasında bu konularda yargıya varmak için acele etmeye gerek olmadığına inanıyor. Wu Yunsheng, "Endüstri, teknoloji ve endüstrinin birleşimi yoluyla tam anlamıyla geliştiğinde, çeşitli olasılıkları keşfetmeyi ve endüstrilerin ve endüstrilerin verimliliğini artırmayı görmek isterim." Dedi.

Bu yargı, aynı zamanda, AI büyük modellerinin ticari potansiyeli hakkındaki iyimserliğinden de kaynaklanmaktadır. Yapay zekanın tek nokta atılımlarıyla son dalgasında, birçok yapay zeka şirketi proje ve özelleştirme teslimi ve uygulaması ikilemine düştü ve karlılık elde edemedi.

"Büyük modeller çağında, durum öncekinden farklı olabilir." Wu Yunsheng, altta yatan bilgi işlem gücü ve GPU yongalarının geliştirilmesi de dahil olmak üzere teknolojinin gelişmesiyle, geçmişte yüz milyarlara mal olan modellerin parametrelerinin değiştiğine inanıyor. Gittikçe küçülüyor; Tencent Eğitim takviyesi ve muhakeme takviyesi konusunda da çok ilerleme var ve maliyet hızla düşüyor. Öte yandan, büyük modellerin uygulanmasındaki olanaklar sürekli genişlemekte ve değeri sürekli yükselmektedir.

Bugün Tencent, teknolojisini ve uygulama ekolojisini AI büyük modelleri etrafında genişletiyor ve aynı zamanda sektörle bağını güçlendiriyor. 6 Temmuz'da Birleşmiş Milletler Sınai Kalkınma Örgütü ve Huawei ve diğer ortaklar, WAIC'de "Küresel Sanayi ve Üretim Yapay Zekası İttifakı"nın kurulduğunu ortaklaşa duyurdu.

Wu Yunsheng, teknik tabanın yükseltilmesinin "iç gücü uygulamak" olduğunu da vurguladı: "** İster genel amaçlı büyük ölçekli bir model, ister endüstriyel büyük ölçekli bir model olsun, altta yatan destek yeteneklerine sahip olması gerekir. , devasa bilgi işlem gücü, veriler vb. dahil**."

"Büyük ölçekli modeller çağında açıklık çok önemli ve herkes açık olmalı. Altta yatan teknoloji çok hızlı değişiyor ve genişleme yetenekleri çok geniş. Belirli endüstrilerle birleştirildiğinde, çok fazla araştırma yapılacak ve geliştirme maliyetleri." Wu Yunsheng, yalnızca daha fazla endüstrinin açılması yoluyla ancak uzmanlar ve çeşitli personel katıldığında daha sağlıklı bir ekosistem geliştirebileceğimizi ve daha fazla olasılık yaratabileceğimizi söyledi.

Medya ve Wu Yunsheng'in 36 Krypton tarafından düzenlenen röportaj kaydı aşağıdadır:

**Medya:**Tencent Cloud, başlangıçta genel amaçlı büyük ölçekli bir model yerine sektör odaklı büyük ölçekli bir model başlattı. Bu bir gelir değerlendirmesi mi?

Wu Yunsheng: Bunun maliyet ve yatırımla hiçbir ilgisi yok. Müşterilerin sorunlarını çözmek istediğimizi her zaman vurguladık.100 müşterinin sorununu %70-%80 oranında çözmektense, bir müşterinin sorununu %100 çözmeyi tercih ederiz. Sorunu azaltabiliriz ama bu sorunu çözmeliyiz.

Medya: Genel model ve endüstri modeli birbirine zıt gibi duruyor, ikisi arasındaki ilişkiyi nasıl görüyorsunuz?

Wu Yunsheng: Her şeyden önce, kişisel olarak ikisine karşı çıkmadığımı açıkça belirtmek istiyorum. Temel maket, özel özelleştirme olmaksızın bir ihtiyacı çözen kaide gibi bir şeydir. Endüstri modeli, verimliliği etkili bir şekilde artırmak ve halka hizmet etmek için genel modele dayanmalıdır. Sadece endüstrinin derinliklerine inerek özellikle önemli sorunları çözebiliriz.

Wensheng harita işlevi aynı zamanda çok ayrıntılı ve spesifik endüstri noktalarına sahip olacaktır - örneğin, bir paket için bir reklam haritası oluşturmak ve bazı müşterilerin bazı özel sertifikalar gibi özel ihtiyaçları olacaktır. Pratik problemlerle karşılaşıldığında farklı bir yaklaşım gerekir.

**Medya:**Tencent bu yıl hangi alanlara odaklanacak ve hangi geliştirme hedeflerine sahip olacak? En son yükseltmeler ve yinelemeler nelerdir?

**Wu Yunsheng:**Büyük stratejimiz, sorunların %70-%80'ini çözmek için 100 ürün bulmak yerine, her belirli senaryoda müşteri sorunlarının %100'ünü çözmeyi umarak pratik sorunların uygulanmasına odaklanmaktır. Bu nedenle, belirli sektörlere odaklanacağız ve sektör sorunlarını çözmek için müşterilerle birlikte çalışacağız.

Örneğin, kültürel seyahat endüstrisinde, OTA (Çevrimiçi Seyahat Acentası) alanındaki müşteriler kendi iş senaryolarını birleştirecek, iş süreçlerinde büyük ölçekli model teknolojisini kullanacak ve büyük ölçekli seyahatlere ince ayar yapmak için verilerle ilgili kaynakları kullanacak. modeli. Teknolojik gelişme açısından, modelimiz ve bilgi işlem gücü ağımız yinelendi ve yükseltildi ve ilgili teknolojileri yinelemeye devam edeceğiz.

**Medya: **Endüstri modelinin son sürümünden bu yana, modele erişen işletme sayısında önemli bir değişiklik oldu mu?

Wu Yunsheng: Şirketlerle çok sayıda bağlantımız var ve müşterilerin gerçek senaryolarını ve mevcut iş ihtiyaçlarını nasıl karşılayacağımızı dürüstçe inceleyeceğiz. "Erişim" özel olarak tanımlanmamıştır. Keşif sürecinde çeşitli ihtiyaçlar vardır. Belki de genellikle AIGC'yi daha sık görürsünüz.

Ben biraz farklı bir şey söylüyorum. Kurumsal düzeyde yazılım yapan ve akıllı formlar yapması gereken bir şirket müşterimiz var. Örneğin bir yönetim toplantısında yeni bir form ekleniyor, formun altındaki bazı maddeler zorunlu, bazıları zorunlu değil ve bazı açılır menülerde sadece 4 veya 5 seçenek belirlenebiliyor. Seçenek tamamlandıktan sonra A, B ve C tarafından onaylanan ve herkesin onayı farklı olan bir sürece dönüştürülmesi gerekir.

Orijinal yöntem, sistemdeki formu kendi araçları ve dil kodlarıyla tasarlamak, tüm süreci derlemek ve ardından süreci gerçekleştirmek için iç organizasyonu çağırmak. Ama şu anki ihtiyaç fotoğraf çekip sisteme koymak ve sistem koduyla (kendi betik dili) tarif etmek.Bireylerin sadece basit doğal dil iletişimine ve iletişimine ihtiyacı var, hangileri gerekli, hangileri değil gibi. İlk adım Nereye gitmeli, ikinci adımda nereye gitmeli, yerleştirme sürecini tasarlamak için kendi sistem dilinizi kullanın.

Bu örnek, genel bir model tarafından tam olarak ele alınamayan çok özel bir gerekliliktir. Bu nedenle, tablonun hangi alanlarla ilgili olduğunu ve betik dilinin ne olduğunu görmek için işletmelerle derinlemesine fikir alışverişinde bulunacağız. Genel amaçlı teknoloji, sorunların %60-70'ini doğrudan çözebilir, ancak müşteriler sorunların %100'ünü çözmek istiyorsa daha derinlemesine iletişime ihtiyaç duyarlar.

**Medya: **Büyük ölçekli sanayi modelinin uygulanmasıyla şirket ne kadar maliyet tasarrufu sağlayacak? Genel amaçlı büyük ölçekli modellerle karşılaştırıldığında, endüstrideki büyük ölçekli modellerin hangi alanlarda avantajları olacak?

**Wu Yunsheng: **Tasarruf edilen maliyet aslında farklı şirketlerde ve farklı senaryolarda büyük ölçüde değişir. Örneğin, müşteri hizmetleri senaryosunda, müşteri hizmetinin işletme içindeki boyutu ve ne kadar bütçeye sahip olduğu konusunda büyük bir fark vardır. Gerçek deneyim açısından, verimliliği% 30'dan fazla artırmanın sorun olmadığını düşünüyorum.

Genel bir büyük model, belirli bir endüstri ile karşı karşıya kaldığında, endüstrinin karşılaştığı sorunları tam olarak çözemeyebilir. Örneğin, müşteri hizmetlerinin ihtiyacı olan şey, basit soru-cevap sohbetleri değil, insanların niyetlerini anlayabilen, veritabanlarında arama yapabilen, gerekli bilgileri çıkarabilen ve ardından yanıtlar için bunları insanların anlayabileceği metinlerde birleştirebilen robotlar ve büyük modellerdir.

En önemlisi, kullanıcının gerçek iletişim süreci genellikle birden fazla niyetle karıştırılır.Bir açıklamada birçok gereksinim vardır ve iletişim sürecinde niyet herhangi bir zamanda değişebilir.Bu çok zor ve süreç çok karmaşıktır. özellikle müşterinin sistemiyle etkileşim halindeyken karmaşık model. Bu süreç, genel bir büyük modelle çözülmemeli ve belirli senaryolarla birleştirilmelidir.

**Medya:**Tencent, kuruluşun büyük ölçekli modelinin maliyetini ne tür bir aralıkta kontrol edebilir?

Wu Yunsheng: Bu teknoloji sayesinde şirketlerin maliyetleri azaltabileceğini, verimliliği artırabileceğini ve üretim verimliliğini artırabileceğini vurguluyoruz, ancak maliyetlerin hangi düzeyde kontrol edileceğini asla söylemeyeceğiz. Ürünümüz piyasaya çıkalı bir aydan az oldu ve erken aşamada bazı işbirliklerimiz var ama kesinlikle genel bir veri veremiyoruz.

**36 Krypton:**Yapay zekanın son dalgasında, CV (görüntü tanıma) liderliğindeki teknoloji uygulamaları, api faturalandırmayı çağırmak gibi daha çok tek noktalı uygulamalardı, ancak bundan sonra şirketler projeler üzerinde çalışmaya başladı ve Özelleştirme bunu yapıyor kar elde etmek zor. AI büyük modelleri gelecekte aynı şeyi yaşayacak mı?

Wu Yunsheng: Hala iyimserim. Şu anki zaman noktasından yola çıkarsak, nispeten büyük zorluklar olacak. Ancak ister yarım yıl ileriye bakın, ister yarım yıl sonrasını tahmin edin, temel bilgi işlem gücü ve GPU yongaları da dahil olmak üzere teknolojinin gelişimi çok hızlı. Büyük model eskiden yüz milyarlarca parametreye sahip bir modeldi, ancak teknolojinin gelişmesiyle birlikte modelin parametreleri gittikçe küçülüyor ve yeteneği hala çok güçlü bir seviyede tutuluyor. Aynı zamanda pekiştirme eğitimi ve muhakeme pekiştirmesi konusunda çok ilerleme kaydettik ve maliyet hızla düşüyor.

Öte yandan, uygulama açısından daha fazla olasılık görüyoruz ve uygulama eğilimi ve üretilebilecek değer sürekli artıyor.

**Medya: **Temel kapasite oluşturma ile senaryo uygulaması arasındaki denge hakkında ne düşünüyorsunuz?

Wu Yunsheng: Büyük modellere hiçbir zaman tek bir perspektiften bakmak istemedik. Genel amaçlı büyük ölçekli model veya büyük ölçekli endüstri modelinden bağımsız olarak, iç gücün boyutu olan büyük bilgi işlem gücü, veri vb. dahil olmak üzere temel destek yetenekleri gereklidir. Sahne başka bir boyuttur.Pratik bir sorunu çözmek için iç gücün %50'sini, dış gücün geri kalan %30'unu kullanın ve %20 daha ekleyin.Büyük model ekolojide, soruna farklı açılardan bakarız. Ama sadece iç güçten bahsediyorsan kesinlikle bir problem yok.

**Medya:**Birçok CEO, büyük modelin bilgi işlem endüstrisi için ezber bozan bir özellik olduğundan bahsetmiştir. Artık tüm büyük üreticiler büyük ölçekli modeller piyasaya sürdüğüne göre, bu yargı savunulamaz mı? Bu kadar çok genel amaçlı büyük modele ihtiyacımız var mı, yoksa zaten gereksiz mi?

Wu Yunsheng: Bir oyun değiştiriciyi nasıl tanımlayacağınızı görün. Bu aşamada, büyük ölçekli model endüstrisi nispeten erken bir aşamadadır ve birçok olasılık doğmuştur. Aynı zamanda büyük modellerin teknolojik değişimleri de beraberinde getirdiğini ve büyük bir potansiyele sahip olduğunu görüyoruz.

Benim şahsi görüşüm şu anda bir sonuca varmak için çok da hevesli olmaya gerek yok.Sanayide yüz tane çiçeğin açtığı aşamada teknoloji ve sanayinin birleşmesi ile çeşitli olasılıkların ortaya çıktığını görmek isterim. endüstrilerin ve endüstrilerin verimliliğini artırmak için araştırılmaktadır.

**Medya: **Model ve sektör birleşimi erken aşamada, bu aşamada ne gibi sorunlar yaşanacak? Genel amaçlı büyük ölçekli modele kıyasla büyük ölçekli sanayi modelinin maliyetinin optimize edilemeyebileceği, ancak daha yüksek olabileceği yönünde bir görüş var, bu bakış açısı hakkında ne düşünüyorsunuz?

**Wu Yunsheng: **Büyük model teknolojisi kısa bir süredir piyasada ve hızla gelişiyor. Sektörün büyük model anlayışı henüz erken bir aşamada - Büyük modelin neler yapabileceğini ve sektörle ne kadar derin bir şekilde birleştirilebileceğini bilmiyorum. Endüstri modeli ile temel model arasındaki ilişkide olduğu kadar maliyet konusunda da gerçekten değişiklikler var.

Gerçekten de büyük bir model tüm sorunları çözerse maliyetin daha düşük olacağı yönünde bir görüş olduğu gibi, belli bir sektör için büyük bir modele gerek olmadığı, küçük bir modelin de kullanılabileceği yönünde bir görüş de var.

Bu konu tek bir boyuttan değerlendirilemez, objektif ve bütüncül olarak bakılmalıdır. Genel büyük modellerin sektörle yakından entegre olmayan genel sorunları çözebileceğini vurguluyorum. Ama daha derine inmek istiyorsan, sahnede daha da ileri gitmelisin. Pek çok sorun aynı gibi görünür, ancak daha derine inerseniz aynı sorunu çözemeyebilirsiniz. Bu durumda, çözümün maliyetini yargılamak pek mantıklı değil.

Medya: Sektör açısından bakıldığında, büyük ölçekli teknolojik değişimin tüm bulut bilişim pazarına getirdiği pazar artışı ve artımlı senaryo nasıl değerlendirilir?

Wu Yunsheng: Büyük ölçekli model çağının gelişinden sonra, özellikle yapay zeka ile ilgili bilgi işlem gücü olmak üzere bilgi işlem gücüne olan talebin büyük ölçüde arttığı görülüyor. Bununla birlikte, bulut bilişimin spesifik niceliği açısından bir rakam vermek zordur ve halen sürekli gelişim sürecindedir.

Sahneler açısından artık hayatın her kesiminden büyük modeller bir araya getiriliyor ve sahneler hem genel sahneler hem de sektör sahneleri dahil olmak üzere çok zengin. Yaygın senaryolar arasında akıllı konferans yükseltmeleri yer alır. Tencent'in 619'da yayınlanan Qidian müşteri hizmetleri ve Qidian analizi de akıllı işler yapıyor. Ayrıca bulut üzerinde bazı kod asistanları yapıyoruz. Evrensel uygulama ve verimlilik yükseltmesi açısından da birçok uygulama var. Ayrıca, her endüstrinin çeşitli endüstrilerde uygulamaları vardır ve bu da çok fazla talep getirecektir.

Medya: Tencent, büyük ölçekli model iniş sahnesine ek olarak diğer büyük ölçekli model şirketlerine de hizmet verecek mi? Volkan motoru, büyük ölçekli model kullanıcılarının %70'inin volkanda olduğunu söyledi.Tencent'in verileri nedir?

**Wu Yunsheng:**Tek boynuzlu at işletmeleri veya diğer büyük ölçekli model çözümleri için bir dizi bulut desteği veya yeteneği sağlıyoruz. Üreticilere sağlanabilecek yüksek performanslı bilgisayar HCC'sini, vektör veritabanını ve geliştirilmiş hızlandırma yeteneklerini piyasaya sürdük.

Altta yatan yeteneklere ek olarak, bir dizi araç, süreç ve hizmet desteğinin yanı sıra TI platformunun büyük modeline dayalı entegre bir ince ayar çözümümüz de var.

**Medya:**Pek çok SaaS hizmet sağlayıcısı uzun yıllardır birikmiştir. MaaS'ımız (Hizmet Olarak Model) onlar için mi yoksa sektörün önde gelen müşterileri için mi?

Wu Yunsheng: Bunlar bizim müşterilerimiz.

**Medya: **'ı endüstri ile birleştirmek, Tencent'in mevcut yaklaşımıdır. Dün Huawei bir ittifak kurdu, bu, devler arasında bir yarışma oluşturmak rekabetin daha kolay olduğu anlamına mı geliyor?

Wu Yunsheng: Ben bu konuya o gözle bakmıyorum. Bence büyük modeller çağında açıklık çok önemli ve herkes açık olmalı. Altta yatan teknoloji çok hızlı değişiyor ve teknolojinin yayılma kapasitesi çok geniş ve onu belirli endüstrilere entegre etmek çok pahalıya mal olacak. Bu durumda, yalnızca açıklık en büyük değeri ortaya çıkarabilir.Yalnızca açılıp daha fazla endüstri uzmanının ve çeşitli rollerdeki personelin katılmasına izin vererek tüm ekosistem daha sağlıklı olabilir ve daha fazla olasılık yaratabilir.

Medya: Her şirketin açılışı aynı mı?

Wu Yunsheng: Bahsettiğim açıklık, kapasite geliştirme ve ekolojik açılım anlamına geliyor. Örneğin, büyük bir finansal model inşa etmek, bir kişinin tüm büyük finansal modelleri özetlemesini gerektirmez.Farklı insanlar farklı alanlarda derin deneyime sahiptir ve birlikte inşa etmek bir tür açıklıktır. Doğrudan sektör müşterilerine açılmak da bir çeşit açılımdır.

Ayrıca, büyük modelin sağladığı yeteneklere dayalı olarak iş ortakları, verimlilik araçlarının veya endüstri çözümlerinin uygulamasını yükseltir ve farklı uygulama biçimlerini birleştirir. Büyük modelin iç gücünü güçlendirme açısından, ortaklar çiçek açıyor ve herkes aynı zamanda bir tür açıklık olan farklı uygulamalar sunuyor.