Youkede CEO'su Ji Xinhua ile diyalog: Rekabetçi büyük modeller, ellerinde bir kart varsa sadece uzanıp kazanmazlar

Yazar| He Sisi

Düzenle | Zhang Jin

Görsel kaynağı: Unbounded AI tarafından oluşturuldu

"Amerika Birleşik Devletleri'nde bilgi işlem gücünün yasaklanması, yerel büyük ölçekli modellerin gelişimini bir dereceye kadar sınırlayacaktır, çünkü çekirdek bilgi işlem gücü olmadan modelleri eğitmenin bir yolu yoktur." Büyük modeller için bilgi işlem gücünün önemi ile ilgili olarak, UKED Başkanı ve CEO'su Ji Xinhua Öyle söyleyin.

Büyük modelin bu yıl Şubat ayında Çin'de popüler hale gelmesinden bu yana, bilgi işlem gücü bir anda endüstride en çok endişe duyulan konu haline geldi ve aynı zamanda yurt içi büyük model eğitiminde aşılması zor bir engel haline geldi. Aslında, başka bir açıdan bakıldığında, bilgi işlem gücünün patlayıcı büyümesi, yerel bulut bilgi işlem satıcılarına benzeri görülmemiş geliştirme fırsatları da getirdi.

Bu bağlamda, Ji Xinhua da kabul etti. İşlem gücünün devre dışı bırakılmasının hem kötü hem de iyi bir şey olduğunu söyledi.Bir yandan darboğaz sorununu bir veya iki yıl içinde çözmek istiyorsanız yerli çiplerin araştırma ve geliştirmesini hızlandırmanız gerekiyor. kolay bir iş değil, öte yandan, işletmeler Bilgi İşlem gücüne giderek daha fazla önem veriyor, bu da yerli çiplerin gelişimini teşvik edecek.

Tarafsız bir bulut bilgi işlem üreticisi olarak Youkede, büyük modellerin rekabetinin arkasında, bilgi işlem gücü piyasasının büyük değişikliklere yol açacağını uzun zamandır hissetti.

"Geçen yıl Kasım ayında ilk kez Stable Diffusion ile temasa geçtim. O zamanlar etkisinin harika olduğunu düşündüm, bu yüzden büyük modele dikkat etmeye başladım." Ji Xinhua, Leifeng.com'a neden ödeme yaptığını açıkladı. Aynı zamanda şunu da ortaya koydu çünkü o zamanlar Çinli şirketler büyük ölçekli modellere ilgi göstermeye başlamamışlardı ve bunun ne kadar değer yaratabileceğini bilmiyorlardı, bu yüzden o zamanlar modelle ilgili büyük ölçekli işler yapmaya karar vermediler.

Büyük ölçekli modellerin gerçek uygulaması ve büyük ölçekli model işletmelerinin Birleşik Krallık tarafından hizmeti bu yıl Şubat ayında başlayacak ve bu aynı zamanda büyük ölçekli modellerin Çin'deki çemberin dışına çıkma zaman noktasıdır.

Leifeng.com, UKED'in ilk olarak büyük ölçekli modele, bilgi soru-cevap platformu "Shiwen"e, UCoder kod asistanı platformuna, AI boyama yardımcısı platformuna dayalı olarak dahili kullanım için dört AI ürünü geliştirdiğini öğrendi. Büyük ölçekli model güvenlik yönetimi platformu Düşük maliyetli, yüksek katma değerli kendi kendine oluşturulmuş bir veri merkezi için UKED, büyük model eğitimi, muhakeme için çeşitli GPU bilgi işlem güç kaynaklarını esnek bir şekilde sağlayan bir AIGC bilgi işlem güç tabanı oluşturmuştur. ve veri işleme.

Hemen ardından UKED, UKED tarafından bağımsız olarak geliştirilen UCloudStack tam yığın özel bulut platformunu yerleşik olarak içeren, sanallaştırma, depolama, ağ ve MaaS modelleri için özelleştirme çözümleri sağlayan özelleştirilmiş büyük ölçekli model hepsi bir arada makineyi piyasaya sürdü. endüstri dikey büyük ölçekli modeller İşletmeler, büyük model uygulamalarını tek bir tıklamayla dağıtabilir.

UKED'in büyük modeller çağındaki konumuyla ilgili olarak Ji Xinhua, "tarafsızlık" ilkesini bir kez daha vurguladı. Tarafsızlığın, İngiltere'nin yalnızca müşterilerle rekabet etmemesi anlamına gelmediğini, aynı zamanda büyük model şirketlerin müşteri bulmasına da yardımcı olduğunu açıkladı. Bu bağlamda Ji Xinhua, büyük modeller çağında Youke'nin yapması gereken şeyin "çöpçatan" olduğunu da açıkça alay etti.

Ji Xinhua'nın cevabından, UKED'in dahili Ar-Ge ve büyük ölçekli model ürünlerin uygulanmasının nedenlerini dolaylı olarak da öğrenebiliriz.Biri, şirket çalışanlarının büyük ölçekli modelleri anlamaları ve büyük ölçekli modelleri kullanmayı öğrenmeleridir.Bu temelde, büyük ölçekli modelleri derinlemesine anlayabilirler.Müşterilere daha iyi hizmet vermek için sorunlu noktalar nelerdir ve hangi senaryolarda uygulanabilir?

Büyük modellerin geleceği söz konusu olduğunda Ji Xinhua, gelecekte çok fazla belirsizliğin olduğunu ancak ne olursa olsun İnternet endüstrisinin veya yapay zeka endüstrisinin bilgi işlem gücüne ihtiyacı olduğunu söyledi.Ara bağlantı yetenekleri sınırlı, bu nedenle UKEDE'nin gelecekteki çalışmaları büyük ölçekli bir bilgi işlem gücü temeli oluşturmaya odaklanacak.

Aşağıda Leifeng.com ve Ji Xinhua arasındaki konuşma yer almaktadır:

Rekabetçi büyük modeller, kartları varsa sadece yatıp kazanmaz.Mühendislik becerileri, model eğitimi için çok önemlidir.

**Leifeng.com:**Pek çok kişi, büyük ölçekli modellerin rekabetine nihayet yalnızca birkaç bulut satıcısının katılabileceğini söylüyor. Hepsinin yüksek hızlı ağları yok. Sizce rekabetin önündeki engeller nelerdir?

Ji Xinhua: Doğru, yüksek hızlı ağlar gibi teknolojiler, rekabet eden büyük modeller için ana eşik değil. Youkede dahil ve çoğu bulut satıcısı bunu yapabilir. Artık ağın iki yapısı var: Birincisi, UKED'in 2019'da zaten bu yeteneğe sahip olduğu RoCE ağı.

İkincisi, Nvidia tarafından önerilen IB ağ çözümüdür.Bu çözüm nispeten basittir ve yalnızca dağıtılması ve sürdürülmesi gerekir. Bu nedenle, bulut satıcıları veya özellikle büyük şirketler için teknoloji ana eşik değildir.

**Leifeng.com:**Aslında birçok büyük ölçekli işletmenin kart stoklamaya başladığı söyleniyor?

Ji Xinhua: Evet, özellikle bazı büyük üreticiler A800, H800 vb. kart istifliyor. Bir yandan, kendi AI işinin kart kullanması gerekiyor ve daha fazla sermaye yatırımı ile daha önce çok sayıda kart satın alacak; öte yandan, bu yıl Şubat ayında büyük modellere yerli büyük ölçekli ilgi başladı ve Çeşitli üreticilerin önemi nedeniyle, kart istifleme hızını da hızlandıracaktır.

Leifeng.com: Bu, ne kadar çok kartınız olursa o kadar çok kazanacağınız anlamına mı geliyor? Diğer bulut satıcıları büyük oyuncularla nasıl rekabet ediyor?

Ji Xinhua: Uzanıp kazanmadım. Birçok yapay zeka büyük ölçekli model şirketi artık bizim kartlarımızı kullanıyor. Bu durum çok yaygın.

Birkaç neden var: birincisi, yalnızca bir kart kullanmak yeterli değil ve ikincisi, büyük model şirketi neden Youkede ile işbirliği yapmaya istekli? Bunun nedeni, büyük fabrikaların bilgi işlem gücüne, algoritmalara, verilere ve senaryolara sahip olduğunu hissetmeleri ve büyük fabrikalarla işbirliği yaptıklarında sonunda iş rekabetinden endişe duymalarıdır. Tarafsız ve güvenli bir bulut satıcısı olarak Ukerd'in büyük ölçekli işletmelerle rekabeti yoktur. Aynı zamanda UKDE, derin teknik birikim ve tek elden sistem mühendisliği hizmeti yetenekleriyle veri merkezinden ve temel alınan mimariden bilgi işlem gücü platformları, model kitaplıkları vb. geliştirebilir.

Bilgi işlem gücü hizmetinde iyi bir iş çıkarın ve büyük model "çöpçatan" rolünde iyi bir iş çıkarın

**Leifeng.com: **Youkede ne zaman büyük modellere dikkat etmeye başladı?

**Ji Xinhua: **En erken temas geçen yıl Ulusal Gün'deydi. Gördüğüm ilk şey Kararlı Difüzyon oldu. O zamanlar etkisinin harika olduğunu düşündüm, bu yüzden büyük modele dikkat etmeye başladım, bu yüzden daha önce ChatGPT'yi takip ettik.

Leifeng.com: Yani bunu geçen yıl Ulusal Gün'de yapmaya karar verdiniz?

Ji Xinhua: UKED, geçen yılki Ulusal Günün ardından bu yıl için AIGC'yi hedef olarak belirledi ve geçen yıl Kasım ayında AI boyama platformu görüntüsünü yayınladı. Bu yılın Şubat ayında, Çin'deki önde gelen büyük ölçekli model şirketleriyle iletişim kurduktan sonra, yerel bilgi işlem gücü piyasasının patlayıcı bir gelişme göstereceğini fark ettim ve bunu Mart ayının sonunda yapmaya karar verdim.

Leifeng.com: Bu büyük ölçekli model işletmelerde kaç tane potansiyel müşteri var?

Ji Xinhua: Çin'de 130 büyük ölçekli model şirketi, 78 genel amaçlı şirket ve 52 dikey şirket olduğu sonucuna vardık. Ve hala artıyor, 30'dan fazlası zaten müşterimiz.

Leifeng.com: Hizmet hangi biçimde dışa aktarılacak?

Ji Xinhua: Biri bilgi işlem gücümüz, diğeri bilgisayar odası hizmetleri, çünkü bazı şirketler kendi ekipmanlarını alıp bilgisayar odamıza koyuyor.

Leifeng.com: Bilgisayar odası hizmetini nasıl anlıyorsunuz? Müşterinin kendisinin operasyonel yetenekleri olmadığı için mi?

Ji Xinhua: Nerede olursa olsun işletmenin kendisinin bir bilgisayar odasına ihtiyacı vardır. Büyük bir modelin gerektirdiği bilgisayar odasının iki özelliği vardır: biri çok fazla güç tüketmesi, diğeri ise güç tüketimi H100 makinesinin gücü 10kW'ı aşıyor Bilgisayar odası bu talebi karşılayamıyor ve Youkede'nin Ulanqab veri merkezi özellikle uygun. Ek olarak, birçok şirket artık sunucu sorunu yaşıyor ancak bunları kullanamıyor.Ukerde, bir bilgi işlem gücü platformu oluşturmalarına ve sonraki bakım çalışmalarını gerçekleştirmelerine yardımcı olabilir.

Leifeng.com: Youkede, bilgi işlem gücü sağlamanın yanı sıra bir süre önce "Shiwen"i de yayınladı mı?

Ji Xinhua: UKED dört dahili platform oluşturdu: bilgi soru ve yanıt platformu "Shiwen", UCoder kod yardımcısı platformu, AI boyama yardımcısı platformu ve büyük model güvenlik yönetimi platformu. Aslında "bilgi" den önce yaptığımız ilk şey büyük ölçekli model uygulama yönetim sistemiydi.Bu bizim ilk ürünümüz ve gelecekte herkesin büyük ölçekli modeli kullanabileceğini umuyoruz;

İkincisi, ticari güvenlik sorunlarını çözmek için, sorularınız ve yüklediğiniz dosyalar dahil olmak üzere bazı kısıtlamalar getirdik, şirketin gizli bilgilerinin İnternet'e sızmasını önlemek için bunları kaydedecek ve filtreleyeceğiz;

Üçüncüsü, iç çalışan sorunları ve dış iletişim ve geri bildirim dahil olmak üzere kullanıcı sorunları için, sistem otomatik olarak kaydedecek, böylece şirket daha sonraki aşamada kendi model eğitimini gerçekleştirmeye devam edebilecektir.

Leifeng.com: Bu dört ürünü neden yaptınız? Dışarı çıkabilir mi?

Ji Xinhua: Birincisi, şirket çalışanlarının büyük ölçekli modelleri anlaması ve kullanması için. Bu temelde, büyük ölçekli model şirketlerin sıkıntılarının ne olduğunu ve hangi senaryolarda çalıştıklarını derinlemesine anlayabilirler. müşterilere daha iyi hizmet verebilmek için uygulanacaktır.

Bu dört ürün şu anda şirket içinde kullanılıyor, ancak müşterilerin buna ihtiyacı olursa daha fazla iletişim kurabiliyoruz.

Leifeng.com: Bu platformlar hangi modeli temel alır?

**Ji Xinhua: **Önce GPT 4 ile eğitim verin, model doğrulaması yapın ve ardından optimize etmek için kademeli olarak yerel büyük modelleri veya açık kaynaklı büyük modelleri kullanın. Bu bağlamda “yurt dışında silah bilemek, evde savaşmak” diye bir kavramdan da bahsetmiştim.

Leifeng.com: Gelecekte başka hangi senaryolar hakkında iyimsersiniz?

Ji Xinhua: ChatGPT'nin çıktı içeriğinin hatalı doğasına yönelik toleransa göre ayırt edilirse, 10 senaryoyu böldük.

Birincisi çeviri ve dublaj.Bu alandaki yetenek zaten çok yüksek ve tamamen insanın yerini alabilir,ikincisi oyunun NPC'si,üçüncüsü sosyal etkileşim,dördüncüsü e-ticaretin içerik çıktısı,beşincisi oyun tasarımı, altıncısı müşteri hizmetleri, yedincisi belge ve programlama yardımı, sekizincisi işletme içi bilgi yönetimi, dokuzuncusu eğitim ve sigorta senaryoları ve sonuncusu avukat ve doktorlara yardımcı olmaktır.

Leifeng.com: Bu 10 sahne aynı anda mı çekilecek? Yoksa adım adım mı?

Ji Xinhua: Uçar büyük modeller yapmıyor, biz sadece müşterileri ve ortakları birbirine bağlıyoruz, bu da "çöpçatan" rolü olarak anlaşılabilir. Örneğin, oyun müşterilerini MiniMax'a bağlayın ve e-ticaret ve eğitim sektörlerindeki müşterileri Zhipu Huazhang'a bağlayın.

Yerli büyük ölçekli modellerin GPT4'ü yakalaması zor ve start-up şirketler için daha fazla fırsat var

Leifeng.com: Sizce yerli büyük model firmaları kaç türe ayrılabilir? Youkede'nin kilit müşterileri kimlerdir?

Ji Xinhua: Beş kategoriye ayrıldık. İlk kategori, Ali, Baidu, Toutiao, Huawei, JD.com vb. dahil olmak üzere devlerdir. İkinci kategori, Zhipu Huazhang gibi bilim adamları tarafından başlatılır; üçüncü kategori, orijinal AI şirketi, AI Four Tigers, Daguan, Yunzhisheng, 4Paradigm, vb.; dördüncü kategori, MiniMax gibi başlangıç şirketleridir; Beşinci kategori, listelenen orijinal şirketlerin Kunlun, 360 gibi büyük ölçekli modellere geçtiğini ve Wang Xiaochuan ve Li Kaifu gibi girişimci liderleri de içerdiğini.

İlk tip büyük üreticiler Youkede'nin hedef müşterileri değildir ve sonraki tipler bizim kilit müşterilerimizdir.

Leifeng.com: Yani, büyük fabrikalar kendi kendilerini inşa etme kabiliyetine sahipken, diğer şirketler kendi kendilerini inşa etme kabiliyetine sahip değiller mi?

Ji Xinhua: Yapay zeka alanını içerdiği için sadece bir ağ sorunu değil, aynı zamanda depolama ve bilgisayar odaları gibi bir dizi sorundur. Örneğin, start-up şirketler kendi bilgisayarlarını da kurabilirler. güç, ancak döngü çok uzun olacak, kendisinin inşa etmesini bekleyin, bundan sonra rekabet sona erer. Büyük modellerin rekabeti tamamen hız ile ilgilidir ve en yüksek hıza sahip olan, komuta yüksekliklerini işgal edebilir.

Leifeng.com: Büyük bir fabrika için, büyük bir model için kaç aşama ve düğüm noktası vardır?

Ji Xinhua: Birincisi büyük modelin lansmanı, ikincisi ise lansman sonrası etkinin doğrulanması. Şu anda MiniMax, Zhipu, Baidu, Ali, HKUST Xunfei vb.

**Leifeng.com:**Hangisi daha iyi, esas olarak ne kadar bilgi işlem gücü kullandığına mı bağlı?

Ji Xinhua: Sanmıyorum. Eğitim için daha fazla bilgi işlem gücü, mutlaka iyi bir model üretmeyebilir, ancak çıkarım bağlantısı daha fazla kullanılırsa, çok sayıda kullanıcı ve daha fazla geri bildirim olduğu anlamına gelir. İyi bir model yetiştirmek için elverişlidir.

**Leifeng.com:**Eğitim veya mantık ne olursa olsun, büyük bir model oluşturmak için önce bilgi işlem gücüne sahip olmanız gerekir?

Ji Xinhua: Evet, ilk şey kart sahibi olmak. Kartınız yoksa kesinlikle geride kalırsınız. %40-50 civarında. Yukarıdaki iki sorun çözülürse bu bir güvenlik sorunudur ve akış sorunu da çok önemlidir.

Leifeng.com: Yerli modeller ne seviyede? Birçok kişi bu yılın sonuna kadar GPT4'ü yakalayacağını söylüyor.

Ji Xinhua: Şu anda Çin'de GPT3.5'i geçen bir model yok. Elbette GPT3.5'i belirli bir açıdan geçmek aslında çok kolay. GPT4'ü geçmek zordur.Önemli olan, GPT3.5'ten önceki makalelerin halka açık olmasıdır, ancak GPT4 henüz halka açıklanmamıştır, bu nedenle herkes ne yapacağını bilemez.

Leifeng.com: Bu büyük yerli üreticilerin yetişme şansı yok mu?

Ji Xinhua: Bence büyük şirketlerin etkisi yeni kurulan şirketler kadar iyi değil. Çünkü inançları ve idealleri olan bazı start-up şirketler bunu çoktan yapmaya başladılar ve Dachang aslında ChatGPT'nin popülaritesini gördükten sonra başladı.

Leifeng.com: Büyük üreticilerin teknoloji biriktirmesi mantıklı, yani daha fazla fırsatları yok mu?

Ji Xinhua: Yapay zeka için pek çok yön var. Geçmişte çoğu şirket dikey büyük ölçekli modellerin fırsatlara sahip olduğunu düşünürken genel amaçlı büyük ölçekli modellerin fırsatlara sahip olduğunu düşünmüyordu. Bu nedenle geçmişte Birkaç yıl içinde, Zhipu Huazhang, MiniMax, Çin Bilimler Akademisi vb. gibi inançlı bazı girişimci ekipler ve Bilimsel araştırma ekipleriydi.

Büyük üreticiler için bunu yaptıktan sonra yabancı ülkelerin takip ettiğini görmek daha çok ve şirketin stratejisine yükselmemiş, bu nedenle genel amaçlı büyük modellerde çok fazla birikimleri yok.

Leifeng.com: Bilgi işlem gücü sorunu er ya da geç çözülecektir, peki büyük modeller açısından UKEDe'nin avantajları nelerdir?

Ji Xinhua: Üç noktada özetlenebilir: Birincisi, tarafsızlığı koruyun ve kullanıcılarla rekabetçi bir ilişki içinde olmayın. İkincisi, küçük ve orta ölçekli şirketlerin hızla platformlar oluşturmasına ve büyük modeller kullanmanın verimlilik sorununu çözmesine yardımcı olabilecek veri merkezleri, ağlar ve veri depolama için eksiksiz bir AIGC çözümleri seti oluşturma yeteneğine sahiptir; üçüncüsü, büyük model şirketlerin müşterilerini genişletmesine daha iyi yardımcı olur.