360 Group Peng Hui: Büyük modellerin gelişme eğilimi dikeyleştirmedir! Kurumsal düzeydeki ChatGPT'nin yalnızca bu 4 adıma ihtiyacı vardır...

Kaynak: AI kara at

Yazar: Peng Hui 360 Grubu Başkan Yardımcısı

01. Büyük modellerin gelişme eğilimi "dikeyleştirme"dir

Kapsayıcı, her yerde bulunan ve evrensel özellikleriyle büyük ölçekli model, gelecekte binlerce haneye girecek ve binlerce sektöre güç verecek.

Yani şu görüşe sahibiz:

Her ailenin, her hükümetin ve her işletmenin bir veya daha fazla büyük modeli olacaktır.

Ayrıca Çin ve ABD'nin To B pazarındaki gelişiminin de çok farklı olduğuna inanıyoruz. Çin'de tekel olmayacak, kesinlikle 3-5 büyük model de olmayacak.

Gelecekte büyük modeller her yerde bulunmalı ve kurumsal pazarda gelecekteki geliştirme fırsatları bulunmalıdır.

Herkes dijitalleşmenin ülkemizin temel stratejisi haline geldiğini ve endüstriyel dijitalleşmenin gelecekte büyük, merkezi olmayan, artan bir pazar olacağını biliyor.

Bu nedenle, Çin'de büyük ölçekli modeller yaparken, sektörü güçlendirmek, endüstriyel düzeydeki pazarı sabitlemek ve büyük ölçekli modelleri sözde merkezi pazardan çekmek için böylesine stratejik bir fırsatı değerlendirmemiz gerektiğine kesinlikle inanıyoruz. hükümetin ve işletmelerin üretkenliği ve üretim verimliliği.

Elbette bu süreçte büyük modeller kurumsal pazara giriş sürecinde bazı büyük zorluklarla karşılaşacak.

Bunu dört açıdan özetliyorum:

1. Mesleki bilgi eksikliği.

Büyük modeli beslemek için büyük miktarda internet külliyatı kullanacağımızı herkes biliyor, bu bir lise öğrencisi, en fazla lisans mezunu gibi. Ancak bazı mesleki alan bilgileri, sektör bilgileri ve kurumsal iç bilgiler açısından son derece yetersizdir. Zamanında güncellenmedi bile. Yani bu büyük bir sorun, uzmanlık eksikliği.

2. Ara sıra halüsinasyon saçmalıkları.

Herkes sık sık bir kelime söyler ve büyük model ciddi bir şekilde saçma sapan konuşur. Bilgi belirsizliği ve bilgi yanılsaması olacaktır. Veri ve bilgi, yapılandırılmış veri tabanları gibi olduğundan, derin sinir ağımızın parametrelerinde ve ağırlıklarında başka bir matris ve vektör formunda kodlanır. Ancak onu aramak, kullanmak istiyorum ve aslında daha iyi bir önyükleme işi yapmam gerekiyor. Bu süreçte algoritma mekanizması, özgünlüğü ve güvenilirliği garanti edemeyen bir içerik yanılsaması üretecektir.

3. Güvenlik sorunları.

İşletmeler, benzersiz becerilerini kamusal büyük modele katkıda bulunmaya veya onları halka açık büyük bir modele göre eğitmeye isteksizdir.

4. Maliyet sorunları.

Artık Nvidia H100'ün stokları tükendi ve ChatGPT aynı anda on binlerce kartı eğitebileceğini iddia ediyor. Dolayısıyla bu tür bir yatırım sıradan bir işletme için oldukça zordur. İnsan gücünü azaltmış olabiliriz ama maliyetleri düşürmedik.

Peki bu sorunları nasıl çözebiliriz?

Gelecekteki gelişme eğiliminin dikeyleşme ve küçük ama uzmanlaşmış dikey büyük modellerin yaratılması yönünde olması gerektiğine inanıyoruz.

Görev ayrıştırma, insan-bilgisayar etkileşimi ve bilgi sorusunun yanıtlanmasıyla ilgili tüm sorunları çözmek için tek, çok amaçlı, genel amaçlı büyük bir modele güvenmek imkansızdır. Küçük ölçekli, özel dikey büyük modelleri eğitmek için kurumsal düzeydeki veri topluluğuna ve yüksek kaliteli verilere güvenmeliyiz.

Büyük modeller gelecekte tüm dijital sistemlerin standart konfigürasyonu ve bileşeni haline gelecektir.

**02 Kurumsal düzeyde GPT nasıl hızlı bir şekilde uygulanabilir? **

100'den fazla kurumsal müşteri ve iş ortağıyla görüştük ve herkesin temelde bir fikir birliğine vardığı görüldü:

Büyük modeller şu anda her şey değil.

Öyleyse soru şu: Bunu kurumsal senaryolara daha iyi nasıl uygulayabiliriz?

Sözde genelcileri profesyonelleştirmemiz ve gerçek hükümet ve işletme uzmanları haline gelmemiz gerekiyor.

Şu anda küçük bir kesi bulmamız ve onun güçlü yanlarını tam anlamıyla ortaya koymamız gerekiyor.

Büyük modelin mevcut yeteneklerinin temel olarak metin oluşturma, yani içerik oluşturma ve bilgi sorusunu yanıtlama gibi iki yeteneğe yansıdığına inanıyoruz. Bu iki yetenekle başlayabiliriz.

Büyük ölçekli model endüstrisinde giderek daha fazla uygulayıcı, nispeten odaklanmış ve dar uygulama senaryolarında, daha küçük ve ince ayarlı büyük modellerin To B ucunun doğruluk gereksinimlerini daha hızlı karşılayacağına inanmaktadır.

Bu nedenle adım adım ilerlemeli, önce büyük modelin iyi bir yardımcı olmasına, önce büyük modelin iyi bir navigasyon olmasına izin vermeliyiz.

Böyle bir senaryoya odaklanarak, üretkenliklerini ve etkililiklerini üst, alt, iç ve dış olmak üzere dört boyuttan hızlı bir şekilde ortaya koymak için bu dört ürüne uyum sağlayan ilgili uygulama senaryolarını buluyoruz.

1. İç sahnede daha çok ofisi yazmak ve özetlemekle ilgili olduğunu düşünüyoruz.

2. Dış sahnede, müşteri hizmetleri sahnesinde çok sayıda dijital insan görünmeye başladı.

3. Yukarıdaki senaryoda bilgi ve istihbaratın özetini ve analizini vurguluyoruz.

4. Bir sonraki senaryoda büyük modelin kurumsal bilgi ve hatta iş becerileri üzerine bir dizi eğitim yapmasına izin verebiliriz.

Dolayısıyla tüm uygulama süreci boyunca çok önemli bir noktayı fark ettik. Gelecekte iş senaryolarımızın %80'inden fazlası kurumun bilgi tabanıyla yakından ilişkili olacaktır.

Geçmişte büyük veri üzerinde çalışırken hepimiz yapılandırılmış veri uygulamasında kalıyorduk. Yapılandırılmamış bilgi ve verilerin %80'inin terk edildiğini veya kendi haline bırakıldığını bilmelisiniz.Büyük verinin bu kısmı, büyük model eğitiminin külliyatı haline gelecektir.

Bu nedenle, kuruluşun büyük veri tabanından değerli bilgilerin ve yüksek kaliteli hassas verilerin nasıl çıkarılacağı, kuruluşun özel alan bilgi tabanına nasıl dönüştürüleceği ve büyük modelin düzeltme ve iyileştirme yoluyla nasıl güçlendirileceği, gerçekten güvenilir içerik üretebilir. ve To B iş senaryosunda zamanında içerik güncellemelerinin yanı sıra, merkezi olmayan yönetim ve etki alanlarının bölünmesi gibi içeriğin güvenliği.

Veriler üç kapıya bölünmüştür:

İlk kapı açık İnternet verileri olabilir, ikinci kapı ise yarı kamuya açık sektör verileri veya kurumsal veriler olabilir ve bunun bir kısmı da kurum içindeki gizli verilerdir.

Bu tür bir işletmenin gizli verileri ve yetkili verileri için, onu bir işletmenin bilgi tabanına veya bir vektör veri tabanına koymalıyız, böylece bir tür yetki yönetimi yoluyla yetki ve denetim ile bir tür yönetim üretebilmeliyiz. Daha doğru bilgi ve yetki sağlamak amacıyla büyük modellerin geri getirilmesiyle geliştirilen sınıflandırılmış ve hiyerarşik kurumsal bilgi.

Bir diğer husus ise uygulamadır.Uygulama düzeyinde herkes ChatGPT'ye maruz kaldı.Sizce kullanımı kolay mı?

Neden bir süre önce tüm beyinler gelecekte mühendisleri öneren birçok pozisyon ve rol olacağını söylüyordu, aslında bu çok karmaşık.

İyi bir makale yazmasını istiyoruz ve iyi bir makale yazabilmesi için ona birçok ipucu, temel fikir, özet ve taslak vermemiz gerekiyor.Bir resim yapmasına izin veriyoruz, Midjourney'i kullanıyorum, hatta yapmak zorundasın ona kaç milimetre lens, odak uzaklığı, diyafram açıklığı ve alan derinliği kullanmanız gerektiğini, ne tür bir ortamın bunun gibi gerçekten güzel oluşturulmuş bir resim oluşturabileceğini söyleyin, ancak böyle bir ipucu projesi aslında yalnızca kullanılabilir, Ama çok garip ve kullanımı zor.

Bu nedenle, gelecekteki geliştirme sürecinde, sözde dil kullanıcı arayüzü hakkında batıl inançlara kapılmayın; daha geleneksel arayüzler ortadan kaldırılmayacaktır.

Üstelik daha fazla sezgi ve uygulanabilirlik sağladığı için ofis yazımı, resim oluşturma, pazarlama yaratıcılığı vb. gibi gelecekteki senaryolarda ve hatta devlet bilgisi soru-cevap senaryolarında çok sayıda üretilecektir.

Mesela Lao Zhou sık sık bir tabak rendelenmiş patates yemek istediğini söylerdi, ben sirkeli yerine kızarmış patates istedim, tık sesi bir saniye seviyesinde olabilir ve ben bu konuyu bitirdim.

360, kendi kurumsal düzeydeki GPT'sinin tüm ürün sistemi çerçevesini yayınlayacak. En alt katmanda, geçmişteki tüm verilerin birikiminden ayrılamayan veri ve bilginin gelecekte kurumsal düzeydeki büyük modellere temel oluşturacağına hâlâ inanıyoruz. büyük modellerin ihtiyaçları ve geçmişte tüm işletmelerin biriktirdiği verileri yapılandıramaz.İçerik ve belgeler, multimedya ses ve video grafikleri de dahil olmak üzere, görüntü verilerini, çoklu veri konnektörleri ve bilgi izleme robotları aracılığıyla, çok kaynaklı verileri destekleyen bir işleme motoruyla bünyesinde barındırır. vektör İndeksleri, geleneksel anlamda soyut indeksler, metin indeksleri ve çok modlu indeksler aracılığıyla kurumsal bilgi tabanımıza aktarın, kurumsal düzeyde büyük bir modelin bilgi tabanını oluşturun ve ardından arama ve bilgi geliştirmemiz yoluyla profesyonel dikey girişimimizi güçlendirin Büyük Model yukarıya doğru hizmet vermektedir.

03, 3 uygulama ve büyük modellerin piyasaya sürülmesi için en iyi süreç

1. Ofis yazımı.

Karmaşık projeleri, 15 kategorilik farklı büyük şablonların ve 80'e yakın kategorilik alt bölümlere ayrılmış belge şablonlarının arkasına gizleyeceğiz. Resmi belge yazımını verimli bir şekilde tamamlamak ve zaman alan ve düşük kaliteli resmi belge yazma sorunlarını etkili bir şekilde çözmek için böyle bir araç kullanın.

2. Devlet hizmetleri.

Büyük model ve devlet işlerine ilişkin bilgi tabanı sayesinde, büyük modelin çoklu diyalog turları yoluyla semantiği bir insan gibi anlamasını sağlayabilir, takip ve takip soruları yoluyla ilgili bilgileri tamamlayabilir ve son olarak bir soru ve cevap oluşturabiliriz. Sıradan insanların iş yapma sürecinde aklındaki tüm sorulara objektif ve doğru bir şekilde cevap verebilir.

3. Kültür turizmi dijital insanları.

Lao Zhou ayrıca birçok kez Wenlv Digital People'dan bahsetti. Herkes seyahat planlaması yapmıştır. Seyahat planı adı verilen bir plan seyahat sorunlarınızı çözebilir mi?

Bizim için önemli olan, bir destinasyona indikten sonra yerel bir dostumuzun ve yerel bir tur rehberimizin olması. Önemsediğim manzaralar, yemekler, anekdotlar, şakalar, bunlar nasıl hedef odaklı bir dijital yol arkadaşı haline geliyor? Böyle bir dijital yol arkadaşı yaratmak istiyoruz.Gelecekte hükümetin liderliğinde Çin ve Tayvan'ın yeteneklerini kademeli olarak açacağız ve OTA'mızı, yerel otellerimizi ve restoranlarımızı birbirine bağladıktan sonra.

360 Grup'un kendisi ve 100'den fazla kurumsal müşteri ve iş ortağımızla birlikte bugüne kadarki en iyi uygulamanın uygulama sürecini oluşturduk.

İlk adım iş analizi ve senaryo seçimidir.

İkinci adım veri toplama ve temizleme hazırlığıdır.

Üçüncü adım, kurumsal tescilli büyük modeli eğitmektir.

Dördüncü adım kurumsal senaryo uygulamaları geliştirmektir.

Tüm büyük ölçekli modeller kurumsal düzeydeki senaryolarda hayata geçirildiğinde en önemli önceliklerden birinin hâlâ iş analizi olduğuna inanıyoruz. Dijitalleşmeden hiçbir farkı yok.

İş analizi sürecinde işin sıkıntılı noktalarını bulmamız, uygun senaryoyu bulmamız ve bu senaryoyu seçtikten sonra çözümümüzü tanımlamamız gerekiyor.

Ardından, yüksek kaliteli, etiketli verilerimizi oluşturmak için bu sahnedeki verileri ve bilgileri toplayın ve temizleyin. Veritabanına girdikten sonra, bunun bir kısmı eğitim için korpus olarak dikey büyük modelimize beslenir ve bir kısmı da bilgi geliştirme araması yapmak için kurumsal bilgi tabanımıza girer. Sırada, modellerin uygulama düzenlemesi ve API'lerin mevcut iş sistemleriyle entegre olacak şekilde açılması yoluyla akıllı asistanların, dijital çalışanların ve dijital insanların geliştirilmesi yer alıyor.

Kurumsal düzeydeki büyük modelin uygulama sürecinde, her iki tarafın iş ve teknik uzmanlarının yakın işbirliğinden ayrılamaz olduğunu vurguluyoruz.