Xiaomi'nin büyük modeli ilk kez görücüye çıktı ve kağıdı ilk olarak Huawei Xiaoyi teslim etti.Cep telefonları için GPT zamanı yaklaşıyor mu?

Kaynak丨Akıllı Şeyler

Yazar | Yunpeng

Düzenle | Kalp Kaderi

Cep telefonu üreticileri arasındaki büyük model savaşı başlamak üzere.

Az önce, Xiaomi büyük modeli aniden ekranda belirdi ve C- ve CMMLU'nun iki büyük model test platformunda sırasıyla onuncu ve Çince'de birinci oldu.C-derecesi Alibaba Cloud'dan Tongyi Qianwen'in önünde.

▲C listesi

C- ve CMMLU'nun şu anda sektörde yetkili Çin büyük ölçekli model kıyaslama testleri olarak tanındığını bilmelisiniz, esas olarak Çin alanındaki büyük ölçekli modelin kapsamlı bilgi rezervini ve dil anlama yeteneğini inceliyor.

▲CMMLU değerlendirme listesi

Daha geçen hafta Huawei'nin sesli asistanı Xiaoyi, kendi Pangu modelinin bazı özelliklerini de entegre etti.Sesli asistanı kullanarak makale özetleri, toplantı daveti e-postaları yazmak veya kişiselleştirilmiş tasarım için kendi fotoğraflarınızı kullanmak bir gerçeklik haline geldi.

Yerli cep telefonu üreticileri büyük modellerin izinde "Ses çıkarmazsan gişe rekortmeni olursun" gibi bir duruş sergiliyor. Biri uygulamaya indi, diğeri ise ilk kez ekranı süpürdü.

Önceleri, ister kendi geliştirdikleri çipler ister hızlı şarj olsun, cep telefonu üreticileri, tüketici pazarına "yeni teknolojileri" iten ve genel halkın yeni teknolojilerle temasa geçmesini sağlayan "öncüler" gibi görünüyordu.

Büyük modellere dayalı üretken yapay zeka dalgasında, cep telefonu üreticileri yeni bir savaşa girmek zorunda.

Denizaşırı ülkelerde, Google ve Apple, kendi akıllı ses asistanlarını "harekete geçirmeye" başladı ve büyük ölçekli modellerin uygulamasını geliştirdi. Çin'de, Xiaomi'nin büyük ölçekli modellerinin sonuçları açıklanmadan önce, Xiaomi'nin AI laboratuvarının yöneticisi Wang Bin , zaten dış dünyaya Xiaomi'nin büyük ölçekli modelini anlatmıştı. Model alanının planlanması ve ilerlemesi ile ilgili olarak, Xiaomi CEO'su Lei Jun ve Xiaomi Başkanı Lu Weibing, Xiaomi'nin büyük modeli ve ilgili düzenleri hakkında birçok kez kamuoyunda konuştu. .

Honor'un CEO'su Zhao Ming, Honor'un büyük ölçekli ağ modellerine olan talep üzerine internet şirketleriyle iş birliği yaptığına değinirken, düşük anahtar gibi görünen OPPO ve vivo'nun aslında uzun yıllardır yapay zeka alanında yer aldığını söyledi. • Testte en iyiler arasında yer aldı ve bazı büyük AI şirketleriyle işbirliği yaptı. Huawei tarafında, Xiaoyi çoktan indi.

Yüzeyde dalgalar sakin olsa da, cep telefonu üreticileri arasında büyük modellerin savaşı yakındır. Her aile gizlice tahta yollar inşa eder ve AI teknolojisinin zorlu bir oyunu sahnelenmek üzere olabilir.

Xiaomi, büyük bir model ekibi oluşturdu ve Honor OV, "kendi kendine araştırma + işbirliği" modelini benimseyebilir

Cep telefonu üreticileri büyük ölçekli modelleri iki şekilde kullanırlar: Biri kendi kullanımları için büyük ölçekli modeller yapmak, diğeri ise başkalarının büyük ölçekli modellerini kullanmak.

Şu anda Huawei ve Xiaomi bir adım önde ve kendi kullanımları için kullanıyor.Honor, OPPO ve vivo'nun büyük modellerin düzeni hakkında resmi bir bilgisi yok.Bunların arasında OV ve diğer üreticilerin büyük modeller hakkında ilgili iş birliği bilgileri var.Ancak , ikisinin nasıl benimseneceği henüz belli değil.

Öncelikle bugün ekranı kaydıran Xiaomi'ye bir göz atalım.Aslında Xiaomi'nin akıllı ses asistanı Xiao Ai'nin çeşitli firmaların ses asistanları arasında en ünlüsü olduğu söylenmeli ve aynı zamanda en geniş sese sahip. kullanıcı yelpazesi. Xiaomi'nin neredeyse her türlü IoT cihazının Xiao Ai'ye Erişimi vardır ve Xiaomi, tüm akıllı telefon üreticileri arasında en fazla sayıda IoT ekolojik cihazına sahiptir. Xiaomi, Xiaomi AI modelinin Xiao Ai ile birleştirilebileceğini açıkça belirtti. gelecek.

İster kazanç görüşmesinde, ister bazı halka açık röportajlarda, ilgili Xiaomi yöneticileri büyük model hakkında olumlu görüşler dile getirdiler ve Xiaomi'nin büyük model için yerleşimini ve planlamasını ayrıntılı olarak açıkladılar.

Bu yılın Nisan ayında, Xiaomi CEO'su Lei Jun, Xiaomi'nin büyük ölçekli model teknolojisini kararlı bir şekilde benimseyeceğini belirten bir belgeyi bizzat yayınladı.Ertesi ayki kazanç konferans görüşmesinde, Xiaomi Başkanı Lu Weibing, şirketin bir yapay zeka laboratuvarı kurduğunu duyurdu. AI alanında 1.200'den fazla kişiyle ölçekli model ekibi.

Xiaomi'nin büyük model ekibinin başkanı, Xiaomi'nin Yapay Zeka Laboratuvarı yöneticisi Wang Bin'e rapor veren Luan Jian'dır. Wang Bin, Çin Bilimler Akademisi'nde 20 yılı aşkın bir süredir NLP (Doğal Dil İşleme) üzerine araştırma yürüttükten sonra 2018'de Xiaomi'ye katıldı. .

Shenran ile yaptığı bir röportajda Wang Bin, ekibinin hedefinin on milyarlarca parametre ölçeğine sahip genel amaçlı büyük bir dil modeli olduğunu ve eğitim için ekipman yatırımının on milyonlarca RMB olduğunu belirtti. Xiaomi büyük ölçekli model iniş ürünleri, bir "hibrit model" benimseyecek ve geleneksel model ve büyük ölçekli modelin her biri, iyi oldukları sorunları çözecektir.

Wang Bin'e göre, ChatGPT'den önce Xiaomi, modelle ilgili büyük ölçekli araştırma ve uygulamalar yapmıştı.Ancak, modelin ölçeği milyarlarca ve genel amaçlı büyük ölçekli bir model değil. insan-makine diyaloğu için diyaloğa özgü model.

Xiaomi tarafında yöneticiler sık sık bilgi ifşa etti ve Honor tarafında CEO Zhao Ming, röportajlarda Honor'un üretken yapay zeka ve büyük ölçekli modeller hakkındaki görüşlerini de açıkladı.

Zhao Ming, Şangay Mobil Dünya Kongresi'nde, Honor'un büyük ölçekli ağ modelleri talebi üzerine İnternet şirketleriyle işbirliği yaptığından bahsetti.O zamanlar, ilgili şirketlerle zaten temas halindeydiler.

Şu anda, Baidu'dan Wenxin Yiyan, Ali'den Tongyi Qianwen ve Xunfei'den Xunfei Xinghuo, büyük yerli İnternet şirketleri ve yapay zeka şirketleri tarafından piyasaya sürülen üç taraflı büyük ölçekli modellerdir. Kendi geliştirdiği büyük ölçekli modeller, yeni kurulmuş şirketler için çok önemlidir. üç yıldır kuruldu. Honor için en önemli şey bu değil. Pazar payını ve sevkiyatları artırmak açıkça daha kritik. Bu nedenle, Honor'un büyük ölçekli teknolojiyi uygulama yolu işbirliği olabilir.

OPPO tarafında ise OPPO Çin Başkanı Liu Bo, bir röportajda OPPO'nun cep telefonlarında büyük modellerin uygulanmasını düşündüğünden bahsetmişti.

Bu yılın Nisan ayında Alibaba Cloud, OPPO'nun büyük ölçekli model altyapısını OPPO Andes Smart Cloud ile ortaklaşa kuracağını duyurdu. ve OPPO son kullanıcıları için AI hizmetleri oluşturun.

Huawei Xiaoyi örneğinden yola çıkarak, OPPO'nun akıllı sesli asistanında kullanılabilecek hafif bir model yapmak için Tongyi Qianwen'e ince ayar yapmak ve optimize etmek mümkün.

Ancak Xiaomi'den ilgili kaynaklar, OPPO ve vivo'nun da kendi büyük modellerini yapıyor olabileceğini ortaya koydu.

Bu bağlamda, OV'nin önceki bazı eylemlerinden de bazı işaretler görebiliriz. Örneğin, OPPO'nun Xiaobu asistan ekibi, konuşma tanıma, anlamsal anlama, diyalog oluşturma, bilgi sorusu yanıtlama sistemi, açık alan sohbeti, çok modluluk vb. dahil olmak üzere yapay zeka teknolojisi alanında birçok araştırma yürütüyor ve bunlar şunlar: tümü üretken yapay zeka anahtar teknolojileriyle ilgili.

Xiaobu'nun asistan ekibi daha önce ön eğitim modellerini araştırıp uygulamış ve 100 milyon, 300 milyon ve 1 milyar parametreli ön eğitim modelleri OBERT'i geliştirmiştir.Listede beşinci, büyük ölçekli bilgi haritasında birinci sırada soru ve cevap KgCLUE1.0 listesi.

Geçen yıl OPPO Gelecek Teknoloji Konferansı'nda, Xiaobu'nun kullanıcı açıklamaları ve yüklenen resimler aracılığıyla resim oluşturabilen boyama işlevinde üretken yapay zeka teknolojisi kullanıldı.

Vivo için yapay zeka ekibi, bu yılın Mayıs ayında doğal dil anlama görevleri için bir metin ön eğitim modeli 3MP-Text geliştirdi.Çince anlama değerlendirme ölçütünün CLUE listesinde 3MP-Text, 100 milyon parametresiyle aynı sıralamayı aldı. model etkisi Önce boyut.

Büyük model cep telefonuna yerleşir ve akıllı sesli asistan erken benimseyenlerin öncüsü olur

Cep telefonu üreticileri aktif olarak büyük modelleri benimsiyor, ne yapacaklar? Şimdiye kadar belirlenen bir şey, büyük modelin çeşitli şirketlerin akıllı sesli asistanlarında kullanılmasıdır, böylece büyük model cep telefonunuzun "sistem düzeyinde" yeteneği haline gelebilir, cep telefonunu daha akıllı hale getirebilir ve asistanlar artık "Geri zekalı" olmayacak.

Samsung, cep telefonlarının ve tabletlerin varsayılan arama motorunu Google'dan Microsoft'un AI sohbeti destekleyen yeni Bing'ine değiştirmeyi düşünüyor. Mayıs ayındaki I/O konferansında Google, aralarında en küçük "Gecko" büyük modelinin cep telefonlarında çalışabileceği farklı parametre ölçeklerine sahip dört yeni nesil büyük dil modeli PaLM 2'yi piyasaya sürdü.

Apple tarafında ise bazı yabancı medya kuruluşları, Siri için "Bobcat" kod adlı yeni bir AI işlevi geliştirdiğini ve yeni projenin teknik çerçevesinin "Siri Natural Language Generation" olarak adlandırıldığını ortaya çıkardı. kaçınılmaz.

Akıllı telefonlardaki sesli asistanlarda büyük modellerin potansiyeli herkes tarafından görülüyor.

Tüketiciler için, akıllı sesli asistanları büyük modellerle birleştirme mevcut durumlarından, büyük model yeteneklerinin entegrasyonunun, kullanıcıların sesli asistan kullanma alışkanlığındaki en büyük sorunlardan birini çözdüğünü açıkça görebiliriz; isteyerek yapılamaz.

Basitçe söylemek gerekirse, akıllı sesli asistanın eğlenceli ve yenilikten kullanımı kolay hale gelmesi ve hatta "alışılmış bir eylem" haline gelmesidir. Büyük model, akıllı sesli asistanın bizi gerçekten anlamasını ve anlamasını sağlıyor ve kullanım kolaylığındaki gelişme son derece önemli.

Bazı terminal üreticilerinin görüşüne göre, ChatGPT gibi büyük modellerin uygulanması daha çok yaratıcı metin yazarlığı, bilgi düzenleme, soru-cevap sohbeti, makale özetleme vb. odaklıdır, ancak sesli asistanların konumlandırılması "akıllı kişisel asistanlar", kişiselleştirilmiş danışmanlık hizmetleri sunarak günlük ofis işlerimizin verimliliğini artırmak için, akıllı sesli asistanların tüketim senaryolarında uygulanması daha kapsamlı olmalıdır.

Aynı zamanda, OpenAI'nin ChatGPT'si ve Google'ın Bard'ı gibi üretken yapay zeka sohbet botlarıyla karşılaştırıldığında, akıllı ses asistanları, sesli diyalog, grafik ve metin tanıma, hizmet önerileri ve cihaz ara bağlantı yönetimine kadar terminal üreticilerinin "sistem düzeyinde" yetenekleri haline gelecek.

İlgili AI uzmanları Zhishi'ye, sistem düzeyindeki yeteneklerin, sistem düzeyindeki girişin işletim sistemiyle daha yakından entegre olduğu anlamına geldiğini ve ekoloji ile ara bağlantının sistem ekolojisinin en alt katmanına da ulaştığını söyledi. ve deneyim en iyisi olabilir.Eh, bu ara bağlantı, ChatGPT ile Uygulama arasındaki bire bir SDK çağrısıyla kıyaslanabilir olmaktan çok uzak.

Ek olarak, ister Huawei, Xiaomi, Honor veya OV olsun, bu üreticiler şimdiden çok çeşitli IoT iş düzenlerini piyasaya sürdüler ve akıllı sesli asistanlar, akıllı cihazlarını birbirine bağlayan önemli AI hizmet portalları haline geldi. büyük modellerin yeteneklerinin tüm yazılım ve donanım ekosistemine yansıtılması, üreticiler için de çok önemlidir.

Büyük bir modeli cep telefonuna sığdırmak zor mu?

Akıllı sesli asistanlarda büyük modeller kullanmayı düşünmek hiç de zor değil ChatGPT'nin çıktığı ilk günden itibaren tüm sesli asistan firmaları bunu düşünmüştür.

Ama anahtar, buna nasıl ulaşılacağıdır. Maliyet getirdiği getiri ile orantılı mı? Yüz milyarlarca parametreli GPT-4 gibi büyük bir dil modeli, sadece birkaç watt güç tüketen bir cep telefonunda kullanılacak.Teknik zorluklar nasıl çözülür?

Bu sorularla ilgili olarak, yukarıda bahsedilen Huawei Xiaoyi örneğinde bazı cevaplar bulabiliriz.

Genel olarak konuşursak, akıllı sesli asistana büyük bir model uygulamak için en az iki şey yapılmalıdır: Birincisi, genel büyük modeli sesli asistanlara uygun bir sürüme optimize etmek. İşler yolunda gitti.

Pangu L0 büyük modelini temel alan Huawei örneğinden hareketle Huawei, olağan tüketici senaryolarında yer alan verilerde ince ayar yaptı ve optimize etti ve Xiaoyi'de kullanılan bir L1 katmanlı diyalog modeli oluşturdu.

Bu tüketici senaryoları için, üreticilerin karşılık gelen derlem verilerini oluşturması, sistemin anlayabileceği ve yürütebileceği model çıktıları tasarlaması ve aynı zamanda büyük modelin öğrenebilmesi için güvenilir yapılandırılmış ve yapılandırılmamış bilgileri büyük modele girmesi gerekir. , mantıksal ilişki.

ChatGPT, cep telefonunuzu kurmanıza veya evinizdeki çeşitli akıllı cihazları kontrol etmenize yardımcı olamaz, ancak sesli asistanların bu tür yeteneklere sahip olması gerekir ki bu da akıllı sesli asistanların çok önemli bir işlevidir.

Bu nedenle, üreticilerin ayrıca teknik optimizasyon yoluyla büyük model ile sistem arasında etkili analiz ve verimli bağlantı elde etmesi ve büyük modelin bu manipülasyon becerilerini öğrenebilmesi için önce büyük modeli karmaşık senaryolar için "eğitmesi ve öğrenmesi" ve son olarak da büyük modeli karmaşık senaryolar için "eğitmesi ve öğrenmesi" gerekir. büyük model çıkarım maliyeti ve çıkarım süresini karşılaştırın Gecikme sorunu çözüldü.

Büyük ölçekli bir model versiyonunu sesli asistanlara uygun hale getirmek yeterli değil, güç tüketimi ve bilgi işlem gücü sorunlarını çözmek için cihazların ve bulutların kombinasyonu da daha önemli.

Günümüzde, ChatGPT uygulamaları bulut bilgi işlem gücüne dayanmaktadır, ancak aslında sesli asistanlarda kullanıldıklarında, kullanıcıların kişisel bilgilerinin kullanılmasını ve işlenmesini içerirler; bu, kaçınılmaz olarak yerelleştirilmiş işlem gerektirir, ancak tamamen yerelleştirilmiş işlem, yetersiz güç tüketimi sorununu çözemez. ve bilgi işlem gücü.

Huawei, hem terminal tarafında hem de bulut tarafında farklı büyük ölçekli model versiyonları yaptı.Farklı görevlere göre, her iki taraf da ortaklaşa işliyor.

Bir mobil çip üreticisi olarak Qualcomm, daha önce "hibrit yapay zeka" konseptini tanıtmaya odaklanmıştı. Aslında bu, üretken yapay zekanın mobil tarafta uygulanmasının, cihaz tarafı ile bulut tarafının işbirliğini içermesi gerektiği anlamına geliyor. Sektördeki tüm tarafların eylemlerinden yola çıkarak, bu temelde sektörün fikir birliği haline geldi.

Elbette akıllı sesli asistanda büyük bir model kullanmak kesinlikle birkaç kelimeyle bahsettiğimiz kadar basit değil Arkasında birçok teknik ve endüstriyel zorluk var ve Huawei örneğinden biraz fikir edinebiliriz.

Ancak, zor olmasına rağmen, Huawei'nin bu konunun fizibilitesini henüz kanıtladığını ve akıllı sesli asistanlarda büyük modellerin uygulanmasının gerçekten de yeteneklerde pek çok "nitel değişiklik" getirebileceğini söyledikten sonra.

Büyük modellerin savaşı şiddetle geliyor ve veriler, bilgi işlem gücü ve yetenekler hala rekabetin temel odak noktası

Üretken yapay zeka binlerce sektörü kasıp kavuruyor ve büyük modellerin cep telefonu sektörü üzerindeki etkisi geniş kapsamlı olacak.

Tüketiciler için, cep telefonları daha "akıllı" ve daha "verimli" hale geldi. Nihayet ChatGPT'de bazı metin ve görüntü oluşturma özellikleri gibi sesli asistanlar tarafından gündelik konuşma dilinde sağlanan hizmetlerden yararlanabiliyoruz ve akıllı sesli asistanlar da ben akıllı sesli asistanlar için büyük modellerin kullanımının faydalı olacağını ve tüketiciler tarafından merakla beklendiğini öğrendik.

Üreticiler için, akıllı telefonların ve ilgili IoT cihazlarının büyük modellere dayalı üretken yapay zeka yetenekleri içermesi, gelecekteki gelişmeler için kaçınılmaz bir eğilimdir.Büyük modellerin bu işletmelere getirdiği değişiklikler önemli ve değerli olacaktır.

İster kendi başına büyük ölçekli modeller yapmak ister işbirliği yapmak olsun, her üreticinin bu büyük ölçekli model savaşına dikkat etmesi gerekiyor.

Elbette çeşitli akıllı telefon üreticileri için bu dalganın getirdiği zorluklar da aşikar.Bu savaşı gerçekten kazanmak için aşılması gereken birçok zorluk var.

Yapay zeka endüstrisindeki bazı kişiler, Zhishi'ye kendi büyük ölçekli modellerini oluşturmak isteyen üreticiler için veri birikimi, bilgi işlem gücü ve büyük ölçekli yüksek kaliteli veri toplama ve temizleme gibi yeteneklerin vazgeçilmez olduğunu söyledi. ve bilgi işlem gücü Sistem seviyesindeki zorlukların üstesinden nasıl gelinir , Maliyetin nasıl kontrol edilebilir hale getirileceğine dair eğitim. İşbirliği modelini benimseyen üreticiler için, daha iyi uç bulut işbirlikçi işlemenin nasıl sağlanacağı, maliyet ve faydaların nasıl dengeleneceği ve iş işbirliği modellerinin nasıl keşfedileceğiyle karşılaşacaklar.

Sonuç: AI modeli, cep telefonu üreticileri için zorlu bir savaş

Bugün gelinen noktada cep telefonu maket savaşı başladı.İlk hamleyi yapan üreticiler şimdiden kartlarını gösterdi, hamle yapmayan üreticiler de yapım aşamasında.Cep telefonu maket savaşı düşük akımdır.

Mevcut sesli asistanın büyük modelle birleştirilen başarılarına bakılırsa, AI büyük modelinin akıllı telefon deneyimini artıracağı açıktır. gelecekte cep telefonu üreticilerinin hatlarında yer alacak AI büyük model ister istemez takip teknolojisi sektörünün ana gelişme trendi haline gelecek ve aynı zamanda herkesin dikkat ettiği kilit teknoloji parkurlarından biri haline gelecek.

AI modeli, şüphesiz cep telefonu üreticileri için zorlu bir savaş, ancak endüstriyel yapıyı yıkan, hatta mevcut oynanışı alt üst eden çığır açan ürünleri veya teknolojileri kimin getireceği hala belirsiz.

Geleceğe bakıldığında, büyük modeller ve akıllı sesli asistanların birleşimi daha yakın olacak.Çeşitli teknoloji devlerinin takibi ile akıllı sesli asistanların "evrim" dalgası durdurulamaz olacak. Gelecekte ne gibi yeni uygulama senaryoları, yeni başvuru biçimleri ve işlevleri ortaya çıkacağı hayal gücüyle dolu.