Büyük modeller savaşında Huawei geçici olarak Apple'ın önünde

Orijinal kaynak: Box Rice Finance

Yazar: Zhao Jinjie

Görsel kaynağı: Unbounded AI‌ tarafından oluşturuldu

Birkaç aylık "tüm uygulamalar büyük bir modelle yeniden yapılmaya değerdir" rüzgarından sonra, tüm terminaller de rekabet güçlerini yeniden şekillendirmek için büyük modeli kullanmak istiyor.

Huawei, cep telefonu endüstrisinde büyük modellerin uygulanması için belirli bir zaman çizelgesi veren ilk üretici oldu. Son zamanlarda HarmonyOS 4.0'ın Pangu büyük ölçekli model yeteneğine erişmesiyle, Huawei cep telefonlarında yerleşik bir ses asistanı olan Xiaoyi, AI büyük ölçekli model yeteneklerine sahip ilk akıllı asistan oldu ve Ağustos sonunda teste açılacak .

Yukarıdaki gelişmeye göre yılın ikinci yarısında piyasaya sürülecek olan Huawei Mate 60 serisinin de büyük ölçekli model yetenekleriyle donatılacağı ve Apple'ın iPhone 15 serisi karşısında önemli bir satış noktası olması bekleniyor. **

**Büyük modelden önce, 5G çipi bir zamanlar dış dünya tarafından Huawei'nin yeni iPhone 15'e karşı gizli silahı olarak görülüyordu. **Çevrimiçi raporlara göre, Huawei'nin 5G cep telefonunun bu yıl Ekim ayında geri dönmesi bekleniyor. Ancak, beklenen büyük ölçekli model yetenekleriyle karşılaştırıldığında, Huawei'nin 5G cep telefonlarının lansman süresi hala birçok belirsizlikle karşı karşıya.

Şu anda Qualcomm ve MediaTek, Huawei'ye yonga seti satmak için ABD hükümetinin onayını henüz almadıklarını art arda açıkladılar. Huawei'nin 5G cep telefonunun geri döndüğü haberi gerçek olsa bile, rekabet gücü iyimser değil, çünkü tam bir yerelleştirme alternatifi elde etmek için SMIC ile işbirliği yapma olasılığı daha yüksek olacak ve fiyat, çip üretim sürecinin yalnızca ulaşabileceği en fazla 7nm seviyesinde.iPhone 15'teki 3nm ile karşılaştırıldığında, teknolojik yineleme açısından iki devir geride.

Geriye dönük 5G yongalarının mevcut durumuyla karşılaştırıldığında, Huawei aslında büyük modeller açısından Apple'ın önünde.

Apple CEO'su Cook, iPhone ve diğer donanımları şirketin AI teknolojisini sergilemesi için bir taşıyıcı olarak da görse ve yapay zekanın getirdiği büyük değişim dalgasını fark etse de Apple, büyük modellerin geliştirilmesi konusunda oldukça temkinli davranıyor. "Bunu çok bilinçli bir şekilde ürünlerimize işlemeye devam edeceğiz."

Bloomberg teknoloji muhabiri Mark Gurman'a göre Apple, yapay zeka ürünlerini dahili olarak sessizce geliştiriyor ve kendi büyük ölçekli model çerçevesi "Ajax"ı kurdu ve bunu haritalar ve Siri gibi ürün işlevlerine uygulamaya çalıştı. henüz tüketicilere "Apple GPT" bırakın.

**Geçtiğimiz on yılda, yerli cep telefonu üreticileri iki büyük ürün değişikliğine öncülük etti: 2016'da piyasaya sürülen tam ekran dalgası, iPhone'u Çin pazarında ilk beşin dışına ittiğinde; 2019'da piyasaya sürülen katlanır ekran dalgası, bunu başaramadı. henüz sarsılmış iPhone temelleri. **

**Ürün değişikliği için bir başka yeni fırsat olarak, büyük model yerli cep telefonu üreticilerinin yaygınlaşmasını teşvik eden bir "tam ekran anı" mı yoksa nişle sınırlı bir "katlanır ekran ikilemi" mi olacak? **

**Cep telefonuna giriş yapan ChatGPT ve Wenxin Yiyan gibi üçüncü taraf uygulamalarla karşılaştırıldığında, doğrudan cep telefonu sistemine yerleştirilmiş büyük ölçekli model ürünlerin en doğrudan avantajı, daha güçlü gizlilik ve güvenlik korumasıdır. **

Buluttaki verileri işleyen ChatGPT gibi uygulamalarla karşılaştırıldığında, akıllı terminallerin yerelleştirilmiş dağıtımı, kullanıcıların gizlilik sızıntısı konusundaki endişelerini büyük ölçüde ortadan kaldırabilir.

Bu yılın Mart ayında, ChatGPT, açık kaynak kitaplığındaki bir hata nedeniyle bir önbellek sorunu yaşadı ve bu, sonunda yüz milyonlarca ücretli ChatGPT kullanıcısının - ChatGPT Plus kullanıcılarının, adlar, e-posta adresleri ve kredi kartı numaraları Dört basamak ve kredi kartı son kullanma tarihi vb.

Bundan etkilenen ABD Federal Ticaret Komisyonu da Temmuz ayında OpenAI'nin tüketiciyi koruma yasalarını ihlal edip etmediğini araştırmaya başladı ve OpenAI'den kişisel verileri işlemesi, kullanıcılara yanlış bilgi verme olasılığı ve "tüketicilere zarar vermesi" hakkında bilgi vermesini istedi. (itibar zedelenmesi riski dahil) iyi bir şekilde belgelenmiştir.

**Bilgi sızıntısıyla ilgili endişeleri ortadan kaldırmak için cep telefonu terminalinin yerel olarak konuşlandırılmasının yardımıyla, kullanıcılar kendilerini daha rahat hissedebilir ve büyük modele daha fazla kişisel veriyi cesurca besleyebilir. Bu aynı zamanda cep telefonunun yerleşik büyük model ürününün ikinci avantajına da sahiptir, yani gerçekten kişiselleştirilmiş bir kişisel asistan yaratmaktır. **

**Ayrıca cep telefonu ile birlikte gelen büyük model ürünler ChatGPT'den daha stabil çalışma ortamına sahiptir. **

Bu yılın Nisan ayında, ChatGPT Plus ödeme için askıya alındı.OpenAI tarafından belirtilen sebep, "talep çok büyük" ve bu da bilgi işlem gücü kaynaklarında bir boşluğa neden oldu. Yerelleştirilmiş dağıtımın yardımıyla, cep telefonuyla birlikte gelen büyük model, bulut bilgi işlem kaynaklarına olan bağımlılığı büyük ölçüde azaltacak, böylece "kesinti" olaylarının oluşmasını önleyecek ve hatta ağ bağlantısı kesildiğinde çevrimdışı çalışabilir.

Sesli asistan, birçok cep telefonu üreticisinin büyük ölçekli modelleri hayata geçirmesi için öncelikli giriş haline geldi. Büyük model yeteneklerinin desteğiyle, sesli asistan, kullanıcıların otomatik olarak metin yazarlığı oluşturmasına, otomatik olarak yanıt e-postaları yazmasına, otomatik olarak makale özetleri oluşturmasına ve otomatik olarak çeviri yapmasına yardımcı olabilir...

Eklenti işlevlerinin yardımıyla bile, büyük model tarafından desteklenen sesli asistan, kullanıcıların bir seyahat planı yapmasına yardımcı olmak için mobilize edici harita uygulamaları, seyahat uygulamaları ve hava durumu uygulamaları vb. gibi uygulamalar arası işlev çağrılarını da tamamlayabilir. bir restoran ayırtın.

On yıldan daha uzun bir süre önce doğmuş bir dizi sesli asistanla karşılaştırıldığında, en büyük model, Siri'yi doğrudan 2.0 sürümüne götüren bir katalizör gibidir ve insan sesli asistanların defalarca "yapay zeka geriliği" olarak eleştirildiği sorunu çözmesi beklenir. ". **

ChatGPT çıktıktan sonra, Microsoft CEO'su Satya Nadella bir keresinde şikayet etti: "İster Cortana, Alexa, Google Asistan veya Siri olsun, bu sesli asistanlar bir kaya kadar aptal."

Basında çıkan haberlere göre, Apple mühendisleri büyük modeli Siri ile birleştirmeyi ve ayrıca daha akıllı bir Siri başlatmayı umuyor.

Yapay zeka uzmanı Dr. Ding Lei'ye göre önceki nesil sesli asistanların akıllı olmama sebeplerinden biri de arkalarındaki teknik sistemlerin farklı olması.

**Siri sürüm 1.0, karar verme yapay zekası olarak kabul edilebilir. Ana iş, mevcut verileri "etiketlemektir". **Farklı veri türleri arasında ayrım yapmak için ana görevler, "öyle olup olmadığına karar vermek" ve "ayırt etmektir" bu olsun ya da olmasın.” O” iş. Harici istek mevcut etiket kitaplığını aştığında, sesli asistan sohbete devam etmek için "Yanıt veremem" ve "Hala öğreniyorum" gibi aşağıdan yukarıya yanıtlar verir.

**Siri 2.0 sürümü, mevcut verileri özetleyip analiz ettikten sonra yeni içerik "oluşturacak", **"tek örnekten çıkarımlar yapma" etkisini gerçekleştirecek ve diyaloğu sürdürürken kullanıcının ilgi alanlarını dikkate alacak, üretken bir yapay zekadır. deneyim.

Cep telefonlarında büyük modelleri kaydeden tek üretici Huawei ve Apple değil.

Yerli cep telefonu üreticileri açısından Huawei'nin yanı sıra büyük modellere en çok önem veren Xiaomi. Xiaomi, bu yılın nisan ayında resmen 30'dan fazla kişiden oluşan büyük ölçekli bir model ekibi kurdu ve bu yılın üçüncü çeyreğinde ürünü piyasaya sürmesinin beklendiğini söyledi.

OPPO'nun, Ali'nin büyük modelini temel alan cep telefonları için büyük ölçekli model ürünler geliştirdiği ortaya çıktı. Honor CEO'su Zhao Ming de dış dünyaya sık sık, "Gelecekte cep telefonlarına büyük modelleri ilk tanıtan biz olacağız" dedi.

Cep telefonlarında büyük ölçekli ürünleri ilk taşıyan olmak için Samsung'un, cep telefonlarının varsayılan arama motorunu Google'dan Microsoft Bing'e değiştirmeyi planladığı ortaya çıktı.

Samsung'un kaçışını olabildiğince eski haline getirmek için Google, bir yandan mevcut arama motorunu yükseltmeye çalışarak büyük ölçekli model yetenekleri eklerken, diğer yandan büyük ölçekli model ürünlerini tabandan entegre etmeye başladı. sistem.

** Bu yılın Mayıs ayında, Google tarafından piyasaya sürülen yeni nesil büyük ölçekli model PaLM 2, minimum parametre düzeyinde bir Gecko çözümü içeriyordu. Google CEO'su Pichai'ye göre "Gecko" cep telefonlarında çalışabilecek ve hızı yeterince yüksek. **

Bu yılın ikinci yarısında, Google'ın yeni Pixel modelleri en son PaLM2 büyük ölçekli geko sürümünü içerecek. Pixel, Google'ın yeni Android özellikleriyle yaptığı deneylerde her zaman ön planda olmuştur. O dönemde yerli cep telefonu üreticileri ister kendi kendilerine büyük modeller geliştirme yeteneğine sahip olsunlar isterlerse, büyük modellerin sihirli gücünü doğrudan Google'ın Android sisteminden elde edebilecekler. **

Sistem geliştiricilerin çabalarına ek olarak, önde gelen çip üreticileri de cep telefonları için büyük modeller kullanmanın endişesini yaşıyor. **

** MediaTek, bu yıl Ekim ayında piyasaya sürülen Dimensity 9300'ün büyük ölçekli model çalışmasını desteklemesini bekliyor; Qualcomm, bu yıl içinde cep telefonlarında çalışacak 10 milyar parametreli üretken AI modellerini destekleyebileceğini söyledi. **

Qualcomm yöneticilerine göre, "10 milyar ila 15 milyar parametre düzeyine sahip bir model, üretken yapay zekanın kullanım durumlarının çoğunu kapsayabilir. Terminal zaten bu parametre düzeyini destekliyorsa, tüm hesaplamalar bulut olmadan terminalde gerçekleştirilebilir. işleniyor. .O zaman cep telefonu gerçek bir kişisel asistan olacak."

Buna ek olarak, Meta açık kaynaklı büyük model Llama 2'yi piyasaya sürdükten sonra Qualcomm, müşterilerin akıllı sanal asistanlar, üretkenlik uygulamaları, içerik oluşturma araçları ve Eğlence gibi durumları kullanın.

Bulut tabanlı bin kartın ve paralel küme sunucularının bilgi işlem gücüyle karşılaştırıldığında, akıllı telefonların yerelleştirilmiş dağıtımının avantajı, bilgi işlem gücünün genişlemesini kısıtlayan bir dezavantaj haline geldi.

Meta'nın açık kaynaklı Llama modelinin en küçük versiyonu da 7 milyar parametreye sahiptir.Akıllı telefonların mevcut konfigürasyonu ile mevcut hafızada hiç sorunsuz çalışamamaktadır.Cep telefonunun flash hafızasında sadece kısmen çalıştırılabilir, ancak bu ayrıca büyük modelin yavaş tepki hızına yol açar.

Daha önce, açık kaynak topluluğunda, bazı geliştiriciler Llama büyük modelini cep telefonuna taşıyordu, ancak geri bildirim bekleme süreci on dakika veya daha fazla sürüyordu.

** Geri bildirimin verimliliğini artırmak için, yongalar ve bellek gibi donanım yapılandırmalarını güçlendirmenin yanı sıra geliştirici, cep telefonundaki büyük model için budama, niceleme dahil ancak bunlarla sınırlı olmamak üzere bir zayıflama planı uygulamaya başladı. damıtma vb. Doğruluğu büyük ölçüde azaltma öncülü altında, cep telefonundaki büyük modelin gerektirdiği kaynakları ve enerji tüketimini azaltın: **Budama, yani modelde doğruluk üzerinde çok az etkisi olan parametrelerin kesilmesi ; muhakeme için daha düşük kesinlikteki veri türlerini kullanarak niceleme ; Damıtma, karmaşık bir modelden benzer ancak daha basit bir model çıkarmaktır.

Bununla birlikte, trilyonlarca parametreye sahip GPT-4 söz konusu olduğunda, büyük modelin saçmalıklarını hâlâ çözemeyen cep telefonunda, küçülmeden sonra doğruluğu aktif olarak azaltan büyük model için yanlış içerik üretiminin nasıl azaltılacağı ve parametre sayısı GPT-4'ün sadece %1'idir.Soru işareti koymak için.

Dr. Ding Lei, ChatGPT gibi büyük ölçekli model ürünler için, üretilen içerikte hala birçok hata ve belirsiz mantık olduğunu ve bazı senaryoların yürütme düzeyinde doğrudan uygulanamayacağını söyledi. **

Cep telefonu tarafındaki büyük model, kullanıcıların seyahat planları yapmasına veya restoran bilgilerini rezerve etmesine yardımcı oluyorsa, sık yapılan hatalar kaçınılmaz olarak kullanıcının kullanım sıklığını doğrudan etkileyecektir. Bu bağlamda, ChatGPT şimdiden geçmiş için bir ders niteliğindedir.

Altı aylık sürekli büyümenin ardından, üçüncü taraf web sitesiBenzerWeb'den alınan izleme verileri, bu yılın Haziran ayında ChatGPT'nin web sitesi ve mobil istemcilerinin küresel trafiğinin aylık bazda %9,7 azaldığını gösteriyor. 30 Kasım 2022'de kullanıma sunulduğundan bu yana trafikte olumsuz bir artış yaşandı.

Eski OpenAI bilimcisi Kenneth Stanley'nin görüşüne göre, mevcut büyük ölçekli model ürünler henüz iPhone anına evrilmedi. "Üretken yapay zeka kesinlikle dünyayı kasıp kavurdu ve bazı insanların onu her gün kullandığı doğru, ancak bence onu bireysel olarak nasıl kullanabileceğimizi keşfetme aşamasındayız. Hepimiz gerçekten güçlü bir yapay zeka bulursak." her zaman kullanmak için bir sebep ve bu iPhone anı olmalı."

Referanslar:

"Büyük model terminale gidiyor, peki ya çip?" 》Yarı İletken Endüstrisi Gözlemi

"Google'ın büyük AI planı: büyük modeli küçültün ve her ürünü yerleştirin" LatePost

"Qualcomm AI'dan sorumlu kişiyle yapılan röportaj: Bu yıl içinde cep telefonlarında çalışacak on milyarlarca parametreye sahip büyük ölçekli modellerin desteklenmesi bekleniyor" The Paper

"Büyük model" küçülüyor cep telefonu, sıradaki iPhone'a mı geliyor? 》Metaevrenin Patlaması

"OpenAI Bilim Adamlarıyla Diyalog: iPhone Zamanı Henüz Gelmedi" Economic Observer