Görüntü kaynağı: Sınırsız AI tarafından oluşturuldu
İş sisinde, görünüşte altın olan bu "fırsatlar" genellikle insanları tuzağa düşüren bir prangadır.
CNBC'nin son haberleri, küresel çip devi Qualcomm'un Kaliforniya'daki iki büyük üste yaklaşık 1.258 çalışanı işten çıkarmayı planladığını söyledi. Aslında, Qualcomm uzun zamandır bu "ölüm listesini" Kaliforniya istihdam departmanına gönderdi: San Diego'da 1.064 ve Santa Clara'da 194. Depremin 13 Aralık'ta patlak vermesi bekleniyor.
Qualcomm'un son çeyrek raporu bu "kan banyosuna" işaret etti. Finansal yapı açısından bakıldığında, cep telefonu çipleri Qualcomm'un ana gelir kaynağıdır ve yarısından fazlasını oluşturur, ancak gelir üçüncü çeyrekte yıllık bazda %21,6 düştü. Akıllı telefon pazarının doygunluğu, görünmez bir el gibi, yukarı akış tedarik zincirinin devlerini sessizce boğuyor.
Cep telefonu pazarının büyümesi artık esas olarak cihazın yükseltme döngüsüne bağlı. 2019'dan bu yana, 5G destekli telefon değiştirme patlaması yaklaşık dört yıldır devam ediyor. Ancak Counterpoint'te kıdemli bir analist olan Peter Richardson, soğuk bir gerçeği ortaya çıkardı: 2022 yılına kadar, küresel cep telefonu değiştirme döngüsü tarihteki en uzun 43 aya ulaştı.
Son beş yılda, cep telefonu endüstrisi, inovasyon yolunu izleyerek çıkmazı değiştirmek için mücadele etti. Ancak Apple gibi pazar liderleri bile etkileyici yeni özellikler bulmakta zorlanırken, diğer satıcılar pazardaki konumlarını korumak için mücadele ediyor. Giderek daha fazla tüketici, yeni bir cep telefonuna geçmenin değeri nedir diye sorgulamaya başlıyor.
Bazı endüstri uzmanları, asıl kırılma noktasının yazılımın arkasındaki güç, özellikle de yapay zeka alanındaki LLM ve Transformer gibi büyük modeller olabileceğine dikkat çekti.
Bu potansiyellerin nasıl en üst düzeye çıkarılacağı belirsiz olsa da, bu, yerli cep telefonu devlerinin kırılmaya çalışmasını engellemiyor. Huami OV ve diğerleri, gözlerini AI büyük modellerine diktiler ve yeni bir savaş alanı açmaya hevesliler.
01 Cep Telefonu Dev Savaş Büyük Model Arenası
** Bir süredir yerli cep telefonu üreticileri büyük modellerin ilgi odağını yakalamış görünüyor. **
14 Ağustos'ta Xiaomi yıllık basın toplantısında, Xiaomi AI büyük modeli tanıtıldı ve bir anda ilgi odağı oldu. C- ve CMMLU'nun iki büyük test platformunda, Çin'de sırasıyla onuncu ve birinciliği kazandı.
Lei Jun, Xiaomi'nin 1,3 milyar parametreli büyük modelinin cep telefonunda mükemmel bir şekilde çalıştığını ve gücünün bazı senaryolarda 6 milyar parametreli bulut modeliyle bile eşleşebileceğini güvenle duyurdu. Tanınmış Xiaoai sınıf arkadaşı, AI büyük modellerinin yeteneğini de güçlendirecek ve konferans gününde davet testi başladı.
Büyük yapay zeka modelini hedef alan kurt dumanı sadece Xiaomi'de yükselmiyor.
4 Ağustos'taki 2023 Huawei Geliştirici Konferansı gibi erken bir tarihte Yu Chengdong elini salladı ve HarmonyOS 4'ün "Pangu modelinin" nimetinden yararlanacağını duyurdu. Farklı olan, Huawei'nin daha yüksek bir entegrasyon seviyesi elde etmek için büyük modeli cep telefonu sistemine derinlemesine entegre etmeye karar vermesidir.
**Huami'nin ardından vivo ve OPPO, büyük modeller alanında iddialarını göstermeye devam ediyor. **
Geçtiğimiz günlerde OPPO, sektörde dikkat çeken yeni "Xiaobu Asistanı"nın halka açık ilk test turunu duyurdu. Bu ürün, AndesGPT büyük model teknolojisine dayanmaktadır.
AndesGPT modeli, OPPO'nun And Akıllı Bulut ekibine dayanan hibrit bulut mimarisine dayalı üst düzey bir üretken büyük dil modelidir. Kullanıcılar, Xiaobu sesli asistanını uyandırıp "Xiaobu Big Model" diyerek Xiaobu 1.0 genel beta kaydına katılabilirler. Daha fazla bilgi 16 Kasım ColorOS 14 lansmanında duyurulacak.
AndesGPT, emsallerinin tanıtımına benzer şekilde, resmi tanıtımında "Endüstri Lideri" unvanını da kazandı ve bu model birçok yetkili inceleme listesinde sıklıkla yer aldı.
Öte yandan vivo, yıllık geliştirici konferansını düzenlemek için 1 Kasım'ı kilitledi. Bu toplantı, vivo, AI büyük modeli ve yeni işletim sisteminin özel araştırma ve geliştirmesini ortaya çıkaracak; Ve merakla beklenen OriginOS 4 de ortaya çıkacak.
Özellikle ilginç olan, vivo tarafından oluşturulan AI büyük model matrisinin son derece zengin olması ve çeşitlendirilmiş temel uygulama senaryolarını karşılamayı amaçlayan milyar, on milyarlarca ve yüz milyarlarca olmak üzere toplam beş modeli kapsayan son derece zengin olmasıdır.
Benzer şekilde, hala perdenin arkasında olan bu ürün grubu, birçok yetkili incelemede ortaya çıkmıştır. En son veriler, vivo'nun kendi geliştirdiği AI büyük modelinin C ve CMMLU olmak üzere iki ana platformda ilk sırada yer aldığını gösteriyor.
Son zamanlarda, cep telefonu endüstrisi, büyük markaların birer birer yapay zeka modellerinin derin denizine daldığına tanık oldu. ** Borsadaki şiddetli rekabet, büyük üreticilerin üst düzey pazarda kendileri için daha rekabetçi bir imaj yaratmak için yeni teknolojileri kullanmayı ummalarına neden oluyor. **
Sektörde derin içgörülere sahip bir dizi kişi, yapay zeka işlevlerinin avantajlarını vurgulamanın büyük üreticilerin stratejisinin önemli bir parçası olduğuna inanıyor. Yalnızca kullanıcıların üst düzey ürünlere olan arzusunu teşvik etmekle kalmaz, aynı zamanda ürün fiyatlarını da yükselterek marka için daha kazançlı karlar yaratır.
Zaman geçtikçe, gerçek "AI cep telefonlarının" ilk dalgası ortaya çıkmak üzere ve önümüzdeki iki yıl, cep telefonlarında AI'da yenilik anı olacak.
02 Büyük modeller mobil cihazlar için yarışıyor ve yol yavaş yavaş birleşiyor
Cep telefonu üreticileri, büyük modelleri cep telefonlarında çalıştırmanın su içmek ve yemek yemek kadar kolay olduğunu tanıtımda gösterse de,** gerçek kullanımda, gizli zorluklar beklentileri çok aşıyor. **
Xiaomi Teknik Komitesi Yapay Zeka Laboratuvarı'nın büyük model ekibinin başkanı Luan Jian'a göre, bir cep telefonunda gerçekten büyük bir model çalıştırmak için, cep telefonu donanımı, özellikle işlemci ve bellek gereksinimleri asla düşük olmayacak.
Telefonun çalışma belleğini çok fazla kapladığında, diğer uygulamaların sınırlı olmasına neden olur ve hatta telefonun yanıt vermemesine, genel performansın keskin bir şekilde düşmesine veya en kötü durumda doğrudan çökmesine neden olabilir.
Ek olarak, bilgi işlem gücü de kararda önemli bir noktadır. Kullanıcı deneyimi için felaket olan bir karakter oluşturmak birkaç saniye sürer. İnsanların ortalama okuma hızının saniyede yaklaşık bir düzine Çince karakter olduğu düşünülürse, modelin "üretim hızı" bundan çok daha yüksek olmalıdır.
Güç tüketimi sorunu göz ardı edilemez. Birçok çevrimiçi model demosu genellikle bu kritik bağlantıyı gözden kaçırır. Yüksek yük altındaki bilgi işlem çipi, cep telefonunun hızla ısınmasına neden olur ve bu kadar uzun süre çalıştırılırsa, kaçınılmaz olarak pil ömrüne ciddi zararlar verir.
Özetle, büyük telefon modelinin asıl zorluğu, işlem hızı, ısı dağılımı ve pil ömrü arasında hassas bir dengenin nasıl bulunacağıdır. Bu nedenle, endüstrinin odak noktası da cihaz-bulut işbirliğidir. **
Kısa bir süre önce, MediaTek ve OPPO, büyük model teknolojisini tüketicilerin gerçek kullanımına daha yakın hale getirmeyi amaçlayan, uç taraftaki büyük modeller için ortaklaşa hafif bir dağıtım çözümü geliştirmek için bir anlaşmaya vardı.
18 Ekim'de MediaTek, yapay zeka alanında vivo ile derinlemesine iş birliği ve ortak hata ayıklama yaptığını da duyurdu ve cep telefonu tarafında 1 milyar ve 7 milyar yapay zeka büyük dil modelinin ve 1 milyar yapay zeka görsel modelinin inişini gerçekleştirerek tüketicilere ortaklaşa yenilikçi bir uç taraf üretken yapay zeka uygulamaları deneyimi sundu.
Uç taraf büyük modelin avantajı, kullanıcıların daha hızlı yanıt hızının keyfini çıkarabilmesi ve aynı zamanda verilerin daha güvenli olan buluta yüklenmesine gerek olmamasıdır. Şu anda, birçok ana akım üretici, uç tarafta büyük modeller çalıştırma hedefine ulaşmak için mobil terminallerde AI büyük modellerini dağıtmak için çözümler geliştiriyor.
**Ancak, mobilin tek başına tüm sorunları çözeceği varsayılamaz. **Xiaomi'nin açıkladığı gibi, cihazları ve bulutları birleştirme stratejisini izlemeye devam edecekler. Bazı işlevlerin veya yeteneklerin uç taraf modeli aracılığıyla uygulanabilmesi durumunda buluta aktarılması gerekmez.
Vivo'nun durumuna bakıldığında, kesin veri eksikliği olsa da, bulut ve şirket içi bir araya getiren büyük bir model stratejisi benimseyeceğini tahmin etmek mantıklı.
Büyük modelinin parametre büyüklüğünden, 66 milyar, 130 milyar ve 175 milyar bulut büyük modeli, daha karmaşık sorunlarla başa çıkmak için işlem gücü sağlamak üzere tasarlanmıştır. 1 milyar ve 7 milyar mertebesindeki yerel modeller, kullanıcı gizliliğini, enerji verimliliğini ve hızlı yanıtı sağlamak için tasarlanmıştır.
Bu, Vivo'nun birlikte çalışmak için bir cihaz-bulut yaklaşımı benimsemesinin muhtemel olduğu anlamına gelir, yani yerel olarak mı yoksa buluta mı geçeceğine karar vermek için sorunun karmaşıklığını değerlendirir.
Bulut ve yerel büyük modelleri birleştirmek, yalnızca maliyetlerden etkili bir şekilde tasarruf sağlamakla kalmaz, aynı zamanda kullanıcıların bilgi işlem gücü, performans, enerji tüketimi ve gizlilik koruması ihtiyaçlarını da karşılar ve bu, şüphesiz cep telefonlarını ve AI büyük modellerini entegre etmek için tercih edilen stratejilerden biridir.
03 Üreticiler de aynı şeyi yapıyor, bazı potansiyel zorluklar
Bazı endüstriler, cep telefonlarında büyük modeller çalıştırmaya yönelik mevcut girişimleri keskin bir kılıç olarak görüyor. Bununla birlikte, perde arkasına derinlemesine bakıldığında, gerçekten değişim aramaktan ziyade duruma cevap veren bir dar görüşlülük duygusunun ortaya çıkması kaçınılmazdır. **
Birincisi, "büyük model" tanımı hala belirsizdir. Örnek olarak Xiaomi'nin uç taraf modelini ele alalım, parametre sayısı 1,3 milyara ulaşıyor, bu da GPT2'nin 1,5B parametresinden pek farklı değil, ancak bu gerçekten ona "büyük model" unvanını vermek için yeterli mi?
Sektörde şüpheleri ortadan kaldıran birçok insan var: cep telefonu tarafında büyük modellerin uygulanması, teknolojinin gerçek sıçramasından ziyade, pazarın kısa vadeli patlamasını karşılamak içindir. Cep telefonları gerçekten büyük modelleri zahmetsizce kullanabiliyorsa, grafik devi NVIDIA'nın varlığının önemi nedir?
Ayrıca, büyük modelleri cep telefonlarına uyarlamak için üreticilerin budama, damıtma ve miktar belirleme gibi stratejilerle bunları büyük ölçüde sıkıştırması gerekiyor. Sürekli model kırpma ve damıtma yoluyla parametreleri 175 milyardan sadece 1 milyara düşürebilen vivo söz konusu olduğunda, bu işlemin çok uzak olup olmadığını düşünmeye değer.
Büyük bir modelin sadece parametre sayısının basit bir üst üste binmesi olmadığını, gerçek değerinin derin öğrenmedeki "derinlikte" yattığını kabul edin. Çok sayıda parametre, daha fazla bilgi, bilgi ve bağlamın yakalanması anlamına gelir.
Bu nedenle, yüz milyarlarca parametreye sahip bir model milyarlarca parametreye kesildiğinde, orijinal öğrenme derinliğinin bir kısmını kaybetmeye mahkumdur. Yapay zekanın günlük uygulamaları için etki önemli olmayabilir, ancak yapay zekadan derin içgörüler ve anlayış bekleyen üst düzey kullanıcılar için bu kayıp kabul edilemez.
**Xiaomi, uç taraf modelinin bulut modeliyle karşılaştırılabileceğini iddia etse bile, ayrıntılar göz ardı edilemez. **1,3 milyar parametreye sahip uç taraf modelini, yüz milyarlarca parametreye sahip bulut modeliyle karşılaştırmak doğal olarak zordur. Bu boşluğu telafi etmek için Xiaomi, uç taraf modelini belirli senaryolarda bulut modeliyle karşılaştırılabilir hale getirmeyi seçebilir, ancak tam olarak karşılaştırılamaz.
Bu seviyelerden, cep telefonlarında büyük modellerin mevcut uygulaması biraz "aşırı" görünüyor. Ortalama bir kullanıcı için, modelin parametrelerinin sayısını gerçekten umursamazlar, ancak kendilerine ne gibi bir değer getirebileceğini daha çok önemserler. Vivo ve Xiaomi'nin bu girişimleri cesaret verici olsa da, gerçek amaçları ve önemleri üzerinde de düşünmelidirler.
Dahası, birçok cep telefonu üreticisi AI büyük modellerinin uygulanmasını aktif olarak araştırıyor olsa da, gelecekteki yol hala bilinmeyenlerle dolu. **Cep telefonu pazarında, bir sonraki "katil" uygulamanın ne olduğu zamanla ortaya çıkacak. **
Şu anda, cep telefonu üreticilerinin AI büyük modellerine özel uygulaması, "sesli asistanlara" çok fazla odaklanmış görünüyor. Bu tek yönlü arayış, kullanıcıların gerçek ihtiyaçlarını gerçekten göz önünde bulundurmak yerine, yalnızca bilim ve teknolojinin sıcak trendine mi hitap ediyor?
vivo'nun yeni AI modelinin tanınmış blog yazarları tarafından yakın zamanda paylaşılmasını örnek olarak alırsak, OriginOS 4'te yeni bir görünümle tanıtılmış olmasına rağmen, çekirdek mevcut sesli asistana kıyasla çok yıkıcı değil.
Kısacası, yapay zeka modellerinin cep telefonlarında gerçek anlamda benimsenmesi hala bocalıyor. Bugünün çabaları buzdağının sadece ilk yolculuğu.
Kaynaklar:
Tencent Technology-Xiaomi'nin büyük model "hırsı" son taraftan başlıyor
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Telefonunuza büyük modeller koymayın
Orijinal kaynak: Bilim ve Teknoloji Haberleri
Yazar: Zhangdao
İş sisinde, görünüşte altın olan bu "fırsatlar" genellikle insanları tuzağa düşüren bir prangadır.
CNBC'nin son haberleri, küresel çip devi Qualcomm'un Kaliforniya'daki iki büyük üste yaklaşık 1.258 çalışanı işten çıkarmayı planladığını söyledi. Aslında, Qualcomm uzun zamandır bu "ölüm listesini" Kaliforniya istihdam departmanına gönderdi: San Diego'da 1.064 ve Santa Clara'da 194. Depremin 13 Aralık'ta patlak vermesi bekleniyor.
Qualcomm'un son çeyrek raporu bu "kan banyosuna" işaret etti. Finansal yapı açısından bakıldığında, cep telefonu çipleri Qualcomm'un ana gelir kaynağıdır ve yarısından fazlasını oluşturur, ancak gelir üçüncü çeyrekte yıllık bazda %21,6 düştü. Akıllı telefon pazarının doygunluğu, görünmez bir el gibi, yukarı akış tedarik zincirinin devlerini sessizce boğuyor.
Cep telefonu pazarının büyümesi artık esas olarak cihazın yükseltme döngüsüne bağlı. 2019'dan bu yana, 5G destekli telefon değiştirme patlaması yaklaşık dört yıldır devam ediyor. Ancak Counterpoint'te kıdemli bir analist olan Peter Richardson, soğuk bir gerçeği ortaya çıkardı: 2022 yılına kadar, küresel cep telefonu değiştirme döngüsü tarihteki en uzun 43 aya ulaştı.
Son beş yılda, cep telefonu endüstrisi, inovasyon yolunu izleyerek çıkmazı değiştirmek için mücadele etti. Ancak Apple gibi pazar liderleri bile etkileyici yeni özellikler bulmakta zorlanırken, diğer satıcılar pazardaki konumlarını korumak için mücadele ediyor. Giderek daha fazla tüketici, yeni bir cep telefonuna geçmenin değeri nedir diye sorgulamaya başlıyor.
Bazı endüstri uzmanları, asıl kırılma noktasının yazılımın arkasındaki güç, özellikle de yapay zeka alanındaki LLM ve Transformer gibi büyük modeller olabileceğine dikkat çekti.
Bu potansiyellerin nasıl en üst düzeye çıkarılacağı belirsiz olsa da, bu, yerli cep telefonu devlerinin kırılmaya çalışmasını engellemiyor. Huami OV ve diğerleri, gözlerini AI büyük modellerine diktiler ve yeni bir savaş alanı açmaya hevesliler.
01 Cep Telefonu Dev Savaş Büyük Model Arenası
** Bir süredir yerli cep telefonu üreticileri büyük modellerin ilgi odağını yakalamış görünüyor. **
14 Ağustos'ta Xiaomi yıllık basın toplantısında, Xiaomi AI büyük modeli tanıtıldı ve bir anda ilgi odağı oldu. C- ve CMMLU'nun iki büyük test platformunda, Çin'de sırasıyla onuncu ve birinciliği kazandı.
Lei Jun, Xiaomi'nin 1,3 milyar parametreli büyük modelinin cep telefonunda mükemmel bir şekilde çalıştığını ve gücünün bazı senaryolarda 6 milyar parametreli bulut modeliyle bile eşleşebileceğini güvenle duyurdu. Tanınmış Xiaoai sınıf arkadaşı, AI büyük modellerinin yeteneğini de güçlendirecek ve konferans gününde davet testi başladı.
Büyük yapay zeka modelini hedef alan kurt dumanı sadece Xiaomi'de yükselmiyor.
4 Ağustos'taki 2023 Huawei Geliştirici Konferansı gibi erken bir tarihte Yu Chengdong elini salladı ve HarmonyOS 4'ün "Pangu modelinin" nimetinden yararlanacağını duyurdu. Farklı olan, Huawei'nin daha yüksek bir entegrasyon seviyesi elde etmek için büyük modeli cep telefonu sistemine derinlemesine entegre etmeye karar vermesidir.
**Huami'nin ardından vivo ve OPPO, büyük modeller alanında iddialarını göstermeye devam ediyor. **
Geçtiğimiz günlerde OPPO, sektörde dikkat çeken yeni "Xiaobu Asistanı"nın halka açık ilk test turunu duyurdu. Bu ürün, AndesGPT büyük model teknolojisine dayanmaktadır.
AndesGPT modeli, OPPO'nun And Akıllı Bulut ekibine dayanan hibrit bulut mimarisine dayalı üst düzey bir üretken büyük dil modelidir. Kullanıcılar, Xiaobu sesli asistanını uyandırıp "Xiaobu Big Model" diyerek Xiaobu 1.0 genel beta kaydına katılabilirler. Daha fazla bilgi 16 Kasım ColorOS 14 lansmanında duyurulacak.
AndesGPT, emsallerinin tanıtımına benzer şekilde, resmi tanıtımında "Endüstri Lideri" unvanını da kazandı ve bu model birçok yetkili inceleme listesinde sıklıkla yer aldı.
Öte yandan vivo, yıllık geliştirici konferansını düzenlemek için 1 Kasım'ı kilitledi. Bu toplantı, vivo, AI büyük modeli ve yeni işletim sisteminin özel araştırma ve geliştirmesini ortaya çıkaracak; Ve merakla beklenen OriginOS 4 de ortaya çıkacak.
Özellikle ilginç olan, vivo tarafından oluşturulan AI büyük model matrisinin son derece zengin olması ve çeşitlendirilmiş temel uygulama senaryolarını karşılamayı amaçlayan milyar, on milyarlarca ve yüz milyarlarca olmak üzere toplam beş modeli kapsayan son derece zengin olmasıdır.
Benzer şekilde, hala perdenin arkasında olan bu ürün grubu, birçok yetkili incelemede ortaya çıkmıştır. En son veriler, vivo'nun kendi geliştirdiği AI büyük modelinin C ve CMMLU olmak üzere iki ana platformda ilk sırada yer aldığını gösteriyor.
Sektörde derin içgörülere sahip bir dizi kişi, yapay zeka işlevlerinin avantajlarını vurgulamanın büyük üreticilerin stratejisinin önemli bir parçası olduğuna inanıyor. Yalnızca kullanıcıların üst düzey ürünlere olan arzusunu teşvik etmekle kalmaz, aynı zamanda ürün fiyatlarını da yükselterek marka için daha kazançlı karlar yaratır.
Zaman geçtikçe, gerçek "AI cep telefonlarının" ilk dalgası ortaya çıkmak üzere ve önümüzdeki iki yıl, cep telefonlarında AI'da yenilik anı olacak.
02 Büyük modeller mobil cihazlar için yarışıyor ve yol yavaş yavaş birleşiyor
Cep telefonu üreticileri, büyük modelleri cep telefonlarında çalıştırmanın su içmek ve yemek yemek kadar kolay olduğunu tanıtımda gösterse de,** gerçek kullanımda, gizli zorluklar beklentileri çok aşıyor. **
Xiaomi Teknik Komitesi Yapay Zeka Laboratuvarı'nın büyük model ekibinin başkanı Luan Jian'a göre, bir cep telefonunda gerçekten büyük bir model çalıştırmak için, cep telefonu donanımı, özellikle işlemci ve bellek gereksinimleri asla düşük olmayacak.
Telefonun çalışma belleğini çok fazla kapladığında, diğer uygulamaların sınırlı olmasına neden olur ve hatta telefonun yanıt vermemesine, genel performansın keskin bir şekilde düşmesine veya en kötü durumda doğrudan çökmesine neden olabilir.
Ek olarak, bilgi işlem gücü de kararda önemli bir noktadır. Kullanıcı deneyimi için felaket olan bir karakter oluşturmak birkaç saniye sürer. İnsanların ortalama okuma hızının saniyede yaklaşık bir düzine Çince karakter olduğu düşünülürse, modelin "üretim hızı" bundan çok daha yüksek olmalıdır.
Güç tüketimi sorunu göz ardı edilemez. Birçok çevrimiçi model demosu genellikle bu kritik bağlantıyı gözden kaçırır. Yüksek yük altındaki bilgi işlem çipi, cep telefonunun hızla ısınmasına neden olur ve bu kadar uzun süre çalıştırılırsa, kaçınılmaz olarak pil ömrüne ciddi zararlar verir.
Özetle, büyük telefon modelinin asıl zorluğu, işlem hızı, ısı dağılımı ve pil ömrü arasında hassas bir dengenin nasıl bulunacağıdır. Bu nedenle, endüstrinin odak noktası da cihaz-bulut işbirliğidir. **
18 Ekim'de MediaTek, yapay zeka alanında vivo ile derinlemesine iş birliği ve ortak hata ayıklama yaptığını da duyurdu ve cep telefonu tarafında 1 milyar ve 7 milyar yapay zeka büyük dil modelinin ve 1 milyar yapay zeka görsel modelinin inişini gerçekleştirerek tüketicilere ortaklaşa yenilikçi bir uç taraf üretken yapay zeka uygulamaları deneyimi sundu.
Uç taraf büyük modelin avantajı, kullanıcıların daha hızlı yanıt hızının keyfini çıkarabilmesi ve aynı zamanda verilerin daha güvenli olan buluta yüklenmesine gerek olmamasıdır. Şu anda, birçok ana akım üretici, uç tarafta büyük modeller çalıştırma hedefine ulaşmak için mobil terminallerde AI büyük modellerini dağıtmak için çözümler geliştiriyor.
**Ancak, mobilin tek başına tüm sorunları çözeceği varsayılamaz. **Xiaomi'nin açıkladığı gibi, cihazları ve bulutları birleştirme stratejisini izlemeye devam edecekler. Bazı işlevlerin veya yeteneklerin uç taraf modeli aracılığıyla uygulanabilmesi durumunda buluta aktarılması gerekmez.
Vivo'nun durumuna bakıldığında, kesin veri eksikliği olsa da, bulut ve şirket içi bir araya getiren büyük bir model stratejisi benimseyeceğini tahmin etmek mantıklı.
Büyük modelinin parametre büyüklüğünden, 66 milyar, 130 milyar ve 175 milyar bulut büyük modeli, daha karmaşık sorunlarla başa çıkmak için işlem gücü sağlamak üzere tasarlanmıştır. 1 milyar ve 7 milyar mertebesindeki yerel modeller, kullanıcı gizliliğini, enerji verimliliğini ve hızlı yanıtı sağlamak için tasarlanmıştır.
Bu, Vivo'nun birlikte çalışmak için bir cihaz-bulut yaklaşımı benimsemesinin muhtemel olduğu anlamına gelir, yani yerel olarak mı yoksa buluta mı geçeceğine karar vermek için sorunun karmaşıklığını değerlendirir.
Bulut ve yerel büyük modelleri birleştirmek, yalnızca maliyetlerden etkili bir şekilde tasarruf sağlamakla kalmaz, aynı zamanda kullanıcıların bilgi işlem gücü, performans, enerji tüketimi ve gizlilik koruması ihtiyaçlarını da karşılar ve bu, şüphesiz cep telefonlarını ve AI büyük modellerini entegre etmek için tercih edilen stratejilerden biridir.
03 Üreticiler de aynı şeyi yapıyor, bazı potansiyel zorluklar
Bazı endüstriler, cep telefonlarında büyük modeller çalıştırmaya yönelik mevcut girişimleri keskin bir kılıç olarak görüyor. Bununla birlikte, perde arkasına derinlemesine bakıldığında, gerçekten değişim aramaktan ziyade duruma cevap veren bir dar görüşlülük duygusunun ortaya çıkması kaçınılmazdır. **
Birincisi, "büyük model" tanımı hala belirsizdir. Örnek olarak Xiaomi'nin uç taraf modelini ele alalım, parametre sayısı 1,3 milyara ulaşıyor, bu da GPT2'nin 1,5B parametresinden pek farklı değil, ancak bu gerçekten ona "büyük model" unvanını vermek için yeterli mi?
Sektörde şüpheleri ortadan kaldıran birçok insan var: cep telefonu tarafında büyük modellerin uygulanması, teknolojinin gerçek sıçramasından ziyade, pazarın kısa vadeli patlamasını karşılamak içindir. Cep telefonları gerçekten büyük modelleri zahmetsizce kullanabiliyorsa, grafik devi NVIDIA'nın varlığının önemi nedir?
Ayrıca, büyük modelleri cep telefonlarına uyarlamak için üreticilerin budama, damıtma ve miktar belirleme gibi stratejilerle bunları büyük ölçüde sıkıştırması gerekiyor. Sürekli model kırpma ve damıtma yoluyla parametreleri 175 milyardan sadece 1 milyara düşürebilen vivo söz konusu olduğunda, bu işlemin çok uzak olup olmadığını düşünmeye değer.
Büyük bir modelin sadece parametre sayısının basit bir üst üste binmesi olmadığını, gerçek değerinin derin öğrenmedeki "derinlikte" yattığını kabul edin. Çok sayıda parametre, daha fazla bilgi, bilgi ve bağlamın yakalanması anlamına gelir.
Bu nedenle, yüz milyarlarca parametreye sahip bir model milyarlarca parametreye kesildiğinde, orijinal öğrenme derinliğinin bir kısmını kaybetmeye mahkumdur. Yapay zekanın günlük uygulamaları için etki önemli olmayabilir, ancak yapay zekadan derin içgörüler ve anlayış bekleyen üst düzey kullanıcılar için bu kayıp kabul edilemez.
Bu seviyelerden, cep telefonlarında büyük modellerin mevcut uygulaması biraz "aşırı" görünüyor. Ortalama bir kullanıcı için, modelin parametrelerinin sayısını gerçekten umursamazlar, ancak kendilerine ne gibi bir değer getirebileceğini daha çok önemserler. Vivo ve Xiaomi'nin bu girişimleri cesaret verici olsa da, gerçek amaçları ve önemleri üzerinde de düşünmelidirler.
Dahası, birçok cep telefonu üreticisi AI büyük modellerinin uygulanmasını aktif olarak araştırıyor olsa da, gelecekteki yol hala bilinmeyenlerle dolu. **Cep telefonu pazarında, bir sonraki "katil" uygulamanın ne olduğu zamanla ortaya çıkacak. **
Şu anda, cep telefonu üreticilerinin AI büyük modellerine özel uygulaması, "sesli asistanlara" çok fazla odaklanmış görünüyor. Bu tek yönlü arayış, kullanıcıların gerçek ihtiyaçlarını gerçekten göz önünde bulundurmak yerine, yalnızca bilim ve teknolojinin sıcak trendine mi hitap ediyor?
vivo'nun yeni AI modelinin tanınmış blog yazarları tarafından yakın zamanda paylaşılmasını örnek olarak alırsak, OriginOS 4'te yeni bir görünümle tanıtılmış olmasına rağmen, çekirdek mevcut sesli asistana kıyasla çok yıkıcı değil.
Kısacası, yapay zeka modellerinin cep telefonlarında gerçek anlamda benimsenmesi hala bocalıyor. Bugünün çabaları buzdağının sadece ilk yolculuğu.
Kaynaklar:
Tencent Technology-Xiaomi'nin büyük model "hırsı" son taraftan başlıyor