Görüntü kaynağı: Sınırsız AI tarafından oluşturuldu
21 Mart 2023'te NVIDIA'nın yıllık gişe rekorları kıran teknoloji konferansı GTC'de NVIDIA CEO'su Jensen Huang tüm teknoloji endüstrisine şunları duyurdu: Büyük dil modeli ChatGPT'nin tüm dünyada popüler olmasıyla birlikte yeni bir bilgi işlem platformu icat edildi ve yapay zekanın iPhone anı başladı.
Sonuç olarak, "AI'nın iPhone anı" sektörde sıcak bir kelime haline gelirken, aynı zamanda istemeden de olsa büyük dil modelleri (daha sonra "büyük modeller" olarak bilinir) tarafından tetiklenen bu AI devrimi turunun iPhone tarafından temsil edilen akıllı telefon endüstrisi ile yakından ilişkili olduğunu gösteriyor.
Aslında, akıllı telefon endüstrisinin büyük modelleri benimsemesi ve uygulaması baş döndürücü derecede hızlı.
Geçen yıl, Huawei, Xiaomi, OPPO, vivo ve Honor dahil olmak üzere Çinli akıllı telefon endüstrisi katılımcıları, yüksek profilli büyük modele art arda girdiler - Apple girişini resmi olarak açıklamamış olsa da, sektörde Apple'ın "Apple GPT" düzeni ve büyük modeller hakkında birçok haber var.
Öyleyse soru şu: cep telefonu üreticileri büyük modeller düzenliyor, bu bir hile mi?
**Huawei bir adım önde, neden? **
Büyük modeller ve akıllı telefonlar arasındaki ilk uygulama düzeyindeki ilişki, aslında Huawei'nin Mart 2023'teki bahar amiral gemisi yeni ürün lansmanındaydı.
Bu konferansta, Huawei'nin Tüketici İş Birimi İcra Direktörü ve CEO'su Yu Chengdong, kullanıcılar için çok modlu büyük model teknolojisine dayanan, bulutta eğitim veren ve ardından modeli cep telefonunda minyatürleştiren yeni bir "Akıllı Arama" işlevi yayınladı.
Basitçe söylemek gerekirse, kullanıcılar Xiaoyi'yi bir insan gibi sesle uyandırabilir ve cep telefonu galerisinde "dağın tepesinden güneşin doğuşunu izlemek", "ocağın etrafında çay yapmak", "mavi mercandaki palyaço balığı" gibi açıklamalarla eşleşen fotoğrafları aramak için doğal dili kullanabilir.
Fotoğraf arama için etiketleri kullanan geleneksel fotoğraf galerisi ile karşılaştırıldığında, düşük doğruluk ve yavaş yanıt hızı gibi sorunlar vardır ve akıllı arama daha "akıllıdır". Çok modlu büyük modelle birlikte akıllı arama, yüz milyonlarca grafik verisini önceden eğitir, genelleştirilmiş genel anlambilimin anlaşılmasını artırır, renk, şekil, nesne, davranış, zaman ve yer gibi birden çok bilgi kombinasyonunu içeren doğal dil aramasını destekler ve uç taraf hafif uygulamaları gerçekleştirir.
Kullanıcıların "akıllı arama" kullanma sürecinde, tüketici gizliliğini ve güvenliğini daha da koruyan son tarafta ilgili verilerin işlendiğini belirtmekte fayda var.
Peki, Huawei neden akıllı telefonları güçlendirmek için çok modlu büyük model teknolojisini kullanma konusunda öncülük edebiliyor?
Cevap basit: düzen erken.
Aslında, Nisan 2021'in sonlarında, HDC.Cloud 2021 Huawei Geliştirici Konferansı'nda, o zamanlar Huawei Cloud CEO'su olan Yu Chengdong, ön eğitime ve az sayıda endüstri uyarlamasına ve ince ayar geliştirme modeline dayanan ve dünyanın önde gelen yapay zekasının binlerce sektöre gerçekten girmesine olanak tanıyan, satış rekorları kıran bir ürün olan Huawei Cloud Pangu Modeli'ni piyasaya sürdü**.
Spesifik olarak, bu sefer piyasaya sürülen Pangu büyük modeli, Pangu NLP büyük modeli, CV büyük modeli, çok modlu büyük modeli ve bilimsel hesaplama büyük modelini içerir. Bunlar arasında, Pangu NLP büyük modeli, endüstrinin ilk 100 milyar seviyeli neslidir ve Çin NLP büyük modelini anlıyor ve Pangu CV büyük modeli, aynı zamanda 3 milyar parametreyi destekleyen endüstrinin en büyük bilgisayarla görme büyük modelidir; Çok modlu büyük model, modlar arası arama, genişletilmiş mod oluşturma ve grafik konuşmayı içerir.
Bu nedenle, 2020'den beri Huawei, birkaç yıldır büyük modeller alanını ortaya koyuyor ve sürekli gelişiyor; 2023'te ChatGPT'nin patlak vermesiyle birlikte akıllı telefonlar, Huawei'nin büyük model yeteneklerinin uç tarafa konuşlandırılması için de bir uygulama senaryosu haline geldi.
Ağustos 2023'ün başlarındaki HDC 2023 Huawei Geliştirici Konferansı'nda Yu Chengdong, büyük yapay zeka modelleri çağında Pangu büyük modellerinin Hongmeng ekosistemine yardımcı olacağını söyledi.
Özellikle, Pangu Doğal Dil Büyük Modeli, Pangu Vision Büyük Model ve Pangu Multimodal Büyük Modeli'nin yardımıyla, Harmony 4.0 sistemi, akıllı terminallerin etkileşimli dönüşümünü, üretkenlik verimliliği değişimini ve kişiselleştirilmiş hizmet dönüşümünü teşvik etmek için bilgi edinme, mantıksal akıl yürütme, görev planlama, bellek genişletme, araç çağrısı ve üretim yardımı vb. dahil olmak üzere yeni bir "küçük sanat" başlatacaktır.
HarmonyOS 4.0'ın resmi olarak piyasaya sürülmesinden kısa bir süre sonra hala kullanıcılara sunulduğu belirtilmelidir - sadece bu da değil, Huawei'nin 25 Eylül'de düzenlenen sonbahar tüm senaryo yeni ürün konferansında, Yu Chengdong'un yerinde yaptığı duyuruya göre, Hongmeng 4.0, büyük modellerin kutsamasıyla, piyasaya sürülmesinden bir aydan fazla bir süre sonra 60 milyondan fazla yükseltilmiş kullanıcıya sahip.
Yani, şu anda Huawei, akıllı telefon terminalleri için büyük modellerin dağıtım sürecinde gerçek bir önleyicidir.
**Xiaomi OV Honor da oyunda, güvenilir mi? **
Huawei'nin yanı sıra Xiaomi, OPPO, vivo ve Honor gibi yerli cep telefonu üreticileri de büyük modelleri hedefliyor.
Bu yılın Haziran ayının sonunda, 2023 MWC Şanghay Mobil İletişim Konferansı'nda Honor CEO'su Zhao Ming, yalnızca kullanıcılara ait kişisel yapay zeka oluşturmak için yapay zeka büyük modellerini cihaz tarafına tanıtmada öncülük edeceğini söyledi. Ayrıca, "büyük modelin düşünme sınırlarımızın çoğunu yıktığını ve şimdiye kadar gördüğümüz en iyi yapay zeka yorumu olduğunu" vurguladı.
O zamanlar, Honor'un amiral gemisi cep telefonu Magic V2 piyasaya sürülmek üzereydi, bu nedenle bazı dış sesler, dış dünyanın dikkatini çeken "dünyanın ilk AI büyük model yerli cep telefonu" olacağını söyledi - ancak daha sonraki durumdan, Honor Magic V2 henüz büyük modelle ilişkilendirilmedi, ancak Ağustos sonunda "MagicGPT" ticari markası için başvurdu.
Honor ile karşılaştırıldığında, Xiaomi'nin büyük modeller alanındaki dağıtımı sıradan kullanıcılardan uzak değil.
Bu yılın Ağustos ayında, Lei Jun'un 2023 yıllık konuşmasında Lei Jun, Xiaomi'nin büyük modelleri tamamen benimsediğini ve bu yıl Nisan ayında bir Xiaomi AI büyük model ekibi kurduğunu söyledi - ekibin liderinin, Xiaomi Teknik Komitesi'nin AI Laboratuvarı'nın büyük model ekibinin başkanı Luan Jian olduğu anlaşılıyor.
Konuşmada Lei Jun, Xiaomi'nin büyük model teknolojisinin ana atılım yönünün "hafif" ve "yerel dağıtım" olduğunu ve şu anda Xiaomi'nin kendi geliştirdiği 1,3 milyar parametreli uç taraf modelinin cep telefonundaki demodan geçtiğini ve bazı sahne efektlerinin buluttaki 6 milyar modelin bilgi işlem etkisiyle karşılaştırılabileceğini söyledi.
İlginç bir şekilde, Lei Jun, büyük modellerin ortaya konması sürecinde, veri düzeyinde, Xiaomi'nin kendi eğitim verilerinin% 80'ini oluşturduğunu ve bunun Xiaomi'nin kendi ürünlerinin ve iş verilerinin 3 TB'a ulaştığını vurguladı.
Ek olarak, kullanıcı gizliliğini korumak için Xiaomi, modeli uç tarafa da dağıtır, bilgilerin buluta yüklenmesine gerek yoktur ve tüm hesaplamalar yerel olarak gerçekleştirilir, bu da temelde kullanıcı gizliliğinin sızdırılmamasını sağlayabilir. Cihaz-bulut entegrasyonu hizmet çerçevesinde bile, gizlilik bilgileri cihaz tarafında saklanacak ve bunları içeren hesaplamalar mümkün olduğunca uç tarafta tamamlanacaktır. Bulutun yetenekleri zaman zaman gerekli olsa bile, bilgiler işlenir ve şifrelenir.
Sonuç açısından, Xiaomi'nin büyük modelinin iniş gemisi "Xiaoai sınıf arkadaşı" dır. Büyük modellerin güçlendirilmesinden sonra, Xiaoai'nin insan-bilgisayar etkileşim formu, bağlamın derinlemesine anlaşılması, çeviri yeteneği, süper soru ve cevap, üretken sonuçlar ve karmaşık görevlerin tamamlanması dahil olmak üzere bir dizi genel bilgi yeteneği eklemek için yükseltilecektir.
Ağustos ayından bu yana Xiaomi, "Küçük Aşk Sınıf Arkadaşı Büyük Model" in dahili testini açtı ve inişi hemen köşede.
Honor ve Xiaomi dışında, OPPO ve Vivo'nun büyük modeller açısından eylemleri geride kalmadı.
Özellikle, 11 Ekim'de OPPO, hafif bir büyük model uç taraf dağıtım çözümü oluşturmak için MediaTek ile işbirliği yapacağını ve 4 bit niceleme teknolojisini kullanarak, doğruluğu düşürmeden daha iyi yan yana performans elde edeceğini duyurdu ve ortaklaşa kendi geliştirdiği AndesGPT büyük dil modelinin ve çok modlu büyük modelinin uç tarafa kademeli olarak inişini teşvik edin.
Şu anda, kendi kendini eğitmiş And büyük modeline (AndesGPT) dayalı yeni Xiaobu Assistant 1.0 Beta deneyimi resmi olarak açıldı ve yükseltilmiş Xiaobu Assistant, AI büyük model yeteneklerine sahip olacak.
Buna ek olarak, 16 Ekim'de vivo, 4 Kasım'da düzenlenen 2023 vivo geliştirici konferansında yeni bir mobil işletim sistemi olan OriginOS 1'ü piyasaya süreceğini ve vivo'nun kendi geliştirdiği AI büyük modeliyle donatılan ilk işletim sistemi olduğunu duyurdu - vivo ayrıca kendi geliştirdiği AI büyük modelinin daha akıllı bir asistan görüntüsüyle hizmet yeteneklerini yayınlayacağını ve küçük V asistanını daha geniş akıllı hizmet yetenekleri elde etmesi için güçlendireceğini ve böylece öğrenme, yaşam, iş ve diğer senaryolarda yıkıcı yenilikler getireceğini söyledi.
Genel olarak, neredeyse tüm ana akım cep telefonu oyuncuları zaten büyük modelin ana savaş alanını kapıyor ve bir sonraki adım parlak kılıçlarla savaşmak.
** Büyük model, nasıl inilir? **
Cep telefonu üreticilerinin büyük modelleri benimsemesi durumunda, düşünülmesi gereken gerçek bir soru şudur: büyük modeller nasıl inmeli?
Ne de olsa, doğumunun başlangıcından itibaren büyük modeller, buluttaki büyük bilgi işlem gücünden, büyük veriden ve büyük parametrelerden ayrılamaz; Aslında, büyük model bulutta doğar, bu da bulut bilişimi ortaya koyan Huawei gibi dev düzeydeki satıcıların büyük model iş düzeninde liderliği ele geçirebileceği temel unsurdur.
Bu nedenle, cep telefonu üreticileri büyük modelleri benimsiyor ve en başından beri teknik bir paradoksla karşı karşıya: nasıl inilir?
Şu anda, Xiaomi ve OV ortak bir yol seçti: hafif.
Örneğin Xiaomi, daha önce piyasaya sürülen cep telefonundaki büyük modellerin şemasıyla karşılaştırıldığında, Xiaomi'nin model yapısını ve parametre boyutunu ayarlayacağını, bellek ve bilgi işlem gücündeki çeşitli yongaların özelliklerine uyum sağlayacağını ve en iyi güç tüketimi, çıkarım hızı ve üretim etkisi dengesini elde etmeye çalışacağını vurguladı.
Aynı zamanda, OPPO ve vivo, farklı parametre ölçeklerine sahip 1 milyardan yüz milyarlarca model spesifikasyonuna kadar farklı parametre büyüklüklerinde büyük modeller piyasaya süreceklerini vurguladılar - açıkçası, bu aynı zamanda maliyet, performans, güç tüketimi ve farklı dağıtım uçlarının getirdiği diğer sorunlar tarafından da tamamen dikkate alınıyor.
Hafifliğe ek olarak, büyük modellere giren cep telefonu üreticilerinin, kullanıcı deneyimi ve kullanıcı gizliliğini içeren önemli bir konu olan büyük modellerin gerçek dağıtımını nasıl gerçekleştireceklerini de düşünmeleri gerekir.
Şu anda, "cihaz-bulut entegrasyonu" nispeten belirgin bir eğilim olmalıdır**.
Örneğin, Xiaomi, büyük modeller açısından yerel dağıtımı vurgulasa da ve kendi geliştirdiği 1,3 milyar parametreli uç taraf modeli cep telefonu tarafından geçti - ancak Xiaomi Teknik Komitesi'nin AI Laboratuvarı'nın büyük model ekibinin başkanı Luan Jian'a göre, belirli uygulama sürecinde, cep telefonu tüm sorunları çözemez, Xiaomi yine de entegrasyon yoluna bağlı kalacaktır; Ancak, uç taraf modelinde çözülebilecek yeteneklerin veya bazı işlevlerin bir parçasıysa, buluta yükselmeye gerek yoktur.
Kullanıcıların büyük modelleri çağırma sürecinde bazı gerçek zamanlı güncellenmiş bilgileri kullanmaları gerekiyorsa, buluttaki bazı yetenekleri birleştirmeleri gerektiğini vurguladı.
Xiaomi'ye ek olarak OPPO, büyük modeller açısından "cihaz-bulut işbirliğini" de vurguluyor ve bu da AndesGPT'nin yerel ve bulut işbirlikçi operasyonun etkisini elde etmek için altyapı tasarım fikri olarak esasen "cihaz-bulut işbirliğine" dayandığını söylüyor - açıkçası, yerel dağıtım ve bulut işbirliği, tamamen ayırmak zor.
Tabii ki, "cihaz-bulut entegrasyonu" trendine dayanarak, aslında büyük model altında gizlilik konularını göz önünde bulundurmak gerekiyor - şu anda Huawei ve Xiaomi gizlilik konularına büyük önem veriyor ve her şirketin fikirleri temel olarak vurgulanıyor: büyük modelle ilgili hesaplama mümkün olduğunca yerel olarak tamamlanıyor, bilgi aktarımına ve buluta olan bağımlılığı azaltıyor.
Öyleyse, her zaman dikkat etmeye değer olan soru şudur: Ortalama bir kullanıcı için büyük bir model ne anlama gelir?
Bu bağlamda, kıdemli bir endüstri uygulayıcısı, aslında, kullanıcının bakış açısından, başlangıçta büyük modelin işlev algısında o kadar güçlü olmayabileceğini, ancak gelecekte, niceliksel değişimden niteliksel değişime kadar uzun vadeli bir süreç olan birçok senaryoda gizliliğinin korunduğu bulunabilir - ancak cep telefonu üreticileri açısından bakıldığında, hiç kimse büyük modellerin keşfinden vazgeçmeyecek, aksi takdirde bu alanda geride kalması muhtemeldir.
Peki, her zaman soğuk olan elmalar ne olacak?
Şu anda, Tim Cook'un halka açık röportajlarda büyük modellere karşı tutumu "temkinli", büyük modellerle yakından ilişkili üretken yapay zeka teknolojisinin gelecekteki gelişimde büyük bir potansiyele sahip olduğuna inanıyor, ancak aynı zamanda insan toplumu üzerinde olumsuz bir etkisi olmamasını sağlamak için dikkatli bir şekilde kullanılması gerekiyor. Ancak öte yandan, ChatGPT kullanıp kullanmadığı sorulduğunda Cook, onu kullandığını ve "bu konuda heyecanlı" olduğunu ve Apple'ın buna çok dikkat ettiğini söyledi.
Bununla birlikte, tanınmış haber sitesi The Information'a göre Apple, makine öğrenimi ve yapay zeka stratejisinden sorumlu kıdemli başkan yardımcısı John Giannandre ve diğerleri de dahil olmak üzere güçlü bir yapay zeka büyük model geliştirme ekibi kurdu. Sadece bu da değil, Apple'ın AI büyük modelleri için bütçesi günde milyonlarca dolara yükseldi. Ayrıca Apple'ın büyük modelini Siri'ye neredeyse entegre ettiği ve iPhone tarafında büyük bir dil modeli çalıştırma olasılığını araştırdığı bildiriliyor.
Bu nedenle, yine de gelecek - sonuçta, teknolojik gelişmenin genel eğilimi durdurulamaz.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Cep telefonu üreticileri büyük modeller ortaya koymak için istifleniyor, bu bir hile mi?
Orijinal kaynak: AI Business Review
21 Mart 2023'te NVIDIA'nın yıllık gişe rekorları kıran teknoloji konferansı GTC'de NVIDIA CEO'su Jensen Huang tüm teknoloji endüstrisine şunları duyurdu: Büyük dil modeli ChatGPT'nin tüm dünyada popüler olmasıyla birlikte yeni bir bilgi işlem platformu icat edildi ve yapay zekanın iPhone anı başladı.
Sonuç olarak, "AI'nın iPhone anı" sektörde sıcak bir kelime haline gelirken, aynı zamanda istemeden de olsa büyük dil modelleri (daha sonra "büyük modeller" olarak bilinir) tarafından tetiklenen bu AI devrimi turunun iPhone tarafından temsil edilen akıllı telefon endüstrisi ile yakından ilişkili olduğunu gösteriyor.
Geçen yıl, Huawei, Xiaomi, OPPO, vivo ve Honor dahil olmak üzere Çinli akıllı telefon endüstrisi katılımcıları, yüksek profilli büyük modele art arda girdiler - Apple girişini resmi olarak açıklamamış olsa da, sektörde Apple'ın "Apple GPT" düzeni ve büyük modeller hakkında birçok haber var.
Öyleyse soru şu: cep telefonu üreticileri büyük modeller düzenliyor, bu bir hile mi?
**Huawei bir adım önde, neden? **
Büyük modeller ve akıllı telefonlar arasındaki ilk uygulama düzeyindeki ilişki, aslında Huawei'nin Mart 2023'teki bahar amiral gemisi yeni ürün lansmanındaydı.
Bu konferansta, Huawei'nin Tüketici İş Birimi İcra Direktörü ve CEO'su Yu Chengdong, kullanıcılar için çok modlu büyük model teknolojisine dayanan, bulutta eğitim veren ve ardından modeli cep telefonunda minyatürleştiren yeni bir "Akıllı Arama" işlevi yayınladı.
Fotoğraf arama için etiketleri kullanan geleneksel fotoğraf galerisi ile karşılaştırıldığında, düşük doğruluk ve yavaş yanıt hızı gibi sorunlar vardır ve akıllı arama daha "akıllıdır". Çok modlu büyük modelle birlikte akıllı arama, yüz milyonlarca grafik verisini önceden eğitir, genelleştirilmiş genel anlambilimin anlaşılmasını artırır, renk, şekil, nesne, davranış, zaman ve yer gibi birden çok bilgi kombinasyonunu içeren doğal dil aramasını destekler ve uç taraf hafif uygulamaları gerçekleştirir.
Kullanıcıların "akıllı arama" kullanma sürecinde, tüketici gizliliğini ve güvenliğini daha da koruyan son tarafta ilgili verilerin işlendiğini belirtmekte fayda var.
Peki, Huawei neden akıllı telefonları güçlendirmek için çok modlu büyük model teknolojisini kullanma konusunda öncülük edebiliyor?
Cevap basit: düzen erken.
Aslında, Nisan 2021'in sonlarında, HDC.Cloud 2021 Huawei Geliştirici Konferansı'nda, o zamanlar Huawei Cloud CEO'su olan Yu Chengdong, ön eğitime ve az sayıda endüstri uyarlamasına ve ince ayar geliştirme modeline dayanan ve dünyanın önde gelen yapay zekasının binlerce sektöre gerçekten girmesine olanak tanıyan, satış rekorları kıran bir ürün olan Huawei Cloud Pangu Modeli'ni piyasaya sürdü**.
Spesifik olarak, bu sefer piyasaya sürülen Pangu büyük modeli, Pangu NLP büyük modeli, CV büyük modeli, çok modlu büyük modeli ve bilimsel hesaplama büyük modelini içerir. Bunlar arasında, Pangu NLP büyük modeli, endüstrinin ilk 100 milyar seviyeli neslidir ve Çin NLP büyük modelini anlıyor ve Pangu CV büyük modeli, aynı zamanda 3 milyar parametreyi destekleyen endüstrinin en büyük bilgisayarla görme büyük modelidir; Çok modlu büyük model, modlar arası arama, genişletilmiş mod oluşturma ve grafik konuşmayı içerir.
Ağustos 2023'ün başlarındaki HDC 2023 Huawei Geliştirici Konferansı'nda Yu Chengdong, büyük yapay zeka modelleri çağında Pangu büyük modellerinin Hongmeng ekosistemine yardımcı olacağını söyledi.
Özellikle, Pangu Doğal Dil Büyük Modeli, Pangu Vision Büyük Model ve Pangu Multimodal Büyük Modeli'nin yardımıyla, Harmony 4.0 sistemi, akıllı terminallerin etkileşimli dönüşümünü, üretkenlik verimliliği değişimini ve kişiselleştirilmiş hizmet dönüşümünü teşvik etmek için bilgi edinme, mantıksal akıl yürütme, görev planlama, bellek genişletme, araç çağrısı ve üretim yardımı vb. dahil olmak üzere yeni bir "küçük sanat" başlatacaktır.
Yani, şu anda Huawei, akıllı telefon terminalleri için büyük modellerin dağıtım sürecinde gerçek bir önleyicidir.
**Xiaomi OV Honor da oyunda, güvenilir mi? **
Huawei'nin yanı sıra Xiaomi, OPPO, vivo ve Honor gibi yerli cep telefonu üreticileri de büyük modelleri hedefliyor.
Bu yılın Haziran ayının sonunda, 2023 MWC Şanghay Mobil İletişim Konferansı'nda Honor CEO'su Zhao Ming, yalnızca kullanıcılara ait kişisel yapay zeka oluşturmak için yapay zeka büyük modellerini cihaz tarafına tanıtmada öncülük edeceğini söyledi. Ayrıca, "büyük modelin düşünme sınırlarımızın çoğunu yıktığını ve şimdiye kadar gördüğümüz en iyi yapay zeka yorumu olduğunu" vurguladı.
Honor ile karşılaştırıldığında, Xiaomi'nin büyük modeller alanındaki dağıtımı sıradan kullanıcılardan uzak değil.
Bu yılın Ağustos ayında, Lei Jun'un 2023 yıllık konuşmasında Lei Jun, Xiaomi'nin büyük modelleri tamamen benimsediğini ve bu yıl Nisan ayında bir Xiaomi AI büyük model ekibi kurduğunu söyledi - ekibin liderinin, Xiaomi Teknik Komitesi'nin AI Laboratuvarı'nın büyük model ekibinin başkanı Luan Jian olduğu anlaşılıyor.
Konuşmada Lei Jun, Xiaomi'nin büyük model teknolojisinin ana atılım yönünün "hafif" ve "yerel dağıtım" olduğunu ve şu anda Xiaomi'nin kendi geliştirdiği 1,3 milyar parametreli uç taraf modelinin cep telefonundaki demodan geçtiğini ve bazı sahne efektlerinin buluttaki 6 milyar modelin bilgi işlem etkisiyle karşılaştırılabileceğini söyledi.
Ek olarak, kullanıcı gizliliğini korumak için Xiaomi, modeli uç tarafa da dağıtır, bilgilerin buluta yüklenmesine gerek yoktur ve tüm hesaplamalar yerel olarak gerçekleştirilir, bu da temelde kullanıcı gizliliğinin sızdırılmamasını sağlayabilir. Cihaz-bulut entegrasyonu hizmet çerçevesinde bile, gizlilik bilgileri cihaz tarafında saklanacak ve bunları içeren hesaplamalar mümkün olduğunca uç tarafta tamamlanacaktır. Bulutun yetenekleri zaman zaman gerekli olsa bile, bilgiler işlenir ve şifrelenir.
Sonuç açısından, Xiaomi'nin büyük modelinin iniş gemisi "Xiaoai sınıf arkadaşı" dır. Büyük modellerin güçlendirilmesinden sonra, Xiaoai'nin insan-bilgisayar etkileşim formu, bağlamın derinlemesine anlaşılması, çeviri yeteneği, süper soru ve cevap, üretken sonuçlar ve karmaşık görevlerin tamamlanması dahil olmak üzere bir dizi genel bilgi yeteneği eklemek için yükseltilecektir.
Ağustos ayından bu yana Xiaomi, "Küçük Aşk Sınıf Arkadaşı Büyük Model" in dahili testini açtı ve inişi hemen köşede.
Honor ve Xiaomi dışında, OPPO ve Vivo'nun büyük modeller açısından eylemleri geride kalmadı.
Özellikle, 11 Ekim'de OPPO, hafif bir büyük model uç taraf dağıtım çözümü oluşturmak için MediaTek ile işbirliği yapacağını ve 4 bit niceleme teknolojisini kullanarak, doğruluğu düşürmeden daha iyi yan yana performans elde edeceğini duyurdu ve ortaklaşa kendi geliştirdiği AndesGPT büyük dil modelinin ve çok modlu büyük modelinin uç tarafa kademeli olarak inişini teşvik edin.
Şu anda, kendi kendini eğitmiş And büyük modeline (AndesGPT) dayalı yeni Xiaobu Assistant 1.0 Beta deneyimi resmi olarak açıldı ve yükseltilmiş Xiaobu Assistant, AI büyük model yeteneklerine sahip olacak.
Genel olarak, neredeyse tüm ana akım cep telefonu oyuncuları zaten büyük modelin ana savaş alanını kapıyor ve bir sonraki adım parlak kılıçlarla savaşmak.
** Büyük model, nasıl inilir? **
Cep telefonu üreticilerinin büyük modelleri benimsemesi durumunda, düşünülmesi gereken gerçek bir soru şudur: büyük modeller nasıl inmeli?
Ne de olsa, doğumunun başlangıcından itibaren büyük modeller, buluttaki büyük bilgi işlem gücünden, büyük veriden ve büyük parametrelerden ayrılamaz; Aslında, büyük model bulutta doğar, bu da bulut bilişimi ortaya koyan Huawei gibi dev düzeydeki satıcıların büyük model iş düzeninde liderliği ele geçirebileceği temel unsurdur.
Bu nedenle, cep telefonu üreticileri büyük modelleri benimsiyor ve en başından beri teknik bir paradoksla karşı karşıya: nasıl inilir?
Şu anda, Xiaomi ve OV ortak bir yol seçti: hafif.
Örneğin Xiaomi, daha önce piyasaya sürülen cep telefonundaki büyük modellerin şemasıyla karşılaştırıldığında, Xiaomi'nin model yapısını ve parametre boyutunu ayarlayacağını, bellek ve bilgi işlem gücündeki çeşitli yongaların özelliklerine uyum sağlayacağını ve en iyi güç tüketimi, çıkarım hızı ve üretim etkisi dengesini elde etmeye çalışacağını vurguladı.
Aynı zamanda, OPPO ve vivo, farklı parametre ölçeklerine sahip 1 milyardan yüz milyarlarca model spesifikasyonuna kadar farklı parametre büyüklüklerinde büyük modeller piyasaya süreceklerini vurguladılar - açıkçası, bu aynı zamanda maliyet, performans, güç tüketimi ve farklı dağıtım uçlarının getirdiği diğer sorunlar tarafından da tamamen dikkate alınıyor.
Şu anda, "cihaz-bulut entegrasyonu" nispeten belirgin bir eğilim olmalıdır**.
Örneğin, Xiaomi, büyük modeller açısından yerel dağıtımı vurgulasa da ve kendi geliştirdiği 1,3 milyar parametreli uç taraf modeli cep telefonu tarafından geçti - ancak Xiaomi Teknik Komitesi'nin AI Laboratuvarı'nın büyük model ekibinin başkanı Luan Jian'a göre, belirli uygulama sürecinde, cep telefonu tüm sorunları çözemez, Xiaomi yine de entegrasyon yoluna bağlı kalacaktır; Ancak, uç taraf modelinde çözülebilecek yeteneklerin veya bazı işlevlerin bir parçasıysa, buluta yükselmeye gerek yoktur.
Kullanıcıların büyük modelleri çağırma sürecinde bazı gerçek zamanlı güncellenmiş bilgileri kullanmaları gerekiyorsa, buluttaki bazı yetenekleri birleştirmeleri gerektiğini vurguladı.
Xiaomi'ye ek olarak OPPO, büyük modeller açısından "cihaz-bulut işbirliğini" de vurguluyor ve bu da AndesGPT'nin yerel ve bulut işbirlikçi operasyonun etkisini elde etmek için altyapı tasarım fikri olarak esasen "cihaz-bulut işbirliğine" dayandığını söylüyor - açıkçası, yerel dağıtım ve bulut işbirliği, tamamen ayırmak zor.
Tabii ki, "cihaz-bulut entegrasyonu" trendine dayanarak, aslında büyük model altında gizlilik konularını göz önünde bulundurmak gerekiyor - şu anda Huawei ve Xiaomi gizlilik konularına büyük önem veriyor ve her şirketin fikirleri temel olarak vurgulanıyor: büyük modelle ilgili hesaplama mümkün olduğunca yerel olarak tamamlanıyor, bilgi aktarımına ve buluta olan bağımlılığı azaltıyor.
Öyleyse, her zaman dikkat etmeye değer olan soru şudur: Ortalama bir kullanıcı için büyük bir model ne anlama gelir?
Bu bağlamda, kıdemli bir endüstri uygulayıcısı, aslında, kullanıcının bakış açısından, başlangıçta büyük modelin işlev algısında o kadar güçlü olmayabileceğini, ancak gelecekte, niceliksel değişimden niteliksel değişime kadar uzun vadeli bir süreç olan birçok senaryoda gizliliğinin korunduğu bulunabilir - ancak cep telefonu üreticileri açısından bakıldığında, hiç kimse büyük modellerin keşfinden vazgeçmeyecek, aksi takdirde bu alanda geride kalması muhtemeldir.
Peki, her zaman soğuk olan elmalar ne olacak?
Şu anda, Tim Cook'un halka açık röportajlarda büyük modellere karşı tutumu "temkinli", büyük modellerle yakından ilişkili üretken yapay zeka teknolojisinin gelecekteki gelişimde büyük bir potansiyele sahip olduğuna inanıyor, ancak aynı zamanda insan toplumu üzerinde olumsuz bir etkisi olmamasını sağlamak için dikkatli bir şekilde kullanılması gerekiyor. Ancak öte yandan, ChatGPT kullanıp kullanmadığı sorulduğunda Cook, onu kullandığını ve "bu konuda heyecanlı" olduğunu ve Apple'ın buna çok dikkat ettiğini söyledi.
Bu nedenle, yine de gelecek - sonuçta, teknolojik gelişmenin genel eğilimi durdurulamaz.