Dalam kabut bisnis, "peluang" yang tampaknya emas itu sering kali merupakan belenggu yang menjebak orang.
Berita terbaru CNBC mengatakan bahwa raksasa chip global Qualcomm bermaksud untuk memangkas sekitar 1.258 karyawan di dua pangkalan utama di California. Faktanya, Qualcomm telah lama mengirimkan "daftar kematian" ini ke departemen ketenagakerjaan California: 1.064 di San Diego dan 194 di Santa Clara. Gempa diperkirakan akan meletus pada 13 Desember.
Laporan Qualcomm kuartal terakhir telah mengisyaratkan "pertumpahan darah" ini. Dari perspektif struktur keuangan, chip ponsel adalah sumber pendapatan utama Qualcomm, terhitung lebih dari setengahnya, tetapi pendapatan turun 21,6% tahun-ke-tahun pada kuartal ketiga. Kejenuhan pasar smartphone, seperti tangan tak terlihat, diam-diam mencekik raksasa rantai pasokan hulu.
Pertumbuhan pasar ponsel sekarang terutama tergantung pada siklus peningkatan perangkat. Sejak 2019, booming penggantian ponsel bertenaga 5G telah berlangsung selama hampir empat tahun. Tetapi Peter Richardson, seorang analis senior di Counterpoint, mengungkapkan kebenaran yang dingin: pada tahun 2022, siklus penggantian ponsel global telah mencapai 43 bulan terpanjang dalam sejarah.
Selama lima tahun terakhir, industri telepon seluler telah berjuang untuk mengubah kebuntuan dengan mengejar jalur inovasi. Tetapi sementara bahkan para pemimpin pasar seperti Apple berjuang untuk menghasilkan fitur-fitur baru yang mengesankan, vendor lain berjuang untuk mempertahankan posisi pasar mereka. Semakin banyak konsumen yang mulai mempertanyakan, apa gunanya beralih ke ponsel baru?
Beberapa pakar industri menunjukkan bahwa titik puncak sebenarnya mungkin adalah kekuatan di balik perangkat lunak, terutama model besar seperti LLM dan Transformer di bidang AI.
Meskipun tidak jelas bagaimana memaksimalkan potensi ini, ini tidak mencegah raksasa ponsel domestik untuk mencoba menerobos. Huami OV dan yang lainnya telah mengarahkan pandangan mereka pada model besar AI dan sangat ingin membuka medan perang baru.
01 Arena Model Besar Pertempuran Raksasa Ponsel
** Untuk sementara, produsen ponsel dalam negeri tampaknya telah mengejar pusat perhatian model besar. **
Pada 14 Agustus, pada konferensi pers tahunan Xiaomi, model besar Xiaomi AI diluncurkan, dan itu menjadi fokus perhatian dalam sekejap. Pada dua platform uji utama C- dan CMMLU, masing-masing memenangkan tempat kesepuluh dan tempat pertama di Cina.
Lei Jun dengan percaya diri mengumumkan bahwa model besar parameter 1,3 miliar Xiaomi telah berjalan dengan sempurna di ponsel, dan kekuatannya bahkan dapat menandingi model cloud parameter 6 miliar dalam beberapa skenario. Teman sekelas Xiaoai yang terkenal juga akan memperkuat kemampuan model besar AI, dan tes undangan telah dimulai pada hari konferensi.
Asap serigala yang ditujukan pada model AI besar tidak hanya meningkat di Xiaomi.
Pada awal Konferensi Pengembang Huawei 2023 pada 4 Agustus, Yu Chengdong melambaikan tangannya dan mengumumkan bahwa HarmonyOS 4 akan mendapat manfaat dari restu "model Pangu". Yang berbeda adalah Huawei memutuskan untuk mengintegrasikan model besar secara mendalam ke dalam sistem ponsel untuk mencapai tingkat integrasi yang lebih tinggi.
**Mengikuti Huami, vivo dan OPPO terus menunjukkan ambisi mereka di bidang model besar. **
Baru-baru ini, OPPO mengumumkan putaran pertama pengujian publik "Asisten Xiaobu" barunya, yang menarik perhatian di industri. Produk ini didasarkan pada teknologi model besar AndesGPT.
Model AndesGPT adalah model bahasa besar generatif tingkat tinggi berdasarkan arsitektur cloud hybrid berdasarkan tim Andean Intelligent Cloud OPPO. Pengguna dapat berpartisipasi dalam pendaftaran beta publik Xiaobu 1.0 dengan membangunkan asisten suara Xiaobu dan mengatakan "Model Besar Xiaobu". Informasi lebih lanjut akan diumumkan pada peluncuran ColorOS 14 16 November.
Mirip dengan publisitas rekan-rekannya, AndesGPT juga telah memenangkan gelar "Pemimpin Industri" dalam pengantar resminya, dan model ini sering muncul di banyak daftar ulasan otoritatif.
Di sisi lain, vivo telah mengunci 1 November untuk mengadakan konferensi pengembang tahunannya. Pertemuan ini, vivo akan mengungkapkan penelitian dan pengembangan eksklusif model besar AI dan sistem operasi baru; Dan OriginOS 4 yang sangat dinanti-nantikan juga akan terungkap.
Yang sangat menarik adalah bahwa matriks model besar AI yang dibuat oleh vivo sangat kaya, mencakup tiga tingkat parameter miliar, puluhan miliar dan ratusan miliar, total lima model, yang bertujuan untuk memenuhi skenario aplikasi inti yang beragam.
Demikian pula, kumpulan produk ini, yang masih berada di balik tabir, telah muncul dalam banyak ulasan otoritatif. Data terbaru menunjukkan bahwa model besar AI yang dikembangkan sendiri oleh vivo menempati urutan pertama pada dua platform utama C- dan CMMLU.
Baru-baru ini, industri ponsel telah menyaksikan merek-merek besar terjun ke laut dalam model AI satu per satu. ** Persaingan ketat di pasar saham membuat produsen besar berharap untuk menggunakan teknologi baru untuk menciptakan citra yang lebih kompetitif untuk diri mereka sendiri di pasar kelas atas. **
Sejumlah orang dengan wawasan mendalam di industri percaya bahwa menekankan keunggulan fungsi AI jelas merupakan bagian penting dari strategi produsen besar. Ini tidak hanya dapat merangsang keinginan pengguna untuk produk kelas atas, tetapi juga mendorong harga produk naik, sehingga menciptakan keuntungan yang lebih menguntungkan bagi merek.
Dengan berlalunya waktu, gelombang pertama "ponsel AI" yang sebenarnya akan segera muncul, dan dua tahun ke depan akan menjadi momen inovasi dalam AI di ponsel.
**02 Model besar bersaing untuk seluler, dan jalurnya secara bertahap disatukan **
Meskipun produsen ponsel menunjukkan dalam publisitas bahwa menjalankan model besar di ponsel semudah minum air dan makan, ** dalam operasi yang sebenarnya, tantangan tersembunyi jauh melebihi harapan. **
Menurut Luan Jian, kepala tim model besar Lab AI Komite Teknis Xiaomi, untuk benar-benar menjalankan model besar di ponsel, persyaratan untuk perangkat keras ponsel tidak akan pernah rendah, terutama prosesor dan memori.
Setelah menempati terlalu banyak memori kerja ponsel, itu akan menyebabkan aplikasi lain dibatasi, dan bahkan dapat menyebabkan ponsel menjadi tidak responsif, kinerja keseluruhan berkurang tajam, atau dalam kasus terburuk, itu akan langsung macet.
Selain itu, daya komputasi juga merupakan titik kunci dalam penilaian. Dibutuhkan beberapa detik untuk menghasilkan karakter, yang merupakan bencana bagi pengalaman pengguna. Mengingat kecepatan membaca rata-rata orang adalah sekitar selusin karakter Cina per detik, "kecepatan generasi" model harus jauh lebih tinggi dari itu.
Masalah konsumsi daya tidak dapat diabaikan. Banyak demo model online sering mengabaikan tautan penting ini. Chip komputasi di bawah beban tinggi akan menyebabkan ponsel memanas dengan cepat, dan jika dioperasikan untuk waktu yang lama, pasti akan menyebabkan kerusakan serius pada masa pakai baterai.
Singkatnya, tantangan nyata dari model ponsel besar adalah bagaimana menemukan keseimbangan antara kecepatan pemrosesan, pembuangan panas, dan masa pakai baterai. Oleh karena itu, fokus industri juga pada kolaborasi perangkat-cloud. **
Belum lama ini, MediaTek dan OPPO mencapai kesepakatan untuk bersama-sama mengembangkan solusi penyebaran ringan untuk model besar di sisi akhir, yang bertujuan untuk membuat teknologi model besar lebih dekat dengan penggunaan aktual konsumen.
Pada 18 Oktober, MediaTek juga mengumumkan kerja sama mendalam dan debugging bersama dengan vivo di bidang AI, mewujudkan pendaratan 1 miliar dan 7 miliar model bahasa besar AI dan 1 miliar model visual AI di sisi ponsel, bersama-sama menghadirkan pengalaman inovatif aplikasi AI generatif sisi akhir kepada konsumen.
Keuntungan dari model besar sisi akhir adalah pengguna dapat menikmati kecepatan respons yang lebih cepat, dan pada saat yang sama, data tidak perlu diunggah ke cloud, yang lebih aman. Saat ini, banyak produsen utama sedang mengembangkan solusi untuk menyebarkan model besar AI di terminal seluler untuk mencapai tujuan menjalankan model besar di sisi akhir.
** Namun, tidak dapat diasumsikan bahwa ponsel saja akan menyelesaikan semua masalah. **Seperti yang diungkapkan Xiaomi, mereka akan terus mengikuti strategi menggabungkan perangkat dan cloud. Beberapa fungsi atau kemampuan, jika dapat diimplementasikan melalui model sisi akhir, tidak perlu ditransfer ke cloud.
Melihat situasi Vivo, meskipun ada kekurangan data yang tepat, masuk akal untuk berspekulasi bahwa ia juga akan mengadopsi strategi model besar yang menggabungkan cloud dan on-premise.
Dari besarnya parameter model besarnya, model besar cloud 66 miliar, 130 miliar, dan 175 miliar dirancang untuk memastikan daya pemrosesan untuk menangani masalah yang lebih kompleks. Model lokal urutan 1 miliar dan 7 miliar dirancang untuk memastikan privasi pengguna, efisiensi energi, dan respons cepat.
Ini berarti bahwa Vivo kemungkinan akan mengadopsi pendekatan perangkat-cloud untuk bekerja sama, yaitu menilai kompleksitas masalah untuk memutuskan apakah akan memprosesnya secara lokal atau pindah ke cloud.
Menggabungkan cloud dan model besar lokal tidak hanya dapat menghemat biaya secara efektif, tetapi juga memenuhi kebutuhan pengguna dalam daya komputasi, kinerja, konsumsi energi, dan perlindungan privasi, yang tidak diragukan lagi merupakan salah satu strategi pilihan untuk mengintegrasikan ponsel dan model besar AI.
03 Produsen mengikuti, beberapa tantangan potensial
Beberapa industri memandang upaya saat ini untuk menjalankan model besar di ponsel sebagai pedang tajam. Namun, jauh di belakang layar, tidak dapat dihindari untuk mengungkapkan rasa rabun jauh yang merespons situasi daripada benar-benar mencari perubahan. **
Pertama, definisi "model besar" masih kabur. Ambil model sisi akhir Xiaomi sebagai contoh, jumlah parameternya mencapai 1,3 miliar, yang tidak jauh berbeda dengan parameter 1,5B GPT2, tetapi apakah ini benar-benar cukup untuk memberinya gelar "model besar"?
Ada banyak orang di industri yang telah membuang keraguan: praktik model besar di sisi ponsel lebih untuk memenuhi ledakan pasar jangka pendek, daripada lompatan nyata ke depan teknologi. Jika ponsel benar-benar dapat mendorong model besar dengan mudah, apa pentingnya keberadaan raksasa grafis NVIDIA?
Selain itu, untuk menyesuaikan model besar dengan ponsel, produsen harus mengompresnya secara drastis melalui strategi seperti pemangkasan, distilasi, dan kuantifikasi. Dalam kasus vivo, yang dapat mengurangi parameter dari 175 miliar menjadi hanya 1 miliar melalui kliping dan distilasi model berkelanjutan, ada baiknya mempertimbangkan apakah operasi ini terlalu mengada-ada.
Ketahuilah bahwa model besar bukan hanya superposisi sederhana dari jumlah parameter, nilai sebenarnya terletak pada "kedalaman" dalam pembelajaran mendalam. Sejumlah besar parameter berarti lebih banyak informasi, pengetahuan, dan konteks yang ditangkap.
Oleh karena itu, ketika model dengan ratusan miliar parameter dipotong menjadi miliaran parameter, itu pasti akan kehilangan sebagian dari kedalaman pembelajaran asli. Untuk aplikasi AI sehari-hari, dampaknya mungkin tidak signifikan, tetapi bagi pengguna kelas atas yang mengharapkan wawasan dan pemahaman mendalam dari AI, kerugian ini tidak dapat diterima.
Bahkan jika Xiaomi mengklaim bahwa model sisi akhirnya dapat dibandingkan dengan model cloud, detailnya tidak dapat diabaikan. **Model sisi akhir dengan 1,3 miliar parameter secara alami sulit dibandingkan dengan model cloud dengan ratusan miliar parameter. Untuk menutupi celah ini, Xiaomi dapat memilih untuk membuat model sisi akhirnya sebanding dengan model cloud dalam skenario tertentu, tetapi tidak dapat sepenuhnya dibandingkan.
Dari level ini, implementasi model besar saat ini pada ponsel tampaknya sedikit "berlebihan". Untuk pengguna rata-rata, mereka tidak terlalu peduli dengan jumlah parameter model, tetapi lebih banyak tentang nilai apa yang dapat diberikannya kepada mereka. Sementara upaya oleh vivo dan Xiaomi ini menggembirakan, mereka juga harus merenungkan tujuan dan signifikansi mereka yang sebenarnya.
Terlebih lagi, meskipun banyak produsen ponsel secara aktif mengeksplorasi penerapan model besar AI, jalur masa depan masih penuh dengan hal-hal yang tidak diketahui. ** Di pasar ponsel, apa aplikasi "pembunuh" berikutnya akan terungkap pada waktunya. **
Saat ini, aplikasi khusus produsen ponsel untuk AI model besar tampaknya terlalu fokus pada "asisten suara". Apakah pengejaran satu arah ini hanya memenuhi tren sains dan teknologi yang sedang panas, daripada benar-benar mempertimbangkan kebutuhan pengguna yang sebenarnya?
Mengambil pembagian model AI baru vivo baru-baru ini oleh blogger terkenal sebagai contoh, meskipun diluncurkan di OriginOS 4 dengan tampilan baru, intinya tidak terlalu subversif dibandingkan dengan asisten suara saat ini.
Singkatnya, adopsi sebenarnya dari model AI di ponsel masih goyah. Upaya hari ini hanyalah perjalanan pertama gunung es.
Sumber daya:
Tencent Technology-"Ambisi" model besar Xiaomi dimulai dari sisi akhir *
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Jangan mendorong model besar ke ponsel Anda
Sumber asli: Berita Sains dan Teknologi
Penulis: Zhangdao
Dalam kabut bisnis, "peluang" yang tampaknya emas itu sering kali merupakan belenggu yang menjebak orang.
Berita terbaru CNBC mengatakan bahwa raksasa chip global Qualcomm bermaksud untuk memangkas sekitar 1.258 karyawan di dua pangkalan utama di California. Faktanya, Qualcomm telah lama mengirimkan "daftar kematian" ini ke departemen ketenagakerjaan California: 1.064 di San Diego dan 194 di Santa Clara. Gempa diperkirakan akan meletus pada 13 Desember.
Laporan Qualcomm kuartal terakhir telah mengisyaratkan "pertumpahan darah" ini. Dari perspektif struktur keuangan, chip ponsel adalah sumber pendapatan utama Qualcomm, terhitung lebih dari setengahnya, tetapi pendapatan turun 21,6% tahun-ke-tahun pada kuartal ketiga. Kejenuhan pasar smartphone, seperti tangan tak terlihat, diam-diam mencekik raksasa rantai pasokan hulu.
Pertumbuhan pasar ponsel sekarang terutama tergantung pada siklus peningkatan perangkat. Sejak 2019, booming penggantian ponsel bertenaga 5G telah berlangsung selama hampir empat tahun. Tetapi Peter Richardson, seorang analis senior di Counterpoint, mengungkapkan kebenaran yang dingin: pada tahun 2022, siklus penggantian ponsel global telah mencapai 43 bulan terpanjang dalam sejarah.
Selama lima tahun terakhir, industri telepon seluler telah berjuang untuk mengubah kebuntuan dengan mengejar jalur inovasi. Tetapi sementara bahkan para pemimpin pasar seperti Apple berjuang untuk menghasilkan fitur-fitur baru yang mengesankan, vendor lain berjuang untuk mempertahankan posisi pasar mereka. Semakin banyak konsumen yang mulai mempertanyakan, apa gunanya beralih ke ponsel baru?
Beberapa pakar industri menunjukkan bahwa titik puncak sebenarnya mungkin adalah kekuatan di balik perangkat lunak, terutama model besar seperti LLM dan Transformer di bidang AI.
Meskipun tidak jelas bagaimana memaksimalkan potensi ini, ini tidak mencegah raksasa ponsel domestik untuk mencoba menerobos. Huami OV dan yang lainnya telah mengarahkan pandangan mereka pada model besar AI dan sangat ingin membuka medan perang baru.
01 Arena Model Besar Pertempuran Raksasa Ponsel
** Untuk sementara, produsen ponsel dalam negeri tampaknya telah mengejar pusat perhatian model besar. **
Pada 14 Agustus, pada konferensi pers tahunan Xiaomi, model besar Xiaomi AI diluncurkan, dan itu menjadi fokus perhatian dalam sekejap. Pada dua platform uji utama C- dan CMMLU, masing-masing memenangkan tempat kesepuluh dan tempat pertama di Cina.
Lei Jun dengan percaya diri mengumumkan bahwa model besar parameter 1,3 miliar Xiaomi telah berjalan dengan sempurna di ponsel, dan kekuatannya bahkan dapat menandingi model cloud parameter 6 miliar dalam beberapa skenario. Teman sekelas Xiaoai yang terkenal juga akan memperkuat kemampuan model besar AI, dan tes undangan telah dimulai pada hari konferensi.
Asap serigala yang ditujukan pada model AI besar tidak hanya meningkat di Xiaomi.
Pada awal Konferensi Pengembang Huawei 2023 pada 4 Agustus, Yu Chengdong melambaikan tangannya dan mengumumkan bahwa HarmonyOS 4 akan mendapat manfaat dari restu "model Pangu". Yang berbeda adalah Huawei memutuskan untuk mengintegrasikan model besar secara mendalam ke dalam sistem ponsel untuk mencapai tingkat integrasi yang lebih tinggi.
**Mengikuti Huami, vivo dan OPPO terus menunjukkan ambisi mereka di bidang model besar. **
Baru-baru ini, OPPO mengumumkan putaran pertama pengujian publik "Asisten Xiaobu" barunya, yang menarik perhatian di industri. Produk ini didasarkan pada teknologi model besar AndesGPT.
Model AndesGPT adalah model bahasa besar generatif tingkat tinggi berdasarkan arsitektur cloud hybrid berdasarkan tim Andean Intelligent Cloud OPPO. Pengguna dapat berpartisipasi dalam pendaftaran beta publik Xiaobu 1.0 dengan membangunkan asisten suara Xiaobu dan mengatakan "Model Besar Xiaobu". Informasi lebih lanjut akan diumumkan pada peluncuran ColorOS 14 16 November.
Mirip dengan publisitas rekan-rekannya, AndesGPT juga telah memenangkan gelar "Pemimpin Industri" dalam pengantar resminya, dan model ini sering muncul di banyak daftar ulasan otoritatif.
Di sisi lain, vivo telah mengunci 1 November untuk mengadakan konferensi pengembang tahunannya. Pertemuan ini, vivo akan mengungkapkan penelitian dan pengembangan eksklusif model besar AI dan sistem operasi baru; Dan OriginOS 4 yang sangat dinanti-nantikan juga akan terungkap.
Yang sangat menarik adalah bahwa matriks model besar AI yang dibuat oleh vivo sangat kaya, mencakup tiga tingkat parameter miliar, puluhan miliar dan ratusan miliar, total lima model, yang bertujuan untuk memenuhi skenario aplikasi inti yang beragam.
Demikian pula, kumpulan produk ini, yang masih berada di balik tabir, telah muncul dalam banyak ulasan otoritatif. Data terbaru menunjukkan bahwa model besar AI yang dikembangkan sendiri oleh vivo menempati urutan pertama pada dua platform utama C- dan CMMLU.
Sejumlah orang dengan wawasan mendalam di industri percaya bahwa menekankan keunggulan fungsi AI jelas merupakan bagian penting dari strategi produsen besar. Ini tidak hanya dapat merangsang keinginan pengguna untuk produk kelas atas, tetapi juga mendorong harga produk naik, sehingga menciptakan keuntungan yang lebih menguntungkan bagi merek.
Dengan berlalunya waktu, gelombang pertama "ponsel AI" yang sebenarnya akan segera muncul, dan dua tahun ke depan akan menjadi momen inovasi dalam AI di ponsel.
**02 Model besar bersaing untuk seluler, dan jalurnya secara bertahap disatukan **
Meskipun produsen ponsel menunjukkan dalam publisitas bahwa menjalankan model besar di ponsel semudah minum air dan makan, ** dalam operasi yang sebenarnya, tantangan tersembunyi jauh melebihi harapan. **
Menurut Luan Jian, kepala tim model besar Lab AI Komite Teknis Xiaomi, untuk benar-benar menjalankan model besar di ponsel, persyaratan untuk perangkat keras ponsel tidak akan pernah rendah, terutama prosesor dan memori.
Setelah menempati terlalu banyak memori kerja ponsel, itu akan menyebabkan aplikasi lain dibatasi, dan bahkan dapat menyebabkan ponsel menjadi tidak responsif, kinerja keseluruhan berkurang tajam, atau dalam kasus terburuk, itu akan langsung macet.
Selain itu, daya komputasi juga merupakan titik kunci dalam penilaian. Dibutuhkan beberapa detik untuk menghasilkan karakter, yang merupakan bencana bagi pengalaman pengguna. Mengingat kecepatan membaca rata-rata orang adalah sekitar selusin karakter Cina per detik, "kecepatan generasi" model harus jauh lebih tinggi dari itu.
Masalah konsumsi daya tidak dapat diabaikan. Banyak demo model online sering mengabaikan tautan penting ini. Chip komputasi di bawah beban tinggi akan menyebabkan ponsel memanas dengan cepat, dan jika dioperasikan untuk waktu yang lama, pasti akan menyebabkan kerusakan serius pada masa pakai baterai.
Singkatnya, tantangan nyata dari model ponsel besar adalah bagaimana menemukan keseimbangan antara kecepatan pemrosesan, pembuangan panas, dan masa pakai baterai. Oleh karena itu, fokus industri juga pada kolaborasi perangkat-cloud. **
Pada 18 Oktober, MediaTek juga mengumumkan kerja sama mendalam dan debugging bersama dengan vivo di bidang AI, mewujudkan pendaratan 1 miliar dan 7 miliar model bahasa besar AI dan 1 miliar model visual AI di sisi ponsel, bersama-sama menghadirkan pengalaman inovatif aplikasi AI generatif sisi akhir kepada konsumen.
Keuntungan dari model besar sisi akhir adalah pengguna dapat menikmati kecepatan respons yang lebih cepat, dan pada saat yang sama, data tidak perlu diunggah ke cloud, yang lebih aman. Saat ini, banyak produsen utama sedang mengembangkan solusi untuk menyebarkan model besar AI di terminal seluler untuk mencapai tujuan menjalankan model besar di sisi akhir.
** Namun, tidak dapat diasumsikan bahwa ponsel saja akan menyelesaikan semua masalah. **Seperti yang diungkapkan Xiaomi, mereka akan terus mengikuti strategi menggabungkan perangkat dan cloud. Beberapa fungsi atau kemampuan, jika dapat diimplementasikan melalui model sisi akhir, tidak perlu ditransfer ke cloud.
Melihat situasi Vivo, meskipun ada kekurangan data yang tepat, masuk akal untuk berspekulasi bahwa ia juga akan mengadopsi strategi model besar yang menggabungkan cloud dan on-premise.
Dari besarnya parameter model besarnya, model besar cloud 66 miliar, 130 miliar, dan 175 miliar dirancang untuk memastikan daya pemrosesan untuk menangani masalah yang lebih kompleks. Model lokal urutan 1 miliar dan 7 miliar dirancang untuk memastikan privasi pengguna, efisiensi energi, dan respons cepat.
Ini berarti bahwa Vivo kemungkinan akan mengadopsi pendekatan perangkat-cloud untuk bekerja sama, yaitu menilai kompleksitas masalah untuk memutuskan apakah akan memprosesnya secara lokal atau pindah ke cloud.
Menggabungkan cloud dan model besar lokal tidak hanya dapat menghemat biaya secara efektif, tetapi juga memenuhi kebutuhan pengguna dalam daya komputasi, kinerja, konsumsi energi, dan perlindungan privasi, yang tidak diragukan lagi merupakan salah satu strategi pilihan untuk mengintegrasikan ponsel dan model besar AI.
03 Produsen mengikuti, beberapa tantangan potensial
Beberapa industri memandang upaya saat ini untuk menjalankan model besar di ponsel sebagai pedang tajam. Namun, jauh di belakang layar, tidak dapat dihindari untuk mengungkapkan rasa rabun jauh yang merespons situasi daripada benar-benar mencari perubahan. **
Pertama, definisi "model besar" masih kabur. Ambil model sisi akhir Xiaomi sebagai contoh, jumlah parameternya mencapai 1,3 miliar, yang tidak jauh berbeda dengan parameter 1,5B GPT2, tetapi apakah ini benar-benar cukup untuk memberinya gelar "model besar"?
Ada banyak orang di industri yang telah membuang keraguan: praktik model besar di sisi ponsel lebih untuk memenuhi ledakan pasar jangka pendek, daripada lompatan nyata ke depan teknologi. Jika ponsel benar-benar dapat mendorong model besar dengan mudah, apa pentingnya keberadaan raksasa grafis NVIDIA?
Selain itu, untuk menyesuaikan model besar dengan ponsel, produsen harus mengompresnya secara drastis melalui strategi seperti pemangkasan, distilasi, dan kuantifikasi. Dalam kasus vivo, yang dapat mengurangi parameter dari 175 miliar menjadi hanya 1 miliar melalui kliping dan distilasi model berkelanjutan, ada baiknya mempertimbangkan apakah operasi ini terlalu mengada-ada.
Ketahuilah bahwa model besar bukan hanya superposisi sederhana dari jumlah parameter, nilai sebenarnya terletak pada "kedalaman" dalam pembelajaran mendalam. Sejumlah besar parameter berarti lebih banyak informasi, pengetahuan, dan konteks yang ditangkap.
Oleh karena itu, ketika model dengan ratusan miliar parameter dipotong menjadi miliaran parameter, itu pasti akan kehilangan sebagian dari kedalaman pembelajaran asli. Untuk aplikasi AI sehari-hari, dampaknya mungkin tidak signifikan, tetapi bagi pengguna kelas atas yang mengharapkan wawasan dan pemahaman mendalam dari AI, kerugian ini tidak dapat diterima.
Dari level ini, implementasi model besar saat ini pada ponsel tampaknya sedikit "berlebihan". Untuk pengguna rata-rata, mereka tidak terlalu peduli dengan jumlah parameter model, tetapi lebih banyak tentang nilai apa yang dapat diberikannya kepada mereka. Sementara upaya oleh vivo dan Xiaomi ini menggembirakan, mereka juga harus merenungkan tujuan dan signifikansi mereka yang sebenarnya.
Terlebih lagi, meskipun banyak produsen ponsel secara aktif mengeksplorasi penerapan model besar AI, jalur masa depan masih penuh dengan hal-hal yang tidak diketahui. ** Di pasar ponsel, apa aplikasi "pembunuh" berikutnya akan terungkap pada waktunya. **
Saat ini, aplikasi khusus produsen ponsel untuk AI model besar tampaknya terlalu fokus pada "asisten suara". Apakah pengejaran satu arah ini hanya memenuhi tren sains dan teknologi yang sedang panas, daripada benar-benar mempertimbangkan kebutuhan pengguna yang sebenarnya?
Mengambil pembagian model AI baru vivo baru-baru ini oleh blogger terkenal sebagai contoh, meskipun diluncurkan di OriginOS 4 dengan tampilan baru, intinya tidak terlalu subversif dibandingkan dengan asisten suara saat ini.
Singkatnya, adopsi sebenarnya dari model AI di ponsel masih goyah. Upaya hari ini hanyalah perjalanan pertama gunung es.
Sumber daya: