Model besar Xiaomi terungkap untuk pertama kalinya, dan Huawei Xiaoyi menyerahkan kertas terlebih dahulu Apakah waktu GPT untuk ponsel sudah dekat?

Sumber丨Smart Things

Pengarang | Yunpeng

Sunting | Takdir Hati

Pertarungan model besar di antara produsen ponsel akan segera datang.

Baru saja, model besar Xiaomi tiba-tiba muncul di layar, dan mencapai tempat kesepuluh dan tempat pertama di Cina dalam dua platform uji model besar masing-masing C- dan CMMLU. Peringkat C-nya berada di depan Tongyi Qianwen dari Alibaba Cloud.

▲C-daftar

Anda harus tahu bahwa C- dan CMMLU saat ini diakui di industri sebagai tes benchmark model skala besar Cina yang otoritatif, terutama memeriksa cadangan pengetahuan komprehensif dan kemampuan pemahaman bahasa dari model skala besar di bidang bahasa Cina.

▲ Daftar evaluasi CMMLU

Baru minggu lalu, asisten suara Huawei, Xiaoyi, juga mengintegrasikan beberapa kemampuan model Pangu-nya sendiri.Menjadi kenyataan menggunakan asisten suara untuk menulis ringkasan artikel, email undangan rapat, atau menggunakan foto Anda sendiri untuk desain yang dipersonalisasi.

Pabrikan ponsel dalam negeri memiliki postur "Jika Anda tidak bersuara, Anda akan menjadi blockbuster" di jalur model besar. Satu sudah mendarat di aplikasi, dan yang lainnya menyapu layar untuk pertama kalinya.

Sebelumnya, tidak peduli apakah itu chip yang dikembangkan sendiri atau pengisian cepat, produsen ponsel tampaknya menjadi "pelopor" yang mendorong "teknologi baru" ke pasar konsumen, memungkinkan masyarakat umum untuk bersentuhan dengan teknologi baru.

Dalam gelombang AI generatif berdasarkan model besar, produsen ponsel terikat untuk mengantarkan pertempuran baru.

Di luar negeri, Google dan Apple telah mulai "memobilisasi" asisten suara cerdas mereka sendiri, membuat aplikasi model skala besar Di China, sebelum hasil model skala besar Xiaomi diumumkan, Wang Bin, direktur laboratorium AI Xiaomi , sudah memberi tahu dunia luar tentang model skala besar Xiaomi Mengenai perencanaan dan kemajuan bidang model, CEO Xiaomi Lei Jun dan Presiden Xiaomi Lu Weibing juga telah berbicara tentang model besar Xiaomi dan tata letak terkait di depan umum pada banyak kesempatan .

Untuk Honor, CEO-nya Zhao Ming menyebutkan bahwa Honor telah bekerja sama dengan perusahaan Internet atas permintaan model jaringan skala besar, dan OPPO dan vivo, yang tampaknya tidak mencolok, sebenarnya telah berkecimpung di bidang AI selama bertahun-tahun. Peringkat di antara yang terbaik dalam pengujian, dan telah bekerja sama dengan beberapa perusahaan AI besar. Di pihak Huawei, Xiaoyi sudah mendarat.

Meskipun ombaknya tenang di permukaan, pertarungan model besar di antara produsen ponsel sudah dekat. Setiap keluarga membangun jalan papan secara diam-diam, dan permainan teknologi AI yang sengit mungkin akan segera dipentaskan.

Xiaomi membentuk tim model besar, dan Honor OV dapat mengadopsi model "penelitian mandiri + kerja sama".

Pabrikan ponsel menggunakan model skala besar dengan dua cara, satu membuat model skala besar untuk digunakan sendiri, dan yang lainnya menggunakan model skala besar orang lain.

Saat ini, Huawei dan Xiaomi selangkah lebih maju dan menggunakannya untuk penggunaan mereka sendiri. Kehormatan, OPPO dan vivo tidak memiliki informasi resmi tentang tata letak model besar. Diantaranya, OV dan pabrikan lain memiliki informasi kerja sama yang relevan pada model besar. Namun , masih belum jelas bagaimana keduanya akan diadopsi.

Pertama-tama, mari kita lihat Xiaomi yang sedang menggesek layar hari ini.Padahal, asisten suara cerdas Xiaomi, Xiao Ai, bisa dibilang paling terkenal di antara asisten suara dari berbagai perusahaan, dan juga memiliki jangkauan terluas. rentang pengguna. Hampir semua jenis perangkat IoT Xiaomi memiliki Akses ke Xiao Ai, dan Xiaomi memiliki jumlah perangkat ekologis IoT terbesar di antara semua produsen ponsel pintar. Xiaomi telah memperjelas bahwa model Xiaomi AI dapat digabungkan dengan Xiao Ai di masa depan.

Apakah itu dalam panggilan pendapatan atau dalam beberapa wawancara publik, eksekutif Xiaomi yang relevan telah menyatakan pandangan positif tentang model besar, dan menjelaskan secara rinci tata letak dan perencanaan Xiaomi untuk model besar.

Pada bulan April tahun ini, CEO Xiaomi Lei Jun secara pribadi mengeluarkan dokumen yang menyatakan bahwa Xiaomi akan dengan tegas merangkul teknologi model skala besar. Dalam panggilan konferensi pendapatan bulan berikutnya, Presiden Xiaomi Lu Weibing mengumumkan bahwa perusahaan telah mendirikan laboratorium AI besar-besaran. tim model skala, dengan lebih dari 1.200 orang di bidang AI.

Kepala tim model besar Xiaomi adalah Luan Jian, yang melapor kepada Wang Bin, direktur Lab AI Xiaomi.Wang Bin bergabung dengan Xiaomi pada tahun 2018 setelah melakukan penelitian tentang NLP (Natural Language Processing) di Akademi Ilmu Pengetahuan China selama lebih dari 20 tahun .

Dalam sebuah wawancara dengan Shenran, Wang Bin menyebutkan bahwa tujuan tim mereka adalah model bahasa besar untuk keperluan umum dengan skala parameter puluhan miliar, dan investasi peralatan untuk pelatihan adalah puluhan juta RMB. Produk pendaratan model skala besar Xiaomi akan mengadopsi "model hybrid", dan model tradisional dan model skala besar masing-masing menyelesaikan masalah yang mereka kuasai.

Menurut Wang Bin, sebelum ChatGPT, Xiaomi telah melakukan penelitian dan aplikasi terkait model berskala besar.Namun, skala modelnya mencapai miliaran, dan ini bukan model skala besar untuk keperluan umum. model khusus dialog untuk dialog manusia-mesin.

Di pihak Xiaomi, para eksekutif sering mengungkapkan informasi, dan di pihak Honor, CEO-nya Zhao Ming juga mengungkapkan pandangan Honor tentang AI generatif dan model skala besar dalam wawancara.

Zhao Ming menyebutkan di Shanghai Mobile World Congress bahwa Honor bekerja sama dengan perusahaan Internet atas permintaan model jaringan berskala besar.Pada saat itu, mereka sudah berhubungan dengan perusahaan yang berminat.

Saat ini, Wenxin Yiyan dari Baidu, Tongyi Qianwen dari Ali, dan Xunfei Xinghuo dari Xunfei semuanya adalah model skala besar tiga pihak yang diluncurkan oleh perusahaan Internet domestik besar dan perusahaan AI. Model skala besar yang dikembangkan sendiri sangat penting bagi perusahaan yang baru saja berdiri didirikan selama tiga tahun. Bagi Honor, itu bukan hal yang terpenting. Jelas lebih penting untuk meningkatkan pangsa pasar dan pengapalan. Oleh karena itu, kerja sama mungkin menjadi cara bagi Honor untuk menerapkan teknologi berskala besar.

Di pihak OPPO, Liu Bo, Presiden OPPO China, menyebutkan dalam sebuah wawancara bahwa OPPO sedang memikirkan penerapan model besar di ponsel.

Pada bulan April tahun ini, Alibaba Cloud mengumumkan akan bersama-sama membangun infrastruktur model berskala besar OPPO dengan OPPO Andes Smart Cloud. Berdasarkan Tongyi Qianwen, ini akan menyelesaikan proyek pembelajaran berkelanjutan, penyempurnaan, dan mendorong front-end dari model besar , dan membangun layanan AI untuk pengguna akhir OPPO.

Dilihat dari contoh Huawei Xiaoyi, Tongyi Qianwen layak untuk disempurnakan dan dioptimalkan untuk membuat model ringan yang dapat digunakan dalam asisten suara pintar OPPO.

Namun, sumber terkait dari Xiaomi mengungkapkan bahwa OPPO dan vivo juga dapat membuat model besar mereka sendiri.

Dalam hal ini, kita juga bisa melihat beberapa tanda dari beberapa aksi OV sebelumnya. Misalnya, tim asisten OPPO Xiaobu telah melakukan banyak penelitian di bidang teknologi AI, termasuk pengenalan ucapan, pemahaman semantik, pembuatan dialog, sistem penjawab pertanyaan pengetahuan, obrolan domain terbuka, multi-modalitas, dll., dan ini adalah semua terkait dengan teknologi kunci AI generatif.

Tim asisten Xiaobu telah mengeksplorasi dan mengimplementasikan model pra-pelatihan sebelumnya, dan mengembangkan model pra-pelatihan OBERT dengan parameter 100 juta, 300 juta, dan 1 miliar Tempat kelima dalam daftar, dan tempat pertama dalam peta pengetahuan skala besar daftar pertanyaan dan jawaban KgCLUE1.0.

Pada Konferensi Teknologi Masa Depan OPPO tahun lalu, teknologi AI generatif digunakan dalam fungsi melukis Xiaobu, yang dapat membuat gambar melalui deskripsi pengguna dan gambar yang diunggah.

Untuk vivo, tim AI-nya mengembangkan model pra-pelatihan teks 3MP-Teks untuk tugas pemahaman bahasa alami pada bulan Mei tahun ini Pada daftar CLUE tolok ukur evaluasi pemahaman bahasa Mandarin, 3MP-Teks mendapat peringkat yang sama dengan parameter 100 juta efek model.Ukuran dulu.

Model besar mendarat di ponsel, dan asisten suara yang cerdas menjadi garda depan pengguna awal

Pabrikan ponsel aktif merangkul model besar, apa yang akan mereka lakukan? Satu hal yang telah ditentukan sejauh ini adalah menggunakan model besar di asisten suara pintar dari berbagai perusahaan, sehingga model besar dapat menjadi kemampuan "tingkat sistem" ponsel Anda, menjadikan ponsel lebih cerdas, dan asisten tidak akan lagi "Terbelakang".

Samsung sedang mempertimbangkan untuk mengubah mesin pencari default ponsel dan tablet dari Google ke Bing baru Microsoft, yang mendukung obrolan AI. Pada konferensi I/O di bulan Mei, Google merilis empat model bahasa besar generasi baru PaLM 2 dengan skala parameter yang berbeda, di antaranya model besar "Tokek" terkecil dapat berjalan di ponsel.

Di sisi Apple, beberapa media asing mengungkapkan bahwa mereka sedang mengembangkan fungsi AI baru dengan nama kode "Bobcat" untuk Siri, dan kerangka kerja teknis dari proyek baru ini disebut "Siri Natural Language Generation". Integrasi teknologi AI juga akan menjadi tidak bisa dihindari.

Potensi model besar dalam asisten suara di telepon pintar sudah jelas bagi semua orang.

Untuk konsumen, kita dapat dengan jelas melihat dari kasus kombinasi asisten suara cerdas dan model besar yang ada bahwa integrasi kemampuan model besar memecahkan salah satu masalah terbesar dalam kebiasaan pengguna menggunakan asisten suara - tidak cukup Dialog alami, komunikasi alami yang tidak bisa dilakukan sesuka hati.

Sederhananya, itu membuat asisten suara yang cerdas berubah dari menyenangkan dan baru menjadi mudah digunakan, dan bahkan menjadi "tindakan kebiasaan". Model besar memungkinkan asisten suara yang cerdas untuk benar-benar memahami dan memahami kita, dan peningkatan kemudahan penggunaannya sangat signifikan.

Dalam pandangan beberapa produsen terminal, penerapan model besar seperti ChatGPT lebih difokuskan pada copywriting kreatif, organisasi informasi, obrolan tanya jawab, peringkasan artikel, dll., Tetapi posisi asisten suara adalah "asisten pribadi yang cerdas", dari kontrol perangkat, kepribadian Untuk meningkatkan efisiensi pekerjaan kantor harian kita dengan menyediakan layanan konsultasi yang dipersonalisasi, penerapan asisten suara cerdas dalam skenario konsumsi harus lebih luas.

Pada saat yang sama, dibandingkan dengan chatbot AI generatif seperti ChatGPT OpenAI dan Bard Google, asisten suara cerdas akan menjadi kemampuan "tingkat sistem" produsen terminal, mulai dari dialog suara, pengenalan grafik dan teks, saran layanan hingga manajemen interkoneksi perangkat.

Pakar AI yang relevan memberi tahu Zhishi bahwa kemampuan tingkat sistem berarti pintu masuk tingkat sistem lebih terintegrasi dengan sistem operasi, dan interkoneksi dengan ekologi juga telah mencapai lapisan bawah ekologi sistem. Interkoneksi semacam ini benar-benar efisien dan pengalamannya bisa menjadi yang terbaik Nah, interkoneksi ini jauh dari sebanding dengan panggilan SDK satu-ke-satu antara ChatGPT dan Aplikasi.

Selain itu, apakah itu Huawei, Xiaomi, Honor atau OV, pabrikan ini telah meluncurkan berbagai tata letak bisnis IoT, dan asisten suara cerdas telah menjadi portal layanan AI utama yang menghubungkan perangkat pintar mereka. kemampuan model besar ke seluruh ekosistem perangkat lunak dan perangkat kerasnya, yang juga sangat penting bagi produsen.

Apakah sulit memasukkan model besar ke dalam ponsel?

Tidaklah sulit untuk berpikir untuk menggunakan model besar dalam asisten suara yang cerdas, bahkan sejak hari pertama ChatGPT muncul, semua perusahaan asisten suara telah memikirkan hal ini.

Tapi kuncinya adalah, bagaimana cara mencapainya? Apakah biaya sebanding dengan pengembalian yang dihasilkannya? Model bahasa besar seperti GPT-4, dengan ratusan miliar parameter, akan digunakan di ponsel dengan konsumsi daya hanya beberapa watt. Bagaimana mengatasi tantangan teknis?

Mengenai pertanyaan-pertanyaan ini, kami dapat menemukan beberapa jawaban dalam contoh Huawei Xiaoyi yang disebutkan di atas.

Secara umum, untuk menerapkan model besar pada asisten suara pintar, setidaknya ada dua hal yang harus dilakukan. Pertama, optimalkan model besar umum menjadi versi yang cocok untuk asisten suara. Hal-hal berhasil.

Dari contoh Huawei, berdasarkan model besar Pangu L0, Huawei telah menyempurnakan dan mengoptimalkan data yang terlibat dalam skenario konsumen biasa, dan membangun model dialog lapisan L1, yang digunakan di Xiaoyi.

Untuk skenario konsumen ini, pabrikan perlu membangun data korpus yang sesuai, merancang keluaran model yang dapat dipahami dan dijalankan oleh sistem, dan pada saat yang sama memasukkan pengetahuan terstruktur dan tidak terstruktur yang kredibel ke model besar, sehingga model besar dapat belajar Untuk pengetahuan umum , hubungan logis.

ChatGPT tidak dapat membantu Anda mengatur ponsel atau mengontrol berbagai perangkat pintar di rumah Anda, tetapi asisten suara harus memiliki kemampuan seperti itu, yang juga merupakan fungsi yang sangat penting dari asisten suara pintar.

Oleh karena itu, pabrikan juga perlu mencapai analisis yang efektif dan koneksi yang efisien antara model besar dan sistem melalui pengoptimalan teknis, dan pertama "melatih dan mempelajari" model besar untuk skenario yang kompleks, sehingga model besar dapat mempelajari keterampilan manipulasi ini, dan terakhir bandingkan biaya inferensi model besar dan waktu inferensi Masalah penundaan terpecahkan.

Tidaklah cukup hanya membuat versi model skala besar yang cocok untuk asisten suara.Untuk mengatasi masalah konsumsi daya dan daya komputasi, kombinasi perangkat dan cloud juga lebih penting.

Saat ini, aplikasi ChatGPT mengandalkan daya komputasi awan, tetapi ketika mereka benar-benar digunakan dalam asisten suara, mereka melibatkan penggunaan dan pemrosesan informasi pribadi pengguna, yang pasti membutuhkan operasi lokal, tetapi operasi lokal sepenuhnya tidak dapat menyelesaikan masalah konsumsi daya yang tidak mencukupi. dan daya komputasi.

Huawei telah membuat versi model berskala besar yang berbeda, baik di sisi terminal maupun di sisi cloud.Menurut tugas yang berbeda, kedua belah pihak diproses secara kolaboratif.

Sebagai produsen chip mobile, sebelumnya Qualcomm fokus untuk mempromosikan konsep “hybrid AI” mereka, artinya penerapan generative AI di sisi mobile harus melibatkan kolaborasi sisi perangkat dan sisi cloud. Dilihat dari tindakan semua pihak dalam industri, hal ini pada dasarnya telah menjadi konsensus industri.

Tentu saja, menggunakan model besar dalam asisten suara pintar jelas tidak sesederhana yang kami sebutkan dalam beberapa kata.Ada banyak tantangan teknis dan industri di baliknya, dan kita bisa mendapatkan sedikit gambaran dari contoh Huawei.

Namun demikian, meskipun sulit, Huawei baru saja membuktikan kelayakan masalah ini, dan penerapan model besar dalam asisten suara cerdas memang dapat membawa banyak "perubahan kualitatif" dalam kemampuan.

Pertarungan model besar semakin sengit, dan data, daya komputasi, serta talenta masih menjadi fokus utama persaingan

AI generatif menyapu ribuan industri, dan dampak model besar pada industri ponsel akan jauh jangkauannya.

Bagi konsumen, ponsel menjadi lebih "pintar" dan lebih "efisien". Kami akhirnya dapat menikmati layanan yang disediakan oleh asisten suara dalam bahasa lisan biasa, seperti beberapa kemampuan pembuatan teks dan gambar di ChatGPT, dan asisten suara pintar juga I telah belajar bahwa penggunaan model besar untuk asisten suara cerdas pasti akan bermanfaat dan sangat dinantikan oleh konsumen.

Bagi produsen, merupakan tren yang tak terelakkan untuk pengembangan di masa depan bahwa smartphone dan perangkat IoT terkait menggabungkan kemampuan AI generatif berdasarkan model besar. Perubahan yang dibawa model besar ke bisnis ini akan menjadi signifikan dan berharga.

Apakah itu membuat model skala besar sendiri atau bekerja sama, setiap pabrikan harus memperhatikan pertempuran model skala besar ini.

Tentunya bagi berbagai produsen smartphone, tantangan yang dibawa gelombang ini juga sudah jelas, untuk benar-benar memenangkan pertarungan ini, banyak kesulitan yang harus diatasi.

Beberapa orang di industri AI memberi tahu Zhishi bahwa untuk pabrikan yang ingin membangun model skala besar mereka sendiri, akumulasi data, daya komputasi, dan bakat sangat diperlukan, seperti akuisisi dan pembersihan data berkualitas tinggi berskala besar, dan daya komputasi Cara mengatasi tantangan tingkat sistem , Pelatihan cara membuat biaya dapat dikendalikan. Bagi produsen yang mengadopsi model kerja sama, bagaimana memastikan pemrosesan kolaboratif end-cloud yang lebih baik, bagaimana menyeimbangkan biaya dan manfaat, dan mengeksplorasi model kerja sama bisnis, semuanya akan dihadapi oleh mereka.

Kesimpulan: Model AI, pertarungan yang sulit bagi produsen ponsel

Berdiri di simpul hari ini, pertempuran mockup ponsel telah dimulai. Pabrikan yang mengambil langkah pertama telah menunjukkan kartunya, dan pabrikan yang tidak bergerak juga sedang dalam proses pembuatan. Pertempuran maket ponsel adalah arus bawah.

Dilihat dari pencapaian asisten suara yang ada dipadukan dengan model besar, jelas model besar AI akan meningkatkan pengalaman smartphone. Model besar AI juga akan berdampak besar pada perkembangan berbagai bisnis jajaran pabrikan ponsel di masa depan Model besar AI Pasti akan menjadi tren perkembangan utama industri teknologi lanjutan, dan juga akan menjadi salah satu jalur teknologi utama yang diperhatikan semua orang.

Model AI tidak diragukan lagi menjadi pertarungan yang sulit bagi produsen ponsel, tetapi masih belum jelas siapa yang akan menghadirkan produk atau teknologi terobosan yang mendobrak struktur industri atau bahkan menumbangkan gameplay yang ada.

Menghadapi masa depan, kombinasi model besar dan asisten suara cerdas akan semakin dekat Dengan tindak lanjut dari berbagai raksasa teknologi, gelombang "evolusi" asisten suara cerdas tidak akan terbendung. Skenario aplikasi baru, bentuk dan fungsi aplikasi baru yang akan muncul di masa depan penuh dengan imajinasi.