Велика модель Xiaomi була представлена вперше, і Huawei Xiaoyi першим подав документ Чи наближається час GPT для мобільних телефонів?

Джерело丨Smart Things

Автор | Юньпен

Редагувати | Доля серця

Велика битва за моделі серед виробників мобільних телефонів ось-ось настане.

Щойно велика модель Xiaomi раптово з’явилася на екрані та посіла десяте місце та перше місце в китайській мові на двох платформах для тестування великих моделей C- та CMMLU відповідно. Її ранг C випереджає Tongyi Qianwen з Alibaba Cloud.

▲С-список

Ви повинні знати, що C- і CMMLU наразі визнані в галузі авторитетними тестами китайської великомасштабної моделі, головним чином вивчаючи всебічний резерв знань і здатність розуміння мови великомасштабної моделі в китайській галузі.

▲Список оцінки CMMLU

Лише минулого тижня голосовий помічник Huawei Xiaoyi також інтегрував деякі можливості своєї власної моделі Pangu.Це стало реальністю використовувати голосового помічника для написання резюме статей, електронних листів із запрошеннями на зустріч або використання власних фотографій для персоналізованого дизайну.

Вітчизняні виробники мобільних телефонів на треку великих моделей мають позицію «Якщо ти не видаси звуку, то будеш блокбастером». Один уже потрапив у додаток, а інший вперше пронісся по екрану.

Раніше, незалежно від того, чи це були чіпи власної розробки чи швидка зарядка, виробники мобільних телефонів здавалися «авангардом», який просував «нові технології» на споживчий ринок, дозволяючи широкій громадськості познайомитися з новими технологіями.

На хвилі генеративного штучного інтелекту, заснованого на великих моделях, виробники мобільних телефонів неодмінно розпочнуть нову битву.

За кордоном Google і Apple вже почали «мобілізувати» своїх власних інтелектуальних голосових помічників, готуючи застосування великомасштабних моделей.У Китаї, перш ніж були оголошені результати масштабних моделей Xiaomi, Ван Бінь, директор лабораторії AI Xiaomi , вже розповів зовнішньому світу про великомасштабну модель Xiaomi.Що стосується планування та прогресу модельного поля, генеральний директор Xiaomi Лей Цзюнь і президент Xiaomi Лу Вейбінг також неодноразово публічно говорили про велику модель Xiaomi та пов’язані з нею макети. .

Генеральний директор For Honor Чжао Мін зазначив, що Honor співпрацює з інтернет-компаніями щодо попиту на широкомасштабні мережеві моделі, а OPPO та vivo, які здаються стриманими, насправді вже багато років працюють у сфері ШІ. Входить до числа найкращих у тестуванні та співпрацює з деякими великими компаніями штучного інтелекту. На стороні Huawei Xiaoyi вже приземлився.

Хоча на поверхні хвилі спокійні, битва великих моделей серед виробників мобільних телефонів неминуча. Кожна сім’я таємно будує дощаті дороги, і, можливо, ось-ось розпочнеться запекла гра технології ШІ.

Xiaomi сформувала велику модельну команду, і Honor OV може прийняти модель «самодослідження + співпраця»

Виробники мобільних телефонів використовують великомасштабні моделі двома способами.Одним є виготовлення великомасштабних моделей для власного використання, а іншим є використання великомасштабних моделей інших людей.

Наразі Huawei та Xiaomi на крок попереду й використовують це для власних потреб. Honor, OPPO та vivo не мають офіційної інформації про компонування великих моделей. Серед них OV та інші виробники мають відповідну інформацію про співпрацю щодо великих моделей. Однак , досі незрозуміло, як вони будуть усиновлені.

Перш за все, давайте подивимося на Xiaomi, яка сьогодні проводить пальцем по екрану.Насправді, інтелектуальний голосовий помічник Xiaomi, Xiao Ai, слід назвати найвідомішим серед голосових помічників різних компаній, а також він має найширший Майже всі типи пристроїв IoT Xiaomi мають доступ до Xiao Ai, і Xiaomi має найбільшу кількість екологічних пристроїв IoT серед усіх виробників смартфонів. Xiaomi чітко повідомила, що модель Xiaomi AI може поєднуватися з Xiao Ai у майбутнє.

Незалежно від того, чи йдеться про звіт про прибутки, чи в деяких публічних інтерв’ю, відповідні керівники Xiaomi висловили позитивні погляди на велику модель і детально пояснили макет і плани Xiaomi щодо великої моделі.

У квітні цього року генеральний директор Xiaomi Лей Цзюнь особисто видав документ, в якому говориться, що Xiaomi рішуче сприйме технологію великомасштабних моделей.Під час телефонної конференції з прибутків наступного місяця президент Xiaomi Лу Вейбінг оголосив, що компанія створила велику лабораторію ШІ. Команда масштабних моделей, яка нараховує понад 1200 людей у сфері ШІ.

Головою великої модельної команди Xiaomi є Луань Цзянь, який підпорядковується Ван Біну, директору лабораторії штучного інтелекту Xiaomi. Ван Бін приєднався до Xiaomi в 2018 році після того, як понад 20 років проводив дослідження NLP (обробка природної мови) в Китайській академії наук. .

В інтерв’ю Shenran Ван Бінь зазначив, що метою їх команди є велика мовна модель загального призначення зі шкалою параметрів у десятки мільярдів, а інвестиції в обладнання для навчання становлять десятки мільйонів юанів. Продукти для посадки великомасштабних моделей Xiaomi використовуватимуть «гібридну модель», і традиційна модель, і масштабна модель вирішують проблеми, які вони добре вирішують.

За словами Ван Біня, до ChatGPT компанія Xiaomi проводила масштабні дослідження та додатки, пов’язані з моделлю. Однак масштаб моделі обчислюється мільярдами, і це не широкомасштабна модель загального призначення. Це переважно специфічна для діалогу модель діалогу «людина-машина».

З боку Xiaomi керівники часто розкривали інформацію, а з боку Honor її генеральний директор Чжао Мін також розкрив погляди Honor на генеративний ШІ та великомасштабні моделі в інтерв’ю.

Чжао Мін згадав на Shanghai Mobile World Congress, що Honor співпрацює з інтернет-компаніями щодо попиту на масштабні моделі мереж.На той час вони вже контактували із зацікавленими компаніями.

Наразі Wenxin Yiyan від Baidu, Tongyi Qianwen від Ali та Xunfei Xinghuo від Xunfei — це тристоронні великомасштабні моделі, запущені великими вітчизняними інтернет-компаніями та компаніями штучного інтелекту.Власнорозроблені великомасштабні моделі дуже важливі для компаній, які щойно створено на три роки. Для Honor це не найважливіше. Очевидно, важливіше збільшити частку ринку та поставки. Тому співпраця може стати для Honor шляхом застосування масштабних технологій.

Щодо OPPO, Лю Бо, президент OPPO China, зазначив в інтерв’ю, що OPPO думає про застосування великих моделей на мобільних телефонах.

У квітні цього року Alibaba Cloud оголосила, що спільно з OPPO Andes Smart Cloud створюватиме інфраструктуру великомасштабної моделі OPPO. На основі Tongyi Qianwen вона завершить безперервне навчання, тонку настройку та проект підказок інтерфейсу великої моделі. , а також створювати служби ШІ для кінцевих користувачів OPPO.

Судячи з прикладу Huawei Xiaoyi, можливо точно налаштувати й оптимізувати Tongyi Qianwen, щоб створити полегшену модель, яку можна використовувати в розумному голосовому помічнику OPPO.

Однак відповідні джерела від Xiaomi показали, що OPPO та vivo також можуть виготовляти власні великі моделі.

У зв’язку з цим ми також бачимо деякі ознаки деяких попередніх дій О.В. Наприклад, команда помічників OPPO Xiaobu проводила багато досліджень у галузі технологій штучного інтелекту, включаючи розпізнавання мовлення, семантичне розуміння, створення діалогів, систему відповідей на знання, чат у відкритому домені, мультимодальність тощо, і це: все пов’язане з генеративними ключовими технологіями ШІ.

Команда помічників Xiaobu раніше досліджувала та реалізувала моделі попереднього навчання, а також розробила моделі попереднього навчання OBERT зі 100 мільйонами, 300 мільйонами та 1 мільярдом параметрів.П’яте місце в списку та перше місце на великомасштабній карті знань список запитань і відповідей KgCLUE1.0.

На конференції OPPO Future Technology Conference минулого року технологія генеративного штучного інтелекту була використана у функції малювання Xiaobu, яка може створювати зображення за допомогою описів користувачів і завантажених зображень.

У травні цього року для vivo команда штучного інтелекту розробила модель попереднього навчання тексту 3MP-Text для завдань розуміння природної мови.У списку CLUE тесту оцінки розуміння китайської мови 3MP-Text отримав той самий рейтинг, що й параметр 100 мільйонів. ефект моделі. Перш за все розмір.

Велика модель приземляється на мобільному телефоні, а інтелектуальний голосовий помічник стає авангардом перших користувачів

Виробники мобільних телефонів активно освоюють великі моделі, що вони збираються робити? Одне, що було визначено наразі, це використання великої моделі в розумних голосових помічниках різних компаній, щоб велика модель могла стати можливостями «системного рівня» вашого мобільного телефону, роблячи мобільний телефон більш інтелектуальним і помічники більше не будуть «Відсталими».

Samsung розглядає можливість зміни пошукової системи мобільних телефонів і планшетів за замовчуванням з Google на новий Bing від Microsoft, який підтримує чат AI. На конференції I/O у травні Google випустив чотири великі мовні моделі нового покоління PaLM 2 з різними масштабами параметрів, серед яких найменша велика модель «Gecko», яка може працювати на мобільних телефонах.

Зі сторони Apple деякі іноземні ЗМІ розповіли, що вона розробляє нову функцію штучного інтелекту під кодовою назвою "Bobcat" для Siri, а технічна основа нового проекту називається "Siri Natural Language Generation". Інтеграція технології штучного інтелекту також стане неминуче.

Потенціал великих моделей у голосових помічниках на смартфонах очевидний для всіх.

Для споживачів, з існуючих випадків поєднання інтелектуальних голосових помічників із великими моделями, ми можемо чітко побачити, що інтеграція можливостей великих моделей вирішує одну з найбільших проблем звички користувачів використовувати голосові помічники — недостатньо природного діалогу, природного спілкування, що не можна робити за бажанням.

Простіше кажучи, це означає, що інтелектуальний голосовий помічник перетвориться з цікавого та новизни на простий у використанні та навіть стане «звичною дією». Велика модель дозволяє інтелектуальному голосовому помічнику по-справжньому розуміти і розуміти нас, а покращення простоти його використання є надзвичайно значним.

На думку деяких виробників терміналів, застосування великих моделей, таких як ChatGPT, більше зосереджено на креативному копірайтингу, організації інформації, чаті запитань і відповідей, підсумовуванні статей тощо, але позиціонування голосових помічників є «розумними персональними помічниками», від керування пристроєм, індивідуальності. Щоб підвищити ефективність нашої повсякденної офісної роботи шляхом надання персоналізованих консультаційних послуг, застосування інтелектуальних голосових помічників у сценаріях споживання повинно бути більш широким.

У той же час, порівняно з генеративними чат-ботами штучного інтелекту, такими як ChatGPT від OpenAI і Bard від Google, інтелектуальні голосові помічники стануть можливостями «системного рівня» виробників терміналів, від голосового діалогу, розпізнавання графіки та тексту, пропозицій щодо послуг до керування взаємозв’язком пристроїв.

Відповідні експерти зі штучного інтелекту повідомили Zhishi, що можливості системного рівня означають, що вхід системного рівня більш тісно інтегрований з операційною системою, а взаємозв’язок із екологією також досяг нижнього рівня системної екології. Такий вид взаємозв’язку справді ефективний і досвід може бути найкращим. Що ж, це взаємозв’язок далеко не порівняти з індивідуальним викликом SDK між ChatGPT і додатком.

Крім того, будь то Huawei, Xiaomi, Honor чи OV, ці виробники вже запустили широкий спектр бізнес-макетів IoT, а інтелектуальні голосові помічники стали ключовими сервісними порталами штучного інтелекту, які підключають їхні розумні пристрої.Інтеграція моделей швидко розширює можливості великих моделей до всієї їхньої програмно-апаратної екосистеми, що також дуже важливо для виробників.

Чи важко запхати велику модель у мобільний телефон?

Використовувати великі моделі в інтелектуальних голосових помічниках неважко. Навіть з першого дня появи ChatGPT про це подумали всі компанії, що займаються голосовими помічниками.

Але головне, як цього досягти? Чи пропорційна вартість прибутку, який він приносить? Велика мовна модель, така як GPT-4, із сотнями мільярдів параметрів, буде використовуватися в мобільному телефоні з енергоспоживанням лише кілька ват. Як вирішити технічні проблеми?

Щодо цих питань ми можемо знайти відповіді на прикладі Huawei Xiaoyi, згаданому вище.

Загалом, щоб застосувати велику модель до розумного голосового помічника, потрібно зробити принаймні дві речі. Спочатку оптимізувати загальну велику модель у версію, придатну для голосових помічників. Усе вийшло.

На прикладі Huawei на основі великої моделі Pangu L0 компанія Huawei налаштувала й оптимізувала дані, задіяні у звичайних споживчих сценаріях, і створила діалогову модель рівня L1, яка використовується в Xiaoyi.

Для цих споживчих сценаріїв виробникам потрібно створити відповідний корпус даних, спроектувати вихідні дані моделі, які система може зрозуміти та виконати, і в той же час ввести достовірні структуровані та неструктуровані знання у велику модель, щоб велика модель могла навчитися загальним знанням. , логічний зв'язок.

ChatGPT не може допомогти вам налаштувати мобільний телефон або керувати різними розумними пристроями у вашому домі, але голосові помічники повинні мати такі можливості, що також є дуже важливою функцією розумних голосових помічників.

Таким чином, виробники також повинні досягти ефективного аналізу та ефективного зв’язку між великою моделлю та системою за допомогою технічної оптимізації, і спочатку «навчити та вивчити» велику модель для складних сценаріїв, щоб велика модель могла навчитися цим навичкам маніпулювання, і, нарешті, порівняти вартість висновку великої моделі та час висновку Проблему затримки вирішено.

Недостатньо зробити масштабну модель, придатну для голосових помічників, для вирішення проблем енергоспоживання та обчислювальної потужності також важливіше поєднання пристроїв і хмар.

Зараз програми ChatGPT покладаються на потужність хмарних обчислень, але коли вони фактично використовуються в голосових помічниках, вони передбачають використання та обробку особистої інформації користувачів, що неминуче вимагає локалізованої роботи, але повністю локалізована робота не може вирішити проблему недостатнього енергоспоживання і обчислювальна потужність.

Huawei розробила різні масштабні версії моделі, як на стороні терміналу, так і на стороні хмари. Відповідно до різних завдань, обидві сторони обробляються спільно.

Як виробник мобільних чіпів Qualcomm раніше зосереджувався на просуванні своєї концепції «гібридного штучного інтелекту». Насправді це означає, що застосування генеративного штучного інтелекту на мобільній стороні має включати співпрацю сторони пристрою та сторони хмари. Судячи з дій усіх сторін у галузі, це в основному стало консенсусом у галузі.

Звичайно, використовувати велику модель у розумному голосовому помічнику точно не так просто, як ми згадували в кількох словах.За цим стоїть багато технічних і промислових проблем, і ми можемо отримати невелике уявлення на прикладі Huawei.

Хоча це складно, Huawei тільки що довела здійсненність цього питання, і застосування великих моделей в інтелектуальних голосових помічниках справді може призвести до багатьох «якісних змін» у можливостях.

Наближається запекла боротьба великих моделей, і дані, обчислювальна потужність і таланти все ще залишаються в центрі уваги конкуренції

Generative AI охоплює тисячі галузей, і вплив великих моделей на індустрію мобільних телефонів буде далекосяжним.

Для споживачів мобільні телефони стали більш «розумними» та більш «ефективними». Нарешті ми можемо насолоджуватися послугами голосових помічників у невимушеній розмовній мові, як-от деякі можливості генерування тексту та зображень у ChatGPT, а розумні голосові помічники також є I дізналися, що використання великих моделей для інтелектуальних голосових помічників неминуче буде корисним і дуже очікуваним споживачами.

Для виробників неминучою тенденцією майбутнього розвитку є те, що смартфони та пов’язані з ними пристрої IoT включають генеративні можливості штучного інтелекту на основі великих моделей. Зміни, які великі моделі привнесуть у ці підприємства, будуть значними та цінними.

Незалежно від того, чи йдеться про створення великомасштабних моделей самостійно чи у співпраці, кожен виробник повинен приділяти увагу цій битві великомасштабних моделей.

Звичайно, для різних виробників смартфонів виклики, пов’язані з цією хвилею, також очевидні.Щоб справді виграти цю битву, потрібно подолати багато труднощів.

Деякі люди в індустрії штучного інтелекту сказали Zhishi, що для виробників, які хочуть створювати власні великомасштабні моделі, накопичення даних, обчислювальна потужність і таланти є незамінними, наприклад, великомасштабне отримання високоякісних даних і очищення, і обчислювальна потужність Як подолати виклики системного рівня, Навчання тому, як зробити витрати контрольованими. Для виробників, які приймають модель співробітництва, вони стикаються з тим, як забезпечити кращу спільну обробку в кінцевій хмарі, як збалансувати витрати та вигоди та дослідити моделі бізнес-співробітництва.

Висновок: модель AI, важка боротьба для виробників мобільних телефонів

Стоячи на сьогоднішньому вузлі, битва макетів мобільних телефонів почалася. Виробники, які зробили перший крок, уже показали свої карти, а виробники, які не зробили кроку, також знаходяться в процесі пивоваріння. Битва макетів мобільних телефонів є підводною течією.

Судячи з досягнень існуючого голосового помічника в поєднанні з великою моделлю, очевидно, що велика модель AI покращить роботу смартфонів. Велика модель AI також матиме глибокий вплив на розвиток різних видів бізнесу Лінійки виробників мобільних телефонів у майбутньому Велика модель AI ​Це неминуче стане головною тенденцією розвитку індустрії наступних технологій, а також стане одним із ключових напрямків технологій, на який усі звертають увагу.

Модель штучного інтелекту, безсумнівно, є важкою битвою для виробників мобільних телефонів, але досі незрозуміло, хто представить проривні продукти чи технології, які ламають індустріальну структуру або навіть підривають існуючий ігровий процес.

Звертаючись до майбутнього, поєднання великих моделей і інтелектуальних голосових помічників стане ближчим. З наступними кроками різних технологічних гігантів хвиля «еволюції» інтелектуальних голосових помічників буде нестримною. Які нові сценарії додатків, нові форми додатків і функції з’являться в майбутньому, сповнені уяви.