Впервые была представлена большая модель Xiaomi, и Huawei Xiaoyi первой представила документ.Приближается ли время GPT для мобильных телефонов?

Источник丨Умные вещи

Автор | Юньпэн

Изменить | Судьба сердца

Вот-вот начнется большая битва моделей среди производителей мобильных телефонов.

Только что на экране внезапно появилась большая модель Xiaomi, которая заняла десятое место и первое место на китайском языке на двух тестовых платформах для больших моделей C- и CMMLU соответственно.Его рейтинг C-опередил Tongyi Qianwen от Alibaba Cloud.

▲C-список

Вы должны знать, что C- и CMMLU в настоящее время признаны в отрасли в качестве авторитетных эталонных тестов китайских крупномасштабных моделей, в основном проверяющих всесторонний запас знаний и способность понимать язык крупномасштабной модели в китайской области.

▲Список оценки CMMLU

Буквально на прошлой неделе голосовой помощник Huawei Xiaoyi также интегрировал некоторые возможности собственной модели Pangu: стало реальностью использовать голосового помощника для написания резюме статей, электронных писем с приглашениями на встречи или использования ваших собственных фотографий для персонализированного дизайна.

Отечественные производители мобильных телефонов придерживаются позиции «Если вы не издаете звук, вы будете блокбастером» в отношении крупных моделей. Один уже приземлился в приложении, а другой прокатился по экрану впервые.

Раньше, будь то микросхемы собственной разработки или быстрая зарядка, производители мобильных телефонов казались «авангардами», которые проталкивали «новые технологии» на потребительский рынок, позволяя широкой публике соприкоснуться с новыми технологиями.

На волне генеративного ИИ, основанного на больших моделях, производители мобильных телефонов обязательно вступят в новую битву.

За рубежом Google и Apple уже начали «мобилизовывать» собственных интеллектуальных голосовых помощников, готовя применение масштабных моделей.В Китае, до объявления результатов крупномасштабных моделей Xiaomi, Ван Бин, директор лаборатории искусственного интеллекта Xiaomi , уже рассказал внешнему миру о крупномасштабной модели Xiaomi.Что касается планирования и прогресса в области моделирования, генеральный директор Xiaomi Лэй Цзюнь и президент Xiaomi Лу Вейбинг также неоднократно публично говорили о большой модели Xiaomi и связанных с ней макетах. .

Генеральный директор Honor Чжао Мин упомянул, что Honor сотрудничает с интернет-компаниями по запросу на крупномасштабные сетевые модели, а OPPO и vivo, которые кажутся сдержанными, на самом деле уже много лет работают в области ИИ. , Вошел в число лучших в тесте и сотрудничал с некоторыми крупными ИИ-компаниями. Со стороны Huawei уже выступил Сяойи.

Хотя волны на поверхности спокойны, битва крупных моделей среди производителей мобильных телефонов неизбежна. Каждая семья тайно строит дощатые дороги, и, возможно, вот-вот начнется ожесточенная игра с технологиями искусственного интеллекта.

Xiaomi сформировала большую модельную команду, и Honor OV может принять модель «самоисследования + сотрудничество».

Производители мобильных телефонов используют крупномасштабные модели двумя способами: один — создавать крупномасштабные модели для собственного использования, а второй — использовать крупномасштабные модели других людей.

В настоящее время Huawei и Xiaomi на шаг впереди и используют его для собственных нужд.Honor, OPPO и vivo не имеют официальной информации о компоновке больших моделей.Среди них OV и другие производители имеют соответствующую информацию о сотрудничестве по большим моделям.Однако , до сих пор неясно, как эти двое будут приняты.

Прежде всего, давайте посмотрим на Xiaomi, который сегодня проводит пальцем по экрану.На самом деле, интеллектуальный голосовой помощник Xiaomi, Xiao Ai, следует назвать самым известным среди голосовых помощников различных компаний, а также он имеет самый широкий широкий круг пользователей. Почти все виды IoT-устройств Xiaomi имеют доступ к Xiao Ai, а Xiaomi имеет наибольшее количество экологических IoT-устройств среди всех производителей смартфонов. будущее.

Будь то в отчете о доходах или в некоторых публичных интервью, соответствующие руководители Xiaomi выразили положительное мнение о большой модели и подробно объяснили компоновку Xiaomi и планирование большой модели.

В апреле этого года генеральный директор Xiaomi Лэй Цзюнь лично выпустил документ, в котором говорится, что Xiaomi будет решительно использовать технологию крупномасштабных моделей.В следующем месяце на телефонной конференции по доходам президент Xiaomi Лу Вейбинг объявил, что компания создала крупную лабораторию ИИ. команда масштабных моделей, насчитывающая более 1200 человек в области ИИ.

Главой крупной модельной группы Xiaomi является Луань Цзянь, который подчиняется Ван Биню, директору лаборатории искусственного интеллекта Xiaomi.Ван Бинь присоединился к Xiaomi в 2018 году после более чем 20-летнего исследования НЛП (обработки естественного языка) в Китайской академии наук. .

В интервью Shenran Ван Бин упомянул, что цель их команды — универсальная большая языковая модель со шкалой параметров в десятки миллиардов, а инвестиции в оборудование для обучения составляют десятки миллионов юаней. Продукты для посадки крупномасштабных моделей Xiaomi будут использовать «гибридную модель», а традиционная модель и крупномасштабная модель решают проблемы, в которых они хороши.

По словам Ван Биня, до ChatGPT Xiaomi проводила крупномасштабные исследования и приложения, связанные с моделями, однако масштаб модели исчисляется миллиардами, и это не крупномасштабная модель общего назначения. специфическая для диалога модель диалога человек-машина.

Со стороны Xiaomi руководители часто раскрывали информацию, а со стороны Honor ее генеральный директор Чжао Мин также в интервью рассказал о взглядах Honor на генеративный ИИ и крупномасштабные модели.

На Всемирном конгрессе мобильной связи в Шанхае Чжао Мин упомянул, что Honor сотрудничает с интернет-компаниями в связи с спросом на крупномасштабные сетевые модели, в то время они уже контактировали с заинтересованными компаниями.

В настоящее время Wenxin Yiyan из Baidu, Tongyi Qianwen из Ali и Xunfei Xinghuo представляют собой трехсторонние крупномасштабные модели, запущенные крупными отечественными интернет-компаниями и компаниями, занимающимися искусственным интеллектом. создана на три года.Для Honor это не самое главное.Очевидно, что важнее увеличить долю рынка и поставки.Поэтому сотрудничество может быть способом для Honor применить крупномасштабные технологии.

Со стороны OPPO Лю Бо, президент OPPO China, упомянул в интервью, что OPPO думает о применении больших моделей на мобильных телефонах.

В апреле этого года Alibaba Cloud объявила, что совместно с OPPO Andes Smart Cloud создаст инфраструктуру крупномасштабной модели OPPO и на основе Tongyi Qianwen завершит проект непрерывного обучения, тонкой настройки и подсказок для крупной модели. и создавать сервисы искусственного интеллекта для конечных пользователей OPPO.

Судя по примеру Huawei Xiaoyi, можно тонко настроить и оптимизировать Tongyi Qianwen, чтобы сделать облегченную модель, которую можно использовать в интеллектуальном голосовом помощнике OPPO.

Однако соответствующие источники из Xiaomi показали, что OPPO и vivo также могут создавать свои собственные большие модели.

В связи с этим мы также можем видеть некоторые признаки некоторых предыдущих действий OV. Например, команда ассистентов OPPO Xiaobu провела множество исследований в области технологий искусственного интеллекта, включая распознавание речи, семантическое понимание, создание диалогов, систему ответов на вопросы о знаниях, чат с открытым доменом, мультимодальность и т. д., и это все, что связано с ключевыми технологиями генеративного ИИ.

Команда помощников Сяобу исследовала и внедрила модели предварительного обучения ранее, а также разработала модели предварительного обучения OBERT с параметрами 100 млн, 300 млн и 1 млрд. Пятое место в списке и первое место в крупномасштабной карте знаний вопрос и ответ KgCLUE1.0 список.

На конференции OPPO Future Technology в прошлом году технология генеративного искусственного интеллекта использовалась в функции рисования Xiaobu, которая может создавать изображения с помощью пользовательских описаний и загруженных изображений.

Для vivo команда искусственного интеллекта разработала модель предварительной подготовки текста 3MP-Text для задач понимания естественного языка в мае этого года.В списке CLUE теста оценки понимания китайского языка 3MP-Text получил тот же рейтинг, что и параметр 100 миллионов. модельный эффект Размер в первую очередь.

Крупная модель появляется на мобильных телефонах, а интеллектуальный голосовой помощник становится авангардом первых пользователей

Производители мобильных телефонов активно осваивают большие модели, что они собираются делать? Одна вещь, которая была определена до сих пор, - это использование большой модели в интеллектуальных голосовых помощниках различных компаний, чтобы большая модель могла стать возможностью «системного уровня» вашего мобильного телефона, делая мобильный телефон более интеллектуальным и помощники больше не будут «отсталыми».

Samsung рассматривает возможность смены поисковой системы по умолчанию для мобильных телефонов и планшетов с Google на новую Bing от Microsoft, которая поддерживает чат с искусственным интеллектом. На майской конференции I/O Google представила четыре большие языковые модели PaLM 2 нового поколения с разными шкалами параметров, среди которых самая маленькая большая модель «Gecko» может работать на мобильных телефонах.

Со стороны Apple некоторые иностранные СМИ сообщили, что она разрабатывает новую функцию искусственного интеллекта под кодовым названием «Bobcat» для Siri, а техническая основа нового проекта называется «Генерация естественного языка Siri». Интеграция технологии искусственного интеллекта также станет неизбежный.

Потенциал больших моделей в голосовых помощниках на смартфонах всем очевиден.

Для потребителей мы можем ясно видеть из существующих случаев сочетания интеллектуальных голосовых помощников и больших моделей, что интеграция возможностей больших моделей решает одну из самых больших проблем в привычке пользователей использовать голосовых помощников — недостаточно естественного диалога, естественного общения. что нельзя сделать по желанию.

Проще говоря, сделать так, чтобы интеллектуальный голосовой помощник из веселого и новизны стал простым в использовании и даже стал «привычным действием». Большая модель позволяет интеллектуальному голосовому помощнику по-настоящему понимать и понимать нас, а улучшение в простоте его использования чрезвычайно значительно.

По мнению некоторых производителей терминалов, применение больших моделей, таких как ChatGPT, больше ориентировано на творческий копирайтинг, организацию информации, чат вопросов и ответов, обобщение статей и т. д., но голосовые помощники позиционируются как «интеллектуальные персональные помощники», от управления устройством, личности Чтобы повысить эффективность нашей повседневной офисной работы за счет предоставления персонализированных консультационных услуг, применение интеллектуальных голосовых помощников в сценариях потребления должно быть более широким.

В то же время, по сравнению с генеративными чат-ботами с искусственным интеллектом, такими как ChatGPT от OpenAI и Bard от Google, интеллектуальные голосовые помощники станут возможностями «системного уровня» производителей терминалов, от голосового диалога, распознавания графики и текста, предложений услуг до управления взаимосвязью устройств.

Соответствующие эксперты в области искусственного интеллекта сообщили Чжиши, что возможности системного уровня означают, что вход на системном уровне более тесно интегрирован с операционной системой, а взаимосвязь с экологией также достигла нижнего уровня системной экологии.Такой тип взаимосвязи действительно эффективен. и опыт может быть лучшим.Ну, эта взаимосвязь далеко не сравнима с вызовом SDK один на один между ChatGPT и приложением.

Кроме того, будь то Huawei, Xiaomi, Honor или OV, эти производители уже запустили широкий спектр бизнес-макетов IoT, а интеллектуальные голосовые помощники стали ключевыми сервисными порталами ИИ, соединяющими их интеллектуальные устройства.Интеграция моделей быстро расширяет возможности возможностей крупных моделей ко всей их программно-аппаратной экосистеме, что также очень важно для производителей.

Тяжело запихнуть большую модель в мобильник?

Придумать использование больших моделей в интеллектуальных голосовых помощниках несложно, еще с первого дня появления ChatGPT об этом думали все компании, занимающиеся голосовыми помощниками.

Но ключ в том, как этого добиться? Пропорциональна ли стоимость доходу, который она приносит? Большая языковая модель, такая как GPT-4, с сотнями миллиардов параметров будет использоваться в мобильном телефоне с энергопотреблением всего в несколько ватт Как решить технические проблемы?

Что касается этих вопросов, мы можем найти некоторые ответы на примере Huawei Xiaoyi, упомянутого выше.

Вообще говоря, чтобы применить большую модель к умному голосовому помощнику, нужно сделать как минимум две вещи: во-первых, оптимизировать общую большую модель в версию, подходящую для голосовых помощников.

На примере Huawei, основанном на большой модели Pangu L0, Huawei точно настроила и оптимизировала данные, используемые в обычных потребительских сценариях, и построила диалоговую модель уровня L1, которая используется в Xiaoyi.

Для этих потребительских сценариев производители должны создавать соответствующие корпусные данные, проектировать выходные данные модели, которые система может понять и выполнить, и в то же время вводить достоверные структурированные и неструктурированные знания в большую модель, чтобы большая модель могла учиться. , логическая связь.

ChatGPT не может помочь вам настроить мобильный телефон или управлять различными умными устройствами в вашем доме, но голосовые помощники должны иметь такие возможности, что также является очень важной функцией умных голосовых помощников.

Следовательно, производителям также необходимо добиться эффективного анализа и эффективной связи между большой моделью и системой посредством технической оптимизации и сначала «обучить и изучить» большую модель для сложных сценариев, чтобы большая модель могла изучить эти навыки манипулирования, и, наконец, сравните стоимость вывода большой модели и время вывода Проблема задержки решена.

Недостаточно сделать масштабную версию модели пригодной для голосовых помощников, для решения проблем энергопотребления и вычислительной мощности важнее еще и совмещение устройств и облаков.

В настоящее время приложения ChatGPT полагаются на мощность облачных вычислений, но когда они фактически используются в голосовых помощниках, они предполагают использование и обработку личной информации пользователей, что неизбежно требует локализованной работы, но полностью локализованная работа не может решить проблему недостаточного энергопотребления. и вычислительная мощность.

Компания Huawei сделала различные версии крупномасштабных моделей, как на стороне терминала, так и на стороне облака.В соответствии с различными задачами обе стороны обрабатываются совместно.

Как производитель мобильных чипов, Qualcomm и раньше уделяла особое внимание продвижению своей концепции «гибридного ИИ», фактически это означает, что применение генеративного ИИ на мобильной стороне должно включать сотрудничество со стороны устройства и облачной стороны. Судя по действиям всех сторон в отрасли, это в основном стало консенсусом в отрасли.

Конечно, использование большой модели в умном голосовом помощнике определенно не так просто, как мы упомянули в нескольких словах, за этим стоит множество технических и производственных задач, и мы можем получить небольшое представление на примере Huawei.

Но, сказав это, хотя это и сложно, Huawei только что доказала осуществимость этого дела, и применение больших моделей в интеллектуальных голосовых помощниках действительно может привести к множеству «качественных изменений» в возможностях.

Битва больших моделей приближается ожесточенно, а данные, вычислительная мощность и таланты по-прежнему находятся в центре внимания конкурентов

Генеративный ИИ охватывает тысячи отраслей, и влияние крупных моделей на индустрию мобильных телефонов будет иметь далеко идущие последствия.

Для потребителей мобильные телефоны стали более «умными» и более «эффективными». Наконец-то мы можем пользоваться услугами, предоставляемыми голосовыми помощниками на обычном разговорном языке, такими как некоторые возможности генерации текста и изображений в ChatGPT, а также умные голосовые помощники. узнали, что использование больших моделей для интеллектуальных голосовых помощников обязательно будет полезным и ожидаемым потребителями.

Для производителей неизбежной тенденцией будущего развития является то, что смартфоны и связанные с ними устройства IoT включают генеративные возможности искусственного интеллекта на основе больших моделей.. Изменения, которые большие модели привнесут в эти предприятия, будут значительными и ценными.

Будь то создание крупномасштабных моделей самостоятельно или сотрудничество, каждый производитель должен обратить внимание на эту битву крупномасштабных моделей.

Конечно, для различных производителей смартфонов вызовы, которые несет эта волна, также очевидны, и чтобы по-настоящему победить в этой битве, необходимо преодолеть множество трудностей.

Некоторые люди в индустрии искусственного интеллекта сказали Чжиши, что для производителей, которые хотят создавать свои собственные крупномасштабные модели, необходимы накопление данных, вычислительная мощность и таланты, такие как крупномасштабный высококачественный сбор и очистка данных. и вычислительная мощность. Как преодолеть проблемы на уровне системы. Обучение тому, как сделать затраты контролируемыми. Производители, использующие модель сотрудничества, столкнутся с тем, как обеспечить более качественную совместную обработку данных в конечной облачной среде, как сбалансировать затраты и выгоды, а также изучить модели делового сотрудничества.

Вывод: модель искусственного интеллекта — тяжелая битва для производителей мобильных телефонов

Стоя на сегодняшнем узле, битва макетов мобильных телефонов началась, производители, которые сделали первый ход, уже показали свои карты, а производители, которые не сделали ход, тоже в процессе назревания. является подводным.

Судя по достижениям существующего голосового помощника в сочетании с большой моделью, очевидно, что большая модель ИИ улучшит работу смартфонов.Большая модель ИИ также окажет глубокое влияние на развитие различных видов бизнеса. линии производителей мобильных телефонов в будущем.Большая модель ИИ неизбежно станет основной тенденцией развития индустрии последующих технологий, а также станет одним из ключевых технологических направлений, на которое все обращают внимание.

Модель ИИ, несомненно, является жесткой битвой для производителей мобильных телефонов, но до сих пор неясно, кто принесет прорывные продукты или технологии, которые сломают промышленную структуру или даже подорвут существующий игровой процесс.

Глядя в будущее, сочетание больших моделей и интеллектуальных голосовых помощников станет ближе.С последующим развитием различных технологических гигантов волна «эволюции» интеллектуальных голосовых помощников будет неудержима. Какие новые сценарии приложений, новые формы приложений и функции появятся в будущем, можно только воображать.