Не запихивайте большие модели в телефон

Первоисточник: Новости науки и технологий

Автор: Zhangdao

Источник изображения: Generated by Unbounded AI

В бизнес-тумане эти, казалось бы, золотые «возможности» часто являются оковами, которые заманивают людей в ловушку.

В последних новостях CNBC говорится, что глобальный гигант по производству чипов Qualcomm намерен сократить около 1258 сотрудников на двух крупных базах в Калифорнии. На самом деле, Qualcomm уже давно отправляет этот «список смерти» в департамент занятости Калифорнии: 1064 в Сан-Диего и 194 в Санта-Кларе. Ожидается, что землетрясение произойдет 13 декабря.

Отчет Qualcomm за прошлый квартал намекнул на эту «кровавую баню». С точки зрения финансовой структуры, чипы для мобильных телефонов являются основным источником дохода Qualcomm, на долю которого приходится более половины, но выручка упала на 21,6% в годовом исчислении в третьем квартале. Насыщение рынка смартфонов, как невидимая рука, потихоньку душит гигантов восходящей цепочки поставок.

Рост рынка мобильных телефонов сейчас в основном зависит от цикла обновления устройства. С 2019 года бум замены телефонов на базе 5G продолжается уже почти четыре года. Но Питер Ричардсон, старший аналитик Counterpoint, раскрыл суровую правду: к 2022 году глобальный цикл замены мобильных телефонов достиг самого длинного 43 месяцев в истории.

В течение последних пяти лет индустрия мобильных телефонов изо всех сил пыталась выйти из тупика, следуя по пути инноваций. Но в то время как даже лидеры рынка, такие как Apple, изо всех сил пытаются придумать впечатляющие новые функции, другие поставщики изо всех сил пытаются сохранить свои позиции на рынке. Все больше и больше потребителей начинают задаваться вопросом, в чем ценность перехода на новый мобильный телефон?

Некоторые отраслевые эксперты отметили, что настоящим переломным моментом может стать мощь программного обеспечения, особенно таких крупных моделей, как LLM и Transformer в области искусственного интеллекта.

Хотя неясно, как максимизировать эти потенциалы, это не мешает отечественным гигантам мобильной связи пытаться прорваться. Huami OV и другие нацелились на большие модели ИИ и стремятся открыть новое поле боя.

01 Гигантская Битва Мобильных Телефонов Большая Модель Арены

** На какое-то время отечественные производители мобильных телефонов, похоже, догнали внимание больших моделей. **

14 августа на ежегодной пресс-конференции Xiaomi была представлена большая модель Xiaomi AI, которая в одно мгновение оказалась в центре внимания. На двух основных испытательных платформах C- и CMMLU он занял десятое место и первое место в китайском соответственно.

Лэй Цзюнь уверенно объявил, что модель Xiaomi с 1,3 миллиардами параметров отлично работает на мобильном телефоне, а ее сила может даже сравниться с облачной моделью с 6 миллиардами параметров в некоторых сценариях. Известный одноклассник Сяоай также усилит способности ИИ к большим моделям, а в день конференции стартовал тест приглашения.

Волчий дым, нацеленный на большую модель ИИ, поднимается не только в Xiaomi.

Еще на конференции разработчиков Huawei 2023 4 августа Юй Чэндун махнул рукой и объявил, что HarmonyOS 4 выиграет от благословения «модели Pangu». Отличие заключается в том, что Huawei решила глубоко интегрировать большую модель в систему мобильной связи, чтобы достичь более высокого уровня интеграции.

**Вслед за Huami vivo и OPPO продолжают демонстрировать свои амбиции в области больших моделей. **

Недавно компания OPPO объявила о первом раунде публичного тестирования своего нового «Xiaobu Assistant», который привлек внимание в отрасли. Этот продукт основан на технологии больших моделей AndesGPT.

Модель AndesGPT — это высокоуровневая генеративная модель большого языка, основанная на гибридной облачной архитектуре, основанной командой OPPO Andean Intelligent Cloud. Пользователи могут принять участие в публичной бета-регистрации Xiaobu 1.0, разбудив голосового помощника Xiaobu и сказав «Xiaobu Big Model». Более подробная информация будет объявлена на запуске ColorOS 14 16 ноября.

Подобно рекламе своих коллег, AndesGPT также завоевал титул «Лидер отрасли» в своем официальном представлении, и эта модель часто появлялась во многих авторитетных списках отзывов.

С другой стороны, vivo запланировала на 1 ноября проведение ежегодной конференции разработчиков. На этом собрании vivo представит свои эксклюзивные исследования и разработки большой модели искусственного интеллекта и новой операционной системы; А также будет представлена долгожданная OriginOS 4.

Что особенно интересно, так это то, что матрица больших моделей ИИ, созданная vivo, чрезвычайно богата, охватывая три уровня параметров: миллиард, десятки миллиардов и сотни миллиардов, в общей сложности пять моделей, нацеленных на удовлетворение разнообразных основных сценариев применения.

Точно так же эта партия продуктов, которые до сих пор находятся за завесой, всплыла во многих авторитетных обзорах. Последние данные показывают, что большая модель искусственного интеллекта собственной разработки vivo занимает первое место на двух основных платформах C- и CMMLU.

В последнее время индустрия мобильных телефонов стала свидетелем того, как крупные бренды погружаются в глубокое море моделей искусственного интеллекта одну за другой. ** Жесткая конкуренция на фондовом рынке заставляет крупных производителей надеяться на использование новых технологий для создания более конкурентного имиджа на рынке элитного сегмента. **

Ряд людей, глубоко разбирающихся в отрасли, считают, что подчеркивание преимуществ функций ИИ, очевидно, является важной частью стратегии крупных производителей. Это может не только стимулировать желание пользователей к высококачественным продуктам, но и повышать цены на продукцию, тем самым создавая более прибыльную прибыль для бренда.

По прошествии времени вот-вот появится первая волна настоящих «мобильных телефонов с искусственным интеллектом», и следующие два года станут моментом инноваций в области искусственного интеллекта на мобильных телефонах.

02 Большие модели конкурируют за мобильность, и путь постепенно унифицируется

Несмотря на то, что производители мобильных телефонов публично демонстрируют, что управлять большими моделями на мобильных телефонах так же просто, как пить воду и есть, в реальной эксплуатации скрытые проблемы намного превосходят ожидания. **

По словам Луань Цзяня, руководителя большой модельной команды лаборатории искусственного интеллекта технического комитета Xiaomi, для того, чтобы действительно запустить большую модель на мобильном телефоне, требования к аппаратному обеспечению мобильного телефона никогда не будут низкими, особенно к процессору и памяти.

Как только он займет слишком много рабочей памяти телефона, это приведет к ограничению других приложений и даже может привести к тому, что телефон перестанет отвечать, общая производительность резко снизится или, в худшем случае, он напрямую выйдет из строя.

Кроме того, вычислительная мощность также является ключевым моментом в оценке. На генерацию персонажа уходит несколько секунд, что губительно для пользовательского опыта. Учитывая, что средняя скорость чтения людьми составляет около десятка китайских иероглифов в секунду, «скорость генерации» модели должна быть намного выше.

Нельзя игнорировать проблему энергопотребления. Многие онлайн-демонстрации моделей часто упускают из виду эту важную связь. Вычислительный чип при высокой нагрузке приведет к тому, что мобильный телефон будет быстро нагреваться, и если он будет эксплуатироваться так долго, это неизбежно приведет к серьезному ущербу для автономной работы.

Подводя итог, можно сказать, что реальная проблема модели большого телефона заключается в том, как найти тонкий баланс между скоростью обработки данных, рассеиванием тепла и временем автономной работы. Поэтому в центре внимания отрасли также находится взаимодействие устройств и облака. **

Не так давно MediaTek и OPPO достигли соглашения о совместной разработке облегченного решения для развертывания больших моделей на конечной стороне, стремясь приблизить технологию больших моделей к реальному использованию потребителями.

18 октября MediaTek также объявила об углубленном сотрудничестве и совместной отладке с vivo в области искусственного интеллекта, реализуя посадку 1 миллиарда и 7 миллиардов больших языковых моделей ИИ и 1 миллиарда визуальных моделей ИИ на стороне мобильных телефонов, совместно предоставляя потребителям инновационный опыт конечных приложений генеративного ИИ.

Преимущество конечной модели заключается в том, что пользователи могут наслаждаться более высокой скоростью отклика, и в то же время данные не нужно загружать в облако, что более безопасно. В настоящее время многие крупные производители разрабатывают решения для развертывания больших моделей ИИ на мобильных терминалах для достижения цели запуска больших моделей на конечной стороне.

**Однако нельзя предполагать, что мобильные устройства сами по себе решат все проблемы. ** Как сообщила Xiaomi, они продолжат следовать стратегии объединения устройств и облаков. Некоторые функции или возможности, если они могут быть реализованы через конечную модель, не нужно переносить в облако.

Глядя на ситуацию с Vivo, несмотря на недостаток точных данных, разумно предположить, что компания также примет стратегию большой модели, сочетающую облачные и локальные технологии.

Исходя из величины параметров большой модели, модели 66 миллиардов, 130 миллиардов и 175 миллиардов больших облаков предназначены для обеспечения вычислительной мощности для решения более сложных задач. Локальные модели порядка 1 млрд и 7 млрд призваны обеспечить конфиденциальность пользователей, энергоэффективность и быстрое реагирование.

Это означает, что Vivo, скорее всего, применит подход «устройство-облако» для совместной работы, т.е. оценки сложности проблемы, чтобы решить, обрабатывать ли ее локально или переместить в облако.

Сочетание облачных и локальных больших моделей позволяет не только эффективно экономить затраты, но и удовлетворять потребности пользователей в вычислительной мощности, производительности, энергопотреблении и защите конфиденциальности, что, несомненно, является одной из предпочтительных стратегий интеграции мобильных телефонов и больших моделей ИИ.

03 Производители следуют этому примеру, некоторые потенциальные проблемы

Некоторые представители отрасли рассматривают нынешние попытки запустить большие модели на мобильных телефонах как острый меч. Однако, углубляясь за кулисы, неизбежно обнаруживается чувство недальновидности, которое реагирует на ситуацию, а не действительно стремится к изменениям. **

Во-первых, определение «большой модели» до сих пор остается расплывчатым. Возьмем в качестве примера торцевую модель Xiaomi, ее количество параметров достигает 1,3 миллиарда, что мало чем отличается от параметра 1,5B у GPT2, но действительно ли этого достаточно, чтобы дать ей звание «большой модели»?

В индустрии есть много людей, которые развеяли сомнения: практика больших моделей мобильных телефонов больше направлена на удовлетворение краткосрочного бума рынка, чем на реальный скачок вперед в области технологий. Если мобильные телефоны действительно могут управлять большими моделями без особых усилий, то какое значение имеет существование графического гиганта NVIDIA?

Более того, чтобы адаптировать большие модели к мобильным телефонам, производителям приходится резко сжимать их с помощью таких стратегий, как обрезка, дистилляция и количественная оценка. В случае с vivo, который может снизить параметры со 175 миллиардов до всего лишь 1 миллиарда за счет непрерывного клипсирования модели и дистилляции, стоит задуматься, не является ли эта операция слишком надуманной.

Осознайте, что большая модель — это не просто наложение количества параметров, ее реальная ценность заключается в «глубине» глубокого обучения. Большое количество параметров означает больше информации, знаний и контекста.

Поэтому, когда модель с сотнями миллиардов параметров сокращается до миллиардов параметров, она неизбежно теряет часть первоначальной глубины обучения. Для повседневных применений ИИ влияние может быть незначительным, но для тех высококлассных пользователей, которые ожидают от ИИ глубокой аналитики и понимания, эта потеря неприемлема.

** Даже если Xiaomi утверждает, что ее конечную модель можно сравнить с облачной моделью, детали нельзя игнорировать. ** Конечную модель с 1,3 миллиардами параметров, естественно, трудно сравнить с облачной моделью с сотнями миллиардов параметров. Чтобы восполнить этот пробел, Xiaomi может сделать свою конечную модель сопоставимой с облачной моделью в определенных сценариях, но она не может быть полностью сравнена.

Исходя из этих уровней, нынешняя реализация больших моделей на мобильных телефонах кажется немного «избыточной». Среднестатистического пользователя на самом деле волнует не количество параметров модели, а то, какую ценность она может ему принести. Хотя эти попытки vivo и Xiaomi обнадеживают, они также должны задуматься об их истинной цели и значении.

Более того, несмотря на то, что многие производители мобильных телефонов активно изучают применение больших моделей ИИ, путь будущего все еще полон неизвестных. ** На рынке мобильных телефонов будет раскрыто, что будет следующим «убийственным» приложением. **

В настоящее время специфическое применение производителей мобильных телефонов к большим моделям ИИ, похоже, слишком сосредоточено на «голосовых помощниках». Неужели это однонаправленное стремление удовлетворяет только горячие тенденции науки и техники, а не реальные потребности пользователей?

Если взять в качестве примера недавний обмен новой моделью искусственного интеллекта vivo известными блоггерами, то, хотя она была представлена в OriginOS 4 с новым внешним видом, ядро не сильно подрывное по сравнению с текущим голосовым помощником.

Короче говоря, реальное внедрение моделей искусственного интеллекта в мобильные телефоны по-прежнему дает сбои. Сегодняшние усилия – это только первое путешествие айсберга.

Ресурсы:

Tencent Technology-Большие «амбиции» Xiaomi начинаются с конечной стороны

Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Поделиться
комментарий
0/400
Нет комментариев
  • Закрепить