В битве больших моделей Huawei временно опередила Apple

Первоисточник: Box Rice Finance

Автор: Чжао Цзиньцзе

Источник изображения: сгенерировано Unbounded AI‌

После нескольких месяцев слухов о том, что «все приложения стоит переделать с помощью большой модели», все терминалы также хотят использовать большую модель, чтобы изменить свою конкурентоспособность.

Huawei стала первым производителем в индустрии мобильных телефонов, который дал конкретный график реализации крупных моделей. Недавно, когда HarmonyOS 4.0 получила доступ к возможностям крупномасштабных моделей Pangu, Xiaoyi, встроенный голосовой помощник в мобильные телефоны Huawei, стал первым интеллектуальным помощником с возможностями крупномасштабных моделей ИИ и будет открыт для тестирования в конце августа. .

Согласно вышеприведенному прогрессу, серия Huawei Mate 60, которая будет выпущена во второй половине года, также будет оснащена возможностями крупномасштабной модели и, как ожидается, станет основным аргументом в пользу продаж по сравнению с серией iPhone 15 от Apple. **

** До появления большой модели чип 5G когда-то считался внешним миром секретным оружием Huawei против нового iPhone 15. ** Согласно онлайн-отчетам, ожидается, что мобильный телефон Huawei с поддержкой 5G вернется в продажу в октябре этого года. Однако по сравнению с ожидаемыми возможностями крупномасштабной модели время запуска мобильных телефонов Huawei 5G по-прежнему сопряжено со многими неопределенностями.

В настоящее время Qualcomm и MediaTek последовательно заявляют, что они еще не получили одобрения правительства США на продажу чипсетов Huawei. Даже если новость о возвращении мобильного телефона Huawei 5G станет реальностью, его конкурентоспособность не оптимистична, потому что его большая вероятность будет заключаться в сотрудничестве с SMIC для достижения полной альтернативы локализации, а цена заключается в том, что процесс производства чипа может только достичь не более 7 нм. По сравнению с 3 нм на iPhone 15 это отставание на две эры с точки зрения технологической итерации.

По сравнению со статусом-кво отсталых чипов 5G, Huawei фактически опережает Apple в плане крупных моделей.

Хотя генеральный директор Apple Кук также рассматривает iPhone и другое оборудование в качестве носителя для демонстрации технологии искусственного интеллекта и признает огромную волну изменений, вызванных искусственным интеллектом, Apple весьма осторожно подходит к разработке крупных моделей. «Мы намеренно будем продолжать вплетать это в наши продукты».

По словам технологического репортера Bloomberg Марка Гурмана, Apple втихую разрабатывает продукты с искусственным интеллектом внутри компании, создала собственную крупномасштабную модельную структуру «Ajax» и попыталась применить ее к таким функциям продукта, как карты и Siri. выпустить «Apple GPT» для потребителей еще.

**За последние десять лет отечественные производители мобильных телефонов привели к двум крупным изменениям в продуктах: полноэкранная волна, выпущенная в 2016 году, когда-то вытеснила iPhone из пятерки лидеров на китайском рынке; волна складных экранов, запущенная в 2019 году, не пока не потряс основы iPhone. **

** В качестве еще одной новой возможности для изменения продукта, будет ли большая модель «полноэкранным моментом», который способствует популяризации отечественных производителей мобильных телефонов, или «дилеммой складного экрана», которая ограничена нишей? **

**По сравнению со сторонними приложениями, такими как ChatGPT и Wenxin Yiyan, которые были зарегистрированы в мобильном телефоне, наиболее прямое преимущество крупномасштабных моделей продуктов, встроенных непосредственно в систему мобильного телефона, заключается в более надежной защите конфиденциальности и безопасности. **

По сравнению с такими приложениями, как ChatGPT, которые обрабатывают данные в облаке, локализованное развертывание интеллектуальных терминалов может в наибольшей степени устранить опасения пользователей по поводу утечки конфиденциальной информации.

В марте этого года у ChatGPT возникла проблема с кешем из-за ошибки в библиотеке с открытым исходным кодом, что в конечном итоге привело к утечке платежной информации сотен миллионов платных пользователей ChatGPT — пользователей ChatGPT Plus, включая имена, адреса электронной почты и номера кредитных карт.Четыре цифры и дата истечения срока действия кредитной карты и т. д.

Пострадавшая от этого Федеральная торговая комиссия США также начала расследование того, нарушала ли OpenAI законы о защите прав потребителей в июле, и попросила OpenAI предоставить информацию об обработке ею персональных данных, возможности предоставления недостоверной информации пользователям и «причинении вреда потребителям». (включая риск нанесения ущерба репутации) хорошо задокументировано.

** С помощью локального развертывания терминала мобильного телефона, чтобы рассеять опасения по поводу утечки информации, пользователи могут чувствовать себя более непринужденно и смело передавать больше личных данных в большую модель. Это также имеет второе преимущество встроенного продукта большой модели мобильного телефона, а именно создание действительно персонализированного личного помощника. **

**Кроме того, продукты больших моделей, поставляемые с мобильным телефоном, имеют более стабильную операционную среду, чем ChatGPT. **

В апреле этого года ChatGPT Plus был приостановлен для оплаты по причине, указанной OpenAI, в том, что «спрос слишком велик», что привело к дефициту вычислительных ресурсов. С помощью локализованного развертывания большая модель, поставляемая с мобильным телефоном, значительно снизит зависимость от ресурсов облачных вычислений, чтобы избежать возникновения событий «времени простоя» и даже работать в автономном режиме при отключении сети.

Голосовой помощник стал приоритетным входом для многих производителей мобильных телефонов для реализации крупномасштабных моделей. Благодаря поддержке возможностей больших моделей голосовой помощник может помочь пользователям автоматически создавать тексты копирайтов, автоматически писать ответные электронные письма, автоматически создавать резюме статей и автоматически переводить...

Даже с помощью подключаемых функций голосовой помощник, поддерживаемый большой моделью, также может выполнять вызовы функций между приложениями, например, мобильные картографические приложения, приложения для путешествий и приложения для прогноза погоды и т. д., чтобы помочь пользователям составить план поездки или забронировать ресторан.

По сравнению с партией голосовых помощников, появившихся более десяти лет назад, самая крупная модель является катализатором, непосредственно ведущим Siri к версии 2.0, и, как ожидается, решит проблему, которую человеческие голосовые помощники неоднократно критиковали как «искусственную умственную отсталость». ". **

После выхода ChatGPT генеральный директор Microsoft Сатья Наделла однажды пожаловался: «Будь то Cortana, Alexa, Google Assistant или Siri, эти голосовые помощники глупы как скала».

По сообщениям СМИ, инженеры Apple надеются объединить большую модель с Siri, а также надеются выпустить более умную Siri.

По словам доктора Дин Лея, эксперта по искусственному интеллекту, одна из причин, по которой голосовые помощники предыдущего поколения не являются умными, заключается в том, что технические системы, стоящие за ними, отличаются.

** Siri версии 1.0 можно рассматривать как ИИ, принимающий решения. Основная задача состоит в том, чтобы «маркировать» существующие данные. ** Чтобы различать разные типы данных, основными задачами являются «оценка того, являются ли они данными» и «различение будь то это или нет. "та" работа. Как только внешний запрос превысит существующую библиотеку тегов, голосовой помощник ответит восходящими ответами, такими как «Я не могу ответить» и «Я все еще учусь», чтобы продолжить разговор.

**Версия Siri 2.0 — это генеративный ИИ, который будет «создавать» новый контент после обобщения и анализа существующих данных, **реализовывать эффект «выводов из одного экземпляра» и учитывать интересы пользователя при продолжении диалога Использовать опыт.

Huawei и Apple — не единственные производители, которые регистрируют большие модели мобильных телефонов.

Что касается отечественных производителей мобильных телефонов, то Xiaomi, помимо Huawei, придает наибольшее значение крупным моделям. В апреле этого года Xiaomi официально создала масштабную модельную команду численностью более 30 человек и заявила, что запуск продукта ожидается в третьем квартале этого года.

Выяснилось, что OPPO строит масштабные модели продуктов для мобильных телефонов на основе крупной модели Ali. Чжао Мин, генеральный директор Honor, также часто заявлял внешнему миру: «В будущем мы будем первыми, кто представит большие модели мобильных телефонов».

Чтобы стать первой компанией, предлагающей крупномасштабные продукты на мобильных телефонах, Samsung, как выяснилось, рассматривает планы по изменению поисковой системы по умолчанию для своих мобильных телефонов с Google на Microsoft Bing.

Чтобы максимально восстановить побег Samsung, с одной стороны, Google попыталась модернизировать существующую поисковую систему и добавила возможности крупномасштабных моделей, с другой стороны, начала интегрировать крупномасштабные модельные продукты с самых низов система.

** В мае этого года новое поколение крупномасштабной модели PaLM 2, выпущенное Google, включало решение Gecko с минимальным уровнем параметров. По словам генерального директора Google Пичаи, «Геккон» сможет работать на мобильных телефонах, причем скорость будет достаточно высокой. **

Во второй половине этого года новые модели Pixel от Google будут включать последнюю крупномасштабную версию геккона PaLM2. Pixel всегда был в авангарде экспериментов Google с новыми функциями Android. В то время, независимо от того, есть ли у отечественных производителей мобильных телефонов возможность самостоятельно разрабатывать большие модели, они смогут напрямую получить волшебную силу больших моделей из системы Google Android. **

В дополнение к усилиям разработчиков систем ведущие производители чипов также беспокоятся об использовании больших моделей для мобильных телефонов. **

** MediaTek ожидает, что Dimensity 9300, выпущенный в октябре этого года, будет поддерживать работу с крупномасштабными моделями; Qualcomm заявила, что сможет поддерживать генеративные модели искусственного интеллекта с 10 миллиардами параметров для запуска на мобильных телефонах в течение этого года. **

По словам руководителей Qualcomm, «модель с уровнем параметров от 10 до 15 миллиардов может покрыть большинство вариантов использования генеративного ИИ. Если терминал уже может поддерживать этот уровень параметров, то все расчеты могут выполняться на терминале без использования облака». обработки... Тогда мобильный телефон станет настоящим личным помощником."

Кроме того, после того, как Meta запустила большую модель Llama 2 с открытым исходным кодом, Qualcomm далее заявила, что будет сотрудничать с Meta для запуска «мобильной версии Llama 2» в 2024 году, чтобы помочь клиентам создавать интеллектуальных виртуальных помощников, приложения для повышения производительности, инструменты для создания контента и Варианты использования, такие как развлечения.

По сравнению с вычислительной мощностью облачных тысяч карт и параллельных кластерных серверов преимущество локализованного развертывания смартфонов, в свою очередь, стало недостатком, ограничивающим расширение вычислительной мощности.

Самая маленькая версия модели Llama с открытым исходным кодом от Meta также имеет 7 миллиардов параметров.При текущей конфигурации смартфонов она вообще не может работать без сбоев в имеющейся памяти.Его можно только частично запустить во флэш-памяти мобильного телефона, но это также приводит к низкой скорости отклика большой модели.

Ранее в open source сообществе некоторые разработчики портировали большую модель Llama на мобильный телефон, но процесс ожидания обратной связи занимал до десяти и более минут.

** Чтобы повысить эффективность обратной связи, в дополнение к усилению аппаратной конфигурации, такой как чипы и память, разработчик начал выполнять план уменьшения размера большой модели мобильного телефона, включая, помимо прочего, обрезку, квантование, дистилляция и другие средства, цель которых состоит в том, чтобы свести к минимуму. В предпосылке значительного снижения точности уменьшить потребление ресурсов и энергии, необходимых для большой модели на мобильном телефоне: ** Обрезка, то есть вырезание параметров в модели, которые мало влияют на точность; квантование с использованием типов данных с меньшей точностью для рассуждений; дистилляция заключается в извлечении аналогичной, но более простой модели из сложной модели.

Однако в случае GPT-4 с триллионами параметров все еще не в состоянии решить абсурд большой модели, как уменьшить генерацию ложного контента для большой модели на мобильном телефоне, который активно снижает точность после уменьшения размера, и количество параметров составляет всего 1% от GPT-4.Поставить вопросительный знак.

Д-р Дин Лэй сказал, что для крупномасштабных модельных продуктов, таких как ChatGPT, в сгенерированном контенте по-прежнему много ошибок и неясной логики, а некоторые сценарии невозможно применить непосредственно на уровне исполнения. **

Если большая модель на стороне мобильного телефона помогает пользователям составлять планы поездок или резервировать информацию о ресторанах, частые ошибки неизбежно будут напрямую влиять на частоту использования пользователем. В этом плане ChatGPT — это уже урок на прошлое.

После шести месяцев непрерывного роста данные мониторинга стороннего веб-сайта SimilarWeb показывают, что в июне этого года глобальный трафик веб-сайта и мобильных клиентов ChatGPT снизился на 9,7% по сравнению с предыдущим месяцем. испытал отрицательный рост трафика с момента его выпуска 30 ноября 2022 года.

По мнению бывшего ученого OpenAI Кеннета Стэнли, нынешние продукты для крупномасштабных моделей еще не эволюционировали до момента появления iPhone. "Генеративный ИИ определенно покорил мир, и это правда, что некоторые люди используют его каждый день, но я думаю, что мы все еще находимся в исследовательской фазе выяснения того, как мы можем использовать его по отдельности. Если мы все найдем действительно сильную причина, чтобы использовать его в любое время, и это должно быть моментом для iPhone».

Использованная литература:

"Большая модель идет к терминалу, а чип?" 》Наблюдение за полупроводниковой промышленностью

«Большой план искусственного интеллекта Google: сделать большую модель меньше и встроить каждый продукт» LatePost

«Интервью с руководителем Qualcomm AI: ожидается, что в течение этого года на мобильных телефонах будут поддерживаться крупномасштабные модели с десятками миллиардов параметров», — The Paper.

«Большая модель «уменьшается» до размеров мобильного телефона, грядет ли следующий iPhone? 》Взрыв Метавселенной

«Диалог с учеными OpenAI: время iPhone еще не пришло» Economic Observer