Виробники мобільних телефонів складаються, щоб викласти великі моделі, це трюк?

Першоджерело: AI Business Review

Джерело зображення: Створено Unbounded AI

21 березня 2023 року на щорічній технологічній конференції NVIDIA GTC ГЕНЕРАЛЬНИЙ ДИРЕКТОР NVIDIA ДЖЕНСЕН ХУАНГ оголосив усій технологічній індустрії: З популярністю великомовної моделі ChatGPT у всьому світі було винайдено нову обчислювальну платформу, і почався момент ШІ для iPhone.

В результаті, хоча «момент iPhone штучного інтелекту» став гарячим словом в індустрії, це також ненавмисно вказує на те, що цей раунд революції штучного інтелекту, викликаний великими мовними моделями (пізніше відомими як «великі моделі»), тісно пов'язаний з індустрією смартфонів, представленою iPhone.

Насправді, індустрія смартфонів охоплює та застосовує великі моделі запаморочливо швидко.

У минулому році китайські учасники індустрії смартфонів, включаючи Huawei, Xiaomi, OPPO, vivo і Honor, послідовно увійшли у велику модель з високим резонансом - хоча Apple офіційно не оголосила про свій вихід, в індустрії також є багато новин про компонування Apple «Apple GPT» і великих моделей.

Тож питання: виробники мобільних телефонів компонують великі моделі, чи є це дивиною?

**Huawei на крок попереду, чому? **

Перший зв'язок на рівні додатків між великими моделями та смартфонами був фактично на весняному запуску флагманської новинки Huawei у березні 2023 року.

На цій конференції Ю Чендун, виконавчий директор і генеральний директор споживчого бізнесу Huawei, випустив нову функцію «Розумний пошук» для користувачів, яка заснована на мультимодальній технології великих моделей, навчається в хмарі, а потім мініатюризує модель на мобільному телефоні, реалізуючи перший в галузі і точний досвід пошуку в бібліотеці мобільних телефонів природною мовою.

Простіше кажучи, користувачі можуть розбудити Сяойі голосом, як людина, і використовувати природну мову для пошуку фотографій у галереї мобільних телефонів, які відповідають таким описам, як «спостереження за сходом сонця з вершини гори», «приготування чаю біля вогнища», «риба-клоун у блакитному коралі» тощо.

У порівнянні з традиційною фотогалереєю, що використовує теги для пошуку фотографій, тут є такі проблеми, як низька точність і низька швидкість відгуку, а розумний пошук більш «розумний». У поєднанні з мультимодальною великою моделлю, інтелектуальний пошук попередньо навчає сотні мільйонів графічних даних, покращує розуміння узагальненої загальної семантики, підтримує пошук природною мовою, включаючи численні комбінації інформації, такі як колір, форма, об'єкт, поведінка, час і місце, а також реалізує кінцеві легкі програми.

Варто зазначити, що в процесі використання користувачами «розумного пошуку» відповідні дані обробляються на кінцевій стороні, що додатково захищає конфіденційність та безпеку споживачів.

Отже, чому Huawei може взяти на себе лідерство у використанні мультимодальної технології великих моделей для розширення можливостей смартфонів?

Відповідь проста: планування раннє.

Фактично, ще наприкінці квітня 2021 року HDC.Cloud на конференції розробників Huawei 2021 року Ю Чендун, тодішній генеральний директор HUAWEI CLOUD, випустив продукт-блокбастер HUAWEI CLOUD Pangu Model, який базується на попередньому навчанні та невеликій кількості моделей галузевої адаптації та тонкого налаштування розробки, що дозволяє провідному світовому штучному інтелекту справді увійти в тисячі галузей**.

Зокрема, велика модель Pangu, випущена цього разу, включає велику модель Pangu NLP, велику модель CV, мультимодальну велику модель і велику модель наукових обчислень. Серед них велика модель Pangu NLP є першою в галузі 100-мільярдною великою моделлю для генерації та розуміння китайського НЛП, а велика модель Pangu CV також є найбільшою в галузі великою моделлю комп'ютерного зору, що підтримує 3 мільярди параметрів; Мультимодальна велика модель включає кросмодальний пошук, генерацію розширеного режиму та розмову з графом.

Тому з 2020 року Huawei вже кілька років намічає поле великих моделей і постійно розвивається; У 2023 році, зі спалахом ChatGPT, смартфони також стали сценарієм застосування можливостей великих моделей Huawei, які будуть розгорнуті на кінцевій стороні.

На конференції розробників HDC 2023 Huawei на початку серпня 2023 року Ю Чендун заявив, що в епоху великих моделей ШІ великі моделі Pangu допоможуть екосистемі Hongmeng.

Зокрема, за допомогою Pangu Natural Language Big Model, Pangu Vision Big Model і Pangu Multimodal Big Model, система Harmony 4.0 відкриє нове «маленьке мистецтво», включаючи отримання знань, логічне мислення, планування завдань, розширення пам'яті, виклик інструментів і допомогу у виробництві тощо, щоб сприяти інтерактивній трансформації, зміні продуктивності та персоналізованій трансформації послуг інтелектуальних терміналів.

Слід зазначити, що HarmonyOS 4.0 все ще була висунута користувачам незабаром після її офіційного релізу - мало того, на осінній конференції Huawei з усіх сценаріїв нових продуктів, що відбулася 25 вересня, згідно з оголошенням Ю Чендуна на місці, Hongmeng 4.0 з благословення великих моделей має понад 60 мільйонів оновлених користувачів більш ніж через місяць після випуску.

Тобто, в даний час Huawei є справжнім превентивом в процесі розгортання великих моделей для терміналів смартфонів.

**Xiaomi OV Honor теж у грі, чи надійний він? **

Крім Huawei, вітчизняні виробники мобільних телефонів, такі як Xiaomi, OPPO, vivo і Honor, також націлені на великі моделі.

Наприкінці червня цього року на конференції MWC Shanghai Mobile Communications Conference 2023 генеральний директор Honor Чжао Мін заявив, що візьме на себе лідерство у впровадженні великих моделей штучного інтелекту на стороні пристроїв для створення персонального ШІ, який належить лише користувачам. Він також підкреслив, що «велика модель руйнує багато наших меж мислення і є найкращою інтерпретацією штучного інтелекту, яку ми бачили досі».

У той час флагманський мобільний телефон Honor Magic V2 ось-ось мав бути випущений, тому деякі сторонні голоси заявили, що це буде "перший у світі великомодельний вітчизняний мобільний телефон зі штучним інтелектом", який привернув увагу зовнішнього світу - але з пізнішої ситуації Honor Magic V2 ще не асоціювався з великою моделлю, але наприкінці серпня подав заявку на торгову марку "MagicGPT".

У порівнянні з Honor, розгортання Xiaomi в області великих моделей недалеко пішло і від звичайних користувачів.

У серпні цього року у щорічній промові Лей Цзюня за 2023 рік Лей Цзюнь заявив, що Xiaomi повністю охоплює великі моделі, а у квітні цього року сформував велику модельну команду Xiaomi AI – зрозуміло, що лідером команди є Луань Цзянь, керівник великої модельної команди лабораторії штучного інтелекту Технічного комітету Xiaomi.

У своїй промові Лей Цзюнь сказав, що основним проривним напрямком технології великих моделей Xiaomi є «полегшеність» і «локальне розгортання», і в даний час власноруч розроблена модель Xiaomi з 1,3 мільярда параметрів на кінцевій стороні пройшла демонстрацію на мобільному телефоні, і деякі ефекти сцени можна порівняти з обчислювальним ефектом 6 мільярдів моделей у хмарі.

Цікаво, що Лей Цзюнь підкреслив, що в процесі викладки великих моделей на рівні даних власні навчальні дані Xiaomi склали 80%, з яких власні продукти та бізнес-дані Xiaomi досягли 3 ТБ.

Крім того, з метою захисту конфіденційності користувачів Xiaomi також розгортає модель на торцевій стороні, інформацію не потрібно завантажувати в хмару, а всі розрахунки проводяться локально, що може принципово гарантувати, що конфіденційність користувачів не буде витоку. Навіть в рамках сервісної інтеграції device-cloud інформація про конфіденційність буде зберігатися на стороні пристрою, а обчислення за їх участю максимально завершуються на торцевій стороні. Навіть якщо можливості хмари час від часу потрібні, інформація обробляється та шифрується.

З точки зору результату, посадковий носій великої моделі Xiaomi - це «Xiaoai Classmate». Після розширення можливостей великих моделей форма взаємодії людини з комп'ютером Xiaoai буде оновлена, щоб додати ряд загальних можливостей знань, включаючи глибоке розуміння контексту, здатність перекладу, супер запитання та відповіді, генеративні результати та виконання складних завдань.

З серпня Xiaomi відкрила внутрішній тест «Little Love Classmate Big Model», і його посадка не за горами.

Крім Honor і Xiaomi, дії OPPO і Vivo в плані великих моделей не відстали.

Зокрема, 11 жовтня OPPO оголосила, що співпрацюватиме з MediaTek для створення легкого рішення для розгортання на кінцевій стороні великої моделі, і, використовуючи технологію 4-бітного квантування, вона досягне кращої продуктивності пліч-о-пліч без зниження точності, а також спільно сприятиме поступовій посадці власної великої мовної моделі AndesGPT та мультимодальної великої моделі на кінцевій стороні.

Наразі офіційно відкрито новий досвід Xiaobu Assistant 1.0 Beta, заснований на його самонавчанні Andean large model (AndesGPT), а оновлений Xiaobu Assistant матиме можливості великої моделі зі штучним інтелектом.

Крім того, 16 жовтня vivo також оголосила, що випустить нову мобільну операційну систему OriginOS 4 на конференції розробників vivo 2023 року, що відбулася 1 листопада, і першу, яка буде оснащена власноруч розробленою великою моделлю штучного інтелекту vivo - vivo також заявила, що власноруч розроблена велика модель штучного інтелекту випустить сервісні можливості з більш розумним зображенням помічника, надаючи своєму маленькому V помічнику можливість отримати ширші можливості інтелектуальних послуг, тим самим привносячи проривні інновації в навчання, життя, роботу та інші сценарії.

Загалом, майже всі мейнстрімні гравці в мобільні телефони вже захоплюють основне поле бою великої моделі, і наступним кроком буде бій яскравими мечами.

** Велика модель, як приземлитися? **

У випадку з виробниками мобільних телефонів, які приймають великі моделі, справжнє питання, над яким слід подумати, полягає в наступному: як повинні приземлитися великі моделі?

Адже з самого початку свого народження великі моделі невіддільні від великих обчислювальних потужностей, великих даних і великих параметрів у хмарі; Фактично, велика модель народжується в хмарі, яка також є основним елементом, за допомогою якого постачальники гігантського рівня, такі як Huawei, які також розробили хмарні обчислення, можуть взяти на себе лідерство в бізнес-структурі великої моделі.

Тому виробники мобільних телефонів беруть на озброєння великі моделі і з самого початку стикаються з технічним парадоксом: як приземлитися?

В даний час Xiaomi і OV вибрали спільний шлях: полегшений.

Наприклад, Xiaomi підкреслила, що в порівнянні зі схемою великих моделей на мобільному телефоні, випущеної на ринок раніше, Xiaomi буде коригувати структуру моделі і розмір параметрів, підлаштовуватися під характеристики різних чіпів в пам'яті і обчислювальних потужностях, а також прагнути досягти найкращого балансу енергоспоживання, швидкості висновків і ефекту генерації.

У той же час OPPO і vivo підкреслили, що будуть випускати великі моделі з різною величиною параметрів, від 1 мільярда до сотень мільярдів специфікацій моделей з різними масштабами параметрів - очевидно, це також повністю враховується вартістю, продуктивністю, енергоспоживанням та іншими проблемами, викликаними різними кінцями розгортання.

Крім легких розмірів, виробники мобільних телефонів, які виходять на великі моделі, також повинні подумати про те, як матеріалізувати фактичне розгортання великих моделей, що є ключовою темою, пов'язаною з користувацьким досвідом і конфіденційністю користувачів.

Наразі «інтеграція пристрою та хмари» має бути відносно очевидною тенденцією**.

Наприклад, хоча Xiaomi наголошує на локальному розгортанні з точки зору великих моделей, а її власноруч розроблена кінцева модель на 1,3 мільярда параметрів пройшла через сторону мобільних телефонів - але, за словами Луань Цзяня, керівника великої модельної команди лабораторії штучного інтелекту Технічного комітету Xiaomi, у конкретному процесі реалізації мобільний телефон не може вирішити всі проблеми, Xiaomi все одно дотримуватиметься шляху інтеграції; Однак, якщо це частина можливостей або якихось функцій, які можна вирішити в кінцевій моделі, немає необхідності підніматися в хмару.

Він підкреслив, що якщо користувачам потрібно використовувати якусь оновлену інформацію в режимі реального часу в процесі виклику великих моделей, їм потрібно об'єднати деякі можливості в хмарі.

Крім Xiaomi, OPPO також наголошує на «співпраці між пристроєм і хмарою» з точки зору великих моделей, що говорить про те, що AndesGPT по суті заснований на «співпраці між пристроєм і хмарою» як ідея проектування інфраструктури для досягнення ефекту локальної та хмарної спільної роботи - очевидно, що локальне розгортання та хмарна співпраця, важко повністю розділити.

Звичайно, виходячи з тенденції інтеграції «пристрій-хмара», насправді необхідно розглядати питання конфіденційності за великою моделлю - в даний час Huawei і Xiaomi надають великого значення питанням конфіденційності, і в основному підкреслюються ідеї кожної компанії: розрахунок, пов'язаний з великою моделлю, завершується максимально локально, зменшуючи залежність від передачі інформації і хмари.

Отже, до цього приходить питання, на яке завжди варто звернути увагу: що означає велика модель для звичайного користувача?

У зв'язку з цим старший галузевий фахівець сказав, що насправді, з точки зору користувача, він може бути не таким сильним у функціональному сприйнятті великої моделі на початку, але в майбутньому може виявитися, що її конфіденційність захищена в багатьох сценаріях, що є довгостроковим процесом від кількісних змін до якісних змін - але з точки зору виробників мобільних телефонів ніхто не відмовиться від дослідження великих моделей, інакше вона, швидше за все, відстане в цій сфері.

А як же яблука, які завжди холодні?

В даний час ставлення Тіма Кука до великих моделей в публічних інтерв'ю «обережне», він вважає, що технологія генеративного ШІ, тісно пов'язана з великими моделями, має великий потенціал в майбутньому розвитку, але в той же час її потрібно використовувати обережно, щоб вона не мала негативного впливу на людське суспільство. Але з іншого боку, коли його запитали, чи використовує він ChatGPT, Кук відповів, що він використовує його і "в захваті від цього", і що Apple приділяє цьому пильну увагу.

Однак, за даними відомого новинного веб-сайту The Information, Apple фактично зібрала сильну команду розробників великих моделей штучного інтелекту, включаючи старшого віце-президента з машинного навчання та стратегії штучного інтелекту Джона Джанндера та інших. Мало того, бюджет Apple на великі моделі зі штучним інтелектом зріс до мільйонів доларів на день. Також повідомляється, що Apple майже інтегрувала свою велику модель в Siri і вивчила можливість запуску великої мовної моделі на стороні iPhone.

Тому вона все одно настане - адже загальну тенденцію технологічного розвитку не зупинити.

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Поділіться
Прокоментувати
0/400
Немає коментарів
  • Закріпити