Відкривши інтерфейс камери, ведучий робить знімок декорацій перед собою. В альбомі знайдіть це зображення і виберіть функцію «Розгорнути», але периферійна частина, яка не була відображена на фото, чарівним чином «розширена» до периферії.
З іншого боку, мобільний телефон начебто використовується для того, щоб робити селфі для відвідувачів, і коли ви заходите в його зону фронтальної камери, ви виявите, що фон зображення людини на знімку змінюється в режимі реального часу, навіть якщо селфі-людина продовжує рухатися, віртуальний фон не зношений, а затримка майже не відчувається.
Змінення фону селфі в реальному часі |
А якщо придивитися трохи уважніше, то можна виявити, що всі телефони, які використовуються для демонстрації, знаходяться в режимі польоту - тобто всі перераховані вище ускладнення працюють на локальному чіпі телефону.
Це демонстраційний зал Qualcomm Snapdragon Summit 2023 року, і функції штучного інтелекту, продемонстровані вищезазначеними мобільними телефонами, покладаються на обчислювальну потужність процесорного чіпа Snapdragon 8 Gen 3 (третє покоління Snapdragon 8), який щойно був представлений на конференції.
На даний момент, коли популярні великі моделі зі штучним інтелектом, Qualcomm на цьогорічній прес-конференції випустила дві новинки — чипи Snapdragon X Elite та Snapdragon 8 Gen 3 відповідно на мобільних пристроях, представлених ПК та смартфонами, реалізувавши локальну роботу десятків мільярдів параметрів великих моделей, зробивши магічну здатність генеративного ШІ «вбудованою функцією» мобільних пристроїв.
На додаток до «хмарного штучного інтелекту», зі швидким розвитком чіпів було реалізовано «термінальний штучний інтелект», і, можливо, настала ера «гібридного штучного інтелекту», в якому вони працюють разом.
01 AI, від дата-центру до мобільних телефонів і ПК
«Ми щойно побачили початок наступної трансформації, і вона далекосяжна. **」
Президент і генеральний директор Qualcomm Кріштіану Амон зробив такий прогноз про «гібридний штучний інтелект», що поєднує пристрої та хмару, коли описував мобільний телефон від функціональних телефонів до смартфонів, а потім і в майбутнє.
На саміті Qualcomm Snapdragon Summit Аммон пояснив, що настала ера «термінального штучного інтелекту»|Geek Park
Штучний інтелект у хмарі, як і багато сучасних додатків для розмов про генеративний штучний інтелект, може бути не чужим, але впровадження термінального ШІ має високі вимоги до апаратного забезпечення, тому два нові чіпи на прес-конференції Qualcomm – Snapdragon X Elite та Snapdragon 8 Gen 3 – особливо привертають увагу.
Мабуть, найцікавішим за день було те, що процесор Ryon на Snapdragon X Elite не тільки перевершив гордий чіп Apple M2 MAX** та Intel i9-13980HX за продуктивністю на одному потоці, але й споживав на 70% менше енергії, ніж останній при тій самій продуктивності.
Більше того, потужний процесор Oryon, Hexagon NPU та графічний процесор Adreno за підтримки гетерогенного механізму штучного інтелекту X Elite можуть досягти загальної обчислювальної потужності 75 ТОПів у трьох процесорних блоках.
Суперобчислювальна потужність дозволяє генеративному досвіду розмови зі штучним інтелектом, який раніше був доступний лише в хмарі, успішно реалізовувати в локальному середовищі комп'ютера, оснащеного чіпом Snapdragon X Elite, який може запускати великі мовні моделі з до 13 мільярдами параметрів на стороні ПК, а швидкість генерації токенів досягає 30 токенів на секунду, що швидше, ніж швидкість читання користувача; У той же час зображення, згенеровані за допомогою функції Stable Diffusion, напрочуд швидкі менш ніж за 1 секунду.
Нещодавно випущений процесор Oryon за швидкістю та енергоспоживанням є одними з найкращих у світі
У польових умовах, коли ви натискаєте кнопку генерації пальцем, і зображення може бути завершено в одну мить, досвід дивовижний, тому що люди вже давно звикли чекати, поки генеративний діалог створить зображення, від розмитого до чіткого.
Як флагманський чип для смартфонів, Snapdragon 8 Gen 3 не сильно відстає від X Elite, а з точки зору ШІ він може не тільки запускати велику модель з десятками мільярдів параметрів локально, але й генерувати зображення всього за 0,6 секунди.
Тільки в першому кварталі цього року демонстраційна версія Qualcomm змогла запустити лише велику модель з 1 мільярдом параметрів локально, а швидкість генерації зображень контролювалася до 15 секунд. Яку «магію» використовує Qualcomm, щоб «термінальний штучний інтелект» робив великі стрибки?
У випадку зі Snapdragon 8 Gen 3 Qualcomm** спочатку квантує велику модель, як-от Llama 2, стискає її за допомогою програмного стека штучного інтелекту та завантажує квантовану модель у надшвидкісну пам'ять DDR**, яка може вводити модель у Hexagon NPU з надвисокою пропускною здатністю для роботи.
AI Engine від Qualcomm оптимізовано спеціально для штучного інтелекту |
Qualcomm внесла значні поліпшення в мікроархітектуру. На додаток до оновлення апаратного забезпечення для виведення мікрозрізів, команда також додала окремі доріжки подачі енергії до тензорного прискорювача для оптимальної продуктивності та енергоефективності. У той же час Qualcomm збільшила тактову частоту скалярних і векторних прискорювачів і подвоїла пропускну здатність великої спільної пам'яті. Ці вдосконалення Hexagon NPU роблять його провідним прискорювачем для виведення великих моделей.
Qualcomm також використовує техніку «спекулятивного декодування» в голосових розмовах, яка також вперше використовується на терміналі. Ця технологія використовує алгоритм «чернетки моделі», який майже вдвічі менший за оригінальну модель, і швидко генерує 3 спекулятивні токени після виконання великої кількості висновків на центральному процесорі.
Майстер-модель обробляє всі 3 теги одночасно і вирішує, який з них прийняти. Хороша модель драфту передбачає наступний токен з високим рівнем прийняття, подвоюючи швидкість генерації токенів при збереженні точності. Нарешті, голос, згенерований асистентом штучного інтелекту, генерується моделлю штучного інтелекту перетворення тексту в мову, що працює на центральному процесорі.
Це процес, коли Qualcomm AI Engine, або NPU, у поєднанні з центральним процесором, графічним процесором, Qualcomm Sensor Hub і надшвидкою пам'яттю, працюють разом, щоб завершити сценарій використання штучного інтелекту на стороні пристрою.
Однак за складними, але ефективними прикладами застосування генеративного ШІ стоїть тривале накопичення та дослідження Qualcomm у напрямку штучного інтелекту на стороні пристрою.
02 Еволюція термінального штучного інтелекту
Якщо говорити про еволюцію хмарного апаратного забезпечення штучного інтелекту в сценарії центру обробки даних, символом є відеокарта NVIDIA; Потім розвиток ШІ на стороні пристрою знаменується движком штучного інтелекту Qualcomm, звичайно, найважливішою частиною апаратного рівня є процесор Snapdragon Hexagon NPU, що постійно розвивається.
Ще в 2007 році компанія Qualcomm представила перший процесор Hexagon на платформі Snapdragon.
У 2015 році Qualcomm інтегрувала технологію штучного інтелекту у свої процесори, використовуючи штучний інтелект для покращення обчислень зображень, аудіо та датчиків.
У 2017 році Qualcomm представила Hexagon 685 DSP у чіпі Snapdragon 845, який дозволяє смартфонам швидше виконувати складні завдання зі штучним інтелектом, такі як розпізнавання зображень та обробка голосу.
Наступного року, у 2018 році, Snapdragon 855 оновив свій механізм штучного інтелекту четвертого покоління, додавши тензорні прискорювачі до процесора Hexagon, що призвело до 3-кратного підвищення продуктивності обробки штучного інтелекту.
У Snapdragon 865 був представлений Hexagon 698 DSP, що забезпечує більшу продуктивність і ефективність штучного інтелекту. У цьому випуску наголошується на прискоренні штучного інтелекту та оптимізується виконання моделей штучного інтелекту для швидшого запуску програм штучного інтелекту в смартфонах. Hexagon 780 DSP в Snapdragon 888 на кінець 2020 року забезпечує до 26 вершин продуктивності ШІ.
Після більш ніж десятирічної еволюції можливості штучного інтелекту обчислювальної платформи Snapdragon зросли в 100 разів
До сих пір чіпи Snapdragon X Elite і 8 Gen 3 могли забезпечити 75 ТОПів обчислювальної потужності - якщо скласти графік обчислювальної потужності ШІ чіпів Qualcomm за останні сім років, то можна побачити, що «крива ШІ» показала круту тенденцію до зростання, і вона все ще не зупинилася.
Окрім апаратного забезпечення, зусилля Qualcomm на програмному рівні штучного інтелекту також необхідні для покращення можливостей термінального ШІ. Програмний стек Qualcomm AI інтегрує всі свої програмні продукти штучного інтелекту в єдине рішення. OEM-виробники та розробники можуть створювати, оптимізувати та розгортати програми штучного інтелекту на основі продуктів Qualcomm, повною мірою використовуючи переваги продуктивності Qualcomm AI Engine, дозволяючи розробникам штучного інтелекту створювати моделі штучного інтелекту один раз і розгортати їх у різних продуктах.
На саміті Snapdragon Summit Qualcomm також представила моделі програмного стека штучного інтелекту – набір моделей, які відповідають потребам розробників, які були повністю оптимізовані, протестовані та перевірені Qualcomm для підтримки платформ третього покоління Snapdragon 8 та Snapdragon X Elite.
Qualcomm Neural Network Processing SDK і Qualcomm AI Engine Direct лежать в основі програмного стека Qualcomm AI, з'єднуючи чіп з усіма основними фреймворками штучного інтелекту. З керованими моделями TF Lite і ONNX RT користувачі також можуть використовувати Tensorflow і ONNX безпосередньо, надаючи розробникам свободу вибору бажаного робочого середовища.
Qualcomm будує термінальну екосистему штучного інтелекту з безліччю гігантів і великих модельних компаній
Qualcomm співпрацює з низкою гігантів і великих модельних стартапів, і на момент випуску моделі програмного стека AI від Qualcomm вже підтримується понад 30 великих моделей, і їх кількість все ще зростає, а модель програмного стека також з'явиться на популярній платформі хостингу моделей Hugging Face.
Тепер у восьмому поколінні AI Engine від Qualcomm, який складається з кількох апаратних і програмних компонентів, забезпечує прискорення штучного інтелекту на платформах Snapdragon і Qualcomm.
Можна побачити, що** Базуючись на апаратному забезпеченні чіпа, Qualcomm об'єднує велику кількість партнерів для створення екосистеми «термінального штучного інтелекту»**.
Чому «термінальний штучний інтелект» такий важливий, і Qualcomm та її партнери не повинні шкодувати зусиль, щоб інвестувати в нього?
03 Майбутнє "гібридного штучного інтелекту"
У браузерах, у мобільних додатках багато людей використовують генеративні програми штучного інтелекту, і, схоже, такий «хмарний ШІ» задовольнив потреби людей. Які переваги штучного інтелекту на пристрої перед хмарним?
По-перше, реагувати негайно. У минулому розробники намагалися стиснути модель Stable Diffusion для генерації зображень на ноутбуці Mac, і результати вимірюються годинами. Однак, якщо локальна операція виконується на терміналі, в демонстрації, показаній Qualcomm, швидкість Fast Stable Diffusion для генерації зображень була знижена до менш ніж 1 секунди.
Особливо в сценаріях з високими вимогами до затримки, таких як віртуальні люди та віртуальні фони в реальному часі, підкреслюється безпосередність локальних обчислень термінального ШІ.
Крім того, у разі поганих мереж можливості ШІ локального пристрою стають єдиним варіантом для користувачів.
Чіп Snapdragon 8 третього покоління може досягти можливостей розширення фотографій локально на телефоні|Qualcomm
У той же час, коли дані працюють локально на терміналі, безпека також більш безпечна, ніж у хмарі. Наприклад, Snapdragon X Elite підтримує новітню наскрізну безпеку, захищаючи всі кінцеві точки на підприємстві, від чіпа до хмари. Спеціальний процесор Qualcomm Secure Processing Unit підтримує архітектуру безпеки Microsoft Pluton і призначений для зберігання конфіденційних даних.
Нарешті, удосконалення термінальних можливостей штучного інтелекту дійсно може дати помічникам ШІ шанс позбутися клейма «штучної інтелектуальної інвалідності» і по-справжньому стати кваліфікованим і високоперсоналізованим персональним інтелектуальним помічником. Так само, як і під час демонстрації в реальному часі, за допомогою особистої інформації, звичок використання та інших даних, записаних і збережених на стороні терміналу, інтелектуальний помічник може безпосередньо бронювати готелі та авіаквитки після отримання голосових команд, замість того, щоб стрибати в різних додатках на мобільному телефоні. Усі вони не мають собі рівних у хмарі.
Близько десяти років тому Марк Андерсон, засновник a16z, одного разу зробив прогноз, що «програмне забезпечення поглине світ», але, на жаль, реальність виявилася сфальсифікованою; Під хвилею штучного інтелекту, викликаною великими моделями, «додатки, що пожирають штучний інтелект» поступово стають реальністю.
Terminal AI + cloud AI змінить парадигму смартфонів, орієнтовану на додатки|Geek Park
«Прогностична сила штучного інтелекту в поєднанні з тим фактом, що термінал створений для вас, робить термінал і операційну систему, а також додаток і хмару розумними».
Аммон описує, як «гібридний штучний інтелект», що складається з термінального штучного інтелекту + хмарного штучного інтелекту, змінить звички людей щодо використання пристроїв.
На сьогоднішній день кількість терміналів, що використовують платформу Snapdragon, досягла 3 мільярдів.
Подібно до того, як процесор Oryon увійде в різні лінійки продуктів Qualcomm в майбутньому, можливості термінального штучного інтелекту незабаром будуть перенесені з ПК і мобільних телефонів на XR і розумні автомобільні пристрої - майбутнє, де «гібридний ШІ» є повсюдним.
Штучний інтелект знайде своє застосування у всіх видах пристроїв
Відкриття саміту Snapdragon Summit, спеціальної церемонії для місцевих жителів Мауї, незнайомців з-за кордону, за допомогою унікальних раковини та закликів, показують свою невинність; Місцеві жителі острова відповіли унікальним «заклинанням», щоб підтвердити, що інша сторона не мала злих намірів і заслуговувала на довіру.
Ця церемонія переїзду дуже схожа на зближення «термінального штучного інтелекту» та «хмарного штучного інтелекту», щоб принести світові майбутнє «гібридного штучного інтелекту».
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Велику модель надягають на мобільний телефон, відкриваючи завісу ШІ, щоб змінити світ
Першоджерело: Geek Park
Автор: Цзін Юй
Відкривши інтерфейс камери, ведучий робить знімок декорацій перед собою. В альбомі знайдіть це зображення і виберіть функцію «Розгорнути», але периферійна частина, яка не була відображена на фото, чарівним чином «розширена» до периферії.
З іншого боку, мобільний телефон начебто використовується для того, щоб робити селфі для відвідувачів, і коли ви заходите в його зону фронтальної камери, ви виявите, що фон зображення людини на знімку змінюється в режимі реального часу, навіть якщо селфі-людина продовжує рухатися, віртуальний фон не зношений, а затримка майже не відчувається.
А якщо придивитися трохи уважніше, то можна виявити, що всі телефони, які використовуються для демонстрації, знаходяться в режимі польоту - тобто всі перераховані вище ускладнення працюють на локальному чіпі телефону.
Це демонстраційний зал Qualcomm Snapdragon Summit 2023 року, і функції штучного інтелекту, продемонстровані вищезазначеними мобільними телефонами, покладаються на обчислювальну потужність процесорного чіпа Snapdragon 8 Gen 3 (третє покоління Snapdragon 8), який щойно був представлений на конференції.
На даний момент, коли популярні великі моделі зі штучним інтелектом, Qualcomm на цьогорічній прес-конференції випустила дві новинки — чипи Snapdragon X Elite та Snapdragon 8 Gen 3 відповідно на мобільних пристроях, представлених ПК та смартфонами, реалізувавши локальну роботу десятків мільярдів параметрів великих моделей, зробивши магічну здатність генеративного ШІ «вбудованою функцією» мобільних пристроїв.
На додаток до «хмарного штучного інтелекту», зі швидким розвитком чіпів було реалізовано «термінальний штучний інтелект», і, можливо, настала ера «гібридного штучного інтелекту», в якому вони працюють разом.
01 AI, від дата-центру до мобільних телефонів і ПК
«Ми щойно побачили початок наступної трансформації, і вона далекосяжна. **」
Президент і генеральний директор Qualcomm Кріштіану Амон зробив такий прогноз про «гібридний штучний інтелект», що поєднує пристрої та хмару, коли описував мобільний телефон від функціональних телефонів до смартфонів, а потім і в майбутнє.
Штучний інтелект у хмарі, як і багато сучасних додатків для розмов про генеративний штучний інтелект, може бути не чужим, але впровадження термінального ШІ має високі вимоги до апаратного забезпечення, тому два нові чіпи на прес-конференції Qualcomm – Snapdragon X Elite та Snapdragon 8 Gen 3 – особливо привертають увагу.
Мабуть, найцікавішим за день було те, що процесор Ryon на Snapdragon X Elite не тільки перевершив гордий чіп Apple M2 MAX** та Intel i9-13980HX за продуктивністю на одному потоці, але й споживав на 70% менше енергії, ніж останній при тій самій продуктивності.
Більше того, потужний процесор Oryon, Hexagon NPU та графічний процесор Adreno за підтримки гетерогенного механізму штучного інтелекту X Elite можуть досягти загальної обчислювальної потужності 75 ТОПів у трьох процесорних блоках.
Суперобчислювальна потужність дозволяє генеративному досвіду розмови зі штучним інтелектом, який раніше був доступний лише в хмарі, успішно реалізовувати в локальному середовищі комп'ютера, оснащеного чіпом Snapdragon X Elite, який може запускати великі мовні моделі з до 13 мільярдами параметрів на стороні ПК, а швидкість генерації токенів досягає 30 токенів на секунду, що швидше, ніж швидкість читання користувача; У той же час зображення, згенеровані за допомогою функції Stable Diffusion, напрочуд швидкі менш ніж за 1 секунду.
У польових умовах, коли ви натискаєте кнопку генерації пальцем, і зображення може бути завершено в одну мить, досвід дивовижний, тому що люди вже давно звикли чекати, поки генеративний діалог створить зображення, від розмитого до чіткого.
Як флагманський чип для смартфонів, Snapdragon 8 Gen 3 не сильно відстає від X Elite, а з точки зору ШІ він може не тільки запускати велику модель з десятками мільярдів параметрів локально, але й генерувати зображення всього за 0,6 секунди.
Тільки в першому кварталі цього року демонстраційна версія Qualcomm змогла запустити лише велику модель з 1 мільярдом параметрів локально, а швидкість генерації зображень контролювалася до 15 секунд. Яку «магію» використовує Qualcomm, щоб «термінальний штучний інтелект» робив великі стрибки?
У випадку зі Snapdragon 8 Gen 3 Qualcomm** спочатку квантує велику модель, як-от Llama 2, стискає її за допомогою програмного стека штучного інтелекту та завантажує квантовану модель у надшвидкісну пам'ять DDR**, яка може вводити модель у Hexagon NPU з надвисокою пропускною здатністю для роботи.
Qualcomm внесла значні поліпшення в мікроархітектуру. На додаток до оновлення апаратного забезпечення для виведення мікрозрізів, команда також додала окремі доріжки подачі енергії до тензорного прискорювача для оптимальної продуктивності та енергоефективності. У той же час Qualcomm збільшила тактову частоту скалярних і векторних прискорювачів і подвоїла пропускну здатність великої спільної пам'яті. Ці вдосконалення Hexagon NPU роблять його провідним прискорювачем для виведення великих моделей.
Qualcomm також використовує техніку «спекулятивного декодування» в голосових розмовах, яка також вперше використовується на терміналі. Ця технологія використовує алгоритм «чернетки моделі», який майже вдвічі менший за оригінальну модель, і швидко генерує 3 спекулятивні токени після виконання великої кількості висновків на центральному процесорі.
Майстер-модель обробляє всі 3 теги одночасно і вирішує, який з них прийняти. Хороша модель драфту передбачає наступний токен з високим рівнем прийняття, подвоюючи швидкість генерації токенів при збереженні точності. Нарешті, голос, згенерований асистентом штучного інтелекту, генерується моделлю штучного інтелекту перетворення тексту в мову, що працює на центральному процесорі.
Це процес, коли Qualcomm AI Engine, або NPU, у поєднанні з центральним процесором, графічним процесором, Qualcomm Sensor Hub і надшвидкою пам'яттю, працюють разом, щоб завершити сценарій використання штучного інтелекту на стороні пристрою.
Однак за складними, але ефективними прикладами застосування генеративного ШІ стоїть тривале накопичення та дослідження Qualcomm у напрямку штучного інтелекту на стороні пристрою.
02 Еволюція термінального штучного інтелекту
Якщо говорити про еволюцію хмарного апаратного забезпечення штучного інтелекту в сценарії центру обробки даних, символом є відеокарта NVIDIA; Потім розвиток ШІ на стороні пристрою знаменується движком штучного інтелекту Qualcomm, звичайно, найважливішою частиною апаратного рівня є процесор Snapdragon Hexagon NPU, що постійно розвивається.
Ще в 2007 році компанія Qualcomm представила перший процесор Hexagon на платформі Snapdragon.
У 2015 році Qualcomm інтегрувала технологію штучного інтелекту у свої процесори, використовуючи штучний інтелект для покращення обчислень зображень, аудіо та датчиків.
У 2017 році Qualcomm представила Hexagon 685 DSP у чіпі Snapdragon 845, який дозволяє смартфонам швидше виконувати складні завдання зі штучним інтелектом, такі як розпізнавання зображень та обробка голосу.
Наступного року, у 2018 році, Snapdragon 855 оновив свій механізм штучного інтелекту четвертого покоління, додавши тензорні прискорювачі до процесора Hexagon, що призвело до 3-кратного підвищення продуктивності обробки штучного інтелекту.
У Snapdragon 865 був представлений Hexagon 698 DSP, що забезпечує більшу продуктивність і ефективність штучного інтелекту. У цьому випуску наголошується на прискоренні штучного інтелекту та оптимізується виконання моделей штучного інтелекту для швидшого запуску програм штучного інтелекту в смартфонах. Hexagon 780 DSP в Snapdragon 888 на кінець 2020 року забезпечує до 26 вершин продуктивності ШІ.
До сих пір чіпи Snapdragon X Elite і 8 Gen 3 могли забезпечити 75 ТОПів обчислювальної потужності - якщо скласти графік обчислювальної потужності ШІ чіпів Qualcomm за останні сім років, то можна побачити, що «крива ШІ» показала круту тенденцію до зростання, і вона все ще не зупинилася.
Окрім апаратного забезпечення, зусилля Qualcomm на програмному рівні штучного інтелекту також необхідні для покращення можливостей термінального ШІ. Програмний стек Qualcomm AI інтегрує всі свої програмні продукти штучного інтелекту в єдине рішення. OEM-виробники та розробники можуть створювати, оптимізувати та розгортати програми штучного інтелекту на основі продуктів Qualcomm, повною мірою використовуючи переваги продуктивності Qualcomm AI Engine, дозволяючи розробникам штучного інтелекту створювати моделі штучного інтелекту один раз і розгортати їх у різних продуктах.
На саміті Snapdragon Summit Qualcomm також представила моделі програмного стека штучного інтелекту – набір моделей, які відповідають потребам розробників, які були повністю оптимізовані, протестовані та перевірені Qualcomm для підтримки платформ третього покоління Snapdragon 8 та Snapdragon X Elite.
Qualcomm Neural Network Processing SDK і Qualcomm AI Engine Direct лежать в основі програмного стека Qualcomm AI, з'єднуючи чіп з усіма основними фреймворками штучного інтелекту. З керованими моделями TF Lite і ONNX RT користувачі також можуть використовувати Tensorflow і ONNX безпосередньо, надаючи розробникам свободу вибору бажаного робочого середовища.
Qualcomm співпрацює з низкою гігантів і великих модельних стартапів, і на момент випуску моделі програмного стека AI від Qualcomm вже підтримується понад 30 великих моделей, і їх кількість все ще зростає, а модель програмного стека також з'явиться на популярній платформі хостингу моделей Hugging Face.
Тепер у восьмому поколінні AI Engine від Qualcomm, який складається з кількох апаратних і програмних компонентів, забезпечує прискорення штучного інтелекту на платформах Snapdragon і Qualcomm.
Можна побачити, що** Базуючись на апаратному забезпеченні чіпа, Qualcomm об'єднує велику кількість партнерів для створення екосистеми «термінального штучного інтелекту»**.
Чому «термінальний штучний інтелект» такий важливий, і Qualcomm та її партнери не повинні шкодувати зусиль, щоб інвестувати в нього?
03 Майбутнє "гібридного штучного інтелекту"
У браузерах, у мобільних додатках багато людей використовують генеративні програми штучного інтелекту, і, схоже, такий «хмарний ШІ» задовольнив потреби людей. Які переваги штучного інтелекту на пристрої перед хмарним?
По-перше, реагувати негайно. У минулому розробники намагалися стиснути модель Stable Diffusion для генерації зображень на ноутбуці Mac, і результати вимірюються годинами. Однак, якщо локальна операція виконується на терміналі, в демонстрації, показаній Qualcomm, швидкість Fast Stable Diffusion для генерації зображень була знижена до менш ніж 1 секунди.
Особливо в сценаріях з високими вимогами до затримки, таких як віртуальні люди та віртуальні фони в реальному часі, підкреслюється безпосередність локальних обчислень термінального ШІ.
Крім того, у разі поганих мереж можливості ШІ локального пристрою стають єдиним варіантом для користувачів.
У той же час, коли дані працюють локально на терміналі, безпека також більш безпечна, ніж у хмарі. Наприклад, Snapdragon X Elite підтримує новітню наскрізну безпеку, захищаючи всі кінцеві точки на підприємстві, від чіпа до хмари. Спеціальний процесор Qualcomm Secure Processing Unit підтримує архітектуру безпеки Microsoft Pluton і призначений для зберігання конфіденційних даних.
Нарешті, удосконалення термінальних можливостей штучного інтелекту дійсно може дати помічникам ШІ шанс позбутися клейма «штучної інтелектуальної інвалідності» і по-справжньому стати кваліфікованим і високоперсоналізованим персональним інтелектуальним помічником. Так само, як і під час демонстрації в реальному часі, за допомогою особистої інформації, звичок використання та інших даних, записаних і збережених на стороні терміналу, інтелектуальний помічник може безпосередньо бронювати готелі та авіаквитки після отримання голосових команд, замість того, щоб стрибати в різних додатках на мобільному телефоні. Усі вони не мають собі рівних у хмарі.
Близько десяти років тому Марк Андерсон, засновник a16z, одного разу зробив прогноз, що «програмне забезпечення поглине світ», але, на жаль, реальність виявилася сфальсифікованою; Під хвилею штучного інтелекту, викликаною великими моделями, «додатки, що пожирають штучний інтелект» поступово стають реальністю.
«Прогностична сила штучного інтелекту в поєднанні з тим фактом, що термінал створений для вас, робить термінал і операційну систему, а також додаток і хмару розумними».
Аммон описує, як «гібридний штучний інтелект», що складається з термінального штучного інтелекту + хмарного штучного інтелекту, змінить звички людей щодо використання пристроїв.
На сьогоднішній день кількість терміналів, що використовують платформу Snapdragon, досягла 3 мільярдів.
Подібно до того, як процесор Oryon увійде в різні лінійки продуктів Qualcomm в майбутньому, можливості термінального штучного інтелекту незабаром будуть перенесені з ПК і мобільних телефонів на XR і розумні автомобільні пристрої - майбутнє, де «гібридний ШІ» є повсюдним.
Відкриття саміту Snapdragon Summit, спеціальної церемонії для місцевих жителів Мауї, незнайомців з-за кордону, за допомогою унікальних раковини та закликів, показують свою невинність; Місцеві жителі острова відповіли унікальним «заклинанням», щоб підтвердити, що інша сторона не мала злих намірів і заслуговувала на довіру.
Ця церемонія переїзду дуже схожа на зближення «термінального штучного інтелекту» та «хмарного штучного інтелекту», щоб принести світові майбутнє «гібридного штучного інтелекту».