Докладаючи всіх зусиль, щоб створювати власні чіпи AWS. Amazon переслідує Microsoft і Google у генеративному штучному інтелекті

Зосередитися на

• 1 Оскільки Microsoft і Google беруть на себе лідерство у сфері генеративного штучного інтелекту, Amazon також наздоганяє.Повідомляється, що компанія таємно розробила два чіпи в Остіні, штат Техас, для навчання та прискорення генеративного штучного інтелекту.
• 2 Дві спеціальні мікросхеми, розроблені Amazon, Inentia та Trainium, пропонують клієнтам Amazon Cloud Services AWS альтернативу графічним процесорам Nvidia, які дедалі важче придбати, для навчання великих мовних моделей.
• 3 Домінування AWS у хмарних обчисленнях є великою перевагою для Amazon. AWS є найбільшим у світі постачальником хмарних обчислень, на нього припадає 40% ринку у 2022 році.
• 4 Аналітики вважають, що спеціальні чіпи Amazon можуть дати їй перевагу в генеративному штучному інтелекті в довгостроковій перспективі.

У двох маленьких кімнатах непоказної офісної будівлі в Остіні, штат Техас, кілька співробітників Amazon розробляють два типи мікрочіпів для навчання та прискорення генеративного штучного інтелекту. Два спеціальних чіпа під кодовими назвами Inentia та Trainium пропонують клієнтам Amazon Web Services альтернативу графічним процесорам Nvidia для навчання великих мовних моделей. Зараз графічні процесори Nvidia стає все важчим і дорожчим.

«Весь світ хоче більше мікросхем для генеративного штучного інтелекту, незалежно від того, чи це графічні процесори, чи власні розробки Amazon», — сказав у червневому інтерв’ю генеральний директор AWS Адам Селіпскі. наші клієнти мають цю можливість, яку хочуть усі».

Інші компанії, однак, рухалися швидше, вливали більше грошей і запозичували у буму ШІ. Коли OpenAI запустив ChatGPT у листопаді минулого року, Microsoft привернула багато уваги за розміщення вибухового чат-бота зі штучним інтелектом. Повідомляється, що Microsoft інвестувала 13 мільярдів доларів у OpenAI. Microsoft швидко додала моделі генеративного штучного інтелекту до своїх власних продуктів та інтегрувала їх у Bing у лютому.

Того ж місяця Google запустив власну велику мовну модель Bard, а пізніше інвестував 300 мільйонів доларів у конкурента OpenAI Anthropic.

Лише у квітні цього року Amazon анонсувала власну велику мовну модель Titan і водночас запустила послугу під назвою Bedrock, щоб допомогти розробникам використовувати генеративний штучний інтелект для розширення можливостей програмного забезпечення.

«Amazon не звикла гнатися за ринками, вона звикла їх створювати, — сказав Чираг Декате, віце-президент і аналітик Gartner. — Я думаю, що вперше за довгий час вони бачать, що я перебуваю в невигідному становищі і тепер я намагаюся наздогнати».

Meta також нещодавно випустила власну велику мовну модель Llama 2, конкурента ChatGPT із відкритим вихідним кодом, який тепер доступний для тестування в публічній хмарі Microsoft Azure.

Чіп представляє «Справжню диференціацію»

У довгостроковій перспективі спеціальні чіпи Amazon можуть дати їй перевагу в генеративному штучному інтелекті, сказав Декатур. «Я думаю, що справжня різниця полягає в технічних можливостях, які вони мають, оскільки Microsoft не має Trainium або Interentia», — пояснив він.

Зображення: у 2013 році компанія AWS почала виробляти спеціальний чіп Nitro, який наразі є найбільшим чіпом AWS

Ще в 2013 році AWS тихо почала виробляти чіпи на замовлення зі спеціальним апаратним забезпеченням під назвою Nitro. Amazon виявив, що Nitro наразі є чіпом AWS з найбільшою місткістю, і є принаймні один на кожному сервері AWS із загальним використанням понад 20 мільйонів.

У 2015 році Amazon придбала Annapurna Labs, ізраїльський стартап з виробництва мікросхем. Потім у 2018 році Amazon випустив Graviton, серверний чіп на основі архітектури Arm британського розробника мікросхем, конкурент процесорів x86 таких гігантів, як AMD і Nvidia.

«Чипи Arm можуть складати до 10% від загального обсягу продажів серверів, і значна частина цього надходитиме від Amazon», — сказала Стейсі Расгон, старший аналітик Bernstein Research. хороша робота."

Також у 2018 році Amazon представила чіпи, орієнтовані на штучний інтелект. Два роки тому Google випустив свій перший тензорний процесор (TPU). Microsoft ще не анонсувала Athena, чіп зі штучним інтелектом, який вона розробляє спільно з AMD.

Amazon має лабораторію на чіпі в Остіні, штат Техас, де розробляє та тестує Trainium і Inferentia. Метт Вуд, віце-президент компанії з продуктів, пояснив, що роблять два чіпи.

Він сказав: «Машинне навчання поділяється на ці два різні етапи. Отже, вам потрібно навчити моделі машинного навчання, а потім зробити висновок на цих навчених моделях. Порівняно з іншими способами навчання моделей машинного навчання на AWS, Tradium в The price/ коефіцієнт продуктивності покращено приблизно на 50%».

Trainium дебютує в 2021 році після запуску Interentia другого покоління в 2019 році. Interentia дозволяє клієнтам «забезпечувати недорогий, високопродуктивний висновок машинного навчання з низькою затримкою, тобто всі прогнози, які ви отримуєте, коли вводите сигнал у генеративну модель ШІ, усе це обробляється, а потім ви отримуєте відповідь, — сказав Вуд.

Однак на даний момент графічні процесори Nvidia все ще залишаються беззаперечним королем, коли мова заходить про тренувальні моделі. У липні AWS представила нове обладнання для прискорення ШІ на основі Nvidia H100.

«За останні 15 років Nvidia побудувала величезну екосистему програмного забезпечення навколо своїх чіпів, якої немає в жодної іншої компанії. Зараз найбільшим переможцем у сфері ШІ є Nvidia», — сказав Расгон.

Зображення: спеціальні чіпи Amazon, зліва направо Inferentia, Trainium і Graviton

Amazon має перевагу хмарних обчислень

Однак домінування AWS у хмарних обчисленнях є великою перевагою для Amazon.

«Amazon не потребує додаткової уваги, у компанії вже є дуже потужна хмарна база. Все, що їм потрібно зробити, — це з’ясувати, як використовувати генеративний штучний інтелект, щоб зробити поточні клієнти, які розширюють діяльність у сфері створення цінностей».

Вибираючи генеративний штучний інтелект між Amazon, Google і Microsoft, мільйони клієнтів AWS можуть бути залучені до Amazon, оскільки вони вже знайомі з Amazon і запускають інші програми та зберігають там дані.

«Це питання швидкості, – пояснив Май-Лан Томсен Буковец, віце-президент із технологій AWS. – Наскільки швидко ці компанії зможуть розробити ці генеративні додатки штучного інтелекту. Від них залежить, чи спершу почати з даних у AWS, а потім розвивати їх за допомогою інструменти обчислювальної техніки та машинного навчання, які ми надаємо».

Згідно з даними Gartner, AWS є найбільшим у світі постачальником хмарних обчислень, на частку якого припадає 40% ринку у 2022 році. Незважаючи на те, що операційний прибуток Amazon знижувався в річному обчисленні протягом трьох кварталів поспіль, на AWS все ще припадало 70% операційного прибутку Amazon у розмірі 7,7 мільярда доларів США у другому кварталі. Історично AWS мав набагато вищу операційну маржу, ніж Google Cloud.

Крім того, AWS має дедалі більше портфоліо інструментів для розробників, орієнтованих на генеративний штучний інтелект. Свамі Сівасубраманян, віце-президент AWS з баз даних, аналітики та машинного навчання, сказав: «Давайте повернемо час назад, навіть до того, що було до ChatGPT. Це не сталося після того. , ми раптом поспішно придумали план, тому що ви не можете розробити новий чіп так швидко, не кажучи вже про створення базової служби за два-три місяці».

Bedrock надає клієнтам AWS доступ до великих мовних моделей, розроблених Anthropic, Stability AI, AI21 Labs і Amazon Titan. «Ми не віримо, що одна модель правитиме світом, ми хочемо, щоб наші клієнти мали найсучасніші моделі від багатьох постачальників, тому що вони виберуть правильний інструмент для правильної роботи», — сказав Сівасубраманян.

На фото: в лабораторії AWS Chip Lab в Остіні, штат Техас, співробітники Amazon розробляють власні мікросхеми штучного інтелекту

Однією з останніх пропозицій ШІ Amazon є AWS HealthScribe, сервіс, запущений у липні, щоб допомогти лікарям використовувати генеративний штучний інтелект для складання підсумків відвідувань пацієнтів. Amazon також має центр машинного навчання SageMaker, який надає алгоритми, моделі та інші послуги.

Іншим важливим інструментом є CodeWhisperer, який, за словами Amazon, дозволяє розробникам виконувати завдання в середньому на 57 відсотків швидше. Минулого року Microsoft також повідомила, що її інструмент кодування GitHub Copilot підвищив продуктивність.

У червні цього року AWS оголосила про створення інноваційного центру генеративного штучного інтелекту за 100 мільйонів доларів. Генеральний директор AWS Селіпскі сказав: «У нас є багато клієнтів, які хочуть технологію генеративного штучного інтелекту, але вони не обов’язково знають, що це означає для них у контексті їх власного бізнесу. Тому ми представимо рішення Архітектори рішень, інженери, стратеги, і дослідники даних, працюючи з ними сам-на-сам».

Генеральний директор Jassy особисто очолив команду для створення великої мовної моделі

Хоча AWS досі зосереджувався в основному на розробці інструментів, а не на створенні конкурента ChatGPT, нещодавно просочилася внутрішня електронна пошта показала, що генеральний директор Amazon Енді Джессі безпосередньо керує новою центральною командою, яка також створює масштабовані великі мовні моделі.

Під час телефонної розмови про прибутки за другий квартал Джессі сказав, що «значна частина» бізнесу AWS тепер керується штучним інтелектом і понад 20 сервісами машинного навчання, які він підтримує, клієнтами яких є Philips, 3M, Old Mutual і HSBC.

Вибух штучного інтелекту приніс із собою безліч проблем з безпекою, і компанії стурбовані тим, що співробітники вносять конфіденційну інформацію в навчальні дані, які використовуються загальнодоступними моделями великих мов.

«Я не можу сказати вам, зі скількома компаніями зі списку Fortune 500, з якими я спілкувався і які вимкнули ChatGPT», — сказав Селіпскі, генеральний директор AWS. Усе, що ви робите, яку б модель не використовували, це відбуватиметься у вашому власному ізольованому віртуальному приватному хмарному середовищі. Він буде зашифрований, він матиме ті самі засоби контролю доступу AWS».

Наразі Amazon лише прискорює свій поштовх до генеративного штучного інтелекту, стверджуючи, що наразі «понад 100 000» клієнтів використовують машинне навчання на AWS. Хоча це лише частка мільйонів клієнтів AWS, аналітики кажуть, що це може змінитися.

"Ми не бачимо, щоб компанії говорили: Ой, зачекайте, Microsoft уже є лідером у генеративному штучному інтелекті, давайте вийдемо, змінимо нашу інфраструктурну стратегію, перенесемо все до Microsoft. Якщо ви вже є клієнтом Amazon, ви, швидше за все, дослідите Екосистема Амазонки ширше» (Текст / Jinlu)