Випущено останній шаблон китайської платформи штучного інтелекту! Комплексна оцінка Baidu є першою, другий ешелон є жорсткою конкуренцією, а велика модель прискорює еволюцію постачальників хмарних послуг
Тренд великих моделей приніс сотні мільйонів «дрібних потрясінь» у все, що з ним пов'язано.
Платформа AI/ML – одна з них.
Він тісно пов'язаний з тенденцією великих моделей і може безпосередньо відображати рівень запасів досліджень і розробок технологій штучного інтелекту основних постачальників хмарних послуг, а також здатність проникати і розуміти останні тенденції.
Хто сильніший? Про це говорить індустрія.
В умовах кардинальних змін технологічного вітру платформи AI/ML також мають нові стандарти оцінки.
Останній звіт Forrester «Перший китайський звіт про платформу штучного інтелекту/машинного навчання**», опублікований міжнародним органом, містить своєчасну довідку.
Forrester Research – це незалежна компанія з дослідження технологій та ринку, яка публікує тематичні звіти, які отримали високе визнання в Китаї та в усьому світі.
«Хвиля Форрестера», що публікується раз на два роки, є найвпливовішим типом звітів Форрестера.
У звіті було опитано 14 основних постачальників хмарних послуг на внутрішньому ринку, включаючи Baidu Intelligent Cloud, Alibaba Cloud, Huawei Cloud, Tencent Cloud тощо, і оцінено їх з трьох аспектів: можливості продукту, стратегічне планування та ринкові показники.
Ґрунтуючись на всебічній оцінці 25 сегментів, Forrester розділив 14 провідних постачальників на чотири квадранти: Лідери, Найкращі виконавці, Претенденти та Претенденти.
Давайте розглянемо конкретні основні моменти.
Які нові стандарти приносять нові тренди
Почнемо з основних висновків звіту.
На цій квадрантній діаграмі стратегічний рівень є горизонтальною віссю, можливості продукту - вертикальною віссю, і він розділений на чотири квадранти: лідери, відмінні виконавці, конкуренти та претенденти, а також відображає ринкові показники кожної компанії.
У першому ешелоні знаходяться Baidu Intelligent Cloud і Alibaba Cloud. Серед них Baidu Intelligent Cloud виступив блискуче і посів перше місце в комплексному заліку.
Другий ешелон є найбільш конкурентоспроможним, з 5 постачальниками, які займають дуже компактну позицію в квадранті.
Наведений вище висновок є результатом 25 оцінок, проведених компанією Forrester.
На додаток до сортування поточного конкурентного середовища платформ AI/ML на китайському ринку, Forrester також запропонував новий стандартний еталон для оцінки платформ AI/ML.
Найбільш критичними є наступні три пункти:
Широкий набір інструментів
Простий у використанні прискорювач
Модельні операції в масштабі
Чому?
Форрестер вважає, що під впливом генеративного ШІ та тенденцій великих моделей додатки ШІ стають все більш важливими для підвищення продуктивності та прискорення бізнес-інновацій.
На сучасному китайському ринку компанії гостро потребують платформи AI/ML, яка може вирішувати складні проблеми у власному бізнес-середовищі.
Для того, щоб задовольнити ринковий попит, необхідні три аспекти, згадані вище.
По-перше, має бути ланцюжок інструментів, який забезпечує управління даними, навчання моделей і можливості розробки додатків штучного інтелекту. **
Це також ядро платформи AI/ML.
Forrester пропонує, щоб сторона платформи не тільки звертала увагу на ключові інструменти в побудові, навчанні та оцінці моделей, але й звертала увагу на інструменти, необхідні для розробки додатків ШІ.
Наприклад, фреймворки та блокноти зі штучним інтелектом для професіоналів; Low-code, візуальні інструменти для ділових людей.
На додаток до цього, інструменти управління даними також мають значний вплив на побудову моделі.
По-друге, він забезпечує простий у використанні прискорювач для галузі. **
Форрестер зазначає, що більшості компаній на вітчизняному ринку не вистачає інженерів, які розуміють як алгоритми штучного інтелекту, так і бізнес-знання, що ускладнює адаптацію алгоритмів до потреб їхнього бізнесу.
В даний час вони приймають «позу» тенденції великих моделей, або використовуючи велику модель для тонкого налаштування, або займаючись оперативним проектуванням.
Тому інструменти прискорення, які можуть прискорити побудову моделей штучного інтелекту та розробку додатків, є дуже важливими. Інструменти візуалізації, low-code розробка та багато іншого можуть ще більше прискорити інновації.
По-третє, прискорити реалізацію великих моделей за допомогою великомасштабних модельних операцій. **
Model Ops включає розгортання, моніторинг, оновлення та автоматизацію моделі, що може вирішити такі проблеми, як дрейф моделі, зниження продуктивності, обслуговування безпеки та оновлення моделі, а також забезпечити A/B-тестування, автоматичне налаштування та перенавчання моделі.
Оскільки підприємства використовують тенденцію великих моделей, платформи AI/ML з великомасштабними модельними операціями можуть краще допомогти підприємствам розробляти, розгортати та керувати моделями штучного інтелекту, сприяти цифровій трансформації підприємства, знижувати витрати та підвищувати ефективність.
Підсумовуючи, можна сказати, що для того, щоб платформа AI/ML стала лідером у новому тренді, вона повинна надавати прості у використанні інструменти, задовольняти потреби галузі та прискорювати впровадження штучного інтелекту підприємствами.
А які саме можливості конкретніше мати, ми маємо аналізувати у нинішніх керівників.
Як потрапити до квадранта лідерів? **
У цьому звіті Forrester продуктивність Baidu Intelligent Cloud привертає увагу.
Це єдиний хмарний постачальник, який увійшов до квадранта «Лідер», а також зайняв перше місце в загальному заліку та перше місце в балах 9 підрозділів.
З точки зору можливостей продукту, Baidu Intelligent Cloud знаходиться на лідируючому рівні в чотирьох підрозділах: дані, навчання, прогнозне мислення та застосування.
У той же час, з точки зору стратегічного виміру та розміру ринку, Baidu також зайняла перше місце в багатьох з цих проектів.
Forrester описує Baidu Intelligent Cloud як «одного з піонерів базової моделі Китаю»:
Baidu Intelligent Cloud вбудовує сімейство базових моделей ERNIE в портфоліо з надійною дорожньою картою продукту, а його активна екосистема навколо PaddlePaddle є ефективним способом залучення розробників штучного інтелекту до спільних інновацій.
Його конкретні можливості походять від платформи штучного інтелекту Baidu, а її продукти включають BML, EasyDL і інтелектуальну хмарну платформу великих моделей Qianfan від Baidu.
На прикладі інтелектуальної хмарної платформи штучного інтелекту Baidu ми можемо більш конкретно проаналізувати, якими можливостями повинна володіти поточна платформа AI/ML, якщо вона хоче зайняти лідируючі позиції на ринку.
Відповідно до розмірів звіту Forrester, конкретні можливості можна розділити на п'ять аспектів: дані, навчання, прогнозне мислення, застосування та архітектура. Це також п'ять основних елементів у розробці та застосуванні моделей штучного інтелекту.
**Почнемо з даних. **
У частині обробки даних платформа штучного інтелекту Baidu може обробляти як структуровані, так і неструктуровані дані.
Підтримується понад 65 типів візуалізацій даних, включаючи кругові діаграми, теплові карти, точкові діаграми, карти тощо. Він підтримує 10+ видів компонентів фільтрів, і користувачам потрібно лише зробити просте налаштування та перетягування, щоб досягти моніторингу даних у реальному часі та прийняття допоміжних рішень.
У той же час він також підтримує 30+ анотацій формату даних, підвищуючи ефективність зв'язку анотацій з максимально сконцентрованою робочою силою в процесі моделювання.
Варто зазначити, що платформа Baidu AI надає можливість анотації активного навчання, система може безпосередньо аналізувати шаблон зображень із набору даних, автоматично відфільтровувати найважливіші зображення та підказувати обмежені анотації.
Наприклад, якщо потрібно позначити 10 000 зображень, система розмістить характерні зображення попереду, а повторювані позаду, так що будуть позначені лише перші 3 000 зображень, а останні 7 000 зображень можуть бути позначені автоматично.
Згідно зі звітами, цей метод дозволяє заощадити в середньому 70-90% робочої сили для корпоративних користувачів. Частка людської праці в «штучному інтелекті» різко скоротилася.
Крім того, з точки зору розробки функцій, платформа штучного інтелекту Baidu інтегрує можливість управління базами даних функцій професійного рівня, надаючи такі функції, як додавання, видалення, модифікація та запит функцій, створення функцій, обмін функціями, керування версіями функцій та перевірка даних.
Для служб прогнозування підтримуються різні форми даних у пакетному та потоковому форматі, що може забезпечити узгодженість характеристик моделі під час навчання та остаточного прогнозування, що безпосередньо пов'язано з точністю моделі.
Вищезазначені можливості відображені в конкретних цифрах, і звіт Forrester дає платформі штучного інтелекту Baidu оцінку 5 з 5 (з оцінки) за її можливості даних, значно випереджаючи інших постачальників.
** Друге – модельне навчання. **
Це один з найбільш очевидних аспектів останньої тенденції з точки зору ринкового попиту, яка орієнтована не тільки на професійних розробників, а й на бізнесменів, які не спеціалізуються на алгоритмах штучного інтелекту, тому вона вимагає, щоб платформа AI/ML, яка надає можливості, була простою у використанні та гнучкою.
Зверніться до практики платформи штучного інтелекту Baidu.
З одного боку, він надає значення «широті» та підтримує моделювання та навчання різноманітних даних, таких як зображення, відео, текст та мова.
Метод моделювання також дуже гнучкий, підтримуючи різноманітні методи моделювання, такі як розробка ноутбуків/WebIDE, візуальна розробка за допомогою перетягування, налаштування параметрів сценарію, користувацькі завдання тощо, які можуть завершити індивідуальну розробку високоточних моделей для людей з різним професійним рівнем.
З іншого боку – «глибина». За підтримки власної команди алгоритмів веслування платформа штучного інтелекту Baidu провела глибоку оптимізацію великої кількості операторів сцени. Включаючи класифікацію зображень, виявлення об'єктів, класифікацію тексту, анотацію послідовності тощо.
Наприклад, PP YOLO, який глибоко оптимізований на базі оператора Paddle, перевершив бенчмарк YOLO V3 в області виявлення об'єктів.
Простота використання також є великою увагою. На платформі Baidu AI можна реалізувати моделювання з нульовим кодом та візуальне моделювання. У першому випадку користувачам потрібно лише завантажити дані та вибрати тип, щоб почати моделювання. Останній може зібрати процес моделювання, перетягуючи компоненти та встановлюючи параметри кожної деталі.
Крім того, обсяг обчислень штучного інтелекту збільшується щонайменше в 10 разів на рік, а можливість коригувати ресурси завдань у навчанні глибокому навчанню стала особливо важливою. Платформа штучного інтелекту Baidu підтримує багатомашинне та багатокарткове розподілене навчання, а також надає різноманітні типи обчислювальних ресурсів.
Крім того, сама Baidu має багатий досвід навчання надвеликих моделей, і може інтегрувати власні можливості у візуальні великі моделі, генеративний ШІ тощо. Наприклад, може бути виконаний автоматичний пошук гіперпараметрів, автоматична обробка незбалансованих даних, надмасштабне попереднє навчання.
Як наслідок, на платформі Baidu AI також можна побачити безліч інструментів розробки для підвищення ефективності програмування.
Третій вимір компетенції - міркування. **
З розвитком великих моделей ринок логічних висновків буде ще більше розширюватися і навіть зростати в геометричній прогресії, що створює великі проблеми для платформ AI/ML.
З точки зору платформи штучного інтелекту Baidu, вони в основному зосереджені на ефективності розробки, оптимізації продуктивності, гнучкості та екстенсивності.
Його модуль логічного висновку, Model Serve, підтримує 16 фреймворків штучного інтелекту, включаючи найпоширеніші Paddle, Tensor Flow і PyTorch, а також Matlab/R для наукових обчислень і Xg boost для машинного навчання.
З точки зору оптимізації продуктивності, планувальник асинхронних висновків безпосередньо абстрагується на рівні планування для досягнення гетерогенних працівників логічного висновку, покращуючи продуктивність використання всього сервера та графічного процесора більш ніж у 1 раз.
У той же час він підтримує автоматичну пакетну обробку, класифікує завдання різної тривалості та об'єднує завдання однакового розміру в одну партію для повного використання різнорідних ресурсів, що може підвищити ефективність на 70% на основі асинхронної розв'язки.
Четверта сфера, на якій слід зосередитися, це застосування. **
Додаток у звіті в основному досліджує ефективність застосування кожної платформи.
Тобто, як використовувати наявні ресурси для швидкого перетворення даних на продуктивність бізнесу.
Платформа штучного інтелекту Baidu може надати повні можливості управління життєвим циклом для процесу розробки штучного інтелекту, від збору та очищення даних до розробки та навчання моделей, управління моделями до управління хмарними та офлайн-сервісами висновків.
Варто зазначити, що платформа Baidu AI є першою платформою в Китаї, яка досягла флагманського рівня стандарту MLOps Академії інформаційно-комунікаційних технологій.
В даний час можливості платформи штучного інтелекту Baidu експортуються в такі галузі, як фінанси, енергетика та транспорт. Обслуговує Шанхайський банк розвитку Пудун, Банк Пекіна, а також державну мережу, Південну електромережу Китаю тощо.
У 2022 році кількість користувачів інтелектуальної хмарної AI-платформи Baidu від Baidu збільшиться на 49%, кількість приватизованих клієнтів збільшиться на 32%, а кількість розробників збільшиться на 1,228 мільйона, при темпі зростання близько 40%; Ставка викупу зростала з року в рік, а ставка викупу в ключових галузях досягла 50%.
Нарешті, з точки зору архітектури, архітектурний дизайн платформи штучного інтелекту Baidu отримав повну оцінку в оцінці Forrester.
Якщо узагальнити одним реченням, то платформа штучного інтелекту Baidu досягла рівня «лідера», тобто зробила це:
Тут багато алгоритмів, інструментів, швидка робота, хороші результати, а також це економить сервери та робочу силу, забезпечуючи при цьому безпеку та простоту використання.
Проаналізувавши загальні можливості платформи штучного інтелекту Baidu, неважко виявити, що багато з цих інструментів та ідей відповідають новим потребам нинішньої тенденції великих моделей.
Насправді, в умовах кардинальних змін у напрямку технологій, це не тільки тенденція коригувати існуючу архітектуру, щоб адаптуватися до змін попиту, а й пропонувати нові способи боротьби з нею.
В епоху великих моделей попередньо визначена нова модель конкуренції ШІ в хмарі
Отже, під впливом хвилі великих моделей, які нові зміни відбулися в ринковому попиті на AI/ML платформи?
У минулому багато моделей CV і NLP називалися SOTA, але все ж частіше вони використовувалися в непрофільних бізнесах галузі. Тепер, завдяки своїй дивовижній здатності підривати традиційні робочі процеси, великі моделі починають визнаватися все більше і більше, і вважаються ключем до подолання вузького місця інтелекту в різних галузях.
Однак для хмарних вендорів це не означає, що епоха великих моделей «починається з нуля» в епоху маленьких моделей.
Насправді, з поглибленням застосування великих моделей все більше уваги привертають такі технічні галузі, як агенти. Суть полягає в тому, що велика модель базується на власних можливостях і пов'язує маленьку модель зі зрілим плануванням для вирішення проблеми в практичних додатках, що вважається більш швидким і цінним у виробничому сценарії.
Тому в «нову еру», відкриту великими моделями, для «лідерів» AI/ML платформ технічне накопичення в епоху малих моделей і технологічні інновації в епоху великих моделей доповнюють і не обходяться.
Платформа штучного інтелекту Baidu в «нову еру» передала бланк відповідей - Baidu Intelligent Cloud Qianfan Large Model Platform є прикладом.
Як універсальна платформа великої моделі корпоративного рівня, Baidu Intelligent Cloud Qianfan Platform є, по суті, продуктом глибокого накопичення Baidu на рівні мікросхеми, фреймворковому рівні, рівні моделі та прикладному рівні.
Вона втілюється в п'яти аспектах:
По-перше, на рівні обчислювальної потужності інтелектуальна хмарна платформа Qianfan від Baidu може надавати ефективні та економічно вигідні гетерогенні обчислювальні послуги.
У процесі навчання великої моделі, завдяки стратегії розподіленого паралельного навчання та можливостям взаємоз'єднання мікросекундного рівня, коефіцієнт прискорення кластерного навчання в масштабі 10 000 карт на платформі Baidu Qianfan може досягати 95%. При цьому ефективний час навчання кластера Ванька може досягати 96%, що значно знижує витрати обчислювальних потужностей і часу.
По-друге, на рівні моделі платформа Baidu Qianfan керувала 44 основними великими моделями в країні та за кордоном, включаючи велику модель Wenxin, серію Llama, ChatGLM тощо, і підтримує користувачів у швидкому виклику API та безпосередньому отриманні можливостей великих моделей.
Для сторонніх великих моделей платформа Baidu Qianfan також була цілеспрямовано оптимізована, включаючи китайське вдосконалення, підвищення продуктивності, покращення контексту тощо.
Baidu показав, що кількість викликів API великих моделей на платформі Baidu Qianfan продовжує зростати з високою швидкістю. В даний час платформа Baidu Qianfan обслуговує понад 20 000 клієнтів.
По-третє, для клієнтів, які хочуть здійснити вторинну розробку на основі існуючих великих моделей, платформа Baidu Qianfan надає повний ланцюжок інструментів життєвого циклу для перенавчання, тонкого налаштування, оцінки та розгортання великих моделей, а також 41 високоякісний набір даних, який може реалізувати швидку оптимізацію моделі для конкретних бізнес-сценаріїв.
По-четверте, на прикладному рівні, у відповідь на потреби підприємств у розробці додатків зі штучним інтелектом на основі великих моделей, платформа Baidu Qianfan надає низку компонентів і фреймворків можливостей.
Наприклад, є 226 вбудованих шаблонів, завдяки чому розробники можуть швидко покращити якість відповідей на великі моделі, навіть якщо вони не знайомі з оперативним інжинірингом.
На Всесвітній конференції Baidu 17 жовтня Baidu Intelligent Cloud також випустила «Baidu Qianfan AI Native Application Development Workbench». Зокрема, цей «верстак» складається з двох частин: компоненти додатків + фреймворки додатків.
**Сервіси компонентів додатків складаються з двох компонентів: штучного інтелекту та базової хмари. **
Серед них компонент штучного інтелекту, тобто компонентна інкапсуляція можливостей великих моделей, включає великі компоненти мовних моделей, такі як запитання та відповіді та ланцюжок думок (CoT), а також мультимодальні компоненти, такі як діаграма Веньшена та розпізнавання мови.
До базових хмарних компонентів належать традиційні хмарні сервіси, такі як векторні бази даних та об'єктні сховища.
Прикладний фреймворк орієнтований на конкретні сценарні завдання, що можна розуміти як ефективну комбінацію вищевказаних компонентів програми, засновану на можливостях великих моделей.
В даний час платформа Baidu Qianfan надає широко використовувані фреймворки додатків штучного інтелекту, такі як Retrieval Enhanced Generation (RAG) і Agent.
Серед них фреймворк RAG може поєднувати знання у власній сфері підприємства з великою моделлю Q&A, щоб давати більш точні відповіді на професійні знання.
Базуючись на цьому фреймворку RAG, Sany Heavy Industry швидко реалізувала розробку та запуск інтелектуального додатка для обслуговування клієнтів на офіційному веб-сайті.
Шен Доу, виконавчий віце-президент Baidu Group і президент Baidu Intelligent Cloud Business Group, розповів, що навіть якщо вам потрібно обробити тисячі довгих документів, вартість створення такого «маленького помічника» становить лише кілька сотень юанів; Після цього вартість кожної інформації для користувачів становить всього кілька центів.
Базуючись на агентській структурі, велика модель може автоматично розбирати завдання, задані людьми, автоматично планувати та викликати різні компоненти для спільного виконання завдань, і в той же час забезпечувати самозворотний зв'язок відповідно до ефекту виконання завдання для покращення власних можливостей.
В даний час, на основі цієї агентської структури, Zhongtian Iron and Steel побудувала інтелектуальний «центр планування підприємства» для реалізації автоматичного сприйняття, декомпозиції та виконання інструкцій завдань.
Наприклад, коли виявляється, що випуск сталі не відповідає стандартам, велика модель може автоматично викликати різні ресурси та API, керовані платформою, щоб з'ясувати причину невідповідності, вчасно скорегувати графік виробництва та надіслати електронний лист для сповіщення диспетчера.
Нарешті, Baidu Qianfan також запустив «AI Native App Store», який з'єднує сторону пропозиції та сторону попиту нативних додатків штучного інтелекту та забезпечує місце збору для великомасштабних модельних бізнес-можливостей.
Неважко помітити, що, з одного боку, швидкий запуск інтелектуальної хмарної платформи великих моделей Qianfan від Baidu виграє від розвитку власної технології великих моделей Baidu; З іншого боку, можливості продукту, накопичені платформою штучного інтелекту Baidu протягом багатьох років, а також її багатий практичний досвід у галузі змусили платформу Baidu Qianfan взяти на себе лідерство в ефективній ролі на стороні додатків.
Згідно з даними IDC, ринок публічних хмарних сервісів штучного інтелекту в Китаї покаже позитивне зростання на 80,6% у 2022 році, а загальний обсяг ринку досягне 7,97 мільярда юанів.
Аналіз IDC вважає, що впровадження генеративного ШІ та великих моделей наразі перебуває в зародковому стані, і ці можливості можуть бути швидше оновлені та повторені в публічній хмарі, що принесе значні переваги публічним хмарним сервісам ШІ в короткостроковій перспективі.
Gartner також зазначає, що генеративний ШІ керується великими моделями, що висуває вимоги до надійної та високомасштабованої обчислювальної інфраструктури. «Хмара забезпечує ідеальне рішення та платформу, а ключові гравці в гонці генеративного штучного інтелекту повинні бути провідними постачальниками хмарних послуг».
У поєднанні з останнім звітом Forrester можна побачити, що для постачальників хмарних послуг хмарні сервіси зі штучним інтелектом стали новим центром конкуренції.
А як виміряти конкурентоспроможність, тепер критерії оцінки поступово зрозумілі.
У кінцевому підсумку можна виділити два основних аспекти:
По-перше, з точки зору розробників і корпоративних користувачів, це те, чи дійсно здатність платформи хмарних сервісів штучного інтелекту може дійсно економічно ефективно вирішувати практичні проблеми, з якими стикаються складні підприємства, а також нестача професійних талантів у процесі інтелектуальної модернізації, особливо під хвилею великих моделей.
По-друге, з точки зору технологічних тенденцій, він більш тісно інтегрований з великими моделями.
Макет платформи штучного інтелекту Baidu можна розглядати як еталонну відповідь, яку дають провідні постачальники хмарних технологій штучного інтелекту в останні зміни в конкурентному середовищі.
Що стосується результатів? У більшій кількості випадків посадки ви можете побачити справжню главу.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Випущено останній шаблон китайської платформи штучного інтелекту! Комплексна оцінка Baidu є першою, другий ешелон є жорсткою конкуренцією, а велика модель прискорює еволюцію постачальників хмарних послуг
Джерело: Qubits
Тренд великих моделей приніс сотні мільйонів «дрібних потрясінь» у все, що з ним пов'язано.
Платформа AI/ML – одна з них.
Він тісно пов'язаний з тенденцією великих моделей і може безпосередньо відображати рівень запасів досліджень і розробок технологій штучного інтелекту основних постачальників хмарних послуг, а також здатність проникати і розуміти останні тенденції.
Хто сильніший? Про це говорить індустрія.
Останній звіт Forrester «Перший китайський звіт про платформу штучного інтелекту/машинного навчання**», опублікований міжнародним органом, містить своєчасну довідку.
Forrester Research – це незалежна компанія з дослідження технологій та ринку, яка публікує тематичні звіти, які отримали високе визнання в Китаї та в усьому світі.
«Хвиля Форрестера», що публікується раз на два роки, є найвпливовішим типом звітів Форрестера.
Ґрунтуючись на всебічній оцінці 25 сегментів, Forrester розділив 14 провідних постачальників на чотири квадранти: Лідери, Найкращі виконавці, Претенденти та Претенденти.
Давайте розглянемо конкретні основні моменти.
Які нові стандарти приносять нові тренди
Почнемо з основних висновків звіту.
На цій квадрантній діаграмі стратегічний рівень є горизонтальною віссю, можливості продукту - вертикальною віссю, і він розділений на чотири квадранти: лідери, відмінні виконавці, конкуренти та претенденти, а також відображає ринкові показники кожної компанії.
Лідери (2), найкращі виконавці (5), конкуренти (4), претенденти (3).
У першому ешелоні знаходяться Baidu Intelligent Cloud і Alibaba Cloud. Серед них Baidu Intelligent Cloud виступив блискуче і посів перше місце в комплексному заліку.
Другий ешелон є найбільш конкурентоспроможним, з 5 постачальниками, які займають дуже компактну позицію в квадранті.
Наведений вище висновок є результатом 25 оцінок, проведених компанією Forrester.
На додаток до сортування поточного конкурентного середовища платформ AI/ML на китайському ринку, Forrester також запропонував новий стандартний еталон для оцінки платформ AI/ML.
Найбільш критичними є наступні три пункти:
Чому?
Форрестер вважає, що під впливом генеративного ШІ та тенденцій великих моделей додатки ШІ стають все більш важливими для підвищення продуктивності та прискорення бізнес-інновацій.
На сучасному китайському ринку компанії гостро потребують платформи AI/ML, яка може вирішувати складні проблеми у власному бізнес-середовищі.
Для того, щоб задовольнити ринковий попит, необхідні три аспекти, згадані вище.
По-перше, має бути ланцюжок інструментів, який забезпечує управління даними, навчання моделей і можливості розробки додатків штучного інтелекту. **
Це також ядро платформи AI/ML.
Forrester пропонує, щоб сторона платформи не тільки звертала увагу на ключові інструменти в побудові, навчанні та оцінці моделей, але й звертала увагу на інструменти, необхідні для розробки додатків ШІ.
Наприклад, фреймворки та блокноти зі штучним інтелектом для професіоналів; Low-code, візуальні інструменти для ділових людей.
На додаток до цього, інструменти управління даними також мають значний вплив на побудову моделі.
Форрестер зазначає, що більшості компаній на вітчизняному ринку не вистачає інженерів, які розуміють як алгоритми штучного інтелекту, так і бізнес-знання, що ускладнює адаптацію алгоритмів до потреб їхнього бізнесу.
В даний час вони приймають «позу» тенденції великих моделей, або використовуючи велику модель для тонкого налаштування, або займаючись оперативним проектуванням.
Тому інструменти прискорення, які можуть прискорити побудову моделей штучного інтелекту та розробку додатків, є дуже важливими. Інструменти візуалізації, low-code розробка та багато іншого можуть ще більше прискорити інновації.
Model Ops включає розгортання, моніторинг, оновлення та автоматизацію моделі, що може вирішити такі проблеми, як дрейф моделі, зниження продуктивності, обслуговування безпеки та оновлення моделі, а також забезпечити A/B-тестування, автоматичне налаштування та перенавчання моделі.
Оскільки підприємства використовують тенденцію великих моделей, платформи AI/ML з великомасштабними модельними операціями можуть краще допомогти підприємствам розробляти, розгортати та керувати моделями штучного інтелекту, сприяти цифровій трансформації підприємства, знижувати витрати та підвищувати ефективність.
А які саме можливості конкретніше мати, ми маємо аналізувати у нинішніх керівників.
Як потрапити до квадранта лідерів? **
У цьому звіті Forrester продуктивність Baidu Intelligent Cloud привертає увагу.
Це єдиний хмарний постачальник, який увійшов до квадранта «Лідер», а також зайняв перше місце в загальному заліку та перше місце в балах 9 підрозділів.
З точки зору можливостей продукту, Baidu Intelligent Cloud знаходиться на лідируючому рівні в чотирьох підрозділах: дані, навчання, прогнозне мислення та застосування.
У той же час, з точки зору стратегічного виміру та розміру ринку, Baidu також зайняла перше місце в багатьох з цих проектів.
Його конкретні можливості походять від платформи штучного інтелекту Baidu, а її продукти включають BML, EasyDL і інтелектуальну хмарну платформу великих моделей Qianfan від Baidu.
На прикладі інтелектуальної хмарної платформи штучного інтелекту Baidu ми можемо більш конкретно проаналізувати, якими можливостями повинна володіти поточна платформа AI/ML, якщо вона хоче зайняти лідируючі позиції на ринку.
Відповідно до розмірів звіту Forrester, конкретні можливості можна розділити на п'ять аспектів: дані, навчання, прогнозне мислення, застосування та архітектура. Це також п'ять основних елементів у розробці та застосуванні моделей штучного інтелекту.
**Почнемо з даних. **
У частині обробки даних платформа штучного інтелекту Baidu може обробляти як структуровані, так і неструктуровані дані.
Підтримується понад 65 типів візуалізацій даних, включаючи кругові діаграми, теплові карти, точкові діаграми, карти тощо. Він підтримує 10+ видів компонентів фільтрів, і користувачам потрібно лише зробити просте налаштування та перетягування, щоб досягти моніторингу даних у реальному часі та прийняття допоміжних рішень.
У той же час він також підтримує 30+ анотацій формату даних, підвищуючи ефективність зв'язку анотацій з максимально сконцентрованою робочою силою в процесі моделювання.
Наприклад, якщо потрібно позначити 10 000 зображень, система розмістить характерні зображення попереду, а повторювані позаду, так що будуть позначені лише перші 3 000 зображень, а останні 7 000 зображень можуть бути позначені автоматично.
Згідно зі звітами, цей метод дозволяє заощадити в середньому 70-90% робочої сили для корпоративних користувачів. Частка людської праці в «штучному інтелекті» різко скоротилася.
Крім того, з точки зору розробки функцій, платформа штучного інтелекту Baidu інтегрує можливість управління базами даних функцій професійного рівня, надаючи такі функції, як додавання, видалення, модифікація та запит функцій, створення функцій, обмін функціями, керування версіями функцій та перевірка даних.
Для служб прогнозування підтримуються різні форми даних у пакетному та потоковому форматі, що може забезпечити узгодженість характеристик моделі під час навчання та остаточного прогнозування, що безпосередньо пов'язано з точністю моделі.
Вищезазначені можливості відображені в конкретних цифрах, і звіт Forrester дає платформі штучного інтелекту Baidu оцінку 5 з 5 (з оцінки) за її можливості даних, значно випереджаючи інших постачальників.
Це один з найбільш очевидних аспектів останньої тенденції з точки зору ринкового попиту, яка орієнтована не тільки на професійних розробників, а й на бізнесменів, які не спеціалізуються на алгоритмах штучного інтелекту, тому вона вимагає, щоб платформа AI/ML, яка надає можливості, була простою у використанні та гнучкою.
Зверніться до практики платформи штучного інтелекту Baidu.
З одного боку, він надає значення «широті» та підтримує моделювання та навчання різноманітних даних, таких як зображення, відео, текст та мова.
Метод моделювання також дуже гнучкий, підтримуючи різноманітні методи моделювання, такі як розробка ноутбуків/WebIDE, візуальна розробка за допомогою перетягування, налаштування параметрів сценарію, користувацькі завдання тощо, які можуть завершити індивідуальну розробку високоточних моделей для людей з різним професійним рівнем.
З іншого боку – «глибина». За підтримки власної команди алгоритмів веслування платформа штучного інтелекту Baidu провела глибоку оптимізацію великої кількості операторів сцени. Включаючи класифікацію зображень, виявлення об'єктів, класифікацію тексту, анотацію послідовності тощо.
Наприклад, PP YOLO, який глибоко оптимізований на базі оператора Paddle, перевершив бенчмарк YOLO V3 в області виявлення об'єктів.
Крім того, обсяг обчислень штучного інтелекту збільшується щонайменше в 10 разів на рік, а можливість коригувати ресурси завдань у навчанні глибокому навчанню стала особливо важливою. Платформа штучного інтелекту Baidu підтримує багатомашинне та багатокарткове розподілене навчання, а також надає різноманітні типи обчислювальних ресурсів.
Крім того, сама Baidu має багатий досвід навчання надвеликих моделей, і може інтегрувати власні можливості у візуальні великі моделі, генеративний ШІ тощо. Наприклад, може бути виконаний автоматичний пошук гіперпараметрів, автоматична обробка незбалансованих даних, надмасштабне попереднє навчання.
Як наслідок, на платформі Baidu AI також можна побачити безліч інструментів розробки для підвищення ефективності програмування.
Третій вимір компетенції - міркування. **
З розвитком великих моделей ринок логічних висновків буде ще більше розширюватися і навіть зростати в геометричній прогресії, що створює великі проблеми для платформ AI/ML.
З точки зору платформи штучного інтелекту Baidu, вони в основному зосереджені на ефективності розробки, оптимізації продуктивності, гнучкості та екстенсивності.
Його модуль логічного висновку, Model Serve, підтримує 16 фреймворків штучного інтелекту, включаючи найпоширеніші Paddle, Tensor Flow і PyTorch, а також Matlab/R для наукових обчислень і Xg boost для машинного навчання.
З точки зору оптимізації продуктивності, планувальник асинхронних висновків безпосередньо абстрагується на рівні планування для досягнення гетерогенних працівників логічного висновку, покращуючи продуктивність використання всього сервера та графічного процесора більш ніж у 1 раз.
У той же час він підтримує автоматичну пакетну обробку, класифікує завдання різної тривалості та об'єднує завдання однакового розміру в одну партію для повного використання різнорідних ресурсів, що може підвищити ефективність на 70% на основі асинхронної розв'язки.
Додаток у звіті в основному досліджує ефективність застосування кожної платформи.
Тобто, як використовувати наявні ресурси для швидкого перетворення даних на продуктивність бізнесу.
Платформа штучного інтелекту Baidu може надати повні можливості управління життєвим циклом для процесу розробки штучного інтелекту, від збору та очищення даних до розробки та навчання моделей, управління моделями до управління хмарними та офлайн-сервісами висновків.
В даний час можливості платформи штучного інтелекту Baidu експортуються в такі галузі, як фінанси, енергетика та транспорт. Обслуговує Шанхайський банк розвитку Пудун, Банк Пекіна, а також державну мережу, Південну електромережу Китаю тощо.
У 2022 році кількість користувачів інтелектуальної хмарної AI-платформи Baidu від Baidu збільшиться на 49%, кількість приватизованих клієнтів збільшиться на 32%, а кількість розробників збільшиться на 1,228 мільйона, при темпі зростання близько 40%; Ставка викупу зростала з року в рік, а ставка викупу в ключових галузях досягла 50%.
Нарешті, з точки зору архітектури, архітектурний дизайн платформи штучного інтелекту Baidu отримав повну оцінку в оцінці Forrester.
Проаналізувавши загальні можливості платформи штучного інтелекту Baidu, неважко виявити, що багато з цих інструментів та ідей відповідають новим потребам нинішньої тенденції великих моделей.
Насправді, в умовах кардинальних змін у напрямку технологій, це не тільки тенденція коригувати існуючу архітектуру, щоб адаптуватися до змін попиту, а й пропонувати нові способи боротьби з нею.
В епоху великих моделей попередньо визначена нова модель конкуренції ШІ в хмарі
Отже, під впливом хвилі великих моделей, які нові зміни відбулися в ринковому попиті на AI/ML платформи?
У минулому багато моделей CV і NLP називалися SOTA, але все ж частіше вони використовувалися в непрофільних бізнесах галузі. Тепер, завдяки своїй дивовижній здатності підривати традиційні робочі процеси, великі моделі починають визнаватися все більше і більше, і вважаються ключем до подолання вузького місця інтелекту в різних галузях.
Однак для хмарних вендорів це не означає, що епоха великих моделей «починається з нуля» в епоху маленьких моделей.
Насправді, з поглибленням застосування великих моделей все більше уваги привертають такі технічні галузі, як агенти. Суть полягає в тому, що велика модель базується на власних можливостях і пов'язує маленьку модель зі зрілим плануванням для вирішення проблеми в практичних додатках, що вважається більш швидким і цінним у виробничому сценарії.
Тому в «нову еру», відкриту великими моделями, для «лідерів» AI/ML платформ технічне накопичення в епоху малих моделей і технологічні інновації в епоху великих моделей доповнюють і не обходяться.
Як універсальна платформа великої моделі корпоративного рівня, Baidu Intelligent Cloud Qianfan Platform є, по суті, продуктом глибокого накопичення Baidu на рівні мікросхеми, фреймворковому рівні, рівні моделі та прикладному рівні.
Вона втілюється в п'яти аспектах:
По-перше, на рівні обчислювальної потужності інтелектуальна хмарна платформа Qianfan від Baidu може надавати ефективні та економічно вигідні гетерогенні обчислювальні послуги.
У процесі навчання великої моделі, завдяки стратегії розподіленого паралельного навчання та можливостям взаємоз'єднання мікросекундного рівня, коефіцієнт прискорення кластерного навчання в масштабі 10 000 карт на платформі Baidu Qianfan може досягати 95%. При цьому ефективний час навчання кластера Ванька може досягати 96%, що значно знижує витрати обчислювальних потужностей і часу.
Для сторонніх великих моделей платформа Baidu Qianfan також була цілеспрямовано оптимізована, включаючи китайське вдосконалення, підвищення продуктивності, покращення контексту тощо.
Baidu показав, що кількість викликів API великих моделей на платформі Baidu Qianfan продовжує зростати з високою швидкістю. В даний час платформа Baidu Qianfan обслуговує понад 20 000 клієнтів.
По-третє, для клієнтів, які хочуть здійснити вторинну розробку на основі існуючих великих моделей, платформа Baidu Qianfan надає повний ланцюжок інструментів життєвого циклу для перенавчання, тонкого налаштування, оцінки та розгортання великих моделей, а також 41 високоякісний набір даних, який може реалізувати швидку оптимізацію моделі для конкретних бізнес-сценаріїв.
По-четверте, на прикладному рівні, у відповідь на потреби підприємств у розробці додатків зі штучним інтелектом на основі великих моделей, платформа Baidu Qianfan надає низку компонентів і фреймворків можливостей.
Наприклад, є 226 вбудованих шаблонів, завдяки чому розробники можуть швидко покращити якість відповідей на великі моделі, навіть якщо вони не знайомі з оперативним інжинірингом.
На Всесвітній конференції Baidu 17 жовтня Baidu Intelligent Cloud також випустила «Baidu Qianfan AI Native Application Development Workbench». Зокрема, цей «верстак» складається з двох частин: компоненти додатків + фреймворки додатків.
Серед них компонент штучного інтелекту, тобто компонентна інкапсуляція можливостей великих моделей, включає великі компоненти мовних моделей, такі як запитання та відповіді та ланцюжок думок (CoT), а також мультимодальні компоненти, такі як діаграма Веньшена та розпізнавання мови.
До базових хмарних компонентів належать традиційні хмарні сервіси, такі як векторні бази даних та об'єктні сховища.
Прикладний фреймворк орієнтований на конкретні сценарні завдання, що можна розуміти як ефективну комбінацію вищевказаних компонентів програми, засновану на можливостях великих моделей.
В даний час платформа Baidu Qianfan надає широко використовувані фреймворки додатків штучного інтелекту, такі як Retrieval Enhanced Generation (RAG) і Agent.
Серед них фреймворк RAG може поєднувати знання у власній сфері підприємства з великою моделлю Q&A, щоб давати більш точні відповіді на професійні знання.
Базуючись на цьому фреймворку RAG, Sany Heavy Industry швидко реалізувала розробку та запуск інтелектуального додатка для обслуговування клієнтів на офіційному веб-сайті.
Базуючись на агентській структурі, велика модель може автоматично розбирати завдання, задані людьми, автоматично планувати та викликати різні компоненти для спільного виконання завдань, і в той же час забезпечувати самозворотний зв'язок відповідно до ефекту виконання завдання для покращення власних можливостей.
В даний час, на основі цієї агентської структури, Zhongtian Iron and Steel побудувала інтелектуальний «центр планування підприємства» для реалізації автоматичного сприйняття, декомпозиції та виконання інструкцій завдань.
Наприклад, коли виявляється, що випуск сталі не відповідає стандартам, велика модель може автоматично викликати різні ресурси та API, керовані платформою, щоб з'ясувати причину невідповідності, вчасно скорегувати графік виробництва та надіслати електронний лист для сповіщення диспетчера.
Аналіз IDC вважає, що впровадження генеративного ШІ та великих моделей наразі перебуває в зародковому стані, і ці можливості можуть бути швидше оновлені та повторені в публічній хмарі, що принесе значні переваги публічним хмарним сервісам ШІ в короткостроковій перспективі.
Gartner також зазначає, що генеративний ШІ керується великими моделями, що висуває вимоги до надійної та високомасштабованої обчислювальної інфраструктури. «Хмара забезпечує ідеальне рішення та платформу, а ключові гравці в гонці генеративного штучного інтелекту повинні бути провідними постачальниками хмарних послуг».
У поєднанні з останнім звітом Forrester можна побачити, що для постачальників хмарних послуг хмарні сервіси зі штучним інтелектом стали новим центром конкуренції.
А як виміряти конкурентоспроможність, тепер критерії оцінки поступово зрозумілі.
У кінцевому підсумку можна виділити два основних аспекти:
По-перше, з точки зору розробників і корпоративних користувачів, це те, чи дійсно здатність платформи хмарних сервісів штучного інтелекту може дійсно економічно ефективно вирішувати практичні проблеми, з якими стикаються складні підприємства, а також нестача професійних талантів у процесі інтелектуальної модернізації, особливо під хвилею великих моделей.
По-друге, з точки зору технологічних тенденцій, він більш тісно інтегрований з великими моделями.
Макет платформи штучного інтелекту Baidu можна розглядати як еталонну відповідь, яку дають провідні постачальники хмарних технологій штучного інтелекту в останні зміни в конкурентному середовищі.
Що стосується результатів? У більшій кількості випадків посадки ви можете побачити справжню главу.