Выпущен новейший образец китайской платформы искусственного интеллекта! Всесторонняя оценка Baidu — это первый, второй эшелон — жесткая конкуренция, а большая модель ускоряет эволюцию поставщиков облачных услуг
Тренд больших моделей принес сотни миллионов «маленьких потрясений» всему, что с ней связано.
Платформа AI/ML — одна из них.
Он тесно связан с тенденцией больших моделей и может напрямую отражать уровень резервов исследований и разработок в области технологий искусственного интеллекта основных поставщиков облачных услуг, а также способность к пониманию и пониманию последних тенденций.
Кто сильнее? Об этом говорят в отрасли.
В условиях резких изменений технологического ветра платформы искусственного интеллекта и машинного обучения также имеют новые стандарты оценки.
В последнем отчете Forrester «Первый китайский отчет о платформах искусственного интеллекта/машинного обучения», опубликованном международным органом, содержится своевременная ссылка.
Forrester Research — независимая компания, занимающаяся исследованиями технологий и рынка, которая публикует тематические отчеты, получившие широкое признание в Китае и во всем мире.
Журнал Forrester Wave, публикуемый раз в два года, является наиболее влиятельным типом отчетов Forrester.
В отчете были опрошены 14 основных поставщиков облачных услуг на внутреннем рынке, включая Baidu Intelligent Cloud, Alibaba Cloud, Huawei Cloud, Tencent Cloud и т. д., и они оценивались по трем аспектам: возможности продукта, стратегическое планирование и рыночные показатели.
Основываясь на комплексной оценке 25 сегментов, Forrester делит 14 ведущих поставщиков на четыре квадранта: лидеры, лучшие исполнители, претенденты и претенденты.
Давайте рассмотрим основные моменты.
Какие новые стандарты приносят новые тенденции
Начнем с основных выводов доклада.
На этой квадрантной диаграмме стратегический уровень является горизонтальной осью, возможности продукта — вертикальной осью, и он разделен на четыре квадранта: лидеры, отличные исполнители, конкуренты и претенденты, а также отражает рыночные показатели каждой компании.
Распределение квадрантов выглядит следующим образом:
Лидеры (2), Лучшие игроки (5), Конкуренты (4), Претенденты (3).
В первом эшелоне находятся Baidu Intelligent Cloud и Alibaba Cloud. Среди них Baidu Intelligent Cloud блестяще показал себя и занял первое место в общем зачете.
Второй эшелон является наиболее конкурентным, с 5 поставщиками, занимающими очень компактную позицию в квадранте.
Приведенный выше вывод является результатом 25 оценок, проведенных компанией Forrester.
В дополнение к выяснению текущей конкурентной среды платформ искусственного интеллекта и машинного обучения на китайском рынке, компания Forrester предложила новый стандартный справочник для оценки платформ искусственного интеллекта и машинного обучения.
Наиболее важными являются следующие три пункта:
Обширный набор инструментов
Простой в использовании ускоритель
Моделирование операций в большом масштабе
Почему?
В Forrester считают, что под влиянием генеративного ИИ и тенденций в области больших моделей приложения ИИ становятся все более важными для повышения производительности и ускорения бизнес-инноваций.
На сегодняшнем китайском рынке компании остро нуждаются в платформе искусственного интеллекта и машинного обучения, которая может решать сложные задачи в рамках их собственной бизнес-среды.
Для того, чтобы удовлетворить рыночный спрос, необходимы три вышеупомянутых аспекта.
Во-первых, должна существовать цепочка инструментов, обеспечивающая управление данными, обучение моделей и возможности разработки приложений ИИ. **
Это также ядро платформы AI/ML.
Forrester предлагает, чтобы сторона платформы не только обращала внимание на ключевые инструменты построения, обучения и оценки моделей, но и обращала внимание на инструменты, необходимые для разработки приложений ИИ.
Например, фреймворки и блокноты ИИ для профессионалов; Визуальные инструменты с минимумом программирования для деловых людей.
Кроме того, инструменты управления данными также оказывают существенное влияние на построение моделей.
Во-вторых, он предоставляет простой в использовании ускоритель для отрасли. **
Forrester отмечает, что большинству компаний на отечественном рынке не хватает инженеров, понимающих как алгоритмы ИИ, так и бизнес-знания, что затрудняет адаптацию алгоритмов к потребностям бизнеса.
В настоящее время они принимают «позу» тенденции больших моделей, либо используя большую модель для тонкой настройки, либо выполняя быстрое проектирование.
Поэтому инструменты ускорения, которые могут ускорить построение моделей ИИ и разработку приложений, очень важны. Инструменты визуализации, разработка с минимумом программирования и многое другое могут еще больше ускорить инновации.
В-третьих, ускорить внедрение больших моделей за счет крупномасштабных операций с моделями. **
Model Ops включает в себя развертывание, мониторинг, обновление и автоматизацию моделей, которые могут решать такие проблемы, как смещение модели, снижение производительности, обслуживание безопасности и обновления моделей, а также обеспечивать A/B-тестирование, автоматическую настройку и переобучение моделей.
По мере того, как предприятия осваивают тенденцию больших моделей, платформы ИИ/МО с крупномасштабными операциями с моделями могут лучше помочь предприятиям разрабатывать, развертывать и управлять моделями ИИ, способствовать дальнейшей цифровой трансформации предприятия, снижать затраты и повышать эффективность.
Таким образом, чтобы платформа AI/ML стала лидером в новой тенденции, она должна предоставлять простые в использовании инструменты, удовлетворять потребности отрасли и ускорять внедрение ИИ предприятиями.
А какими конкретными возможностями надо обладать, надо анализировать у нынешних руководителей.
Как попасть в квадрант лидеров? **
В этом отчете Forrester производительность Baidu Intelligent Cloud привлекает внимание.
Это единственный облачный вендор, вошедший в квадрант «Лидер», а также занявший первое место в общем зачете и первое место в рейтинге 9 подразделений.
По возможностям продукта Baidu Intelligent Cloud находится на лидирующем уровне в четырех подразделениях: данные, обучение, предиктивное мышление и применение.
В то же время, с точки зрения стратегического измерения и объема рынка, Baidu также завоевала первое место во многих из этих проектов.
Forrester описывает Baidu Intelligent Cloud как «одного из пионеров базовой модели Китая»:
Baidu Intelligent Cloud встраивает семейство базовых моделей ERNIE в портфель с надежной дорожной картой продукта, а его активная экосистема вокруг PaddlePaddle является эффективным способом привлечения разработчиков ИИ к совместному внедрению инноваций.
Его специфические возможности исходят от платформы искусственного интеллекта Baidu, а его продукты включают BML, EasyDL и интеллектуальную облачную платформу больших моделей Baidu Qianfan.
Взяв в качестве примера интеллектуальную облачную AI-платформу Baidu, мы можем более конкретно проанализировать, какими возможностями должна обладать текущая платформа AI/ML, если она хочет занять лидирующие позиции на рынке.
В соответствии с параметрами отчета Forrester конкретные возможности можно разделить на пять аспектов: данные, обучение, прогнозное мышление, применение и архитектура. Это также пять основных элементов при разработке и применении моделей ИИ.
**Начнем с данных. **
В части обработки данных AI-платформа Baidu может обрабатывать как структурированные, так и неструктурированные данные.
Поддерживается более 65 типов визуализации данных, включая круговые диаграммы, тепловые карты, точечные диаграммы, карты и многое другое. Он поддерживает 10+ видов компонентов фильтра, и пользователям нужно только выполнить простую настройку и перетаскивание для мониторинга данных в режиме реального времени и вспомогательного принятия решений.
В то же время он также поддерживает 30+ аннотаций формата данных, повышая эффективность связи аннотаций с наиболее концентрированной рабочей силой в процессе моделирования.
Стоит отметить, что платформа искусственного интеллекта Baidu обеспечиваетактивную возможность аннотирования, система может напрямую анализировать шаблон изображений из набора данных, автоматически отфильтровывать наиболее важные изображения и запрашивать ограниченные аннотации.
Например, если есть 10 000 изображений, которые необходимо пометить, система поместит характерные изображения впереди, а повторяющиеся — сзади, так что только первые 3 000 изображений будут помечены, а последние 7 000 изображений могут быть помечены автоматически.
Согласно отчетам, этот метод может сэкономить в среднем 70-90% рабочей силы для корпоративных пользователей. Доля человеческого труда в «искусственном интеллекте» резко сократилась.
Кроме того, с точки зрения проектирования признаков, платформа искусственного интеллекта Baidu интегрирует профессиональную возможность управления базой данных объектов, предоставляя такие функции, как добавление, удаление, изменение и запрос функций, производство функций, совместное использование функций, управление версиями функций и проверка данных.
Для служб прогнозирования поддерживаются различные формы данных в пакетном и потоковом режиме, что может обеспечить согласованность характеристик модели во время обучения и окончательного прогнозирования, что напрямую связано с точностью модели.
Вышеупомянутые возможности отражены в конкретных цифрах, и отчет Forrester дает платформе искусственного интеллекта Baidu оценку 5 из 5 (из оценки) за ее возможности работы с данными, значительно опережая других поставщиков.
** Второе – это обучение модели. **
Это один из наиболее очевидных аспектов последнего тренда с точки зрения рыночного спроса, который нацелен не только на профессиональных разработчиков, но и на деловых людей, не специализирующихся на алгоритмах ИИ, поэтому требует, чтобы платформа AI/ML, предоставляющая возможности, была простой в использовании и гибкой.
Обратитесь к практике платформы искусственного интеллекта Baidu.
С одной стороны, он придает большое значение «широте» и поддерживает моделирование и обучение различных данных, таких как изображения, видео, текст и речь.
Метод моделирования также очень гибкий, поддерживая различные методы моделирования, такие как разработка записных книжек / WebIDE, визуальная разработка с помощью перетаскивания, настройка параметров скрипта, пользовательские задания и т. д., которые могут завершить индивидуальную разработку высокоточных моделей для людей с разным профессиональным уровнем.
С другой стороны – «глубина». При поддержке собственной команды алгоритмов лопастей платформа искусственного интеллекта Baidu провела глубокую оптимизацию большого количества операторов сцены. Включая классификацию изображений, обнаружение объектов, классификацию текста, аннотацию последовательности и т. д.
Например, PP YOLO, который глубоко оптимизирован на основе оператора Paddle, превзошел бенчмарк YOLO V3 в области обнаружения объектов.
Простота использования также является важным фактором. На AI-платформе Baidu может быть реализовано zero-code моделирование и визуальное моделирование. В первом случае пользователям нужно только загрузить данные и выбрать тип, чтобы начать моделирование. Последний может собрать процесс моделирования, перетаскивая компоненты и устанавливая параметры каждой детали.
Кроме того, объем вычислений ИИ увеличивается как минимум в 10 раз в год, и возможность корректировки ресурсов задач при обучении глубокому обучению стала особенно важной. Платформа искусственного интеллекта Baidu поддерживает распределенное обучение на нескольких машинах и картах, а также предоставляет различные типы вычислительных ресурсов.
Кроме того, сама Baidu имеет богатый опыт в обучении сверхбольших моделей, и может интегрировать собственные возможности в визуальные большие модели, генеративный ИИ и т.д. Например, может быть выполнен автоматический поиск гиперпараметров, автоматическая обработка несбалансированных данных и сверхмасштабное предварительное обучение.
В результате на платформе Baidu AI также можно увидеть множество инструментов разработки для повышения эффективности программирования.
Третий аспект компетентности – это рассуждение. **
С развитием больших моделей рынок логических выводов будет расширяться и даже расти в геометрической прогрессии, что создает большие проблемы для платформ искусственного интеллекта и машинного обучения.
С точки зрения платформы искусственного интеллекта Baidu, они в основном сосредоточены на эффективности разработки, оптимизации производительности, гибкости и экстенсивности.
Его модуль логического вывода, Model Serve, поддерживает 16 фреймворков искусственного интеллекта, включая наиболее распространенные Paddle, Tensor Flow и PyTorch, а также Matlab/R для научных вычислений и Xg boost для машинного обучения.
С точки зрения оптимизации производительности, планировщик асинхронного вывода абстрагируется непосредственно на уровне планирования для достижения гетерогенных рабочих процессов вывода, повышая производительность всего сервера и использование GPU более чем в 1 раз.
В то же время он поддерживает автоматическую пакетную обработку, классифицирует задачи разной длины и компилирует задачи одинакового размера в один пакет, чтобы в полной мере использовать разнородные ресурсы, что может повысить эффективность на 70% на основе асинхронной развязки.
Четвертая область, на которой следует сосредоточиться, — это приложение. **
Приложение в отчете в основном исследует эффективность приложений каждой платформы.
То есть, как использовать имеющиеся ресурсы, чтобы быстро превратить данные в продуктивность бизнеса.
Платформа искусственного интеллекта Baidu может предоставить возможности полного управления жизненным циклом для процесса разработки ИИ, от сбора и очистки данных до разработки и обучения моделей, управления моделями, облачного и автономного управления сервисами логического вывода.
Стоит отметить, что AI-платформа Baidu является первой платформой в Китае, достигшей флагманского уровня стандарта MLOps Академии информационно-коммуникационных технологий.
В настоящее время возможности платформы искусственного интеллекта Baidu экспортируются в такие отрасли, как финансы, энергетика и транспорт. Обслуживает Шанхайский банк развития Пудун, Банк Пекина, а также государственную сеть, Китайскую южную электросеть и т. Д.
В 2022 году количество платящих пользователей интеллектуальной облачной AI-платформы Baidu увеличится на 49%, количество приватизированных клиентов увеличится на 32%, а количество разработчиков увеличится на 1,228 млн, с темпом роста около 40%; Темпы выкупа увеличивались из года в год, а в ключевых отраслях достигли 50%.
Наконец, с точки зрения архитектуры, архитектурный дизайн платформы искусственного интеллекта Baidu получил высшую оценку в рейтинге Forrester.
Если подытожить в одном предложении, то AI-платформа Baidu вышла на уровень «лидера», то есть сделала это:
Есть много алгоритмов, инструментов, быстрая работа, хорошие результаты, а также это экономит серверы и рабочую силу, обеспечивая при этом безопасность и простоту использования.
Проанализировав общие возможности платформы искусственного интеллекта Baidu, нетрудно обнаружить, что многие из этих инструментов и идей соответствуют новым потребностям текущей тенденции больших моделей.
На самом деле, в условиях кардинальных изменений в направлении технологий тренд не только на то, чтобы подстраивать существующую архитектуру под изменения спроса, но и предлагать новые способы борьбы с ним.
В эпоху больших моделей предварительно определена новая модель конкуренции ИИ в облаке
Итак, под влиянием волны больших моделей, какие новые изменения произошли в рыночном спросе на платформы AI/ML?
В прошлом многие модели CV и NLP назывались SOTA, но они все же чаще использовались в непрофильных бизнесах отрасли. Теперь, благодаря своей удивительной способности разрушать традиционные рабочие процессы, большие модели начинают признаваться все больше и больше и считаются ключом к прорыву через узкое место интеллекта в различных отраслях.
Однако для облачных вендоров это не означает, что эра больших моделей «начинается с нуля» в эпоху малых моделей.
На самом деле, с углублением применения больших моделей, технические области, такие как агенты, привлекают все больше и больше внимания. Суть заключается в том, что большая модель основана на собственных возможностях и связывает малую модель со зрелым планированием для решения задачи в практических приложениях, что считается более быстрым и ценным в производственном сценарии.
Поэтому в «новую эру», открытую большими моделями, для «лидеров» AI/ML-платформ техническое накопление в эпоху малых моделей и технологические инновации в эпоху больших моделей дополняют друг друга и незаменимы.
Платформа искусственного интеллекта Baidu в «новую эру» передала лист ответов - Baidu Intelligent Cloud Qianfan Large Model Platform является примером.
Являясь универсальной платформой больших моделей корпоративного уровня, платформа Baidu Intelligent Cloud Qianfan, по сути, является продуктом глубокого накопления Baidu на уровне микросхем, уровне фреймворка, уровне модели и уровне приложений.
Она воплощается в пяти аспектах:
Во-первых, на уровне вычислительной мощности интеллектуальная облачная платформа Baidu Qianfan может предоставлять эффективные и экономичные гетерогенные вычислительные сервисы.
В процессе обучения больших моделей, благодаря стратегии распределенного параллельного обучения и возможностям микросекундного взаимодействия, коэффициент ускорения обучения кластера в масштабе 10 000 карт на платформе Baidu Qianfan может достигать 95%. При этом эффективное время обучения кластера «Ванька» может достигать 96%, что значительно снижает затраты на вычислительные мощности и время.
Во-вторых, на уровне моделей платформа Baidu Qianfan управляла 44 основными крупными моделями в стране и за рубежом, включая большую модель Wenxin, серию Llama, ChatGLM и т. д., и поддерживает пользователей для быстрого вызова API и прямого получения возможностей больших моделей.
Для сторонних крупных моделей платформа Baidu Qianfan также была целенаправленно оптимизирована, включая китайское улучшение, повышение производительности, улучшение контекста и так далее.
Baidu сообщила, что количество вызовов API больших моделей на платформе Baidu Qianfan продолжает расти с высокой скоростью. В настоящее время платформа Baidu Qianfan обслуживает более 20 000 клиентов.
В-третьих, для клиентов, которые хотят осуществлять вторичную разработку на основе существующих больших моделей, платформа Baidu Qianfan предоставляет цепочку инструментов полного жизненного цикла для переобучения, тонкой настройки, оценки и развертывания больших моделей, а также 41 высококачественный набор данных, которые могут реализовать быструю оптимизацию моделей для конкретных бизнес-сценариев.
В-четвертых, на прикладном уровне, в ответ на потребности предприятий в разработке приложений на основе ИИ на основе больших моделей, платформа Baidu Qianfan предоставляет ряд компонентов и фреймворков возможностей.
Например, есть 226 встроенных шаблонов, чтобы разработчики могли быстро улучшить качество ответов на большие модели, даже если они не знакомы с оперативным проектированием.
На Всемирной конференции Baidu 17 октября компания Baidu Intelligent Cloud также представила «Baidu Qianfan AI Native Application Development Workbench». В частности, этот «верстак» состоит из двух частей: компоненты приложения + фреймворки приложений.
** Службы компонентов приложений состоят из двух компонентов: ИИ и базового облака. **
Среди них компонент ИИ, то есть компонентная инкапсуляция возможностей больших моделей, включает в себя большие компоненты языковой модели, такие как Q&A и Chain of Thought (CoT), а также мультимодальные компоненты, такие как диаграмма Вэньшэна и распознавание речи.
К базовым облачным компонентам относятся традиционные облачные сервисы, такие как векторные базы данных и объектные хранилища.
Фреймворк приложения ориентирован на конкретные сценарные задачи, под которыми можно понимать эффективную комбинацию вышеуказанных компонентов приложения, основанную на возможностях больших моделей.
В настоящее время платформа Baidu Qianfan предоставляет широко используемые платформы нативных приложений ИИ, такие как Retrieval Enhanced Generation (RAG) и Agent.
Среди них, фреймворк RAG может сочетать знания в проприетарной предметной области предприятия с возможностью большой модели вопросов и ответов для более точных ответов на профессиональные знания.
Основываясь на этом фреймворке RAG, компания Sany Heavy Industry быстро осуществила разработку и запуск интеллектуального приложения для обслуживания клиентов на официальном сайте.
Шэнь Доу, исполнительный вице-президент Baidu Group и президент Baidu Intelligent Cloud Business Group, рассказал, что даже если вам нужно обработать тысячи длинных документов, стоимость создания такого «маленького помощника» составляет всего несколько сотен юаней; После этого стоимость каждой информации для пользователей составляет всего несколько центов.
Основанная на агентной структуре, большая модель может автоматически разбирать задачи, поставленные людьми, автоматически планировать и вызывать различные компоненты для совместного выполнения задач, и в то же время обеспечивать самообратную связь в соответствии с эффектом завершения задачи для улучшения собственных возможностей.
В настоящее время, на основе этой агентной структуры, Zhongtian Iron and Steel построила интеллектуальный «центр планирования предприятия» для реализации автоматического восприятия, декомпозиции и выполнения инструкций по задачам.
Например, когда обнаруживается, что выпуск стали не соответствует стандарту, большая модель может автоматически вызывать различные ресурсы и API, управляемые платформой, чтобы выяснить причину несоответствия, вовремя скорректировать график производства и отправить электронное письмо для уведомления диспетчера.
Наконец, Baidu Qianfan также запустила «AI Native App Store», который соединяет сторону предложения и сторону спроса на нативные приложения ИИ и предоставляет место сбора для крупномасштабных бизнес-возможностей.
Нетрудно заметить, что, с одной стороны, быстрый запуск интеллектуальной облачной платформы больших моделей Baidu Qianfan выигрывает от развития собственной технологии больших моделей Baidu; С другой стороны, возможности продукта, накопленные платформой искусственного интеллекта Baidu за эти годы, а также ее богатый практический опыт в отрасли, позволили платформе Qianfan от Baidu занять лидирующие позиции в области приложений.
По данным IDC, в 2022 году рынок публичных облачных сервисов ИИ в Китае покажет положительный рост на 80,6%, а общий объем рынка достигнет 7,97 млрд юаней.
Анализ IDC показывает, что внедрение генеративного ИИ и больших моделей в настоящее время находится в зачаточном состоянии, и эти возможности могут быть обновлены и итерированы быстрее в публичном облаке, что принесет значительные преимущества публичным облачным сервисам ИИ в краткосрочной перспективе.
Gartner также отмечает, что генеративный ИИ управляется большими моделями, что выдвигает требования к надежной и высокомасштабируемой вычислительной инфраструктуре. «Облако предоставляет идеальное решение и платформу, и ключевыми игроками в гонке генеративного ИИ должны быть ведущие поставщики облачных услуг».
В сочетании с последним отчетом Forrester можно увидеть, что для поставщиков облачных услуг облачные сервисы ИИ стали новым фокусом конкуренции.
А как измерить конкурентоспособность, теперь постепенно понятны критерии оценки.
В конечном счете, есть два основных аспекта:
Во-первых, с точки зрения разработчиков и корпоративных пользователей, речь идет о том, сможет ли способность платформы облачных сервисов ИИ действительно экономически эффективно решать практические задачи, с которыми сталкиваются сложные бизнесы, а также о нехватке профессиональных талантов в процессе интеллектуальной модернизации, особенно на волне больших моделей.
Во-вторых, с точки зрения технологических тенденций, он более тесно интегрирован с большими моделями.
Макет платформы искусственного интеллекта Baidu можно рассматривать как эталонный ответ, данный ведущими поставщиками облачных решений для искусственного интеллекта в связи с последними изменениями в конкурентной среде.
Что касается результатов? В большем количестве случаев лендинга можно увидеть реальную главу.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Выпущен новейший образец китайской платформы искусственного интеллекта! Всесторонняя оценка Baidu — это первый, второй эшелон — жесткая конкуренция, а большая модель ускоряет эволюцию поставщиков облачных услуг
Источник: Кубиты
Тренд больших моделей принес сотни миллионов «маленьких потрясений» всему, что с ней связано.
Платформа AI/ML — одна из них.
Он тесно связан с тенденцией больших моделей и может напрямую отражать уровень резервов исследований и разработок в области технологий искусственного интеллекта основных поставщиков облачных услуг, а также способность к пониманию и пониманию последних тенденций.
Кто сильнее? Об этом говорят в отрасли.
В последнем отчете Forrester «Первый китайский отчет о платформах искусственного интеллекта/машинного обучения», опубликованном международным органом, содержится своевременная ссылка.
Forrester Research — независимая компания, занимающаяся исследованиями технологий и рынка, которая публикует тематические отчеты, получившие широкое признание в Китае и во всем мире.
Журнал Forrester Wave, публикуемый раз в два года, является наиболее влиятельным типом отчетов Forrester.
Основываясь на комплексной оценке 25 сегментов, Forrester делит 14 ведущих поставщиков на четыре квадранта: лидеры, лучшие исполнители, претенденты и претенденты.
Давайте рассмотрим основные моменты.
Какие новые стандарты приносят новые тенденции
Начнем с основных выводов доклада.
На этой квадрантной диаграмме стратегический уровень является горизонтальной осью, возможности продукта — вертикальной осью, и он разделен на четыре квадранта: лидеры, отличные исполнители, конкуренты и претенденты, а также отражает рыночные показатели каждой компании.
Лидеры (2), Лучшие игроки (5), Конкуренты (4), Претенденты (3).
В первом эшелоне находятся Baidu Intelligent Cloud и Alibaba Cloud. Среди них Baidu Intelligent Cloud блестяще показал себя и занял первое место в общем зачете.
Второй эшелон является наиболее конкурентным, с 5 поставщиками, занимающими очень компактную позицию в квадранте.
Приведенный выше вывод является результатом 25 оценок, проведенных компанией Forrester.
В дополнение к выяснению текущей конкурентной среды платформ искусственного интеллекта и машинного обучения на китайском рынке, компания Forrester предложила новый стандартный справочник для оценки платформ искусственного интеллекта и машинного обучения.
Наиболее важными являются следующие три пункта:
Почему?
В Forrester считают, что под влиянием генеративного ИИ и тенденций в области больших моделей приложения ИИ становятся все более важными для повышения производительности и ускорения бизнес-инноваций.
На сегодняшнем китайском рынке компании остро нуждаются в платформе искусственного интеллекта и машинного обучения, которая может решать сложные задачи в рамках их собственной бизнес-среды.
Для того, чтобы удовлетворить рыночный спрос, необходимы три вышеупомянутых аспекта.
Во-первых, должна существовать цепочка инструментов, обеспечивающая управление данными, обучение моделей и возможности разработки приложений ИИ. **
Это также ядро платформы AI/ML.
Forrester предлагает, чтобы сторона платформы не только обращала внимание на ключевые инструменты построения, обучения и оценки моделей, но и обращала внимание на инструменты, необходимые для разработки приложений ИИ.
Например, фреймворки и блокноты ИИ для профессионалов; Визуальные инструменты с минимумом программирования для деловых людей.
Кроме того, инструменты управления данными также оказывают существенное влияние на построение моделей.
Forrester отмечает, что большинству компаний на отечественном рынке не хватает инженеров, понимающих как алгоритмы ИИ, так и бизнес-знания, что затрудняет адаптацию алгоритмов к потребностям бизнеса.
В настоящее время они принимают «позу» тенденции больших моделей, либо используя большую модель для тонкой настройки, либо выполняя быстрое проектирование.
Поэтому инструменты ускорения, которые могут ускорить построение моделей ИИ и разработку приложений, очень важны. Инструменты визуализации, разработка с минимумом программирования и многое другое могут еще больше ускорить инновации.
Model Ops включает в себя развертывание, мониторинг, обновление и автоматизацию моделей, которые могут решать такие проблемы, как смещение модели, снижение производительности, обслуживание безопасности и обновления моделей, а также обеспечивать A/B-тестирование, автоматическую настройку и переобучение моделей.
По мере того, как предприятия осваивают тенденцию больших моделей, платформы ИИ/МО с крупномасштабными операциями с моделями могут лучше помочь предприятиям разрабатывать, развертывать и управлять моделями ИИ, способствовать дальнейшей цифровой трансформации предприятия, снижать затраты и повышать эффективность.
А какими конкретными возможностями надо обладать, надо анализировать у нынешних руководителей.
Как попасть в квадрант лидеров? **
В этом отчете Forrester производительность Baidu Intelligent Cloud привлекает внимание.
Это единственный облачный вендор, вошедший в квадрант «Лидер», а также занявший первое место в общем зачете и первое место в рейтинге 9 подразделений.
По возможностям продукта Baidu Intelligent Cloud находится на лидирующем уровне в четырех подразделениях: данные, обучение, предиктивное мышление и применение.
В то же время, с точки зрения стратегического измерения и объема рынка, Baidu также завоевала первое место во многих из этих проектов.
Его специфические возможности исходят от платформы искусственного интеллекта Baidu, а его продукты включают BML, EasyDL и интеллектуальную облачную платформу больших моделей Baidu Qianfan.
Взяв в качестве примера интеллектуальную облачную AI-платформу Baidu, мы можем более конкретно проанализировать, какими возможностями должна обладать текущая платформа AI/ML, если она хочет занять лидирующие позиции на рынке.
В соответствии с параметрами отчета Forrester конкретные возможности можно разделить на пять аспектов: данные, обучение, прогнозное мышление, применение и архитектура. Это также пять основных элементов при разработке и применении моделей ИИ.
**Начнем с данных. **
В части обработки данных AI-платформа Baidu может обрабатывать как структурированные, так и неструктурированные данные.
Поддерживается более 65 типов визуализации данных, включая круговые диаграммы, тепловые карты, точечные диаграммы, карты и многое другое. Он поддерживает 10+ видов компонентов фильтра, и пользователям нужно только выполнить простую настройку и перетаскивание для мониторинга данных в режиме реального времени и вспомогательного принятия решений.
В то же время он также поддерживает 30+ аннотаций формата данных, повышая эффективность связи аннотаций с наиболее концентрированной рабочей силой в процессе моделирования.
Например, если есть 10 000 изображений, которые необходимо пометить, система поместит характерные изображения впереди, а повторяющиеся — сзади, так что только первые 3 000 изображений будут помечены, а последние 7 000 изображений могут быть помечены автоматически.
Согласно отчетам, этот метод может сэкономить в среднем 70-90% рабочей силы для корпоративных пользователей. Доля человеческого труда в «искусственном интеллекте» резко сократилась.
Кроме того, с точки зрения проектирования признаков, платформа искусственного интеллекта Baidu интегрирует профессиональную возможность управления базой данных объектов, предоставляя такие функции, как добавление, удаление, изменение и запрос функций, производство функций, совместное использование функций, управление версиями функций и проверка данных.
Для служб прогнозирования поддерживаются различные формы данных в пакетном и потоковом режиме, что может обеспечить согласованность характеристик модели во время обучения и окончательного прогнозирования, что напрямую связано с точностью модели.
Вышеупомянутые возможности отражены в конкретных цифрах, и отчет Forrester дает платформе искусственного интеллекта Baidu оценку 5 из 5 (из оценки) за ее возможности работы с данными, значительно опережая других поставщиков.
Это один из наиболее очевидных аспектов последнего тренда с точки зрения рыночного спроса, который нацелен не только на профессиональных разработчиков, но и на деловых людей, не специализирующихся на алгоритмах ИИ, поэтому требует, чтобы платформа AI/ML, предоставляющая возможности, была простой в использовании и гибкой.
Обратитесь к практике платформы искусственного интеллекта Baidu.
С одной стороны, он придает большое значение «широте» и поддерживает моделирование и обучение различных данных, таких как изображения, видео, текст и речь.
Метод моделирования также очень гибкий, поддерживая различные методы моделирования, такие как разработка записных книжек / WebIDE, визуальная разработка с помощью перетаскивания, настройка параметров скрипта, пользовательские задания и т. д., которые могут завершить индивидуальную разработку высокоточных моделей для людей с разным профессиональным уровнем.
С другой стороны – «глубина». При поддержке собственной команды алгоритмов лопастей платформа искусственного интеллекта Baidu провела глубокую оптимизацию большого количества операторов сцены. Включая классификацию изображений, обнаружение объектов, классификацию текста, аннотацию последовательности и т. д.
Например, PP YOLO, который глубоко оптимизирован на основе оператора Paddle, превзошел бенчмарк YOLO V3 в области обнаружения объектов.
Кроме того, объем вычислений ИИ увеличивается как минимум в 10 раз в год, и возможность корректировки ресурсов задач при обучении глубокому обучению стала особенно важной. Платформа искусственного интеллекта Baidu поддерживает распределенное обучение на нескольких машинах и картах, а также предоставляет различные типы вычислительных ресурсов.
Кроме того, сама Baidu имеет богатый опыт в обучении сверхбольших моделей, и может интегрировать собственные возможности в визуальные большие модели, генеративный ИИ и т.д. Например, может быть выполнен автоматический поиск гиперпараметров, автоматическая обработка несбалансированных данных и сверхмасштабное предварительное обучение.
В результате на платформе Baidu AI также можно увидеть множество инструментов разработки для повышения эффективности программирования.
Третий аспект компетентности – это рассуждение. **
С развитием больших моделей рынок логических выводов будет расширяться и даже расти в геометрической прогрессии, что создает большие проблемы для платформ искусственного интеллекта и машинного обучения.
С точки зрения платформы искусственного интеллекта Baidu, они в основном сосредоточены на эффективности разработки, оптимизации производительности, гибкости и экстенсивности.
Его модуль логического вывода, Model Serve, поддерживает 16 фреймворков искусственного интеллекта, включая наиболее распространенные Paddle, Tensor Flow и PyTorch, а также Matlab/R для научных вычислений и Xg boost для машинного обучения.
С точки зрения оптимизации производительности, планировщик асинхронного вывода абстрагируется непосредственно на уровне планирования для достижения гетерогенных рабочих процессов вывода, повышая производительность всего сервера и использование GPU более чем в 1 раз.
В то же время он поддерживает автоматическую пакетную обработку, классифицирует задачи разной длины и компилирует задачи одинакового размера в один пакет, чтобы в полной мере использовать разнородные ресурсы, что может повысить эффективность на 70% на основе асинхронной развязки.
Приложение в отчете в основном исследует эффективность приложений каждой платформы.
То есть, как использовать имеющиеся ресурсы, чтобы быстро превратить данные в продуктивность бизнеса.
Платформа искусственного интеллекта Baidu может предоставить возможности полного управления жизненным циклом для процесса разработки ИИ, от сбора и очистки данных до разработки и обучения моделей, управления моделями, облачного и автономного управления сервисами логического вывода.
В настоящее время возможности платформы искусственного интеллекта Baidu экспортируются в такие отрасли, как финансы, энергетика и транспорт. Обслуживает Шанхайский банк развития Пудун, Банк Пекина, а также государственную сеть, Китайскую южную электросеть и т. Д.
В 2022 году количество платящих пользователей интеллектуальной облачной AI-платформы Baidu увеличится на 49%, количество приватизированных клиентов увеличится на 32%, а количество разработчиков увеличится на 1,228 млн, с темпом роста около 40%; Темпы выкупа увеличивались из года в год, а в ключевых отраслях достигли 50%.
Наконец, с точки зрения архитектуры, архитектурный дизайн платформы искусственного интеллекта Baidu получил высшую оценку в рейтинге Forrester.
Проанализировав общие возможности платформы искусственного интеллекта Baidu, нетрудно обнаружить, что многие из этих инструментов и идей соответствуют новым потребностям текущей тенденции больших моделей.
На самом деле, в условиях кардинальных изменений в направлении технологий тренд не только на то, чтобы подстраивать существующую архитектуру под изменения спроса, но и предлагать новые способы борьбы с ним.
В эпоху больших моделей предварительно определена новая модель конкуренции ИИ в облаке
Итак, под влиянием волны больших моделей, какие новые изменения произошли в рыночном спросе на платформы AI/ML?
В прошлом многие модели CV и NLP назывались SOTA, но они все же чаще использовались в непрофильных бизнесах отрасли. Теперь, благодаря своей удивительной способности разрушать традиционные рабочие процессы, большие модели начинают признаваться все больше и больше и считаются ключом к прорыву через узкое место интеллекта в различных отраслях.
Однако для облачных вендоров это не означает, что эра больших моделей «начинается с нуля» в эпоху малых моделей.
На самом деле, с углублением применения больших моделей, технические области, такие как агенты, привлекают все больше и больше внимания. Суть заключается в том, что большая модель основана на собственных возможностях и связывает малую модель со зрелым планированием для решения задачи в практических приложениях, что считается более быстрым и ценным в производственном сценарии.
Поэтому в «новую эру», открытую большими моделями, для «лидеров» AI/ML-платформ техническое накопление в эпоху малых моделей и технологические инновации в эпоху больших моделей дополняют друг друга и незаменимы.
Являясь универсальной платформой больших моделей корпоративного уровня, платформа Baidu Intelligent Cloud Qianfan, по сути, является продуктом глубокого накопления Baidu на уровне микросхем, уровне фреймворка, уровне модели и уровне приложений.
Она воплощается в пяти аспектах:
Во-первых, на уровне вычислительной мощности интеллектуальная облачная платформа Baidu Qianfan может предоставлять эффективные и экономичные гетерогенные вычислительные сервисы.
В процессе обучения больших моделей, благодаря стратегии распределенного параллельного обучения и возможностям микросекундного взаимодействия, коэффициент ускорения обучения кластера в масштабе 10 000 карт на платформе Baidu Qianfan может достигать 95%. При этом эффективное время обучения кластера «Ванька» может достигать 96%, что значительно снижает затраты на вычислительные мощности и время.
Для сторонних крупных моделей платформа Baidu Qianfan также была целенаправленно оптимизирована, включая китайское улучшение, повышение производительности, улучшение контекста и так далее.
Baidu сообщила, что количество вызовов API больших моделей на платформе Baidu Qianfan продолжает расти с высокой скоростью. В настоящее время платформа Baidu Qianfan обслуживает более 20 000 клиентов.
В-третьих, для клиентов, которые хотят осуществлять вторичную разработку на основе существующих больших моделей, платформа Baidu Qianfan предоставляет цепочку инструментов полного жизненного цикла для переобучения, тонкой настройки, оценки и развертывания больших моделей, а также 41 высококачественный набор данных, которые могут реализовать быструю оптимизацию моделей для конкретных бизнес-сценариев.
В-четвертых, на прикладном уровне, в ответ на потребности предприятий в разработке приложений на основе ИИ на основе больших моделей, платформа Baidu Qianfan предоставляет ряд компонентов и фреймворков возможностей.
Например, есть 226 встроенных шаблонов, чтобы разработчики могли быстро улучшить качество ответов на большие модели, даже если они не знакомы с оперативным проектированием.
На Всемирной конференции Baidu 17 октября компания Baidu Intelligent Cloud также представила «Baidu Qianfan AI Native Application Development Workbench». В частности, этот «верстак» состоит из двух частей: компоненты приложения + фреймворки приложений.
Среди них компонент ИИ, то есть компонентная инкапсуляция возможностей больших моделей, включает в себя большие компоненты языковой модели, такие как Q&A и Chain of Thought (CoT), а также мультимодальные компоненты, такие как диаграмма Вэньшэна и распознавание речи.
К базовым облачным компонентам относятся традиционные облачные сервисы, такие как векторные базы данных и объектные хранилища.
Фреймворк приложения ориентирован на конкретные сценарные задачи, под которыми можно понимать эффективную комбинацию вышеуказанных компонентов приложения, основанную на возможностях больших моделей.
В настоящее время платформа Baidu Qianfan предоставляет широко используемые платформы нативных приложений ИИ, такие как Retrieval Enhanced Generation (RAG) и Agent.
Среди них, фреймворк RAG может сочетать знания в проприетарной предметной области предприятия с возможностью большой модели вопросов и ответов для более точных ответов на профессиональные знания.
Основываясь на этом фреймворке RAG, компания Sany Heavy Industry быстро осуществила разработку и запуск интеллектуального приложения для обслуживания клиентов на официальном сайте.
Основанная на агентной структуре, большая модель может автоматически разбирать задачи, поставленные людьми, автоматически планировать и вызывать различные компоненты для совместного выполнения задач, и в то же время обеспечивать самообратную связь в соответствии с эффектом завершения задачи для улучшения собственных возможностей.
В настоящее время, на основе этой агентной структуры, Zhongtian Iron and Steel построила интеллектуальный «центр планирования предприятия» для реализации автоматического восприятия, декомпозиции и выполнения инструкций по задачам.
Например, когда обнаруживается, что выпуск стали не соответствует стандарту, большая модель может автоматически вызывать различные ресурсы и API, управляемые платформой, чтобы выяснить причину несоответствия, вовремя скорректировать график производства и отправить электронное письмо для уведомления диспетчера.
Анализ IDC показывает, что внедрение генеративного ИИ и больших моделей в настоящее время находится в зачаточном состоянии, и эти возможности могут быть обновлены и итерированы быстрее в публичном облаке, что принесет значительные преимущества публичным облачным сервисам ИИ в краткосрочной перспективе.
Gartner также отмечает, что генеративный ИИ управляется большими моделями, что выдвигает требования к надежной и высокомасштабируемой вычислительной инфраструктуре. «Облако предоставляет идеальное решение и платформу, и ключевыми игроками в гонке генеративного ИИ должны быть ведущие поставщики облачных услуг».
В сочетании с последним отчетом Forrester можно увидеть, что для поставщиков облачных услуг облачные сервисы ИИ стали новым фокусом конкуренции.
А как измерить конкурентоспособность, теперь постепенно понятны критерии оценки.
В конечном счете, есть два основных аспекта:
Во-первых, с точки зрения разработчиков и корпоративных пользователей, речь идет о том, сможет ли способность платформы облачных сервисов ИИ действительно экономически эффективно решать практические задачи, с которыми сталкиваются сложные бизнесы, а также о нехватке профессиональных талантов в процессе интеллектуальной модернизации, особенно на волне больших моделей.
Во-вторых, с точки зрения технологических тенденций, он более тесно интегрирован с большими моделями.
Макет платформы искусственного интеллекта Baidu можно рассматривать как эталонный ответ, данный ведущими поставщиками облачных решений для искусственного интеллекта в связи с последними изменениями в конкурентной среде.
Что касается результатов? В большем количестве случаев лендинга можно увидеть реальную главу.