Интеллектуальная трансформация отрасли проникла в глубоководную область, и точки спроса предприятий на возможности ИИ меняются.
Все больше и больше крупных предприятий выходят за рамки одного интеллектуального приложения. В таких отраслях, как электроэнергетика и финансы, крупные предприятия сосредотачиваются на всем процессе производства, применения и управления возможностями ИИ, а также выдвигают требования к платформам обучения ИИ производителей и инструментам повышения производительности платформ, чтобы решить ряд проблем, таких как нехватка талантов, нехватка данных, трудности управления и низкий уровень повторного использования ресурсов.
После прихода бума больших моделей фокус конкуренции платформ сместился на разработку и применение больших моделей, и производители активно комбинируют предыдущие решения платформы ИИ с большими моделями. В конкуренции платформ были выделены преимущества некоторых компаний. Международное аналитическое агентство Forrester недавно опубликовало отчет, показывающий, что в конкуренции китайских платформ искусственного интеллекта и машинного обучения Baidu Intelligent Cloud показала хорошие результаты, а платформы ИИ, участвовавшие в отборе, получили самые высокие баллы в 6 категориях, таких как данные, рассуждения и приложения15 подкатегорий, заняв место в квадранте лидеров**.
Платформа ИИ помогает предприятиям быстро создавать модели и приложения ИИ, отвечающие потребностям бизнеса, а также эффективно отслеживать и оптимизировать производительность моделей.
Ситуация со строительством 100 моделей на 100 сцен ушла в прошлое.
01 Глубокое использование ИИ, проблемы старых пушек
** Отрасль вступает в стадию углубленного применения ИИ, и ИИ больше не является недосягаемым. Тем не менее, все больше и больше предприятий обнаруживают, что с углублением приложений старшие пользователи в области корпоративной аналитики сталкиваются с новыми проблемами.
Если взять в качестве примера энергетическую отрасль, то крупные энергетические компании использовали модели искусственного интеллекта для различных сценариев, таких как проверка цепей. Как правило, соответствующие нужды таких предприятий в основном закупаются независимо друг от друга различными отделами или филиалами. По мере увеличения количества приложений ИИ растет и количество моделей. Управление большим количеством моделей и поддержание их стабильной и эффективной работы становится сложной задачей.
Подобные проблемы есть у многих крупных предприятий. Ветеран рассказал Digital Intelligence Frontline, что он лично видел, что отдел А на предприятии ставит 5 человек для выполнения алгоритма А, а отдел Б также помещает несколько человек в команду Б для выполнения алгоритмов, что затрудняет проведение унифицированного мониторинга, оптимизации, обновления и обслуживания на уровне компании, а общий уровень повторного использования ресурсов ИИ на предприятии очень низкий.
Некоторые предприятия или учреждения уже применили технологию ИИ для выдачи кредитных карт, одобрения права на выдачу кредитных карт и выявления мошенничества для достижения контроля рисков ИИ и точного маркетинга. Но акцент финансовой отрасли на безопасности и соблюдении нормативных требований распространяется и на применение ИИ. Например, техническая команда в банке придает большое значение факторам соответствия, и при создании новой модели кто отвечает за делегирование и утверждение строительства, кто занимается утверждением считывания данных, а запись данных, производство модели, обучение, посадка и запуск также гарантируются уровнями процессов. Очевидно, что такого рода требования не являются традиционным для построения интеллектуальных приложений.
Старший специалист по отраслевым решениям из поставщика облачных решений рассказал Digital Intelligence Frontier, что некоторые крупные центральные государственные предприятия явно надеются построить интеллектуальный центр предприятия и развивать свои собственные возможности искусственного интеллекта, чтобы цифровой отдел предприятия мог разрабатывать свои собственные алгоритмы для новых сценариев и создавать новые приложения.
Такая тенденция наблюдается и в отрасли. Цзинь Вэй (Jin Wei), старший архитектор интеллектуальной облачной платформы искусственного интеллекта Baidu, сказал, что это отражает то, что приложения ИИ движутся в сторону глубоководной области, и систематическая трансформация предприятий становится все более заметной. Предприятия должны не только иметь видение и планирование целей, но и иметь сильный механизм координации и контроля за продвижением, а также иметь полный набор инструментов для обеспечения плавной реализации. Платформа искусственного интеллекта — это инструмент повышения производительности для интеллектуальной трансформации предприятий.
Индустрия осознала важность этого платформенного продукта. Международная аналитическая фирма Forrester недавно опубликовала отчет «The Forrester WaveTM: Evaluation of AI/ML Platform Vendors in the Chinese Market, Q42023», в котором отмечается, что лица, принимающие решения на предприятиях Китая, все больше уделяют приоритетное внимание внедрению технологий искусственного интеллекта для повышения производительности и бизнес-инноваций. При этом предприятиям нужны продукты платформы ИИ, которые могут поддерживать сложные сценарии использования в соответствующих бизнес-средах.
Новые тенденции также требуют возможностей от поставщиков платформ машинного обучения. По мнению Forrester, ведущие платформы** должны предоставлять комплексные инструменты для управления данными, обучения моделей и создания приложений ИИ; Он также должен быть адаптирован к отраслевым сценариям, чтобы помочь некоторым предприятиям, которым не хватает талантов в области ИИ и специалистов по обработке и анализу данных, получить возможности ИИ на основе их собственных бизнес-потребностей**; Кроме того, инструменты, технологии и методики могут помочь предприятиям разрабатывать и развертывать модели в большом масштабе.
Компания Forrester оценила 14 основных поставщиков платформ машинного обучения в Китае по 25 подкритериям из трех измерений: возможности продукта, стратегическая компоновка и рыночные показатели. Согласно данным, Baidu Intelligent Cloud в настоящее время является лидером отчета и заняла первое место в 9 подоценках, таких как данные, обучение, предиктивное мышление и применение.
Цзинь Вэй (Jin Wei) рассказал, что ведущие возможности продуктов Baidu в области искусственного интеллекта подверглись долгосрочному накоплению и совершенствованию. Первоначальная цель платформы ИИ — создать программное обеспечение для повышения производительности, которое позволяет различным типам корпоративных пользователей быстро и экономично создавать приложения ИИ, и в то же время обеспечивает множество алгоритмов, инструментов, быструю работу и хорошие результаты на платформе, помогая клиентам экономить серверы и рабочую силу.
В настоящее время глубоко используются некоторые крупные предприятия энергетической и финансовой отраслей. На базе платформы ИИ предприятия могут не только быстро создавать модели и приложения ИИ, отвечающие потребностям бизнеса, но и эффективно контролировать и оптимизировать производительность модели. Кроме того, удобнее и эффективнее управлять и координировать такие ресурсы, как данные, вычислительные мощности, люди и процессы.
Например, в энергетической отрасли интеллектуальная облачная платформа искусственного интеллекта Baidu помогает большим группам решать болевые точки бизнеса. С одной стороны, модель и данные могут совместно использоваться различными дочерними компаниями, чтобы не изобретать велосипед. В то же время некоторые существующие модели, связанные с безопасным производством, используют этот продукт, который может быть напрямую распределен по провинциальной или муниципальной сети государственной сетью, которая может эффективно использовать ресурсы искусственного интеллекта и иметь стабильное качество. Кроме того, платформа искусственного интеллекта также может помочь предприятиям внедрять инновации, такие как разработка нового алгоритма диспетчеризации электроэнергии с использованием фреймворка обучения с подкреплением Baidu, который может реализовать автоматическую калибровку параметров планирования без ручного опыта большого количества экспертов.
В финансовой отрасли платформа искусственного интеллекта Baidu Intelligent Cloud также помогла многим финансовым учреждениям создать большие модельные модули управления рисками для обеспечения соответствия процессам и надежной безопасности при применении ИИ к финансовым сценариям.
02 Эпоха больших моделей, как их сшить
С начала этого года волна больших моделей и генеративного ИИ способствовала дальнейшему углубленному применению ИИ в отрасли, а платформы машинного обучения также открывают новые возможности для развития.
По словам высокопоставленных источников, после появления больших языковых моделей изменения в платформах машинного обучения отражаются на трех уровнях. Наиболее типичные изменения происходят в операционном интерфейсе, сложный операционный интерфейс до NLP стал проще, а порог для корпоративного применения языкового ИИ снижается. В то же время улучшаются возможности автоматизации модели, а также могут быть автоматизированы такие задачи, как обработка данных, выбор модели и автоматическое формирование отчетов. Кроме того, открылось пространство для инновационных приложений, основанных на искусственном интеллекте.
В этом контексте многие компании восприняли большую модель как обязательную, чтобы ответить на этот вопрос, и различные производители платформ также готовятся к запуску различных продуктов и платформ для ускорения применения технологии больших моделей. В качестве примера можно привести компанию Baidu, которая в марте этого года запустила платформу больших моделей Baidu Intelligent Cloud Qianfan, которая глубоко интегрирует ключевые возможности разработки и применения больших моделей с платформой искусственного интеллекта для создания «суперфабрики» для сервисов больших моделей.
Чтобы облегчить предприятиям использование и разработку приложений с большими моделями, Baidu Qianfan в настоящее время предоставляет не только большую модель Wenxin собственной разработки Baidu и стороннюю большую модель, но также предоставляет различные инструменты разработки ИИ и полный набор сред разработки, чтобы помочь индустрии генеративного ИИ в различных отраслях приземлиться.
В частности, Baidu суммирует спрос отрасли на большие модели в пять типов, будь то клиент, которому нужна только вычислительная мощность, или предприятие, которое хочет напрямую вызвать API большой модели или выполнить вторичную разработку на основе существующей большой модели, и компания, которая хочет разрабатывать нативные приложения искусственного интеллекта на основе большой модели или напрямую использовать разработанное приложение, платформа Baidu Qianfan может предоставлять целевые услуги.
Для предприятий, которым нужны только вычислительные мощности, платформа Baidu Qianfan может предоставить высокоэффективные и экономичные услуги гетерогенной вычислительной мощности. Цзинь Вэй рассказал, что для этого техническая команда интеллектуальной облачной платформы искусственного интеллекта Baidu потратила несколько лет на выполнение большого количества грязной работы. Например, он совместим с основными чипами искусственного интеллекта в стране и за рубежом и должен быть адаптирован на четырех уровнях: уровень фреймворка, базовый алгоритм и сеть, модель чипа и операционная система. «PyTorch отличается от TensorFlow, и операционная система — Windows, Linux или микроконтроллер, и работа, которую нужно выполнить, также отличается. ** Четырехслойная комбинация сделала 40 000 адаптаций для обеспечения бесперебойной работы различных моделей. ** — сказал Цзинь Вэй.
В настоящее время платформа больших моделей Qianfan не только подключена к большой модели Wenxin 4.0, но также управляет 44 сторонними основными крупными моделями в стране и за рубежом, что является самым большим числом среди отечественных платформ.
** Некоторые предприятия хотят переработать существующие большие модели, что требует богатой цепочки инструментов и большого количества наборов данных. ** Платформа Qianfan в настоящее время имеет полный набор инструментов и большое количество высококачественных наборов данных, охватывающих весь жизненный цикл переобучения, тонкой настройки, оценки и развертывания больших моделей, что позволяет быстро оптимизировать эффект модели в соответствии со сценариями и еще больше улучшить пользовательский опыт больших моделей предприятий.
Большие модели вносят новые изменения в процесс аннотирования данных, и многие задачи аннотирования могут быть выполнены с помощью модели. В настоящее время платформа Qianfan поддерживает перекомпоновку бизнес-данных и высокоавтоматизированное аннотирование данных. Например, в сценарии обнаружения объектов Qianfan напрямую предоставляет возможности предварительного обучения, нажимая на кнопку, чтобы пометить небольшую часть, и позволяет модели изучить стиль аннотаций человека для автоматического аннотирования, что может сэкономить 70% ~ 90% рабочей силы для предприятий.
Также есть много компаний, которые хотят разрабатывать нативные приложения на основе ИИ на основе больших моделей. В середине этого месяца Baidu Intelligent Cloud выпустила «Qianfan AI Native Application Development Workbench», который включает в себя общие компоненты приложений и двухуровневые сервисы платформы приложений для разработки крупномасштабных модельных приложений, которые направлены на развитие потребностей в нативных приложениях ИИ.
Если взять в качестве примера компоненты приложений, то платформа Qianfan включает в себя различные типы возможностей, такие как компоненты больших языковых моделей, такие как Q&A и цепочка мыслей, мультимодальные компоненты, такие как диаграмма Wensheng и распознавание речи, а также традиционные возможности облачных сервисов, такие как векторная база данных и объектное хранилище.
Платформа приложения может органично соединять компоненты для выполнения полной задачи конкретного сценария. Платформа Qianfan предоставила на рынке широко используемые фреймворковые сервисы, такие как Retrieval Enhanced Generation (RAG) и Agent, и предприятия-первопроходцы, такие как Sany Heavy Industry, применили эти фреймворки для быстрой разработки своих собственных приложений для вопросов и ответов.
Инженерия – это новая область, родившаяся после появления больших моделей. Это связано с природой большой модели, и небольшое изменение инструкций может иметь огромное значение для ее вывода или поведения. В настоящее время различные производители делают упор на инженерные инструменты. Платформа Baidu Qianfan также предоставляет более 10 сценариев, охватывающих диалог, программирование, электронную коммерцию, медицинское обслуживание, игры, перевод, речь и т. д., в общей сложности 226 шаблонов. Согласно отчетам, это самое большое количество библиотек шаблонов на основной платформе в Китае. Разработчики и предприятия также могут использовать различные инструменты автоматизации и пакетной обработки, предоставляемые платформой, для эффективного выполнения процесса.
Цзинь Вэй считает, что за последние несколько месяцев интеллектуальная облачная платформа больших моделей Qianfan от Baidu заложила прочный фундамент и готова к битве 100 моделей и помогает предприятиям применять ИИ в больших масштабах.
Искусственный интеллект предназначен не только для крупного бизнеса. В настоящее время производители платформ машинного обучения придают большое значение всестороннему охвату крупных предприятий, малых и средних клиентов и рынков разработчиков, и решения платформы искусственного интеллекта Baidu Intelligent Cloud также адресно обслуживают различные группы.
Цзинь Вэй рассказал Digital Intelligence Frontier, что решение платформы искусственного интеллекта Baidu является общим термином для ряда продуктов, включая такие продукты, как полнофункциональная платформа разработки искусственного интеллекта BML, платформа разработки искусственного интеллекта с нулевым порогом EasyDL и платформа больших моделей Baidu Intelligent Cloud Qianfan. Для разных сфер или разных предпочтений клиентов AI-платформа имеет соответствующую адаптацию продукта. Например, возможности обработки данных упакованы в продукт EasyData, а возможность моделирования с нулевым кодом также извлечена для создания продукта EasyDL, который может помочь пользователям выполнять моделирование с нулевым кодом с помощью высокопроизводительных предварительно обученных моделей, а возможности больших моделей обеспечиваются интеллектуальной облачной платформой Qianfan от Baidu.
В публичном облаке большинство заказчиков — это малые и средние предприятия, а модули AI-платформы разбираются и объединяются, при этом полнофункциональной платформой разработки ИИ BML и продуктами EasyDL выступают в качестве основных представителей для удовлетворения потребностей. В ответ на потребности крупных клиентов в развертывании приватизации различные продукты будут упакованы в сверхбольшие продукты для полной поставки.
Согласно отчету Forrester, возможности интеллектуальной облачной платформы искусственного интеллекта Baidu хорошо зарекомендовали себя в пяти основных областях: обработка данных, обучение моделей, предиктивное мышление, применение и архитектура.
Цзинь Вэй рассказал об уникальных возможностях и преимуществах в различных областях. Взяв в качестве примера проектирование признаков в области данных, Цзинь Вэй (Jin Wei) рассказал, что платформа искусственного интеллекта Baidu объединяет очень отличные возможности управления библиотеками функций, а ее возможности достигли профессионального уровня. Он может предоставлять такие функции, как добавление, удаление, изменение и запрос признаков, создание признаков, совместное использование, управление версиями, проверка данных и т. д., поддерживать различные формы данных в потоке утверждения для служб прогнозирования и гарантировать, что функции, используемые при обучении модели, согласованы с признаками в окончательном прогнозе. «Если во время обучения распределение признаков составляет 50 процентов мужчин и 50 процентов женщин, а 60 процентов мужчин и 40 процентов женщин прогнозируется, то вы не можете ожидать, что модель будет особенно точной», — говорит Цзинь Вэй, что имеет решающее значение для точности модели.
Например, в области обучения моделей платформа искусственного интеллекта Baidu может поддерживать моделирование и обучение различных типов данных, включая изображения, видео, текст, речь и структурированные данные. Что касается моделирования, поддержка инструмента NoteBook предоставляется для людей, которые хотят писать код, а люди, которые не любят писать код, могут перетащить или даже нажать встроенную универсальную кнопку для моделирования. Для большого количества сценариев, таких как классификация изображений, многометка с одной меткой, обнаружение объектов и другие сценарии CV, команда алгоритмов Paddle провела глубокую оптимизацию на основе оператора Paddle, и производительность и эффект будут лучше.
Уникальные преимущества производительности продукта неотделимы от долгосрочных технических инвестиций и внимания к новым технологическим тенденциям. По словам R&D-команды платформы искусственного интеллекта Baidu, они очень обеспокоены новыми технологическими тенденциями, например, три года назад в отрасли обсуждалась проблема интерпретируемости модели, и если вы не знаете, как модель принимает решения, это повлияет на использование модели в сценариях с высокими требованиями к соответствию требованиям безопасности. Вообще говоря, модели глубокого обучения имеют гораздо большие параметры, чем традиционные модели машинного обучения, и проблема черного ящика будет более серьезной.
После долгого периода подготовки команда платформы Baidu AI наконец-то преодолела алгоритм объяснимости модели в области обычного машинного обучения, интегрировала принципы белого ящика пяти распространенных машинных обучения, а также преодолела некоторые проблемы интерпретируемости глубокого обучения. «Выяснение того, когда модель принимает решение, будь то на основе данных или алгоритмов, может быть приписано, и эти результаты способствуют применению продуктов, связанных с платформой ИИ, в особых отраслевых сценариях, таких как принятие финансовых решений». Цзинь Вэй представился.
В настоящее время отрасль делит парадигму разработки больших моделей на пять уровней: собственно большая модель, инжиниринг, цепочка инструментов и цепочка действий, агентство и мультиагентство. Основной акцент интеллектуальной облачной платформы Qianfan от Baidu был сделан на первом и втором уровнях, а последние три уровня, включая цепочку инструментов, агентские и межведомственные возможности, также находятся на ключевой стадии строительства. Цзинь Вэй сообщил, что платформа большой модели Цяньфань будет продолжать совершенствоваться и модернизироваться, чтобы большая модель могла самостоятельно проявлять свою субъективную инициативу и иметь возможность решать сложные задачи. При этом в будущем не исключены планы выхода в море**.
В целом, в условиях интеллектуального строительства предприятий применение ИИ предприятиями было глубоко модернизировано, а конкуренция в области платформ ИИ становилась все более ожесточенной. Чтобы оставаться на шаг впереди и справляться с долгосрочными проблемами, связанными с изменением соответствия требованиям и технической сложностью, производителям также необходимо инвестировать в технологии. Цзинь Вэй считает, что производителям необходимо придерживаться технологических инноваций и повышать удовлетворенность клиентов, безопасность и соответствие требованиям, чтобы адаптироваться к этому меняющемуся рынку.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
100 модельных войн, не воюйте за единую платформу
Первоисточник: Digital Intelligence Frontline
Автор: Сюй Синь
Интеллектуальная трансформация отрасли проникла в глубоководную область, и точки спроса предприятий на возможности ИИ меняются.
Все больше и больше крупных предприятий выходят за рамки одного интеллектуального приложения. В таких отраслях, как электроэнергетика и финансы, крупные предприятия сосредотачиваются на всем процессе производства, применения и управления возможностями ИИ, а также выдвигают требования к платформам обучения ИИ производителей и инструментам повышения производительности платформ, чтобы решить ряд проблем, таких как нехватка талантов, нехватка данных, трудности управления и низкий уровень повторного использования ресурсов.
После прихода бума больших моделей фокус конкуренции платформ сместился на разработку и применение больших моделей, и производители активно комбинируют предыдущие решения платформы ИИ с большими моделями. В конкуренции платформ были выделены преимущества некоторых компаний. Международное аналитическое агентство Forrester недавно опубликовало отчет, показывающий, что в конкуренции китайских платформ искусственного интеллекта и машинного обучения Baidu Intelligent Cloud показала хорошие результаты, а платформы ИИ, участвовавшие в отборе, получили самые высокие баллы в 6 категориях, таких как данные, рассуждения и приложения15 подкатегорий, заняв место в квадранте лидеров**.
Платформа ИИ помогает предприятиям быстро создавать модели и приложения ИИ, отвечающие потребностям бизнеса, а также эффективно отслеживать и оптимизировать производительность моделей.
Ситуация со строительством 100 моделей на 100 сцен ушла в прошлое.
01 Глубокое использование ИИ, проблемы старых пушек
** Отрасль вступает в стадию углубленного применения ИИ, и ИИ больше не является недосягаемым. Тем не менее, все больше и больше предприятий обнаруживают, что с углублением приложений старшие пользователи в области корпоративной аналитики сталкиваются с новыми проблемами.
Если взять в качестве примера энергетическую отрасль, то крупные энергетические компании использовали модели искусственного интеллекта для различных сценариев, таких как проверка цепей. Как правило, соответствующие нужды таких предприятий в основном закупаются независимо друг от друга различными отделами или филиалами. По мере увеличения количества приложений ИИ растет и количество моделей. Управление большим количеством моделей и поддержание их стабильной и эффективной работы становится сложной задачей.
Подобные проблемы есть у многих крупных предприятий. Ветеран рассказал Digital Intelligence Frontline, что он лично видел, что отдел А на предприятии ставит 5 человек для выполнения алгоритма А, а отдел Б также помещает несколько человек в команду Б для выполнения алгоритмов, что затрудняет проведение унифицированного мониторинга, оптимизации, обновления и обслуживания на уровне компании, а общий уровень повторного использования ресурсов ИИ на предприятии очень низкий.
Некоторые предприятия или учреждения уже применили технологию ИИ для выдачи кредитных карт, одобрения права на выдачу кредитных карт и выявления мошенничества для достижения контроля рисков ИИ и точного маркетинга. Но акцент финансовой отрасли на безопасности и соблюдении нормативных требований распространяется и на применение ИИ. Например, техническая команда в банке придает большое значение факторам соответствия, и при создании новой модели кто отвечает за делегирование и утверждение строительства, кто занимается утверждением считывания данных, а запись данных, производство модели, обучение, посадка и запуск также гарантируются уровнями процессов. Очевидно, что такого рода требования не являются традиционным для построения интеллектуальных приложений.
Старший специалист по отраслевым решениям из поставщика облачных решений рассказал Digital Intelligence Frontier, что некоторые крупные центральные государственные предприятия явно надеются построить интеллектуальный центр предприятия и развивать свои собственные возможности искусственного интеллекта, чтобы цифровой отдел предприятия мог разрабатывать свои собственные алгоритмы для новых сценариев и создавать новые приложения.
Такая тенденция наблюдается и в отрасли. Цзинь Вэй (Jin Wei), старший архитектор интеллектуальной облачной платформы искусственного интеллекта Baidu, сказал, что это отражает то, что приложения ИИ движутся в сторону глубоководной области, и систематическая трансформация предприятий становится все более заметной. Предприятия должны не только иметь видение и планирование целей, но и иметь сильный механизм координации и контроля за продвижением, а также иметь полный набор инструментов для обеспечения плавной реализации. Платформа искусственного интеллекта — это инструмент повышения производительности для интеллектуальной трансформации предприятий.
Индустрия осознала важность этого платформенного продукта. Международная аналитическая фирма Forrester недавно опубликовала отчет «The Forrester WaveTM: Evaluation of AI/ML Platform Vendors in the Chinese Market, Q42023», в котором отмечается, что лица, принимающие решения на предприятиях Китая, все больше уделяют приоритетное внимание внедрению технологий искусственного интеллекта для повышения производительности и бизнес-инноваций. При этом предприятиям нужны продукты платформы ИИ, которые могут поддерживать сложные сценарии использования в соответствующих бизнес-средах.
Новые тенденции также требуют возможностей от поставщиков платформ машинного обучения. По мнению Forrester, ведущие платформы** должны предоставлять комплексные инструменты для управления данными, обучения моделей и создания приложений ИИ; Он также должен быть адаптирован к отраслевым сценариям, чтобы помочь некоторым предприятиям, которым не хватает талантов в области ИИ и специалистов по обработке и анализу данных, получить возможности ИИ на основе их собственных бизнес-потребностей**; Кроме того, инструменты, технологии и методики могут помочь предприятиям разрабатывать и развертывать модели в большом масштабе.
Компания Forrester оценила 14 основных поставщиков платформ машинного обучения в Китае по 25 подкритериям из трех измерений: возможности продукта, стратегическая компоновка и рыночные показатели. Согласно данным, Baidu Intelligent Cloud в настоящее время является лидером отчета и заняла первое место в 9 подоценках, таких как данные, обучение, предиктивное мышление и применение.
Цзинь Вэй (Jin Wei) рассказал, что ведущие возможности продуктов Baidu в области искусственного интеллекта подверглись долгосрочному накоплению и совершенствованию. Первоначальная цель платформы ИИ — создать программное обеспечение для повышения производительности, которое позволяет различным типам корпоративных пользователей быстро и экономично создавать приложения ИИ, и в то же время обеспечивает множество алгоритмов, инструментов, быструю работу и хорошие результаты на платформе, помогая клиентам экономить серверы и рабочую силу.
В настоящее время глубоко используются некоторые крупные предприятия энергетической и финансовой отраслей. На базе платформы ИИ предприятия могут не только быстро создавать модели и приложения ИИ, отвечающие потребностям бизнеса, но и эффективно контролировать и оптимизировать производительность модели. Кроме того, удобнее и эффективнее управлять и координировать такие ресурсы, как данные, вычислительные мощности, люди и процессы.
Например, в энергетической отрасли интеллектуальная облачная платформа искусственного интеллекта Baidu помогает большим группам решать болевые точки бизнеса. С одной стороны, модель и данные могут совместно использоваться различными дочерними компаниями, чтобы не изобретать велосипед. В то же время некоторые существующие модели, связанные с безопасным производством, используют этот продукт, который может быть напрямую распределен по провинциальной или муниципальной сети государственной сетью, которая может эффективно использовать ресурсы искусственного интеллекта и иметь стабильное качество. Кроме того, платформа искусственного интеллекта также может помочь предприятиям внедрять инновации, такие как разработка нового алгоритма диспетчеризации электроэнергии с использованием фреймворка обучения с подкреплением Baidu, который может реализовать автоматическую калибровку параметров планирования без ручного опыта большого количества экспертов.
В финансовой отрасли платформа искусственного интеллекта Baidu Intelligent Cloud также помогла многим финансовым учреждениям создать большие модельные модули управления рисками для обеспечения соответствия процессам и надежной безопасности при применении ИИ к финансовым сценариям.
02 Эпоха больших моделей, как их сшить
С начала этого года волна больших моделей и генеративного ИИ способствовала дальнейшему углубленному применению ИИ в отрасли, а платформы машинного обучения также открывают новые возможности для развития.
По словам высокопоставленных источников, после появления больших языковых моделей изменения в платформах машинного обучения отражаются на трех уровнях. Наиболее типичные изменения происходят в операционном интерфейсе, сложный операционный интерфейс до NLP стал проще, а порог для корпоративного применения языкового ИИ снижается. В то же время улучшаются возможности автоматизации модели, а также могут быть автоматизированы такие задачи, как обработка данных, выбор модели и автоматическое формирование отчетов. Кроме того, открылось пространство для инновационных приложений, основанных на искусственном интеллекте.
В этом контексте многие компании восприняли большую модель как обязательную, чтобы ответить на этот вопрос, и различные производители платформ также готовятся к запуску различных продуктов и платформ для ускорения применения технологии больших моделей. В качестве примера можно привести компанию Baidu, которая в марте этого года запустила платформу больших моделей Baidu Intelligent Cloud Qianfan, которая глубоко интегрирует ключевые возможности разработки и применения больших моделей с платформой искусственного интеллекта для создания «суперфабрики» для сервисов больших моделей.
В частности, Baidu суммирует спрос отрасли на большие модели в пять типов, будь то клиент, которому нужна только вычислительная мощность, или предприятие, которое хочет напрямую вызвать API большой модели или выполнить вторичную разработку на основе существующей большой модели, и компания, которая хочет разрабатывать нативные приложения искусственного интеллекта на основе большой модели или напрямую использовать разработанное приложение, платформа Baidu Qianfan может предоставлять целевые услуги.
Для предприятий, которым нужны только вычислительные мощности, платформа Baidu Qianfan может предоставить высокоэффективные и экономичные услуги гетерогенной вычислительной мощности. Цзинь Вэй рассказал, что для этого техническая команда интеллектуальной облачной платформы искусственного интеллекта Baidu потратила несколько лет на выполнение большого количества грязной работы. Например, он совместим с основными чипами искусственного интеллекта в стране и за рубежом и должен быть адаптирован на четырех уровнях: уровень фреймворка, базовый алгоритм и сеть, модель чипа и операционная система. «PyTorch отличается от TensorFlow, и операционная система — Windows, Linux или микроконтроллер, и работа, которую нужно выполнить, также отличается. ** Четырехслойная комбинация сделала 40 000 адаптаций для обеспечения бесперебойной работы различных моделей. ** — сказал Цзинь Вэй.
В настоящее время платформа больших моделей Qianfan не только подключена к большой модели Wenxin 4.0, но также управляет 44 сторонними основными крупными моделями в стране и за рубежом, что является самым большим числом среди отечественных платформ.
** Некоторые предприятия хотят переработать существующие большие модели, что требует богатой цепочки инструментов и большого количества наборов данных. ** Платформа Qianfan в настоящее время имеет полный набор инструментов и большое количество высококачественных наборов данных, охватывающих весь жизненный цикл переобучения, тонкой настройки, оценки и развертывания больших моделей, что позволяет быстро оптимизировать эффект модели в соответствии со сценариями и еще больше улучшить пользовательский опыт больших моделей предприятий.
Большие модели вносят новые изменения в процесс аннотирования данных, и многие задачи аннотирования могут быть выполнены с помощью модели. В настоящее время платформа Qianfan поддерживает перекомпоновку бизнес-данных и высокоавтоматизированное аннотирование данных. Например, в сценарии обнаружения объектов Qianfan напрямую предоставляет возможности предварительного обучения, нажимая на кнопку, чтобы пометить небольшую часть, и позволяет модели изучить стиль аннотаций человека для автоматического аннотирования, что может сэкономить 70% ~ 90% рабочей силы для предприятий.
Также есть много компаний, которые хотят разрабатывать нативные приложения на основе ИИ на основе больших моделей. В середине этого месяца Baidu Intelligent Cloud выпустила «Qianfan AI Native Application Development Workbench», который включает в себя общие компоненты приложений и двухуровневые сервисы платформы приложений для разработки крупномасштабных модельных приложений, которые направлены на развитие потребностей в нативных приложениях ИИ.
Платформа приложения может органично соединять компоненты для выполнения полной задачи конкретного сценария. Платформа Qianfan предоставила на рынке широко используемые фреймворковые сервисы, такие как Retrieval Enhanced Generation (RAG) и Agent, и предприятия-первопроходцы, такие как Sany Heavy Industry, применили эти фреймворки для быстрой разработки своих собственных приложений для вопросов и ответов.
Инженерия – это новая область, родившаяся после появления больших моделей. Это связано с природой большой модели, и небольшое изменение инструкций может иметь огромное значение для ее вывода или поведения. В настоящее время различные производители делают упор на инженерные инструменты. Платформа Baidu Qianfan также предоставляет более 10 сценариев, охватывающих диалог, программирование, электронную коммерцию, медицинское обслуживание, игры, перевод, речь и т. д., в общей сложности 226 шаблонов. Согласно отчетам, это самое большое количество библиотек шаблонов на основной платформе в Китае. Разработчики и предприятия также могут использовать различные инструменты автоматизации и пакетной обработки, предоставляемые платформой, для эффективного выполнения процесса.
Цзинь Вэй считает, что за последние несколько месяцев интеллектуальная облачная платформа больших моделей Qianfan от Baidu заложила прочный фундамент и готова к битве 100 моделей и помогает предприятиям применять ИИ в больших масштабах.
**03 Платформа искусственного интеллекта, какая следующая остановка? **
Искусственный интеллект предназначен не только для крупного бизнеса. В настоящее время производители платформ машинного обучения придают большое значение всестороннему охвату крупных предприятий, малых и средних клиентов и рынков разработчиков, и решения платформы искусственного интеллекта Baidu Intelligent Cloud также адресно обслуживают различные группы.
Цзинь Вэй рассказал Digital Intelligence Frontier, что решение платформы искусственного интеллекта Baidu является общим термином для ряда продуктов, включая такие продукты, как полнофункциональная платформа разработки искусственного интеллекта BML, платформа разработки искусственного интеллекта с нулевым порогом EasyDL и платформа больших моделей Baidu Intelligent Cloud Qianfan. Для разных сфер или разных предпочтений клиентов AI-платформа имеет соответствующую адаптацию продукта. Например, возможности обработки данных упакованы в продукт EasyData, а возможность моделирования с нулевым кодом также извлечена для создания продукта EasyDL, который может помочь пользователям выполнять моделирование с нулевым кодом с помощью высокопроизводительных предварительно обученных моделей, а возможности больших моделей обеспечиваются интеллектуальной облачной платформой Qianfan от Baidu.
В публичном облаке большинство заказчиков — это малые и средние предприятия, а модули AI-платформы разбираются и объединяются, при этом полнофункциональной платформой разработки ИИ BML и продуктами EasyDL выступают в качестве основных представителей для удовлетворения потребностей. В ответ на потребности крупных клиентов в развертывании приватизации различные продукты будут упакованы в сверхбольшие продукты для полной поставки.
Согласно отчету Forrester, возможности интеллектуальной облачной платформы искусственного интеллекта Baidu хорошо зарекомендовали себя в пяти основных областях: обработка данных, обучение моделей, предиктивное мышление, применение и архитектура.
Цзинь Вэй рассказал об уникальных возможностях и преимуществах в различных областях. Взяв в качестве примера проектирование признаков в области данных, Цзинь Вэй (Jin Wei) рассказал, что платформа искусственного интеллекта Baidu объединяет очень отличные возможности управления библиотеками функций, а ее возможности достигли профессионального уровня. Он может предоставлять такие функции, как добавление, удаление, изменение и запрос признаков, создание признаков, совместное использование, управление версиями, проверка данных и т. д., поддерживать различные формы данных в потоке утверждения для служб прогнозирования и гарантировать, что функции, используемые при обучении модели, согласованы с признаками в окончательном прогнозе. «Если во время обучения распределение признаков составляет 50 процентов мужчин и 50 процентов женщин, а 60 процентов мужчин и 40 процентов женщин прогнозируется, то вы не можете ожидать, что модель будет особенно точной», — говорит Цзинь Вэй, что имеет решающее значение для точности модели.
Например, в области обучения моделей платформа искусственного интеллекта Baidu может поддерживать моделирование и обучение различных типов данных, включая изображения, видео, текст, речь и структурированные данные. Что касается моделирования, поддержка инструмента NoteBook предоставляется для людей, которые хотят писать код, а люди, которые не любят писать код, могут перетащить или даже нажать встроенную универсальную кнопку для моделирования. Для большого количества сценариев, таких как классификация изображений, многометка с одной меткой, обнаружение объектов и другие сценарии CV, команда алгоритмов Paddle провела глубокую оптимизацию на основе оператора Paddle, и производительность и эффект будут лучше.
Уникальные преимущества производительности продукта неотделимы от долгосрочных технических инвестиций и внимания к новым технологическим тенденциям. По словам R&D-команды платформы искусственного интеллекта Baidu, они очень обеспокоены новыми технологическими тенденциями, например, три года назад в отрасли обсуждалась проблема интерпретируемости модели, и если вы не знаете, как модель принимает решения, это повлияет на использование модели в сценариях с высокими требованиями к соответствию требованиям безопасности. Вообще говоря, модели глубокого обучения имеют гораздо большие параметры, чем традиционные модели машинного обучения, и проблема черного ящика будет более серьезной.
После долгого периода подготовки команда платформы Baidu AI наконец-то преодолела алгоритм объяснимости модели в области обычного машинного обучения, интегрировала принципы белого ящика пяти распространенных машинных обучения, а также преодолела некоторые проблемы интерпретируемости глубокого обучения. «Выяснение того, когда модель принимает решение, будь то на основе данных или алгоритмов, может быть приписано, и эти результаты способствуют применению продуктов, связанных с платформой ИИ, в особых отраслевых сценариях, таких как принятие финансовых решений». Цзинь Вэй представился.
В настоящее время отрасль делит парадигму разработки больших моделей на пять уровней: собственно большая модель, инжиниринг, цепочка инструментов и цепочка действий, агентство и мультиагентство. Основной акцент интеллектуальной облачной платформы Qianfan от Baidu был сделан на первом и втором уровнях, а последние три уровня, включая цепочку инструментов, агентские и межведомственные возможности, также находятся на ключевой стадии строительства. Цзинь Вэй сообщил, что платформа большой модели Цяньфань будет продолжать совершенствоваться и модернизироваться, чтобы большая модель могла самостоятельно проявлять свою субъективную инициативу и иметь возможность решать сложные задачи. При этом в будущем не исключены планы выхода в море**.
В целом, в условиях интеллектуального строительства предприятий применение ИИ предприятиями было глубоко модернизировано, а конкуренция в области платформ ИИ становилась все более ожесточенной. Чтобы оставаться на шаг впереди и справляться с долгосрочными проблемами, связанными с изменением соответствия требованиям и технической сложностью, производителям также необходимо инвестировать в технологии. Цзинь Вэй считает, что производителям необходимо придерживаться технологических инноваций и повышать удовлетворенность клиентов, безопасность и соответствие требованиям, чтобы адаптироваться к этому меняющемуся рынку.