Le dernier modèle de la plate-forme d’IA chinoise est publié ! Le score global de Baidu est le premier, le deuxième échelon est très compétitif et le grand modèle accélère l’évolution des fournisseurs de cloud
La tendance des grands modèles a apporté des centaines de millions de « petits chocs » à tout ce qui s’y rapporte.
Une plateforme d’IA/ML est l’une d’entre elles.
Il est étroitement lié à la tendance des grands modèles et peut refléter directement le niveau des réserves de R&D sur la technologie de l’IA des principaux fournisseurs de cloud, ainsi que la capacité de perspicacité et de compréhension des dernières tendances.
Qui est le plus fort ? L’industrie en parle.
Sous l’effet des changements drastiques du vent technologique, les plateformes d’IA/ML ont également de nouvelles normes d’évaluation.
Le dernier rapport de Forrester sur les plateformes d’intelligence artificielle et d’apprentissage automatique, publié par l’autorité internationale, fournit une référence opportune.
Forrester Research est une société indépendante d’études de marché et de technologie qui publie des rapports thématiques très reconnus en Chine et dans le monde entier.
Le rapport Forrester Wave, publié tous les deux ans, est le type de rapport le plus influent de Forrester.
Le rapport a interrogé 14 fournisseurs de cloud grand public sur le marché national, notamment Baidu Intelligent Cloud, Alibaba Cloud, Huawei Cloud, Tencent Cloud, etc., et les a évalués sous trois aspects : les capacités du produit, la planification stratégique et les performances du marché.
Sur la base d’une évaluation complète de 25 segments, Forrester divise les 14 principaux fournisseurs en quatre quadrants : Leaders, Top Performers, Contenders et Challengers.
Jetons un coup d’œil aux faits saillants spécifiques.
Quelles sont les nouvelles normes apportées par les nouvelles tendances
Commençons par les principales conclusions du rapport.
Dans ce quadrant, le niveau stratégique est l’axe horizontal, la capacité du produit est l’axe vertical, et il est divisé en quatre quadrants : leaders, excellents performants, concurrents et challengers, et il reflète également la performance du marché de chaque entreprise.
Dans le premier échelon se trouvent Baidu Intelligent Cloud et Alibaba Cloud. Parmi eux, Baidu Intelligent Cloud s’est brillamment comporté et a remporté la première place du score global.
Le deuxième échelon est le plus compétitif, avec 5 fournisseurs dans une position très compacte dans le quadrant.
La conclusion ci-dessus est le résultat de 25 évaluations menées par Forrester.
En plus de faire le tri dans le paysage concurrentiel actuel des plateformes d’IA/ML sur le marché chinois, Forrester a également proposé une nouvelle référence standard pour l’évaluation des plateformes d’IA/ML.
Les trois points suivants sont les plus importants :
Chaîne d’outils complète
Accélérateur facile à utiliser
Modéliser des opérations à grande échelle
Pourquoi?
Forrester estime que sous l’influence de l’IA générative et des grandes tendances des modèles, les applications d’IA deviennent de plus en plus importantes pour promouvoir la productivité et accélérer l’innovation des entreprises.
Sur le marché chinois d’aujourd’hui, les entreprises ont un besoin urgent d’une plateforme d’IA/ML capable de résoudre des problèmes complexes au sein de leur propre environnement commercial.
Afin de répondre à la demande du marché, les trois aspects mentionnés ci-dessus sont indispensables.
Tout d’abord, il doit y avoir une chaîne d’outils qui fournit des capacités de gestion des données, d’entraînement des modèles et de développement d’applications d’IA. **
C’est également le cœur de la plateforme d’IA/ML.
Forrester propose que la plate-forme ne se contente pas de prêter attention aux outils clés de la construction, de la formation et de l’évaluation des modèles, mais aussi aux outils nécessaires au développement d’applications d’IA.
Par exemple, les frameworks et les blocs-notes d’IA pour les professionnels ; Des outils visuels low-code pour les gens d’affaires.
En outre, les outils de gestion des données ont également un impact significatif sur la construction de modèles.
Deuxièmement, il s’agit d’un accélérateur facile à utiliser pour l’industrie. **
Forrester souligne que la plupart des entreprises sur le marché domestique manquent d’ingénieurs qui comprennent à la fois les algorithmes d’IA et les connaissances commerciales, ce qui rend difficile pour elles d’adapter les algorithmes à leurs besoins commerciaux.
À l’heure actuelle, ils adoptent la « pose » de la tendance des grands modèles, soit en utilisant le grand modèle pour le réglage fin, soit en faisant de l’ingénierie rapide.
Par conséquent, les outils d’accélération qui peuvent accélérer la construction de modèles d’IA et le développement d’applications sont très importants. Les outils de visualisation, le développement low-code et bien d’autres encore peuvent encore accélérer l’innovation.
Troisièmement, accélérer la mise en œuvre de grands modèles grâce à des opérations de modélisation à grande échelle. **
Model Ops comprend le déploiement, la surveillance, la mise à jour et l’automatisation des modèles, qui peuvent résoudre des problèmes tels que la dérive des modèles, la dégradation des performances, la maintenance de la sécurité et les mises à jour des modèles, et fournir des tests A/B, des réglages automatiques et un réentraînement des modèles.
À mesure que les entreprises adoptent la tendance des grands modèles, les plateformes d’IA/ML avec des opérations de modélisation à grande échelle peuvent mieux aider les entreprises à développer, déployer et gérer des modèles d’IA, promouvoir davantage la transformation numérique de l’entreprise, réduire les coûts et augmenter l’efficacité.
En résumé, pour qu’une plateforme d’IA/ML devienne un leader de la nouvelle tendance, elle doit fournir des outils faciles à utiliser, répondre aux besoins du secteur et accélérer l’adoption de l’IA par les entreprises.
Et quelles sont les capacités les plus spécifiques à posséder, nous devons les analyser à partir des dirigeants actuels.
Comment arrivez-vous dans le quadrant des leaders ? **
Dans ce rapport Forrester, les performances de Baidu Intelligent Cloud attirent l’attention.
C’est le seul fournisseur de cloud à entrer dans le quadrant « Leader », et il a également remporté la première place dans le score global et la première place dans les scores des 9 subdivisions.
En termes de capacités de produits, Baidu Intelligent Cloud est à la pointe dans quatre domaines : les données, la formation, le raisonnement prédictif et l’application.
Dans le même temps, en termes de dimension stratégique et de taille de marché, Baidu a également remporté la première place dans bon nombre de ces projets.
Forrester décrit Baidu Intelligent Cloud comme « l’un des pionniers du modèle de base de la Chine » :
Baidu Intelligent Cloud intègre la famille de modèles de base ERNIE dans un portefeuille doté d’une solide feuille de route de produits, et son écosystème actif autour de PaddlePaddle est un moyen efficace d’inciter les développeurs d’IA à co-innover.
Ses capacités spécifiques proviennent de la plate-forme d’IA de Baidu, et ses produits comprennent BML, EasyDL et la plate-forme de grand modèle de cloud intelligent Qianfan de Baidu.
Si l’on prend l’exemple de la plateforme intelligente d’IA dans le cloud de Baidu, nous pouvons analyser plus précisément les capacités que la plateforme d’IA/ML actuelle devrait avoir si elle veut occuper une position de leader sur le marché.
Selon les dimensions du rapport Forrester, les capacités spécifiques peuvent être divisées en cinq aspects : les données, l’entraînement, le raisonnement prédictif, l’application et l’architecture. Ce sont également les cinq éléments fondamentaux du développement et de l’application des modèles d’IA.
**Commençons par les données. **
Dans la partie traitement des données, la plateforme d’IA de Baidu peut traiter à la fois des données structurées et non structurées.
Plus de 65 types de visualisations de données sont pris en charge, notamment les graphiques circulaires, les cartes thermiques, les nuages de points, les cartes, etc. Il prend en charge 10+ types de composants de filtrage, et les utilisateurs n’ont qu’à effectuer une configuration simple et un glisser-déposer pour obtenir une surveillance des données en temps réel et une prise de décision auxiliaire.
Dans le même temps, il prend également en charge 30+ annotations de format de données, améliorant ainsi l’efficacité du lien d’annotation avec la main-d’œuvre la plus concentrée dans le processus de modélisation.
Il convient de mentionner que la plate-forme d’IA Baidu offre une capacité d’annotation d’apprentissage actif, le système peut analyser directement le modèle d’images de l’ensemble de données, filtrer automatiquement les images les plus critiques et demander une annotation limitée.
Par exemple, s’il y a 10 000 images qui doivent être étiquetées, le système placera les images caractéristiques devant et les images répétitives derrière, de sorte que seules les 3 000 premières images seront marquées et que les 7 000 dernières images pourront être automatiquement marquées.
Selon les rapports, cette méthode permet d’économiser en moyenne 70 à 90 % de main-d’œuvre pour les utilisateurs d’entreprise. La part du travail humain dans « l’intelligence artificielle » a été drastiquement réduite.
De plus, en termes d’ingénierie des fonctionnalités, la plateforme d’IA de Baidu intègre la capacité de gestion de base de données de fonctionnalités de niveau professionnel, fournissant des fonctions telles que l’ajout, la suppression, la modification et l’interrogation de fonctionnalités, la production de fonctionnalités, le partage de fonctionnalités, la gestion des versions de fonctionnalités et la vérification des données.
Différentes formes de données par lots et en streaming sont prises en charge pour les services de prédiction, ce qui permet de s’assurer que les caractéristiques du modèle sont cohérentes pendant l’entraînement et la prédiction finale, ce qui est directement lié à la précision du modèle.
Les capacités ci-dessus se reflètent dans des chiffres spécifiques, et le rapport Forrester attribue à la plateforme d’IA de Baidu un score de 5 sur 5 (sur un score) pour ses capacités de données, nettement devant les autres fournisseurs.
**Le second est l’entraînement des modèles. **
C’est l’un des aspects les plus évidents de la dernière tendance en termes de demande du marché, qui s’adresse non seulement aux développeurs professionnels, mais aussi aux hommes d’affaires qui ne sont pas spécialisés dans les algorithmes d’IA, il faut donc que la plate-forme d’IA/ML qui fournit des capacités soit facile à utiliser et flexible.
Reportez-vous à la pratique de la plateforme d’IA de Baidu.
D’une part, il attache de l’importance à la « largeur » et prend en charge la modélisation et l’entraînement d’une variété de données, telles que des images, des vidéos, du texte et de la parole.
La méthode de modélisation est également très flexible, prenant en charge une variété de méthodes de modélisation telles que le développement de notebooks/WebIDE, le développement visuel par glisser-déposer, le réglage des paramètres de script, les tâches personnalisées, etc., qui peuvent compléter le développement personnalisé de modèles de haute précision pour les personnes de différents niveaux professionnels.
De l’autre côté, il y a la « profondeur ». Avec le soutien de sa propre équipe d’algorithmes de palettes, la plateforme d’IA de Baidu a procédé à une optimisation approfondie d’un grand nombre d’opérateurs de scène. Y compris la classification d’images, la détection d’objets, la classification de texte, l’annotation de séquences, etc.
Par exemple, PP YOLO, qui est profondément optimisé sur la base de l’opérateur Paddle, a dépassé la référence YOLO V3 dans le domaine de la détection d’objets.
La facilité d’utilisation est également un point important. Sur la plateforme Baidu AI, la modélisation sans code et la modélisation visuelle peuvent être réalisées. Dans le premier cas, les utilisateurs n’ont qu’à télécharger des données et sélectionner un type pour commencer la modélisation. Ce dernier peut assembler un processus de modélisation en glissant-déposant les composants et en paramétrant les paramètres de chaque pièce.
En outre, la quantité de calcul de l’IA augmente au moins 10 fois par an, et la capacité d’ajuster les ressources des tâches dans l’apprentissage profond est devenue particulièrement importante. La plate-forme d’IA de Baidu prend en charge l’entraînement distribué multi-machines et multi-cartes, et fournit une variété de types de ressources informatiques.
En outre, Baidu lui-même possède une riche expérience dans l’entraînement de modèles de très grande taille et peut intégrer ses propres capacités dans les grands modèles visuels, l’IA générative, etc. Par exemple, la recherche automatique d’hyperparamètres, le traitement automatique de données déséquilibrées et le pré-entraînement à très grande échelle peuvent être effectués.
Par conséquent, sur la plateforme Baidu AI, vous pouvez également voir de nombreux outils de développement pour améliorer l’efficacité de la programmation.
La troisième dimension de la compétence est le raisonnement. **
Avec le développement de grands modèles, le marché de l’inférence va continuer à se développer et même croître de manière exponentielle, ce qui pose de grands défis aux plateformes d’IA/ML.
Du point de vue de la plateforme d’IA de Baidu, ils se concentrent principalement sur l’efficacité du développement, l’optimisation des performances, la flexibilité et l’extensibilité.
Son module d’inférence, Model Serve, prend en charge 16 frameworks d’IA, dont les plus courants Paddle, Tensor Flow et PyTorch, ainsi que Matlab/R pour le calcul scientifique et Xg boost pour l’apprentissage automatique.
En termes d’optimisation des performances, un planificateur d’inférence asynchrone est directement abstrait sur la couche d’ordonnancement pour obtenir des travailleurs d’inférence hétérogènes, améliorant ainsi les performances de l’ensemble du serveur et l’utilisation du GPU de plus de 1 fois.
Dans le même temps, il prend en charge le traitement automatique par lots, classe les tâches de différentes longueurs et compile les tâches de tailles similaires dans le même lot pour utiliser pleinement les ressources hétérogènes, ce qui peut améliorer l’efficacité de 70 % sur la base d’un découplage asynchrone.
Le quatrième domaine sur lequel il faut se concentrer est l’application. **
L’application du rapport examine principalement l’efficacité des applications de chaque plate-forme.
C’est-à-dire comment utiliser les ressources existantes pour transformer rapidement les données en productivité de l’entreprise.
La plateforme d’IA de Baidu peut fournir des capacités de gestion du cycle de vie complet pour le processus de développement de l’IA, de la collecte et du nettoyage des données au développement et à l’entraînement des modèles, en passant par la gestion des modèles et la gestion des services d’inférence dans le cloud et hors ligne.
Il convient de mentionner que la plateforme d’IA Baidu est la première plateforme en Chine à atteindre le niveau phare de la norme MLOps de l’Académie des technologies de l’information et de la communication.
À l’heure actuelle, les capacités de la plateforme d’IA de Baidu ont été exportées vers des secteurs tels que la finance, l’énergie et les transports. Au service de la Banque de développement de Shanghai Pudong, de la Banque de Pékin, ainsi que du réseau d’État, du réseau électrique du sud de la Chine, etc.
En 2022, le nombre d’utilisateurs payants du cloud public de la plateforme intelligente d’IA cloud de Baidu augmentera de 49 %, le nombre de clients privatisés augmentera de 32 % et le nombre de développeurs augmentera de 1,228 million, avec un taux de croissance d’environ 40 % ; Le taux de rachat a augmenté d’année en année, et le taux de rachat dans les industries clés a atteint 50 %.
Enfin, en termes d’architecture, la conception de l’architecture de la plateforme d’IA de Baidu a reçu un score complet dans le score Forrester.
Si cela peut se résumer en une phrase, la plateforme d’IA de Baidu a atteint le niveau de « leader », c’est-à-dire qu’elle l’a fait :
Il existe de nombreux algorithmes, outils, un fonctionnement rapide, de bons résultats, et cela permet également d’économiser des serveurs et de la main-d’œuvre, tout en assurant la sécurité et la facilité d’utilisation.
Grâce à l’analyse des capacités globales de la plateforme d’IA de Baidu, il n’est pas difficile de constater que bon nombre de ces outils et idées sont en phase avec les nouveaux besoins de la tendance actuelle des grands modèles.
En effet, dans le contexte de changements drastiques dans l’orientation de la technologie, la tendance n’est pas seulement d’ajuster l’architecture existante pour s’adapter aux changements de la demande, mais aussi de proposer de nouvelles façons d’y faire face.
À l’ère des grands modèles, le nouveau modèle de concurrence de l’IA sur le cloud a été déterminé de manière préliminaire
Alors, avec l’impact de la vague des grands modèles, quels sont les nouveaux changements qui ont eu lieu dans la demande du marché pour les plateformes d’IA/ML ?
Dans le passé, de nombreux modèles de CV et de NLP étaient appelés SOTA, mais ils étaient encore plus souvent utilisés dans des activités non essentielles de l’industrie. Aujourd’hui, grâce à son étonnante capacité à subvertir les flux de travail traditionnels, les grands modèles commencent à être de plus en plus reconnus et sont considérés comme la clé pour briser le goulot d’étranglement de l’intelligence dans divers secteurs.
Cependant, pour les fournisseurs de cloud, cela ne signifie pas que l’ère des grands modèles « repart de zéro » à l’ère des petits modèles.
En fait, avec l’approfondissement de l’application des grands modèles, les domaines techniques tels que les agents ont attiré de plus en plus d’attention. Le cœur réside dans le fait que le grand modèle est basé sur ses propres capacités et relie le petit modèle à une planification mature pour résoudre le problème dans des applications pratiques, ce qui est considéré comme plus rapide et plus utile dans le scénario de production.
Par conséquent, dans la « nouvelle ère » ouverte par les grands modèles, pour les « leaders » des plateformes d’IA/ML, l’accumulation technique à l’ère des petits modèles et l’innovation technologique à l’ère des grands modèles sont complémentaires et indispensables.
La plate-forme d’IA de Baidu dans la « nouvelle ère » a remis la feuille de réponses - Baidu Intelligent Cloud Qianfan Large Model Platform en est un exemple.
En tant que plate-forme de grand modèle d’entreprise à guichet unique, la plate-forme Baidu Intelligent Cloud Qianfan est essentiellement le produit de l’accumulation profonde de Baidu dans la couche de puce, la couche de cadre, la couche de modèle et la couche d’application.
Elle s’incarne sous cinq aspects :
Tout d’abord, au niveau de la puissance de calcul, la plate-forme cloud intelligente Qianfan de Baidu peut fournir des services informatiques hétérogènes efficaces et rentables.
Dans le processus d’entraînement de modèles à grande échelle, grâce à la stratégie d’entraînement parallèle distribué et aux capacités d’interconnexion de niveau microseconde, le taux d’accélération de l’entraînement de cluster à l’échelle de 10 000 cartes sur la plate-forme Baidu Qianfan peut atteindre 95 %. Dans le même temps, le temps d’entraînement effectif du cluster Vanka peut atteindre 96%, ce qui réduit considérablement le coût de la puissance et du temps de calcul.
Deuxièmement, au niveau du modèle, la plate-forme Baidu Qianfan a géré 44 grands modèles grand public au pays et à l’étranger, y compris le grand modèle Wenxin, la série Llama, ChatGLM, etc., et permet aux utilisateurs d’appeler rapidement des API et d’obtenir directement des capacités de grands modèles.
Pour les grands modèles tiers, la plate-forme Baidu Qianfan a également été optimisée de manière ciblée, y compris l’amélioration chinoise, l’amélioration des performances, l’amélioration du contexte, etc.
Baidu a révélé que le nombre d’appels d’API de grands modèles sur la plate-forme Qianfan de Baidu continue d’augmenter à grande vitesse. À l’heure actuelle, la plate-forme Baidu Qianfan a servi plus de 20 000 clients.
Troisièmement, pour les clients qui souhaitent effectuer un développement secondaire basé sur de grands modèles existants, la plate-forme Baidu Qianfan fournit une chaîne d’outils de cycle de vie complète pour le recyclage, le réglage, l’évaluation et le déploiement de grands modèles, ainsi que 41 ensembles de données de haute qualité, qui peuvent réaliser une optimisation rapide des modèles pour des scénarios commerciaux spécifiques.
Quatrièmement, au niveau des applications, en réponse aux besoins des entreprises de développer des applications natives de l’IA basées sur de grands modèles, la plate-forme Baidu Qianfan fournit une série de composants et de cadres de capacité.
Par exemple, il existe 226 modèles intégrés, de sorte que les développeurs peuvent rapidement améliorer la qualité des réponses de modèles volumineux, même s’ils ne sont pas familiers avec l’ingénierie rapide.
Lors de la conférence mondiale de Baidu le 17 octobre, Baidu Intelligent Cloud a également publié le « Baidu Qianfan AI Native Application Development Workbench** ». Plus précisément, cet « atelier » se compose de deux parties : les composants applicatifs + les frameworks applicatifs.
**Les services de composants applicatifs sont composés de deux composants : l’IA et le cloud de base. **
Parmi eux, la composante IA, c’est-à-dire l’encapsulation basée sur des composants de grandes capacités de modèle, comprend de grands composants de modèle de langage tels que Q&R et Chain of Thought (CoT), ainsi que des composants multimodaux tels que le diagramme de Wensheng et la reconnaissance vocale.
Les composants cloud de base comprennent les services cloud traditionnels tels que les bases de données vectorielles et le stockage objet.
Le cadre d’application est orienté vers des tâches de scénario spécifiques, qui peuvent être comprises comme une combinaison efficace des composants d’application ci-dessus basée sur les capacités de grands modèles.
À l’heure actuelle, la plate-forme Baidu Qianfan fournit des frameworks d’applications natifs de l’IA couramment utilisés, tels que Retrieval Enhanced Generation (RAG) et Agent.
Parmi eux, le cadre RAG peut combiner les connaissances dans le domaine propriétaire de l’entreprise avec la capacité de questions-réponses du grand modèle pour apporter des réponses plus précises aux connaissances professionnelles.
Sur la base de ce cadre RAG, Sany Heavy Industry a rapidement réalisé le développement et le lancement de l’application de service client intelligent sur le site officiel.
Shen Dou, vice-président exécutif du groupe Baidu et président du groupe d’affaires Baidu Intelligent Cloud, a révélé que même si vous devez traiter des milliers de documents longs, le coût de la création d’un tel « petit assistant » n’est que de quelques centaines de yuans ; Après cela, le coût de chaque information pour les utilisateurs n’est que de quelques centimes.
Basé sur le cadre de l’agent, le grand modèle peut automatiquement désassembler les tâches données par les humains, planifier et appeler automatiquement divers composants pour effectuer les tâches de manière collaborative, et en même temps fournir un auto-retour en fonction de l’effet d’achèvement de la tâche pour améliorer ses propres capacités.
À l’heure actuelle, sur la base de ce cadre d’agent, Zhongtian Iron and Steel a construit un « centre de planification d’entreprise » intelligent pour réaliser la perception, la décomposition et l’exécution automatiques des instructions de tâche.
Par exemple, lorsqu’il s’avère que la production d’acier n’est pas conforme aux normes, le grand modèle peut appeler automatiquement diverses ressources et API gérées par la plateforme pour connaître la raison de la non-conformité, ajuster le calendrier de production à temps et envoyer un courriel pour avertir le répartiteur.
Enfin, Baidu Qianfan a également lancé le « **AI Native App Store », qui relie l’offre et la demande d’applications natives de l’IA, et fournit un lieu de rassemblement pour les opportunités commerciales de modèles à grande échelle.
Il n’est pas difficile de voir que, d’une part, le lancement rapide de la plate-forme de grand modèle Qianfan en nuage intelligent de Baidu bénéficie du développement de la propre technologie de grand modèle de Baidu ; D’autre part, les capacités du produit accumulées par la plate-forme d’IA de Baidu au fil des ans, ainsi que sa riche expérience pratique dans l’industrie, ont permis à la plate-forme Qianfan de Baidu de jouer un rôle efficace du côté des applications.
Selon les données d’IDC, le marché chinois des services de cloud public d’IA affichera une croissance positive de 80,6 % en 2022, la taille globale du marché atteignant 7,97 milliards de yuans.
L’analyse d’IDC estime que la mise en œuvre de l’IA générative et des grands modèles n’en est qu’à ses balbutiements, et que ces capacités peuvent être mises à jour et itérées plus rapidement sur le cloud public, ce qui apportera des avantages significatifs aux services de cloud public d’IA à court terme.
Gartner souligne également que l’IA générative repose sur de grands modèles, ce qui met en avant les exigences d’une infrastructure informatique robuste et hautement évolutive. « Le cloud fournit la solution et la plate-forme parfaites, et les principaux acteurs de la course à l’IA générative doivent être les principaux fournisseurs de cloud. »
Si l’on ajoute à cela le dernier rapport de Forrester, on constate que pour les fournisseurs de cloud, les services cloud d’IA sont devenus le nouveau centre de la concurrence.
Et comment mesurer la compétitivité, maintenant les critères d’évaluation sont progressivement clairs.
En fin de compte, il y a deux aspects principaux :
Tout d’abord, du point de vue des développeurs et des utilisateurs d’entreprise, il s’agit de savoir si la capacité de la plate-forme de services cloud d’IA peut vraiment résoudre de manière rentable les problèmes pratiques auxquels sont confrontées les entreprises complexes, ainsi que la pénurie de talents professionnels dans le processus de mise à niveau intelligente, en particulier dans le cadre de la vague des grands modèles.
Deuxièmement, du point de vue des tendances technologiques, il est plus étroitement intégré aux grands modèles.
La mise en page de la plate-forme d’IA de Baidu peut être considérée comme une réponse de référence donnée par les principaux fournisseurs de cloud d’IA dans les derniers changements du paysage concurrentiel.
Qu’en est-il des résultats ? Dans plus de cas d’atterrissage, vous pouvez voir le vrai chapitre.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
Le dernier modèle de la plate-forme d’IA chinoise est publié ! Le score global de Baidu est le premier, le deuxième échelon est très compétitif et le grand modèle accélère l’évolution des fournisseurs de cloud
Source: Qubits
La tendance des grands modèles a apporté des centaines de millions de « petits chocs » à tout ce qui s’y rapporte.
Une plateforme d’IA/ML est l’une d’entre elles.
Il est étroitement lié à la tendance des grands modèles et peut refléter directement le niveau des réserves de R&D sur la technologie de l’IA des principaux fournisseurs de cloud, ainsi que la capacité de perspicacité et de compréhension des dernières tendances.
Qui est le plus fort ? L’industrie en parle.
Le dernier rapport de Forrester sur les plateformes d’intelligence artificielle et d’apprentissage automatique, publié par l’autorité internationale, fournit une référence opportune.
Forrester Research est une société indépendante d’études de marché et de technologie qui publie des rapports thématiques très reconnus en Chine et dans le monde entier.
Le rapport Forrester Wave, publié tous les deux ans, est le type de rapport le plus influent de Forrester.
Sur la base d’une évaluation complète de 25 segments, Forrester divise les 14 principaux fournisseurs en quatre quadrants : Leaders, Top Performers, Contenders et Challengers.
Jetons un coup d’œil aux faits saillants spécifiques.
Quelles sont les nouvelles normes apportées par les nouvelles tendances
Commençons par les principales conclusions du rapport.
Dans ce quadrant, le niveau stratégique est l’axe horizontal, la capacité du produit est l’axe vertical, et il est divisé en quatre quadrants : leaders, excellents performants, concurrents et challengers, et il reflète également la performance du marché de chaque entreprise.
Leaders (2), Performants (5), Compétiteurs (4), Challengers (3).
Dans le premier échelon se trouvent Baidu Intelligent Cloud et Alibaba Cloud. Parmi eux, Baidu Intelligent Cloud s’est brillamment comporté et a remporté la première place du score global.
Le deuxième échelon est le plus compétitif, avec 5 fournisseurs dans une position très compacte dans le quadrant.
La conclusion ci-dessus est le résultat de 25 évaluations menées par Forrester.
En plus de faire le tri dans le paysage concurrentiel actuel des plateformes d’IA/ML sur le marché chinois, Forrester a également proposé une nouvelle référence standard pour l’évaluation des plateformes d’IA/ML.
Les trois points suivants sont les plus importants :
Pourquoi?
Forrester estime que sous l’influence de l’IA générative et des grandes tendances des modèles, les applications d’IA deviennent de plus en plus importantes pour promouvoir la productivité et accélérer l’innovation des entreprises.
Sur le marché chinois d’aujourd’hui, les entreprises ont un besoin urgent d’une plateforme d’IA/ML capable de résoudre des problèmes complexes au sein de leur propre environnement commercial.
Afin de répondre à la demande du marché, les trois aspects mentionnés ci-dessus sont indispensables.
Tout d’abord, il doit y avoir une chaîne d’outils qui fournit des capacités de gestion des données, d’entraînement des modèles et de développement d’applications d’IA. **
C’est également le cœur de la plateforme d’IA/ML.
Forrester propose que la plate-forme ne se contente pas de prêter attention aux outils clés de la construction, de la formation et de l’évaluation des modèles, mais aussi aux outils nécessaires au développement d’applications d’IA.
Par exemple, les frameworks et les blocs-notes d’IA pour les professionnels ; Des outils visuels low-code pour les gens d’affaires.
En outre, les outils de gestion des données ont également un impact significatif sur la construction de modèles.
Forrester souligne que la plupart des entreprises sur le marché domestique manquent d’ingénieurs qui comprennent à la fois les algorithmes d’IA et les connaissances commerciales, ce qui rend difficile pour elles d’adapter les algorithmes à leurs besoins commerciaux.
À l’heure actuelle, ils adoptent la « pose » de la tendance des grands modèles, soit en utilisant le grand modèle pour le réglage fin, soit en faisant de l’ingénierie rapide.
Par conséquent, les outils d’accélération qui peuvent accélérer la construction de modèles d’IA et le développement d’applications sont très importants. Les outils de visualisation, le développement low-code et bien d’autres encore peuvent encore accélérer l’innovation.
Model Ops comprend le déploiement, la surveillance, la mise à jour et l’automatisation des modèles, qui peuvent résoudre des problèmes tels que la dérive des modèles, la dégradation des performances, la maintenance de la sécurité et les mises à jour des modèles, et fournir des tests A/B, des réglages automatiques et un réentraînement des modèles.
À mesure que les entreprises adoptent la tendance des grands modèles, les plateformes d’IA/ML avec des opérations de modélisation à grande échelle peuvent mieux aider les entreprises à développer, déployer et gérer des modèles d’IA, promouvoir davantage la transformation numérique de l’entreprise, réduire les coûts et augmenter l’efficacité.
Et quelles sont les capacités les plus spécifiques à posséder, nous devons les analyser à partir des dirigeants actuels.
Comment arrivez-vous dans le quadrant des leaders ? **
Dans ce rapport Forrester, les performances de Baidu Intelligent Cloud attirent l’attention.
C’est le seul fournisseur de cloud à entrer dans le quadrant « Leader », et il a également remporté la première place dans le score global et la première place dans les scores des 9 subdivisions.
En termes de capacités de produits, Baidu Intelligent Cloud est à la pointe dans quatre domaines : les données, la formation, le raisonnement prédictif et l’application.
Dans le même temps, en termes de dimension stratégique et de taille de marché, Baidu a également remporté la première place dans bon nombre de ces projets.
Ses capacités spécifiques proviennent de la plate-forme d’IA de Baidu, et ses produits comprennent BML, EasyDL et la plate-forme de grand modèle de cloud intelligent Qianfan de Baidu.
Si l’on prend l’exemple de la plateforme intelligente d’IA dans le cloud de Baidu, nous pouvons analyser plus précisément les capacités que la plateforme d’IA/ML actuelle devrait avoir si elle veut occuper une position de leader sur le marché.
Selon les dimensions du rapport Forrester, les capacités spécifiques peuvent être divisées en cinq aspects : les données, l’entraînement, le raisonnement prédictif, l’application et l’architecture. Ce sont également les cinq éléments fondamentaux du développement et de l’application des modèles d’IA.
**Commençons par les données. **
Dans la partie traitement des données, la plateforme d’IA de Baidu peut traiter à la fois des données structurées et non structurées.
Plus de 65 types de visualisations de données sont pris en charge, notamment les graphiques circulaires, les cartes thermiques, les nuages de points, les cartes, etc. Il prend en charge 10+ types de composants de filtrage, et les utilisateurs n’ont qu’à effectuer une configuration simple et un glisser-déposer pour obtenir une surveillance des données en temps réel et une prise de décision auxiliaire.
Dans le même temps, il prend également en charge 30+ annotations de format de données, améliorant ainsi l’efficacité du lien d’annotation avec la main-d’œuvre la plus concentrée dans le processus de modélisation.
Par exemple, s’il y a 10 000 images qui doivent être étiquetées, le système placera les images caractéristiques devant et les images répétitives derrière, de sorte que seules les 3 000 premières images seront marquées et que les 7 000 dernières images pourront être automatiquement marquées.
Selon les rapports, cette méthode permet d’économiser en moyenne 70 à 90 % de main-d’œuvre pour les utilisateurs d’entreprise. La part du travail humain dans « l’intelligence artificielle » a été drastiquement réduite.
De plus, en termes d’ingénierie des fonctionnalités, la plateforme d’IA de Baidu intègre la capacité de gestion de base de données de fonctionnalités de niveau professionnel, fournissant des fonctions telles que l’ajout, la suppression, la modification et l’interrogation de fonctionnalités, la production de fonctionnalités, le partage de fonctionnalités, la gestion des versions de fonctionnalités et la vérification des données.
Différentes formes de données par lots et en streaming sont prises en charge pour les services de prédiction, ce qui permet de s’assurer que les caractéristiques du modèle sont cohérentes pendant l’entraînement et la prédiction finale, ce qui est directement lié à la précision du modèle.
Les capacités ci-dessus se reflètent dans des chiffres spécifiques, et le rapport Forrester attribue à la plateforme d’IA de Baidu un score de 5 sur 5 (sur un score) pour ses capacités de données, nettement devant les autres fournisseurs.
C’est l’un des aspects les plus évidents de la dernière tendance en termes de demande du marché, qui s’adresse non seulement aux développeurs professionnels, mais aussi aux hommes d’affaires qui ne sont pas spécialisés dans les algorithmes d’IA, il faut donc que la plate-forme d’IA/ML qui fournit des capacités soit facile à utiliser et flexible.
Reportez-vous à la pratique de la plateforme d’IA de Baidu.
D’une part, il attache de l’importance à la « largeur » et prend en charge la modélisation et l’entraînement d’une variété de données, telles que des images, des vidéos, du texte et de la parole.
La méthode de modélisation est également très flexible, prenant en charge une variété de méthodes de modélisation telles que le développement de notebooks/WebIDE, le développement visuel par glisser-déposer, le réglage des paramètres de script, les tâches personnalisées, etc., qui peuvent compléter le développement personnalisé de modèles de haute précision pour les personnes de différents niveaux professionnels.
De l’autre côté, il y a la « profondeur ». Avec le soutien de sa propre équipe d’algorithmes de palettes, la plateforme d’IA de Baidu a procédé à une optimisation approfondie d’un grand nombre d’opérateurs de scène. Y compris la classification d’images, la détection d’objets, la classification de texte, l’annotation de séquences, etc.
Par exemple, PP YOLO, qui est profondément optimisé sur la base de l’opérateur Paddle, a dépassé la référence YOLO V3 dans le domaine de la détection d’objets.
En outre, la quantité de calcul de l’IA augmente au moins 10 fois par an, et la capacité d’ajuster les ressources des tâches dans l’apprentissage profond est devenue particulièrement importante. La plate-forme d’IA de Baidu prend en charge l’entraînement distribué multi-machines et multi-cartes, et fournit une variété de types de ressources informatiques.
En outre, Baidu lui-même possède une riche expérience dans l’entraînement de modèles de très grande taille et peut intégrer ses propres capacités dans les grands modèles visuels, l’IA générative, etc. Par exemple, la recherche automatique d’hyperparamètres, le traitement automatique de données déséquilibrées et le pré-entraînement à très grande échelle peuvent être effectués.
Par conséquent, sur la plateforme Baidu AI, vous pouvez également voir de nombreux outils de développement pour améliorer l’efficacité de la programmation.
La troisième dimension de la compétence est le raisonnement. **
Avec le développement de grands modèles, le marché de l’inférence va continuer à se développer et même croître de manière exponentielle, ce qui pose de grands défis aux plateformes d’IA/ML.
Du point de vue de la plateforme d’IA de Baidu, ils se concentrent principalement sur l’efficacité du développement, l’optimisation des performances, la flexibilité et l’extensibilité.
Son module d’inférence, Model Serve, prend en charge 16 frameworks d’IA, dont les plus courants Paddle, Tensor Flow et PyTorch, ainsi que Matlab/R pour le calcul scientifique et Xg boost pour l’apprentissage automatique.
En termes d’optimisation des performances, un planificateur d’inférence asynchrone est directement abstrait sur la couche d’ordonnancement pour obtenir des travailleurs d’inférence hétérogènes, améliorant ainsi les performances de l’ensemble du serveur et l’utilisation du GPU de plus de 1 fois.
Dans le même temps, il prend en charge le traitement automatique par lots, classe les tâches de différentes longueurs et compile les tâches de tailles similaires dans le même lot pour utiliser pleinement les ressources hétérogènes, ce qui peut améliorer l’efficacité de 70 % sur la base d’un découplage asynchrone.
L’application du rapport examine principalement l’efficacité des applications de chaque plate-forme.
C’est-à-dire comment utiliser les ressources existantes pour transformer rapidement les données en productivité de l’entreprise.
La plateforme d’IA de Baidu peut fournir des capacités de gestion du cycle de vie complet pour le processus de développement de l’IA, de la collecte et du nettoyage des données au développement et à l’entraînement des modèles, en passant par la gestion des modèles et la gestion des services d’inférence dans le cloud et hors ligne.
À l’heure actuelle, les capacités de la plateforme d’IA de Baidu ont été exportées vers des secteurs tels que la finance, l’énergie et les transports. Au service de la Banque de développement de Shanghai Pudong, de la Banque de Pékin, ainsi que du réseau d’État, du réseau électrique du sud de la Chine, etc.
En 2022, le nombre d’utilisateurs payants du cloud public de la plateforme intelligente d’IA cloud de Baidu augmentera de 49 %, le nombre de clients privatisés augmentera de 32 % et le nombre de développeurs augmentera de 1,228 million, avec un taux de croissance d’environ 40 % ; Le taux de rachat a augmenté d’année en année, et le taux de rachat dans les industries clés a atteint 50 %.
Enfin, en termes d’architecture, la conception de l’architecture de la plateforme d’IA de Baidu a reçu un score complet dans le score Forrester.
Grâce à l’analyse des capacités globales de la plateforme d’IA de Baidu, il n’est pas difficile de constater que bon nombre de ces outils et idées sont en phase avec les nouveaux besoins de la tendance actuelle des grands modèles.
En effet, dans le contexte de changements drastiques dans l’orientation de la technologie, la tendance n’est pas seulement d’ajuster l’architecture existante pour s’adapter aux changements de la demande, mais aussi de proposer de nouvelles façons d’y faire face.
À l’ère des grands modèles, le nouveau modèle de concurrence de l’IA sur le cloud a été déterminé de manière préliminaire
Alors, avec l’impact de la vague des grands modèles, quels sont les nouveaux changements qui ont eu lieu dans la demande du marché pour les plateformes d’IA/ML ?
Dans le passé, de nombreux modèles de CV et de NLP étaient appelés SOTA, mais ils étaient encore plus souvent utilisés dans des activités non essentielles de l’industrie. Aujourd’hui, grâce à son étonnante capacité à subvertir les flux de travail traditionnels, les grands modèles commencent à être de plus en plus reconnus et sont considérés comme la clé pour briser le goulot d’étranglement de l’intelligence dans divers secteurs.
Cependant, pour les fournisseurs de cloud, cela ne signifie pas que l’ère des grands modèles « repart de zéro » à l’ère des petits modèles.
En fait, avec l’approfondissement de l’application des grands modèles, les domaines techniques tels que les agents ont attiré de plus en plus d’attention. Le cœur réside dans le fait que le grand modèle est basé sur ses propres capacités et relie le petit modèle à une planification mature pour résoudre le problème dans des applications pratiques, ce qui est considéré comme plus rapide et plus utile dans le scénario de production.
Par conséquent, dans la « nouvelle ère » ouverte par les grands modèles, pour les « leaders » des plateformes d’IA/ML, l’accumulation technique à l’ère des petits modèles et l’innovation technologique à l’ère des grands modèles sont complémentaires et indispensables.
En tant que plate-forme de grand modèle d’entreprise à guichet unique, la plate-forme Baidu Intelligent Cloud Qianfan est essentiellement le produit de l’accumulation profonde de Baidu dans la couche de puce, la couche de cadre, la couche de modèle et la couche d’application.
Elle s’incarne sous cinq aspects :
Tout d’abord, au niveau de la puissance de calcul, la plate-forme cloud intelligente Qianfan de Baidu peut fournir des services informatiques hétérogènes efficaces et rentables.
Dans le processus d’entraînement de modèles à grande échelle, grâce à la stratégie d’entraînement parallèle distribué et aux capacités d’interconnexion de niveau microseconde, le taux d’accélération de l’entraînement de cluster à l’échelle de 10 000 cartes sur la plate-forme Baidu Qianfan peut atteindre 95 %. Dans le même temps, le temps d’entraînement effectif du cluster Vanka peut atteindre 96%, ce qui réduit considérablement le coût de la puissance et du temps de calcul.
Pour les grands modèles tiers, la plate-forme Baidu Qianfan a également été optimisée de manière ciblée, y compris l’amélioration chinoise, l’amélioration des performances, l’amélioration du contexte, etc.
Baidu a révélé que le nombre d’appels d’API de grands modèles sur la plate-forme Qianfan de Baidu continue d’augmenter à grande vitesse. À l’heure actuelle, la plate-forme Baidu Qianfan a servi plus de 20 000 clients.
Troisièmement, pour les clients qui souhaitent effectuer un développement secondaire basé sur de grands modèles existants, la plate-forme Baidu Qianfan fournit une chaîne d’outils de cycle de vie complète pour le recyclage, le réglage, l’évaluation et le déploiement de grands modèles, ainsi que 41 ensembles de données de haute qualité, qui peuvent réaliser une optimisation rapide des modèles pour des scénarios commerciaux spécifiques.
Quatrièmement, au niveau des applications, en réponse aux besoins des entreprises de développer des applications natives de l’IA basées sur de grands modèles, la plate-forme Baidu Qianfan fournit une série de composants et de cadres de capacité.
Par exemple, il existe 226 modèles intégrés, de sorte que les développeurs peuvent rapidement améliorer la qualité des réponses de modèles volumineux, même s’ils ne sont pas familiers avec l’ingénierie rapide.
Lors de la conférence mondiale de Baidu le 17 octobre, Baidu Intelligent Cloud a également publié le « Baidu Qianfan AI Native Application Development Workbench** ». Plus précisément, cet « atelier » se compose de deux parties : les composants applicatifs + les frameworks applicatifs.
Parmi eux, la composante IA, c’est-à-dire l’encapsulation basée sur des composants de grandes capacités de modèle, comprend de grands composants de modèle de langage tels que Q&R et Chain of Thought (CoT), ainsi que des composants multimodaux tels que le diagramme de Wensheng et la reconnaissance vocale.
Les composants cloud de base comprennent les services cloud traditionnels tels que les bases de données vectorielles et le stockage objet.
Le cadre d’application est orienté vers des tâches de scénario spécifiques, qui peuvent être comprises comme une combinaison efficace des composants d’application ci-dessus basée sur les capacités de grands modèles.
À l’heure actuelle, la plate-forme Baidu Qianfan fournit des frameworks d’applications natifs de l’IA couramment utilisés, tels que Retrieval Enhanced Generation (RAG) et Agent.
Parmi eux, le cadre RAG peut combiner les connaissances dans le domaine propriétaire de l’entreprise avec la capacité de questions-réponses du grand modèle pour apporter des réponses plus précises aux connaissances professionnelles.
Sur la base de ce cadre RAG, Sany Heavy Industry a rapidement réalisé le développement et le lancement de l’application de service client intelligent sur le site officiel.
Basé sur le cadre de l’agent, le grand modèle peut automatiquement désassembler les tâches données par les humains, planifier et appeler automatiquement divers composants pour effectuer les tâches de manière collaborative, et en même temps fournir un auto-retour en fonction de l’effet d’achèvement de la tâche pour améliorer ses propres capacités.
À l’heure actuelle, sur la base de ce cadre d’agent, Zhongtian Iron and Steel a construit un « centre de planification d’entreprise » intelligent pour réaliser la perception, la décomposition et l’exécution automatiques des instructions de tâche.
Par exemple, lorsqu’il s’avère que la production d’acier n’est pas conforme aux normes, le grand modèle peut appeler automatiquement diverses ressources et API gérées par la plateforme pour connaître la raison de la non-conformité, ajuster le calendrier de production à temps et envoyer un courriel pour avertir le répartiteur.
L’analyse d’IDC estime que la mise en œuvre de l’IA générative et des grands modèles n’en est qu’à ses balbutiements, et que ces capacités peuvent être mises à jour et itérées plus rapidement sur le cloud public, ce qui apportera des avantages significatifs aux services de cloud public d’IA à court terme.
Gartner souligne également que l’IA générative repose sur de grands modèles, ce qui met en avant les exigences d’une infrastructure informatique robuste et hautement évolutive. « Le cloud fournit la solution et la plate-forme parfaites, et les principaux acteurs de la course à l’IA générative doivent être les principaux fournisseurs de cloud. »
Si l’on ajoute à cela le dernier rapport de Forrester, on constate que pour les fournisseurs de cloud, les services cloud d’IA sont devenus le nouveau centre de la concurrence.
Et comment mesurer la compétitivité, maintenant les critères d’évaluation sont progressivement clairs.
En fin de compte, il y a deux aspects principaux :
Tout d’abord, du point de vue des développeurs et des utilisateurs d’entreprise, il s’agit de savoir si la capacité de la plate-forme de services cloud d’IA peut vraiment résoudre de manière rentable les problèmes pratiques auxquels sont confrontées les entreprises complexes, ainsi que la pénurie de talents professionnels dans le processus de mise à niveau intelligente, en particulier dans le cadre de la vague des grands modèles.
Deuxièmement, du point de vue des tendances technologiques, il est plus étroitement intégré aux grands modèles.
La mise en page de la plate-forme d’IA de Baidu peut être considérée comme une réponse de référence donnée par les principaux fournisseurs de cloud d’IA dans les derniers changements du paysage concurrentiel.
Qu’en est-il des résultats ? Dans plus de cas d’atterrissage, vous pouvez voir le vrai chapitre.