¡Se lanza el último patrón de la plataforma de IA de China! La puntuación integral de Baidu es la primera, el segundo escalón es ferozmente competitivo y el gran modelo acelera la evolución de los proveedores de la nube
La tendencia de los modelos grandes ha traído cientos de millones de "pequeños choques" a todo lo relacionado con ella.
Una plataforma de IA/ML es una de ellas.
Está estrechamente relacionado con la tendencia de los grandes modelos, y puede reflejar directamente el nivel de reservas de investigación y desarrollo de tecnología de IA de los principales proveedores de la nube, así como la capacidad de conocimiento y comprensión de las últimas tendencias.
¿Quién es más fuerte? La industria está hablando de ello.
Bajo los cambios drásticos en el viento tecnológico, las plataformas de IA/ML también tienen nuevos estándares de evaluación.
El último "Primer Informe de la Plataforma China de Inteligencia Artificial/Aprendizaje Automático**" de Forrester, publicado por la autoridad internacional, proporciona una referencia oportuna.
Forrester Research es una empresa independiente de tecnología e investigación de mercado que publica informes temáticos que son altamente reconocidos en China y en todo el mundo.
The Forrester Wave, que se publica cada dos años, es el tipo de informe más influyente de Forrester.
El informe encuestó a 14 proveedores de nube principales en el mercado nacional, incluidos Baidu Intelligent Cloud, Alibaba Cloud, Huawei Cloud, Tencent Cloud, etc., y los evaluó desde tres aspectos: capacidades del producto, planificación estratégica y rendimiento del mercado.
Sobre la base de una evaluación exhaustiva de 25 segmentos, Forrester divide a los 14 proveedores líderes en cuatro cuadrantes: Líderes, Mejores Empleados, Contendientes y Retadores.
Echemos un vistazo a los aspectos más destacados.
¿Qué nuevos estándares traen las nuevas tendencias?
Comencemos con las principales conclusiones del informe.
En este gráfico de cuadrantes, el nivel estratégico es el eje horizontal, la capacidad del producto es el eje vertical y se divide en cuatro cuadrantes: líderes, excelentes desempeñadores, competidores y retadores, y también refleja el desempeño en el mercado de cada empresa.
La distribución de los cuadrantes es la siguiente:
En el primer escalón se encuentran Baidu Intelligent Cloud y Alibaba Cloud. Entre ellos, Baidu Intelligent Cloud tuvo un desempeño brillante y ganó el primer lugar en la puntuación integral.
El segundo escalón es el más competitivo, con 5 proveedores en una posición muy compacta en el cuadrante.
La conclusión anterior es el resultado de 25 evaluaciones realizadas por Forrester.
Además de resolver el panorama competitivo actual de las plataformas de IA/ML en el mercado chino, Forrester ha propuesto una nueva referencia estándar para evaluar las plataformas de IA/ML.
Los siguientes tres puntos son los más críticos:
Cadena de herramientas completa
Acelerador fácil de usar
Operaciones de modelos a escala
¿Por qué?
Forrester cree que, bajo la influencia de la IA generativa y las tendencias de los grandes modelos, las aplicaciones de IA son cada vez más importantes para promover la productividad y acelerar la innovación empresarial.
En el mercado chino actual, las empresas necesitan urgentemente una plataforma de IA/ML que pueda resolver problemas complejos dentro de su propio entorno empresarial.
Para satisfacer la demanda del mercado, los tres aspectos mencionados anteriormente son indispensables.
En primer lugar, debe haber una cadena de herramientas que proporcione capacidades de gestión de datos, entrenamiento de modelos y desarrollo de aplicaciones de IA. **
Este es también el núcleo de la plataforma de IA/ML.
Forrester propone que el lado de la plataforma no solo debe prestar atención a las herramientas clave en la construcción, capacitación y evaluación de modelos, sino también prestar atención a las herramientas necesarias para el desarrollo de aplicaciones de IA.
Por ejemplo, frameworks y cuadernos de IA para profesionales; Herramientas visuales low-code para gente de negocios.
Además de esto, las herramientas de gestión de datos también tienen un impacto significativo en la construcción de modelos.
En segundo lugar, proporciona un acelerador fácil de usar para la industria. **
Forrester señala que la mayoría de las empresas del mercado nacional carecen de ingenieros que entiendan tanto los algoritmos de IA como el conocimiento empresarial, lo que les dificulta adaptar los algoritmos a sus necesidades empresariales.
En la actualidad, están adoptando la "pose" de la tendencia de los modelos grandes, ya sea utilizando el modelo grande para el ajuste fino o haciendo ingeniería rápida.
Por lo tanto, las herramientas de aceleración que pueden acelerar la construcción de modelos de IA y el desarrollo de aplicaciones son muy importantes. Las herramientas de visualización, el desarrollo low-code y mucho más pueden acelerar aún más la innovación.
En tercer lugar, acelerar la implementación de modelos grandes a través de operaciones de modelos a gran escala. **
Model Ops incluye la implementación, la supervisión, la actualización y la automatización de modelos, que pueden resolver problemas como el desfase del modelo, la degradación del rendimiento, el mantenimiento de la seguridad y las actualizaciones del modelo, y proporcionar pruebas A/B, ajuste automático y reentrenamiento del modelo.
A medida que las empresas adoptan la tendencia de los modelos grandes, las plataformas de IA/ML con operaciones de modelos a gran escala pueden ayudar mejor a las empresas a desarrollar, implementar y administrar modelos de IA, promover aún más la transformación digital empresarial, reducir costos y aumentar la eficiencia.
En resumen, para que una plataforma de IA/ML se convierta en líder de la nueva tendencia, debe proporcionar herramientas fáciles de usar, satisfacer las necesidades de la industria y acelerar la adopción de la IA por parte de las empresas.
Y qué capacidades son más específicas para poseer, tenemos que analizarlas desde los líderes actuales.
¿Cómo se llega al cuadrante de Líderes? **
En este informe de Forrester, el rendimiento de Baidu Intelligent Cloud es llamativo.
Es el único proveedor de nube que ingresó al cuadrante "Líder", y también ganó el primer lugar en la puntuación general y el primer lugar en las puntuaciones de 9 subdivisiones.
En términos de capacidades de producto, Baidu Intelligent Cloud se encuentra en el nivel líder en cuatro subdivisiones: datos, capacitación, razonamiento predictivo y aplicación.
Al mismo tiempo, en términos de dimensión estratégica y tamaño de mercado, Baidu también ganó el primer lugar en muchos de estos proyectos.
Forrester describe Baidu Intelligent Cloud como «uno de los pioneros del modelo básico de China»:
Baidu Intelligent Cloud integra la familia de modelos básicos ERNIE en una cartera con una sólida hoja de ruta de productos, y su ecosistema activo en torno a PaddlePaddle es una forma eficaz de involucrar a los desarrolladores de IA para que innoven conjuntamente.
Sus capacidades específicas provienen de la plataforma de IA de Baidu, y sus productos incluyen BML, EasyDL y la plataforma de modelos grandes Qianfan en la nube inteligente de Baidu.
Tomando como ejemplo la plataforma inteligente de IA en la nube de Baidu, podemos analizar más concretamente qué capacidades debe tener la actual plataforma de IA/ML si quiere ocupar una posición de liderazgo en el mercado.
De acuerdo con las dimensiones del informe de Forrester, las capacidades específicas se pueden dividir en cinco aspectos: datos, entrenamiento, razonamiento predictivo, aplicación y arquitectura. Estos son también los cinco elementos centrales en el desarrollo y la aplicación de modelos de IA.
**Empecemos por los datos. **
En la parte de procesamiento de datos, la plataforma de IA de Baidu puede procesar datos estructurados y no estructurados.
Se admiten más de 65 tipos de visualizaciones de datos, incluidos gráficos circulares, mapas de calor, diagramas de dispersión, mapas y más. Es compatible con 10+ tipos de componentes de filtro, y los usuarios solo necesitan realizar una configuración simple y arrastrar y soltar para lograr el monitoreo de datos en tiempo real y la toma de decisiones auxiliares.
Al mismo tiempo, también admite anotaciones en formato de datos 30+, lo que mejora la eficiencia del enlace de anotación con la mano de obra más concentrada en el proceso de modelado.
Vale la pena mencionar que la plataforma de IA de Baidu proporciona capacidad de anotación de aprendizaje activo, el sistema puede analizar directamente el patrón de imágenes del conjunto de datos, filtrar automáticamente las imágenes más críticas y solicitar anotaciones limitadas.
Por ejemplo, si hay 10.000 imágenes que deben etiquetarse, el sistema colocará las imágenes características delante y las repetitivas detrás, de modo que solo se marcarán las primeras 3.000 imágenes y las últimas 7.000 imágenes se podrán marcar automáticamente.
Según los informes, este método puede ahorrar entre un 70 y un 90% de mano de obra para los usuarios empresariales en promedio. La proporción de mano de obra humana en "inteligencia artificial" se ha reducido drásticamente.
Además, en términos de ingeniería de características, la plataforma de IA de Baidu integra la capacidad de gestión de bases de datos de características de nivel profesional, proporcionando funciones como la adición, eliminación, modificación y consulta de características, la producción de características, el uso compartido de funciones, la gestión de versiones de funciones y la verificación de datos.
Se admiten diferentes formas de datos por lotes y streaming para los servicios de predicción, lo que puede garantizar que las características del modelo sean coherentes durante el entrenamiento y la predicción final, lo que está directamente relacionado con la precisión del modelo.
Las capacidades anteriores se reflejan en números específicos, y el informe de Forrester otorga a la plataforma de IA de Baidu una puntuación de 5 sobre 5 (sobre una puntuación) para sus capacidades de datos, significativamente por delante de otros proveedores.
**El segundo es el entrenamiento de modelos. **
Este es uno de los aspectos más evidentes de la última tendencia en cuanto a la demanda del mercado, que está dirigida no solo a desarrolladores profesionales, sino también a empresarios que no están especializados en algoritmos de IA, por lo que requiere que la plataforma de IA/ML que proporciona capacidades sea fácil de usar y flexible.
Consulte la práctica de la plataforma de IA de Baidu.
Por un lado, concede importancia a la "amplitud" y admite el modelado y el entrenamiento de una variedad de datos, como imágenes, videos, texto y voz.
El método de modelado también es muy flexible, ya que admite una variedad de métodos de modelado, como el desarrollo de cuadernos / WebIDE, el desarrollo visual de arrastrar y soltar, el ajuste de parámetros de script, trabajos personalizados, etc., que pueden completar el desarrollo personalizado de modelos de alta precisión para personas con diferentes niveles profesionales.
En el otro lado está la "profundidad". Con el apoyo de su propio equipo de algoritmos de paleta, la plataforma de IA de Baidu ha realizado una optimización en profundidad de un gran número de operadores de escena. Incluyendo clasificación de imágenes, detección de objetos, clasificación de texto, anotación de secuencias, etc.
Por ejemplo, PP YOLO, que está profundamente optimizado en base al operador Paddle, ha superado el punto de referencia YOLO V3 en el campo de la detección de objetos.
La facilidad de uso también es un gran enfoque. En la plataforma de IA de Baidu, se puede realizar el modelado de código cero y el modelado visual. En el primero, los usuarios solo necesitan cargar datos y seleccionar un tipo para comenzar a modelar. Este último puede ensamblar un proceso de modelado arrastrando y soltando los componentes y configurando los parámetros de cada pieza.
Además, la cantidad de computación de IA está aumentando al menos 10 veces al año, y la capacidad de ajustar los recursos de las tareas en el entrenamiento de aprendizaje profundo se ha vuelto particularmente importante. La plataforma de IA de Baidu admite el entrenamiento distribuido de múltiples máquinas y tarjetas, y proporciona una variedad de tipos de recursos informáticos.
Además, la propia Baidu tiene una amplia experiencia en el entrenamiento de modelos supergrandes y puede integrar sus propias capacidades en modelos visuales de gran tamaño, IA generativa, etc. Por ejemplo, se puede realizar la búsqueda automática de hiperparámetros, el procesamiento automático de datos desequilibrados y el entrenamiento previo a gran escala.
Como resultado, en la plataforma de IA de Baidu, también puede ver muchas herramientas de desarrollo para mejorar la eficiencia de la programación.
La tercera dimensión de la competencia es el razonamiento. **
Con el desarrollo de grandes modelos, el mercado de inferencia se expandirá aún más e incluso crecerá exponencialmente, lo que plantea grandes desafíos para las plataformas de IA/ML.
Desde la perspectiva de la plataforma de IA de Baidu, se centran principalmente en la eficiencia del desarrollo, la optimización del rendimiento, la flexibilidad y la amplitud.
Su módulo de inferencia, Model Serve, es compatible con 16 marcos de IA, incluidos los más comunes Paddle, Tensor Flow y PyTorch, así como Matlab/R para la computación científica y Xg boost para el aprendizaje automático.
En términos de optimización del rendimiento, un programador de inferencia asincrónica se abstrae directamente en la capa de programación para lograr trabajadores de inferencia heterogéneos, lo que mejora el rendimiento de todo el servidor y la utilización de la GPU en más de 1 vez.
Al mismo tiempo, admite el procesamiento automático por lotes, clasifica tareas de diferentes longitudes y compila tareas de tamaños similares en el mismo lote para aprovechar al máximo los recursos heterogéneos, lo que puede mejorar la eficiencia en un 70% sobre la base del desacoplamiento asíncrono.
La cuarta área en la que hay que centrarse es la aplicación. **
La aplicación del informe examina principalmente la eficiencia de la aplicación de cada plataforma.
Es decir, cómo utilizar los recursos existentes para convertir rápidamente los datos en productividad empresarial.
La plataforma de IA de Baidu puede proporcionar capacidades de gestión del ciclo de vida completo para el proceso de desarrollo de IA, desde la recopilación y limpieza de datos, hasta el desarrollo y entrenamiento de modelos, la gestión de modelos, hasta la gestión de servicios de inferencia en la nube y fuera de línea.
Vale la pena mencionar que la plataforma Baidu AI es la primera plataforma en China en alcanzar el nivel insignia del estándar MLOps de la Academia de Tecnología de la Información y las Comunicaciones.
En la actualidad, las capacidades de la plataforma de IA de Baidu se han exportado a industrias como las finanzas, la energía y el transporte. Sirviendo al Banco de Desarrollo de Shanghai Pudong, al Banco de Beijing, así como a State Grid, China Southern Power Grid, etc.
En 2022, el número de usuarios de pago de la nube pública de la plataforma inteligente de IA en la nube de Baidu aumentará en un 49%, el número de clientes privatizados aumentará en un 32% y el número de desarrolladores aumentará en 1.228 millones, con una tasa de crecimiento de alrededor del 40%; La tasa de recompra ha aumentado año tras año, y la tasa de recompra en industrias clave ha alcanzado el 50%.
Por último, en términos de arquitectura, el diseño arquitectónico de la plataforma de IA de Baidu recibió una puntuación completa en la puntuación de Forrester.
Si se puede resumir en una frase, la plataforma de IA de Baidu ha alcanzado el nivel de "líder", es decir, lo ha conseguido:
Hay muchos algoritmos, herramientas, operación rápida, buenos resultados, y también ahorra servidores y mano de obra, al tiempo que garantiza la seguridad y la facilidad de uso.
A través del análisis de las capacidades generales de la plataforma de IA de Baidu, no es difícil encontrar que muchas de estas herramientas e ideas están en línea con las nuevas necesidades de la tendencia actual de los grandes modelos.
De hecho, en el contexto de cambios drásticos en la dirección de la tecnología, no solo se trata de ajustar la arquitectura existente para adaptarse a los cambios en la demanda, sino también de proponer nuevas formas de afrontarla.
En la era de los grandes modelos, el nuevo patrón de competencia de la IA en la nube se ha determinado preliminarmente
Entonces, con el impacto de la ola de grandes modelos, ¿qué nuevos cambios se han producido en la demanda del mercado de plataformas de IA/ML?
En el pasado, muchos modelos de CV y NLP se llamaban SOTA, pero aún se usaban con más frecuencia en negocios no esenciales de la industria. Ahora, con su asombrosa capacidad para subvertir los flujos de trabajo tradicionales, los grandes modelos están empezando a ser reconocidos cada vez más, y se consideran la clave para romper el cuello de botella de la inteligencia en diversas industrias.
Sin embargo, para los proveedores de la nube, esto no significa que la era de los modelos grandes esté "comenzando desde cero" en la era de los modelos pequeños.
De hecho, con la profundización de la aplicación de grandes modelos, los campos técnicos como los agentes han atraído cada vez más atención. El núcleo radica en el hecho de que el modelo grande se basa en sus propias capacidades y conecta el modelo pequeño con una programación madura para resolver el problema en aplicaciones prácticas, que se considera más rápido y valioso en el escenario de producción.
Por lo tanto, en la "nueva era" abierta por los grandes modelos, para los "líderes" de las plataformas de IA/ML, la acumulación técnica en la era de los modelos pequeños y la innovación tecnológica en la era de los modelos grandes son complementarias e indispensables.
La plataforma de IA de Baidu en la "nueva era" entregó la hoja de respuestas: Baidu Intelligent Cloud Qianfan Large Model Platform es un ejemplo.
Como plataforma integral de modelos grandes a nivel empresarial, Baidu Intelligent Cloud Qianfan Platform es esencialmente el producto de la profunda acumulación de Baidu en la capa de chip, la capa de marco, la capa de modelo y la capa de aplicación.
Se concreta en cinco aspectos:
En primer lugar, a nivel de potencia informática, la plataforma Qianfan en la nube inteligente de Baidu puede proporcionar servicios informáticos heterogéneos eficientes y rentables.
En el proceso de entrenamiento de modelos grandes, a través de la estrategia de entrenamiento paralelo distribuido y las capacidades de interconexión de nivel de microsegundos, la tasa de aceleración del entrenamiento de clústeres a escala de 10,000 tarjetas en la plataforma Baidu Qianfan puede alcanzar el 95%. Al mismo tiempo, el tiempo de entrenamiento efectivo del clúster Vanka puede alcanzar el 96%, lo que reduce en gran medida el costo de la potencia y el tiempo de cómputo.
En segundo lugar, a nivel de modelo, la plataforma Baidu Qianfan ha gestionado 44 modelos grandes convencionales en el país y en el extranjero, incluidos el modelo grande Wenxin, la serie Llama, ChatGLM, etc., y permite a los usuarios llamar rápidamente a las API y obtener directamente capacidades de modelos grandes.
Para los modelos grandes de terceros, la plataforma Baidu Qianfan también se ha optimizado de manera específica, incluida la mejora china, la mejora del rendimiento, la mejora del contexto, etc.
Baidu reveló que el número de llamadas API de modelos grandes en la plataforma Qianfan de Baidu sigue aumentando a gran velocidad. En la actualidad, la plataforma Baidu Qianfan ha atendido a más de 20,000 clientes.
En tercer lugar, para los clientes que desean llevar a cabo un desarrollo secundario basado en modelos grandes existentes, la plataforma Baidu Qianfan proporciona una cadena de herramientas de ciclo de vida completo para el reentrenamiento, el ajuste, la evaluación y la implementación de modelos grandes, así como 41 conjuntos de datos de alta calidad, que pueden realizar una rápida optimización del modelo para escenarios comerciales específicos.
En cuarto lugar, a nivel de aplicación, en respuesta a las necesidades de las empresas de desarrollar aplicaciones nativas de IA basadas en grandes modelos, la plataforma Baidu Qianfan proporciona una serie de componentes y marcos de capacidad.
Por ejemplo, hay 226 plantillas integradas, de modo que los desarrolladores pueden mejorar rápidamente la calidad de las respuestas de modelos grandes, incluso si no están familiarizados con la ingeniería de solicitudes.
En la Conferencia Mundial de Baidu el 17 de octubre, Baidu Intelligent Cloud también lanzó el "Baidu Qianfan AI Native Application Development Workbench". En concreto, este "banco de trabajo" consta de dos partes: componentes de la aplicación + marcos de aplicación.
**Los servicios de componentes de aplicaciones se componen de dos componentes: IA y nube básica. **
Entre ellos, el componente de IA, es decir, la encapsulación basada en componentes de grandes capacidades de modelos, incluye grandes componentes de modelos de lenguaje, como preguntas y respuestas y cadena de pensamiento (CoT), así como componentes multimodales como el diagrama de Wensheng y el reconocimiento de voz.
Los componentes básicos de la nube incluyen servicios tradicionales en la nube, como bases de datos vectoriales y almacenamiento de objetos.
El marco de aplicación está orientado a tareas de escenarios específicos, que pueden entenderse como una combinación efectiva de los componentes de la aplicación anteriores basados en las capacidades de los modelos grandes.
En la actualidad, la plataforma Baidu Qianfan proporciona marcos de aplicaciones nativas de IA de uso común, como Retrieval Enhanced Generation (RAG) y Agent.
Entre ellos, el marco RAG puede combinar el conocimiento en el dominio propietario de la empresa con la capacidad de preguntas y respuestas del modelo grande para dar respuestas más precisas al conocimiento profesional.
Sobre la base de este marco RAG, Sany Heavy Industry se dio cuenta rápidamente del desarrollo y lanzamiento de la aplicación inteligente de servicio al cliente en el sitio web oficial.
Shen Dou, vicepresidente ejecutivo de Baidu Group y presidente de Baidu Intelligent Cloud Business Group, reveló que incluso si necesita procesar miles de documentos de palabras largas, el costo de construir un "pequeño asistente" de este tipo es de solo unos pocos cientos de yuanes; Después de eso, el costo de cada información para los usuarios es de solo unos pocos centavos.
Basado en el marco del agente, el modelo grande puede desensamblar automáticamente las tareas asignadas por los humanos, planificar y llamar automáticamente a varios componentes para completar las tareas en colaboración y, al mismo tiempo, proporcionar auto-retroalimentación de acuerdo con el efecto de finalización de la tarea para mejorar sus propias capacidades.
En la actualidad, sobre la base de este marco de agentes, Zhongtian Iron and Steel ha construido un "centro de programación empresarial" inteligente para realizar la percepción, descomposición y ejecución automáticas de instrucciones de tareas.
Por ejemplo, cuando se encuentra que la producción de acero no está a la altura, el modelo grande puede llamar automáticamente a varios recursos y API administrados por la plataforma para averiguar el motivo del incumplimiento, ajustar el cronograma de producción a tiempo y enviar un correo electrónico para notificar al despachador.
Por último, Baidu Qianfan también lanzó la "AI Native App Store", que conecta el lado de la oferta y el lado de la demanda de las aplicaciones nativas de IA, y proporciona un lugar de reunión para oportunidades de negocio de modelos a gran escala.
No es difícil ver que, por un lado, el rápido lanzamiento de la plataforma de modelos grandes Qianfan en la nube inteligente de Baidu se beneficia del desarrollo de la propia tecnología de modelos grandes de Baidu; Por otro lado, las capacidades del producto acumuladas por la plataforma de IA de Baidu a lo largo de los años, así como su rica experiencia práctica en la industria, han hecho que la plataforma Qianfan de Baidu tome la delantera para desempeñar un papel eficaz en el lado de la aplicación.
Según datos de IDC, el mercado de servicios de nube pública de IA de China mostrará un crecimiento positivo del 80,6% en 2022, con un tamaño total del mercado que alcanzará los 7.970 millones de yuanes.
El análisis de IDC cree que la implementación de la IA generativa y los grandes modelos se encuentra actualmente en pañales, y estas capacidades pueden actualizarse e iterarse más rápidamente en la nube pública, lo que aportará importantes beneficios a los servicios de nube pública de IA a corto plazo.
Gartner también señala que la IA generativa está impulsada por grandes modelos, lo que plantea los requisitos para una infraestructura informática robusta y altamente escalable. "La nube proporciona la solución y la plataforma perfectas, y los actores clave en la carrera de la IA generativa deben ser los principales proveedores de nube".
Combinado con el último informe de Forrester, se puede ver que para los proveedores de la nube, los servicios en la nube de IA se han convertido en el nuevo foco de la competencia.
Y cómo medir la competitividad, ahora los criterios de evaluación son poco a poco claros.
En última instancia, hay dos aspectos centrales:
En primer lugar, desde la perspectiva de los desarrolladores y los usuarios empresariales, se trata de si la capacidad de la plataforma de servicios en la nube de IA puede resolver realmente de forma rentable los problemas prácticos a los que se enfrentan las empresas complejas, así como la escasez de talentos profesionales en el proceso de actualización inteligente, especialmente bajo la ola de grandes modelos.
En segundo lugar, desde la perspectiva de las tendencias tecnológicas, está más estrechamente integrado con los modelos grandes.
El diseño de la plataforma de IA de Baidu puede considerarse como una respuesta de referencia dada por los principales proveedores de nube de IA en los últimos cambios en el panorama competitivo.
¿En cuanto a los resultados? En más casos de aterrizaje, puede ver el capítulo real.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
¡Se lanza el último patrón de la plataforma de IA de China! La puntuación integral de Baidu es la primera, el segundo escalón es ferozmente competitivo y el gran modelo acelera la evolución de los proveedores de la nube
Fuente: Qubits
La tendencia de los modelos grandes ha traído cientos de millones de "pequeños choques" a todo lo relacionado con ella.
Una plataforma de IA/ML es una de ellas.
Está estrechamente relacionado con la tendencia de los grandes modelos, y puede reflejar directamente el nivel de reservas de investigación y desarrollo de tecnología de IA de los principales proveedores de la nube, así como la capacidad de conocimiento y comprensión de las últimas tendencias.
¿Quién es más fuerte? La industria está hablando de ello.
El último "Primer Informe de la Plataforma China de Inteligencia Artificial/Aprendizaje Automático**" de Forrester, publicado por la autoridad internacional, proporciona una referencia oportuna.
Forrester Research es una empresa independiente de tecnología e investigación de mercado que publica informes temáticos que son altamente reconocidos en China y en todo el mundo.
The Forrester Wave, que se publica cada dos años, es el tipo de informe más influyente de Forrester.
Sobre la base de una evaluación exhaustiva de 25 segmentos, Forrester divide a los 14 proveedores líderes en cuatro cuadrantes: Líderes, Mejores Empleados, Contendientes y Retadores.
Echemos un vistazo a los aspectos más destacados.
¿Qué nuevos estándares traen las nuevas tendencias?
Comencemos con las principales conclusiones del informe.
En este gráfico de cuadrantes, el nivel estratégico es el eje horizontal, la capacidad del producto es el eje vertical y se divide en cuatro cuadrantes: líderes, excelentes desempeñadores, competidores y retadores, y también refleja el desempeño en el mercado de cada empresa.
Líderes (2), Mejores (5), Competidores (4), Aspirantes (3).
En el primer escalón se encuentran Baidu Intelligent Cloud y Alibaba Cloud. Entre ellos, Baidu Intelligent Cloud tuvo un desempeño brillante y ganó el primer lugar en la puntuación integral.
El segundo escalón es el más competitivo, con 5 proveedores en una posición muy compacta en el cuadrante.
La conclusión anterior es el resultado de 25 evaluaciones realizadas por Forrester.
Además de resolver el panorama competitivo actual de las plataformas de IA/ML en el mercado chino, Forrester ha propuesto una nueva referencia estándar para evaluar las plataformas de IA/ML.
Los siguientes tres puntos son los más críticos:
¿Por qué?
Forrester cree que, bajo la influencia de la IA generativa y las tendencias de los grandes modelos, las aplicaciones de IA son cada vez más importantes para promover la productividad y acelerar la innovación empresarial.
En el mercado chino actual, las empresas necesitan urgentemente una plataforma de IA/ML que pueda resolver problemas complejos dentro de su propio entorno empresarial.
Para satisfacer la demanda del mercado, los tres aspectos mencionados anteriormente son indispensables.
En primer lugar, debe haber una cadena de herramientas que proporcione capacidades de gestión de datos, entrenamiento de modelos y desarrollo de aplicaciones de IA. **
Este es también el núcleo de la plataforma de IA/ML.
Forrester propone que el lado de la plataforma no solo debe prestar atención a las herramientas clave en la construcción, capacitación y evaluación de modelos, sino también prestar atención a las herramientas necesarias para el desarrollo de aplicaciones de IA.
Por ejemplo, frameworks y cuadernos de IA para profesionales; Herramientas visuales low-code para gente de negocios.
Además de esto, las herramientas de gestión de datos también tienen un impacto significativo en la construcción de modelos.
Forrester señala que la mayoría de las empresas del mercado nacional carecen de ingenieros que entiendan tanto los algoritmos de IA como el conocimiento empresarial, lo que les dificulta adaptar los algoritmos a sus necesidades empresariales.
En la actualidad, están adoptando la "pose" de la tendencia de los modelos grandes, ya sea utilizando el modelo grande para el ajuste fino o haciendo ingeniería rápida.
Por lo tanto, las herramientas de aceleración que pueden acelerar la construcción de modelos de IA y el desarrollo de aplicaciones son muy importantes. Las herramientas de visualización, el desarrollo low-code y mucho más pueden acelerar aún más la innovación.
Model Ops incluye la implementación, la supervisión, la actualización y la automatización de modelos, que pueden resolver problemas como el desfase del modelo, la degradación del rendimiento, el mantenimiento de la seguridad y las actualizaciones del modelo, y proporcionar pruebas A/B, ajuste automático y reentrenamiento del modelo.
A medida que las empresas adoptan la tendencia de los modelos grandes, las plataformas de IA/ML con operaciones de modelos a gran escala pueden ayudar mejor a las empresas a desarrollar, implementar y administrar modelos de IA, promover aún más la transformación digital empresarial, reducir costos y aumentar la eficiencia.
Y qué capacidades son más específicas para poseer, tenemos que analizarlas desde los líderes actuales.
¿Cómo se llega al cuadrante de Líderes? **
En este informe de Forrester, el rendimiento de Baidu Intelligent Cloud es llamativo.
Es el único proveedor de nube que ingresó al cuadrante "Líder", y también ganó el primer lugar en la puntuación general y el primer lugar en las puntuaciones de 9 subdivisiones.
En términos de capacidades de producto, Baidu Intelligent Cloud se encuentra en el nivel líder en cuatro subdivisiones: datos, capacitación, razonamiento predictivo y aplicación.
Al mismo tiempo, en términos de dimensión estratégica y tamaño de mercado, Baidu también ganó el primer lugar en muchos de estos proyectos.
Sus capacidades específicas provienen de la plataforma de IA de Baidu, y sus productos incluyen BML, EasyDL y la plataforma de modelos grandes Qianfan en la nube inteligente de Baidu.
Tomando como ejemplo la plataforma inteligente de IA en la nube de Baidu, podemos analizar más concretamente qué capacidades debe tener la actual plataforma de IA/ML si quiere ocupar una posición de liderazgo en el mercado.
De acuerdo con las dimensiones del informe de Forrester, las capacidades específicas se pueden dividir en cinco aspectos: datos, entrenamiento, razonamiento predictivo, aplicación y arquitectura. Estos son también los cinco elementos centrales en el desarrollo y la aplicación de modelos de IA.
**Empecemos por los datos. **
En la parte de procesamiento de datos, la plataforma de IA de Baidu puede procesar datos estructurados y no estructurados.
Se admiten más de 65 tipos de visualizaciones de datos, incluidos gráficos circulares, mapas de calor, diagramas de dispersión, mapas y más. Es compatible con 10+ tipos de componentes de filtro, y los usuarios solo necesitan realizar una configuración simple y arrastrar y soltar para lograr el monitoreo de datos en tiempo real y la toma de decisiones auxiliares.
Al mismo tiempo, también admite anotaciones en formato de datos 30+, lo que mejora la eficiencia del enlace de anotación con la mano de obra más concentrada en el proceso de modelado.
Por ejemplo, si hay 10.000 imágenes que deben etiquetarse, el sistema colocará las imágenes características delante y las repetitivas detrás, de modo que solo se marcarán las primeras 3.000 imágenes y las últimas 7.000 imágenes se podrán marcar automáticamente.
Según los informes, este método puede ahorrar entre un 70 y un 90% de mano de obra para los usuarios empresariales en promedio. La proporción de mano de obra humana en "inteligencia artificial" se ha reducido drásticamente.
Además, en términos de ingeniería de características, la plataforma de IA de Baidu integra la capacidad de gestión de bases de datos de características de nivel profesional, proporcionando funciones como la adición, eliminación, modificación y consulta de características, la producción de características, el uso compartido de funciones, la gestión de versiones de funciones y la verificación de datos.
Se admiten diferentes formas de datos por lotes y streaming para los servicios de predicción, lo que puede garantizar que las características del modelo sean coherentes durante el entrenamiento y la predicción final, lo que está directamente relacionado con la precisión del modelo.
Las capacidades anteriores se reflejan en números específicos, y el informe de Forrester otorga a la plataforma de IA de Baidu una puntuación de 5 sobre 5 (sobre una puntuación) para sus capacidades de datos, significativamente por delante de otros proveedores.
Este es uno de los aspectos más evidentes de la última tendencia en cuanto a la demanda del mercado, que está dirigida no solo a desarrolladores profesionales, sino también a empresarios que no están especializados en algoritmos de IA, por lo que requiere que la plataforma de IA/ML que proporciona capacidades sea fácil de usar y flexible.
Consulte la práctica de la plataforma de IA de Baidu.
Por un lado, concede importancia a la "amplitud" y admite el modelado y el entrenamiento de una variedad de datos, como imágenes, videos, texto y voz.
El método de modelado también es muy flexible, ya que admite una variedad de métodos de modelado, como el desarrollo de cuadernos / WebIDE, el desarrollo visual de arrastrar y soltar, el ajuste de parámetros de script, trabajos personalizados, etc., que pueden completar el desarrollo personalizado de modelos de alta precisión para personas con diferentes niveles profesionales.
En el otro lado está la "profundidad". Con el apoyo de su propio equipo de algoritmos de paleta, la plataforma de IA de Baidu ha realizado una optimización en profundidad de un gran número de operadores de escena. Incluyendo clasificación de imágenes, detección de objetos, clasificación de texto, anotación de secuencias, etc.
Por ejemplo, PP YOLO, que está profundamente optimizado en base al operador Paddle, ha superado el punto de referencia YOLO V3 en el campo de la detección de objetos.
Además, la cantidad de computación de IA está aumentando al menos 10 veces al año, y la capacidad de ajustar los recursos de las tareas en el entrenamiento de aprendizaje profundo se ha vuelto particularmente importante. La plataforma de IA de Baidu admite el entrenamiento distribuido de múltiples máquinas y tarjetas, y proporciona una variedad de tipos de recursos informáticos.
Además, la propia Baidu tiene una amplia experiencia en el entrenamiento de modelos supergrandes y puede integrar sus propias capacidades en modelos visuales de gran tamaño, IA generativa, etc. Por ejemplo, se puede realizar la búsqueda automática de hiperparámetros, el procesamiento automático de datos desequilibrados y el entrenamiento previo a gran escala.
Como resultado, en la plataforma de IA de Baidu, también puede ver muchas herramientas de desarrollo para mejorar la eficiencia de la programación.
La tercera dimensión de la competencia es el razonamiento. **
Con el desarrollo de grandes modelos, el mercado de inferencia se expandirá aún más e incluso crecerá exponencialmente, lo que plantea grandes desafíos para las plataformas de IA/ML.
Desde la perspectiva de la plataforma de IA de Baidu, se centran principalmente en la eficiencia del desarrollo, la optimización del rendimiento, la flexibilidad y la amplitud.
Su módulo de inferencia, Model Serve, es compatible con 16 marcos de IA, incluidos los más comunes Paddle, Tensor Flow y PyTorch, así como Matlab/R para la computación científica y Xg boost para el aprendizaje automático.
En términos de optimización del rendimiento, un programador de inferencia asincrónica se abstrae directamente en la capa de programación para lograr trabajadores de inferencia heterogéneos, lo que mejora el rendimiento de todo el servidor y la utilización de la GPU en más de 1 vez.
Al mismo tiempo, admite el procesamiento automático por lotes, clasifica tareas de diferentes longitudes y compila tareas de tamaños similares en el mismo lote para aprovechar al máximo los recursos heterogéneos, lo que puede mejorar la eficiencia en un 70% sobre la base del desacoplamiento asíncrono.
La aplicación del informe examina principalmente la eficiencia de la aplicación de cada plataforma.
Es decir, cómo utilizar los recursos existentes para convertir rápidamente los datos en productividad empresarial.
La plataforma de IA de Baidu puede proporcionar capacidades de gestión del ciclo de vida completo para el proceso de desarrollo de IA, desde la recopilación y limpieza de datos, hasta el desarrollo y entrenamiento de modelos, la gestión de modelos, hasta la gestión de servicios de inferencia en la nube y fuera de línea.
En la actualidad, las capacidades de la plataforma de IA de Baidu se han exportado a industrias como las finanzas, la energía y el transporte. Sirviendo al Banco de Desarrollo de Shanghai Pudong, al Banco de Beijing, así como a State Grid, China Southern Power Grid, etc.
En 2022, el número de usuarios de pago de la nube pública de la plataforma inteligente de IA en la nube de Baidu aumentará en un 49%, el número de clientes privatizados aumentará en un 32% y el número de desarrolladores aumentará en 1.228 millones, con una tasa de crecimiento de alrededor del 40%; La tasa de recompra ha aumentado año tras año, y la tasa de recompra en industrias clave ha alcanzado el 50%.
Por último, en términos de arquitectura, el diseño arquitectónico de la plataforma de IA de Baidu recibió una puntuación completa en la puntuación de Forrester.
A través del análisis de las capacidades generales de la plataforma de IA de Baidu, no es difícil encontrar que muchas de estas herramientas e ideas están en línea con las nuevas necesidades de la tendencia actual de los grandes modelos.
De hecho, en el contexto de cambios drásticos en la dirección de la tecnología, no solo se trata de ajustar la arquitectura existente para adaptarse a los cambios en la demanda, sino también de proponer nuevas formas de afrontarla.
En la era de los grandes modelos, el nuevo patrón de competencia de la IA en la nube se ha determinado preliminarmente
Entonces, con el impacto de la ola de grandes modelos, ¿qué nuevos cambios se han producido en la demanda del mercado de plataformas de IA/ML?
En el pasado, muchos modelos de CV y NLP se llamaban SOTA, pero aún se usaban con más frecuencia en negocios no esenciales de la industria. Ahora, con su asombrosa capacidad para subvertir los flujos de trabajo tradicionales, los grandes modelos están empezando a ser reconocidos cada vez más, y se consideran la clave para romper el cuello de botella de la inteligencia en diversas industrias.
Sin embargo, para los proveedores de la nube, esto no significa que la era de los modelos grandes esté "comenzando desde cero" en la era de los modelos pequeños.
De hecho, con la profundización de la aplicación de grandes modelos, los campos técnicos como los agentes han atraído cada vez más atención. El núcleo radica en el hecho de que el modelo grande se basa en sus propias capacidades y conecta el modelo pequeño con una programación madura para resolver el problema en aplicaciones prácticas, que se considera más rápido y valioso en el escenario de producción.
Por lo tanto, en la "nueva era" abierta por los grandes modelos, para los "líderes" de las plataformas de IA/ML, la acumulación técnica en la era de los modelos pequeños y la innovación tecnológica en la era de los modelos grandes son complementarias e indispensables.
Como plataforma integral de modelos grandes a nivel empresarial, Baidu Intelligent Cloud Qianfan Platform es esencialmente el producto de la profunda acumulación de Baidu en la capa de chip, la capa de marco, la capa de modelo y la capa de aplicación.
Se concreta en cinco aspectos:
En primer lugar, a nivel de potencia informática, la plataforma Qianfan en la nube inteligente de Baidu puede proporcionar servicios informáticos heterogéneos eficientes y rentables.
En el proceso de entrenamiento de modelos grandes, a través de la estrategia de entrenamiento paralelo distribuido y las capacidades de interconexión de nivel de microsegundos, la tasa de aceleración del entrenamiento de clústeres a escala de 10,000 tarjetas en la plataforma Baidu Qianfan puede alcanzar el 95%. Al mismo tiempo, el tiempo de entrenamiento efectivo del clúster Vanka puede alcanzar el 96%, lo que reduce en gran medida el costo de la potencia y el tiempo de cómputo.
Para los modelos grandes de terceros, la plataforma Baidu Qianfan también se ha optimizado de manera específica, incluida la mejora china, la mejora del rendimiento, la mejora del contexto, etc.
Baidu reveló que el número de llamadas API de modelos grandes en la plataforma Qianfan de Baidu sigue aumentando a gran velocidad. En la actualidad, la plataforma Baidu Qianfan ha atendido a más de 20,000 clientes.
En tercer lugar, para los clientes que desean llevar a cabo un desarrollo secundario basado en modelos grandes existentes, la plataforma Baidu Qianfan proporciona una cadena de herramientas de ciclo de vida completo para el reentrenamiento, el ajuste, la evaluación y la implementación de modelos grandes, así como 41 conjuntos de datos de alta calidad, que pueden realizar una rápida optimización del modelo para escenarios comerciales específicos.
En cuarto lugar, a nivel de aplicación, en respuesta a las necesidades de las empresas de desarrollar aplicaciones nativas de IA basadas en grandes modelos, la plataforma Baidu Qianfan proporciona una serie de componentes y marcos de capacidad.
Por ejemplo, hay 226 plantillas integradas, de modo que los desarrolladores pueden mejorar rápidamente la calidad de las respuestas de modelos grandes, incluso si no están familiarizados con la ingeniería de solicitudes.
En la Conferencia Mundial de Baidu el 17 de octubre, Baidu Intelligent Cloud también lanzó el "Baidu Qianfan AI Native Application Development Workbench". En concreto, este "banco de trabajo" consta de dos partes: componentes de la aplicación + marcos de aplicación.
Entre ellos, el componente de IA, es decir, la encapsulación basada en componentes de grandes capacidades de modelos, incluye grandes componentes de modelos de lenguaje, como preguntas y respuestas y cadena de pensamiento (CoT), así como componentes multimodales como el diagrama de Wensheng y el reconocimiento de voz.
Los componentes básicos de la nube incluyen servicios tradicionales en la nube, como bases de datos vectoriales y almacenamiento de objetos.
El marco de aplicación está orientado a tareas de escenarios específicos, que pueden entenderse como una combinación efectiva de los componentes de la aplicación anteriores basados en las capacidades de los modelos grandes.
En la actualidad, la plataforma Baidu Qianfan proporciona marcos de aplicaciones nativas de IA de uso común, como Retrieval Enhanced Generation (RAG) y Agent.
Entre ellos, el marco RAG puede combinar el conocimiento en el dominio propietario de la empresa con la capacidad de preguntas y respuestas del modelo grande para dar respuestas más precisas al conocimiento profesional.
Sobre la base de este marco RAG, Sany Heavy Industry se dio cuenta rápidamente del desarrollo y lanzamiento de la aplicación inteligente de servicio al cliente en el sitio web oficial.
Basado en el marco del agente, el modelo grande puede desensamblar automáticamente las tareas asignadas por los humanos, planificar y llamar automáticamente a varios componentes para completar las tareas en colaboración y, al mismo tiempo, proporcionar auto-retroalimentación de acuerdo con el efecto de finalización de la tarea para mejorar sus propias capacidades.
En la actualidad, sobre la base de este marco de agentes, Zhongtian Iron and Steel ha construido un "centro de programación empresarial" inteligente para realizar la percepción, descomposición y ejecución automáticas de instrucciones de tareas.
Por ejemplo, cuando se encuentra que la producción de acero no está a la altura, el modelo grande puede llamar automáticamente a varios recursos y API administrados por la plataforma para averiguar el motivo del incumplimiento, ajustar el cronograma de producción a tiempo y enviar un correo electrónico para notificar al despachador.
El análisis de IDC cree que la implementación de la IA generativa y los grandes modelos se encuentra actualmente en pañales, y estas capacidades pueden actualizarse e iterarse más rápidamente en la nube pública, lo que aportará importantes beneficios a los servicios de nube pública de IA a corto plazo.
Gartner también señala que la IA generativa está impulsada por grandes modelos, lo que plantea los requisitos para una infraestructura informática robusta y altamente escalable. "La nube proporciona la solución y la plataforma perfectas, y los actores clave en la carrera de la IA generativa deben ser los principales proveedores de nube".
Combinado con el último informe de Forrester, se puede ver que para los proveedores de la nube, los servicios en la nube de IA se han convertido en el nuevo foco de la competencia.
Y cómo medir la competitividad, ahora los criterios de evaluación son poco a poco claros.
En última instancia, hay dos aspectos centrales:
En primer lugar, desde la perspectiva de los desarrolladores y los usuarios empresariales, se trata de si la capacidad de la plataforma de servicios en la nube de IA puede resolver realmente de forma rentable los problemas prácticos a los que se enfrentan las empresas complejas, así como la escasez de talentos profesionales en el proceso de actualización inteligente, especialmente bajo la ola de grandes modelos.
En segundo lugar, desde la perspectiva de las tendencias tecnológicas, está más estrechamente integrado con los modelos grandes.
El diseño de la plataforma de IA de Baidu puede considerarse como una respuesta de referencia dada por los principales proveedores de nube de IA en los últimos cambios en el panorama competitivo.
¿En cuanto a los resultados? En más casos de aterrizaje, puede ver el capítulo real.