A transformação inteligente da indústria entrou na área de águas profundas, e os pontos de demanda das empresas por recursos de IA estão mudando.
Cada vez mais grandes empresas estão olhando além de um único aplicativo inteligente. Em setores como energia elétrica e finanças, grandes empresas estão se concentrando em todo o processo de produção, aplicação e gerenciamento de recursos de IA, e estão apresentando requisitos para as plataformas de aprendizagem de IA dos fabricantes e ferramentas de produtividade de plataforma, de modo a resolver uma série de pontos problemáticos, como escassez de talentos, escassez de dados, dificuldades de gerenciamento e baixa taxa de reutilização de recursos.
Após a chegada do boom dos grandes modelos, o foco da competição de plataformas mudou para o desenvolvimento e aplicação de modelos grandes, e os fabricantes estão combinando ativamente as soluções de plataforma de IA anteriores com modelos grandes. Na competição de plataformas, as vantagens de algumas empresas foram destacadas. A Forrester, uma agência internacional de analistas, divulgou recentemente um relatório mostrando que, na competição das plataformas chinesas de inteligência artificial/aprendizado de máquina, o Baidu Intelligent Cloud teve um bom desempenho, e as plataformas de IA participantes da seleção receberam as pontuações mais altas em 6 categorias, como dados, raciocínio e aplicação15 subcategorias, classificando-se no quadrante líder**.
A plataforma de IA está ajudando as empresas a construir rapidamente modelos e aplicativos de IA que atendam às necessidades de negócios e monitorem e otimizem efetivamente o desempenho dos modelos.
A situação de construir 100 modelos para 100 cenas é coisa do passado.
01 Uso profundo da IA, os problemas das armas antigas
**A indústria está entrando no estágio de aplicação aprofundada de IA, e a IA não está mais fora de alcance. No entanto, cada vez mais empresas estão descobrindo que, com o aprofundamento dos aplicativos, os usuários seniores no campo da inteligência empresarial estão encontrando novos problemas.
Tomando a indústria de energia como exemplo, grandes empresas de energia têm usado modelos de IA para vários cenários, como inspeção de circuitos. Normalmente, as necessidades relevantes dessas empresas são, na sua maioria, adquiridas de forma independente por diferentes departamentos ou sucursais. À medida que o número de aplicações de IA aumenta, aumenta também o número de modelos. Gerenciar um grande número de modelos e mantê-los funcionando de forma estável e eficiente está se tornando um desafio.
Muitas grandes empresas têm problemas semelhantes. Um veterano disse ao Digital Intelligence Frontline que ele viu pessoalmente que o departamento A na empresa coloca 5 pessoas para fazer o algoritmo A, e o departamento B também coloca algumas pessoas na equipe B para fazer algoritmos, o que dificulta a realização de monitoramento, otimização, atualização e manutenção unificadas a partir do nível da empresa, e a taxa geral de reutilização de recursos de IA na empresa é muito baixa.
Algumas empresas ou instituições já aplicaram a tecnologia de IA para emissão de cartão de crédito, aprovação de elegibilidade e identificação de fraudes para alcançar o controle de risco de IA e marketing de precisão. Mas a ênfase do setor financeiro em segurança e conformidade também está se estendendo à aplicação da IA. Por exemplo, a equipe técnica do banco atribui grande importância aos fatores de conformidade e, ao criar um novo modelo, quem é responsável pela delegação e aprovação da construção, quem lida com a aprovação da leitura de dados, e a escrita de dados, produção do modelo, treinamento, pouso e lançamento também são garantidos por camadas de processos. Esse tipo de demanda obviamente não é a construção tradicional de aplicativos inteligentes.
Uma pessoa sênior de soluções do setor de um fornecedor de nuvem disse à Digital Intelligence Frontier que algumas grandes empresas estatais centrais claramente esperam construir um hub inteligente da empresa e cultivar suas próprias capacidades de IA, para que o departamento digital da empresa possa desenvolver seus próprios algoritmos para novos cenários e fazer novas aplicações.
Esta tendência também é observada na indústria. Jin Wei, arquiteto sênior da plataforma inteligente de IA em nuvem da Baidu, disse à linha de frente da inteligência digital que isso reflete que as aplicações de IA estão se movendo em direção a uma área de águas profundas, e a transformação sistemática das empresas está se tornando cada vez mais proeminente. As empresas não devem apenas ter uma visão e um planeamento de objetivos, mas também precisam de ter um forte mecanismo de coordenação e supervisão de promoção e dispor de ferramentas completas para garantir uma implementação harmoniosa. A plataforma de IA é uma ferramenta de produtividade para a transformação inteligente das empresas.
A indústria percebeu a importância deste produto de plataforma. A Forrester, uma empresa de análise internacional, divulgou recentemente o relatório "The Forrester WaveTM: Evaluation of AI/ML Platform Vendors in the Chinese Market, Q42023", apontando que os tomadores de decisão empresariais da China estão priorizando ainda mais a adoção da tecnologia de IA para impulsionar a melhoria da produtividade e a inovação nos negócios. No processo, as empresas precisam de produtos de plataforma de IA que possam suportar casos de uso complexos em seus respetivos ambientes de negócios.
As novas tendências também estão exigindo os recursos dos fornecedores de plataformas de aprendizado de máquina. De acordo com a Forrester, as principais plataformas** precisam fornecer ferramentas abrangentes em gerenciamento de dados, treinamento de modelos e construção de aplicativos de IA; Também deve ser adaptado aos cenários da indústria para ajudar algumas empresas que carecem de talentos de IA e cientistas de dados a obter recursos de IA com base em suas próprias necessidades de negócios**; Além disso, ferramentas, tecnologias e práticas podem ajudar as empresas a desenvolver e implantar modelos em escala.
A Forrester avaliou 14 fornecedores tradicionais de plataformas de aprendizado de máquina na China em 25 subcritérios de três dimensões: capacidade do produto, layout estratégico e desempenho do mercado. De acordo com os dados, o Baidu Intelligent Cloud está atualmente classificado como o líder do relatório, e ganhou o primeiro lugar em 9 subpontuações, como dados, treinamento, raciocínio preditivo e aplicação.
Jin Wei apresentou que os principais recursos de produtos da Baidu na plataforma de IA passaram por acúmulo e polimento de longo prazo. A intenção original da plataforma de IA é criar um software de produtividade que permita que diferentes tipos de usuários corporativos construam aplicativos de IA de forma rápida e econômica e, ao mesmo tempo, alcance múltiplos algoritmos, ferramentas, operação rápida e bons resultados na plataforma, ajudando os clientes a economizar servidores e mão de obra.
Atualmente, algumas grandes empresas dos sectores energético e financeiro têm sido profundamente utilizadas. Com base na plataforma de IA, as empresas podem não apenas criar rapidamente modelos e aplicativos de IA que atendam às necessidades de negócios, mas também monitorar e otimizar efetivamente o desempenho do modelo. Além disso, é mais conveniente e eficiente gerenciar e coordenar recursos como dados, poder de computação, pessoas e processos.
Por exemplo, no setor de energia, a plataforma inteligente de IA em nuvem da Baidu está ajudando grandes grupos a resolver pontos problemáticos de negócios. Por um lado, o modelo e os dados podem ser partilhados entre diferentes subsidiárias para evitar a reinvenção da roda. Ao mesmo tempo, alguns modelos existentes relacionados à produção de segurança usam este produto, que pode ser distribuído diretamente para a rede provincial ou municipal pela State Grid, que pode fazer uso eficiente dos recursos de IA e ter qualidade consistente. Além disso, a plataforma de IA também pode ajudar as empresas a inovar, como o desenvolvimento de um novo algoritmo para despacho de energia, usando a estrutura de aprendizagem de reforço do Baidu, que pode realizar a calibração automática de parâmetros de programação sem a experiência manual de um grande número de especialistas.
No setor financeiro, a solução de plataforma de IA da Baidu Intelligent Cloud também ajudou muitas instituições financeiras a construir grandes módulos de gerenciamento de risco de modelo para garantir a conformidade do processo e a segurança confiável quando a IA é aplicada a cenários financeiros.
02 A era dos grandes modelos, como personalizar
Desde o início deste ano, a onda de grandes modelos e IA generativa promoveu a aplicação mais aprofundada da IA na indústria, e as plataformas de aprendizado de máquina também estão inaugurando novas oportunidades de desenvolvimento.
De acordo com fontes seniores, após a chegada de grandes modelos de linguagem, as mudanças nas plataformas de aprendizado de máquina se refletem em três níveis. A mudança mais típica está na interface de operação, a interface de operação complexa antes que a PNL se torne mais simples, e o limite para a aplicação empresarial de linguagem de IA está diminuindo. Ao mesmo tempo, a capacidade de automação do modelo é melhorada e tarefas como processamento de dados, seleção de modelos e geração automática de relatórios podem ser automatizadas. Além disso, o espaço para aplicações inovadoras nativas de IA também se abriu.
Neste contexto, muitas empresas tomaram o modelo grande como uma obrigação para responder à pergunta, e vários fabricantes de plataformas também estão se preparando para lançar vários produtos e plataformas para acelerar a aplicação da tecnologia de grandes modelos. Tomando o Baidu como exemplo, em março deste ano, lançou a plataforma de grandes modelos Baidu Intelligent Cloud Qianfan, que integra profundamente as principais capacidades de desenvolvimento e aplicação de grandes modelos com a plataforma de IA para criar uma "super fábrica" para serviços de grandes modelos.
A fim de facilitar que as empresas usem e desenvolvam facilmente aplicações de modelos grandes, a Baidu Qianfan atualmente fornece não apenas o modelo grande Wenxin auto-desenvolvido da Baidu e o modelo grande de terceiros, mas também fornece uma variedade de ferramentas de desenvolvimento de IA e um conjunto completo de ambientes de desenvolvimento para ajudar a indústria de IA generativa em vários setores.
Especificamente, o Baidu resume a demanda da indústria por modelos grandes em cinco tipos, seja um cliente que só precisa de poder de computação, ou uma empresa que deseja chamar diretamente a API do modelo grande ou fazer desenvolvimento secundário com base no modelo grande existente, e uma empresa que deseja desenvolver aplicativos nativos de IA com base no modelo grande ou usar diretamente o aplicativo desenvolvido, a plataforma Baidu Qianfan pode fornecer serviços direcionados.
Para empresas que só precisam de poder de computação, a plataforma Baidu Qianfan pode fornecer serviços de poder de computação heterogêneos altamente eficientes e econômicos. Jin Wei revelou que, para fazer isso, a equipe técnica da plataforma inteligente de IA em nuvem da Baidu passou vários anos fazendo muito trabalho sujo. Por exemplo, ele é compatível com os principais chips de IA no país e no exterior, e precisa ser adaptado de quatro níveis: camada de estrutura, algoritmo central e rede, modelo de chip e sistema operacional. "O PyTorch é diferente do TensorFlow, e o sistema operacional é Windows, Linux ou microcontrolador, e o trabalho a ser feito também é diferente. **A combinação de quatro camadas fez 40.000 adaptações para garantir o bom funcionamento de vários modelos. **", disse Jin Wei.
Atualmente, a plataforma de modelos grandes Qianfan não está apenas conectada ao modelo grande Wenxin 4.0, mas também gerencia 44 modelos de grande porte mainstream de terceiros em casa e no exterior, que é o maior número entre as plataformas nacionais.
**Algumas empresas querem redesenvolver grandes modelos existentes, o que requer uma cadeia de ferramentas rica e um grande número de conjuntos de dados. **A plataforma Qianfan tem atualmente uma cadeia de ferramentas completa e um grande número de conjuntos de dados de alta qualidade que abrangem todo o ciclo de vida de retreinamento de grandes modelos, ajuste fino, avaliação e implantação, que podem otimizar rapidamente o efeito do modelo de acordo com cenários e melhorar ainda mais a experiência do usuário de grandes modelos de empresas.
Modelos grandes trazem novas alterações ao processo de anotação de dados, e muitas tarefas de anotação podem ser concluídas por meio do modelo. Atualmente, a plataforma Qianfan suporta refluxo de dados corporativos e anotação de dados altamente automatizada. Por exemplo, no cenário de deteção de objetos, o Qianfan fornece diretamente recursos de pré-treinamento, clicando no botão para rotular uma pequena parte, e permite que o modelo aprenda o estilo de anotação humana para anotar automaticamente, o que pode economizar 70% ~ 90% de mão de obra para as empresas.
Há também muitas empresas que querem desenvolver aplicações nativas de IA com base em grandes modelos. Em meados deste mês, a Baidu Intelligent Cloud lançou o "Qianfan AI Native Application Development Workbench", que inclui componentes de aplicativos comuns e serviços de duas camadas de estrutura de aplicativos para desenvolvimento de aplicativos de modelo em larga escala, que visa o desenvolvimento de necessidades de aplicativos nativos de IA.
Tomando os componentes de aplicação como exemplo, a plataforma Qianfan inclui vários tipos de recursos, como componentes de modelo de linguagem grande, como perguntas e respostas e cadeia de pensamento, componentes multimodais, como diagrama de Wensheng e reconhecimento de fala, bem como recursos tradicionais de serviço de nuvem, como banco de dados vetorial e armazenamento de objetos.
A estrutura do aplicativo pode conectar organicamente componentes para concluir a tarefa completa de um cenário específico. A plataforma Qianfan forneceu serviços de estrutura comumente usados, como Retrieval Enhanced Generation (RAG) e Agent no mercado, e empresas pioneiras como a Sany Heavy Industry aplicaram essas estruturas para desenvolver rapidamente suas próprias aplicações de P&R de conhecimento.
A engenharia é um novo campo nascido após o surgimento dos grandes modelos. Isso tem a ver com a natureza do modelo grande, e alterar um pouco as instruções pode fazer uma enorme diferença em sua saída ou comportamento. Atualmente, vários fabricantes estão enfatizando ferramentas de engenharia. A plataforma Baidu Qianfan também oferece mais de 10 cenários que abrangem diálogo, programação, e-commerce, assistência médica, jogos, tradução, fala, etc., com um total de 226 modelos. De acordo com relatórios, este é o maior número de bibliotecas de modelos na plataforma principal na China. Desenvolvedores e empresas também podem usar as várias ferramentas de automação e lote fornecidas pela plataforma para concluir o processo de forma eficiente.
Jin Wei acredita que, nos últimos meses, a plataforma de grandes modelos Qianfan na nuvem inteligente da Baidu estabeleceu uma base sólida e está pronta para a batalha de 100 modelos e ajudando as empresas a aplicar IA em grande escala.
**03 Plataforma de IA, qual é a próxima parada? **
A IA não é apenas para grandes empresas. Atualmente, os fabricantes de plataformas de aprendizado de máquina estão dando importância à cobertura abrangente de grandes empresas, clientes de pequeno e médio porte e mercados de desenvolvedores, e as soluções de plataforma de IA da Baidu Intelligent Cloud também atendem a diferentes grupos de forma direcionada.
Jin Wei disse à Digital Intelligence Frontier que a solução de plataforma de IA da Baidu é um termo geral para uma série de produtos, incluindo produtos como a plataforma de desenvolvimento de IA BML, a plataforma de desenvolvimento de IA de limiar zero EasyDL e a plataforma de modelo grande Baidu Intelligent Cloud Qianfan. Para diferentes campos ou diferentes preferências do cliente, a plataforma de IA tem adaptação correspondente ao produto. Por exemplo, o recurso de processamento de dados é empacotado no produto EasyData, e o recurso de modelagem de código zero também é extraído para fazer o produto EasyDL, que pode ajudar os usuários a completar a modelagem de código zero com modelos pré-treinados de alto desempenho, e os recursos de modelos grandes são transportados pela plataforma inteligente de nuvem Qianfan da Baidu.
Na nuvem pública, a maioria dos clientes são pequenas e médias empresas, e os módulos da plataforma de IA são remontados e combinados, com a plataforma de desenvolvimento de IA completa BML e os produtos EasyDL como os principais representantes para atender às necessidades. Em resposta às necessidades de implantação de privatização de grandes clientes, vários produtos serão embalados em produtos super-grandes para completar a entrega.
De acordo com o relatório da Forrester, os recursos de produto da plataforma inteligente de IA em nuvem da Baidu tiveram um bom desempenho em cinco áreas principais: processamento de dados, treinamento de modelos, raciocínio preditivo, aplicação e arquitetura.
Jin Wei apresentou as capacidades e vantagens únicas em diferentes campos. Tomando a engenharia de recursos no campo de dados como exemplo, Jin Wei apresentou que a plataforma de IA do Baidu integra excelentes recursos de gerenciamento de biblioteca de recursos, e seus recursos atingiram um nível profissional. Ele pode fornecer funções como adição de recursos, exclusão, modificação e consulta, produção de recursos, compartilhamento, gerenciamento de versões, verificação de dados, etc., suportar diferentes formas de dados no fluxo de aprovação para serviços de previsão e garantir que os recursos usados no treinamento do modelo sejam consistentes com os recursos na previsão final. "Se a distribuição de recursos for 50% masculina e 50% feminina durante o treinamento, e 60% masculina e 40% feminina for prevista, então você não pode esperar que o modelo seja particularmente preciso", diz Jin Wei, o que é fundamental para a precisão do modelo.
Por exemplo, no campo do treinamento de modelos, a plataforma de IA da Baidu pode suportar modelagem e treinamento de vários tipos de dados, incluindo imagens, vídeos, texto, fala e dados estruturados. Em termos de modelagem, o suporte à ferramenta NoteBook é fornecido para pessoas que estão dispostas a escrever código, e as pessoas que não gostam de escrever código podem arrastar e soltar ou até mesmo clicar no botão one-stop integrado para modelar. Para um grande número de cenários, como classificação de imagem, rótulo único múltiplo, deteção de objetos e outros cenários CV, a equipe do algoritmo Paddle realizou uma otimização aprofundada com base no operador Paddle, e o desempenho e o efeito serão melhores.
As vantagens únicas do desempenho do produto são inseparáveis do investimento técnico a longo prazo e da atenção às novas tendências tecnológicas. De acordo com a equipe de pesquisa e desenvolvimento da plataforma de IA da Baidu, eles estão muito preocupados com as novas tendências tecnológicas, como há três anos, a indústria estava discutindo o problema da interpretabilidade do modelo, e se você não sabe como o modelo toma decisões, isso afetará o uso do modelo em cenários com requisitos de conformidade de alta segurança. De um modo geral, os modelos de aprendizagem profunda têm parâmetros muito maiores do que os modelos tradicionais de aprendizagem automática, e o problema da caixa preta será mais sério.
Após um longo período de preparação, a equipe da plataforma de IA Baidu finalmente superou o algoritmo de explicabilidade do modelo no campo do aprendizado de máquina convencional, integrou os princípios de caixa branca de cinco aprendizado de máquina comuns e também superou alguns problemas de interpretabilidade de aprendizado profundo. "Descobrir quando um modelo toma uma decisão, seja ela orientada por dados ou induzida por algoritmos, pode ser atribuída, e esses resultados promovem a aplicação de produtos relacionados à plataforma de IA em cenários especiais do setor, como a tomada de decisões financeiras." Jin Wei introduziu.
Atualmente, a indústria divide o paradigma de desenvolvimento de grandes modelos em cinco camadas, o modelo grande em si, engenharia, cadeia de ferramentas e cadeia de ação, agência e multiagência. O foco principal da plataforma de nuvem inteligente Qianfan da Baidu tem sido muito sólido na primeira e segunda camadas, e as três últimas camadas, incluindo a cadeia de ferramentas, agentes e capacidades multiagência, também estão na fase de construção-chave. Jin Wei introduziu que a plataforma de modelo grande Qianfan continuará a ser melhorada e atualizada, para que o modelo grande possa exercer de forma independente sua iniciativa subjetiva e ter a capacidade de resolver problemas complexos. Ao mesmo tempo, os planos de ir para o mar não estão descartados no futuro**.
Em geral, sob a construção inteligente das empresas, a aplicação da IA pelas empresas foi profundamente atualizada, e a concorrência no campo das plataformas de IA tornou-se cada vez mais feroz. Para se manterem à frente e enfrentarem os desafios de longo prazo da mudança da conformidade e da complexidade técnica, os fabricantes também precisarão investir em tecnologia. Jin Wei acredita que os fabricantes precisam aderir à inovação tecnológica e melhorar a satisfação do cliente, a segurança e a conformidade para se adaptarem a este mercado em mudança.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
100 guerras de modelos, não lute por uma única plataforma
Fonte original: Digital Intelligence Frontline
Autor: Xu Xin
A transformação inteligente da indústria entrou na área de águas profundas, e os pontos de demanda das empresas por recursos de IA estão mudando.
Cada vez mais grandes empresas estão olhando além de um único aplicativo inteligente. Em setores como energia elétrica e finanças, grandes empresas estão se concentrando em todo o processo de produção, aplicação e gerenciamento de recursos de IA, e estão apresentando requisitos para as plataformas de aprendizagem de IA dos fabricantes e ferramentas de produtividade de plataforma, de modo a resolver uma série de pontos problemáticos, como escassez de talentos, escassez de dados, dificuldades de gerenciamento e baixa taxa de reutilização de recursos.
Após a chegada do boom dos grandes modelos, o foco da competição de plataformas mudou para o desenvolvimento e aplicação de modelos grandes, e os fabricantes estão combinando ativamente as soluções de plataforma de IA anteriores com modelos grandes. Na competição de plataformas, as vantagens de algumas empresas foram destacadas. A Forrester, uma agência internacional de analistas, divulgou recentemente um relatório mostrando que, na competição das plataformas chinesas de inteligência artificial/aprendizado de máquina, o Baidu Intelligent Cloud teve um bom desempenho, e as plataformas de IA participantes da seleção receberam as pontuações mais altas em 6 categorias, como dados, raciocínio e aplicação15 subcategorias, classificando-se no quadrante líder**.
A plataforma de IA está ajudando as empresas a construir rapidamente modelos e aplicativos de IA que atendam às necessidades de negócios e monitorem e otimizem efetivamente o desempenho dos modelos.
A situação de construir 100 modelos para 100 cenas é coisa do passado.
01 Uso profundo da IA, os problemas das armas antigas
**A indústria está entrando no estágio de aplicação aprofundada de IA, e a IA não está mais fora de alcance. No entanto, cada vez mais empresas estão descobrindo que, com o aprofundamento dos aplicativos, os usuários seniores no campo da inteligência empresarial estão encontrando novos problemas.
Tomando a indústria de energia como exemplo, grandes empresas de energia têm usado modelos de IA para vários cenários, como inspeção de circuitos. Normalmente, as necessidades relevantes dessas empresas são, na sua maioria, adquiridas de forma independente por diferentes departamentos ou sucursais. À medida que o número de aplicações de IA aumenta, aumenta também o número de modelos. Gerenciar um grande número de modelos e mantê-los funcionando de forma estável e eficiente está se tornando um desafio.
Muitas grandes empresas têm problemas semelhantes. Um veterano disse ao Digital Intelligence Frontline que ele viu pessoalmente que o departamento A na empresa coloca 5 pessoas para fazer o algoritmo A, e o departamento B também coloca algumas pessoas na equipe B para fazer algoritmos, o que dificulta a realização de monitoramento, otimização, atualização e manutenção unificadas a partir do nível da empresa, e a taxa geral de reutilização de recursos de IA na empresa é muito baixa.
Algumas empresas ou instituições já aplicaram a tecnologia de IA para emissão de cartão de crédito, aprovação de elegibilidade e identificação de fraudes para alcançar o controle de risco de IA e marketing de precisão. Mas a ênfase do setor financeiro em segurança e conformidade também está se estendendo à aplicação da IA. Por exemplo, a equipe técnica do banco atribui grande importância aos fatores de conformidade e, ao criar um novo modelo, quem é responsável pela delegação e aprovação da construção, quem lida com a aprovação da leitura de dados, e a escrita de dados, produção do modelo, treinamento, pouso e lançamento também são garantidos por camadas de processos. Esse tipo de demanda obviamente não é a construção tradicional de aplicativos inteligentes.
Uma pessoa sênior de soluções do setor de um fornecedor de nuvem disse à Digital Intelligence Frontier que algumas grandes empresas estatais centrais claramente esperam construir um hub inteligente da empresa e cultivar suas próprias capacidades de IA, para que o departamento digital da empresa possa desenvolver seus próprios algoritmos para novos cenários e fazer novas aplicações.
Esta tendência também é observada na indústria. Jin Wei, arquiteto sênior da plataforma inteligente de IA em nuvem da Baidu, disse à linha de frente da inteligência digital que isso reflete que as aplicações de IA estão se movendo em direção a uma área de águas profundas, e a transformação sistemática das empresas está se tornando cada vez mais proeminente. As empresas não devem apenas ter uma visão e um planeamento de objetivos, mas também precisam de ter um forte mecanismo de coordenação e supervisão de promoção e dispor de ferramentas completas para garantir uma implementação harmoniosa. A plataforma de IA é uma ferramenta de produtividade para a transformação inteligente das empresas.
A indústria percebeu a importância deste produto de plataforma. A Forrester, uma empresa de análise internacional, divulgou recentemente o relatório "The Forrester WaveTM: Evaluation of AI/ML Platform Vendors in the Chinese Market, Q42023", apontando que os tomadores de decisão empresariais da China estão priorizando ainda mais a adoção da tecnologia de IA para impulsionar a melhoria da produtividade e a inovação nos negócios. No processo, as empresas precisam de produtos de plataforma de IA que possam suportar casos de uso complexos em seus respetivos ambientes de negócios.
As novas tendências também estão exigindo os recursos dos fornecedores de plataformas de aprendizado de máquina. De acordo com a Forrester, as principais plataformas** precisam fornecer ferramentas abrangentes em gerenciamento de dados, treinamento de modelos e construção de aplicativos de IA; Também deve ser adaptado aos cenários da indústria para ajudar algumas empresas que carecem de talentos de IA e cientistas de dados a obter recursos de IA com base em suas próprias necessidades de negócios**; Além disso, ferramentas, tecnologias e práticas podem ajudar as empresas a desenvolver e implantar modelos em escala.
A Forrester avaliou 14 fornecedores tradicionais de plataformas de aprendizado de máquina na China em 25 subcritérios de três dimensões: capacidade do produto, layout estratégico e desempenho do mercado. De acordo com os dados, o Baidu Intelligent Cloud está atualmente classificado como o líder do relatório, e ganhou o primeiro lugar em 9 subpontuações, como dados, treinamento, raciocínio preditivo e aplicação.
Jin Wei apresentou que os principais recursos de produtos da Baidu na plataforma de IA passaram por acúmulo e polimento de longo prazo. A intenção original da plataforma de IA é criar um software de produtividade que permita que diferentes tipos de usuários corporativos construam aplicativos de IA de forma rápida e econômica e, ao mesmo tempo, alcance múltiplos algoritmos, ferramentas, operação rápida e bons resultados na plataforma, ajudando os clientes a economizar servidores e mão de obra.
Atualmente, algumas grandes empresas dos sectores energético e financeiro têm sido profundamente utilizadas. Com base na plataforma de IA, as empresas podem não apenas criar rapidamente modelos e aplicativos de IA que atendam às necessidades de negócios, mas também monitorar e otimizar efetivamente o desempenho do modelo. Além disso, é mais conveniente e eficiente gerenciar e coordenar recursos como dados, poder de computação, pessoas e processos.
Por exemplo, no setor de energia, a plataforma inteligente de IA em nuvem da Baidu está ajudando grandes grupos a resolver pontos problemáticos de negócios. Por um lado, o modelo e os dados podem ser partilhados entre diferentes subsidiárias para evitar a reinvenção da roda. Ao mesmo tempo, alguns modelos existentes relacionados à produção de segurança usam este produto, que pode ser distribuído diretamente para a rede provincial ou municipal pela State Grid, que pode fazer uso eficiente dos recursos de IA e ter qualidade consistente. Além disso, a plataforma de IA também pode ajudar as empresas a inovar, como o desenvolvimento de um novo algoritmo para despacho de energia, usando a estrutura de aprendizagem de reforço do Baidu, que pode realizar a calibração automática de parâmetros de programação sem a experiência manual de um grande número de especialistas.
No setor financeiro, a solução de plataforma de IA da Baidu Intelligent Cloud também ajudou muitas instituições financeiras a construir grandes módulos de gerenciamento de risco de modelo para garantir a conformidade do processo e a segurança confiável quando a IA é aplicada a cenários financeiros.
02 A era dos grandes modelos, como personalizar
Desde o início deste ano, a onda de grandes modelos e IA generativa promoveu a aplicação mais aprofundada da IA na indústria, e as plataformas de aprendizado de máquina também estão inaugurando novas oportunidades de desenvolvimento.
De acordo com fontes seniores, após a chegada de grandes modelos de linguagem, as mudanças nas plataformas de aprendizado de máquina se refletem em três níveis. A mudança mais típica está na interface de operação, a interface de operação complexa antes que a PNL se torne mais simples, e o limite para a aplicação empresarial de linguagem de IA está diminuindo. Ao mesmo tempo, a capacidade de automação do modelo é melhorada e tarefas como processamento de dados, seleção de modelos e geração automática de relatórios podem ser automatizadas. Além disso, o espaço para aplicações inovadoras nativas de IA também se abriu.
Neste contexto, muitas empresas tomaram o modelo grande como uma obrigação para responder à pergunta, e vários fabricantes de plataformas também estão se preparando para lançar vários produtos e plataformas para acelerar a aplicação da tecnologia de grandes modelos. Tomando o Baidu como exemplo, em março deste ano, lançou a plataforma de grandes modelos Baidu Intelligent Cloud Qianfan, que integra profundamente as principais capacidades de desenvolvimento e aplicação de grandes modelos com a plataforma de IA para criar uma "super fábrica" para serviços de grandes modelos.
Especificamente, o Baidu resume a demanda da indústria por modelos grandes em cinco tipos, seja um cliente que só precisa de poder de computação, ou uma empresa que deseja chamar diretamente a API do modelo grande ou fazer desenvolvimento secundário com base no modelo grande existente, e uma empresa que deseja desenvolver aplicativos nativos de IA com base no modelo grande ou usar diretamente o aplicativo desenvolvido, a plataforma Baidu Qianfan pode fornecer serviços direcionados.
Para empresas que só precisam de poder de computação, a plataforma Baidu Qianfan pode fornecer serviços de poder de computação heterogêneos altamente eficientes e econômicos. Jin Wei revelou que, para fazer isso, a equipe técnica da plataforma inteligente de IA em nuvem da Baidu passou vários anos fazendo muito trabalho sujo. Por exemplo, ele é compatível com os principais chips de IA no país e no exterior, e precisa ser adaptado de quatro níveis: camada de estrutura, algoritmo central e rede, modelo de chip e sistema operacional. "O PyTorch é diferente do TensorFlow, e o sistema operacional é Windows, Linux ou microcontrolador, e o trabalho a ser feito também é diferente. **A combinação de quatro camadas fez 40.000 adaptações para garantir o bom funcionamento de vários modelos. **", disse Jin Wei.
Atualmente, a plataforma de modelos grandes Qianfan não está apenas conectada ao modelo grande Wenxin 4.0, mas também gerencia 44 modelos de grande porte mainstream de terceiros em casa e no exterior, que é o maior número entre as plataformas nacionais.
**Algumas empresas querem redesenvolver grandes modelos existentes, o que requer uma cadeia de ferramentas rica e um grande número de conjuntos de dados. **A plataforma Qianfan tem atualmente uma cadeia de ferramentas completa e um grande número de conjuntos de dados de alta qualidade que abrangem todo o ciclo de vida de retreinamento de grandes modelos, ajuste fino, avaliação e implantação, que podem otimizar rapidamente o efeito do modelo de acordo com cenários e melhorar ainda mais a experiência do usuário de grandes modelos de empresas.
Modelos grandes trazem novas alterações ao processo de anotação de dados, e muitas tarefas de anotação podem ser concluídas por meio do modelo. Atualmente, a plataforma Qianfan suporta refluxo de dados corporativos e anotação de dados altamente automatizada. Por exemplo, no cenário de deteção de objetos, o Qianfan fornece diretamente recursos de pré-treinamento, clicando no botão para rotular uma pequena parte, e permite que o modelo aprenda o estilo de anotação humana para anotar automaticamente, o que pode economizar 70% ~ 90% de mão de obra para as empresas.
Há também muitas empresas que querem desenvolver aplicações nativas de IA com base em grandes modelos. Em meados deste mês, a Baidu Intelligent Cloud lançou o "Qianfan AI Native Application Development Workbench", que inclui componentes de aplicativos comuns e serviços de duas camadas de estrutura de aplicativos para desenvolvimento de aplicativos de modelo em larga escala, que visa o desenvolvimento de necessidades de aplicativos nativos de IA.
A estrutura do aplicativo pode conectar organicamente componentes para concluir a tarefa completa de um cenário específico. A plataforma Qianfan forneceu serviços de estrutura comumente usados, como Retrieval Enhanced Generation (RAG) e Agent no mercado, e empresas pioneiras como a Sany Heavy Industry aplicaram essas estruturas para desenvolver rapidamente suas próprias aplicações de P&R de conhecimento.
A engenharia é um novo campo nascido após o surgimento dos grandes modelos. Isso tem a ver com a natureza do modelo grande, e alterar um pouco as instruções pode fazer uma enorme diferença em sua saída ou comportamento. Atualmente, vários fabricantes estão enfatizando ferramentas de engenharia. A plataforma Baidu Qianfan também oferece mais de 10 cenários que abrangem diálogo, programação, e-commerce, assistência médica, jogos, tradução, fala, etc., com um total de 226 modelos. De acordo com relatórios, este é o maior número de bibliotecas de modelos na plataforma principal na China. Desenvolvedores e empresas também podem usar as várias ferramentas de automação e lote fornecidas pela plataforma para concluir o processo de forma eficiente.
Jin Wei acredita que, nos últimos meses, a plataforma de grandes modelos Qianfan na nuvem inteligente da Baidu estabeleceu uma base sólida e está pronta para a batalha de 100 modelos e ajudando as empresas a aplicar IA em grande escala.
**03 Plataforma de IA, qual é a próxima parada? **
A IA não é apenas para grandes empresas. Atualmente, os fabricantes de plataformas de aprendizado de máquina estão dando importância à cobertura abrangente de grandes empresas, clientes de pequeno e médio porte e mercados de desenvolvedores, e as soluções de plataforma de IA da Baidu Intelligent Cloud também atendem a diferentes grupos de forma direcionada.
Jin Wei disse à Digital Intelligence Frontier que a solução de plataforma de IA da Baidu é um termo geral para uma série de produtos, incluindo produtos como a plataforma de desenvolvimento de IA BML, a plataforma de desenvolvimento de IA de limiar zero EasyDL e a plataforma de modelo grande Baidu Intelligent Cloud Qianfan. Para diferentes campos ou diferentes preferências do cliente, a plataforma de IA tem adaptação correspondente ao produto. Por exemplo, o recurso de processamento de dados é empacotado no produto EasyData, e o recurso de modelagem de código zero também é extraído para fazer o produto EasyDL, que pode ajudar os usuários a completar a modelagem de código zero com modelos pré-treinados de alto desempenho, e os recursos de modelos grandes são transportados pela plataforma inteligente de nuvem Qianfan da Baidu.
Na nuvem pública, a maioria dos clientes são pequenas e médias empresas, e os módulos da plataforma de IA são remontados e combinados, com a plataforma de desenvolvimento de IA completa BML e os produtos EasyDL como os principais representantes para atender às necessidades. Em resposta às necessidades de implantação de privatização de grandes clientes, vários produtos serão embalados em produtos super-grandes para completar a entrega.
De acordo com o relatório da Forrester, os recursos de produto da plataforma inteligente de IA em nuvem da Baidu tiveram um bom desempenho em cinco áreas principais: processamento de dados, treinamento de modelos, raciocínio preditivo, aplicação e arquitetura.
Jin Wei apresentou as capacidades e vantagens únicas em diferentes campos. Tomando a engenharia de recursos no campo de dados como exemplo, Jin Wei apresentou que a plataforma de IA do Baidu integra excelentes recursos de gerenciamento de biblioteca de recursos, e seus recursos atingiram um nível profissional. Ele pode fornecer funções como adição de recursos, exclusão, modificação e consulta, produção de recursos, compartilhamento, gerenciamento de versões, verificação de dados, etc., suportar diferentes formas de dados no fluxo de aprovação para serviços de previsão e garantir que os recursos usados no treinamento do modelo sejam consistentes com os recursos na previsão final. "Se a distribuição de recursos for 50% masculina e 50% feminina durante o treinamento, e 60% masculina e 40% feminina for prevista, então você não pode esperar que o modelo seja particularmente preciso", diz Jin Wei, o que é fundamental para a precisão do modelo.
Por exemplo, no campo do treinamento de modelos, a plataforma de IA da Baidu pode suportar modelagem e treinamento de vários tipos de dados, incluindo imagens, vídeos, texto, fala e dados estruturados. Em termos de modelagem, o suporte à ferramenta NoteBook é fornecido para pessoas que estão dispostas a escrever código, e as pessoas que não gostam de escrever código podem arrastar e soltar ou até mesmo clicar no botão one-stop integrado para modelar. Para um grande número de cenários, como classificação de imagem, rótulo único múltiplo, deteção de objetos e outros cenários CV, a equipe do algoritmo Paddle realizou uma otimização aprofundada com base no operador Paddle, e o desempenho e o efeito serão melhores.
As vantagens únicas do desempenho do produto são inseparáveis do investimento técnico a longo prazo e da atenção às novas tendências tecnológicas. De acordo com a equipe de pesquisa e desenvolvimento da plataforma de IA da Baidu, eles estão muito preocupados com as novas tendências tecnológicas, como há três anos, a indústria estava discutindo o problema da interpretabilidade do modelo, e se você não sabe como o modelo toma decisões, isso afetará o uso do modelo em cenários com requisitos de conformidade de alta segurança. De um modo geral, os modelos de aprendizagem profunda têm parâmetros muito maiores do que os modelos tradicionais de aprendizagem automática, e o problema da caixa preta será mais sério.
Após um longo período de preparação, a equipe da plataforma de IA Baidu finalmente superou o algoritmo de explicabilidade do modelo no campo do aprendizado de máquina convencional, integrou os princípios de caixa branca de cinco aprendizado de máquina comuns e também superou alguns problemas de interpretabilidade de aprendizado profundo. "Descobrir quando um modelo toma uma decisão, seja ela orientada por dados ou induzida por algoritmos, pode ser atribuída, e esses resultados promovem a aplicação de produtos relacionados à plataforma de IA em cenários especiais do setor, como a tomada de decisões financeiras." Jin Wei introduziu.
Atualmente, a indústria divide o paradigma de desenvolvimento de grandes modelos em cinco camadas, o modelo grande em si, engenharia, cadeia de ferramentas e cadeia de ação, agência e multiagência. O foco principal da plataforma de nuvem inteligente Qianfan da Baidu tem sido muito sólido na primeira e segunda camadas, e as três últimas camadas, incluindo a cadeia de ferramentas, agentes e capacidades multiagência, também estão na fase de construção-chave. Jin Wei introduziu que a plataforma de modelo grande Qianfan continuará a ser melhorada e atualizada, para que o modelo grande possa exercer de forma independente sua iniciativa subjetiva e ter a capacidade de resolver problemas complexos. Ao mesmo tempo, os planos de ir para o mar não estão descartados no futuro**.
Em geral, sob a construção inteligente das empresas, a aplicação da IA pelas empresas foi profundamente atualizada, e a concorrência no campo das plataformas de IA tornou-se cada vez mais feroz. Para se manterem à frente e enfrentarem os desafios de longo prazo da mudança da conformidade e da complexidade técnica, os fabricantes também precisarão investir em tecnologia. Jin Wei acredita que os fabricantes precisam aderir à inovação tecnológica e melhorar a satisfação do cliente, a segurança e a conformidade para se adaptarem a este mercado em mudança.