A comercialização de grandes modelos de uso geral ainda é precoce e a IA generativa acaba de começar

Fonte: Titanium Media

Autor: Qin Conghui

Fonte da imagem: Gerada por Unbounded AI

Da busca fanática ao retorno à calma, a visão das pessoas sobre modelos grandes está mudando silenciosamente. Por um lado, devido a questões de conformidade, regulatórias e outras, levará tempo para a comercialização de modelos de larga escala de uso geral; por outro lado, o lado da indústria apenas começou a investir em áreas piloto, como finanças e cuidados médicos, e o efeito não pode ser visto imediatamente.

Assim, quando a espiral louca gradualmente desacelerou, vozes diferentes gradualmente retrataram uma imagem real de "grande modelo".

Entre eles, seja para usar o "modelo geral de larga escala" ou o "modelo industrial de larga escala", cada empresa fez uma escolha após alguma consideração; e com a competição de modelos em larga escala, "IA generativa" entrou no mercado holofotes . É preciso dizer que o ChatGPT é nada menos que um estímulo para o desenvolvimento da indústria de inteligência artificial para entrar em uma nova etapa e colocará a IA de volta no centro dos tempos.

A batalha entre o modelo geral e o modelo da indústria

O ChatGPT alertou a indústria sobre o enorme poder dos grandes modelos de propósito geral, e isso levou ao espetáculo comercial da "Guerra dos Cem Modelos" no futuro. Inúmeros investidores e empresários não conseguiam dormir por causa disso, e os recursos da GPU tornaram-se "Luoyang papel caro" por um tempo.

Entre eles, existem muitas empresas de tecnologia no topo da indústria que são forçadas a ir para "Liangshan". Um membro da indústria de modelos em grande escala certa vez revelou ao Titanium Media App a situação atual de sua empresa: "Se não houver um modelo em grande escala, é muito embaraçoso sair e falar sobre isso. Vamos fazer isso agora, e é difícil de explicar se não houver um modelo em grande escala." Então, eles só podem liberar a notícia de que está trabalhando em um modelo de grande escala de uso geral para o mundo exterior e, ao mesmo tempo, acelerar a pesquisa e o desenvolvimento progredir internamente.

No entanto, o modelo geral grande é uma tarefa demorada e trabalhosa, afinal. O OpenAI levou 6 anos para iterar o GPT1. Comecei o treinamento anos atrás. Portanto, se não houver acumulação básica em tecnologia e dados de IA, é muito difícil realizar a comercialização de grandes modelos gerais no curto prazo.

Além disso, o modelo grande de uso geral naturalmente precisa de dados públicos para treinamento e colocar seus próprios dados no modelo grande de uso geral também significa que os dados serão compartilhados por padrão. Portanto, é improvável que alguns setores com altos requisitos de privacidade de dados acessem grandes modelos de uso geral sem preparação.

Sob tais circunstâncias, o modelo grande da indústria tornou-se a "segunda melhor solução" da indústria, além do modelo grande geral, e pode aproveitar o dividendo do modelo grande mais cedo. Zhou Hongyi, fundador do 360 Group, também disse sem rodeios: "As oportunidades futuras para modelos de grande escala de inteligência artificial estão no mercado incremental de nível empresarial, e a "verticalização" de modelos de grande escala é a direção do desenvolvimento". executivo técnico de uma grande fábrica também disse ao Titanium Media App. "Do ponto de vista de nosso planejamento de modelo em grande escala, continuaremos a iterar o modelo de grande escala de uso geral e continuaremos a criar camadas sobre essa base para o treinamento vertical de modelo em grande escala da indústria".

Não muito tempo atrás, na Conferência Mundial de Inteligência Artificial de 2023, Tang Daosheng, vice-presidente executivo sênior do Tencent Group e CEO do Cloud and Smart Industry Business Group, também afirmou que a aplicação de modelos em larga escala das empresas precisa considerar de forma abrangente o profissionalismo da indústria , segurança de dados, iteração contínua e custo abrangente, entre outros fatores. Com base no grande modelo da indústria, construir seu próprio modelo exclusivo pode ser uma opção melhor para as empresas. A razão é que os grandes modelos da indústria requerem menos parâmetros do que os grandes modelos de uso geral, o custo de treinamento e raciocínio é menor e a otimização do modelo é mais fácil.

No entanto, o Titanium Media App também aprendeu com pessoas do setor que, em alguns casos, um modelo grande de uso geral não é uma condição necessária para um modelo vertical de grande escala, o que significa que uma plataforma para modelos de escala industrial de treinamento não possui para usar um modelo de grande escala de uso geral como base. “Se o modelo geral de grande escala definido é aquele com centenas de bilhões de parâmetros, então o modelo geral de grande escala não é uma condição necessária para o modelo industrial de grande escala”. modelo da indústria em escala disse ao Titanium Media App. No entanto, ele também disse que, embora modelos grandes de uso geral não sejam uma condição necessária para modelos industriais de grande escala, várias tecnologias subjacentes para treinamento de modelos grandes de uso geral, como o Transformer, também são elementos essenciais para o treinamento de modelos industriais de grande escala. .

Constantemente "100 bilhões" de parâmetros, "desconsiderando" a relação com o grande modelo geral, o limite do grande modelo vertical foi ainda mais reduzido, o que oferece mais possibilidades para o desenvolvimento da IA generativa.

Além de modelos grandes, a IA generativa também merece atenção

Sempre que se trata de modelos grandes, a IA generativa (Generative Al) andará de mãos dadas. Simplesmente entenda a relação entre os dois - o modelo grande pode ser entendido como o mecanismo que realiza a IA generativa, ou seja, a capacidade da IA generativa é fornecida pelo modelo de aprendizado de máquina ou modelo grande, e a IA generativa é superior do que o modelo grande, e a IA generativa pode Dependendo do cenário necessário, você pode decidir qual modelo grande chamar.ChatGPT é uma das aplicações típicas da IA generativa.

Já em 2020, a IA generativa foi selecionada para o Gartner Emerging Technology Hype Cycle e, em 2022, a IA generativa foi listada como uma das principais tendências tecnológicas estratégicas, e a tecnologia entrou no pico das expectativas infladas desde o estágio de gatilho da inovação. O Gartner acredita que a IA generativa se tornará uma tecnologia de uso geral, com impacto semelhante ao da máquina a vapor, da eletricidade e da Internet. À medida que a IA generativa for gradualmente implementada, o hype em torno do conceito desaparecerá gradualmente e o impacto nas pessoas e empresas em seu trabalho e vida diários aumentará.

Crédito da imagem @Gartner

A gigante global de computação em nuvem Amazon Cloud Technology também coloca mais caneta e tinta na IA generativa. Adam Selipsky, CEO da Amazon Cloud Technology, disse em uma entrevista exclusiva à Bloomberg, CNBC e outras mídias: "A IA generativa é muito importante em chatbots e pesquisa . As vantagens de aplicação da IA generativa são óbvias para todos, mas esta é apenas a ponta do iceberg de muitas possibilidades. No futuro, a IA generativa trará mudanças em todas as esferas da vida." Ele considera a IA generativa como um "avanço " mudança, e pode ser a sua própria A maior mudança desde o nascimento da Internet.

"Imagine, na era em que os computadores usam cartões perfurados como interface, apenas alguns cientistas têm a capacidade de usar computadores; quando interfaces gráficas e mouses se tornam interfaces de interação humano-computador, todos podem usar computadores." Adam Selipsky disse.

Então, de que maneiras as mudanças trazidas pela IA generativa serão refletidas?

Pode-se ver que, no campo automotivo, algumas empresas usaram IA generativa para sintetizar dados para treinamento de direção autônoma para acelerar o processo de treinamento; no campo de manufatura, IA generativa pode ajudar a analisar uma grande quantidade de dados de telemetria IoT, executar manutenção e reduzir o tempo de inatividade das linhas de produção. Baseando-se na IA generativa, a Autodesk trabalhou com fabricantes de aeronaves para concluir com êxito parte do projeto do anteparo e introduziu um novo projeto que é 45% mais leve. Se esta parede de vôo for aplicada à frota global, economizará combustível equivalente ao consumo de combustível de 93.000 carros.

No entanto, é preciso enfatizar que a IA generativa da qual a Autodesk depende não é um determinado modelo grande, mas uma ferramenta de design orientada por IA construída com um modelo de aprendizado de máquina.

Portanto, para a realização da IA generativa, o modelo grande é apenas uma opção e o futuro não será dominado por um modelo grande. O Titanium Media App está preocupado com o fato de que, quando a maioria das empresas considera acessar modelos de grande escala, elas não apenas inserem diretamente um modelo de grande escala, mas optam por acessar vários modelos. Portanto, entre esses grandes modelos, a cooperação entre grandes modelos verticais e grandes modelos gerais não pode ser descartada no futuro.

Tome UFIDA e WPS, dois softwares domésticos, como exemplos. UFIDA lançou recentemente YonGPT, um grande modelo de serviço empresarial. De acordo com Titanium Media App, a grande base geral de modelos que YonGPT planeja acessar inclui Zhipu ChatGLM, Wenxinyiyan e Zhiyuan Wudao Tianying etc. ; WPS lançou anteriormente o WPS AI. De acordo com as últimas notícias, a base geral do modelo em grande escala do WPS AI na China continental é o MiniMax, e sua versão recém-lançada no exterior é suportada pelo OpenAI e PaLM2.

No mundo da IA generativa, não se depende de um modelo grande, e não é apenas o modelo grande que determina o sucesso da IA generativa.

É inegável que a implementação da IA generativa também é resultado de muitos aspectos, e os desafios “secundários” que cercam a implementação da IA generativa estão sendo expostos.

** Desafio "secundário" sob IA generativa**

"Diga para o celular 'Se o gato correr no sofá, me lembre', quando o gato correr no sofá, o celular receberá uma mensagem de alarme." Fornecedor sênior de soluções de vídeo Shandong Zhongwei Century Technology Co., Ltd O vice-presidente Wang Zhengbin mencionou o cenário de aplicação de detecção de vídeo inteligente em casa inteligente em um discurso.

Mas é uma cena aparentemente tão simples. Além do grande modelo multimodal por trás dela, a rede e a computação na borda também são muito importantes. "Em um aplicativo de IA generativo como o ChatGPT, se a taxa de perda de pacotes de rede atingir 1%, o desempenho da plataforma de treinamento de modelo grande cairá para 5% de seu desempenho máximo, o que significa 95% de perda. Recursos de rede O desempenho do toda a plataforma de modelo em grande escala é um fator muito importante”, disse Zhang Yu, Diretor de Tecnologia da Divisão de Rede e Edge da Intel China e Engenheiro Chefe Sênior de IA da Intel.

Prevê-se que, com a explosão da demanda de IA, a implantação de inteligência artificial na borda será três vezes maior do que no banco de dados. Isso também significa que a implementação da IA na borda é um grande desafio para a próxima etapa do desenvolvimento de inteligência artificial.

"O custo de tempo e mão-de-obra da implantação de inteligência artificial até o extremo, como a linha de produção da fábrica, ainda é alto, e mais da metade da implantação da inteligência artificial de ponta falha." Sachin Katti, vice-presidente sênior e gerente geral da Intel a divisão de rede e borda, recentemente Ao falar sobre computação de ponta na era dos modelos grandes, disse ele. Por um lado, o motivo é que o equipamento está desatualizado e os recursos de computação de ponta são insuficientes; por outro lado, como usar seus próprios dados exclusivos para implantar a IA também é muito crítico. Muitas implantações de IA de borda serão retidas por esses desafios.

Ao mesmo tempo, o melhor desempenho da IA generativa precisa ser suportado por dados. Atualmente, a indústria espera garantir a segurança dos dados na IA generativa por um lado e, por outro lado, também espera tornar os dados fontes abundantes e disponíveis.

A resolução desses problemas também está em andamento. "O sistema de modelo grande e o sistema de IA de hoje são fortemente dependentes de dados e são sistemas inteligentes orientados a dados. Este sistema tem requisitos muito altos para a amplitude e imparcialidade dos dados. Supondo que os dados sejam muito tendenciosos, é difícil apoiá-los efetivamente . Desenvolvimento de sistema de inteligência artificial." Wei Tao, vice-presidente e diretor técnico de segurança do Ant Group, disse uma vez, então pode-se ver que já existem ferramentas para verificação reversa da segurança de dados de IA.

Em termos de desenvolvimento de fontes de dados, não faz muito tempo, o Shenzhen Digital Exchange juntou-se a quase 50 unidades para estabelecer a "Open Computing Alliance", e os co-patrocinadores incluem Tencent Cloud, Huada Genomics, Yuntian Lifei, Obi Zhongguang e UBTECH, China Unicom Guangdong Branch, Huaao Data e outras empresas, Shenzhen Artificial Intelligence Society e outras associações, Centro Nacional de Supercomputação de Shenzhen e outros grupos de reflexão e instituições de pesquisa. Um dos principais objetivos do estabelecimento da Computing Alliance é coordenar a formulação de padrões relevantes, como elementos de dados, governança de dados, dados de treinamento, rotulagem de dados e dados sintéticos em torno de dados de treinamento chineses de alta qualidade e dados de treinamento multimodais , e auxiliar as trocas de dados para aumentar suas novas categorias e novas áreas relacionadas ao modelo.

Os desafios encontrados no desenvolvimento da IA generativa não podem ser esgotados em palavras, e a tempestade global de IA desencadeada pelo ChatGPT não termina com o ChatGPT. Depois que o novo mundo da inteligência artificial foi aberto, o grande modelo e IA generativa em sua infância também expôs muitos problemas e levantou uma série de desafios, mas, ao mesmo tempo, proporcionou oportunidades de exploração e inovação para todas as esferas da vida.

A indústria corre para a IA generativa, o que não é de forma alguma uma coisa ruim para o desenvolvimento da inteligência artificial ou mesmo dos seres humanos.