Relatório de pesquisa | "IA generativa": aplicação, pesquisa e supervisão trabalham juntas para abrir o caminho da inovação da inteligência artificial generativa
Título original: "Qiming Headlines | Qiming Venture Partners e Unfinished Research lançaram em conjunto o relatório "Generative AI" | The State of Generative AI 2023"
Na Conferência Mundial de Inteligência Artificial de 2023 (WAIC)** Qiming Venture Partners Forum "Generative AI and Large-scale Models: Change and Innovation", a Qiming Venture Partners juntou-se à Unfinished Research para lançar em conjunto um relatório de grande sucesso "Generative AI 》| Estado da AI Generativa 2023. **
Se 2022 é considerado o ano da inteligência artificial generativa, avanços foram feitos na aplicação de modelos de difusão, nasceu o ChatGPT e uma série de trabalhos de pesquisa inovadores foram publicados. Em 2023, o modelo grande será levado ao pico, com o lançamento do GPT-4 como o sinal, inteligência artificial generativa, entrou no estágio de aplicação inovadora na direção da inteligência artificial geral.
**A característica mais importante desta etapa é que a aplicação, a pesquisa e a supervisão estão trabalhando juntas para abrir o caminho inovador da inteligência artificial generativa. **
APLICAÇÕES INOVADORAS
As pessoas viram rapidamente o surgimento de uma nova ecologia de negócios a partir da inteligência artificial generativa, viram camada após camada de tecnologia, como cálculos, modelos e aplicativos; viram o conteúdo gerado, como texto, imagens, vídeos, códigos, estruturas 3D, multi -modalidade; veja também dados abertos, dados verticais, dados sintéticos, dados vetoriais, para modelos grandes e pequenos.
A inteligência artificial generativa parece ser aceita com mais entusiasmo na China: o governo incentiva o desenvolvimento da inteligência artificial geral; nenhuma grande empresa pode ignorá-la; muitas pequenas e médias empresas envolvidas no trabalho do conhecimento já a usaram primeiro. ** Diante dessa tecnologia revolucionária, todas as empresas estão envolvidas. Eles têm diferentes ritmos e diferentes graus de envolvimento e se tornaram defensores, inovadores e adotantes sob a onda de novas tecnologias. Suas margens de lucro são alteradas permanentemente. **
O poder de computação é atualmente o recurso mais escasso e também está na posição mais lucrativa. **O poder de computação é a maior parte da estrutura de custos do modelo grande, e o desempenho da GPU realmente determina o ritmo dessa indústria emergente. ** Com o avanço do poder de computação e dos modelos, mais start-ups estão surgindo. Eles agarraram o dividendo do tempo, mas também estão enfrentando a concorrência e a possível destruição de gigantes. Pode-se dizer que este é o oceano azul das startups, e também existem recifes escondidos sob o canal.
**A concorrência promove a inovação. **Diferente do rápido surgimento de startups na direção de ferramentas de produtividade em 2022, em 2023, uma proporção maior de novas empresas focará na inovação de tecnologias subjacentes; startups de grande porte também começaram a se diferenciar, e em ascensão startups gerais de grande escala Ao mesmo tempo, muitas empresas verticais de grande escala em direções específicas, como assistência médica, comércio eletrônico, pesquisa científica, indústria, direção autônoma e robótica começaram a surgir. **
Pesquisa de fronteira
2022 e 2023 são os dois anos em que a tecnologia de inteligência artificial generativa fará avanços. Separamos os artigos e descobrimos que uma característica proeminente no campo da inteligência artificial generativa é a estreita integração de processos de pesquisa e inovação, muitos dos quais são implementados dentro empresas. , implemente casos de uso e produtos rapidamente. **Essa integração de pesquisa e empreendedorismo, start-ups e capital de risco desempenhou um papel importante, e o investimento em pesquisa e talentos de gigantes da tecnologia dos EUA e grandes empresas de inteligência artificial, incluindo a pesquisa de algumas tecnologias subjacentes, ultrapassaram as universidades ao longo do anos e outras instituições de pesquisa.
**As fronteiras da inteligência artificial estão avançando para o futuro. **Embora do relatório técnico GPT-4 aos trabalhos de pesquisa da Microsoft, ele tenha mostrado que tem capacidade de processamento de texto próxima à humana, capacidade de raciocínio matemático e conhecimento em muitos campos profissionais. “Achamos que pode ser razoavelmente considerado uma versão inicial (embora ainda incompleta) de um sistema de inteligência artificial geral (AGI)”. Como calibração de confiança, memória de longo prazo, aprendizado contínuo, personalização, planejamento e salto de conceito, transparência, falácias cognitivas e irracionalidade, etc. **
**A direção de pesquisa mais importante nos últimos seis meses é decifrar e entender o misterioso e emocionante "emergir" da inteligência em grandes modelos. **Modelos grandes não precisam apenas superar a capacidade de prever a próxima palavra, mas também precisam de um mecanismo profundo mais rico e complexo de "pensamento lento" para supervisionar o mecanismo de "pensamento rápido" para prever a próxima palavra.
**A melhor pesquisa de ponta deve ser estudar e resolver os problemas encontrados na aplicação da tecnologia em larga escala. **Pesquisa sobre como reduzir as alucinações, ajustar o modelo grande para produzir conteúdo real com mais precisão e treinar uma capacidade de raciocínio mais forte; como treinar o modelo com mais intensidade, diminuir o limite, lançar novos produtos e permitir que mais pessoas de todas as esferas vida e consumidores Como interagir com o mundo físico real como um ser humano; como se tornar um assistente de seres humanos em trabalhos complexos, projetar e ajudar a realizar experimentos científicos; como influenciar o emprego e dar respostas políticas; como fazer inteligência artificial seguro e crível.
Regulamento| Segurança| Política| Talento
A resposta regulatória do governo à inteligência artificial generativa é bastante oportuna e diferentes características surgiram em diferentes países. **Embora introduza rapidamente medidas regulatórias para inteligência artificial generativa e busca de opiniões, a China também está incentivando o desenvolvimento de inteligência artificial geral. Pequim, Xangai e Shenzhen são os primeiros escalões mais ambiciosos e todos propuseram inteligência artificial mais ambiciosa Pesquisa, inovação e metas industriais. ** A UE continua na liderança em regulamentação e legislação, já que foi pioneira no GDPR há 5 anos. Os Estados Unidos estão mais preocupados com a posição de liderança da tecnologia de inteligência artificial e estão formando uma estrutura regulatória baseada no princípio do gerenciamento de riscos.
** A longo prazo, o talento terá mais impacto no futuro da inteligência artificial do que o poder da computação. **O número de artigos publicados por pesquisadores chineses superou o dos Estados Unidos, mas os Estados Unidos ainda têm uma clara vantagem no topo da pirâmide, seja em pesquisa ou empreendedorismo. Globalmente, o foco da pesquisa e inovação em inteligência artificial está mudando das universidades para as empresas. As três principais instituições nos Estados Unidos com os melhores acadêmicos são Google, Microsoft e Meta, que juntas recrutam 30% dos principais acadêmicos dos Estados Unidos . A China ainda é dominada por universidades e apenas o Alibaba está entre os 10 primeiros.
O Ministério da Ciência e Tecnologia propôs que as empresas de inteligência artificial aceitem a revisão de ética científica e tecnológica; o assunto da revisão deve criar um comitê de ética científica e tecnológica (revisão). As empresas americanas de inteligência artificial começaram a criar departamentos responsáveis e confiáveis de inteligência artificial mais cedo. Do ano passado para este ano, alguns ajustes foram feitos, refletindo que quando a inteligência artificial generativa está passando por mudanças, as empresas estão buscando usar melhores tecnologias e soluções para implantar novas tecnologias com segurança e responsabilidade.
Dez Perspectivas
Modelo de linguagem grande
Em 2024, a China terá um modelo multilíngue de uso geral comparável ao GPT-4;
Long Context liderará o próximo avanço na tecnologia LLM;
Antes que surja um modelo de linguagem grande mais promissor, para obter melhores resultados no campo vertical, coexistirão os três métodos a seguir:
i) Sem alterar a distribuição de dados, use dados mais gerais para o pré-treinamento geral do modelo em grande escala e não introduza especificamente dados da indústria,
ii) Use dados específicos da indústria para ajustar (Fine-Tuning) o modelo geral grande,
iii) Usar conjuntos de dados com maior proporção de dados da indústria para pré-treinamento do modelo vertical.
Modelo Multimodal
4 O atual modelo de diagrama de Vinsen do CLIP + Diffusion é um estado de transição, e uma estrutura de modelo integrado aparecerá nos próximos 2 anos;
O modelo Text-to-Image de próxima geração terá uma capacidade de controle mais forte. Ele combinará os recursos do modelo subjacente e do método de controle de front-end, e o design do modelo se concentrará na combinação com o método de controle;
Antes de 2025, os modos de vídeo e 3D darão início a modelos marcantes, melhorando muito o efeito de geração;
A inteligência incorporada (Incorporada AI) representada pelo PALM-E tem mostrado grande potencial na direção da percepção, compreensão e tomada de decisão do robô, mas existem grandes desafios no treinamento e confiabilidade atuais;
No curto prazo, o Transformer está se tornando a estrutura de rede dominante de várias modalidades, mas ainda não apareceu um método geral para compactar todo o mundo digital.O Transformer não é o fim da tecnologia de inteligência artificial.
Oportunidade de negócios
Dentro de 3 anos, a principal força motriz dos aplicativos subversivos de IA virá da inovação do modelo subjacente, os dois não podem ser dissociados e o papel do modelo será maior do que o do design do produto;
O atual mercado de IA generativa está no estágio inicial de domínio da tecnologia e há oportunidades para empresas de plataforma com um valor de mercado de centenas de bilhões de dólares.
Leia o texto original
Ver original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Relatório de pesquisa | "IA generativa": aplicação, pesquisa e supervisão trabalham juntas para abrir o caminho da inovação da inteligência artificial generativa
Fonte: Qiming Venture Partners
Título original: "Qiming Headlines | Qiming Venture Partners e Unfinished Research lançaram em conjunto o relatório "Generative AI" | The State of Generative AI 2023"
Na Conferência Mundial de Inteligência Artificial de 2023 (WAIC)** Qiming Venture Partners Forum "Generative AI and Large-scale Models: Change and Innovation", a Qiming Venture Partners juntou-se à Unfinished Research para lançar em conjunto um relatório de grande sucesso "Generative AI 》| Estado da AI Generativa 2023. **
**A característica mais importante desta etapa é que a aplicação, a pesquisa e a supervisão estão trabalhando juntas para abrir o caminho inovador da inteligência artificial generativa. **
APLICAÇÕES INOVADORAS
As pessoas viram rapidamente o surgimento de uma nova ecologia de negócios a partir da inteligência artificial generativa, viram camada após camada de tecnologia, como cálculos, modelos e aplicativos; viram o conteúdo gerado, como texto, imagens, vídeos, códigos, estruturas 3D, multi -modalidade; veja também dados abertos, dados verticais, dados sintéticos, dados vetoriais, para modelos grandes e pequenos.
A inteligência artificial generativa parece ser aceita com mais entusiasmo na China: o governo incentiva o desenvolvimento da inteligência artificial geral; nenhuma grande empresa pode ignorá-la; muitas pequenas e médias empresas envolvidas no trabalho do conhecimento já a usaram primeiro. ** Diante dessa tecnologia revolucionária, todas as empresas estão envolvidas. Eles têm diferentes ritmos e diferentes graus de envolvimento e se tornaram defensores, inovadores e adotantes sob a onda de novas tecnologias. Suas margens de lucro são alteradas permanentemente. **
O poder de computação é atualmente o recurso mais escasso e também está na posição mais lucrativa. **O poder de computação é a maior parte da estrutura de custos do modelo grande, e o desempenho da GPU realmente determina o ritmo dessa indústria emergente. ** Com o avanço do poder de computação e dos modelos, mais start-ups estão surgindo. Eles agarraram o dividendo do tempo, mas também estão enfrentando a concorrência e a possível destruição de gigantes. Pode-se dizer que este é o oceano azul das startups, e também existem recifes escondidos sob o canal.
**A concorrência promove a inovação. **Diferente do rápido surgimento de startups na direção de ferramentas de produtividade em 2022, em 2023, uma proporção maior de novas empresas focará na inovação de tecnologias subjacentes; startups de grande porte também começaram a se diferenciar, e em ascensão startups gerais de grande escala Ao mesmo tempo, muitas empresas verticais de grande escala em direções específicas, como assistência médica, comércio eletrônico, pesquisa científica, indústria, direção autônoma e robótica começaram a surgir. **
Pesquisa de fronteira
2022 e 2023 são os dois anos em que a tecnologia de inteligência artificial generativa fará avanços. Separamos os artigos e descobrimos que uma característica proeminente no campo da inteligência artificial generativa é a estreita integração de processos de pesquisa e inovação, muitos dos quais são implementados dentro empresas. , implemente casos de uso e produtos rapidamente. **Essa integração de pesquisa e empreendedorismo, start-ups e capital de risco desempenhou um papel importante, e o investimento em pesquisa e talentos de gigantes da tecnologia dos EUA e grandes empresas de inteligência artificial, incluindo a pesquisa de algumas tecnologias subjacentes, ultrapassaram as universidades ao longo do anos e outras instituições de pesquisa.
**As fronteiras da inteligência artificial estão avançando para o futuro. **Embora do relatório técnico GPT-4 aos trabalhos de pesquisa da Microsoft, ele tenha mostrado que tem capacidade de processamento de texto próxima à humana, capacidade de raciocínio matemático e conhecimento em muitos campos profissionais. “Achamos que pode ser razoavelmente considerado uma versão inicial (embora ainda incompleta) de um sistema de inteligência artificial geral (AGI)”. Como calibração de confiança, memória de longo prazo, aprendizado contínuo, personalização, planejamento e salto de conceito, transparência, falácias cognitivas e irracionalidade, etc. **
**A direção de pesquisa mais importante nos últimos seis meses é decifrar e entender o misterioso e emocionante "emergir" da inteligência em grandes modelos. **Modelos grandes não precisam apenas superar a capacidade de prever a próxima palavra, mas também precisam de um mecanismo profundo mais rico e complexo de "pensamento lento" para supervisionar o mecanismo de "pensamento rápido" para prever a próxima palavra.
**A melhor pesquisa de ponta deve ser estudar e resolver os problemas encontrados na aplicação da tecnologia em larga escala. **Pesquisa sobre como reduzir as alucinações, ajustar o modelo grande para produzir conteúdo real com mais precisão e treinar uma capacidade de raciocínio mais forte; como treinar o modelo com mais intensidade, diminuir o limite, lançar novos produtos e permitir que mais pessoas de todas as esferas vida e consumidores Como interagir com o mundo físico real como um ser humano; como se tornar um assistente de seres humanos em trabalhos complexos, projetar e ajudar a realizar experimentos científicos; como influenciar o emprego e dar respostas políticas; como fazer inteligência artificial seguro e crível.
Regulamento| Segurança| Política| Talento
A resposta regulatória do governo à inteligência artificial generativa é bastante oportuna e diferentes características surgiram em diferentes países. **Embora introduza rapidamente medidas regulatórias para inteligência artificial generativa e busca de opiniões, a China também está incentivando o desenvolvimento de inteligência artificial geral. Pequim, Xangai e Shenzhen são os primeiros escalões mais ambiciosos e todos propuseram inteligência artificial mais ambiciosa Pesquisa, inovação e metas industriais. ** A UE continua na liderança em regulamentação e legislação, já que foi pioneira no GDPR há 5 anos. Os Estados Unidos estão mais preocupados com a posição de liderança da tecnologia de inteligência artificial e estão formando uma estrutura regulatória baseada no princípio do gerenciamento de riscos.
** A longo prazo, o talento terá mais impacto no futuro da inteligência artificial do que o poder da computação. **O número de artigos publicados por pesquisadores chineses superou o dos Estados Unidos, mas os Estados Unidos ainda têm uma clara vantagem no topo da pirâmide, seja em pesquisa ou empreendedorismo. Globalmente, o foco da pesquisa e inovação em inteligência artificial está mudando das universidades para as empresas. As três principais instituições nos Estados Unidos com os melhores acadêmicos são Google, Microsoft e Meta, que juntas recrutam 30% dos principais acadêmicos dos Estados Unidos . A China ainda é dominada por universidades e apenas o Alibaba está entre os 10 primeiros.
O Ministério da Ciência e Tecnologia propôs que as empresas de inteligência artificial aceitem a revisão de ética científica e tecnológica; o assunto da revisão deve criar um comitê de ética científica e tecnológica (revisão). As empresas americanas de inteligência artificial começaram a criar departamentos responsáveis e confiáveis de inteligência artificial mais cedo. Do ano passado para este ano, alguns ajustes foram feitos, refletindo que quando a inteligência artificial generativa está passando por mudanças, as empresas estão buscando usar melhores tecnologias e soluções para implantar novas tecnologias com segurança e responsabilidade.
Dez Perspectivas
Modelo de linguagem grande
Em 2024, a China terá um modelo multilíngue de uso geral comparável ao GPT-4;
Long Context liderará o próximo avanço na tecnologia LLM;
Antes que surja um modelo de linguagem grande mais promissor, para obter melhores resultados no campo vertical, coexistirão os três métodos a seguir:
i) Sem alterar a distribuição de dados, use dados mais gerais para o pré-treinamento geral do modelo em grande escala e não introduza especificamente dados da indústria,
ii) Use dados específicos da indústria para ajustar (Fine-Tuning) o modelo geral grande,
iii) Usar conjuntos de dados com maior proporção de dados da indústria para pré-treinamento do modelo vertical.
Modelo Multimodal
4 O atual modelo de diagrama de Vinsen do CLIP + Diffusion é um estado de transição, e uma estrutura de modelo integrado aparecerá nos próximos 2 anos;
O modelo Text-to-Image de próxima geração terá uma capacidade de controle mais forte. Ele combinará os recursos do modelo subjacente e do método de controle de front-end, e o design do modelo se concentrará na combinação com o método de controle;
Antes de 2025, os modos de vídeo e 3D darão início a modelos marcantes, melhorando muito o efeito de geração;
A inteligência incorporada (Incorporada AI) representada pelo PALM-E tem mostrado grande potencial na direção da percepção, compreensão e tomada de decisão do robô, mas existem grandes desafios no treinamento e confiabilidade atuais;
No curto prazo, o Transformer está se tornando a estrutura de rede dominante de várias modalidades, mas ainda não apareceu um método geral para compactar todo o mundo digital.O Transformer não é o fim da tecnologia de inteligência artificial.
Oportunidade de negócios
Dentro de 3 anos, a principal força motriz dos aplicativos subversivos de IA virá da inovação do modelo subjacente, os dois não podem ser dissociados e o papel do modelo será maior do que o do design do produto;
O atual mercado de IA generativa está no estágio inicial de domínio da tecnologia e há oportunidades para empresas de plataforma com um valor de mercado de centenas de bilhões de dólares.
Leia o texto original