Informe de investigación| "IA generativa": la aplicación, la investigación y la supervisión trabajan juntas para abrir el camino de la innovación de la inteligencia artificial generativa
Título original: "Qiming Headlines | Qiming Venture Partners y Unfinished Research publicaron conjuntamente el informe "IA generativa" | El estado de la IA generativa 2023"
En la Conferencia Mundial de Inteligencia Artificial 2023 (WAIC)** Qiming Venture Partners Forum "Generative AI and Large-scale Models: Change and Innovation", Qiming Venture Partners se unió a Unfinished Research para publicar conjuntamente un informe de gran éxito "Generative IA 》| Estado de la IA Generativa 2023. **
Si 2022 es llamado el año de la inteligencia artificial generativa, se han logrado avances en la aplicación de modelos de difusión, nació ChatGPT y se publicaron una serie de trabajos de investigación innovadores. En 2023, el modelo grande llegará a su punto máximo, con el lanzamiento de GPT-4 como The sign, la inteligencia artificial generativa, ha entrado en la etapa de aplicación innovadora hacia la dirección de la inteligencia artificial general.
**La característica más importante de esta etapa es que la aplicación, la investigación y la supervisión trabajan juntas para abrir el camino innovador de la inteligencia artificial generativa. **
APLICACIONES INNOVADORAS
La gente vio rápidamente el surgimiento de una nueva ecología empresarial a partir de la inteligencia artificial generativa, vio capa tras capa de tecnología, como cálculos, modelos y aplicaciones; vio el contenido generado, como texto, imágenes, videos, códigos, estructuras 3D, multi -modalidad; ver también datos abiertos, datos verticales, datos sintéticos, datos vectoriales, para modelos grandes y pequeños.
La inteligencia artificial generativa parece tener una aceptación más entusiasta en China: el gobierno fomenta el desarrollo de la inteligencia artificial general; ninguna gran empresa puede ignorarla; muchas pequeñas y medianas empresas dedicadas al trabajo del conocimiento ya la han utilizado primero. ** Ante esta tecnología revolucionaria, todos los negocios están involucrados. Tienen diferentes ritmos y diferentes grados de involucramiento, y se han convertido en defensores, innovadores y adoptantes bajo la ola de las nuevas tecnologías. Sus márgenes de beneficio se modifican permanentemente. **
El poder de cómputo es actualmente el recurso más escaso y también se encuentra en la posición más rentable. **El poder de cómputo es la mayor parte de la estructura de costos del modelo grande, y el rendimiento de la GPU en realidad determina el ritmo de esta industria emergente. ** Con el avance de la potencia y los modelos informáticos, están surgiendo más empresas emergentes. Se han apoderado del dividendo del tiempo, pero también se enfrentan a la competencia y al posible aplastamiento gigante. Se puede decir que este es el océano azul de las empresas emergentes, y también hay arrecifes escondidos debajo del canal.
**La competencia fomenta la innovación. ** A diferencia de la rápida aparición de nuevas empresas en la dirección de las herramientas de productividad en 2022, en 2023, una mayor proporción de nuevas empresas se centrará en la innovación de las tecnologías subyacentes; las nuevas empresas a gran escala también han comenzado a diferenciarse, y en ascenso nuevas empresas generales a gran escala Al mismo tiempo, comenzaron a surgir muchas empresas verticales a gran escala en direcciones específicas, como atención médica, comercio electrónico, investigación científica, industria, conducción autónoma y robótica. **
Investigación de frontera
2022 y 2023 son los dos años en los que la tecnología de inteligencia artificial generativa hará avances. Clasificamos los documentos y descubrimos que una característica destacada en el campo de la inteligencia artificial generativa es la estrecha integración de los procesos de investigación e innovación, muchos de los cuales se implementan dentro de empresas. , implemente casos de uso y productos rápidamente. **Esta integración de la investigación y el espíritu empresarial, las empresas emergentes y el capital de riesgo han jugado un papel importante, y la inversión en investigación y los talentos de los gigantes tecnológicos de EE. UU. y las principales empresas de inteligencia artificial, incluida la investigación de algunas tecnologías subyacentes, han superado a las universidades a lo largo de los últimos años. años y otras instituciones de investigación.
**Las fronteras de la inteligencia artificial avanzan hacia el futuro. ** Aunque desde el informe técnico de GPT-4 hasta los trabajos de investigación de Microsoft, se ha demostrado que tiene una capacidad de procesamiento de textos, capacidad de razonamiento matemático y conocimiento en muchos campos profesionales cercana a la humana. "Creemos que puede considerarse razonablemente una versión temprana (aunque aún incompleta) de un sistema de inteligencia general artificial (AGI)". Tales como calibración de confianza, memoria a largo plazo, aprendizaje continuo, personalización, planificación y salto de concepto, transparencia, falacias cognitivas e irracionalidad, etc. **
**La dirección de investigación más importante en los últimos seis meses es descifrar y comprender la "emergencia" misteriosa y emocionante de la inteligencia en modelos grandes. **Los modelos grandes no solo necesitan superar la capacidad de predecir la siguiente palabra, sino que también necesitan un mecanismo profundo más rico y complejo de "pensamiento lento" para supervisar el mecanismo de "pensamiento rápido" para predecir la siguiente palabra.
**La mejor investigación de vanguardia debe ser para estudiar y resolver los problemas encontrados en la aplicación de tecnología a gran escala. ** Investigue sobre cómo reducir las alucinaciones, ajuste el modelo grande para generar contenido real con mayor precisión y entrene una mayor capacidad de razonamiento; cómo entrenar el modelo más intensamente, reducir el umbral, lanzar nuevos productos y permitir que más personas de todos los ámbitos la vida y los consumidores Cómo interactuar con el mundo físico real como un ser humano; cómo convertirse en asistente de seres humanos en trabajos complejos, diseñar y ayudar a realizar experimentos científicos; cómo influir en el empleo y dar respuestas políticas; cómo hacer inteligencia artificial seguro y creíble.
Regulación| Seguridad| Política| Talento
La respuesta regulatoria del gobierno a la inteligencia artificial generativa es bastante oportuna y han surgido diferentes características en diferentes países. ** Mientras introduce rápidamente medidas regulatorias para la inteligencia artificial generativa y busca opiniones, China también está fomentando el desarrollo de la inteligencia artificial general. Beijing, Shanghái y Shenzhen son los primeros escalones más ambiciosos, y todos han propuesto una investigación de inteligencia artificial más ambiciosa, innovación y objetivos industriales. ** La UE sigue liderando el camino en materia de regulación y legislación, ya que fue pionera en el RGPD hace 5 años. Estados Unidos está más preocupado por la posición de liderazgo de la tecnología de inteligencia artificial y está formando un marco regulatorio basado en el principio de gestión de riesgos.
** A la larga, el talento tendrá más impacto en el futuro de la inteligencia artificial que el poder de cómputo. **El número de artículos publicados por investigadores chinos ha superado al de Estados Unidos, pero Estados Unidos todavía tiene una clara ventaja en la cima de la pirámide, ya sea en investigación o en emprendimiento. A nivel mundial, el enfoque de la investigación y la innovación en inteligencia artificial está cambiando de las universidades a las empresas. Las tres principales instituciones de los Estados Unidos con la mayor cantidad de académicos destacados son Google, Microsoft y Meta, que en conjunto reclutan el 30 % de los académicos destacados de los Estados Unidos. . China todavía está dominada por las universidades, y solo Alibaba se encuentra entre las 10 mejores.
El Ministerio de Ciencia y Tecnología ha propuesto que las empresas de inteligencia artificial deben aceptar una revisión de ética científica y tecnológica; el sujeto de la revisión debe establecer un comité de ética científica y tecnológica (revisión). Las empresas estadounidenses de inteligencia artificial comenzaron a establecer departamentos de inteligencia artificial responsables y creíbles antes. Desde el año pasado hasta este año, se han realizado algunos ajustes, lo que refleja que cuando la inteligencia artificial generativa está experimentando cambios, las empresas buscan utilizar mejores tecnologías y soluciones para implementar nuevas tecnologías de manera segura y responsable.
Diez prospectos
Modelo de lenguaje grande
En 2024, China tendrá un modelo de propósito general multilingüe comparable a GPT-4;
Long Context liderará el próximo avance en la tecnología LLM;
Antes de que surja un modelo de lenguaje grande más prometedor, para lograr mejores resultados en el campo vertical, coexistirán los siguientes tres métodos:
i) Sin cambiar la distribución de datos, utilice datos más generales para el entrenamiento previo general del modelo a gran escala, y no introduzca datos específicos de la industria,
ii) Usar datos específicos de la industria para ajustar (ajuste fino) el modelo grande general,
iii) Usar conjuntos de datos con una mayor proporción de datos de la industria para el entrenamiento previo del modelo vertical.
Modelo Multimodal
4 El modelo de diagrama de Vinsen actual de CLIP + Diffusion es un estado de transición, y aparecerá una estructura de modelo integrada en los próximos 2 años;
El modelo de texto a imagen de próxima generación tendrá una capacidad de control más fuerte. Combinará las capacidades del modelo subyacente y el método de control frontal, y el diseño del modelo se centrará en la combinación con el método de control;
Antes de 2025, los modos de video y 3D marcarán el comienzo de modelos de hitos, mejorando en gran medida el efecto de generación;
La inteligencia incorporada (IA incorporada) representada por PALM-E ha mostrado un gran potencial en la dirección de la percepción, comprensión y toma de decisiones de los robots, pero existen grandes desafíos en la capacitación y confiabilidad actuales;
A corto plazo, Transformer se está convirtiendo en la estructura de red principal de múltiples modalidades, pero aún no ha aparecido un método general para comprimir todo el mundo digital.Transformer no es el final de la tecnología de inteligencia artificial.
Oportunidad de negocio
Dentro de 3 años, la fuerza impulsora central de las aplicaciones subversivas de IA provendrá de la innovación del modelo subyacente, los dos no se pueden desacoplar y el papel del modelo será mayor que el del diseño del producto;
El mercado actual de IA generativa se encuentra en la etapa inicial de dominio tecnológico, y existen oportunidades para las empresas de plataformas con un valor de mercado de cientos de miles de millones de dólares.
Lea el texto original
Ver originales
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Informe de investigación| "IA generativa": la aplicación, la investigación y la supervisión trabajan juntas para abrir el camino de la innovación de la inteligencia artificial generativa
Fuente: Qiming Venture Partners
Título original: "Qiming Headlines | Qiming Venture Partners y Unfinished Research publicaron conjuntamente el informe "IA generativa" | El estado de la IA generativa 2023"
En la Conferencia Mundial de Inteligencia Artificial 2023 (WAIC)** Qiming Venture Partners Forum "Generative AI and Large-scale Models: Change and Innovation", Qiming Venture Partners se unió a Unfinished Research para publicar conjuntamente un informe de gran éxito "Generative IA 》| Estado de la IA Generativa 2023. **
**La característica más importante de esta etapa es que la aplicación, la investigación y la supervisión trabajan juntas para abrir el camino innovador de la inteligencia artificial generativa. **
APLICACIONES INNOVADORAS
La gente vio rápidamente el surgimiento de una nueva ecología empresarial a partir de la inteligencia artificial generativa, vio capa tras capa de tecnología, como cálculos, modelos y aplicaciones; vio el contenido generado, como texto, imágenes, videos, códigos, estructuras 3D, multi -modalidad; ver también datos abiertos, datos verticales, datos sintéticos, datos vectoriales, para modelos grandes y pequeños.
La inteligencia artificial generativa parece tener una aceptación más entusiasta en China: el gobierno fomenta el desarrollo de la inteligencia artificial general; ninguna gran empresa puede ignorarla; muchas pequeñas y medianas empresas dedicadas al trabajo del conocimiento ya la han utilizado primero. ** Ante esta tecnología revolucionaria, todos los negocios están involucrados. Tienen diferentes ritmos y diferentes grados de involucramiento, y se han convertido en defensores, innovadores y adoptantes bajo la ola de las nuevas tecnologías. Sus márgenes de beneficio se modifican permanentemente. **
El poder de cómputo es actualmente el recurso más escaso y también se encuentra en la posición más rentable. **El poder de cómputo es la mayor parte de la estructura de costos del modelo grande, y el rendimiento de la GPU en realidad determina el ritmo de esta industria emergente. ** Con el avance de la potencia y los modelos informáticos, están surgiendo más empresas emergentes. Se han apoderado del dividendo del tiempo, pero también se enfrentan a la competencia y al posible aplastamiento gigante. Se puede decir que este es el océano azul de las empresas emergentes, y también hay arrecifes escondidos debajo del canal.
**La competencia fomenta la innovación. ** A diferencia de la rápida aparición de nuevas empresas en la dirección de las herramientas de productividad en 2022, en 2023, una mayor proporción de nuevas empresas se centrará en la innovación de las tecnologías subyacentes; las nuevas empresas a gran escala también han comenzado a diferenciarse, y en ascenso nuevas empresas generales a gran escala Al mismo tiempo, comenzaron a surgir muchas empresas verticales a gran escala en direcciones específicas, como atención médica, comercio electrónico, investigación científica, industria, conducción autónoma y robótica. **
Investigación de frontera
2022 y 2023 son los dos años en los que la tecnología de inteligencia artificial generativa hará avances. Clasificamos los documentos y descubrimos que una característica destacada en el campo de la inteligencia artificial generativa es la estrecha integración de los procesos de investigación e innovación, muchos de los cuales se implementan dentro de empresas. , implemente casos de uso y productos rápidamente. **Esta integración de la investigación y el espíritu empresarial, las empresas emergentes y el capital de riesgo han jugado un papel importante, y la inversión en investigación y los talentos de los gigantes tecnológicos de EE. UU. y las principales empresas de inteligencia artificial, incluida la investigación de algunas tecnologías subyacentes, han superado a las universidades a lo largo de los últimos años. años y otras instituciones de investigación.
**Las fronteras de la inteligencia artificial avanzan hacia el futuro. ** Aunque desde el informe técnico de GPT-4 hasta los trabajos de investigación de Microsoft, se ha demostrado que tiene una capacidad de procesamiento de textos, capacidad de razonamiento matemático y conocimiento en muchos campos profesionales cercana a la humana. "Creemos que puede considerarse razonablemente una versión temprana (aunque aún incompleta) de un sistema de inteligencia general artificial (AGI)". Tales como calibración de confianza, memoria a largo plazo, aprendizaje continuo, personalización, planificación y salto de concepto, transparencia, falacias cognitivas e irracionalidad, etc. **
**La dirección de investigación más importante en los últimos seis meses es descifrar y comprender la "emergencia" misteriosa y emocionante de la inteligencia en modelos grandes. **Los modelos grandes no solo necesitan superar la capacidad de predecir la siguiente palabra, sino que también necesitan un mecanismo profundo más rico y complejo de "pensamiento lento" para supervisar el mecanismo de "pensamiento rápido" para predecir la siguiente palabra.
**La mejor investigación de vanguardia debe ser para estudiar y resolver los problemas encontrados en la aplicación de tecnología a gran escala. ** Investigue sobre cómo reducir las alucinaciones, ajuste el modelo grande para generar contenido real con mayor precisión y entrene una mayor capacidad de razonamiento; cómo entrenar el modelo más intensamente, reducir el umbral, lanzar nuevos productos y permitir que más personas de todos los ámbitos la vida y los consumidores Cómo interactuar con el mundo físico real como un ser humano; cómo convertirse en asistente de seres humanos en trabajos complejos, diseñar y ayudar a realizar experimentos científicos; cómo influir en el empleo y dar respuestas políticas; cómo hacer inteligencia artificial seguro y creíble.
Regulación| Seguridad| Política| Talento
La respuesta regulatoria del gobierno a la inteligencia artificial generativa es bastante oportuna y han surgido diferentes características en diferentes países. ** Mientras introduce rápidamente medidas regulatorias para la inteligencia artificial generativa y busca opiniones, China también está fomentando el desarrollo de la inteligencia artificial general. Beijing, Shanghái y Shenzhen son los primeros escalones más ambiciosos, y todos han propuesto una investigación de inteligencia artificial más ambiciosa, innovación y objetivos industriales. ** La UE sigue liderando el camino en materia de regulación y legislación, ya que fue pionera en el RGPD hace 5 años. Estados Unidos está más preocupado por la posición de liderazgo de la tecnología de inteligencia artificial y está formando un marco regulatorio basado en el principio de gestión de riesgos.
** A la larga, el talento tendrá más impacto en el futuro de la inteligencia artificial que el poder de cómputo. **El número de artículos publicados por investigadores chinos ha superado al de Estados Unidos, pero Estados Unidos todavía tiene una clara ventaja en la cima de la pirámide, ya sea en investigación o en emprendimiento. A nivel mundial, el enfoque de la investigación y la innovación en inteligencia artificial está cambiando de las universidades a las empresas. Las tres principales instituciones de los Estados Unidos con la mayor cantidad de académicos destacados son Google, Microsoft y Meta, que en conjunto reclutan el 30 % de los académicos destacados de los Estados Unidos. . China todavía está dominada por las universidades, y solo Alibaba se encuentra entre las 10 mejores.
El Ministerio de Ciencia y Tecnología ha propuesto que las empresas de inteligencia artificial deben aceptar una revisión de ética científica y tecnológica; el sujeto de la revisión debe establecer un comité de ética científica y tecnológica (revisión). Las empresas estadounidenses de inteligencia artificial comenzaron a establecer departamentos de inteligencia artificial responsables y creíbles antes. Desde el año pasado hasta este año, se han realizado algunos ajustes, lo que refleja que cuando la inteligencia artificial generativa está experimentando cambios, las empresas buscan utilizar mejores tecnologías y soluciones para implementar nuevas tecnologías de manera segura y responsable.
Diez prospectos
Modelo de lenguaje grande
En 2024, China tendrá un modelo de propósito general multilingüe comparable a GPT-4;
Long Context liderará el próximo avance en la tecnología LLM;
Antes de que surja un modelo de lenguaje grande más prometedor, para lograr mejores resultados en el campo vertical, coexistirán los siguientes tres métodos:
i) Sin cambiar la distribución de datos, utilice datos más generales para el entrenamiento previo general del modelo a gran escala, y no introduzca datos específicos de la industria,
ii) Usar datos específicos de la industria para ajustar (ajuste fino) el modelo grande general,
iii) Usar conjuntos de datos con una mayor proporción de datos de la industria para el entrenamiento previo del modelo vertical.
Modelo Multimodal
4 El modelo de diagrama de Vinsen actual de CLIP + Diffusion es un estado de transición, y aparecerá una estructura de modelo integrada en los próximos 2 años;
El modelo de texto a imagen de próxima generación tendrá una capacidad de control más fuerte. Combinará las capacidades del modelo subyacente y el método de control frontal, y el diseño del modelo se centrará en la combinación con el método de control;
Antes de 2025, los modos de video y 3D marcarán el comienzo de modelos de hitos, mejorando en gran medida el efecto de generación;
La inteligencia incorporada (IA incorporada) representada por PALM-E ha mostrado un gran potencial en la dirección de la percepción, comprensión y toma de decisiones de los robots, pero existen grandes desafíos en la capacitación y confiabilidad actuales;
A corto plazo, Transformer se está convirtiendo en la estructura de red principal de múltiples modalidades, pero aún no ha aparecido un método general para comprimir todo el mundo digital.Transformer no es el final de la tecnología de inteligencia artificial.
Oportunidad de negocio
Dentro de 3 años, la fuerza impulsora central de las aplicaciones subversivas de IA provendrá de la innovación del modelo subyacente, los dos no se pueden desacoplar y el papel del modelo será mayor que el del diseño del producto;
El mercado actual de IA generativa se encuentra en la etapa inicial de dominio tecnológico, y existen oportunidades para las empresas de plataformas con un valor de mercado de cientos de miles de millones de dólares.
Lea el texto original