En la batalla de los modelos grandes, Huawei se adelanta temporalmente a Apple

Fuente original: Box Rice Finance

Autor: Zhao Jinjie

Fuente de la imagen: Generada por Unbounded AI‌

Tras unos meses de viento en popa de que “todas las aplicaciones merecen rehacerse con un modelo grande”, todos los terminales también quieren utilizar el modelo grande para remodelar su competitividad.

Huawei se ha convertido en el primer fabricante de la industria de la telefonía móvil en dar un cronograma específico para la implementación de modelos grandes. Recientemente, con HarmonyOS 4.0 accediendo a la capacidad del modelo a gran escala de Pangu, Xiaoyi, un asistente de voz incorporado en los teléfonos móviles de Huawei, se ha convertido en el primer asistente inteligente con capacidades de modelo a gran escala de IA, y estará abierto para pruebas a fines de agosto. .

De acuerdo con el progreso anterior, la serie Huawei Mate 60, que se lanzará en la segunda mitad del año, también estará equipada con capacidades de modelo a gran escala y se espera que se convierta en un importante punto de venta frente a la serie iPhone 15 de Apple. **

**Antes del modelo grande, el mundo exterior consideraba el chip 5G como el arma secreta de Huawei contra el nuevo iPhone 15. **Según informes en línea, se espera que el teléfono móvil 5G de Huawei regrese en octubre de este año. Sin embargo, en comparación con las capacidades esperadas del modelo a gran escala, el tiempo de lanzamiento de los teléfonos móviles 5G de Huawei aún enfrenta muchas incertidumbres.

En la actualidad, Qualcomm y MediaTek han declarado sucesivamente que aún no han obtenido la aprobación del gobierno de EE. UU. para vender conjuntos de chips a Huawei. Aunque la noticia del regreso del móvil 5G de Huawei se haga realidad, su competitividad no es optimista, pues su mayor probabilidad será cooperar con SMIC para lograr una alternativa de localización completa, y el precio es que el proceso de fabricación del chip solo puede alcanzar. el nivel de 7nm como máximo En comparación con los 3nm del iPhone 15, está dos eras atrás en términos de iteración tecnológica.

En comparación con el statu quo de los chips 5G atrasados, Huawei está realmente por delante de Apple en términos de modelos grandes.

Aunque el CEO de Apple, Cook, también considera que el iPhone y otro hardware son un medio para que la empresa muestre la tecnología de IA, y reconoce la gran ola de cambios que ha provocado la inteligencia artificial, Apple es bastante cautelosa en el desarrollo de modelos grandes. "Vamos a continuar tejiendo eso en nuestros productos de manera muy deliberada".

Según el reportero de tecnología de Bloomberg, Mark Gurman, Apple está desarrollando silenciosamente productos de IA internamente y ha establecido su propio marco modelo a gran escala "Ajax", y ha tratado de aplicarlo a funciones de productos como mapas y Siri. No hay planes para lanzar "Apple GPT" a los consumidores todavía.

**En los últimos diez años, los fabricantes nacionales de teléfonos móviles han liderado dos cambios importantes en los productos: la ola de pantalla completa lanzada en 2016 una vez sacó al iPhone de los cinco primeros en el mercado chino; la ola de pantalla plegable lanzada en 2019 no ha conceptos básicos de iPhone aún sacudidos. **

**Como otra nueva oportunidad para el cambio de producto, ¿será el modelo grande el "momento de pantalla completa" que promueve la popularización de los fabricantes de teléfonos móviles nacionales, o el "dilema de pantalla plegable" que está limitado por el nicho? **

**En comparación con aplicaciones de terceros como ChatGPT y Wenxin Yiyan que se han registrado en el teléfono móvil, la ventaja más directa de los productos modelo a gran escala integrados directamente en el sistema del teléfono móvil radica en una mayor privacidad y protección de seguridad. **

En comparación con aplicaciones como ChatGPT que procesan datos en la nube, la implementación localizada de terminales inteligentes puede eliminar en gran medida las preocupaciones de los usuarios sobre la fuga de privacidad.

En marzo de este año, ChatGPT tuvo un problema de caché debido a un error en una biblioteca de código abierto, lo que eventualmente provocó que se filtrara la información de pago de cientos de millones de usuarios pagos de ChatGPT: usuarios de ChatGPT Plus, incluidos nombres, direcciones de correo electrónico y números de tarjetas de crédito Cuatro dígitos y fecha de vencimiento de la tarjeta de crédito, etc.

Afectada por esto, la Comisión Federal de Comercio de EE. UU. también comenzó a investigar si OpenAI violó las leyes de protección al consumidor en julio y le pidió a OpenAI que proporcione información sobre su procesamiento de datos personales, la posibilidad de proporcionar información inexacta a los usuarios y "causó daño a los consumidores". (incluido el riesgo de daño a la reputación) está bien documentado.

**Con la ayuda de la implementación localizada de la terminal de teléfono móvil para disipar las preocupaciones sobre la fuga de información, los usuarios pueden sentirse más cómodos y enviar con audacia más datos personales al modelo grande. Esto también tiene la segunda ventaja del producto de modelo grande integrado en el teléfono móvil, es decir, crear un asistente personal verdaderamente personalizado. **

**Además, los productos de modelos grandes que vienen con el teléfono móvil tienen un entorno operativo más estable que ChatGPT. **

En abril de este año, se suspendió el pago de ChatGPT Plus. La razón dada por OpenAI fue que "la demanda es demasiado grande", lo que resultó en una brecha en los recursos de potencia de cómputo. Con la ayuda de la implementación localizada, el modelo grande que viene con el teléfono móvil reducirá en gran medida la dependencia de los recursos de computación en la nube, evitando así la ocurrencia de eventos de "tiempo de inactividad", e incluso puede funcionar sin conexión cuando la red está desconectada.

El asistente de voz se ha convertido en la entrada prioritaria de muchos fabricantes de móviles para implantar modelos a gran escala. Con el apoyo de capacidades de modelos grandes, el asistente de voz puede ayudar a los usuarios a generar automáticamente redacción, escribir automáticamente correos electrónicos de respuesta, generar automáticamente resúmenes de artículos y traducir automáticamente...

Incluso con la ayuda de las funciones de complemento, el asistente de voz compatible con el modelo grande también puede completar llamadas de funciones entre aplicaciones, como movilizar aplicaciones de mapas, aplicaciones de viajes y aplicaciones meteorológicas, etc., para ayudar a los usuarios a hacer un plan de viaje o reservar un restaurante.

En comparación con un lote de asistentes de voz nacidos hace más de diez años, el modelo más grande es como un catalizador que lleva directamente a Siri a la versión 2.0 y se espera que resuelva el problema que los asistentes de voz humanos han sido criticados repetidamente como "retraso mental artificial". ". **

Después de que salió ChatGPT, el CEO de Microsoft, Satya Nadella, se quejó una vez: "Ya sea Cortana, Alexa, Google Assistant o Siri, estos asistentes de voz son tan estúpidos como una roca".

Según los informes de los medios, los ingenieros de Apple esperan combinar el modelo grande con Siri y también esperan lanzar un Siri más inteligente.

Según el Dr. Ding Lei, experto en inteligencia artificial, una de las razones por las que la generación anterior de asistentes de voz no son inteligentes es que los sistemas técnicos detrás de ellos son diferentes.

**Siri versión 1.0 se puede considerar como una IA para la toma de decisiones. El trabajo principal es "etiquetar" los datos existentes. **Para distinguir entre diferentes tipos de datos, las tareas principales son "juzgar si lo es" y "distinguir si es esto o no "ese" trabajo. Una vez que la solicitud externa exceda la biblioteca de etiquetas existente, el asistente de voz responderá con respuestas ascendentes como "No puedo responder" y "Todavía estoy aprendiendo" para continuar la conversación.

**La versión 2.0 de Siri es una IA generativa, que "creará" nuevo contenido después de resumir y analizar los datos existentes, **realizará el efecto de "sacar inferencias de una instancia" y tendrá en cuenta los intereses del usuario mientras continúa el diálogo Uso experiencia.

Huawei y Apple no son los únicos fabricantes que registran modelos grandes en teléfonos móviles.

En cuanto a los fabricantes nacionales de teléfonos móviles, Xiaomi es el que más importancia le da a los modelos grandes además de Huawei. En abril de este año, Xiaomi estableció oficialmente un equipo de modelos a gran escala con una escala de más de 30 personas y dijo que se espera lanzar el producto en el tercer trimestre de este año.

Se reveló que OPPO está construyendo modelos de productos a gran escala para teléfonos móviles basados en el gran modelo de Ali. Zhao Ming, director ejecutivo de Honor, también declaró con frecuencia al mundo exterior: "En el futuro, seremos los primeros en introducir modelos grandes en teléfonos móviles".

Para ser el primero en ofrecer productos a gran escala en teléfonos móviles, se reveló que Samsung estaba considerando planes para cambiar el motor de búsqueda predeterminado de sus teléfonos móviles de Google a Microsoft Bing.

Para restaurar el escape de Samsung tanto como sea posible, por un lado, Google trató de actualizar el motor de búsqueda existente y agregó capacidades de modelos a gran escala; por otro lado, comenzó a integrar productos de modelos a gran escala desde el fondo de el sistema.

** En mayo de este año, la nueva generación del modelo a gran escala PaLM 2 lanzado por Google incluía una solución Gecko de nivel de parámetro mínimo. Según el CEO de Google, Pichai, "Gecko" podrá ejecutarse en teléfonos móviles y la velocidad es lo suficientemente rápida. **

En la segunda mitad de este año, los nuevos modelos Pixel de Google incorporarán la última versión de gecko a gran escala PaLM2. El Pixel siempre ha estado a la vanguardia de los experimentos de Google con las nuevas funciones de Android. En ese momento, independientemente de si los fabricantes nacionales de teléfonos móviles tienen la capacidad de desarrollar modelos grandes por sí mismos, podrán obtener directamente el poder mágico de los modelos grandes del sistema Android de Google. **

Además de los esfuerzos de los desarrolladores de sistemas, los principales fabricantes de chips también se preocupan por utilizar modelos grandes para teléfonos móviles. **

** MediaTek espera que el Dimensity 9300 lanzado en octubre de este año sea compatible con la operación de modelos a gran escala; Qualcomm dijo que podrá admitir modelos de IA generativa con 10 mil millones de parámetros para ejecutarse en teléfonos móviles dentro de este año. **

Según los ejecutivos de Qualcomm, "un modelo con un nivel de parámetro de 10 000 millones a 15 000 millones puede cubrir la mayoría de los casos de uso de la IA generativa. Si el terminal ya admite este nivel de parámetro, todos los cálculos se pueden realizar en el terminal sin nube". procesamiento... Entonces el teléfono móvil se convertirá en un verdadero asistente personal".

Además, después de que Meta lanzara el modelo grande de código abierto Llama 2, Qualcomm afirmó además que cooperará con Meta para lanzar una "versión móvil de Llama 2" en 2024 para ayudar a los clientes a crear asistentes virtuales inteligentes, aplicaciones de productividad, herramientas de creación de contenido y Casos de uso como entretenimiento.

En comparación con el poder de cómputo de miles de tarjetas basadas en la nube y servidores de clúster paralelos, la ventaja de la implementación localizada de teléfonos inteligentes se ha convertido a su vez en una desventaja que restringe la expansión del poder de cómputo.

La versión más pequeña del modelo Llama de código abierto de Meta también tiene 7 mil millones de parámetros. Con la configuración actual de los teléfonos inteligentes, no puede funcionar sin problemas en la memoria existente. Solo puede ejecutarse parcialmente en la memoria flash del teléfono móvil, pero esto también conduce a una velocidad de respuesta lenta del modelo grande.

Previamente, en la comunidad de código abierto, algunos desarrolladores portaron el modelo grande de Llama al teléfono móvil, pero el proceso de espera de comentarios tomaba diez minutos o más.

** Con el fin de mejorar la eficiencia de la retroalimentación, además de fortalecer las configuraciones de hardware como chips y memoria, el desarrollador comenzó a realizar un plan de adelgazamiento para el modelo grande en el teléfono móvil, que incluye, entre otros, poda, cuantización, destilación, etc. Bajo la premisa de reducir en gran medida la precisión, reducir los recursos y el consumo de energía requeridos por el modelo grande en el teléfono móvil: ** Poda, es decir, eliminar los parámetros en el modelo que tienen poco impacto en la precisión ; cuantización, utilizando tipos de datos de menor precisión para el razonamiento ; La destilación consiste en extraer un modelo similar pero más simple de un modelo complejo.

Sin embargo, en el caso de GPT-4 con trillones de parámetros que aún no pueden resolver las tonterías del modelo grande, cómo reducir la generación de contenido falso para el modelo grande en el teléfono móvil que reduce activamente la precisión después de la reducción, y el número de parámetros es sólo el 1% de GPT-4.Para poner un signo de interrogación.

El Dr. Ding Lei dijo que para los productos modelo a gran escala como ChatGPT, todavía hay muchos errores y una lógica poco clara en el contenido generado, y algunos escenarios no se pueden aplicar directamente en el nivel de ejecución. **

Si el modelo grande del lado del teléfono móvil ayuda a los usuarios a hacer planes de viaje o reservar información sobre restaurantes, los errores frecuentes inevitablemente afectarán directamente la frecuencia de uso del usuario. En este sentido, ChatGPT ya es una lección del pasado.

Después de seis meses de crecimiento continuo, los datos de seguimiento del sitio web de terceros SimilarWeb muestran que en junio de este año, el tráfico global del sitio web y los clientes móviles de ChatGPT disminuyó un 9,7 % mensual. Esta es la primera vez que ChatGPT tiene experimentó un crecimiento de tráfico negativo desde su lanzamiento el 30 de noviembre de 2022.

En opinión del excientífico de OpenAI Kenneth Stanley, los productos modelo a gran escala actuales aún no han evolucionado hasta el momento del iPhone. "La IA generativa definitivamente ha arrasado en el mundo, y es cierto que algunas personas la usan todos los días, pero creo que todavía estamos en la fase exploratoria de descubrir cómo podemos usarla individualmente. Si todos encontramos un razón para usarlo en cualquier momento, y ese debería ser el momento del iPhone".

Referencias:

"El modelo grande va a la terminal, ¿qué pasa con el chip?" 》Observación de la industria de semiconductores

"El gran plan de IA de Google: hacer que el modelo grande sea más pequeño e integrar todos los productos" LatePost

"Entrevista con la persona a cargo de Qualcomm AI: Se espera que admita modelos a gran escala con decenas de miles de millones de parámetros para ejecutarse en teléfonos móviles dentro de este año" The Paper

"Modelo grande" redimensionado "en el teléfono móvil, ¿viene el próximo iPhone? 》La Explosión del Metaverso

"Diálogo con los científicos de OpenAI: el momento del iPhone aún no ha llegado" Economic Observer