Na batalha dos modelos grandes, a Huawei está temporariamente à frente da Apple

Fonte original: Box Rice Finance

Autor: Zhao Jinjie

Fonte da imagem: Gerada por Unbounded AI‌

Depois de alguns meses de vento de "todas as aplicações valem a pena refazer com um modelo grande", todos os terminais também querem usar o modelo grande para reformular sua competitividade.

A Huawei se tornou a primeira fabricante do setor de telefonia móvel a fornecer um cronograma específico para a implementação de modelos grandes. Recentemente, com o HarmonyOS 4.0 acessando a capacidade de modelo em grande escala Pangu, Xiaoyi, um assistente de voz embutido em telefones celulares Huawei, tornou-se o primeiro assistente inteligente com recursos de modelo em grande escala de IA e estará aberto para testes no final de agosto. .

De acordo com o progresso acima, a série Huawei Mate 60, que será lançada no segundo semestre do ano, também será equipada com recursos de modelo em grande escala e espera-se que se torne um importante ponto de venda contra a série iPhone 15 da Apple. **

**Antes do grande modelo, o chip 5G já foi considerado pelo mundo exterior como a arma secreta da Huawei contra o novo iPhone 15. **De acordo com relatórios online, o telefone celular 5G da Huawei deve retornar em outubro deste ano. No entanto, em comparação com os recursos esperados do modelo em grande escala, o tempo de lançamento dos telefones celulares 5G da Huawei ainda enfrenta muitas incertezas.

Atualmente, a Qualcomm e a MediaTek declararam sucessivamente que ainda não obtiveram a aprovação do governo dos EUA para vender chipsets para a Huawei. Mesmo que a notícia do retorno do celular 5G da Huawei se concretize, sua competitividade não é otimista, pois sua maior probabilidade será cooperar com a SMIC para conseguir uma alternativa de localização completa, e o preço é que o processo de fabricação do chip só pode atingir um nível máximo de 7 nm. Em comparação com os 3 nm do iPhone 15, está duas eras atrás em termos de iteração tecnológica.

Comparado com o status quo dos chips 5G atrasados, a Huawei está realmente à frente da Apple em termos de modelos grandes.

Embora o CEO da Apple, Cook, também considere o iPhone e outros hardwares como um suporte para a empresa exibir a tecnologia AI e reconheça a enorme onda de mudanças provocada pela inteligência artificial, a Apple é bastante cautelosa no desenvolvimento de modelos grandes. De acordo com Cook, "Vamos continuar a inserir isso em nossos produtos de forma muito deliberada."

De acordo com o repórter de tecnologia da Bloomberg, Mark Gurman, a Apple está desenvolvendo silenciosamente produtos de IA internamente e estabeleceu sua própria estrutura de modelo em grande escala "Ajax" e tentou aplicá-la a funções de produtos como mapas e Siri. liberar "Apple GPT" para os consumidores ainda.

**Nos últimos dez anos, os fabricantes domésticos de telefones celulares lideraram duas grandes mudanças de produto: a onda de tela cheia lançada em 2016 uma vez tirou o iPhone dos cinco primeiros no mercado chinês; a onda de tela dobrável lançada em 2019 não noções básicas ainda abaladas do iPhone. **

**Como mais uma nova oportunidade de mudança de produto, o modelo grande será um "momento tela cheia" que promove a popularização dos fabricantes nacionais de celulares, ou um "dilema da tela dobrável" limitado pelo nicho? **

**Em comparação com aplicativos de terceiros, como ChatGPT e Wenxin Yiyan, que foram registrados no telefone celular, a vantagem mais direta dos produtos de modelo em grande escala integrados diretamente no sistema de telefonia móvel reside em uma privacidade mais forte e proteção de segurança. **

Em comparação com aplicativos como o ChatGPT que processam dados na nuvem, a implantação localizada de terminais inteligentes pode eliminar ao máximo as preocupações dos usuários sobre vazamento de privacidade.

Em março deste ano, o ChatGPT teve um problema de cache devido a um bug em uma biblioteca de código aberto, que acabou causando o vazamento de informações de pagamento de centenas de milhões de usuários pagos do ChatGPT - usuários do ChatGPT Plus, incluindo nomes, endereços de e-mail e números de cartão de crédito. Quatro dígitos e data de validade do cartão de crédito, etc.

Afetada por isso, a Comissão Federal de Comércio dos EUA também começou a investigar se a OpenAI violou as leis de proteção ao consumidor em julho e pediu à OpenAI que fornecesse informações sobre o processamento de dados pessoais, a possibilidade de fornecer informações imprecisas aos usuários e "causou danos aos consumidores (incluindo o risco de danos à reputação” está bem documentado.

**Com a ajuda da implantação localizada do terminal de telefonia móvel para dissipar as preocupações com o vazamento de informações, os usuários podem se sentir mais à vontade e fornecer com ousadia mais dados pessoais ao modelo grande. Isso também tem a segunda vantagem do produto de modelo grande embutido no celular, ou seja, criar um assistente pessoal verdadeiramente personalizado. **

**Além disso, os produtos de modelo grande que acompanham o telefone celular têm um ambiente operacional mais estável do que o ChatGPT. **

Em abril deste ano, o pagamento do ChatGPT Plus foi suspenso, o motivo alegado pela OpenAI foi que "a demanda é muito grande", resultando em uma lacuna nos recursos de poder de computação. Com a ajuda da implantação localizada, o modelo grande que acompanha o celular reduzirá muito a dependência dos recursos da computação em nuvem, de forma a evitar a ocorrência de eventos de "tempo de inatividade" e até mesmo executar offline quando a rede for desconectada.

O assistente de voz tornou-se a entrada prioritária para muitos fabricantes de telefones celulares para implementar modelos em grande escala. Com o suporte de recursos de modelo grande, o assistente de voz pode ajudar os usuários a gerar automaticamente direitos autorais, escrever automaticamente e-mails de resposta, gerar automaticamente resumos de artigos e traduzir automaticamente...

Mesmo com a ajuda de funções de plug-in, o assistente de voz suportado pelo modelo grande também pode concluir chamadas de função entre aplicativos, como aplicativos de mapas mobilizadores, aplicativos de viagem e aplicativos meteorológicos, etc., para ajudar os usuários a fazer um plano de viagem ou reservar um restaurante.

Comparado com um lote de assistentes de voz nascidos há mais de dez anos, o maior modelo é como um catalisador, levando o Siri diretamente à versão 2.0, e espera-se que resolva o problema que os assistentes de voz humanos têm repetidamente criticado como "retardo mental artificial ". **

Depois que o ChatGPT foi lançado, o CEO da Microsoft, Satya Nadella, uma vez reclamou: "Seja Cortana, Alexa, Google Assistant ou Siri, esses assistentes de voz são tão estúpidos quanto uma rocha."

De acordo com relatos da mídia, os engenheiros da Apple esperam combinar o modelo grande com o Siri e também esperam lançar um Siri mais inteligente.

De acordo com o Dr. Ding Lei, especialista em inteligência artificial, uma das razões pelas quais a geração anterior de assistentes de voz não é inteligente é que os sistemas técnicos por trás deles são diferentes.

**A Siri versão 1.0 pode ser considerada uma IA de tomada de decisão. A principal tarefa é "rotular" os dados existentes. **Para distinguir entre diferentes tipos de dados, as principais tarefas são "julgar se é" e "diferenciar se é este ou não "aquele" trabalho. Quando a solicitação externa exceder a biblioteca de tags existente, o assistente de voz responderá com respostas de baixo para cima, como "Não consigo atender" e "Ainda estou aprendendo" para continuar a conversa.

**A versão Siri 2.0 é uma IA generativa, que irá "criar" novo conteúdo após resumir e analisar os dados existentes, **realizar o efeito de "desenhar inferências de uma instância" e levar em consideração os interesses do usuário enquanto continua o diálogo Use experiência.

Huawei e Apple não são as únicas fabricantes que registram modelos grandes em celulares.

Em termos de fabricantes nacionais de telemóveis, a Xiaomi é a que dá mais importância aos modelos grandes além da Huawei. Em abril deste ano, a Xiaomi estabeleceu oficialmente uma equipe de modelos em grande escala com uma escala de mais de 30 pessoas e disse que espera lançar o produto no terceiro trimestre deste ano.

Foi revelado que a OPPO está construindo produtos modelo em grande escala para telefones celulares com base no modelo grande de Ali. Zhao Ming, CEO da Honor, também declarou frequentemente ao mundo exterior: "No futuro, seremos os primeiros a introduzir modelos grandes em telefones celulares."

Para ser a primeira a levar produtos de larga escala em telefones celulares, a Samsung revelou estar considerando planos para mudar o mecanismo de busca padrão de seus telefones celulares do Google para o Microsoft Bing.

A fim de restaurar a fuga da Samsung tanto quanto possível, por um lado, o Google tentou atualizar o mecanismo de pesquisa existente e adicionou recursos de modelo em grande escala; por outro lado, começou a integrar produtos de modelo em grande escala a partir da parte inferior do o sistema.

** Em maio deste ano, a nova geração do modelo de grande escala PaLM 2 lançado pelo Google incluiu uma solução Gecko em nível de parâmetro mínimo. De acordo com o CEO do Google, Pichai, "Gecko" será capaz de rodar em telefones celulares e a velocidade é rápida o suficiente. **

No segundo semestre deste ano, os novos modelos Pixel do Google incorporarão a mais recente versão de lagartixa de grande escala PaLM2. O Pixel sempre esteve na vanguarda dos experimentos do Google com novos recursos do Android. Naquela época, independentemente de os fabricantes domésticos de telefones celulares terem a capacidade de autodesenvolver modelos grandes, eles poderão obter diretamente o poder mágico de modelos grandes do sistema Android do Google. **

Além dos esforços dos desenvolvedores de sistemas, os principais fabricantes de chips também estão preocupados em usar modelos grandes para celulares. **

** A MediaTek espera que o Dimensity 9300 lançado em outubro deste ano suporte a operação de modelos em larga escala; A Qualcomm disse que será capaz de suportar modelos de IA generativos com 10 bilhões de parâmetros para rodar em telefones celulares neste ano. **

De acordo com os executivos da Qualcomm, "Um modelo com um nível de parâmetro de 10 bilhões a 15 bilhões pode cobrir a maioria dos casos de uso de IA generativa. Se o terminal já puder suportar esse nível de parâmetro, todos os cálculos poderão ser executados no terminal sem nuvem processamento. .Então o celular se tornará um verdadeiro assistente pessoal."

Além disso, depois que a Meta lançou o grande modelo de código aberto Llama 2, a Qualcomm afirmou ainda que cooperará com a Meta para lançar uma "versão móvel do Llama 2" em 2024 para ajudar os clientes a criar assistentes virtuais inteligentes, aplicativos de produtividade, ferramentas de criação de conteúdo e Use casos como entretenimento.

Em comparação com o poder de computação de mil cartões baseados em nuvem e servidores de cluster paralelos, a vantagem da implantação localizada de smartphones, por sua vez, tornou-se uma desvantagem que restringe a expansão do poder de computação.

A versão menor do modelo Llama de código aberto da Meta também possui 7 bilhões de parâmetros. Com a configuração atual dos smartphones, ele não pode funcionar sem problemas na memória existente. Ele pode ser executado apenas parcialmente na memória flash do telefone celular, mas isso também leva a uma velocidade de resposta lenta do modelo grande.

Anteriormente, na comunidade de código aberto, alguns desenvolvedores portavam o modelo grande Llama para o celular, mas o processo de espera por um feedback levava dez minutos ou mais.

** Para melhorar a eficiência do feedback, além de fortalecer as configurações de hardware, como chips e memória, o desenvolvedor começou a realizar um plano de emagrecimento para o modelo grande no celular, incluindo, mas não se limitando a poda, quantização, destilação, etc. Sob a premissa de reduzir bastante a precisão, reduza os recursos e o consumo de energia exigidos pelo modelo grande no celular: **Poda, ou seja, cortando os parâmetros do modelo que têm pouco impacto na precisão ; quantização, usando tipos de dados de baixa precisão para raciocínio ; Destilação é extrair um modelo semelhante, mas mais simples, de um modelo complexo.

No entanto, no caso do GPT-4 com trilhões de parâmetros ainda incapazes de resolver o absurdo do modelo grande, como reduzir a geração de conteúdo falso para o modelo grande no celular que reduz ativamente a precisão após o downsizing e o número de parâmetros é de apenas 1% do GPT-4.Para colocar um ponto de interrogação.

O Dr. Ding Lei disse que, para produtos de modelo em larga escala, como o ChatGPT, ainda há muitos erros e lógica pouco clara no conteúdo gerado, e alguns cenários não podem ser aplicados diretamente no nível de execução. **

Se o modelo grande no lado do celular ajudar os usuários a fazer planos de viagem ou reservar informações sobre restaurantes, erros frequentes inevitavelmente afetarão diretamente a frequência de uso do usuário. Nesse sentido, o ChatGPT já é uma lição para o passado.

Após seis meses de crescimento contínuo, os dados de monitoramento do site de terceiros SimilarWeb mostram que, em junho deste ano, o tráfego global do site do ChatGPT e dos clientes móveis diminuiu 9,7% mês a mês. Esta é a primeira vez que o ChatGPT experimentou um crescimento negativo no tráfego desde seu lançamento em 30 de novembro de 2022.

Na visão do ex-cientista da OpenAI, Kenneth Stanley, os atuais modelos de produtos em grande escala ainda não evoluíram para o momento do iPhone. “A IA generativa definitivamente conquistou o mundo, e é verdade que algumas pessoas a usam todos os dias, mas acho que ainda estamos na fase exploratória de descobrir como podemos usá-la individualmente. razão para usá-lo a qualquer momento, e esse deve ser o momento do iPhone."

Referências:

"Modelo grande vai para o terminal, e o chip?" 》Observação da indústria de semicondutores

"O grande plano de IA do Google: tornar o grande modelo menor e incorporar todos os produtos" LatePost

"Entrevista com o responsável pela Qualcomm AI: espera-se que suporte modelos de grande escala com dezenas de bilhões de parâmetros para serem executados em telefones celulares ainda este ano" The Paper

"Grande modelo "downsizing" no celular, o próximo iPhone está chegando? 》A Explosão do Metaverso

"Diálogo com cientistas da OpenAI: a hora do iPhone ainda não chegou" Observador Econômico