Modelo AI, o aplicativo de inteligência artificial mais atual em 2023.
Os smartphones são os terminais inteligentes mais populares do mundo.
Um representa a onda da inteligência artificial no futuro, e o outro é o produto tecnológico de maior sucesso nos últimos 20 anos.Em chinês, todos têm a mesma palavra: inteligência.
Portanto, a combinação dos dois parece estar "destinada".
Em abril deste ano, Lu Qi, fundador e CEO da Qiji Chuangtan, disse em seu discurso que o futuro é uma era em que os modelos estão por toda parte e previu que um dia modelos grandes rodarão em telefones celulares.
Na conferência de comunicação móvel MWC Shanghai 2023, não muito tempo atrás, Zhao Ming, CEO da Honor, disse que assumirá a liderança na introdução de grandes modelos de IA no lado do dispositivo para criar um "modelo pessoal" no lado do dispositivo. Ele também disse: "O modelo grande quebrou muitos dos nossos limites de pensamento e é a melhor interpretação da IA que vimos até agora".
Naquela época, o Honor Magic V2, o celular carro-chefe com o preço mais alto, estava prestes a ser lançado, e o mundo exterior o interpretou como "Honor carregará um modelo grande no Magic V2 pela primeira vez".
Em 12 de julho, a Honor lançou o celular com tela dobrável Magic V2. Os resultados revelaram que o Honor Magic V2 não se tornou o primeiro smartphone de grande escala. Na coletiva de imprensa de mais de uma hora, Zhao Ming mencionou apenas um modelo grande. No entanto, embora Honor esteja "atrasado", a discussão sobre o modelo de telefone celular + IA não parou de jeito nenhum.
Google, Huawei, Xiaomi, Baidu, etc. indicaram que adotarão tecnologias relacionadas a modelos em larga escala em telefones celulares. Por exemplo, o Baidu lançou o telefone móvel Xiaodu em maio deste ano, que também foi interpretado pelo mundo exterior como a esperança do Baidu de implementar um modelo grande no lado do hardware.
Parece que os fabricantes de telefones celulares parecem ser os relativamente confiáveis entre vários "estoques de conceito" em grande escala. É que já existem muitos pontos de acesso para modelos grandes, os fabricantes de celulares serão uma exceção?
**Modelo AI grande + telefone celular =? **
Como os telefones celulares devem ser combinados com modelos de IA, atualmente existem três soluções principais no setor:
Um deles é um aplicativo semelhante aos serviços em nuvem ou ChatGPT. A nuvem fornece cálculos de modelo em grande escala e os alimenta de volta no telefone celular. A vantagem dessa solução é que ela não precisa depender do fraco poder de computação do celular telefone A desvantagem é que ele precisa estar conectado à Internet e a segurança da informação é um problema;
A segunda é implantação local, computação local e serviços locais, usando diretamente o processador que acompanha o telefone celular para executar o modelo grande, que é o que Zhao Ming chamou de "lado do dispositivo". Sua vantagem é que não é restrito pela rede e as informações são armazenadas localmente, mas se o poder de computação do telefone celular pode suportar a operação do modelo grande é um problema;
A terceira solução é combinar os dois acima, a nuvem e o terminal funcionam juntos, e as vantagens e desvantagens também são as vantagens e desvantagens dos dois acima.
De fato, antes da Honor anunciar que introduziria modelos de IA em telefones celulares, a primeira empresa a tentar estabelecer uma conexão entre telefones celulares e modelos de IA em grande escala foi o Google, o lar do sistema Android.
Claro, o Google tem boas razões para combinar telefones celulares e modelos grandes - seu sistema Android controla 81% dos smartphones do mundo, possui duas instituições de pesquisa de IA, Google AI e DeepMind (desenvolvedor AlphaGo), e é a infraestrutura de modelos grandes. criador do transformador. Não importa como você olhe, o Google é o melhor alvo para implementar o modelo de telefone celular + IA.
Mas desde que o OpenAI lançou o ChatGPT no final do ano passado e se tornou popular em todo o mundo, o Geegle se tornou um "retardatário" no mundo exterior. Um fato incontestável é que, apesar do enorme investimento no campo da IA, o Google não conseguiu se tornar a estrela mais deslumbrante dessa onda de IA.
Assim, em maio deste ano, meio ano após o lançamento do ChatGPT 3.5, o Google finalmente lançou uma nova geração de modelo de linguagem grande PaLM2 para lutar contra o ChatGPT. Como uma competição diferenciada, o PaLM2 pode ser implantado em smartphones, enquanto o treinamento do ChatGPT requer dezenas de milhares de placas gráficas NVIDIA A100.
Obviamente, o Google também conhece a lacuna entre os telefones celulares e as placas gráficas AI profissionais, portanto, nem todos os modelos grandes podem ser implantados em telefones celulares. O PaLM2 contém quatro modelos grandes, nomeados de grande para pequeno de acordo com a escala de parâmetros: Unicorn (Unicorn), Bison (Bison), Otter (Otter) e Gecko (Gecko). Apenas o Gecko, com seus parâmetros mínimos, pode rodar em um telefone, e o Google diz que é rápido o suficiente para funcionar offline.
**Para que serve o modelo AI no celular? **
Além de termos técnicos obscuros, que tipo de funções e serviços o modelo de IA pode trazer é mais importante para bilhões de usuários de smartphones. Se for apenas um robô de bate-papo como o ChatGPT, todos podem perguntar: "Por que tenho que usar o segundo ChatGPT?".
A abordagem do Google é integrar o modelo grande em aplicativos específicos, para que o aplicativo tenha seus próprios recursos de modelo grande. Por exemplo, o Gmail pode compor e-mails automaticamente. Os usuários só precisam inserir suas necessidades em "Ajude-me a escrever" no Gmail, e ele combinará as informações dos e-mails anteriores para escrever um e-mail completo, como persuadir seu bom amigo Li Hua a estudar muito todos os dias.
"Ajude-me a escrever" é apenas parte da função Google Workspace (espaço de trabalho). Outras funções do Workspac incluem a escrita automática de discursos com base no conteúdo PPT. Não está claro se esses serviços serão executados na nuvem ou no local.
Como empresa de hardware, a Qualcomm e o Google têm ideias completamente diferentes: eles querem que o modelo grande rode no telefone como um aplicativo independente, em vez de parte de um aplicativo.
Em junho deste ano, a Qualcomm lançou um vídeo de demonstração: um telefone Android sem conexão com a Internet usa Stable Diffusion para gerar uma imagem AI, e todo o processo não excede 15 segundos.
Como uma ferramenta de geração de imagem/animação AI, o Stable Diffusion também esteve no centro das atenções no ano passado, mas antes disso, o Stable Diffusion era quase sempre usado por usuários individuais em computadores, e seus requisitos de poder de computação não são baixos.
A razão pela qual a Qualcomm pode executar a difusão estável em telefones celulares é principalmente combinar a nuvem e o terminal para criar um conjunto de "IA híbrida": se a demanda de poder de computação for grande, ela será entregue à nuvem para computação e se a demanda de potência computacional for baixa, ela será completada localmente pelo terminal, podendo também rodar simultaneamente. Para endossar seu próprio plano, a Qualcomm até lançou um white paper chamado "Hybrid AI é o futuro da AI".
No entanto, ainda é difícil dizer qual solução se tornará o mainstream no futuro.
**Quem precisa mais de modelos grandes? **
Entre os fabricantes de telefones celulares, Honor é o primeiro fabricante que afirmou claramente que implantará modelos de IA em larga escala em telefones celulares. Há também as próprias considerações de Honor por trás de seu entusiasmo.
A partir do segundo trimestre deste ano, as remessas globais de smartphones caíram por sete trimestres consecutivos. Fabricantes de telefones celulares, como Apple, Samsung e Xiaomi, foram poupados e Honor também não está otimista.
De acordo com dados da TechInsights, no primeiro trimestre deste ano, as remessas de celulares Honor na China caíram 22,2% em relação ao ano anterior, o segundo maior declínio entre os cinco principais fabricantes domésticos de celulares, e sua participação no mercado também caiu de segundo quarto lugar no mesmo período do ano passado.
Numa altura em que o mercado dos telemóveis está a encolher e a homogeneidade torna-se cada vez mais séria, o modelo de IA deu uma nova imaginação aos smartphones. Embora o seu futuro não seja claro, a Honor precisa dele.
O Google tem o maior número de usuários de software do mundo, com mais de 500 milhões de usuários em seus 15 aplicativos; a Qualcomm já vendeu mais de 2 bilhões de produtos com recursos de computação de IA até agora. Até certo ponto, eles também têm motivos para serem mais ativos do que os fabricantes de telefones celulares na promoção de modelos grandes de telefones celulares + IA.
Mas, por outro lado, "desempenho excessivo do telefone celular" e "sistema exagerado" também foram tópicos controversos nos últimos anos. Google, Qualcomm e fabricantes de telefones celulares precisam de grandes modelos de IA, mas também precisam enfrentar perguntas dos usuários. O melhor material de ensino negativo é o jogo em nuvem de "jogar obras-primas 3A em telefones celulares", que já foi altamente esperado, mas ainda não se tornou o mainstream do mercado até hoje. Até o próprio Google desligou sua plataforma de jogos em nuvem.
Além disso, a Apple, a "palheta do smartphone", não fez nenhuma ação relevante até agora. Na WWDC em junho deste ano, a Apple nem sequer mencionou "IA" ou "grande modelo" uma vez. Ao descrever tecnologias relacionadas, eles usaram um vocabulário mais tradicional e mais acadêmico - "Machine Learning" (aprendizado de máquina).
A Apple sempre foi um representante típico de "não libere se não fizer bem" Portanto, o conservadorismo da Apple pode provar do lado que a aplicação de modelos grandes de IA em smartphones ainda está no período de exploração funcional quando as necessidades do usuário são desconhecidas.
Mas, de qualquer forma, a inovação na indústria de telefonia móvel ficou em silêncio por muito tempo. Se o grande modelo pode trazer novos mercados e vitalidade, todos obviamente ficam felizes em vê-lo. Mesmo que falhe, não passa de outro " erro de julgamento" pelos gigantes.
Ver original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
O que resta do modelo de telefone celular + IA além de truques?
Modelo AI, o aplicativo de inteligência artificial mais atual em 2023.
Os smartphones são os terminais inteligentes mais populares do mundo.
Um representa a onda da inteligência artificial no futuro, e o outro é o produto tecnológico de maior sucesso nos últimos 20 anos.Em chinês, todos têm a mesma palavra: inteligência.
Portanto, a combinação dos dois parece estar "destinada".
Em abril deste ano, Lu Qi, fundador e CEO da Qiji Chuangtan, disse em seu discurso que o futuro é uma era em que os modelos estão por toda parte e previu que um dia modelos grandes rodarão em telefones celulares.
Na conferência de comunicação móvel MWC Shanghai 2023, não muito tempo atrás, Zhao Ming, CEO da Honor, disse que assumirá a liderança na introdução de grandes modelos de IA no lado do dispositivo para criar um "modelo pessoal" no lado do dispositivo. Ele também disse: "O modelo grande quebrou muitos dos nossos limites de pensamento e é a melhor interpretação da IA que vimos até agora".
Naquela época, o Honor Magic V2, o celular carro-chefe com o preço mais alto, estava prestes a ser lançado, e o mundo exterior o interpretou como "Honor carregará um modelo grande no Magic V2 pela primeira vez".
Em 12 de julho, a Honor lançou o celular com tela dobrável Magic V2. Os resultados revelaram que o Honor Magic V2 não se tornou o primeiro smartphone de grande escala. Na coletiva de imprensa de mais de uma hora, Zhao Ming mencionou apenas um modelo grande. No entanto, embora Honor esteja "atrasado", a discussão sobre o modelo de telefone celular + IA não parou de jeito nenhum.
Google, Huawei, Xiaomi, Baidu, etc. indicaram que adotarão tecnologias relacionadas a modelos em larga escala em telefones celulares. Por exemplo, o Baidu lançou o telefone móvel Xiaodu em maio deste ano, que também foi interpretado pelo mundo exterior como a esperança do Baidu de implementar um modelo grande no lado do hardware.
Parece que os fabricantes de telefones celulares parecem ser os relativamente confiáveis entre vários "estoques de conceito" em grande escala. É que já existem muitos pontos de acesso para modelos grandes, os fabricantes de celulares serão uma exceção?
**Modelo AI grande + telefone celular =? **
Como os telefones celulares devem ser combinados com modelos de IA, atualmente existem três soluções principais no setor:
Um deles é um aplicativo semelhante aos serviços em nuvem ou ChatGPT. A nuvem fornece cálculos de modelo em grande escala e os alimenta de volta no telefone celular. A vantagem dessa solução é que ela não precisa depender do fraco poder de computação do celular telefone A desvantagem é que ele precisa estar conectado à Internet e a segurança da informação é um problema;
A segunda é implantação local, computação local e serviços locais, usando diretamente o processador que acompanha o telefone celular para executar o modelo grande, que é o que Zhao Ming chamou de "lado do dispositivo". Sua vantagem é que não é restrito pela rede e as informações são armazenadas localmente, mas se o poder de computação do telefone celular pode suportar a operação do modelo grande é um problema;
A terceira solução é combinar os dois acima, a nuvem e o terminal funcionam juntos, e as vantagens e desvantagens também são as vantagens e desvantagens dos dois acima.
De fato, antes da Honor anunciar que introduziria modelos de IA em telefones celulares, a primeira empresa a tentar estabelecer uma conexão entre telefones celulares e modelos de IA em grande escala foi o Google, o lar do sistema Android.
Claro, o Google tem boas razões para combinar telefones celulares e modelos grandes - seu sistema Android controla 81% dos smartphones do mundo, possui duas instituições de pesquisa de IA, Google AI e DeepMind (desenvolvedor AlphaGo), e é a infraestrutura de modelos grandes. criador do transformador. Não importa como você olhe, o Google é o melhor alvo para implementar o modelo de telefone celular + IA.
Mas desde que o OpenAI lançou o ChatGPT no final do ano passado e se tornou popular em todo o mundo, o Geegle se tornou um "retardatário" no mundo exterior. Um fato incontestável é que, apesar do enorme investimento no campo da IA, o Google não conseguiu se tornar a estrela mais deslumbrante dessa onda de IA.
Assim, em maio deste ano, meio ano após o lançamento do ChatGPT 3.5, o Google finalmente lançou uma nova geração de modelo de linguagem grande PaLM2 para lutar contra o ChatGPT. Como uma competição diferenciada, o PaLM2 pode ser implantado em smartphones, enquanto o treinamento do ChatGPT requer dezenas de milhares de placas gráficas NVIDIA A100.
Obviamente, o Google também conhece a lacuna entre os telefones celulares e as placas gráficas AI profissionais, portanto, nem todos os modelos grandes podem ser implantados em telefones celulares. O PaLM2 contém quatro modelos grandes, nomeados de grande para pequeno de acordo com a escala de parâmetros: Unicorn (Unicorn), Bison (Bison), Otter (Otter) e Gecko (Gecko). Apenas o Gecko, com seus parâmetros mínimos, pode rodar em um telefone, e o Google diz que é rápido o suficiente para funcionar offline.
**Para que serve o modelo AI no celular? **
Além de termos técnicos obscuros, que tipo de funções e serviços o modelo de IA pode trazer é mais importante para bilhões de usuários de smartphones. Se for apenas um robô de bate-papo como o ChatGPT, todos podem perguntar: "Por que tenho que usar o segundo ChatGPT?".
A abordagem do Google é integrar o modelo grande em aplicativos específicos, para que o aplicativo tenha seus próprios recursos de modelo grande. Por exemplo, o Gmail pode compor e-mails automaticamente. Os usuários só precisam inserir suas necessidades em "Ajude-me a escrever" no Gmail, e ele combinará as informações dos e-mails anteriores para escrever um e-mail completo, como persuadir seu bom amigo Li Hua a estudar muito todos os dias.
"Ajude-me a escrever" é apenas parte da função Google Workspace (espaço de trabalho). Outras funções do Workspac incluem a escrita automática de discursos com base no conteúdo PPT. Não está claro se esses serviços serão executados na nuvem ou no local.
Como empresa de hardware, a Qualcomm e o Google têm ideias completamente diferentes: eles querem que o modelo grande rode no telefone como um aplicativo independente, em vez de parte de um aplicativo.
Em junho deste ano, a Qualcomm lançou um vídeo de demonstração: um telefone Android sem conexão com a Internet usa Stable Diffusion para gerar uma imagem AI, e todo o processo não excede 15 segundos.
Como uma ferramenta de geração de imagem/animação AI, o Stable Diffusion também esteve no centro das atenções no ano passado, mas antes disso, o Stable Diffusion era quase sempre usado por usuários individuais em computadores, e seus requisitos de poder de computação não são baixos.
A razão pela qual a Qualcomm pode executar a difusão estável em telefones celulares é principalmente combinar a nuvem e o terminal para criar um conjunto de "IA híbrida": se a demanda de poder de computação for grande, ela será entregue à nuvem para computação e se a demanda de potência computacional for baixa, ela será completada localmente pelo terminal, podendo também rodar simultaneamente. Para endossar seu próprio plano, a Qualcomm até lançou um white paper chamado "Hybrid AI é o futuro da AI".
No entanto, ainda é difícil dizer qual solução se tornará o mainstream no futuro.
**Quem precisa mais de modelos grandes? **
Entre os fabricantes de telefones celulares, Honor é o primeiro fabricante que afirmou claramente que implantará modelos de IA em larga escala em telefones celulares. Há também as próprias considerações de Honor por trás de seu entusiasmo.
A partir do segundo trimestre deste ano, as remessas globais de smartphones caíram por sete trimestres consecutivos. Fabricantes de telefones celulares, como Apple, Samsung e Xiaomi, foram poupados e Honor também não está otimista.
De acordo com dados da TechInsights, no primeiro trimestre deste ano, as remessas de celulares Honor na China caíram 22,2% em relação ao ano anterior, o segundo maior declínio entre os cinco principais fabricantes domésticos de celulares, e sua participação no mercado também caiu de segundo quarto lugar no mesmo período do ano passado.
Numa altura em que o mercado dos telemóveis está a encolher e a homogeneidade torna-se cada vez mais séria, o modelo de IA deu uma nova imaginação aos smartphones. Embora o seu futuro não seja claro, a Honor precisa dele.
O Google tem o maior número de usuários de software do mundo, com mais de 500 milhões de usuários em seus 15 aplicativos; a Qualcomm já vendeu mais de 2 bilhões de produtos com recursos de computação de IA até agora. Até certo ponto, eles também têm motivos para serem mais ativos do que os fabricantes de telefones celulares na promoção de modelos grandes de telefones celulares + IA.
Mas, por outro lado, "desempenho excessivo do telefone celular" e "sistema exagerado" também foram tópicos controversos nos últimos anos. Google, Qualcomm e fabricantes de telefones celulares precisam de grandes modelos de IA, mas também precisam enfrentar perguntas dos usuários. O melhor material de ensino negativo é o jogo em nuvem de "jogar obras-primas 3A em telefones celulares", que já foi altamente esperado, mas ainda não se tornou o mainstream do mercado até hoje. Até o próprio Google desligou sua plataforma de jogos em nuvem.
Além disso, a Apple, a "palheta do smartphone", não fez nenhuma ação relevante até agora. Na WWDC em junho deste ano, a Apple nem sequer mencionou "IA" ou "grande modelo" uma vez. Ao descrever tecnologias relacionadas, eles usaram um vocabulário mais tradicional e mais acadêmico - "Machine Learning" (aprendizado de máquina).
A Apple sempre foi um representante típico de "não libere se não fizer bem" Portanto, o conservadorismo da Apple pode provar do lado que a aplicação de modelos grandes de IA em smartphones ainda está no período de exploração funcional quando as necessidades do usuário são desconhecidas.
Mas, de qualquer forma, a inovação na indústria de telefonia móvel ficou em silêncio por muito tempo. Se o grande modelo pode trazer novos mercados e vitalidade, todos obviamente ficam felizes em vê-lo. Mesmo que falhe, não passa de outro " erro de julgamento" pelos gigantes.