Le grand modèle de Xiaomi a été exposé pour la première fois et Huawei Xiaoyi a remis le papier en premier.L'heure du GPT pour les téléphones mobiles approche-t-elle ?

Source丨Choses intelligentes

Auteur | Yunpeng

Modifier | Destin du cœur

La grande bataille des modèles parmi les fabricants de téléphones mobiles est sur le point de se produire.

Tout à l'heure, le grand modèle Xiaomi est soudainement apparu à l'écran et a obtenu la dixième place et la première place en chinois dans les deux plates-formes de test de grands modèles de C- et CMMLU respectivement.Son rang C est devant Tongyi Qianwen d'Alibaba Cloud.

▲C-liste

Vous devez savoir que C- et CMMLU sont actuellement reconnus dans l'industrie comme des tests de référence de modèle à grande échelle chinois faisant autorité, examinant principalement la réserve de connaissances complète et la capacité de compréhension de la langue du modèle à grande échelle dans le domaine chinois.

▲Liste d'évaluation CMMLU

Pas plus tard que la semaine dernière, l'assistant vocal de Huawei, Xiaoyi, a également intégré certaines des fonctionnalités de son propre modèle Pangu.C'est devenu une réalité d'utiliser l'assistant vocal pour rédiger des résumés d'articles, des e-mails d'invitation à des réunions ou utiliser vos propres photos pour un design personnalisé.

Les fabricants nationaux de téléphones mobiles ont une posture de "Si vous ne faites pas de bruit, vous serez un blockbuster" sur la piste des grands modèles. L'un a déjà atterri dans l'application, et l'autre a balayé l'écran pour la première fois.

Auparavant, qu'il s'agisse de puces auto-développées ou de recharge rapide, les fabricants de téléphones mobiles semblaient être les "avant-gardes" qui poussaient les "nouvelles technologies" vers le marché grand public, permettant au grand public d'entrer en contact avec les nouvelles technologies.

Dans la vague de l'IA générative basée sur de grands modèles, les fabricants de téléphones mobiles sont appelés à ouvrir une nouvelle bataille.

Outre-mer, Google et Apple ont déjà commencé à "mobiliser" leurs propres assistants vocaux intelligents, brassant l'application de modèles à grande échelle.En Chine, avant que les résultats des modèles à grande échelle de Xiaomi ne soient annoncés, Wang Bin, directeur du laboratoire d'IA de Xiaomi , avait déjà parlé au monde extérieur du modèle à grande échelle de Xiaomi. En ce qui concerne la planification et les progrès du domaine des modèles, le PDG de Xiaomi, Lei Jun, et le président de Xiaomi, Lu Weibing, ont également parlé du grand modèle de Xiaomi et des mises en page associées en public à de nombreuses reprises. .

Pour Honor, son PDG Zhao Ming a mentionné que Honor a coopéré avec des sociétés Internet sur la demande de modèles de réseau à grande échelle, et OPPO et vivo, qui semblent discrets, sont en fait dans le domaine de l'IA depuis de nombreuses années. Classé parmi les meilleurs du test et a coopéré avec certaines grandes sociétés d'IA. Du côté de Huawei, Xiaoyi a déjà atterri.

Bien que les vagues soient calmes en surface, la bataille des grands modèles chez les fabricants de téléphones mobiles est imminente. Chaque famille construit secrètement des routes en planches, et un jeu féroce de technologie d'intelligence artificielle est peut-être sur le point d'être organisé.

Xiaomi a formé une grande équipe de modèles et Honor OV pourrait adopter le modèle "auto-recherche + coopération"

Les fabricants de téléphones portables utilisent des modèles à grande échelle de deux manières : l'une consiste à créer des modèles à grande échelle pour leur propre usage et l'autre à utiliser les modèles à grande échelle d'autres personnes.

À l'heure actuelle, Huawei et Xiaomi ont une longueur d'avance et l'utilisent pour leur propre usage. Honor, OPPO et vivo n'ont aucune information officielle sur la disposition des grands modèles. Parmi eux, OV et d'autres fabricants ont des informations de coopération pertinentes sur les grands modèles. Cependant , on ne sait toujours pas comment les deux seront adoptés.

Tout d'abord, jetons un coup d'œil à Xiaomi qui balaye l'écran aujourd'hui. En fait, Xiao Ai, l'assistant vocal intelligent de Xiaomi, devrait être considéré comme le plus célèbre parmi les assistants vocaux de diverses entreprises, et il a également le plus large gamme d'utilisateurs. Presque tous les types d'appareils IoT de Xiaomi ont accès à Xiao Ai, et le nombre d'appareils écologiques IoT de Xiaomi est le plus important parmi tous les fabricants de smartphones. Xiaomi a clairement indiqué que le modèle Xiaomi AI peut être combiné avec Xiao Ai à l'avenir.

Que ce soit lors de l'appel aux résultats ou dans certaines interviews publiques, les dirigeants concernés de Xiaomi ont exprimé des opinions positives sur le grand modèle et ont expliqué en détail la disposition et la planification de Xiaomi pour le grand modèle.

En avril de cette année, le PDG de Xiaomi, Lei Jun, a personnellement publié un document indiquant que Xiaomi adoptera résolument la technologie des modèles à grande échelle. Lors de la conférence téléphonique sur les résultats du mois suivant, le président de Xiaomi, Lu Weibing, a annoncé que la société avait créé un laboratoire d'IA à grande échelle. équipe de modélisme, avec plus de 1 200 personnes dans le domaine de l'IA.

Le chef de la grande équipe de modèles de Xiaomi est Luan Jian, qui relève de Wang Bin, directeur du laboratoire d'intelligence artificielle de Xiaomi. Wang Bin a rejoint Xiaomi en 2018 après avoir mené des recherches sur le NLP (Natural Language Processing) à l'Académie chinoise des sciences pendant plus de 20 ans. .

Dans une interview avec Shenran, Wang Bin a mentionné que l'objectif de leur équipe est un grand modèle de langage à usage général avec une échelle de paramètres de dizaines de milliards, et que l'investissement en équipement pour la formation est de dizaines de millions de RMB. Les produits d'atterrissage de modèles à grande échelle Xiaomi adopteront un "modèle hybride", et le modèle traditionnel et le modèle à grande échelle résoudront chacun les problèmes pour lesquels ils sont bons.

Selon Wang Bin, avant ChatGPT, Xiaomi avait effectué des recherches et des applications à grande échelle liées aux modèles.Cependant, l'échelle du modèle se chiffre en milliards et il ne s'agit pas d'un modèle à grande échelle à usage général.C'est principalement un modèle spécifique au dialogue pour le dialogue homme-machine.

Du côté de Xiaomi, les dirigeants ont fréquemment divulgué des informations, et du côté d'Honor, son PDG Zhao Ming a également révélé le point de vue d'Honor sur l'IA générative et les modèles à grande échelle lors d'entretiens.

Zhao Ming a mentionné lors du Shanghai Mobile World Congress que Honor coopère avec des entreprises Internet sur la demande de modèles de réseau à grande échelle.A cette époque, ils étaient déjà en contact avec des entreprises intéressées.

À l'heure actuelle, Wenxin Yiyan de Baidu, Tongyi Qianwen d'Ali et Xunfei Xinghuo de Xunfei sont tous des modèles tripartites à grande échelle lancés par de grandes sociétés Internet nationales et des sociétés d'intelligence artificielle. établi depuis trois ans. Pour Honor, ce n'est pas la chose la plus importante. Il est évidemment plus critique d'augmenter la part de marché et les expéditions. Par conséquent, la coopération peut être le moyen pour Honor d'appliquer une technologie à grande échelle.

Du côté d'OPPO, Liu Bo, président d'OPPO Chine, a mentionné dans une interview qu'OPPO réfléchissait à l'application de grands modèles sur les téléphones mobiles.

En avril de cette année, Alibaba Cloud a annoncé qu'il construirait conjointement l'infrastructure de modèle à grande échelle d'OPPO avec OPPO Andes Smart Cloud. Basé sur Tongyi Qianwen, il achèvera le projet d'apprentissage continu, de réglage fin et d'incitation frontale du grand modèle. , et créez des services d'IA pour les utilisateurs finaux d'OPPO.

À en juger par l'exemple de Huawei Xiaoyi, il est possible d'affiner et d'optimiser Tongyi Qianwen pour créer un modèle léger pouvant être utilisé dans l'assistant vocal intelligent d'OPPO.

Cependant, des sources pertinentes de Xiaomi ont révélé que OPPO et vivo pourraient également fabriquer leurs propres grands modèles.

À cet égard, nous pouvons également voir quelques signes de certaines actions antérieures d'OV. Par exemple, l'équipe d'assistants Xiaobu d'OPPO a mené de nombreuses recherches dans le domaine de la technologie de l'IA, y compris la reconnaissance vocale, la compréhension sémantique, la génération de dialogue, le système de réponse aux questions sur les connaissances, le chat en domaine ouvert, la multimodalité, etc. tous liés à l'IA générative. technologies clés.

L'équipe d'assistants de Xiaobu a déjà exploré et mis en œuvre des modèles de pré-formation et développé des modèles de pré-formation OBERT avec 100 millions, 300 millions et 1 milliard de paramètres.La cinquième place dans la liste et la première place dans la carte des connaissances à grande échelle question et réponse KgCLUE1.0 liste.

Lors de la conférence OPPO Future Technology l'année dernière, la technologie IA générative a été utilisée dans la fonction de peinture de Xiaobu, qui peut créer des images à travers des descriptions d'utilisateurs et des images téléchargées.

Pour vivo, son équipe d'IA a développé un modèle de pré-formation de texte 3MP-Text pour les tâches de compréhension du langage naturel en mai de cette année.Sur la liste CLUE du benchmark d'évaluation de la compréhension de la langue chinoise, 3MP-Text a obtenu le même classement que le paramètre 100 millions effet modèle Taille d'abord.

Le grand modèle atterrit sur le téléphone mobile et l'assistant vocal intelligent devient l'avant-garde des premiers utilisateurs

Les fabricants de téléphones portables adoptent activement les grands modèles, que vont-ils faire ? Une chose qui a été déterminée jusqu'à présent est d'utiliser le grand modèle dans les assistants vocaux intelligents de diverses entreprises, afin que le grand modèle puisse devenir la capacité "au niveau du système" de votre téléphone mobile, rendant le téléphone mobile plus intelligent, et les assistants ne seront plus "Retardés".

Samsung envisage de changer le moteur de recherche par défaut des téléphones mobiles et des tablettes de Google vers le nouveau Bing de Microsoft, qui prend en charge le chat AI. Lors de la conférence I/O en mai, Google a publié quatre grands modèles de langage de nouvelle génération PaLM 2 avec différentes échelles de paramètres, parmi lesquels le plus petit grand modèle "Gecko" peut fonctionner sur les téléphones mobiles.

Du côté d'Apple, certains médias étrangers ont révélé qu'il développait une nouvelle fonction d'IA nommée "Bobcat" pour Siri, et le cadre technique du nouveau projet s'appelle "Siri Natural Language Generation". L'intégration de la technologie de l'IA deviendra également inévitable.

Le potentiel des grands modèles dans les assistants vocaux sur smartphones est une évidence pour tous.

Pour les consommateurs, nous pouvons clairement voir à partir des cas existants de combinaison d'assistants vocaux intelligents et de grands modèles que l'intégration de capacités de grands modèles résout l'un des plus gros problèmes dans l'habitude des utilisateurs d'utiliser des assistants vocaux - pas assez Dialogue naturel, communication naturelle cela ne peut se faire à volonté.

Pour le dire simplement, il s'agit de faire passer l'assistant vocal intelligent du plaisir et de la nouveauté à la facilité d'utilisation, et même devenir une "action habituelle". Le grand modèle permet à l'assistant vocal intelligent de vraiment nous comprendre et nous comprendre, et l'amélioration de sa facilité d'utilisation est extrêmement significative.

De l'avis de certains fabricants de terminaux, l'application de grands modèles tels que ChatGPT est plus axée sur la rédaction créative, l'organisation de l'information, le chat questions-réponses, la synthèse d'articles, etc., mais le positionnement des assistants vocaux est "assistants personnels intelligents", du contrôle de l'appareil à la personnalité Pour améliorer l'efficacité de notre travail de bureau quotidien en fournissant des services de conseil personnalisés, l'application d'assistants vocaux intelligents dans les scénarios de consommation devrait être plus étendue.

Dans le même temps, par rapport aux chatbots IA génératifs tels que ChatGPT d'OpenAI et Bard de Google, les assistants vocaux intelligents deviendront les capacités "au niveau du système" des fabricants de terminaux, du dialogue vocal, de la reconnaissance graphique, des suggestions de services à la gestion de l'interconnexion des appareils.

Les experts en intelligence artificielle concernés ont déclaré à Zhishi que les capacités au niveau du système signifient que l'entrée au niveau du système est plus étroitement intégrée au système d'exploitation, et que l'interconnexion avec l'écologie a également atteint la couche inférieure de l'écologie du système. et l'expérience peut être la meilleure.Eh bien, cette interconnexion est loin d'être comparable à l'appel SDK un à un entre ChatGPT et App.

De plus, qu'il s'agisse de Huawei, Xiaomi, Honor ou OV, ces fabricants ont déjà lancé une large gamme d'agencements d'entreprise IoT, et les assistants vocaux intelligents sont devenus les principaux portails de services d'IA connectant leurs appareils intelligents. capacités des grands modèles à l'ensemble de leur écosystème logiciel et matériel, ce qui est également très important pour les fabricants.

Est-il difficile d'insérer un grand modèle dans un téléphone portable ?

Il n'est pas difficile de penser à utiliser de grands modèles d'assistants vocaux intelligents, même depuis le premier jour où ChatGPT est apparu, toutes les sociétés d'assistants vocaux y ont pensé.

Mais la clé est, comment y parvenir? Le coût est-il proportionnel au rendement qu'il apporte ? Un grand modèle de langage comme GPT-4, avec des centaines de milliards de paramètres, va être utilisé dans un téléphone mobile avec une consommation électrique de quelques watts seulement.Comment résoudre les défis techniques ?

Concernant ces questions, nous pouvons trouver des réponses dans l'exemple de Huawei Xiaoyi mentionné ci-dessus.

De manière générale, pour appliquer un grand modèle sur un assistant vocal intelligent, il faut au moins deux choses : d'abord, optimiser le grand modèle général en une version adaptée aux assistants vocaux.

À partir de l'exemple de Huawei, basé sur le grand modèle Pangu L0, Huawei a affiné et optimisé les données impliquées dans les scénarios de consommation habituels, et a construit un modèle de dialogue de couche L1, qui est utilisé dans Xiaoyi.

Pour ces scénarios de consommation, les fabricants doivent construire des données de corpus correspondantes, concevoir des sorties de modèle que le système peut comprendre et exécuter, et en même temps entrer des connaissances structurées et non structurées crédibles dans le grand modèle, afin que le grand modèle puisse apprendre. , relation logique.

ChatGPT ne peut pas vous aider à configurer votre téléphone mobile ou à contrôler divers appareils intelligents dans votre maison, mais les assistants vocaux doivent disposer de telles capacités, ce qui est également une fonction très importante des assistants vocaux intelligents.

Par conséquent, les fabricants doivent également parvenir à une analyse efficace et à une connexion efficace entre le grand modèle et le système grâce à l'optimisation technique, et d'abord "former et apprendre" le grand modèle pour des scénarios complexes, afin que le grand modèle puisse apprendre ces compétences de manipulation, et enfin comparer le coût d'inférence du grand modèle et le temps d'inférence Le problème de retard est résolu.

Il ne suffit pas de faire une version modèle à grande échelle adaptée aux assistants vocaux, pour résoudre les problèmes de consommation électrique et de puissance de calcul, la combinaison des appareils et des clouds est également plus importante.

De nos jours, les applications ChatGPT reposent sur la puissance du cloud computing, mais lorsqu'elles sont réellement utilisées dans des assistants vocaux, elles impliquent l'utilisation et le traitement des informations personnelles des utilisateurs, ce qui nécessite inévitablement un fonctionnement localisé, mais un fonctionnement entièrement localisé ne peut pas résoudre les problèmes de consommation d'énergie insuffisante. et la puissance de calcul.

Huawei a réalisé différentes versions de modèles à grande échelle, tant du côté du terminal que du côté du cloud. Selon différentes tâches, les deux côtés sont traités en collaboration.

En tant que fabricant de puces mobiles, Qualcomm s'est auparavant concentré sur la promotion de son concept "d'IA hybride", ce qui signifie en fait que l'application de l'IA générative du côté mobile doit impliquer la collaboration du côté appareil et du côté cloud. À en juger par les actions de toutes les parties de l'industrie, c'est essentiellement devenu le consensus de l'industrie.

Bien sûr, utiliser un grand modèle dans un assistant vocal intelligent n'est certainement pas aussi simple que nous l'évoquions en quelques mots, il y a de nombreux défis techniques et industriels derrière, et on peut s'en faire une petite idée à partir de l'exemple de Huawei.

Mais cela dit, bien que ce soit difficile, Huawei vient de prouver la faisabilité de cette question, et l'application de grands modèles dans les assistants vocaux intelligents peut en effet entraîner de nombreux "changements qualitatifs" dans les capacités.

La bataille des grands modèles s'annonce féroce, et les données, la puissance de calcul et les talents sont toujours au cœur de la concurrence

L'IA générative balaie des milliers d'industries, et l'impact des grands modèles sur l'industrie de la téléphonie mobile sera considérable.

Pour les consommateurs, les téléphones mobiles sont devenus plus « intelligents » et plus « efficaces ». Nous pouvons enfin profiter des services fournis par les assistants vocaux dans un langage parlé décontracté, comme certaines capacités de génération de texte et d'images sur ChatGPT, et les assistants vocaux intelligents sont également I ont appris que l'utilisation de grands modèles pour les assistants vocaux intelligents est forcément bénéfique et très attendue par les consommateurs.

Pour les fabricants, c'est une tendance inévitable pour le développement futur que les smartphones et les appareils IoT associés intègrent des capacités d'IA génératives basées sur de grands modèles.Les changements que les grands modèles apporteront à ces entreprises seront importants et précieux.

Qu'il s'agisse de fabriquer des modèles à grande échelle par lui-même ou de coopérer, chaque fabricant doit prêter attention à cette bataille de modèles à grande échelle.

Bien sûr, pour les différents fabricants de smartphones, les défis apportés par cette vague sont également évidents.Pour vraiment gagner cette bataille, de nombreuses difficultés doivent être surmontées.

Certaines personnes de l'industrie de l'IA ont déclaré à Zhishi que pour les fabricants qui souhaitent construire leurs propres modèles à grande échelle, l'accumulation de données, de puissance de calcul et de talents est indispensable, comme l'acquisition et le nettoyage de données de haute qualité à grande échelle, et la puissance de calcul Comment surmonter les défis au niveau du système , Formation comment rendre le coût contrôlable. Pour les fabricants qui adoptent le modèle de coopération, ils seront tous confrontés à la manière d'assurer un meilleur traitement collaboratif dans le cloud final, d'équilibrer les coûts et les avantages et d'explorer les modèles de coopération commerciale.

##Conclusion : modèle IA, rude bataille pour les fabricants de téléphones mobiles

Au nœud d'aujourd'hui, la bataille des maquettes de téléphones portables a commencé, les fabricants qui ont fait le premier pas ont déjà montré leurs cartes, et les fabricants qui n'ont pas bougé sont également en train de brasser. est sous-courant.

À en juger par les réalisations de l'assistant vocal existant associé au grand modèle, il est évident que le grand modèle AI améliorera l'expérience des smartphones.Le grand modèle AI aura également un impact profond sur le développement de diverses activités. gammes de fabricants de téléphones mobiles à l'avenir.Le grand modèle AI Il deviendra inévitablement la principale tendance de développement de l'industrie des technologies de suivi, et il deviendra également l'une des pistes technologiques clés auxquelles tout le monde prête attention.

Le modèle de l'IA est sans aucun doute une bataille difficile pour les fabricants de téléphones mobiles, mais on ne sait toujours pas qui apportera des produits ou des technologies révolutionnaires qui briseront la structure industrielle ou même renverseront le gameplay existant.

Face à l'avenir, la combinaison de grands modèles et d'assistants vocaux intelligents sera plus proche.Avec le suivi de divers géants de la technologie, la vague "d'évolution" des assistants vocaux intelligents sera imparable. Les nouveaux scénarios d'application, les nouveaux formulaires d'application et les nouvelles fonctions qui émergeront à l'avenir sont pleins d'imagination.