Source originale : Nouvelles de la science et de la technologie
Auteur : Zhangdao
Source de l’image : Généré par Unbounded AI
Dans le brouillard des affaires, ces « opportunités » apparemment dorées sont souvent un carcan qui piège les gens.
Les dernières nouvelles de CNBC indiquent que le géant mondial des puces Qualcomm a l’intention de supprimer environ 1 258 employés dans deux grandes bases en Californie. En fait, Qualcomm a longtemps envoyé cette « liste de morts » au département de l’emploi californien : 1 064 à San Diego et 194 à Santa Clara. Le tremblement de terre devrait éclater le 13 décembre.
Le rapport de Qualcomm du dernier trimestre a fait allusion à ce « bain de sang ». Du point de vue de la structure financière, les puces de téléphonie mobile sont la principale source de revenus de Qualcomm, représentant plus de la moitié, mais les revenus ont chuté de 21,6% en glissement annuel au troisième trimestre. La saturation du marché des smartphones, telle une main invisible, étouffe tranquillement les géants de l’amont de la supply chain.
La croissance du marché de la téléphonie mobile dépend désormais principalement du cycle de mise à niveau de l’appareil. Depuis 2019, le boom du remplacement des téléphones alimentés par la 5G dure depuis près de quatre ans. Mais Peter Richardson, analyste principal chez Counterpoint, a révélé une froide vérité : d’ici 2022, le cycle mondial de remplacement des téléphones portables aura atteint le plus long de 43 mois de l’histoire.
Au cours des cinq dernières années, l’industrie de la téléphonie mobile s’est efforcée de sortir de l’impasse en poursuivant la voie de l’innovation. Mais alors que même les leaders du marché comme Apple ont du mal à proposer de nouvelles fonctionnalités impressionnantes, d’autres fournisseurs ont du mal à maintenir leur position sur le marché. De plus en plus de consommateurs commencent à se demander quel est l’intérêt de passer à un nouveau téléphone mobile.
Certains experts de l’industrie ont souligné que le véritable point de rupture pourrait être la puissance derrière les logiciels, en particulier les grands modèles tels que LLM et Transformer dans le domaine de l’IA.
Bien que l’on ne sache pas comment maximiser ces potentiels, cela n’empêche pas les géants nationaux de la téléphonie mobile d’essayer de percer. Huami, OV et d’autres ont jeté leur dévolu sur les grands modèles d’IA et sont impatients d’ouvrir un nouveau champ de bataille.
**01 Téléphone portable Géant Bataille Grand Modèle Arène **
** Pendant un certain temps, les fabricants nationaux de téléphones mobiles semblent avoir rattrapé les feux de la rampe des grands modèles. **
Le 14 août, lors de la conférence de presse annuelle de Xiaomi, le grand modèle Xiaomi AI a été dévoilé, et il est devenu le centre d’attention en un instant. Sur les deux principales plates-formes d’essai de C- et CMMLU, il a remporté respectivement la dixième place et la première place en Chine.
Lei Jun a annoncé avec confiance que le grand modèle de 1,3 milliard de paramètres de Xiaomi fonctionnait parfaitement sur le téléphone mobile, et que sa force pouvait même correspondre au modèle de nuage de 6 milliards de paramètres dans certains scénarios. Le célèbre camarade de classe Xiaoai renforcera également la capacité des grands modèles d’IA, et le test d’invitation a débuté le jour de la conférence.
La fumée de loup visant le grand modèle d’IA ne monte pas seulement chez Xiaomi.
Dès la Huawei Developer Conference 2023 le 4 août, Yu Chengdong a agité la main et annoncé qu’HarmonyOS 4 bénéficierait de la bénédiction du « modèle Pangu ». Ce qui est différent, c’est que Huawei a décidé d’intégrer profondément le grand modèle dans le système de téléphonie mobile pour atteindre un niveau d’intégration plus élevé.
**Après Huami, vivo et OPPO continuent d’afficher leurs ambitions dans le domaine des grands modèles. **
Récemment, OPPO a annoncé la première série de tests publics de son nouveau « Xiaobu Assistant », qui a attiré l’attention de l’industrie. Ce produit est basé sur la technologie des grands modèles AndesGPT.
Le modèle AndesGPT est un modèle de langage génératif de haut niveau basé sur une architecture de cloud hybride basée sur l’équipe Andean Intelligent Cloud d’OPPO. Les utilisateurs peuvent participer à l’inscription à la version bêta publique de Xiaobu 1.0 en réveillant l’assistant vocal Xiaobu et en disant « Xiaobu Big Model ». Plus d’informations seront annoncées lors du lancement de ColorOS 14 le 16 novembre.
À l’instar de la publicité de ses pairs, AndesGPT a également remporté le titre de « Leader de l’industrie » lors de son introduction officielle, et ce modèle est fréquemment apparu sur de nombreuses listes d’examen faisant autorité.
Sur l’autre front, vivo a verrouillé le 1er novembre pour tenir sa conférence annuelle des développeurs. Lors de ce rassemblement, vivo dévoilera sa recherche et développement exclusifs de grands modèles d’IA et de nouveaux systèmes d’exploitation ; Et le très attendu OriginOS 4 sera également révélé.
Ce qui est particulièrement intéressant, c’est que la grande matrice de modèles d’IA créée par vivo est extrêmement riche, couvrant trois niveaux de paramètres de milliards, dizaines de milliards et centaines de milliards, soit un total de cinq modèles, visant à répondre à des scénarios d’application de base diversifiés.
De même, ce lot de produits, qui sont toujours derrière le voile, ont émergé dans de nombreuses revues faisant autorité. Les dernières données montrent que le grand modèle d’IA développé par vivo se classe au premier rang sur les deux principales plates-formes de C- et CMMLU.
Récemment, l’industrie de la téléphonie mobile a vu de grandes marques plonger un par un dans les profondeurs des modèles d’IA. ** La concurrence féroce sur le marché boursier fait espérer que les grands fabricants utilisent les nouvelles technologies pour se créer une image plus compétitive sur le marché haut de gamme. **
Un certain nombre de personnes ayant une connaissance approfondie de l’industrie estiment que mettre l’accent sur les avantages des fonctions d’IA est évidemment une partie importante de la stratégie des grands fabricants. Cela peut non seulement stimuler le désir des utilisateurs pour des produits haut de gamme, mais aussi faire grimper les prix des produits, créant ainsi des bénéfices plus lucratifs pour la marque.
Avec le passage du temps, la première vague de véritables « téléphones mobiles IA » est sur le point d’apparaître, et les deux prochaines années seront le moment de l’innovation en matière d’IA sur les téléphones mobiles.
02 Les grands modèles se disputent le mobile, et le chemin s’unifie progressivement
Bien que les fabricants de téléphones portables montrent dans la publicité qu’il est aussi facile de faire fonctionner de grands modèles sur des téléphones portables que de boire de l’eau et de manger**, en fonctionnement réel, les défis cachés dépassent de loin les attentes. **
Selon Luan Jian, chef de l’équipe des grands modèles du laboratoire d’IA du comité technique de Xiaomi, pour vraiment exécuter un grand modèle sur un téléphone mobile, les exigences en matière de matériel de téléphone mobile ne seront jamais faibles, en particulier le processeur et la mémoire.
Une fois qu’il occupe une trop grande partie de la mémoire de travail du téléphone, cela entraînera la limitation d’autres applications et peut même entraîner l’absence de réponse du téléphone, la réduction des performances globales ou, dans le pire des cas, le plantage direct.
De plus, la puissance de calcul est également un point clé dans le jugement. Il faut plusieurs secondes pour générer un personnage, ce qui est désastreux pour l’expérience utilisateur. Si l’on considère que la vitesse de lecture moyenne des gens est d’environ une douzaine de caractères chinois par seconde, la « vitesse de génération » du modèle doit être beaucoup plus élevée que cela.
Le problème de la consommation d’énergie ne peut être ignoré. De nombreuses démonstrations de modèles en ligne négligent souvent ce lien essentiel. La puce informatique soumise à une charge élevée fera chauffer rapidement le téléphone portable et, s’il est utilisé pendant une période aussi longue, cela causera inévitablement de graves dommages à la durée de vie de la batterie.
En résumé, le véritable défi du modèle de gros téléphone est de trouver un équilibre délicat entre la vitesse de traitement, la dissipation thermique et l’autonomie de la batterie. Par conséquent, l’industrie se concentre également sur la collaboration entre les appareils et le cloud. **
Il n’y a pas si longtemps, MediaTek et OPPO ont conclu un accord pour développer conjointement une solution de déploiement légère pour les grands modèles du côté final, dans le but de rendre la technologie des grands modèles plus proche de l’utilisation réelle des consommateurs.
Le 18 octobre, MediaTek a également annoncé une coopération approfondie et un débogage conjoint avec vivo dans le domaine de l’IA, réalisant l’atterrissage de 1 milliard et 7 milliards de modèles de langage de grande taille d’IA et de 1 milliard de modèles visuels d’IA du côté de la téléphonie mobile, apportant conjointement aux consommateurs une expérience innovante d’applications d’IA générative de bout en bout.
L’avantage du grand modèle de bout en bout est que les utilisateurs peuvent bénéficier d’une vitesse de réponse plus rapide et, en même temps, les données n’ont pas besoin d’être téléchargées dans le cloud, ce qui est plus sûr. À l’heure actuelle, de nombreux fabricants grand public développent des solutions pour déployer de grands modèles d’IA sur des terminaux mobiles afin d’atteindre l’objectif d’exécuter de grands modèles du côté final.
**Cependant, on ne peut pas supposer que le mobile seul résoudra tous les problèmes. **Comme Xiaomi l’a révélé, ils continueront à suivre la stratégie consistant à combiner les appareils et les clouds. Certaines fonctions ou capacités, si elles peuvent être implémentées via le modèle de bout en bout, n’ont pas besoin d’être transférées vers le cloud.
Si l’on examine la situation de Vivo, bien qu’il y ait un manque de données exactes, il est raisonnable de supposer qu’il adoptera également une stratégie de modèle à grande échelle qui combine le cloud et le sur site.
De par l’amplitude des paramètres de son grand modèle, les grands modèles de 66 milliards, 130 milliards et 175 milliards de nuages sont conçus pour assurer une puissance de traitement permettant de traiter des problèmes plus complexes. Des modèles locaux de l’ordre de 1 milliard et 7 milliards sont conçus pour garantir la confidentialité des utilisateurs, l’efficacité énergétique et la réactivité des utilisateurs.
Cela signifie que Vivo est susceptible d’adopter une approche device-cloud pour travailler ensemble, c’est-à-dire évaluer la complexité du problème pour décider de le traiter localement ou de le migrer vers le cloud.
La combinaison du cloud et des grands modèles locaux permet non seulement de réduire efficacement les coûts, mais aussi de répondre aux besoins des utilisateurs en matière de puissance de calcul, de performances, de consommation d’énergie et de protection de la vie privée, ce qui est sans aucun doute l’une des stratégies préférées pour intégrer les téléphones mobiles et les grands modèles d’IA.
03 Les fabricants emboîtent le pas, quelques défis potentiels
Certains acteurs de l’industrie considèrent les tentatives actuelles d’utiliser de grands modèles sur les téléphones mobiles comme une épée tranchante. Cependant, en allant profondément dans les coulisses, il est inévitable de révéler un sentiment de myopie qui répond à la situation plutôt que de vraiment chercher le changement. **
Tout d’abord, la définition du « grand modèle » est encore floue. Prenons l’exemple du modèle end-side de Xiaomi, son nombre de paramètres atteint 1,3 milliard, ce qui n’est pas très différent du paramètre 1,5B de GPT2, mais est-ce vraiment suffisant pour lui donner le titre de « grand modèle » ?
Il y a beaucoup de gens dans l’industrie qui ont jeté des doutes : la pratique des grands modèles du côté de la téléphonie mobile est plus pour répondre à l’essor à court terme du marché, plutôt que pour le véritable bond en avant de la technologie. Si les téléphones mobiles peuvent vraiment piloter de grands modèles sans effort, quelle est la signification de l’existence du géant des graphiques NVIDIA ?
De plus, afin d’adapter les grands modèles aux téléphones portables, les fabricants doivent les comprimer drastiquement grâce à des stratégies telles que l’élagage, la distillation et la quantification. Dans le cas de vivo, qui peut réduire les paramètres de 175 milliards à seulement 1 milliard grâce à l’écrêtage et à la distillation continus du modèle, il convient de se demander si cette opération n’est pas trop tirée par les cheveux.
Reconnaître qu’un grand modèle n’est pas qu’une simple superposition du nombre de paramètres, sa véritable valeur réside dans la « profondeur » de l’apprentissage profond. Un grand nombre de paramètres signifie plus d’informations, de connaissances et de contextes capturés.
Par conséquent, lorsqu’un modèle avec des centaines de milliards de paramètres est réduit à des milliards de paramètres, il est voué à perdre une partie de la profondeur d’apprentissage d’origine. Pour les applications quotidiennes de l’IA, l’impact n’est peut-être pas significatif, mais pour les utilisateurs haut de gamme qui attendent de l’IA des informations et une compréhension approfondies, cette perte est inacceptable.
**Même si Xiaomi affirme que son modèle côté extrémité peut être comparé au modèle cloud, les détails ne peuvent être ignorés. **Le modèle end-side avec 1,3 milliard de paramètres est naturellement difficile à comparer avec le modèle cloud avec des centaines de milliards de paramètres. Afin de combler cet écart, Xiaomi peut choisir de rendre son modèle côté end comparable au modèle cloud dans des scénarios spécifiques, mais il ne peut pas être entièrement comparé.
De ces niveaux, la mise en œuvre actuelle de grands modèles sur les téléphones mobiles semble être un peu « exagérée ». Pour l’utilisateur moyen, il ne se soucie pas vraiment du nombre de paramètres du modèle, mais plutôt de la valeur qu’il peut lui apporter. Bien que ces tentatives de vivo et Xiaomi soient encourageantes, elles devraient également réfléchir à leur véritable objectif et à leur signification.
De plus, bien que de nombreux fabricants de téléphones mobiles explorent activement l’application de grands modèles d’IA, l’avenir est encore plein d’inconnues. **Sur le marché de la téléphonie mobile, la prochaine application « tueuse » sera révélée en temps voulu. **
À l’heure actuelle, l’application spécifique des fabricants de téléphones mobiles aux grands modèles d’IA semble être trop axée sur les « assistants vocaux ». Cette recherche à sens unique ne répond-elle qu’à la tendance de la science et de la technologie, plutôt que de vraiment prendre en compte les besoins réels des utilisateurs ?
Si l’on prend l’exemple du récent partage du nouveau modèle d’IA de vivo par des blogueurs bien connus, bien qu’il ait été dévoilé dans OriginOS 4 avec un nouveau look, le noyau n’est pas très subversif par rapport à l’assistant vocal actuel.
En bref, l’adoption réelle des modèles d’IA dans les téléphones mobiles est encore chancelante. Les efforts d’aujourd’hui ne sont que le premier voyage de l’iceberg.
Ressources:
Tencent Technology-Xiaomi'' 'ambition' de grand modèle commence par la fin
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
Ne mettez pas de gros modèles dans votre téléphone
Source originale : Nouvelles de la science et de la technologie
Auteur : Zhangdao
Dans le brouillard des affaires, ces « opportunités » apparemment dorées sont souvent un carcan qui piège les gens.
Les dernières nouvelles de CNBC indiquent que le géant mondial des puces Qualcomm a l’intention de supprimer environ 1 258 employés dans deux grandes bases en Californie. En fait, Qualcomm a longtemps envoyé cette « liste de morts » au département de l’emploi californien : 1 064 à San Diego et 194 à Santa Clara. Le tremblement de terre devrait éclater le 13 décembre.
Le rapport de Qualcomm du dernier trimestre a fait allusion à ce « bain de sang ». Du point de vue de la structure financière, les puces de téléphonie mobile sont la principale source de revenus de Qualcomm, représentant plus de la moitié, mais les revenus ont chuté de 21,6% en glissement annuel au troisième trimestre. La saturation du marché des smartphones, telle une main invisible, étouffe tranquillement les géants de l’amont de la supply chain.
La croissance du marché de la téléphonie mobile dépend désormais principalement du cycle de mise à niveau de l’appareil. Depuis 2019, le boom du remplacement des téléphones alimentés par la 5G dure depuis près de quatre ans. Mais Peter Richardson, analyste principal chez Counterpoint, a révélé une froide vérité : d’ici 2022, le cycle mondial de remplacement des téléphones portables aura atteint le plus long de 43 mois de l’histoire.
Au cours des cinq dernières années, l’industrie de la téléphonie mobile s’est efforcée de sortir de l’impasse en poursuivant la voie de l’innovation. Mais alors que même les leaders du marché comme Apple ont du mal à proposer de nouvelles fonctionnalités impressionnantes, d’autres fournisseurs ont du mal à maintenir leur position sur le marché. De plus en plus de consommateurs commencent à se demander quel est l’intérêt de passer à un nouveau téléphone mobile.
Certains experts de l’industrie ont souligné que le véritable point de rupture pourrait être la puissance derrière les logiciels, en particulier les grands modèles tels que LLM et Transformer dans le domaine de l’IA.
Bien que l’on ne sache pas comment maximiser ces potentiels, cela n’empêche pas les géants nationaux de la téléphonie mobile d’essayer de percer. Huami, OV et d’autres ont jeté leur dévolu sur les grands modèles d’IA et sont impatients d’ouvrir un nouveau champ de bataille.
**01 Téléphone portable Géant Bataille Grand Modèle Arène **
** Pendant un certain temps, les fabricants nationaux de téléphones mobiles semblent avoir rattrapé les feux de la rampe des grands modèles. **
Le 14 août, lors de la conférence de presse annuelle de Xiaomi, le grand modèle Xiaomi AI a été dévoilé, et il est devenu le centre d’attention en un instant. Sur les deux principales plates-formes d’essai de C- et CMMLU, il a remporté respectivement la dixième place et la première place en Chine.
Lei Jun a annoncé avec confiance que le grand modèle de 1,3 milliard de paramètres de Xiaomi fonctionnait parfaitement sur le téléphone mobile, et que sa force pouvait même correspondre au modèle de nuage de 6 milliards de paramètres dans certains scénarios. Le célèbre camarade de classe Xiaoai renforcera également la capacité des grands modèles d’IA, et le test d’invitation a débuté le jour de la conférence.
La fumée de loup visant le grand modèle d’IA ne monte pas seulement chez Xiaomi.
Dès la Huawei Developer Conference 2023 le 4 août, Yu Chengdong a agité la main et annoncé qu’HarmonyOS 4 bénéficierait de la bénédiction du « modèle Pangu ». Ce qui est différent, c’est que Huawei a décidé d’intégrer profondément le grand modèle dans le système de téléphonie mobile pour atteindre un niveau d’intégration plus élevé.
**Après Huami, vivo et OPPO continuent d’afficher leurs ambitions dans le domaine des grands modèles. **
Récemment, OPPO a annoncé la première série de tests publics de son nouveau « Xiaobu Assistant », qui a attiré l’attention de l’industrie. Ce produit est basé sur la technologie des grands modèles AndesGPT.
Le modèle AndesGPT est un modèle de langage génératif de haut niveau basé sur une architecture de cloud hybride basée sur l’équipe Andean Intelligent Cloud d’OPPO. Les utilisateurs peuvent participer à l’inscription à la version bêta publique de Xiaobu 1.0 en réveillant l’assistant vocal Xiaobu et en disant « Xiaobu Big Model ». Plus d’informations seront annoncées lors du lancement de ColorOS 14 le 16 novembre.
À l’instar de la publicité de ses pairs, AndesGPT a également remporté le titre de « Leader de l’industrie » lors de son introduction officielle, et ce modèle est fréquemment apparu sur de nombreuses listes d’examen faisant autorité.
Sur l’autre front, vivo a verrouillé le 1er novembre pour tenir sa conférence annuelle des développeurs. Lors de ce rassemblement, vivo dévoilera sa recherche et développement exclusifs de grands modèles d’IA et de nouveaux systèmes d’exploitation ; Et le très attendu OriginOS 4 sera également révélé.
Ce qui est particulièrement intéressant, c’est que la grande matrice de modèles d’IA créée par vivo est extrêmement riche, couvrant trois niveaux de paramètres de milliards, dizaines de milliards et centaines de milliards, soit un total de cinq modèles, visant à répondre à des scénarios d’application de base diversifiés.
De même, ce lot de produits, qui sont toujours derrière le voile, ont émergé dans de nombreuses revues faisant autorité. Les dernières données montrent que le grand modèle d’IA développé par vivo se classe au premier rang sur les deux principales plates-formes de C- et CMMLU.
Un certain nombre de personnes ayant une connaissance approfondie de l’industrie estiment que mettre l’accent sur les avantages des fonctions d’IA est évidemment une partie importante de la stratégie des grands fabricants. Cela peut non seulement stimuler le désir des utilisateurs pour des produits haut de gamme, mais aussi faire grimper les prix des produits, créant ainsi des bénéfices plus lucratifs pour la marque.
Avec le passage du temps, la première vague de véritables « téléphones mobiles IA » est sur le point d’apparaître, et les deux prochaines années seront le moment de l’innovation en matière d’IA sur les téléphones mobiles.
02 Les grands modèles se disputent le mobile, et le chemin s’unifie progressivement
Bien que les fabricants de téléphones portables montrent dans la publicité qu’il est aussi facile de faire fonctionner de grands modèles sur des téléphones portables que de boire de l’eau et de manger**, en fonctionnement réel, les défis cachés dépassent de loin les attentes. **
Selon Luan Jian, chef de l’équipe des grands modèles du laboratoire d’IA du comité technique de Xiaomi, pour vraiment exécuter un grand modèle sur un téléphone mobile, les exigences en matière de matériel de téléphone mobile ne seront jamais faibles, en particulier le processeur et la mémoire.
Une fois qu’il occupe une trop grande partie de la mémoire de travail du téléphone, cela entraînera la limitation d’autres applications et peut même entraîner l’absence de réponse du téléphone, la réduction des performances globales ou, dans le pire des cas, le plantage direct.
De plus, la puissance de calcul est également un point clé dans le jugement. Il faut plusieurs secondes pour générer un personnage, ce qui est désastreux pour l’expérience utilisateur. Si l’on considère que la vitesse de lecture moyenne des gens est d’environ une douzaine de caractères chinois par seconde, la « vitesse de génération » du modèle doit être beaucoup plus élevée que cela.
Le problème de la consommation d’énergie ne peut être ignoré. De nombreuses démonstrations de modèles en ligne négligent souvent ce lien essentiel. La puce informatique soumise à une charge élevée fera chauffer rapidement le téléphone portable et, s’il est utilisé pendant une période aussi longue, cela causera inévitablement de graves dommages à la durée de vie de la batterie.
En résumé, le véritable défi du modèle de gros téléphone est de trouver un équilibre délicat entre la vitesse de traitement, la dissipation thermique et l’autonomie de la batterie. Par conséquent, l’industrie se concentre également sur la collaboration entre les appareils et le cloud. **
Le 18 octobre, MediaTek a également annoncé une coopération approfondie et un débogage conjoint avec vivo dans le domaine de l’IA, réalisant l’atterrissage de 1 milliard et 7 milliards de modèles de langage de grande taille d’IA et de 1 milliard de modèles visuels d’IA du côté de la téléphonie mobile, apportant conjointement aux consommateurs une expérience innovante d’applications d’IA générative de bout en bout.
L’avantage du grand modèle de bout en bout est que les utilisateurs peuvent bénéficier d’une vitesse de réponse plus rapide et, en même temps, les données n’ont pas besoin d’être téléchargées dans le cloud, ce qui est plus sûr. À l’heure actuelle, de nombreux fabricants grand public développent des solutions pour déployer de grands modèles d’IA sur des terminaux mobiles afin d’atteindre l’objectif d’exécuter de grands modèles du côté final.
**Cependant, on ne peut pas supposer que le mobile seul résoudra tous les problèmes. **Comme Xiaomi l’a révélé, ils continueront à suivre la stratégie consistant à combiner les appareils et les clouds. Certaines fonctions ou capacités, si elles peuvent être implémentées via le modèle de bout en bout, n’ont pas besoin d’être transférées vers le cloud.
Si l’on examine la situation de Vivo, bien qu’il y ait un manque de données exactes, il est raisonnable de supposer qu’il adoptera également une stratégie de modèle à grande échelle qui combine le cloud et le sur site.
De par l’amplitude des paramètres de son grand modèle, les grands modèles de 66 milliards, 130 milliards et 175 milliards de nuages sont conçus pour assurer une puissance de traitement permettant de traiter des problèmes plus complexes. Des modèles locaux de l’ordre de 1 milliard et 7 milliards sont conçus pour garantir la confidentialité des utilisateurs, l’efficacité énergétique et la réactivité des utilisateurs.
Cela signifie que Vivo est susceptible d’adopter une approche device-cloud pour travailler ensemble, c’est-à-dire évaluer la complexité du problème pour décider de le traiter localement ou de le migrer vers le cloud.
La combinaison du cloud et des grands modèles locaux permet non seulement de réduire efficacement les coûts, mais aussi de répondre aux besoins des utilisateurs en matière de puissance de calcul, de performances, de consommation d’énergie et de protection de la vie privée, ce qui est sans aucun doute l’une des stratégies préférées pour intégrer les téléphones mobiles et les grands modèles d’IA.
03 Les fabricants emboîtent le pas, quelques défis potentiels
Certains acteurs de l’industrie considèrent les tentatives actuelles d’utiliser de grands modèles sur les téléphones mobiles comme une épée tranchante. Cependant, en allant profondément dans les coulisses, il est inévitable de révéler un sentiment de myopie qui répond à la situation plutôt que de vraiment chercher le changement. **
Tout d’abord, la définition du « grand modèle » est encore floue. Prenons l’exemple du modèle end-side de Xiaomi, son nombre de paramètres atteint 1,3 milliard, ce qui n’est pas très différent du paramètre 1,5B de GPT2, mais est-ce vraiment suffisant pour lui donner le titre de « grand modèle » ?
Il y a beaucoup de gens dans l’industrie qui ont jeté des doutes : la pratique des grands modèles du côté de la téléphonie mobile est plus pour répondre à l’essor à court terme du marché, plutôt que pour le véritable bond en avant de la technologie. Si les téléphones mobiles peuvent vraiment piloter de grands modèles sans effort, quelle est la signification de l’existence du géant des graphiques NVIDIA ?
De plus, afin d’adapter les grands modèles aux téléphones portables, les fabricants doivent les comprimer drastiquement grâce à des stratégies telles que l’élagage, la distillation et la quantification. Dans le cas de vivo, qui peut réduire les paramètres de 175 milliards à seulement 1 milliard grâce à l’écrêtage et à la distillation continus du modèle, il convient de se demander si cette opération n’est pas trop tirée par les cheveux.
Reconnaître qu’un grand modèle n’est pas qu’une simple superposition du nombre de paramètres, sa véritable valeur réside dans la « profondeur » de l’apprentissage profond. Un grand nombre de paramètres signifie plus d’informations, de connaissances et de contextes capturés.
Par conséquent, lorsqu’un modèle avec des centaines de milliards de paramètres est réduit à des milliards de paramètres, il est voué à perdre une partie de la profondeur d’apprentissage d’origine. Pour les applications quotidiennes de l’IA, l’impact n’est peut-être pas significatif, mais pour les utilisateurs haut de gamme qui attendent de l’IA des informations et une compréhension approfondies, cette perte est inacceptable.
De ces niveaux, la mise en œuvre actuelle de grands modèles sur les téléphones mobiles semble être un peu « exagérée ». Pour l’utilisateur moyen, il ne se soucie pas vraiment du nombre de paramètres du modèle, mais plutôt de la valeur qu’il peut lui apporter. Bien que ces tentatives de vivo et Xiaomi soient encourageantes, elles devraient également réfléchir à leur véritable objectif et à leur signification.
De plus, bien que de nombreux fabricants de téléphones mobiles explorent activement l’application de grands modèles d’IA, l’avenir est encore plein d’inconnues. **Sur le marché de la téléphonie mobile, la prochaine application « tueuse » sera révélée en temps voulu. **
À l’heure actuelle, l’application spécifique des fabricants de téléphones mobiles aux grands modèles d’IA semble être trop axée sur les « assistants vocaux ». Cette recherche à sens unique ne répond-elle qu’à la tendance de la science et de la technologie, plutôt que de vraiment prendre en compte les besoins réels des utilisateurs ?
Si l’on prend l’exemple du récent partage du nouveau modèle d’IA de vivo par des blogueurs bien connus, bien qu’il ait été dévoilé dans OriginOS 4 avec un nouveau look, le noyau n’est pas très subversif par rapport à l’assistant vocal actuel.
En bref, l’adoption réelle des modèles d’IA dans les téléphones mobiles est encore chancelante. Les efforts d’aujourd’hui ne sont que le premier voyage de l’iceberg.
Ressources:
Tencent Technology-Xiaomi'' 'ambition' de grand modèle commence par la fin