" L'IA est l'arc et la flèche du néolithique. " La capacité d'apprentissage formée par l'IA dépend de l'échelle des paramètres. GPT-2 compte environ 1,5 milliard de paramètres, tandis que le plus grand modèle de GPT-3 en compte 175 milliards, soit une augmentation de deux ordres de grandeur. Selon les spéculations des médias mais des informations non confirmées, les paramètres du GPT-4 pourraient atteindre une échelle de 100 000 milliards.
Cet article traite principalement : des capacités et de la construction, des opportunités et des défis de la plate-forme interactive d'IA dans la nouvelle ère. Contrairement à certains points de vue traditionnels selon lesquels la construction de l'intelligence artificielle est principalement une construction matérielle, Yang Jihong, directeur adjoint du Centre des nouveaux médias audiovisuels de la Station centrale de radio et de télévision de Chine, part du point de vue du « peuple » et souligne que « le peuple », c'est-à-dire que les utilisateurs sont la bataille décisive dans la bataille de l'intelligence artificielle. Ressources stratégiques dans la campagne. Elle estime que la « technologie douce » est la « voie d'or » pour que l'innovation technologique permette de dépasser dans les virages et de changer de voie. Saisissez fermement le « gagnant » des « scénarios d'utilisation des utilisateurs ».
Parler de la puissance dure et de la puissance douce de la plateforme interactive d'IA
01 Préface La seule constante est le changement
L’innovation ne s’arrête jamais, de nouvelles technologies continuent d’émerger et l’innovation technologique portée par l’IA change profondément notre façon de vivre et de travailler.
Si la popularisation des ordinateurs, des réseaux et d’Internet est une vague de changement provoquée par les ordinateurs, alors l’invasion de l’IA est encore plus puissante et globale. Les industries et les professions traditionnelles sont touchées et bouleversées par la technologie de l'intelligence artificielle, et de nombreux emplois traditionnels sont remplacés. Il est nécessaire d'apprendre et de s'adapter continuellement aux nouvelles technologies et aux nouveaux modèles.
Lorsque l'IA est dans cet article, j'essaie de proposer une nouvelle perspective et de laisser chacun examiner les capacités et la construction, les opportunités et les défis de la plate-forme interactive d'IA dans la nouvelle ère. Contrairement à certaines vues traditionnelles selon lesquelles la construction de l'intelligence artificielle est principalement une question de construction matérielle, j'essaie de déconstruire les capacités de l'intelligence artificielle en constante évolution à partir d'une dimension supérieure en utilisant la puissance dure et la puissance douce. Du point de vue des « personnes », j'insiste sur « les personnes ». Autrement dit, les utilisateurs constituent la ressource stratégique dans la bataille décisive contre l’intelligence artificielle.
02Le « hard power » et le « soft power » des plateformes interactives d’IA
1. La puissance dure dans l'IA interactive
1.1 Matériel informatique représenté par CPU/GPU
Le matériel informatique est le fondement de l’IA. Tout d’abord, le matériel informatique détermine directement la capacité de l’IA à gérer des tâches informatiques complexes. Le traitement de grandes quantités de données, le calcul et la formation d'algorithmes d'apprentissage en profondeur, etc. nécessitent une puissance de calcul suffisante. Les performances du CPU/GPU déterminent directement la vitesse de calcul et l'efficacité de l'IA. Deuxièmement, en tant que périphérique matériel, le CPU/GPU doit prendre en charge l'environnement d'exploitation du logiciel IA. L’IA implique un grand nombre de tâches de traitement de données et de calcul, et nécessite un environnement logiciel spécial pour prendre en charge son fonctionnement. De plus, le matériel informatique doit également être hautement évolutif et programmable. Les scénarios d'application de l'IA sont répandus et différentes solutions d'IA doivent être fournies pour différents scénarios et applications. Ce n'est que lorsque le matériel informatique est hautement évolutif que l'allocation dynamique et l'expansion des ressources peuvent être rapidement réalisées. Enfin, le matériel informatique doit être programmable afin que les développeurs puissent optimiser rapidement les algorithmes et les solutions. La figure suivante montre la composition matérielle de base et les fonctions de la plate-forme du système AI :
2. Le « soft power » est le ballast de l'IA interactive
2.1 Le graphe de connaissances façonne le marché de base de l'IA
Le graphe de connaissances de l'IA est une base de connaissances structurée, qui contient un large éventail de connaissances dans un domaine et est utilisée pour soutenir l'apprentissage et le raisonnement des systèmes d'intelligence artificielle. Un graphe de connaissances se compose d'entités (telles que des personnes, des lieux, des événements, etc.) et des relations entre elles. Il peut inclure différents types de connaissances, notamment des définitions, des attributs, des catégories, des associations, etc.
La construction et l’utilisation de graphes de connaissances constituent une partie importante de la technologie de l’IA. Il peut aider les systèmes d’IA à acquérir, organiser et stocker des connaissances et des informations sémantiques dans divers domaines, et à améliorer la capacité cognitive et l’intelligence des systèmes d’IA. Les graphiques de connaissances peuvent être appliqués à de nombreux aspects tels que le traitement du langage naturel, les systèmes de recommandation, les systèmes de questions-réponses et la recherche d'informations.
Pour donner quelques exemples familiers, Google Knowledge Graph, Baidu Encyclopedia et Wikipedia sont tous des graphiques de connaissances.
2.2 Mise à niveau des capacités de conduite au niveau de l'algorithme
2.2.1 Importance des algorithmes
Les algorithmes sont un moyen important pour accomplir diverses tâches de l’IA. La conception et l’amélioration des algorithmes sont également essentielles pour promouvoir le développement et le progrès de l’IA. L’importance des algorithmes se reflète dans les trois aspects suivants :
① Affecte la précision et l'efficacité du modèle : différents algorithmes affecteront la précision et l'efficacité du calcul du modèle. Choisir l'algorithme approprié peut améliorer la précision du modèle et réduire le temps de calcul.
② Répondre à différents besoins et scénarios : différents scénarios et applications ont des besoins différents, et différents algorithmes doivent être sélectionnés pour y répondre.
③ Fournir une aide à la décision : en fonction de différents problèmes et données, l'algorithme peut fournir une aide à la décision, ainsi qu'analyser et prédire efficacement les données.
2.2.2 Algorithmes courants
De nombreux algorithmes sont utilisés en IA pour s’adapter à différents scénarios et besoins d’application. Il existe quatre catégories courantes d'algorithmes d'apprentissage automatique, d'algorithmes d'apprentissage profond, d'algorithmes de traitement du langage naturel et d'algorithmes de recommandation.
① Algorithme d'apprentissage automatique :
(1) Algorithmes d'apprentissage supervisé : tels que la régression linéaire, la régression logistique, les machines à vecteurs de support, les arbres de décision, les forêts aléatoires, etc.
(2) Algorithmes d'apprentissage non supervisés : tels que le clustering K-Means, le clustering hiérarchique, l'algorithme d'attente-maximisation, etc.
② Algorithme d'apprentissage profond :
(1) Réseau de neurones convolutifs (CNN) : principalement utilisé dans les tâches de traitement d'images et de vision par ordinateur.
(2) Réseau neuronal récurrent (RNN) : principalement utilisé dans les tâches de sérialisation telles que le traitement du langage naturel et le traitement de la parole.
(3) Generative Adversarial Network (GAN) : principalement utilisé pour des tâches telles que la génération d’images et de texte.
(4) Réseau de transformateurs (Transformer) : principalement utilisé dans des tâches telles que la traduction automatique et la synthèse de texte.
③ Algorithme de traitement du langage naturel :
(1) Extraction de mots clés : comme l'algorithme TF-IDF, l'algorithme TextRank, etc.
(2) Reconnaissance d'entité nommée : comme le modèle de champ aléatoire conditionnel, etc.
(3) Algorithmes d'analyse syntaxique : tels que les modèles de règles, les modèles de transfert, etc.
(4) Algorithmes d'analyse des sentiments : tels que les modèles de dictionnaire, les modèles d'apprentissage automatique, etc.
④ Algorithme de recommandation :
(1) Recommandation basée sur le contenu : telle que l'algorithme TF-IDF, l'algorithme LDA, etc.
(2) Recommandation basée sur un filtrage collaboratif : tel que UserCF, ItemCF, algorithme LFM, etc.
(3) Recommandation d'apprentissage profond : comme DeepFM, Wide&Deep, DIN, BERT4Rec, etc.
Les algorithmes sont la pierre angulaire de l’intelligence artificielle pour accomplir diverses tâches. À mesure que la technologie continue de se développer et d’innover, de nouveaux algorithmes d’IA apparaissent constamment. La clé pour améliorer les capacités de l’IA est de sélectionner et d’adapter le bon algorithme au bon scénario. De ce point de vue, la clé de l’intelligence artificielle réside toujours dans la conception humaine.
2.3 Les scénarios de formation affectent le taux d'évolution
2.3.1 Importance de la formation
La formation est le processus par lequel un modèle d’IA apprend et acquiert des connaissances et des compétences, elle est donc cruciale pour l’intelligence artificielle.
① Améliorer la précision du modèle : grâce à une sélection raisonnable d'ensembles de données et à des temps de formation suffisants, le modèle d'IA peut progressivement apprendre les modèles et les caractéristiques des données, améliorant ainsi l'exactitude et la précision du modèle.
② Prise en charge de la capacité de généralisation du modèle : la formation permet au modèle d'avoir une capacité de généralisation, c'est-à-dire qu'il peut gérer de nouveaux échantillons de données en dehors de l'ensemble de formation et jouer un rôle dans d'autres situations.
③ Améliorer la robustesse du modèle : la formation peut permettre au modèle d'IA d'avoir une meilleure capacité de traitement et une meilleure robustesse pour certaines données bruitées, falsifiées et données d'interférence.
④ Mettre à jour et itérer le modèle d'IA : grâce à la formation, le modèle d'IA peut être continuellement mis à jour et amélioré pour répondre aux exigences réelles de l'application.
⑤ Améliorer l'interprétabilité des modèles : L'interprétabilité des modèles de données d'IA est très importante dans de nombreux domaines. Grâce à la formation, l’interprétabilité et la transparence du modèle peuvent être améliorées, le rendant ainsi plus facile à comprendre et à utiliser.
2.3.2 Les scénarios de formation affectent le taux d'évolution
La définition et la sélection de scénarios de formation sont cruciales pour les performances et les performances du modèle d'IA, qui déterminent directement la qualité et la convivialité du modèle. Au cours du processus de formation, il est nécessaire de prétraiter les données, de sélectionner les algorithmes appropriés, d'optimiser les hyperparamètres des algorithmes, de contrôler le sous-ajustement et le sur-ajustement, etc., afin de rendre les résultats de la formation du modèle d'IA plus précis et plus fiables. Ces tâches les plus importantes reposent essentiellement sur une participation manuelle, ce qui reflète également le statut des « personnes » en tant que ressource stratégique centrale.
① Scénario d'apprentissage supervisé : en fournissant un ensemble de données étiquetées au modèle, indiquez à quelle catégorie ou valeur cible appartiennent les données, etc.
② Scénario d'apprentissage non supervisé : l'ensemble de données d'entraînement n'a pas d'étiquettes ni de valeurs cibles spécifiques. Le modèle doit découvrir lui-même les modèles et les caractéristiques des données en fonction des caractéristiques statistiques de l'ensemble de données pour traiter et classer les données.
③ Scénario d'apprentissage semi-supervisé : contient des données étiquetées et non étiquetées, et le modèle doit apprendre à classer ces données non étiquetées.
④ Scénario d'apprentissage par renforcement : le modèle interagit en permanence avec l'environnement, observe et interagit avec l'environnement à chaque instant, et ajuste la stratégie du modèle en fonction des informations de retour.
⑤ Scénarios de traitement du langage naturel : l'ensemble de données de formation est généralement constitué d'une grande quantité de données textuelles, et le modèle doit apprendre à comprendre les données textuelles et la relation entre les textes.
⑥ Scénario de vision par ordinateur : l'ensemble de données de formation est généralement constitué de données d'image ou de vidéo, et le modèle doit apprendre à comprendre et à traiter ces données d'image pour accomplir des tâches telles que la détection de cible et la reconnaissance d'image.
03 Les « scénarios d'utilisation des utilisateurs » sont des ressources stratégiques qui sont globalement rares.
Utilisateurs limités, données illimitées
Actuellement, il existe certaines limites et limitations dans l'amélioration du niveau de précision et d'intelligence des produits d'intelligence artificielle en développant le matériel informatique et en élargissant les bases de données. D'une part, l'expansion du matériel informatique et l'expansion des bases de données nécessitent beaucoup d'investissements en main-d'œuvre, en ressources financières et en temps, et à mesure que l'échelle du système continue de croître, la demande de ressources augmentera. D’un autre côté, le développement technologique actuel dans le domaine de l’intelligence artificielle est encore confronté à de nombreux facteurs incertains, tels que l’efficacité des algorithmes et l’effet de l’auto-apprentissage. Ces facteurs affecteront l'espace de développement des produits d'intelligence artificielle.
Comparée aux données illimitées, la concurrence pour les ressources des utilisateurs est un jeu à somme nulle. Si un produit d'intelligence artificielle compte un grand nombre d'utilisateurs et est utilisé fréquemment, il peut réaliser la mise à niveau intelligente du produit d'intelligence artificielle en surveillant et en analysant les données d'utilisation des utilisateurs, en améliorant continuellement le système du produit et en augmentant la valeur d'utilisation.
Plus d'utilisateurs créent une plateforme plus avancée ; une plateforme plus avancée crée une meilleure expérience ; une meilleure expérience attire plus d'utilisateurs.
Les différences de capacités des plateformes d’IA selon les différentes idéologies à l’avenir sont fondamentalement déterminées par les différences dans le nombre d’utilisateurs et la fréquence d’utilisation. Pour gagner plus d'utilisateurs et une utilisation fréquente, il est nécessaire d'améliorer et d'optimiser continuellement l'interface utilisateur du produit, les fonctions, la qualité du service, le marketing, etc., pour répondre en permanence aux besoins des utilisateurs et améliorer l'expérience utilisateur, et pour gagner la confiance et la fidélité des utilisateurs. .
L'effet Matthew cannibalise les baleines
L'effet Matthew fait référence au phénomène selon lequel, sous certaines conditions, des talents exceptionnels sont continuellement soutenus, ce qui entraîne un écart croissant entre les talents.
Dans le processus de développement de l'intelligence artificielle, il est souvent plus facile pour les technologies avancées ou les entreprises avancées d'obtenir le premier groupe d'utilisateurs et de parts de marché, ce qui se traduit par davantage d'investissements et de meilleurs retours. Ce phénomène renforcera encore la position de leader du secteur.
D’un autre côté, le développement de la technologie de l’IA nécessite également un grand nombre de talents professionnels. Les entreprises et plateformes de premier plan ont les ressources nécessaires pour continuer à investir davantage de fonds et de ressources pour obtenir des avantages en matière de talents, faisant ainsi perdre complètement aux retardataires leur capacité à rattraper leur retard.
Le plus important est que les principales plates-formes offrent une meilleure expérience utilisateur.Actuellement, l'effet Matthew sur le marché de l'IA to C est devenu important. Du point de vue de la psychologie des utilisateurs, les utilisateurs habitués à utiliser un type de produit d’IA doivent réapprendre et s’adapter lorsqu’ils passent à un autre produit du même type, ce qui demande beaucoup de temps et d’énergie. Du point de vue de l'échelle des données, l'accumulation d'une grande quantité de données utilisateur est d'une grande importance pour l'effet d'utilisation et l'analyse du produit. La conservation des données utilisateur est la clé de la création de tels produits. Les nouveaux produits présentent des inconvénients inhérents. L'« effet volant » inhérent aux systèmes d'IA amplifie encore « l'effet Matthew » dans l'expérience utilisateur.
##04Conclusion
Une déclaration intéressante : l’IA est l’arc et la flèche du néolithique.
La capacité d'apprentissage de la formation de l'IA dépend de l'échelle des paramètres. Selon l'expérience universitaire, la capacité d'apprentissage des réseaux de neurones profonds est positivement corrélée à l'échelle des paramètres du modèle, c'est-à-dire que plus il y a de paramètres du modèle, plus la capacité d'apprentissage est forte. GPT-2 compte environ 1,5 milliard de paramètres, tandis que le plus grand modèle de GPT-3 en compte 175 milliards, soit une augmentation de deux ordres de grandeur. Selon les spéculations des médias mais des informations non confirmées, les paramètres du GPT-4 pourraient atteindre une échelle de 100 000 milliards.
Certains experts de l'industrie estiment que la technologie dure fournit des composants et des interfaces matérielles clés pour le développement de la « technologie douce » et innove en fonction des besoins de la chaîne d'approvisionnement de la « technologie douce ». La « technologie douce » est la « voie d'or » permettant à l'innovation scientifique et technologique de dépasser dans les virages et de changer de voie.
CCTV a trouvé une combinaison efficace : tout d'abord, elle affine les besoins des utilisateurs dans une série d'orientations d'autonomisation de l'IA telles que l'assistance médicale, l'assistance agricole, l'assistance beauté et l'assistance aux étudiants, puis élève l'ensemble de la station grâce à une correspondance sémantique de recherche floue. Les ressources construisent des modèles d'utilisation à haute fréquence dans divers scénarios d'application, formant un auto-apprentissage auto-organisé de la « puissance douce » telle que les bases de connaissances et les algorithmes, ce qui force la construction d'une puissance dure telle que la puissance de calcul GPU et la bande passante CDN. Saisissez fermement le « gagnant » des « scénarios d'utilisation des utilisateurs ».
Ce qui est passionnant, c'est que l'orientation technique du GPT est désormais claire et qu'il n'y a aucun obstacle technique insurmontable. Nous pouvons utiliser l'esprit de « long terme » dans lequel les Chinois sont les meilleurs pour tirer avec l'arc et les flèches de cet « âge néolithique » le plus précisément et le plus loin possible.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
Opinion | Les "scénarios d'utilisation des utilisateurs" sont la clé du développement des plateformes d'IA
Original : Yang Jihong
**Source : **AI Dark Horse
Introduction à l'IA Dark Horse 👉
" L'IA est l'arc et la flèche du néolithique. " La capacité d'apprentissage formée par l'IA dépend de l'échelle des paramètres. GPT-2 compte environ 1,5 milliard de paramètres, tandis que le plus grand modèle de GPT-3 en compte 175 milliards, soit une augmentation de deux ordres de grandeur. Selon les spéculations des médias mais des informations non confirmées, les paramètres du GPT-4 pourraient atteindre une échelle de 100 000 milliards.
Cet article traite principalement : des capacités et de la construction, des opportunités et des défis de la plate-forme interactive d'IA dans la nouvelle ère. Contrairement à certains points de vue traditionnels selon lesquels la construction de l'intelligence artificielle est principalement une construction matérielle, Yang Jihong, directeur adjoint du Centre des nouveaux médias audiovisuels de la Station centrale de radio et de télévision de Chine, part du point de vue du « peuple » et souligne que « le peuple », c'est-à-dire que les utilisateurs sont la bataille décisive dans la bataille de l'intelligence artificielle. Ressources stratégiques dans la campagne. Elle estime que la « technologie douce » est la « voie d'or » pour que l'innovation technologique permette de dépasser dans les virages et de changer de voie. Saisissez fermement le « gagnant » des « scénarios d'utilisation des utilisateurs ».
Parler de la puissance dure et de la puissance douce de la plateforme interactive d'IA
01 Préface La seule constante est le changement
L’innovation ne s’arrête jamais, de nouvelles technologies continuent d’émerger et l’innovation technologique portée par l’IA change profondément notre façon de vivre et de travailler.
Si la popularisation des ordinateurs, des réseaux et d’Internet est une vague de changement provoquée par les ordinateurs, alors l’invasion de l’IA est encore plus puissante et globale. Les industries et les professions traditionnelles sont touchées et bouleversées par la technologie de l'intelligence artificielle, et de nombreux emplois traditionnels sont remplacés. Il est nécessaire d'apprendre et de s'adapter continuellement aux nouvelles technologies et aux nouveaux modèles.
Lorsque l'IA est dans cet article, j'essaie de proposer une nouvelle perspective et de laisser chacun examiner les capacités et la construction, les opportunités et les défis de la plate-forme interactive d'IA dans la nouvelle ère. Contrairement à certaines vues traditionnelles selon lesquelles la construction de l'intelligence artificielle est principalement une question de construction matérielle, j'essaie de déconstruire les capacités de l'intelligence artificielle en constante évolution à partir d'une dimension supérieure en utilisant la puissance dure et la puissance douce. Du point de vue des « personnes », j'insiste sur « les personnes ». Autrement dit, les utilisateurs constituent la ressource stratégique dans la bataille décisive contre l’intelligence artificielle.
02Le « hard power » et le « soft power » des plateformes interactives d’IA
1. La puissance dure dans l'IA interactive
1.1 Matériel informatique représenté par CPU/GPU
Le matériel informatique est le fondement de l’IA. Tout d’abord, le matériel informatique détermine directement la capacité de l’IA à gérer des tâches informatiques complexes. Le traitement de grandes quantités de données, le calcul et la formation d'algorithmes d'apprentissage en profondeur, etc. nécessitent une puissance de calcul suffisante. Les performances du CPU/GPU déterminent directement la vitesse de calcul et l'efficacité de l'IA. Deuxièmement, en tant que périphérique matériel, le CPU/GPU doit prendre en charge l'environnement d'exploitation du logiciel IA. L’IA implique un grand nombre de tâches de traitement de données et de calcul, et nécessite un environnement logiciel spécial pour prendre en charge son fonctionnement. De plus, le matériel informatique doit également être hautement évolutif et programmable. Les scénarios d'application de l'IA sont répandus et différentes solutions d'IA doivent être fournies pour différents scénarios et applications. Ce n'est que lorsque le matériel informatique est hautement évolutif que l'allocation dynamique et l'expansion des ressources peuvent être rapidement réalisées. Enfin, le matériel informatique doit être programmable afin que les développeurs puissent optimiser rapidement les algorithmes et les solutions. La figure suivante montre la composition matérielle de base et les fonctions de la plate-forme du système AI :
2.1 Le graphe de connaissances façonne le marché de base de l'IA
Le graphe de connaissances de l'IA est une base de connaissances structurée, qui contient un large éventail de connaissances dans un domaine et est utilisée pour soutenir l'apprentissage et le raisonnement des systèmes d'intelligence artificielle. Un graphe de connaissances se compose d'entités (telles que des personnes, des lieux, des événements, etc.) et des relations entre elles. Il peut inclure différents types de connaissances, notamment des définitions, des attributs, des catégories, des associations, etc.
Pour donner quelques exemples familiers, Google Knowledge Graph, Baidu Encyclopedia et Wikipedia sont tous des graphiques de connaissances.
2.2 Mise à niveau des capacités de conduite au niveau de l'algorithme
2.2.1 Importance des algorithmes
Les algorithmes sont un moyen important pour accomplir diverses tâches de l’IA. La conception et l’amélioration des algorithmes sont également essentielles pour promouvoir le développement et le progrès de l’IA. L’importance des algorithmes se reflète dans les trois aspects suivants :
① Affecte la précision et l'efficacité du modèle : différents algorithmes affecteront la précision et l'efficacité du calcul du modèle. Choisir l'algorithme approprié peut améliorer la précision du modèle et réduire le temps de calcul.
② Répondre à différents besoins et scénarios : différents scénarios et applications ont des besoins différents, et différents algorithmes doivent être sélectionnés pour y répondre.
③ Fournir une aide à la décision : en fonction de différents problèmes et données, l'algorithme peut fournir une aide à la décision, ainsi qu'analyser et prédire efficacement les données.
2.2.2 Algorithmes courants
De nombreux algorithmes sont utilisés en IA pour s’adapter à différents scénarios et besoins d’application. Il existe quatre catégories courantes d'algorithmes d'apprentissage automatique, d'algorithmes d'apprentissage profond, d'algorithmes de traitement du langage naturel et d'algorithmes de recommandation.
(1) Algorithmes d'apprentissage supervisé : tels que la régression linéaire, la régression logistique, les machines à vecteurs de support, les arbres de décision, les forêts aléatoires, etc.
(2) Algorithmes d'apprentissage non supervisés : tels que le clustering K-Means, le clustering hiérarchique, l'algorithme d'attente-maximisation, etc.
② Algorithme d'apprentissage profond :
(1) Réseau de neurones convolutifs (CNN) : principalement utilisé dans les tâches de traitement d'images et de vision par ordinateur.
(2) Réseau neuronal récurrent (RNN) : principalement utilisé dans les tâches de sérialisation telles que le traitement du langage naturel et le traitement de la parole.
(3) Generative Adversarial Network (GAN) : principalement utilisé pour des tâches telles que la génération d’images et de texte.
(4) Réseau de transformateurs (Transformer) : principalement utilisé dans des tâches telles que la traduction automatique et la synthèse de texte.
③ Algorithme de traitement du langage naturel :
(1) Extraction de mots clés : comme l'algorithme TF-IDF, l'algorithme TextRank, etc.
(2) Reconnaissance d'entité nommée : comme le modèle de champ aléatoire conditionnel, etc.
(3) Algorithmes d'analyse syntaxique : tels que les modèles de règles, les modèles de transfert, etc.
(4) Algorithmes d'analyse des sentiments : tels que les modèles de dictionnaire, les modèles d'apprentissage automatique, etc.
④ Algorithme de recommandation :
(1) Recommandation basée sur le contenu : telle que l'algorithme TF-IDF, l'algorithme LDA, etc.
(2) Recommandation basée sur un filtrage collaboratif : tel que UserCF, ItemCF, algorithme LFM, etc.
(3) Recommandation d'apprentissage profond : comme DeepFM, Wide&Deep, DIN, BERT4Rec, etc.
Les algorithmes sont la pierre angulaire de l’intelligence artificielle pour accomplir diverses tâches. À mesure que la technologie continue de se développer et d’innover, de nouveaux algorithmes d’IA apparaissent constamment. La clé pour améliorer les capacités de l’IA est de sélectionner et d’adapter le bon algorithme au bon scénario. De ce point de vue, la clé de l’intelligence artificielle réside toujours dans la conception humaine.
2.3 Les scénarios de formation affectent le taux d'évolution
2.3.1 Importance de la formation
La formation est le processus par lequel un modèle d’IA apprend et acquiert des connaissances et des compétences, elle est donc cruciale pour l’intelligence artificielle.
① Améliorer la précision du modèle : grâce à une sélection raisonnable d'ensembles de données et à des temps de formation suffisants, le modèle d'IA peut progressivement apprendre les modèles et les caractéristiques des données, améliorant ainsi l'exactitude et la précision du modèle.
② Prise en charge de la capacité de généralisation du modèle : la formation permet au modèle d'avoir une capacité de généralisation, c'est-à-dire qu'il peut gérer de nouveaux échantillons de données en dehors de l'ensemble de formation et jouer un rôle dans d'autres situations.
③ Améliorer la robustesse du modèle : la formation peut permettre au modèle d'IA d'avoir une meilleure capacité de traitement et une meilleure robustesse pour certaines données bruitées, falsifiées et données d'interférence.
④ Mettre à jour et itérer le modèle d'IA : grâce à la formation, le modèle d'IA peut être continuellement mis à jour et amélioré pour répondre aux exigences réelles de l'application.
⑤ Améliorer l'interprétabilité des modèles : L'interprétabilité des modèles de données d'IA est très importante dans de nombreux domaines. Grâce à la formation, l’interprétabilité et la transparence du modèle peuvent être améliorées, le rendant ainsi plus facile à comprendre et à utiliser.
2.3.2 Les scénarios de formation affectent le taux d'évolution
La définition et la sélection de scénarios de formation sont cruciales pour les performances et les performances du modèle d'IA, qui déterminent directement la qualité et la convivialité du modèle. Au cours du processus de formation, il est nécessaire de prétraiter les données, de sélectionner les algorithmes appropriés, d'optimiser les hyperparamètres des algorithmes, de contrôler le sous-ajustement et le sur-ajustement, etc., afin de rendre les résultats de la formation du modèle d'IA plus précis et plus fiables. Ces tâches les plus importantes reposent essentiellement sur une participation manuelle, ce qui reflète également le statut des « personnes » en tant que ressource stratégique centrale.
① Scénario d'apprentissage supervisé : en fournissant un ensemble de données étiquetées au modèle, indiquez à quelle catégorie ou valeur cible appartiennent les données, etc.
② Scénario d'apprentissage non supervisé : l'ensemble de données d'entraînement n'a pas d'étiquettes ni de valeurs cibles spécifiques. Le modèle doit découvrir lui-même les modèles et les caractéristiques des données en fonction des caractéristiques statistiques de l'ensemble de données pour traiter et classer les données.
③ Scénario d'apprentissage semi-supervisé : contient des données étiquetées et non étiquetées, et le modèle doit apprendre à classer ces données non étiquetées.
④ Scénario d'apprentissage par renforcement : le modèle interagit en permanence avec l'environnement, observe et interagit avec l'environnement à chaque instant, et ajuste la stratégie du modèle en fonction des informations de retour.
⑤ Scénarios de traitement du langage naturel : l'ensemble de données de formation est généralement constitué d'une grande quantité de données textuelles, et le modèle doit apprendre à comprendre les données textuelles et la relation entre les textes.
⑥ Scénario de vision par ordinateur : l'ensemble de données de formation est généralement constitué de données d'image ou de vidéo, et le modèle doit apprendre à comprendre et à traiter ces données d'image pour accomplir des tâches telles que la détection de cible et la reconnaissance d'image.
03 Les « scénarios d'utilisation des utilisateurs » sont des ressources stratégiques qui sont globalement rares.
Actuellement, il existe certaines limites et limitations dans l'amélioration du niveau de précision et d'intelligence des produits d'intelligence artificielle en développant le matériel informatique et en élargissant les bases de données. D'une part, l'expansion du matériel informatique et l'expansion des bases de données nécessitent beaucoup d'investissements en main-d'œuvre, en ressources financières et en temps, et à mesure que l'échelle du système continue de croître, la demande de ressources augmentera. D’un autre côté, le développement technologique actuel dans le domaine de l’intelligence artificielle est encore confronté à de nombreux facteurs incertains, tels que l’efficacité des algorithmes et l’effet de l’auto-apprentissage. Ces facteurs affecteront l'espace de développement des produits d'intelligence artificielle.
Comparée aux données illimitées, la concurrence pour les ressources des utilisateurs est un jeu à somme nulle. Si un produit d'intelligence artificielle compte un grand nombre d'utilisateurs et est utilisé fréquemment, il peut réaliser la mise à niveau intelligente du produit d'intelligence artificielle en surveillant et en analysant les données d'utilisation des utilisateurs, en améliorant continuellement le système du produit et en augmentant la valeur d'utilisation.
Plus d'utilisateurs créent une plateforme plus avancée ; une plateforme plus avancée crée une meilleure expérience ; une meilleure expérience attire plus d'utilisateurs.
L'effet Matthew fait référence au phénomène selon lequel, sous certaines conditions, des talents exceptionnels sont continuellement soutenus, ce qui entraîne un écart croissant entre les talents.
Dans le processus de développement de l'intelligence artificielle, il est souvent plus facile pour les technologies avancées ou les entreprises avancées d'obtenir le premier groupe d'utilisateurs et de parts de marché, ce qui se traduit par davantage d'investissements et de meilleurs retours. Ce phénomène renforcera encore la position de leader du secteur.
D’un autre côté, le développement de la technologie de l’IA nécessite également un grand nombre de talents professionnels. Les entreprises et plateformes de premier plan ont les ressources nécessaires pour continuer à investir davantage de fonds et de ressources pour obtenir des avantages en matière de talents, faisant ainsi perdre complètement aux retardataires leur capacité à rattraper leur retard.
Le plus important est que les principales plates-formes offrent une meilleure expérience utilisateur.Actuellement, l'effet Matthew sur le marché de l'IA to C est devenu important. Du point de vue de la psychologie des utilisateurs, les utilisateurs habitués à utiliser un type de produit d’IA doivent réapprendre et s’adapter lorsqu’ils passent à un autre produit du même type, ce qui demande beaucoup de temps et d’énergie. Du point de vue de l'échelle des données, l'accumulation d'une grande quantité de données utilisateur est d'une grande importance pour l'effet d'utilisation et l'analyse du produit. La conservation des données utilisateur est la clé de la création de tels produits. Les nouveaux produits présentent des inconvénients inhérents. L'« effet volant » inhérent aux systèmes d'IA amplifie encore « l'effet Matthew » dans l'expérience utilisateur.
##04Conclusion
Une déclaration intéressante : l’IA est l’arc et la flèche du néolithique.
La capacité d'apprentissage de la formation de l'IA dépend de l'échelle des paramètres. Selon l'expérience universitaire, la capacité d'apprentissage des réseaux de neurones profonds est positivement corrélée à l'échelle des paramètres du modèle, c'est-à-dire que plus il y a de paramètres du modèle, plus la capacité d'apprentissage est forte. GPT-2 compte environ 1,5 milliard de paramètres, tandis que le plus grand modèle de GPT-3 en compte 175 milliards, soit une augmentation de deux ordres de grandeur. Selon les spéculations des médias mais des informations non confirmées, les paramètres du GPT-4 pourraient atteindre une échelle de 100 000 milliards.
Certains experts de l'industrie estiment que la technologie dure fournit des composants et des interfaces matérielles clés pour le développement de la « technologie douce » et innove en fonction des besoins de la chaîne d'approvisionnement de la « technologie douce ». La « technologie douce » est la « voie d'or » permettant à l'innovation scientifique et technologique de dépasser dans les virages et de changer de voie.
CCTV a trouvé une combinaison efficace : tout d'abord, elle affine les besoins des utilisateurs dans une série d'orientations d'autonomisation de l'IA telles que l'assistance médicale, l'assistance agricole, l'assistance beauté et l'assistance aux étudiants, puis élève l'ensemble de la station grâce à une correspondance sémantique de recherche floue. Les ressources construisent des modèles d'utilisation à haute fréquence dans divers scénarios d'application, formant un auto-apprentissage auto-organisé de la « puissance douce » telle que les bases de connaissances et les algorithmes, ce qui force la construction d'une puissance dure telle que la puissance de calcul GPU et la bande passante CDN. Saisissez fermement le « gagnant » des « scénarios d'utilisation des utilisateurs ».
Ce qui est passionnant, c'est que l'orientation technique du GPT est désormais claire et qu'il n'y a aucun obstacle technique insurmontable. Nous pouvons utiliser l'esprit de « long terme » dans lequel les Chinois sont les meilleurs pour tirer avec l'arc et les flèches de cet « âge néolithique » le plus précisément et le plus loin possible.