360 Group Peng Hui : La tendance de développement des grands modèles est la verticalisation ! ChatGPT au niveau de l'entreprise n'a besoin que de ces 4 étapes...

Source : IA cheval noir

Auteur : Vice-président du groupe Peng Hui 360

01. La tendance de développement des grands modèles est la « verticalisation »

Grâce à ses caractéristiques inclusives, omniprésentes et universelles, le modèle à grande échelle entrera dans des milliers de foyers et donnera du pouvoir à des milliers d’industries à l’avenir.

Nous avons donc cette vision :

Chaque famille, chaque gouvernement et chaque entreprise aura un ou plusieurs grands modèles.

Nous pensons également que le développement de la Chine et des États-Unis sur le marché To B est très différent. Il n'y aura pas de monopole en Chine et il n'y aura certainement pas seulement 3 à 5 grands modèles.

À l'avenir, les grands modèles doivent être omniprésents et les opportunités de développement futures doivent se trouver sur le marché des entreprises.

Tout le monde sait que la numérisation est devenue une stratégie fondamentale de notre pays et que la numérisation industrielle constituera à l'avenir un énorme marché progressif décentralisé.

Par conséquent, en fabriquant des modèles à grande échelle en Chine, nous croyons fermement que nous devons saisir une telle opportunité stratégique pour responsabiliser l'industrie, ancrer le marché au niveau industriel et retirer les modèles à grande échelle du marché dit centralisé. la productivité et l’efficacité de la production du gouvernement et des entreprises.

Bien entendu, au cours de ce processus, les grands modèles seront confrontés à d 'énormes défis lors de leur atterrissage sur le marché des entreprises.

Je le résume en quatre aspects :

1. Manque de connaissances professionnelles.

Tout le monde sait qu'on va utiliser une grande quantité de corpus Internet pour alimenter le grand modèle, c'est comme un lycéen, tout au plus un bachelier. Toutefois, certaines connaissances du domaine professionnel, de l'industrie et des connaissances internes de l'entreprise sont extrêmement déficientes. Même pas mis à jour à temps. C’est donc un gros problème, un manque d’expertise.

2. Des absurdités hallucinatoires occasionnelles.

Tout le monde dit souvent un mot, et le grand mannequin dira des bêtises de manière sérieuse. Il y aura une ambiguïté et une illusion de connaissance. Parce que les données et les connaissances sont comme des bases de données structurées, elles sont codées dans les paramètres et les poids de notre réseau neuronal profond sous une autre forme matricielle et vectorielle. Cependant, je veux l'appeler, l'utiliser et je dois en fait faire un meilleur travail de démarrage. Dans ce processus, son mécanisme algorithmique produira une illusion de contenu, qui ne peut garantir l’authenticité et la crédibilité.

3. Problèmes de sécurité.

Les entreprises ne sont pas disposées à apporter leurs compétences uniques au grand modèle public, ni à les former à un grand modèle public.

4. Problèmes de coûts.

Désormais, l'offre de Nvidia H100 est en rupture de stock et ChatGPT prétend former des dizaines de milliers de cartes à la fois. Ce type d’investissement est donc très difficile pour une entreprise ordinaire. Nous avons peut-être réduit les effectifs, mais nous n'avons pas réduit les coûts.

Alors, comment résoudre ces problèmes ?

Nous pensons qu'une tendance de développement à l'avenir doit être vers la verticalisation et la création de grands modèles verticaux petits mais spécialisés.

Il est impossible de s’appuyer sur un grand modèle unique et polyvalent pour résoudre tous les problèmes de décomposition des tâches, d’interaction homme-machine et de réponse aux questions de connaissances. Nous devons nous appuyer sur un corpus de données au niveau de l’entreprise et sur des données de haute qualité pour former de grands modèles verticaux propriétaires à petite échelle.

Les grands modèles deviendront à l’avenir une configuration standard et un composant de tous les systèmes numériques.

**02 Comment mettre en œuvre rapidement les tags Google Tag au niveau de l'entreprise ? **

Nous avons interrogé plus de 100 entreprises clientes et partenaires, et tout le monde a globalement un consensus :

Les grands modèles ne font pas tout en ce moment.

La question devient alors : comment mieux l’appliquer aux scénarios d’entreprise ?

Nous devons professionnaliser les soi-disant généralistes et devenir de véritables experts du gouvernement et des entreprises.

À ce stade, nous devons trouver une petite incision et exploiter pleinement ses atouts.

Nous pensons que les capacités actuelles du grand modèle se reflètent principalement dans les deux capacités de génération de texte, ou de création de contenu, et de réponse aux questions de connaissances. Nous pouvons commencer avec ces deux capacités.

De plus en plus de praticiens de l'industrie du modèle à grande échelle pensent que dans des scénarios d'application relativement ciblés et étroits, de grands modèles plus petits et affinés répondront plus rapidement aux exigences de précision de l'extrémité To B.

Par conséquent, nous devons procéder étape par étape, laisser le grand modèle être d'abord un bon assistant, et laisser le grand modèle être d'abord une bonne navigation.

En nous concentrant sur un tel scénario, nous trouvons des scénarios d'application correspondants qui s'adaptent à ces quatre produits pour exercer rapidement leur productivité et leur efficacité à partir des quatre dimensions du haut, du bas, de l'interne et de l'externe.

1. Dans la scène interne, nous pensons qu'il s'agit davantage d'écrire et de résumer le bureau.

2. Sur la scène externe, un grand nombre de personnes numériques ont commencé à apparaître sur la scène du service client.

3. Dans le scénario ci-dessus, nous mettons l’accent sur la synthèse et l’analyse des informations et des renseignements.

4. Dans le scénario suivant, nous pouvons laisser le grand modèle suivre une série de formations sur les connaissances de l’entreprise et même sur les compétences professionnelles.

C’est pourquoi, tout au long du processus de mise en œuvre, nous avons réalisé un point très important. À l'avenir, plus de 80 % de nos scénarios commerciaux seront étroitement liés à la base de connaissances de l'entreprise.

Dans le passé, lorsque nous travaillions sur le big data, nous restions tous dans l’application de données structurées. Il faut savoir que 80% des connaissances et données non structurées sont abandonnées ou laissées seules. Cette partie du big data va devenir le corpus de formation des grands modèles.

Par conséquent, comment extraire des connaissances précieuses et des données précises de haute qualité à partir d'une base de données volumineuse de l'entreprise, la transformer en une base de connaissances du domaine privé de l'entreprise et renforcer le grand modèle grâce à la correction et à l'amélioration de la récupération, peut véritablement produire un contenu crédible. et des mises à jour de contenu en temps opportun dans le scénario commercial To B, ainsi que la sécurité du contenu telle que la décentralisation et la division des domaines.

Les données sont divisées en trois portes :

La première porte peut être constituée de données Internet ouvertes, la deuxième porte de données industrielles semi-publiques ou de données d'entreprise, et une partie de celles-ci sont des données confidentielles au sein de l'entreprise.

Pour ce type de données confidentielles et de données autorisées de ce type d'entreprise, il faut les mettre dans la base de connaissances d'une entreprise, ou les mettre dans une base de données vectorielle, afin qu'elle puisse générer une sorte de gestion avec autorité et audit, à travers une sorte de gestion d'autorité de des connaissances d'entreprise classifiées et hiérarchisées, enrichies par la récupération de grands modèles, afin de fournir des connaissances et une responsabilisation plus précises.

Un autre aspect est l’application. Au niveau de l’application, tout le monde a été exposé à ChatGPT. Pensez-vous qu’il est facile à utiliser ?

Pourquoi il y a quelque temps tous les cerveaux disaient que dans le futur il y aurait beaucoup de postes et de rôles qui suggèrent des ingénieurs, en fait c'est très compliqué.

Nous voulons qu'il écrive un bon article, et nous devons lui donner beaucoup d'indices, d'idées centrales, de résumés et de grandes lignes avant qu'il puisse écrire un bon article. Nous le laissons faire une image, utilisez Midjourney, je dois même dites-lui combien de millimètres d'objectif, de distance focale, d'ouverture et de profondeur de champ vous devez utiliser, quel type d'environnement peut créer une très belle image générée comme celle-ci, mais un tel projet d'indice n'est en fait qu'utilisable, mais il est très peu pratique et difficile à utiliser.

Par conséquent, dans le processus de développement futur, ne soyez pas superstitieux à propos de ce qu'on appelle l'interface utilisateur du langage, et les interfaces plus traditionnelles ne seront pas éliminées.

De plus, il sera généré en grand nombre dans des scénarios futurs tels que la rédaction de bureau, la création d'images, la créativité marketing, etc., et même dans des scénarios de questions et réponses sur les connaissances gouvernementales, car il offre plus d'intuition et d'applicabilité.

Par exemple, Lao Zhou disait souvent qu'il voulait manger une assiette de pommes de terre râpées. Je voulais des pommes de terre frites plutôt que des pommes de terre vinaigrées. Le clic peut être de l'ordre d'une seconde, et j'en ai terminé avec cette affaire.

360 publiera l'intégralité du cadre du système de produits de son propre GPT au niveau de l'entreprise. Au niveau inférieur, nous pensons toujours que les données et les connaissances deviendront à l'avenir une base pour les modèles à grande échelle au niveau des grandes entreprises, qui ne peuvent être séparés de l'accumulation de toutes les données dans le passé. besoins des grands modèles et déstructurer les données accumulées par toutes les entreprises dans le passé. Contenu et documents, y compris les graphiques audio et vidéo multimédia, les données d'image, via de multiples connecteurs de données et des robots de suivi des connaissances, un moteur de traitement qui favorise les données multi-sources l'intègre dans notre base de connaissances d'entreprise, via les index vectoriels, les index abstraits au sens traditionnel, les index textuels et les index multimodaux, construire une base de connaissances d'un grand modèle au niveau de l'entreprise, puis grâce à notre recherche et à l'amélioration des connaissances, responsabiliser notre entreprise verticale professionnelle grand Le modèle fournit des services vers le haut.

03, 3 pratiques et le meilleur processus pour atterrir de grands modèles

1. Rédaction de bureau.

Nous cacherons les projets complexes derrière les différents grands modèles de 15 catégories et près de 80 modèles de documents subdivisés en catégories. Utilisez un tel outil pour terminer efficacement la rédaction de documents officiels et résoudre efficacement les problèmes de rédaction de documents officiels qui prennent du temps et sont de mauvaise qualité.

2. Services gouvernementaux.

Grâce au grand modèle et à la base de connaissances des affaires gouvernementales, nous pouvons faire en sorte que le grand modèle comprenne la sémantique comme un humain à travers plusieurs cycles de dialogue, complète les informations pertinentes par des questions de suivi et de suivi, et enfin forme une question et une réponse. Il peut répondre de manière objective et précise à toutes les questions que les gens ordinaires se posent dans le cadre de leurs activités commerciales.

3. Les gens numériques du tourisme culturel.

Lao Zhou a également mentionné Wenlv Digital People à plusieurs reprises. Tout le monde a déjà planifié son voyage. Un soi-disant plan d'itinéraire de voyage peut-il résoudre vos problèmes de voyage ?

Ce qui nous importe, c'est qu'après avoir atterri à une destination, nous ayons un ami local et un guide touristique local. Les sites touristiques, la nourriture, les anecdotes, les blagues qui me tiennent à cœur, comment ces choses peuvent-elles devenir un compagnon numérique centré sur la destination ? Nous voulons créer un tel compagnon numérique. À l'avenir, sous la direction du gouvernement, nous ouvrirons progressivement les capacités de la Chine et de Taiwan, puis connecterons nos OTA, nos hôtels et nos restaurants locaux.

En collaboration avec 360 Group lui-même et plus de 100 entreprises clientes et partenaires, nous avons formé jusqu'à présent le processus de mise en œuvre des meilleures pratiques.

La première étape est l’analyse commerciale et la sélection de scénarios.

La deuxième étape est la collecte des données et la préparation du nettoyage.

La troisième étape consiste à former le grand modèle propriétaire de l'entreprise.

La quatrième étape consiste à développer des applications de scénarios d'entreprise.

Nous pensons que lorsque tous les modèles à grande échelle sont mis en œuvre dans des scénarios au niveau de l’entreprise, l’analyse commerciale reste l’une des principales priorités. Ce n’est pas différent de la numérisation.

Nous devons encore trouver les points faibles de l'entreprise dans le processus d'analyse commerciale, afin de trouver un scénario approprié, et après avoir sélectionné ce scénario, définir notre solution.

Ensuite, collectez et nettoyez les données et les connaissances autour de cette scène pour former nos données étiquetées de haute qualité. Après avoir entré la base de données, une partie est introduite dans notre grand modèle vertical en tant que corpus de formation, et une partie entre dans notre base de connaissances d'entreprise pour effectuer une recherche d'amélioration des connaissances. Vient ensuite le développement d’assistants intelligents, d’employés numériques et d’humains numériques, grâce à l’agencement des modèles d’application et à l’ouverture d’API à intégrer aux systèmes d’entreprise existants.

Au cours du processus de mise en œuvre du grand modèle au niveau de l'entreprise, nous soulignons qu'il est indissociable de l'étroite collaboration des experts métiers et techniques des deux parties.