Comment l'AIGC a déclenché une "nouvelle révolution" dans le service client intelligent

Source de l'image : générée par l'IA illimitée

Source : infoq

Auteur : Li Dongmei

Combiné à la logique technique sous-jacente de ChatGPT, il existe à peu près quatre directions pour l'industrialisation de ChatGPT à court et moyen terme dans le futur : service client intelligent, applications AIGC en mode texte, travail lié au développement de code et génération d'images. Parmi eux, le projet le plus approprié pour une mise en œuvre directe est le travail d'un service client intelligent.

Le service client intelligent basé sur la technologie des grands modèles modifie fondamentalement le processus d'interaction homme-machine traditionnel.Le grand modèle génère automatiquement le processus de dialogue pour rendre le fonctionnement du service client intelligent plus efficace, ce qui peut améliorer le taux de résolution de problèmes complexes, perception et intention de l'interaction homme-ordinateur L'efficacité du contenu opérationnel tel que la compréhension, la construction de processus et la génération de connaissances.

Du seul point de vue du taux de pénétration des produits, le service client intelligent a été progressivement popularisé dans le commerce électronique, la finance et d'autres domaines dès les sept ou huit dernières années. Les deux principaux changements apportés par le grand modèle, l'un est que le coût de développement de produits de service client intelligents a été considérablement réduit, et l'autre est l'amélioration de l'expérience utilisateur.

Donc, si vous souhaitez combiner le grand modèle linguistique LLM avec des produits de service client intelligents, ou mettre le premier dans le domaine du logiciel d'application ToB SaaS, comment devriez-vous commencer à construire une pile technologique ? Comment les produits modèles à grande échelle renforceront-ils les produits de service client intelligents ? Dans ce numéro de "A Date with Geeks", nous avons spécialement invité Xu Wenhao, le fondateur de bothub, le fondateur et CTO de Buqituo Network Technology, en tant que modérateur, et Jia Haowen, le directeur de la technologie informatique de Huayuan et le co- chef du département des affaires humaines numériques, et Zhongguancun Kejin Wang Suwen, directeur de la recherche et du développement sur l'interaction intelligente, chef de l'équipe technique du service client intelligent de Zhongguancun Kejin, et Wang Chao, chef du produit JD Yunyanxi KA, ont discuté de la mise en œuvre et de la tendance future du développement d'AIGC dans les produits de service client intelligents.

Voici la transcription de l'entrevue.

***Xu Wenhao : Amis du public, bonjour à tous ! Bienvenue sur InfoQ "Un rendez-vous avec des geeks". Le sujet d'aujourd'hui est la planification spéciale de la "Publication AIGC de Tiangong". Nous espérons qu'à travers ce plan, chacun pourra pleinement comprendre tous les aspects d'AIGC dans le domaine du service client intelligent, et percevoir profondément ce changement. ***

***Dans cette émission, nous avons invité trois invités pour discuter de l'application de l'AIGC dans le domaine du service client intelligent. Dans l'ensemble, nous diviserons la discussion en trois parties. Le premier est l'application du grand modèle AIGC dans les produits de service client intelligent ; le second est le déploiement de l'architecture AIGC et la conception et la sélection d'applications d'outils dans le service client intelligent ; le dernier est la méthode de construction d'un système de dialogue de haute qualité. ***

***Les trois invités d'aujourd'hui sont tous des experts expérimentés dans le domaine du service client intelligent et des produits interactifs intelligents. Le premier invité est Wang Chao, la personne en charge du produit JD Yunyanxi KA. Le deuxième invité est M. Wang Suwen, directeur de Zhongguancun Kejin Intelligent Interactive Research and Development. Le troisième invité est M. Jia Haowen, directeur de la technologie informatique de l'Académie Huayuan et co-chef de la division Digital Human. ***

***Commençons par la première question, je suis très curieux : Quels changements l'émergence de l'AIGC a-t-elle apporté au service client intelligent ? J'aimerais inviter M. Wang de JD Cloud à partager vos points de vue. Selon vous, quelles innovations l'émergence de l'AIGC a-t-elle apportées au service client intelligent ? ***

Wang Chao : L'émergence de l'AIGC a suscité une inquiétude généralisée dans l'ensemble du domaine du service client intelligent et a incité les pairs concernés à mener de nombreuses explorations. En ce qui concerne la cognition et les changements futurs du service client intelligent, ces changements cognitifs évoluent chaque jour qui passe.

L'équipe JD Cloud Yanxi a accordé une attention particulière aux progrès des applications de service client intelligentes au pays et à l'étranger. De plus, le modèle à grande échelle Yanxi que nous développons sera publié en juillet, et nous continuons également à mener diverses expériences de modèles à grande échelle dans le domaine du service client. Ces derniers mois, ma compréhension personnelle de l'AIGC a été complètement différente de celle d'il y a 3 mois, donc les points de vue que je veux partager aujourd'hui représentent des opinions plus personnelles et des points de vue actuels.

L'impact de l'AIGC sur le service client intelligent peut être vu à deux niveaux. Premièrement, du point de vue des problèmes de gestion courants et des difficultés techniques de notre industrie, l'AIGC a le potentiel de les résoudre. Nous savons tous que les grands modèles amélioreront considérablement le niveau de réponse, l'anthropomorphisme et l'expérience de service du service client intelligent, et peuvent réduire considérablement les coûts d'exploitation.

En termes de robotique, je ne pense pas qu'il soit nécessaire d'en parler trop, car nous avons déjà accordé beaucoup d'attention aux robots. Ce que je veux dire, c'est que le grand modèle est utilisé dans un large éventail de domaines de service client intelligent, en particulier les informations de vérification dans le sens de la gestion intelligente du service client. Par exemple, dans notre pratique de l'assistance intelligente, certaines technologies précédentes ont recommandé certains points clés et extrait des informations clés dans les conversations.Bien qu'il existe des solutions, il est généralement difficile d'atteindre un bon équilibre entre coût et effet. Cependant, grâce à la vérification du grand modèle, nous avons constaté qu'il a une bonne capacité de résolution et un bon potentiel pour traiter ces problèmes. De plus, pour le travail d'inspection de la qualité, des méthodes telles que la régularisation des mots-clés ou les méthodes d'inspection intelligente de la qualité couramment utilisées dans l'industrie ont certains effets, mais le taux de précision est souvent faible, la charge de travail est également lourde et la période d'amélioration du taux de précision est longtemps. .

Cependant, en pratiquant avec de grands modèles, nous avons constaté que cela fonctionne bien pour comprendre les critères abstraits de CQ et effectuer des travaux d'AQ. De plus, en termes de formation des employés, nous avons vu quelques exemples de grandes banques introduisant des robots de dialogue pour la formation. En plus de ce qui précède, nous effectuons également des analyses commerciales dans le centre de service client et devons résumer les informations sur les besoins des clients, les portraits des clients et les risques lors de la consultation des clients.Dans l'expérience, l'effet du grand modèle est également très bon. Je pense que dans le domaine du service client pan-intelligent, le potentiel d'application des grands modèles est énorme. Nous pensons que dans environ six mois, les produits grand public sur le marché inaugureront une mise à niveau importante.

Sur la base de ce que l'on comprend actuellement de l'industrie et du domaine, nous pouvons déterminer si le domaine plus large est sur le point de changer. Par exemple, quels changements cela peut-il apporter au service client et au service client ? Je pense que cette question pourrait être plus difficile, et à ce stade, personne ne peut identifier des changements spécifiques. Mais nous pensons que cela fera une grande différence, au moins dans certaines directions, comme les services proactifs. Par exemple, les entreprises de commerce électronique mènent souvent diverses activités, et le travail de promotion et d'explication des activités n'incombe généralement pas au centre de service client. Parce qu'il est très difficile de réaliser une telle gamme d'activités par des méthodes manuelles ou à la machine traditionnelle. Mais nous pouvons imaginer un avenir où notre service client pourra bien expliquer de nombreuses activités grâce à l'introduction d'un grand modèle et à la saisie d'informations de base, ce qui représente le potentiel possible du futur service client en termes de transformation active et de mise à niveau.

*** Xu Wenhao : Permettez-moi de résumer, en fait, l'émergence de l'AIGC a élargi la portée de l'intelligence applicable dans le domaine du service client intelligent. Non seulement dans le domaine intelligent traditionnel de la réponse aux questions après-vente, mais dans tous les aspects de l'ensemble du lien avec le service client, le grand modèle peut être appliqué, et il peut même être étendu au domaine du marketing. Professeur Wang Suwen, quel genre de phénomène voyez-vous de votre point de vue ? ***

Wang Suwen : Comme mentionné tout à l'heure, la portée du service client intelligent est très large. Des technologies telles que le service client intelligent et les robots peuvent en fait modifier le processus traditionnel d'interaction homme-ordinateur. Grâce à l'utilisation de grands modèles, en particulier l'utilisation de la génération automatique de processus de dialogue, le fonctionnement du service client intelligent traditionnel peut être rendu plus efficace. De manière traditionnelle, nous devons généralement configurer manuellement la base de connaissances, mais l'effet n'est pas évident. Cependant, la capacité à résoudre des problèmes complexes et le taux de réponse directe aux questions peuvent être directement améliorés grâce à la génération automatique de processus de dialogue à travers de grands modèles, ce qui est un impact perturbateur important.

Le deuxième point est que les grands modèles peuvent également atteindre les objectifs de réduction des coûts et d'amélioration de l'efficacité. Du point de vue de l'intelligence, les coûts de main-d'œuvre ont toujours été relativement élevés, car ils nécessitent des machines assistées par l'homme. Grâce à l'application de grands modèles, il peut aider à améliorer l'efficacité de la construction et de l'exploitation de la base de connaissances, obtenant ainsi un effet significatif de réduction des coûts et d'augmentation de l'efficacité.

Le troisième point concerne l'anthropomorphisme et l'expérience utilisateur du robot. Les robots traditionnels échouent souvent dans ces domaines. Cependant, l'émergence de grands modèles rend le dialogue plus fluide, plus anthropomorphique et ressemble davantage à une communication interhumaine. C'est un effet perturbateur très puissant.

Bien sûr, pour le service client général, y compris l'inspection de la qualité, les assistants et le sparring, le grand modèle aura également un impact subversif correspondant, et différents produits auront des impacts différents.

***Xu Wenhao : J'ai remarqué que M. Jia est co-responsable de la Digital Human Division, de votre point de vue, si la combinaison d'un service client intelligent et de l'humain numérique apportera de nouvelles innovations ? ***

**Jia Haowen :**Avant de répondre à cette question, je voudrais revenir sur le domaine du service client intelligent. Le développement du service client intelligent remonte à l'histoire de l'intelligence artificielle, qui repose sur l'accumulation du langage. Je me souviens qu'il y a une dizaine d'années, il y avait plusieurs étages remplis de personnes du service client qui passaient la plupart de leurs heures de travail à régler les problèmes des utilisateurs. A cette époque, même les outils comme la base de connaissances évoquée par les deux enseignants n'étaient pas très complets.

Avec le recul, Alipay et d'autres produits de service client se sont progressivement étendus de la base de connaissances initiale aux assistants seniors ultérieurs, et ont dérivé des outils tels que le cadre Rasa pour simuler plusieurs séries de scénarios de dialogue. Cependant, comme le disaient tout à l'heure les deux professeurs, tous ces dialogues manquent encore de personnification. Tous les outils de service client précédents ont essentiellement échoué aux tests standard de l'industrie informatique. Mais lorsque de grands modèles arrivent, en particulier des choses comme ChatGPT ou Vicuna, ils ont un niveau de personnalité, bien que peut-être au niveau d'un enfant de 10 ou 11 ans. D'une certaine manière, ils sont capables de passer le test de Turing.

Pour en revenir à votre question précédente, la combinaison d'un service client intelligent et d'un humain numérique apportera de nouvelles innovations. Dans la phase initiale du champ humain numérique, les questions-réponses anthropomorphiques avec des humains basées sur des bases de connaissances et de grands modèles ne peuvent pas être complétées en temps réel. Cependant, à mesure que la technologie s'est développée, nous avons pu réaliser des figures anthropomorphes, combinées à de grands modèles pour simuler des scènes réelles. Lorsque nous l'appliquons à des scénarios tels que les bases de connaissances, le service client et les employés numériques, le domaine des humains numériques peut être confronté à deux défis. Le premier est l'exhaustivité des données.Bien que ChatGPT et autres semblent cool, ils sont essentiellement générés sur la base de données historiques passées, similaires à la génération de cloze. Alors que cette approche augmente l'efficacité et réduit les coûts de script, la qualité du contenu généré est pratiquement incontrôlable. Dans le contenu de sortie de domaines complets tels que le service client humain et intelligent numérique, nous ne pouvons pas être complètement sûrs du contenu généré. Par conséquent, nous devrons peut-être introduire différentes vérifications et garanties pour nous assurer que ce qu'un humain numérique ou ChatGPT, etc. dit ressemble plus à un humain parlant qu'à du charabia.

Pour résumer, bien que le grand modèle soit relativement populaire maintenant et que les perspectives d'avenir soient également brillantes, il est toujours dans un état de 0 à 1 au stade actuel. À l'avenir, on peut s'attendre à ce qu'il devienne un arbre imposant, mais maintenant, que ce soit pour l'ensemble de l'industrie ou les attentes de tout le monde, encore faut-il le laisser pousser progressivement dans un meilleur sol, et pouvoir vraiment fournir un service client intelligent. , Apporter des améliorations d'efficacité dans des domaines tels que les humains numériques.

***Xu Wenhao : Je veux explorer cette question en profondeur. Je voudrais demander à M. Jia, selon votre point de vue, si nous introduisons un modèle à grande échelle dans le domaine du service client intelligent, apportera-t-il des avantages ? Je veux dire par rapport à la situation actuelle, quelle que soit l'évolution dans deux ou trois ans. En regardant cela maintenant, y a-t-il un avantage du point de vue de vos clients ou de votre produit interne du point de vue de l'introduction du grand modèle ? ***

Jia Haowen : L'opportunité d'introduire un grand modèle dépend de scénarios commerciaux spécifiques et des besoins des utilisateurs. Pour les grandes entreprises telles que Ant Financial ou JD.com avec des systèmes grands et matures, l'introduction aveugle d'un grand modèle peut augmenter les coûts supplémentaires. Nous devons prendre des mesures de compatibilité pour éviter l'incertitude causée par le contenu généré par l'IA. Pour les petites entreprises, l'utilisation de grands modèles en complément de leur base de connaissances, avec un certain niveau d'examen humain, peut être un bon moyen d'accroître l'efficacité. Cela peut aider un service client intelligent à mieux comprendre la sémantique de l'utilisateur, à améliorer la qualité de la base de connaissances et même à améliorer l'expérience utilisateur. De plus, pour des applications de plus haut niveau telles que l'intelligence cognitive, l'introduction de grands modèles peut aider à mieux comprendre et reconnaître les utilisateurs. Dans l'industrie Internet, il existe un concept important appelé "des milliers de personnes, des milliers de visages", qui signifie que chaque service client peut fournir des services personnalisés. Par conséquent, nous devons examiner s'il convient d'introduire un grand modèle d'un point de vue dialectique et prendre des décisions en fonction de circonstances spécifiques.

***Xu Wenhao : Le point de vue de M. Jia est que les grandes entreprises doivent être prudentes lors de l'introduction de grands modèles. L'introduction de grands modèles peut augmenter les coûts et divers risques, et elles doivent s'appuyer sur les méthodes ou les modèles originaux. comme mesure d'appoint. Ensuite, je voudrais demander au professeur Wang Chao, le service client de JD Cloud a-t-il introduit l'AIGC ? Quels seront les bénéfices après l'introduction ? ***

**Wang Chao : **Pour les grandes entreprises, appliquer avec prudence de grands modèles sur les produits C-end ne tient pas compte de l'expérience client et de la sécurité du service. Dans une entreprise en contact direct avec les consommateurs, la prudence est de mise. À cet égard, tant la validation que l'expérimentation se déroulent avec beaucoup de prudence.

Dans le domaine orienté métier ou orienté opération, vous êtes plus "courageux" dans l'expérimentation et la vérification. Nous introduisons des modèles à grande échelle pour aider les opérations à créer des rédactions et des scripts, ce qui fournit un bon support aux opérations pour résoudre les problèmes de créativité et d'efficacité. De plus, il est également très actif dans le sens de la gestion des employés tels que l'inspection de la qualité, l'assistance et la formation.

Le grand modèle est-il « juste nécessaire » ou « suit la tendance » ?

***Xu Wenhao : Dans quelle mesure cela peut-il augmenter l'efficacité des employés ordinaires ? L'avez-vous mesuré ou avez-vous des données spécifiques ? ***

Wang Chao : Nous n'avons pas encore effectué de calculs spécifiques sur ce problème, car l'application de grands modèles se comporte différemment dans différents projets de travail. Par exemple, il pourrait être plusieurs fois plus rapide pour générer des scripts et du copywriting. Cependant, en termes d'analyse quotidienne et de construction d'inspection de la qualité, l'effet peut varier d'un cas à l'autre. Par conséquent, au stade actuel, il nous est difficile de quantifier et de tirer une conclusion précise, mais nous sommes sûrs que l'application de grands modèles a effectivement amélioré l'efficacité.

***Xu Wenhao : M. Wang Suwen, avez-vous présenté l'AIGC à vos clients ou à vos produits ? Pouvez-vous voir des avantages spécifiques? ***

Wang Suwen : Dans notre domaine d'activité, nous ciblons principalement le marché ToB et nous servons des clients dans divers domaines, tels que les secteurs de la finance et de l'assurance. Ces clients ont plusieurs besoins en termes d'innovation, notamment des incitations à réduire les coûts et à améliorer l'efficacité. Nous avons mené une coopération de co-création avec des clients et les avons vérifiés. Par exemple, nous avons créé un assistant marketing pour un client qui génère automatiquement une copie. Traditionnellement, le niveau de chaque employé est inégal, notamment le manque de standardisation et d'unité en termes de compétences marketing. Grâce à notre assistant marketing, nous pouvons d'abord les aider à générer une copie unifiée et à la copier sur la base de l'excellente expérience de l'histoire. La seconde est de réduire les coûts et d'améliorer l'efficacité : ils n'ont plus besoin de consacrer trop de temps à la formation, à l'apprentissage et à la mémoire. Nos grands modèles sont largement utilisés dans l'industrie.

Nous avons également développé des bots de télémarketing qui peuvent répondre directement à certaines questions. Bien sûr, nous devons tenir compte des problèmes de conformité, y compris le respect des lois applicables et la protection de la sécurité des données. Nous travaillons avec l'Institut Xinchuang pour résoudre ces problèmes de normalisation.

***Xu Wenhao : Tout le monde essaie vraiment d'utiliser la capacité du grand modèle. Cependant, il reste encore de nombreux problèmes spécifiques à résoudre, notamment les défis de la contrôlabilité et de la sécurité. Du point de vue du service client intelligent, l'industrie du commerce électronique a été la première industrie à introduire un service client intelligent, car il existe des activités promotionnelles à grande échelle telles que "618" et "Double Eleven", et les pics de trafic pendant ces activités sont énorme. ***

***Au cours des dernières années, les fournisseurs de services nationaux ont également développé divers produits de service client intelligents pour diverses institutions financières telles que les banques, les assurances et les institutions de gestion de patrimoine. Dans ce cas, il semble que les institutions financières seront laissées pour compte si elles ne font pas appel à des robots-conseillers. Cependant, les institutions telles que le service client des banques n'ont pas de périodes de pointe comme "618" et "Double Eleven". L'introduction d'un service client intelligent par ces institutions est-elle par nécessité, ou par "suivre la tendance" ou un sentiment de crise ? S'il s'agit d'une demande rigide, d'où vient cette demande à l'origine ? ***

Wang Chao : Poussé par la vague de numérisation, il est plus facile pour les institutions financières de réaliser la mise en œuvre d'un service client intelligent. Dans le domaine financier, le service client intelligent a été largement utilisé et est devenu l'un des produits les plus courants des institutions financières. Pour les institutions financières, les besoins fondamentaux d'un service client intelligent consistent principalement à réduire les coûts et à améliorer l'efficacité, ce qui peut libérer les ressources humaines d'un travail fastidieux. En particulier dans les scénarios commerciaux tels que les questions et réponses automatiques, les notifications et les visites de retour pour certaines questions fréquentes, un service client intelligent peut économiser les ressources humaines et leur permettre de se concentrer sur un travail plus professionnel et créatif au lieu d'un travail répétitif, fréquent et de faible valeur. . Donnez-leur des ressources à investir dans le développement et le maintien de clients fortunés, et concentrez-vous davantage sur l'exécution de tâches plus précieuses. En outre, avec une nouvelle génération de percées fondamentales, telles que l'émergence de grands modèles, le service client intelligent peut également obtenir de puissantes capacités de génération de langage naturel, le rendant plus intelligent et efficace.

***Xu Wenhao : C'est donc un besoin rigide, car il y a beaucoup de travail répétitif pour réduire les coûts et augmenter l'efficacité. Monsieur Jia, vos clients dans le domaine financier ou dans d'autres domaines accordent-ils de l'attention à un service client intelligent ? ***

**Jia Haowen : **En plus du domaine financier, il existe également une demande pour de grands modèles dans des domaines verticaux tels que l'assurance, le droit et la santé. Surtout du point de vue de l'entreprise, la nécessité de générer et d'extraire des connaissances devient de plus en plus évidente. Lorsque nous discutons avec des banques ou des compagnies d'assurance ou que nous discutons de problèmes avec des praticiens du droit, les informations qu'ils fournissent sont de nature factuelle. Grâce au grand modèle, nous pouvons mieux identifier l'intention de la question de l'utilisateur et effectuer un regroupement ou un fractionnement.

Comme l'a dit M. Wang Su, les secteurs tels que la finance, l'assurance et le droit ont un grand potentiel d'amélioration de l'efficacité, c'est-à-dire un processus de réduction des coûts et d'amélioration de l'efficacité. De mon point de vue personnel, c'est un besoin rigide, notamment en termes d'efficacité. Cependant, ces industries peuvent ne pas adopter une approche trop agressive, car les activités liées à la finance, à l'assurance et au droit sont très sensibles et nécessitent un degré élevé de spécialisation. A cet égard, une autre question se pose, qui est l'évaluation de la maturité des résultats générés par les grands modèles. Bien que les grands modèles comme le GPT-4 réussissent bien dans certains examens professionnels aux États-Unis, il reste problématique de savoir s'il peut réussir les examens correspondants en Chine, en particulier dans un contexte sémantique vaste et complexe comme le chinois, qui peut nécessiter des recherches supplémentaires. Recherche. À cet égard, notre société prévoit de coopérer avec l'Université du Zhejiang en juillet pour publier un grand modèle du domaine vertical juridique afin de fournir de meilleures solutions pour ce domaine spécifique.

***Xu Wenhao : Les grands modèles dans le domaine juridique sont similaires à ceux dans le domaine financier, et les exigences de qualité pour la génération sont très strictes. Dans le domaine juridique, une petite erreur peut avoir un impact négatif sur l'expérience du consommateur, et même entraîner des pertes pour le commerçant (côté B), ce qui nécessite une plus grande précision et fiabilité des résultats générés. Sur cette question, qu'en pense Maître Wang Chao ? ***

Wang Chao : Je pense qu'il s'agit du commerce électronique ou de l'industrie financière, les exigences en matière de service client intelligent sont très strictes. De plus, pour le service client intelligent du commerce électronique, la grande période de promotion et la consultation quotidienne sont très impressionnantes. Dans l'entreprise autonome de notre équipe de JD.com, le volume de consultation quotidien représente 70 % et 90 % pendant la période de pointe. Ce 70% du volume de consultation est déjà d'une grande valeur. Je crois que cette logique s'applique également à diverses institutions telles que les banques. Nous avons également remarqué que les capacités de service client intelligent de certaines banques sont encore insuffisantes. Par conséquent, nous devons réfléchir à la manière d'améliorer la maturité du service client intelligent, et celui-ci doit s'adapter au stade de développement de l'entreprise ou de la banque. À l'heure actuelle, de nombreuses banques en sont au stade initial du service client intelligent, se concentrant principalement sur la FAQ et la construction simple d'un dialogue à plusieurs tours, tandis que les capacités de service et l'expérience utilisateur peuvent ne pas encore atteindre un niveau satisfaisant.

Forts de notre expérience dans le domaine du e-commerce, nous pensons que le service client intelligent de la banque doit encore être développé, en particulier dans le système d'exploitation, qui doit être considérablement amélioré. Par exemple, nous exigeons que le service à la clientèle de proximité soit proche de niveaux artificiels en termes de normes de service et de compétences, ce qui a un impact majeur sur la réforme de notre système d'exploitation. Cependant, dans le processus de coopération avec les banques, nous avons constaté que de nombreuses banques sont confrontées à des défis dans la construction d'un service client intelligent. La coopération entre les fournisseurs de technologie et les banques ressemble davantage à la relation entre la partie B et la partie A, qui est différente de notre modèle de coopération. Il existe encore un décalage entre les banques et nos exigences en termes d'organisation et de formation du personnel. Nous avons parlé à bon nombre de nos partenaires bancaires et avons constaté qu'ils étaient d'accord avec notre méthodologie de développement, mais qu'ils la trouvaient également difficile. Faire avancer les réformes internes est complexe pour les banques et demande plus d'efforts. Je crois que le grand modèle est une opportunité, car il peut réduire la difficulté opérationnelle du service client intelligent et simplifier la structure organisationnelle.

***Xu Wenhao : Je crois que le grand modèle est une énorme opportunité pour tout le monde ici et la plupart des gens dans le domaine du service client intelligent et du traitement du langage naturel. Nous partageons une vision similaire selon laquelle les grands modèles peuvent nous aider à réaliser des expériences conversationnelles plus anthropomorphiques et personnalisées. Cependant, lorsqu'il s'agit de fournir des services aux utilisateurs finaux C, qu'il s'agisse du commerce électronique ou des banques, tout le monde sera plus prudent. Nous voulons tous nous assurer que le résultat final est contrôlable, qu'il s'agisse d'un certificat de dépôt de 10 000 yuans ou d'une commande de 1 000 yuans, c'est quelque chose qui doit être pris au sérieux. ***

*** Tout à l'heure, nous avons également abordé un autre sujet important, l'expérience utilisateur. Nous pouvons observer que la génération précédente de robots intelligents de service client et de dialogue, leurs réponses sont des modèles pré-écrits, par exemple, la réponse sur l'adresse de livraison est généralement fixe, avec seulement des modifications mineures. Il y a un certain décalage entre la réponse de ce modèle figé et le vrai service client humain. Maintenant, tout le monde travaille dur pour améliorer le niveau anthropomorphique des robots de dialogue, afin que le service client intelligent derrière eux puisse être plus émotionnel, mieux à même de comprendre les émotions des utilisateurs et d'effectuer des calculs multimodaux. A cet égard, avez-vous investi dans la recherche et le développement ? ***

Wang Suwen : Je pense que cela peut être discuté sous trois aspects : la personnification, l'humanisation et l'individualisation.

Le premier est l'anthropomorphisme. Dans le domaine du service client intelligent, l'anthropomorphisme a toujours été un point douloureux, car les performances des robots traditionnels dans ce domaine doivent être améliorées. Nous avons exploré comment construire des interactions de dialogue anthropomorphiques. Cela implique comment concevoir des dialogues situationnels, comment désassembler les problèmes, comment hériter du contexte et comment comprendre plusieurs cycles de dialogue. Dans l'ensemble, nous espérons que les bots pourront fournir des modes de conversation et d'interaction plus pertinents et naturels.

Suivi des services à la personne. Sur la base de l'identification précise de la scène ou de l'intention, nous devons également améliorer encore le service sur la base de l'anthropomorphisme. Je pense que l'informatique affective multimodale est un moyen efficace d'atteindre cet objectif. Par exemple, notre société a développé un service client humain numérique virtuel, qui peut mener des dialogues interactifs homme-ordinateur, combinés à l'informatique émotionnelle, et reconnaître les expressions émotionnelles de l'utilisateur grâce à des méthodes multimédias telles que la vidéo, la voix et le texte. De cette manière, un service client intelligent peut donner un retour émotionnel correspondant aux utilisateurs, créer une interaction homme-ordinateur avec une compréhension et une chaleur émotionnelles, et réaliser des services plus humanisés. En termes d'informatique affective, les méthodes traditionnelles ont deux modes : les règles et l'apprentissage automatique. Grâce à l'apprentissage automatique, nous pouvons former des modèles pour apprendre automatiquement les états émotionnels et atteindre des normes de classification, afin de mieux s'adapter à différents domaines et contextes. De cette manière, de meilleurs effets d'expression émotionnelle peuvent être obtenus et des services plus humanisés peuvent être fournis.

Enfin, il y a un service personnalisé. Nous devons mettre en place des services personnalisés basés sur le portrait de l'utilisateur pour obtenir l'effet de "milliers de personnes avec des milliers de visages". Par exemple, nous avons développé une plate-forme d'informations sur les utilisateurs, qui peut marquer les utilisateurs et accumuler des portraits grâce à des informations de base sur les portraits d'utilisateurs et à une analyse des informations lors de conversations historiques. Dans le dialogue de suivi, nous pouvons fournir différents processus de dialogue, méthodes de réponse et recommandations en fonction du portrait de l'utilisateur, afin d'obtenir des services personnalisés plus précis et d'améliorer la satisfaction des utilisateurs et des entreprises.

***Xu Wenhao : Le professeur Wang Suwen a fourni de nombreux partages d'expériences précieux, qui peuvent être utilisés à titre de référence et d'imitation par ceux qui sont engagés dans un travail de service client intelligent. JD.com est une plate-forme avec un grand nombre d'utilisateurs et de produits. Tout le monde espère qu'en utilisant un service client intelligent, on aura le sentiment qu'il y a une vraie personne derrière. J'aimerais demander à M. Wang Chao, quel travail JD.com a-t-il fait en R&D et en produits pour réaliser la capacité de « des milliers de personnes, des milliers de visages » ? Y a-t-il une expérience à partager avec vous ? ***

Wang Chao : Nous avons beaucoup investi dans l'amélioration de l'expérience et du service personnalisé. Le service client intelligent émotionnel développé par l'équipe Yanxi est le premier service client intelligent émotionnel commercial à grande échelle de l'industrie. Depuis 2018, nous avons introduit la capacité de reconnaissance et de réponse des émotions dans la capacité de réponse du robot. Cette technologie n'est pas seulement utilisée dans le domaine du service à la clientèle, mais également dans les services d'inspection de la qualité et de gestion du personnel.

Répondre à cette question implique deux aspects. La première direction est la technologie, telle que les technologies de pointe telles que le dialogue multi-tours, qui sont les principales directions de développement de la technologie actuelle du service client intelligent. Une autre direction importante est l'exploitation, c'est-à-dire comment procéder au démantèlement détaillé de la scène, analyser les différences homme-machine et réaliser la découverte automatisée des problèmes et la comparaison des différences de service homme-machine grâce à la surveillance et aux systèmes d'outils grâce à une analyse comparative avec le service client humain. De cette façon, nous réalisons progressivement une analyse raffinée de l'expérience du service de foule à partir de l'analyse globale des différences de l'expérience globale et de l'expérience du service de foule. Avec un tel système, nous pouvons continuer à optimiser l'expérience de service globale et enfin réaliser la couverture de service de machine du volume de réception de machine quotidien actuel de JD.com de 70 % et 90 % pendant la période de promotion.

** Jia Haowen : ** Le thème de la diffusion en direct de ce soir concerne la compréhension du service client humain numérique et des grands modèles. Notre compréhension du service client traditionnel, qu'il s'agisse d'un service client manuel ou d'une FAQ, peut être considérée comme un service client intelligent bas de gamme. En tant qu'utilisateurs, nous attendons du service client qu'il soit compétent et capable de fournir une assistance pour résoudre les problèmes. En même temps, si le service client peut montrer des caractéristiques anthropomorphiques et fournir des services personnalisés, l'expérience utilisateur sera meilleure.

Dans le domaine des grands modèles, l'anthropomorphisme et la personnification sont très importants. Notre entreprise s'oriente davantage vers la direction de recherche de l'intelligence cognitive et de la psychologie. Nous nous concentrons sur la manière d'obtenir rapidement les balises psychologiques des utilisateurs et de juger les utilisateurs d'un point de vue psychologique, afin de fournir de meilleurs services. On peut imaginer une scène, comme Jarvis dans le film Marvel "Iron Man". Ce serait un état idéal si le grand modèle du futur pouvait agir comme un assistant et donner les réponses et recommandations les plus appropriées en fonction de notre humeur et de nos préférences du jour.

A l'heure actuelle, nous en sommes encore au stade préliminaire des recherches sur la combinaison des grands modèles et des humains numériques. Cependant, avec l'émergence des résultats de la recherche universitaire dans le domaine de la multimodalité, certains produits d'expérience de meilleure qualité et à moindre coût pourraient émerger.

***Xu Wenhao : Tout le monde a mentionné la poursuite de l'émotion, et il semble que tout le monde évolue dans une direction plus proche des vraies personnes. La plupart des spectateurs de la salle de diffusion en direct sont des étudiants engagés dans des travaux techniques. Nous espérons partager une expérience sur la façon de construire un système de dialogue de haute qualité, qu'il s'agisse d'un service client intelligent, d'un service après-vente ou d'un guide d'achat avant-vente. . Par où dois-je commencer lorsque je saisis ce champ ? ***

Jia Haowen : Si nous voulons construire un système de dialogue de haute qualité, cela implique en fait la question de l'approbation traditionnelle des projets Internet. Dans ce processus, nous devons tenir compte de la sélection de l'architecture du produit métier, de l'architecture technique et de la forme d'atterrissage réelle du produit. Dans le même temps, nous devons également tenir compte du fait que de nombreuses grandes entreprises ou moyennes entreprises disposent déjà de nombreux produits de service client existants. Si nous voulons améliorer les capacités de ces produits de service client existants grâce à de grands modèles, nous devrons peut-être adopter une approche plus conservatrice. Par exemple, les grands modèles peuvent être utilisés comme outil de base de connaissances externe pour fournir des informations. Pour en revenir à l'aspect architectural que nous venons de mentionner, l'architecture du produit et la sélection des outils sont des considérations importantes. Pour le point d'entrée initial, des outils tels que les systèmes d'étiquetage de mots-clés et les expressions régulières traditionnelles peuvent être impliqués. Cependant, il n'existe pas de paradigme standard général pour le choix spécifique de ce paradigme, car il est lié aux caractéristiques de chaque entreprise.

***Xu Wenhao : Du point de vue des praticiens, qu'il s'agisse d'une société de service client intelligente ou d'une plate-forme SaaS ou cloud de service client intelligent, ils peuvent réfléchir à la manière d'améliorer encore le système de dialogue pour fournir des services de meilleure qualité. Bien que nous ayons beaucoup discuté des grands modèles aujourd'hui, en fait, lorsqu'il s'agit de service client intelligent traditionnel, que ce soit dans le secteur bancaire ou dans le commerce électronique, les consommateurs auront plus ou moins l'impression qu'il n'y a pas de personne réelle derrière eux pour fournir des services. Nous devons réfléchir à la manière d'améliorer l'expérience utilisateur et investir davantage d'efforts pour améliorer le statu quo. ***

Jia Haowen : Si nous réduisons la portée du problème et nous concentrons sur la fourniture d'une sortie de contenu de service client intelligent plus efficace et de haute qualité, nous pouvons alors considérer le grand modèle comme un service de dialogue amélioré. Dans les produits de service client intelligents, les utilisateurs s'attendent à rencontrer un robot intelligent, empathique et communicatif. En même temps, ils espèrent que le contenu des réponses pourra se concentrer sur des domaines d'activité spécifiques, tels que le marketing du service client et d'autres scénarios. Dans ce cas, nous pouvons combiner les capacités de reconnaissance d'intention, de flux de dialogue et de dialogue multi-tours du grand modèle avec des sources de données externes telles que les FAQ traditionnelles. Cela signifie que nous devons faire converger l'ensemble du processus de traitement du langage, comme résumer les données des questions des visiteurs et les comparer avec les questions des utilisateurs, et même saisir une grande quantité de données privatisées pendant que les utilisateurs posent des questions, afin de compléter les robots intelligents traditionnels, la voix robots et capacités de contenu des bases de connaissances externes. Grâce à cette combinaison, l'efficacité de l'expérience utilisateur peut être considérablement améliorée en peu de temps. De plus, nous pouvons envisager l'amélioration des capacités anthropomorphiques, mais pour les entreprises qui souhaitent mettre à niveau leurs capacités de système de dialogue, les défis peuvent être plus élevés, il est donc recommandé de les introduire avec soin. En tant que point d'entrée, la prise en compte de grands modèles dans le cadre d'un apport de connaissances externes peut être un point d'entrée rapide et peu coûteux.

Comment améliorer la qualité du dialogue des grands modèles

***Xu Wenhao : Professeur Wang Suwen, si nous voulons construire un système de dialogue de qualité pour améliorer la situation actuelle, dans quels domaines devrions-nous investir dans la recherche et le développement ? ***

Wang Suwen : Nous pouvons considérer les points suivants pour améliorer la qualité du système de dialogue.

  1. Réduction des coûts d'étiquetage des données : les méthodes traditionnelles d'étiquetage des données nécessitent beaucoup d'étiquetage manuel, ce qui entraînera des coûts en temps et en ressources. Afin de réduire cette dépendance, nous pouvons étudier comment utiliser une grande quantité de données non étiquetées pour une formation non supervisée, réduisant ainsi le besoin de données étiquetées manuellement. Une telle approche peut améliorer l'efficacité de l'acquisition de données et réduire les coûts.

  2. Amélioration de la capacité de généralisation : Il ne suffit pas de répondre à une seule question, le système de dialogue doit avoir une certaine capacité de généralisation pour s'adapter aux différents scénarios et besoins des utilisateurs. En apprenant la diversité et la régularité du langage, nous pouvons améliorer la capacité de généralisation du modèle afin qu'il puisse traiter davantage de problèmes et de situations.

  3. Construction et sélection de modèles de dialogue : lors du choix d'un modèle de dialogue, nous devons tenir compte de l'applicabilité du modèle dans différents scénarios. Il existe actuellement de nombreux grands modèles parmi lesquels choisir, nous devons donc choisir un modèle approprié en fonction des besoins spécifiques pour obtenir une précision et un effet plus élevés.

  4. Apprentissage et optimisation continus : le système de dialogue nécessite un apprentissage et une optimisation continus, car l'effet du modèle en ligne initial n'est pas parfait. Le système doit avoir la capacité d'auto-itération et d'auto-optimisation, et d'améliorer progressivement l'effet et les performances grâce à une utilisation et une rétroaction continues. Ce processus d'apprentissage continu et d'optimisation peut répondre aux besoins des clients et rendre le système de plus en plus intelligent et efficace.

***Xu Wenhao : Maître Wang Chao, avez-vous des commentaires à ajouter à la discussion précédente ? ***

Wang Chao : Je pense que la clé de cette question est que du point de vue des clients et des parties commerciales, ainsi que de notre point de vue en tant que développeurs et concepteurs de produits de plate-forme, ils pointent tous vers le même objectif. Quel que soit le point de vue, nous devons prêter attention aux besoins fondamentaux de l'entreprise et aux attentes du système de service client intelligent dans la fourniture de services. Sous différentes formes et modèles de service, l'architecture technique du produit et les capacités techniques introduites peuvent être différentes, mais dans l'ensemble, il n'y a pas beaucoup de différence.

Par exemple, pour certaines parties commerciales, ils peuvent espérer que les robots peuvent fournir des fonctionnalités de base de questions-réponses et de recherche d'informations. Pour le moment, nous n'aurons peut-être besoin que de fournir quelques FAQ et quelques outils de dialogue simples et modèles d'algorithmes pour répondre aux besoins . Pour certaines parties commerciales, ils espèrent que les robots ont la capacité de gérer et de suivre les affaires en leur nom, et même de fournir des services de dialogue basés sur des scénarios et une escorte complète. En réponse aux différents niveaux de besoins des clients, nous devons concevoir des produits et construire une architecture technique en conséquence, et introduire les capacités correspondantes. Par conséquent, je pense qu'il est très important d'effectuer un suivi auprès de l'entreprise, de l'aider par la consultation et d'acquérir une compréhension approfondie de son entreprise. Selon les différents besoins des clients, effectuer la conception des produits et la construction de l'architecture technique, et introduire les capacités correspondantes pour répondre à leurs besoins.

***Xu Wenhao : Quel modèle a le meilleur effet après l'avoir essayé ? Quels sont les outils et applications nécessaires, comment choisir l'architecture, etc. ? ***

Wang Suwen : Lorsque vous utilisez ChatGPT ou de grands modèles similaires, vous pouvez les appliquer et les déployer en suivant les étapes suivantes.

  1. Formation et réglage du modèle : choisissez un grand modèle open source disponible dans le commerce, tel que Zhipu ChatGLM, le grand modèle Baichuan, etc. Vérifiez et testez les performances du modèle en fonction de vos propres besoins et de votre activité. Collectez des données liées au domaine et utilisez ces données pour effectuer une formation de domaine sur de grands modèles open source, et pouvez également effectuer une génération semi-automatique de jeux d'instructions. En affinant et en filtrant plusieurs cycles de données de dialogue, la capacité de dialogue des grands modèles de domaine est améliorée. Assurez-vous que le modèle répond aux exigences en termes de sécurité, de réglage fin et de post-traitement selon les spécifications et les valeurs.

  2. Ingénierie des modèles et optimisation des performances : pour les modèles génératifs, tenez compte de la vitesse, de la capacité et de la compression du raisonnement du modèle. Si le modèle est trop grand pour être pris en charge par une seule carte, un raisonnement parallèle avec plusieurs cartes sur une seule machine ou plusieurs cartes sur plusieurs machines peut être envisagé. Effectuez des optimisations de performances sur les modèles, y compris la dépressurisation, la compression et l'accélération pour de meilleures performances.

***Xu Wenhao : Maître Wang Suwen, avez-vous des modèles commerciaux de base en chinois recommandés ? ***

Wang Suwen : Je crois que chacun fera des compromis en fonction de ses propres besoins et normes lors du choix d'un modèle. Chaque modèle a ses propres caractéristiques et avantages. Dans nos besoins commerciaux, nous avons testé plusieurs modèles, et avons finalement choisi les deux grands modèles de Zhipu et Baichuan, car les grands modèles de Zhipu et Baichuan ont atteint une certaine maturité dans la commercialisation. Ils ont récemment publié un nouveau modèle, qui montre également qu'ils optimisent et itèrent constamment. Je crois qu'avec l'amélioration continue de ces modèles, le développement de modèles de domaine basés sur ces grands modèles apportera de meilleurs résultats.

***Xu Wenhao : En termes de test de grands modèles, M. Jia recommande-t-il une architecture d'outil ou des applications particulièrement critiques ? ***

**Jia Haowen :**Pour les petites et moyennes entreprises, il peut être difficile de développer à partir de zéro ou d'effectuer un réglage du jeu d'instructions sur des modèles existants. Les modèles sont souvent trop volumineux pour tenir même sur une seule carte graphique ou machine. En outre, la collecte de données structurées, en particulier les données liées à des domaines commerciaux spécifiques, est également essentielle. Parce que dans le processus de formation original de ChatGPT, beaucoup de collecte et d'organisation de données ont été effectuées, ce qui nécessite l'utilisation de données dans son propre domaine pour affiner le modèle dans le processus de réglage du jeu d'instructions. Cela implique du calcul parallèle multi-machines et multi-cartes, qui peut nécessiter que les formateurs d'algorithmes et de modèles aient un haut niveau de connaissances, comme les mesures d'accélération de tenseur et les mesures d'accumulation de gradient.

Dans le processus de déploiement et d'exploitation des modèles, il peut être nécessaire de prendre en compte la vitesse du réseau pour la formation des modèles, la sélection des disques durs (tels que Zata ou SSD), le stockage et les outils d'accélération de la transmission de données, qui ont des exigences élevées pour l'environnement d'exploitation et de maintenance. . D'une manière générale, le processus de formation du grand modèle actuel peut être relativement difficile, mais pour le processus de déploiement et d'inférence simple, il est fondamentalement possible de le déployer sur le V100 basé sur un grand modèle tel que 6B ou 13B.

Si le réglage et la formation du modèle sont terminés et déployés sur le système en ligne, nous envisageons généralement de mettre à niveau l'ensemble de l'architecture. À l'heure actuelle, la plus populaire dans l'industrie est la base de données vectorielle Milvus, qui peut mettre en cache de manière intermédiaire les résultats générés par récupération de vecteur, similaire au cache Redis que nous utilisons habituellement. En raison des caractéristiques du mécanisme de génération de cloze, bien que le style spécifique de chaque génération puisse être différent, la signification générale est la même. Afin de réduire les coûts en ligne, nous pouvons adopter un tel mécanisme. Dans le même temps, un ensemble complet de solutions est également requis pour le système de révision du contenu, le système de préparation des données de formation et le système d'étiquetage.

En général, former un grand modèle n'est pas nécessairement terrible, mais cela peut augmenter les exigences de notre pile technologique précédente, mais cette amélioration peut également être surmontée, mais cela peut être un peu difficile, mais nous pouvons complètement apprendre et pratiquer pour répondre à ces défis.

***Xu Wenhao : La formation modèle elle-même n'est qu'une partie de l'ensemble du processus, et les mesures de soutien qui l'entourent sont également cruciales. Par exemple, base de données vectorielle, système de cache, système d'étiquetage, etc. Ces outils et systèmes de support sont cruciaux pour l'itération et le développement continus des produits. Au cours du processus de recherche et développement, nous avons besoin d'une chaîne d'outils et de solutions complètes pour prendre en charge la collecte de données, le prétraitement, l'étiquetage et la formation, l'optimisation et le déploiement de modèles. Monsieur Chao Wang, avez-vous quelque chose à ajouter ? ***

Wang Chao : Dans cette question, je peux partager quelques informations sur le grand modèle en cours de développement. Nous développons notre propre modèle industriel et sommes impatients de coopérer avec des entreprises et des collègues. Plus d'informations sur les opportunités de partenariat seront annoncées après juillet. Mentionnez également comment vérifier quels grands modèles sont meilleurs. À cet égard, nous sommes plus préoccupés par la manière d'appliquer avec succès des modèles à grande échelle éprouvés sur la plate-forme, tels que Baichuan et d'autres modèles, et encourageons tout le monde à y prêter attention et à les comprendre.

***Xu Wenhao : En termes d'efficacité R&D, quelle expérience avez-vous à partager en termes de taille d'équipe, de puissance de calcul et d'estimation de temps pour développer et déployer des modèles à grande échelle ? ***

Wang Suwen : L'ensemble du processus de développement et de déploiement de grands modèles prend un certain temps. En particulier dans la compression, l'accélération et l'optimisation des modèles, une expérimentation et un réglage itératifs sont nécessaires, ce qui peut prendre beaucoup de temps. Par exemple, nous avons développé un modèle avec une échelle de 7 B. Après optimisation, sur la configuration de type b à 4 cartes sur le serveur A800, la vitesse d'inférence a été réduite des 28 millisecondes précédentes à environ 5 millisecondes. L'effort humain total dépend du travail que vous faites.

Tout d'abord, l'ensemble du cadre de base doit être construit, et le modèle doit être compressé et quantifié, y compris l'optimisation de l'opérateur. Nous avons optimisé sur la base de FastarTransformer de Nvidia, nous devons donc personnaliser l'opérateur d'optimisation, choisir un moteur d'inférence adapté aux besoins, tel que Triton de Nvidia, et fournir des services en fonction de différents backends. Enfin, des tests de performances globales sont nécessaires pour déterminer les meilleures performances du modèle sur différents appareils et pour le déploiement final. Selon notre expérience, l'ensemble du processus d'adaptation prend au moins un mois. De plus, il faudra un certain temps pour optimiser la tâche d'ajustement des instructions, qui dépend des besoins spécifiques de l'entreprise et du nombre d'instructions. Selon le type d'entreprise, une équipe de plus d'une douzaine de personnes est généralement requise pour le faire.

***Xu Wenhao : On dirait qu'il faudra une équipe d'une dizaine de personnes, et il faudra un mois ou deux pour terminer le processus d'optimisation du raisonnement et de formation de ces modèles. Ce n'est pas le genre de grand modèle avec des centaines, des milliers ou des centaines de millions de paramètres dont nous parlons. ***

Wang Suwen : Oui, un modèle bien formé et optimisé dans un secteur spécifique peut être rapidement déployé et reproduit pour les clients de ce secteur. De cette façon, nous sommes en mesure de tirer parti de nos travaux antérieurs et de fournir à nos clients des solutions personnalisées. Par exemple, nous avons des modèles optimisés dans les secteurs de la finance, de l'assurance, de la gestion de patrimoine et de la vente au détail, ce qui nous permet de reproduire rapidement ces modèles optimisés et de fournir rapidement des services aux clients. Cette capacité de réutilisation peut grandement améliorer l'efficacité et accélérer la livraison des solutions.

***Xu Wenhao : Je comprends. En fait, il ne s'agit actuellement que d'un processus de développement de produit, pas d'un processus d'atterrissage de projet. Un produit a été développé qui peut être utilisé par de très nombreux clients. Quelle est l'opinion de Maître Jia sur cette question ? ***

Jia Haowen : Pour le développement de grands modèles de domaine, la collecte de données est essentielle pour les modèles spécifiques à un domaine. Pour les domaines hautement spécialisés (comme le droit), la collecte de données peut prendre beaucoup de temps, peut-être un demi-mois ou même un mois. Une fois la collecte de données et le traitement structuré terminés, les liens suivants peuvent commencer, tels que le réglage du jeu d'instructions et le processus de formation multi-niveaux et multi-cartes. Une fois ces étapes terminées, plusieurs cycles d'évaluation des effets du modèle sont généralement effectués, car les résultats générés par le mécanisme Transformer peuvent ne pas être suffisamment fiables et un grand nombre de tests d'effets sont nécessaires pour garantir la fiabilité du modèle. Lorsque la formation sur modèle est pratiquement terminée et prête pour une utilisation commerciale initiale, nous pouvons effectuer d'autres travaux de production en fonction des besoins des clients et les intégrer dans un produit complet pour fournir aux utilisateurs des services complets.

Du point de vue des coûts, la collecte des données peut prendre un demi-mois à un mois pour former un modèle relativement petit avec une échelle de 6B ou 7B. Cependant, cela nécessite également une condition préalable importante, c'est-à-dire que l'équipe responsable de la formation du modèle doit être familiarisée avec les méthodes et méthodes de formation multi-machines multi-cartes, et être familiarisée avec diverses stratégies d'accélération des données et des stratégies d'accélération de la mémoire. De plus, la préparation de l'environnement est également critique. Pour certaines petites entreprises, si elles souhaitent former de grands modèles, elles peuvent avoir besoin de louer des machines sur des plateformes telles que Alibaba Cloud ou Tencent Cloud et de créer leur propre environnement. Ce surcoût est également à prendre en compte.

Développez un grand modèle, quel est le ratio entrée-sortie ?

***Xu Wenhao : D'après les points de vue des deux enseignants, si les conditions de l'équipe sont matures, le développement d'un modèle miniature à l'échelle 7B peut nécessiter au moins une équipe de plus de dix personnes, et le développement prendre environ trois mois. Ainsi, même le développement d'un petit modèle nécessite des investissements considérables. Quel est le rapport entrées-sorties approximatif du développement d'un grand modèle ? Comment résoudre les risques réglementaires et les problèmes de sécurité ? ***

Jia Haowen : Pour évaluer le ratio entrées-sorties, des scénarios et des besoins commerciaux spécifiques doivent être pris en compte. Pour les industries traditionnelles de la rédaction, de la publicité, du cinéma et de la télévision telles que la génération de scripts créatifs, l'AIGC et d'autres grands modèles peuvent générer rapidement une grande quantité de matériel. Bien que la fiabilité puisse faire défaut, cela peut améliorer considérablement l'efficacité de la production. Pour ces tâches de production créative , l'entrée Le rapport de sortie peut être très rentable. Cependant, pour d'autres domaines tels que la génération de connaissances juridiques, l'analyse de cas, l'analyse de polices d'assurance, etc., parce que les résultats de sortie peuvent ne pas être parfaits, il faut investir beaucoup de ressources humaines et passer par plusieurs cycles de réglage du modèle pour atteindre un sortie plus idéale. Par conséquent, le rapport entrée-sortie peut être plus élevé.

En ce qui concerne la supervision, nous devons également tenir compte des politiques réglementaires récemment introduites liées à la production profonde. Il implique principalement plusieurs aspects. Tout d'abord, nous devons faire attention à savoir si cela enfreindra la propriété intellectuelle ou le droit d'auteur des compositeurs, écrivains, peintres, etc., et s'il est facile de générer de fausses informations. En termes de réglementation des résultats générés, nous devons garantir des mécanismes de révision et de gestion du contenu afin de garantir que le texte et les images générés ne portent pas atteinte aux droits de propriété intellectuelle. Dans le même temps, pour les industries traditionnelles, la conformité et le contrôle des risques sont également des considérations importantes. Au fur et à mesure que les expériences se développent, une chaîne industrielle de grands modèles peut se former, certains travaillant sur les moyens de production pour la génération de grands modèles et d'autres travaillant sur des mesures pour empêcher la génération de grands modèles incontrôlables. L'établissement de cette correspondance sera itéré dans le temps afin d'atteindre un bon équilibre entre la génération et la supervision de grands modèles dans le cadre des lois, des règlements et de l'éthique.

***Xu Wenhao : Nous n'aurons pas seulement des sociétés d'IA, mais aussi des sociétés de sécurité IA, tout comme il existe de nombreuses sociétés de sécurité sur Internet. Je voudrais demander le point de vue du professeur Wang Suwen sur les questions de sécurité et de supervision de l'IA. ***

Wang Suwen : Tout d'abord, lorsque nous formons des modèles de domaine ou de grands modèles, la conformité et la légalité des données sont très importantes. Nous devons obtenir des données par des canaux formels et assurer la sécurité et la confidentialité des données.

Deuxièmement, lorsque nous effectuons une formation sur le modèle de domaine pour les clients, nous devons garantir la sécurité et la conformité des données au sein de l'entreprise, et les données entre différentes entreprises doivent être isolées et ne peuvent pas être réutilisées ou utilisées dans la formation à volonté. En outre, lors de la formation de modèles de domaine pour les clients, nous devons également effectuer un réglage fin et un alignement pour nous assurer que les modèles de sortie répondent aux exigences de conformité.

D'un point de vue réglementaire, les ministères ont besoin de connaissances spécialisées interdisciplinaires et transversales lors de la formulation des cadres réglementaires. Nous coopérons avec l'Académie des technologies de l'information pour établir conjointement un cadre réglementaire solide et mener une coopération approfondie avec elle. Nous effectuons également une certification de sécurité avec l'Académie des sciences et de la technologie pour nous assurer que nos grands modèles ont été rigoureusement testés et vérifiés.

Ce n'est que grâce à la coopération du gouvernement, des experts et des entreprises que nous pouvons promouvoir le développement sain de l'AIGC, répondre aux besoins des utilisateurs et garantir l'utilisation en toute sécurité des grands modèles.

Dans le domaine du service client intelligent, quels sont les principaux obstacles pour les entreprises ?

***Xu Wenhao : Dans le domaine du service client intelligent, tout le monde effectue plusieurs cycles de dialogue et d'analyse des sentiments. Quels sont donc les principaux obstacles de l'entreprise ? ***

Wang Chao : Pour le secteur du service client intelligent, le problème d'homogénéisation est étroitement lié à l'objectif d'achat d'un service client intelligent et au retour sur investissement attendu. Dans JD.com, lors de la création d'un service client intelligent, les entreprises doivent diviser leurs objectifs de développement en trois étapes : primaire, intermédiaire et élevée (ou mature). Si l'objectif du client en est encore à ses balbutiements, c'est-à-dire uniquement de simples fonctions de questions et réponses et d'enquête, les besoins d'achat d'un service client intelligent peuvent être similaires. Dans ce cas, le degré d'homogénéité peut être plus élevé. Cependant, si les besoins du client sont positionnés à un niveau supérieur, comme la fourniture de services proactifs, d'un suivi complet et de services complets, il est alors nécessaire de déterminer si le fournisseur de services client intelligent a une méthodologie d'exploitation correspondante et des services complets associés. système d'outils d'exploitation. Sur la base de cette logique, je pense que l'un des principaux obstacles de la génération actuelle de produits de service client intelligents est de savoir si le fournisseur possède une expérience de projet de robot complexe et mature et une riche expérience de fonctionnement.

Un autre point clé est de savoir si une entreprise de service client intelligente peut fournir une planification à long terme et une méthodologie d'exploitation d'orientation, ainsi que des systèmes d'outils d'exploitation connexes, en plus de fournir des produits et des technologies pertinents. En même temps, si nous pouvons aider les clients à construire un échelon de talents et fournir des services de formation. Ces facteurs sont très importants dans la génération actuelle de bots.

Quant à l'avenir, les grands modèles seront une barrière importante. Pour le produit que vous avez mentionné, la question de savoir si différents types de grands modèles peuvent être efficacement intégrés aux capacités du produit d'origine sera un facteur clé. Dans le même temps, la capacité à développer de grands modèles deviendra également un avantage concurrentiel unique.

***Xu Wenhao : Je pense que chaque entreprise aura le sentiment qu'elle dispose d'avantages uniques en matière de service client intelligent ou de produits similaires. Monsieur Jia, en ce qui concerne les produits de votre entreprise, où sont ses barrières ? ***

**Jia Haowen :**Du service client traditionnel au service client modèle à grande échelle, l'ensemble du processus peut être considéré comme un obstacle à la concurrence. Bien que nous ne soyons pas en mesure de rivaliser avec les grandes entreprises en termes de puissance de calcul et de volume de données, nous pouvons être en mesure de rivaliser dans des domaines interdisciplinaires, tels que l'application des connaissances psychologiques dans la formation de modèles à grande échelle et l'intersection de l'intelligence cognitive. et applications de modèles à grande échelle. Pour les autres entreprises, elles peuvent également combiner leurs propres caractéristiques pour se démarquer dans le processus de service et de formation des grands modèles de plus en plus homogène.

Wang Suwen : Ce problème se résume en fait à deux points essentiels : les entreprises de service client intelligentes doivent réfléchir à la manière de réaliser des bénéfices et d'augmenter leurs marges bénéficiaires brutes. Pour y parvenir, il faut d'abord se concentrer sur deux aspects. Tout d'abord, vous devez fournir un service client intelligent de haute qualité pour satisfaire les clients, afin que votre entreprise puisse se développer pendant longtemps. Par conséquent, il est très important de prêter attention à l'effet du produit, y compris l'amélioration de la puissance du produit et de l'effet intelligent, afin d'améliorer l'expérience et la satisfaction de l'utilisateur. Deuxièmement, concentrez-vous sur l'amélioration de l'efficacité, considérez la question du rapport entrées-sorties, réduisez les coûts et augmentez la marge bénéficiaire brute du projet. L'amélioration de la livraison du projet et de l'efficacité opérationnelle est la clé, et la satisfaction du produit, l'efficacité du déploiement et de la mise en œuvre, ainsi que l'intégration rapide avec les systèmes commerciaux des clients et l'arrimage du contenu opérationnel doivent être pris en compte. Vous devez disposer d'une méthodologie de livraison complète et d'outils opérationnels pour améliorer la marge brute du projet afin d'atteindre la rentabilité et de maintenir un développement durable.

Les entreprises de service client intelligentes peuvent être divisées en deux catégories, l'une étant les fabricants professionnels dans les domaines verticaux et l'autre les fabricants à usage général. Les fournisseurs de service client intelligents dans les domaines verticaux se concentrent sur des domaines spécifiques, tels que le commerce électronique ou l'assurance. Leurs avantages et obstacles résident dans la concentration sur l'industrie, l'optimisation continue des cartes et des données de connaissance de l'industrie, et la fourniture de solutions spéciales et la compétitivité de base. Zhongguancun Kejin est un fournisseur de solutions d'IA conversationnelle. Nous nous concentrons sur la finance, les affaires gouvernementales, la vente au détail et d'autres industries. Nous avons fourni des services à plus de 900 leaders de l'industrie et accumulé une riche connaissance de l'industrie. Nous prévoyons également de lancer des modèles de domaine à usage général et à grande échelle et de mettre à niveau des produits tels que le service client intelligent, les robots d'appels sortants, les assistants d'entraînement et d'inspection de la qualité en intégrant des moteurs de dialogue pour améliorer notre compétitivité dans l'industrie.

Deuxièmement, l'amélioration de la livraison et de l'efficacité opérationnelle est également essentielle. La satisfaction du produit est cruciale pour réduire les coûts de livraison des projets, et un déploiement et une mise en œuvre efficaces, ainsi qu'une intégration rapide avec les systèmes commerciaux des clients et l'ancrage du contenu opérationnel, amélioreront l'efficacité opérationnelle. Vous devez disposer d'un ensemble de méthodologie de livraison et d'outils opérationnels pour assurer la marge bénéficiaire brute maximale du projet. Cela vous permettra d'être rentable et durable à long terme.

*AIGC remplacera-t-il complètement le personnel du service client traditionnel ? *

***Xu Wenhao : Les trois enseignants ont mentionné trois obstacles fondamentaux : le premier consiste à se concentrer sur les domaines verticaux, le second consiste à rechercher une différenciation au niveau du produit et le troisième est la conception interdisciplinaire. Ces mesures aideront les entreprises à se démarquer dans un marché hautement concurrentiel et à offrir une valeur unique aux clients. Donc la dernière question pour aujourd'hui, merci d'utiliser un langage simple pour imaginer le futur développement d'AIGC dans ce domaine : AIGC remplacera-t-il complètement le personnel du service client traditionnel ? ***

Wang Chao : En tant que praticien, je suis optimiste quant aux perspectives de l'AIGC, et la question du remplacement implique différentes perspectives. Un point de vue est du point de vue du marché boursier et estime que l'espace de marché de l'industrie du service client est limité, de sorte que l'AIGC peut remplacer la main-d'œuvre traditionnelle. Cependant, je préfère y penser d'un point de vue progressif.

Tout d'abord, le service client intelligent a toujours besoin d'un support opérationnel humain, et les opérateurs jouent toujours un rôle important dans le processus de transformation du service client traditionnel en service client intelligent. Deuxièmement, le futur mode de fonctionnement peut changer et la coopération entre le service client intelligent et le personnel d'exploitation manuelle formera un nouveau mode de fonctionnement. Dans ce modèle, un petit nombre d'opérateurs peuvent transporter des robots de service client intelligents pour fournir des services 24 heures sur 24 de haute qualité à moindre coût, ce qui permettra à davantage de petites et micro-entreprises de fournir un service client de nouvelles manières et d'élargir la taille du marché. En bref, d'un point de vue incrémental, le service client intelligent ne remplacera pas complètement le service client traditionnel, mais le complétera, apportant de nouvelles opportunités et une marge de développement au marché.

Wang Suwen : Dans un avenir prévisible, le service client humain ne sera pas complètement remplacé, car il présente des avantages uniques pour traiter des problèmes complexes, pensants et émotionnels. En particulier pour traiter avec des clients de grande valeur, des clients potentiels et améliorer les taux de conversion des clients, le service client humain joue toujours un rôle important. En raison du coût élevé de l'acquisition de clients, de nombreuses entreprises espèrent toujours suivre et assurer efficacement la transaction grâce à un service client humain. Par conséquent, la relation entre le service client humain et le service client intelligent est davantage un modèle de coopération qui se combine. Les entreprises doivent considérer les avantages du service client humain et du service client intelligent en fonction de leurs propres conditions, et formuler le meilleur modèle de service client.

Dans l'ensemble, je pense que l'espace de développement futur de l'AIGC est large, et l'ensemble de l'industrie l'a également vu. Au cours des deux à trois prochaines années, l'AIGC et des technologies telles que ChatGPT se développeront à grande vitesse et favoriseront la mise à niveau de l'ensemble du secteur des services aux entreprises. Les secteurs de l'Internet et des services aux entreprises subiront des mises à niveau et des changements à grande échelle, y compris l'amélioration des installations de soutien. À l'heure actuelle, l'AIGC pose encore certains problèmes, tels que la qualité du contenu, le coût d'investissement, la sécurité des données et le droit d'auteur. Par conséquent, nous avons encore besoin d'un développement à plus long terme, y compris l'exploration de méthodes de modélisation plus sophistiquées et efficaces, pour améliorer ces problèmes. Je crois qu'avec l'avancement de la technologie, l'espace de développement des grands modèles sera infiniment large.

**Jia Haowen : **En effet, nous ne devons pas trop insister sur la substitution, mais plutôt sur les changements de modèles de travail et d'affaires qui seront apportés à l'avenir. Dans le processus de promotion des affaires, nous devons mesurer le rapport entre les intrants et les extrants, en particulier dans la promotion du service client, nous devons tenir compte de la sécurité de la confidentialité des données des utilisateurs, du respect des lois et réglementations, et des scénarios croisés et croisés. services anthropomorphiques de l'industrie. Les grands modèles peuvent apporter une grande valeur au personnel du service client traditionnel.Ils apporteront des changements qualitatifs, mais ils ne remplacent pas le service client humain. Dans l'ensemble, bien que le grand modèle ait quelques problèmes à l'heure actuelle, il a de grandes perspectives pour l'avenir. Pour le dire de manière plus littéraire, le développement de grands modèles passera d'un rêve à une réalité dans un avenir proche, et nous pourrons bientôt en faire l'expérience nous-mêmes.

Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Partager
Commentaire
0/400
Aucun commentaire
Trader les cryptos partout et à tout moment
qrCode
Scan pour télécharger Gate app
Communauté
Français (Afrique)
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)