Cómo AIGC inició una "nueva revolución" en el servicio al cliente inteligente

Fuente de la imagen: Generada por Unbounded AI

Fuente: infoq

Autor: Li Dongmei

Combinado con la lógica técnica subyacente de ChatGPT, existen aproximadamente cuatro direcciones para la industrialización de ChatGPT a corto y mediano plazo en el futuro: servicio al cliente inteligente, aplicaciones AIGC en modo texto, trabajo relacionado con el desarrollo de código y generación de imágenes. Entre ellos, el proyecto más adecuado para la implementación directa es el trabajo de servicio al cliente inteligente.

El servicio al cliente inteligente basado en la tecnología de modelo grande está cambiando fundamentalmente el proceso tradicional de interacción humano-computadora. El modelo grande genera automáticamente el proceso de diálogo para hacer que la operación del servicio al cliente inteligente sea más eficiente, lo que puede mejorar la tasa de resolución de problemas complejos, percepción e intención de la interacción humano-computadora La eficiencia del contenido operativo, como la comprensión, la construcción de procesos y la generación de conocimiento.

Solo desde la perspectiva de la tasa de penetración del producto, el servicio al cliente inteligente se ha popularizado gradualmente en el comercio electrónico, las finanzas y otros campos desde los últimos siete u ocho años. Los dos cambios principales provocados por el modelo grande, uno es que el costo de desarrollar productos inteligentes de servicio al cliente se ha reducido considerablemente y el otro es la mejora de la experiencia del usuario.

Entonces, si desea combinar el modelo LLM de lenguaje extenso con productos inteligentes de servicio al cliente, o poner el primero en el campo del software de aplicación ToB SaaS, ¿cómo debe comenzar a construir una pila de tecnología? ¿Cómo potenciarán los productos modelo a gran escala los productos inteligentes de servicio al cliente? En esta edición de "A Date with Geeks", invitamos especialmente a Xu Wenhao, fundador de bothub, fundador y CTO de Buqituo Network Technology, como anfitrión, y a Jia Haowen, director de tecnología informática de Huayuan y co- jefe del departamento de negocios humanos digitales, y Zhongguancun Kejin Wang Suwen, director de investigación y desarrollo de interacción inteligente, jefe del equipo técnico de servicio al cliente inteligente de Zhongguancun Kejin, y Wang Chao, jefe de producto JD Yunyanxi KA, discutieron la implementación y la tendencia de desarrollo futuro de AIGC en productos inteligentes de atención al cliente.

La siguiente es la transcripción de la entrevista.

***Xu Wenhao: Amigos de la audiencia, ¡hola a todos! Bienvenido a InfoQ "Una cita con geeks". El tema de hoy es la planificación especial de la "Publicación AIGC de Tiangong". Esperamos que a través de este plan, todos puedan comprender completamente todos los aspectos de AIGC en el campo del servicio al cliente inteligente y percibir profundamente este cambio. ***

***En este programa, hemos invitado a tres invitados a discutir la aplicación de AIGC en el campo del servicio inteligente al cliente. En general, dividiremos la discusión en tres partes. El primero es la aplicación del modelo grande AIGC en productos inteligentes de servicio al cliente; el segundo es el despliegue de la arquitectura AIGC y el diseño y selección de aplicaciones de herramientas en el servicio inteligente al cliente; el último es el método de construcción de un sistema de diálogo de alta calidad. ***

***Los tres invitados de hoy son todos expertos experimentados en el campo del servicio al cliente inteligente y productos interactivos inteligentes. El primer invitado es Wang Chao, la persona a cargo del producto JD Yunyanxi KA. El segundo invitado es el Sr. Wang Suwen, director de Investigación y Desarrollo Interactivo Inteligente de Zhongguancun Kejin. El tercer invitado es el Sr. Jia Haowen, Director de Tecnología Informática de la Academia Huayuan y Codirector de la División Humana Digital. ***

***Empecemos con la primera pregunta, tengo mucha curiosidad: ¿Qué cambios ha traído la aparición de AIGC al servicio de atención al cliente inteligente? Me gustaría invitar al Sr. Wang de JD Cloud a compartir sus puntos de vista. Según su observación, ¿qué innovaciones ha traído la aparición de AIGC al servicio inteligente de atención al cliente? ***

Wang Chao: El surgimiento de AIGC ha despertado una preocupación generalizada en todo el campo del servicio al cliente inteligente y ha llevado a los pares relevantes a realizar una gran exploración. Con respecto a la cognición y los cambios futuros del servicio al cliente inteligente, estos cambios cognitivos están cambiando cada día que pasa.

El equipo de JD Cloud Yanxi ha estado prestando mucha atención al progreso de las aplicaciones inteligentes de servicio al cliente en el país y en el extranjero. Además, el modelo a gran escala de Yanxi que estamos desarrollando se lanzará en julio, y también continuamos realizando varios experimentos de modelos a gran escala en el negocio de servicio al cliente. En los últimos meses, mi comprensión personal de AIGC ha sido completamente diferente a la de hace 3 meses, por lo que los puntos de vista que quiero compartir hoy representan opiniones más personales y puntos de vista actuales.

El impacto de AIGC en el servicio al cliente inteligente se puede ver desde dos niveles. En primer lugar, desde la perspectiva de los problemas de gestión comunes y las dificultades técnicas de nuestra industria, AIGC tiene el potencial para resolverlos. Todos sabemos que los modelos grandes mejorarán en gran medida el nivel de respuesta, el antropomorfismo y la experiencia de servicio del servicio al cliente inteligente, y pueden reducir en gran medida los costos operativos.

En términos de robótica, no creo que deba discutirse demasiado, porque ya hemos centrado mucha atención en los robots. Lo que quiero decir es que el modelo grande se usa en una amplia gama de campos de servicio al cliente inteligente, especialmente la información de verificación en la dirección de la gestión inteligente del servicio al cliente. Por ejemplo, en nuestra práctica de asistencia inteligente, algunas tecnologías anteriores han recomendado algunos puntos clave y extraído información clave en las conversaciones, aunque existen soluciones, generalmente es difícil lograr un buen equilibrio entre costo y efecto. Sin embargo, a través de la verificación del modelo grande, encontramos que tiene una buena capacidad de resolución y potencial para tratar estos problemas. Además, para el trabajo de inspección de calidad, los métodos como la regularización de palabras clave o los métodos inteligentes de inspección de calidad comúnmente utilizados en la industria tienen ciertos efectos, pero la tasa de precisión suele ser baja, la carga de trabajo también es pesada y el período para mejorar la tasa de precisión es largo. .

Sin embargo, al practicar con modelos grandes, descubrimos que funciona bien para comprender los criterios de control de calidad abstractos y realizar el trabajo de control de calidad. Además, en cuanto a la formación de los empleados, hemos visto algunos ejemplos de bancos líderes que introducen robots de diálogo para la formación. Además de lo anterior, también realizamos análisis comerciales en el centro de servicio al cliente y necesitamos resumir la información sobre las necesidades del cliente, los retratos de los clientes y los riesgos en la consulta del cliente.En el experimento, el efecto del modelo grande también es muy bueno. Creo que en el campo de la atención al cliente pan-inteligente, el potencial de aplicación de los modelos grandes es enorme. Creemos que en aproximadamente medio año, los productos principales en el mercado marcarán el comienzo de una actualización importante.

Con base en lo que se entiende actualmente sobre la industria y el dominio, podemos explorar si el dominio más amplio está a punto de cambiar. Por ejemplo, ¿qué cambios puede traer al servicio al cliente y al servicio al cliente? Creo que esta pregunta podría ser más desafiante y, en esta etapa, nadie puede identificar cambios específicos. Pero creemos que marcará una gran diferencia, al menos en algunas direcciones, como los servicios proactivos. Por ejemplo, las empresas de comercio electrónico suelen realizar diversas actividades, y la labor de promoción y explicación de las actividades no suele recaer en el centro de atención al cliente. Porque es muy difícil llevar a cabo una gama tan amplia de actividades con métodos manuales o con máquinas tradicionales. Pero podemos imaginar un futuro en el que nuestro servicio de atención al cliente pueda explicar bien muchas actividades mediante la introducción de un modelo grande y la entrada de información básica, lo que representa el posible potencial del futuro servicio de atención al cliente en términos de transformación activa y mejora.

***Xu Wenhao: Permítanme resumir, de hecho, la aparición de AIGC ha ampliado el alcance de la inteligencia aplicable en el campo del servicio al cliente inteligente. No solo en el campo inteligente tradicional de responder preguntas posventa, sino en todos los aspectos de todo el enlace de servicio al cliente, se puede aplicar el modelo grande e incluso se puede extender al campo de marketing. Profesora Wang Suwen, ¿qué tipo de fenómeno ve desde su perspectiva? ***

Wang Suwen: Como se mencionó hace un momento, el alcance del servicio al cliente inteligente es muy amplio. Las tecnologías como el servicio al cliente inteligente y los robots pueden cambiar el proceso tradicional de interacción entre humanos y computadoras. Mediante el uso de modelos grandes, especialmente el uso de generación automática de procesos de diálogo, la operación del servicio al cliente inteligente tradicional puede hacerse más eficiente. En la forma tradicional, generalmente necesitamos configurar la base de conocimiento manualmente, pero el efecto no es obvio. Sin embargo, la capacidad de resolver problemas complejos y la tasa de respuesta directa de preguntas se pueden mejorar directamente a través de la generación automática de procesos de diálogo a través de modelos grandes, lo que es un impacto disruptivo significativo.

El segundo punto es que los modelos grandes también pueden lograr los objetivos de reducción de costos y mejora de la eficiencia. Desde la perspectiva de la inteligencia, los costos laborales siempre han sido relativamente altos, porque requiere máquinas asistidas por humanos. A través de la aplicación de modelos grandes, puede ayudar a mejorar la eficiencia de la construcción y operación de la base de conocimiento, logrando así un efecto significativo de reducción de costos y aumento de la eficiencia.

El tercer punto trata sobre el antropomorfismo y la experiencia de usuario del robot. Los robots tradicionales a menudo se quedan cortos en estos aspectos. Sin embargo, la aparición de modelos grandes hace que el diálogo sea más fluido, más antropomórfico y más parecido a la comunicación entre humanos. Este es un efecto disruptivo muy poderoso.

Por supuesto, para el servicio al cliente general, incluida la inspección de calidad, los asistentes y el combate, el modelo grande también traerá los efectos disruptivos correspondientes, y los diferentes productos tendrán diferentes efectos.

***Xu Wenhao: Me di cuenta de que el Sr. Jia es el codirector de la División Humana Digital.Desde su punto de vista, si la combinación de servicio al cliente inteligente y humano digital traerá algunas innovaciones nuevas. ***

**Jia Haowen:**Antes de responder a esta pregunta, me gustaría volver al campo del servicio al cliente inteligente. El desarrollo del servicio de atención al cliente inteligente se remonta a la historia de la inteligencia artificial, que se basa en la acumulación de lenguaje. Recuerdo que hace unos diez años, había varios pisos llenos de personal de servicio al cliente que pasaba la mayor parte de su horario laboral resolviendo los problemas de los usuarios. En ese momento, incluso las herramientas como la base de conocimiento mencionada por los dos profesores no estaban muy completas.

Mirando hacia atrás ahora, Alipay y otros productos de servicio al cliente se han expandido gradualmente desde la base de conocimiento inicial hasta asistentes senior posteriores, y herramientas derivadas como el marco Rasa para simular múltiples rondas de escenarios de diálogo. Sin embargo, como acaban de decir los dos profesores, todos estos diálogos todavía carecen de personificación. Todas las herramientas de servicio al cliente anteriores fallaron esencialmente en las pruebas estándar de la industria informática. Pero cuando aparecen grandes modelos, especialmente cosas como ChatGPT o Vicuña, tienen un nivel de personalidad, aunque quizás al nivel de un niño de 10 u 11 años. En cierto modo, son capaces de pasar el test de Turing.

Ahora, volviendo a su pregunta anterior, la combinación de servicio al cliente inteligente y humano digital traerá algunas innovaciones nuevas. En la etapa inicial del campo humano digital, las preguntas y respuestas antropomórficas con humanos basadas en bases de conocimiento y modelos grandes no se pueden completar en tiempo real. Sin embargo, con la expansión de la tecnología, hemos podido lograr figuras antropomorfas, combinadas con maquetas de gran tamaño para simular escenas reales. Cuando lo aplicamos a escenarios como bases de conocimiento, servicio al cliente y empleados digitales, el campo de los humanos digitales puede enfrentar dos desafíos. La primera es la integridad de los datos. Aunque ChatGPT y similares se ven geniales, se generan esencialmente en base a datos históricos pasados, similar a la generación de cloze. Si bien este enfoque aumenta la eficiencia y reduce los costos de secuencias de comandos, la calidad del contenido generado es prácticamente incontrolable. En el contenido de salida de campos integrales como el servicio al cliente inteligente y humano digital, no podemos estar completamente seguros del contenido generado. Por lo tanto, es posible que debamos introducir diferentes verificaciones y medidas de seguridad para garantizar que lo que dice un ser humano digital o ChatGPT, etc. se parece más a un ser humano hablando que a un galimatías.

En resumen, aunque el modelo grande puede ser relativamente popular ahora y las perspectivas futuras también son brillantes, todavía se encuentra en un estado de 0 a 1 en la etapa actual. En el futuro, podemos esperar que crezca hasta convertirse en un árbol imponente, pero ahora, ya sea para toda la industria o para las expectativas de todos, todavía es necesario dejarlo crecer gradualmente en un suelo mejor, y realmente ser capaz de proporcionar un servicio al cliente inteligente. , Llevar mejoras de eficiencia a campos como los humanos digitales.

***Xu Wenhao: Quiero explorar este tema en profundidad. Me gustaría preguntarle al Sr. Jia, según su punto de vista, si introducimos un modelo a gran escala en el campo del servicio al cliente inteligente, ¿traerá beneficios? Me refiero a la situación actual, independientemente del desarrollo en dos o tres años. Mirándolo ahora, ¿hay algún beneficio desde la perspectiva de sus clientes o su producto interno desde el punto de vista de incorporar el modelo grande? ***

Jia Haowen: La introducción de un modelo grande depende de los escenarios comerciales específicos y las necesidades del usuario. Para grandes empresas como Ant Financial o JD.com con sistemas grandes y maduros, la introducción ciega de un modelo grande puede aumentar los costos adicionales. Necesitamos tomar algunas medidas de compatibilidad para evitar la incertidumbre causada por el contenido generado por IA. Para las empresas más pequeñas, el uso de modelos grandes como complemento a su base de conocimientos, con cierto nivel de revisión humana, puede ser una buena manera de aumentar la eficiencia. Puede ayudar al servicio de atención al cliente inteligente a comprender mejor la semántica del usuario, mejorar la calidad de la base de conocimientos e incluso mejorar la experiencia del usuario. Además, para aplicaciones de mayor nivel, como la inteligencia cognitiva, la introducción de modelos grandes puede ayudar a comprender y reconocer mejor a los usuarios. En la industria de Internet, existe un concepto importante llamado "miles de personas, miles de caras", lo que significa que cada servicio de atención al cliente puede brindar servicios personalizados. Por lo tanto, necesitamos ver si introducir un gran modelo desde un punto de vista dialéctico y tomar decisiones basadas en circunstancias específicas.

***Xu Wenhao: el punto de vista del Sr. Jia es que las grandes empresas deben ser cautelosas al introducir modelos grandes. La introducción de modelos grandes puede aumentar los costos y aumentar varios riesgos, y necesitan confiar en los métodos o modelos originales. como medida de respaldo. Luego me gustaría preguntarle al profesor Wang Chao, ¿el servicio de atención al cliente de JD Cloud ha introducido AIGC? ¿Cuáles serán los beneficios después de la introducción? ***

**Wang Chao: **Para las grandes empresas, aplicar con cautela modelos grandes en productos C-end no tiene en cuenta la garantía de la experiencia del cliente y la seguridad del servicio. En un negocio orientado al consumidor, la precaución es fundamental. En este sentido, tanto la validación como la experimentación avanzan con mucha cautela.

En el campo de la orientación comercial o la operación, eres más "valiente" en la experimentación y la verificación. Presentamos modelos a gran escala para ayudar a las operaciones a crear textos publicitarios y guiones, lo que brinda un buen soporte para que las operaciones resuelvan problemas de creatividad y eficiencia. Además, también es muy activa en la dirección de la gestión de empleados, como inspección de calidad, asistencia y capacitación.

¿El modelo grande es "solo necesario" o "sigue la tendencia"?

***Xu Wenhao: ¿Cuánto puede esto aumentar la eficiencia de los empleados ordinarios? ¿Lo has medido, o tienes algún dato en concreto? ***

Wang Chao: Todavía no hemos hecho cálculos específicos sobre este problema, porque la aplicación de modelos grandes se comporta de manera diferente en diferentes proyectos de trabajo. Por ejemplo, podría ser varias veces más rápido en la generación de guiones y redacción de textos publicitarios. Sin embargo, en términos de análisis diario y construcción de inspección de calidad, el efecto puede variar de un caso a otro. Por lo tanto, en la etapa actual, es difícil para nosotros cuantificar y sacar una conclusión precisa, pero estamos seguros de que la aplicación de modelos grandes ha mejorado la eficiencia.

***Xu Wenhao: Sr. Wang Suwen, ¿ha presentado AIGC a sus clientes o productos? ¿Puedes ver beneficios específicos? ***

Wang Suwen: En nuestro campo comercial, nos dirigimos principalmente al mercado ToB y atendemos a clientes en varios campos, como las industrias financiera y de seguros. Estos clientes tienen varias necesidades en términos de innovación, incluidos incentivos para reducir costos y mejorar la eficiencia. Hemos llevado a cabo una cooperación de creación conjunta con los clientes y los hemos verificado. Por ejemplo, creamos un asistente de marketing para un cliente que genera automáticamente una copia. Tradicionalmente, el nivel de cada empleado es desigual, incluida la falta de estandarización y unidad en términos de habilidades de marketing. A través de nuestro asistente de marketing, podemos ayudarlos primero a generar una copia unificada y copiarla en función de la excelente experiencia en la historia. El segundo es reducir costos y mejorar la eficiencia, ya que ya no necesitan dedicar demasiado tiempo a la capacitación, el aprendizaje y la memoria. Nuestros modelos grandes son ampliamente utilizados en la industria.

También hemos desarrollado bots de telemercadeo que pueden responder algunas preguntas directamente. Por supuesto, debemos tener en cuenta los problemas de cumplimiento, incluido el cumplimiento de las leyes pertinentes y la protección de la seguridad de los datos. Estamos trabajando con el Instituto Xinchuang para trabajar en la solución de estos problemas de estandarización.

***Xu Wenhao: Todos realmente están tratando de usar la habilidad del modelo grande. Sin embargo, todavía quedan muchos problemas específicos por resolver, especialmente los desafíos de controlabilidad y seguridad. Desde la perspectiva del servicio al cliente inteligente, la industria del comercio electrónico fue la primera industria en introducir el servicio al cliente inteligente, porque hay actividades promocionales a gran escala como "618" y "Double Eleven", y los picos de tráfico durante estas actividades son Muy grande. ***

***En los últimos años, los proveedores de servicios domésticos también han desarrollado varios productos inteligentes de servicio al cliente para varias instituciones financieras como bancos, seguros e instituciones de gestión de patrimonio. En este caso, parece que las entidades financieras se quedarán atrás si no utilizan los robo-advisors. Sin embargo, instituciones como el servicio de atención al cliente bancario no tienen períodos pico como "618" y "Double Eleven". ¿La introducción del servicio de atención al cliente inteligente por parte de estas instituciones es por necesidad, por "seguir la tendencia" o por una sensación de crisis? ? Si es una demanda rígida, ¿de dónde vino originalmente esta demanda? ***

Wang Chao: Impulsadas por la ola de digitalización, es más fácil para las instituciones financieras realizar la implementación del servicio al cliente inteligente. En el ámbito financiero, la atención al cliente inteligente ha sido ampliamente utilizada y se ha convertido en uno de los productos más habituales de las entidades financieras. Para las instituciones financieras, las necesidades principales del servicio al cliente inteligente son principalmente reducir costos y mejorar la eficiencia, lo que puede liberar a los recursos humanos del trabajo tedioso. Especialmente en escenarios comerciales como preguntas y respuestas automáticas, notificaciones y visitas de regreso para algunas preguntas de alta frecuencia, el servicio al cliente inteligente puede ahorrar recursos humanos y permitirles concentrarse en un trabajo más profesional y creativo en lugar de un trabajo repetitivo, frecuente y de bajo valor. . Permítales tener recursos para invertir en el desarrollo y mantenimiento de clientes de alto valor neto, y concéntrese más en realizar tareas más valiosas. Además, con una nueva generación de avances básicos, como la aparición de modelos grandes, el servicio al cliente inteligente también puede obtener poderosas capacidades de generación de lenguaje natural, haciéndolo más inteligente y eficiente.

***Xu Wenhao: Entonces es una necesidad rígida, porque hay mucho trabajo repetitivo para reducir costos y aumentar la eficiencia. Sr. Jia, ¿sus clientes en el campo financiero u otros campos prestan atención al servicio al cliente inteligente? ***

**Jia Haowen: **Además del campo financiero, también existe una demanda de modelos grandes en campos verticales como seguros, leyes y salud. Especialmente desde una perspectiva corporativa, la necesidad de generar y extraer conocimiento es cada vez más evidente. Cuando hablamos con bancos o compañías de seguros o discutimos problemas con profesionales legales, la información que brindan es de naturaleza fáctica. A través del modelo grande, podemos identificar mejor la intención de la pregunta del usuario y realizar agrupaciones o divisiones.

Como dijo el Sr. Wang Su, industrias como las finanzas, los seguros y el derecho tienen un gran potencial para mejorar la eficiencia. Este es un proceso de reducción de costos y mejora de la eficiencia. Desde mi punto de vista personal, esta es una necesidad rígida, especialmente en términos de eficiencia. Sin embargo, es posible que estas industrias no adopten un enfoque demasiado agresivo, ya que los negocios relacionados con las finanzas, los seguros y el derecho son muy sensibles y requieren un alto grado de especialización. En este sentido, surge otra cuestión, que es la valoración de la madurez de los resultados generados por los grandes modelos. Aunque los modelos grandes como GPT-4 se desempeñan bien en algunos exámenes profesionales en los Estados Unidos, sigue siendo un problema si puede aprobar los exámenes correspondientes en China, especialmente en un contexto semántico grande y complejo como el chino, que puede requerir más investigación. Investigación. En este sentido, nuestra empresa planea cooperar con la Universidad de Zhejiang en julio para lanzar un gran modelo del campo legal vertical para brindar mejores soluciones para este campo específico.

***Xu Wenhao: Los modelos grandes en el campo legal son similares a los del campo financiero, y los requisitos para la calidad de la generación son muy estrictos. En el campo legal, un pequeño error puede tener un impacto negativo en la experiencia del consumidor, e incluso causar pérdidas al comerciante (lado B), lo que requiere una mayor precisión y confiabilidad de los resultados generados. Sobre esta pregunta, ¿qué piensa el maestro Wang Chao? ***

Wang Chao: Creo que ya sea en el comercio electrónico o en la industria financiera, los requisitos para un servicio al cliente inteligente son muy estrictos. Además, para el servicio al cliente inteligente de comercio electrónico, el gran período de promoción y la consulta diaria son muy impresionantes. En el negocio autónomo de nuestro equipo en JD.com, el volumen de consultas diarias representa el 70 % y el 90 % durante el período pico. Este 70% del volumen de consultas ya es de gran valor. Creo que esta lógica también se aplica a varias instituciones como los bancos. También hemos notado que las capacidades de atención al cliente inteligente de algunos bancos aún son insuficientes. Por lo tanto, debemos pensar en cómo mejorar la madurez del servicio al cliente inteligente y debe adaptarse a la etapa de desarrollo de la empresa o banco. En la actualidad, muchos bancos se encuentran en la etapa inicial del servicio al cliente inteligente, centrándose principalmente en las preguntas frecuentes y la construcción de diálogos simples de múltiples rondas, mientras que las capacidades de servicio y la experiencia del usuario aún no alcanzan un nivel satisfactorio.

Basándonos en nuestra experiencia en el campo del comercio electrónico, creemos que el servicio de atención al cliente inteligente del banco debe desarrollarse aún más, especialmente en el sistema operativo, que debe actualizarse en gran medida. Por ejemplo, requerimos que el servicio al cliente de base esté cerca de los niveles artificiales en términos de estándares de servicio y habilidades, lo que tiene un gran impacto en la reforma de nuestro sistema operativo. Sin embargo, en el proceso de cooperación con los bancos, encontramos que muchos bancos enfrentan desafíos en la construcción de un servicio al cliente inteligente. La cooperación entre los proveedores de tecnología y los bancos es más similar a la relación entre la Parte B y la Parte A, que es diferente de nuestro modelo de cooperación. Todavía existe una brecha entre los bancos y nuestros requisitos en términos de estructura organizacional y capacitación del personal. Hablamos con muchos de nuestros socios bancarios y nos pareció común que estuvieran de acuerdo con nuestra metodología de desarrollo, pero también les resultó difícil. Impulsar las reformas internas es complejo para los bancos y requiere más esfuerzo. Creo que el modelo grande es una oportunidad, porque puede reducir la dificultad operativa del servicio al cliente inteligente y simplificar la estructura organizativa.

***Xu Wenhao: Creo que el gran modelo es una gran oportunidad para todos aquí y para la mayoría de las personas en el campo del servicio al cliente inteligente y el procesamiento del lenguaje natural. Compartimos una opinión similar de que los modelos grandes pueden ayudarnos a lograr experiencias conversacionales más antropomórficas y personalizadas. Sin embargo, cuando se trata de brindar servicios a usuarios finales C, ya sea comercio electrónico o bancos, todos serán más cautelosos. Todos queremos asegurarnos de que el resultado final sea controlable, ya sea que se trate de un certificado de depósito de 10 000 yuanes o de una orden de 1000 yuanes, esto es algo que debe tomarse en serio. ***

*** Justo ahora también hablamos de otro tema importante, la experiencia del usuario. Podemos observar que la generación anterior de robots inteligentes de atención al cliente y diálogo, sus respuestas son plantillas preescritas, por ejemplo, la respuesta sobre la dirección de entrega suele ser fija, con solo cambios menores. Existe una cierta brecha entre la respuesta de esta plantilla fija y el servicio al cliente humano real. Ahora todos están trabajando arduamente para mejorar el nivel antropomórfico de los robots de diálogo, de modo que el servicio de atención al cliente inteligente detrás de ellos pueda ser más emocional, comprender mejor las emociones de los usuarios y realizar cálculos multimodales. En este sentido, ¿han invertido en investigación y desarrollo? ***

Wang Suwen: Creo que se puede discutir desde tres aspectos: personificación, humanización e individualización.

El primero es el antropomorfismo. En el campo del servicio al cliente inteligente, el antropomorfismo siempre ha sido un punto débil, porque es necesario mejorar el rendimiento de los robots tradicionales en esta área. Hemos estado explorando cómo construir interacciones de diálogo antropomórficas. Esto implica cómo diseñar diálogos situacionales, cómo desmontar problemas, cómo heredar el contexto y cómo comprender múltiples rondas de diálogo. En general, esperamos que los bots puedan proporcionar modos de conversación e interacción más relevantes y naturales.

Seguido por los servicios humanos. Sobre la base de identificar con precisión la escena o la intención, también necesitamos mejorar aún más el servicio sobre la base del antropomorfismo. Creo que la computación afectiva multimodal es una forma efectiva de lograr este objetivo. Por ejemplo, nuestra empresa ha desarrollado un servicio de atención al cliente humano digital virtual, que puede realizar diálogos interactivos humano-computadora, combinados con computación emocional, y reconocer las expresiones emocionales del usuario a través de métodos multimedia como video, voz y texto. De esta manera, el servicio de atención al cliente inteligente puede brindar la retroalimentación emocional correspondiente a los usuarios, crear una interacción humano-computadora con comprensión emocional y calidez, y realizar servicios más humanizados. En términos de computación afectiva, los métodos tradicionales tienen dos modos: reglas y aprendizaje automático. A través del aprendizaje automático, podemos entrenar modelos para aprender automáticamente estados emocionales y lograr estándares de clasificación, para adaptarse mejor a diferentes campos y contextos. De esta manera, se pueden obtener mejores efectos de expresión emocional y se pueden brindar servicios más humanizados.

Por último, está el servicio personalizado. Necesitamos implementar servicios personalizados basados en el retrato del usuario para lograr el efecto de "miles de personas con miles de caras". Por ejemplo, hemos desarrollado una plataforma de conocimiento del usuario, que puede marcar a los usuarios y acumular retratos a través de información básica del retrato del usuario y análisis de conocimiento durante conversaciones históricas. En el diálogo de seguimiento, podemos proporcionar diferentes procesos de diálogo, métodos de respuesta y recomendaciones de acuerdo con el retrato del usuario, para lograr servicios personalizados más precisos y mejorar la satisfacción de los usuarios y las empresas.

***Xu Wenhao: el maestro Wang Suwen compartió muchas experiencias valiosas, que pueden ser utilizadas como referencia e imitación por quienes se dedican al trabajo inteligente de servicio al cliente. JD.com es una plataforma con una gran cantidad de usuarios y productos. Todos esperan que al utilizar un servicio de atención al cliente inteligente, haya una sensación de que hay una persona real detrás. Me gustaría preguntarle al Sr. Wang Chao, ¿qué trabajo ha realizado JD.com en I+D y productos para materializar la capacidad de "miles de personas, miles de rostros"? ¿Hay alguna experiencia para compartir contigo? ***

Wang Chao: Hemos invertido mucho en mejorar la experiencia y el servicio personalizado. El servicio de atención al cliente con inteligencia emocional desarrollado por el equipo de Yanxi es el primer servicio de atención al cliente con inteligencia emocional comercial a gran escala de la industria. Desde 2018, hemos introducido la capacidad de reconocimiento y respuesta de emociones en la capacidad de respuesta del robot. Esta tecnología no solo se utiliza en el ámbito de la atención al cliente, sino también en los servicios de inspección de calidad y gestión de personal.

Responder a esta pregunta implica dos aspectos. La primera dirección es la tecnología, como las tecnologías de vanguardia, como el diálogo de múltiples rondas, que son las principales direcciones de desarrollo de la tecnología de servicio al cliente inteligente actual. Otra dirección importante es la operación, es decir, cómo realizar el desmantelamiento detallado de la escena, analizar las diferencias hombre-máquina y realizar el descubrimiento automatizado de problemas y la comparación de las diferencias de servicio hombre-máquina a través de la supervisión y los sistemas de herramientas a través de la evaluación comparativa con el servicio al cliente humano. De esta manera, gradualmente realizamos un análisis refinado de la experiencia del servicio de multitudes a partir del análisis de diferencia general de la experiencia general y la experiencia del servicio de multitudes. Con un sistema de este tipo, podemos continuar optimizando la experiencia general del servicio y, finalmente, lograr la cobertura del servicio de máquinas del volumen de recepción de máquinas diario actual de JD.com del 70 % y del 90 % durante el período de la promoción.

**Jia Haowen:**El tema de la transmisión en vivo de esta noche es sobre la comprensión del servicio al cliente humano digital y modelos grandes. Nuestra comprensión del servicio al cliente tradicional, ya sea un servicio al cliente manual o preguntas frecuentes, puede considerarse como un servicio al cliente inteligente de gama baja. Como usuarios, esperamos que el servicio de atención al cliente sea competente y capaz de brindar asistencia para resolver problemas. Al mismo tiempo, si el servicio de atención al cliente puede mostrar características antropomórficas y brindar servicios personalizados, la experiencia del usuario será mejor.

En el campo de los grandes modelos, el antropomorfismo y la personificación son muy importantes. Nuestra empresa está más inclinada hacia la dirección de investigación de la inteligencia cognitiva y la psicología. Nos enfocamos en cómo obtener rápidamente las etiquetas psicológicas de los usuarios y juzgar a los usuarios desde una perspectiva psicológica, para brindar mejores servicios. Podemos imaginarnos una escena, como la de Jarvis en la película de Marvel "Iron Man". Sería un estado ideal si el gran modelo del futuro puede ser como un asistente que puede dar las respuestas y recomendaciones más adecuadas de acuerdo con nuestro estado de ánimo y preferencias ese día.

En la actualidad, todavía estamos en la etapa preliminar de la investigación sobre la combinación de modelos grandes y humanos digitales. Sin embargo, con la aparición de resultados de investigación académica en el campo de la multimodalidad, pueden surgir algunos productos de experiencia mejores y de menor costo.

***Xu Wenhao: Todos mencionaron la búsqueda de emociones, y parece que todos se están moviendo en una dirección más cercana a las personas reales. La mayoría de la audiencia en la sala de transmisión en vivo son estudiantes que realizan trabajos técnicos. Esperamos compartir alguna experiencia sobre cómo construir un sistema de diálogo de alta calidad, ya sea un servicio al cliente inteligente, un servicio posventa o una guía de compras de preventa. . ¿Por dónde debo comenzar al ingresar este campo? ***

Jia Haowen: Si queremos construir un sistema de diálogo de alta calidad, en realidad implica el tema de la aprobación tradicional de proyectos de Internet. En este proceso, debemos considerar la selección de la arquitectura del producto comercial, la arquitectura técnica y la forma de aterrizaje real del producto. Al mismo tiempo, también debemos tener en cuenta que muchas empresas grandes o medianas ya tienen muchos productos de servicio al cliente existentes. Si queremos mejorar las capacidades de estos productos de servicio al cliente existentes a través de modelos grandes, es posible que debamos adoptar un enfoque más conservador. Por ejemplo, los modelos grandes se pueden usar como una herramienta de base de conocimiento externa para proporcionar información de entrada. Volviendo al aspecto arquitectónico que acabamos de mencionar, tanto la arquitectura del producto como la selección de herramientas son consideraciones importantes. Para el punto de entrada inicial, pueden estar involucradas herramientas tales como sistemas de etiquetado de palabras clave y expresiones regulares tradicionales. Sin embargo, no existe un paradigma estándar general para la elección específica de este paradigma, ya que está relacionado con las características de cada negocio.

***Xu Wenhao: Desde la perspectiva de los profesionales, ya sea una empresa de servicio al cliente inteligente o un SaaS de servicio al cliente inteligente o una plataforma en la nube, pueden pensar en cómo mejorar aún más el sistema de diálogo para brindar servicios de mayor calidad. Aunque hoy hemos discutido mucho sobre los grandes modelos, de hecho, cuando se trata del servicio al cliente inteligente tradicional, ya sea en banca o comercio electrónico, los consumidores sentirán más o menos que no hay una persona real detrás de ellos para brindar servicios. Necesitamos pensar en cómo mejorar la experiencia del usuario e invertir más esfuerzos para mejorar el status quo. ***

Jia Haowen: Si reducimos el alcance del problema y nos enfocamos en brindar una salida de contenido de servicio al cliente inteligente más eficiente y de alta calidad, entonces podemos considerar el modelo grande como un servicio de diálogo mejorado. En los productos de atención al cliente inteligente, lo que los usuarios esperan encontrar es un robot inteligente, empático y comunicativo, al tiempo que esperan que el contenido de las respuestas pueda enfocarse en áreas comerciales específicas, como el marketing de atención al cliente y otros escenarios. En este caso, podemos combinar el reconocimiento de intenciones, el flujo de diálogo y las capacidades de diálogo de varios turnos del modelo grande con fuentes de datos externas, como las preguntas frecuentes tradicionales. Esto significa que necesitamos hacer converger todo el proceso de procesamiento del lenguaje, como resumir los datos de las preguntas de los visitantes y compararlos con las preguntas de los usuarios, e incluso ingresar una gran cantidad de datos privados mientras los usuarios hacen preguntas, para complementar los robots inteligentes tradicionales, la voz. robots y contenido Capacidades de bases de conocimiento externas. A través de esta combinación, la eficiencia de la experiencia del usuario se puede mejorar significativamente en un corto período de tiempo. Además, podemos considerar la mejora de las capacidades antropomórficas, pero para las empresas que desean actualizar las capacidades de su sistema de diálogo, los desafíos pueden ser mayores, por lo que se recomienda introducirlas con cuidado. Como punto de entrada, considerar modelos grandes como parte de la entrada de conocimiento externo puede ser un punto de entrada rápido y de bajo costo.

Cómo mejorar la calidad del diálogo de modelos grandes

***Xu Wenhao: Profesor Wang Suwen, si queremos construir un sistema de diálogo de alta calidad para mejorar la situación actual, ¿en qué áreas deberíamos invertir en investigación y desarrollo? ***

Wang Suwen: Podemos considerar los siguientes puntos para mejorar la calidad del sistema de diálogo.

  1. Reducción de los costos de etiquetado de datos: los métodos tradicionales de etiquetado de datos requieren mucho etiquetado manual, lo que generará costos de tiempo y recursos. Para reducir esta dependencia, podemos estudiar cómo usar una gran cantidad de datos sin etiquetar para el entrenamiento no supervisado, reduciendo así la necesidad de datos etiquetados manualmente. Tal enfoque puede mejorar la eficiencia de la adquisición de datos y reducir los costos.

  2. Mejora de la capacidad de generalización: No basta con responder a una sola pregunta, el sistema de diálogo debe tener cierta capacidad de generalización para adaptarse a diferentes escenarios y necesidades de los usuarios. Al aprender la diversidad y la regularidad del lenguaje, podemos mejorar la capacidad de generalización del modelo para que pueda tratar con más problemas y situaciones.

  3. Construcción y selección de modelos de diálogo: al elegir un modelo de diálogo, debemos considerar la aplicabilidad del modelo en diferentes escenarios. Actualmente hay muchos modelos grandes para elegir, por lo que debemos elegir un modelo adecuado de acuerdo con las necesidades específicas para lograr una mayor precisión y efecto.

  4. Optimización y aprendizaje continuo: el sistema de diálogo necesita optimización y aprendizaje continuo, porque el efecto del modelo en línea inicial no es perfecto. El sistema debe tener la capacidad de autoriteración y autooptimización, y mejorar gradualmente el efecto y el rendimiento mediante el uso continuo y la retroalimentación. Este proceso de aprendizaje y optimización continuos puede satisfacer las necesidades de los clientes y hacer que el sistema sea cada vez más inteligente y eficiente.

***Xu Wenhao: Maestro Wang Chao, ¿tiene algún comentario para agregar a la discusión anterior? ***

**Wang Chao:**Creo que la clave de esta pregunta es que, desde la perspectiva de los clientes y las partes comerciales, así como nuestra perspectiva como desarrolladores y diseñadores de productos de plataforma, todos apuntan al mismo objetivo. No importa desde qué punto de vista, debemos prestar atención a las necesidades básicas del negocio y las expectativas del sistema inteligente de atención al cliente en la prestación de servicios. Bajo diferentes formas y modelos de servicio, la arquitectura técnica del producto y las capacidades técnicas introducidas pueden ser diferentes, pero en general no hay mucha diferencia.

Por ejemplo, para algunas partes comerciales, pueden esperar que los robots puedan proporcionar capacidades básicas de preguntas y respuestas y consulta de información. En este momento, es posible que solo necesitemos proporcionar algunas preguntas frecuentes y algunas herramientas de diálogo simples y modelos de algoritmos para satisfacer las necesidades. . Para algunas partes comerciales, esperan que los robots tengan la capacidad de manejar y hacer un seguimiento de los negocios en su nombre, e incluso brindar servicios de diálogo basados en escenarios y escolta completa. En respuesta a los diferentes niveles de necesidades de los clientes, necesitamos diseñar productos y construir una arquitectura técnica acorde, e introducir las capacidades correspondientes. Por lo tanto, creo que es muy importante hacer un seguimiento con el lado comercial, ayudar a la empresa con consultas y obtener una comprensión profunda de su negocio. De acuerdo con las diferentes necesidades del cliente, lleve a cabo el diseño del producto y la construcción de la arquitectura técnica, e introduzca las capacidades correspondientes para satisfacer sus necesidades.

***Xu Wenhao: ¿Qué modelo tiene el mejor efecto después de probarlo? ¿Qué herramientas y aplicaciones necesarias se necesitan, cómo elegir la arquitectura, etc.? ***

Wang Suwen: Al usar ChatGPT o modelos grandes similares, puede aplicarlos e implementarlos de acuerdo con los siguientes pasos.

  1. Entrenamiento y ajuste del modelo: elija un modelo grande de código abierto disponible comercialmente, como Zhipu ChatGLM, modelo grande de Baichuan, etc. Verifica y prueba el desempeño del modelo de acuerdo a tus propias necesidades y negocio. Recopile datos relacionados con el dominio y utilice estos datos para llevar a cabo el entrenamiento del dominio en modelos grandes de código abierto, y también puede realizar la generación semiautomática de conjuntos de instrucciones. Al ajustar y filtrar múltiples rondas de datos de diálogo, se mejora la capacidad de diálogo de los modelos de dominio grande. Asegúrese de que el modelo cumpla con los requisitos en términos de seguridad, ajuste y posprocesamiento de acuerdo con las especificaciones y los valores.

  2. Ingeniería de modelos y optimización del rendimiento: para los modelos generativos, considere la velocidad, la capacidad y la compresión del razonamiento del modelo. Si el modelo es demasiado grande para acomodarse en una sola tarjeta, se puede considerar el razonamiento paralelo con varias tarjetas en una sola máquina o varias tarjetas en varias máquinas. Realice optimizaciones de rendimiento en los modelos, incluida la despresurización, la compresión y la aceleración para un mejor rendimiento.

***Xu Wenhao: Profesor Wang Suwen, ¿tiene algún modelo comercial básico chino recomendado? ***

Wang Suwen: Creo que todos harán concesiones de acuerdo con sus propias necesidades y estándares al elegir un modelo. Cada modelo tiene sus propias características y ventajas. En nuestros requisitos comerciales, probamos varios modelos y finalmente elegimos los dos modelos grandes de Zhipu y Baichuan, porque los modelos grandes de Zhipu y Baichuan han alcanzado cierta madurez en la comercialización. Recientemente lanzaron un nuevo modelo, que también muestra que están constantemente optimizando e iterando. Creo que con la mejora continua de estos modelos, el desarrollo de modelos de dominio basados en estos grandes modelos traerá mejores resultados.

***Xu Wenhao: En términos de probar modelos grandes, ¿el Sr. Jia recomienda alguna arquitectura de herramienta o alguna aplicación particularmente crítica? ***

**Jia Haowen:**Para las pequeñas y medianas empresas, puede ser difícil desarrollar desde cero o realizar ajustes de conjuntos de instrucciones en modelos existentes. Los modelos a menudo son demasiado grandes para caber incluso en una sola tarjeta gráfica o máquina. Además, la recopilación de datos estructurados, especialmente los datos relacionados con dominios comerciales específicos, también es fundamental. Porque en el proceso de entrenamiento original de ChatGPT, se realizó una gran cantidad de recopilación y organización de datos, lo que requiere el uso de datos en su propio campo para ajustar el modelo en el proceso de ajuste del conjunto de instrucciones. Esto implica computación paralela de múltiples máquinas y múltiples tarjetas, lo que puede requerir que los entrenadores de modelos y algoritmos tengan un alto nivel de conocimiento, como medidas de aceleración de tensor y medidas de acumulación de gradiente.

En el proceso de implementación y operación de modelos, puede ser necesario considerar la velocidad de la red para el entrenamiento de modelos, la selección de discos duros (como Zata o SSD), el almacenamiento y las herramientas de aceleración de transmisión de datos, que tienen altos requisitos para el entorno de operación y mantenimiento. . En términos generales, el proceso de entrenamiento del modelo grande actual puede ser relativamente difícil, pero para el proceso simple de implementación e inferencia, es básicamente factible implementarlo en el V100 basado en un modelo grande como 6B o 13B.

Si el ajuste y la capacitación del modelo se completan y se implementan en el sistema en línea, generalmente consideramos actualizar toda la arquitectura. En la actualidad, la popular en la industria es la base de datos vectorial Milvus, que puede almacenar en caché de forma intermedia los resultados generados a través de la recuperación de vectores, similar a la caché de Redis que solemos usar. Debido a las características del mecanismo de generación de cloze, aunque el estilo específico de cada generación puede ser diferente, el significado general es el mismo. Para reducir los costos en línea, podemos adoptar dicho mecanismo. Al mismo tiempo, también se requiere un conjunto completo de soluciones para el sistema de revisión de contenido, el sistema de preparación de datos de capacitación y el sistema de etiquetado.

En general, entrenar un modelo grande no es necesariamente terrible, pero puede aumentar los requisitos de nuestra pila de tecnología anterior, pero esta mejora también se puede superar, aunque puede ser un poco difícil, pero podemos aprender y practicar por completo para cumplir con estos retos

***Xu Wenhao: La capacitación de modelos en sí misma es solo una parte de todo el proceso, y las medidas de apoyo circundantes también son cruciales. Por ejemplo, base de datos de vectores, sistema de caché, sistema de etiquetado, etc. Estas herramientas y sistemas de soporte son cruciales para la iteración y el desarrollo continuos de productos. Durante el proceso de investigación y desarrollo, necesitamos una cadena completa de herramientas y soluciones para respaldar la recopilación de datos, el preprocesamiento, el etiquetado y la capacitación, optimización e implementación de modelos. Sr. Chao Wang, ¿tiene algo que agregar? ***

Wang Chao: En esta pregunta, puedo compartir información sobre el modelo grande en desarrollo. Estamos desarrollando nuestro propio modelo industrial y esperamos cooperar con empresas y colegas. Se anunciará más información sobre las oportunidades de asociación después de julio. Además, mencione cómo verificar qué modelos grandes son mejores. En este sentido, nos preocupa más cómo aplicar con éxito modelos probados a gran escala en la plataforma, como Baichuan y otros modelos, y alentamos a todos a prestarles atención y comprenderlos.

***Xu Wenhao: En términos de eficiencia de I+D, ¿qué experiencia tiene para compartir en términos de tamaño del equipo, entrada de potencia informática y estimación de tiempo para desarrollar e implementar modelos a gran escala? ***

Wang Suwen: Todo el proceso de desarrollo e implementación de modelos grandes lleva cierto tiempo. Especialmente en la compresión, aceleración y optimización de modelos, se requiere experimentación y ajuste iterativos, lo que puede llevar mucho tiempo. Por ejemplo, una vez desarrollamos un modelo con una escala de 7 B. Después de la optimización, en la configuración tipo B de 4 tarjetas en el servidor A800, la velocidad de inferencia se redujo de los 28 milisegundos anteriores a unos 5 milisegundos. El esfuerzo humano total depende del trabajo que realice.

Primero, se debe construir todo el marco básico y se debe comprimir y cuantificar el modelo, incluida la optimización del operador. Optimizamos en base a FastarTransformer de Nvidia, por lo que debemos personalizar el operador de optimización, elegir un motor de inferencia que se adapte a las necesidades, como Triton de Nvidia, y brindar servicios de acuerdo con diferentes backends. Finalmente, se requieren pruebas de rendimiento general para determinar el mejor rendimiento del modelo en diferentes dispositivos y para la implementación final. Según nuestra experiencia, todo el proceso de adaptación lleva al menos un mes. Además, llevará algún tiempo optimizar la tarea de ajustar las instrucciones, que depende de las necesidades comerciales específicas y la cantidad de instrucciones. Dependiendo del tipo de negocio, normalmente se requiere un equipo de más de una docena de personas para hacerlo.

***Xu Wenhao: Parece que se necesitará un equipo de unas diez personas, y llevará uno o dos meses completar el proceso de entrenamiento y optimización del razonamiento de estos modelos. Este no es el tipo de modelo grande con cientos, miles o cientos de millones de parámetros del que estamos hablando. ***

Wang Suwen: Sí, un modelo bien entrenado y optimizado en una industria específica se puede implementar y replicar rápidamente para los clientes de esa industria. De esta manera, podemos aprovechar nuestro trabajo anterior y brindar a nuestros clientes soluciones personalizadas. Por ejemplo, tenemos modelos optimizados en el campo financiero, los seguros, la gestión patrimonial y las industrias minoristas, por lo que podemos replicar rápidamente estos modelos optimizados y brindar servicios a los clientes rápidamente. Esta capacidad de reutilización puede mejorar en gran medida la eficiencia y acelerar la entrega de soluciones.

***Xu Wenhao: Entiendo. De hecho, es solo un proceso de desarrollo de productos en este momento, no un proceso de aterrizaje de proyectos. Se ha desarrollado un producto que puede ser utilizado por muchos, muchos clientes. ¿Cuál es la opinión del maestro Jia sobre este tema? ***

Jia Haowen: Para el desarrollo de modelos de dominio grande, la recopilación de datos es esencial para los modelos de dominio específico. Para campos altamente especializados (como el derecho), la recopilación de datos puede llevar mucho tiempo, tal vez medio mes o incluso un mes. Una vez que se completa la recopilación de datos y el procesamiento estructurado, pueden comenzar los siguientes enlaces, como el ajuste del conjunto de instrucciones y el proceso de capacitación de niveles múltiples y tarjetas múltiples. Después de completar estos pasos, generalmente se llevan a cabo varias rondas de evaluación del efecto del modelo, ya que los resultados generados por el mecanismo Transformador pueden no ser lo suficientemente confiables y se requiere una gran cantidad de pruebas de efecto para garantizar la confiabilidad del modelo. Cuando la capacitación del modelo esté básicamente completa y lista para su uso comercial inicial, podemos realizar más trabajo de producción de acuerdo con las necesidades de los clientes y empaquetarlo en un producto completo para brindar a los usuarios servicios integrales.

Desde el punto de vista del costo, la recopilación de datos puede llevar de medio mes a un mes para entrenar un modelo relativamente pequeño con una escala de 6B o 7B. Sin embargo, esto también requiere un requisito previo importante, es decir, el equipo responsable del entrenamiento del modelo debe estar familiarizado con los métodos y métodos de entrenamiento de varias máquinas y varias tarjetas, y estar familiarizado con varias estrategias de aceleración de datos y estrategias de aceleración de memoria. Además, la preparación del entorno también es fundamental. Para algunas pequeñas empresas, si quieren entrenar modelos grandes, es posible que necesiten alquilar máquinas en plataformas como Alibaba Cloud o Tencent Cloud y construir su propio entorno. Este costo adicional también debe tenerse en cuenta.

Desarrolle un modelo grande, ¿cuál es la relación entrada-salida?

***Xu Wenhao: Según las opiniones de los dos maestros, si las condiciones del equipo son maduras, el desarrollo de un modelo en miniatura a escala 7B puede requerir al menos un equipo de más de diez personas, y el desarrollo tomará aproximadamente tres meses. De esta forma, incluso desarrollar un modelo pequeño requiere una inversión considerable. ¿Cuál es la relación entrada-salida aproximada de desarrollar un modelo grande? ¿Cómo resolver el riesgo regulatorio y los problemas de seguridad? ***

Jia Haowen: Para evaluar la relación insumo-producto, se deben considerar escenarios comerciales y necesidades específicas. Para las industrias tradicionales de redacción publicitaria, publicidad y cine y televisión, como la generación de guiones creativos, AIGC y otros modelos grandes pueden generar rápidamente una gran cantidad de material. Aunque puede faltar confiabilidad, puede mejorar significativamente la eficiencia de producción. Para estas tareas de producción creativa, la relación de entrada La salida puede ser muy rentable. Sin embargo, para otros campos, como la generación de conocimiento legal, el análisis de casos, el análisis de pólizas de seguros, etc., debido a que los resultados de salida pueden no ser perfectos, es necesario invertir una gran cantidad de recursos humanos y pasar por múltiples rondas de ajuste del modelo para lograr un salida más ideal. Por lo tanto, la relación insumo-producto puede ser mayor.

En cuanto a la supervisión, también debemos considerar las políticas regulatorias introducidas recientemente relacionadas con la generación profunda. Se trata principalmente de varios aspectos. En primer lugar, debemos prestar atención a si infringirá la propiedad intelectual o los derechos de autor de compositores, escritores, pintores, etc., y si es fácil generar información falsa. En cuanto a la regulación de los resultados generados, debemos garantizar mecanismos de administración y revisión de contenido compatibles para garantizar que el texto y las imágenes generados no infrinjan los derechos de propiedad intelectual. Al mismo tiempo, para las industrias tradicionales, el cumplimiento y el control de riesgos también son consideraciones importantes. A medida que se desarrollan los experimentos, se puede formar una cadena industrial de modelos grandes, con algunos trabajando en los medios de producción para la generación de modelos grandes y otros trabajando en medidas para evitar la generación de modelos grandes fuera de control. El establecimiento de esta correspondencia se iterará en el tiempo para lograr un buen equilibrio entre la generación y la supervisión de grandes modelos en el marco de las leyes, los reglamentos y la ética.

***Xu Wenhao: No solo tendremos empresas de IA, sino también empresas de seguridad de IA, al igual que hay muchas empresas de seguridad en Internet. Me gustaría preguntar la opinión del profesor Wang Suwen sobre cuestiones de supervisión y seguridad de la IA. ***

Wang Suwen: En primer lugar, cuando estamos entrenando modelos de dominio o modelos grandes, el cumplimiento y la legalidad de los datos son muy importantes. Debemos obtener datos a través de canales formales y garantizar la seguridad y confidencialidad de los datos.

En segundo lugar, cuando realizamos capacitación de modelos de dominio para clientes, debemos garantizar la seguridad y el cumplimiento de los datos dentro de la empresa, y los datos entre diferentes empresas deben aislarse y no pueden reutilizarse o usarse en capacitación a voluntad. Además, cuando entrenamos modelos de dominio para clientes, también debemos realizar ajustes y alineaciones para garantizar que los modelos de salida cumplan con los requisitos de cumplimiento.

Desde una perspectiva regulatoria, los departamentos gubernamentales necesitan conocimientos expertos interdisciplinarios y transversales al formular marcos regulatorios. Cooperamos con la Academia de Tecnología de la Información para establecer conjuntamente un marco regulatorio sólido y llevar a cabo una cooperación profunda con él. También estamos realizando una certificación de seguridad con la Academia de Ciencias y Tecnología para garantizar que nuestros modelos grandes hayan sido rigurosamente probados y verificados.

Solo a través de la cooperación del gobierno, los expertos y las empresas podemos promover el desarrollo saludable de AIGC, satisfacer las necesidades de los usuarios y garantizar el uso seguro de modelos grandes.

En el campo del servicio al cliente inteligente, ¿cuáles son las principales barreras para las empresas?

***Xu Wenhao: En el campo del servicio al cliente inteligente, todos realizan múltiples rondas de diálogo y análisis de sentimientos, entonces, ¿cuáles son las principales barreras de la empresa? ***

Wang Chao: Para la industria del servicio al cliente inteligente, el problema de la homogeneización está estrechamente relacionado con el objetivo de adquirir un servicio al cliente inteligente y el ROI esperado. En JD.com, al crear un servicio al cliente inteligente, las empresas deben dividir sus objetivos de desarrollo en tres etapas: primaria, intermedia y alta (o madura). Si el objetivo del cliente aún está en pañales, es decir, solo tiene funciones simples de pregunta y respuesta y consulta, las necesidades de comprar un servicio de atención al cliente inteligente pueden ser similares. En este caso, el grado de homogeneidad puede ser mayor. Sin embargo, si las necesidades del cliente se ubican en un nivel más alto, como la prestación de servicios proactivos, seguimiento completo y servicios de escenario completo, entonces es necesario considerar si el proveedor de servicios de atención al cliente inteligente tiene una metodología operativa adecuada y servicios completos relacionados. sistema de herramientas operativas. Basado en esta lógica, creo que una de las principales barreras de la generación actual de productos inteligentes de servicio al cliente es si el proveedor tiene experiencia en proyectos de robots complejos y maduros y una rica experiencia en operaciones.

Otro punto clave es si una empresa de servicio al cliente inteligente puede proporcionar una metodología operativa de orientación y planificación a largo plazo, así como sistemas de herramientas operativas de apoyo relacionadas, además de proporcionar productos y tecnologías relevantes. Al mismo tiempo, si podemos ayudar a los clientes a construir un escalón de talento y brindar servicios de capacitación. Estos factores son muy importantes en la generación actual de bots.

En cuanto al futuro, los modelos grandes serán una barrera importante. Para el producto que mencionó, la posibilidad de integrar de manera efectiva diferentes tipos de modelos grandes con las capacidades del producto original será un factor clave. Al mismo tiempo, la capacidad de desarrollar modelos grandes también se convertirá en una ventaja competitiva única.

***Xu Wenhao: Creo que cada empresa sentirá que tiene ventajas únicas en el servicio al cliente inteligente o productos similares. Sr. Jia, en lo que respecta a los productos de su empresa, ¿dónde están sus barreras? ***

**Jia Haowen:**Desde el servicio al cliente tradicional hasta el modelo de servicio al cliente a gran escala, todo el proceso puede considerarse una barrera para la competencia. Aunque es posible que no podamos competir con las grandes empresas en términos de potencia informática y volumen de datos, podemos competir en campos interdisciplinarios, como la aplicación del conocimiento psicológico en el entrenamiento de modelos a gran escala y la intersección de la inteligencia cognitiva. y aplicaciones de modelos a gran escala Tenga la ventaja de ser el primero en moverse. Para otras empresas, también pueden combinar sus propias características para destacarse en el cada vez más homogéneo gran modelo de servicio y proceso de formación.

Wang Suwen: Este problema en realidad se reduce a dos puntos centrales: las empresas inteligentes de servicio al cliente deben considerar cómo obtener ganancias y aumentar los márgenes de ganancias brutas. Para lograr esto, hay dos aspectos en los que centrarse primero. Primero, debe proporcionar un servicio al cliente inteligente de alta calidad para satisfacer a los clientes, de modo que su negocio pueda desarrollarse durante mucho tiempo. Por lo tanto, es muy importante prestar atención al efecto del producto, incluida la mejora de la potencia del producto y el efecto inteligente, para mejorar la experiencia y la satisfacción del usuario. En segundo lugar, concéntrese en mejorar la eficiencia, considere el tema de la relación insumo-producto, reduzca los costos y aumente el margen de beneficio bruto del proyecto. La mejora de la entrega de proyectos y la eficiencia operativa es la clave, y se debe considerar la satisfacción del producto, la implementación y la eficiencia, y la integración rápida con los sistemas comerciales del cliente y el acoplamiento del contenido operativo. Debe tener una metodología de entrega completa y herramientas operativas para mejorar el margen de beneficio bruto del proyecto para lograr la rentabilidad y mantener el desarrollo sostenible.

Las empresas de servicio al cliente inteligentes se pueden dividir en dos categorías, una son fabricantes profesionales en campos verticales y la otra son fabricantes de propósito general. Los proveedores de servicio al cliente inteligente en campos verticales se enfocan en campos específicos, como el comercio electrónico o los seguros. Sus ventajas y barreras radican en el enfoque de la industria, la optimización continua de los mapas y datos de conocimiento de la industria, y la provisión de soluciones especiales y competitividad central. Zhongguancun Kejin es un proveedor de soluciones de inteligencia artificial conversacional. Nos enfocamos en finanzas, asuntos gubernamentales, comercio minorista y otras industrias. Hemos brindado servicios a más de 900 líderes de la industria y hemos acumulado un rico conocimiento de la industria. También planeamos lanzar modelos de dominio de uso general y a gran escala, y actualizar productos como servicio al cliente inteligente, robots de llamadas salientes, asistentes de inspección de calidad y combate mediante la integración de motores de diálogo para mejorar nuestra competitividad en la industria.

En segundo lugar, mejorar la entrega y la eficiencia operativa también es clave. La satisfacción del producto es crucial para reducir los costos de entrega del proyecto, y la implementación e implementación eficientes, así como la rápida integración con los sistemas comerciales del cliente y el acoplamiento de contenido operativo, mejorarán la eficiencia operativa. Debe tener un conjunto de metodología de entrega y herramientas operativas para garantizar el máximo margen de beneficio bruto del proyecto. Si lo hace, le permitirá ser rentable y sostenible en el largo plazo.

*¿AIGC reemplazará completamente al personal de servicio al cliente tradicional? *

***Xu Wenhao: Los tres profesores mencionaron tres barreras principales: la primera es centrarse en campos verticales, la segunda es buscar la diferenciación a nivel de producto y la tercera es el diseño interdisciplinario. Estas medidas ayudarán a las empresas a destacarse en un mercado altamente competitivo y brindar un valor único a los clientes. Entonces, la última pregunta de hoy, utilice un lenguaje simple para imaginar el desarrollo futuro de AIGC en este campo.¿AIGC reemplazará completamente al personal de servicio al cliente tradicional? ***

Wang Chao: Como profesional, soy optimista sobre las perspectivas de AIGC, y el tema del reemplazo involucra diferentes perspectivas. Un punto de vista es desde la perspectiva del mercado de valores y cree que el espacio de mercado de la industria de servicio al cliente es limitado, por lo que AIGC puede reemplazar la mano de obra tradicional. Sin embargo, prefiero pensar en ello desde una perspectiva incremental.

En primer lugar, el servicio de atención al cliente inteligente todavía necesita el apoyo de operaciones humanas, y los operadores siguen desempeñando un papel importante en el proceso de transformación del servicio de atención al cliente tradicional a un servicio de atención al cliente inteligente. En segundo lugar, el modo de operación futuro puede cambiar, y la cooperación entre el servicio al cliente inteligente y el personal de operación manual formarán un nuevo modo de operación. En este modelo, un pequeño número de operadores puede llevar robots inteligentes de servicio al cliente para brindar servicios de alta calidad las 24 horas a un costo menor, lo que permitirá que más pequeñas y microempresas brinden servicio al cliente de nuevas formas y amplíen el tamaño del mercado. En resumen, desde un punto de vista incremental, el servicio al cliente inteligente no reemplazará por completo el servicio al cliente tradicional, sino que lo complementará, brindando nuevas oportunidades y espacio para el desarrollo del mercado.

Wang Suwen: En un futuro previsible, el servicio de atención al cliente humano no será reemplazado por completo, ya que tienen ventajas únicas para tratar problemas complejos, emocionales y de pensamiento. Especialmente en el trato con clientes de alto valor, clientes potenciales y la mejora de las tasas de conversión de clientes, el servicio al cliente humano sigue desempeñando un papel importante. Debido al alto costo de adquirir clientes, todavía es la esperanza de muchas empresas hacer un seguimiento eficiente y asegurar la transacción a través del servicio al cliente humano. Por lo tanto, la relación entre el servicio al cliente humano y el servicio al cliente inteligente es más un modelo de cooperación que se combina entre sí. Las empresas deben considerar las ventajas del servicio al cliente humano y el servicio al cliente inteligente de acuerdo con sus propias condiciones, y formular el mejor modelo de servicio al cliente.

En general, creo que el espacio de desarrollo futuro de AIGC es amplio, y toda la industria también lo ha visto. En los próximos dos o tres años, AIGC y tecnologías como ChatGPT se desarrollarán a gran velocidad y promoverán la actualización de toda la industria de servicios empresariales. Tanto la industria de Internet como la de servicios empresariales experimentarán actualizaciones y cambios a gran escala, incluida la mejora de las instalaciones de apoyo. En la actualidad, todavía existen algunos problemas en AIGC, como la calidad del contenido, el costo de inversión, la seguridad de los datos y los derechos de autor. Por lo tanto, todavía necesitamos más desarrollo a largo plazo, incluida la exploración de métodos de modelado más sofisticados y efectivos, para mejorar estos problemas. Creo que con el avance de la tecnología, el espacio de desarrollo de modelos grandes será infinitamente amplio.

**Jia Haowen: **De hecho, no debemos poner demasiado énfasis en la sustitución, sino centrarnos en los cambios en los modelos de trabajo y de negocios que se producirán en el futuro. En el proceso de promoción de negocios, debemos medir la relación de entrada a salida, especialmente en la promoción del servicio al cliente, debemos considerar la seguridad de la privacidad de los datos del usuario, el cumplimiento de las leyes y reglamentos, y escenarios cruzados y cruzados. Servicios antropomórficos de la industria. Los modelos grandes pueden aportar un gran valor al personal de atención al cliente tradicional, traerán cambios cualitativos, pero no significan reemplazar la atención al cliente humana. En general, aunque el modelo grande tiene algunos problemas en la actualidad, tiene grandes perspectivas en el futuro. Para decirlo de una manera más literaria, el desarrollo de modelos grandes pasará de un sueño a una realidad en un futuro cercano, y pronto podremos experimentarlo nosotros mismos.

Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Compartir
Comentar
0/400
Sin comentarios
Opere con criptomonedas en cualquier momento y lugar
qrCode
Escanee para descargar la aplicación Gate
Comunidad
Español
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)