Как AIGC произвела «новую революцию» в интеллектуальном обслуживании клиентов

Источник изображения: сгенерировано Unbounded AI

Источник: инфо

Автор: Ли Дунмэй

В сочетании с базовой технической логикой ChatGPT существует примерно четыре направления индустриализации ChatGPT в краткосрочной и среднесрочной перспективе в будущем: интеллектуальное обслуживание клиентов, приложения AIGC в текстовом режиме, работа, связанная с разработкой кода, и создание изображений. Среди них наиболее подходящим проектом для непосредственной реализации является работа интеллектуальной службы поддержки клиентов.

Интеллектуальное обслуживание клиентов на основе технологии больших моделей коренным образом меняет традиционный процесс взаимодействия человека с компьютером.Большая модель автоматически генерирует процесс диалога, чтобы сделать работу интеллектуального обслуживания клиентов более эффективной, что может повысить скорость решения сложных проблем, восприятие и намерение взаимодействия человека с компьютером Эффективность операционного содержания, такого как понимание, построение процессов и генерация знаний.

Только с точки зрения уровня проникновения продукта умное обслуживание клиентов постепенно популяризировалось в электронной коммерции, финансах и других областях уже в течение последних семи или восьми лет. Два основных изменения, вызванные большой моделью: во-первых, значительно снизились затраты на разработку интеллектуальных продуктов для обслуживания клиентов, а во-вторых, улучшилось взаимодействие с пользователем.

Итак, если вы хотите объединить крупноязыковую модель LLM с интеллектуальными продуктами для обслуживания клиентов или применить первую в области прикладного программного обеспечения ToB SaaS, с чего начать создание стека технологий? Как крупномасштабные модельные продукты расширят возможности интеллектуальных продуктов для обслуживания клиентов? В этом выпуске «Свидание с гиками» мы специально пригласили Сюй Вэньхао, основателя Bothub, основателя и технического директора Buqituo Network Technology, в качестве модератора, и Цзя Хаовэня, директора по вычислительным технологиям Huayuan и соавтора. руководитель отдела цифрового человеческого бизнеса и Zhongguancun Kejin Wang Suwen, директор по исследованиям и разработкам в области интеллектуального взаимодействия, глава технической группы интеллектуального обслуживания клиентов Zhongguancun Kejin, и Ван Чао, руководитель отдела продукта JD Yunyanxi KA, обсудили внедрение и будущие тенденции развития AIGC в интеллектуальных продуктах обслуживания клиентов.

Ниже приводится стенограмма интервью.

***Сюй Вэньхао: Друзья, всем привет! Добро пожаловать в InfoQ "Свидание с компьютерщиками". Сегодняшняя тема - специальное планирование «AIGC Publication of Tiangong». Мы надеемся, что с помощью этого плана каждый сможет полностью понять все аспекты AIGC в области интеллектуального обслуживания клиентов и глубоко воспринять это изменение. ***

***В этой программе мы пригласили трех гостей для обсуждения применения AIGC в области интеллектуального обслуживания клиентов. В целом, разделим дискуссию на три части. Первый — это применение большой модели AIGC в продуктах интеллектуального обслуживания клиентов, второй — развертывание архитектуры AIGC, а также разработка и выбор инструментальных приложений в интеллектуальном обслуживании клиентов, последний — метод построения качественной диалоговой системы. ***

***Трое сегодняшних гостей являются опытными экспертами в области интеллектуального обслуживания клиентов и интеллектуальных интерактивных продуктов. Первый гость — Ван Чао, ответственный за продукт JD Yunyanxi KA. Второй гость — г-н Ван Сувэнь, директор Zhongguancun Kejin Intelligent Interactive Research and Development. Третий гость — г-н Цзя Хаовэнь, директор по вычислительным технологиям Академии Хуаюань и соруководитель подразделения Digital Human. ***

***Начнем с первого вопроса, мне очень любопытно: какие изменения внесло появление AIGC в интеллектуальное обслуживание клиентов? Я хотел бы пригласить г-на Вана из JD Cloud поделиться вашим мнением. По вашим наблюдениям, какие инновации привнесло появление AIGC в интеллектуальное обслуживание клиентов? ***

Ван Чао: Появление AIGC вызвало широкое беспокойство во всей области интеллектуального обслуживания клиентов и побудило соответствующих коллег провести много исследований. Что касается познания и будущих изменений интеллектуального обслуживания клиентов, то эти когнитивные изменения меняются с каждым днем.

Команда JD Cloud Yanxi уделяет пристальное внимание развитию интеллектуальных приложений для обслуживания клиентов в стране и за рубежом. Кроме того, крупномасштабная модель Yanxi, которую мы разрабатываем, будет выпущена в июле, и мы также продолжаем проводить различные крупномасштабные модельные эксперименты в сфере обслуживания клиентов. В последние месяцы мое личное понимание AIGC полностью изменилось по сравнению с тем, что было 3 месяца назад, поэтому взгляды, которыми я хочу поделиться сегодня, представляют собой более личные мнения и текущие взгляды.

Влияние AIGC на интеллектуальное обслуживание клиентов можно рассматривать с двух уровней. Во-первых, с точки зрения общих проблем управления и технических трудностей в нашей отрасли, у AIGC есть потенциал для их решения. Все мы знаем, что большие модели значительно улучшат уровень отклика, антропоморфизм и качество обслуживания интеллектуального обслуживания клиентов, а также могут значительно снизить эксплуатационные расходы.

Что касается робототехники, я не думаю, что нужно слишком много говорить об этом, потому что мы уже уделили много внимания роботам. Я хочу сказать, что большая модель используется в широком диапазоне областей интеллектуального обслуживания клиентов, особенно для проверки информации в направлении интеллектуального управления обслуживанием клиентов. Например, в нашей практике интеллектуальной помощи некоторые предыдущие технологии рекомендовали некоторые ключевые моменты и извлекали ключевую информацию в разговорах.Хотя есть решения, обычно трудно достичь хорошего баланса между стоимостью и эффектом. Однако, проверив большую модель, мы обнаружили, что она обладает хорошей разрешающей способностью и потенциалом для решения этих проблем. Кроме того, для работы по контролю качества такие методы, как регуляризация ключевых слов или интеллектуальные методы контроля качества, обычно используемые в отрасли, имеют определенные эффекты, но уровень точности часто низок, рабочая нагрузка также велика, а период для повышения уровня точности составляет долго. .

Однако, попрактиковавшись с большими моделями, мы обнаружили, что это хорошо работает для понимания абстрактных критериев контроля качества и выполнения работы по обеспечению качества. Кроме того, что касается обучения сотрудников, мы видели несколько примеров того, как ведущие банки внедряют диалоговых роботов для обучения. В дополнение к вышесказанному, мы также проводим бизнес-анализ в центре обслуживания клиентов и должны обобщать информацию о потребностях клиентов, портретах клиентов и рисках в консультации с клиентами.В эксперименте эффект большой модели также очень хорош. Я думаю, что в сфере пан-умного обслуживания клиентов потенциал применения больших моделей огромен. Мы считаем, что примерно через полгода основные продукты на рынке ознаменуют собой важное обновление.

Основываясь на том, что в настоящее время известно об отрасли и предметной области, мы можем выяснить, изменится ли более широкая предметная область. Например, какие изменения это может внести в обслуживание клиентов и обслуживание клиентов? Я думаю, что этот вопрос мог бы быть более сложным, и на данном этапе никто не может точно определить конкретные изменения. Но мы считаем, что это будет иметь большое значение, по крайней мере, в некоторых направлениях, таких как упреждающие услуги. Например, компании электронной коммерции часто осуществляют различные виды деятельности, и работа по продвижению и разъяснению деятельности обычно не ложится на центр обслуживания клиентов. Потому что очень сложно выполнять такой широкий спектр работ ручным или традиционным машинным способом. Но мы можем представить себе будущее, в котором наша служба поддержки клиентов сможет хорошо объяснить многие виды деятельности за счет введения большой модели и ввода базовой информации, которая представляет собой возможный потенциал будущей службы поддержки клиентов с точки зрения активной трансформации и модернизации.

***Сюй Вэньхао: Позвольте мне резюмировать: на самом деле появление AIGC расширило сферу применимой аналитики в области интеллектуального обслуживания клиентов. Большая модель может применяться не только в традиционной интеллектуальной области ответов на послепродажные вопросы, но и во всех аспектах всей связи обслуживания клиентов, и ее можно даже распространить на область маркетинга. Учитель Ван Сувэнь, какое явление вы видите с вашей точки зрения? ***

Ван Сувэнь: Как уже упоминалось, возможности интеллектуального обслуживания клиентов очень широки. Такие технологии, как интеллектуальное обслуживание клиентов и роботы, могут фактически изменить традиционный процесс взаимодействия человека с компьютером. Благодаря использованию больших моделей, особенно использованию автоматической генерации диалоговых процессов, работу традиционного интеллектуального обслуживания клиентов можно сделать более эффективной. Традиционным способом нам обычно нужно настраивать базу знаний вручную, но эффект не очевиден. Тем не менее, способность решать сложные проблемы и скорость прямых ответов на вопросы могут быть напрямую улучшены за счет автоматического создания процессов диалога с помощью больших моделей, что является значительным разрушительным воздействием.

Второй момент заключается в том, что большие модели также могут достигать целей снижения затрат и повышения эффективности. С точки зрения интеллекта затраты на рабочую силу всегда были относительно высоки, поскольку для этого требуются машины с участием человека. За счет применения больших моделей это может помочь в повышении эффективности построения и работы базы знаний, тем самым достигая значительного эффекта снижения затрат и повышения эффективности.

Третий момент касается антропоморфизма и пользовательского опыта робота. Традиционные роботы часто терпят неудачу в этом отношении. Однако появление крупных моделей делает диалог более плавным, антропоморфным, больше похожим на общение человека с человеком. Это очень сильный разрушительный эффект.

Конечно, для общего обслуживания клиентов, включая проверку качества, помощников и спарринг, большая модель также будет иметь соответствующее подрывное воздействие, и разные продукты будут иметь различное воздействие.

***Сюй Вэньхао: Я заметил, что г-н Цзя является соруководителем подразделения цифровых людей.С вашей точки зрения, принесет ли сочетание интеллектуального обслуживания клиентов и цифрового человека какие-то новые инновации? ***

Цзя Хаовэнь: Прежде чем ответить на этот вопрос, я хотел бы вернуться к теме интеллектуального обслуживания клиентов. Развитие интеллектуального обслуживания клиентов можно проследить до истории искусственного интеллекта, основанного на накоплении языка. Я помню, лет десять назад там было несколько этажей, заполненных людьми из службы поддержки, которые проводили большую часть своего рабочего времени, решая проблемы пользователей. В то время даже такие инструменты, как база знаний, упомянутая двумя учителями, были не очень совершенными.

Оглядываясь назад, можно сказать, что Alipay и другие продукты для обслуживания клиентов постепенно расширились от начальной базы знаний до более поздних старших помощников и производных инструментов, таких как платформа Rasa, для моделирования сценариев нескольких раундов диалога. Однако, как только что сказали два учителя, всем этим диалогам все еще не хватает персонификации. Все предыдущие инструменты обслуживания клиентов по существу не прошли стандартные тесты компьютерной индустрии. Но когда появляются большие модели, особенно такие, как ChatGPT или Vicuna, у них есть уровень индивидуальности, хотя, возможно, на уровне 10- или 11-летнего ребенка. В некотором смысле они могут пройти тест Тьюринга.

Теперь, возвращаясь к вашему предыдущему вопросу, сочетание интеллектуального обслуживания клиентов и цифрового человека принесет некоторые новые инновации. На начальном этапе цифрового человеческого поля антропоморфные вопросы и ответы с людьми, основанные на базах знаний и больших моделях, не могут быть завершены в режиме реального времени. Однако с развитием технологий мы смогли создать антропоморфные фигуры в сочетании с крупными моделями для имитации реальных сцен. Когда мы применяем его к таким сценариям, как базы знаний, обслуживание клиентов и цифровые сотрудники, область цифровых людей может столкнуться с двумя проблемами. Во-первых, это полнота данных.Хотя ChatGPT и подобные выглядят круто, по сути они генерируются на основе прошлых исторических данных, подобно генерации cloze. Хотя этот подход повышает эффективность и снижает затраты на создание сценариев, качество генерируемого контента практически не поддается контролю. В выходном контенте всеобъемлющих областей, таких как цифровое человеческое и интеллектуальное обслуживание клиентов, мы не можем быть полностью уверены в сгенерированном контенте. Поэтому нам может потребоваться ввести различные проверки и меры безопасности, чтобы гарантировать, что то, что говорит цифровой человек или ChatGPT и т. д., больше похоже на человеческую речь, чем на тарабарщину.

Подводя итог, хотя большая модель может быть относительно популярной сейчас, и перспективы на будущее также блестящие, на текущем этапе она все еще находится в состоянии от 0 до 1. В будущем мы можем ожидать, что оно вырастет в высокое дерево, но сейчас, будь то для всей отрасли или всеобщих ожиданий, по-прежнему необходимо позволить ему расти постепенно на лучшей почве и действительно иметь возможность обеспечить интеллектуальное обслуживание клиентов. , повысить эффективность в таких областях, как цифровые люди.

***Сюй Вэньхао: Я хочу подробно изучить этот вопрос. Я хотел бы спросить г-на Цзя, с вашей точки зрения, если мы внедрим масштабную модель в области интеллектуального обслуживания клиентов, принесет ли это пользу? Я имею в виду с точки зрения текущей ситуации, вне зависимости от развития через два-три года. Просто посмотрев на это сейчас, есть ли выгода с точки зрения ваших клиентов или вашего внутреннего продукта с точки зрения внедрения большой модели? ***

Цзя Хаовэн: Будет ли представлена большая модель, зависит от конкретных бизнес-сценариев и потребностей пользователей. Для крупных компаний, таких как Ant Financial или JD.com с большими и зрелыми системами, слепое внедрение большой модели может привести к дополнительным затратам. Нам необходимо принять некоторые меры по обеспечению совместимости, чтобы избежать неопределенности, вызванной контентом, созданным ИИ. Для небольших компаний использование больших моделей в качестве дополнения к своей базе знаний с некоторым уровнем проверки человеком может стать хорошим способом повышения эффективности. Это может помочь интеллектуальной службе поддержки клиентов лучше понять семантику пользователя, улучшить качество базы знаний и даже улучшить взаимодействие с пользователем. Кроме того, для приложений более высокого уровня, таких как когнитивный интеллект, введение больших моделей может помочь лучше понять и распознать пользователей. В интернет-индустрии существует важная концепция под названием «тысячи людей, тысячи лиц», которая означает, что каждая служба поддержки клиентов может предоставлять персонализированные услуги. Поэтому нам нужно смотреть, следует ли вводить большую модель с диалектической точки зрения, и принимать решения, исходя из конкретных обстоятельств.

***Сюй Вэньхао: г-н Цзя считает, что крупным компаниям следует проявлять осторожность при внедрении крупных моделей.Внедрение крупных моделей может увеличить затраты и повысить различные риски, и им необходимо полагаться на оригинальные методы или модели. в качестве резервной меры. Затем я хотел бы спросить учителя Ван Чао, представила ли служба поддержки клиентов JD Cloud AIGC? Какие преимущества будут после внедрения? ***

**Ван Чао: **Осторожно применять большие модели к продуктам C-end крупным компаниям не следует из соображений обеспечения качества обслуживания клиентов и безопасности обслуживания. В бизнесе, ориентированном на потребителя, осторожность имеет решающее значение. В связи с этим как валидация, так и экспериментирование проходят с большой осторожностью.

В сфере бизнеса или эксплуатации вы более «смелы» в экспериментах и проверках. Мы представляем крупномасштабные модели, чтобы помочь операциям создавать тексты и сценарии, что обеспечивает хорошую поддержку операций для решения проблем с творчеством и эффективностью. Кроме того, он также очень активен в направлении управления персоналом, такого как проверка качества, помощь и обучение.

Большая модель «просто необходима» или «следует за трендом»?

***Сюй Вэньхао: Насколько это может повысить эффективность работы рядовых сотрудников? Вы его измеряли или есть какие-то конкретные данные? ***

Ван Чао: Мы еще не делали конкретных расчетов по этой проблеме, потому что применение больших моделей ведет себя по-разному в разных рабочих проектах. Например, он может быть в несколько раз быстрее при создании скриптов и копирайтинге. Тем не менее, с точки зрения ежедневного анализа и проверки качества, эффект может варьироваться от случая к случаю. Поэтому на текущем этапе нам сложно дать количественную оценку и сделать точный вывод, но мы уверены, что применение больших моделей действительно повысило эффективность.

***Сюй Вэньхао: Г-н Ван Сувэнь, представили ли вы AIGC своим клиентам или продуктам? Вы видите конкретные преимущества? ***

Ван Сувен: В нашей сфере деятельности мы в основном ориентируемся на рынок ToB и обслуживаем клиентов в различных областях, таких как финансы и страхование. У этих клиентов есть несколько потребностей с точки зрения инноваций, включая стимулы для снижения затрат и повышения эффективности. Мы провели совместное сотрудничество с клиентами и проверили их. Например, мы создали для клиента помощника по маркетингу, который автоматически генерирует какую-то копию. Традиционно уровень каждого сотрудника неодинаков, в том числе отсутствует стандартизация и единство в плане маркетинговых навыков. С помощью нашего помощника по маркетингу мы можем сначала помочь им создать унифицированную копию и скопировать ее на основе отличного исторического опыта. Во-вторых, сократить расходы и повысить эффективность: им больше не нужно тратить слишком много времени на обучение, обучение и память. Наши большие модели широко используются в промышленности.

Мы также разработали ботов для телемаркетинга, которые могут напрямую отвечать на некоторые вопросы. Конечно, мы должны принимать во внимание вопросы соответствия, включая соблюдение соответствующих законов и защиту безопасности данных. Мы работаем с институтом Синьчуан над решением этих проблем стандартизации.

***Сюй Вэньхао: Все действительно пытаются использовать возможности большой модели. Однако остается еще много конкретных проблем, требующих решения, особенно проблемы управляемости и безопасности. С точки зрения умного обслуживания клиентов, индустрия электронной коммерции была первой отраслью, внедрившей умное обслуживание клиентов, поскольку проводятся крупномасштабные рекламные акции, такие как «618» и «Double Eleven», и пики трафика во время этих мероприятий очень огромный. ***

***За последние несколько лет местные поставщики услуг также разработали различные интеллектуальные продукты обслуживания клиентов для различных финансовых учреждений, таких как банки, страховые компании и учреждения по управлению активами. В этом случае получается, что финансовые учреждения останутся в стороне, если не будут использовать роботов-советников. Однако такие учреждения, как обслуживание клиентов банка, не имеют пиковых периодов, таких как «618» и «Double Eleven». Является ли внедрение умного обслуживания клиентов этими учреждениями необходимостью, или «следованием тенденции», или чувству кризиса? ? Если это жесткое требование, то откуда изначально возникло это требование? ***

Ван Чао: На волне цифровизации финансовым учреждениям стало легче внедрять интеллектуальное обслуживание клиентов. В финансовой сфере широко используется интеллектуальное обслуживание клиентов, которое стало одним из наиболее распространенных продуктов финансовых учреждений. Для финансовых учреждений основные потребности интеллектуального обслуживания клиентов в основном заключаются в снижении затрат и повышении эффективности, что может освободить человеческие ресурсы от утомительной работы. Особенно в бизнес-сценариях, таких как автоматический вопрос и ответ, уведомление и повторные посещения для некоторых часто задаваемых вопросов, интеллектуальное обслуживание клиентов может сэкономить человеческие ресурсы и позволить им сосредоточиться на более профессиональной и творческой работе вместо повторяющейся, частой и малоценной работы. . Пусть у них будут ресурсы для инвестиций в развитие и поддержку состоятельных клиентов, и они больше сосредоточатся на выполнении более ценных задач. Кроме того, благодаря базовым прорывам нового поколения, таким как появление больших моделей, интеллектуальное обслуживание клиентов также может получить мощные возможности генерации естественного языка, что делает его более интеллектуальным и эффективным.

***Сюй Вэньхао: Так что это жесткая необходимость, потому что есть много повторяющейся работы по снижению затрат и повышению эффективности. Г-н Цзя, обращают ли внимание ваши клиенты в финансовой или других областях на грамотное обслуживание клиентов? ***

**Цзя Хаовэнь: **Помимо финансовой сферы, есть также спрос на крупных моделей в вертикальных областях, таких как страхование, юриспруденция и здравоохранение. Особенно с корпоративной точки зрения необходимость генерировать и извлекать знания становится все более и более очевидной. Когда мы разговариваем с банками или страховыми компаниями или обсуждаем проблемы с практикующими юристами, информация, которую они предоставляют, носит фактический характер. С помощью большой модели мы можем лучше определить намерение вопроса пользователя и выполнить кластеризацию или разделение.

Как сказал г-н Ван Су, такие отрасли, как финансы, страхование и юриспруденция, обладают большим потенциалом для повышения эффективности.Это процесс снижения затрат и повышения эффективности. С моей личной точки зрения, это жесткая потребность, особенно с точки зрения эффективности. Тем не менее, эти отрасли не могут использовать слишком агрессивный подход, поскольку предприятия, связанные с финансами, страхованием и правом, очень чувствительны и требуют высокой степени специализации. В связи с этим возникает еще один вопрос, а именно оценка зрелости результатов, генерируемых большими моделями. Хотя большие модели, такие как GPT-4, хорошо показывают себя на некоторых профессиональных экзаменах в Соединенных Штатах, по-прежнему остается проблемой, сможет ли она сдать соответствующие экзамены в Китае, особенно в большом и сложном семантическом контексте, таком как китайский язык, который может потребовать дальнейших исследований. Исследовать. В связи с этим наша компания планирует сотрудничать с Чжэцзянским университетом в июле, чтобы выпустить большую модель правовой вертикали, чтобы предоставить лучшие решения для этой конкретной области.

***Сюй Вэньхао: Крупные модели в юридической сфере аналогичны моделям в финансовой сфере, а требования к качеству генерации очень строгие. В правовом поле небольшая ошибка может негативно сказаться на потребительском опыте и даже привести к убыткам продавца (сторона B), что требует более высокой точности и надежности генерируемых результатов. Что думает по этому вопросу Учитель Ван Чао? ***

Ван Чао: Я думаю, будь то электронная коммерция или финансовая отрасль, требования к интеллектуальному обслуживанию клиентов очень строгие. Кроме того, для умного обслуживания клиентов в электронной коммерции очень впечатляют большой период продвижения и ежедневные консультации. В самостоятельном бизнесе нашей команды в JD.com ежедневный объем консультаций составляет 70% и 90% в пиковый период. Эти 70% объема консультации уже имеют большую ценность. Я считаю, что эта логика также применима к различным учреждениям, таким как банки. Мы также заметили, что возможности интеллектуального обслуживания клиентов некоторых банков по-прежнему недостаточны. Поэтому нам нужно подумать о том, как повысить зрелость интеллектуального обслуживания клиентов, и его необходимо адаптировать к стадии развития предприятия или банка. В настоящее время многие банки находятся на начальном этапе интеллектуального обслуживания клиентов, в основном ориентируясь на часто задаваемые вопросы и построение простого многоэтапного диалога, в то время как возможности обслуживания и пользовательский опыт могут еще не достичь удовлетворительного уровня.

Основываясь на нашем опыте в области электронной коммерции, мы считаем, что интеллектуальное обслуживание клиентов банка нуждается в дальнейшем развитии, особенно в операционной системе, которую необходимо значительно обновить. Например, мы требуем, чтобы обслуживание клиентов на низовом уровне было близко к искусственному уровню с точки зрения стандартов обслуживания и навыков, что оказывает большое влияние на реформу нашей операционной системы. Однако в процессе сотрудничества с банками мы обнаружили, что многие банки сталкиваются с проблемами в построении интеллектуального обслуживания клиентов. Сотрудничество между поставщиками технологий и банками больше похоже на отношения между Стороной Б и Стороной А, которые отличаются от нашей модели сотрудничества. По-прежнему существует разрыв между банками и нашими требованиями в части организационной структуры и подготовки кадров. Мы поговорили со многими из наших банковских партнеров и обнаружили, что они обычно соглашаются с нашей методологией разработки, но также находят ее сложной. Продвижение внутренних реформ является сложной задачей для банков и требует дополнительных усилий. Я считаю, что крупная модель — это возможность, потому что она может снизить оперативную сложность интеллектуального обслуживания клиентов и упростить организационную структуру. Я с нетерпением жду этого.

***Сюй Вэньхао: Я считаю, что большая модель открывает огромные возможности для всех присутствующих здесь и для большинства людей, занимающихся интеллектуальным обслуживанием клиентов и обработкой естественного языка. Мы разделяем схожее мнение о том, что большие модели могут помочь нам достичь более антропоморфного и персонализированного разговорного опыта. Однако когда дело доходит до предоставления услуг C-конечным пользователям, будь то электронная коммерция или банки, все будут более осторожны. Мы все хотим, чтобы окончательный результат был контролируемым, будь то депозитный сертификат на 10 000 юаней или заказ на 1 000 юаней, к этому нужно относиться серьезно. ***

*** Только что мы также говорили о другой важной теме, пользовательском опыте. Мы можем наблюдать, что предыдущее поколение интеллектуальных сервисных и диалоговых роботов, их ответы представляют собой заранее написанные шаблоны, например, ответ об адресе доставки обычно фиксированный, с небольшими изменениями. Существует определенный разрыв между ответом этого фиксированного шаблона и реальным обслуживанием клиентов. Сейчас все усердно работают над повышением антропоморфного уровня диалоговых роботов, чтобы стоящее за ними интеллектуальное обслуживание клиентов могло быть более эмоциональным, лучше понимать эмоции пользователей и выполнять мультимодальные вычисления. В связи с этим инвестировали ли вы в исследования и разработки? ***

Ван Сувэнь: Я думаю, это можно обсуждать с трех сторон: персонификация, гуманизация и индивидуализация.

Во-первых, это антропоморфизм. В области интеллектуального обслуживания клиентов антропоморфизм всегда был болевой точкой, поскольку производительность традиционных роботов в этой области нуждается в улучшении. Мы изучали, как строить антропоморфные диалоговые взаимодействия. Это включает в себя то, как разрабатывать ситуационные диалоги, как разбирать проблемы, как наследовать контекст и как понимать несколько раундов диалога. В целом, мы надеемся, что боты могут обеспечить более актуальные и естественные способы общения и взаимодействия.

Вслед за человеческими службами. На основе точного определения сцены или намерения нам также необходимо дальнейшее совершенствование сервиса на основе антропоморфизма. Я думаю, что мультимодальные аффективные вычисления — эффективный способ достижения этой цели. Например, наша компания разработала виртуальную цифровую службу обслуживания клиентов, которая может вести интерактивные диалоги между человеком и компьютером в сочетании с эмоциональными вычислениями и распознавать эмоциональные выражения пользователя с помощью мультимедийных методов, таких как видео, голос и текст. Таким образом, интеллектуальное обслуживание клиентов может давать соответствующую эмоциональную обратную связь пользователям, создавать взаимодействие человека и компьютера с эмоциональным пониманием и теплотой, а также реализовывать более гуманизированные услуги. С точки зрения аффективных вычислений традиционные методы имеют два режима: правила и машинное обучение. Благодаря машинному обучению мы можем обучать модели автоматически запоминать эмоциональные состояния и достигать стандартов классификации, чтобы лучше адаптироваться к различным областям и контекстам. Таким образом, могут быть получены лучшие эффекты эмоционального выражения и могут быть предоставлены более гуманизированные услуги.

Наконец, есть индивидуальное обслуживание. Нам нужно реализовать персонализированные сервисы на основе портрета пользователя, чтобы добиться эффекта «тысячи людей с тысячами лиц». Например, мы разработали платформу для изучения пользователей, которая может отмечать пользователей и накапливать портреты с помощью базовой информации о пользователях и анализа во время исторических разговоров. В последующем диалоге мы можем предоставить различные процессы диалога, методы ответа и рекомендации в соответствии с портретом пользователя, чтобы обеспечить более точные персонализированные услуги и повысить удовлетворенность пользователей и предприятий.

***Сюй Вэньхао: Учитель Ван Сувэнь поделился ценным опытом, который может быть использован для справки и подражания теми, кто занимается интеллектуальным обслуживанием клиентов. JD.com — это платформа с большим количеством пользователей и продуктов, и все надеются, что при использовании умного обслуживания клиентов будет ощущение, что за этим стоит реальный человек. Я хотел бы спросить г-на Ван Чао, какую работу JD.com проделал в области исследований и разработок и продуктов, чтобы реализовать способность «тысячи людей, тысячи лиц»? Есть ли опыт, которым можно поделиться с вами? ***

Ван Чао: Мы вложили много средств в улучшение опыта и персонализированного обслуживания. Эмоционально интеллектуальная служба поддержки клиентов, разработанная командой Yanxi, является первой в отрасли крупномасштабной коммерческой интеллектуальной службой эмоциональной поддержки клиентов. С 2018 года мы ввели возможность распознавания эмоций и реагирования на них в ответной способности робота. Эта технология используется не только в сфере обслуживания клиентов, но и в службах контроля качества и управления персоналом.

Ответ на этот вопрос включает два аспекта. Первое направление - это технологии, такие как передовые технологии, такие как многосторонний диалог, которые являются основными направлениями развития современных технологий интеллектуального обслуживания клиентов. Другим важным направлением является эксплуатация, то есть то, как проводить детальный разбор сцены, анализировать различия между человеком и машиной и реализовывать автоматическое обнаружение проблем и сравнение различий в обслуживании между человеком и машиной с помощью систем мониторинга и инструментов посредством сравнительного анализа с обслуживанием клиентов. Таким образом, мы постепенно реализуем усовершенствованный анализ опыта краудфандинга из общего анализа различий общего опыта и опыта краудфандинга. С помощью такой системы мы можем продолжать оптимизировать общий опыт обслуживания и, наконец, реализовать покрытие машинным обслуживанием текущего ежедневного объема приема машин JD.com, составляющего 70% и 90% в период действия акции.

**Цзя Хаовэнь:**Тема сегодняшнего прямого эфира посвящена пониманию цифрового обслуживания клиентов и больших моделей. Наше понимание традиционного обслуживания клиентов, будь то ручное обслуживание клиентов или часто задаваемые вопросы, можно рассматривать как интеллектуальное обслуживание клиентов низкого уровня. Как пользователи, мы ожидаем, что обслуживание клиентов будет компетентным и способным оказать помощь в решении проблем. В то же время, если служба поддержки клиентов сможет демонстрировать антропоморфные характеристики и предоставлять персонализированные услуги, пользовательский опыт будет лучше.

В области больших моделей очень важны антропоморфизм и персонификация. Наша компания больше склоняется к исследовательскому направлению когнитивного интеллекта и психологии. Мы сосредоточены на том, как быстро получить психологические характеристики пользователей и оценить пользователей с психологической точки зрения, чтобы предоставлять более качественные услуги. Мы можем представить себе сцену, такую как Джарвис в фильме Marvel «Железный человек». Было бы идеальным состоянием, если бы большая модель в будущем могла быть как бы помощником, который может дать наиболее подходящие ответы и рекомендации в соответствии с нашим настроением и предпочтениями в этот день.

В настоящее время мы все еще находимся на предварительной стадии исследования сочетания больших моделей и цифровых людей. Однако с появлением результатов академических исследований в области мультимодальности могут появиться более качественные и недорогие продукты опыта.

***Сюй Вэньхао: Все упомянули погоню за эмоциями, и кажется, что все движутся в направлении, более близком к реальным людям. Большая часть аудитории в комнате прямого эфира — студенты, занимающиеся технической работой, мы надеемся поделиться опытом построения качественной диалоговой системы, будь то интеллектуальный сервис, послепродажное обслуживание или предпродажный гид по покупкам. . С чего начать при вводе этого поля? ***

Цзя Хаовэнь: Если мы хотим построить качественную диалоговую систему, то это фактически связано с вопросом утверждения традиционного интернет-проекта. В этом процессе нам необходимо учитывать выбор архитектуры бизнес-продукта, технической архитектуры и фактической целевой формы продукта. В то же время нам также необходимо учитывать, что многие крупные или средние предприятия уже имеют множество существующих продуктов обслуживания клиентов. Если мы хотим улучшить возможности этих существующих продуктов обслуживания клиентов с помощью больших моделей, нам может потребоваться более консервативный подход. Например, большие модели можно использовать в качестве внешнего инструмента базы знаний для ввода знаний. Возвращаясь к только что упомянутому архитектурному аспекту, важно учитывать как архитектуру продукта, так и выбор инструментов. В качестве начальной точки входа могут использоваться такие инструменты, как системы тегов ключевых слов и традиционные регулярные выражения. Однако не существует общей стандартной парадигмы для конкретного выбора этой парадигмы, потому что это связано с особенностями каждого бизнеса.

***Сюй Вэньхао: С точки зрения практиков, будь то интеллектуальная компания по обслуживанию клиентов, интеллектуальная служба обслуживания клиентов SaaS или облачная платформа, они могут подумать о том, как еще больше улучшить диалоговую систему для предоставления более качественных услуг. Хотя сегодня мы много говорили о больших моделях, на самом деле, когда дело доходит до традиционного интеллектуального обслуживания клиентов, будь то в банковском деле или электронной коммерции, потребители более или менее чувствуют, что за ними нет реального человека, который бы предоставлял услуги. Нам нужно подумать о том, как улучшить пользовательский опыт, и приложить больше усилий, чтобы улучшить статус-кво. ***

Цзя Хаовэнь: Если мы сузим масштаб проблемы и сосредоточимся на предоставлении более эффективного и высококачественного интеллектуального контента для обслуживания клиентов, то мы можем рассматривать большую модель как расширенную диалоговую службу. В интеллектуальных продуктах обслуживания клиентов пользователи ожидают увидеть умного, чуткого и коммуникабельного робота.В то же время они надеются, что содержание ответов может быть сосредоточено на конкретных областях бизнеса, таких как маркетинг обслуживания клиентов и другие сценарии. В этом случае мы можем объединить распознавание намерений, поток диалогов и возможности многооборотного диалога большой модели с внешними источниками данных, такими как традиционные часто задаваемые вопросы. Это означает, что нам необходимо объединить весь процесс языковой обработки, такой как обобщение данных вопросов посетителей и сравнение их с вопросами пользователей, и даже ввод большого количества частных данных, когда пользователи задают вопросы, в дополнение к традиционным интеллектуальным роботам, голосовым роботам и возможностям контента. внешних баз знаний. Благодаря этой комбинации эффективность взаимодействия с пользователем может быть значительно улучшена за короткий период времени. Далее можно рассмотреть улучшение антропоморфных возможностей, но для компаний, которые хотят модернизировать возможности своей диалоговой системы, задачи могут быть выше, поэтому рекомендуется вводить их с осторожностью. В качестве отправной точки рассмотрение больших моделей как части ввода внешних знаний может быть недорогой и быстрой отправной точкой.

Как улучшить качество диалогов больших моделей

***Сюй Вэньхао: Учитель Ван Сувэнь, если мы хотим построить качественную диалоговую систему для улучшения текущей ситуации, в какие области мы должны инвестировать в исследования и разработки? ***

Ван Сувен: Мы можем рассмотреть следующие моменты, чтобы улучшить качество диалоговой системы.

  1. Снижение затрат на маркировку данных. Традиционные методы маркировки данных требуют много ручной маркировки, что требует времени и ресурсов. Чтобы уменьшить эту зависимость, мы можем изучить, как использовать большой объем немаркированных данных для обучения без учителя, тем самым уменьшая потребность в размеченных вручную данных. Такой подход может повысить эффективность сбора данных и снизить затраты.

  2. Улучшение способности к обобщению: недостаточно ответить на один вопрос, диалоговая система должна иметь определенную способность к обобщению, чтобы адаптироваться к различным сценариям и потребностям пользователей. Изучая разнообразие и регулярность языка, мы можем улучшить способность модели к обобщению, чтобы она могла работать с большим количеством проблем и ситуаций.

  3. Построение и выбор моделей диалога. При выборе модели диалога необходимо учитывать применимость модели в различных сценариях. В настоящее время существует множество крупных моделей, поэтому нам нужно выбрать подходящую модель в соответствии с конкретными потребностями для достижения более высокой точности и эффекта.

  4. Непрерывное обучение и оптимизация. Диалоговая система нуждается в постоянном обучении и оптимизации, поскольку исходная онлайн-модель несовершенна. Система должна иметь возможность самоповторения и самооптимизации, а также постепенно улучшать эффект и производительность за счет постоянного использования и обратной связи. Этот процесс непрерывного обучения и оптимизации может удовлетворить потребности клиентов и сделать систему все более и более интеллектуальной и эффективной.

***Сюй Вэньхао: Учитель Ван Чао, есть ли у вас какие-либо комментарии к предыдущему обсуждению? ***

**Ван Чао:**Я думаю, ключ к этому вопросу заключается в том, что с точки зрения клиентов и деловых сторон, а также с нашей точки зрения как разработчиков и дизайнеров платформенных продуктов, все они указывают на одну и ту же цель. Независимо от того, с какой точки зрения, мы должны обращать внимание на основные потребности бизнеса и ожидания интеллектуальной системы обслуживания клиентов при предоставлении услуг. При разных формах и моделях обслуживания техническая архитектура продукта и внедряемые технические возможности могут различаться, но в целом особой разницы нет.

Например, для некоторых деловых сторон они могут надеяться, что роботы могут предоставить основные возможности вопросов и ответов и информационных запросов.В настоящее время нам может потребоваться только предоставить некоторые часто задаваемые вопросы и некоторые простые диалоговые инструменты и модели алгоритмов для удовлетворения потребностей. . Некоторые деловые стороны надеются, что роботы смогут вести дела и вести дела от их имени и даже предоставлять диалоговые услуги на основе сценариев и полное сопровождение. В ответ на различные уровни потребностей клиентов нам необходимо проектировать продукты и соответствующим образом строить техническую архитектуру, а также внедрять соответствующие возможности. Поэтому я думаю, что очень важно следить за деловой стороной, помогать бизнесу консультациями и получать глубокое понимание их бизнеса. В соответствии с различными потребностями клиентов, выполняйте дизайн продукта и создание технической архитектуры, а также внедряйте соответствующие возможности для удовлетворения их потребностей.

***Xu Wenhao: Какая модель дает лучший эффект после того, как вы ее попробуете? Какие нужны инструменты и приложения, как выбрать архитектуру и т.д.? ***

Ванг Сувен: При использовании ChatGPT или аналогичных крупных моделей их можно применить и развернуть, выполнив следующие действия.

  1. Обучение и настройка модели: выберите коммерчески доступную большую модель с открытым исходным кодом, такую как Zhipu ChatGLM, большая модель Baichuan и т. д. Проверьте и протестируйте производительность модели в соответствии с вашими потребностями и бизнесом. Собирайте данные, относящиеся к предметной области, и используйте эти данные для обучения предметной области на больших моделях с открытым исходным кодом, а также можете выполнять полуавтоматическое создание наборов инструкций. Благодаря точной настройке и проверке нескольких раундов диалоговых данных расширяются диалоговые возможности моделей больших предметных областей. Убедитесь, что модель соответствует требованиям безопасности, тонкой настройки и постобработки в соответствии со спецификациями и значениями.

  2. Разработка моделей и оптимизация производительности. Для генеративных моделей учитывайте скорость, емкость и сжатие рассуждений модели. Если модель слишком велика для размещения на одной карте, можно рассмотреть параллельное рассуждение с несколькими картами на одной машине или с несколькими картами на нескольких машинах. Выполняйте оптимизацию производительности моделей, включая сброс давления, сжатие и ускорение для повышения производительности.

***Сюй Вэньхао: Учитель Ван Сувен, есть ли у вас какие-нибудь рекомендуемые китайские базовые коммерческие модели? ***

Ван Сувэнь: Я считаю, что при выборе модели каждый пойдет на компромисс в соответствии со своими потребностями и стандартами. Каждая модель имеет свои особенности и преимущества. В наших бизнес-требованиях мы протестировали несколько моделей и, наконец, выбрали две большие модели Zhipu и Baichuan, потому что большие модели Zhipu и Baichuan достигли определенной зрелости в коммерциализации. Недавно они выпустили новую модель, которая также показывает, что они постоянно оптимизируют и итерируют. Я считаю, что при постоянном совершенствовании этих моделей разработка моделей предметной области на основе этих больших моделей принесет лучшие результаты.

***Сюй Вэньхао: С точки зрения тестирования больших моделей, г-н Цзя рекомендует какую-либо архитектуру инструмента или какие-либо особо важные приложения? ***

**Цзя Хаовэнь:**Для малых и средних компаний может быть сложно разрабатывать с нуля или выполнять настройку набора инструкций для существующих моделей. Модели часто слишком велики, чтобы поместиться даже на одной видеокарте или машине. Кроме того, сбор структурированных данных, особенно данных, относящихся к конкретным областям бизнеса, также имеет решающее значение. Потому что в исходном процессе обучения ChatGPT было сделано много сбора и организации данных, что требует использования данных в своей области для тонкой настройки модели в процессе настройки набора инструкций. Это включает в себя некоторые параллельные вычисления с несколькими машинами и несколькими картами, которые могут потребовать от обучающих алгоритмов и моделей высокого уровня знаний, таких как меры тензорного ускорения и меры накопления градиента.

В процессе развертывания и эксплуатации моделей может потребоваться учитывать скорость сети для обучения модели, выбор жесткого диска (например, Zata или SSD), средства хранения и ускорения передачи данных, предъявляющие высокие требования к среде эксплуатации и обслуживания. . Вообще говоря, процесс обучения текущей большой модели может быть относительно сложным, но для простого процесса развертывания и логического вывода в принципе возможно развернуть его на V100 на основе большой модели, такой как 6B или 13B.

Если настройка и обучение модели завершены и развернуты в онлайн-системе, мы обычно рассматриваем возможность обновления всей архитектуры. В настоящее время популярной в отрасли является база данных векторов Milvus, которая может промежуточно кэшировать сгенерированные результаты посредством векторного поиска, аналогично обычно используемому нами кэшу Redis. Из-за характеристик механизма генерации клоуз, хотя конкретный стиль каждого поколения может быть разным, общий смысл одинаков. Чтобы снизить онлайн-расходы, мы можем принять такой механизм. В то же время полный набор решений также требуется для системы просмотра контента, системы подготовки обучающих данных и системы маркировки.

В общем, обучение большой модели не обязательно ужасно, но может увеличить требования нашего предыдущего стека технологий, но это улучшение тоже можно преодолеть, но это может быть немного сложно, но мы можем полностью учиться и практиковаться, чтобы соответствовать этим требованиям. проблемы.

***Сюй Вэньхао: Обучение модели само по себе является лишь частью всего процесса, и вспомогательные меры также имеют решающее значение. Например, база данных векторов, система кэширования, система маркировки и т. д. Эти вспомогательные инструменты и системы имеют решающее значение для непрерывной итерации и разработки продуктов. В процессе исследований и разработок нам потребуется полная цепочка инструментов и решений для поддержки сбора данных, предварительной обработки, маркировки, а также обучения, оптимизации и развертывания моделей. Господин Чао Ван, у вас есть что добавить? ***

Ван Чао: В этом вопросе я могу поделиться некоторой информацией о разрабатываемой большой модели. Мы разрабатываем собственную промышленную модель и надеемся на сотрудничество с предприятиями и коллегами. Более подробная информация о возможностях партнерства будет объявлена после июля. Также упомяните, как проверить, какие большие модели лучше. В связи с этим мы больше озабочены тем, как успешно применять на платформе проверенные крупномасштабные модели, такие как Baichuan и другие модели, и призываем всех обратить на них внимание и понять их.

***Xu Wenhao: Что касается эффективности исследований и разработок, каким опытом вы можете поделиться с точки зрения размера команды, потребляемой вычислительной мощности и оценки времени разработки и развертывания крупномасштабных моделей? ***

Ван Сувен: Весь процесс разработки и развертывания больших моделей занимает определенное время. В частности, при сжатии, ускорении и оптимизации моделей требуются повторяющиеся эксперименты и настройка, которые могут занимать очень много времени. Например, когда-то мы разработали модель со шкалой 7 Б. После оптимизации на конфигурации с 4 картами типа b на сервере A800 скорость вывода была снижена с прежних 28 миллисекунд до примерно 5 миллисекунд. Общие человеческие усилия зависят от работы, которую вы делаете.

Во-первых, необходимо построить всю базовую структуру, а модель следует сжать и проквантовать, включая операторную оптимизацию. Мы оптимизировали на основе FastarTransformer от Nvidia, поэтому нам нужно настроить оператор оптимизации, выбрать механизм вывода, который соответствует потребностям, например Triton от Nvidia, и предоставлять услуги в соответствии с различными бэкендами. Наконец, требуется общее тестирование производительности, чтобы определить наилучшую производительность модели на различных устройствах и для окончательного развертывания. По нашему опыту, весь процесс адаптации занимает не менее одного месяца. Кроме того, потребуется некоторое время на оптимизацию задачи по корректировке инструкций, которая зависит от конкретных потребностей бизнеса и количества инструкций. В зависимости от типа бизнеса, для его выполнения обычно требуется команда из более чем десятка человек.

***Сюй Вэньхао: Похоже, для этого потребуется команда из десяти человек, и потребуется месяц или два, чтобы завершить процесс оптимизации рассуждений и обучения этих моделей. Это не та большая модель с сотнями, тысячами или сотнями миллионов параметров, о которой мы говорим. ***

Ван Сувен: Да, хорошо обученная и оптимизированная модель для конкретной отрасли может быть быстро развернута и воспроизведена для клиентов в этой отрасли. Таким образом, мы можем использовать нашу предыдущую работу и предоставлять нашим клиентам индивидуальные решения. Например, мы оптимизировали модели в финансовой сфере, страховании, управлении активами и розничной торговле, поэтому мы можем быстро воспроизводить эти оптимизированные модели и быстро предоставлять услуги клиентам. Эта возможность повторного использования может значительно повысить эффективность и ускорить доставку решений.

***Сюй Вэньхао: Я понимаю. На самом деле, в настоящее время это просто процесс разработки продукта, а не процесс запуска проекта. Был разработан продукт, который может использоваться многими клиентами. Каково мнение Учителя Цзя по этому вопросу? ***

Цзя Хаовэнь: При разработке больших моделей предметной области сбор данных имеет важное значение для предметно-ориентированных моделей. Для узкоспециализированных областей (таких как юриспруденция) сбор данных может занять много времени, может быть, полмесяца или даже месяц. После завершения сбора данных и структурной обработки могут начаться следующие ссылки, такие как настройка набора инструкций и процесс обучения многоуровневого и многокарточного. После выполнения этих шагов обычно проводится несколько раундов оценки эффекта модели, потому что результаты, генерируемые механизмом Transformer, могут быть недостаточно надежными, а для обеспечения надежности модели требуется большое количество тестов эффектов. Когда обучение модели в основном завершено и готово к первоначальному коммерческому использованию, мы можем провести дальнейшую работу по созданию продукта в соответствии с потребностями клиентов и упаковать ее в законченный продукт, чтобы предоставить пользователям комплексные услуги.

С точки зрения стоимости сопоставление данных может занять от полумесяца до месяца для обучения относительно небольшой модели с масштабом 6B или 7B. Однако для этого также требуется важное предварительное условие, то есть команда, ответственная за обучение модели, должна быть знакома с методами и методами обучения на нескольких машинах с несколькими картами, а также быть знакома с различными стратегиями ускорения данных и стратегиями ускорения памяти. Кроме того, подготовка среды также имеет решающее значение. Некоторым небольшим компаниям, если они хотят обучать большие модели, может потребоваться арендовать машины на таких платформах, как Alibaba Cloud или Tencent Cloud, и создать собственную среду. Эти дополнительные расходы также необходимо учитывать.

Разработайте большую модель, каково соотношение ввода-вывода?

*** Сюй Вэньхао: По мнению двух учителей, если условия для команды созреют, для разработки миниатюрной модели в масштабе 7B может потребоваться как минимум команда из более чем десяти человек, а разработка займет около три месяца. Таким образом, даже разработка небольшой модели требует значительных инвестиций. Каково приблизительное соотношение затрат и результатов при разработке большой модели? Как решить вопросы нормативного риска и безопасности? ***

Цзя Хаовэнь: Для оценки соотношения затрат и результатов необходимо учитывать конкретные бизнес-сценарии и потребности. Для традиционных копирайтинговых, рекламных, кино- и телеиндустрий, таких как творческое создание сценариев, AIGC и другие крупные модели могут быстро генерировать большое количество материалов.Хотя надежности может не хватать, это может значительно повысить эффективность производства.Для этих творческих производственных задач , соотношение вход/выход может быть очень рентабельным. Однако для других областей, таких как получение юридических знаний, анализ дел, анализ страховых полисов и т. д., поскольку выходные результаты могут быть не идеальными, необходимо вложить много человеческих ресурсов и пройти несколько этапов настройки модели для достижения более идеальный выход. Следовательно, соотношение вход-выход может быть выше.

Что касается надзора, нам также необходимо учитывать недавно введенную политику регулирования, связанную с глубокой генерацией. В основном это включает в себя несколько аспектов. Прежде всего, нам нужно обратить внимание на то, не будет ли это нарушать интеллектуальную собственность или авторские права композиторов, писателей, художников и т. д., и легко ли будет генерировать ложную информацию. Что касается регулирования сгенерированных результатов, нам необходимо обеспечить поддержку механизмов просмотра и управления контентом, чтобы гарантировать, что сгенерированный текст и изображения не нарушают права интеллектуальной собственности. В то же время для традиционных отраслей соблюдение требований и контроль рисков также являются важными соображениями. По мере развития экспериментов может образоваться отраслевая цепочка крупных моделей, в которой одни будут работать над средствами производства для производства крупных моделей, а другие - над мерами по предотвращению безудержного производства крупных моделей. Установление этого соответствия будет повторяться с течением времени, чтобы достичь хорошего баланса между созданием и наблюдением за большими моделями в рамках законов, правил и этики.

***Сюй Вэньхао: У нас будут не только компании с искусственным интеллектом, но и компании по обеспечению безопасности с использованием искусственного интеллекта, точно так же, как в Интернете существует множество компаний по обеспечению безопасности. Я хотел бы узнать мнение учителя Ван Сувена по вопросам безопасности и надзора за ИИ. ***

Ван Сувэнь: Прежде всего, когда мы обучаем предметные модели или большие модели, очень важны соответствие и законность данных, мы должны получать данные по формальным каналам и обеспечивать безопасность и конфиденциальность данных.

Во-вторых, когда мы проводим обучение модели предметной области для клиентов, мы должны обеспечить безопасность и соответствие данных внутри предприятия, а данные между разными предприятиями должны быть изолированы и не могут повторно использоваться или использоваться в обучении по желанию. Кроме того, при обучении моделей предметной области для клиентов нам также необходимо выполнить точную настройку и согласование, чтобы убедиться, что выходные модели соответствуют требованиям соответствия.

С точки зрения регулирования правительственным ведомствам необходимы междисциплинарные и межотраслевые экспертные знания при разработке нормативно-правовой базы. Мы сотрудничаем с Академией информационных технологий, чтобы совместно создать надежную нормативную базу и вести с ней углубленное сотрудничество. Мы также проводим сертификацию безопасности в Академии наук и технологий, чтобы убедиться, что наши большие модели прошли тщательные испытания и проверки.

Только в сотрудничестве с правительством, экспертами и предприятиями мы можем способствовать здоровому развитию AIGC, удовлетворять потребности пользователей и обеспечивать безопасное использование крупных моделей.

Каковы основные барьеры для предприятий в области интеллектуального обслуживания клиентов?

***Сюй Вэньхао: В области интеллектуального обслуживания клиентов каждый проводит несколько раундов диалога и анализа настроений, так каковы основные барьеры предприятия? ***

Ван Чао: Для индустрии интеллектуального обслуживания клиентов проблема гомогенизации тесно связана с целью приобретения интеллектуального обслуживания клиентов и ожидаемой рентабельностью инвестиций. В JD.com при построении интеллектуального обслуживания клиентов предприятия должны разделить свои цели развития на три этапа: первичный, промежуточный и высокий (или зрелый). Если цель клиента все еще находится в зачаточном состоянии, то есть только простые вопросы, ответы и функции запроса, потребности в покупке интеллектуального обслуживания клиентов могут быть аналогичными. В этом случае степень однородности может быть выше. Однако, если потребности клиента позиционируются на более высоком уровне, например, предоставление упреждающих услуг, полное последующее наблюдение и услуги по полному сценарию, то необходимо рассмотреть, имеет ли разумный поставщик обслуживания клиентов соответствующую операционную методологию и соответствующие полные система операционных инструментов. Основываясь на этой логике, я думаю, что одним из основных препятствий для нынешнего поколения интеллектуальных продуктов обслуживания клиентов является наличие у поставщика сложного и зрелого опыта в проектах роботов и богатого опыта эксплуатации.

Еще один ключевой момент заключается в том, может ли разумная компания по обслуживанию клиентов обеспечить долгосрочное планирование и методологию эксплуатации, а также соответствующие вспомогательные системы операционных инструментов в дополнение к предоставлению соответствующих продуктов и технологий. В то же время, можем ли мы помочь клиентам создать эшелон талантов и предоставить услуги по обучению. Эти факторы очень важны в нынешнем поколении ботов.

Что касается будущего, крупные модели станут важным барьером. Для продукта, который вы упомянули, ключевым фактором будет возможность эффективной интеграции различных типов больших моделей с исходными возможностями продукта. При этом возможность разработки крупных моделей также станет уникальным конкурентным преимуществом.

***Сюй Вэньхао: Я считаю, что каждая компания почувствует, что у нее есть уникальные преимущества в умном обслуживании клиентов или аналогичных продуктах. Г-н Цзя, что касается продукции вашей компании, где ее барьеры? ***

**Цзя Хаовэнь:**От традиционного обслуживания клиентов до крупномасштабного модельного обслуживания клиентов весь процесс можно рассматривать как барьер для конкуренции. Хотя мы, возможно, не сможем конкурировать с крупными компаниями с точки зрения вычислительной мощности и объема данных, мы можем конкурировать в междисциплинарных областях, таких как применение психологических знаний в крупномасштабном модельном обучении и пересечение когнитивного интеллекта. и крупномасштабные модельные приложения. Имейте преимущество первопроходца. Что касается других компаний, они также могут сочетать свои собственные характеристики, чтобы выделиться во все более однородном крупном модельном процессе обслуживания и обучения.

Ван Сувэнь: Эта проблема на самом деле сводится к двум основным моментам: Умные компании по обслуживанию клиентов должны подумать о том, как получать прибыль и увеличивать валовую прибыль. Для того, чтобы достичь этого, есть два аспекта, на которых следует сосредоточиться в первую очередь. Во-первых, вам необходимо обеспечить качественное интеллектуальное обслуживание клиентов, чтобы удовлетворить клиентов, чтобы ваш бизнес мог развиваться в течение длительного времени. Поэтому очень важно обращать внимание на эффект продукта, включая повышение мощности продукта и интеллектуального эффекта, чтобы улучшить пользовательский опыт и удовлетворенность. Во-вторых, сосредоточьтесь на повышении эффективности, рассмотрите вопрос соотношения затрат и результатов, сократите затраты и увеличьте валовую прибыль проекта. Улучшение реализации проекта и операционной эффективности является ключевым, и необходимо учитывать удовлетворенность продуктом, эффективность развертывания и внедрения, а также быструю интеграцию с бизнес-системами клиентов и стыковку операционного контента. Вам необходимо иметь полную методологию доставки и оперативные инструменты для повышения валовой прибыли проекта, чтобы достичь прибыльности и поддерживать устойчивое развитие.

Умные компании по обслуживанию клиентов можно разделить на две категории: одна — профессиональные производители в вертикальных областях, а другая — производители общего назначения. Продуманные поставщики услуг по обслуживанию клиентов в вертикальных областях сосредотачиваются на определенных областях, таких как электронная коммерция или страхование.Их преимущества и препятствия заключаются в отраслевой ориентации, постоянной оптимизации отраслевых карт и данных, а также предоставлении специальных решений и основной конкурентоспособности. Zhongguancun Kejin — поставщик решений для диалогового ИИ. Мы занимаемся финансами, государственными делами, розничной торговлей и другими отраслями. Мы предоставили услуги более чем 900 лидерам отрасли и накопили богатый отраслевой опыт. Мы также планируем запустить универсальные и крупномасштабные модели предметной области и модернизировать такие продукты, как интеллектуальное обслуживание клиентов, роботы для исходящих вызовов, помощники по спаррингу и контролю качества, путем интеграции диалоговых механизмов для повышения нашей конкурентоспособности в отрасли.

Во-вторых, повышение эффективности доставки и операционной эффективности также имеет ключевое значение. Удовлетворенность продуктом имеет решающее значение для снижения затрат на реализацию проекта, а эффективное развертывание и внедрение, а также быстрая интеграция с бизнес-системами клиентов и стыковка операционного контента повысят эффективность работы. Вам необходимо иметь набор методологии доставки и операционных инструментов, чтобы обеспечить максимальную валовую прибыль проекта. Это позволит вам быть прибыльным и устойчивым в долгосрочной перспективе.

*Заменит ли AIGC традиционный персонал по обслуживанию клиентов? *

***Сюй Вэньхао: Трое учителей упомянули три основных препятствия: первое — сосредоточиться на вертикальных областях, второе — искать дифференциацию на уровне продукта, а третье — междисциплинарное проектирование. Эти меры помогут компаниям выделиться на высококонкурентном рынке и предоставить клиентам уникальную ценность. Итак, последний вопрос на сегодня: пожалуйста, используйте простой язык, чтобы представить себе будущее развитие AIGC в этой области: сможет ли AIGC полностью заменить традиционный персонал по обслуживанию клиентов? ***

Ван Чао: Как практикующий специалист я с оптимизмом смотрю на перспективы AIGC, и вопрос о замене предполагает разные точки зрения. Одна точка зрения с точки зрения фондового рынка и считает, что рыночное пространство индустрии обслуживания клиентов ограничено, поэтому AIGC может заменить традиционную рабочую силу. Тем не менее, я предпочитаю думать об этом с возрастающей точки зрения.

Прежде всего, интеллектуальное обслуживание клиентов по-прежнему нуждается в поддержке со стороны человека, и операторы по-прежнему играют важную роль в процессе перехода от традиционного обслуживания клиентов к интеллектуальному обслуживанию клиентов. Во-вторых, будущий режим работы может измениться, и сотрудничество между интеллектуальной службой поддержки клиентов и ручным персоналом сформирует новый режим работы. В этой модели небольшое количество операторов может использовать интеллектуальных роботов для обслуживания клиентов, чтобы предоставлять высококачественные круглосуточные услуги по более низкой цене, что позволит большему количеству малых и микропредприятий предоставлять клиентам новые способы обслуживания и расширять размер рынка. Короче говоря, с точки зрения нарастания, интеллектуальное обслуживание клиентов не заменит полностью традиционное обслуживание клиентов, а дополнит его, предоставив рынку новые возможности и возможности для развития.

Ван Сувэнь: В обозримом будущем человеческое обслуживание клиентов не будет полностью заменено, потому что у них есть уникальные преимущества в решении сложных, мыслительных и эмоциональных проблем. Особенно при работе с ценными клиентами, потенциальными клиентами и повышении коэффициента конверсии клиентов обслуживание клиентов по-прежнему играет важную роль. Из-за высокой стоимости привлечения клиентов многие компании по-прежнему надеются эффективно отслеживать и обеспечивать транзакцию посредством обслуживания клиентов. Таким образом, отношения между человеческим обслуживанием клиентов и интеллектуальным обслуживанием клиентов представляют собой скорее модель сотрудничества, которая объединяет друг друга. Предприятиям необходимо учитывать преимущества человеческого обслуживания клиентов и интеллектуального обслуживания клиентов в соответствии со своими условиями и формулировать наилучшую модель обслуживания клиентов.

В целом, я думаю, что будущее развитие AIGC широкое, и вся отрасль тоже это видела. В ближайшие два-три года AIGC и такие технологии, как ChatGPT, будут развиваться с высокой скоростью и способствовать модернизации всей индустрии корпоративных услуг. И Интернет, и индустрия корпоративных услуг претерпят крупномасштабные обновления и изменения, в том числе усовершенствование вспомогательных средств. В настоящее время в AIGC все еще есть некоторые проблемы, такие как качество контента, инвестиционные затраты, безопасность данных и авторское право. Поэтому нам все еще нужны более долгосрочные разработки, в том числе изучение более сложных и эффективных методов моделирования, чтобы решить эти проблемы. Я считаю, что с развитием технологий пространство для разработки больших моделей будет бесконечно широким.

**Цзя Хаовэнь: **Действительно, мы не должны уделять слишком много внимания замене, а должны сосредоточиться на изменениях в рабочих и бизнес-моделях, которые произойдут в будущем. В процессе продвижения бизнеса нам необходимо измерять соотношение входных и выходных данных, особенно в продвижении обслуживания клиентов, нам необходимо учитывать безопасность конфиденциальности данных пользователей, соблюдение законов и правил, а также кросс-сценарий и кросс- индустрия антропоморфных услуг. Большие модели могут принести большую пользу традиционному обслуживающему персоналу, они приведут к качественным изменениям, но не заменят обслуживание клиентов людьми. В целом, хотя у большой модели есть некоторые проблемы в настоящее время, у нее большие перспективы в будущем. Говоря более литературным языком, в ближайшем будущем разработка больших моделей из мечты превратится в реальность, и вскоре мы сможем испытать это на себе.

Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Поделиться
комментарий
0/400
Нет комментариев
  • Закрепить