Як AIGC розпочав «нову революцію» в інтелектуальному обслуговуванні клієнтів

Джерело зображення: створено Unbounded AI

Джерело: infoq

Автор: Лі Дунмей

У поєднанні з основною технічною логікою ChatGPT існує приблизно чотири напрямки для індустріалізації ChatGPT у короткостроковій та середньостроковій перспективі в майбутньому: інтелектуальне обслуговування клієнтів, програми AIGC у текстовому режимі, робота, пов’язана з розробкою коду, і створення зображень. Серед них найбільш підходящим проектом для безпосереднього впровадження є робота інтелектуального клієнтського сервісу.

Інтелектуальне обслуговування клієнтів, засноване на технології великої моделі, докорінно змінює традиційний процес взаємодії людини та комп’ютера. Велика модель автоматично генерує процес діалогу, щоб зробити роботу інтелектуального обслуговування клієнтів більш ефективною, що може покращити швидкість вирішення складних проблем, сприйняття та намір взаємодії людини та комп’ютера Ефективність операційного вмісту, такого як розуміння, побудова процесу та генерація знань.

З точки зору лише рівня проникнення продукту, інтелектуальне обслуговування клієнтів поступово популяризувалося в електронній комерції, фінансах та інших сферах ще за останні сім-вісім років. Дві ключові зміни, викликані великою моделлю, одна полягає в тому, що витрати на розробку інтелектуальних продуктів обслуговування клієнтів були значно зменшені, а інша полягає в покращенні взаємодії з користувачем.

Отже, якщо ви хочете поєднати велику мовну модель LLM з інтелектуальними продуктами обслуговування клієнтів або поставити перше в сферу прикладного програмного забезпечення ToB SaaS, з чого почати створення стека технологій? Як масштабні модельні продукти розширять можливості інтелектуальних продуктів обслуговування клієнтів? У цьому випуску «Побачення з гіками» ми спеціально запросили Сюй Веньхао, засновника bothub, засновника та технічного директора Buqituo Network Technology, як модератора, а також Цзя Хаовеня, директора з обчислювальних технологій Huayuan і співавтора керівник відділу цифрового людського бізнесу та Zhongguancun Kejin Wang Suwen, директор з досліджень і розробок інтелектуальної взаємодії, керівник технічної групи інтелектуального обслуговування клієнтів Zhongguancun Kejin, і Wang Chao, керівник продукту JD Yunyanxi KA, обговорили впровадження та майбутні тенденції розвитку. AIGC в інтелектуальних продуктах обслуговування клієнтів.

Нижче подано стенограму інтерв’ю.

***Сюй Веньхао: Друзі глядачів, привіт усім! Ласкаво просимо до InfoQ "Побачення з гіками". Сьогоднішньою темою є спеціальне планування "AIGC Publication of Tiangong". Ми сподіваємося, що завдяки цьому плану кожен зможе повністю зрозуміти всі аспекти AIGC у сфері інтелектуального обслуговування клієнтів і глибоко сприйняти ці зміни. ***

***У цій програмі ми запросили трьох гостей для обговорення застосування AIGC у сфері інтелектуального обслуговування клієнтів. Загалом ми розділимо дискусію на три частини. Перший – це застосування великої моделі AIGC у продуктах інтелектуального обслуговування клієнтів; другий – це розгортання архітектури AIGC та проектування та вибір додатків інструментів у інтелектуальному обслуговуванні клієнтів; останній – метод побудови високоякісної системи діалогу. ***

***Троє сьогоднішніх гостей є досвідченими експертами у сфері інтелектуального обслуговування клієнтів та інтелектуальних інтерактивних продуктів. Перший гість — Ван Чао, відповідальний за продукт JD Yunyanxi KA. Другий гість — пан Ван Сувен, директор Zhongguancun Kejin Intelligent Interactive Research and Development. Третій гість — пан Цзя Хаовен, директор відділу обчислювальних технологій Академії Хуаюань та співголова відділу цифрових кадрів. ***

***Почнемо з першого запитання, мені дуже цікаво: які зміни внесла поява AIGC в інтелектуальне обслуговування клієнтів? Я хотів би запросити пана Вана з JD Cloud поділитися вашими думками. На вашу думку, які інновації привнесла поява AIGC в інтелектуальне обслуговування клієнтів? ***

Ван Чао: Поява AIGC викликала широке занепокоєння в усій сфері інтелектуального обслуговування клієнтів і спонукала відповідних колег провести багато досліджень. Що стосується пізнання та майбутніх змін інтелектуального обслуговування клієнтів, ці когнітивні зміни змінюються з кожним днем.

Команда JD Cloud Yanxi уважно стежить за розвитком інтелектуальних програм для обслуговування клієнтів у країні та за кордоном. Крім того, масштабна модель Yanxi, яку ми розробляємо, буде випущена в липні, і ми також продовжуємо проводити різноманітні масштабні модельні експерименти в бізнесі обслуговування клієнтів. Останніми місяцями моє особисте розуміння AIGC було зовсім іншим, ніж 3 місяці тому, тому погляди, якими я хочу поділитися сьогодні, представляють більш особисті думки та поточні погляди.

Вплив AIGC на інтелектуальне обслуговування клієнтів можна розглядати з двох рівнів. По-перше, з точки зору поширених проблем управління та технічних труднощів у нашій галузі, AIGC має потенціал для їх вирішення. Ми всі знаємо, що великі моделі значно покращать рівень реагування, антропоморфізм і досвід обслуговування інтелектуального обслуговування клієнтів, а також можуть значно знизити експлуатаційні витрати.

З точки зору робототехніки, я не думаю, що це потрібно занадто багато обговорювати, тому що ми вже приділили багато уваги роботам. Я хочу сказати, що велика модель використовується в широкому спектрі інтелектуальних сфер обслуговування клієнтів, особливо для перевірки інформації в напрямку інтелектуального управління обслуговуванням клієнтів. Наприклад, у нашій практиці інтелектуальної допомоги деякі попередні технології рекомендували деякі ключові моменти та витягували ключову інформацію під час розмов. Хоча рішення є, зазвичай важко досягти хорошого балансу між ціною та ефектом. Проте, перевіривши велику модель, ми виявили, що вона має гарну здатність розв’язувати та має потенціал для вирішення цих проблем. Крім того, для роботи з перевірки якості такі методи, як регулярізація ключових слів або інтелектуальні методи перевірки якості, які зазвичай використовуються в галузі, мають певний ефект, але рівень точності часто низький, робоче навантаження також велике, а період для підвищення рівня точності становить довго..

Однак, практикуючись із великими моделями, ми виявили, що це добре працює для розуміння абстрактних критеріїв контролю якості та виконання роботи з контролю якості. Крім того, з точки зору навчання співробітників, ми бачили деякі приклади того, як провідні банки впроваджували діалогових роботів для навчання. На додаток до вищезазначеного, ми також проводимо бізнес-аналіз у центрі обслуговування клієнтів, і нам потрібно узагальнити інформацію про потреби клієнтів, портрети клієнтів і ризики в консультаціях клієнтів.В експерименті ефект великої моделі також дуже хороший. Я вважаю, що в області інтелектуального обслуговування клієнтів потенціал застосування великих моделей величезний. Ми віримо, що приблизно через півроку основні продукти на ринку отримають важливе оновлення.

Базуючись на тому, що зараз ми розуміємо про галузь і домен, ми можемо дослідити, чи зміниться ширший домен. Наприклад, які зміни він може внести в обслуговування клієнтів і обслуговування клієнтів? Я думаю, що це питання може бути більш складним, і на цьому етапі ніхто не може визначити конкретні зміни. Але ми віримо, що це матиме велике значення, принаймні в деяких напрямках, таких як проактивні послуги. Наприклад, компанії електронної комерції часто здійснюють різноманітну діяльність, і робота з просування та роз’яснення діяльності зазвичай не лягає на центр обслуговування клієнтів. Тому що ручним чи традиційним машинним способом такий широкий спектр діяльності виконувати дуже важко. Але ми можемо уявити собі майбутнє, де наша служба підтримки клієнтів зможе добре пояснити багато видів діяльності шляхом впровадження великої моделі та введення основної інформації, яка представляє можливий потенціал майбутнього обслуговування клієнтів з точки зору активної трансформації та оновлення.

***Сюй Веньхао: Дозвольте мені підбити підсумок: фактично поява AIGC розширила сферу застосування інтелектуальних даних у сфері інтелектуального обслуговування клієнтів. Велику модель можна застосувати не лише в традиційній інтелектуальній сфері відповідей на запитання післяпродажного обслуговування, але й у всіх аспектах усієї ланки обслуговування клієнтів, і її можна навіть поширити на сферу маркетингу. Вчителю Ван Сувен, яке явище ви бачите з вашої точки зору? ***

Ван Сувен: Як уже згадувалося, сфера інтелектуального обслуговування клієнтів дуже широка. Такі технології, як інтелектуальне обслуговування клієнтів і роботи, можуть фактично змінити традиційний процес взаємодії людини з комп’ютером. Завдяки використанню великих моделей, особливо автоматичної генерації процесів діалогу, функціонування традиційного інтелектуального обслуговування клієнтів можна зробити більш ефективним. У традиційному способі нам зазвичай потрібно налаштовувати базу знань вручну, але ефект неочевидний. Однак здатність розв’язувати складні проблеми та частоту прямих відповідей на запитання можна безпосередньо покращити завдяки автоматичному створенню діалогових процесів за допомогою великих моделей, що є значним руйнівним впливом.

Другий момент полягає в тому, що великі моделі також можуть досягти цілей зниження витрат і підвищення ефективності. З точки зору інтелекту, витрати на робочу силу завжди були відносно високими, оскільки для цього потрібні машини, яким допомагають люди. Завдяки застосуванню великих моделей це може сприяти підвищенню ефективності побудови та експлуатації бази знань, тим самим досягаючи значного ефекту зниження витрат та підвищення ефективності.

Третій пункт стосується антропоморфізму та користувацького досвіду робота. Традиційні роботи часто не справляються з цим. Однак поява великих моделей робить діалог більш плавним, антропоморфним і більше схожим на спілкування між людьми. Це дуже потужний руйнівний ефект.

Звичайно, для загального обслуговування клієнтів, включаючи перевірку якості, асистентів і спаринг, велика модель також матиме відповідні руйнівні ефекти, а різні продукти матимуть різні ефекти.

***Сюй Веньхао: Я помітив, що пан Цзя є співголовою відділу цифрових кадрів. З вашої точки зору, чи принесе поєднання інтелектуального обслуговування клієнтів і цифрової людини нові інновації? ***

**Цзя Хаовень:**Перш ніж відповісти на це запитання, я хотів би повернутися до сфери інтелектуального обслуговування клієнтів. Розвиток інтелектуального обслуговування клієнтів можна простежити до історії штучного інтелекту, який базується на накопиченні мови. Я пам’ятаю, близько десяти років тому було кілька поверхів, заповнених людьми з обслуговування клієнтів, які витрачали більшу частину свого робочого часу на вирішення проблем користувачів. У той час навіть такі інструменти, як база знань, про яку згадували два вчителі, були не дуже повними.

Озираючись назад, Alipay та інші продукти обслуговування клієнтів поступово розширювалися від початкової бази знань до пізніших старших помічників і похідних інструментів, таких як структура Rasa для симуляції сценаріїв кількох раундів діалогу. Однак, як щойно сказали обидва вчителі, всім цим діалогам поки бракує персоніфікації. Усі попередні інструменти обслуговування клієнтів фактично не пройшли стандартні тести комп’ютерної індустрії. Але коли з’являються великі моделі, особливо такі, як ChatGPT або Vicuna, вони мають рівень особистості, хоча, можливо, на рівні 10- чи 11-річної дитини. У певному сенсі вони здатні пройти тест Тюрінга.

Тепер повертаючись до вашого попереднього запитання, поєднання інтелектуального обслуговування клієнтів і цифрової людини принесе нові інновації. На початковому етапі цифрового людського поля антропоморфні запитання та відповіді з людьми на основі баз знань і великих моделей не можуть бути завершені в режимі реального часу. Однак у міру розвитку технологій ми змогли створювати антропоморфні фігури в поєднанні з великими моделями для імітації реальних сцен. Коли ми застосовуємо це до таких сценаріїв, як бази знань, обслуговування клієнтів і цифрові співробітники, сфера цифрових людей може зіткнутися з двома проблемами. По-перше, це повнота даних.Хоча ChatGPT і подібні виглядають круто, вони по суті генеруються на основі минулих історичних даних, подібно до генерації cloze. Незважаючи на те, що такий підхід підвищує ефективність і зменшує витрати на сценарії, якість створеного вмісту практично неможливо контролювати. Ми не можемо бути повністю впевнені у вихідному вмісті комплексних галузей, таких як цифрові кадри та інтелектуальне обслуговування клієнтів. Тому нам може знадобитися запровадити різні верифікації та запобіжні заходи, щоб гарантувати, що те, що говорять цифрові люди чи ChatGPT тощо, більше схоже на людську розмову, ніж на тарабарщину.

Підводячи підсумок, хоча велика модель зараз може бути відносно популярною, а перспективи на майбутнє також гарні, на поточному етапі вона все ще знаходиться в стані від 0 до 1. У майбутньому ми можемо очікувати, що воно виросте у високе дерево, але зараз, незалежно від того, чи це для всієї галузі, чи для всіх очікувань щодо нього, все одно необхідно дозволити йому поступово рости на кращому ґрунті та справді мати можливість забезпечувати інтелектуальне обслуговування клієнтів. , Підвищувати ефективність у таких галузях, як цифрові люди.

***Сюй Веньхао: Я хочу детально вивчити це питання. Я хотів би запитати пана Цзя, з вашої точки зору, якщо ми запровадимо масштабну модель у сфері інтелектуального обслуговування клієнтів, чи принесе це користь? Я маю на увазі з точки зору поточної ситуації, незалежно від розвитку за два-три роки. Дивлячись на це зараз, чи є вигода з точки зору ваших клієнтів або вашого внутрішнього продукту з точки зору впровадження великої моделі? ***

Цзя Хаовень: Вибір великої моделі залежить від конкретних бізнес-сценаріїв і потреб користувачів. Для великих компаній, таких як Ant Financial або JD.com з великими та розвиненими системами, сліпе впровадження великої моделі може збільшити додаткові витрати. Нам потрібно вжити певних заходів сумісності, щоб уникнути невизначеності, спричиненої вмістом, створеним штучним інтелектом. Для невеликих компаній використання великих моделей як доповнення до їхньої бази знань із деяким рівнем перевірки людьми може стати хорошим способом підвищення ефективності. Це може допомогти інтелектуальному обслуговуванню клієнтів краще зрозуміти семантику користувача, покращити якість бази знань і навіть покращити взаємодію з користувачем. Крім того, для програм вищого рівня, таких як когнітивний інтелект, впровадження великих моделей може допомогти краще зрозуміти та розпізнати користувачів. В Інтернет-індустрії існує важлива концепція під назвою «тисячі людей, тисячі облич», яка означає, що кожна служба обслуговування клієнтів може надавати персоналізовані послуги. Тому нам потрібно розглянути, чи варто вводити велику модель з діалектичної точки зору, і приймати рішення на основі конкретних обставин.

***Сюй Веньхао: Точка зору пана Цзя полягає в тому, що великі компанії повинні бути обережними у впровадженні великих моделей. Введення великих моделей може збільшити витрати та збільшити різні ризики, і їм потрібно покладатися на оригінальні методи чи моделі. як запасний захід. Тоді я хотів би запитати вчителя Ван Чао, чи служба підтримки клієнтів JD Cloud представила AIGC? Які будуть переваги після впровадження? ***

**Ван Чао: **Для великих компаній обережне застосування великих моделей у продуктах C-end не стосується забезпечення взаємодії з клієнтами та безпеки послуг. У бізнесі, орієнтованому на споживача, обережність є надзвичайно важливою. У цьому відношенні як валідація, так і експерименти проводяться з великою обережністю.

У сфері бізнес-орієнтації або діяльності ви більш «сміливі» в експериментах і перевірках. Ми запроваджуємо великомасштабні моделі, щоб допомогти операторам створювати копірайтинг і сценарії, що забезпечує хорошу підтримку операцій для вирішення проблем творчості та ефективності. Крім того, він також дуже активний у напрямку управління працівниками, таким як перевірка якості, допомога та навчання.

Велика модель «просто потрібна» чи «слідує за трендом»?

***Сюй Веньхао: Наскільки це може підвищити ефективність звичайних працівників? Ви це вимірювали чи маєте якісь конкретні дані? ***

Ван Чао: Ми ще не проводили конкретних розрахунків щодо цієї проблеми, тому що застосування великих моделей поводиться по-різному в різних робочих проектах. Наприклад, він може бути в кілька разів швидшим у створенні сценаріїв і копірайтингу. Однак, з точки зору щоденного аналізу та перевірки якості конструкції, ефект може відрізнятися від випадку до випадку. Тому на нинішньому етапі нам важко кількісно оцінити та зробити точний висновок, але ми впевнені, що застосування великих моделей справді підвищило ефективність.

***Сюй Веньхао: Пане Ван Сувен, чи представили ви AIGC своїм клієнтам або продуктам? Чи бачите ви конкретні переваги? ***

Ван Сувен: У сфері нашої діяльності ми здебільшого націлені на ринок ToB і обслуговуємо клієнтів у різних сферах, як-от фінансова та страхова галузі. Ці клієнти мають кілька потреб з точки зору інновацій, включаючи стимули для зниження витрат і підвищення ефективності. Ми здійснили певну співпрацю з клієнтами та перевірили їх. Наприклад, ми створили для клієнта маркетингового помічника, який автоматично створює копію. Традиційно рівень кожного співробітника неоднаковий, в тому числі відсутність стандартизації та єдності в плані маркетингових навичок. Через нашого помічника з маркетингу ми можемо спочатку допомогти їм створити уніфіковану копію та скопіювати її на основі чудового історичного досвіду. По-друге, зменшити витрати та підвищити ефективність.Їм більше не потрібно витрачати надто багато часу на навчання, навчання та пам’ять. Наші великі моделі широко використовуються в промисловості.

Ми також розробили ботів для телемаркетингу, які можуть безпосередньо відповісти на деякі запитання. Звичайно, ми повинні враховувати питання відповідності, зокрема дотримання відповідних законів і захист безпеки даних. Ми співпрацюємо з Інститутом Сіньчуань, щоб вирішити ці проблеми стандартизації.

***Сюй Веньхао: Усі справді намагаються використати здібності великої моделі. Проте ще багато конкретних проблем, які необхідно вирішити, особливо проблеми керованості та безпеки. З точки зору інтелектуального обслуговування клієнтів, індустрія електронної комерції – це галузь, яка рано запровадила інтелектуальне обслуговування клієнтів, оскільки існують масштабні рекламні заходи, такі як «618» і «Double Eleven», і пік трафіку під час цих заходів є дуже величезний. ***

***За останні кілька років вітчизняні постачальники послуг також розробили різні розумні продукти обслуговування клієнтів для різних фінансових установ, таких як банки, страхові установи та установи з управління капіталом. У цьому випадку схоже, що фінансові установи залишаться позаду, якщо вони не будуть використовувати робо-консультантів. Однак такі інституції, як банківське обслуговування клієнтів, не мають пікових періодів, як «618» і «Double Eleven». Чи запровадження інтелектуального обслуговування клієнтів цими установами викликано необхідністю чи «слідуванням за тенденціями» чи відчуттям кризи ? Якщо це жорсткий попит, то звідки він виник? ***

Ван Чао: Під впливом хвилі цифровізації фінансовим установам легше реалізувати впровадження інтелектуального обслуговування клієнтів. У фінансовій сфері інтелектуальне обслуговування клієнтів широко використовується і стало одним із найпоширеніших продуктів фінансових установ. Для фінансових установ основні потреби інтелектуального обслуговування клієнтів полягають головним чином у зниженні витрат і підвищенні ефективності, що може звільнити людські ресурси від виснажливої роботи. Особливо в бізнес-сценаріях, таких як автоматичне запитання та відповідь, сповіщення та повторні візити для деяких запитань, які часто виникають, інтелектуальне обслуговування клієнтів може заощадити людські ресурси та дати їм змогу зосередитися на більш професійній та творчій роботі замість повторюваної, частої та малоцінної роботи. . Дозвольте їм мати ресурси, щоб інвестувати в розвиток і підтримку заможних клієнтів, і більше зосередьтеся на виконанні більш цінних завдань. Крім того, завдяки новому поколінню основних проривів, таких як поява великих моделей, інтелектуальне обслуговування клієнтів також може отримати потужні можливості генерації природної мови, що робить його більш інтелектуальним і ефективним.

***Сюй Веньхао: Отже, це нагальна потреба, оскільки потрібно багато повторюваної роботи, щоб зменшити витрати та підвищити ефективність. Пане Цзя, ваші клієнти у фінансовій сфері чи інших галузях звертають увагу на розумне обслуговування клієнтів? ***

**Цзя Хаовень: **Крім фінансової сфери, існує також попит на великих моделей у вертикальних сферах, таких як страхування, право та охорона здоров’я. Особливо з корпоративної точки зору потреба генерувати та видобувати знання стає все більш очевидною. Коли ми спілкуємося з банками чи страховими компаніями або обговорюємо проблеми з практикуючими юристами, інформація, яку вони надають, є фактичною. Завдяки великій моделі ми можемо краще визначити намір запитання користувача та виконати кластеризацію або розділення.

Як зазначив пан Ван Су, такі галузі, як фінанси, страхування та право, мають великий потенціал для підвищення ефективності.Це процес зниження витрат та підвищення ефективності. З моєї особистої точки зору, це жорстка потреба, особливо з точки зору ефективності. Однак ці галузі можуть не використовувати надто агресивний підхід, оскільки бізнес, пов’язаний із фінансами, страхуванням і правом, є дуже чутливим і потребує значного ступеня спеціалізації. У зв’язку з цим виникає інше питання – оцінка зрілості результатів, створених великими моделями. Незважаючи на те, що великі моделі, такі як GPT-4, успішно складають деякі професійні іспити в Сполучених Штатах, все ще залишається проблема, чи зможуть вони скласти відповідні іспити в Китаї, особливо у великому та складному семантичному контексті, як китайський, що може потребувати подальших досліджень. дослідження. У зв’язку з цим наша компанія планує співпрацювати з Чжецзянським університетом у липні, щоб випустити велику модель правової вертикалі, щоб забезпечити кращі рішення для цієї конкретної сфери.

***Сюй Веньхао: Великі моделі в юридичній сфері схожі на моделі у фінансовій сфері, а вимоги до якості для генерації дуже суворі. У правовому полі невелика помилка може негативно вплинути на споживчий досвід і навіть завдати збитків продавцю (сторона B), що вимагає більш високої точності та надійності отриманих результатів. Що про це питання думає вчитель Ван Чао? ***

Ван Чао: Я вважаю, що вимоги до інтелектуального обслуговування клієнтів дуже суворі, незалежно від того, чи йдеться про електронну комерцію чи фінансову індустрію. Крім того, для інтелектуального обслуговування клієнтів електронної комерції великий період рекламної акції та щоденні консультації дуже вражають. У самостійному бізнесі нашої команди в JD.com щоденний обсяг консультацій становить 70% і 90% у піковий період. Ці 70% обсягу консультацій вже мають велику цінність. Я вважаю, що ця логіка також стосується різних установ, таких як банки. Ми також помітили, що можливості інтелектуального обслуговування клієнтів деяких банків все ще недостатні. Тому нам потрібно думати про те, як покращити зрілість інтелектуального обслуговування клієнтів, і воно має адаптуватися до етапу розвитку підприємства чи банку. Зараз багато банків знаходяться на початковій стадії інтелектуального обслуговування клієнтів, головним чином зосереджуючись на поширених запитаннях і побудові простого багатораундового діалогу, тоді як можливості обслуговування та досвід користувача можуть ще не досягти задовільного рівня.

Спираючись на наш досвід у сфері електронної комерції, ми вважаємо, що інтелектуальне обслуговування клієнтів банку потребує подальшого розвитку, особливо в операційній системі, яка потребує значного оновлення. Наприклад, ми вимагаємо, щоб базове обслуговування клієнтів було близьке до штучного рівня з точки зору стандартів обслуговування та навичок, що має великий вплив на реформування нашої операційної системи. Однак у процесі співпраці з банками ми виявили, що багато банків стикаються з проблемами в побудові інтелектуального обслуговування клієнтів. Співпраця між постачальниками технологій і банками більше схожа на відносини між стороною B і стороною A, яка відрізняється від нашої моделі співпраці. Залишається розрив між банками та нашими вимогами щодо організаційної структури та підготовки персоналу. Ми поспілкувалися з багатьма нашими банківськими партнерами та виявили, що вони погоджуються з нашою методологією розробки, але також вважають її складною. Просування внутрішніх реформ складно для банків і вимагає більше зусиль. Я вважаю, що велика модель — це можливість, оскільки вона може зменшити операційні труднощі інтелектуального обслуговування клієнтів і спростити організаційну структуру. Я з нетерпінням чекаю на це.

***Сюй Веньхао: Я вважаю, що велика модель — це величезна можливість для всіх тут і для більшості людей у сфері інтелектуального обслуговування клієнтів і обробки природної мови. Ми поділяємо схожу точку зору, що великі моделі можуть допомогти нам досягти більш антропоморфного та персоналізованого спілкування. Однак, коли справа доходить до надання послуг кінцевим користувачам C, будь то електронна комерція чи банки, усі будуть більш обережними. Ми всі хочемо переконатися, що кінцевий результат можна контролювати, незалежно від того, чи йдеться про депозитний сертифікат на 10 000 юанів чи замовлення на 1000 юанів, це те, до чого потрібно поставитися серйозно. ***

*** Щойно ми також говорили про іншу важливу тему, досвід користувача. Ми можемо помітити, що попередні покоління інтелектуальних роботів з обслуговування клієнтів і діалогових роботів, їхні відповіді є заздалегідь написаними шаблонами, наприклад, відповідь про адресу доставки зазвичай фіксована, лише з незначними змінами. Існує певний розрив між відповіддю цього фіксованого шаблону та реальним людським обслуговуванням клієнтів. Зараз усі наполегливо працюють над покращенням антропоморфного рівня діалогових роботів, щоб інтелектуальне обслуговування клієнтів, яке стоїть за ними, могло бути більш емоційним, краще розуміти емоції користувача та виконувати мультимодальні обчислення. У зв’язку з цим чи інвестували ви в дослідження та розробки? ***

Ван Сувен: Я думаю, що це можна обговорювати з трьох аспектів: персоніфікація, гуманізація та індивідуалізація.

Перший – це антропоморфізм. У сфері інтелектуального обслуговування клієнтів антропоморфізм завжди був проблемною точкою, оскільки продуктивність традиційних роботів у цій сфері потребує покращення. Ми досліджували, як побудувати антропоморфні діалогові взаємодії. Це стосується того, як розробляти ситуаційні діалоги, як розбирати проблеми, як успадковувати контекст і як розуміти кілька раундів діалогу. Загалом ми сподіваємося, що боти зможуть забезпечувати більш релевантні та природні способи спілкування та взаємодії.

Далі – людські послуги. На підставі точної ідентифікації місця події чи наміру ми також потребуємо подальшого вдосконалення послуги на основі антропоморфізму. Я вважаю, що мультимодальні ефективні обчислення є ефективним способом досягнення цієї мети. Наприклад, наша компанія розробила віртуальну цифрову службу обслуговування клієнтів, яка може вести інтерактивні діалоги між людиною та комп’ютером у поєднанні з емоційним обчисленням і розпізнавати емоційні вираження користувачів за допомогою мультимедійних методів, таких як відео, голос і текст. Таким чином, інтелектуальне обслуговування клієнтів може давати відповідний емоційний зворотний зв’язок користувачам, створювати взаємодію між людиною та комп’ютером з емоційним розумінням і теплотою, а також реалізовувати більш гуманізовані послуги. З точки зору ефективного обчислення, традиційні методи мають два режими: правила та машинне навчання. Завдяки машинному навчанню ми можемо навчити моделі автоматично вивчати емоційні стани та досягати стандартів класифікації, щоб краще адаптуватися до різних сфер і контекстів. Таким чином можна отримати кращий ефект емоційного вираження та надати більш гуманні послуги.

Нарешті, є індивідуальне обслуговування. Нам потрібно впроваджувати персоналізовані послуги на основі портрета користувача, щоб досягти ефекту «тисячі людей із тисячами облич». Наприклад, ми розробили платформу аналізу користувачів, яка може позначати користувачів і накопичувати портрети за допомогою основної інформації про портрет користувача та аналізу інформації під час історичних розмов. У подальшому діалозі ми можемо надати різні процеси діалогу, методи відповіді та рекомендації відповідно до портрета користувача, щоб отримати точніші персоналізовані послуги та підвищити задоволеність користувачів і підприємств.

***Сюй Веньхао: Вчитель Ван Сувен поділився багатьма цінним досвідом, який може бути використаний для довідки та наслідування тими, хто займається інтелектуальною роботою з обслуговування клієнтів. JD.com — це платформа з великою кількістю користувачів і продуктів, і всі сподіваються, що при розумному обслуговуванні клієнтів виникне відчуття, що за цим стоїть реальна людина. Я хотів би запитати пана Ван Чао, яку роботу зробив JD.com у сфері досліджень і розробок і продуктів, щоб реалізувати здатність «тисячі людей, тисячі облич»? Є якийсь досвід, яким можна поділитися з вами? ***

Ван Чао: Ми зробили багато інвестицій у покращення досвіду та персоналізованого обслуговування. Емоційно-інтелектуальне обслуговування клієнтів, розроблене командою Yanxi, є першим у галузі масштабним комерційним емоційно-інтелектуальним обслуговуванням клієнтів. З 2018 року ми представили здатність розпізнавання емоцій і реагування в здатності реагування робота. Ця технологія використовується не тільки в сфері обслуговування клієнтів, але також в службах перевірки якості та управління персоналом.

Відповідь на це питання передбачає два аспекти. Перший напрямок — це технології, такі як передові технології, такі як багатораундовий діалог, які є основними напрямками розвитку сучасних інтелектуальних технологій обслуговування клієнтів. Іншим важливим напрямком є експлуатація, тобто те, як провести детальний демонтаж сцени, проаналізувати відмінності між людиною та машиною та реалізувати автоматичне виявлення проблем і порівняння відмінностей у послугах між людиною та машиною за допомогою моніторингу та систем інструментів шляхом порівняльного аналізу з обслуговуванням клієнтів. Таким чином ми поступово реалізуємо уточнений аналіз досвіду крауд-сервісу на основі загального аналізу відмінностей загального досвіду та досвіду крауд-сервісу. За допомогою такої системи ми можемо продовжувати оптимізувати загальний досвід обслуговування та, нарешті, реалізувати охоплення машинним обслуговуванням поточного щоденного обсягу прийому машин JD.com у 70% та 90% протягом періоду рекламної акції.

**Цзя Хаовен:**Тема сьогоднішнього прямого ефіру — це розуміння цифрового людського обслуговування клієнтів і великих моделей. Наше розуміння традиційного обслуговування клієнтів, будь то обслуговування клієнтів вручну чи FAQ, можна розглядати як інтелектуальне обслуговування клієнтів низького рівня. Як користувачі, ми очікуємо, що служба підтримки клієнтів буде компетентною та зможе надати допомогу у вирішенні проблем. У той же час, якщо служба обслуговування клієнтів може демонструвати антропоморфні характеристики та надавати персоналізовані послуги, досвід користувача буде кращим.

У сфері великих моделей дуже важливі антропоморфізм і персоніфікація. Наша компанія більше схиляється до дослідницького напрямку когнітивного інтелекту та психології. Ми зосереджені на тому, як швидко отримати психологічні мітки користувачів і оцінювати користувачів з психологічної точки зору, щоб надавати кращі послуги. Ми можемо уявити таку сцену, як Джарвіс у фільмі Marvel «Залізна людина». Було б ідеальним станом, якби велика модель у майбутньому могла бути як помічник, який міг би дати найбільш правильні відповіді та рекомендації відповідно до нашого настрою та вподобань цього дня.

Зараз ми все ще перебуваємо на попередній стадії дослідження поєднання великих моделей і цифрових людей. Однак із появою результатів академічних досліджень у сфері мультимодальності можуть з’явитися деякі кращі та дешевші продукти досвіду.

***Сюй Веньхао: Усі згадували гонитву за емоціями, і здається, що всі рухаються в напрямку, ближчому до реальних людей. Більшість аудиторії в залі прямого ефіру – це студенти, які займаються технічною роботою.Ми сподіваємося поділитися досвідом щодо того, як побудувати високоякісну систему діалогу, будь то інтелектуальне обслуговування клієнтів, післяпродажне обслуговування чи передпродажний посібник із покупок. . З чого почати вводити це поле? ***

Цзя Хаовень: Якщо ми хочемо побудувати високоякісну систему діалогу, це фактично включає питання традиційного затвердження Інтернет-проекту. У цьому процесі нам потрібно розглянути вибір архітектури бізнес-продукту, технічної архітектури та фактичної посадкової форми продукту. У той же час ми також повинні взяти до уваги, що багато великих підприємств або середніх підприємств вже мають багато існуючих продуктів обслуговування клієнтів. Якщо ми хочемо покращити можливості цих існуючих продуктів обслуговування клієнтів за допомогою великих моделей, нам може знадобитися прийняти більш консервативний підхід. Наприклад, великі моделі можна використовувати як інструмент зовнішньої бази знань для надання вхідних даних. Повертаючись до щойно згаданого архітектурного аспекту, важливими міркуваннями є як архітектура продукту, так і вибір інструментів. Для початкової точки входу можуть бути задіяні такі інструменти, як системи позначення ключових слів і традиційні регулярні вирази. Однак не існує загальної стандартної парадигми для конкретного вибору цієї парадигми, оскільки вона пов’язана з характеристиками кожного бізнесу.

***Сюй Веньхао: З точки зору практиків, будь то інтелектуальна компанія з обслуговування клієнтів, інтелектуальне обслуговування клієнтів SaaS або хмарна платформа, вони можуть подумати про те, як ще покращити систему діалогу для надання послуг вищої якості. Незважаючи на те, що сьогодні ми багато обговорювали великі моделі, фактично, коли мова заходить про традиційне інтелектуальне обслуговування клієнтів, будь то в банківській справі чи електронній комерції, споживачі більш-менш відчуватимуть, що за ними не стоїть реальна людина, яка б надавала послуги. Нам потрібно подумати про те, як покращити користувацький досвід, і докладати більше зусиль, щоб покращити статус-кво. ***

Цзя Хаовен: Якщо ми звузимо рамки проблеми та зосередимося на забезпеченні ефективнішого та високоякісного інтелектуального контенту обслуговування клієнтів, тоді ми зможемо розглядати велику модель як розширений сервіс діалогу. У продуктах інтелектуального обслуговування клієнтів користувачі очікують зустріти розумного, чуйного та комунікабельного робота. У той же час вони сподіваються, що зміст відповідей може зосередитися на конкретних бізнес-сферах, таких як маркетинг обслуговування клієнтів та інші сценарії. У цьому випадку ми можемо поєднати розпізнавання намірів, потік діалогу та можливості багатоповоротного діалогу великої моделі із зовнішніми джерелами даних, такими як традиційні поширені запитання. Це означає, що нам потрібно об’єднати весь процес обробки мови, як-от узагальнення даних запитань відвідувачів і порівняння їх із запитаннями користувачів, і навіть введення великої кількості конфіденційних даних, поки користувачі ставлять запитання, щоб доповнити традиційні інтелектуальні роботи, голос роботи та контент Можливості зовнішніх баз знань. Завдяки цій комбінації можна значно підвищити ефективність користувацького досвіду за короткий період часу. Крім того, ми можемо розглянути вдосконалення антропоморфних можливостей, але для компаній, які хочуть оновити свої можливості діалогової системи, виклики можуть бути вищими, тому рекомендується вводити їх обережно. Розгляд великих моделей як частини зовнішнього введення знань може бути недорогою та швидкою точкою входу.

Як покращити якість діалогу великих моделей

***Сюй Веньхао: Вчителю Ван Сувен, якщо ми хочемо побудувати високоякісну систему діалогу для покращення поточної ситуації, у які сфери нам слід інвестувати в дослідження та розробки? ***

Ван Сувен: Ми можемо розглянути наступні моменти, щоб покращити якість системи діалогу.

  1. Зменшення витрат на маркування даних: Традиційні методи маркування даних потребують великої кількості маркування вручну, що призведе до витрат часу та ресурсів. Щоб зменшити цю залежність, ми можемо вивчити, як використовувати велику кількість немаркованих даних для навчання без нагляду, тим самим зменшуючи потребу в даних, позначених вручну. Такий підхід може підвищити ефективність збору даних і знизити витрати.

  2. Удосконалення здатності до узагальнення: недостатньо відповісти на одне питання.Діалогова система повинна мати певну здатність до узагальнення, щоб адаптуватися до різних сценаріїв і потреб користувача. Вивчаючи різноманітність і регулярність мови, ми можемо покращити здатність моделі до узагальнення, щоб вона могла мати справу з більшою кількістю проблем і ситуацій.

  3. Побудова та вибір моделей діалогу: Вибираючи модель діалогу, ми повинні враховувати можливість застосування моделі в різних сценаріях. Зараз існує багато великих моделей на вибір, тому нам потрібно вибрати відповідну модель відповідно до конкретних потреб, щоб досягти більшої точності та ефекту.

  4. Безперервне навчання та оптимізація: система діалогу потребує постійного навчання та оптимізації, оскільки ефект початкової онлайн-моделі не є ідеальним. Система повинна мати здатність до самоітерації та самооптимізації та поступово покращувати ефект і продуктивність шляхом постійного використання та зворотного зв’язку. Цей процес постійного навчання та оптимізації може задовольнити потреби клієнтів і зробити систему все більш розумною та ефективною.

***Сюй Веньхао: Учителю Ван Чао, чи є у вас коментарі до попереднього обговорення? ***

**Ван Чао:**Я думаю, що ключ до цього питання полягає в тому, що з точки зору клієнтів і ділових сторін, а також нашої точки зору як розробників і дизайнерів платформних продуктів, усі вони вказують на ту саму мету. Незалежно від того, з якої точки зору, ми повинні звернути увагу на основні потреби бізнесу та очікування від інтелектуальної системи обслуговування клієнтів у наданні послуг. За різних форм і моделей послуг технічна архітектура продукту та запроваджені технічні можливості можуть відрізнятися, але загалом різниці немає.

Наприклад, для деяких ділових сторін вони можуть сподіватися, що роботи зможуть надати базові можливості запитань і відповідей і інформаційних запитів. Наразі нам може знадобитися лише надати деякі поширені запитання та деякі прості інструменти діалогу та моделі алгоритмів для задоволення потреб . Деякі ділові сторони сподіваються, що роботи зможуть керувати та стежити за бізнесом від їхнього імені та навіть надавати послуги діалогу на основі сценаріїв та повний супровід. Відповідаючи на різні рівні потреб клієнтів, нам потрібно розробляти продукти та відповідно будувати технічну архітектуру, а також запроваджувати відповідні можливості. Тому я вважаю, що дуже важливо стежити за діловою стороною, допомагати бізнесу консультаціями та отримати глибоке розуміння їхнього бізнесу. Відповідно до різних потреб клієнтів, виконайте проектування продукту та будівництво технічної архітектури та запровадьте відповідні можливості для задоволення їхніх потреб.

***Сюй Веньхао: Яка модель має кращий ефект після того, як ви її спробували? Які потрібні інструменти та додатки, як вибрати архітектуру тощо? ***

Ван Сувен: Використовуючи ChatGPT або подібні великі моделі, ви можете застосувати та розгорнути їх відповідно до наведених нижче кроків.

  1. Навчання та налаштування моделі: виберіть комерційно доступну велику модель із відкритим кодом, таку як Zhipu ChatGLM, велику модель Baichuan тощо. Перевірте та перевірте продуктивність моделі відповідно до власних потреб і бізнесу. Збирайте дані, пов’язані з доменом, і використовуйте ці дані для проведення навчання домену на великих моделях з відкритим кодом, а також можете виконувати напівавтоматичне створення наборів інструкцій. Завдяки тонкому налаштуванню та скринінгу кількох раундів діалогових даних покращується діалогова здатність моделей великих доменів. Переконайтеся, що модель відповідає вимогам щодо безпеки, точного налаштування та подальшої обробки відповідно до специфікацій і значень.

  2. Розробка моделі та оптимізація продуктивності: для генеративних моделей враховуйте швидкість, ємність і стиснення міркувань моделі. Якщо модель занадто велика, щоб вмістити одну картку, можна розглянути можливість паралельного обґрунтування з кількома картками на одній машині або кількома картками на кількох машинах. Виконуйте оптимізацію продуктивності на моделях, включаючи скидання тиску, стиснення та прискорення для кращої продуктивності.

***Сюй Веньхао: Вчителю Ван Сувен, чи є у вас якісь рекомендовані базові китайські комерційні моделі? ***

Ван Сувен: Я вважаю, що при виборі моделі кожен буде робити компроміси відповідно до власних потреб і стандартів. Кожна модель має свої особливості та переваги. Відповідно до наших бізнес-вимог ми протестували кілька моделей і, нарешті, обрали дві великі моделі Zhipu та Baichuan, оскільки великі моделі Zhipu та Baichuan досягли певної зрілості в комерціалізації. Нещодавно вони випустили нову модель, яка також показує, що вони постійно оптимізують і повторюють. Я вважаю, що з постійним удосконаленням цих моделей розробка моделей домену на основі цих великих моделей принесе кращі результати.

***Сюй Веньхао: Що стосується тестування великих моделей, чи рекомендує пан Цзя будь-яку архітектуру інструментів або якісь особливо важливі програми? ***

**Цзя Хаовен:**Малим і середнім компаніям може бути важко розробити з нуля або виконати налаштування набору інструкцій на існуючих моделях. Моделі часто занадто великі, щоб поміститися навіть на одну відеокарту чи машину. Крім того, збір структурованих даних, особливо даних, що стосуються конкретних бізнес-доменів, також має вирішальне значення. Оскільки в початковому навчальному процесі ChatGPT було зроблено багато збору та організації даних, що вимагає використання даних у власному полі для точного налаштування моделі в процесі налаштування набору інструкцій. Це передбачає деякі паралельні обчислення з кількома машинами та кількома картками, що може вимагати від тренерів алгоритмів і моделей високого рівня знань, таких як міри тензорного прискорення та міри накопичення градієнта.

У процесі розгортання та експлуатації моделей може знадобитися розглянути швидкість мережі для навчання моделі, вибору жорсткого диска (наприклад, Zata або SSD), зберігання та інструментів прискорення передачі даних, які мають високі вимоги до середовища роботи та обслуговування. . Взагалі кажучи, процес навчання поточної великої моделі може бути відносно складним, але для простого процесу розгортання та висновку в основному можливо розгорнути його на V100 на основі великої моделі, такої як 6B або 13B.

Якщо налаштування та навчання моделі завершено та розгорнуто в онлайн-системі, ми зазвичай розглядаємо можливість оновлення всієї архітектури. Зараз популярною в галузі є векторна база даних Milvus, яка може проміжно кешувати згенеровані результати за допомогою векторного пошуку, подібно до кешу Redis, який ми зазвичай використовуємо. Через особливості механізму створення cloze, хоча конкретний стиль кожного покоління може відрізнятися, загальне значення однакове. Щоб зменшити онлайн-витрати, ми можемо застосувати такий механізм. У той же час необхідний повний набір рішень для системи перегляду контенту, системи підготовки навчальних даних і системи маркування.

Загалом, навчання великої моделі не обов’язково є жахливим, але це може збільшити вимоги нашого попереднього стеку технологій, але це вдосконалення також можна подолати, але це може бути трохи складно, але ми можемо повністю навчитися та практикуватися, щоб відповідати цим виклики.

***Сюй Веньхао: Навчання моделей саме по собі є лише частиною всього процесу, і супутні заходи підтримки також мають вирішальне значення. Наприклад, векторна база даних, кеш-система, система маркування тощо. Ці допоміжні інструменти та системи мають вирішальне значення для безперервної ітерації та розвитку продуктів. У процесі досліджень і розробок нам потрібен повний ланцюжок інструментів і рішень для підтримки збору даних, попередньої обробки, маркування та навчання моделі, оптимізації та розгортання. Пане Чао Ван, у вас є що додати? ***

Ван Чао: У цьому питанні я можу поділитися деякою інформацією про велику модель, що розробляється. Ми розробляємо власну промислову модель і сподіваємось на співпрацю з підприємствами та колегами. Більше інформації про можливості партнерства буде оголошено після липня. Також згадайте, як перевірити, які великі моделі кращі. У зв’язку з цим ми більше стурбовані тим, як успішно застосувати на платформі перевірені великомасштабні моделі, такі як Baichuan та інші моделі, і закликаємо всіх звернути на них увагу та зрозуміти їх.

***Сюй Веньхао: З точки зору ефективності досліджень і розробок, яким досвідом ви можете поділитися з точки зору розміру команди, обчислювальної потужності та оцінки часу для розробки та розгортання великомасштабних моделей? ***

Ван Сувен: Весь процес розробки та розгортання великих моделей займає певний час. Особливо при стисненні, прискоренні та оптимізації моделей потрібні ітераційні експерименти та налаштування, що може зайняти багато часу. Наприклад, одного разу ми розробили модель із масштабом 7 B. Після оптимізації в конфігурації b-типу з 4 картами на сервері A800 швидкість логічного висновку зменшилася з попередніх 28 мілісекунд до приблизно 5 мілісекунд. Загальні людські зусилля залежать від роботи, яку ви виконуєте.

По-перше, необхідно сконструювати всю базову структуру, а модель стиснути та квантувати, включаючи оптимізацію операторів. Ми оптимізували на основі FastarTransformer від Nvidia, тому нам потрібно налаштувати оператор оптимізації, вибрати механізм висновку, який відповідає потребам, наприклад Triton від Nvidia, і надавати послуги відповідно до різних серверних модулів. Нарешті, потрібне загальне тестування продуктивності, щоб визначити найкращу продуктивність моделі на різних пристроях і для остаточного розгортання. За нашим досвідом, весь процес адаптації займає не менше місяця. Крім того, знадобиться деякий час для оптимізації завдання коригування інструкцій, що залежить від конкретних потреб бізнесу та кількості інструкцій. Залежно від типу бізнесу для його виконання зазвичай потрібна команда з більше десятка людей.

***Сюй Веньхао: Схоже, для цього знадобиться команда з десяти людей, і це займе місяць або два, щоб завершити процес оптимізації міркувань і навчання цих моделей. Це не та велика модель із сотнями, тисячами чи сотнями мільйонів параметрів, про яку ми говоримо. ***

Ван Сувен: Так, добре навчену та оптимізовану модель у конкретній галузі можна швидко розгорнути та відтворити для клієнтів у цій галузі. Таким чином ми можемо використовувати нашу попередню роботу та надавати нашим клієнтам індивідуальні рішення. Наприклад, ми оптимізували моделі у фінансовій сфері, страхуванні, управлінні капіталом і роздрібній торгівлі, тому ми можемо швидко відтворити ці оптимізовані моделі та швидко надавати послуги клієнтам. Ця можливість повторного використання може значно підвищити ефективність і пришвидшити доставку рішень.

***Сюй Веньхао: Я розумію. Насправді, зараз це просто процес розробки продукту, а не процес розробки проекту. Було розроблено продукт, який може використовуватися багатьма, багатьма клієнтами. Яка думка вчителя Цзя з цього приводу? ***

Jia Haowen: Для розробки моделей великих предметних областей збір даних є важливим для моделей, орієнтованих на предметну область. Для вузькоспеціалізованих галузей (таких як право) збір даних може зайняти багато часу, можливо, півмісяця або навіть місяць. Після завершення збору даних і структурованої обробки можна розпочати такі посилання, як налаштування набору інструкцій і процес навчання багаторівневих і багатокарткових. Після виконання цих кроків зазвичай виконується кілька раундів оцінки ефекту моделі, оскільки результати, отримані за допомогою механізму Transformer, можуть бути недостатньо надійними, і для забезпечення надійності моделі потрібна велика кількість тестів ефекту. Коли навчання моделі в основному завершено та готове до початкового комерційного використання, ми можемо виконати подальшу роботу з розробки продукції відповідно до потреб клієнтів і упакувати її в повний продукт, щоб надавати користувачам комплексні послуги.

З точки зору витрат порівняння даних може зайняти від півмісяця до місяця, щоб навчити відносно невелику модель зі шкалою 6B або 7B. Однак для цього також необхідна важлива передумова, тобто команда, відповідальна за навчання моделі, повинна бути знайома з методами та методами навчання на кількох машинах із кількома картками, а також бути знайомою з різними стратегіями прискорення даних і стратегіями прискорення пам’яті. Крім того, критично важливою є підготовка середовища. Деяким невеликим компаніям, якщо вони хочуть навчати великих моделей, їм може знадобитися орендувати машини на таких платформах, як Alibaba Cloud або Tencent Cloud, і створити власне середовище. Цю додаткову вартість також необхідно брати до уваги.

Розробіть велику модель, яке співвідношення витрат і випуску?

***Сюй Веньхао: На основі поглядів двох викладачів, якщо умови команди зрілі, розробка мініатюрної моделі в масштабі 7B може потребувати принаймні команди з понад десяти людей, і розробка триватиме приблизно три місяці. Таким чином, навіть розробка невеликої моделі вимагає значних інвестицій. Яке приблизне співвідношення витрати-вихід для розробки великої моделі? Як вирішити регуляторні ризики та проблеми безпеки? ***

Цзя Хаовень: Щоб оцінити співвідношення витрат і випуску, необхідно розглянути конкретні бізнес-сценарії та потреби. Для традиційних індустрій копірайтингу, реклами, кіно та телебачення, таких як створення творчих сценаріїв, AIGC та інші великі моделі можуть швидко генерувати велику кількість матеріалу. Хоча надійності може бути недостатньо, це може значно підвищити ефективність виробництва. Для цих творчих завдань виробництва, Коефіцієнт витрат і випуску може бути дуже рентабельним. Однак для інших галузей, таких як генерація правових знань, аналіз випадків, аналіз страхових полісів тощо, оскільки вихідні результати можуть бути не ідеальними, потрібно інвестувати багато людських ресурсів і пройти кілька раундів налаштування моделі, щоб досягти більш ідеальний вихід. Таким чином, співвідношення витрат і випуску може бути вищим.

Що стосується нагляду, то нам також потрібно враховувати нещодавно запроваджену регуляторну політику щодо глибокої генерації. В основному це стосується кількох аспектів. Перш за все, ми повинні звернути увагу на те, чи порушуватиме це інтелектуальну власність або авторські права композиторів, письменників, художників тощо, і чи легко створити неправдиву інформацію. Що стосується регулювання згенерованих результатів, нам потрібно забезпечити допоміжні механізми перевірки вмісту та управління, щоб гарантувати, що створений текст і зображення не порушують права інтелектуальної власності. У той же час, для традиційних галузей дотримання вимог і контроль ризиків також є важливими міркуваннями. У міру розвитку експериментів може сформуватися галузевий ланцюжок великих моделей, де одні працюють над засобами виробництва для створення великих моделей, а інші — над заходами для запобігання швидкоплинному створенню великих моделей. Встановлення цієї відповідності буде повторюватися з часом, щоб досягти хорошого балансу між створенням і наглядом за великими моделями в рамках законів, правил і етики.

***Сюй Веньхао: У нас будуть не тільки компанії штучного інтелекту, а й компанії безпеки штучного інтелекту, як і багато компаній безпеки в Інтернеті. Я хотів би запитати думку вчителя Ван Сувеня щодо безпеки ШІ та питань нагляду. ***

Ван Сувен: Перш за все, коли ми навчаємо моделі домену або великі моделі, відповідність і законність даних дуже важливі. Ми повинні отримувати дані через офіційні канали та гарантувати безпеку та конфіденційність даних.

По-друге, коли ми проводимо навчання з моделлю предметної області для клієнтів, ми повинні забезпечити безпеку та відповідність даних усередині підприємства, а дані між різними підприємствами мають бути ізольованими та не можуть використовуватися повторно чи використовуватися в навчанні за бажанням. Крім того, під час навчання моделей домену для клієнтів нам також потрібно виконати тонке налаштування та узгодження, щоб переконатися, що вихідні моделі відповідають вимогам відповідності.

З точки зору регулювання, урядові департаменти потребують міждисциплінарних і міжгалузевих експертних знань під час формулювання нормативної бази. Ми співпрацюємо з Академією інформаційних технологій, щоб спільно створити надійну нормативну базу та вести з нею поглиблену співпрацю. Ми також проводимо сертифікацію безпеки в Академії науки і технологій, щоб гарантувати, що наші великі моделі пройшли суворі випробування та перевірку.

Тільки завдяки співпраці уряду, експертів і підприємств ми можемо сприяти здоровому розвитку AIGC, задовольнити потреби користувачів і забезпечити безпечне використання великих моделей.

Що є основними перешкодами для підприємств у сфері інтелектуального обслуговування клієнтів?

***Сюй Веньхао: У сфері інтелектуального обслуговування клієнтів усі проводять кілька раундів діалогу та аналізу настроїв, тож які основні бар’єри підприємства? ***

Ван Чао: Для індустрії інтелектуального обслуговування клієнтів проблема гомогенізації тісно пов’язана з метою придбання інтелектуального обслуговування клієнтів і очікуваною рентабельністю інвестицій. У JD.com, будуючи розумне обслуговування клієнтів, підприємства повинні розділити свої цілі розвитку на три етапи: первинний, проміжний і високий (або зрілий). Якщо мета клієнта все ще знаходиться в зародковому стані, тобто лише прості функції запитань, відповідей і запитів, потреби придбання інтелектуального обслуговування клієнтів можуть бути подібними. У цьому випадку ступінь однорідності може бути вище. Однак, якщо потреби клієнта розташовані на вищому рівні, наприклад, надання проактивних послуг, повне супроводження та послуги з повним сценарієм, тоді необхідно розглянути, чи має інтелектуальний постачальник послуг клієнта відповідну операційну методологію та відповідну повну система операційних засобів. Виходячи з цієї логіки, я вважаю, що однією з основних перешкод поточного покоління інтелектуальних продуктів обслуговування клієнтів є наявність у постачальника складного та зрілого досвіду проектування роботів і багатого досвіду експлуатації.

Іншим ключовим моментом є те, чи може розумна компанія з обслуговування клієнтів надати довгострокове планування та методику роботи з інструкціями, а також відповідні допоміжні системи операційних інструментів, окрім надання відповідних продуктів і технологій. У той же час, чи можемо ми допомогти клієнтам створити ешелон талантів і надати послуги з навчання. Ці фактори дуже важливі для нинішнього покоління ботів.

Що стосується майбутнього, то великим бар'єром будуть великі моделі. Для продукту, який ви згадали, ключовим фактором буде те, чи можна ефективно інтегрувати різні типи великих моделей із оригінальними можливостями продукту. Водночас унікальною конкурентною перевагою стане можливість розробки великих моделей.

***Сюй Веньхао: Я вважаю, що кожна компанія відчує, що має унікальні переваги в розумному обслуговуванні клієнтів або подібних продуктах. Пане Цзя, що стосується продукції вашої компанії, де її перешкоди? ***

**Цзя Хаовень:**Від традиційного обслуговування клієнтів до широкомасштабного модельного обслуговування клієнтів, увесь процес можна розглядати як перешкоду для конкуренції. Хоча ми, можливо, не зможемо конкурувати з великими компаніями з точки зору обчислювальної потужності та обсягу даних, ми зможемо конкурувати в міждисциплінарних сферах, таких як застосування психологічних знань у широкомасштабному моделюванні та перетині когнітивного інтелекту і застосування великомасштабних моделей.Майте перевагу першого. Для інших компаній вони також можуть поєднувати власні характеристики, щоб виділятися у все більш однорідному великому модельному процесі обслуговування та навчання.

Ван Сувен: Ця проблема фактично зводиться до двох основних моментів: розумні компанії з обслуговування клієнтів повинні думати про те, як отримати прибуток і збільшити валовий прибуток. Щоб досягти цього, необхідно зосередитися на двох аспектах. По-перше, вам потрібно забезпечити високоякісне інтелектуальне обслуговування клієнтів, щоб задовольнити клієнтів, щоб ваш бізнес міг розвиватися протягом тривалого часу. Тому дуже важливо звернути увагу на вплив продукту, включаючи покращення потужності продукту та інтелектуальний ефект, щоб покращити досвід і задоволення користувача. По-друге, зосередьтеся на підвищенні ефективності, врахуйте питання співвідношення витрат і випуску, зменшіть витрати та збільште валовий прибуток проекту. Покращення виконання проекту та операційної ефективності є ключовими, і необхідно враховувати задоволення від продукту, ефективність розгортання та впровадження, а також швидку інтеграцію з бізнес-системами клієнта та стикування операційного вмісту. Вам потрібно мати повну методологію доставки та операційні інструменти для підвищення валового прибутку проекту, щоб досягти прибутковості та підтримувати сталий розвиток.

Розумні компанії з обслуговування клієнтів можна розділити на дві категорії: одна — це професійні виробники у вертикальних галузях, а інша — виробники загального призначення. Розумні постачальники обслуговування клієнтів у вертикальних галузях зосереджуються на конкретних галузях, таких як електронна комерція чи страхування. Їхні переваги та перешкоди полягають у галузевій орієнтованості, постійній оптимізації галузевих карт знань і даних, а також у наданні спеціальних рішень і основній конкурентоспроможності. Zhongguancun Kejin є постачальником розмовних рішень штучного інтелекту. Ми зосереджені на фінансах, державних справах, роздрібній торгівлі та інших галузях. Ми надали послуги понад 900 лідерам галузі та накопичили багаті галузеві знання. Ми також плануємо запустити універсальні та великомасштабні моделі доменів, а також оновити такі продукти, як інтелектуальне обслуговування клієнтів, роботи вихідних дзвінків, спаринги та помічники перевірки якості шляхом інтеграції механізмів діалогу для підвищення нашої конкурентоспроможності в галузі.

По-друге, покращення доставки та операційної ефективності також є ключовим. Задоволеність продуктом має вирішальне значення для зниження витрат на реалізацію проекту, а ефективне розгортання та впровадження, а також швидка інтеграція з бізнес-системами клієнта та стикування оперативного вмісту підвищать ефективність роботи. Вам потрібно мати набір методології доставки та операційних інструментів, щоб забезпечити максимальний валовий прибуток проекту. Це дозволить вам бути прибутковим і стійким у довгостроковій перспективі.

*Чи повністю замінить AIGC традиційний персонал обслуговування клієнтів? *

***Сюй Веньхао: Три вчителі назвали три основні перешкоди: перша — зосередитися на вертикальних полях, друга — шукати диференціації на рівні продукту, а третя — міждисциплінарний дизайн. Ці заходи допоможуть підприємствам виділитися на висококонкурентному ринку та забезпечать унікальну цінність для клієнтів. Отже, останнє запитання на сьогодні: будь ласка, використовуйте просту мову, щоб уявити майбутній розвиток AIGC у цій галузі. Чи повністю AIGC замінить традиційний персонал обслуговування клієнтів? ***

Ван Чао: Як практик, я оптимістично дивлюся на перспективи AIGC, і питання заміни передбачає різні точки зору. Одна точка зору розглядається з точки зору фондового ринку, і вона вважає, що ринковий простір індустрії обслуговування клієнтів обмежений, тому AIGC може замінити традиційну робочу силу. Однак я вважаю за краще думати про це з поетапної перспективи.

Перш за все, інтелектуальне обслуговування клієнтів все ще потребує підтримки роботи людини, а оператори все ще відіграють важливу роль у процесі трансформації від традиційного обслуговування клієнтів до інтелектуального обслуговування клієнтів. По-друге, майбутній режим роботи може змінитися, і співпраця між інтелектуальним обслуговуванням клієнтів і персоналом ручного управління сформує новий режим роботи. У цій моделі невелика кількість операторів може використовувати інтелектуальних роботів для обслуговування клієнтів, щоб надавати високоякісні цілодобові послуги за нижчою ціною, що дозволить більшій кількості малих і мікропідприємств надавати послуги клієнтам по-новому та розширити розмір ринку. Коротше кажучи, з точки зору інкрементів, розумне обслуговування клієнтів не повністю замінить традиційне обслуговування клієнтів, а доповнить його, приносячи нові можливості та простір для розвитку на ринку.

Ван Сувен: У доступному для огляду майбутньому обслуговування клієнтів не буде повністю замінено, оскільки вони мають унікальні переваги у вирішенні складних, мисленнєвих та емоційних питань. Особливо в роботі з цінними клієнтами, потенційними клієнтами та покращенні коефіцієнтів конверсії клієнтів, людське обслуговування клієнтів все ще відіграє важливу роль. Через високу вартість залучення клієнтів багато компаній все ще сподіваються ефективно відслідковувати та забезпечувати трансакцію через людське обслуговування клієнтів. Таким чином, відносини між людським обслуговуванням клієнтів і інтелектуальним обслуговуванням клієнтів є скоріше моделлю співпраці, яка поєднує одне одного. Підприємства повинні розглянути переваги людського обслуговування клієнтів та інтелектуального обслуговування клієнтів відповідно до власних умов і сформулювати найкращу модель обслуговування клієнтів.

Загалом я вважаю, що майбутній простір розвитку AIGC широкий, і вся галузь це також побачила. У найближчі два-три роки AIGC і такі технології, як ChatGPT, розвиватимуться з високою швидкістю та сприятимуть модернізації всієї індустрії корпоративних послуг. Як Інтернет, так і індустрія корпоративних послуг зазнають масштабних модернізацій і змін, включаючи вдосконалення допоміжних засобів. Наразі в AIGC все ще існують деякі проблеми, такі як якість вмісту, вартість інвестицій, безпека даних і авторське право. Тому нам все ще потрібна більш довгострокова розробка, включаючи дослідження більш складних і ефективних методів моделювання, щоб вирішити ці проблеми. Я вважаю, що з розвитком технологій простір для розробки великих моделей буде нескінченно широким.

**Цзя Хаовень: **Справді, ми не повинні надто наголошувати на заміні, а зосередитися на змінах у робочих і бізнес-моделях, які відбудуться в майбутньому. У процесі просування бізнесу нам потрібно вимірювати співвідношення витрат і результатів, особливо в просуванні обслуговування клієнтів, ми повинні враховувати безпеку конфіденційності даних користувачів, відповідність законам і нормам, а також перехресні сценарії та перехресні галузь антропоморфних послуг. Великі моделі можуть принести високу цінність традиційному персоналу обслуговування клієнтів. Вони призведуть до якісних змін, але вони не означають заміни людського обслуговування клієнтів. Загалом, хоча велика модель зараз має певні проблеми, у неї є великі перспективи в майбутньому. Якщо говорити більш літературно, розробка великих моделей найближчим часом перетвориться з мрії на реальність, і незабаром ми зможемо відчути це на собі.

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Поділіться
Прокоментувати
0/400
Немає коментарів
  • Закріпити