Tencent Cloud Wu Yunsheng: Загальна модель і модель галузі не протилежні

Джерело зображення: створено Unbounded AI

«Ми воліємо вирішити 100% проблем клієнта, ніж вирішити 70%-80% із 100 проблем клієнта».

7 липня на Всесвітній конференції зі штучного інтелекту (WAIC) Tencent Forum у 2023 році Ву Юньшен, віце-президент Tencent Cloud і голова Tencent Cloud Intelligence, відповів так: .

Великомасштабні моделі – найгарячіша тема цього року у світі ШІ. Порівняно з Baidu, Ali та іншими гігантами, які першими запустили базову широкомасштабну модель загального призначення, Tencent зосередив свою увагу безпосередньо на галузі – до проведення WAIC 19 червня Tencent Cloud офіційно оголосила про MaaS (модель як послуга). ) panorama, яка була. 10 основних галузей експортували понад 50 рішень, що охоплюють багато різних сценаріїв, таких як культурний туризм, фінанси, ЗМІ, освіта та державні справи.

Звичайно, застосування сценарію та посадка стали темою форуму WAIC Tencent.

«Великі моделі загального призначення — не єдиний напрямок для застосування моделей. Моделі для вертикальних галузей стануть переломним моментом цінності великих моделей», — передбачив Лі Цян, віце-президент Tencent і президент відділу урядового та корпоративного бізнесу Tencent. форум.

Ву Юньшен взяв за приклад інтелектуальне обслуговування клієнтів OTA (онлайн-туристична агенція) і пояснив, що користувачі часто мають кілька намірів, змішаних у процесі фактичного спілкування. У процесі спілкування намір також може змінитися в будь-який момент.

«(Користувач) щойно попросив забронювати готель на 10 число, і машина збиралася відповісти, і раптом сказала: «Дайте мені побачити готель 11 числа». Зіткнувшись із надзвичайно складним процесом у сфері обслуговування клієнтів, генерал Велика модель не може ідеально. Щоб виконати завдання, необхідно реконструювати кілька складних моделей у поєднанні з конкретними сценаріями.

Проте нинішня широкомасштабна модель загального призначення все ще знаходиться на ранній стадії досліджень і розробок, і вона зіткнеться з проблемою високої вартості в промислових застосуваннях.Ву Юньшен сказав, що в деяких конкретних сценаріях, оскільки велика універсальна модель -масштабна модель не може на 100% задовольнити потреби, тоді «судячи про рівень вартості рішення, немає надто великого сенсу». Незважаючи на те, що рішення для різних галузей і сценаріїв будуть сильно відрізнятися, немає жодних проблем у підвищенні ефективності підприємств загалом більш ніж на 30%.

Ву Юньшен, віце-президент Tencent Cloud і керівник Tencent Cloud Intelligence. Джерело: Tencent

На форумі Tencent Cloud також представив останні важливі оновлення великої моделі. Його дві основні технічні бази – мережа Xingmai та векторна база даних – усі вони зазнали оновлення потужностей. Оновлена високопродуктивна обчислювальна мережа Xingmai може збільшити використання графічного процесора на 40%, заощадити витрати на навчання моделі на 30%-60% і підвищити продуктивність зв’язку великих моделей ШІ майже в 10 разів.

І лише 4 липня Tencent Cloud офіційно випустила власну векторну базу даних штучного інтелекту. У порівнянні з традиційним методом вона використовується для класифікації, дедуплікації та очищення великих даних попереднього навчання моделі, а база даних може досягти 10-кратного підвищення ефективності. Використання його як зовнішньої бази знань для моделювання може знизити вартість на 2-4 порядки.

На цьогорічному WAIC також виявилося цікаве явище: на зустрічі було представлено більше 30 універсальних і промислових великомасштабних моделей, і всі вони сказали робити великомасштабні моделі. Питання гомогенізації відразу опинилося в центрі дискусії: чи все ще має сенс підприємництво у сфері ШІ? Кожна велика фабрика має свою власну велику модель. Якщо нею володітимуть усі, чи велика модель усе ще змінить правила гри?

Ву Юньшен вважає, що на початковому етапі розробки великих моделей не потрібно поспішати з оцінками цих питань. «Я хотів би побачити, коли галузь розквітне, завдяки поєднанню технологій і промисловості досліджувати різні можливості та підвищувати ефективність галузей і галузей», — сказав Ву Юньшен.

Це судження також випливає з його оптимізму щодо комерційного потенціалу великих моделей ШІ. Під час останньої хвилі штучного інтелекту з одноточковими проривами багато компаній штучного інтелекту опинились перед дилемою реалізації та впровадження проекту та приватизації та не змогли досягти прибутковості.

«В епоху великих моделей ситуація може бути іншою, ніж раніше.» Ву Юньшен вважає, що з розвитком технологій, включаючи розвиток базової обчислювальної потужності та чіпів GPU, параметри моделей, які коштували сотні мільярдів у минулому, змінюються. стають все меншими і меншими; Tencent Також є значний прогрес у підкріпленні навчання та підкріпленні аргументації, і вартість швидко падає. З іншого боку, можливості застосування великих моделей постійно розширюються, а вартість постійно зростає.

Сьогодні Tencent розширює свою технологію та екологію додатків навколо великих моделей штучного інтелекту, а також зміцнює зв’язки з галуззю. 6 липня Організація промислового розвитку ООН, Huawei та інші партнери спільно оголосили про створення «Глобального промислового та виробничого альянсу штучного інтелекту» на WAIC.

Ву Юньшен також підкреслив, що оновлення технічної бази є «практикою внутрішньої сили»: «Незалежно від того, чи це великомасштабна модель загального призначення чи промислова великомасштабна модель, вона повинна мати базові можливості підтримки , включаючи величезну обчислювальну потужність, дані тощо."

«В епоху великомасштабних моделей відкритість дуже важлива, і всі повинні бути відкритими. Основна технологія змінюється занадто швидко, а можливості розширення дуже широкі. У поєднанні з конкретними галузями буде багато досліджень і витрати на розробку." Ву Юньшен сказав, що тільки завдяки відкриттю можна збільшити кількість галузей. Лише коли експерти та різний персонал об’єднаються, можна створити здоровішу екосистему та створити більше можливостей.

Нижче наведено запис інтерв’ю ЗМІ та Ву Юньшена, відредагований 36 Krypton:

**Медіа:**Tencent Cloud спочатку запустила масштабну модель, орієнтовану на галузь, а не широкомасштабну модель загального призначення. Чи враховується це дохід?

Ву Юньшен: Це не має нічого спільного з вартістю та інвестиціями. Ми завжди наголошували на тому, що ми хочемо вирішувати проблеми клієнтів. Ми воліємо вирішити проблему одного клієнта на 100%, ніж вирішити проблеми 100 клієнтів на 70%-80%. Ми можемо зробити проблему меншою, але ми повинні вирішити цю проблему.

ЗМІ: Схоже, що загальна модель і галузева модель протилежні. Як ви бачите майбутні відносини між ними?

Ву Юньшен: По-перше, я хочу прояснити, що я особисто не виступав проти цих двох. Базовий макет — це щось на кшталт постаменту, який вирішує потребу без спеціального налаштування. Галузева модель має базуватися на загальній моделі, щоб ефективно підвищити продуктивність і служити громадськості. Тільки заглибившись у галузь, ми можемо вирішити особливо важливі проблеми.

Функція Vincent map також матиме дуже детальні та конкретні галузеві пункти, наприклад, створення рекламної карти для пакета, і деякі клієнти матимуть особливі потреби, такі як спеціальна сертифікація. Коли стикаються з практичними проблемами, потрібен інший підхід.

**ЗМІ:**На яких сферах Tencent зосередиться цього року та які цілі розвитку поставить перед собою? Які останні оновлення та ітерації?

**Ву Юньшен:**Наша велика стратегія полягає в тому, щоб зосередитися на реалізації практичних проблем, сподіваючись вирішити 100% проблем клієнтів у кожному конкретному сценарії, замість пошуку 100 продуктів для вирішення 70%-80% проблем. Тому ми будемо зосереджуватися на конкретних галузях і працювати з клієнтами над вирішенням галузевих проблем.

Наприклад, в індустрії культурних подорожей клієнти в сфері OTA (онлайн-туристична агенція) комбінуватимуть власні бізнес-сценарії, використовуватимуть технологію великомасштабної моделі в бізнес-процесах і використовуватимуть ресурси, пов’язані з даними, для точного налаштування великомасштабних модель. З точки зору технологічного розвитку, наша модель і мережа обчислювальної потужності були повторені та модернізовані, і ми продовжуватимемо повторювати пов’язані технології.

**ЗМІ: **З моменту останнього випуску галузевої моделі чи відбулися якісь значні зміни в кількості підприємств, які мають доступ до моделі?

Ву Юньшен: У нас є багато контактів з компаніями, і ми чесно вивчатимемо реальні сценарії клієнтів і те, як задовольнити поточні потреби бізнесу. "Доступ" конкретно не визначено. У процесі дослідження є різні потреби. Можливо, ви зазвичай бачите AIGC частіше.

Я кажу дещо інше. У нас є компанія-клієнт, яка розробляє програмне забезпечення корпоративного рівня і потребує створення розумних форм. Наприклад, під час наради керівництва додається нова форма. Деякі пункти у формі є обов’язковими, деякі — не обов’язковими, а в деяких розкривних меню можна вибрати лише 4 або 5 варіантів. Після завершення опції її потрібно перетворити на процес, який схвалюється A, B і C, і схвалення кожної особи різне.

Оригінальний метод полягає в тому, щоб створити форму в системі з її власними інструментами та мовними кодами, компілювати весь процес, а потім викликати внутрішню організацію для реалізації процесу. Але поточна вимога полягає в тому, щоб зробити фотографію, помістити її в систему та описати її системним кодом (власною мовою сценаріїв). Людям потрібна лише проста комунікація природною мовою та комунікація, наприклад, які з них потрібні, а які ні Перший крок Куди йти, куди йти на другому кроці, використовуйте власну системну мову для розробки процесу приєднання.

Цей приклад є дуже конкретною вимогою, яка не може бути повністю врахована загальною моделлю. Тому ми проведемо поглиблений обмін з підприємствами, щоб дізнатися, про які поля йдеться в таблиці та яка мова сценаріїв. Загальні технології можуть безпосередньо вирішити 60%-70% проблем, але якщо клієнт хоче вирішити проблему на 100%, потрібне більш глибоке спілкування.

**ЗМІ: **Скільки компанія заощадить завдяки впровадженню великомасштабної промислової моделі? У яких галузях промислові великомасштабні моделі матимуть переваги порівняно з широкомасштабними моделями загального призначення?

**Ву Юньшен: **Заощаджені кошти насправді сильно відрізняються в різних компаніях і в різних сценаріях. Наприклад, у сценарії обслуговування клієнтів існує велика різниця в розмірі самої служби обслуговування клієнтів на підприємстві та розмірі її бюджету. З огляду на реальний досвід, я вважаю, що підвищити ефективність більш ніж на 30% не проблема.

Коли загальна велика модель стикається з конкретною галуззю, вона може бути не в змозі повністю вирішити проблеми, з якими стикається галузь. Наприклад, обслуговування клієнтів потребує не простих чатів із запитаннями та відповідями, а роботів і великих моделей, які можуть розуміти людські наміри, здійснювати пошук у базах даних, витягувати необхідну інформацію, а потім комбінувати її у зрозумілий людині текст для відповідей.

Найважливішим є те, що фактичний процес спілкування користувача часто змішується з кількома намірами. Є багато вимог в одному описі, і намір може змінитися в будь-який момент під час процесу спілкування. Це дуже важко, і процес дуже складний, особливо при взаємодії з системою клієнта.складна модель. Цей процес не можна вирішувати за допомогою загальної великої моделі, його потрібно поєднувати з конкретними сценаріями.

**ЗМІ:**Який діапазон може Tencent контролювати вартість великомасштабної моделі підприємства?

Ву Юньшен: Ми підкреслюємо, що за допомогою цієї технології компанії можуть зменшити витрати, підвищити ефективність і ефективність виробництва, але ми ніколи не скажемо, на якому рівні контролювати витрати. Наш продукт був випущений менше місяця, і ми співпрацюємо на ранній стадії, але ми, звичайно, не можемо надати загальних даних.

36 Krypton: Під час останньої хвилі штучного інтелекту технологічні додатки на чолі з CV (розпізнаванням зображень) були більш одноточковими додатками, як-от виклик API-білінгу, але після цього компанії почали працювати над проектами, і приватизація робить це важко отримати прибуток. Чи будуть великі моделі ШІ відчувати те саме в майбутньому?

Ву Юньшен: Я все ще налаштований оптимістично. Судячи з поточного моменту часу, будуть відносно великі виклики. Але незалежно від того, чекаєте ви на півроку вперед або прогнозуєте півроку в майбутньому, розвиток технологій відбувається дуже швидко, включаючи базову обчислювальну потужність і чіпи GPU. Раніше велика модель була моделлю з сотнями мільярдів параметрів, але з розвитком технологій параметри моделі стають все меншими, а можливості все ще зберігаються на дуже високому рівні. У той же час ми досягли значного прогресу в навчанні підкріплення та підкріпленні аргументації, і вартість швидко падає.

З іншого боку, з точки зору застосування, ми бачимо більше можливостей, і тенденція застосування та значення, яке можна створити, постійно зростає.

**ЗМІ: **Що ви думаєте про баланс між основним розвитком потенціалу та реалізацією сценарію?

Ву Юньшен: Ми ніколи не хотіли дивитися на великі моделі з однієї точки зору. Незалежно від великомасштабної моделі загального призначення чи великомасштабної промислової моделі, потрібні базові можливості підтримки, включаючи величезну обчислювальну потужність, дані тощо, що є виміром внутрішньої сили. Сцена – це інший вимір. Щоб вирішити практичну проблему, використовуйте 50% внутрішньої сили, інші 30% зовнішньої сили та додайте ще 20%. У великій моделі екології ми дивимося на проблему з різних точок зору. Але якщо говорити лише про внутрішню силу, то проблем точно немає.

**ЗМІ:**Багато генеральних директорів згадували, що велика модель кардинально змінює правила комп’ютерної індустрії. Тепер, коли всі основні виробники випускають великомасштабні моделі, чи таке судження є неспроможним? Чи потрібна нам така кількість великих моделей загального призначення, чи вони вже зайві?

Ву Юньшен: Подивіться, як визначити фактор, що змінює правила гри. На даному етапі індустрія великих моделей знаходиться на відносно ранній стадії, і з’явилося багато можливостей. Водночас ми бачимо, що великі моделі приносять технологічні зміни та мають великий потенціал.

Моя особиста точка зору полягає в тому, що немає потреби надто прагнути робити висновки зараз. Я хотів би побачити, що на етапі, коли в галузі розквітають сотні квітів, завдяки поєднанню технологій і промисловості, різні можливості досліджуються для підвищення ефективності галузей і виробництв.

**ЗМІ: **Поєднання моделі та промисловості знаходиться на ранній стадії. Які проблеми виникнуть на цій стадії? Існує думка, що порівняно з широкомасштабною моделлю загального призначення вартість великомасштабної промислової моделі може бути не оптимізованою, але може бути вищою. Що ви думаєте про цю точку зору?

**Ву Юньшен: **Технологія великих моделей існує недовго і швидко розвивається. Розуміння індустрією великої моделі все ще знаходиться на ранній стадії – я не знаю, що може зробити велика модель і наскільки глибоко її можна поєднати з індустрією. Дійсно є зміни у відносинах між галузевою моделлю та базовою моделлю, а також у питанні вартості.

Дійсно є думка, що якщо велика модель вирішує всі проблеми, то вартість буде нижчою, а також є думка, що для певної галузі велика модель не потрібна, а достатньо маленької.

Цю проблему не можна оцінювати з одного виміру, її потрібно розглядати об’єктивно та повністю. Я наголошував, що загальні великі моделі можуть вирішувати загальні проблеми, які не тісно інтегровані з галуззю. Але якщо ви хочете піти глибше, ви повинні піти далі в сцені. Багато проблем здаються однаковими, але якщо ви заглибитеся, ви можете не вирішити ту саму проблему. В даному випадку не має особливого сенсу судити про вартість розчину.

**ЗМІ:**З точки зору галузі, як оцінити зростання ринку та сценарій збільшення, спричинений масштабними технологічними змінами на всьому ринку хмарних обчислень?

Ву Юньшен: Можна побачити, що після приходу ери великомасштабних моделей попит на обчислювальну потужність значно зріс, особливо на обчислювальну потужність, пов’язану зі штучним інтелектом. Однак, з точки зору конкретної кількісної оцінки хмарних обчислень, важко назвати цифру, і вона все ще знаходиться в процесі постійного розвитку.

З точки зору сцен, усі сфери життя зараз поєднують великі моделі, і сцени дуже багаті, включаючи як загальні сцени, так і сцени промисловості. Звичайні сценарії включають оновлення інтелектуальних конференцій. Служба підтримки клієнтів Tencent Qidian і аналіз Qidian, випущений на 619, також виконують розумну роботу. Ми також працюємо з деякими помічниками коду в хмарі. З точки зору універсального застосування та підвищення ефективності, існує також багато застосувань. Крім того, кожна галузь має застосування в різних галузях, що також принесе великий попит.

Засоби масової інформації: Чи буде Tencent надавати послуги іншим великим модельним компаніям, окрім великомасштабних моделей? Volcano engine сказав, що 70% користувачів великомасштабної моделі знаходяться на вулкані. Які дані Tencent?

**Ву Юньшен:**Ми надаємо серію хмарної підтримки або можливостей для підприємств-єдинорогів або інших великомасштабних модельних рішень. Ми випустили високопродуктивний комп’ютер HCC, векторну базу даних і вдосконалені можливості прискорення, які можна надати виробникам.

На додаток до базових можливостей у нас також є інтегроване рішення для тонкого налаштування на основі великої моделі платформи TI, а також серія інструментів, процесів і сервісної підтримки.

**Медіа:**Багато постачальників послуг SaaS накопичилися протягом багатьох років. Наша MaaS (модель як послуга) для них чи для провідних клієнтів галузі?

Ву Юньшен: Це наші клієнти.

**Медіа: поєднання ** з індустрією — це поточний підхід Tencent. Вчора Huawei створила альянс. Чи означає це, що конкуренцію легше створити між гігантами?

Ву Юньшен: Я не дивлюся на це питання з такої точки зору. Я вважаю, що відкритість дуже важлива в епоху великих моделей, і всі повинні бути відкритими. Технологія, що лежить в основі, змінюється занадто швидко, а можливості розширення технології дуже широкі, і її інтеграція в певні галузі коштуватиме великих грошей. У цьому випадку лише відкритість може принести найбільшу цінність. Лише відкривши та дозволивши приєднатися більшій кількості експертів галузі та персоналу на різних посадах, уся екосистема може стати здоровішою та створити більше можливостей.

Медіа: Чи однакове відкриття для кожної компанії?

Ву Юньшен: Відкритість, яку я згадав, стосується розвитку потенціалу та екологічної відкритості. Наприклад, для побудови великої фінансової моделі не потрібно, щоб одна людина узагальнювала всі великі фінансові моделі. Різні люди мають глибокий досвід у різних сферах, і спільне створення — це свого роду відкритість. Відкриття безпосередньо для галузевих клієнтів також є свого роду відкриттям.

Крім того, на основі можливостей, які надає велика модель, партнери модернізують застосування інструментів підвищення ефективності або галузевих рішень, а також комбінують різні форми додатків. У плані посилення внутрішньої міцності великої моделі партнери розквітають, і кожен представляє різні програми, що також є певною відкритістю.