Tencent Cloud Ву Юньшэн: общая модель и отраслевая модель не противоречат друг другу

Источник изображения: сгенерировано Unbounded AI

«Мы скорее решим 100% проблем клиента, чем решим 70%-80% из 100 проблем клиентов».

7 июля на Всемирной конференции по искусственному интеллекту (WAIC) 2023 года на форуме Tencent на вопрос, почему отраслевая крупномасштабная модель была запущена первой, Ву Юньшэн, вице-президент Tencent Cloud и глава Tencent Cloud Intelligence, ответил так. .

Крупномасштабные модели — самая горячая тема в мире ИИ в этом году. По сравнению с Baidu, Ali и другими гигантами, которые первыми запустили базовую крупномасштабную модель общего назначения, Tencent сосредоточила свое внимание непосредственно на отрасли — до проведения WAIC 19 июня Tencent Cloud официально объявила о MaaS (модель как услуга). ) Панорама, которая была 10 основных отраслей экспортировали более 50 решений, охватывающих множество различных сценариев, таких как культурный туризм, финансы, СМИ, образование и государственные дела.

Естественно, применение сценария и посадка стали темой WAIC Tencent Forum.

"Большие модели общего назначения — не единственное направление для модельных приложений. Модели для вертикальных отраслей станут переломным моментом ценности больших моделей", — предсказал Ли Цян, вице-президент Tencent и президент Tencent по правительственному и корпоративному бизнесу. форум.

Ву Юньшэн привел в качестве примера умное обслуживание клиентов OTA (онлайн-туристическое агентство) и объяснил, что пользователи часто имеют несколько намерений, смешанных в фактическом процессе общения. В процессе общения намерение также может переключаться в любой момент.

«(Пользователь) только что попросил забронировать отель 10-го числа, и машина уже собиралась ответить, но вдруг сказала: «Позвольте мне посмотреть отель 11-го числа». большая модель не может быть идеальной. Чтобы выполнить задачу, необходимо реконструировать несколько сложных моделей в сочетании с конкретными сценариями.

Тем не менее, текущая крупномасштабная модель общего назначения все еще находится на ранней стадии исследований и разработок, и она столкнется с проблемой высокой стоимости в промышленных приложениях.У Юньшэн сказал, что в некоторых конкретных сценариях, поскольку -Масштабная модель не может на 100% удовлетворить потребности, то "судя по уровню стоимости решения, нет лишнего смысла". Хотя решения для разных отраслей и сценариев будут сильно различаться, в целом повысить эффективность предприятий более чем на 30% не составит труда.

Ву Юньшэн, вице-президент Tencent Cloud и глава Tencent Cloud Intelligence. Источник: Тенсент

На форуме Tencent Cloud также представила последние важные обновления большой модели. Две его основные технические базы — Xingmai Network и Vector Database — были модернизированы. Модернизированная высокопроизводительная вычислительная сеть Xingmai может увеличить использование графического процессора на 40 %, сократить расходы на обучение моделей на 30–60 % и почти в 10 раз улучшить коммуникационную производительность больших моделей ИИ.

И только 4 июля Tencent Cloud официально выпустила собственную векторную базу данных ИИ.По сравнению с традиционным методом, он используется для классификации, дедупликации и очистки данных предварительного обучения больших моделей, а база данных может достигать 10-кратного повышение эффективности. Использование его в качестве внешней базы знаний для вывода модели может снизить стоимость на 2-4 порядка.

На WAIC в этом году тоже появилось интересное явление: на собрании было представлено более 30 универсальных и отраслевых крупномасштабных моделей, и все они говорили о том, чтобы делать крупномасштабные модели. Вопрос гомогенизации сразу же стал предметом обсуждения: имеет ли смысл предпринимательство в области ИИ? У каждой крупной фабрики есть своя большая модель. Если она будет принадлежать каждому, будет ли эта большая модель менять правила игры?

У Юньшэн считает, что на начальном этапе разработки больших моделей нет необходимости спешить с вынесением суждений по этим вопросам. «Я хотел бы видеть, что, когда отрасль находится в полном расцвете, благодаря сочетанию технологий и промышленности можно исследовать различные возможности и повышать эффективность отраслей и отраслей», — сказал У Юньшэн.

Это суждение также исходит из его оптимизма в отношении коммерческого потенциала крупных моделей ИИ. В последней волне ИИ с одноточечными прорывами многие компании ИИ столкнулись с дилеммой реализации и реализации проектов и приватизации и не смогли добиться прибыльности.

«В эпоху больших моделей ситуация может отличаться от прежней.» У Юньшэн считает, что с развитием технологий, в том числе развитием базовых вычислительных мощностей и чипов графических процессоров, параметры моделей, которые в прошлом стоили сотни миллиардов становятся все меньше и меньше, Tencent Существует также большой прогресс в обучении подкрепления и подкрепления рассуждений, и стоимость быстро снижается. С другой стороны, возможности применения больших моделей постоянно расширяются, а ценность постоянно растет.

Сегодня Tencent расширяет свои технологии и экологию приложений вокруг крупных моделей ИИ, а также укрепляет свои связи с отраслью. 6 июля Организация Объединенных Наций по промышленному развитию, Huawei и другие партнеры совместно объявили о создании «Глобального промышленного и производственного альянса искусственного интеллекта» в WAIC.

У Юньшэн также подчеркнул, что обновление технической базы — это «упражнение на внутреннюю силу»: «** Независимо от того, является ли это крупномасштабной моделью общего назначения или промышленной крупномасштабной моделью, она должна иметь базовые возможности поддержки. , включая огромные вычислительные мощности, данные и т. д.**».

«В эпоху крупномасштабных моделей очень важна открытость, и каждый должен быть открытым. Базовая технология меняется слишком быстро, а возможности расширения очень широки. В сочетании с конкретными отраслями будет много исследований и затрат на разработку». У Юньшэн сказал, что только путем открытия новых отраслей можно создать более здоровую экосистему и создать больше возможностей.

Ниже приводится запись интервью СМИ и Ву Юньшэна, отредактированная 36 Krypton:

**СМИ: **Tencent Cloud вначале запустила крупномасштабную модель, ориентированную на отрасль, а не крупномасштабную модель общего назначения. Является ли это соображением дохода?

У Юньшэн: Это не имеет ничего общего с затратами и инвестициями. Мы всегда подчеркивали, что хотим решать проблемы клиентов, мы скорее решим проблему одного клиента на 100%, чем решим проблемы 100 клиентов на 70%-80%. Мы можем сделать проблему меньше, но мы должны решить эту проблему.

СМИ: Похоже, что общая модель и отраслевая модель противоречат друг другу. Какими вы видите будущие отношения между ними?

У Юньшэн: Прежде всего, я хочу прояснить, что лично я не выступал против этих двоих. Базовый макет — это что-то вроде пьедестала, который решает задачу без специальной настройки. Отраслевая модель должна основываться на общей модели, чтобы эффективно повышать производительность и служить обществу. Только углубляясь в отрасль, мы можем решать особо важные задачи.

Функция карты Vincent также будет иметь очень подробные и конкретные отраслевые точки, например, создание карты рекламы для пакета, и у некоторых клиентов будут особые потребности, такие как некоторая специальная сертификация. При решении практических задач требуется другой подход.

**СМИ: **На каких областях Tencent сосредоточится в этом году и какие у нее будут цели в области развития? Каковы последние обновления и итерации?

**У Юньшэн:**Наша большая стратегия заключается в том, чтобы сосредоточиться на решении практических задач, надеясь решить 100% проблем клиентов в каждом конкретном случае, вместо того, чтобы искать 100 продуктов для решения 70%-80% проблем. Поэтому мы сосредоточимся на конкретных отраслях и будем работать с клиентами над решением отраслевых проблем.

Например, в индустрии культурного туризма клиенты в области OTA (онлайн-турагентства) будут комбинировать свои собственные бизнес-сценарии, использовать технологию крупномасштабного моделирования в бизнес-процессах и использовать ресурсы, связанные с данными, для точной настройки крупномасштабных модель. С точки зрения технологического развития, наша модель и сеть вычислительных мощностей были усовершенствованы и обновлены, и мы продолжим итерацию соответствующих технологий.

**СМИ: **Изменилось ли количество предприятий, получивших доступ к модели, со времени последнего выпуска отраслевой модели?

У Юньшэн: У нас много контактов с компаниями, и мы будем честно изучать реальные сценарии клиентов и способы удовлетворения текущих потребностей бизнеса. "Доступ" конкретно не определен. В процессе разведки существуют различные потребности. Возможно, вы обычно чаще видите AIGC.

Я говорю немного другое. У нас есть клиент компании, который занимается программным обеспечением корпоративного уровня и ему нужно создавать умные формы. Например, на совещании руководства добавляется новая форма.Некоторые элементы в форме обязательны, некоторые не обязательны, а в некоторых раскрывающихся списках можно выбрать только 4 или 5 вариантов. После того, как вариант завершен, его нужно превратить в процесс, который одобряют A, B и C, и одобрение каждого человека различно.

Первоначальный метод заключается в разработке формы в системе с помощью собственных инструментов и языковых кодов, компиляции всего процесса, а затем вызове внутренней организации для реализации процесса. Но текущее требование состоит в том, чтобы сделать фотографию и поместить ее в систему, а также описать ее с помощью системного кода (собственный язык сценариев).Людям нужно только простое общение на естественном языке и общение, например, какие из них требуются, а какие нет Первый шаг Куда идти, куда идти на втором этапе, используйте свой собственный системный язык для разработки процесса стыковки.

Этот пример представляет собой очень специфическое требование, которое не может быть полностью удовлетворено общей моделью. Поэтому у нас будет углубленный обмен мнениями с предприятиями, чтобы узнать, о каких полях идет речь в таблице и что такое язык сценариев. Общие технологии могут быть в состоянии напрямую решить 60-70% проблем, но если клиент хочет решить проблему на 100%, необходима более глубокая коммуникация.

**СМИ: **Сколько сэкономит компания при внедрении крупномасштабной отраслевой модели? По сравнению с крупномасштабными моделями общего назначения, в каких областях отраслевые крупномасштабные модели будут иметь преимущества?

**Ву Юньшэн: **Сэкономленные затраты на самом деле сильно различаются в разных компаниях и в разных сценариях. Например, в сценарии обслуживания клиентов существует большая разница в размере самого обслуживания клиентов на предприятии и в том, какой у него бюджет. С точки зрения реального опыта, я думаю, что это не проблема увеличить эффективность более чем на 30%.

Когда общая большая модель сталкивается с конкретной отраслью, она может быть не в состоянии полностью решить проблемы, с которыми сталкивается отрасль. Например, служба поддержки клиентов нуждается не в простых чатах вопросов и ответов, а в роботах и больших моделях, которые могут понимать намерения человека, осуществлять поиск в базах данных, извлекать необходимую информацию, а затем объединять ее в понятный человеку текст для ответов.

Самое главное, что реальный процесс общения пользователя часто смешивается с несколькими намерениями.В одном описании много требований, и намерение может переключаться в любой момент в процессе общения.Это очень сложно и процесс очень сложный, особенно при взаимодействии с системой заказчика сложная модель. Этот процесс не должен решаться общей большой моделью, а должен сочетаться с конкретными сценариями.

**СМИ:**В каком диапазоне Tencent может контролировать стоимость крупномасштабной модели предприятия?

Ву Юньшэн: Мы подчеркиваем, что с помощью этой технологии компании могут сократить расходы, повысить эффективность и улучшить эффективность производства, но мы никогда не скажем, на каком уровне контролировать расходы. Наш продукт был выпущен меньше месяца, и у нас есть некоторое сотрудничество на ранней стадии, но мы, конечно, не можем предоставить общие данные.

**36 Krypton:**В последней волне ИИ технологические приложения во главе с CV (распознавание изображений) были более одноточечными приложениями, такими как вызов API-биллинга, но после этого компании начали работать над проектами, и приватизация заставляет трудно получить прибыль. Будут ли большие модели ИИ испытывать то же самое в будущем?

У Юньшэн: Я по-прежнему оптимистичен.Судя по текущему моменту времени, будут относительно большие проблемы. Но независимо от того, смотрите ли вы на полгода вперед или прогнозируете на полгода вперед, развитие технологий происходит очень быстро, включая базовую вычислительную мощность и чипы графического процессора. Раньше большая модель представляла собой модель с сотнями миллиардов параметров, но с развитием технологий параметры модели становятся все меньше и меньше, а возможности по-прежнему поддерживаются на очень высоком уровне. В то же время мы добились большого прогресса в обучении подкрепления и подкреплении рассуждениями, и стоимость быстро снижается.

С другой стороны, с точки зрения применения мы видим больше возможностей, и тенденция применения и ценность, которую можно создать, постоянно растут.

**СМИ: **Что вы думаете о балансе между базовым наращиванием потенциала и реализацией сценария?

У Юньшэн: Мы никогда не хотели смотреть на большие модели с одной точки зрения. Независимо от крупномасштабной модели общего назначения или крупномасштабной отраслевой модели требуются базовые возможности поддержки, включая огромные вычислительные мощности, данные и т. д., что является измерением внутренней силы. Сцена - это другое измерение. Чтобы решить практическую проблему, используйте 50% внутренней силы, остальные 30% внешней силы и добавьте еще 20%. В большой модели экологии мы смотрим на проблему с разных точек зрения. Но если говорить только о внутренней силе, то проблем точно нет.

**СМИ: **Многие руководители отмечают, что большая модель меняет правила игры в компьютерной индустрии. Теперь, когда все крупные производители выпускают крупносерийные модели, является ли это суждение несостоятельным? Нужно ли нам столько универсальных больших моделей, или они уже избыточны?

У Юньшэн: Узнайте, как определить, что меняет правила игры. На данном этапе индустрия крупномасштабных моделей находится на относительно ранней стадии, и появилось много возможностей. В то же время мы видим, что большие модели влекут за собой технологические изменения и имеют большой потенциал.

Моя личная точка зрения заключается в том, что не нужно слишком торопиться, чтобы сделать вывод сейчас.Я хотел бы видеть, что на этапе, когда в промышленности распускаются сто цветов, через сочетание технологии и промышленности, различные возможности изучаются для повышения эффективности отраслей и производств.

**СМИ: **Совмещение модели и отрасли находится на ранней стадии. Какие проблемы будут на этом этапе? Существует точка зрения, что по сравнению с крупномасштабной моделью общего назначения стоимость крупномасштабной отраслевой модели может быть не оптимизирована, но может быть выше, что вы думаете об этой точке зрения?

**Ву Юньшэн: **Технология больших моделей существует совсем недавно и быстро развивается. Отраслевое понимание большой модели все еще находится на ранней стадии — я не знаю, на что способна большая модель и насколько глубоко ее можно объединить с отраслью. Действительно, есть изменения в отношениях между отраслевой моделью и базовой моделью, а также в вопросе затрат.

Действительно существует мнение, что если большая модель решит все проблемы, то стоимость будет ниже, а также есть мнение, что для определенной отрасли большая модель не нужна, и можно использовать маленькую модель.

Об этом вопросе нельзя судить по одному измерению, его необходимо рассматривать объективно и всесторонне. Я подчеркивал, что общие большие модели могут решать общие проблемы, которые не тесно связаны с отраслью. Но если вы хотите пойти глубже, вы должны пойти дальше по сцене. Многие проблемы кажутся одинаковыми, но если копнуть глубже, можно не решить ту же проблему. В данном случае нет особого смысла судить о стоимости решения.

СМИ: С точки зрения отрасли, как оценить прирост рынка и сценарий прироста, вызванный крупномасштабными технологическими изменениями на всем рынке облачных вычислений?

У Юньшэн: Можно заметить, что после наступления эры крупномасштабных моделей спрос на вычислительную мощность сильно вырос, особенно на вычислительную мощность, связанную с искусственным интеллектом. Однако с точки зрения конкретной количественной оценки облачных вычислений трудно дать цифру, и она все еще находится в процессе непрерывного развития.

С точки зрения сцен, все сферы жизни теперь объединяют большие модели, и сцены очень богаты, включая как общие сцены, так и отраслевые сцены. Распространенные сценарии включают в себя умные обновления конференций. Служба поддержки клиентов Tencent Qidian и анализ Qidian, выпущенный на 619, также выполняют умную работу. Мы также делаем несколько помощников по коду в облаке. С точки зрения универсального применения и повышения эффективности, есть также много приложений. Кроме того, в каждой отрасли есть приложения в различных отраслях, которые также будут иметь большой спрос.

СМИ: Будет ли Tencent предоставлять услуги другим крупным модельным компаниям помимо крупномасштабной сцены посадки модели? Движок вулкана сказал, что 70% пользователей крупномасштабных моделей находятся в вулкане.Какие данные у Tencent?

**Ву Юньшэн:**Мы предоставляем ряд облачных услуг или возможностей для предприятий-единорогов или других крупномасштабных модельных решений. Мы выпустили высокопроизводительный компьютер HCC, векторную базу данных и улучшенные возможности ускорения, которые могут быть предоставлены производителям.

В дополнение к базовым возможностям у нас также есть интегрированное решение для тонкой настройки, основанное на большой модели платформы TI, а также ряд инструментов, процессов и сервисной поддержки.

**СМИ: **Многие поставщики услуг SaaS накопили многолетний опыт. Наша модель MaaS (модель как услуга) предназначена для них или для ведущих отраслевых клиентов?

У Юньшэн: Это наши клиенты.

**СМИ: Текущий подход Tencent — совмещение ** с промышленностью. Вчера компания Huawei создала альянс, значит ли это, что конкуренцию между гигантами легче формировать?

У Юньшэн: Я так не смотрю на этот вопрос. Я думаю, что открытость очень важна в эпоху больших моделей, и все должны быть открытыми. Базовая технология меняется слишком быстро, а возможности расширения технологии очень широки, и ее интеграция в конкретные отрасли будет стоить больших денег. В этом случае только открытость может принести наибольшую пользу.Только открывая и позволяя большему количеству отраслевых экспертов и сотрудников в различных ролях присоединиться, вся экосистема может быть более здоровой и создавать больше возможностей.

СМИ: Открытие для каждой компании одинаково?

У Юньшэн: Открытость, о которой я упоминал, относится к наращиванию потенциала и экологической открытости. Например, построение большой финансовой модели не требует, чтобы один человек суммировал все большие финансовые модели, разные люди имеют большой опыт в разных областях, и совместное построение — это своего рода открытость. Открытие непосредственно для отраслевых клиентов также является своего рода открытием.

Кроме того, на основе возможностей, предоставляемых крупной моделью, партнеры совершенствуют применение инструментов повышения эффективности или отраслевых решений и комбинируют различные формы приложений. В плане укрепления внутренней силы большой модели партнеры расцветают, и каждый представляет разные приложения, что тоже является своеобразной открытостью.