360 Group Пэн Хуэй: Тенденция развития крупных моделей — вертикализация! Для ChatGPT корпоративного уровня требуются только эти 4 шага...

Источник: темная лошадка AI.

Автор: Вице-президент Peng Hui 360 Group

01. Тенденция развития крупных моделей — «вертикализация»

Благодаря своим инклюзивным, повсеместным и универсальным функциям крупномасштабная модель охватит тысячи домохозяйств и расширит возможности тысяч отраслей в будущем.

Итак, у нас есть такая точка зрения:

В каждой семье, каждом правительстве и каждом предприятии есть одна или несколько крупных моделей.

Мы также считаем, что развитие Китая и США на рынке To B сильно отличается. Никакой монополии в Китае не будет и только 3-5 больших моделей точно не будет.

В будущем большие модели должны стать повсеместными, а будущие возможности развития должны появиться на корпоративном рынке.

Всем известно, что цифровизация стала основной стратегией нашей страны, а цифровизация промышленности в будущем станет огромным децентрализованным развивающимся рынком.

Поэтому, создавая крупномасштабные модели в Китае, мы твердо верим, что должны воспользоваться такой стратегической возможностью, чтобы расширить возможности отрасли, закрепить рынок промышленного уровня и вывести крупномасштабные модели с так называемого централизованного рынка. производительность и эффективность производства правительства и предприятий.

Конечно, в этом процессе большие модели столкнутся с некоторыми огромными проблемами при выходе на корпоративный рынок.

Я суммирую это в четырех аспектах:

1. Отсутствие профессиональных знаний.

Все знают, что мы будем использовать большой объем интернет-корпуса для питания большой модели, она похожа на старшеклассника, в лучшем случае на бакалавра. Однако ему крайне не хватает некоторых профессиональных знаний, отраслевых знаний и внутренних знаний предприятия. Даже не обновился вовремя. Так что это большая проблема, отсутствие опыта.

2. Периодические галлюцинаторные бредни.

Каждый часто говорит слово, а большая модель может говорить ерунду в серьезной манере. Это будет двусмысленность знаний и иллюзия знаний. Поскольку данные и знания подобны структурированным базам данных, они закодированы в параметрах и весах нашей глубокой нейронной сети в другой матричной и векторной форме. Однако я хочу вызвать его, использовать и на самом деле мне нужно лучше выполнить загрузку. В этом процессе его алгоритмический механизм создаст иллюзию содержания, которая не может гарантировать подлинность и достоверность.

3. Проблемы безопасности.

Предприятия не желают вносить свои уникальные навыки в большую публичную модель или обучать их работе с большой публичной моделью.

4. Проблемы стоимости.

Сейчас поставки Nvidia H100 закончились, а ChatGPT утверждает, что может обучать десятки тысяч карт одновременно. Поэтому такого рода инвестиции очень сложны для обычного предприятия. Возможно, мы сократили рабочую силу, но мы не сократили затраты.

Итак, как решить эти проблемы?

Мы считаем, что тенденция развития в будущем должна идти в сторону вертикализации и создания небольших, но специализированных вертикальных больших моделей.

Невозможно полагаться на одну универсальную большую модель общего назначения для решения всех проблем декомпозиции задач, взаимодействия человека с компьютером и ответов на вопросы знаний. Мы должны полагаться на массивы данных корпоративного уровня и высококачественные данные для обучения небольших собственных вертикальных крупных моделей.

Большие модели станут стандартной конфигурацией и компонентом всех цифровых систем в будущем.

**02 Как можно быстро внедрить GPT корпоративного уровня? **

Мы опросили более 100 корпоративных клиентов и партнеров, и практически все пришли к единому мнению:

Большие модели – это еще не все на данный момент.

Итак, возникает вопрос: как лучше применить это к корпоративным сценариям?

Нам необходимо повысить профессионализм так называемых специалистов широкого профиля и стать настоящими экспертами в области правительства и предприятий.

На этот раз нам нужно найти небольшой разрез и полностью раскрыть его сильные стороны.

Мы считаем, что текущие возможности большой модели в основном отражаются в двух возможностях: генерации текста или создания контента и ответов на вопросы знаний. Мы можем начать с этих двух способностей.

Все больше и больше практиков в индустрии крупномасштабных моделей считают, что в относительно сфокусированных и узких сценариях применения меньшие и точно настроенные большие модели будут быстрее соответствовать требованиям точности конечного конца.

Поэтому мы должны действовать шаг за шагом: сначала пусть большая модель будет хорошим помощником, а затем пусть большая модель станет хорошей навигацией.

Сосредоточив внимание на таком сценарии, мы находим соответствующие сценарии применения, которые адаптируются к этим четырем продуктам, чтобы быстро повысить их производительность и эффективность в четырех измерениях: верхнем, нижнем, внутреннем и внешнем.

1. Что касается внутренней сцены, мы думаем, что это больше касается написания и подведения итогов офиса.

2. На внешней сцене в сфере обслуживания клиентов стало появляться большое количество цифровых людей.

3. В приведенном выше сценарии мы уделяем особое внимание обобщению и анализу информации и разведывательных данных.

4. В следующем сценарии мы можем позволить большой модели провести серию тренингов по корпоративным знаниям и даже профессиональным навыкам.

Поэтому в течение всего процесса реализации мы осознали очень важный момент. В будущем более 80% наших бизнес-сценариев будут тесно связаны с базой знаний предприятия.

Раньше, когда мы работали с большими данными, мы все придерживались структурированных данных. Вы должны знать, что 80% неструктурированных знаний и данных заброшены или оставлены в покое.Эта часть больших данных станет корпусом для обучения больших моделей.

Таким образом, то, как извлечь ценные знания и высококачественные точные данные из большой базы данных предприятия, преобразовать ее в частную базу знаний предприятия и расширить возможности большой модели посредством исправления и улучшения поиска, действительно может создать заслуживающий доверия контент. и своевременные обновления контента в бизнес-сценарии To B, а также безопасность контента, такая как децентрализация и разделение доменов.

Данные разделены на три шлюза:

Первыми воротами могут быть открытые данные Интернета, вторыми — полупубличные отраслевые данные или данные предприятия, а часть их — конфиденциальные данные внутри предприятия.

Что касается конфиденциальных данных и авторизованных данных предприятия, мы должны поместить их в базу знаний предприятия или поместить в векторную базу данных, чтобы она могла генерировать своего рода управление с полномочиями и аудитом посредством классифицированные и иерархические корпоративные знания, дополненные поиском крупных моделей, чтобы обеспечить более точные знания и расширение возможностей.

Еще одним аспектом является приложение. На уровне приложения все знакомы с ChatGPT. Как вы думаете, им легко пользоваться?

Почему некоторое время назад все умники говорили, что в будущем будет много должностей и должностей, которые предполагают инженеров, на самом деле это очень сложно.

Мы хотим, чтобы он написал хорошую статью, и мы должны дать ему много подсказок, центральных идей, рефератов и набросков, прежде чем он сможет написать хорошую статью. Мы позволяем ему сделать картинку, использовать Midjourney, I Вам даже придется скажите ему, сколько миллиметров объектива, фокусное расстояние, диафрагму и глубину резкости вам нужно использовать, какая среда может создать действительно красивое сгенерированное изображение, подобное этому, но такой проект подсказки на самом деле можно только использовать. Но это очень неудобен и сложен в использовании.

Поэтому в будущем процессе разработки не относитесь суеверно к так называемому языковому пользовательскому интерфейсу, и более традиционные интерфейсы не будут исключены.

Более того, он будет генерироваться в больших количествах в будущих сценариях, таких как офисная переписка, создание изображений, маркетинговый креатив и т. д., и даже в сценариях вопросов и ответов о правительственных знаниях, поскольку он обеспечивает большую интуицию и применимость.

Например, Лао Чжоу часто говорил, что хочет съесть тарелку натертой картошки. Мне хотелось жареной, а не заправленной уксусом. Щелчок может быть на уровне секунды, и я закончил это дело.

360 выпустит всю структуру продуктовой системы собственной GPT корпоративного уровня. На нижнем уровне мы по-прежнему считаем, что данные и знания станут основой для крупных моделей уровня предприятия в будущем, которые невозможно отделить от накопления всех данных в прошлом. потребности больших моделей и деструктурировать данные, накопленные всеми предприятиями в прошлом.Содержимое и документы, включая мультимедийную аудио- и видеографику, данные изображений, через несколько соединителей данных и роботов отслеживания знаний, механизм обработки, который продвигает данные из нескольких источников, включает их в нашу базу знаний предприятия, с помощью векторных индексов, абстрактных индексов в традиционном смысле, текстовых индексов и мультимодальных индексов, создать базу знаний большой модели уровня предприятия, а затем посредством поиска и расширения знаний расширить возможности нашего профессионального вертикального предприятия. большой Модель предоставляет услуги вверх.

03, 3 практики и лучший процесс создания больших моделей

1. Офисное письмо.

Мы спрячем сложные проекты за различными большими шаблонами из 15 категорий и шаблонами документов, разделенными на почти 80 категорий. Используйте такой инструмент для эффективного написания официальных документов и эффективного решения проблем, связанных с трудоемким и некачественным написанием официальных документов.

2. Государственные услуги.

С помощью большой модели и базы знаний о государственных делах мы можем заставить большую модель понимать семантику, как человек, посредством нескольких раундов диалога, дополнять соответствующую информацию с помощью последующих и дополнительных вопросов и, наконец, формировать вопрос и ответ. Он способен объективно и точно ответить на все вопросы, которые возникают у простых людей в процессе ведения бизнеса.

3. Культурный туризм, цифровые люди.

Лао Чжоу также неоднократно упоминал Wenlv Digital People. Все уже занимались планированием путешествий. Может ли так называемый план маршрута путешествия решить ваши проблемы, связанные с путешествием?

Что нас волнует, так это то, чтобы после приземления в пункте назначения у нас был местный друг и местный гид. Достопримечательности, еда, анекдоты, шутки, которые меня волнуют, как эти вещи становятся цифровым спутником, ориентированным на пункт назначения? Мы хотим создать такого цифрового компаньона.В будущем под руководством правительства мы постепенно откроем возможности Китая и Тайваня, а после подключим наши ОТА, местные отели и рестораны.

Совместно с самой 360 Group и более чем 100 корпоративными клиентами и партнерами мы сформировали процесс внедрения лучших практик на данный момент.

Первым шагом является бизнес-анализ и выбор сценария.

Второй этап — сбор данных и подготовка к очистке.

Третий шаг — обучение собственной большой модели предприятия.

Четвертый шаг — разработка приложений для корпоративных сценариев.

Мы считаем, что когда все крупномасштабные модели реализуются на уровне предприятия, одним из главных приоритетов по-прежнему остается бизнес-анализ. Это ничем не отличается от цифровизации.

Нам еще нужно в процессе бизнес-анализа найти болевые точки бизнеса, чтобы найти подходящий сценарий, и после выбора этого сценария определить свое решение.

Затем соберите и очистите данные и знания об этой сцене, чтобы сформировать высококачественные маркированные данные. После входа в базу данных часть ее передается в нашу вертикальную большую модель в качестве корпуса для обучения, а часть попадает в нашу корпоративную базу знаний для поискового расширения знаний. Следующим шагом является развитие умных помощников, цифровых сотрудников и цифровых людей посредством организации моделей приложений и открытия API для интеграции с существующими бизнес-системами.

В процессе реализации большой модели уровня предприятия мы подчеркиваем, что она неотделима от тесного сотрудничества деловых и технических экспертов обеих сторон.