Битва больших моделей в самом разгаре? «Маленькая модель» может стать выходом

Текст: Qingcheng Finance, Автор: Цин Му Редактор: Лю Цзы

Источник изображения: сгенерировано Unbounded AI

26 июля OpenAI запустила версию ChatGPT для Android.Хотя в настоящее время она доступна только в США, Индии, Бангладеш и Бразилии, OpenAI также заявила, что на следующей неделе будет продвигать версию ChatGPT для Android в других странах. Это снова привлекло внимание общественности к ChatGPT, который в последнее время был немного менее популярен.

В начале запуска ChatGPT потребовалось всего два месяца, чтобы стать самым быстрым приложением в истории и пробить отметку в 100 миллионов пользователей.Глобальный рынок технологий, который долгое время молчал, снова кипит.Отечественные инвесторы и предприниматели бегут в Silicon — спросила Долина.

Столкнувшись с этой бурной волной искусственного интеллекта, китайские предприниматели и инвесторы действовали быстро. Несколько месяцев спустя технологическая индустрия Китая продемонстрировала впечатляющую позу «Войны сотен моделей». В первой половине 2023 года в Китае появилось более 80 крупномасштабных модельных изделий.По последним данным, 130 компаний уже производят масштабные модели на внутреннем рынке. В мировом масштабе в первой половине этого года было выпущено более 400 крупных моделей.

В то время как китайские игроки в масштабные модели преследуют коммерческие интересы и будущее технологий, их также окрестили национальными настроениями: быть китайской версией OpenAI.

Согласно новостям от 24 июля, перед запуском версии ChatGPT для Android IDC выпустила отчет об оценке технических возможностей крупномасштабной модели, показывающий, что крупномасштабная модель Baidu Wenxin 3.5 набрала 7 баллов из 12, заняв первое место в общем балле. . Ву Тянь, вице-президент Baidu, сказал, что возможности новой версии Wenxin Yiyan 3.5 превзошли возможности ChatGPT 3.5, что является важной вехой в развитии соответствующей технической работы в нашей стране.

HKUST Xunfei ранее объявила, что 24 октября она проведет третью итерацию большой модели Xinghuo, полностью сравнив ChatGPT, китайская способность превзошла GPT3.5, а английская способность эквивалентна GPT3.5.

01 сцена, сцена

На самом деле, как сказал Ли Чжифей, бывший научный сотрудник Google, основатель и генеральный директор Mobvoy, в Китае может и не быть такой организации, как OpenAI.

По сравнению с крупномасштабными моделями общего назначения, такими как ChatGPT, в отечественных продуктах крупномасштабных моделей больше внимания уделяется приложениям и сценариям, то есть вертикальным крупномасштабным моделям, отраслевым крупномасштабным моделям и промышленным крупномасштабным моделям. В этом отношении мнения воротил технологического венчурного капитала выражали почти тот же смысл.

Робин Ли, основатель Baidu, уже давно публично заявил: «Для начинающей компании нет особого смысла воссоздавать ChatGPT. Я думаю, что есть прекрасная возможность разрабатывать приложения на основе этой большой языковой модели. нет нужды изобретать колесо. Имея колесо, можно сделать автомобиль». Самолет, ценность которого может быть намного больше, чем колесо».

Чжу Сяоху, управляющий директор GSR Venture Capital, написал в «Моментах»: «Не относитесь к общей модели суеверно, потому что в следующем году GPT-3.5 станет товарной (общей инфраструктурой), а через три года GPT-4 тоже будет , Для большинства предпринимателей сначала сценарии, а данные — это главное!»

Фу Шэн, председатель и главный исполнительный директор Cheetah Mobile, считает, что у больших моделей будет две дороги. Большая модель под названием «Стремление к лучшему» — это «Создание Эйнштейна». Но многие работы не требуют «Эйнштейна», это могут сделать выпускники колледжей. Это другой способ. Я считаю, что должно быть большое количество людей, делающих "гражданские большие модели".

Чжан Пинган, генеральный директор Huawei Cloud, сказал на пресс-конференции Pangu Large Model 3.0: «У большой модели Pangu нет времени писать стихи и болтать. не решит практических задач, толку от этого будет немного».

Большинство крупномасштабных моделей, выпущенных в Китае в последнее время, нацелены на вертикальные отрасли, такие как крупномасштабная модель Yanxi, выпущенная JD, вертикальная крупномасштабная модель Ziyue в сфере образования, выпущенная Dao.

Большая модель JD Yanxi аккумулировала накопленные JD знания в области розничной торговли, логистики, здравоохранения, финансов и др. Она объединяет 70% общих данных и 30% исходных данных цепочки поставок JD для обучения, предоставления рекомендаций по продуктам, финансовой политики. , Возможности в таких областях, как правила финансового управления и опыт логистики. Цао Пэн, президент облачного подразделения JD, считает, что одна технология крупномасштабного моделирования сама по себе не может напрямую создавать ценность, а технология может создавать реальную ценность только тогда, когда она используется на сцене.

Модель путешествий Ctrip требует просмотра 20 миллиардов неструктурированных туристических данных, объединения существующих структурных данных Ctrip в режиме реального времени и исторически обученных роботов Ctrip и поисковых алгоритмов для проведения самостоятельно разработанного обучения вертикальной модели и инвестирования большого количества рабочей силы. Создание и проверка общего ответа. содержание путешествия. Лян Цзяньчжан, основатель и председатель совета директоров Ctrip, сказал, что Ctrip не пожалеет усилий для инвестиций в крупные модели, и сумма инвестиций не ограничена.

Что касается приложений, Baidu недавно заключила сотрудничество с Lenovo в области AIGC.Частный бизнес Lenovo по настройке полностью представил Baidu Wenxin Yige.Потребители могут настраивать внешний вид ноутбуков с помощью действий по рисованию на тему AIGC на официальном сайте. Huawei Cloud Pangu Large Model и Meitu Visual Large Model MiracleVision совместно запустили функцию подбора модели AI, которая может эффективно повысить эффективность электронной коммерции продуктов одежды.

Хотя вертикальная большая модель не предъявляет высоких требований к параметрам и вычислительной мощности, как общая большая модель, она предъявляет более высокие требования к сценариям и данным, требуя от разработчиков профессиональных знаний, накопления богатой отраслевой практики применения и допуска к ошибкам. также ниже, что требует от ИИ сверхстабильности и надежности. Следовательно, чем ближе к вертикальной отрасли, тем больше преимуществ у вертикальной модели.

«Общая крупномасштабная модель может решить 70-80% проблем в 100 сценариях, но она может не удовлетворить потребности определенного сценария предприятия на 100%. крупномасштабной отраслевой модели и собственных данных, он может построить специальную модель для создания высокодоступного интеллектуального сервиса, а параметры модели меньше, чем у общей большой модели, стоимость обучения и рассуждений ниже, а оптимизация модели проще», — сказал старший исполнительный вице-президент Tencent Group, генеральный директор бизнес-группы Cloud and Smart Industry Business Group Тан Даошэн.

С этой точки зрения «маленькие модели» могут быть более привлекательными и способными лучше решать конкретные проблемы.

SenseTime запустила большую модель со 100 миллиардами параметров, а также запускает маленькую модель с 10 миллиардами параметров для разных вертикальных полей. Преимущество большой модели в том, что она может находить новые решения и помогать решать новые проблемы.После решения она может генерировать большой объем данных в узкой области и переобучать маленькую модель. Некоторые небольшие модели могут даже работать на терминале по более низкой цене. Но маленькая модель не существовала бы без большой модели.

02 Крупные производители забирают всех победителей, где возможности для начинающих компаний?

В отрасли существует мнение, что китайская версия ChatGPT будет производиться только пятью компаниями: Baidu, Ali, Tencent, Byte и Huawei.

В эпоху интернета это типичный 721. Первое место вкусное и острое, второе место еле выживает, а третье место в опасности.

Сейчас дерутся сто моделей, и все хотят получить долю от большой модели. Но есть очень реальная проблема, заключающаяся в том, что у крупных заводов есть преимущества, с которыми начинающие компании не могут сравниться, создавая крупномасштабные модели. Для маленькой и красивой начинающей компании это, вероятно, просто иллюзия, что она хочет свергнуть большую фабрику, на которой работают всего три или пять человек.

Большие модели нельзя отделить от облачной платформы. Посадка больших моделей требует постоянной тонкой настройки и обучения, и все это необходимо выполнять на облачной платформе. Baidu, Ali, Tencent, Byte и Huawei имеют свои собственные облачные бизнесы. Baidu и Huawei также завершили компоновку от чипов до приложений. Baidu — это «Kunlun Core + Flying Paddle Platform + Wenxin Large Model», Huawei — «чип Shengteng». + Фреймворк MindSpore + большая модель Pangu», которые являются преимуществами, с которыми не могут сравниться начинающие компании.

Кроме того, крупные компании имеют естественные преимущества с точки зрения резервов капитала, человеческих ресурсов, сценариев использования и накопления данных. Без посадочного сценария для стартапов технология не может повторяться, непрерывно оптимизироваться, а также не могут формироваться эффекты сети передачи данных.

Значит, у небольших компаний вообще нет шансов?

Давайте вернемся к метафоре эпохи золотой лихорадки: "Эта эпоха очень похожа на эпоху золотой лихорадки. Если бы вы отправились в Калифорнию в поисках золота в то время, многие люди погибли бы. Но люди, которые продают ложки и лопаты, могут всегда зарабатывайте деньги». Это также верно, — недавно поделился с предпринимателями Лу Ци, основатель и генеральный директор Qiji Chuangtan. Лу Ци надеется помочь китайским предпринимателям осознать этот исторический поворотный момент, определить координаты сегодняшнего дня и найти свою собственную позицию.

В начале июля Стюарт Рассел, профессор компьютерных наук Калифорнийского университета в Беркли и автор книги «Искусственный интеллект — современный подход», предупредил, что у ботов с искусственным интеллектом, таких как ChatGPT, вскоре может «исчерпаться текст во вселенной». ", а методика обучения ботов путем сбора больших объемов текста "начинает сталкиваться с трудностями".

На прошлой неделе более 8500 писателей подписали письмо с просьбой к руководителям компаний, включая OpenAI, Microsoft, Meta и Alphabet, не использовать их работу для обучения систем ИИ без разрешения или оплаты, а также с просьбой к этим компаниям, занимающимся искусственным интеллектом, компенсировать свои потери в связи с авторскими правами.

Запас интернет-данных вот-вот будет исчерпан, а качественных данных становится все меньше. Модель хороша или плоха, 20% определяется алгоритмом, а 80% определяется качеством данных. В «тройке» данных, вычислительной мощности и алгоритмов данные являются основным, наиболее долгосрочным и фундаментальным элементом. Большие модели должны быть снабжены огромными объемами данных, чтобы их можно было непрерывно оптимизировать и повторять.

Далее реальной ценностью станут устойчивые качественные данные. Как постоянно получать источники данных, которые являются законными, совместимыми и соответствующими бизнес-логике, станет ключевым фактором в повышении производительности больших моделей. Таким образом, операторы данных могут играть важную роль, ограничивающую разработку больших моделей.

В идеале модель постоянно предоставляет услуги пользователям, а пользователи постоянно генерируют новые данные для модели. Что касается следующего шага, то будут прописаны приватные данные. Более персонализированные услуги означают больше личных данных, и маловероятно, что люди будут безоговорочно показывать личные данные большой модели.

В любую эпоху «продавец воды» — это всегда хороший бизнес. Интересно, что независимо от того, являетесь ли вы первооткрывателем, исследователем или золотоискателем, без воды вам не обойтись. Конечно, вы также можете продавать ложки и лопаты.

03 Заключение

За последние несколько месяцев в социальных сетях был широко распространен пост:

Думайте об ИИ как о ребенке. ИИ в Европе и Соединенных Штатах относится к элитному образовательному маршруту.После его рождения его семья тратила деньги на его обучение, пока он не получил докторскую степень.

Китайский ИИ относится к линии утилитарного образования, его с рождения воспитывают для выживания, а когда ему исполняется 15 лет, он вынужден искать способы зарабатывать деньги для семьи и учиться продавать навыки.

Несколько слов, тщательно попробовал, полный ароматов.

Хотя это и не обязательно верно, это также может в какой-то степени объяснить, почему OpenAI и ChatGPT не появились в Китае. На самом деле, некоторые отечественные инвесторы и предприниматели вначале были полны уверенности и хотели быть китайской версией OpenAI. После нескольких месяцев метания я обнаружил, что мне все еще нужно найти модель прибыли, изучить сценарии бизнес-приложений и возможности коммерциализации.

Стоит отметить, что некоторые C-конечные пользователи в последнее время считают, что производительность ChatGPT-4 на некоторых задачах слишком низкая.Это считается использованием OpenAI смешанной экспертной модели (MOE) для снижения затрат и повышения эффективности. , и сместить акцент на услуги корпоративного уровня.

Оглядываясь вокруг, Apple также разрабатывает свою собственную модель большого языка Apple GPT, а Qualcomm уже изучает, как реализовать ее к концу этого года, чтобы модель с уровнем параметров от 10 до 15 миллиардов могла работать в автономном режиме на мобильный телефон без облачной обработки.

Большие модели — это изменение продуктивности, смена парадигмы. 200 лет назад люди впервые использовали паровые двигатели для преобразования тепловой энергии в кинетическую, и началась эра индустриализации. Сегодня люди используют большие модели для преобразования электрической энергии в мощность мозга и общий интеллект, и наступает новая эра.

Конечно, нам не нужно слишком много колес, но нам все равно нужны хорошие колеса.

Предстоит долгий путь.