Днем 12 сентября пекинская штаб-квартира Startup Dark Horse открыла волну «новых сил искусственного интеллекта».
Huawei Cloud, APUS, Tors, SenseTime, Kuaishou, 360 Group, Qingbo Intelligence, Dark Horse Tianqi, MiniMax, Sinovation Ventures, Qiji Chuangtan, Китайская академия информационных и коммуникационных технологий... Здесь перечислены компании, ведущие компании и животные-единороги. компании, а также ведущие инвестиционные институты и научно-исследовательские институты в сфере ИИ.
Гости, присутствовавшие на встрече, сразу перешли к теме:
«Текущее состояние крупных моделей в отрасли? Как компании могут лучше коммерциализировать? На какие новые тенденции и возможности стоит обратить внимание?»
Для меня большая честь участвовать в этой закрытой встрече ИИ. Я поделюсь с вами 38 заметками и истинами.
**01. Сколько томов имеется в отрасли? **
Согласно последней статистике, в Китае запущено более 130 крупных моделей, а в Администрации киберпространства Китая зарегистрировано более 70 моделей алгоритмов. Только в 2023 году более 60 стартапов получили финансирование, а продукты полны базовых уровней, уровней моделей и уровней приложений. Новому поколению генеративного ИИ, возможно, придется оглянуться на ловушки предыдущего поколения ИИ и избежать самоуспокоенности отрасли, чтобы избежать реинкарнации предыдущей зимы. Практики в этой области должны ясно видеть инволюцию отрасли и болевые точки клиентов и не давать себя обмануть куриным супом больших парней.
Теперь к нам приходит заказчик и говорит, что есть 20 сцен, и каждая сцена стоит Х миллионов юаней? Затем я пошел по домам, чтобы узнать цены. Сделает ли это Huawei? Сделает ли это Alibaba? Сможет ли Baidu это сделать? Если вы продолжите в том же духе, в конечном итоге вы не заработаете никаких денег.
80%-90% денег, собранных каждым, используется для вычислительных мощностей.Такова текущая ситуация. Знаете, сейчас это просто обучение. Стоимость обучения контролируема, но стоимость вывода неконтролируема.
У нас есть 30 000 графических процессоров и вычислительная мощность 6 000 пенсов. Мы будем стремиться к тому, чтобы к концу года вычислительная мощность превысила 12 000 пенсов. Что касается данных, каждый месяц очищается и аннотируется 2 триллиона токенов, а к концу года их будет 10 триллионов.
В настоящее время в отрасли все еще отсутствуют некоторые революционные приложения-убийцы, что затрудняет реализацию коммерциализации.
Как найти баланс между затратами и эффектом?Это сложный момент. Все они используют большие модели, а стоимость слишком высока.
Через некоторое время все будут соревноваться за возможность оптимизировать инфраструктуру. Например, с точки зрения возможностей оптимизации сети, если вы продолжите, когда другие терпят неудачу, вы сможете тренироваться больше раз, чем другие.
В случае ограниченных вычислительных мощностей мы предпринимаем некоторые дальновидные технические попытки. Возможно, вы не думали, что в нашей крупной модельной компании больше студентов занимаются инфраструктурой, чем моделированием. Их цены, как правило, довольно высоки, и их трудно нанять.
Крупные модели сейчас находятся в затруднительном положении.Они не могут продать себя по высокой цене.В конце концов, зарабатывают только те, кто продает облака, карты и вычислительные мощности.
Сначала я подумал, что модель довольно ценная, но сейчас она снова впала в инволюцию. Некоторое время назад я встретил клиента, и BAT и другие цитировали его. Первоначальная цена была довольно высокой, более 10 миллионов. Кто-нибудь знает, какова была окончательная цена за единицу? Слишком курчавый.
Некоторые специальные клиенты считают большие модели с десятками миллиардов параметров бесплатными.
02, Голоса с передовой
Компании, работающие в области искусственного интеллекта, должны всегда помнить, что сказал председатель Мао: «приходите от практики к практике». Только сняв халат и мандариновую куртку и отправившись в поле, вы сможете получить максимально достоверную обратную связь, находясь рядом со своими клиентами. Сейчас слишком много псевдоэкспертов в области ИИ, поэтому лучше прислушиваться к большему количеству голосов с передовой.
Мы поговорили примерно со 150 клиентами. Требования к самой большой модели в основном делятся на две категории. Одним из них являются текстовые требования самой большой модели.Требования клиентов к большой языковой модели точны на 100%. Другой — агент ИИ, который включает в себя вызовы функций, отображение кода и вызовы сторонних инструментов.
Во время нашего сотрудничества возник конфликт. Клиенты почувствуют, что данные невозможно передать вам, пока они не решат внедрить их внутри компании. Но как без этих данных мы можем обучить модель, отвечающую потребностям клиентов?
Когда мы работали над проектом, мы обнаружили, что пользователи не готовы платить за большие модели, но они все равно платят за ваше приложение. Некоторые клиенты прямо спрашивают, что при использовании больших моделей некоторые из предыдущих интеллектуальных средних платформ и графов знаний больше не нужны? В конце концов я обнаружил, что сцена — это ядро.
Нам нужно найти несколько сексуальных сцен. Существует несколько стандартов. Во-первых, небольшой разрез. Во-вторых, сопоставьте преимущества больших моделей. В-третьих, дайте пользователям, которые принимают решение заплатить, иметь четкое представление. Например, раньше для получения некоторых данных, выводов или услуг требовались разные процессы.
Чтобы добиться успеха в большой модели, необходимы три вещи: 1) Сможете ли вы получить достаточно денег для покупки вычислительной мощности. 2) Можем ли мы получить достаточно данных? 3) Достаточно ли высока плотность талантов?Дело не в количестве, а в том, достаточно ли качественных ученых.
Сейчас мы сталкиваемся с тремя типами клиентов. Один тип — тревожные клиенты, например финансовые клиенты, которые хотят сделать это, потому что это делают их конкуренты, но они не знают, каковы их потребности. Один тип — это клиенты, которые хотят снизить затраты.Руководство заказчика считает, что это в основном вопрос снижения издержек и сокращения расходов.Однако сложно судить о конкретной величине экономии, достигнутой с помощью модели. Последняя категория — это клиенты, которые надеются заработать на использовании моделей с открытым исходным кодом. Они полагаются на эту модель для получения дохода. Этим клиентам удобнее всего платить.
**03, ToC или ToB? **
Понятно, что стоимость однократного обучения GPT-4 составляет примерно 63 миллиона долларов США и требует огромного количества 1,8 триллионов параметров. Для некоторых крупных моделей, выпускаемых в настоящее время в Китае, направление ToC по-прежнему является бесплатной моделью Интернета. Но все практики знают, что разработка и эксплуатация крупных моделей требуют больших затрат, что облегчает бесперебойную работу бизнес-модели ToB. С точки зрения коммерциализации, ToB или ToC всегда вызывали беспокойство в отрасли. Во время закрытой встречи мы неоднократно слышали два ключевых слова: 1) гены и 2) трансгрессия. «Ты не можешь быть тем, кем ты не являешься».
Мы считаем, что возможности по-прежнему кроются в вертикальной модели, а ключевым моментом являются сами данные и сценарий, который является ядром.
Мы сами тоже думаем о том, как можно совместить искусственный интеллект с Интернетом, оцифровкой и т. д. и как лучше сделать оригинальные сцены более интеллектуальными.
ToC или ToB, честно говоря, это связано с генами каждого. То, что мы не можем этого сделать, не означает, что другие не могут этого сделать. Например, в некоторые приложения ToC играют дети 2000 или 10 лет рождения, что выходит за рамки нашего возрастного понимания.
Ток и Тоб все еще очень разные. ToC имеет относительно высокий уровень отказоустойчивости. ТОБ - наоборот. Возьмем, к примеру, умный вопрос и ответ. Как обеспечить точность? Как и в правительстве, здесь есть красные линии. В настоящее время соответствующим образом исследуется вопрос о том, как избежать иллюзии модели.
Мы, наоборот, считаем, что в ToC легче зарабатывать деньги. Есть проблема с ToB.Процесс проекта относительно долгий. Денежный цикл очень длинный от утверждения бюджета клиента до создания и реализации проекта.
Я думаю, что сейчас слишком много возможностей. Не распределяйте ресурсы туда, для чего вы не подходите. Очень важно делать стратегический выбор.
04, ToB и ToG тоже очень сложны
Самая большая ошибка на стороне Б заключается в том, что в итоге она превратилась в продвинутый аутсорсинг персонала.
Все проекты имеют циклы, и все выплаты основаны на узлах цикла. Я не могу помочь вам обучить и оптимизировать модель без ограничений.
Создания AIGC более толерантны и могут содержать некоторые ошибки. Но когда дело касается производства и изготовления некоторыми компаниями, требования к точности очень высоки. Нам зачастую проще выбрать из модели один-два лучших кейса, но поддерживать ее на высоком уровне без плохих кейсов все равно довольно сложно.
Когда мы работали над проектом умного цифрового правительства в экономически развитой провинции, мы продвигали более 5 сценариев, и заказчик в итоге одобрил 3 сценария. Затем мы перейдем к сути вещей, касающихся безопасности, данных и нижнего уровня. Тогда я спрошу, в чем отличия и преимущества между вами и другими большими моделями? Наконец, всем сторонам необходимо сесть и разработать систему оценки. После прохождения системы оценки нам еще нужно оценить результативность.
05. Используйте проекты для инкубации продуктов и решений
Используйте проекты для инкубации продуктов.После завершения нескольких проектов извлеките соответствующие технические решения. Этот набор решений, скорее всего, представляет собой не модель, а большую модель + маленькие модели и, наконец, комплексное решение, сформированное из нескольких моделей.
В последние один-два года это может быть процесс инноваций и производства продукции, и цикл восстановления денежных средств будет относительно длительным.
06、Агент
Представьте себе, что ИИ имитирует повседневные человеческие задачи, чтобы справиться с большим количеством сложного социального поведения людей. В статье Стэнфордского университета под названием «Генераторные агенты: интерактивные симулякры человеческого поведения» углубленно рассматриваются агенты ИИ, которые запоминают, реагируют и планируют. AI Agent считается следующим направлением усилий OpenAI. Соучредитель OpenAI также заявил на недавнем мероприятии: «По сравнению с методами обучения моделей, OpenAI в настоящее время уделяет больше внимания изменениям в области агентов. Всякий раз, когда выйдет новая статья об агентах ИИ, мы будем очень рады и обсудим ее. внутренне серьезно».
Мы всегда воображаем, что большие модели всемогущи и могут решать различные проблемы? Так ли это? Большие модели — это просто большие модели.
Мы управляем ИИ внутри компании, что называется невидимым ИИ. Перед пользователями мы не будем подчеркивать, что это за модель и сколько у нее параметров. Наше определение ИИ — это человеческая помощь.
Если отбросить модель и вычислительную мощность, следующей возможностью может стать Агент.
Самая большая проблема, влияющая в настоящее время на использование потребителями: соотношение ввода-вывода. Как только вы дойдете до конца разговора с клиентом и расскажете о бюджете проекта, если он чисто текстовый и инвестиции составляют несколько миллионов или несколько миллионов, клиент будет не очень доволен. Кроме того, если большие модели внедряются в реальную производственную среду с использованием агентов искусственного интеллекта для решения реальных проблем, клиенты будут очень готовы платить.
На основе большой модели AI Agent обладает расширенными возможностями, такими как память, планирование и выполнение. В этот раз мы проинвестировали более 60 стартап-проектов, более 20 из которых являются Агентами.
Продукты ToC, формы оплаты и формы продуктов сильно различаются в Китае и зарубежных странах. Недавно мы инвестировали в некоторые агентские компании.
Однако на данном этапе AI Agent находится лишь на новой экспериментальной стадии, и между ним и общим интеллектом все еще существует определенный разрыв. В будущем, в дополнение к всеобъемлющим возможностям одного ИИ-агента, также необходимо будет решить проблему прорыва в возможностях сотрудничества и эмоций между несколькими ИИ-агентами.
Крупные образцовые игроки должны оставаться за покерным столом, чтобы у них была возможность увидеть что-то новое во второй половине игры.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Это слишком курчаво! 36 замечаний и правда о больших моделях и AIGC
Источник: я темная лошадка
Днем 12 сентября пекинская штаб-квартира Startup Dark Horse открыла волну «новых сил искусственного интеллекта».
Huawei Cloud, APUS, Tors, SenseTime, Kuaishou, 360 Group, Qingbo Intelligence, Dark Horse Tianqi, MiniMax, Sinovation Ventures, Qiji Chuangtan, Китайская академия информационных и коммуникационных технологий... Здесь перечислены компании, ведущие компании и животные-единороги. компании, а также ведущие инвестиционные институты и научно-исследовательские институты в сфере ИИ.
Гости, присутствовавшие на встрече, сразу перешли к теме:
«Текущее состояние крупных моделей в отрасли? Как компании могут лучше коммерциализировать? На какие новые тенденции и возможности стоит обратить внимание?»
Для меня большая честь участвовать в этой закрытой встрече ИИ. Я поделюсь с вами 38 заметками и истинами.
**01. Сколько томов имеется в отрасли? **
Согласно последней статистике, в Китае запущено более 130 крупных моделей, а в Администрации киберпространства Китая зарегистрировано более 70 моделей алгоритмов. Только в 2023 году более 60 стартапов получили финансирование, а продукты полны базовых уровней, уровней моделей и уровней приложений. Новому поколению генеративного ИИ, возможно, придется оглянуться на ловушки предыдущего поколения ИИ и избежать самоуспокоенности отрасли, чтобы избежать реинкарнации предыдущей зимы. Практики в этой области должны ясно видеть инволюцию отрасли и болевые точки клиентов и не давать себя обмануть куриным супом больших парней.
Теперь к нам приходит заказчик и говорит, что есть 20 сцен, и каждая сцена стоит Х миллионов юаней? Затем я пошел по домам, чтобы узнать цены. Сделает ли это Huawei? Сделает ли это Alibaba? Сможет ли Baidu это сделать? Если вы продолжите в том же духе, в конечном итоге вы не заработаете никаких денег.
80%-90% денег, собранных каждым, используется для вычислительных мощностей.Такова текущая ситуация. Знаете, сейчас это просто обучение. Стоимость обучения контролируема, но стоимость вывода неконтролируема.
У нас есть 30 000 графических процессоров и вычислительная мощность 6 000 пенсов. Мы будем стремиться к тому, чтобы к концу года вычислительная мощность превысила 12 000 пенсов. Что касается данных, каждый месяц очищается и аннотируется 2 триллиона токенов, а к концу года их будет 10 триллионов.
В настоящее время в отрасли все еще отсутствуют некоторые революционные приложения-убийцы, что затрудняет реализацию коммерциализации.
Как найти баланс между затратами и эффектом?Это сложный момент. Все они используют большие модели, а стоимость слишком высока.
Через некоторое время все будут соревноваться за возможность оптимизировать инфраструктуру. Например, с точки зрения возможностей оптимизации сети, если вы продолжите, когда другие терпят неудачу, вы сможете тренироваться больше раз, чем другие.
В случае ограниченных вычислительных мощностей мы предпринимаем некоторые дальновидные технические попытки. Возможно, вы не думали, что в нашей крупной модельной компании больше студентов занимаются инфраструктурой, чем моделированием. Их цены, как правило, довольно высоки, и их трудно нанять.
Крупные модели сейчас находятся в затруднительном положении.Они не могут продать себя по высокой цене.В конце концов, зарабатывают только те, кто продает облака, карты и вычислительные мощности.
Сначала я подумал, что модель довольно ценная, но сейчас она снова впала в инволюцию. Некоторое время назад я встретил клиента, и BAT и другие цитировали его. Первоначальная цена была довольно высокой, более 10 миллионов. Кто-нибудь знает, какова была окончательная цена за единицу? Слишком курчавый.
Некоторые специальные клиенты считают большие модели с десятками миллиардов параметров бесплатными.
02, Голоса с передовой
Компании, работающие в области искусственного интеллекта, должны всегда помнить, что сказал председатель Мао: «приходите от практики к практике». Только сняв халат и мандариновую куртку и отправившись в поле, вы сможете получить максимально достоверную обратную связь, находясь рядом со своими клиентами. Сейчас слишком много псевдоэкспертов в области ИИ, поэтому лучше прислушиваться к большему количеству голосов с передовой.
Мы поговорили примерно со 150 клиентами. Требования к самой большой модели в основном делятся на две категории. Одним из них являются текстовые требования самой большой модели.Требования клиентов к большой языковой модели точны на 100%. Другой — агент ИИ, который включает в себя вызовы функций, отображение кода и вызовы сторонних инструментов.
Во время нашего сотрудничества возник конфликт. Клиенты почувствуют, что данные невозможно передать вам, пока они не решат внедрить их внутри компании. Но как без этих данных мы можем обучить модель, отвечающую потребностям клиентов?
Когда мы работали над проектом, мы обнаружили, что пользователи не готовы платить за большие модели, но они все равно платят за ваше приложение. Некоторые клиенты прямо спрашивают, что при использовании больших моделей некоторые из предыдущих интеллектуальных средних платформ и графов знаний больше не нужны? В конце концов я обнаружил, что сцена — это ядро.
Нам нужно найти несколько сексуальных сцен. Существует несколько стандартов. Во-первых, небольшой разрез. Во-вторых, сопоставьте преимущества больших моделей. В-третьих, дайте пользователям, которые принимают решение заплатить, иметь четкое представление. Например, раньше для получения некоторых данных, выводов или услуг требовались разные процессы.
Чтобы добиться успеха в большой модели, необходимы три вещи: 1) Сможете ли вы получить достаточно денег для покупки вычислительной мощности. 2) Можем ли мы получить достаточно данных? 3) Достаточно ли высока плотность талантов?Дело не в количестве, а в том, достаточно ли качественных ученых.
Сейчас мы сталкиваемся с тремя типами клиентов. Один тип — тревожные клиенты, например финансовые клиенты, которые хотят сделать это, потому что это делают их конкуренты, но они не знают, каковы их потребности. Один тип — это клиенты, которые хотят снизить затраты.Руководство заказчика считает, что это в основном вопрос снижения издержек и сокращения расходов.Однако сложно судить о конкретной величине экономии, достигнутой с помощью модели. Последняя категория — это клиенты, которые надеются заработать на использовании моделей с открытым исходным кодом. Они полагаются на эту модель для получения дохода. Этим клиентам удобнее всего платить.
**03, ToC или ToB? **
Понятно, что стоимость однократного обучения GPT-4 составляет примерно 63 миллиона долларов США и требует огромного количества 1,8 триллионов параметров. Для некоторых крупных моделей, выпускаемых в настоящее время в Китае, направление ToC по-прежнему является бесплатной моделью Интернета. Но все практики знают, что разработка и эксплуатация крупных моделей требуют больших затрат, что облегчает бесперебойную работу бизнес-модели ToB. С точки зрения коммерциализации, ToB или ToC всегда вызывали беспокойство в отрасли. Во время закрытой встречи мы неоднократно слышали два ключевых слова: 1) гены и 2) трансгрессия. «Ты не можешь быть тем, кем ты не являешься».
Мы считаем, что возможности по-прежнему кроются в вертикальной модели, а ключевым моментом являются сами данные и сценарий, который является ядром.
Мы сами тоже думаем о том, как можно совместить искусственный интеллект с Интернетом, оцифровкой и т. д. и как лучше сделать оригинальные сцены более интеллектуальными.
ToC или ToB, честно говоря, это связано с генами каждого. То, что мы не можем этого сделать, не означает, что другие не могут этого сделать. Например, в некоторые приложения ToC играют дети 2000 или 10 лет рождения, что выходит за рамки нашего возрастного понимания.
Ток и Тоб все еще очень разные. ToC имеет относительно высокий уровень отказоустойчивости. ТОБ - наоборот. Возьмем, к примеру, умный вопрос и ответ. Как обеспечить точность? Как и в правительстве, здесь есть красные линии. В настоящее время соответствующим образом исследуется вопрос о том, как избежать иллюзии модели.
Мы, наоборот, считаем, что в ToC легче зарабатывать деньги. Есть проблема с ToB.Процесс проекта относительно долгий. Денежный цикл очень длинный от утверждения бюджета клиента до создания и реализации проекта.
Я думаю, что сейчас слишком много возможностей. Не распределяйте ресурсы туда, для чего вы не подходите. Очень важно делать стратегический выбор.
04, ToB и ToG тоже очень сложны
Самая большая ошибка на стороне Б заключается в том, что в итоге она превратилась в продвинутый аутсорсинг персонала.
Все проекты имеют циклы, и все выплаты основаны на узлах цикла. Я не могу помочь вам обучить и оптимизировать модель без ограничений.
Создания AIGC более толерантны и могут содержать некоторые ошибки. Но когда дело касается производства и изготовления некоторыми компаниями, требования к точности очень высоки. Нам зачастую проще выбрать из модели один-два лучших кейса, но поддерживать ее на высоком уровне без плохих кейсов все равно довольно сложно.
Когда мы работали над проектом умного цифрового правительства в экономически развитой провинции, мы продвигали более 5 сценариев, и заказчик в итоге одобрил 3 сценария. Затем мы перейдем к сути вещей, касающихся безопасности, данных и нижнего уровня. Тогда я спрошу, в чем отличия и преимущества между вами и другими большими моделями? Наконец, всем сторонам необходимо сесть и разработать систему оценки. После прохождения системы оценки нам еще нужно оценить результативность.
05. Используйте проекты для инкубации продуктов и решений
Используйте проекты для инкубации продуктов.После завершения нескольких проектов извлеките соответствующие технические решения. Этот набор решений, скорее всего, представляет собой не модель, а большую модель + маленькие модели и, наконец, комплексное решение, сформированное из нескольких моделей.
В последние один-два года это может быть процесс инноваций и производства продукции, и цикл восстановления денежных средств будет относительно длительным.
06、Агент
Представьте себе, что ИИ имитирует повседневные человеческие задачи, чтобы справиться с большим количеством сложного социального поведения людей. В статье Стэнфордского университета под названием «Генераторные агенты: интерактивные симулякры человеческого поведения» углубленно рассматриваются агенты ИИ, которые запоминают, реагируют и планируют. AI Agent считается следующим направлением усилий OpenAI. Соучредитель OpenAI также заявил на недавнем мероприятии: «По сравнению с методами обучения моделей, OpenAI в настоящее время уделяет больше внимания изменениям в области агентов. Всякий раз, когда выйдет новая статья об агентах ИИ, мы будем очень рады и обсудим ее. внутренне серьезно».
Мы всегда воображаем, что большие модели всемогущи и могут решать различные проблемы? Так ли это? Большие модели — это просто большие модели.
Мы управляем ИИ внутри компании, что называется невидимым ИИ. Перед пользователями мы не будем подчеркивать, что это за модель и сколько у нее параметров. Наше определение ИИ — это человеческая помощь.
Если отбросить модель и вычислительную мощность, следующей возможностью может стать Агент.
Самая большая проблема, влияющая в настоящее время на использование потребителями: соотношение ввода-вывода. Как только вы дойдете до конца разговора с клиентом и расскажете о бюджете проекта, если он чисто текстовый и инвестиции составляют несколько миллионов или несколько миллионов, клиент будет не очень доволен. Кроме того, если большие модели внедряются в реальную производственную среду с использованием агентов искусственного интеллекта для решения реальных проблем, клиенты будут очень готовы платить.
На основе большой модели AI Agent обладает расширенными возможностями, такими как память, планирование и выполнение. В этот раз мы проинвестировали более 60 стартап-проектов, более 20 из которых являются Агентами.
Продукты ToC, формы оплаты и формы продуктов сильно различаются в Китае и зарубежных странах. Недавно мы инвестировали в некоторые агентские компании.
Однако на данном этапе AI Agent находится лишь на новой экспериментальной стадии, и между ним и общим интеллектом все еще существует определенный разрыв. В будущем, в дополнение к всеобъемлющим возможностям одного ИИ-агента, также необходимо будет решить проблему прорыва в возможностях сотрудничества и эмоций между несколькими ИИ-агентами.
Крупные образцовые игроки должны оставаться за покерным столом, чтобы у них была возможность увидеть что-то новое во второй половине игры.