Отчет об исследовании | «Генеративный ИИ»: приложения, исследования и контроль работают вместе, чтобы открыть инновационный путь генеративного искусственного интеллекта.
Оригинальное название: «Qiming Headlines | Qiming Venture Partners и Unfinished Research совместно выпустили отчет «Генеративный ИИ» | Состояние генеративного ИИ в 2023 году».
** На Всемирной конференции по искусственному интеллекту 2023 года ** (WAIC) ** Форум партнеров Qiming Venture Partners «Генеративный ИИ и крупномасштабные модели: изменения и инновации» партнеры Qiming Venture Partners объединили усилия с Unfinished Research, чтобы совместно выпустить блокбастер «Generative». ИИ 》| Состояние генеративного ИИ 2023. **
Если 2022 год назвать годом генеративного искусственного интеллекта, были сделаны прорывы в применении диффузионных моделей, родился ChatGPT и опубликован ряд новаторских исследовательских работ, то в 2023 году большая модель будет доведена до пика, с выпуск GPT-4 в качестве знака генеративного искусственного интеллекта вступил в стадию инновационного применения в направлении общего искусственного интеллекта.
**Самая важная особенность этого этапа заключается в том, что приложения, исследования и надзор работают вместе, чтобы открыть инновационный путь генеративного искусственного интеллекта. **
ИННОВАЦИОННЫЕ ПРИЛОЖЕНИЯ
Люди быстро увидели появление новой бизнес-экологии из генеративного искусственного интеллекта, увидели слой за слоем технологии, такие как расчеты, модели и приложения; увидели сгенерированный контент, такой как текст, изображения, видео, коды, трехмерные структуры, -модальность; см. также открытые данные, вертикальные данные, синтетические данные, векторные данные для больших и малых моделей.
Генеративный искусственный интеллект, кажется, воспринимается в Китае с большим энтузиазмом: правительство поощряет развитие общего искусственного интеллекта; ни одна крупная компания не может игнорировать его; многие малые и средние предприятия, занимающиеся наукоемким трудом, уже первыми применили его. ** Перед лицом этой революционной технологии задействованы все предприятия. У них разные ритмы и разная степень вовлеченности, и они стали защитниками, новаторами и последователями волны новых технологий. Их нормы прибыли постоянно меняются. **
Вычислительная мощность в настоящее время является самым дефицитным ресурсом, а также находится в наиболее выгодном положении. **Вычислительная мощность составляет самую большую часть структуры затрат на большую модель, а производительность графического процессора фактически определяет темпы развития этой развивающейся отрасли. ** С развитием вычислительной мощности и моделей появляется все больше стартапов. Они ухватились за дивиденды времени, но они также сталкиваются с конкуренцией и возможным гигантским сокрушением. Можно сказать, что это голубой океан стартапов, а под руслом тоже есть подводные камни.
**Конкуренция способствует инновациям. **В отличие от быстрого появления стартапов в направлении инструментов повышения производительности в 2022 г., в 2023 г. большая часть новых компаний сосредоточится на инновациях базовых технологий; крупномасштабные стартапы также начали дифференцироваться и на подъеме общие крупные стартапы. В то же время начали появляться многие вертикальные крупные компании в конкретных направлениях, таких как медицина, электронная коммерция, научные исследования, промышленность, автономное вождение и робототехника. **
Пограничные исследования
2022 и 2023 годы — это два года, когда технология генеративного искусственного интеллекта совершит прорыв.Мы разобрали статьи и обнаружили, что отличительной чертой в области генеративного искусственного интеллекта является тесная интеграция процессов исследований и инноваций, многие из которых реализуются в рамках предприятий., быстро развертывайте варианты использования и продукты. **Эта интеграция исследований и предпринимательства, стартапов и венчурного капитала сыграла важную роль, а инвестиции в исследования и таланты технологических гигантов США и крупных компаний в области искусственного интеллекта, включая исследования некоторых базовых технологий, превзошли университеты по сравнению с университетами. лет и других научно-исследовательских учреждений.
**Границы искусственного интеллекта расширяются. ** Хотя из технических отчетов GPT-4 и исследовательских работ Microsoft видно, что он обладает почти человеческими способностями к обработке текстов, математическими рассуждениями и знаниями во многих профессиональных областях. «Мы думаем, что это можно разумно считать ранней (хотя и все еще неполной) версией системы общего искусственного интеллекта (AGI)». Такие как калибровка уверенности, долговременная память, непрерывное обучение, персонализация, планирование и концептуальный скачок, прозрачность, когнитивные ошибки и иррациональность и т. д. **
**Самым важным направлением исследований за последние шесть месяцев является расшифровка и понимание загадочного и захватывающего «появления» интеллекта в больших моделях. **Большие модели должны не только превзойти способность предсказывать следующее слово, но также нуждаются в более богатом и сложном глубоком механизме «медленного мышления», чтобы контролировать механизм «быстрого мышления» для предсказания следующего слова.
**Лучшее передовое исследование должно заключаться в изучении и решении проблем, возникающих при применении крупномасштабных технологий. **Исследуйте, как уменьшить галлюцинации, настроить большую модель для более точного вывода реального содержания и развить более сильные мыслительные способности; как тренировать модель более интенсивно, снизить порог, запустить новые продукты и позволить большему количеству людей из всех слоев общества жизнь и потребители Как по-человечески взаимодействовать с реальным физическим миром, как стать помощником человека в сложной работе, проектировать и помогать проводить научные эксперименты, как влиять на занятость и принимать политические меры, как создавать искусственный интеллект безопасно и правдоподобно.
Регламент| Безопасность| Политика| Талант
Регулирующая реакция правительства на генеративный искусственный интеллект весьма своевременна, и в разных странах появились разные характеристики. ** Быстро вводя меры регулирования для генеративного искусственного интеллекта и собирая мнения, Китай также поощряет развитие общего искусственного интеллекта.Пекин, Шанхай и Шэньчжэнь являются наиболее амбициозными первыми эшелонами, и все они предложили более амбициозные исследования искусственного интеллекта, инновации и промышленные цели. ** ЕС продолжает лидировать в области регулирования и законодательства, так как пять лет назад он первым ввел GDPR. США больше озабочены лидирующим положением технологий искусственного интеллекта и формируют нормативно-правовую базу, основанную на принципе управления рисками.
** В долгосрочной перспективе талант окажет большее влияние на будущее искусственного интеллекта, чем вычислительная мощность. **Количество статей, опубликованных китайскими исследователями, превысило количество статей, опубликованных в Соединенных Штатах, но Соединенные Штаты по-прежнему имеют явное преимущество на вершине пирамиды, будь то исследования или предпринимательство. Во всем мире фокус исследований и инноваций в области искусственного интеллекта смещается с университетов на предприятия.Три ведущих учреждения в Соединенных Штатах с наибольшим количеством лучших ученых — это Google, Microsoft и Meta, которые вместе принимают на работу 30% лучших ученых в Соединенных Штатах. . В Китае по-прежнему доминируют университеты, и только Alibaba входит в первую десятку.
Министерство науки и технологий предложило, чтобы предприятия искусственного интеллекта принимали проверку научной и технической этики; предмет проверки должен создать комитет (обзор) по научной и технической этике. Американские компании искусственного интеллекта начали создавать ответственный и заслуживающий доверия отдел искусственного интеллекта ранее.С прошлого года по этот год были внесены некоторые коррективы, отражающие, что, когда генеративный искусственный интеллект претерпевает изменения, предприятия стремятся использовать лучшие технологии и решения. Безопасно и ответственно внедряйте новые технологии.
Десять потенциальных клиентов
Большая языковая модель
В 2024 г. в Китае появится многоязычная универсальная модель, сравнимая с GPT-4;
Long Context приведет к следующему прорыву в технологии LLM;
Прежде чем появится более многообещающая модель большого языка, для достижения лучших результатов в вертикальной области будут сосуществовать следующие три метода:
i) без изменения распределения данных использовать более общие данные для общего предварительного обучения крупномасштабных моделей и не вводить специально отраслевые данные,
ii) использовать отраслевые данные для точной настройки (Fine-Tuning) общей большой модели,
iii) Используйте наборы данных с более высокой долей отраслевых данных для предварительной подготовки вертикальной модели.
Мультимодальная модель
4 Текущая модель диаграммы Винсена CLIP + Diffusion является переходным состоянием, и интегрированная структура модели появится в ближайшие 2 года;
Модель преобразования текста в изображение следующего поколения будет более управляемой, она будет сочетать в себе возможности базовой модели и внешнего метода управления, а дизайн модели будет сосредоточен на сочетании с методом управления;
До 2025 года режимы видео и 3D откроют этапы создания моделей, значительно улучшив эффект генерации;
Воплощенный интеллект (Embodied AI), представленный PALM-E, продемонстрировал большой потенциал в отношении восприятия, понимания и принятия решений роботами, но существуют большие проблемы с текущим обучением и надежностью;
В краткосрочной перспективе Transformer становится основной сетевой структурой множества модальностей, но общий метод сжатия всего цифрового мира еще не появился.Transformer не является концом технологии искусственного интеллекта.
Бизнес-возможности
В течение 3 лет основная движущая сила подрывных приложений ИИ будет исходить от инноваций базовой модели, их нельзя разделить, и роль модели будет больше, чем роль дизайна продукта;
Нынешний рынок генеративного ИИ находится на ранней стадии доминирования технологий, и существуют возможности для платформенных компаний с рыночной стоимостью в сотни миллиардов долларов.
Читать исходный текст
Посмотреть Оригинал
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Отчет об исследовании | «Генеративный ИИ»: приложения, исследования и контроль работают вместе, чтобы открыть инновационный путь генеративного искусственного интеллекта.
Источник: Qiming Venture Partners
Оригинальное название: «Qiming Headlines | Qiming Venture Partners и Unfinished Research совместно выпустили отчет «Генеративный ИИ» | Состояние генеративного ИИ в 2023 году».
** На Всемирной конференции по искусственному интеллекту 2023 года ** (WAIC) ** Форум партнеров Qiming Venture Partners «Генеративный ИИ и крупномасштабные модели: изменения и инновации» партнеры Qiming Venture Partners объединили усилия с Unfinished Research, чтобы совместно выпустить блокбастер «Generative». ИИ 》| Состояние генеративного ИИ 2023. **
**Самая важная особенность этого этапа заключается в том, что приложения, исследования и надзор работают вместе, чтобы открыть инновационный путь генеративного искусственного интеллекта. **
ИННОВАЦИОННЫЕ ПРИЛОЖЕНИЯ
Люди быстро увидели появление новой бизнес-экологии из генеративного искусственного интеллекта, увидели слой за слоем технологии, такие как расчеты, модели и приложения; увидели сгенерированный контент, такой как текст, изображения, видео, коды, трехмерные структуры, -модальность; см. также открытые данные, вертикальные данные, синтетические данные, векторные данные для больших и малых моделей.
Генеративный искусственный интеллект, кажется, воспринимается в Китае с большим энтузиазмом: правительство поощряет развитие общего искусственного интеллекта; ни одна крупная компания не может игнорировать его; многие малые и средние предприятия, занимающиеся наукоемким трудом, уже первыми применили его. ** Перед лицом этой революционной технологии задействованы все предприятия. У них разные ритмы и разная степень вовлеченности, и они стали защитниками, новаторами и последователями волны новых технологий. Их нормы прибыли постоянно меняются. **
Вычислительная мощность в настоящее время является самым дефицитным ресурсом, а также находится в наиболее выгодном положении. **Вычислительная мощность составляет самую большую часть структуры затрат на большую модель, а производительность графического процессора фактически определяет темпы развития этой развивающейся отрасли. ** С развитием вычислительной мощности и моделей появляется все больше стартапов. Они ухватились за дивиденды времени, но они также сталкиваются с конкуренцией и возможным гигантским сокрушением. Можно сказать, что это голубой океан стартапов, а под руслом тоже есть подводные камни.
**Конкуренция способствует инновациям. **В отличие от быстрого появления стартапов в направлении инструментов повышения производительности в 2022 г., в 2023 г. большая часть новых компаний сосредоточится на инновациях базовых технологий; крупномасштабные стартапы также начали дифференцироваться и на подъеме общие крупные стартапы. В то же время начали появляться многие вертикальные крупные компании в конкретных направлениях, таких как медицина, электронная коммерция, научные исследования, промышленность, автономное вождение и робототехника. **
Пограничные исследования
2022 и 2023 годы — это два года, когда технология генеративного искусственного интеллекта совершит прорыв.Мы разобрали статьи и обнаружили, что отличительной чертой в области генеративного искусственного интеллекта является тесная интеграция процессов исследований и инноваций, многие из которых реализуются в рамках предприятий., быстро развертывайте варианты использования и продукты. **Эта интеграция исследований и предпринимательства, стартапов и венчурного капитала сыграла важную роль, а инвестиции в исследования и таланты технологических гигантов США и крупных компаний в области искусственного интеллекта, включая исследования некоторых базовых технологий, превзошли университеты по сравнению с университетами. лет и других научно-исследовательских учреждений.
**Границы искусственного интеллекта расширяются. ** Хотя из технических отчетов GPT-4 и исследовательских работ Microsoft видно, что он обладает почти человеческими способностями к обработке текстов, математическими рассуждениями и знаниями во многих профессиональных областях. «Мы думаем, что это можно разумно считать ранней (хотя и все еще неполной) версией системы общего искусственного интеллекта (AGI)». Такие как калибровка уверенности, долговременная память, непрерывное обучение, персонализация, планирование и концептуальный скачок, прозрачность, когнитивные ошибки и иррациональность и т. д. **
**Самым важным направлением исследований за последние шесть месяцев является расшифровка и понимание загадочного и захватывающего «появления» интеллекта в больших моделях. **Большие модели должны не только превзойти способность предсказывать следующее слово, но также нуждаются в более богатом и сложном глубоком механизме «медленного мышления», чтобы контролировать механизм «быстрого мышления» для предсказания следующего слова.
**Лучшее передовое исследование должно заключаться в изучении и решении проблем, возникающих при применении крупномасштабных технологий. **Исследуйте, как уменьшить галлюцинации, настроить большую модель для более точного вывода реального содержания и развить более сильные мыслительные способности; как тренировать модель более интенсивно, снизить порог, запустить новые продукты и позволить большему количеству людей из всех слоев общества жизнь и потребители Как по-человечески взаимодействовать с реальным физическим миром, как стать помощником человека в сложной работе, проектировать и помогать проводить научные эксперименты, как влиять на занятость и принимать политические меры, как создавать искусственный интеллект безопасно и правдоподобно.
Регламент| Безопасность| Политика| Талант
Регулирующая реакция правительства на генеративный искусственный интеллект весьма своевременна, и в разных странах появились разные характеристики. ** Быстро вводя меры регулирования для генеративного искусственного интеллекта и собирая мнения, Китай также поощряет развитие общего искусственного интеллекта.Пекин, Шанхай и Шэньчжэнь являются наиболее амбициозными первыми эшелонами, и все они предложили более амбициозные исследования искусственного интеллекта, инновации и промышленные цели. ** ЕС продолжает лидировать в области регулирования и законодательства, так как пять лет назад он первым ввел GDPR. США больше озабочены лидирующим положением технологий искусственного интеллекта и формируют нормативно-правовую базу, основанную на принципе управления рисками.
** В долгосрочной перспективе талант окажет большее влияние на будущее искусственного интеллекта, чем вычислительная мощность. **Количество статей, опубликованных китайскими исследователями, превысило количество статей, опубликованных в Соединенных Штатах, но Соединенные Штаты по-прежнему имеют явное преимущество на вершине пирамиды, будь то исследования или предпринимательство. Во всем мире фокус исследований и инноваций в области искусственного интеллекта смещается с университетов на предприятия.Три ведущих учреждения в Соединенных Штатах с наибольшим количеством лучших ученых — это Google, Microsoft и Meta, которые вместе принимают на работу 30% лучших ученых в Соединенных Штатах. . В Китае по-прежнему доминируют университеты, и только Alibaba входит в первую десятку.
Министерство науки и технологий предложило, чтобы предприятия искусственного интеллекта принимали проверку научной и технической этики; предмет проверки должен создать комитет (обзор) по научной и технической этике. Американские компании искусственного интеллекта начали создавать ответственный и заслуживающий доверия отдел искусственного интеллекта ранее.С прошлого года по этот год были внесены некоторые коррективы, отражающие, что, когда генеративный искусственный интеллект претерпевает изменения, предприятия стремятся использовать лучшие технологии и решения. Безопасно и ответственно внедряйте новые технологии.
Десять потенциальных клиентов
Большая языковая модель
В 2024 г. в Китае появится многоязычная универсальная модель, сравнимая с GPT-4;
Long Context приведет к следующему прорыву в технологии LLM;
Прежде чем появится более многообещающая модель большого языка, для достижения лучших результатов в вертикальной области будут сосуществовать следующие три метода:
i) без изменения распределения данных использовать более общие данные для общего предварительного обучения крупномасштабных моделей и не вводить специально отраслевые данные,
ii) использовать отраслевые данные для точной настройки (Fine-Tuning) общей большой модели,
iii) Используйте наборы данных с более высокой долей отраслевых данных для предварительной подготовки вертикальной модели.
Мультимодальная модель
4 Текущая модель диаграммы Винсена CLIP + Diffusion является переходным состоянием, и интегрированная структура модели появится в ближайшие 2 года;
Модель преобразования текста в изображение следующего поколения будет более управляемой, она будет сочетать в себе возможности базовой модели и внешнего метода управления, а дизайн модели будет сосредоточен на сочетании с методом управления;
До 2025 года режимы видео и 3D откроют этапы создания моделей, значительно улучшив эффект генерации;
Воплощенный интеллект (Embodied AI), представленный PALM-E, продемонстрировал большой потенциал в отношении восприятия, понимания и принятия решений роботами, но существуют большие проблемы с текущим обучением и надежностью;
В краткосрочной перспективе Transformer становится основной сетевой структурой множества модальностей, но общий метод сжатия всего цифрового мира еще не появился.Transformer не является концом технологии искусственного интеллекта.
Бизнес-возможности
В течение 3 лет основная движущая сила подрывных приложений ИИ будет исходить от инноваций базовой модели, их нельзя разделить, и роль модели будет больше, чем роль дизайна продукта;
Нынешний рынок генеративного ИИ находится на ранней стадии доминирования технологий, и существуют возможности для платформенных компаний с рыночной стоимостью в сотни миллиардов долларов.
Читать исходный текст