Велика модельна компанія Zhipu AI оголосила суму фінансування за рік: 2,5 млрд юанів.
Така сума, в чому концепція? Він оновив сукупний обсяг фінансування вітчизняних стартапів великої моделі з оцінкою понад 10 млрд.
Ця 4-річна компанія стала самою золотопоглинаючою і цінною компанією для вітчизняних великих моделей.
У «другій фазі генеративного ШІ» у війні 100 моделей прогрес у фінансуванні лідера Жіпу також є доказом ефекту Метью в галузі?
Компанії, які налаштовані оптимістично, матимуть більше ресурсів, тоді як компанії, які не доведуть свою самооцінку, стикаються з перетасовуванням і пропуском наступного етапу перегонів.
З точки зору стартапів, це більше схоже на кінець першої половини великомодельного підприємництва, з'явився вододіл патерну, і екологічний осередок почав бути зрозумілим.
**Чому спектр мудрості? **
Перш ніж з'ясовувати, чому вітчизняна великомасштабна модель фінансування є спектром мудрості, ми повинні спочатку простежити джерело і знати його походження.
До цього вона, ймовірно, належала до стану добре відомого в колі і невідомого поза колом.
Zhipu AI, заснований у червні 2019 року, успішно трансформується з технології Лабораторії інженерії знань (KEG) кафедри комп'ютерних наук Університету Цінхуа.
Основними членами команди є майже всі родові лінії Цінхуа, серед них генеральний директор Чжан Пен закінчив факультет комп'ютерних наук Університету Цінхуа та є лідером інновацій Університету Цінхуа у 2018 році зі ступенем доктора технічних наук.
У KEG Lab команда в основному досліджувала, як застосовувати машинне навчання, інтелектуальний аналіз даних, графи знань тощо в інженерній практиці, і почала навчати моделі штучного інтелекту в 2017 році.
У першу річницю створення Zhipu компанія OpenAI випустила GPT-3.
З тих пір вся компанія повністю займається розробкою великих моделей мовного попереднього навчання. На шляху до великих моделей OpenAI обрала GPT, Google – BERT, а Zhipu – GLM (General Language Model).
Майже всі пізніші історії оберталися навколо унікальної архітектури попереднього навчання GLM Zhipu:
У 2022 році Чжіпу та Цінхуа співпрацювали для розробки двомовної моделі GLM-130B на 100 мільярдів, використовуючи її як основу**, і почали будувати велику модельну платформу та матрицю продукту.
У 2023 році Zhipu вживатиме дуже частих дій, починаючи із запуску діалогової моделі ChatGLM і моделі однокарткової версії з відкритим вихідним кодом ChatGLM-6B, за якою слідуватиме візуальна модель Visual-6B, модель коду кодової моделі CodeGeeX2, математична модель MathGLM, мультимодальна модель CogVLM-17B і серія AgentLM моделі AgentLM, і всі вони мають відкритий вихідний код.
31 серпня цього року Чжипу Цінянь, генеративний помічник штучного інтелекту, заснований на китайсько-англійській моделі двомовного діалогу ChatGLM2, став одним із перших 11 великомодельних продуктів, які полетіли в будинки звичайних людей через подачу.
Можна сказати, що в останні роки головне Zhipu в області великих моделей - дуже чітко, тобто трамбувати фундамент (базову модель) однією рукою, а потім будувати на фундаменті різні модальні і функціональні будівлі.
Варто зазначити, що Zhipu може підтримувати себе можливостями обслуговування на стороні Б з ембріонального періоду, що є впевненістю компанії перед обличчям загальноприйнятої реальності «великих моделей, які витрачають гроші, як проточна вода», але також часто розробляють і запускають нові моделі та нові продукти.
Звичайно, це не єдина причина.
На додаток до сервісних можливостей і супутніх можливостей отримання доходу, Zhipu також має сильну команду талантів і технічну силу.
Як згадувалося вище, Чжипу народився з Цінхуа, і ** «Департамент Цінхуа» став престижним лейблом у цій галузі**.
Причина в тому, що комп'ютерний відділ Цінхуа раніше присвятив себе дослідженню великих моделей, має багаторічний досвід і виростив багато талантів - гравці, яких зараз можна назвати на ринку, представлені Zhipu, а також темною стороною Місяця, Shenyan Technology, першокласними технологіями, Baichuan Intelligence, Face Wall Intelligence, Yuanyuan Technology, Shengshu Technology і т.д., - все це родоводи Цінхуа.
Кількість цитувань їхніх опублікованих статей і можливість перевірки опублікованих моделей є вагомим доказом цього «визнаного ярлика».
Більше того, згідно з публічною інформацією, Zhipu є єдиним великим модельним підприємством, що фінансується всередині країни та розробляється всередині країни.
Такий досвід компанії змушує Zhipu мати власну підготовку та стратегію в нескінченних дискусіях та суперечках про «безпеку моделей, безпеку даних та безпеку контенту».
Повідомляється, що для співпраці з розробкою вітчизняних графічних процесорів Zhipu зараз розробляє план адаптації вітчизняних чіпів універсальної мовної моделі GLM.
Зокрема, він полягає у співпраці з вітчизняними виробниками обчислювальних мікросхем для адаптації алгоритмів моделей та адаптації вітчизняних чіпів на стороні алгоритму, і існує близько 10 видів вітчизняних чіпів, які можна адаптувати.
** Зібравши стільки грошей, що робити далі? **
Наведений вище табель успішності та унікальність, можливо, стали ключовою причиною, чому Zhipu був дуже оптимістичним і виділявся на всьому шляху.
Однак, оскільки він дуже сприятливий, спектр мудрості, який накопичив достатній капітал, також демонструє рішучість побудувати довгострокову конкурентоспроможність.
Залучивши 2,5 мільярда юанів фінансування протягом 10 місяців, Zhipu AI офіційно заявив:
Вищезазначене фінансування буде використано для подальших досліджень та розробки базової моделі, кращої підтримки екології галузі та швидкого розвитку разом із партнерами.
Ядро зводиться до двох аспектів:
По-перше, зробіть його більшим, міцнішим і міцнішим, а основа великої моделі.
Друге - розширити екологію і коло спілкування.
Має бути і глибина, і ширина.
**Перш за все, зробіть базу моделі більшою та міцнішою, а також «розвивайте» базову велику модель. **
В даний час великою моделлю, яку Zhipu вважає базовою, є двомовна двонаправлена щільна модель GLM-130B, випущена в 2021 році, з 130 мільярдами параметрів.
У той час через багато обмежень, таких як технології, дані та обчислювальна потужність, навчання великої моделі з такою кількістю параметрів було достатньо, щоб бути лисим, але результати були чудовими, і GLM-130B показав себе краще, ніж GPT-3 і PaLM.
Однак сьогодні попит, викликаний даними та модальним зростанням, гігантом у 130 мільярдів параметрів у минулому, здається трохи недостатнім.
Остання новина від Qubit полягає в тому, що цієї п'ятниці (27 жовтня) на Zhipu чекає нова акція - випуск нового покоління великих моделей тумб. **
** По-друге, розширити екологію та коло друзів. **
Коли справа доходить до конкретних дій, ми не повинні бути в змозі обійти послідовний принцип спектру мудрості: безперервний відкритий вихідний код.
Ця компанія завжди була одним із найвідкритіших гравців у сфері великих моделей, ще в епоху до ChatGPT вона була прозорою та відкритою разом із Baidu (ERNIE2.0), Ali (AliceMind), Zhiyuan (Qingyuan CPM), Lanzhou (Menzius Big Model) та іншими.
Дивлячись на ранній звіт GLM Zhipu, там є слова: «Ми запрошуємо всіх приєднатися до його відкритої спільноти, щоб сприяти розробці великомасштабних попередньо навчених моделей». Зараз компанія все ще використовує відкритий вихідний код, щоб подружитися з розробниками та користувачами галузі.
Ця звичка зберігається і донині.
У поєднанні з поточними даними ми можемо більш чітко побачити, як Zhipu наполягає на відкритому вихідному коді і які поетапні результати були отримані:
Спільнота розробників, ChatGLM-6B зайняв перше місце в списку трендів через чотири тижні після запуску, із загальною кількістю завантажень понад 10 мільйонів, а GitHub отримав 5w+.
З іншого боку, на офіційному сайті Zhipu перераховані ** партнери для створення екологічного середовища, «69 країн, 1000+ науково-дослідних установ». Крім того, кубіти були перевірені, з більш ніж 1 000 клієнтами та 200-300 екосистемами з відкритим вихідним кодом.
Після того, як велика модельна екологія створена, вона може краще інтегрувати ресурси базового, середнього шару та прикладного рівня великої моделі, оптимізувати розподіл та досягти ефекту здорової взаємодії та коеволюції.
Серед них п'єдестал великої моделі займає центральне місце в екології великої моделі завдяки своїй фундаментності та універсальності. Щоб зрозуміти це, неважко зрозуміти переваги та необхідність Жипу, який прагне розширити екологію та коло друзів.
Велике модельне підприємництво, крокуючи в переломний момент
Наприкінці листопада минулого року OpenAI відправила ChatGPT у світ. Відразу після цього тенденція великих модельних технологій запускала хвилю за хвилею з безпрецедентною швидкістю.
Інтуїтивно зрозумілі дані вражають, а швидкість презентації вражає.
Сотні мільйонів активностей користувачів, мільярди доходів, десятки мільярдів оцінок... Велика модель захоплює світ, не говорячи про бойову чесноту, і всі дивляться і досліджують, думаючи про те, наскільки широкі межі цієї технології штучного інтелекту можуть досліджувати, і як продукти, які вона підтримує, можуть проявляти силу технологій?
Як наслідок, за кордоном є такі першопрохідці, як OpenAI та Anthropic, а в Китаї є десятки мільярдів єдинорогів, таких як Zhipu AI та MiniMax.
Попереду перлинний нефрит, деякі технічні та інженерні проблеми не можна перемотати вперед і пропустити, а потім і зоряний склад, а потім і астрономічне фінансування, поки ви йдете дорогою великих моделей, ви повинні випробувати це на собі.
Завдання складне, але претенденти раді наслідувати його приклад.
△Джерело: Sequoia
Сьогодні, майже рік потому, ми є свідками розвитку технологій великих моделей і того, як інновації та конкуренція формують цю сферу.
Що видно більш наочно, так це те, що **-гігант дограв початковий слот для карт, стартап-компанія почала тасувати, і з'явився перший етапний патерн. **
Правильно, компанія не може зробити все в межах можливостей великої моделі, але квитки на загальну велику модель настільки обмежені, що гравці, які не мають можливості її отримати, починають відволікатися: або йти на спец, або робити індустріальну модель; Або відмовитися від модельного шару, щоб почати бізнес, почати стояти на плечах інших моделей, і перейти на середній шар, прикладний шар...
Велике модельне підприємництво вступає в переломний момент.
Відтепер прогрес фінансування стартапів великих моделей, швидше за все, збиратиме все більше і більше, ніж зараз. Сотні мільйонів доларів продовжать збиратися в «не менш грошових» компаніях.
Ефект Матвія в промисловості посилюється. Загальна сума капіталу обмежена, тим цінніше буде виглядати компанія, а найкращі та найбільші ресурси будуть спрямовані на коня з найбільшим потенціалом.
На ринку капіталу єдиним недоліком дорогих компаній є те, що вони дорогі, а єдиною перевагою дешевих компаній є те, що вони дешеві.
Перша половина великого модельного підприємництва добігає кінця.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
4 роки десятків мільярдів оцінки, вітчизняне велике модельне підприємництво ТОП 1, зроблено в Цінхуа
Джерело: Qubits
Велика модельна компанія Zhipu AI оголосила суму фінансування за рік: 2,5 млрд юанів.
Така сума, в чому концепція? Він оновив сукупний обсяг фінансування вітчизняних стартапів великої моделі з оцінкою понад 10 млрд.
Ця 4-річна компанія стала самою золотопоглинаючою і цінною компанією для вітчизняних великих моделей.
Компанії, які налаштовані оптимістично, матимуть більше ресурсів, тоді як компанії, які не доведуть свою самооцінку, стикаються з перетасовуванням і пропуском наступного етапу перегонів.
З точки зору стартапів, це більше схоже на кінець першої половини великомодельного підприємництва, з'явився вододіл патерну, і екологічний осередок почав бути зрозумілим.
**Чому спектр мудрості? **
Перш ніж з'ясовувати, чому вітчизняна великомасштабна модель фінансування є спектром мудрості, ми повинні спочатку простежити джерело і знати його походження.
До цього вона, ймовірно, належала до стану добре відомого в колі і невідомого поза колом.
Zhipu AI, заснований у червні 2019 року, успішно трансформується з технології Лабораторії інженерії знань (KEG) кафедри комп'ютерних наук Університету Цінхуа.
Основними членами команди є майже всі родові лінії Цінхуа, серед них генеральний директор Чжан Пен закінчив факультет комп'ютерних наук Університету Цінхуа та є лідером інновацій Університету Цінхуа у 2018 році зі ступенем доктора технічних наук.
У KEG Lab команда в основному досліджувала, як застосовувати машинне навчання, інтелектуальний аналіз даних, графи знань тощо в інженерній практиці, і почала навчати моделі штучного інтелекту в 2017 році.
З тих пір вся компанія повністю займається розробкою великих моделей мовного попереднього навчання. На шляху до великих моделей OpenAI обрала GPT, Google – BERT, а Zhipu – GLM (General Language Model).
Майже всі пізніші історії оберталися навколо унікальної архітектури попереднього навчання GLM Zhipu:
У 2022 році Чжіпу та Цінхуа співпрацювали для розробки двомовної моделі GLM-130B на 100 мільярдів, використовуючи її як основу**, і почали будувати велику модельну платформу та матрицю продукту.
У 2023 році Zhipu вживатиме дуже частих дій, починаючи із запуску діалогової моделі ChatGLM і моделі однокарткової версії з відкритим вихідним кодом ChatGLM-6B, за якою слідуватиме візуальна модель Visual-6B, модель коду кодової моделі CodeGeeX2, математична модель MathGLM, мультимодальна модель CogVLM-17B і серія AgentLM моделі AgentLM, і всі вони мають відкритий вихідний код.
31 серпня цього року Чжипу Цінянь, генеративний помічник штучного інтелекту, заснований на китайсько-англійській моделі двомовного діалогу ChatGLM2, став одним із перших 11 великомодельних продуктів, які полетіли в будинки звичайних людей через подачу.
Можна сказати, що в останні роки головне Zhipu в області великих моделей - дуже чітко, тобто трамбувати фундамент (базову модель) однією рукою, а потім будувати на фундаменті різні модальні і функціональні будівлі.
Звичайно, це не єдина причина.
На додаток до сервісних можливостей і супутніх можливостей отримання доходу, Zhipu також має сильну команду талантів і технічну силу.
Як згадувалося вище, Чжипу народився з Цінхуа, і ** «Департамент Цінхуа» став престижним лейблом у цій галузі**.
Причина в тому, що комп'ютерний відділ Цінхуа раніше присвятив себе дослідженню великих моделей, має багаторічний досвід і виростив багато талантів - гравці, яких зараз можна назвати на ринку, представлені Zhipu, а також темною стороною Місяця, Shenyan Technology, першокласними технологіями, Baichuan Intelligence, Face Wall Intelligence, Yuanyuan Technology, Shengshu Technology і т.д., - все це родоводи Цінхуа.
Кількість цитувань їхніх опублікованих статей і можливість перевірки опублікованих моделей є вагомим доказом цього «визнаного ярлика».
Більше того, згідно з публічною інформацією, Zhipu є єдиним великим модельним підприємством, що фінансується всередині країни та розробляється всередині країни.
Такий досвід компанії змушує Zhipu мати власну підготовку та стратегію в нескінченних дискусіях та суперечках про «безпеку моделей, безпеку даних та безпеку контенту».
Повідомляється, що для співпраці з розробкою вітчизняних графічних процесорів Zhipu зараз розробляє план адаптації вітчизняних чіпів універсальної мовної моделі GLM.
Зокрема, він полягає у співпраці з вітчизняними виробниками обчислювальних мікросхем для адаптації алгоритмів моделей та адаптації вітчизняних чіпів на стороні алгоритму, і існує близько 10 видів вітчизняних чіпів, які можна адаптувати.
** Зібравши стільки грошей, що робити далі? **
Наведений вище табель успішності та унікальність, можливо, стали ключовою причиною, чому Zhipu був дуже оптимістичним і виділявся на всьому шляху.
Однак, оскільки він дуже сприятливий, спектр мудрості, який накопичив достатній капітал, також демонструє рішучість побудувати довгострокову конкурентоспроможність.
Залучивши 2,5 мільярда юанів фінансування протягом 10 місяців, Zhipu AI офіційно заявив:
Ядро зводиться до двох аспектів:
Має бути і глибина, і ширина.
**Перш за все, зробіть базу моделі більшою та міцнішою, а також «розвивайте» базову велику модель. **
В даний час великою моделлю, яку Zhipu вважає базовою, є двомовна двонаправлена щільна модель GLM-130B, випущена в 2021 році, з 130 мільярдами параметрів.
У той час через багато обмежень, таких як технології, дані та обчислювальна потужність, навчання великої моделі з такою кількістю параметрів було достатньо, щоб бути лисим, але результати були чудовими, і GLM-130B показав себе краще, ніж GPT-3 і PaLM.
Однак сьогодні попит, викликаний даними та модальним зростанням, гігантом у 130 мільярдів параметрів у минулому, здається трохи недостатнім.
Остання новина від Qubit полягає в тому, що цієї п'ятниці (27 жовтня) на Zhipu чекає нова акція - випуск нового покоління великих моделей тумб. **
Коли справа доходить до конкретних дій, ми не повинні бути в змозі обійти послідовний принцип спектру мудрості: безперервний відкритий вихідний код.
Ця компанія завжди була одним із найвідкритіших гравців у сфері великих моделей, ще в епоху до ChatGPT вона була прозорою та відкритою разом із Baidu (ERNIE2.0), Ali (AliceMind), Zhiyuan (Qingyuan CPM), Lanzhou (Menzius Big Model) та іншими.
Дивлячись на ранній звіт GLM Zhipu, там є слова: «Ми запрошуємо всіх приєднатися до його відкритої спільноти, щоб сприяти розробці великомасштабних попередньо навчених моделей». Зараз компанія все ще використовує відкритий вихідний код, щоб подружитися з розробниками та користувачами галузі.
Ця звичка зберігається і донині.
У поєднанні з поточними даними ми можемо більш чітко побачити, як Zhipu наполягає на відкритому вихідному коді і які поетапні результати були отримані:
Спільнота розробників, ChatGLM-6B зайняв перше місце в списку трендів через чотири тижні після запуску, із загальною кількістю завантажень понад 10 мільйонів, а GitHub отримав 5w+.
З іншого боку, на офіційному сайті Zhipu перераховані ** партнери для створення екологічного середовища, «69 країн, 1000+ науково-дослідних установ». Крім того, кубіти були перевірені, з більш ніж 1 000 клієнтами та 200-300 екосистемами з відкритим вихідним кодом.
Серед них п'єдестал великої моделі займає центральне місце в екології великої моделі завдяки своїй фундаментності та універсальності. Щоб зрозуміти це, неважко зрозуміти переваги та необхідність Жипу, який прагне розширити екологію та коло друзів.
Велике модельне підприємництво, крокуючи в переломний момент
Наприкінці листопада минулого року OpenAI відправила ChatGPT у світ. Відразу після цього тенденція великих модельних технологій запускала хвилю за хвилею з безпрецедентною швидкістю.
Інтуїтивно зрозумілі дані вражають, а швидкість презентації вражає.
Сотні мільйонів активностей користувачів, мільярди доходів, десятки мільярдів оцінок... Велика модель захоплює світ, не говорячи про бойову чесноту, і всі дивляться і досліджують, думаючи про те, наскільки широкі межі цієї технології штучного інтелекту можуть досліджувати, і як продукти, які вона підтримує, можуть проявляти силу технологій?
Як наслідок, за кордоном є такі першопрохідці, як OpenAI та Anthropic, а в Китаї є десятки мільярдів єдинорогів, таких як Zhipu AI та MiniMax.
Попереду перлинний нефрит, деякі технічні та інженерні проблеми не можна перемотати вперед і пропустити, а потім і зоряний склад, а потім і астрономічне фінансування, поки ви йдете дорогою великих моделей, ви повинні випробувати це на собі.
Завдання складне, але претенденти раді наслідувати його приклад.
Сьогодні, майже рік потому, ми є свідками розвитку технологій великих моделей і того, як інновації та конкуренція формують цю сферу.
Що видно більш наочно, так це те, що **-гігант дограв початковий слот для карт, стартап-компанія почала тасувати, і з'явився перший етапний патерн. **
Правильно, компанія не може зробити все в межах можливостей великої моделі, але квитки на загальну велику модель настільки обмежені, що гравці, які не мають можливості її отримати, починають відволікатися: або йти на спец, або робити індустріальну модель; Або відмовитися від модельного шару, щоб почати бізнес, почати стояти на плечах інших моделей, і перейти на середній шар, прикладний шар...
Велике модельне підприємництво вступає в переломний момент.
Ефект Матвія в промисловості посилюється. Загальна сума капіталу обмежена, тим цінніше буде виглядати компанія, а найкращі та найбільші ресурси будуть спрямовані на коня з найбільшим потенціалом.
На ринку капіталу єдиним недоліком дорогих компаній є те, що вони дорогі, а єдиною перевагою дешевих компаній є те, що вони дешеві.
Перша половина великого модельного підприємництва добігає кінця.