Многие из 14 авторов, принимавших участие в исследовании Ламы, ушли.
В феврале этого года Meta «открыла исходный код» новой большой серии моделей — Llama (Large Language Model Meta AI) с количеством параметров от 7 до 65 миллиардов. Несколько месяцев спустя выпуск Llama 2 положил начало коммерциализации больших моделей. Многие люди описывали открытый исходный код Llama 2 как «момент Android» для больших моделей.
Благодаря превосходной производительности моделей серий Llama и Llama 2 многие люди рассматривают их как бесплатную альтернативу с открытым исходным кодом более крупным моделям, таким как ChatGPT. Все хвалят Meta за ее вклад в сообщество открытого исходного кода, но для некоторых ученых и инженеров, участвующих в проекте Llama, эта похвала слишком мала и слишком запоздала.
Как сообщает The Information, люди, знакомые с внутренней ситуацией, рассказали, что многие люди, участвовавшие в проекте Llama, ушли в отставку из-за внутренней борьбы между другой исследовательской командой Meta и командой Llama из-за вычислительных ресурсов.Команда работала над конкурирующей моделью, но по неизвестной причине отказался от него.
Хотя это были инсайдерские разоблачения, их уход является напоминанием о том, что большие и малые технологические компании борются с напряженностью из-за нехватки вычислительных ресурсов, поскольку они разрабатывают генеративные модели искусственного интеллекта, для которых требуются специальные чипы, и эти чипы не предоставляются бесплатно. Крупные технологические компании имеют больше вычислительных ресурсов, чем большинство других, и этот факт подчеркивают некоторые компании, такие как Meta, при найме исследователей ИИ.
Мы видим, что даже крупные компании имеют ограниченные ресурсы. Этот исход также подчеркивает проблемы, с которыми сталкиваются крупные технологические компании при удержании специалистов в области ИИ, поскольку спрос на них растет.
Лама Эта статья "LLaMA: Открытые и эффективные базовые языковые модели" была опубликована в феврале этого года. Авторов 14. Сейчас некоторые из них ушли в отставку. Некоторые из них ушли в новые начинающие компании, а некоторые начали предпринимательство.
Бумажный адрес:
Давайте посмотрим, кто уходит.
Готье Изакар
Готье Изакард начал работать в Meta в 2020 году и покинет Meta в апреле 2023 года, чтобы присоединиться к стартапу Inflection AI в 2022 году.
У Inflection AI богатый опыт: трое ее соучредителей — первоначальный соучредитель DeepMind Мустафа Сулейман, соучредитель Linkedln Рид Хоффман и бывший главный научный сотрудник DeepMind Карен Симоньян. В июне этого года Inflection AI также объявила, что компания привлекла 1,3 миллиарда долларов в рамках нового раунда финансирования, возглавляемого Microsoft, Nvidia, Ридом Хоффманом, Биллом Гейтсом и бывшим генеральным директором Google Эриком Шмидтом.
*Три соучредителя Inflection AI. *
Тимоти Лакруа
Тимоти Лакруа присоединился к Facebook AI Research Lab в 2015 году в качестве инженера-исследователя. В июне 2023 года он покинет Meta (Facebook) и присоединится к французскому стартапу Mistral AI в качестве технического директора (CTO).
Арман Жулен
Арман Жулен получил докторскую степень в 2012 году в INRIA и ENS. В 2014 году Арман Жулен присоединился к компании Meta и последовательно занимал должности научного сотрудника, старшего менеджера по исследованиям и директора по исследованиям. До прихода в Meta Арманд был научным сотрудником Стэнфордского университета, работая с Дафной Коллер и Фейфей Ли. В мае 2023 года Арман Жулен ушел из «Меты».
Гийом Лампле
Гийом Лампле сейчас является соучредителем и главным научным сотрудником Mistral AI. Он покинул Мету в марте этого года, проработав здесь более шести лет. Его предыдущая должность в Мете была научным сотрудником.
Гийом Лампле окончил Университет Карнеги-Меллон со степенью магистра и степень доктора философии Университета Париж VI.
Наконец, мы хотели бы представить стартап-компанию Mistral AI, созданную в мае этого года. Агентство в основном занимается исследованием и разработкой моделей генеративного искусственного интеллекта, конкурирующих с OpenAI. В число соучредителей входят Артур МЕНШ (и генеральный директор), Гийом Лампле (и главный научный сотрудник) и Тимоти Лакруа в качестве главного технического директора.
По данным Techcrunch, они планируют выпустить первую текстовую генеративную модель искусственного интеллекта в 2024 году. В июне этого года компания Mistral AI, созданная всего 4 недели назад, получила начальное финансирование в размере 113 миллионов долларов США.
Гийом Лампле и Тимоти Лакруа были представлены ранее. В качестве генерального директора Артур МЕНШ ранее более 2 лет работал в компании DeepMind (теперь объединенной с Google DeepMind) и участвовал в исследовании модели визуального языка Flamingo.
Рекомендации:
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Meta подверглась ожесточенной борьбе за вычислительные ресурсы, и многие авторы Llama ушли в отставку.
Редакторы: Сяочжоу, Чэнь Пин
В феврале этого года Meta «открыла исходный код» новой большой серии моделей — Llama (Large Language Model Meta AI) с количеством параметров от 7 до 65 миллиардов. Несколько месяцев спустя выпуск Llama 2 положил начало коммерциализации больших моделей. Многие люди описывали открытый исходный код Llama 2 как «момент Android» для больших моделей.
Благодаря превосходной производительности моделей серий Llama и Llama 2 многие люди рассматривают их как бесплатную альтернативу с открытым исходным кодом более крупным моделям, таким как ChatGPT. Все хвалят Meta за ее вклад в сообщество открытого исходного кода, но для некоторых ученых и инженеров, участвующих в проекте Llama, эта похвала слишком мала и слишком запоздала.
Как сообщает The Information, люди, знакомые с внутренней ситуацией, рассказали, что многие люди, участвовавшие в проекте Llama, ушли в отставку из-за внутренней борьбы между другой исследовательской командой Meta и командой Llama из-за вычислительных ресурсов.Команда работала над конкурирующей моделью, но по неизвестной причине отказался от него.
Хотя это были инсайдерские разоблачения, их уход является напоминанием о том, что большие и малые технологические компании борются с напряженностью из-за нехватки вычислительных ресурсов, поскольку они разрабатывают генеративные модели искусственного интеллекта, для которых требуются специальные чипы, и эти чипы не предоставляются бесплатно. Крупные технологические компании имеют больше вычислительных ресурсов, чем большинство других, и этот факт подчеркивают некоторые компании, такие как Meta, при найме исследователей ИИ.
Мы видим, что даже крупные компании имеют ограниченные ресурсы. Этот исход также подчеркивает проблемы, с которыми сталкиваются крупные технологические компании при удержании специалистов в области ИИ, поскольку спрос на них растет.
Лама Эта статья "LLaMA: Открытые и эффективные базовые языковые модели" была опубликована в феврале этого года. Авторов 14. Сейчас некоторые из них ушли в отставку. Некоторые из них ушли в новые начинающие компании, а некоторые начали предпринимательство.
Давайте посмотрим, кто уходит.
Готье Изакар
У Inflection AI богатый опыт: трое ее соучредителей — первоначальный соучредитель DeepMind Мустафа Сулейман, соучредитель Linkedln Рид Хоффман и бывший главный научный сотрудник DeepMind Карен Симоньян. В июне этого года Inflection AI также объявила, что компания привлекла 1,3 миллиарда долларов в рамках нового раунда финансирования, возглавляемого Microsoft, Nvidia, Ридом Хоффманом, Биллом Гейтсом и бывшим генеральным директором Google Эриком Шмидтом.
Тимоти Лакруа
Арман Жулен
Гийом Лампле
Гийом Лампле окончил Университет Карнеги-Меллон со степенью магистра и степень доктора философии Университета Париж VI.
Наконец, мы хотели бы представить стартап-компанию Mistral AI, созданную в мае этого года. Агентство в основном занимается исследованием и разработкой моделей генеративного искусственного интеллекта, конкурирующих с OpenAI. В число соучредителей входят Артур МЕНШ (и генеральный директор), Гийом Лампле (и главный научный сотрудник) и Тимоти Лакруа в качестве главного технического директора.
Гийом Лампле и Тимоти Лакруа были представлены ранее. В качестве генерального директора Артур МЕНШ ранее более 2 лет работал в компании DeepMind (теперь объединенной с Google DeepMind) и участвовал в исследовании модели визуального языка Flamingo.