Microsoft амбициозна, и в тот же день, когда Windows 11 полностью поддерживает искусственный интеллект, выяснилось, что она предприняла новые шаги.
25 сентября по местному времени компания Microsoft неожиданно опубликовала на своем официальном сайте объявление о наборе на должность «главного менеджера проекта по ядерным технологиям». Нетрудно заметить, что после Microsoft Cloud Наделла полон огневой мощи при работе с большими моделями.
Но что удивительно, так это то, что от «семейного сегмента Office» до доступа к GPT4, Azure, предоставляющего облачные ресурсы, а затем до недавней комплексной Windows 11 на базе искусственного интеллекта, как раз в тот момент, когда должен был появиться новый Microsoft, почему Microsoft решила также сосредоточить внимание на энергетическом секторе?С чего начать?
Искусственный интеллект и ядерная энергия, Microsoft не отпустит ни одного из них!
На должность «главного менеджера программы по ядерным технологиям», которую набирает Microsoft, поручено возглавить технологическую оценку глобальной интеграции малых модульных реакторов (SMR) и микрореакторов для обеспечения электроэнергией центров обработки данных, где расположены облака Microsoft и искусственный интеллект. «Эта должность будет обеспечивать четкую и адаптируемую дорожную карту для интеграции технологий, тщательно выбирать и управлять технологическими партнерами и решениями, а также постоянно оценивать прогресс и влияние внедрения на бизнес», — говорится в объявлении о вакансии.
Источник: Microsoft
Кроме того, у Microsoft также есть требования к идеальным кандидатам на эту должность: они должны иметь опыт работы в энергетической отрасли и глубоко разбираться в ядерных технологиях и вопросах регулирования. Эта должность также будет отвечать за исследования и разработки других докоммерческих энергетических технологий.
У большой модели «кончилась» Тесла!
У Цзюнь, известный отраслевой эксперт, однажды дал метафору обучения ChatGPT: каждое обучение ChatGPT эквивалентно тому, что 3000 электромобилей Tesla могут совершить 21-летнее путешествие за один месяц, и по сути все они бесполезны. Это описание не является преувеличением.
Согласно «Отчету об индексе искусственного интеллекта 2023 года», опубликованному Стэнфордским институтом искусственного интеллекта (HAI), мощности, необходимой для обучения GPT3, достаточно, чтобы продержаться средней американской семье в течение сотен лет. По оценкам Guosheng Securities, стоимость обучения GPT-3 достигает $1,4 млн. Для некоторых более крупных LLM (больших языковых моделей) стоимость обучения составляет от $2 до $12 млн.
Источник данных: Luccioni et al.
«60% затрат на обучение крупных моделей приходится на электроэнергию.» Тянь Ци, главный научный сотрудник Huawei AI, также выразил обеспокоенность по поводу проблемы с электропитанием, полагая, что снижение затрат и повышение эффективности энергопотребления являются неотложными. Если большие модели будут популяризированы, а серверы будут быстро работать по всему миру, я боюсь, что это не сожжет землю.
Неудивительно, что основатель OpenAI заявил на мероприятии в понедельник, что для GPT сейчас основное внимание уделяется «снижению затрат и повышению надежности», а не спешке с запуском GPT-5.
Чтобы сэкономить электроэнергию, боссы Кремниевой долины мыслят масштабно
Давайте сначала посмотрим на Microsoft. В настоящее время Microsoft нацелилась на ядерную энергетику. Возможно, вы не знаете, что у Билла Гейтса есть еще одна личность: он является председателем компании ядерных инноваций TerraPower, которая разрабатывает и продвигает конструкции небольших модульных реакторов. Однако представитель TerraPower заявил: «В настоящее время нет соглашения о продаже реакторов Microsoft».
По данным Управления энергетической информации США, существующие ядерные реакторы в США в настоящее время производят около 18% всей электроэнергии, вырабатываемой в США. Надежды на следующее поколение технологий ядерных реакторов во многом связаны с небольшими ядерными реакторами.
Как следует из названия, небольшие ядерные реакторы меньше традиционных реакторов, их дешевле и быстрее строить, поскольку они имеют модульную структуру, и не каждую часть реактора нужно изготавливать по индивидуальному заказу.
Кроме того, Microsoft публично взяла на себя обязательство добиваться развития ядерной энергетики от новаторов в области ядерного синтеза. В мае этого года Microsoft объявила, что подписала соглашение о покупке электроэнергии со стартапом ядерного синтеза Helion, чтобы закупать электроэнергию у Helion в 2028 году. Так получилось, что генеральный директор OpenAI Сэм Альтман также был важным ранним инвестором Helion.
Кроме того, знаменитый «Железный человек Кремниевой долины» Маск также рассматривал энергетику. В апреле ходили слухи, что Маск и Безос готовятся объединить усилия для обучения супербольшой модели. Чтобы сэкономить охлаждение и потребление энергии, они фактически предложили план «космического центра обработки данных», отправив в космос 50 000 карт NVIDIA H100 с помощью SpaceX и взяв с собой огромное количество солнечных панелей, надеясь использовать силу космоса для решения проблемы. проблема с электричеством Проблема. Однако некоторые эксперты проанализировали, что это решение ненадежно.В настоящее время система питания спутниковых солнечных панелей обычно имеет мощность всего 1200 Вт.И мощность, и стоимость не так хороши, как наземные решения.
Конечно, есть другое, более надежное решение, заключающееся в оптимизации энергопотребления самого чипа. Логика такого управления энергопотреблением заключается в том, что в дата-центре имеется несколько чипов, и каждый чип имеет миллиарды или даже десятки миллиардов транзисторов. Один транзистор эквивалентен одной единице потребления электроэнергии. Отсюда можно предположил, что размер ногтя составляет Чип представляет собой крупномасштабную энергетическую сеть. Если можно оптимизировать энергопотребление каждого транзистора, конечная экономия энергии может распространиться на весь центр обработки данных.
Synopsys, ведущая в мире компания EDA, активно изучает эту область: еще 7 лет назад она запустила проект под названием «Energy Efficiency Design», призванный максимизировать энергоэффективность чипа.
Microsoft, просто хотите решить проблему энергопотребления?
Этот шаг Microsoft обусловлен не только ставкой на искусственный интеллект и источник мощности центров обработки данных, но и по другим причинам.
По данным зарубежных СМИ TheVerge, Билл Гейтс всегда был преданным поклонником атомной энергетики, поскольку ядерная энергетика не производит выбросов парниковых газов и может сыграть определенную роль в борьбе с изменением климата.
Кроме того, проблема энергопотребления крупных моделей не так серьезна, как предполагалось. Старший аналитик откровенно заявил, что рынку не стоит слишком беспокоиться об энергопотреблении крупных моделей. «Многие люди игнорируют тот факт, что потребность в вычислительной мощности для больших моделей неизбежно будет постепенно снижаться в будущем, а значит, соответственно снизится и энергопотребление».
Например, DeepSpeed-Chat с открытым исходным кодом от Microsoft, вышедший 12 апреля, полностью иллюстрирует эту точку зрения. Он может увеличить скорость обучения более чем в 15 раз и значительно снизить стоимость вычислительных мощностей. Один только графический процессор может поддерживать модель ChatGPT с 13 миллиардами параметров, а время обучения занимает всего 1,25 часа.
Наконец, можно лишь сказать, что, как только механизм перемен запущен, повернуть вспять будет трудно. Инвестиции Microsoft в искусственный интеллект на этот раз превосходят все ожидания отрасли.
Справочные ссылки:
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Сделайте ставку на ядерную энергетику! Microsoft полна решимости снабжать большие модели новыми «боеприпасами»!
Источник丨Технологический стек 51CTO
Написано Юн Чжао
Microsoft амбициозна, и в тот же день, когда Windows 11 полностью поддерживает искусственный интеллект, выяснилось, что она предприняла новые шаги.
25 сентября по местному времени компания Microsoft неожиданно опубликовала на своем официальном сайте объявление о наборе на должность «главного менеджера проекта по ядерным технологиям». Нетрудно заметить, что после Microsoft Cloud Наделла полон огневой мощи при работе с большими моделями.
Но что удивительно, так это то, что от «семейного сегмента Office» до доступа к GPT4, Azure, предоставляющего облачные ресурсы, а затем до недавней комплексной Windows 11 на базе искусственного интеллекта, как раз в тот момент, когда должен был появиться новый Microsoft, почему Microsoft решила также сосредоточить внимание на энергетическом секторе?С чего начать?
Искусственный интеллект и ядерная энергия, Microsoft не отпустит ни одного из них!
На должность «главного менеджера программы по ядерным технологиям», которую набирает Microsoft, поручено возглавить технологическую оценку глобальной интеграции малых модульных реакторов (SMR) и микрореакторов для обеспечения электроэнергией центров обработки данных, где расположены облака Microsoft и искусственный интеллект. «Эта должность будет обеспечивать четкую и адаптируемую дорожную карту для интеграции технологий, тщательно выбирать и управлять технологическими партнерами и решениями, а также постоянно оценивать прогресс и влияние внедрения на бизнес», — говорится в объявлении о вакансии.
Кроме того, у Microsoft также есть требования к идеальным кандидатам на эту должность: они должны иметь опыт работы в энергетической отрасли и глубоко разбираться в ядерных технологиях и вопросах регулирования. Эта должность также будет отвечать за исследования и разработки других докоммерческих энергетических технологий.
У большой модели «кончилась» Тесла!
У Цзюнь, известный отраслевой эксперт, однажды дал метафору обучения ChatGPT: каждое обучение ChatGPT эквивалентно тому, что 3000 электромобилей Tesla могут совершить 21-летнее путешествие за один месяц, и по сути все они бесполезны. Это описание не является преувеличением.
Согласно «Отчету об индексе искусственного интеллекта 2023 года», опубликованному Стэнфордским институтом искусственного интеллекта (HAI), мощности, необходимой для обучения GPT3, достаточно, чтобы продержаться средней американской семье в течение сотен лет. По оценкам Guosheng Securities, стоимость обучения GPT-3 достигает $1,4 млн. Для некоторых более крупных LLM (больших языковых моделей) стоимость обучения составляет от $2 до $12 млн.
«60% затрат на обучение крупных моделей приходится на электроэнергию.» Тянь Ци, главный научный сотрудник Huawei AI, также выразил обеспокоенность по поводу проблемы с электропитанием, полагая, что снижение затрат и повышение эффективности энергопотребления являются неотложными. Если большие модели будут популяризированы, а серверы будут быстро работать по всему миру, я боюсь, что это не сожжет землю.
Неудивительно, что основатель OpenAI заявил на мероприятии в понедельник, что для GPT сейчас основное внимание уделяется «снижению затрат и повышению надежности», а не спешке с запуском GPT-5.
Чтобы сэкономить электроэнергию, боссы Кремниевой долины мыслят масштабно
Давайте сначала посмотрим на Microsoft. В настоящее время Microsoft нацелилась на ядерную энергетику. Возможно, вы не знаете, что у Билла Гейтса есть еще одна личность: он является председателем компании ядерных инноваций TerraPower, которая разрабатывает и продвигает конструкции небольших модульных реакторов. Однако представитель TerraPower заявил: «В настоящее время нет соглашения о продаже реакторов Microsoft».
По данным Управления энергетической информации США, существующие ядерные реакторы в США в настоящее время производят около 18% всей электроэнергии, вырабатываемой в США. Надежды на следующее поколение технологий ядерных реакторов во многом связаны с небольшими ядерными реакторами.
Как следует из названия, небольшие ядерные реакторы меньше традиционных реакторов, их дешевле и быстрее строить, поскольку они имеют модульную структуру, и не каждую часть реактора нужно изготавливать по индивидуальному заказу.
Кроме того, Microsoft публично взяла на себя обязательство добиваться развития ядерной энергетики от новаторов в области ядерного синтеза. В мае этого года Microsoft объявила, что подписала соглашение о покупке электроэнергии со стартапом ядерного синтеза Helion, чтобы закупать электроэнергию у Helion в 2028 году. Так получилось, что генеральный директор OpenAI Сэм Альтман также был важным ранним инвестором Helion.
Кроме того, знаменитый «Железный человек Кремниевой долины» Маск также рассматривал энергетику. В апреле ходили слухи, что Маск и Безос готовятся объединить усилия для обучения супербольшой модели. Чтобы сэкономить охлаждение и потребление энергии, они фактически предложили план «космического центра обработки данных», отправив в космос 50 000 карт NVIDIA H100 с помощью SpaceX и взяв с собой огромное количество солнечных панелей, надеясь использовать силу космоса для решения проблемы. проблема с электричеством Проблема. Однако некоторые эксперты проанализировали, что это решение ненадежно.В настоящее время система питания спутниковых солнечных панелей обычно имеет мощность всего 1200 Вт.И мощность, и стоимость не так хороши, как наземные решения.
Synopsys, ведущая в мире компания EDA, активно изучает эту область: еще 7 лет назад она запустила проект под названием «Energy Efficiency Design», призванный максимизировать энергоэффективность чипа.
Microsoft, просто хотите решить проблему энергопотребления?
Этот шаг Microsoft обусловлен не только ставкой на искусственный интеллект и источник мощности центров обработки данных, но и по другим причинам.
По данным зарубежных СМИ TheVerge, Билл Гейтс всегда был преданным поклонником атомной энергетики, поскольку ядерная энергетика не производит выбросов парниковых газов и может сыграть определенную роль в борьбе с изменением климата.
Кроме того, проблема энергопотребления крупных моделей не так серьезна, как предполагалось. Старший аналитик откровенно заявил, что рынку не стоит слишком беспокоиться об энергопотреблении крупных моделей. «Многие люди игнорируют тот факт, что потребность в вычислительной мощности для больших моделей неизбежно будет постепенно снижаться в будущем, а значит, соответственно снизится и энергопотребление».
Например, DeepSpeed-Chat с открытым исходным кодом от Microsoft, вышедший 12 апреля, полностью иллюстрирует эту точку зрения. Он может увеличить скорость обучения более чем в 15 раз и значительно снизить стоимость вычислительных мощностей. Один только графический процессор может поддерживать модель ChatGPT с 13 миллиардами параметров, а время обучения занимает всего 1,25 часа.
Наконец, можно лишь сказать, что, как только механизм перемен запущен, повернуть вспять будет трудно. Инвестиции Microsoft в искусственный интеллект на этот раз превосходят все ожидания отрасли.
Справочные ссылки: