Microsoft est ambitieux et le jour même où Windows 11 est entièrement compatible avec l'IA, il est révélé qu'il a pris de nouvelles mesures.
Le 25 septembre, heure locale, Microsoft a soudainement publié un message de recrutement pour le poste de « Chef de projet en technologie nucléaire » sur son site officiel. Il n'est pas difficile de constater qu'après Microsoft Cloud, Nadella est pleine de puissance de feu lorsqu'il s'agit de grands modèles.
Mais ce qui est surprenant, c'est que depuis l'accès « Office Family Bucket » à GPT4, Azure fournissant des ressources cloud, jusqu'au récent Windows 11 complet basé sur l'IA, juste au moment où le nouveau Microsoft est sur le point d'émerger, pourquoi Microsoft a-t-il décidé de se concentrer également sur Le secteur de l’énergie : par où commencer ?
Intelligence artificielle et énergie nucléaire, Microsoft ne lâche rien !
Le poste de « Responsable de programme principal pour la technologie nucléaire » que Microsoft recrute est chargé de diriger l'évaluation technologique de l'intégration mondiale des petits réacteurs modulaires (SMR) et des microréacteurs pour fournir de l'énergie aux centres de données où se trouvent le cloud et l'IA de Microsoft. "Ce poste maintiendra une feuille de route claire et adaptable pour l'intégration technologique, sélectionnera et gérera soigneusement les partenaires et les solutions technologiques, et évaluera en permanence les progrès et l'impact commercial de la mise en œuvre", indique l'offre d'emploi.
Source : Microsoft
En outre, Microsoft a également des exigences en matière de candidats idéaux pour ce poste : ils doivent avoir une expérience dans le secteur de l'énergie et une compréhension approfondie de la technologie nucléaire et des affaires réglementaires. Ce poste sera également responsable de la recherche et du développement d’autres technologies énergétiques précommerciales.
Le grand modèle "manque" de Tesla !
Wu Jun, un expert bien connu du secteur, a un jour donné une métaphore de la formation ChatGPT : chaque formation ChatGPT équivaut à permettre à 3 000 voitures électriques Tesla d'effectuer un voyage de 21 ans en un mois, et fondamentalement, elles sont toutes inutiles. Cette description n'est pas une exagération.
Selon le « 2023 Artificial Intelligence Index Report » publié par le Stanford Artificial Intelligence Institute (HAI), la puissance requise pour entraîner GPT3 est suffisante pour durer des centaines d'années dans une famille américaine moyenne. Selon les estimations de Guosheng Securities, le coût de formation unique de GPT-3 s'élève à 1,4 million de dollars. Pour certains LLM (grands modèles de langage) plus importants, le coût de formation se situe entre 2 et 12 millions de dollars.
Source des données : Luccioni et al.
"60 % du coût de la formation des grands modèles est dû à l'électricité." Tian Qi, scientifique en chef de Huawei AI, a également exprimé son inquiétude quant à la question de l'énergie, estimant qu'il était urgent de réduire les coûts et d'améliorer l'efficacité de l'énergie. Si les grands modèles sont popularisés et que les serveurs fonctionnent rapidement dans le monde entier, je crains que cela ne brûle pas la terre.
Il n’est pas étonnant que le fondateur d’OpenAI ait déclaré lundi lors d’un événement que pour GPT, l’accent est désormais mis sur « la réduction des coûts et l’amélioration de la fiabilité » plutôt que de se précipiter pour lancer GPT-5.
Pour économiser l'énergie, les patrons de la Silicon Valley voient grand
Regardons d'abord Microsoft. À l'heure actuelle, Microsoft vise l'énergie nucléaire. Vous ne savez peut-être pas que Bill Gates a également une autre identité, celle de président de la société d'innovation nucléaire TerraPower, qui développe et promeut des modèles de petits réacteurs modulaires. Cependant, un porte-parole de TerraPower a déclaré : « Il n'y a actuellement aucun accord pour vendre des réacteurs à Microsoft ».
Selon l’Energy Information Administration des États-Unis, les réacteurs nucléaires existants aux États-Unis génèrent actuellement environ 18 % de l’électricité totale produite aux États-Unis. Les espoirs concernant la prochaine génération de technologies de réacteurs nucléaires reposent en grande partie sur les petits réacteurs nucléaires.
Comme leur nom l'indique, les petits réacteurs nucléaires sont plus petits que les réacteurs traditionnels et sont moins chers et plus rapides à construire car ils sont conçus avec une structure modulaire et toutes les parties du réacteur n'ont pas besoin d'être fabriquées sur mesure.
En outre, Microsoft s'est publiquement engagé à poursuivre l'énergie nucléaire auprès des innovateurs dans le domaine de la fusion nucléaire. En mai de cette année, Microsoft a annoncé avoir signé un accord d'achat d'électricité avec la startup de fusion nucléaire Helion pour acheter de l'électricité à Helion en 2028. Il se trouve que Sam Altman, PDG d’OpenAI, a également été l’un des premiers investisseurs importants dans Helion.
En outre, le célèbre « Iron Man de la Silicon Valley » Musk a également pensé à l’énergie. Des rumeurs ont circulé en avril selon lesquelles Musk et Bezos s'apprêtaient à unir leurs forces pour former un très grand modèle. Afin d'économiser la réfrigération et la consommation d'énergie, les deux ont en fait proposé un plan de « centre de données spatial », envoyant 50 000 cartes NVIDIA H100 dans l'espace par SpaceX et transportant une énorme quantité de panneaux solaires, dans l'espoir d'utiliser la puissance de l'espace pour résoudre le problème. problème de l'électricité Le problème. Cependant, certains experts ont analysé que cette solution n'est pas fiable. À l'heure actuelle, le système d'alimentation électrique des panneaux solaires des satellites n'a généralement qu'une puissance de 1 200 W. L'alimentation électrique et le coût ne sont pas aussi bons que les solutions au sol.
Bien entendu, il existe une autre solution plus fiable, qui consiste à optimiser la consommation énergétique de la puce elle-même. La logique de ce type de gestion de la consommation d'énergie est qu'il y a plusieurs puces dans le centre de données, et chaque puce contient des milliards, voire des dizaines de milliards de transistors. Un transistor équivaut à une unité de consommation électrique. À partir de là, il peut être déduit que la taille d'un ongle est La puce est un réseau énergétique à grande échelle. Si la consommation d'énergie de chaque transistor peut être optimisée, les économies d'énergie finales peuvent se répercuter sur l'ensemble du centre de données.
Synopsys, le leader mondial de l'EDA, explore davantage ce domaine : il y a 7 ans déjà, elle a lancé un projet appelé « Energy Efficiency Design » pour maximiser l'efficacité énergétique de la puce.
Microsoft, vous voulez juste résoudre le problème de consommation d'énergie ?
La décision de Microsoft n'est pas seulement due à son pari sur l'IA et la source d'énergie du centre de données, mais aussi pour d'autres raisons.
Selon le média étranger TheVerge, Bill Gates a toujours été un fidèle partisan de l'énergie nucléaire car l'énergie nucléaire ne produit pas d'émissions de gaz à effet de serre et peut jouer un certain rôle dans la lutte contre le changement climatique.
De plus, le problème de consommation d'énergie des grands modèles n'est pas aussi grave qu'on l'imagine. Un analyste principal a déclaré franchement que le marché n'avait pas besoin de trop s'inquiéter de la consommation d'énergie des grands modèles. "Beaucoup de gens ignorent le fait que la demande en puissance de calcul pour les grands modèles diminuera inévitablement progressivement à l'avenir, ce qui signifie que la consommation d'énergie diminuera également en conséquence."
Par exemple, le DeepSpeed-Chat open source de Microsoft du 12 avril illustre pleinement ce point : il peut multiplier par plus de 15 la vitesse de formation et réduire considérablement le coût de la puissance de calcul. Un seul GPU peut prendre en charge à lui seul un modèle de type ChatGPT avec 13 milliards de paramètres, et le temps de formation ne prend que 1,25 heure.
Enfin, on peut seulement dire qu’une fois la vitesse du changement enclenchée, il est difficile de revenir en arrière. L'investissement de Microsoft dans l'IA dépasse cette fois l'imagination de l'industrie.
Liens de référence :
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
Misez sur le nucléaire ! Microsoft est déterminé à alimenter les grands modèles en nouvelles « munitions » !
Source丨Pile technologique 51CTO
Écrit par Yun Zhao
Microsoft est ambitieux et le jour même où Windows 11 est entièrement compatible avec l'IA, il est révélé qu'il a pris de nouvelles mesures.
Le 25 septembre, heure locale, Microsoft a soudainement publié un message de recrutement pour le poste de « Chef de projet en technologie nucléaire » sur son site officiel. Il n'est pas difficile de constater qu'après Microsoft Cloud, Nadella est pleine de puissance de feu lorsqu'il s'agit de grands modèles.
Mais ce qui est surprenant, c'est que depuis l'accès « Office Family Bucket » à GPT4, Azure fournissant des ressources cloud, jusqu'au récent Windows 11 complet basé sur l'IA, juste au moment où le nouveau Microsoft est sur le point d'émerger, pourquoi Microsoft a-t-il décidé de se concentrer également sur Le secteur de l’énergie : par où commencer ?
Intelligence artificielle et énergie nucléaire, Microsoft ne lâche rien !
Le poste de « Responsable de programme principal pour la technologie nucléaire » que Microsoft recrute est chargé de diriger l'évaluation technologique de l'intégration mondiale des petits réacteurs modulaires (SMR) et des microréacteurs pour fournir de l'énergie aux centres de données où se trouvent le cloud et l'IA de Microsoft. "Ce poste maintiendra une feuille de route claire et adaptable pour l'intégration technologique, sélectionnera et gérera soigneusement les partenaires et les solutions technologiques, et évaluera en permanence les progrès et l'impact commercial de la mise en œuvre", indique l'offre d'emploi.
En outre, Microsoft a également des exigences en matière de candidats idéaux pour ce poste : ils doivent avoir une expérience dans le secteur de l'énergie et une compréhension approfondie de la technologie nucléaire et des affaires réglementaires. Ce poste sera également responsable de la recherche et du développement d’autres technologies énergétiques précommerciales.
Le grand modèle "manque" de Tesla !
Wu Jun, un expert bien connu du secteur, a un jour donné une métaphore de la formation ChatGPT : chaque formation ChatGPT équivaut à permettre à 3 000 voitures électriques Tesla d'effectuer un voyage de 21 ans en un mois, et fondamentalement, elles sont toutes inutiles. Cette description n'est pas une exagération.
Selon le « 2023 Artificial Intelligence Index Report » publié par le Stanford Artificial Intelligence Institute (HAI), la puissance requise pour entraîner GPT3 est suffisante pour durer des centaines d'années dans une famille américaine moyenne. Selon les estimations de Guosheng Securities, le coût de formation unique de GPT-3 s'élève à 1,4 million de dollars. Pour certains LLM (grands modèles de langage) plus importants, le coût de formation se situe entre 2 et 12 millions de dollars.
"60 % du coût de la formation des grands modèles est dû à l'électricité." Tian Qi, scientifique en chef de Huawei AI, a également exprimé son inquiétude quant à la question de l'énergie, estimant qu'il était urgent de réduire les coûts et d'améliorer l'efficacité de l'énergie. Si les grands modèles sont popularisés et que les serveurs fonctionnent rapidement dans le monde entier, je crains que cela ne brûle pas la terre.
Il n’est pas étonnant que le fondateur d’OpenAI ait déclaré lundi lors d’un événement que pour GPT, l’accent est désormais mis sur « la réduction des coûts et l’amélioration de la fiabilité » plutôt que de se précipiter pour lancer GPT-5.
Pour économiser l'énergie, les patrons de la Silicon Valley voient grand
Regardons d'abord Microsoft. À l'heure actuelle, Microsoft vise l'énergie nucléaire. Vous ne savez peut-être pas que Bill Gates a également une autre identité, celle de président de la société d'innovation nucléaire TerraPower, qui développe et promeut des modèles de petits réacteurs modulaires. Cependant, un porte-parole de TerraPower a déclaré : « Il n'y a actuellement aucun accord pour vendre des réacteurs à Microsoft ».
Selon l’Energy Information Administration des États-Unis, les réacteurs nucléaires existants aux États-Unis génèrent actuellement environ 18 % de l’électricité totale produite aux États-Unis. Les espoirs concernant la prochaine génération de technologies de réacteurs nucléaires reposent en grande partie sur les petits réacteurs nucléaires.
Comme leur nom l'indique, les petits réacteurs nucléaires sont plus petits que les réacteurs traditionnels et sont moins chers et plus rapides à construire car ils sont conçus avec une structure modulaire et toutes les parties du réacteur n'ont pas besoin d'être fabriquées sur mesure.
En outre, Microsoft s'est publiquement engagé à poursuivre l'énergie nucléaire auprès des innovateurs dans le domaine de la fusion nucléaire. En mai de cette année, Microsoft a annoncé avoir signé un accord d'achat d'électricité avec la startup de fusion nucléaire Helion pour acheter de l'électricité à Helion en 2028. Il se trouve que Sam Altman, PDG d’OpenAI, a également été l’un des premiers investisseurs importants dans Helion.
En outre, le célèbre « Iron Man de la Silicon Valley » Musk a également pensé à l’énergie. Des rumeurs ont circulé en avril selon lesquelles Musk et Bezos s'apprêtaient à unir leurs forces pour former un très grand modèle. Afin d'économiser la réfrigération et la consommation d'énergie, les deux ont en fait proposé un plan de « centre de données spatial », envoyant 50 000 cartes NVIDIA H100 dans l'espace par SpaceX et transportant une énorme quantité de panneaux solaires, dans l'espoir d'utiliser la puissance de l'espace pour résoudre le problème. problème de l'électricité Le problème. Cependant, certains experts ont analysé que cette solution n'est pas fiable. À l'heure actuelle, le système d'alimentation électrique des panneaux solaires des satellites n'a généralement qu'une puissance de 1 200 W. L'alimentation électrique et le coût ne sont pas aussi bons que les solutions au sol.
Synopsys, le leader mondial de l'EDA, explore davantage ce domaine : il y a 7 ans déjà, elle a lancé un projet appelé « Energy Efficiency Design » pour maximiser l'efficacité énergétique de la puce.
Microsoft, vous voulez juste résoudre le problème de consommation d'énergie ?
La décision de Microsoft n'est pas seulement due à son pari sur l'IA et la source d'énergie du centre de données, mais aussi pour d'autres raisons.
Selon le média étranger TheVerge, Bill Gates a toujours été un fidèle partisan de l'énergie nucléaire car l'énergie nucléaire ne produit pas d'émissions de gaz à effet de serre et peut jouer un certain rôle dans la lutte contre le changement climatique.
De plus, le problème de consommation d'énergie des grands modèles n'est pas aussi grave qu'on l'imagine. Un analyste principal a déclaré franchement que le marché n'avait pas besoin de trop s'inquiéter de la consommation d'énergie des grands modèles. "Beaucoup de gens ignorent le fait que la demande en puissance de calcul pour les grands modèles diminuera inévitablement progressivement à l'avenir, ce qui signifie que la consommation d'énergie diminuera également en conséquence."
Par exemple, le DeepSpeed-Chat open source de Microsoft du 12 avril illustre pleinement ce point : il peut multiplier par plus de 15 la vitesse de formation et réduire considérablement le coût de la puissance de calcul. Un seul GPU peut prendre en charge à lui seul un modèle de type ChatGPT avec 13 milliards de paramètres, et le temps de formation ne prend que 1,25 heure.
Enfin, on peut seulement dire qu’une fois la vitesse du changement enclenchée, il est difficile de revenir en arrière. L'investissement de Microsoft dans l'IA dépasse cette fois l'imagination de l'industrie.
Liens de référence :