L'IA fait rapidement grimper les prix des centres de données : les taux d'inoccupation dans la Silicon Valley sont proches de leurs plus bas historiques et les coûts du cloud computing montent en flèche
Avec la popularité de ChatGPT soutenu par Microsoft au début de l'année, et le lancement rapide de grands modèles de langage (LLM) et de produits concurrents d'intelligence artificielle générative par des concurrents tels que Google et Meta, l'IA semble progresser rapidement dans plus d'aspects de la vie humaine, et la demande correspondante augmente également. .
Ce que l'on sait peu, c'est que l'incendie de l'IA a également entraîné une flambée des coûts des centres de données. Le dernier rapport souligne : "La consommation d'énergie associée à l'exécution de calculs de nombres d'intelligence artificielle devient rapidement un facteur clé de la hausse des coûts des centres de données. ."
La demande croissante d'intelligence artificielle a incité certains opérateurs de centres de données à augmenter les prix des baux commerciaux pour tenir compte du coût supplémentaire d'alimentation et de refroidissement des piles de serveurs informatiques exécutant des charges de travail de plus en plus énergivores.
Selon CBRE Group, l'une des plus grandes sociétés de services immobiliers commerciaux au monde, les clients des centres de données, allant des petites entreprises aux grands fournisseurs de services cloud, consomment actuellement de l'énergie plus rapidement que les opérateurs de centres de données ne peuvent augmenter leur capacité. Les contraintes d'approvisionnement croissantes dues à l'augmentation des cas d'utilisation de l'intelligence artificielle exercent une pression à la hausse sur les prix facturés par les centres de données.
Par exemple, sur le plus grand marché de centres de données au monde avec plus de 275 installations, la Virginie du Nord, aux États-Unis, l'électricité disponible à la location cette année est passée de 46,6 MW il y a un an à 38,4 MW, soit une baisse pouvant atteindre 17,6 %, tandis que l'inventaire global d'électricité La croissance réelle d'une année sur l'autre de 19,5 % à 2 132 MW était principalement due à la consommation d'énergie importante et en augmentation rapide des GPU utilisés pour former des modèles d'IA générative.
De plus, la puissance supplémentaire associée aux besoins de l'IA devra être complétée par des systèmes de refroidissement matériels plus avancés qui sont non seulement énergivores, mais ont également tendance à être plus chers et ont une empreinte plus importante que les refroidisseurs d'air traditionnels, qui font tous partie des systèmes de refroidissement alimentés par l'IA, l'un des moteurs des prix élevés des centres de données.
Dans le même temps, lorsque la demande d'IA est forte, les factures d'électricité payées par les clients des centres de données sont également plus élevées. John Dinsdale, analyste en chef chez Synergy Research Group, une société d'études de marché, a admis que les opérateurs mondiaux de centres de données répercutent les coûts supplémentaires liés à l'exécution des applications d'IA directement sur les clients. **
Selon les statistiques de CB Richard Ellis, au cours des trois premiers mois de cette année, les clients des centres de données du nord de la Virginie aux États-Unis ont payé jusqu'à 140 dollars par kilowatt d'électricité par mois, soit une augmentation de 7,7 % par rapport à 130 dollars il y a un an. Dans la Silicon Valley, où les taux d'inoccupation des centres de données sont désormais à un niveau quasi record de 2,9 %, le prix maximum par kilowatt par mois pour les clients a grimpé à 250 $ par mois, un bond de 43 % par rapport à 175 $ l'année dernière.
Selon les rapports, les applications d'intelligence artificielle consomment plus d'énergie que les logiciels traditionnels car elles sont conçues pour lire de plus grandes quantités de données. Alors qu'un seul modèle d'IA peut consommer des dizaines de milliers de kilowattheures d'électricité en quelques jours, un modèle d'IA génératif peut être 100 fois plus volumineux que les outils d'IA standard. La société d'études de marché Enterprise Technology Research a interrogé environ 500 décideurs informatiques d'entreprise cette année, et plus de la moitié d'entre eux ont déclaré qu'ils prévoyaient d'évaluer, de déployer ou d'investir davantage de ressources dans des technologies d'IA génératives telles que ChatGPT.
Une autre analyse a souligné que, puisque de nombreux fournisseurs de cloud louent également de l'espace dans les centres de données, alors que de plus en plus d'entreprises adoptent l'intelligence artificielle générative, l'augmentation des coûts des centres de données peut entraîner des frais de cloud computing plus élevés. Étant donné que les charges de travail génératives de l'IA nécessitent plus de calcul, cela affectera plus largement l'efficacité énergétique et le système de refroidissement du centre de données, c'est-à-dire que l'impact se fera sentir dans tous les aspects de l'industrie.
Selon l'article de vulgarisation scientifique de Lanyang Technology, l'industrie croit généralement que les centres de données ont une consommation d'énergie élevée et une croissance rapide, et la proportion de la consommation d'énergie de mon pays augmente d'année en année. La consommation énergétique du data center est relativement concentrée, outre les équipements informatiques, les installations auxiliaires telles que les systèmes de réfrigération consomment une part importante de la consommation énergétique :
"L'électricité utilisée par les équipements informatiques est finalement convertie en chaleur, qui doit être évacuée par les centres de données à l'aide d'équipements de refroidissement qui consomment également de l'énergie. En moyenne, les systèmes de refroidissement et les serveurs représentent la majorité de la consommation d'énergie des centres de données, suivis par les équipements de réseau et pilote de stockage."
La consommation d'énergie est également directement liée aux coûts d'exploitation. Selon les prévisions de modélisation du cabinet de conseil Tirias Research, la consommation d'énergie des centres de données sera proche de 4 250 mégawatts d'ici 2028, soit une augmentation de 212 fois par rapport à 2023, et l'infrastructure totale des centres de données plus les coûts d'exploitation pourraient dépasser 76 milliards de dollars américains. .
Cela pourrait être appelé "l'IA générative perturbant le centre de données" car sa croissance remet en question les modèles commerciaux et la rentabilité des services émergents tels que la recherche, la création de contenu et l'automatisation des activités intégrant l'IA générative, à des coûts plus élevés doubler le coût d'exploitation annuel d'Amazon AWS.
Les capacités innovantes rendues possibles par l'IA générative ont un coût élevé en termes de performances de traitement et de consommation d'énergie, a déclaré l'agence. Ainsi, alors que le potentiel de l'IA peut être illimité, la physique et le coût peuvent en fin de compte être les limites.
Afin de réduire les coûts, l'agence a suggéré que des modèles de petits réseaux de neurones hautement optimisés, encore plus simples et plus spécialisés peuvent être utilisés pour réduire les coûts des centres de données en réduisant la taille du modèle dans le cloud et en utilisant des réseaux de paramètres massifs pour une formation rapide de réseaux de neurones plus petits. modélise et déplace complètement les charges de travail hors du cloud, ce qui rend plus rentable la distribution d'applications d'IA génératives à exécuter sur des plates-formes distribuées telles que les smartphones, les PC, les véhicules et les produits XR mobiles :
"Il y a cinq ans, les entreprises ont commencé à tirer la sonnette d'alarme concernant la consommation d'énergie des centres de données lors de la conférence annuelle sur la technologie des semi-conducteurs Hot Chips, lorsqu'il a été prédit que la demande informatique mondiale pourrait dépasser la production mondiale d'électricité d'ici une décennie. C'était avant l'adoption rapide de la technologie générative L'IA , tandis que l'IA générative a le potentiel d'augmenter les demandes de calcul à un rythme encore plus rapide.
Il n'y a pas de repas gratuit - les consommateurs exigeront une meilleure sortie d'IA générative, ce qui compensera les gains d'efficacité et de performance. Les coûts grimperont inévitablement à mesure que l'utilisation des consommateurs augmentera. Décharger l'informatique vers la périphérie et la distribuer à des clients tels que des PC, des smartphones et des appareils XR est un moyen clé de réduire les coûts d'investissement et d'exploitation. "
Voir l'original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
L'IA fait rapidement grimper les prix des centres de données : les taux d'inoccupation dans la Silicon Valley sont proches de leurs plus bas historiques et les coûts du cloud computing montent en flèche
Avec la popularité de ChatGPT soutenu par Microsoft au début de l'année, et le lancement rapide de grands modèles de langage (LLM) et de produits concurrents d'intelligence artificielle générative par des concurrents tels que Google et Meta, l'IA semble progresser rapidement dans plus d'aspects de la vie humaine, et la demande correspondante augmente également. .
Ce que l'on sait peu, c'est que l'incendie de l'IA a également entraîné une flambée des coûts des centres de données. Le dernier rapport souligne : "La consommation d'énergie associée à l'exécution de calculs de nombres d'intelligence artificielle devient rapidement un facteur clé de la hausse des coûts des centres de données. ."
La demande croissante d'intelligence artificielle a incité certains opérateurs de centres de données à augmenter les prix des baux commerciaux pour tenir compte du coût supplémentaire d'alimentation et de refroidissement des piles de serveurs informatiques exécutant des charges de travail de plus en plus énergivores.
Selon CBRE Group, l'une des plus grandes sociétés de services immobiliers commerciaux au monde, les clients des centres de données, allant des petites entreprises aux grands fournisseurs de services cloud, consomment actuellement de l'énergie plus rapidement que les opérateurs de centres de données ne peuvent augmenter leur capacité. Les contraintes d'approvisionnement croissantes dues à l'augmentation des cas d'utilisation de l'intelligence artificielle exercent une pression à la hausse sur les prix facturés par les centres de données.
Par exemple, sur le plus grand marché de centres de données au monde avec plus de 275 installations, la Virginie du Nord, aux États-Unis, l'électricité disponible à la location cette année est passée de 46,6 MW il y a un an à 38,4 MW, soit une baisse pouvant atteindre 17,6 %, tandis que l'inventaire global d'électricité La croissance réelle d'une année sur l'autre de 19,5 % à 2 132 MW était principalement due à la consommation d'énergie importante et en augmentation rapide des GPU utilisés pour former des modèles d'IA générative.
De plus, la puissance supplémentaire associée aux besoins de l'IA devra être complétée par des systèmes de refroidissement matériels plus avancés qui sont non seulement énergivores, mais ont également tendance à être plus chers et ont une empreinte plus importante que les refroidisseurs d'air traditionnels, qui font tous partie des systèmes de refroidissement alimentés par l'IA, l'un des moteurs des prix élevés des centres de données.
Dans le même temps, lorsque la demande d'IA est forte, les factures d'électricité payées par les clients des centres de données sont également plus élevées. John Dinsdale, analyste en chef chez Synergy Research Group, une société d'études de marché, a admis que les opérateurs mondiaux de centres de données répercutent les coûts supplémentaires liés à l'exécution des applications d'IA directement sur les clients. **
Selon les statistiques de CB Richard Ellis, au cours des trois premiers mois de cette année, les clients des centres de données du nord de la Virginie aux États-Unis ont payé jusqu'à 140 dollars par kilowatt d'électricité par mois, soit une augmentation de 7,7 % par rapport à 130 dollars il y a un an. Dans la Silicon Valley, où les taux d'inoccupation des centres de données sont désormais à un niveau quasi record de 2,9 %, le prix maximum par kilowatt par mois pour les clients a grimpé à 250 $ par mois, un bond de 43 % par rapport à 175 $ l'année dernière.
Selon les rapports, les applications d'intelligence artificielle consomment plus d'énergie que les logiciels traditionnels car elles sont conçues pour lire de plus grandes quantités de données. Alors qu'un seul modèle d'IA peut consommer des dizaines de milliers de kilowattheures d'électricité en quelques jours, un modèle d'IA génératif peut être 100 fois plus volumineux que les outils d'IA standard. La société d'études de marché Enterprise Technology Research a interrogé environ 500 décideurs informatiques d'entreprise cette année, et plus de la moitié d'entre eux ont déclaré qu'ils prévoyaient d'évaluer, de déployer ou d'investir davantage de ressources dans des technologies d'IA génératives telles que ChatGPT.
Une autre analyse a souligné que, puisque de nombreux fournisseurs de cloud louent également de l'espace dans les centres de données, alors que de plus en plus d'entreprises adoptent l'intelligence artificielle générative, l'augmentation des coûts des centres de données peut entraîner des frais de cloud computing plus élevés. Étant donné que les charges de travail génératives de l'IA nécessitent plus de calcul, cela affectera plus largement l'efficacité énergétique et le système de refroidissement du centre de données, c'est-à-dire que l'impact se fera sentir dans tous les aspects de l'industrie.
Selon l'article de vulgarisation scientifique de Lanyang Technology, l'industrie croit généralement que les centres de données ont une consommation d'énergie élevée et une croissance rapide, et la proportion de la consommation d'énergie de mon pays augmente d'année en année. La consommation énergétique du data center est relativement concentrée, outre les équipements informatiques, les installations auxiliaires telles que les systèmes de réfrigération consomment une part importante de la consommation énergétique :
La consommation d'énergie est également directement liée aux coûts d'exploitation. Selon les prévisions de modélisation du cabinet de conseil Tirias Research, la consommation d'énergie des centres de données sera proche de 4 250 mégawatts d'ici 2028, soit une augmentation de 212 fois par rapport à 2023, et l'infrastructure totale des centres de données plus les coûts d'exploitation pourraient dépasser 76 milliards de dollars américains. .
Les capacités innovantes rendues possibles par l'IA générative ont un coût élevé en termes de performances de traitement et de consommation d'énergie, a déclaré l'agence. Ainsi, alors que le potentiel de l'IA peut être illimité, la physique et le coût peuvent en fin de compte être les limites.
Afin de réduire les coûts, l'agence a suggéré que des modèles de petits réseaux de neurones hautement optimisés, encore plus simples et plus spécialisés peuvent être utilisés pour réduire les coûts des centres de données en réduisant la taille du modèle dans le cloud et en utilisant des réseaux de paramètres massifs pour une formation rapide de réseaux de neurones plus petits. modélise et déplace complètement les charges de travail hors du cloud, ce qui rend plus rentable la distribution d'applications d'IA génératives à exécuter sur des plates-formes distribuées telles que les smartphones, les PC, les véhicules et les produits XR mobiles :