A IA está elevando rapidamente os preços dos data centers: as taxas de vacância do Vale do Silício estão próximas dos mínimos históricos e os custos de computação em nuvem estão disparando

Fonte da imagem: Gerada por Unbounded AI

Com a popularidade do ChatGPT apoiado pela Microsoft no início do ano, e o rápido lançamento do modelo de linguagem grande (LLM) e produtos concorrentes de inteligência artificial generativa por concorrentes como Google e Meta, a IA parece estar avançando rapidamente em mais aspectos de vida humana, e a demanda relacionada também está aumentando.

O que é pouco conhecido é que o incêndio da IA também levou a um aumento nos custos dos data centers. O relatório mais recente aponta: "O uso de energia associado à execução de cálculos numéricos de inteligência artificial está rapidamente se tornando um dos principais impulsionadores do aumento dos custos dos data centers ."

A crescente demanda por inteligência artificial levou alguns operadores de data center a aumentar os preços de aluguel comercial para compensar o custo extra de alimentar e resfriar pilhas de servidores de computador executando cargas de trabalho cada vez mais intensivas em energia.

De acordo com o Grupo CBRE, uma das maiores empresas de serviços imobiliários comerciais do mundo, os clientes de data centers, desde pequenas empresas até grandes provedores de serviços em nuvem, estão atualmente consumindo energia mais rapidamente do que os operadores de data centers podem expandir a capacidade. As crescentes restrições de oferta devido ao aumento dos casos de uso de inteligência artificial estão pressionando os preços cobrados pelos data centers.

Por exemplo, no maior mercado de data centers do mundo, com mais de 275 instalações – North Virginia, Estados Unidos, a eletricidade disponível para locação este ano caiu de 46,6 MW há um ano para 38,4 MW, uma queda de até 17,6%, enquanto o estoque geral de eletricidade O crescimento real ano a ano de 19,5%, para 2.132 MW, deveu-se principalmente ao grande e rápido aumento do consumo de energia das GPUs usadas para treinar modelos de IA generativa.

Além disso, a energia adicional associada às necessidades de IA precisará ser complementada por sistemas de resfriamento de hardware mais avançados que não apenas consomem muita energia, mas também tendem a ser mais caros e ocupam uma área de ocupação maior do que os refrigeradores de ar tradicionais, todos os quais fazem parte de sistemas de resfriamento alimentados por IA. Um dos impulsionadores dos altos preços dos data centers.

Ao mesmo tempo, quando a demanda por IA é forte, as contas de eletricidade pagas pelos clientes do data center também são maiores. John Dinsdale, analista-chefe do Synergy Research Group, uma empresa de pesquisa de mercado, admitiu que as operadoras globais de data centers estão repassando os custos extras da execução de aplicativos de IA diretamente para os clientes. **

De acordo com as estatísticas da CB Richard Ellis, nos primeiros três meses deste ano, os clientes de data centers na Virgínia do Norte, nos Estados Unidos, pagaram até US$ 140 por quilowatt de eletricidade por mês, um aumento de 7,7% em relação aos US$ 130 do ano anterior. No Vale do Silício, onde as taxas de vacância do data center estão agora em uma baixa quase recorde de 2,9%, o preço máximo por quilowatt por mês para os clientes subiu para US$ 250 por mês, um salto de 43% em relação aos US$ 175 do ano passado.

Segundo relatos, os aplicativos de inteligência artificial consomem mais energia do que os softwares tradicionais porque são projetados para ler grandes quantidades de dados. Embora um único modelo de IA possa consumir dezenas de milhares de quilowatts-hora de eletricidade em questão de dias, um modelo de IA generativo pode ser 100 vezes maior do que as ferramentas de IA padrão. A empresa de pesquisa de mercado Enterprise Technology Research entrevistou cerca de 500 tomadores de decisões corporativas de TI este ano, e mais da metade deles disse que planeja avaliar, implantar ou investir mais recursos em tecnologias de IA generativas, como o ChatGPT.

Outra análise apontou que, como muitos provedores de nuvem também alugam espaço de data center, à medida que mais e mais empresas adotam inteligência artificial generativa, o aumento dos custos do data center pode levar a taxas mais altas de computação em nuvem. Como as cargas de trabalho de IA generativa exigem mais computação, isso afetará a eficiência energética e o sistema de resfriamento do data center de forma mais ampla, ou seja, o impacto será em todos os aspectos do setor.

De acordo com o artigo científico popular da Lanyang Technology, a indústria geralmente acredita que os data centers têm alto consumo de energia e crescimento rápido, e a proporção do consumo de energia do meu país está aumentando ano a ano. O consumo de energia do data center é relativamente concentrado. Além dos equipamentos de TI, instalações auxiliares, como sistemas de refrigeração, têm uma alta proporção de consumo de energia:

"A eletricidade usada pelos equipamentos de TI é convertida em calor, que deve ser removido pelos data centers usando equipamentos de refrigeração que também consomem energia. Em média, os sistemas de refrigeração e servidores respondem pela maior parte do consumo de energia do data center, seguido por equipamentos de rede e controlador de armazenamento."

O consumo de energia também está diretamente relacionado aos custos operacionais. De acordo com a previsão de modelagem da consultoria Tirias Research, o consumo de energia dos data centers será próximo a 4.250 megawatts até 2028, um aumento de 212 vezes em relação a 2023, e a infraestrutura total do data center mais os custos operacionais podem ultrapassar 76 bilhões de dólares americanos .

Isso poderia ser chamado de “IA generativa que está destruindo o data center”, pois seu crescimento desafia os modelos de negócios e a lucratividade de serviços emergentes, como pesquisa, criação de conteúdo e automação comercial incorporando IA generativa, a custos mais altos É mais do que dobrar o custo operacional anual da Amazon AWS.

Os recursos inovadores possibilitados pela IA generativa têm um alto custo em termos de desempenho de processamento e consumo de energia, disse a agência. Portanto, embora o potencial da IA possa ser ilimitado, a física e o custo podem ser os limites.

A fim de reduzir custos, a agência sugeriu que modelos de pequenas redes neurais altamente otimizados, ainda mais simples e especializados, podem ser usados para reduzir os custos do data center, reduzindo o tamanho do modelo na nuvem e usando redes massivas de parâmetros para treinamento rápido de redes neurais menores. modela e move cargas de trabalho completamente para fora da nuvem, tornando mais econômica a distribuição de aplicativos generativos de IA para execução em plataformas distribuídas, como smartphones, PCs, veículos e produtos XR móveis:

"Cinco anos atrás, as empresas começaram a soar o alarme sobre o consumo de energia do data center na conferência anual de tecnologia de semicondutores Hot Chips, prevendo que a demanda global de computação poderia superar a geração global de eletricidade dentro de uma década. Isso foi antes da rápida adoção da IA generativa, enquanto A IA generativa tem o potencial de aumentar as demandas computacionais em um ritmo ainda mais rápido. Não existe almoço grátis - os consumidores exigirão uma melhor saída de IA generativa, o que compensará os ganhos em eficiência e desempenho. Os custos inevitavelmente subirão à medida que o uso do consumidor aumentar. Transferir a computação para a borda e distribuí-la para clientes como PCs, smartphones e dispositivos XR é uma maneira fundamental de reduzir os custos operacionais e de capital. "