La IA está aumentando rápidamente los precios de los centros de datos: las tasas de vacantes de Silicon Valley están cerca de mínimos históricos y los costos de computación en la nube se están disparando

Fuente de la imagen: Generada por Unbounded AI

Con la popularidad de ChatGPT respaldada por Microsoft a principios de año, y el rápido lanzamiento del modelo de lenguaje grande (LLM) y los productos de la competencia de inteligencia artificial generativa por parte de competidores como Google y Meta, la IA parece estar avanzando rápidamente en más aspectos de la vida humana y la demanda relacionada también está aumentando.

Lo que se sabe poco es que el fuego de la IA también ha provocado un aumento de los costos de los centros de datos. El último informe señala: "El uso de energía asociado con la ejecución de cálculos numéricos de inteligencia artificial se está convirtiendo rápidamente en un factor clave del aumento de los costos de los centros de datos". ."

La creciente demanda de inteligencia artificial ha llevado a algunos operadores de centros de datos a aumentar los precios de arrendamiento comercial para tener en cuenta el costo adicional de alimentar y enfriar pilas de servidores informáticos que ejecutan cargas de trabajo cada vez más intensivas en energía.

Según CBRE Group, una de las empresas de servicios inmobiliarios comerciales más grandes del mundo, los clientes de centros de datos, que van desde pequeñas empresas hasta grandes proveedores de servicios en la nube, actualmente consumen energía más rápido de lo que los operadores de centros de datos pueden ampliar la capacidad. Las crecientes restricciones de suministro debido al aumento de los casos de uso de la inteligencia artificial están ejerciendo una presión al alza sobre los precios que cobran los centros de datos.

Por ejemplo, en el norte de Virginia, Estados Unidos, el mercado de centros de datos más grande del mundo con más de 275 instalaciones, la electricidad disponible para alquilar este año ha disminuido de 46,6 MW hace un año a 38,4 MW, una caída de hasta el 17,6 %. mientras que el inventario general de electricidad El crecimiento real año tras año del 19,5% a 2132 MW se debió principalmente al consumo de energía grande y rápidamente creciente de las GPU utilizadas para entrenar modelos generativos de IA.

Además, la energía adicional asociada con las necesidades de IA deberá complementarse con sistemas de enfriamiento de hardware más avanzados que no solo consumen mucha energía, sino que también tienden a ser más costosos y tienen una huella más grande que los enfriadores de aire tradicionales, todos los cuales son parte de los sistemas de enfriamiento impulsados por IA Uno de los impulsores de los altos precios de los centros de datos.

Al mismo tiempo, cuando la demanda de IA es fuerte, las facturas de electricidad que pagan los clientes del centro de datos también son más altas. John Dinsdale, analista jefe de Synergy Research Group, una firma de investigación de mercado, admitió que los operadores de centros de datos globales están transfiriendo los costos adicionales de ejecutar aplicaciones de IA directamente a los clientes. **

Según las estadísticas de CB Richard Ellis, en los primeros tres meses de este año, los clientes del centro de datos en el norte de Virginia en los Estados Unidos pagaron hasta $140 por kilovatio de electricidad por mes, un aumento del 7,7 % con respecto a los $130 del año anterior. En Silicon Valley, donde las tasas de desocupación del centro de datos están ahora en un mínimo casi récord de 2,9 por ciento, el precio máximo por kilovatio por mes para los clientes ha subido a $250 por mes, un salto del 43 por ciento desde $175 el año pasado.

Según los informes, las aplicaciones de inteligencia artificial consumen más energía que el software tradicional porque están diseñadas para leer grandes cantidades de datos. Mientras que un solo modelo de IA puede consumir decenas de miles de kilovatios-hora de electricidad en cuestión de días, un modelo de IA generativa puede ser 100 veces más grande que las herramientas de IA estándar. La firma de investigación de mercado Enterprise Technology Research encuestó a alrededor de 500 tomadores de decisiones de TI corporativas este año, y más de la mitad de ellos dijeron que planean evaluar, implementar o invertir más recursos en tecnologías de IA generativa como ChatGPT.

Otro análisis señaló que dado que muchos proveedores de la nube también alquilan espacio en el centro de datos, a medida que más y más empresas adoptan la inteligencia artificial generativa, el aumento de los costos del centro de datos puede generar tarifas más altas de computación en la nube. Dado que las cargas de trabajo de IA generativa requieren más computación, es probable que afecte la eficiencia energética y el sistema de enfriamiento del centro de datos de manera más amplia, es decir, el impacto será en todos los aspectos de la industria.

Según el artículo de ciencia popular de Lanyang Technology, la industria generalmente cree que los centros de datos tienen un alto consumo de energía y un rápido crecimiento, y la proporción del consumo de energía de mi país aumenta año tras año. El consumo de energía del centro de datos está relativamente concentrado, además de los equipos de TI, las instalaciones auxiliares como los sistemas de refrigeración tienen una alta proporción de consumo de energía:

"La electricidad utilizada por los equipos de TI finalmente se convierte en calor, que los centros de datos deben eliminar mediante equipos de refrigeración que también consumen energía. En promedio, los sistemas de refrigeración y los servidores representan la mayor parte del consumo de energía de los centros de datos, seguidos por los equipos de red y controlador de almacenamiento".

El consumo de energía también está directamente relacionado con los costos operativos. Según el pronóstico de modelado de la consultora Tirias Research, el consumo de energía de los centros de datos estará cerca de los 4250 megavatios para 2028, un aumento de 212 veces en comparación con 2023, y la infraestructura total del centro de datos más los costos operativos pueden superar los 76 mil millones de dólares estadounidenses. .

Esto podría llamarse “IA generativa que altera el centro de datos” ya que su crecimiento desafía los modelos comerciales y la rentabilidad de los servicios emergentes como la búsqueda, la creación de contenido y la automatización comercial que incorporan IA generativa, a costos más altos. Es más que duplicar el costo operativo anual de Amazon AWS.

Las capacidades innovadoras habilitadas por la IA generativa tienen un alto costo en términos de rendimiento de procesamiento y consumo de energía, dijo la agencia. Entonces, si bien el potencial de la IA puede ser ilimitado, la física y el costo pueden ser, en última instancia, los límites.

Para reducir costos, la agencia sugirió que se pueden usar modelos de redes neuronales pequeñas altamente optimizados, incluso más simples y más especializados para reducir los costos del centro de datos al reducir el tamaño del modelo en la nube y usar redes de parámetros masivas para un entrenamiento rápido de redes neuronales más pequeñas. modelos y mueva las cargas de trabajo completamente fuera de la nube, lo que hace que sea más rentable distribuir aplicaciones generativas de IA para que se ejecuten en plataformas distribuidas como teléfonos inteligentes, PC, vehículos y productos XR móviles:

"Hace cinco años, las empresas comenzaron a hacer sonar la alarma sobre el consumo de energía del centro de datos en la conferencia anual de tecnología de semiconductores Hot Chips, prediciendo que la demanda informática global podría superar la generación de electricidad global dentro de una década. Eso fue antes de la rápida adopción de la IA generativa, mientras La IA generativa tiene el potencial de aumentar las demandas computacionales a un ritmo aún más rápido. No existe tal cosa como un almuerzo gratis: los consumidores exigirán una mejor salida de IA generativa, lo que compensará las ganancias en eficiencia y rendimiento. Los costos inevitablemente aumentarán a medida que aumente el uso del consumidor. Descargar la informática al extremo y distribuirla a clientes como PC, teléfonos inteligentes y dispositivos XR es una forma clave de reducir los costos operativos y de capital. "