Штучний інтелект стрімко підвищує ціни на центри обробки даних: рівень вакансій у Кремнієвій долині близький до історичного мінімуму, а витрати на хмарні обчислення стрімко зростають
Завдяки популярності ChatGPT, яку підтримує Microsoft на початку року, і швидкому запуску конкуруючих продуктів великої мовної моделі (LLM) і генеративного штучного інтелекту такими конкурентами, як Google і Meta, ШІ, схоже, швидко просувається в більшу кількість аспектів людське життя, і відповідний попит також зростає.
Маловідомо, що пожежа штучного інтелекту також призвела до стрімкого зростання вартості центрів обробки даних. В останньому звіті вказується: «Використання енергії, пов’язане з виконанням обчислень чисел штучного інтелекту, швидко стає ключовим фактором зростання вартості центрів обробки даних. ."
Стрімке зростання попиту на штучний інтелект спонукало деяких операторів центрів обробки даних підвищити ціни комерційної оренди, щоб врахувати додаткові витрати на живлення та охолодження стеків комп’ютерних серверів, які виконують все більш енергоємні робочі навантаження.
За даними CBRE Group, однієї з найбільших у світі компаній, що надають послуги з комерційної нерухомості, клієнти центрів обробки даних, від малого бізнесу до великих постачальників хмарних послуг, наразі споживають електроенергію швидше, ніж оператори центрів обробки даних можуть збільшити потужність. Посилення обмежень у постачанні через збільшення випадків використання штучного інтелекту створює тиск на підвищення цін, які стягують центри обробки даних.
Наприклад, у Північній Вірджинії, Сполучені Штати, найбільшому в світі ринку центрів обробки даних із понад 275 об’єктами, електроенергія, доступна для оренди цього року, зменшилася з 46,6 МВт рік тому до 38,4 МВт, падіння на 17,6 %. у той час як загальний запас електроенергії Фактичне зростання порівняно з минулим роком на 19,5% до 2132 МВт відбулося в основному через велике та швидко зростаюче енергоспоживання графічних процесорів, які використовуються для навчання генеративних моделей ШІ.
Крім того, додаткову потужність, пов’язану з потребами штучного інтелекту, необхідно буде доповнити вдосконаленими апаратними системами охолодження, які не тільки є енергоємними, але й мають тенденцію бути дорожчими та мають більший слід, ніж традиційні повітроохолоджувачі, усі з яких є частиною систем охолодження на базі штучного інтелекту Один із факторів високих цін на ЦОД
У той же час, коли попит на штучний інтелект високий, рахунки за електроенергію, які сплачують клієнти центрів обробки даних, також вищі. Джон Дінсдейл, головний аналітик дослідницької фірми Synergy Research Group, визнав, що глобальні оператори центрів обробки даних перекладають додаткові витрати на роботу додатків ШІ безпосередньо на клієнтів. **
Згідно зі статистичними даними CB Richard Ellis, за перші три місяці цього року клієнти центрів обробки даних у Північній Вірджинії в Сполучених Штатах платили 140 доларів за кіловат електроенергії на місяць, що на 7,7% більше, ніж 130 доларів рік тому. У Кремнієвій долині, де рівень вакантності центрів обробки даних зараз майже рекордно низький – 2,9 відсотка, максимальна ціна за кіловат на місяць для клієнтів піднялася до 250 доларів США на місяць, що на 43 відсотки більше порівняно зі 175 доларами минулого року.
Згідно з повідомленнями, програми штучного інтелекту споживають більше енергії, ніж традиційне програмне забезпечення, оскільки вони призначені для читання більших обсягів даних. Хоча одна модель штучного інтелекту може споживати десятки тисяч кіловат-годин електроенергії за лічені дні, генеративна модель штучного інтелекту може бути в 100 разів більшою, ніж стандартні інструменти ШІ. Дослідницька компанія Enterprise Technology Research цього року опитала близько 500 корпоративних ІТ-рішень, і більше половини з них заявили, що планують оцінити, розгорнути або інвестувати більше ресурсів у такі генеративні технології ШІ, як ChatGPT.
Інший аналіз вказав, що оскільки багато хмарних провайдерів також орендують простір для центрів обробки даних, оскільки все більше і більше компаній застосовують генеративний штучний інтелект, зростання вартості центрів обробки даних може призвести до підвищення комісії за хмарні обчислення. З огляду на те, що генеративне робоче навантаження штучного інтелекту потребує більше обчислень, це обов’язково вплине на енергоефективність і систему охолодження центру обробки даних ширше, тобто вплив буде на всі аспекти галузі.
Згідно з науково-популярною статтею Lanyang Technology, галузь загалом вважає, що центри обробки даних мають високе споживання енергії та швидке зростання, а частка споживання енергії в моїй країні зростає з року в рік. Енергоспоживання центру обробки даних відносно концентроване.На додаток до ІТ-обладнання, допоміжні об’єкти, такі як системи охолодження, мають високу частку споживання енергії:
"Електроенергія, яка використовується ІТ-обладнанням, зрештою перетворюється на тепло, яке центри обробки даних повинні видаляти за допомогою охолоджувального обладнання, яке також споживає енергію. У середньому на системи охолодження та сервери припадає більшість енергоспоживання центру обробки даних, за ними йде мережеве обладнання та драйвер зберігання».
Енергоспоживання також безпосередньо пов'язане з експлуатаційними витратами. Згідно з моделюючим прогнозом консалтингової фірми Tirias Research, до 2028 року енергоспоживання центрів обробки даних становитиме близько 4250 мегават, що в 212 разів більше, ніж у 2023 році, а загальна інфраструктура центру обробки даних плюс експлуатаційні витрати можуть перевищити 76 мільярдів доларів США. .
Це можна назвати «генеративний штучний інтелект, який руйнує центр обробки даних», оскільки його зростання ставить під сумнів бізнес-моделі та прибутковість нових послуг, таких як пошук, створення контенту та автоматизація бізнесу, що включає генеративний штучний інтелект, за більш високі витрати Це більше ніж подвоїти річні операційні витрати Amazon AWS.
За словами агентства, інноваційні можливості, створені завдяки генеративному штучному інтелекту, мають високу вартість з точки зору продуктивності обробки та енергоспоживання. Таким чином, хоча потенціал штучного інтелекту може бути безмежним, фізика та вартість можуть бути межами.
Щоб зменшити витрати, агентство запропонувало використовувати високооптимізовані, навіть простіші та більш спеціалізовані моделі невеликих нейронних мереж для зменшення витрат центру обробки даних за рахунок зменшення розміру моделі в хмарі та використання масивних мереж параметрів для швидкого навчання меншої нейронної мережі. моделює та повністю переміщує робочі навантаження з хмари, що робить розповсюдження генеративних додатків AI для роботи на розподілених платформах, таких як смартфони, ПК, транспортні засоби та мобільні продукти XR, більш економічно ефективними:
"П'ять років тому компанії почали бити на сполох щодо енергоспоживання центру обробки даних на щорічній конференції з напівпровідникових технологій Hot Chips, коли було передбачено, що глобальний попит на комп'ютери може перевищити глобальне виробництво електроенергії протягом десятиліття. Це було до швидкого впровадження генеративних технологій. AI , тоді як генеративний AI має потенціал збільшити обчислювальні вимоги ще швидше.
Немає такого поняття, як безкоштовний обід – споживачі вимагатимуть кращих генеративних результатів штучного інтелекту, що компенсує підвищення ефективності та продуктивності. Витрати неминуче зростуть із збільшенням споживчого використання. Перенесення обчислювальної інформації на периферію та розподілення її між клієнтами, такими як ПК, смартфони та пристрої XR, є ключовим способом зниження капітальних та операційних витрат. "
Переглянути оригінал
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Штучний інтелект стрімко підвищує ціни на центри обробки даних: рівень вакансій у Кремнієвій долині близький до історичного мінімуму, а витрати на хмарні обчислення стрімко зростають
Завдяки популярності ChatGPT, яку підтримує Microsoft на початку року, і швидкому запуску конкуруючих продуктів великої мовної моделі (LLM) і генеративного штучного інтелекту такими конкурентами, як Google і Meta, ШІ, схоже, швидко просувається в більшу кількість аспектів людське життя, і відповідний попит також зростає.
Маловідомо, що пожежа штучного інтелекту також призвела до стрімкого зростання вартості центрів обробки даних. В останньому звіті вказується: «Використання енергії, пов’язане з виконанням обчислень чисел штучного інтелекту, швидко стає ключовим фактором зростання вартості центрів обробки даних. ."
Стрімке зростання попиту на штучний інтелект спонукало деяких операторів центрів обробки даних підвищити ціни комерційної оренди, щоб врахувати додаткові витрати на живлення та охолодження стеків комп’ютерних серверів, які виконують все більш енергоємні робочі навантаження.
За даними CBRE Group, однієї з найбільших у світі компаній, що надають послуги з комерційної нерухомості, клієнти центрів обробки даних, від малого бізнесу до великих постачальників хмарних послуг, наразі споживають електроенергію швидше, ніж оператори центрів обробки даних можуть збільшити потужність. Посилення обмежень у постачанні через збільшення випадків використання штучного інтелекту створює тиск на підвищення цін, які стягують центри обробки даних.
Наприклад, у Північній Вірджинії, Сполучені Штати, найбільшому в світі ринку центрів обробки даних із понад 275 об’єктами, електроенергія, доступна для оренди цього року, зменшилася з 46,6 МВт рік тому до 38,4 МВт, падіння на 17,6 %. у той час як загальний запас електроенергії Фактичне зростання порівняно з минулим роком на 19,5% до 2132 МВт відбулося в основному через велике та швидко зростаюче енергоспоживання графічних процесорів, які використовуються для навчання генеративних моделей ШІ.
Крім того, додаткову потужність, пов’язану з потребами штучного інтелекту, необхідно буде доповнити вдосконаленими апаратними системами охолодження, які не тільки є енергоємними, але й мають тенденцію бути дорожчими та мають більший слід, ніж традиційні повітроохолоджувачі, усі з яких є частиною систем охолодження на базі штучного інтелекту Один із факторів високих цін на ЦОД
У той же час, коли попит на штучний інтелект високий, рахунки за електроенергію, які сплачують клієнти центрів обробки даних, також вищі. Джон Дінсдейл, головний аналітик дослідницької фірми Synergy Research Group, визнав, що глобальні оператори центрів обробки даних перекладають додаткові витрати на роботу додатків ШІ безпосередньо на клієнтів. **
Згідно зі статистичними даними CB Richard Ellis, за перші три місяці цього року клієнти центрів обробки даних у Північній Вірджинії в Сполучених Штатах платили 140 доларів за кіловат електроенергії на місяць, що на 7,7% більше, ніж 130 доларів рік тому. У Кремнієвій долині, де рівень вакантності центрів обробки даних зараз майже рекордно низький – 2,9 відсотка, максимальна ціна за кіловат на місяць для клієнтів піднялася до 250 доларів США на місяць, що на 43 відсотки більше порівняно зі 175 доларами минулого року.
Згідно з повідомленнями, програми штучного інтелекту споживають більше енергії, ніж традиційне програмне забезпечення, оскільки вони призначені для читання більших обсягів даних. Хоча одна модель штучного інтелекту може споживати десятки тисяч кіловат-годин електроенергії за лічені дні, генеративна модель штучного інтелекту може бути в 100 разів більшою, ніж стандартні інструменти ШІ. Дослідницька компанія Enterprise Technology Research цього року опитала близько 500 корпоративних ІТ-рішень, і більше половини з них заявили, що планують оцінити, розгорнути або інвестувати більше ресурсів у такі генеративні технології ШІ, як ChatGPT.
Інший аналіз вказав, що оскільки багато хмарних провайдерів також орендують простір для центрів обробки даних, оскільки все більше і більше компаній застосовують генеративний штучний інтелект, зростання вартості центрів обробки даних може призвести до підвищення комісії за хмарні обчислення. З огляду на те, що генеративне робоче навантаження штучного інтелекту потребує більше обчислень, це обов’язково вплине на енергоефективність і систему охолодження центру обробки даних ширше, тобто вплив буде на всі аспекти галузі.
Згідно з науково-популярною статтею Lanyang Technology, галузь загалом вважає, що центри обробки даних мають високе споживання енергії та швидке зростання, а частка споживання енергії в моїй країні зростає з року в рік. Енергоспоживання центру обробки даних відносно концентроване.На додаток до ІТ-обладнання, допоміжні об’єкти, такі як системи охолодження, мають високу частку споживання енергії:
Енергоспоживання також безпосередньо пов'язане з експлуатаційними витратами. Згідно з моделюючим прогнозом консалтингової фірми Tirias Research, до 2028 року енергоспоживання центрів обробки даних становитиме близько 4250 мегават, що в 212 разів більше, ніж у 2023 році, а загальна інфраструктура центру обробки даних плюс експлуатаційні витрати можуть перевищити 76 мільярдів доларів США. .
За словами агентства, інноваційні можливості, створені завдяки генеративному штучному інтелекту, мають високу вартість з точки зору продуктивності обробки та енергоспоживання. Таким чином, хоча потенціал штучного інтелекту може бути безмежним, фізика та вартість можуть бути межами.
Щоб зменшити витрати, агентство запропонувало використовувати високооптимізовані, навіть простіші та більш спеціалізовані моделі невеликих нейронних мереж для зменшення витрат центру обробки даних за рахунок зменшення розміру моделі в хмарі та використання масивних мереж параметрів для швидкого навчання меншої нейронної мережі. моделює та повністю переміщує робочі навантаження з хмари, що робить розповсюдження генеративних додатків AI для роботи на розподілених платформах, таких як смартфони, ПК, транспортні засоби та мобільні продукти XR, більш економічно ефективними: