Yapay zeka, veri merkezi fiyatlarını hızla artırıyor: Silikon Vadisi boşluk oranları tarihi düşük seviyelere yakın ve bulut bilişim maliyetleri hızla artıyor
Görsel kaynağı: Unbounded AI tarafından oluşturuldu
Yılın başında Microsoft tarafından desteklenen ChatGPT'nin popülaritesi ve büyük dil modelinin (LLM) ve Google ve Meta gibi rakipler tarafından üretken yapay zeka ile rekabet eden ürünlerin hızla piyasaya sürülmesiyle, AI hızla daha fazla alana doğru ilerliyor gibi görünüyor. insan hayatı ve buna bağlı talep de artıyor. .
Az bilinen şey, yapay zeka yangınının veri merkezlerinin artan maliyetine de yol açtığıdır.Son rapor şuna işaret ediyor: "Yapay zeka sayı hesaplamalarını çalıştırmakla ilişkili enerji kullanımı, hızla artan veri merkezi maliyetlerinin ana itici gücü haline geliyor. ."
Yapay zekaya yönelik artan talep, bazı veri merkezi operatörlerinin, giderek daha fazla enerji tüketen iş yükleri çalıştıran bilgisayar sunucularının yığınlarını çalıştırma ve soğutmanın ekstra maliyetini hesaba katmak için ticari kiralama fiyatlarını artırmasına neden oldu.
Dünyanın en büyük ticari gayrimenkul hizmetleri şirketlerinden biri olan CBRE Group'a göre, küçük işletmelerden büyük bulut hizmeti sağlayıcılarına kadar veri merkezi müşterileri, şu anda veri merkezi operatörlerinin kapasiteyi artırabileceğinden daha hızlı güç tüketiyor. Yapay zeka için artan kullanım durumları nedeniyle artan tedarik kısıtlamaları, veri merkezleri tarafından uygulanan fiyatlar üzerinde yukarı yönlü bir baskı oluşturuyor.
Örneğin, 275'ten fazla tesisle dünyanın en büyük veri merkezi pazarı olan Kuzey Virginia, Amerika Birleşik Devletleri'nde, bu yıl kiralanabilir elektrik bir yıl önceki 46,6 MW'tan %17,6'ya varan bir düşüşle 38,4 MW'a düştü. genel elektrik envanteri ise yıldan yıla %19,5'lik fiili büyümeyle 2.132 MW'a ulaşırken, esas olarak üretken yapay zeka modellerini eğitmek için kullanılan GPU'ların büyük ve hızla artan güç tüketiminden kaynaklanıyordu.
Ek olarak, yapay zeka gereksinimleriyle ilişkili ek gücün, yalnızca enerji yoğun olmakla kalmayıp aynı zamanda daha pahalı olma eğiliminde olan ve tamamı geleneksel hava soğutuculardan daha büyük ayak izine sahip olan daha gelişmiş donanım soğutma sistemleriyle tamamlanması gerekecektir. AI destekli soğutma sistemlerinin yüksek veri merkezi fiyatlarının itici güçlerinden biri.
Aynı zamanda yapay zeka talebi güçlü olduğunda veri merkezi müşterilerinin ödediği elektrik faturaları da daha yüksek oluyor. Bir pazar araştırma şirketi olan Synergy Research Group'un baş analisti John Dinsdale, küresel veri merkezi operatörlerinin AI uygulamalarını çalıştırmanın ekstra maliyetlerini doğrudan müşterilere yansıttığını itiraf etti. **
CB Richard Ellis istatistiklerine göre, bu yılın ilk üç ayında Amerika Birleşik Devletleri'ndeki Kuzey Virginia'daki veri merkezi müşterileri, bir yıl öncesine göre 130 dolardan %7,7 artışla kilovat elektrik başına ayda 140 dolara kadar ödeme yaptı. Veri merkezi boşluk oranlarının şu anda yüzde 2,9 gibi rekor düşük bir seviyede olduğu Silikon Vadisi'nde, müşteriler için aylık kilovat başına maksimum fiyat, geçen yıl 175 dolardan yüzde 43 artarak ayda 250 dolara yükseldi.
Raporlara göre yapay zeka uygulamaları, daha büyük miktarlarda veriyi okumak üzere tasarlandığından, geleneksel yazılımlardan daha fazla enerji tüketiyor. Tek bir yapay zeka modeli birkaç gün içinde on binlerce kilovat-saat elektrik tüketebilirken, üretken bir yapay zeka modeli standart yapay zeka araçlarından 100 kat daha büyük olabilir. Pazar araştırma şirketi Enterprise Technology Research, bu yıl yaklaşık 500 kurumsal BT karar mercii ile bir anket yaptı ve bunların yarısından fazlası, ChatGPT gibi üretken yapay zeka teknolojilerine daha fazla kaynak değerlendirmeyi, dağıtmayı veya yatırım yapmayı planladıklarını söyledi.
Başka bir analiz, birçok bulut sağlayıcısının aynı zamanda veri merkezi alanı kiralaması nedeniyle, giderek daha fazla şirket üretken yapay zekayı benimsedikçe, artan veri merkezi maliyetlerinin daha yüksek bulut bilgi işlem ücretlerine yol açabileceğine işaret etti. Üretken yapay zeka iş yüklerinin daha fazla bilgi işlem gerektirdiği göz önüne alındığında, bunun veri merkezinin enerji verimliliğini ve soğutma sistemini daha geniş bir şekilde etkilemesi kaçınılmazdır, yani etki, sektörün tüm yönlerini kapsayacaktır.
Lanyang Technology'nin popüler bilim makalesine göre, endüstri genel olarak veri merkezlerinin yüksek enerji tüketimine ve hızlı büyümeye sahip olduğuna ve ülkemin enerji tüketimi oranının yıldan yıla arttığına inanıyor. Veri merkezinin enerji tüketimi nispeten yoğunlaşmıştır.IT ekipmanına ek olarak, soğutma sistemleri gibi yardımcı tesisler de yüksek oranda enerji tüketimine sahiptir:
"BT ekipmanı tarafından kullanılan elektrik eninde sonunda ısıya dönüştürülür ve bu ısı, aynı zamanda enerji tüketen soğutma ekipmanı kullanan veri merkezleri tarafından ortadan kaldırılmalıdır. Ortalama olarak, veri merkezi enerji tüketiminin büyük bölümünü soğutma sistemleri ve sunucular oluşturur, ardından ağ ekipmanı ve depolama sürücüsü."
Enerji tüketimi de işletme maliyetleri ile doğrudan ilişkilidir. Danışmanlık firması Tirias Research'ün modelleme tahminine göre, veri merkezlerinin güç tüketimi 2023 yılına göre 212 kat artarak 2028 yılına kadar 4.250 megavata yakın olacak ve toplam veri merkezi altyapısı artı işletme maliyetleri 76 milyar ABD dolarını aşabilir. .
Buna "veri merkezini alt üst eden üretici yapay zeka" denilebilir, çünkü büyümesi arama, içerik oluşturma ve üretken yapay zeka içeren iş otomasyonu gibi yeni ortaya çıkan hizmetlerin daha yüksek maliyetlerle iş modellerini ve kârlılığını zorlar. Amazon AWS'nin yıllık işletme maliyetini iki katına çıkarın.
Ajans, üretken AI tarafından sağlanan yenilikçi yeteneklerin, işleme performansı ve güç tüketimi açısından yüksek bir maliyete sahip olduğunu söyledi. Dolayısıyla, yapay zekanın potansiyeli sınırsız olabilirken, fizik ve maliyet nihai olarak sınırlar olabilir.
Maliyetleri azaltmak için ajans, buluttaki model boyutunu azaltarak ve daha küçük sinir ağının hızlı eğitimi için büyük parametre ağları kullanarak veri merkezi maliyetlerini azaltmak için yüksek düzeyde optimize edilmiş, daha da basit ve daha özel küçük sinir ağı modellerinin kullanılabileceğini önerdi. modeller, modeller ve iş yüklerini tamamen bulutun dışına taşıyarak üretken yapay zeka uygulamalarının akıllı telefonlar, PC'ler, araçlar ve mobil XR ürünleri gibi dağıtılmış platformlarda çalışacak şekilde dağıtılmasını daha uygun maliyetli hale getirir:
"Beş yıl önce, küresel bilgi işlem talebinin on yıl içinde küresel elektrik üretimini geçebileceği tahmin edildiğinde, şirketler yıllık Hot Chips yarı iletken teknolojisi konferansında veri merkezi güç tüketimi konusunda alarm vermeye başladılar. Bu, üretken enerjinin hızla benimsenmesinden önceydi. Yapay zeka ise üretken yapay zeka, hesaplama taleplerini daha da hızlı bir şekilde artırma potansiyeline sahiptir.
Bedava öğle yemeği diye bir şey yoktur - tüketiciler verimlilik ve performanstaki kazanımları dengeleyecek daha iyi üretken yapay zeka çıktısı talep edeceklerdir. Tüketici kullanımı arttıkça maliyetler kaçınılmaz olarak artacaktır. Bilgi işlemi uç noktalara boşaltmak ve PC'ler, akıllı telefonlar ve XR cihazları gibi müşterilere dağıtmak, sermaye ve işletme maliyetlerini azaltmanın önemli bir yoludur. "
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Yapay zeka, veri merkezi fiyatlarını hızla artırıyor: Silikon Vadisi boşluk oranları tarihi düşük seviyelere yakın ve bulut bilişim maliyetleri hızla artıyor
Yılın başında Microsoft tarafından desteklenen ChatGPT'nin popülaritesi ve büyük dil modelinin (LLM) ve Google ve Meta gibi rakipler tarafından üretken yapay zeka ile rekabet eden ürünlerin hızla piyasaya sürülmesiyle, AI hızla daha fazla alana doğru ilerliyor gibi görünüyor. insan hayatı ve buna bağlı talep de artıyor. .
Az bilinen şey, yapay zeka yangınının veri merkezlerinin artan maliyetine de yol açtığıdır.Son rapor şuna işaret ediyor: "Yapay zeka sayı hesaplamalarını çalıştırmakla ilişkili enerji kullanımı, hızla artan veri merkezi maliyetlerinin ana itici gücü haline geliyor. ."
Yapay zekaya yönelik artan talep, bazı veri merkezi operatörlerinin, giderek daha fazla enerji tüketen iş yükleri çalıştıran bilgisayar sunucularının yığınlarını çalıştırma ve soğutmanın ekstra maliyetini hesaba katmak için ticari kiralama fiyatlarını artırmasına neden oldu.
Dünyanın en büyük ticari gayrimenkul hizmetleri şirketlerinden biri olan CBRE Group'a göre, küçük işletmelerden büyük bulut hizmeti sağlayıcılarına kadar veri merkezi müşterileri, şu anda veri merkezi operatörlerinin kapasiteyi artırabileceğinden daha hızlı güç tüketiyor. Yapay zeka için artan kullanım durumları nedeniyle artan tedarik kısıtlamaları, veri merkezleri tarafından uygulanan fiyatlar üzerinde yukarı yönlü bir baskı oluşturuyor.
Örneğin, 275'ten fazla tesisle dünyanın en büyük veri merkezi pazarı olan Kuzey Virginia, Amerika Birleşik Devletleri'nde, bu yıl kiralanabilir elektrik bir yıl önceki 46,6 MW'tan %17,6'ya varan bir düşüşle 38,4 MW'a düştü. genel elektrik envanteri ise yıldan yıla %19,5'lik fiili büyümeyle 2.132 MW'a ulaşırken, esas olarak üretken yapay zeka modellerini eğitmek için kullanılan GPU'ların büyük ve hızla artan güç tüketiminden kaynaklanıyordu.
Ek olarak, yapay zeka gereksinimleriyle ilişkili ek gücün, yalnızca enerji yoğun olmakla kalmayıp aynı zamanda daha pahalı olma eğiliminde olan ve tamamı geleneksel hava soğutuculardan daha büyük ayak izine sahip olan daha gelişmiş donanım soğutma sistemleriyle tamamlanması gerekecektir. AI destekli soğutma sistemlerinin yüksek veri merkezi fiyatlarının itici güçlerinden biri.
Aynı zamanda yapay zeka talebi güçlü olduğunda veri merkezi müşterilerinin ödediği elektrik faturaları da daha yüksek oluyor. Bir pazar araştırma şirketi olan Synergy Research Group'un baş analisti John Dinsdale, küresel veri merkezi operatörlerinin AI uygulamalarını çalıştırmanın ekstra maliyetlerini doğrudan müşterilere yansıttığını itiraf etti. **
CB Richard Ellis istatistiklerine göre, bu yılın ilk üç ayında Amerika Birleşik Devletleri'ndeki Kuzey Virginia'daki veri merkezi müşterileri, bir yıl öncesine göre 130 dolardan %7,7 artışla kilovat elektrik başına ayda 140 dolara kadar ödeme yaptı. Veri merkezi boşluk oranlarının şu anda yüzde 2,9 gibi rekor düşük bir seviyede olduğu Silikon Vadisi'nde, müşteriler için aylık kilovat başına maksimum fiyat, geçen yıl 175 dolardan yüzde 43 artarak ayda 250 dolara yükseldi.
Raporlara göre yapay zeka uygulamaları, daha büyük miktarlarda veriyi okumak üzere tasarlandığından, geleneksel yazılımlardan daha fazla enerji tüketiyor. Tek bir yapay zeka modeli birkaç gün içinde on binlerce kilovat-saat elektrik tüketebilirken, üretken bir yapay zeka modeli standart yapay zeka araçlarından 100 kat daha büyük olabilir. Pazar araştırma şirketi Enterprise Technology Research, bu yıl yaklaşık 500 kurumsal BT karar mercii ile bir anket yaptı ve bunların yarısından fazlası, ChatGPT gibi üretken yapay zeka teknolojilerine daha fazla kaynak değerlendirmeyi, dağıtmayı veya yatırım yapmayı planladıklarını söyledi.
Başka bir analiz, birçok bulut sağlayıcısının aynı zamanda veri merkezi alanı kiralaması nedeniyle, giderek daha fazla şirket üretken yapay zekayı benimsedikçe, artan veri merkezi maliyetlerinin daha yüksek bulut bilgi işlem ücretlerine yol açabileceğine işaret etti. Üretken yapay zeka iş yüklerinin daha fazla bilgi işlem gerektirdiği göz önüne alındığında, bunun veri merkezinin enerji verimliliğini ve soğutma sistemini daha geniş bir şekilde etkilemesi kaçınılmazdır, yani etki, sektörün tüm yönlerini kapsayacaktır.
Lanyang Technology'nin popüler bilim makalesine göre, endüstri genel olarak veri merkezlerinin yüksek enerji tüketimine ve hızlı büyümeye sahip olduğuna ve ülkemin enerji tüketimi oranının yıldan yıla arttığına inanıyor. Veri merkezinin enerji tüketimi nispeten yoğunlaşmıştır.IT ekipmanına ek olarak, soğutma sistemleri gibi yardımcı tesisler de yüksek oranda enerji tüketimine sahiptir:
Enerji tüketimi de işletme maliyetleri ile doğrudan ilişkilidir. Danışmanlık firması Tirias Research'ün modelleme tahminine göre, veri merkezlerinin güç tüketimi 2023 yılına göre 212 kat artarak 2028 yılına kadar 4.250 megavata yakın olacak ve toplam veri merkezi altyapısı artı işletme maliyetleri 76 milyar ABD dolarını aşabilir. .
Ajans, üretken AI tarafından sağlanan yenilikçi yeteneklerin, işleme performansı ve güç tüketimi açısından yüksek bir maliyete sahip olduğunu söyledi. Dolayısıyla, yapay zekanın potansiyeli sınırsız olabilirken, fizik ve maliyet nihai olarak sınırlar olabilir.
Maliyetleri azaltmak için ajans, buluttaki model boyutunu azaltarak ve daha küçük sinir ağının hızlı eğitimi için büyük parametre ağları kullanarak veri merkezi maliyetlerini azaltmak için yüksek düzeyde optimize edilmiş, daha da basit ve daha özel küçük sinir ağı modellerinin kullanılabileceğini önerdi. modeller, modeller ve iş yüklerini tamamen bulutun dışına taşıyarak üretken yapay zeka uygulamalarının akıllı telefonlar, PC'ler, araçlar ve mobil XR ürünleri gibi dağıtılmış platformlarda çalışacak şekilde dağıtılmasını daha uygun maliyetli hale getirir: