Dengan popularitas ChatGPT yang didukung oleh Microsoft pada awal tahun, dan peluncuran cepat model bahasa besar (LLM) dan produk pesaing kecerdasan buatan generatif oleh pesaing seperti Google dan Meta, AI tampaknya berkembang pesat ke lebih banyak aspek. kehidupan manusia, dan permintaan terkait juga meningkat. .
Apa yang sedikit diketahui adalah bahwa kebakaran AI juga telah menyebabkan melonjaknya biaya pusat data. Laporan terbaru menunjukkan: "Penggunaan energi yang terkait dengan menjalankan kalkulasi angka kecerdasan buatan dengan cepat menjadi pendorong utama meningkatnya biaya pusat data ."
Melonjaknya permintaan untuk kecerdasan buatan telah mendorong beberapa operator pusat data untuk menaikkan harga sewa komersial untuk memperhitungkan biaya tambahan untuk menyalakan dan mendinginkan tumpukan server komputer yang menjalankan beban kerja yang semakin intensif energi.
Menurut CBRE Group, salah satu perusahaan layanan real estat komersial terbesar di dunia, pelanggan pusat data, mulai dari usaha kecil hingga penyedia layanan cloud besar, saat ini mengonsumsi daya lebih cepat daripada kapasitas yang dapat diperluas oleh operator pusat data. Meningkatnya kendala pasokan karena meningkatnya kasus penggunaan untuk kecerdasan buatan memberikan tekanan pada harga yang dibebankan oleh pusat data.
Misalnya, di pasar pusat data terbesar di dunia dengan lebih dari 275 fasilitas—Virginia Utara, Amerika Serikat, listrik yang tersedia untuk disewa tahun ini telah menurun dari 46,6 MW tahun lalu menjadi 38,4 MW, turun hingga 17,6%, sementara persediaan listrik keseluruhan Pertumbuhan aktual tahun-ke-tahun sebesar 19,5% menjadi 2.132 MW terutama disebabkan oleh konsumsi daya GPU yang besar dan meningkat pesat yang digunakan untuk melatih model AI generatif.
Selain itu, daya tambahan yang terkait dengan kebutuhan AI perlu dilengkapi dengan sistem pendingin perangkat keras yang lebih canggih yang tidak hanya boros energi, tetapi juga cenderung lebih mahal dan memiliki footprint yang lebih besar daripada pendingin udara tradisional, yang semuanya merupakan bagian dari sistem pendingin bertenaga AI Salah satu pendorong tingginya harga pusat data.
Di saat yang sama, ketika permintaan AI tinggi, tagihan listrik yang dibayarkan oleh pelanggan pusat data juga lebih tinggi. John Dinsdale, kepala analis di Synergy Research Group, sebuah firma riset pasar, mengakui bahwa operator pusat data global membebankan biaya tambahan untuk menjalankan aplikasi AI langsung ke pelanggan. **
Menurut statistik CB Richard Ellis, dalam tiga bulan pertama tahun ini, pelanggan pusat data di Virginia Utara di Amerika Serikat membayar sebanyak $140 per kilowatt listrik per bulan, meningkat sebesar 7,7% dari $130 tahun lalu. Di Silicon Valley, di mana tingkat kekosongan pusat data sekarang mendekati rekor terendah 2,9 persen, harga maksimum per kilowatt per bulan untuk pelanggan telah naik menjadi $250 per bulan, melonjak 43 persen dari $175 tahun lalu.
Menurut laporan, aplikasi kecerdasan buatan mengkonsumsi lebih banyak energi daripada perangkat lunak tradisional karena dirancang untuk membaca data dalam jumlah yang lebih besar. Sementara satu model AI dapat mengkonsumsi puluhan ribu kilowatt-jam listrik dalam hitungan hari, model AI generatif bisa 100 kali lebih besar dari alat AI standar. Firma riset pasar Enterprise Technology Research mensurvei sekitar 500 pembuat keputusan TI perusahaan tahun ini, dan lebih dari setengahnya mengatakan bahwa mereka berencana untuk mengevaluasi, menerapkan, atau menginvestasikan lebih banyak sumber daya dalam teknologi AI generatif seperti ChatGPT.
Analisis lain menunjukkan bahwa karena banyak penyedia cloud juga menyewakan ruang pusat data, karena semakin banyak perusahaan mengadopsi kecerdasan buatan generatif, biaya pusat data yang meningkat dapat menyebabkan biaya komputasi awan yang lebih tinggi. Mengingat bahwa beban kerja AI generatif memerlukan lebih banyak komputasi, hal ini pasti akan memengaruhi efisiensi energi dan sistem pendinginan pusat data secara lebih luas, artinya, dampaknya akan mencakup semua aspek industri.
Menurut artikel sains populer Lanyang Technology, industri umumnya percaya bahwa pusat data memiliki konsumsi energi yang tinggi dan pertumbuhan yang cepat, dan proporsi konsumsi energi negara saya meningkat dari tahun ke tahun. Konsumsi energi pusat data relatif terkonsentrasi Selain peralatan TI, fasilitas tambahan seperti sistem pendingin memiliki proporsi konsumsi energi yang tinggi:
"Listrik yang digunakan oleh peralatan TI pada akhirnya diubah menjadi panas, yang harus dihilangkan oleh pusat data menggunakan peralatan pendingin yang juga mengonsumsi energi. Rata-rata, sistem pendingin dan server merupakan konsumsi energi terbesar di pusat data, diikuti oleh peralatan jaringan dan pengemudi penyimpanan."
Konsumsi energi juga berhubungan langsung dengan biaya operasional. Menurut perkiraan pemodelan perusahaan konsultan Tirias Research, konsumsi daya pusat data akan mendekati 4.250 megawatt pada tahun 2028, meningkat 212 kali dibandingkan tahun 2023, dan total infrastruktur pusat data ditambah biaya pengoperasian dapat melebihi 76 miliar dolar AS .
Ini bisa disebut “AI generatif yang mengganggu pusat data” karena pertumbuhannya menantang model bisnis dan profitabilitas layanan baru seperti pencarian, pembuatan konten, dan otomasi bisnis yang menggabungkan AI generatif, dengan biaya lebih tinggi Lebih dari menggandakan biaya pengoperasian tahunan Amazon AWS.
Kemampuan inovatif yang diaktifkan oleh AI generatif membutuhkan biaya tinggi dalam hal kinerja pemrosesan dan konsumsi daya, kata agensi tersebut. Jadi, meskipun potensi AI mungkin tidak terbatas, fisika dan biaya pada akhirnya bisa menjadi batasannya.
Untuk mengurangi biaya, agensi menyarankan agar model jaringan saraf kecil yang sangat dioptimalkan, bahkan lebih sederhana dan lebih terspesialisasi dapat digunakan untuk mengurangi biaya pusat data dengan mengurangi ukuran model di cloud dan menggunakan jaringan parameter masif untuk pelatihan cepat jaringan saraf yang lebih kecil. model, model, dan memindahkan beban kerja sepenuhnya dari cloud, menjadikannya lebih hemat biaya untuk mendistribusikan aplikasi AI generatif untuk berjalan di platform terdistribusi seperti ponsel cerdas, PC, kendaraan, dan produk XR seluler:
“Lima tahun yang lalu, perusahaan mulai membunyikan alarm tentang konsumsi daya pusat data pada konferensi teknologi semikonduktor Hot Chips tahunan, ketika diperkirakan bahwa permintaan komputasi global dapat melebihi pembangkitan listrik global dalam satu dekade. AI , sedangkan AI generatif memiliki potensi untuk meningkatkan tuntutan komputasi pada tingkat yang lebih cepat.
Tidak ada yang namanya makan siang gratis - konsumen akan menuntut keluaran AI generatif yang lebih baik, yang akan mengimbangi peningkatan efisiensi dan kinerja. Biaya pasti akan naik karena penggunaan konsumen meningkat. Mengalihkan komputasi ke edge dan mendistribusikannya ke klien seperti PC, smartphone, dan perangkat XR adalah cara utama untuk mengurangi biaya modal dan operasional. "
Lihat Asli
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
AI dengan cepat menaikkan harga pusat data: Tingkat kekosongan Silicon Valley mendekati titik terendah dalam sejarah, dan biaya komputasi awan meroket
Dengan popularitas ChatGPT yang didukung oleh Microsoft pada awal tahun, dan peluncuran cepat model bahasa besar (LLM) dan produk pesaing kecerdasan buatan generatif oleh pesaing seperti Google dan Meta, AI tampaknya berkembang pesat ke lebih banyak aspek. kehidupan manusia, dan permintaan terkait juga meningkat. .
Apa yang sedikit diketahui adalah bahwa kebakaran AI juga telah menyebabkan melonjaknya biaya pusat data. Laporan terbaru menunjukkan: "Penggunaan energi yang terkait dengan menjalankan kalkulasi angka kecerdasan buatan dengan cepat menjadi pendorong utama meningkatnya biaya pusat data ."
Melonjaknya permintaan untuk kecerdasan buatan telah mendorong beberapa operator pusat data untuk menaikkan harga sewa komersial untuk memperhitungkan biaya tambahan untuk menyalakan dan mendinginkan tumpukan server komputer yang menjalankan beban kerja yang semakin intensif energi.
Menurut CBRE Group, salah satu perusahaan layanan real estat komersial terbesar di dunia, pelanggan pusat data, mulai dari usaha kecil hingga penyedia layanan cloud besar, saat ini mengonsumsi daya lebih cepat daripada kapasitas yang dapat diperluas oleh operator pusat data. Meningkatnya kendala pasokan karena meningkatnya kasus penggunaan untuk kecerdasan buatan memberikan tekanan pada harga yang dibebankan oleh pusat data.
Misalnya, di pasar pusat data terbesar di dunia dengan lebih dari 275 fasilitas—Virginia Utara, Amerika Serikat, listrik yang tersedia untuk disewa tahun ini telah menurun dari 46,6 MW tahun lalu menjadi 38,4 MW, turun hingga 17,6%, sementara persediaan listrik keseluruhan Pertumbuhan aktual tahun-ke-tahun sebesar 19,5% menjadi 2.132 MW terutama disebabkan oleh konsumsi daya GPU yang besar dan meningkat pesat yang digunakan untuk melatih model AI generatif.
Selain itu, daya tambahan yang terkait dengan kebutuhan AI perlu dilengkapi dengan sistem pendingin perangkat keras yang lebih canggih yang tidak hanya boros energi, tetapi juga cenderung lebih mahal dan memiliki footprint yang lebih besar daripada pendingin udara tradisional, yang semuanya merupakan bagian dari sistem pendingin bertenaga AI Salah satu pendorong tingginya harga pusat data.
Di saat yang sama, ketika permintaan AI tinggi, tagihan listrik yang dibayarkan oleh pelanggan pusat data juga lebih tinggi. John Dinsdale, kepala analis di Synergy Research Group, sebuah firma riset pasar, mengakui bahwa operator pusat data global membebankan biaya tambahan untuk menjalankan aplikasi AI langsung ke pelanggan. **
Menurut statistik CB Richard Ellis, dalam tiga bulan pertama tahun ini, pelanggan pusat data di Virginia Utara di Amerika Serikat membayar sebanyak $140 per kilowatt listrik per bulan, meningkat sebesar 7,7% dari $130 tahun lalu. Di Silicon Valley, di mana tingkat kekosongan pusat data sekarang mendekati rekor terendah 2,9 persen, harga maksimum per kilowatt per bulan untuk pelanggan telah naik menjadi $250 per bulan, melonjak 43 persen dari $175 tahun lalu.
Menurut laporan, aplikasi kecerdasan buatan mengkonsumsi lebih banyak energi daripada perangkat lunak tradisional karena dirancang untuk membaca data dalam jumlah yang lebih besar. Sementara satu model AI dapat mengkonsumsi puluhan ribu kilowatt-jam listrik dalam hitungan hari, model AI generatif bisa 100 kali lebih besar dari alat AI standar. Firma riset pasar Enterprise Technology Research mensurvei sekitar 500 pembuat keputusan TI perusahaan tahun ini, dan lebih dari setengahnya mengatakan bahwa mereka berencana untuk mengevaluasi, menerapkan, atau menginvestasikan lebih banyak sumber daya dalam teknologi AI generatif seperti ChatGPT.
Analisis lain menunjukkan bahwa karena banyak penyedia cloud juga menyewakan ruang pusat data, karena semakin banyak perusahaan mengadopsi kecerdasan buatan generatif, biaya pusat data yang meningkat dapat menyebabkan biaya komputasi awan yang lebih tinggi. Mengingat bahwa beban kerja AI generatif memerlukan lebih banyak komputasi, hal ini pasti akan memengaruhi efisiensi energi dan sistem pendinginan pusat data secara lebih luas, artinya, dampaknya akan mencakup semua aspek industri.
Menurut artikel sains populer Lanyang Technology, industri umumnya percaya bahwa pusat data memiliki konsumsi energi yang tinggi dan pertumbuhan yang cepat, dan proporsi konsumsi energi negara saya meningkat dari tahun ke tahun. Konsumsi energi pusat data relatif terkonsentrasi Selain peralatan TI, fasilitas tambahan seperti sistem pendingin memiliki proporsi konsumsi energi yang tinggi:
Konsumsi energi juga berhubungan langsung dengan biaya operasional. Menurut perkiraan pemodelan perusahaan konsultan Tirias Research, konsumsi daya pusat data akan mendekati 4.250 megawatt pada tahun 2028, meningkat 212 kali dibandingkan tahun 2023, dan total infrastruktur pusat data ditambah biaya pengoperasian dapat melebihi 76 miliar dolar AS .
Kemampuan inovatif yang diaktifkan oleh AI generatif membutuhkan biaya tinggi dalam hal kinerja pemrosesan dan konsumsi daya, kata agensi tersebut. Jadi, meskipun potensi AI mungkin tidak terbatas, fisika dan biaya pada akhirnya bisa menjadi batasannya.
Untuk mengurangi biaya, agensi menyarankan agar model jaringan saraf kecil yang sangat dioptimalkan, bahkan lebih sederhana dan lebih terspesialisasi dapat digunakan untuk mengurangi biaya pusat data dengan mengurangi ukuran model di cloud dan menggunakan jaringan parameter masif untuk pelatihan cepat jaringan saraf yang lebih kecil. model, model, dan memindahkan beban kerja sepenuhnya dari cloud, menjadikannya lebih hemat biaya untuk mendistribusikan aplikasi AI generatif untuk berjalan di platform terdistribusi seperti ponsel cerdas, PC, kendaraan, dan produk XR seluler: