Trí tuệ nhân tạo đang đẩy giá trung tâm dữ liệu lên nhanh chóng: tỷ lệ trống ở Thung lũng Silicon đang ở gần mức thấp lịch sử và chi phí điện toán đám mây đang tăng chóng mặt

Nguồn hình ảnh: Được tạo bởi Unbounded AI

Với sự phổ biến của ChatGPT do Microsoft hỗ trợ vào đầu năm và sự ra mắt nhanh chóng của mô hình ngôn ngữ lớn (LLM) và các sản phẩm cạnh tranh trí tuệ nhân tạo tổng quát của các đối thủ như Google và Meta, AI dường như đang nhanh chóng tiến vào nhiều khía cạnh hơn của cuộc sống của con người, và nhu cầu liên quan cũng đang tăng lên. .

Điều ít được biết đến là vụ cháy AI cũng dẫn đến chi phí trung tâm dữ liệu tăng vọt. ."

Nhu cầu về trí tuệ nhân tạo tăng cao đã khiến một số nhà điều hành trung tâm dữ liệu tăng giá cho thuê thương mại để tính thêm chi phí cung cấp năng lượng và làm mát cho các cụm máy chủ chạy khối lượng công việc ngày càng sử dụng nhiều năng lượng.

Theo Tập đoàn CBRE, một trong những công ty dịch vụ bất động sản thương mại lớn nhất thế giới, các khách hàng của trung tâm dữ liệu, từ các doanh nghiệp nhỏ đến các nhà cung cấp dịch vụ đám mây lớn, hiện đang tiêu thụ điện năng nhanh hơn so với khả năng mở rộng công suất của các nhà khai thác trung tâm dữ liệu. Các hạn chế về nguồn cung ngày càng tăng do các trường hợp sử dụng trí tuệ nhân tạo ngày càng tăng đang gây áp lực lên giá của các trung tâm dữ liệu.

Ví dụ, ở Bắc Virginia, Hoa Kỳ, thị trường trung tâm dữ liệu lớn nhất thế giới với hơn 275 cơ sở, lượng điện cho thuê trong năm nay đã giảm từ 46,6 MW một năm trước xuống còn 38,4 MW, giảm tới 17,6%. trong khi lượng điện tồn kho tổng thể Mức tăng trưởng thực tế hàng năm là 19,5% lên 2.132 MW chủ yếu là do mức tiêu thụ điện năng lớn và tăng nhanh của GPU được sử dụng để đào tạo các mô hình AI tổng quát.

Ngoài ra, năng lượng bổ sung liên quan đến nhu cầu AI sẽ cần được bổ sung bằng các hệ thống làm mát phần cứng tiên tiến hơn, không chỉ tiêu tốn nhiều năng lượng mà còn có xu hướng đắt hơn và có diện tích lớn hơn so với máy làm mát không khí truyền thống, tất cả đều là một phần. của hệ thống làm mát do AI cung cấp.Một trong những nguyên nhân khiến giá trung tâm dữ liệu cao.

Đồng thời, khi nhu cầu về AI tăng mạnh, hóa đơn tiền điện mà khách hàng trung tâm dữ liệu phải trả cũng cao hơn. John Dinsdale, nhà phân tích chính của Synergy Research Group, một công ty nghiên cứu thị trường, thừa nhận rằng các nhà khai thác trung tâm dữ liệu toàn cầu đang chuyển trực tiếp chi phí bổ sung cho việc chạy các ứng dụng AI sang khách hàng. **

Theo thống kê của CB Richard Ellis, trong ba tháng đầu năm nay, khách hàng của trung tâm dữ liệu ở Bắc Virginia, Hoa Kỳ đã trả tới 140 đô la cho mỗi kilowatt điện mỗi tháng, tăng 7,7% so với 130 đô la một năm trước. Tại Thung lũng Silicon, nơi tỷ lệ trống của trung tâm dữ liệu hiện ở mức thấp gần kỷ lục là 2,9%, mức giá tối đa cho mỗi kilowatt mỗi tháng đối với khách hàng đã tăng lên 250 đô la một tháng, tăng 43% so với mức 175 đô la vào năm ngoái.

Theo báo cáo, các ứng dụng trí tuệ nhân tạo tiêu tốn nhiều năng lượng hơn phần mềm truyền thống vì chúng được thiết kế để đọc lượng dữ liệu lớn hơn. Trong khi một mô hình AI đơn lẻ có thể tiêu thụ hàng chục nghìn kilowatt giờ điện trong vài ngày, thì một mô hình AI tổng quát có thể lớn hơn 100 lần so với các công cụ AI tiêu chuẩn. Công ty nghiên cứu thị trường Enterprise Technology Research đã khảo sát khoảng 500 người ra quyết định CNTT của công ty trong năm nay và hơn một nửa trong số họ cho biết họ có kế hoạch đánh giá, triển khai hoặc đầu tư thêm nguồn lực vào các công nghệ AI tổng quát như ChatGPT.

Một phân tích khác chỉ ra rằng vì nhiều nhà cung cấp đám mây cũng cho thuê không gian trung tâm dữ liệu, nên ngày càng có nhiều công ty áp dụng trí tuệ nhân tạo tổng quát, chi phí trung tâm dữ liệu tăng có thể dẫn đến phí điện toán đám mây cao hơn. Do khối lượng công việc AI tổng quát đòi hỏi nhiều máy tính hơn, nên nó chắc chắn sẽ ảnh hưởng rộng hơn đến hiệu suất năng lượng và hệ thống làm mát của trung tâm dữ liệu, nghĩa là tác động sẽ lan rộng trên tất cả các khía cạnh của ngành.

Theo bài báo khoa học phổ biến của Lanyang Technology, ngành công nghiệp nói chung tin rằng các trung tâm dữ liệu có mức tiêu thụ năng lượng cao và tăng trưởng nhanh, và tỷ lệ tiêu thụ năng lượng của đất nước tôi đang tăng lên hàng năm. Mức tiêu thụ năng lượng của trung tâm dữ liệu tương đối tập trung, ngoài thiết bị CNTT, các thiết bị phụ trợ như hệ thống lạnh có tỷ lệ tiêu thụ năng lượng cao:

"Điện được sử dụng bởi thiết bị CNTT cuối cùng được chuyển đổi thành nhiệt, thứ phải được loại bỏ bởi các trung tâm dữ liệu sử dụng thiết bị làm mát cũng tiêu thụ năng lượng. Trung bình, hệ thống làm mát và máy chủ chiếm phần lớn mức tiêu thụ năng lượng của trung tâm dữ liệu, tiếp theo là thiết bị mạng và trình điều khiển lưu trữ."

Tiêu thụ năng lượng cũng liên quan trực tiếp đến chi phí vận hành. Theo dự báo mô hình của công ty tư vấn Tirias Research, mức tiêu thụ điện năng của các trung tâm dữ liệu sẽ đạt gần 4.250 megawatt vào năm 2028, tăng 212 lần so với năm 2023 và tổng cơ sở hạ tầng trung tâm dữ liệu cộng với chi phí vận hành có thể vượt quá 76 tỷ đô la Mỹ. .

Điều này có thể được gọi là “AI thế hệ mới phá vỡ trung tâm dữ liệu” vì sự phát triển của nó thách thức các mô hình kinh doanh và lợi nhuận của các dịch vụ mới nổi như tìm kiếm, tạo nội dung và tự động hóa kinh doanh kết hợp AI thế hệ mới, với chi phí cao hơn. gấp đôi chi phí vận hành hàng năm của Amazon AWS.

Cơ quan này cho biết các khả năng đổi mới được kích hoạt bởi AI tổng quát có chi phí cao về hiệu suất xử lý và mức tiêu thụ điện năng. Vì vậy, trong khi tiềm năng của AI có thể là vô hạn, vật lý và chi phí cuối cùng có thể là ranh giới.

Để giảm chi phí, cơ quan đề xuất rằng có thể sử dụng các mô hình mạng thần kinh nhỏ được tối ưu hóa cao, thậm chí đơn giản hơn và chuyên dụng hơn để giảm chi phí trung tâm dữ liệu bằng cách giảm kích thước mô hình trong đám mây và sử dụng các mạng tham số lớn để đào tạo nhanh mạng thần kinh nhỏ hơn models.models và di chuyển khối lượng công việc hoàn toàn ra khỏi đám mây, giúp việc phân phối các ứng dụng AI tổng quát chạy trên các nền tảng phân tán như điện thoại thông minh, PC, xe cộ và các sản phẩm XR di động trở nên hiệu quả hơn về mặt chi phí:

“Cách đây 5 năm, các công ty bắt đầu gióng lên hồi chuông cảnh báo về mức tiêu thụ điện năng của trung tâm dữ liệu tại hội nghị công nghệ bán dẫn Hot Chips hàng năm, khi người ta dự đoán rằng nhu cầu điện toán toàn cầu có thể vượt xa sản lượng điện toàn cầu trong vòng một thập kỷ. AI , trong khi AI tổng quát có khả năng tăng nhu cầu tính toán với tốc độ thậm chí còn nhanh hơn. Không có thứ gọi là bữa trưa miễn phí - người tiêu dùng sẽ yêu cầu đầu ra AI có năng suất cao hơn, điều này sẽ bù đắp cho hiệu quả và hiệu suất đạt được. Chi phí chắc chắn sẽ tăng lên khi mức sử dụng của người tiêu dùng tăng lên. Giảm tải điện toán ra biên và phân phối nó cho các khách hàng như PC, điện thoại thông minh và thiết bị XR là một cách quan trọng để giảm vốn và chi phí vận hành. "