Máy chủ tăng tốc cho AI thúc đẩy tăng trưởng chi tiêu cho trung tâm dữ liệu

Chi phí vốn cho trung tâm dữ liệu tăng gần 50% trong quý 2 năm 2024, do nhu cầu về máy chủ AI ngày càng tăng.

Theo báo cáo mới từ Dell’Oro Group, các trung tâm dữ liệu đã tăng chi phí vốn (CapEx) gần 50% trong quý 2 năm 2024, do nhu cầu về phần cứng hỗ trợ AI tăng cao.

Cơn sốt chi tiêu dự kiến sẽ tiếp tục trong thời gian còn lại của năm, mặc dù với tốc độ chậm hơn một chút. Dell’Oro dự báo mức tăng trưởng mạnh mẽ 35% trong tổng chi phí đầu tư cho trung tâm dữ liệu trên toàn thế giới trong năm 2024.

Giải pháp hạ tầng Deep Learning, Trí tuệ Nhân tạo - AI

Tổ chức này cho biết sự tăng trưởng này phần lớn là do nhu cầu ngày càng tăng đối với các máy chủ tăng tốc GPU được thiết kế cho các ứng dụng AI.

Baron Fung, giám đốc nghiên cứu cấp cao tại Dell’Oro Group, chia sẻ với Data Center Knowledge rằng: “Máy chủ tăng tốc là máy chủ có GPU và các bộ tăng tốc tùy biến khác, chẳng hạn như Google TPU”.

Số liệu của Dell’Oro là số liệu mới nhất trong một loạt dự đoán về mức tăng trưởng chi tiêu cho trung tâm dữ liệu hai chữ số. Gartner dự báo tổng chi tiêu cho các hệ thống trung tâm dữ liệu sẽ tăng 24% vào năm 2024. Giống như Dell’Oro, sự tăng trưởng một phần là do nhu cầu cung cấp sức mạnh cho các hệ thống và dịch vụ AI tạo ra.

Omdia dự báo vào cuối năm 2023 rằng thị trường máy chủ toàn cầu sẽ có giá trị 196 tỷ đô la vào năm 2027, trong khi một báo cáo từ Fundamental Business Insights & Consulting được công bố đầu tháng này ước tính thị trường máy chủ AI sẽ có giá trị 183 tỷ đô la vào năm 2032.

Tăng tốc AI: Động lực tăng trưởng

Mặc dù sự tăng trưởng của máy chủ tăng tốc không có gì đáng ngạc nhiên, nhưng theo các nhà nghiên cứu của Dell’Oro, thị trường này đang tăng trưởng nhanh hơn dự kiến.

“Doanh thu máy chủ tăng tốc đã vượt quá dự báo hoặc kỳ vọng trước đó của chúng tôi”, Fung cho biết. “Động lực cho việc áp dụng máy chủ tăng tốc là mạnh mẽ, đặc biệt là đối với thị trường siêu quy mô “.

Máy chủ tăng tốc GPU đang vượt trội hơn tốc độ tăng trưởng máy chủ thông thường trong trung tâm dữ liệu về cả doanh thu và số lượng hàng xuất xưởng.

Fung cho biết trong vòng 5 năm từ 2023 đến 2028, tốc độ tăng trưởng kép hằng năm của máy chủ thông dụng dự kiến chỉ tăng 3%, so với mức 31% của máy chủ tăng tốc.

Theo Báo cáo Công nghệ Toàn cầu mới nhất của Bain & Company, tải xử lý AI được dự báo sẽ tăng trưởng với tốc độ 25-35% đến năm 2027 .

David Crawford, chủ tịch bộ phận công nghệ toàn cầu của Bain, cho biết: “AI tạo sinh (Generative AI) là động lực chính của làn sóng thay đổi hiện nay, nhưng nó trở nên phức tạp do những thay đổi sau toàn cầu hóa và nhu cầu điều chỉnh các quy trình kinh doanh để mang lại giá trị”.

Tác động của điện toán tăng tốc lên Capex của Trung tâm dữ liệu

Các nhà phân tích cho biết tác động của điện toán tăng tốc lên chi phí đầu tư trung tâm dữ liệu đang được cảm nhận trên toàn thế giới, nhưng sẽ không kéo dài mãi mãi.

Nhà phân tích Alexander Harrowell của Omdia chia sẻ với Data Center Knowledge rằng: “Nó vừa tăng về mặt thị phần vừa có thể thúc đẩy quy mô thị trường nói chung” .

“Vì thế, nó đang tăng nhanh hơn đáng kể so với tổng thị trường, và do vậy tại một thời điểm nào đó, động lực đường cong chữ S cổ điển sẽ bắt đầu, có thể là trong hai đến ba năm tới, chỉ vì nhóm người dùng tiềm năng sẽ cạn kiệt”, Harrowell cho biết. “Điều đó sẽ để lại cho chúng ta một thế giới điện toán không đồng nhất hơn nhiều”.

Về mặt động lực thị trường, Harrowell cho biết mảng kinh doanh trung tâm dữ liệu của Nvidia có thể sẽ lớn gấp khoảng 10 lần mảng trung tâm dữ liệu và AI của Intel trong năm nay. Thị trường được thúc đẩy hơn nữa bởi các chip ASIC tùy biến của các công ty hyperscaler, cùng với các sản phẩm từ các nhà sản xuất chip bao gồm AMD và Huawei.

Các tên tuổi dẫn dắt thị trường máy chủ AI và việc phân chia doanh thu

Trong bối cảnh cạnh tranh của các nhà cung cấp máy chủ trung tâm dữ liệu, Dell nổi lên là công ty dẫn đầu về doanh thu trong quý 2 năm 2024, tiếp theo là HPE và Supermicro, theo phân tích của Dell’Oro.

Đáng chú ý, máy chủ tăng tốc chiếm khoảng 41% doanh thu máy chủ OEM trong quý này, cho thấy tác động đáng kể của chúng lên thị trường.

Nhu cầu tăng cao đối với các dịch vụ tăng tốc cũng có khả năng thúc đẩy chi tiêu nhiều hơn vào các lĩnh vực liên quan, chẳng hạn như thiết bị mạng (networking).

Fung lưu ý rằng mảng networking cũng được hưởng lợi từ việc tăng tốc áp dụng điện toán tăng tốc.

Ông cho biết: “Máy chủ tăng tốc thường yêu cầu nhiều băng thông mạng hơn so với máy chủ thông thường”.

“Nếu các máy chủ được tăng tốc được kết nối với nhau trong một cụm lớn được sử dụng để đào tạo các mô hình ngôn ngữ lớn hoặc các mô hình AI tạo sinh, thì sẽ cần một hệ thống mạng chuyên dụng, được gọi là mạng back-end.

“Mạng back-end này thậm chí còn nhanh hơn mạng front-end và đã có rất nhiều cải tiến gần đây đằng sau thị trường mới này.”

Theo Data Center Knowledge

____
Bài viết liên quan