Ít hơn nhưng nhiều hơn khi điện toán chuyên dụng, đặc thù ngày càng nóng lên.
Các đơn hàng máy chủ trong năm 2023 được dự báo có thể giảm tới 20% so với năm ngoái, mặc dù doanh số ngày càng tăng. Theo Omdia, nguyên nhân là do điện toán đặc thù, không đồng nhất (heterogeneous computing) đang làm tăng hàm lượng silicon trong các hệ thống quy mô lớn này.
Các trung tâm dữ liệu đang được định hình lại theo nhu cầu của AI. Sự thay đổi này đã dẫn đến nhu cầu sử dụng số lượng hệ thống ít hơn nhưng có cấu hình cao hơn và đắt tiền hơn, do đó doanh số vẫn tiếp tục tăng.
Trong bản cập nhật thị trường trung tâm dữ liệu và đám mây mới nhất, Omdia dự báo đơn hàng máy chủ sẽ giảm từ 17 đến 20% trong cả năm 2023, trong khi tổng doanh số dự kiến sẽ tăng từ 6 đến 8%.
Các nhà nghiên cứu thị trường đã đặt ra một thuật ngữ cho xu hướng này: điện toán siêu cấp không đồng nhất (hyper heterogeneous computing). Hoặc để cho đơn giản, có thể gọi là điện toán đặc thù, điện toán chuyên dụng (người dịch). Tức là nhắc đến các máy chủ được cấu hình với các co-processor hay bộ đồng xử lý (như GPU, NPU,…) để tối ưu hóa hiệu suất của chúng cho các ứng dụng cụ thể.
Một ví dụ về xu hướng này là các máy chủ có bộ tăng tốc cho AI (AI accelerator). Omdia cho biết cấu hình phổ biến nhất để đào tạo mô hình ngôn ngữ lớn là các hệ thống DGX của NVIDIA, được cấu hình với 8 GPU H100 hoặc A100. Tuy nhiên, bên cạnh đó cũng có các máy chủ nằm trên dịch vụ của Amazon dành cho chức năng suy luận AI, được cấu hình bằng bộ đồng xử lý và được xây dựng tùy biến, nó được gọi là Inferentia 2.
Điện toán chuyên dụng cũng có thể bao gồm các hệ thống có các loại co-processor khác, chẳng hạn như máy chủ phục vụ cho video transcoding của Google với 20 Video Coding Unit (VCU) được xây dựng tùy biến. Công ty mẹ Meta của Facebook cũng có các giải pháp tương tự, với các máy chủ xử lý video có 12x Scalable Video Processor được Meta xây dựng tùy biến.
Omdia cho biết xu hướng này đang đẩy mạnh hàm lượng silicon trong máy chủ, đến mức họ kỳ vọng CPU và co-processor sẽ chiếm 30% ngân sách của trung tâm dữ liệu vào năm 2027, so với mức dưới 20% trong thập kỷ trước.
Cũng như việc xử lý đa phương tiện và AI, công ty hy vọng các tải xử lý như database và web service sẽ được xử lý theo cách tương tự trong tương lai.
(Các cơ sở dữ liệu được cho là đã có các bộ tăng tốc ở dạng SSD “thông minh” – computational storage – có thể tăng hiệu suất truy xuất dữ liệu dạng Key-Value bằng bộ xử lý trên chip).
Về khía cạnh GPU, Microsoft và Meta đang vượt xa các công ty siêu quy mô khác trong quá trình triển khai của họ, với cả hai công ty dự kiến đã nhận được 150.000 bộ tăng tốc H100 của NVIDIA vào cuối năm nay, theo số liệu của Omdia. Con số này nhiều gấp ba lần so với Google, Amazon hoặc Oracle.
Đánh giá theo dữ liệu của Omdia, các nhà cung cấp đám mây siêu quy mô (hyperscale cloud provider) đang tăng cường nguồn cung đến mức các nhà sản xuất máy chủ như Dell, Lenovo và HPE đang phải vật lộn để hoàn thành các đơn đặt hàng máy chủ GPU do thiếu sự phân bổ từ NVIDIA, với thời gian thực hiện là 36-52 tuần dành cho các máy chủ được cấu hình bằng GPU H100.
Những máy chủ có cấu hình cao này cũng đang thúc đẩy nhu cầu về hạ tầng làm mát và nguồn điện cho trung tâm dữ liệu. Trong nửa đầu năm nay, doanh thu từ bộ phân phối điện trên rack đã tăng 17% so với cùng kỳ năm ngoái, trong khi chi tiêu cho bộ UPS tăng 7%.
Tuy nhiên, làm mát bằng chất lỏng mới là lĩnh vực được kỳ vọng sẽ có sự tăng trưởng lớn. Dựa trên dữ liệu từ OEMS, Omdia ước tính chi tiêu cho việc làm mát bằng chất lỏng trực tiếp trên chip sẽ tăng 80% trong năm nay, trong khi nhà cung cấp siêu quy mô Supermicro cho biết họ kỳ vọng 20% hệ thống mà họ xuất xưởng trong Q4 sẽ được trang bị làm mát bằng chất lỏng.
Các module trung tâm dữ liệu chế tạo sẵn đang gia tăng như một cách để nhanh chóng bổ sung công suất điện. Omdia cho rằng một số nhà cung cấp đã báo cáo nhu cầu về các module chế tạo sẵn để chứa thêm thiết bị đóng cắt, UPS, pin hoặc bộ phân phối điện tăng gấp đôi.
Omdia kỳ vọng tổng chi tiêu cho trung tâm dữ liệu sẽ tăng 10% mỗi năm từ nay đến năm 2027, khi đó họ dự đoán sẽ đạt tổng cộng 468,4 tỷ USD.
Theo The Register
Bài viết liên quan