Dự đoán 3 xu hướng đối với các trung tâm dữ liệu vào năm 2024

Vào năm 2024, trí tuệ nhân tạo sẽ tiếp tục thúc đẩy nhu cầu xử lý và công suất của trung tâm dữ liệu, đồng thời tạo điều kiện cho các mô hình kinh doanh mới cho phân khúc thị trường trung tâm dữ liệu.

Trung tâm dữ liệu là những khối động cơ vô hình đằng sau mọi hoạt động, từ giao dịch hàng ngày như mobile banking và đăng tải trên mạng xã hội, cho đến các công nghệ tiên tiến mới như trí tuệ nhân tạo (AI) và các trò chơi nhập vai. Các nhà khai thác đang ở giữa một thời kỳ thú vị với cả thách thức và cơ hội. Khi ngày càng nhiều ứng dụng chuyển sang đám mây và khi sự bùng nổ của AI tăng tốc, những thứ như nhu cầu về điện năng, làm mát và bảo mật trong hoạt động của trung tâm dữ liệu theo đó cũng thay đổi.

Hướng đến năm 2024, dưới đây là một số xu hướng chính mà chúng tôi cho rằng các nhà khai thác trung tâm dữ liệu nên chú ý tới:

1. AI sẽ tiếp tục thúc đẩy hoạt động và đổi mới

Năm ngoái, chúng tôi đã lưu ý rằng không gian trung tâm dữ liệu phải phát triển để đáp ứng nhu cầu sức mạnh và mật độ của AI và ML, nó có thể gấp ba lần so với các nhu cầu IT truyền thống. Nhu cầu xử lý đặc thù của các mô hình ngôn ngữ lớn (LLM) yêu cầu số lượng kết nối kênh quang khổng lồ và các phương pháp mới để cấp nguồn và làm mát thiết bị mạng mà nhiều trung tâm dữ liệu chưa được thiết lập để hỗ trợ.

Những nhu cầu này vẫn chưa biến mất và AI vẫn sẽ là động lực thúc đẩy nhiều xu hướng trong trung tâm dữ liệu vào năm 2024. Chúng ta cũng sẽ tiếp tục thấy AI và học máy (ML) được tận dụng trong chính các trung tâm dữ liệu, đặc biệt là cấp độ hyperscale, để nắm bắt rõ hơn những vấn đề như sử dụng điện năng và quản lý tài nguyên. Tuy nhiên, sẽ có một động lực lớn khác, khi các công ty tiếp tục xây dựng hệ thống mạng để hỗ trợ LLM của họ, họ cũng cần xây dựng nền tảng suy luận mới, nơi sẽ đưa ra các dự đoán bằng cách phân tích các tập dữ liệu mới. Những mạng mới này có thể yêu cầu thông lượng cao hơn và độ trễ thấp hơn.

Phần lớn công việc về AI cho đến thời điểm này là xây dựng các LLM này. Những thứ như GPT-3 và GPT-4 từ OpenAI, LLaMA từ Meta và PaLM2 của Google. Và điều này đòi hỏi một loại sức mạnh xử lý đặc thù, để chạy hàng tỷ phép tính và quy trình khi các mô hình này được phát triển – về cơ bản là “dạy” những gì chúng cần biết. Giờ đây, hầu hết những người chơi chính trong lĩnh vực này đang bắt đầu chuyển sang xây dựng các ứng dụng cụ thể bằng cách sử dụng các mô hình này. Điều này một lần nữa sẽ thay đổi nhu cầu về điện năng và năng lực xử lý.

Hệ quả cuối cùng có thể xảy ra của sự chuyển đổi từ giai đoạn phát triển sang suy luận này là gì? Chúng ta có thể thấy sự xuất hiện được chờ đợi từ lâu của điện toán biên là một yếu tố chính. Khi các ứng dụng AI cụ thể được phát triển, các công ty sẽ tìm kiếm sức mạnh xử lý gần hơn với nơi ứng dụng đang được sử dụng. Điều đó có nghĩa là các trung tâm dữ liệu nhỏ hơn, giữ cho máy tính nặng ở gần nơi nó thực sự được sử dụng (tức là các cơ sở sản xuất, trường đại học, bệnh viện, v.v.), thay vì các cơ sở tập trung. Và điều đó liên quan trực tiếp đến xu hướng tiếp theo.

2. Thời của không gian trung tâm dữ liệu đa người thuê

Nói chung, các nhà khai thác hyperscale thiết kế và xây dựng các khuôn viên trung tâm dữ liệu lớn nhất. Nhưng với yêu cầu về năng lượng và không gian ngày càng tăng cần thiết để hỗ trợ AI, ML và các ứng dụng mới khác, các nhà cung cấp hyperscale có thể cần xem xét các phương pháp thay thế để xây dựng cơ sở vật chất.

Đây là nơi trung tâm dữ liệu đa người thuê (Multi-tenant Data Center, MTDC) có tiềm năng. Theo nhiều cách, những nhà điều hành này có các công ty quản lý tài nguyên và năng lực kỹ thuật – họ có địa điểm, họ biết cách cung cấp điện và các nhu cầu làm mát. Vì vậy, đối với những nhà cung cấp siêu quy mô cần quyền truy cập vào các cơ sở ở các khu vực địa lý nơi đất đai và nguồn điện bị hạn chế, MTDC có thể là một lựa chọn tốt.

Tất nhiên, khách hàng cấp doanh nghiệp cũng muốn tận dụng những công nghệ mới nổi này. Tuy nhiên, xây dựng cơ sở vật chất là một khoản đầu tư vốn lớn. Chúng tôi đã thấy các ví dụ trong đó MTDC và các nhà khai thác “đám mây” mới khác cung cấp “AI dưới dạng dịch vụ”, trong đó một không gian máy chủ chuyên dụng được cho một tổ chức, dù lớn hay nhỏ, thuê để chạy tải xử lý AI.

MTDC cũng sẽ đóng một vai trò trong sự phát triển của điện toán biên, vì các công ty sẽ tìm kiếm sức mạnh tính toán gần hơn với nơi ứng dụng đang được triển khai.

3. Những tiến bộ trong công nghệ truyền dẫn giúp các trung tâm dữ liệu tối đa hóa không gian

Các trung tâm dữ liệu đang được yêu cầu tạo ra sức mạnh xử lý lớn hơn theo cấp số nhân và truyền nhiều dữ liệu hơn, nhanh hơn khi các công nghệ mới được áp dụng. Các nhà khai thác cơ sở biết rằng việc đáp ứng nhu cầu đó chỉ bằng cách bổ sung thêm nhiều kết nối cáp quang là một chiến lược không bền vững do hạn chế về không gian và năng lượng.

Đặc biệt ở cấp độ siêu quy mô, chúng tôi đã bắt đầu thấy các nhà khai thác triển khai bộ thu phát quang 800G để hỗ trợ các ứng dụng và điều này sẽ tiếp tục – và chúng ta có thể sẽ thấy một số thiết bị mẫu 1,6 terabyte vào năm 2024. Các ứng dụng điện toán hiệu suất cao, như AI và ML, đang thúc đẩy triển khai giải pháp 800G. Các bộ chuyển mạch mạng mới nhất được sử dụng để kết nối các Máy chủ AI trong trung tâm dữ liệu được trang bị tốt để hỗ trợ các kết nối 800G. Trong nhiều trường hợp, các cổng thu phát trên các bộ chuyển mạch mạng này hoạt động ở chế độ đột phá, trong đó mạch 800G được chia thành hai mạch 400 hoặc nhiều mạch 100. Điều này cho phép các nhà khai thác trung tâm dữ liệu tăng khả năng kết nối của bộ chuyển mạch và kết nối nhiều máy chủ hơn. Khi chúng ta thấy những tiến bộ trong bộ thu phát quang, nơi có thể đặt nhiều dữ liệu hơn vào các bước sóng và sợi quang, chúng ta cũng sẽ thấy các bộ thu phát quang tốc độ cao hơn hoạt động với ít kết nối quang hơn, mang lại lợi ích cho khách hàng ở trung tâm dữ liệu bằng cách giảm tắc nghẽn cáp trên rack và cải thiện luồng không khí.

Ví dụ: bộ thu phát quang 400G SR8 đa chế độ điển hình có 16 kết nối quang và là lựa chọn tốt cho các ứng dụng tầm ngắn, tuy nhiên những tiến bộ trong công nghệ quang học cho phép nhiều dữ liệu hơn về sợi quang và bước sóng. Bộ thu phát quang 400G SR4 đang gia nhập thị trường với số lượng sợi quang giảm xuống còn 8. Những thiết bị này và các thiết bị thu phát quang mới khác đã tiến một bước dài trong việc giúp các trung tâm dữ liệu đáp ứng các nhu cầu dữ liệu ngày càng tăng.

Liên quan đến xu hướng này là những tiến bộ trong việc thu nhỏ và phát triển các giải pháp như đầu nối có form-factor rất nhỏ sẽ giúp các nhà khai thác trung tâm dữ liệu làm được nhiều việc hơn với không gian hạn chế.

Nhìn chung, các CIO và CTO sẽ cần phải đi đầu trong các xu hướng mới xuất hiện này để đảm bảo các trung tâm dữ liệu có thể hỗ trợ các quy trình kinh doanh và các trường hợp sử dụng mới. Sẽ có xu hướng kết hợp các giải pháp thành phần riêng lẻ lại với nhau chỉ để theo kịp công nghệ đang tiến bộ rất nhanh. Nhưng một giải pháp kỹ thuật toàn diện đáp ứng nhu cầu dữ liệu hiện tại và tương lai của khách hàng sẽ luôn là một chiến lược mạnh mẽ hơn.

Theo Corning

Góp ý / Liên hệ tác giả