Nền tảng mạng hiệu suất cao NVIDIA Spectrum-X mới kết hợp NVIDIA Spectrum-4, BlueField-3 DPU và phần mềm tăng tốc được NVIDIA công bố; Các nhà cung cấp dịch vụ cloud hàng đầu thế giới áp dụng nền tảng tăng tốc này để mở rộng các dịch vụ Generative AI.
Tại COMPUTEX 2023, NVIDIA đã công bố NVIDIA Spectrum-X, một nền tảng mạng hiệu suất cao được thiết kế để tăng tốc và cải thiện hiệu suất của các đám mây AI dựa trên Ethernet.
NVIDIA Spectrum-X được xây dựng dựa trên những đổi mới mạng với hỗ trợ bởi sự kết hợp chặt chẽ giữa NVIDIA Ethernet Spectrum-4 switch và NVIDIA BlueField®-3 DPU, đạt được hiệu suất AI và hiệu quả năng lượng tổng thể cao hơn 1.7 lần, cùng hiệu suất nhất quán, có thể dự đoán được trong các môi trường multi-tenant. Spectrum-X được hỗ trợ bởi phần mềm tăng tốc NVIDIA và các bộ công cụ phát triển phần mềm (SDKs), cho phép các nhà phát triển xây dựng các ứng dụng AI cloud-native, software-defined.
Việc cung cấp các khả năng end-to-end giúp giảm thời gian chạy của các mô hình AI tạo sinh (Generative AI) dựa trên transformer khổng lồ. Điều này cho phép các kỹ sư mạng, nhà khoa học dữ liệu AI và nhà cung cấp dịch vụ cloud cải thiện các kết quả và đưa ra những quyết định sáng suốt nhanh hơn.
Những công ty siêu quy mô hàng đầu thế giới đang áp dụng NVIDIA Spectrum-X, bao gồm cả các nhà cải tiến cloud hàng đầu trong ngành.
Là một kế hoạch chi tiết và thử nghiệm cho các thiết kế tham chiếu của NVIDIA Spectrum-X, NVIDIA đang xây dựng Israel-1, một siêu máy tính Generative AI hyperscale sẽ được triển khai tại trung tâm dữ liệu của Israel trên các máy chủ Dell PowerEdge XE9680 dựa trên nền tảng NVIDIA HGX™ H100 8 GPU, các DPU BlueField-3 và switch Spectrum-4.
“Các công nghệ biến đổi như Generative AI đang buộc mọi doanh nghiệp phải vượt qua giới hạn về hiệu suất của Trung tâm dữ liệu để theo đuổi lợi thế cạnh tranh”. Gilad Shainer, phó chủ tịch cấp cao về Networking tại NVIDIA cho biết.
“NVIDIA Spectrum-X là một loại mạng Ethernet mới giúp loại bỏ các rào cản đối với các workload AI thế hệ tiếp theo có tiềm năng biến đổi toàn bộ ngành công nghiệp”.
Nền tảng Networking NVIDIA Spectrum-X rất linh hoạt và có thể được sử dụng trong các ứng dụng AI khác nhau. Nó sử dụng Ethernet hoàn toàn dựa trên các tiêu chuẩn và tương thích với các stack dựa trên Ethernet.
Nền tảng này bắt đầu với Spectrum-4, switch Ethernet 51Tb/giây đầu tiên trên thế giới được xây dựng dành riêng cho các mạng AI. Các tiện ích mở rộng RoCE nâng cao hoạt động đồng bộ trên các switch Spectrum-4, DPU BlueField-3 và NVIDIA LinkX optics để tạo ra một mạng 400GbE đầu cuối được tối ưu hóa cho các đám mây AI.
NVIDIA Spectrum-X tăng cường khả năng cho nhiều bên thuê (multi-tenant) với khả năng cách ly hiệu suất để đảm bảo các workload AI của những bên thuê hoạt động tối ưu và nhất quán. Nó cũng cung cấp khả năng theo dõi hiệu suất AI tốt hơn, vì nó có thể xác định việc tắc nghẽn hiệu suất và có tính năng xác thực kết cấu (fabric) hoàn toàn tự động.
Phần mềm tăng tốc thúc đẩy Spectrum-X bao gồm các NVIDIA SDK mạnh mẽ như Cumulus Linux, SONiC thuần túy và NetQ – cùng nhau mang lại hiệu suất cực cao cho nền tảng Networking. Nó cũng bao gồm framework phần mềm NVIDIA DOCA™ , được coi là ‘trái tim’ của các DPU BlueField.
NVIDIA Spectrum-X cho phép kết nối 256 port 200Gb/s với quy mô chưa từng có bằng một switch duy nhất hoặc 16.000 port trong cấu trúc liên kết leaf-spine 2 tầng để hỗ trợ sự phát triển và mở rộng của các đám mây AI trong khi vẫn duy trì mức hiệu suất cao và giảm thiểu độ trễ mạng.
Áp dụng hệ sinh thái ngay lập tức
Các công ty cung cấp NVIDIA Spectrum-X bao gồm Dell Technologies, Lenovo và Supermicro.
NVIDIA Spectrum-X, switch Spectrum-4, DPU BlueField-3 và 400G LinkX optics hiện đã có sẵn.
Tìm hiểu thêm về NVIDIA Spectrum-X tại COMPUTEX.
Theo NVIDIA
Bài viết liên quan