Thông tin sản phẩm Máy chủ Trí tuệ Nhân tạo NVIDIA DGX Rubin NVL8
NVIDIA DGX Rubin NVL8 là giải pháp hạ tầng "chìa khóa trao tay" (turnkey), được thiết kế đặc biệt cho kỷ nguyên Agentic AI (AI có khả năng suy luận và tự thực hiện nhiệm vụ).
Sức mạnh phần cứng vượt trội:
- Sở hữu 8 GPU NVIDIA Rubin, kiến trúc mới nhất kế thừa sau dòng Blackwell.
- Trang bị 2 CPU Intel® Xeon® 6 (dòng 6776P) giúp tối ưu hóa việc điều phối dữ liệu và duy trì hiệu suất GPU ở mức cao nhất.
- Bộ nhớ GPU khổng lồ: 2.3 TB với băng thông lên tới 160 TB/s.
Hiệu suất tính toán kỷ lục:
- Inference (Suy luận): Đạt 400 PFLOPS (NVFP4), nhanh hơn gấp 5.5 lần so với các hệ thống Blackwell trước đó.
- Training (Huấn luyện): Đạt 280 PFLOPS (NVFP4).
Kết nối siêu tốc: Sử dụng công nghệ NVLink thế hệ thứ 6 với tổng băng thông 28.8 TB/s và hệ thống mạng ConnectX-9 (800 Gb/s).
Điểm đột phá: Tối ưu hóa cho các mô hình AI agent và các hệ thống suy luận phức tạp, giúp giảm đáng kể độ trễ và chi phí trên mỗi Token (đặc biệt là các mô hình MoE - Mixture of Experts).
→ Datasheet NVIDIA DGX Rubin NVL8
THÔNG SỐ KỸ THUẬT NVIDIA DGX SPARK
| GPU | 8x NVIDIA Rubin GPUs |
| Total GPU Memory | Bandwidth | 2.3 TB | 160 TB/s |
| Performance | NVFP4 Inference: 400 PFLOPS NVFP4 Training: 280 PFLOPS* FP8/FP6 Training: 140 PFLOPS* |
| CPU | 2x Intel® Xeon® 6776P processors |
| NVIDIA NVLink Switch System | 4x |
| NVIDIA NVLink Bandwidth | 28.8 TB/s total bandwidth |
| System Power Usage | ~24 kW |
| Networking | 8x OSFP ports serving 8x single-port NVIDIA® ConnectX®-9 VPI2x 400G QSP112 NVIDIA BlueField®-4 DPUs |
| Software | NVIDIA DGX OS, Ubuntu, Red Hat Enterprise Linux, Rocky |