Máy chủ Trí tuệ Nhân tạo NVIDIA DGX Vera Rubin NVL72

Kiến trúc hợp nhất cực đại:

• Kết hợp 72 GPU NVIDIA Rubin và 36 CPU NVIDIA Vera (dòng CPU tùy chỉnh mới nhất của NVIDIA với nhân Olympus) trong một hệ thống làm mát bằng chất lỏng.

• Sử dụng kiến trúc NVLink Switch System thế hệ 6, cho phép cả 72 GPU giao tiếp với nhau như một GPU duy nhất với băng thông nội bộ lên tới 260 TB/s (lớn hơn cả lưu lượng internet toàn cầu).

Hiệu năng không tưởng:

• Inference (Suy luận): Đạt 3.6 ExaFLOPS (NVFP4), cho tốc độ xử lý nhanh gấp 5 lần và giảm chi phí trên mỗi token xuống 10 lần so với thế hệ Blackwell.

• Training (Huấn luyện): Đạt 2.5 ExaFLOPS (NVFP4), cho phép huấn luyện các mô hình Mixture-of-Experts (MoE) chỉ với 1/4 số lượng GPU so với trước đây.

Công nghệ đột phá:

• CPU Vera: Được thiết kế riêng cho kỷ nguyên Agentic AI, tối ưu hóa việc di chuyển dữ liệu và suy luận logic.

• Bộ nhớ: Tổng bộ nhớ GPU HBM4 lên tới 20.7 TB với băng thông cực cao.

• Bảo mật: Hệ thống đầu tiên hỗ trợ NVIDIA Confidential Computing ở quy mô toàn rack, bảo vệ dữ liệu và mô hình AI độc quyền của doanh nghiệp từ cấp độ phần cứng.