GPUDirect là một nhóm công nghệ, một thành phần của nền tảng IO hiệu suất cao NVIDIA Magnum IO, giúp tăng cường khả năng di chuyển và truy cập dữ liệu cho các GPU Data Center của NVIDIA. Sử dụng GPUDirect, các bộ điều hợp mạng và ổ lưu trữ có thể đọc và ghi trực tiếp vào/ra bộ nhớ GPU, loại bỏ các bản copy của bộ nhớ không cần thiết, giảm tải cho CPU và giảm độ trễ, mang lại những cải tiến đáng kể về hiệu suất. Các công nghệ này – bao gồm GPUDirect Storage, GPUDirect Remote Direct Memory Access (RDMA), GPUDirect Peer to Peer (P2P) và GPUDirect Video – được thể hiện thông qua một bộ API toàn diện.
Bài viết liên quan
- Kiến trúc NVIDIA Blackwell với GB200 NVL72: Định nghĩa lại điện toán AI cấp độ Exascale
- Huấn luyện mô hình hàng trăm tỷ tham số ngay tại bàn với MSI EdgeXpert
- Đánh giá chi tiết NVIDIA RTX Pro 6000 Blackwell Workstation: GPU máy trạm với 96GB GDDR7
- NVIDIA Merlin: Tổng quan về toolkit cho hệ thống gợi ý quy mô lớn
- NVIDIA NVLink Fusion: Tương lai của Trung tâm Dữ liệu AI
- Hướng dẫn cập nhật firmware cho NVIDIA DGX H100/H200