GPUDirect là một nhóm công nghệ, một thành phần của nền tảng IO hiệu suất cao NVIDIA Magnum IO, giúp tăng cường khả năng di chuyển và truy cập dữ liệu cho các GPU Data Center của NVIDIA. Sử dụng GPUDirect, các bộ điều hợp mạng và ổ lưu trữ có thể đọc và ghi trực tiếp vào/ra bộ nhớ GPU, loại bỏ các bản copy của bộ nhớ không cần thiết, giảm tải cho CPU và giảm độ trễ, mang lại những cải tiến đáng kể về hiệu suất. Các công nghệ này – bao gồm GPUDirect Storage, GPUDirect Remote Direct Memory Access (RDMA), GPUDirect Peer to Peer (P2P) và GPUDirect Video – được thể hiện thông qua một bộ API toàn diện.
Bài viết liên quan
- NVIDIA Dynamo – Thư viện nguồn mở tăng tốc và mở rộng các mô hình lý luận AI
- NVIDIA DGX Spark: Siêu máy tính AI ngay trên bàn làm việc của bạn
- NVIDIA Spectrum-X Photonics, bộ chuyển mạch quang tử giúp mở rộng AI Factory lên hàng triệu GPU
- AI Factory thế hệ mới với hệ thống DGX SuperPOD dựa trên Blackwell Ultra
- NVIDIA Blackwell Ultra: Mở ra kỷ nguyên Trí Tuệ Nhân Tạo lý luận
- NVIDIA và các nhà cung cấp lưu trữ hàng đầu tiết lộ hạ tầng doanh nghiệp mới cho thời đại AI