GPUDirect là một nhóm công nghệ, một thành phần của nền tảng IO hiệu suất cao NVIDIA Magnum IO, giúp tăng cường khả năng di chuyển và truy cập dữ liệu cho các GPU Data Center của NVIDIA. Sử dụng GPUDirect, các bộ điều hợp mạng và ổ lưu trữ có thể đọc và ghi trực tiếp vào/ra bộ nhớ GPU, loại bỏ các bản copy của bộ nhớ không cần thiết, giảm tải cho CPU và giảm độ trễ, mang lại những cải tiến đáng kể về hiệu suất. Các công nghệ này – bao gồm GPUDirect Storage, GPUDirect Remote Direct Memory Access (RDMA), GPUDirect Peer to Peer (P2P) và GPUDirect Video – được thể hiện thông qua một bộ API toàn diện.
Bài viết liên quan
- GPUDirect Storage là gì?
- So sánh các GPU Tensor Core của NVIDIA: B200, B100, H200, H100, A100
- NVIDIA giới thiệu nền tảng microservice Metropolis để chạy ứng dụng Edge AI trên Jetson
- Phát triển ứng dụng AI tại biên với NVIDIA Jetson AGX Orin & Developer Kit
- HPE và NVIDIA công bố ‘NVIDIA AI Computing by HPE’ để thúc đẩy cuộc cách mạng AI tạo sinh
- Giải mã hiệu suất AI trên PC và Workstation RTX AI