GPUDirect là một nhóm công nghệ, một thành phần của nền tảng IO hiệu suất cao NVIDIA Magnum IO, giúp tăng cường khả năng di chuyển và truy cập dữ liệu cho các GPU Data Center của NVIDIA. Sử dụng GPUDirect, các bộ điều hợp mạng và ổ lưu trữ có thể đọc và ghi trực tiếp vào/ra bộ nhớ GPU, loại bỏ các bản copy của bộ nhớ không cần thiết, giảm tải cho CPU và giảm độ trễ, mang lại những cải tiến đáng kể về hiệu suất. Các công nghệ này – bao gồm GPUDirect Storage, GPUDirect Remote Direct Memory Access (RDMA), GPUDirect Peer to Peer (P2P) và GPUDirect Video – được thể hiện thông qua một bộ API toàn diện.
Bài viết liên quan
- Quy luật tăng quy mô thúc đẩy AI thông minh hơn, mạnh mẽ hơn như thế nào
- Phần mềm NVIDIA mới cho nền tảng Blackwell chạy AI Factory với tốc độ ánh sáng
- Physical AI là gì? Cách thức hoạt động như thế nào?
- AI Factory là gì và tại sao NVIDIA lại đặt cược vào nó?
- NVIDIA DGX B300: Kiến tạo cho kỷ nguyên AI Factory thế hệ mới
- NVIDIA Dynamo – Thư viện nguồn mở tăng tốc và mở rộng các mô hình lý luận AI