GPUDirect là một nhóm công nghệ, một thành phần của nền tảng IO hiệu suất cao NVIDIA Magnum IO, giúp tăng cường khả năng di chuyển và truy cập dữ liệu cho các GPU Data Center của NVIDIA. Sử dụng GPUDirect, các bộ điều hợp mạng và ổ lưu trữ có thể đọc và ghi trực tiếp vào/ra bộ nhớ GPU, loại bỏ các bản copy của bộ nhớ không cần thiết, giảm tải cho CPU và giảm độ trễ, mang lại những cải tiến đáng kể về hiệu suất. Các công nghệ này – bao gồm GPUDirect Storage, GPUDirect Remote Direct Memory Access (RDMA), GPUDirect Peer to Peer (P2P) và GPUDirect Video – được thể hiện thông qua một bộ API toàn diện.
Bài viết liên quan
- NVIDIA ConnectX-8 SuperNIC: Đột phá kiến trúc hạ tầng AI với PCIe Gen6
- Hướng dẫn chi tiết sử dụng mô hình GPT-OSS-20B trên máy tính của bạn
- Tăng tốc các mô hình mở mới của OpenAI ngay trên GPU NVIDIA GeForce RTX và RTX PRO
- Dòng GPU RTX PRO 6000 Blackwell Server Edition sắp được tích hợp vào các máy chủ phổ biến
- Nhận diện khuôn mặt với NVIDIA FaceDetect: Cài đặt và huấn luyện mô hình bằng TAO Toolkit
- OpenAI và NVIDIA đẩy nhanh tiến bộ AI trong cộng đồng với các mô hình open-weight mới