NCCL – NVIDIA Collective Communications Library: Thư viện NVIDIA Collective Communication (NCCL) triển khai các giao tiếp multi-GPU và multi-cloud được tối ưu hóa cho GPU NVIDIA. NCCL cung cấp các routines như all-gather, all-reduce, scatter, reduce, broadcast, được tối ưu hóa để đạt băng thông cao qua kết nối tốc độ cao PCIe và NVLink.
____
Bài viết liên quan
Bài viết liên quan
- Quy luật tăng quy mô thúc đẩy AI thông minh hơn, mạnh mẽ hơn như thế nào
- Phần mềm NVIDIA mới cho nền tảng Blackwell chạy AI Factory với tốc độ ánh sáng
- Physical AI là gì? Cách thức hoạt động như thế nào?
- AI Factory là gì và tại sao NVIDIA lại đặt cược vào nó?
- NVIDIA DGX B300: Kiến tạo cho kỷ nguyên AI Factory thế hệ mới
- NVIDIA Dynamo – Thư viện nguồn mở tăng tốc và mở rộng các mô hình lý luận AI