CUTLASS – CUDA Templates for Linear Algebra Subroutines: Là một tập hợp các template và lớp abstract của CUDA trên C++ để thực hiện các phép tính GEMM hiệu năng cao ở tất cả các cấp và quy mô bên trong CUDA kernel. Không giống như các thư viện GPU dạng template cho đại số tuyến tính mật độ cao khác (ví dụ, thư viện MAGMA), mục đích của CUTLASS là phân tích “các phần chuyển động” của GEMM thành các thành phần cơ bản được trừu tượng hóa bởi các template class trong C++, cho phép các lập trình viên dễ dàng tùy chỉnh và chuyên dụng hóa chúng trong CUDA kernel. CUTLASS là thư viện mã nguồn mở và được NVidia phát hành trên GitHub như một bản giới thiệu ban đầu về các kỹ thuật GEMM CUDA, được dự định sẽ phát triển thành một thư viện API mẫu.
Bài viết liên quan
- Physical AI là gì? Cách thức hoạt động như thế nào?
- AI Factory là gì và tại sao NVIDIA lại đặt cược vào nó?
- NVIDIA DGX B300: Kiến tạo cho kỷ nguyên AI Factory thế hệ mới
- NVIDIA Dynamo – Thư viện nguồn mở tăng tốc và mở rộng các mô hình lý luận AI
- NVIDIA DGX Spark: Siêu máy tính AI ngay trên bàn làm việc của bạn
- NVIDIA Spectrum-X Photonics, bộ chuyển mạch quang tử giúp mở rộng AI Factory lên hàng triệu GPU