CUTLASS – CUDA Templates for Linear Algebra Subroutines: Là một tập hợp các template và lớp abstract của CUDA trên C++ để thực hiện các phép tính GEMM hiệu năng cao ở tất cả các cấp và quy mô bên trong CUDA kernel. Không giống như các thư viện GPU dạng template cho đại số tuyến tính mật độ cao khác (ví dụ, thư viện MAGMA), mục đích của CUTLASS là phân tích “các phần chuyển động” của GEMM thành các thành phần cơ bản được trừu tượng hóa bởi các template class trong C++, cho phép các lập trình viên dễ dàng tùy chỉnh và chuyên dụng hóa chúng trong CUDA kernel. CUTLASS là thư viện mã nguồn mở và được NVidia phát hành trên GitHub như một bản giới thiệu ban đầu về các kỹ thuật GEMM CUDA, được dự định sẽ phát triển thành một thư viện API mẫu.
Bài viết liên quan
- Kiến trúc NVIDIA Blackwell với GB200 NVL72: Định nghĩa lại điện toán AI cấp độ Exascale
- Huấn luyện mô hình hàng trăm tỷ tham số ngay tại bàn với MSI EdgeXpert
- Đánh giá chi tiết NVIDIA RTX Pro 6000 Blackwell Workstation: GPU máy trạm với 96GB GDDR7
- NVIDIA Merlin: Tổng quan về toolkit cho hệ thống gợi ý quy mô lớn
- NVIDIA NVLink Fusion: Tương lai của Trung tâm Dữ liệu AI
- Hướng dẫn cập nhật firmware cho NVIDIA DGX H100/H200