Cải thiện khả năng làm mát GPU trong hạ tầng AI

Làm mát GPU là một khía cạnh quan trọng của thiết kế hạ tầng AI thường bị bỏ qua. Các yêu cầu về công suất và năng lực giải nhiệt khắt khe của hệ thống HPC và AI đóng vai trò quan trọng trong việc xác định hiệu suất và tuổi thọ của hệ thống….

AI Agent là gì?

Các AI Agent (nhân viên AI) được cho là sẽ là “điều lớn lao tiếp theo” trong AI, nhưng hiện vẫn chưa có định nghĩa chính xác về chúng. Cho đến thời điểm này, mọi người vẫn chưa thể thống nhất về những gì cấu thành nên một nhân viên AI. Nói một cách đơn…

Sovereign AI là gì?

Nhiều quốc gia từ lâu đã đầu tư vào hạ tầng trong nước để phát triển nền kinh tế, kiểm soát dữ liệu của riêng họ và tận dụng các cơ hội từ công nghệ trong các lĩnh vực như giao thông vận tải, truyền thông, thương mại, giải trí và y tế. AI, công…

CPU, GPU, TPU và sự khác biệt giữa chúng

Trí tuệ nhân tạo và công nghệ học máy đã và đang thúc đẩy sự tiến bộ của các ứng dụng thông minh. Để đối phó với các ứng dụng ngày càng phức tạp, các công ty bán dẫn liên tục phát triển bộ xử lý và bộ tăng tốc, bao gồm CPU, GPU và…

GPUDirect RDMA là gì?

NVIDIA GPUDirect RDMA là gì? NVIDIA GPUDirect RDMA (Remote Direct Memory Access) là một thành phần của giải pháp công nghệ NVIDIA Magnum IO, cho phép truyền dữ liệu nhanh chóng giữa GPU và các thiết bị khác mà không cần đến khả năng xử lý của CPU hay bộ nhớ chính. Trong cách thức truyền…