Tất cả bạn cần là chỉ một GPU: Đánh giá hiệu suất inference cho Stable Diffusion

Những gì tôi cần để chạy các mô hình text-to-image mới nhất? Liệu có thể dùng các card gaming để thực hiện công việc này? Hay phải cần đến một chiếc GPU A100 cao cấp? Nếu hệ thống chỉ có một CPU thì sao? Đây là những câu hỏi thường xuyên gặp phải khi khách…

Cấu hình tối ưu cho tải xử lý hiệu năng cao trên các máy chủ GPU PCIe Supermicro

Các máy chủ GPU mang lại lợi ích rất lớn về hiệu suất đối với các ứng dụng Trí tuệ nhân tạo (AI) và điện toán hiệu năng cao (HPC) so với máy chủ truyền thống chỉ có CPU. Rất nhiều các ứng dụng khác nhau có thể được thực thi trên những hệ thống…

Máy chủ ASUS với Bộ Vi xử lý và Giải pháp làm mát bằng chất lỏng thế hệ mới: Hiệu năng vượt trội và tối ưu

ASUS, một trong những nhà cung cấp hàng đầu về giải pháp máy chủ, đã đưa ra một dòng sản phẩm máy chủ đột phá với hiệu suất vượt trội và các giải pháp làm mát tiên tiến. Thông qua việc sử dụng bộ vi xử lý Intel® Xeon® Scalable thế hệ thứ 4, cùng…

Hệ thống phát triển AI làm mát bằng chất lỏng (Liquid Cooled AI) của Supermicro và Nvidia: Giải pháp AI hiệu năng cao cho môi trường văn phòng

Trí tuệ nhân tạo (AI) ngày càng phổ biến, nhanh chóng trở thành một công nghệ thiết yếu được sử dụng trong nhiều ngành công nghiệp khác nhau và các nhà phát triển, khoa học sẽ rất cần các hạ tầng AI tiên tiến để thực thi và phát triển các ứng dụng mới. Với SYS-751GE-TNRT-NV1, nền…

Những GPU nào tốt nhất cho suy luận AI?

Không có câu trả lời rạch ròi nào cho việc chọn GPU nào là tốt nhất để suy luận AI (inference), vì các GPU khác nhau có thể có những ưu điểm và nhược điểm khác nhau tùy thuộc vào loại, kích thước và độ phức tạp của mô hình bạn muốn chạy. Tuy nhiên,…

NVIDIA Spectrum-X: Tăng tốc mạnh mẽ hiệu suất AI và năng lượng trong Trung tâm Dữ liệu

Nền tảng mạng NVIDIA Spectrum™-X là nền tảng Ethernet đầu tiên được thiết kế đặc biệt để cải thiện hiệu suất và hiệu quả của đám mây trí tuệ nhân tạo dựa trên Ethernet. Công nghệ đột phá này đạt được hiệu suất tổng thể của AI tốt hơn 1.7 lần và hiệu suất năng…