Không có câu trả lời rạch ròi nào cho việc chọn GPU nào là tốt nhất để suy luận AI (inference), vì các GPU khác nhau có thể có những ưu điểm và nhược điểm khác nhau tùy thuộc vào loại, kích thước và độ phức tạp của mô hình bạn muốn chạy. Tuy nhiên,…
Thẻ: ai
NVIDIA Spectrum-X: Tăng tốc mạnh mẽ hiệu suất AI và năng lượng trong Trung tâm Dữ liệu
Nền tảng mạng NVIDIA Spectrum™-X là nền tảng Ethernet đầu tiên được thiết kế đặc biệt để cải thiện hiệu suất và hiệu quả của đám mây trí tuệ nhân tạo dựa trên Ethernet. Công nghệ đột phá này đạt được hiệu suất tổng thể của AI tốt hơn 1.7 lần và hiệu suất năng…
Generative AI
Generative AI là một lĩnh vực trong trí tuệ nhân tạo (AI) tập trung vào việc tạo ra dữ liệu hoặc nội dung mới thông qua quá trình học từ dữ liệu huấn luyện. Điều đặc biệt về generative AI là khả năng tạo ra những thứ mới, chưa từng tồn tại, thay vì chỉ…
NVIDIA Spectrum SN5000 Switch: Đưa Ethernet siêu cao vào mọi trung tâm dữ liệu cho trí tuệ nhân tạo và đám mây
Dóng sản phẩm SN5000 ™ là thế hệ thứ năm của NVIDIA switch Ethernet Spectrum, được thiết kế đặc biệt để tăng tốc hệ thống mạng trung tâm dữ liệu. Với tốc độ cổng từ 10 Gigabit Ethernet (GbE) đến 800GbE, các switch dòng SN5000 mang đến Ethernet tăng tốc cho mọi trung tâm dữ liệu mà…
Tại sao các hệ thống mạng hiện đại cần đến AIOps?
Môi trường CNTT phân tán ngày càng yêu cầu hệ thống mạng tự vận hành và AIOps có thể mang đến câu trả lời cho các team vận hành mạng để giải quyết sự phức tạp ngày càng gia tăng, ngay từ bây giờ. Môi trường CNTT hiện đại bị phân tán, với các ứng…
5 cách AI có thể định hình lại các Trung tâm Dữ liệu
Chúng ta sẽ cùng tiềm hiểu cách AI có thể tác động đến ngành công nghiệp trung tâm dữ liệu và những thay đổi nào mà chúng ta có thể mong đợi một cách hợp lý trong những năm tới. Gần đây, Trí tuệ Nhân tạo (AI) đã xuất hiện rất nhiều trên các tiêu…
Phần mềm ngăn siêu AI bịa đặt câu trả lời
Phần mềm mới của Nvidia buộc các siêu AI không trả lời lan man, tự sáng tác, tránh chủ đề độc hại và loại bỏ câu lệnh nguy hiểm. Phần mềm NeMo Guardrails, được Nvidia công bố hôm 25/4, được đánh giá là một trong những bước tiến quan trọng của trí tuệ nhân tạo nhằm giải…
Điểm mặt một số thiết bị edge chuyên dụng cho mục đích suy luận AI (inference)
Điện toán biên (Edge computing) là một khái niệm trong lĩnh vực công nghệ thông tin, nó mô tả việc xử lý và lưu trữ dữ liệu và thực hiện các tác vụ trí tuệ nhân tạo (AI) trên các thiết bị tại chỗ, thay vì truyền tải dữ liệu về cloud hoặc data center…
Mạng InfiniBand là gì và sự khác biệt với Ethernet?
Mạng InfiniBand là gì? Hệ thống kiến trúc InfiniBand mang tính hợp nhất của sợi quang vào trung tâm dữ liệu lưu trữ, cung cấp băng thông cao, độ trễ thấp và độ tin cậy cao. InfiniBand là một công nghệ kết nối mạng tiêu chuẩn mở được định nghĩa bởi IBTA, được sử dụng…
NVIDIA Hopper GPU & DGX H100: Tối ưu hóa hiệu suất đột phá cho AI
Trong sự kiện GTC23, NVIDIA và các đối tác đã chính thức giới thiệu sản phẩm và dịch vụ mới sử dụng GPU NVIDIA H100 Tensor Core – một trong những GPU mạnh nhất thế giới hiện nay dành cho AI – để đáp ứng nhu cầu ngày càng tăng về đào tạo và suy…