Khi AI đã trở thành “hơi thở” cần thiết cho mọi lĩnh vực, doanh nghiệp phải đối mặt với nhiều thách thức mới. Những vấn đề nổi bật là hiệu năng xử lý, bảo mật dữ liệu và chi phí vận hành tăng cao. Mặc dù điện toán đám mây được xem là giải pháp tốt,…
AI – HPC
Kiến trúc NVIDIA Blackwell với GB200 NVL72: Định nghĩa lại điện toán AI cấp độ Exascale
Thế giới Trí tuệ Nhân tạo (AI), đặc biệt là lĩnh vực AI Tạo sinh (Generative AI) và các Mô hình Ngôn ngữ Lớn (LLM), đang đòi hỏi sức mạnh tính toán vượt ra ngoài giới hạn vật lý hiện tại. NVIDIA Blackwell không chỉ là một kiến trúc GPU mới; nó là một nền tảng…
Huấn luyện mô hình hàng trăm tỷ tham số ngay tại bàn với MSI EdgeXpert
Mẫu máy tính trí tuệ nhân tạo (AI PC) MSI EdgeXpert được thiết kế như một siêu máy tính AI để bàn nhỏ gọn, giúp các nhà phát triển, nhà nghiên cứu và nhà khoa học dữ liệu có thể khai thác sức mạnh tính toán hiệu năng cao ngay tại bàn làm việc. Bạn…
MSI EdgeXpert: Chiếc máy tính AI dành cho kỷ nguyên mới
MSI vừa chính thức ra mắt một sản phẩm đột phá mới dành cho những người làm về AI, thổi thêm sức nóng vào giới công nghệ: chiếc máy tính AI mini để bàn MSI EdgeXpert, model MS-C931. Được mệnh danh là “siêu máy tính AI để bàn”, sản phẩm này không chỉ là một chiếc…
NVIDIA Merlin: Tổng quan về toolkit cho hệ thống gợi ý quy mô lớn
Hệ thống gợi ý (recommendation system) là thành phần quan trọng trong nhiều ứng dụng hiện đại như thương mại điện tử, mạng xã hội, dịch vụ phát nhạc và video. Khi quy mô dữ liệu và số lượng người dùng tăng lên hàng triệu hoặc hàng tỷ, việc huấn luyện và triển khai các…
NVIDIA NVLink Fusion: Tương lai của Trung tâm Dữ liệu AI
1. Giới thiệu: Cuộc cách mạng kết nối trong Điện toán Hiệu năng cao 1.1. Bối cảnh: Điểm nghẽn PCIe và Nhu cầu Bùng nổ của AI/HPC Sự bùng nổ của trí tuệ nhân tạo (AI) và điện toán hiệu năng cao (HPC) đã thúc đẩy nhu cầu về khả năng xử lý và truyền…
Cần bao nhiêu GPU cho máy trạm Deep Learning của bạn?
Giới thiệu Khi nói đến học sâu và AI, GPU là yếu tố chính thúc đẩy tốc độ đào tạo, kích cỡ mô hình và năng suất tổng thể của hệ thống. Số lượng GPU mà bạn chọn ảnh hưởng trực tiếp đến tốc độ chạy thử nghiệm, quy mô tập dữ liệu hay loại…
NVIDIA ConnectX-8 SuperNIC – Nền tảng switch siêu tốc cho các máy chủ MGX có 8x GPU PCIe
Giới thiệu Tại Computex 2025 vào tháng 5 vừa qua, NVIDIA đã cho ra mắt một công nghệ rất thú vị dành cho kiến trúc máy chủ GPU PCIe truyền thống. CEO Jensen Huang của NVIDIA đã giới thiệu về thế hệ server rack NVIDIA RTX PRO™ với công nghệ mà họ gọi là NVIDIA…
Hướng dẫn triển khai máy chủ GPU tại chỗ trong các phòng máy doanh nghiệp
Giới thiệu Không phải mọi hệ thống tính toán đều nên được đặt trên đám mây. Các đội nhóm làm việc về suy luận, mô phỏng hoặc huấn luyện AI thường được hưởng lợi từ việc giữ tài nguyên điện toán ngay tại chỗ. Khi các tập dữ liệu lớn, nhạy cảm hoặc thường xuyên…
NVIDIA ConnectX-8 SuperNIC: Đột phá kiến trúc hạ tầng AI với PCIe Gen6
Sự bùng nổ của trí tuệ nhân tạo (AI), đặc biệt là các mô hình ngôn ngữ lớn (LLM), đã tạo ra một nhu cầu chưa từng có về hiệu suất tính toán và băng thông dữ liệu. Các “nhà máy AI” (AI factories) hiện đại được xây dựng để xử lý các mô hình…