Giới thiệu Việc chạy một mô hình LLM mở cục bộ hiện nay có rào cản gia nhập cực kỳ thấp với Ollama. Câu hỏi thực sự là liệu một mô hình cục bộ có thể hoạt động như một tác nhân đáng tin cậy hay không: gọi các công cụ một cách chính xác,…
Author: Vanito Hoang
Chạy ảo hóa Proxmox trên hệ thống lưu trữ hợp nhất EonStor GS của Infortrend
Với những thay đổi gần đây về giấy phép sử dụng một nền tảng ảo hóa phổ biến, nhiều tổ chức đang tìm kiếm các giải pháp thay thế như Proxmox Virtual Environment (VE) , một giải pháp mã nguồn mở phổ biến với các khả năng cấp doanh nghiệp. Nó tích hợp các máy ảo dựa…
So sánh sức mạnh của máy tính AI DGX Spark với các card GPU máy trạm chuyên nghiệp của NVIDIA
Để tạo ra sức mạnh tương đương với NVIDIA DGX Spark bằng các card đồ họa rời (PCIe), bạn sẽ phải đối mặt với sự đánh đổi giữa Dung lượng bộ nhớ (Memory Capacity – mô hình lớn cỡ nào có thể chứa được) và Băng thông bộ nhớ (Memory Bandwidth – mô hình chạy…
Máy tính AI cho Developer: Chạy trên Cloud hay mua DGX Spark?
Bài viết này sẽ so sánh chi tiết về việc sử dụng máy tính AI cá nhân NVIDIA DGX Spark (với giá tham khảo hiện tại khoảng 120 triệu đồng) và dịch vụ Cloud (AWS, Google Cloud, Azure,…) cho công việc của một nhà phát triển AI. Tiêu chí NVIDIA DGX Spark (On-Premise) Dịch vụ Cloud…
Tại sao gọi NVIDIA DGX Spark là Siêu máy tính AI cá nhân?
Việc ra mắt thế hệ máy tính NVIDIA DGX Spark đánh dấu một bước ngoặt lớn của riêng NVIDIA lẫn cả ngành công nghiệp AI, đưa sức mạnh tính toán cấp độ trung tâm dữ liệu (Data Center) xuống ngay bàn làm việc của các nhà phát triển. Nó được gọi là “siêu máy tính”…
Cơ chế quản lý bộ nhớ trên các nền tảng phần cứng nhất quán – Hardware-coherent
Nếu bạn là nhà phát triển ứng dụng hoặc quản trị viên hệ thống cluster, bạn có thể đã thấy cách mà kiến trúc truy cập bộ nhớ bất đồng dạng – Non-uniform Memory Access (NUMA) – có thể ảnh hưởng đến hiệu suất hệ thống như thế nào. Khi một ứng dụng không hoàn toàn…
ASUS chính thức lên kệ chiếc siêu máy tính AI ASCENT GX10 dựa trên DGX Spark
Thế giới đang bước vào kỷ nguyên Trí tuệ Nhân tạo (AI) với tốc độ chưa từng có, và nhu cầu về sức mạnh tính toán đột phá – đặc biệt là các giải pháp tại chỗ, an toàn và linh hoạt – đang trở nên cần thiết hơn bao giờ hết. Sự ra mắt…
NVIDIA DGX Spark bắt đầu đến tay các nhà phát triển AI trên toàn thế giới
NVIDIA hôm nay đã công bố bắt đầu xuất xưởng NVIDIA DGX Spark, siêu máy tính AI nhỏ nhất thế giới, và giao đến tay khách hàng trên toàn cầu. Các tải công việc AI đang nhanh chóng vượt quá khả năng của bộ nhớ và phần mềm trên PC, máy trạm và máy tính…
Kiến trúc NVIDIA Blackwell với GB200 NVL72: Định nghĩa lại điện toán AI cấp độ Exascale
Thế giới Trí tuệ Nhân tạo (AI), đặc biệt là lĩnh vực AI Tạo sinh (Generative AI) và các Mô hình Ngôn ngữ Lớn (LLM), đang đòi hỏi sức mạnh tính toán vượt ra ngoài giới hạn vật lý hiện tại. NVIDIA Blackwell không chỉ là một kiến trúc GPU mới; nó là một nền tảng…
Đánh giá chi tiết NVIDIA RTX Pro 6000 Blackwell Workstation: GPU máy trạm với 96GB GDDR7
Chuẩn mực mới cho AI và Đồ họa Chuyên nghiệp NVIDIA đã chính thức mang kiến trúc Blackwell đột phá lên thị trường máy trạm (Workstation) với mẫu GPU siêu cấp RTX Pro 6000 Workstation Edition. Đây không chỉ là một bản nâng cấp, mà là một bước nhảy vọt so với thế hệ Ada Lovelace tiền nhiệm,…