Dòng GPU chuyên nghiệp dựa trên kiến trúc Ampere của Nvidia, Nvidia RTX A4000 và RTX A5000, là một bước tiến lớn so với dòng Quadro RTX trước đó dựa trên Turing. Với bộ nhớ lớn hơn và khả năng xử lý được cải thiện đáng kể, chúng được đánh giá là xử lý dễ…
Những lợi ích của việc chạy suy luận AI ngay tại biên, thay vì trong trung tâm dữ liệu
Chuyển đổi suy luận AI từ nền tảng đám mây (Cloud) sang môi trường biên (Edge) tăng cường khả năng ra quyết định theo thời gian thực bằng cách đưa quá trình xử lý dữ liệu đến gần hơn với các nguồn dữ liệu. Đối với các doanh nghiệp, sự thay đổi này làm giảm…
Xây dựng hệ thống dữ liệu hiệu suất cao cho AI với VAST Data Platform
Hiện nay, vẫn còn hiều người nghĩ rằng trí tuệ nhân tạo (AI) chỉ xoay quanh GPU, nhưng đây chỉ là một phần nhỏ của toàn bộ câu chuyện. Đúng là việc huấn luyện mô hình nền tảng tiêu tốn nhiều tài nguyên từ GPU, và tùy thuộc vào lượng dữ liệu cũng như kích…
Đánh giá GPU máy trạm: Nvidia RTX 6000 Ada Generation
Không thể phủ nhận hiệu suất ngoạn mục của GPU máy trạm hàng đầu mới của Nvidia và tiềm năng của nó trong việc biến đổi hoàn toàn quy trình làm việc, nhưng mức giá rất cao của nó sẽ khiến nhiều người nản lòng. Các kiến trúc GPU mới của Nvidia được đưa ra…
CPU cho các hệ thống hiệu suất cao: Số lượng nhân so với tốc độ xung nhịp
Số lượng nhân và tốc độ xung nhịp ảnh hưởng đến hiệu suất như thế nào? Khi cấu hình một hệ thống, CPU – bộ não của máy tính – là ưu tiên hàng đầu. Đối với dòng vi xử lý AMD Ryzen và Intel Core, cấu trúc sản phẩm rất dễ hiểu: Bộ xử…
Edge AI: Lợi ích và các ứng dụng
Kết hợp giữa Điện toán biên (Edge Computing) và Trí tuệ nhân tạo(AI), Edge AI là hệ thống sử dụng thuật toán Học máy để xử lý dữ liệu do thiết bị phần cứng thực hiện ở cấp độ cục bộ. Điện toán biên là một bộ khung điện toán phân tán hoạt động trên…
Những yếu tố hàng đầu gây gián đoạn dịch vụ trong trung tâm dữ liệu
Mất điện, sự cố hệ thống làm mát và vấn đề từ nhà cung cấp bên thứ ba là một số mối đe dọa tiềm ẩn lớn nhất đối với thời gian hoạt động bình thường (uptime) của trung tâm dữ liệu. Bài này sẽ bàn về cách giảm thiểu những rủi ro này một cách…
Hướng dẫn lựa chọn GPU phù hợp cho AI, Machine Learning
Yêu cầu về phần cứng khác nhau đối với AI, học máy và các tải xử lý tính toán chuyên sâu khác. Bài viết này sẽ tìm hiểu các mẫu GPU chuyên dụng cho AI và các thông số kỹ thuật của chúng. Các nhà sản xuất chip đang đều đặn tung các GPU mới…
Tổng quan về Intel Xeon 6 – Vi xử lý thế hệ mới cho Data Center
Thế hệ chip máy chủ tiếp theo Intel Xeon 6 đã được ra mắt cách đây vài tuần, thay thế cho cái tên “Scalable” trước đây. Với hai dòng chip: Sierra Forest cung cấp E cores và Granite Rapids cung cấp P cores. Chip Xeon 6 được thiết kế để hỗ trợ về cơ bản…
So sánh các GPU Tensor Core của NVIDIA: B200, B100, H200, H100, A100
NVIDIA Tensor Core là GPU gì? Theo tên chính thức của dòng Tesla, GPU NVIDIA Tensor Core là dòng GPU tiêu chuẩn vàng cho các phép tính AI nhờ kiến trúc độc đáo được thiết kế riêng để thực hiện các phép tính trong AI và mạng nơ-ron. Tensor là kiểu dữ liệu cơ bản…