Nhất Tiến Chung Team Unbox Siêu máy tính AI NVIDIA DGX A100

Là một phần của nền tảng NVIDIA DGX, NVIDIA DGX-A100 là hệ thống đa năng cho mọi tải làm việc trí tuệ nhân tạo, cung cấp mật độ tính toán, hiệu suất và linh hoạt chưa từng có trong hệ thống trí tuệ nhân tạo đầu tiên trên thế giới với 5 Petaflops. Với gpu Tensor Core Nvidia A100, DGX A100 cho phép doanh nghiệp tích hợp đào tạo, suy luận và phân tích thành một hệ thống hạ tầng trí tuệ nhân tạo thống nhất, dễ triển khai với quyền truy cập trực tiếp đến các chuyên gia trí tuệ nhân tạo của nvidia.

NVIDIA DGX-A100: Hiện Tượng Hiệu Suất Cao Cho Phát Triển Ứng Dụng Trí Tuệ Nhân Tạo

NVIDIA DGX-A100 là một máy tính hiệu suất cao (HPC) được thiết kế để tăng tốc quá trình phát triển và triển khai ứng dụng Trí Tuệ Nhân Tạo. Được trang bị tám GPU Tensor Core A100 của NVIDIA, DGX-A100 có thể cung cấp hiệu suất lên đến 6 lần so với các hệ thống DGX thế hệ trước. Thực sự nhanh chóng!

Với DGX-A100, NVIDIA kết hợp bộ sản phẩm phần cứng và cơ sở hạ tầng mới nhất cùng hệ sinh thái phần mềm đã được chứng minh của NVIDIA và kiến thức chuyên môn để tạo ra một giải pháp phát triển và đào tạo Trí Tuệ Nhân Tạo toàn diện cho các doanh nghiệp, Startup AI sử dụng để triển khai AI một cách hiệu quả.

Giải pháp hạ tầng Deep Learning, Trí tuệ Nhân tạo - AI

Không chỉ là giải pháp phần cứng, các nền tảng DGX A100 bao gồm NVIDIA Base Command™ và bộ phần mềm NVIDIA AI Enterprise, cùng với sự tư vấn chuyên nghiệp từ các chuyên gia NVIDIA DGXperts để đảm bảo bạn tận dụng tối đa từ đầu tư của mình.

Các nền tảng DGX được tối ưu hóa cho một loạt các giải pháp phần mềm Trí Tuệ Nhân Tạo của NVIDIA và hệ sinh thái phong phú của các ứng dụng được hỗ trợ bởi bên thứ ba. Mỗi nền tảng có thể triển khai trong vài phút, thông qua các container sẵn sàng từ NVIDIA GPU Cloud, giúp bạn tận dụng các cập nhật và phát triển mới nhất trong các framework Trí Tuệ Nhân Tạo, mà không cần phải tự cài đặt, như vậy sẽ tránh mất thời gian và triển khai nhanh chóng hơn.

Đóng gói và Thành Phần

Đóng gói của máy chủ được thực hiện trong một hộp bìa cứng mang đặc điểm thiết kế đặc trưng của NVIDIA, có thiết kế hộp bật lên. Bên trong hộp, bạn sẽ tìm thấy bộ phụ kiện cùng với thanh ray không cần dụng cụ phức tạp, bao gồm cả dây cáp điện và vít. Bên trong hộp còn có mặt trước với màu vàng nổi bật và độc đáo, mang tính nhận dạng thương hiệu.

Khung Máy và Đặc Điểm

DGX A100 được đặt trong khung máy chủ có kích thước 8U, có chiều sâu 35,3 inch và trọng lượng lên đến 130,45Kg.

DGX A100 có thiết kế thu hút và yêu cầu cân nhắc kỹ lưỡng khi lập kế hoạch về không gian và vị trí đặt giá đỡ!

Mặt trước của khung máy đơn giản với nút nguồn chức năng như một đèn LED trạng thái, khóa UID và đèn báo lỗi dọc theo cạnh tay phải.

Bên sau lớp khung bezel là mười hai mô-đun quạt kép, phía dưới là tám ổ đĩa U.2 NVMe được sử dụng như bộ đệm dữ liệu. Bên cạnh đó, mặt trước có bảng điều khiển chứa cổng VGA và cổng USB.

Khung DGX A100 bao gồm một loạt các mô-đun độc lập, mỗi mô-đun đảm nhận các chức năng riêng biệt trong hệ thống, tất cả đều được tích hợp vào khung chính.

Khay GPU nằm ở phía trên cùng phía sau của hệ thống, với khay bo mạch chủ đặt ở phía dưới.

Phía dưới của hệ thống là sáu bộ nguồn có thể thay thế nóng, được liên kết và hoạt động đồng thời.

Bên trong Hệ Thống

Để có cái nhìn chi tiết vào bên trong, cần phải tháo ra các khay bo mạch chủ và GPU, cả hai khay này chỉ có thể được truy cập qua phía sau và nằm phía trên bộ nguồn.

Khay bo mạch chủ chứa một bo mạch chủ tùy chỉnh dựa trên chipset Intel C622 và có thể được rút ra từ phía sau của khung máy. Bo mạch chủ này chứa bộ xử lý kép AMD Rome 7742, với 128 nhân, hoạt động ở tốc độ cơ bản 2.25Ghz. Hỗ trợ tối đa 8 kênh bộ nhớ DDR4 cho mỗi CPU, dung lương bộ nhớ máy chủ này được trang bị lên đến 1TB với 16 RAM Micron 64GB DDR4-3200 DIMMS và hỗ trợ PCIe 4.0 nguyên bản với tối đa 128 kênh PCI Express.

Ở mặt dưới của khay bo mạch chủ, ta có một chế độ xem từ trên xuống, với các cổng IO ở phía trái và các kết nối với mặt phẳng ở giữa phía bên phải. Các CPU nằm ở giữa, cùng với 32 khe cắm bộ nhớ.

Bên phải của CPU, hai mô-đun mạng DGX A100 chứa tám thiết bị ConnectX-7 mỗi mô-đun, chạy ở tốc độ 200Gb/s. Các mô-đun này kết nối với mặt phẳng thông qua các đầu nối hiển thị ở bên phải của sơ đồ khay, trong khi các cổng dành cho các thẻ này được đặt ở mặt sau của hệ thống, như hình minh họa, ở phía bên trái của sơ đồ, thông qua cáp DensiLink màu xanh lam nhạt.

Kết luận

DGX A100 là một hệ thống AI tối ưu được hội tụ sự kết hợp hoàn hảo giữa phần cứng và phần mềm. Đây là một công cụ mạnh mẽ có khả năng tăng tốc nhiều khối lượng công việc AI. Nếu bạn đang tìm kiếm một hệ thống AI hiệu suất cao với phần cứng và phần mềm hàng đầu, DGX A100 chắc chắn xứng đáng dẫn đầu danh sách lựa chọn.

Tại Nhất Tiến Chung, chúng tôi đồng hành cùng khách hàng bằng cách cung cấp tài nguyên và kiến thức giúp họ đưa ra quyết định thông minh về phần cứng, phần mềm và giải pháp tổng thể cho hậ tầng AI. Để tìm hiểu thêm về việc trải nghiệm DGX A100 hoặc hỗ trợ từ Nhất Tiến Chung, đội ngũ của chúng tôi luôn sẵn sàng hợp tác với bạn để thành công với dự án Công Nghệ và Trí Tuệ Nhân Tạo của bạn.

→ Tìm hiểu thêm: NVIDIA DGX A100 – siêu máy tính tối ưu cho hạ tầng AI HPC https://thegioimaychu.vn/may-chu-tri-tue-nhan-tao-nvidia-dgx-a100-tm7724.html

→ Tìm hiểu thêm: NVIDIA DGX Station A100 – siêu máy tính tối ưu cho hạ tầng AI HPC tại văn phòng của bạn https://thegioimaychu.vn/may-tram-tri-tue-nhan-tao-nvidia-dgx-station-a100-tm8613.html

→ Tìm hiểu thêm: NVIDIA DGX H100 – siêu máy tính tối ưu cho Large Language Models https://thegioimaychu.vn/may-chu-tri-tue-nhan-tao-nvidia-dgx-h100-tm9193.html

Nhất Tiến Chung (NTC) hiện là nhà cung cấp các giải pháp hạ tầng CNTT, Điện toán Hiệu năng cao (HPC) cho AI với kinh nghiệm kinh doanh phần cứng từ năm 2005. Chúng tôi là đối tác NPN cấp Elite (2022) chính thức của NVIDIA cho các hệ thống DGX (DGX A100, DGX Station A100) và hệ thống cụm siêu máy tính DGX SuperPOD với sức mạnh lưu trữ song song của DDN và kết nối mạng tốc độ cao từ hãng Mellanox (thuộc NVIDIA).

____
Bài viết liên quan

Nguyễn Đức Thái