Supermicro NVIDIA MGX Systems: Hiệu suất AI tối đa từ GPU NVIDIA GH200 Grace Hopper

Supermicro NVIDIA MGX Systems được thiết kế đặc biệt cho Trí tuệ Nhân tạo hiện đại và điện toán tăng tốc. Nền tảng kiểu module này mở ra những khả năng mới và công nghệ tiên tiến trong thiết kế hệ thống, bao gồm việc hỗ trợ cho NVIDIA GH200 Grace Hopper Superchip, kết hợp sức mạnh của GPU NVIDIA H100 và CPU NVIDIA Grace trên một con chip duy nhất.

Trong một thiết kế chỉ chiếm 1U không gian rack, hệ thống Supermicro NVIDIA MGX có thể được trang bị đến 2x Grace Hopper Superchips và cung cấp mật độ tính toán tăng tốc cao nhất trong kiểu dáng nhỏ gọn này. Các hệ thống 1U Grace Hopper Superchip đã sẵn sàng chạy bất kỳ ứng dụng nào trong bộ công cụ phần mềm AI của NVIDIA.

Grace Hopper Superchip: Sức mạnh ở đỉnh cao

Grace Hopper Superchip giải quyết một vấn đề chính trong quá trình huấn luyện và dự đoán của các mô hình Trí Tuệ Nhân Tạo: khả năng truy cập vào bộ nhớ có băng thông cao. NVLink® Chip-2-Chip (NVLink-C2C) cung cấp một liên kết CPU-GPU nhất quán với tốc độ gấp 7 lần so với PCIe 5.0. Sử dụng một dải nhớ có 96GB HBM3 cho GPU và 480GB LPDDR5X cho CPU, tổng cộng 576GB bộ nhớ giúp tăng tốc các ứng dụng AI và HPC. Cả luồng CPU và GPU hiện có thể truy cập vào cả bộ nhớ cư trú của cả CPU và GPU một cách đồng thời và minh bạch, giúp nhà phát triển tập trung vào thuật toán thay vì quản lý bộ nhớ rõ ràng.

Giải pháp hạ tầng Deep Learning, Trí tuệ Nhân tạo - AI

NVIDIA Grace CPU Superchip Architecture In Depth | NVIDIA Technical Blog

MGX: Kiến Trúc Hệ Thống Hiện Đại

Được tối ưu hóa cho nhiệt độ, tương thích và linh hoạt. MGX là một nền tảng linh hoạt với sự hỗ trợ cho các GPU, CPU và DPUs hàng đầu hiện nay và trong tương lai. Các hệ thống Supermicro MGX cũng hỗ trợ cả tản nhiệt bằng không khí và tản nhiệt bằng chất lỏng trong cùng một chassis nhỏ gọn để tạo điều kiện tính toán cực kỳ mật độ với GPU có công suất TDP từ 400W trở lên trong khi vẫn duy trì hiệu quả năng lượng cao. Các khe cắm modul ở cả hai bên giúp xây dựng các hệ thống được điều chỉnh tinh tế, bao gồm việc hỗ trợ các khe cắm PCIe 5.0 linh hoạt, hỗ trợ NVIDIA BlueField®-3 hoặc kết nối mạng NVIDIA ConnectX®-7 cho thế hệ tiếp theo của các cụm siêu máy tính HPC và nhà máy AI.

Supermicro 1U NVIDIA Grace CPU Superchip system

Tản Nhiệt + Hiệu Quả + Cấp Nguồn Năng Lượng

Nhờ vào thiết kế cơ khí và việc lựa chọn các thành phần, Supermicro MGX™ Systems tối ưu hóa quá trình tản nhiệt, hiệu quả và cấp nguồn năng lượng mà không đánh mất hiệu suất. Giải pháp tản nhiệt bằng chất lỏng trực tiếp lên vi xử lý đã được chứng minh của Supermicro có thể giảm Chi Phí Vận Hành lên đến 40%. Hai nguồn cấp nguồn dự phòng Titanium Level có công suất lên đến 2700W giúp cung cấp đủ năng lượng để xử lý đến 2000W yêu cầu năng lượng của hai Grace Hopper Superchips, với lưu trữ dư thừa.

Với Supermicro NVIDIA MGX™ Systems, bạn không chỉ đầu tư vào một hệ thống tính toán tăng tốc, mà còn đầu tư vào một giải pháp tiên tiến, linh hoạt và hiệu quả với hiệu suất đỉnh cao. Đảm bảo rằng bạn sẽ luôn đứng trên đỉnh với công nghệ tiên tiến nhất từ Supermicro.

Đẩy Nhanh Mọi Thứ

Xây dựng các giải pháp mới cho các cơ sở hạ tầng được tăng tốc, giúp các nhà khoa học và kỹ sư tập trung vào việc giải quyết các vấn đề quan trọng nhất của thế giới với dữ liệu lớn, các mô hình phức tạp và các tải làm việc AI sáng tạo mới. Trong cùng một khung gầm 1U, hệ thống Superchip 1U NVIDIA GH200 Grace Hopper™ của Supermicro mang lại mức hiệu suất cao nhất cho bất kỳ ứng dụng nào trên nền tảng CUDA với sự tăng tốc đáng kể cho các tải làm việc AI có yêu cầu bộ nhớ cao. Ngoài việc chứa tới 2 GPU H100 trên một chiếc máy với kích thước 1U, các khe modul cho phép mở rộng PCIe đầy đủ kích thước cho các thành phần tính toán tăng tốc hiện tại và tương lai, cũng như việc mở rộng tốc độ cao và gom cụm.

Superchip NVIDIA GH200 Grace Hopper™: Hiệu Suất Phi Thường

Với công nghệ Superchip NVIDIA GH200 Grace Hopper™, giải quyết mọi thách thức trong việc xử lý dữ liệu lớn, mô hình phức tạp và các tải làm việc AI sáng tạo trở nên dễ dàng. Khả năng chứa tới 2 GPU H100 trên một chiếc máy với kích thước 1U, Superchip này không chỉ cung cấp hiệu suất đỉnh cao cho các ứng dụng AI mà còn giúp tối ưu hóa việc sử dụng bộ nhớ với yêu cầu cao. Điều này giúp tạo ra các giải pháp AI và tính toán tăng tốc mới, đưa chúng ta một bước tiến xa hơn trong hành trình giải quyết các vấn đề quan trọng của xã hội.

Hệ Thống Mở Rộng và Kết Nối

Khả năng mở rộng của các khe modul không chỉ giúp chúng ta tăng cường hiệu suất ngay từ hiện tại mà còn tạo ra sự linh hoạt cho tương lai. Được thiết kế để chứa không chỉ 2 GPU H100 mà còn hỗ trợ các mở rộng PCIe đầy đủ kích thước, hệ thống này không chỉ đáp ứng nhu cầu của hiện tại mà còn chuẩn bị cho các yêu cầu ngày mai. Khả năng tạo ra các cụm xử lý tăng tốc với tốc độ cao và kết nối mạng sẽ giúp chúng ta xây dựng những hệ thống toàn diện, hiệu quả và sẵn sàng cho mọi thách thức.

Supermicro MGX Systems không chỉ là một giải pháp tính toán tăng tốc, mà còn là chìa khóa mở ra thế giới của sự linh hoạt và khả năng mở rộng. Với hệ thống này, chúng ta không chỉ đang đối mặt với tương lai của công nghệ, mà còn là người hướng dẫn đường đi của nó.

____
Bài viết liên quan

Góp ý / Liên hệ tác giả