Tăng cường sức mạnh cho Edge AI với nền tảng NVIDIA MGX

Để đáp ứng nhu cầu ngày càng tăng của điện toán hiệu suất cao (HPC) và các trung tâm dữ liệu AI, NVIDIA đã giới thiệu nền tảng MGX. Công nghệ máy chủ module hóa mang tính sáng tạo này được thiết kế riêng để giải quyết các nhu cầu phức tạp của môi trường điện toán hiện đại, cung cấp các giải pháp có khả năng mở rộng có thể thích ứng với các yêu cầu vận hành khác nhau của nhiều lĩnh vực khác nhau. Với kiến ​​trúc hướng đến tương lai, nền tảng NVIDIA MGX cho phép các nhà sản xuất hệ thống cung cấp các cấu hình máy chủ tùy biến nhằm tối ưu hóa hiệu quả sử dụng điện, làm mát và ngân sách, đảm bảo rằng các tổ chức được trang bị tốt để xử lý các thách thức của các tác vụ điện toán thế hệ mới.

Tổng quan

NVIDIA MGX cung cấp kiến ​​trúc tham chiếu module hóa cho phép xây dựng hàng trăm cấu hình hệ thống khác nhau. Tính linh hoạt này tạo điều kiện cho việc áp dụng nhanh chóng các công nghệ nền tảng chính như CPU, GPU và DPU với mức đầu tư tối thiểu vào tài nguyên kỹ thuật. MGX được thiết kế để đáp ứng các nhu cầu đa dạng của các ứng dụng từ AI và HPC, đến môi trường Omniverse, cung cấp cho các nhà xây dựng hệ thống khả năng tạo ra các giải pháp phù hợp một cách nhanh chóng và tiết kiệm chi phí.

Kiến trúc module và bay

Thiết kế kiểu module của MGX bao gồm các tùy chọn cho nhiều dạng thức tương thích với phần cứng NVIDIA hiện tại và tương lai. Bao gồm các kích thước khung máy khác nhau như 1U, 2U và 4U, có sẵn ở cả tùy chọn làm mát bằng không khí và làm mát bằng chất lỏng. Nền tảng này hỗ trợ đầy đủ các loại GPU và cả CPU của NVIDIA, bao gồm các mẫu mới nhất như NVIDIA Grace CPU Superchip và GH200 Grace Hopper Superchip, cũng như các dòng CPU x86 thịnh hành. Nó cũng tích hợp công nghệ mạng của NVIDIA với các thành phần như NVIDIA BlueField®-3 DPU và card mạng ConnectX-7​.

Các tính năng và lợi ích chính

Khả năng tương thích phần cứng nâng cao:

MGX hỗ trợ nhiều loại GPU và CPU tiên tiến của NVIDIA, bao gồm NVIDIA Grace CPU Superchip mới nhất và GH200 Grace Hopper Superchip. Khả năng hỗ trợ phần cứng đa thế hệ của nền tảng này đảm bảo rằng các nhà sản xuất hệ thống có thể điều chỉnh các thiết kế hiện có để kết hợp các công nghệ NVIDIA mới mà không cần phải thiết kế lại tốn kém. Khả năng tương thích đa thế hệ này giúp tăng vòng đời và khả năng mở rộng của hạ tầng máy chủ, bảo vệ các khoản đầu tư theo thời gian.

Hiệu suất AI được nâng cao:

MGX tận dụng các GPU và CPU mạnh mẽ của NVIDIA để mang lại hiệu suất cao nhất cho việc đào tạo và suy luận AI, giúp nó lý tưởng cho môi trường điện toán biên, nơi việc xử lý dữ liệu nhanh là rất quan trọng. Việc hỗ trợ phần mềm NVIDIA AI Enterprise giúp tăng cường thêm khả năng của nó bằng cách cung cấp một framework mẽ để phát triển và triển khai các ứng dụng AI.

Hiệu quả năng lượng và điện năng:

Nền tảng MGX được thiết kế tập trung mạnh mẽ vào hiệu quả năng lượng, giải quyết tầm quan trọng ngày càng tăng của điện toán tiết kiệm năng lượng trong việc giảm cả chi phí vận hành và tác động đến môi trường. Kiến trúc module của nó tăng cường quản lý năng lượng bằng cách cho phép cung cấp năng lượng tùy biến, đáp ứng các yêu cầu cụ thể của từng triển khai. Cách tiếp cận có mục tiêu này không chỉ giúp giảm thiểu tổng chi phí sở hữu mà còn hỗ trợ các hoạt động điện toán bền vững. Ngoài ra, MGX cung cấp cả tùy chọn làm mát bằng không khí và chất lỏng, tối ưu hóa mức tiêu thụ năng lượng trong khi vẫn duy trì mức hiệu suất cao.

NVIDIA MGX – Máy chủ Edge AI

Nền tảng NVIDIA MGX được thiết kế với kiến ​​trúc module, linh hoạt, đáp ứng hiệu quả các nhu cầu đa dạng của các trung tâm dữ liệu, đặc biệt là trong các trường hợp điện toán biên. Kết hợp phần cứng mạnh mẽ với phần mềm phức tạp và khả năng kết nối mạng, MGX phù hợp và tối ưu cho các ứng dụng AI tại biên. Tính linh hoạt của nó đảm bảo rằng các hệ thống không chỉ có khả năng mở rộng mà còn có thể thích ứng với những tiến bộ công nghệ trong tương lai. Đó là lựa chọn tuyệt vời cho các doanh nghiệp muốn triển khai các giải pháp AI linh hoạt, hiệu suất cao và tiết kiệm năng lượng tại biên. Với khả năng hỗ trợ nhiều cấu hình khác nhau và tuân thủ các tiêu chuẩn hạ tầng hiện có, MGX là lựa chọn linh hoạt và phù hợp với tương lai cho nhu cầu của nhiều ngành.

Lanner ECA-6051, được thiết kế để tăng tốc AI trong hạ tầng 5G, có bo mạch CPU được trang bị bộ xử lý Grace Arm Neoverse V2 72 nhân của NVIDIA hoặc bộ xử lý Intel Xeon 6, được hỗ trợ bởi bộ nhớ DDR5 lên đến 1.536GB. Kết cấu ngắn, nhỏ gọn, chiều sâu 420mm với nguồn điện dự phòng và thiết kế kiểu truy cập từ phía trước giúp nó lý tưởng cho các mạng biên 5G bị hạn chế về không gian. Máy chủ AI biên này, được cấu hình với tối đa ba khe cắm PCIe 5.0 x16, có thể chứa nhiều loại card PCIe bao gồm GPU NVIDIA L40S, GPU H100, Bluefield-3 DPU và card mạng ConnectX-7. Cung cấp khả năng hỗ trợ nhiều GPU và DPU, ECA-6051 tăng cường hiệu suất AI tại mạng biên 5G, tạo điều kiện triển khai nhanh chóng các ứng dụng dựa trên AI với độ trễ được giảm thiểu, đồng thời cung cấp cho các nhà khai thác viễn thông một nền tảng có khả năng mở rộng, hiệu suất cao để xây dựng mạng truy cập vô tuyến 5G an toàn và hiệu quả.

Sản phẩm tiêu biểu

ECA-6051

Nền tảng máy chủ AI Edge dạng module 2U 19” dựa trên kiến ​​trúc NVIDIA MGX

CPU Bộ xử lý NVIDIA Grace Arm Neoverse V2 hoặc Intel® Xeon®6
Bộ vi mạch Không có

Xem thêm

 

____
Bài viết liên quan
Góp ý / Liên hệ tác giả