InfiniBand NDR 400G: Hiệu suất hàng đầu cho kỷ nguyên “exascale” AI

Hiệu suất phá vỡ các kỷ lục trong các chuẩn giao tiếp mạng

Kiến trúc NVIDIA InfiniBand thế hệ thứ 7 kết hợp với NDR 400Gb/s, mang đến cho các nhà phát triển AI, các nhà khoa học dữ liệu hiệu suất mạng nhanh nhất để giải quyết các vấn đề khó khăn nhất trên thế giới. NVIDIA Mellanox InfiniBand® đang là công nghệ mở đường với Software-Defined Networking, tăng tốc xử lý bên trong mạng (In-network computing), Remote Direct-Memory Access (RDMA), tốc độ và nguồn cấp dữ liệu nhanh nhất – bao gồm những cải tiến ấn tượng so với thế hệ HDR InfiniBand trước đó.

Giới thiệu NVIDIA NDR 400 Gb/s InfiniBand

Nâng cao các ứng dụng lẫn siêu máy tính HPC và AI

In-Network Computing được tăng tốc

Những hạ tầng tính toán hiệu suất cao (HPC), AI và hyperscale ngày nay yêu cầu kết nối nhanh hơn và mạng thông minh hơn để phân tích dữ liệu và chạy các mô phỏng phức tạp với tốc độ và hiệu quả cao hơn. NVIDIA Mellanox InfiniBand nâng cao và mở rộng In-Network Computing của mình với các công cụ tính toán được cấu hình sẵn và có thể lập trình chẳng hạn như thế hệ thứ ba của NVIDIA Mellanox Scalable Hierarchical Aggregation and Reduction Protocol (SHARPv3), MPI Tag Matching, MPI All-to-All và các lõi có thể lập trình được mang lại chi phí mỗi node và ROI tốt nhất.

Khả năng mở rộng không giới hạn

NDR InfiniBand với công nghệ SHARPv3 tạo ra khả năng mở rộng gần như không giới hạn để tổng hợp dữ liệu lớn thông qua mạng, với hỗ trợ lên đến 64 luồng song song – sức mạnh tăng tốc AI cao hơn 32 lần so với thế hệ HDR InfiniBand trước đó. Các công cụ phần cứng MPI All-to-All và MPI Tag Matching cùng với các khả năng khác như kiểm soát tắc nghẽn nâng cao, định tuyến thích ứng và mạng tự phục hồi, tất cả đều cung cấp những cải tiến quan trọng cho các cụm HPC và AI, cho phép chúng đạt được hiệu suất cao hơn nữa.

Truyền dẫn dữ liệu ở tốc độ ánh sáng

Host Channel Adapters

NDR InfiniBand Host Channel Adapter (HCA) với PCIe Gen4 và Gen5 hỗ trợ đa dạng các kiểu dáng, cung cấp các port mạng single hoặc dual ở tốc độ 400 Gb/s đối với NDR, 200 Gb/s đối với NDR200 và các tốc độ thấp hơn.

Các HCA này bao gồm những khả năng In-Network Computing nâng cao với các engine phần cứng MPI All-to-All và MPI Tag Matching và các cải tiến khác để nâng cao chất lượng dịch vụ (QoS) bao gồm định tuyến thích ứng, kiểm soát tắc nghẽn và hơn thế nữa. Các HCA cũng bao gồm các lõi tính toán có thể lập trình được cho phép giảm tải các thuật toán dữ liệu tiền xử lý và các đường dẫn điều khiển ứng dụng đến mạng mang lại hiệu suất, khả năng mở rộng cao hơn và tăng cường chồng chéo giữa tính toán và giao tiếp.

Edge Switches

Dòng switch biên NDR InfiniBand bao gồm 64 port NDR hoặc 128 port NDR200 trên các 32 connector Octal Small Form-factor Pluggable (OSFP) vật lý. Các switch biên 1U nhỏ gọn bao gồm các phiên bản làm mát bằng khí và làm mát bằng chất lỏng được quản lý bên trong hoặc bên ngoài.
Dòng switch này cung cấp tổng cộng 51,2 Tb/s thông lượng hai chiều, với công suất hơn 66,5 tỷ gói tin mỗi giây. Là một giải pháp InfiniBand rack-mounted lý tưởng, switch biên NDR InfiniBand cho phép sự linh hoạt tối đa cho nhiều loại cấu trúc liên kết bao gồm Fat Tree, DragonFly+, multi-dimensional Torus, Hypercube, v.v.

Modular Switches

Các switch dạng mô-đun NDR InfiniBand cung cấp những cấu hình port sau:

2048 port NDR (400 Gb/s) hoặc 4096 port NDR200 (200 Gb/s)

1024 port NDR (400 Gb/s) hoặc 2048 port NDR200 (200 Gb/s)

Switch mô-đun lớn nhất có thể mang tổng thông lượng 2 chiều là 1.64 Pb/s, gấp 5 lần so với switch mô-đun HDR InfiniBand thế hệ trước đó.

Switch mô-đun kích cỡ trung bình cung cấp tổng thông lượng hai chiều là 819 Tb/s.

Transceivers và Cables

Những tùy chọn kết nối NDR InfiniBand bao gồm sự đa dạng về loại transceiver và các connector multi-fiber push-on (MPO), active copper cable (ACC) và direct attached cable (DAC) với các option splitter 1-to-2 hoặc 1-to-4 cung cấp sự linh hoạt tối đa để xây dựng bất kỳ cấu trúc liên kết nào với hiệu suất cao nhất.

Hiệu suất, khả năng mở rộng và hiệu quả mạng hàng đầu thế giới

Hiệu suất

• Băng thông 400 Gb/s mỗi port
• 64 port NDR 400 Gb/s hoặc 128 port NDR200 200 Gb/s trong một switch duy nhất
• 2048 port NDR hoặc 4096 port NDR200 trong một switch modular duy nhất
• Hơn 66.5 tỷ gói tin mỗi giây (hai chiều) trên một thiết bị switch NDR duy nhất

Phá vỡ các kỷ lục của chính mình

• Băng thông gấp 2 lần mỗi port so với HDR
• Cơ số switch gấp 3 lần so với HDR
• Sức mạnh tăng tốc AI cao hơn gấp 32 lần mỗi switch so với HDR
• Hơn 1 triệu node 400 Gb/s trong một tier 4-switch (three hops) Dragonfly+ network. Cao hơn 6,5 lần so với HDR InfiniBand

Những tính năng chính

• Full transport offload
• RDMA, GPUDirect® RDMA, GPUDirect Storage
• Các công cụ In-Network Computing có thể lập trình
• Tăng tốc phần cứng MPI All-to-All
• Tăng tốc phần cứng MPI Tag Matching
• NVIDIA Mellanox SHARPv3
• Định tuyến thích ứng, kiểm soát tắt nghẽn, và QoS nâng cao
• Mạng tự phục hồi

Tham khảo các sản phẩm của Mellanox tại:
→ https://thegioimaychu.vn/thiet-bi-mang/mellanox
→ https://thegioimaychu.vn/linh-kien-may-chu/mellanox