Mạng InfiniBand là gì?
Hệ thống kiến trúc InfiniBand mang tính hợp nhất của sợi quang vào trung tâm dữ liệu lưu trữ, cung cấp băng thông cao, độ trễ thấp và độ tin cậy cao. InfiniBand là một công nghệ kết nối mạng tiêu chuẩn mở được định nghĩa bởi IBTA, được sử dụng rộng rãi trong lĩnh vực cụm siêu máy tính và là công nghệ kết nối mạng ưa chuộng cho máy chủ GPU trong bối cảnh phát triển vượt bậc của trí tuệ nhân tạo.
Tiêu chuẩn InfiniBand hỗ trợ truyền tín hiệu tốc độ dữ liệu đơn (SDR) ở tốc độ cơ bản 2,5 Gbit/giây trên mỗi làn, cho phép tốc độ dữ liệu thô 10 Gbit/giây trên cáp 4X, loại cáp InfiniBand phổ biến nhất được sử dụng. Hơn nữa, tốc độ dữ liệu kép (DDR) và tốc độ dữ liệu quad (QDR) cho phép mở rộng các làn đường đơn tương ứng lên tới 5 Gbit/giây và 10 Gbit/giây mỗi làn, cho tốc độ dữ liệu tối đa tiềm năng là 40 Gbit/giây trên 4X và 120 Gbit/giây trên 12X cáp. InfiniBand có khả năng chạy đồng thời với các cấu trúc phân cụm, giao tiếp và quản lý trên cùng một cơ sở hạ tầng, duy trì hoạt động của nhiều loại vải.
Công nghệ InfiniBand đang được ứng dụng rộng rãi trong các lĩnh vực máy tính hiệu suất cao và trí tuệ nhân tạo nhờ vào tính hợp nhất và băng thông cao. Sản phẩm mới nhất của Mellanox là HDR mang đến băng thông đầu cuối lên đến 200gbps, đồng thời tối đa hóa tiềm năng tính toán trong cụm. InfiniBand được xem là công nghệ truyền thông mạng được khuyến nghị bởi Hiệp hội Thương mại InfiniBand (IBTA) và được áp dụng rộng rãi trong các siêu máy tính TOP500. Các ứng dụng liên quan đến AI/Big Data cũng đã sử dụng công nghệ InfiniBand để triển khai cụm hiệu suất cao.
Hiện nay, khoảng 62% trong số các trung tâm siêu máy tính Top100 đã sử dụng công nghệ InfiniBand (dữ liệu tháng 2022 năm XNUMX), vượt qua các công nghệ Ethernet/Fibre Channel và công nghệ Omni-Path lỗi thời.
200G InfiniBand HDR là gì?
InfiniBand hỗ trợ nhiều loại kết nối khác nhau để tăng băng thông. Mellanox đã phát hành phiên bản mới nhất của InfiniBand với tốc độ 200Gbps, hỗ trợ công nghệ HDR. Điểm nổi bật của sản phẩm này là độ trễ thấp và khả năng tăng tốc tính toán mạng thông minh. Người dùng có thể sử dụng trình điều khiển phần mềm Mellanox tiêu chuẩn trên đám mây, giống như trong môi trường Bare Metal, và sử dụng tất cả phần mềm MPI dựa trên InfiniBand như Mellanox HPC-X, MVAPICH2, Platform MPI, Intel MPI, v.v.
Bên cạnh đó, người dùng có thể tận dụng phần cứng offtính năng tải của giao tiếp cụm MPI để tăng hiệu suất và cải thiện hiệu quả các ứng dụng kinh doanh. Sản phẩm 200G InfiniBand cung cấp nhiều ứng dụng, bao gồm động cơ tăng tốc tính toán trong mạng, bộ điều hợp HDR InfiniBand, công tắc HDR InfiniBand Quantum và hệ thống cáp 200G.
Đối với hệ thống cáp 200G InfiniBand, phần cuối cùng của giải pháp Mellanox 200Gbs là dòng Cáp LinkX. melanox offers cáp đồng 200G gắn trực tiếp lên đến 3 mét và cáp đột phá bộ chia 2 x 100G để kích hoạt liên kết HDR100, cũng như cáp quang hoạt động 200G đạt tới 100 mét. Tất cả các cáp LinkX trong dòng 200Gb / s đều có trong gói QSFP56 tiêu chuẩn.
Ưu điểm của Mạng InfiniBand là gì?
- Liên kết băng thông cao nối tiếp
– SDR: 10Gb / giây
– DDR: 20Gb / s
– QDR: 40Gb / giây
– FDR: 56Gb / giây
– EDR: 100Gb / giây
– HDR: 200Gb / giây
– NDR: 400Gb/giây
- Độ trễ cực thấp
- Đáng tin cậy, không mất mát, tự quản lý
– Kiểm soát lưu lượng mức liên kết
– Kiểm soát tắc nghẽn để ngăn chặn HOL chặn
- Bộ nhớ tiếp xúc với quyền truy cập nút từ xa – RDMA-đọc và RDMA-ghi
- Chất lượng dịch vụ
– Các kênh I / O độc lập ở cấp bộ điều hợp
– Làn đường ảo ở cấp độ liên kết
- Khả năng mở rộng / tính linh hoạt của cụm
– Lên đến 48K nút trong mạng con
– Có thể có nhiều cấu trúc liên kết
- Quản lý cụm đơn giản hóa
– Quản lý tuyến tập trung
– Nâng cấp và chẩn đoán trong băng tần
Mạng Ethernet là gì?
Ethernet đề cập đến tiêu chuẩn thông số kỹ thuật mạng LAN băng tần cơ sở được tạo ra bởi công ty Xerox và công ty Xerox, Intel và DEC cùng phát triển. Tiêu chuẩn Ethernet chung được ban hành vào ngày 30 tháng 1980 năm 10. Đây là tiêu chuẩn giao thức truyền thông chung nhất được mạng LAN hiện có thông qua. Nó truyền và nhận dữ liệu thông qua dây cáp.
Mạng Ethernet được sử dụng để tạo mạng cục bộ và kết nối nhiều máy tính hoặc các thiết bị khác như máy in, máy quét, v.v. Trong mạng có dây, điều này được thực hiện với sự trợ giúp của cáp quang, trong khi trong mạng không dây, nó được thực hiện thông qua công nghệ mạng không dây. Các loại mạng Ethernet chính là Fast Ethernet, Gigabit Ethernet, XNUMX-Gigabit Ethernet và Switch Ethernet.
Hiện tại, Tổ chức Tiêu chuẩn IEEE 802.3 do IEEE tổ chức đã ban hành các tiêu chuẩn giao diện Ethernet 100GE, 200GE và 400GE. Mạng Ethernet là công nghệ truyền dẫn với tốc độ cao nhất hiện nay.
InfiniBand vs Ethernet: Sự khác biệt là gì?
Là công nghệ kết nối liên kết, InfiniBand và Ethernet có những đặc điểm và sự khác biệt riêng. Chúng đang phát triển và phát triển trong các lĩnh vực ứng dụng khác nhau, và đã trở thành hai Công nghệ kết nối không thể thiếu trong thế giới mạng của chúng ta.
Các loại mạng Ethernet
Mạng Ethernet và công nghệ IP là cơ sở của Internet toàn cầu, cung cấp kết nối cho mọi người và thiết bị thông minh. Ethernet đã được thiết kế để tương thích với các hệ thống khác nhau và có khả năng thích ứng mạnh mẽ. Sau nhiều năm phát triển, Ethernet đã trở thành tiêu chuẩn của Internet.
InfiniBand, một tiêu chuẩn kết nối cao cấp, được thiết kế để giải quyết vấn đề truyền dữ liệu tại các tình huống điện toán hiệu suất cao. Với tốc độ truyền dữ liệu có thể lên tới 40Gbps hoặc hơn, InfiniBand cung cấp những lợi ích vượt trội so với Ethernet, chủ yếu là băng thông cao hơn, độ trễ thấp hơn và khả năng mở rộng được nâng cao. InfiniBand trực tiếp tạo ra một kênh riêng tư và được bảo vệ giữa các nút thông qua các bộ chuyển mạch để truyền dữ liệu và thông điệp mà không cần CPU tham gia vào truy cập bộ nhớ trực tiếp từ xa (RDMA). Vì vậy, về băng thông, độ trễ, độ tin cậy và chế độ kết nối mạng, InfiniBand khác với Ethernet.
InfiniBand vs Omni-Path: Ưu điểm của InfiniBand so với Omni-Path
Mặc dù NVIDIA đã đưa ra giải pháp InfiniBand 400G NDR, một số khách hàng vẫn đang sử dụng giải pháp 100G. Đối với mạng hiệu suất cao 100G, có hai giải pháp phổ biến, Omni-Path và InfiniBand, có cùng tốc độ và hiệu suất tương tự, nhưng cấu trúc mạng khác nhau rất nhiều. Ví dụ, đối với một cụm 400 nút, InfiniBand chỉ yêu cầu 15 bộ chuyển mạch NVIDIA Quantum 8000 series và 200 cáp nhánh 200G và 200 cáp trực tiếp 200G, trong khi Omni-Path yêu cầu 24 công tắc và 876 cáp trực tiếp 100G (384 nút). InfiniBand rất có lợi thế về chi phí thiết bị ban đầu và chi phí vận hành, bảo dưỡng sau này và mức tiêu thụ điện năng tổng thể thấp hơn Omni-Path rất nhiều, thân thiện với môi trường hơn.
Giới thiệu sản phẩm InfiniBand HDR
EDR đang bị loại bỏ dần khỏi thị trường do nhu cầu của khách hàng, tỷ lệ NDR quá cao và chỉ những khách hàng chính thức mới cố gắng sử dụng nó. HDR được sử dụng rộng rãi với tính linh hoạt của HDR 100G và HDR 200G.
Công tắc HDR
Có hai loại công tắc HDR. Một là HDR CS8500. Công tắc 29U cung cấp tối đa 800 cổng HDR 200Gb / s và mỗi cổng 200 GB có thể được chia thành 2X100G để hỗ trợ 1600 cổng HDR100 100Gb / s.
Loại còn lại là dòng QM8000. Bảng điều khiển 1U có 40 cổng 200G QSFP56, có thể được chia thành tối đa 80 cổng HDR 100G để kết nối thẻ mạng 100G HDR. Đồng thời, mỗi cổng cũng hỗ trợ EDR và kết nối trực tiếp với card mạng của EDR. Cần lưu ý rằng cổng 200G HDR chỉ có thể được làm chậm xuống 100G và kết nối với bộ điều hợp mạng EDR, và không thể tách thành 2X100G để kết nối hai bộ điều hợp mạng EDR.
Có hai tùy chọn cho công tắc 200G HDR: QM8700 và QM8790. Sự khác biệt duy nhất giữa hai mô hình là chế độ quản lý. QM8700 cung cấp giao diện điều khiển để quản lý ngoài băng tần, trong khi QM8790 yêu cầu nền tảng NVIDIA Unified Fabric Manager (UFM®) để quản lý.
Đối với QM8700 và QM8790, có hai tùy chọn luồng không khí cho mỗi kiểu công tắc. Một trong số đó là 8790-HS2F cho luồng khí P2C (luồng gió trước và sau). Mô-đun quạt được đánh dấu màu xanh lam. Nếu bạn không nhận ra các dấu hiệu, bạn cũng có thể xác định chúng bằng cách đưa tay lên trên cửa hút gió và thoát khí của công tắc.
8790-HS2R là dấu đỏ trên mô-đun quạt dòng khí C2P (ống gió phía trước phía sau). Ở đây P2C và C2P P có nghĩa là Nguồn điện, C có nghĩa là Cáp (giao diện đường dây), P2C (Nguồn thành cáp), C2P (Cáp thành nguồn) ở đây hệ quy chiếu là Nguồn điện phía trước, phía giao diện đường dây cáp cho phía sau.
QM8700 và QM8790 thường được sử dụng theo hai cách trong thực tế, một là kết nối với các NIC 200G HDR bằng cách sử dụng trực tiếp 200G để 200G AOC/ DAC; cách sử dụng phổ biến khác là kết nối với 100G HDR NIC bằng cách sử dụng cáp 200G đến 2X100G, trong đó một cổng QSFP200 4G (50X56G) vật lý của bộ chuyển mạch được chia thành 2 cổng ảo 100G (2X50G). 4X50G) Cổng QSFP56 của bộ chuyển mạch được chia thành hai cổng ảo 100G (2X50G) và sau khi tách, biểu tượng của cổng được thay đổi từ x / y thành x / Y / z, trong đó “x / Y” cho biết trước đó biểu tượng của cổng trước khi tách và “z” biểu thị số cổng kết quả một làn (1,2), và sau đó mỗi cổng vật lý phụ được coi như một cổng duy nhất.
Bộ điều hợp mạng HDR
Bộ điều hợp mạng HDR đa dạng hơn nhiều so với bộ chuyển mạch. Bộ điều hợp mạng HDR100 hỗ trợ tốc độ truyền 100G. Hai cổng HDR100 có thể được kết nối với bộ chuyển đổi HDR thông qua cáp 200G đến 2x100G. Không giống như card mạng 100G EDR, cổng 100G của card mạng HDR100 hỗ trợ cả truyền 4X25G NRZ và 2X50G PAM4. HDR NIC hỗ trợ tốc độ truyền 200G và có thể được kết nối với bộ chuyển mạch thông qua cáp trực tiếp 200G. Ngoài hai tốc độ giao diện, bạn có thể chọn bộ điều hợp mạng một cổng, hai cổng và PCIe của từng tốc độ dựa trên yêu cầu dịch vụ. Các mẫu bộ điều hợp mạng InfiniBand HDR phổ biến do FiberMall cung cấp như sau:
Kiến trúc mạng InfiniBand rất đơn giản, nhưng lựa chọn giải pháp rất đa dạng. Tỷ lệ 100G có cả giải pháp 100G EDR và giải pháp 100G HDR; 200 tỷ lệ cũng có hai tùy chọn HDR và 200G NDR. Bộ điều hợp mạng, đầu nối và bộ chuyển mạch được sử dụng trong các giải pháp khác nhau là khá khác nhau.
Với vai trò là đối tác NVIDIA cấp Elite, Nhất Tiến Chung có thể cung cấp đầy đủ giải pháp InfiniBand để đáp ứng các nhu cầu khác nhau của khách hàng. Các kỹ sư kỹ thuật cao cấp của chúng tôi có nhiều kinh nghiệm trong triển khai dự án và thiết kế giải pháp mạng hiệu suất cao InfiniBand. Chúng tôi cũng cung cấp các giải pháp tối ưu cho các tình huống ứng dụng khác nhau.
Các giải pháp danh mục đầu tư của chúng tôi bao gồm mô-đun quang, bộ chuyển đổi QM8700/QM8790, HDR NIC, AOC/DAC/mô-đun quang. Chúng tôi cam kết cung cấp hiệu suất siêu việt và khả năng mở rộng, đồng thời cải thiện ROI cho HPC, AI và các ứng dụng khác với chi phí thấp hơn và hiệu suất tuyệt vời.
→ Các Sản NVIDIA Infiniband Switch hiện đã có thể đặt hàng, vui lòng xem chi tiết tại đây.
Bài viết liên quan
- GPUDirect RDMA là gì?
- GPUDirect Storage là gì?
- Hyperscale computing: Làm cách nào để đạt được năng lực điện toán quy mô lớn tốt hơn
- AI trong ngành Logistics: Những lợi ích chính và ứng dụng
- Máy chủ tăng tốc cho AI thúc đẩy tăng trưởng chi tiêu cho trung tâm dữ liệu
- Cluster Computing – Thế nào là điện toán cụm?