Nhằm phục vụ cho các hệ thống có yêu cầu cao như Deep Learning, Machine Learning hay HPC, hạ tầng mạng của các doanh nghiệp giờ đây cần phải trang bị một hệ thống network tốc độ cao để đảm bảo hiệu suất và tốc độ mạng cho những hạ tầng nổi bật trên. Cầu nối để kết nối và truyền tải thông tin, dữ liệu từ các máy chủ host đến hạ tầng network chính là các card mạng NIC tốc độ cao. Tối ưu nhất hiện nay là mẫu NIC tốc độ 100GbE Supermicro AOC-S100GC-i2C, được đánh giá là một trong những module NIC 100GbE có hiệu suất tốt nhất trên thị trường.
AOC-S100GC-i2C là giải pháp 100GbE kép được thiết kế cho các máy chủ Supermicro. Điều khác biệt là NIC này sử dụng dòng Intel 800 hoặc mạng Columbiaville được công bố lần đầu tiên vào năm 2019. Intel đã đi vào sản xuất vào hè năm 2020, vì vậy đây là một trong những NIC đầu tiên có ngăn xếp NIC với “nền tảng” mới của Intel. Có một số lợi ích và thay đổi đối với việc cung cấp mạng thông thường của Intel và chúng ta sẽ xem xét AOC-S100GC-i2C xem điều gì khiến nó phù hợp với Supermicro Server và những điểm khác biệt của nó.
Về các port kết nối, AOC-S100GC-i2C có hai cổng QSFP28, mỗi cổng hỗ trợ mạng 100Gbps. Trong khi nhiều compute node tập trung vào các NIC 25GbE SFP28, thì có rất nhiều ứng dụng xử lý mạng, lưu trữ và các ứng dụng khác sử dụng tốc độ 100GbE cực nhanh để giải quyết lưu lượng lớn dữ liệu đi qua network.
Nếu bạn nhìn vào phía bên phải của PCB, bạn sẽ thấy một bộ điều khiển Nuvoton và một header với một bộ chân. Đầu nối đó ở dưới cùng bên phải của thẻ là tiêu đề NC-SI cho phép thẻ này cũng xử lý các nhiệm vụ mạng ngoài băng tần cho IPMI / BMC của máy chủ Supermicro. Nếu bạn đang mua một máy chủ Supermicro, khả năng tích hợp chặt chẽ hơn này là lý do tại sao bạn nhận được thẻ mạng Supermicro so với thẻ Intel.
Có lẽ tính năng lớn nhất là các NIC này hỗ trợ kết nối PCIe Gen4 x16. Trong các thế hệ trước của 100GbE NIC dựa trên PCIe Gen3 x16, không có đủ băng thông ở phía PCIe để bão hòa hoàn toàn hai cổng NIC 100GbE với 16 làn PCIe hoặc một cổng duy nhất có 8 làn PCIe. Có một số giải pháp mới để giải quyết vấn đề này, chẳng hạn như bộ điều hợp nhiều máy chủ với đầu nối PCIe Gen3 x16 có cáp thứ hai để đi đến ổ cắm bo mạch chủ thứ hai. Mặc dù chip Columbiaville vẫn là 100Gbps, nhưng nó có thể đạt được băng thông tối đa của máy chủ đó ngay cả khi yêu cầu một nửa số làn PCIe.
Mặt sau của card mạng chỉ là các con chip và linh kiện điện tử tạo nên card mạng và mang đến những lợi ích như đã đề cập, không có nhiều thứ ở mặt sau của thẻ mang AOC-S100GC-i2C này.
Như bạn có thể thấy ở đây, Intel đang hiển thị một bộ tính năng cấp cao hơn so với các thế hệ trước. Mặc dù chúng tôi sẽ không gọi đây là SmartNIC hay DPU , nhưng Intel đang bổ sung nhiều chức năng hơn cho thiết bị. Có thể coi điều này là Intel đang cố gắng tăng cường ngăn xếp, tuy nhiên, đây là điều cần thiết hơn để hoạt động trong lĩnh vực hiệu suất 100GbE.
Tiếp theo là về một số tính năng chính của Supermicro AOC-S100GC-i2C và tại sao nó lại cần thiết cho những hạ tầng, những giải pháp cao cấp nhất hiện nay
Chức năng của Intel Ethernet 800 Series
Khi chuyển sang thế hệ 100GbE, NIC chỉ cần thêm chức năng giảm tải. Các chức năng ở mức 10GbE hoặc 25GbE có thể quản lý được trên các lõi CPU chỉ đơn giản là tạo ra việc sử dụng quá nhiều CPU ở tốc độ 100GbE. Hãy nhớ rằng, 100GbE kép không chênh lệch so với băng thông của khe cắm PCIe Gen4 x16, điều này gây nhiều áp lực lên hệ thống. Với các CPU hiện đại, nếu bạn lấp đầy mọi khe PCIe x16 với 100GbE NIC và cố gắng chạy chúng ở tốc độ tối đa với một ứng dụng đằng sau chúng, hệ thống sẽ không thể đối phó được. Các NIC 40GbE (XL710) kép của Fortville có nguy cơ không có đủ khả năng giảm tải cho nhiều ứng dụng. Chúng được gọi là NIC chi phí thấp hơn, nhưng không nhất thiết phải là loại giàu tính năng nhất. Tuy nhiên, với dòng Ethernet 800, Intel cần phải tăng các bộ tính năng để duy trì tính cạnh tranh. Làm như vậy, họ chủ yếu có ba công nghệ mới ADQ, NVMeoF và DDP, chúng ta điểm qua về 3 công nghệ này.
Hàng đợi Thiết bị Ứng dụng (ADQ) rất quan trọng trên các liên kết 100Gbps. Ở tốc độ 100GbE, có thể có nhiều loại lưu lượng truy cập khác nhau trên liên kết. Ví dụ: có thể có một ứng dụng UI quản lý nội bộ thường xuyên có độ trễ 1ms, nhưng có thể có mạng cảm biến quan trọng hoặc ứng dụng web front-end cần SLA có thể dự đoán được. Đó là phương pháp điều trị khác biệt mà ADQ đang cố gắng giải quyết.
Với ADQ, Intel NIC có thể ưu tiên lưu lượng mạng dựa trên ứng dụng.
Một trong những khía cạnh quan trọng là mức độ ưu tiên cần được xác định. Đó là một bước bổ sung nên đây không nhất thiết phải là một tính năng “miễn phí” vì có thể có một số công việc phát triển. Intel có một số ví dụ tuyệt vời với Memcached chẳng hạn, nhưng trong một máy chủ, Memcached có thể là một ứng dụng chính và trong một máy chủ khác, nó có thể là một chức năng phụ trợ, có nghĩa là ưu tiên cần phải xảy ra ở cấp khách hàng / giải pháp. Intel đang thực hiện điều này tương đối dễ dàng, nhưng đó là một bước bổ sung quan trọng
NVMeoF là một khu vực khác có một sự nâng cấp lớn. Trong dòng Intel Ethernet 700, Intel tập trung vào iWARP cho các nỗ lực NVMeoF của mình. Đồng thời, một số đối thủ cạnh tranh của nó đặt cược vào RoCE. Ngày nay, RoCEv2 đã trở nên cực kỳ phổ biến. Intel đang hỗ trợ cả iWARP và RoCEv2 trong dòng Ethernet 800.
Tính năng NVMeoF rất quan trọng vì đó là một lĩnh vực ứng dụng chính cho các NIC 100GbE. Một SSD PCIe Gen3 x4 NVMe gần tương đương với một cổng 25GbE có giá trị băng thông vì vậy một NIC 100GbE kép cung cấp băng thông ngang bằng với 8x NVMe SSD trong thời đại Gen3. Các ổ SSD PCIe Gen4 NVMe đang tiến gần đến tốc độ gấp đôi tốc độ đó, nhưng nhiều người vẫn đang sử dụng SSD Gen3 NVMe. Bằng cách tăng cường hỗ trợ cho NVMeoF, các NIC Ethernet dòng 800 của Intel như AOC-S100GC-i2C trở nên hữu ích hơn.
Hơn nữa, người ta có thể kết hợp NVMe / TCP và ADQ để tiến gần hơn đến một số số liệu hiệu suất của iWARP và RoCEv2.
Cá nhân hóa thiết bị động hoặc DDP có lẽ là tính năng lớn khác của NIC này. Một phần trong tầm nhìn của Intel đối với dòng NIC là chi phí tương đối thấp. Như vậy, chỉ có một ASIC lớn như vậy mà người ta có thể xây dựng để giữ chi phí hợp lý. Trong khi Mellanox có xu hướng chỉ tăng tốc / giảm tải nhiều hơn trong mỗi thế hệ, Intel đã xây dựng một số logic có thể tùy chỉnh.
Đây không phải là một công nghệ mới. Tuy nhiên, dòng Ethernet 700 của bộ điều hợp Fortville có tính năng này, tuy nhiên, nó bị hạn chế về phạm vi. Không chỉ có ít tùy chọn hơn mà việc tùy chỉnh bị giới hạn hiệu quả trong việc thêm một giao thức DDP duy nhất do dung lượng ASIC hạn chế.
Với dòng Intel Ethernet 800, chúng có thêm khả năng tải các gói giao thức tùy chỉnh trong NIC. Ngoài gói mặc định, gói DDP cho truyền thông là một gói rất sớm được cung cấp miễn phí ngay từ đầu trong quá trình này.
Dưới đây là bảng về những gì người ta nhận được cho các giao thức và loại gói theo mặc định và được thêm bởi gói Comms DDP:
Như bạn có thể thấy, chúng ta nhận được các tính năng như xử lý MPLS được thêm vào với gói Comms. Các phần DDP này cũng có thể được tùy chỉnh để người ta có thể sử dụng bộ giao thức quan trọng và tải chúng khi khởi động trong khi cắt bớt chức năng không liên quan.
Hiệu suất
Trong quá trình thử nghiệm của chúng tôi, kết quả cho thấy có thể đạt tốc độ 100Gbps trong thử nghiệm cơ bản, đúng như chúng ta đã mong đợi từ một NIC thế hệ mới như thế này. Chúng tôi đã xem xét hiệu suất NVMeoF từ Intel và xem xét quy trình kiểm tra của họ. Và đã thấy các con số thấp hơn khoảng 10-15% về mặt thông lượng nhưng chúng tôi đã có một thiết lập thử nghiệm khác. Tuy nhiên, 2,5 triệu IOPS có vẻ hợp lý với những gì chúng ta đã thấy bằng cách sử dụng thiết lập ít được kiểm soát hơn với các NIC, máy chủ và ổ đĩa khác nhau. Mặt khác, có một thiết lập RoCEv2 NVMeoF chạy với NIC dựa trên Intel là một điều tuyệt vời.
Về mức tiêu thụ điện năng, chúng tôi thấy 15,6-18,1W trong quá trình thử nghiệm Supermicro AOC-S100GC-i2C. Tuy nhiên, chúng tôi đã sử dụng DAC. Phạm vi dự kiến của chúng tôi sử dụng DAC và quang học Optics là:
- 15-20W với DAC
- 19-28W với Quang học Optics
Có rất nhiều sự khác biệt ở đây về loại quang học và hệ thống cáp được sử dụng, cũng như khả năng đang được sử dụng và tải của NIC. Do đó, chúng tôi sẽ chỉ nói rằng thử nghiệm của chúng tôi đã mang đến những kết quả như những gì đã mong đợi.
Kết luận
Nhìn chung, Supermicro AOC-S100GC-i2C là một chiếc thẻ thực sự thú vị. Vì đây là NIC Columbiaville Intel Ethernet 800, thay vì NIC Red Rock Canyon FM10420 như AOC-S100G-i2C, nó sẽ thu hút nhiều người mua hơn. Khả năng tích hợp vào quản lý máy chủ của Supermicro thông qua tiêu đề NC-SI khiến nó trở nên cực kỳ thú vị nếu bạn đang tìm kiếm Intel Ethernet 800 series NIC trong máy chủ Supermicro của mình.
Một trong những thay đổi lớn nhất sắp xảy ra là Intel sẽ tham gia cùng AMD, IBM, Ampere, NVIDIA và các hãng khác hỗ trợ PCIe Gen4 với dòng Ice Lake Xeon sắp tới dành cho máy chủ. Khi điều này xảy ra, người ta có thể định cấu hình máy chủ Intel Ice Lake Xeon, với Intel Ethernet 800 series NIC chẳng hạn như Supermicro AOC-S100GC-i2C và nhận được NIC 100GbE 100Gbps hai cổng cùng với một loạt các tính năng mới trong một khe cắm PCIe Gen4 x16 duy nhất. Trong khi thế hệ máy chủ tiếp theo sẽ chứng kiến sự tăng cường hiệu suất máy tính, một trong những thay đổi lớn nhất mà chúng ta sẽ thấy ở các máy chủ vào năm 2021 là thị trường PCIe Gen4 và việc tăng gấp đôi tốc độ I / O sẽ mang đến cho khách hàng một hệ thống máy chủ và network hiệu suất cao đề phục vụ cho các hạ tầng cao cấp như HPC, Deep Learning, Machine Learning hay cả hạ tầng siêu hội tụ HCI…
Supermicro là nhà sản xuất toàn cầu về giải pháp máy chủ hiệu suất cao, là nhà cung cấp hàng đầu các giải pháp điện toán xanh toàn diện cho HPC, Data Center, Cloud Computing, Enterprise IT, Hadoop / Big Data và Hệ thống nhúng trên toàn thế giới.
Với kinh nghiệm làm nhà phân phối chính thức máy chủ Supermicro từ năm 2005, Nhất Tiến Chung (NTC) tiên phong đem đến các giải pháp hạ tầng CNTT dựa trên danh mục phần cứng đa dạng và tối ưu chi phí đầu tư nhất từ Supermicro. Các máy chủ GPU và máy chủ lưu trữ hiệu năng cao chuyên dụng cho AI, Deep Learning, cấu hình tùy biến theo nhu cầu, được nhiều đối tác lựa chọn cho dự án của mình. Vui lòng liên hệ để được tư vấn giải pháp, hoàn toàn miễn phí.
Bạn muốn trở thành đối tác bán hàng Supermicro của NTC?
Bài viết liên quan
- Hyperscale computing: Làm cách nào để đạt được năng lực điện toán quy mô lớn tốt hơn
- AI trong ngành Logistics: Những lợi ích chính và ứng dụng
- Máy chủ tăng tốc cho AI thúc đẩy tăng trưởng chi tiêu cho trung tâm dữ liệu
- Cluster Computing – Thế nào là điện toán cụm?
- Tìm hiểu tại sao triển khai on-premises có thể giúp vượt qua 6 thách thức quan trọng của AI
- Xây dựng hệ thống dữ liệu hiệu suất cao cho AI với VAST Data Platform