NVIDIA vừa công bố Dell Technologies, Hewlett Packard Enterprise và Lenovo sẽ là những công ty đầu tiên tích hợp công nghệ mạng dành cho AI, NVIDIA Spectrum-X Ethernet, vào các mẫu máy chủ của họ để giúp khách hàng doanh nghiệp tăng tốc các tải xử lý Generative AI.
Được xây dựng có mục đích cho AI tạo sinh, Spectrum-X cung cấp cho doanh nghiệp một phân khúc mạng Ethernet mới có thể đạt được hiệu suất mạng cao hơn 1,6 lần cho giao tiếp AI so với các dịch vụ Ethernet truyền thống.
Các hệ thống mới đến từ ba trong số các nhà sản xuất máy chủ hàng đầu kết hợp Spectrum-X với GPU NVIDIA Tensor Core, phần mềm NVIDIA AI Enterprise và NVIDIA AI Workbench cung cấp cho doanh nghiệp nền tảng để chuyển đổi hoạt động kinh doanh của họ với AI tạo sinh.
Jensen Huang, nhà sáng lập và CEO của NVIDIA cho biết: “Generative AI và điện toán tăng tốc đang thúc đẩy quá trình chuyển đổi thế hệ IT khi các doanh nghiệp nâng cấp trung tâm dữ liệu của họ để phục vụ những tải xử lý này”. “Hệ thống mạng tăng tốc là chất xúc tác cho làn sóng hệ thống mới từ các đối tác sản xuất máy chủ hàng đầu của NVIDIA nhằm đẩy nhanh quá trình chuyển đổi sang kỷ nguyên AI tạo sinh.”
Michael Dell, Chủ tịch và Giám đốc điều hành của Dell Technologies, nêu: “Thông qua sự hợp tác của chúng tôi, Dell Technologies và NVIDIA đang cung cấp cho khách hàng hạ tầng và phần mềm cần thiết để trích xuất thông tin từ dữ liệu của họ một cách nhanh chóng và an toàn.”
Antonio Neri, Chủ tịch kiêm Giám đốc điều hành của HPE cho biết: “Generative AI chắc chắn sẽ thúc đẩy sự đổi mới trong nhiều ngành công nghiệp. Những ứng dụng mới mạnh mẽ này sẽ yêu cầu một kiến trúc khác biệt về cơ bản để hỗ trợ nhiều tải xử lý linh hoạt khác nhau. Để giúp khách hàng nhận ra toàn bộ tiềm năng của AI, HPE đang hợp tác với NVIDIA để xây dựng các hệ thống có sức mạnh, hiệu quả và khả năng mở rộng cần thiết nhằm hỗ trợ các ứng dụng này.”
“Generative AI có thể tạo ra sự chuyển đổi chưa từng có nhưng đặt ra những yêu cầu chưa từng có đối với hạ tầng CNTT doanh nghiệp”, Yuanqing Yang, Chủ tịch kiêm Giám đốc điều hành của Lenovo cho biết. “Hợp tác chặt chẽ với NVIDIA, Lenovo đang xây dựng các hệ thống hiệu quả, tăng tốc với lớp mạng, phần cứng xử lý và phần mềm cần thiết để hỗ trợ các ứng dụng AI hiện đại.”
Để đạt hiệu suất tải xử lý AI cao nhất, Spectrum-X kết hợp hiệu suất cực cao của bộ chuyển mạch Ethernet Spectrum-4; NVIDIA BlueField-3 SuperNIC, một loại công cụ tăng tốc mạng mới để tăng tốc tải xử lý AI quy mô lớn; cũng như các phần mềm tăng tốc. Spectrum-X bổ sung cho DPU BlueField-3, nền tảng điện toán hạ tầng tiên tiến nhất thế giới.
Spectrum-4 là bộ chuyển mạch Ethernet 51Tb/giây đầu tiên trên thế giới dành cho AI, cung cấp thông lượng dữ liệu hiệu quả cao ở quy mô lớn và dưới tải, đồng thời giảm thiểu tắc nghẽn mạng cho tải xử lý trên đám mây AI, đa người thuê. Công nghệ định tuyến thông minh, tinh chỉnh của nó cho phép tận dụng tối đa hạ tầng mạng mọi lúc.
BlueField-3 SuperNIC được thiết kế dành cho điện toán song song quy mô lớn, sử dụng nhiều mạng, cung cấp RDMA lên tới 400Gb/s qua kết nối mạng RDMA over Converged Ethernet (RoCE) giữa các máy chủ GPU và tăng hiệu suất cho lưu lượng suy luận và đào tạo AI trên mạng est-west bên trong cụm. Chúng cũng cho phép môi trường trung tâm dữ liệu đa bên thuê an toàn, đảm bảo cho hiệu suất được ấn định và tách biệt giữa các tác vụ của các bên thuê. Với form factor là PCIe half-height, half-length tiết kiệm năng lượng, SuperNIC BlueField-3 là lựa chọn lý tưởng cho các máy chủ cấp doanh nghiệp.
Phần mềm tăng tốc hỗ trợ Spectrum-X có bộ công cụ phát triển phần mềm NVIDIA như Cumulus Linux, Pure SONiC và NetQ — cùng nhau tạo ra hiệu suất vượt trội của nền tảng — và bộ khung phần mềm NVIDIA DOCA, là trung tâm của nền tảng BlueField.
NVIDIA AI Enterprise cung cấp các bộ khung, mô hình được đào tạo trước và các công cụ phát triển cho AI cấp độ sản xuất một cách an toàn, ổn định và được hỗ trợ. NVIDIA AI Workbench cho phép các nhà phát triển nhanh chóng tạo, thử nghiệm và tùy biến các mô hình AI tạo sinh đã được huấn luyện trước trên PC hoặc máy trạm — sau đó mở rộng quy mô chúng đến hầu hết mọi trung tâm dữ liệu hoặc đám mây.
Spectrum-X cũng hỗ trợ siêu máy tính NVIDIA Israel-1, kiến trúc tham chiếu cho các hệ thống AI tạo sinh tiếp theo. Israel-1 là sự hợp tác với Dell Technologies, sử dụng máy chủ Dell PowerEdge XE9680 được hỗ trợ bởi nền tảng tám GPU NVIDIA HGX H100 và DPU BlueField-3 và SuperNIC với bộ chuyển mạch Spectrum-4.
Các hệ thống mới của Dell, HPE và Lenovo có hệ thống NVIDIA AI hoàn chỉnh dự kiến sẽ được bán ra trong quý đầu tiên của năm tới.
Nhất Tiến Chung (NTC) hiện là nhà cung cấp các giải pháp hạ tầng CNTT, Điện toán Hiệu năng cao (HPC) cho AI với kinh nghiệm kinh doanh phần cứng từ năm 2005. Chúng tôi là đối tác NPN cấp Elite (2022) chính thức của NVIDIA cho các hệ thống DGX (DGX A100, DGX Station A100) và hệ thống cụm siêu máy tính DGX SuperPOD với sức mạnh lưu trữ song song của DDN và kết nối mạng tốc độ cao từ hãng Mellanox (thuộc NVIDIA).
Bạn muốn trở thành đối tác bán hàng NVIDIA của NTC?
Bài viết liên quan
- GPUDirect RDMA là gì?
- GPUDirect Storage là gì?
- So sánh các GPU Tensor Core của NVIDIA: B200, B100, H200, H100, A100
- NVIDIA giới thiệu nền tảng microservice Metropolis để chạy ứng dụng Edge AI trên Jetson
- Phát triển ứng dụng AI tại biên với NVIDIA Jetson AGX Orin & Developer Kit
- HPE và NVIDIA công bố ‘NVIDIA AI Computing by HPE’ để thúc đẩy cuộc cách mạng AI tạo sinh