Tại sự kiện GTC 24, NVIDIA đã ra mắt dòng switch mới X800, với hiệu suất cao hơn và được tối ưu hóa cho trí tuệ nhân tạo. Đây là các nền tảng mạng đầu tiên trên thế giới có khả năng xử lý thông lượng 800Gb/s từ đầu đến cuối. NVIDIA Quantum-X800 InfiniBand và NVIDIA Spectrum™-X800 Ethernet mở ra một thời đại mới về hiệu suất mạng cho các ứng dụng tính toán và trí tuệ nhân tạo.
Chúng có tính năng phần mềm giúp tăng tốc thêm cho các ứng dụng trí tuệ nhân tạo, điện toán đám mây, xử lý dữ liệu và tính toán cao hiệu suất trong mọi loại trung tâm dữ liệu, bao gồm cả những trung tâm dữ liệu tích hợp dòng sản phẩm dựa trên kiến trúc NVIDIA Blackwell mới được phát hành.
“Mạng lưới NVIDIA đóng vai trò trung tâm trong việc mở rộng quy mô cơ sở hạ tầng siêu máy tính trí tuệ nhân tạo của chúng tôi,” Gilad Shainer, phó chủ tịch cao cấp về Networking tại NVIDIA cho biết. “Các switch NVIDIA X800 là các nền tảng mạng từ đầu đến cuối cho phép chúng tôi đạt được quy mô tỷ lệ triệu tham số cần thiết cho cơ sở hạ tầng trí tuệ nhân tạo mới.”
Các nhà sử dụng đầu tiên của Quantum InfiniBand và Spectrum-X Ethernet bao gồm Microsoft Azure và Oracle Cloud Infrastructure.
“Trí tuệ nhân tạo là một công cụ mạnh mẽ để chuyển đổi dữ liệu thành kiến thức. Đằng sau sự biến đổi này là sự tiến hóa của các trung tâm dữ liệu thành các động cơ trí tuệ nhân tạo hiệu suất cao với nhu cầu mạng ngày càng tăng,” Nidhi Chappell, Phó Chủ tịch Cơ sở hạ tầng Trí tuệ nhân tạo tại Microsoft Azure, phát biểu. “Với các tích hợp mới của các giải pháp mạng của NVIDIA, Microsoft Azure sẽ tiếp tục xây dựng cơ sở hạ tầng đẩy ranh giới của trí tuệ nhân tạo đám mây.”
“Coreweave cũng là một trong những nhà sử dụng đầu tiên”
Tiêu chuẩn tiếp theo cho hiệu suất cực đại
Nền tảng Quantum-X800 đặt ra một tiêu chuẩn mới trong việc cung cấp hiệu suất cao nhất cho Cơ sở hạ tầng Trí tuệ Nhân tạo. Nó bao gồm switch NVIDIA Quantum Q3400 và NVIDIA ConnectX®-8 SuperNIC™, cùng nhau đạt được một thông lượng từ đầu đến cuối dẫn đầu ngành công nghiệp là 800Gb/s. Đây là khả năng băng thông cao gấp 5 lần và tăng 9 lần so với thế hệ trước với 14.4Tflops của Tính toán Trong Mạng với giao thức Aggregation và Reduction Phân cấp Có thể Mở rộng của NVIDIA (SHARPv4).
Nền tảng Spectrum-X800 cung cấp hiệu suất mạng tối ưu cho đám mây trí tuệ nhân tạo và cơ sở hạ tầng doanh nghiệp. Sử dụng switch Spectrum SN5600 800Gb/s và NVIDIA BlueField®-3 SuperNIC, nền tảng Spectrum-X800 cung cấp các tập tính năng tiên tiến quan trọng cho các đám mây trí tuệ nhân tạo đa người dùng và các doanh nghiệp lớn.
Spectrum-X800 tối ưu hóa hiệu suất mạng, tạo điều kiện cho việc xử lý, phân tích và thực thi nhanh chóng của các khối lượng công việc trí tuệ nhân tạo, từ đó đẩy nhanh quá trình phát triển, triển khai và thời gian ra thị trường của các giải pháp trí tuệ nhân tạo. Được thiết kế đặc biệt cho môi trường đa người dùng, Spectrum-X800 đảm bảo cách ly hiệu suất cho các khối lượng công việc trí tuệ nhân tạo của mỗi người thuê để duy trì các mức hiệu suất tối ưu và nhất quán, nâng cao sự hài lòng của khách hàng và chất lượng dịch vụ.
Hỗ trợ phần mềm của NVIDIA
NVIDIA cung cấp một bộ thư viện tăng tốc mạng toàn diện, các kit phát triển phần mềm và phần mềm quản lý để tối ưu hiệu suất cho các mô hình trí tuệ nhân tạo tỷ tham số.
Điều này bao gồm Thư viện Giao tiếp Tập trung Cộng đồng của NVIDIA (NCCL), mở rộng các nhiệm vụ tính toán song song của GPU đến mạng lưới Quantum-X800, tận dụng khả năng Tính toán Trong Mạng mạnh mẽ với SHARPv4 hỗ trợ FP8, tăng hiệu suất cho việc huấn luyện mô hình lớn và trí tuệ nhân tạo tạo ra.
Tiếp cận phần mềm toàn diện của NVIDIA cung cấp tính lập trình tiên tiến, làm cho các mạng trung tâm dữ liệu trở nên linh hoạt, đáng tin cậy và nhanh chóng hơn, cuối cùng là tăng cường hiệu suất hoạt động tổng thể và hỗ trợ nhu cầu của các ứng dụng và dịch vụ hiện đại.
Động lực của hệ sinh thái
Năm sau, Quantum-X800 và Spectrum-X800 sẽ có sẵn từ một loạt các nhà cung cấp cơ sở hạ tầng và hệ thống hàng đầu trên toàn thế giới, bao gồm Aivres, DDN, Dell Technologies, Eviden, Hitachi Vantara, Hewlett Packard Enterprise, Lenovo, Supermicro và VAST Data.
- NVIDIA Quantum-X800 InfiniBand cho cơ sở hạ tầng dành riêng cho AI hiệu suất cao nhất
- NVIDIA Spectrum-X800 Ethernet cho mạng được tối ưu hóa AI trong mọi trung tâm dữ liệu
- Phần mềm NVIDIA phân phối điện toán trên Blackwell, bộ chuyển mạch mới và SuperNIC BlueField-3 để tăng cường khối lượng công việc AI, xử lý dữ liệu, HPC và đám mây
→ Để biết thêm thông tin, hãy xem lại bài phát biểu quan trọng của GTC 24 tại đây: https://thegioimaychu.vn/blog/ai-hpc/tom-tat-buoi-keynote-cua-nvidia-gtc-2024-p19257/
Nhất Tiến Chung (NTC) hiện là nhà cung cấp các giải pháp hạ tầng CNTT, Điện toán Hiệu năng cao (HPC) cho AI với kinh nghiệm kinh doanh phần cứng từ năm 2005. Chúng tôi là đối tác NPN cấp Elite (2022) chính thức của NVIDIA cho các hệ thống DGX (DGX A100, DGX Station A100) và hệ thống cụm siêu máy tính DGX SuperPOD với sức mạnh lưu trữ song song của DDN và kết nối mạng tốc độ cao từ hãng Mellanox (thuộc NVIDIA).
Bài viết liên quan
- NVIDIA Omniverse ft Apple Vision Pro: Mở rộng thế giới quan với VR/AR
- NVIDIA NIM: Vi dịch vụ suy luận tối ưu hóa cho triển khai mô hình AI quy mô lớn
- NVIDIA HGX AI Supercomputer: Nền tảng điện toán AI hàng đầu thế giới
- NVIDIA SuperPOD DGX GB200: Kỷ nguyên của AI nghìn tỷ tham số
- Nền tảng NVIDIA Blackwell: Tạo nên kỷ nguyên điện toán mới