GTC25 – NVIDIA chính thức ra mắt nền tảng hạ tầng AI tiên tiến nhất dành cho doanh nghiệp – NVIDIA DGX SuperPOD, được trang bị GPU Blackwell Ultra. Đây là giải pháp siêu máy tính AI hoàn chỉnh, giúp các doanh nghiệp xây dựng “nhà máy AI” (AI factory) với khả năng xử lý mạnh mẽ cho agentic AI và suy luận tiên tiến.
NVIDIA DGX SuperPOD – Siêu máy tính AI thế hệ mới
Các tổ chức doanh nghiệp có thể sử dụng hệ thống NVIDIA DGX GB300 và DGX B300, kết hợp với kết nối mạng NVIDIA hiệu suất cao, để triển khai các siêu máy tính AI DGX SuperPOD sẵn sàng cho các hoạt động AI quy mô lớn. Các hệ thống này cung cấp độ chính xác FP4, tối ưu hóa suy luận AI và tăng tốc quá trình tạo token cho các ứng dụng AI.
Nhà máy AI (AI factory) là hạ tầng được thiết kế đặc biệt để xử lý khối lượng công việc của agentic AI, generative AI và physical AI. Chúng đòi hỏi sức mạnh tính toán khổng lồ để thực hiện quá trình pre-training, post-training và mở rộng quy mô suy luận AI trong môi trường sản xuất.
“AI đang phát triển với tốc độ ánh sáng, và các công ty đang chạy đua để xây dựng nhà máy AI có thể mở rộng nhằm đáp ứng nhu cầu xử lý của AI suy luận. NVIDIA Blackwell Ultra DGX SuperPOD chính là giải pháp siêu máy tính AI sẵn sàng cho kỷ nguyên AI tác nhân và AI vật lý.”
– Jensen Huang, Nhà sáng lập & CEO NVIDIA.
Kiến trúc mạnh mẽ của DGX GB300 và DGX B300
Hệ thống DGX GB300 sử dụng NVIDIA Grace Blackwell Ultra Superchips, bao gồm:
- 36 CPU NVIDIA Grace và 72 GPU NVIDIA Blackwell Ultra.
- Hệ thống làm mát bằng chất lỏng giúp tối ưu hóa phản hồi theo thời gian thực của mô hình AI suy luận nâng cao.
Hệ thống NVIDIA DGX B300, với thiết kế làm mát bằng không khí, sử dụng kiến trúc NVIDIA B300 NVL16, đáp ứng nhu cầu tính toán ngày càng cao của AI tổng hợp và AI tác nhân.
Bên cạnh đó, NVIDIA cũng giới thiệu dịch vụ NVIDIA Instant AI Factory – một nền tảng quản lý hạ tầng AI sử dụng siêu máy tính DGX SuperPOD. Equinix sẽ là đơn vị đầu tiên triển khai DGX GB300 và DGX B300 trong các trung tâm dữ liệu AI tại 45 thị trường toàn cầu.
DGX SuperPOD với DGX GB300 – Tăng tốc suy luận AI
Hệ thống DGX SuperPOD có thể mở rộng đến hàng chục nghìn Superchip Grace Blackwell Ultra, được kết nối bằng:
- NVIDIA NVLink™,
- NVIDIA Quantum-X800 InfiniBand,
- NVIDIA Spectrum-X™ Ethernet.
Sự kết hợp này giúp tăng tốc huấn luyện và suy luận AI cho các tác vụ tính toán chuyên sâu nhất.
Hệ thống DGX GB300 mang lại hiệu suất AI vượt trội:
- Tăng 70 lần so với các nhà máy AI sử dụng NVIDIA Hopper™.
- 38TB bộ nhớ nhanh, tối ưu hóa các tác vụ suy luận đa bước của AI tác nhân.
- 72 GPU Blackwell Ultra được kết nối thông qua công nghệ NVLink thế hệ thứ 5, tạo thành một không gian bộ nhớ khổng lồ.
- 72 NVIDIA ConnectX®-8 SuperNICs – tốc độ kết nối mạng lên đến 800Gb/s, gấp đôi so với thế hệ trước.
- 18 NVIDIA BlueField®-3 DPUs, kết hợp với NVIDIA Quantum-X800 InfiniBand hoặc NVIDIA Spectrum-X Ethernet để tăng hiệu suất, hiệu quả và bảo mật cho trung tâm dữ liệu AI quy mô lớn.
DGX B300 – Hạ tầng AI dành cho mọi trung tâm dữ liệu
NVIDIA DGX B300 là nền tảng hạ tầng AI giúp mang AI tổng hợp và suy luận AI tiết kiệm năng lượng đến mọi trung tâm dữ liệu. Với GPU Blackwell Ultra, DGX B300 cung cấp:
- Hiệu suất suy luận AI nhanh hơn 11 lần so với thế hệ Hopper.
- Tốc độ huấn luyện tăng gấp 4 lần.
- 2.3TB bộ nhớ HBM3e.
- Kết nối tiên tiến với 8 NVIDIA ConnectX-8 SuperNICs và 2 BlueField-3 DPUs.
Phần mềm NVIDIA hỗ trợ phát triển và triển khai AI
NVIDIA cũng giới thiệu NVIDIA Mission Control™, phần mềm quản lý trung tâm dữ liệu AI dành cho hệ thống DGX dựa trên Blackwell. DGX SuperPOD hỗ trợ nền tảng phần mềm NVIDIA AI Enterprise để xây dựng và triển khai AI doanh nghiệp, bao gồm:
- NVIDIA NIM™ – microservices AI.
- Mô hình suy luận NVIDIA Llama Nemotron.
- NVIDIA AI Blueprints – bộ công cụ tối ưu hóa AI tác nhân.
NVIDIA Instant AI Factory – Giải pháp hạ tầng AI linh hoạt
Dịch vụ NVIDIA Instant AI Factory, hợp tác cùng Equinix, cung cấp nhà máy AI trọn gói với NVIDIA DGX SuperPOD và phần mềm NVIDIA Mission Control. Giải pháp này giúp doanh nghiệp triển khai mô hình AI tiên tiến mà không mất nhiều thời gian lập kế hoạch hạ tầng.
Thời gian ra mắt
- NVIDIA DGX SuperPOD với DGX GB300 và DGX B300 dự kiến sẽ có sẵn sàng từ cuối năm nay.
- Dịch vụ NVIDIA Instant AI Factory cũng sẽ được triển khai vào cuối năm nay.
→ Xem ngay bài phát biểu tại NVIDIA GTC tại đây và đăng ký tham gia các phiên hội thảo từ NVIDIA và các chuyên gia hàng đầu!
Nhất Tiến Chung (NTC) hiện là nhà cung cấp các giải pháp hạ tầng CNTT, điện toán hiệu năng cao (HPC) và lưu trữ cho AI. Chúng tôi là đối tác NPN cấp Elite của NVIDIA cho các hệ thống DGX và hệ thống cụm siêu máy tính DGX SuperPOD với sức mạnh lưu trữ song song của DDN và kết nối mạng tốc độ cao từ hãng Mellanox (thuộc NVIDIA).
Với vai trò là đối tác NPN chính thức của NVIDIA, chúng tôi có thể giúp bạn có được các sản phẩm GPU cao cấp nhất của NVIDIA như L4, L40S, H200, H200 NVL, B200,…, đặc biệt là với thực trạng khan hiếm GPU do các hạn chế thương mại về nhập khẩu GPU như hiện nay.
Bạn muốn trở thành đối tác bán hàng NVIDIA của NTC?
Bài viết liên quan
- NVIDIA Dynamo – Thư viện nguồn mở tăng tốc và mở rộng các mô hình lý luận AI
- NVIDIA DGX Spark: Siêu máy tính AI ngay trên bàn làm việc của bạn
- NVIDIA Spectrum-X Photonics, bộ chuyển mạch quang tử giúp mở rộng AI Factory lên hàng triệu GPU
- NVIDIA Blackwell Ultra: Mở ra kỷ nguyên Trí Tuệ Nhân Tạo lý luận
- NVIDIA và các nhà cung cấp lưu trữ hàng đầu tiết lộ hạ tầng doanh nghiệp mới cho thời đại AI