Trí tuệ nhân tạo đang biến đổi gần như mọi doanh nghiệp bằng cách tự động hóa nhiệm vụ, nâng cao dịch vụ khách hàng, tạo ra những thông tin chi tiết và khuyến khích sáng tạo. Đây không còn là một khái niệm tương lai mà là một hiện thực đang thay đổi cách hoạt động của doanh nghiệp một cách cơ bản.
Tuy nhiên, khi khối lượng công việc trí tuệ nhân tạo tiếp tục phát triển, chúng đang bắt đầu yêu cầu khả năng tính toán đáng kể hơn nhiều so với hầu hết các doanh nghiệp có sẵn. Để tận dụng trí tuệ nhân tạo, doanh nghiệp cần có khả năng tính toán, lưu trữ và mạng lưới hiệu suất cao, an toàn, đáng tin cậy và hiệu quả.
Đó chính là lúc NVIDIA DGX™ B200 xuất hiện, sự bổ sung mới nhất vào nền tảng NVIDIA DGX. Nền tảng trí tuệ nhân tạo thống nhất này định nghĩa chương mới của trí tuệ nhân tạo sinh sáng bằng cách tận dụng hoàn toàn các GPU Tensor Core B200 của NVIDIA và các kết nối tốc độ cao.
Với cấu hình 8 GPU B200, DGX B200 mang lại hiệu suất trí tuệ nhân tạo không giới hạn với 1,4 terabyte (TB) bộ nhớ GPU và 64 terabyte mỗi giây (TB/s) băng thông bộ nhớ, làm cho nó phù hợp với bất kỳ khối lượng công việc trí tuệ nhân tạo doanh nghiệp nào.
Nền tảng duy nhất từ phát triển đến triển khai
Khi các luồng công việc trí tuệ nhân tạo trở nên phức tạp hơn, nhu cầu của doanh nghiệp trong việc xử lý các bộ dữ liệu lớn tại tất cả các giai đoạn của quy trình trí tuệ nhân tạo, từ huấn luyện đến điều chỉnh đến suy luận, cũng trở nên phức tạp hơn. Điều này đòi hỏi một lượng lớn năng lượng tính toán.
Với NVIDIA DGX B200, doanh nghiệp có thể trang bị cho các nhà khoa học dữ liệu và nhà phát triển của họ một nền tảng duy nhất, thống nhất được xây dựng để tăng tốc các luồng công việc của họ. Được siêu tăng cường cho thế hệ tiếp theo của trí tuệ nhân tạo, doanh nghiệp có thể truyền khí thần trí tuệ nhân tạo vào hoạt động hàng ngày và trải nghiệm của khách hàng với DGX B200.
Siêu hiệu suất về AI
NVIDIA cam kết thiết kế thế hệ tiếp theo của các siêu máy tính mạnh mẽ nhất thế giới, được xây dựng để giải quyết những vấn đề trí tuệ nhân tạo phức tạp nhất mà các doanh nghiệp đối mặt. DGX B200 là bổ sung mới nhất vào nền tảng tính toán tăng tốc của NVIDIA để thể hiện cam kết đó.
Được cung cấp bởi sự tiến bộ về tính toán của kiến trúc NVIDIA Blackwell, DGX B200 mang lại hiệu suất huấn luyện gấp 3 lần và hiệu suất suy luận gấp 15 lần so với DGX H100. Là nền tảng của các kiến trúc tham chiếu NVIDIA DGX POD™, DGX B200 cung cấp khả năng mở rộng tốc độ cao cho NVIDIA DGX BasePOD™ và NVIDIA DGX SuperPOD™, mang lại hiệu suất hàng đầu trong một giải pháp cơ sở hạ tầng trí tuệ nhân tạo có sẵn.
Tiêu chuẩn cơ sở hạ tầng đáng tin cậy
NVIDIA DGX B200 là hệ thống đầu tiên trên thế giới tích hợp GPU NVIDIA B200 Tensor Core, mang lại hiệu suất đột phá cho các bài toán AI phức tạp nhất hiện nay, chẳng hạn như mô hình ngôn ngữ lớn và xử lý ngôn ngữ tự nhiên. DGX B200 cung cấp nền tảng phần cứng và phần mềm được tối ưu toàn diện, bao gồm:
- Bộ công cụ phần mềm AI đầy đủ của NVIDIA: Cung cấp mọi thứ cần thiết để tận dụng sức mạnh của AI.
- Hệ sinh thái đối tác phong phú: Tích hợp các giải pháp từ nhiều nhà cung cấp, mở rộng khả năng tùy biến cho doanh nghiệp.
- Dịch vụ chuyên nghiệp từ NVIDIA: Nhận được sự hỗ trợ chuyên sâu từ các chuyên gia của NVIDIA để giải quyết những thách thức phức tạp.
Với sự kết hợp mạnh mẽ này, các tổ chức có thể tự tin giải quyết những vấn đề kinh doanh lớn và phức tạp nhất bằng sức mạnh của Trí tuệ Nhân tạo.
Nền tảng NVIDIA Base Command
NVIDIA Base Command là nền tảng phần mềm cung cấp năng lượng cho hệ thống DGX. Doanh nghiệp có thể khai thác tối đa tiềm năng của cơ sở hạ tầng DGX với các tính năng:
- Quản lý cụm và dàn xếp doanh nghiệp: Kiểm soát và vận hành hệ thống DGX dễ dàng và hiệu quả.
- Thư viện tăng tốc tính toán, lưu trữ và mạng: Nâng cao hiệu suất tổng thể của hệ thống.
- Hệ điều hành tối ưu cho khối lượng công việc AI: Đảm bảo hệ thống hoạt động trơn tru cho các tác vụ AI chuyên sâu.
Ngoài ra, cơ sở hạ tầng DGX còn đi kèm với NVIDIA AI Enterprise – bộ công cụ phần mềm được tối ưu hóa để đơn giản hóa quá trình phát triển và triển khai AI. Nhờ đó, các doanh nghiệp có thể nhanh chóng đưa các giải pháp AI vào hoạt động, tạo ra giá trị gia tăng cho tổ chức.
Key Features
NVIDIA DGX B200
> Built with eight NVIDIA B200Tensor Core GPUs
> 1.4TB of GPU memory space
> 72 petaFLOPS of training performance
> 144 petaFLOPS of inference performance
> NVIDIA networking
> Dual 5th generation Intel® Xeon® Scalable Processors
> Foundation of NVIDIA DGX BasePOD and NVIDIA DGX SuperPOD
> Includes NVIDIA AI Enterprise and NVIDIA Base Command™ software
NVIDIA DGX B200 Specifications
| GPU | 8x NVIDIA B200 Tensor Core GPUs |
| GPU Memory | 1,440GB total GPU memory |
| Performance | 72 petaFLOPS training and 144 petaFLOPS inference |
| Power Consumption | ~14.3kW max |
| CPU | 2 Intel® Xeon® Platinum 8570 Processors 112 Cores total, 2.1 GHz (Base), 4 GHz (Max Boost) |
| System Memory | Up to 4TB |
| Networking | 4x OSFP ports serving 8x single-port NVIDIA ConnectX-7 VPI
2x dual-port QSFP112 NVIDIA BlueField-3 DPU
|
| Management Network | 10Gb/s onboard NIC with RJ45 100Gb/s dual-port ethernet NIC Host baseboard management controller (BMC) with RJ45 |
| Storage | OS: 2x 1.9TB NVMe M.2 Internal storage: 8x 3.84TB NVMe U.2 |
| Software | NVIDIA AI Enterprise: Optimized AI Software NVIDIA Base Command™: Orchestration, Scheduling, and Cluster Management DGX OS / Ubuntu: Operating system |
| Rack Units (RU) | 10 RU |
| System Dimensions | Height: 17.5in (444mm) Width: 19.0in (482.2mm) Length: 35.3in (897.1mm |
| Operating Temperature | 5–30°C (41–86°F) |
| Enterprise Support | Three-year Enterprise Business-Standard Support for hardware and software 24/7 Enterprise Support portal access Live agent support during local business hours |
Nhất Tiến Chung (NTC) hiện là nhà cung cấp các giải pháp hạ tầng CNTT, Điện toán Hiệu năng cao (HPC) cho AI với kinh nghiệm kinh doanh phần cứng từ năm 2005. Chúng tôi là đối tác NPN cấp Elite (2022) chính thức của NVIDIA cho các hệ thống DGX (DGX A100, DGX Station A100) và hệ thống cụm siêu máy tính DGX SuperPOD với sức mạnh lưu trữ song song của DDN và kết nối mạng tốc độ cao từ hãng Mellanox (thuộc NVIDIA).
Bài viết liên quan
- Máy chủ Supermicro X14: Hiệu suất mạnh mẽ, hiệu quả tối đa cho AI, Cloud, Storage, 5G/Edge
- NVIDIA Omniverse ft Apple Vision Pro: Mở rộng thế giới quan với VR/AR
- NVIDIA NIM: Vi dịch vụ suy luận tối ưu hóa cho triển khai mô hình AI quy mô lớn
- NVIDIA HGX AI Supercomputer: Nền tảng điện toán AI hàng đầu thế giới
- Đơn giản hóa phát triển Generative AI tuỳ chỉnh với NVIDIA NeMo Microservices
- NVIDIA SuperPOD DGX GB200: Kỷ nguyên của AI nghìn tỷ tham số