Siêu máy tính A3 được thiết kế để đào tạo và phục vụ các mô hình AI đòi hỏi khắt khe.
Google vừa ra mắt siêu máy tính A3 thế hệ tiếp theo được xây dựng cho AI, trang bị GPU NVIDIA H100. Các thiết bị này “được build để nhắm đến đào tạo AI và phục vụ các mô hình AI đòi hỏi khắt khe nhất, cung cấp sức mạnh cho sự phát triển vượt bậc của các mô hình ngôn ngữ lớn và AI ngày nay”.
Google A3 Supercomputer sử dụng IPU (Infrastructure Processing Unit) có tốc độ lên đến 200Gbps được thiết kế tùy chỉnh và cung cấp băng thông mạng gấp 10 lần so với các máy ảo A2 của hãng. Chúng cung cấp tới 26 exaFlop hiệu suất AI, giúp “cải thiện đáng kể thời gian và chi phí đào tạo các mô hình ML lớn.”
GPU H100 của NVIDIA
GPU NVIDIA H100 phiên bản PCIe hiện có thể đặt hàng tại Thế Giới Máy Chủ
Thông số kỹ thuật chính của Google A3 Supercomputer:
- 8 H100 GPUs utilizing NVIDIA’s Hopper architecture, delivering 3 times compute throughput
- 3.6 TB/s bisectional bandwidth between A3’s 8 GPUs via NVIDIA NVSwitch and NVLink 4.0
- Next-generation 4th Gen Intel Xeon Scalable processors
- 2TB of host memory via 4800 MHz DDR5 DIMMs
- 10 times greater networking bandwidth powered by our hardware-enabled IPUs, specialized inter-server GPU communication stack and NCCL optimizations
Bài viết liên quan
- Siêu máy tính Colossus của tỉ phú Elon Musk chính thức hoạt động
- So sánh các GPU Tensor Core của NVIDIA: B200, B100, H200, H100, A100
- NVIDIA giới thiệu nền tảng microservice Metropolis để chạy ứng dụng Edge AI trên Jetson
- Phát triển ứng dụng AI tại biên với NVIDIA Jetson AGX Orin & Developer Kit
- Giải mã hiệu suất AI trên PC và Workstation RTX AI
- Nvidia “thần tốc” công bố thế hệ chip AI tiếp theo