Google ra mắt siêu máy tính AI sử dụng GPU NVIDIA H100

Siêu máy tính A3 được thiết kế để đào tạo và phục vụ các mô hình AI đòi hỏi khắt khe. Google vừa ra mắt siêu máy tính A3 thế hệ tiếp theo được xây dựng cho AI, trang bị GPU NVIDIA H100. Các thiết bị này “được build để nhắm đến đào tạo AI và phục vụ các mô hình AI đòi hỏi khắt khe nhất, cung cấp sức mạnh cho sự phát triển vượt bậc của các mô hình ngôn ngữ lớn và AI ngày nay”. Google A3 Supercomputer sử dụng IPU (Infrastructure Processing Unit) có tốc độ lên đến 200Gbps được thiết kế tùy chỉnh và cung cấp băng thông mạng gấp 10 lần so với các máy ảo A2 của hãng. Chúng cung cấp tới 26 exaFlop hiệu suất AI, giúp “cải thiện đáng kể thời gian và chi phí đào tạo các mô hình ML lớn.” GPU H100 của NVIDIA GPU NVIDIA H100 phiên bản PCIe hiện có thể đặt hàng tại Thế Giới Máy Chủ

Thông số kỹ thuật chính của Google A3 Supercomputer:

• 8 H100 GPUs utilizing NVIDIA’s Hopper architecture, delivering 3 times compute throughput
• 3.6 TB/s bisectional bandwidth between A3’s 8 GPUs via NVIDIA NVSwitch and NVLink 4.0
• Next-generation 4th Gen Intel Xeon Scalable processors
• 2TB of host memory via 4800 MHz DDR5 DIMMs
• 10 times greater networking bandwidth powered by our hardware-enabled IPUs, specialized inter-server GPU communication stack and NCCL optimizations

 

• Bước vào kỷ nguyên trợ lý AI cá nhân – so sánh chi tiết NVIDIA RTX Spark và DGX Spark
• NVIDIA RTX PRO 4500 Blackwell Server Edition: Bước nhảy vọt từ thế hệ L4 cho hạ tầng AI suy luận hiệu năng cao
• NVIDIA NGC‑ready Low‑latency Edge AI: Giải pháp cho Retail, Manufacturing và Smart Cities
• So sánh sức mạnh của máy tính AI DGX Spark với các card GPU máy trạm chuyên nghiệp của NVIDIA
• Từ Orin đến Thor: Bước nhảy vọt kiến trúc của NVIDIA JetPack 7.0 và tương lai của robot hình người
• Tại sao gọi NVIDIA DGX Spark là Siêu máy tính AI cá nhân?