1. Giới thiệu: Cuộc cách mạng kết nối trong Điện toán Hiệu năng cao 1.1. Bối cảnh: Điểm nghẽn PCIe và Nhu cầu Bùng nổ của AI/HPC Sự bùng nổ của trí tuệ nhân tạo (AI) và điện toán hiệu năng cao (HPC) đã thúc đẩy nhu cầu về khả năng xử lý và truyền…
Tag: NVLink
Tìm hiểu các công nghệ mạng của NVIDIA: Nền tảng cho HPC và AI
Trong kỷ nguyên của Trí tuệ nhân tạo (AI) và Điện toán Hiệu năng cao (HPC) hiện nay, hiệu suất của mạng không chỉ là yếu tố hỗ trợ mà đã trở thành một phần cốt lõi của hệ thống tính toán. NVIDIA thông qua việc mua lại Mellanox Technologies vào năm 2019, đã củng…
NVIDIA NVLink Thế hệ thứ 5: Bước nhảy vọt về băng thông cho kỷ nguyên AI nghìn tỷ tham số
Trong thế giới điện toán hiệu năng cao (HPC) và Trí tuệ nhân tạo (AI), cuộc đua không chỉ dừng lại ở sức mạnh xử lý của từng GPU riêng lẻ. Nút thắt cổ chai thực sự, hay “uzkoye mesto” như các kỹ sư thường gọi, nằm ở khả năng giao tiếp và trao đổi…
GPU NVIDIA H200 NVL với kiến trúc Hopper nâng tầm ứng dụng AI cho các máy chủ thông dụng
NVIDIA H200 NVL PCIe là dòng GPU hoàn hảo cho các hệ thống máy chủ doanh nghiệp làm mát bằng không khí, tiêu thụ ít điện năng và cung cấp khả năng suy luận mô hình ngôn ngữ lớn nhanh hơn đến 1,7 lần và hiệu suất cao hơn 1,3 lần trên các ứng dụng…
SXM vs PCIe: GPU tốt nhất dành cho đào tạo LLM như GPT-4
NLP và LLM là gì? Xử lý ngôn ngữ tự nhiên (NLP) là một nhánh của Trí tuệ nhân tạo (AI) cho phép máy móc hiểu và diễn giải ngôn ngữ của con người. Những tiến bộ gần đây trong Học sâu đã dẫn đến sự xuất hiện của các Mô hình ngôn ngữ lớn (LLM),…
Giới thiệu công nghệ kết nối NVLink trong hệ thống HPC
NVLink là một công nghệ kết nối nội bộ (interconnect) siêu tốc dành cho các bộ xử lý GPU và CPU trong những hệ thống máy tính được tăng tốc, HPC, giúp việc khai thác các núi dữ liệu khổng lồ trở nên khả thi. Điện toán tăng tốc (Accelerated Computing) – Công nghệ từng chỉ…
NVLink – Đường cao tốc giữa các GPU!
NVLink là gì và nó hoạt động như thế nào? Các siêu máy tính và hệ thống AI trước đây đã phải dựa vào PCI Express (như PCIe 4.0) để kết nối GPU với CPU, nhưng công nghệ này đã không theo kịp những tiến bộ nhanh chóng của GPU. Vì thế mà NVIDIA đã đưa…
NVIDIA chia sẻ những chi tiết mới về CPU Grace, GPU Hopper, NVLink Switch, Jetson Orin Module tại Hot Chips
Các thiết kế chip mới nhất phản ánh chiều rộng và chiều sâu của những đổi mới trong nền tảng của NVIDIA ở các lĩnh vực AI, Edge và HPC. Trong bốn buổi tọa đàm trong hai ngày, các kỹ sư cấp cao của NVIDIA sẽ mô tả những đổi mới trong lĩnh vực Điện toán…
Deep Learning: Đạt được thông lượng GPU cao nhất với SXM2 so với PCIe
Sự bùng nổ của các ứng dụng và dịch vụ được cung cấp bởi trí tuệ nhân tạo (AI) đang thay đổi nhanh chóng cách thế giới chuyển đổi dữ liệu thành nắm bắt sâu xa và thúc đẩy đổi mới trong nhiều ngành công nghiệp. Nhiều hãng máy chủ đã hợp tác và cùng NVIDIA®…
Tắng tốc I/O cho các cụm máy chủ đa GPU
Khi bàn đến các máy chủ tăng tốc GPU, có thể nói hệ thống DGX-2 của Nvidia rất khó bị đánh bại. 16 GPU V100 của nó được hàn lại cùng với kết nối NVLink cung cấp 2 petaflops hiệu năng tensor floating point hoặc 125 teraflops hiệu năng double precision. Cung cấp cho các GPU đó…