NLP và LLM là gì? Xử lý ngôn ngữ tự nhiên (NLP) là một nhánh của Trí tuệ nhân tạo (AI) cho phép máy móc hiểu và diễn giải ngôn ngữ của con người. Những tiến bộ gần đây trong Học sâu đã dẫn đến sự xuất hiện của các Mô hình ngôn ngữ lớn (LLM),…
Thẻ: NVLink
Giới thiệu công nghệ kết nối NVLink trong hệ thống HPC
NVLink là một công nghệ kết nối nội bộ (interconnect) siêu tốc dành cho các bộ xử lý GPU và CPU trong những hệ thống máy tính được tăng tốc, HPC, giúp việc khai thác các núi dữ liệu khổng lồ trở nên khả thi. Điện toán tăng tốc (Accelerated Computing) – Công nghệ từng chỉ…
NVLink – Đường cao tốc giữa các GPU!
NVLink là gì và nó hoạt động như thế nào? Các siêu máy tính và hệ thống AI trước đây đã phải dựa vào PCI Express (như PCIe 4.0) để kết nối GPU với CPU, nhưng công nghệ này đã không theo kịp những tiến bộ nhanh chóng của GPU. Vì thế mà NVIDIA đã đưa…
NVIDIA chia sẻ những chi tiết mới về CPU Grace, GPU Hopper, NVLink Switch, Jetson Orin Module tại Hot Chips
Các thiết kế chip mới nhất phản ánh chiều rộng và chiều sâu của những đổi mới trong nền tảng của NVIDIA ở các lĩnh vực AI, Edge và HPC. Trong bốn buổi tọa đàm trong hai ngày, các kỹ sư cấp cao của NVIDIA sẽ mô tả những đổi mới trong lĩnh vực Điện toán…
Deep Learning: Đạt được thông lượng GPU cao nhất với SXM2 so với PCIe
Sự bùng nổ của các ứng dụng và dịch vụ được cung cấp bởi trí tuệ nhân tạo (AI) đang thay đổi nhanh chóng cách thế giới chuyển đổi dữ liệu thành nắm bắt sâu xa và thúc đẩy đổi mới trong nhiều ngành công nghiệp. Nhiều hãng máy chủ đã hợp tác và cùng NVIDIA®…
Tắng tốc I/O cho các cụm máy chủ đa GPU
Khi bàn đến các máy chủ tăng tốc GPU, có thể nói hệ thống DGX-2 của Nvidia rất khó bị đánh bại. 16 GPU V100 của nó được hàn lại cùng với kết nối NVLink cung cấp 2 petaflops hiệu năng tensor floating point hoặc 125 teraflops hiệu năng double precision. Cung cấp cho các GPU đó…
NVLink
NVLink là một giao tiếp cự ly gần, đa làn với băng thông cao được phát triển bởi Nvidia. Không giống như PCI Express, một thiết bị có thể chứa nhiều kết nối NVLink và chúng sử dụng kết nối mạng dạng lưới (mesh network) để liên lạc thay vì cơ chế hub trung tâm….
Supermicro Cung Cấp Danh Mục Đầu Cuối Cho Hệ Thống NVIDIA GPU
SuperServers được tối ưu hóa cho toàn bộ hệ thống NVIDIA GPU và Phân khúc nhắm đến là các hệ thống đào tạo và suy luận AI mạnh mẽ nhất thế giới đang được phô diễn tại GTC 2019. SAN JOSE, Calif., Ngày 18 tháng 3 năm 2019 – Super Micro Computer, Inc….