NVIDIA H100 và H200 đều là những “quái vật” GPU được thiết kế cho các tác vụ điện toán hiệu năng cao (HPC) và trí tuệ nhân tạo (AI), đặc biệt là các mô hình ngôn ngữ lớn (LLM) và các ứng dụng AI tạo sinh. Ra mắt trong khoảng thời gian tương đối gần…
Tag: NVIDIA
So sánh hiệu năng hai cấu hình máy chủ MSI MGX 8x GPU L40s và AsRock Rack MGX 8x GPU RTX Pro 6000
Hai mẫu máy chủ MSI MGX và AsRock Rack MGX đều sử dụng nền tảng NVIDIA MGX, nhưng sự khác biệt nằm ở loại GPU được trang bị, dẫn đến hiệu năng, khả năng và trường hợp sử dụng rất khác nhau. Bài blog này sẽ phân tích chi tiết sự khác biệt giữa hai…
Hướng dẫn cài đặt NVIDIA TAO Toolkit cho người mới
NVIDIA TAO Toolkit là gì? NVIDIA TAO Toolkit (Train, Adapt, Optimize) là một bộ công cụ AI no-code / low-code được phát triển bởi NVIDIA, được xây dựng dựa trên nền tảng TensorFlow và PyTorch. Mục tiêu của TAO là hỗ trợ đơn giản hóa và tăng tốc quá trình huấn luyện, tùy biến và…
Hướng dẫn cài đặt NVIDIA Container Toolkit tích hợp với Docker
Trước khi bắt đầu hãy đảm bảo máy của bạn đáp ứng đủ các yêu cầu sau: Card đồ họa NVIDIA: Đây là điều kiện tiên quyết để xác định bạn có cài đặt được NVIDIA Container Toolkit hay không bởi vì NVIDIA Container Toolkit chỉ hỗ trợ và được thiết kế để hoạt động…
NVIDIA RTX PRO Blackwell Series: Bước nhảy vượt cấp về hiệu hăng GPU
Trong thế giới không ngừng phát triển của điện toán hiệu năng cao và AI, NVIDIA luôn là người tiên phong, và sự ra mắt của kiến trúc Blackwell cùng dòng GPU chuyên nghiệp NVIDIA RTX PRO Blackwell Series một lần nữa khẳng định vị thế đó. Được công bố lần đầu tại GTC 2024, Blackwell không…
NVIDIA: Công nghệ Silicon Photonics và Co-Packaged Optics – Thay đổi cuộc chơi trong kỷ nguyên AI và HPC
Trong kỷ nguyên của Trí tuệ Nhân tạo (AI) và Điện toán Hiệu năng Cao (HPC), nơi dữ liệu là vàng và tốc độ là chìa khóa, hạ tầng mạng đóng vai trò tối quan trọng. Chúng ta đã chứng kiến sự bùng nổ của các chuẩn mạng siêu tốc như InfiniBand 400Gb/s (NDR), 800Gb/s…
So sánh các thế hệ GPU Tensor Core đầu bảng của NVIDIA: B200, B100, H200, H100, A100
Tensor Core trong GPU của NVIDIA là gì? Theo tên chính thức của dòng Tesla, GPU NVIDIA Tensor Core là dòng GPU tiêu chuẩn vàng cho các phép tính AI nhờ kiến trúc độc đáo được thiết kế riêng để thực hiện các phép tính trong AI và mạng nơ-ron. Tensor là kiểu dữ liệu…
NVIDIA NIM: Biến ý tưởng ứng dụng AI thành hiện thực trong tầm tay
NVIDIA NIM là gì? NVIDIA NIM (viết tắt của NVIDIA Inference Microservices) là một công nghệ do NVIDIA phát triển, giúp triển khai các mô hình trí tuệ nhân tạo (AI) dưới dạng dịch vụ web (microservice) một cách dễ dàng, nhanh chóng và tối ưu trên GPU. Nó bao gồm một tập hợp các…
NVIDIA DGX Spark: Giải phóng sức mạnh AI, ngay trên bàn làm việc!
Bạn là nhà nghiên cứu AI, kỹ sư hay chuyên gia dữ liệu đang tìm kiếm một cỗ máy có thể đột phá và đẩy nhanh tốc độ phát triển ứng dụng AI? Hãy sẵn sàng đón chào NVIDIA DGX Spark – Siêu máy tính AI cá nhân biến bàn làm việc của bạn thành một trung…
Tìm hiểu các công nghệ mạng của NVIDIA: Nền tảng cho HPC và AI
Trong kỷ nguyên của Trí tuệ nhân tạo (AI) và Điện toán Hiệu năng cao (HPC) hiện nay, hiệu suất của mạng không chỉ là yếu tố hỗ trợ mà đã trở thành một phần cốt lõi của hệ thống tính toán. NVIDIA thông qua việc mua lại Mellanox Technologies vào năm 2019, đã củng…