NVIDIA GPU L40S: Hiệu suất vượt trội về AI và đồ họa trong trung tâm dữ liệu

GPU Đa Năng và Mạnh Mẽ Nhất

Trải nghiệm hiệu suất đột phá đa khối lượng công việc với GPU NVIDIA L40S. Kết hợp khả năng tính toán trí tuệ nhân tạo mạnh mẽ với khả năng đồ họa và tăng tốc phương tiện hàng đầu, GPU L40S được thiết kế để cung cấp sức mạnh cho thế hệ tiếp theo của các khối lượng công việc trung tâm dữ liệu — từ trí tuệ nhân tạo sáng tạo và huấn luyện và suy diễn mô hình ngôn ngữ lớn (LLM) đến đồ họa 3D, kết xuất và video.

Trí Tuệ Nhân Tạo Sáng Tạo đang thúc đẩy sự thay đổi đột phá, mở ra một lãnh vực mới của cơ hội cho doanh nghiệp trong mọi ngành. Để chuyển đổi với trí tuệ nhân tạo, các doanh nghiệp cần có nhiều tài nguyên tính toán hơn, quy mô lớn hơn và một tập hợp đa dạng và phức tạp hơn để đáp ứng nhu cầu của một loạt các khối lượng công việc đa dạng và phức tạp ngày càng tăng.

GPU L40S của NVIDIA là GPU đa năng mạnh mẽ nhất cho trung tâm dữ liệu, mang đến sự tăng tốc từ đầu đến cuối cho thế hệ tiếp theo của các ứng dụng hỗ trợ trí tuệ nhân tạo — từ trí tuệ nhân tạo sáng tạo và huấn luyện mô hình cũng như suy diễn, đến đồ họa 3D, kết xuất và ứng dụng video.

Kiến Trúc Ada Lovelace của NVIDIA

Bộ xử lý Tensor thế hệ thứ tư

Hỗ trợ phần cứng cho tương quan cấu trúc và định dạng TF32 tối ưu mang lại hiệu suất ngay tức khắc cho việc huấn luyện mô hình Trí Tuệ Nhân Tạo và khoa học dữ liệu nhanh hơn. Tăng tốc khả năng đồ họa được tăng cường bằng trí tuệ nhân tạo với DLSS để tăng độ phân giải với hiệu suất tốt hơn trong các ứng dụng được lựa chọn.

Bộ xử lý RT thế hệ thứ ba

Tăng cường khả năng xử lý đồng thời của Ray-Tracing và shading cải thiện hiệu suất ray-tracing, giúp tăng tốc việc kết xuất cho các luồng công việc thiết kế sản phẩm và kiến trúc, kỹ thuật và công việc xây dựng. Thấy những thiết kế sống động trong tác động với motion blur được tăng cường bằng phần cứng và hoạt hình thời gian thực tuyệt đẹp.

Bộ xử lý Transformer

Bộ xử lý Transformer tăng tốc hiệu suất Trí Tuệ Nhân Tạo một cách đáng kể và cải thiện việc sử dụng bộ nhớ cho cả quá trình huấn luyện và suy diễn. Tận dụng sức mạnh của Bộ xử lý Tensor thế hệ thứ tư Ada Lovelace, Bộ xử lý Transformer quét thông minh các lớp mạng neural kiến trúc transformer và tự động thay đổi giữa độ chính xác FP8 và FP16 để cung cấp hiệu suất Trí Tuệ Nhân Tạo nhanh hơn và tăng tốc việc huấn luyện và suy diễn.

Sẵn Sàng Cho Trung Tâm Dữ Liệu

GPU L40S được tối ưu hóa cho hoạt động liên tục 24/7 tại trung tâm dữ liệu doanh nghiệp và được thiết kế, xây dựng, kiểm tra và hỗ trợ bởi NVIDIA để đảm bảo hiệu suất, độ bền và thời gian hoạt động tối đa. GPU L40S đáp ứng các tiêu chuẩn trung tâm dữ liệu mới nhất, sẵn sàng NEBS Level 3 và tích hợp khởi động an toàn với công nghệ gốc của sự tin cậy, cung cấp thêm một lớp bảo mật cho trung tâm dữ liệu.

Multi-Workload Acceleration

Trí Tuệ Nhân Tạo Sáng Tạo (Generative AI)

Với khả năng tăng tốc AI, đồ họa và phương tiện truyền thông thế hệ tiếp theo, L40S mang lại hiệu suất suy diễn cao gấp 5 lần so với NVIDIA A40 thế hệ trước và 1.2 lần hiệu suất của NVIDIA HGX™ A100. Với hiệu suất đột phá và dung lượng bộ nhớ lên đến 48 gigabyte (GB), L40S là nền tảng lý tưởng để tăng tốc các khối lượng công việc Trí Tuệ Nhân Tạo sáng tạo đa dạng.

Huấn luyện và Suy luận LLMs

Các Tensor Cores thế hệ thứ tư hỗ trợ FP8 mang lại hiệu suất tính toán AI đặc biệt để tăng tốc quá trình huấn luyện và suy diễn của các mô hình LLM và Trí Tuệ Nhân Tạo sáng tạo tiên tiến.

Kỹ thuật Render và Đồ họa 3D

Với RT Cores thế hệ thứ ba cung cấp hiệu suất ray-tracing thời gian thực lên đến gấp đôi so với thế hệ trước, giúp tạo nên nội dung hình ảnh tuyệt đẹp và làm việc sáng tạo chất lượng cao, từ việc tạo ra hình ảnh tương tác đến sản xuất ảo thời gian thực.

NVIDIA Omniverse

NVIDIA Omniverse™ cho phép kết nối, phát triển và vận hành các ứng dụng công nghiệp số hóa tiếp theo. Với khả năng đồ họa mạnh mẽ của RTX và AI, L40S mang lại hiệu suất xuất sắc cho quy trình làm việc 3D và mô phỏng dựa trên Universal Scene Description (OpenUSD) trên nền tảng Omniverse.

NVIDIA L40S GPU Specifications

GPU Architecture	NVIDIA Ada Lovelace architecture
GPU Memory	48GB GDDR6 with ECC
Memory Bandwidth	864GB/s
Interconnect Interface	PCIe Gen4 x16: 64GB/s bidirectional
NVIDIA Ada Lovelace Architecture-Based CUDA® Cores	18,176
NVIDIA Third-Generation RT Cores	142
NVIDIA Fourth-Generation Tensor Cores	568
RT Core Performance TFLOPS	212
FP32 TFLOPS	91.6
TF32 Tensor Core TFLOPS	183 I 366*
BFLOAT16 Tensor Core TFLOPS	362.05 I 733*
FP16 Tensor Core	362.05 I 733*
FP8 Tensor Core	733 I 1,466*
Peak INT8 Tensor TOPS Peak INT4 Tensor TOPS	733 I 1,466* 733 I 1,466*
Form Factor	4.4″ (H) x 10.5″ (L), dual slot
Display Ports	4x DisplayPort 1.4a
Max Power Consumption	350W
Power Connector	16-pin
Thermal	Passive
Virtual GPU (vGPU) Software Support	Yes
vGPU Profiles Supported	See virtual GPU licensing guide
NVENC I NVDEC	3x l 3x (includes AV1 encode and decode)
Secure Boot With Root of Trust	Yes
NEBS Ready	Level 3
Multi-Instance GPU (MIG) Support	No
NVIDIA® NVLink® Support	No

→ GPU NVIDIA L40s hiện đã sẵn sàng để đặt hàng, hãy truy cập: https://thegioimaychu.vn/gpu-nvidia-ada-l40s-48gb-gddr6-pcie-tm9419.html

→ Để biết thêm thông tin về các GPU của NVIDIA, hãy truy cập: https://thegioimaychu.vn/linh-kien-may-chu/gpu-card-may-chu

→ Khám phá Hệ Thống NVIDIA OVX của Supermicro sử dụng GPU NVIDIA L40s tối ưu cho giải pháp Omniverse tại đây

Nhất Tiến Chung (NTC) hiện là nhà cung cấp các giải pháp hạ tầng CNTT, Điện toán Hiệu năng cao (HPC) cho AI với kinh nghiệm kinh doanh phần cứng từ năm 2005. Chúng tôi là đối tác NPN cấp Elite (2022) chính thức của NVIDIA cho các hệ thống DGX (DGX A100, DGX Station A100) và hệ thống cụm siêu máy tính DGX SuperPOD với sức mạnh lưu trữ song song của DDN và kết nối mạng tốc độ cao từ hãng Mellanox (thuộc NVIDIA).

____
Bài viết liên quan

Nguyễn Đức Thái