Tại sự kiện SIGGRAPH 2023, NVIDIA đã chính thức giới thiệu máy chủ NVIDIA OVX™ trang bị GPU mới NVIDIA® L40S, một bộ xử lý trung tâm dữ liệu mạnh mẽ và đa năng, được thiết kế để tăng tốc các ứng dụng phức tạp nhất, đòi hỏi nhiều tính toán, bao gồm đào tạo và suy luận trí tuệ nhân tạo, thiết kế và hiển thị 3D, xử lý video và kỹ thuật số hóa trong công nghiệp bằng nền tảng NVIDIA Omniverse™.
GPU mới này đẩy mạnh các khối công việc tính toán tăng tốc cho trí tuệ nhân tạo sinh sáng, đang biến đổi quy trình làm việc và dịch vụ ở nhiều ngành, bao gồm tạo văn bản, hình ảnh và video, chatbot, phát triển game, thiết kế sản phẩm và chăm sóc sức khỏe.
“Khi trí tuệ nhân tạo sinh sáng thay đổi mọi ngành, doanh nghiệp ngày càng tìm kiếm tài nguyên tính toán quy mô lớn tại trung tâm dữ liệu,” Bob Pette, phó chủ tịch phụ trách hình ảnh chuyên nghiệp tại NVIDIA nói. “Hệ thống OVX với GPU NVIDIA L40S tăng tốc tính toán AI, đồ họa và xử lý video, đáp ứng yêu cầu về hiệu suất khó khăn của một loạt các ứng dụng phức tạp và đa dạng.”
Hiệu Suất Mạnh Mẽ Cho Trí Tuệ Nhân Tạo và Đồ Họa
Các hệ thống NVIDIA OVX cho phép lên đến tám GPU NVIDIA L40S trên mỗi máy chủ, mỗi GPU được trang bị 48GB bộ nhớ. Dựa trên kiến trúc GPU Ada Lovelace của NVIDIA, L40S bao gồm Tensor Cores thế hệ thứ tư và một Engine FP8 Transformer, cung cấp hơn 1.45 petaflops sức mạnh xử lý tensor. Đối với các khối công việc AI phức tạp với hàng tỷ tham số và nhiều dạng dữ liệu khác nhau – chẳng hạn như văn bản và video – L40S cho phép hiệu suất suy luận AI sinh sáng tăng lên đến 1.2 lần và hiệu suất đào tạo tăng lên đến 1.7 lần so với GPU NVIDIA A100 Tensor Core.
Để thúc đẩy quy trình làm việc hình ảnh chất lượng cao như hiển thị thời gian thực, thiết kế sản phẩm và tạo nội dung 3D, GPU NVIDIA L40S bao gồm 142 RT Cores thế hệ thứ ba cung cấp 212 teraflops hiệu suất ray-tracing. Điều này cho phép các chuyên gia sáng tạo tạo ra trải nghiệm hình ảnh sâu sắc và nội dung chân thực.
Đối với các khối công việc đòi hỏi tính toán cao, như mô phỏng kỹ thuật và khoa học, NVIDIA L40S bao gồm 18,176 lõi CUDA®, cung cấp gần 5 lần hiệu suất dấu phẩy động (FP32) duy nhất của GPU NVIDIA A100 để tăng tốc tính toán phức tạp và phân tích dữ liệu.
Sự Hỗ Trợ Ban Đầu
Trong số những nhà cung cấp dịch vụ đám mây đầu tiên cung cấp các phiên bản L40S là CoreWeave, chuyên về các khối công việc tăng tốc GPU quy mô lớn.
“Với sự bùng nổ của trí tuệ nhân tạo sinh sáng, khách hàng của chúng tôi ở nhiều ngành đang tìm kiếm các cơ hội tính toán mạnh mẽ và quy mô phù hợp với độ phức tạp của bất kỳ khối công việc nào – từ video tương tác đến thiết kế và tự động hóa trí tuệ nhân tạo,” Brian Venturo, giám đốc công nghệ tại CoreWeave nói. “GPU NVIDIA L40S sẽ mở rộng thêm danh mục rộng lớn của chúng tôi về các giải pháp NVIDIA, biến CoreWeave thành nhà cung cấp dịch vụ đám mây chuyên ngành đầu tiên cung cấp các tài nguyên mới này để tăng tốc tính toán tăng tốc nhanh, hiệu quả và tiết kiệm chi phí để đẩy mạnh làn sóng tiếp theo của các ứng dụng trí tuệ nhân tạo sinh sáng.”
Phần Mềm Tăng Cường Trí Tuệ Nhân Tạo
Doanh nghiệp triển khai GPU L40S có thể hưởng lợi từ phần mềm NVIDIA AI Enterprise, đã công bố một bản cập nhật lớn hôm nay. Phần mềm này cung cấp hỗ trợ và bảo mật sẵn sàng cho doanh nghiệp cho hơn 100 khung công việc, mô hình được huấn luyện trước, bộ công cụ và phần mềm, bao gồm NVIDIA Modulus cho mô phỏng, NVIDIA RAPIDS™ cho khoa học dữ liệu và NVIDIA Triton™ Inference Server cho trí tuệ nhân tạo sản xuất.
NVIDIA Omniverse Mở Rộng
cũng đã công bố cập nhật lớn cho nền tảng Omniverse, giới thiệu khả năng và cải tiến nền tảng giúp các nhà phát triển tăng tốc và phát triển các ứng dụng OpenUSD và ứng dụng kỹ thuật số hóa công nghiệp với sức mạnh của trí tuệ nhân tạo sinh sáng. Thế hệ tiếp theo của các hệ thống NVIDIA OVX điều khiển Omniverse Cloud sẽ sử dụng GPU L40S để cung cấp hiệu suất AI và đồ họa cần thiết để tăng tốc các khối công việc trí tuệ nhân tạo sinh sáng và khối công việc Omniverse.
Khả dụng
GPU NVIDIA L40S sẽ có sẵn từ mùa thu năm nay. Các nhà xây dựng hệ thống toàn cầu, bao gồm ASUS và Supermicro, sẽ sớm cung cấp các hệ thống OVX bao gồm GPU NVIDIA L40S. Những máy chủ này sẽ giúp các chuyên gia trên toàn thế giới tiến xa trong lĩnh vực trí tuệ nhân tạo và đem các ứng dụng trí tuệ nhân tạo sinh sáng như chatbot thông minh, công cụ tìm kiếm và tóm tắt thông tin đến người dùng ở nhiều ngành.
→ Để biết thêm thông tin về các GPU của NVIDIA tối ưu cho Omniverse, hãy truy cập: https://thegioimaychu.vn/linh-kien-may-chu/gpu-card-may-chu
→ Để biết thêm thông tin về danh mục giải pháp NVIDIA Omniverse của Supermicro, hãy truy cập: https://thegioimaychu.vn/solution/nvidia-hpc/
Nhất Tiến Chung (NTC) hiện là nhà cung cấp các giải pháp hạ tầng CNTT, Điện toán Hiệu năng cao (HPC) cho AI với kinh nghiệm kinh doanh phần cứng từ năm 2005. Chúng tôi là đối tác NPN cấp Elite (2022) chính thức của NVIDIA cho các hệ thống DGX (DGX A100, DGX Station A100) và hệ thống cụm siêu máy tính DGX SuperPOD với sức mạnh lưu trữ song song của DDN và kết nối mạng tốc độ cao từ hãng Mellanox (thuộc NVIDIA).
Bạn muốn trở thành đối tác bán hàng NVIDIA của NTC?
Bài viết liên quan
- GPUDirect RDMA là gì?
- GPUDirect Storage là gì?
- Đánh giá GPU máy trạm: Nvidia RTX 6000 Ada Generation
- Hướng dẫn lựa chọn GPU phù hợp cho AI, Machine Learning
- So sánh các GPU Tensor Core của NVIDIA: B200, B100, H200, H100, A100
- NVIDIA giới thiệu nền tảng microservice Metropolis để chạy ứng dụng Edge AI trên Jetson