NVIDIA ra mắt nền tảng AI được tích hợp cho VMware vSphere 7

NVIDIA và VMware đã hợp tác để cung cấp một nền tảng cho phép người dùng vSphere 7 có thể chạy các ứng dụng dựa trên AI thế hệ mới.

NVIDIA đã tung ra một bộ công cụ và framework AI được chứng nhận để chạy độc quyền trên VMware vSphere 7 Update 2, cho phép người dùng sử dụng nền tảng ảo hóa để khai thác các khả năng của GPU NVIDIA A100 Tensor Core – NVIDIA AI Enterprise.

Theo cả hai công ty, mục đích của NVIDIA AI Enterprise Suite là để giúp các doanh nghiệp lớn hiện đại hóa hạ tầng của họ để đáp ứng tốt hơn nhu cầu hiệu suất mà các ứng dụng dựa trên AI yêu cầu.

Thông qua quan hệ đối tác này, được công bố lần đầu tiên vào tháng 9 năm 2020, các công ty kỳ vọng sản phẩm mới sẽ cho phép các chuyên gia IT theo dõi nhanh các ứng dụng như vậy bên trong các trung tâm dữ liệu được ảo hóa – đem lại một hạ tầng đặc thù cho AI với quy mô mở rộng hơn.

NVIDIA AI Enterprise Suite cho phép người dùng doanh nghiệp phát triển một loạt các sản phẩm và dịch vụ dựa trên AI, chẳng hạn như chẩn đoán nâng cao cho ngành chăm sóc sức khỏe và phát hiện gian lận cho các công ty dịch vụ tài chính.

Justin Boitano, phó chủ tịch kiêm tổng giám đốc doanh nghiệp và điện toán biên tại NVIDIA cho biết: “Cho đến thời điểm này, AI đa phần vẫn còn là một “hòn đảo” nơi mọi người phải thử các cách tiếp cận ‘tự tay làm nên’ để thiết lập và quản lý công nghệ”. “Nhưng với sự trợ giúp của VMware, chúng tôi có thể hợp nhất một hạ tầng mà mọi người có thể sử dụng với một loạt các công cụ của VMware đã tồn tại và được tối ưu hóa cho AI. Cũng như muốn nó trở thành một hệ thống chìa khóa trao tay để quản trị viên dễ dàng hỗ trợ các nhóm ngành kinh doanh hơn”.

Việc cung cấp vSphere 7 Update 2 cho phép người dùng hỗ trợ các cách triển khai AI mới trên các trung tâm dữ liệu quy mô lớn và các đám mây lai. AI Suite cũng cung cấp hiệu suất ứng dụng AI multinode và scale-out trên vSphere 7 ngang bằng với các bare-metal server.

Boitano cho biết: “Thế giới thường chạy AI trên các máy chủ bare-metal. AI Enterprise suite của NVIDIA cho phép người dùng giảm thời gian phát triển mô hình AI từ 80 tuần xuống còn 8 tuần và triển khai các ứng dụng AI tiên tiến hơn trên vSphere với hiệu suất tương tự có thể thấy trên các máy chủ đó”.

Theo các nhà phân tích, việc mang các sản phẩm cốt lõi của NVIDIA và VMware lại gần nhau là một sự kết hợp hợp lý có lợi cho đôi bên cũng như người dùng tương ứng của họ đang tìm cách tăng tốc các ứng dụng AI nặng về lập trình.

“Đây có thể nói là tất cả những khả năng tích hợp các sản phẩm của họ, có một loại nền tảng đã được kiểm tra và chứng nhận” – Gary Chen, nhà phân tích tại IDC cho biết. “Rất nhiều công nghệ AI dựa vào GPU, vì vậy NVIDIA đang cung cấp các GPU và vSphere là nơi để chạy các tải công việc AI và phục vụ như một nền tảng tích hợp khá hoàn chỉnh”.

Các chuyên gia của NVIDIA lưu ý rằng họ đã chứng nhận vSphere là phần mềm ảo hóa duy nhất sẽ cung cấp hỗ trợ hypervisor cho live migration với công nghệ Multi-Instance GPU của NVIDIA. Điều này cho phép mỗi GPU A100 được chia nhỏ thành bảy phiên bản ở cấp độ phần cứng.

Geoff Woollacott, nhà tư vấn chiến lược cao cấp và phân tích chính tại Technology Business Research cho biết: “Người dùng VMware hiện có thể kết hợp các GPU mới nhất vào môi trường ảo của họ để tận dụng các tính năng như MIG, cho phép các GPU cycle được chia sẻ trên nhiều sản phẩm VMware”.

Ngoài ra, các adapter ConnectX-6 của NVIDIA được chứng nhận cho VMware vSAN qua thiết bị Truy cập bộ nhớ trực tiếp từ xa (RDMA), giúp giảm tải các tác vụ giao tiếp của CPU để tăng hiệu suất ứng dụng.

NVIDIA AI Enterprise Suite có sẵn dưới dạng license vĩnh viễn với giá 3,595$/CPU socket, với gói Enterprise Business Standard Support cho NVIDIA AI Enterprise có giá 899$ một năm cho mỗi license. Người dùng cũng có tùy chọn đăng ký quyền truy cập vào NVIDIA AI Enterprise khi họ có kế hoạch nâng cấp lên VMware vSphere 7 Update 2.

Theo TechTarget

____
Bài viết liên quan
Góp ý / Liên hệ tác giả