Hướng dẫn triển khai NVIDIA AI Enterprise trên các máy chủ vật lý thông dụng

NVIDIA AI Enterprise là gì?

NVIDIA AI Enterprise là bộ phần mềm AI toàn diện, an toàn, cloud-native, cho phép các tổ chức giải quyết những thách thức mới đồng thời tăng hiệu quả hoạt động. Nó tăng tốc quy trình khoa học dữ liệu và chuẩn hóa quá trình phát triển và triển khai các mô hình AI dự đoán để tự động hóa các quy trình thiết yếu và thu được thông tin hữu ích nhanh chóng từ dữ liệu. Với một thư viện phần mềm full-stack bao gồm các quy trình giải pháp AI, framework, mô hình được đào tạo trước (pre-trained models) và việc tối ưu hóa hạ tầng.

Có sẵn cả trên dịch vụ đám mây, trung tâm dữ liệu và tại biên, NVIDIA AI Enterprise cho phép các tổ chức phát triển một lần và chạy ở mọi nơi. Hỗ trợ doanh nghiệp toàn cầu và đánh giá bảo mật thường xuyên, đảm bảo hoạt động kinh doanh liên tục và các dự án AI luôn đi đúng hướng.

Tối ưu hóa để mọi tổ chức có thể làm tốt AI

Mọi bước của quy trình AI đều được chuẩn hoá, từ chuẩn bị dữ liệu, đến đào tạo, cho đến suy luận và triển khai, đồng thời những nhóm ứng dụng AI có thể đào tạo trên các mô hình mạng thần kinh phức tạp cũng như các mô hình dựa theo cấu trúc cây (tree-based). Được tối ưu hóa để phát triển và triển khai AI, NVIDIA AI Enterprise bao gồm các framework và container mã nguồn mở, đã được chứng minh giúp dễ dàng áp dụng AI cho doanh nghiệp, chẳng hạn như AI đàm thoại (conversational AI) thường được sử dụng để hỗ trợ khách hàng tự động và các đại lý bán hàng kỹ thuật số cũng như Thị giác máy tính (computer vision) được sử dụng để phân đoạn, phân loại và phát hiện.

Được chứng nhận để triển khai mọi nơi

Được chứng nhận để chạy trên các máy chủ thông dụng, NVIDIA-Certified Systems, với phần mềm NVIDIA AI Enterprise – bất kể là ảo hóa, bare metal, CPU-only, trên public cloud – NVIDIA AI Enterprise có thể được triển khai ở hầu hết mọi nơi và cho phép các dự án AI có thể di động trên khắp các trung tâm dữ liệu lai ngày càng gia tăng hiện nay.

Được hỗ trợ bởi NVIDIA

Với NVIDIA Enterprise Support đi kèm, cả nhóm ứng dụng AI và nhóm quản trị CNTT đều có quyền tiếp cận với đội ngũ chuyên môn của NVIDIA trên toàn cầu, để được hỗ trợ phối hợp trên toàn bộ giải pháp bao gồm các sản phẩm của đối tác, cũng như kiểm soát lịch trình nâng cấp và bảo trì với các tùy chọn hỗ trợ dài hạn (LTS), truy cập vào các khoá đào tạo khách hàng có người đứng lớp và tài nguyên cơ sở tri thức.

NVIDIA AI Software

Framework ứng dụng AI, mô hình được đào tạo trước và tất cả các phần mềm AI khác của NVIDIA có sẵn trên NGC đều được hỗ trợ với NVIDIA AI Enterprise license. Với hơn 50 framework AI và các pretrained model, bao gồm RIVA, Merlin, cuOpt,… sẽ được thêm vào, hãy tìm nhãn “NVIDIA AI Enterprise Supported” trên NGC.

Các tổ chức bắt đầu hành trình AI của họ bằng cách sử dụng các thư viện và framework NGC mở, có sẵn miễn phí để thử nghiệm và thí điểm. Giờ đây, khi đã sẵn sàng chuyển từ thí điểm sang sản xuất, các doanh nghiệp có thể dễ dàng chuyển đổi sang nền tảng AI được quản lý hoàn toàn và an toàn với NVIDIA AI Enterprise subscription. Việc này mang lại cho các doanh nghiệp triển khai AI có tầm quan trọng đối với kinh doanh, đảm bảo tính liên tục trong kinh doanh với NVIDIA Enterprise Support và khả năng tiếp cận với các chuyên gia NVIDIA AI.

NVIDIA AI Workflows

NVIDIA AI Enterprise bao gồm các quy trình giải pháp AI mới để xây dựng các ứng dụng AI như trợ lý ảo thông minh của trung tâm liên lạc, phiên âm âm thanh và lấy dấu vân tay kỹ thuật số an ninh mạng để phát hiện sự bất thường. Các ví dụ về quy trình làm việc AI được đóng gói này bao gồm các pretrained model và framework AI của NVIDIA, cũng như các tài nguyên như Helm Charts, Jupyter Notebooks và tài liệu để giúp khách hàng bắt đầu xây dựng các giải pháp dựa trên AI dễ dàng hơn.

Quy trình công việc cloud-native AI của NVIDIA chạy dưới dạng microservices, có thể được triển khai riêng trên Kubernetes hoặc cùng với các microservices khác để tạo các ứng dụng sẵn sàng cho sản xuất.

Lợi ích chính:

Giảm thời gian phát triển, chi phí thấp hơn
Cải thiện độ chính xác và hiệu suất
Tự tin vào kết quả, bằng cách tận dụng kiến thức chuyên môn của NVIDIA

Mô hình được đào tạo trước sẵn sàng cho sản xuất

Các mô hình AI được đào tạo trước giúp quá trình phát triển AI hiệu suất cao trở nên dễ dàng, nhanh chóng và dễ tiếp cận bằng cách loại bỏ nhu cầu xây dựng mô hình từ đầu. NVIDIA AI Enterprise bao gồm các mô hình được đào tạo trước mà không cần mã hóa cho các tác vụ vision AI và chăm sóc sức khỏe như phát hiện người, phát hiện phương tiện, mô hình học tập liên kết, định dạng hình ảnh,…

Bằng cách truy cập các mô hình này, các nhà phát triển có thể xem trọng số và độ lệch của mô hình, điều này có thể giúp giải thích mô hình và hiểu được độ lệch của mô hình. Ngoài ra, các mô hình không được mã hóa sẽ dễ dàng debug và tích hợp vào các ứng dụng AI tùy chỉnh hơn.

Phần cứng và phần mềm được hỗ trợ

NVIDIA AI Enterprise hỗ trợ nhiều cấu hình phần cứng và phần mềm khác nhau. Danh sách đầy đủ các cấu hình được hỗ trợ được liệt kê trong NVIDIA AI Enterprise Product Support Matrix.

→ Hướng dẫn chi tiết triển khai NVIDIA AI Enterprise trên máy chủ vật lý

▪ Giải pháp nhận diện khuôn mặt tích hợp vào NAS – QVR Face

____
Bài viết liên quan