Bạn đang tìm kiếm một nền tảng để kiểm tra các ứng dụng AI / ML trước khi khởi chạy, nhưng bạn lại không có quyền truy cập vào môi trường ứng dụng đó? Bạn muốn xây dựng và thử nghiệm khối lượng công việc AI mới trước khi triển khai thực tế để có thể tiết kiệm thời gian, chi phí và các vấn đề khác,….Chào mừng bạn đến với NVIDIA LaunchPad, đây là câu trả lời, là giải pháp cho các vấn đề phát triển của bạn. Và NVIDIA LaunchPad này là hoàn toàn miễn phí!
Giới thiệu NVIDIA LaunchPad!
NVIDIA gần đây đã giơi thiệu LaunchPad – một môi trường thực hành nơi người dùng doanh nghiệp có thể sử dụng máy chủ NVIDIA AI Enterprise trong môi trường vSphere 7 miễn phí trong 2-4 tuần. Mặc dù các doanh nghiệp được hoan nghênh sử dụng dịch vụ này với khối lượng công việc mà họ đang xem xét triển khai trên môi trường NVIDIA, nhưng họ cũng có thể trải qua các phòng thí nghiệm mà NVIDIA đã tạo để cho phép các chuyên gia CNTT cảm thấy thoải mái khi sử dụng các máy chủ hỗ trợ NVIDIA.
NVIDIA AI LaunchPad được lưu trữ trong một cơ sở Equinix . Nền tảng này cho phép các doanh nghiệp tăng tốc độ phát triển của các mô hình AI phức tạp bằng cách sử dụng DGX SuperPOD, NVIDIA Base Command, NVIDIA Fleet Command và các mô hình được đào tạo trước từ NVIDIA NGC. Nó cũng hỗ trợ mở rộng AI chính thống trên các máy chủ được Chứng nhận NVIDIA phân phối trên mạng. Các máy chủ tiêu chuẩn ngành này lý tưởng để chạy bộ phần mềm NVIDIA AI Enterprise trên VMware vSphere để mở rộng khối lượng công việc AI trong đám mây lai hiện đại.
Truy cập NVIDIA LaunchPad
Sau khi hoàn thành một biểu mẫu hồ sơ, người dùng được hiển thị với một màn hình tổng quan chi tiết. Quá trình này rất đơn giản, cung cấp hướng dẫn về cách thiết lập môi trường để truy cập cơ sở hạ tầng và phần mềm AI. Mục tiêu của NVIDIA LaunchPad là tăng tốc độ phát triển và triển khai ứng dụng.
NVIDIA cho rằng việc một số công ty không sử dụng nhiều AI vì lo ngại sự phức tạp của việc thiết lập một môi trường mà AI có thể hoạt động. Với suy nghĩ này, NVIDIA đã tạo ra các phòng thí nghiệm được thiết kế để giải quyết với hai chuyên gia AI khác nhau: Các quản trị viên và người quản lý CNTT cần đứng lên và hỗ trợ các môi trường AI và những người thực hành AI cần sử dụng chúng. Cung cấp dịch vụ này sẽ giúp xây dựng niềm tin vào việc hỗ trợ và sử dụng AI trước khi đầu tư ngân sách CNTT để xây dựng cơ sở hạ tầng cụ thể để chạy các ứng dụng AI đó. Hơn nữa, việc triển khai khối lượng công việc AI trong môi trường này, với các công cụ quen thuộc, cho phép các nhà phát triển nhận ra giá trị của dự án AI của họ với GPU NVIDIA.
Trung tâm phần mềm tối ưu hóa GPU cho AI, ML và HPC
Danh mục NGC là trung tâm của AI được tối ưu hóa bằng GPU, máy tính hiệu suất cao (HPC) và phần mềm phân tích dữ liệu giúp đơn giản hóa và tăng tốc quy trình làm việc đầu cuối. Với các vùng chứa cấp doanh nghiệp, các mô hình AI được đào tạo trước và SDK dành riêng cho ngành có thể được triển khai tại chỗ, trên đám mây hoặc tại biên, các doanh nghiệp có thể xây dựng và cung cấp các giải pháp một cách nhanh chóng và hiệu quả hơn.
Hệ thống có thể được trang bị GPU NVIDIA 100, A30 hoặc T4 tại thời điểm này, mặc dù điều đó có thể thay đổi khi thẻ mới được phát hành. Bất kể phần cứng là gì, tất cả các hệ thống đều sử dụng NVIDIA AI Enterprise, NVIDIA mô tả là:
“ Một bộ phần mềm phân tích dữ liệu và AI từ đầu đến cuối, dựa trên đám mây, được NVIDIA tối ưu hóa, chứng nhận và hỗ trợ để chạy trên VMware vSphere với Hệ thống được chứng nhận của NVIDIA. Nó bao gồm các công nghệ nổi bật từ NVIDIA để triển khai, quản lý và mở rộng nhanh chóng khối lượng công việc AI trong đám mây lai hiện đại . ”
Các phòng thí nghiệm đã được cài đặt sẵn vSphere với quyền truy cập vào một ứng dụng khách vSphere từ URL do NVIDIA cung cấp.
Quản trị viên CNTT được hướng dẫn qua các bước liên quan đến việc định cấu hình máy ảo để sử dụng GPU. Các học viên AI có quyền truy cập vào các phòng thí nghiệm được xây dựng trên bộ NVIDIA AI Enterprise bao gồm các ứng dụng, khuôn khổ và công cụ mà các nhà nghiên cứu AI, nhà khoa học dữ liệu và nhà phát triển sử dụng để tạo các ứng dụng AI và Máy học của họ.
Một trong những hành trình của NVIDIA AI Enterprise LaunchPad sẽ hướng dẫn bạn qua sổ ghi chép của phòng thí nghiệm Jupyter, sử dụng NVIDIA RAPIDS và tập dữ liệu taxi của Thành phố New York để dự đoán giá vé đi xe ở Manhattan. Tập dữ liệu chứa các cột như điểm đón, điểm trả khách, số tiền vé, số lượng hành khách. Dữ liệu trong phòng thí nghiệm này được sử dụng để đào tạo mô hình XGBoost trên GPU. Các phòng thí nghiệm do NVIDIA cung cấp mất từ 30 phút đến vài giờ. NVIDIA sẽ cung cấp môi trường thích hợp cho từng phòng thí nghiệm.
Tách biệt với môi trường phòng thí nghiệm NVIDIA là khả năng thiết lập một mô hình AI hoạt động. Đăng ký môi trường AI LaunchPad hoàn chỉnh tương tự như yêu cầu Phòng thí nghiệm. Sau khi đăng nhập vào NVIDIA LaunchPad, có các hướng dẫn chi tiết để thiết lập VM thông qua việc tạo một máy ảo Ubuntu, liên kết GPU NVIDIA với các VM, mua và thêm trình điều khiển NVIDIA vào hệ điều hành, lấy Key và phần mềm NVIDIA API, đồng thời cấp phép cho VM để sử dụng GPU. Vì phần mềm AI dựa trên vùng chứa containers, phòng thí nghiệm bao gồm cài đặt Docker, bộ công cụ vùng chứa NVIDIA, TensorFlow và chạy các ứng dụng về AI. Đây là một môi trường làm việc tổng thể cho phép bạn xây dựng và triển khai dự án AI của riêng mình.
Phương pháp tiếp cận từng bước
Việc cấu hình máy ảo được ghi chép đầy đủ và các màn hình nhập liệu có trợ giúp cần thiết nếu cần. NVIDIA đã làm việc với VMware nhằm tạo ra một giao diện đơn giản để triển khai cấu hình yêu cầu và cài đặt các công cụ thích hợp để thiết lập và chạy môi trường với mức độ tối thiểu. Hãy cùng làm rõ về điểm này.với một thử nghiệm cụ thể sau đây, môi trường thử nghiệm có Dell PowerEdge R750 , với NVIDIA A30 và nhiều DRAM và CPU số lõi lớn.
Khi yêu cầu đăng ký đã được chấp thuận, NVIDIA sẽ gửi một URL, bao gồm tên người dùng và mật khẩu tạm thời. Như đã lưu ý, môi trường của chúng tôi là Hệ thống được Dell chứng nhận NVIDIA với GPU A30. Tuy nhiên, các tùy chọn cấu hình cụ thể có sẵn để tùy chỉnh trải nghiệm đáp ứng nhu cầu của người dùng.
NVIDIA LaunchPad đã được thiết kế để cho phép người dùng lùi lại nếu cần thay đổi trong quá trình thực hiện. Menu luôn có thể truy cập được với hướng dẫn chi tiết.
VM được tạo dựa trên yêu cầu phần cứng và phần mềm đầu vào trong quá trình cấu hình.
Sau khi cài đặt vùng chứa Docker và chạy Công cụ tiện ích Docker cho cấu hình GPU NVIDIA, bước cuối cùng là cài đặt các Ứng dụng và Khung công tác Khoa học Dữ liệu và AI.
Di chuyển giữa màn hình vSphere và bảng điều khiển VM cũng liền mạch và được truy cập từ menu chính. Một số trình duyệt được đề xuất dường như hoạt động tốt hơn những trình duyệt khác.
Cuối cùng, cài đặt ứng dụng AI và các cấu hình VM khác sẽ hoàn tất quá trình. NVIDIA rất nhanh nhạy nếu bạn gặp sự cố. Trên thực tế, chúng tôi đã gặp phải một số vấn đề tự gây ra và cần được hỗ trợ. Chúng tôi đã hoạt động trở lại với rất ít thời gian ngừng hoạt động. Công bằng mà nói, chúng tôi là một tổ chức truyền thông đánh giá LaunchPad, nhưng NVIDIA rất có động cơ để đảm bảo mọi người đang thử nghiệm LaunchPad đều có thời gian làm việc hiệu quả.
Lời kết
NVIDIA LaunchPad là một công cụ mạnh mẽ, dễ sử dụng nhờ sự hợp tác hiệu quả giữa NVIDIA, VMware và Equinix. Từ đó, cung cấp một môi trường AI tối ưu để thử nghiệm các ứng dụng AI, ML và HPC hoàn toàn miễn phí dành cho bạn và doanh nghiệp. Với tối đa bốn tuần để trải nghiệm trên LaunchPad, các tổ chức sẽ có những thử nghiệm chân thật nhất, chính xác nhất về việc phát triển các bộ phận AI của họ để từ đó, họ có thể tự tin cho việc triển khai các ứng dụng AI, ML, HPC ngay sau đó.
→ Bạn muốn có kinh nghiệm triển khai và quản lý một ứng dụng AI tiên tiến? Đăng ký trải nghiệm LaunchPad miễn phí ngay hôm nay!
Nhất Tiến Chung (NTC) hiện là nhà cung cấp các giải pháp hạ tầng CNTT, Điện toán Hiệu năng cao (HPC) cho AI với kinh nghiệm kinh doanh phần cứng từ năm 2005. Chúng tôi là đối tác NPN cấp Elite (2022) chính thức của NVIDIA cho các hệ thống DGX (DGX A100, DGX Station A100) và hệ thống cụm siêu máy tính DGX SuperPOD với sức mạnh lưu trữ song song của DDN và kết nối mạng tốc độ cao từ hãng Mellanox (thuộc NVIDIA).
Bạn muốn trở thành đối tác bán hàng NVIDIA của NTC?
Bài viết liên quan
- GPUDirect RDMA là gì?
- GPUDirect Storage là gì?
- Hyperscale computing: Làm cách nào để đạt được năng lực điện toán quy mô lớn tốt hơn
- AI trong ngành Logistics: Những lợi ích chính và ứng dụng
- Máy chủ tăng tốc cho AI thúc đẩy tăng trưởng chi tiêu cho trung tâm dữ liệu
- Cluster Computing – Thế nào là điện toán cụm?