Giới thiệu các máy chủ Supermicro sẵn sàng cho NVIDIA GPU Cloud – NGC
Được thiết kế để phát triển và triển khai ứng dụng nhanh chóng với cơ sở hạ tầng có thể mở rộng và linh hoạt.
NGC (NVIDIA GPU Cloud) là một nền tảng Cloud được tăng tốc bởi GPU và được tối ưu hóa cho học sâu và xử lý khoa học dữ liệu. NGC quản lý một danh mục các container tích hợp đầy đủ các Deep Learning framework và được tối ưu hóa để tận dụng tối đa GPU NVIDIA trong cả cấu hình đơn GPU và đa GPU.
Các hệ thống máy chủ Supermicro NGC-Ready được xác nhận về chức năng và hiệu suất tối ưu cho các phần mềm AI từ NVIDIA NGC. Các hệ thống này cùng với NVIDIA NGC, cho phép khách hàng phát triển và triển khai các giải pháp AI đầu cuối. Hệ thống được cài đặt sẵn hệ điều hành, container, môi trường CUDA cần thiết để chạy phần mềm NVIDIA NGC. Supermicro cung cấp cài đặt phần mềm NVIDIA NGC như một dịch vụ bổ sung. Hỗ trợ cấp doanh nghiệp cho phần cứng và hệ điều hành có sẵn để giúp quản trị viên hệ thống giảm thiểu thời gian ngừng hoạt động của hệ thống, mang lại cho người dùng sự tự tin khi hỗ trợ khối lượng công việc của AI.
Được hỗ trợ bởi các bộ tăng tốc NVIDIA V100 và Tesla T4, hệ thống Supermicro NGC-Ready cung cấp tốc độ tăng tốc cho cả đào tạo và suy luận. Phần mềm NVIDIA NGC được phân phối dưới dạng Docker container, vì vậy chúng có thể chạy ở bất kỳ đâu mà Hệ thống Supermicro NGC-Ready được triển khai:
- Trong trung tâm dữ liệu hoặc đám mây
- Trong các trung tâm dữ liệu vi mô biên
- Ở các vị trí từ xa được phân phối dưới dạng máy chủ EGX có khả năng phục hồi và bảo mật với môi trường
Được hỗ trợ bởi 26 năm kinh nghiệm cung cấp các giải pháp điện toán hiện đại, hệ thống Supermicro là giải pháp máy chủ mạnh mẽ nhất, hiệu suất cao nhất và giá trị cao nhất trên thị trường hiện nay. Với sự hỗ trợ kết nối mạng và lưu trữ cực nhanh, cũng như GPU NVIDIA V100 và T4, hệ thống Supermicro NGC-Ready là những máy chủ đáng tin cậy và có khả năng mở rộng cao nhất để hỗ trợ AI. Khách hàng có thể tự tin chạy cơ sở hạ tầng AI của họ.
NVIDIA NGC
NGC là nền tảng trung tâm của NVIDIA cho các container ứng dụng AI, ML và HPC, được tăng tốc bởi GPU, SDK và các công cụ giúp truy cập nhanh hơn vào phần mềm được tối ưu hóa hiệu suất.
NGC container registry lưu trữ các container cho phần mềm khoa học dữ liệu và AI hàng đầu – tất cả đều được điều chỉnh, thử nghiệm và tối ưu hóa bởi NVIDIA – cũng như các container đã được kiểm tra đầy đủ cho các ứng dụng HPC và phân tích dữ liệu. Những container này tận dụng lợi thế của GPU NVIDIA tại chỗ và trên đám mây. Mỗi giải pháp đều được tối ưu hóa hoàn toàn và hoạt động trên nhiều giải pháp máy chủ Supermicro với GPU NVIDIA.
NVIDIA NGC cũng lưu trữ các mô hình được đào tạo trước để giúp các nhà khoa học dữ liệu xây dựng các mô hình có độ chính xác cao nhanh hơn và cung cấp các SDK dành riêng cho ngành giúp đơn giản hóa việc phát triển các giải pháp AI đầu cuối với đào tạo và suy luận.
NVIDIA là công ty hàng đầu trong lĩnh vực tăng tốc GPU hiệu suất cao và phần mềm để phát triển và triển khai AI. Bằng cách đưa các công nghệ từ nghiên cứu AI mới nhất vào NGC, khách hàng có thể cảm thấy tự tin rằng họ có những lựa chọn tốt nhất để phát triển các ứng dụng AI của mình. Với các mô hình AI được đào tạo trước và học tập chuyển giao (transfer learning), khách hàng có thể phát triển các giải pháp AI nhanh hơn nhiều so với trước đây bằng cách sử dụng NGC.
Ưu điểm của hệ thống Supermicro NGC-Ready
Hệ thống Supermicro NGC-Ready được xác nhận về hiệu suất và chức năng để chạy các container NGC. Kết hợp với phần mềm NVIDIA NGC, các hệ thống NGC-Ready cao cấp có thể tổng hợp các GPU qua mạng và bộ nhớ nhanh để đào tạo các mô hình AI lớn với các lô dữ liệu lớn. Hệ thống NGC-Ready cho Edge triển khai các ứng dụng AI cho hội nghị AI.
Hệ thống Supermicro NGC-Ready cũng cung cấp các khả năng và dịch vụ sau:
- Các hệ thống đã được xác thực hiệu suất đẩy nhanh thời gian giải quyết và cho phép các nhà quản lý CNTT chọn đúng hệ thống cho khối lượng công việc AI thích hợp.
- Supermicro cung cấp một dịch vụ tùy chọn để cho phép phát triển phần mềm AI ngay lập tức khi hệ thống được bật lên. Hệ điều hành, CUDA, CUDA-X, trình điều khiển NVIDIA và hạ tầng container được tải trước.
- Tiếp cận với các mô hình AI học sâu tiên tiến, mới nhất từ NVIDIA NGC. Sử dụng các mô hình được đào tạo trước và dữ liệu của riêng bạn, các mô hình AI mới có thể được xây dựng một cách hiệu quả.
- Các container NGC chạy ở mọi nơi, cho dù trên hệ thống Supermicro trong trung tâm dữ liệu, trong các trung tâm dữ liệu vi mô biên, trên các máy chủ biên và trong đám mây. Kubernetes cho phép tự động hóa việc triển khai, mở rộng quy mô và quản lý các container trong môi trường sản xuất của bạn.
- Dịch vụ hỗ trợ phần cứng, hệ điều hành và NVIDIA NGC có sẵn.
- Dịch vụ thiết lập tủ rack, máy chủ, lưu trữ và mạng.
- Dịch vụ tư vấn Kubernetes để triển khai đa máy chủ.
Supermicro cung cấp các hệ thống sẵn sàng cho NGC như một phần trong các giải pháp AI / DL của họ, bao gồm cả hỗ trợ cấp doanh nghiệp. Vui lòng liên hệ với bộ phận giải pháp của Nhất Tiến Chung để được tư vấn thêm thông tin.
Supermicro và NGC – Kiến trúc giải pháp
Hệ thống sẵn sàng cho NGC của Supermicro hỗ trợ khách hàng chạy toàn bộ cơ sở hạ tầng AI của họ, từ đào tạo dữ liệu lớn đến suy luận trung tâm dữ liệu, đến suy luận tại biên.