Xây dựng và triển khai hiệu quả Generative AI với NVIDIA Nemo Framework

Tính hiệu quả ở quy mô cực lớn

DGX SuperPOD mang đến khả năng siêu máy tính cần thiết khi xây dựng các mô hình ngôn ngữ lớn (LLMs). Các doanh nghiệp có thể giải quyết các mô hình phức tạp nhất, bao gồm cả mô hình quy mô lớn như GPT, rút ngắn thời gian giải quyết từ hàng trăm năm xuống chỉ còn vài tuần hoặc thậm chí vài ngày. Việc đào tạo mô hình GPT-3 với 175 tỷ tham số mất 355 năm trên GPU NVIDIA V100 Tensor Core và 4,8 năm trên một DGX A100. Sử dụng DGX SuperPOD với 140 nút, tác vụ tương tự có thể hoàn thành trong khoảng một tháng.

Khách hàng có thể lựa chọn tự xây dựng các mô hình nền tảng của riêng họ bằng cách sử dụng khung NeMo với DGX SuperPOD và mở rộng quy mô tuyến tính đến mô hình nghìn tỷ tham số. Hoặc, để nhanh chóng phát triển mô hình nền tảng của riêng họ, họ có thể tận dụng DGX Cloud, một giải pháp đào tạo AI đa nút hiệu suất cao như dịch vụ.

Công cụ để xây dựng mô hình AI sinh học đa phương tiện tùy chỉnh

Đối với các doanh nghiệp muốn xây dựng mô hình nền tảng riêng của họ, NVIDIA NeMo cung cấp một khung nhận diện doanh nghiệp từ đầu đến cuối dựa trên đám mây để xây dựng, tùy chỉnh và triển khai các mô hình AI sinh học sáng tạo với hàng tỷ tham số trên các hệ thống DGX. Khung NeMo tối ưu hóa quá trình phát triển của các mô hình AI sinh học sáng tạo lớn nhất và cung cấp tính hiệu quả tính toán và khả năng mở rộng để đào tạo hiệu quả với nhiều kỹ thuật đào tạo phân tán tiên tiến.

Các kỹ thuật mới bao gồm song song hóa chuỗi và việc tính toán kích hoạt tùy chọn, giúp tăng tốc thời gian đào tạo các mô hình sinh học sáng tạo lớn, lên đến 30%. Các kỹ thuật tùy chỉnh cho các mô hình sinh học sáng tạo như học theo hướng dẫn và kỹ thuật điều chỉnh cho phép tùy chỉnh trong khi học bằng cách sử dụng phản hồi từ con người đảm bảo sự cải thiện liên tục theo thời gian. Loại bỏ thời gian lãng phí trong việc tìm kiếm cấu hình mô hình hiệu quả với công cụ tự động hóa cấu hình, có thể tự động tìm kiếm cấu hình đào tạo và tính toán tối ưu.

Tăng tốc việc triển khai các mô hình xây dựng trên khung NeMo với các kỹ thuật tối ưu tiên tiến, có thể thực hiện việc tính toán mô hình quy mô lớn trên nhiều GPU và nhiều nút DGX. Nhà phát triển có thể đạt được việc tính toán thấp độ trễ và thông lượng cao, dẫn đến tiêu thụ tài nguyên thấp hơn.

Tối ưu hóa cấu trúc đa node cho đào tạo

Sử dụng khung NeMo để đào tạo các mô hình lớn nhất bằng cách sử dụng song song hóa mô hình, kết hợp với công nghệ NVIDIA NVLink® và mạng InfiniBand cho việc truyền thông nhanh chóng giữa các nút. Một DGX SuperPOD với 32 nút và DGX H100 cung cấp 1 exaFLOPS tính toán AI, một mạng InfiniBand hiệu suất cao đa mạng được tối ưu hóa với công nghệ NVIDIA Magnum IO™, Thư viện Liên thông Thu thập NVIDIA Collective (NCCL), và Giao thức Rút gọn Tầng cấu trúc có thể mở rộng NVIDIA Scalable Hierarchical Aggregation Reduction Protocol (SHARP)™ trên mạng nội bộ.

Các doanh nghiệp có thể sử dụng khung NeMo để phát triển các mô hình tùy chỉnh của riêng họ trên DGX Cloud. DGX Cloud được tối ưu hóa cho việc đào tạo đa nút và được xây dựng trên cùng các công nghệ GPU Tensor Core và NVLink của NVIDIA. Các công nghệ mạng này hỗ trợ các kỷ lục thế giới về chỉ số MLPerf và cho phép hàng chục máy tính siêu cấp trên danh sách TOP500 và Green500. Cấu trúc tối ưu hóa này, kết hợp với khung nhận diện doanh nghiệp từ đầu đến cuối của NeMo, giúp doanh nghiệp tạo ra các giải pháp AI sinh học sáng tạo tùy chỉnh nhanh chóng cho các nhiệm vụ quan trọng nhất của họ và cũng hiểu được dữ liệu độc đáo của họ.

Triển khai từ bất cứ nơi nào và tối ưu hóa phát triển AI sinh học

Nền tảng NVIDIA Base Command™ truyền sức mạnh cho DGX Cloud. Nó tăng tốc quá trình tạo mẫu và mở rộng các giải pháp AI sinh học sáng tạo bằng cách cung cấp một trạm điều khiển lưu trữ trên đám mây và giao diện xem tổng quan duy nhất để quản lý các dự án đào tạo LLM và AI sinh học trên DGX Cloud và môi trường DGX trên nơi. Nhà phát triển có thể sử dụng nền tảng này để đơn giản hóa và tăng tốc thời gian để phối hợp cơ sở hạ tầng hỗ trợ phát triển AI, đem lại hiệu suất tốt hơn và ROI nhanh chóng hơn cho các dự án AI.

Truy cập trực tiếp đến chuyên gia lớp thế giới về AI sinh học

Hạ tầng NVIDIA DGX đi kèm với quyền truy cập đến chuyên gia được dành riêng cho việc hỗ trợ từ việc cài đặt và quản lý hạ tầng đến việc mở rộng khối công việc và tối ưu hóa sản xuất AI. Hợp tác với một đội ngũ toàn cầu các chuyên gia thành thạo về AI, đã tích luỹ một lượng kinh nghiệm phong phú trong thập kỷ qua và đã thành công hoàn thành nhiều dự án triển khai hạ tầng AI, bao gồm cả cho các khách hàng DGX nằm trong danh sách TOP500 của những máy tính siêu cấp nhanh nhất thế giới.

Các ví dụ về triển khai thành công của LLM trong doanh nghiệp

Khám phá cách NVIDIA DGX SuperPOD kết hợp với NVIDIA NeMo triển khai các ứng dụng LLM cho nhiều ngôn ngữ và ngành công nghiệp.