Sự tích hợp của NVIDIA DGX Cloud trong nền tảng Hugging Face giúp tăng tốc độ đào tạo và điều chỉnh LLM, đơn giản hóa việc tùy biến các mô hình cho hầu hết mọi ngành.
Tại SIGGRAPH 2023 – NVIDIA và Hugging Face đã công bố mối quan hệ hợp tác sẽ đưa siêu máy tính Generative AI (GenAI) vào trong tầm tay của hàng triệu developer đang xây dựng các Mô hình ngôn ngữ lớn (LLMs) và các ứng dụng AI tiên tiến khác.
Bằng việc cung cấp cho các developer quyền truy cập vào siêu máy tính AI NVIDIA DGX Cloud trong nền tảng Hugging Face để đào tạo và điều chỉnh các mô hình AI tiên tiến, sự kết hợp này sẽ giúp thúc đẩy việc áp dụng GenAI trong ngành công nghiệp, sử dụng các LLM được tùy chỉnh phù hợp với dữ liệu kinh doanh cho các ứng dụng dành riêng cho ngành bao gồm chatbot, tìm kiếm và tóm tắt thông minh.
“Các nhà nghiên cứu và nhà phát triển đang ở trung tâm của làn sóng GenAI, giúp biến đổi mọi ngành công nghiệp”. Founder và CEO của NVIDIA – Jensen Huang cho biết. “Hugging Face và NVIDIA đang kết nối cộng đồng AI lớn nhất thế giới với nền tảng điện toán AI của NVIDIA trên các đám mây (cloud) hàng đầu thế giới. Cùng với nhau, điện toán AI của NVIDIA chỉ là một cú nhấp chuột (one-click) dành cho cộng đồng Hugging Face.”
Là một phần của sự hợp tác, Hugging Face sẽ cung cấp một dịch vụ mới – được gọi là Training Cluster as a Service – để đơn giản hóa việc tạo các mô hình GenAI mới và tùy chỉnh dành cho doanh nghiệp. Được hỗ trợ bởi NVIDIA DGX Cloud, dịch vụ này sẽ sẵn có trong vài tháng tới.
“Mọi người trên khắp thế giới đang tạo ra những kết nối và khám phá mới bằng các công cụ GenAI và chúng ta vẫn chỉ mới ở những ngày đầu của quá trình chuyển đổi công nghệ này”. Clément Delangue, Co-founder và CEO của Hugging Face cho hay.
“Sự hợp tác của chúng tôi sẽ đưa siêu máy tính AI tiên tiến nhất của NVIDIA đến Hugging Face, để cho phép các công ty tự nắm lấy vận mệnh AI của mình với mã nguồn mở và với tốc độ mà họ cần để đóng góp cho những gì sắp tới.”
Tăng cường đào tạo và tùy chỉnh LLM trong Hugging Face
Nền tảng Hugging Face cho phép các developer xây dựng, đào tạo và triển khai các mô hình AI hiện đại nhất bằng việc sử dụng các tài nguyên nguồn mở. Hơn 15.000 tổ chức sử dụng Hugging Face và cộng đồng của nó đã chia sẻ hơn 250.000 mô hình và 50.000 bộ dữ liệu (datasets).
Việc tích hợp DGX Cloud với Hugging Face sẽ mang lại quyền truy cập one-click vào nền tảng siêu máy tính AI multi-node của NVIDIA. Với DGX Cloud, người dùng Hugging Face sẽ có thể kết nối với siêu máy tính NVIDIA AI, cung cấp phần mềm và hạ tầng cần thiết để nhanh chóng đào tạo và điều chỉnh các mô hình nền tảng (Foundation Models) với dữ liệu độc đáo nhằm thúc đẩy một làn sóng phát triển LLM doanh nghiệp mới.
Với Training Cluster as a Service, được hỗ trợ bởi DGX Cloud, các công ty sẽ có thể tận dụng dữ liệu của họ đối với Hugging Face để tạo ra các mô hình hiệu quả độc đáo trong thời gian kỷ lục.
DGX Cloud tăng tốc độ phát triển và tùy chỉnh cho các mô hình lớn
Mỗi instance của DGX Cloud đều có 8 GPU NVIDIA H100 hoặc A100 80GB Tersor Core cho tổng bộ nhớ GPU là 640GB trên mỗi node. NVIDIA Networking cung cấp kết cấu độ trễ thấp, hiệu suất cao để đảm bảo các khối lượng công việc (workload) có thể mở rộng trên các cluster của những hệ thống được kết nối với nhau để đáp ứng yêu cầu về hiệu suất của các workload AI nâng cao.
Hỗ trợ từ các chuyên gia của NVIDIA được bao gồm với DGX Cloud để giúp khách hàng tối ưu hóa các mô hình của họ và nhanh chóng giải quyết các thách thức về phát triển.
Hạ tầng DGX Cloud được host bởi các đối tác cung cấp dịch vụ cloud hàng đầu của NVIDIA.
Tích hợp NVIDIA DGX Cloud với Hugging Face dự kiến sẽ khả dụng trong những tháng tới.
Cùng xem bài phát biểu chính tại SIGGRAPH của Huang để tìm hiểu thêm về NVIDIA DGX Cloud.
Theo NVIDIA
Bài viết liên quan
- LLM: Lịch sử và tương lai của các mô hình ngôn ngữ lớn
- Hướng đến tương lai: Generative AI dành cho các giám đốc điều hành
- Xây dựng mô hình ngôn ngữ lớn (LLM) riêng tư, an toàn trên mạng 5G riêng
- HPE và NVIDIA công bố ‘NVIDIA AI Computing by HPE’ để thúc đẩy cuộc cách mạng AI tạo sinh
- Giải mã hiệu suất AI trên PC và Workstation RTX AI
- NVIDIA bắt đầu chứng nhận cho các loại hệ thống mới sẵn sàng cho Generative AI