Dell hợp tác với NVIDIA phát triển giải pháp AI Factory để đẩy mạnh ứng dụng AI

Dell Technologies đang có kế hoạch mở rộng Dell AI Factory (nhà máy AI) cùng với NVIDIA để đưa các cải tiến mới nhất về máy chủ, điện toán biên, máy trạm, giải pháp và dịch vụ nhằm tăng tốc độ áp dụng AI vào đổi mới kinh doanh.

Michael Dell, nhà sáng lập và Giám đốc điều hành của Dell Technologies cho biết: “Các tổ chức doanh nghiệp đang nhanh chóng nắm bắt cơ hội với AI, đó là lý do tại sao sự hợp tác của chúng tôi với NVIDIA rất quan trọng”. “Việc mở rộng đối Dell AI Factory với NVIDIA tiếp tục sứ mệnh chung của chúng tôi – chúng tôi giúp các tổ chức dễ dàng triển khai AI để họ có thể mạnh dạn bước vào cuộc cách mạng công nghệ tiếp theo này.”

Jensen Huang, nhà sáng lập kiêm CEO của NVIDIA cho biết: “Generative AI đòi hỏi một loại hạ tầng điện toán mới – một nhà máy AI tạo ra trí thông minh”. “Cùng với nhau, NVIDIA và Dell đang cung cấp cho các ngành công nghiệp trên thế giới dịch vụ trọn gói – bao gồm điện toán, mạng và phần mềm – thúc đẩy các copilot (trợ lý), trình hỗ trợ viết code, nhân viên dịch vụ khách hàng ảo và phiên bản số công nghiệp của doanh nghiệp kỹ thuật số.”

Dell AI Factory với NVIDIA chuyển dữ liệu thành các nắm bắt hữu ích

Dell AI Factory với NVIDIA tích hợp danh mục giải pháp AI hàng đầu của Dell với nền tảng phần mềm NVIDIA AI Enterprise, được củng cố bởi GPU NVIDIA Tensor Core, giải pháp mạng Ethernet NVIDIA Spectrum-X và DPU NVIDIA Bluefield. Khách hàng có thể đầu tư vào các gói tích hợp phù hợp với nhu cầu của họ hoặc các giải pháp full stack, đã được xác thực, để bắt đầu sử dụng các ứng dụng AI yêu cầu hiệu suất gia tăng như RAG, đào tạo mô hình và suy luận. Những tiến bộ của Dell AI Factory với NVIDIA cho phép các tổ chức:

Sử dụng sức mạnh điện toán nâng cao để xử lý việc triển khai AI quy mô lớn

Hệ thống Dell PowerEdge XE9680L mới mang lại hiệu năng cao với sự hỗ trợ cho 8x GPU NVIDIA Blackwell ở form factor 4U nhỏ gọn. Máy chủ cung cấp mật độ rack-scale cao nhất có thể cho GPU NVIDIA trong nền tảng rack x86 tiêu chuẩn, cung cấp mật độ GPU trên mỗi node nhiều hơn 33%. Nền tảng này cung cấp thêm 20% khe cắm PCIe Gen 5 và tăng gấp đôi khả năng mở rộng mạng North/South.

Giải pháp Direct liquid cooling (DLC) cải thiện hiệu suất tổng thể với khả năng làm mát cao hơn cho CPU và GPU. PowerEdge XE9680L được thiết kế để dễ dàng bảo trì và sẽ có sẵn cấu hình đầy đủ với việc tích hợp nhà máy tiên tiến để triển khai cấp độ rack-scale và tại chỗ.

Dell cũng công bố các giải pháp rack-scale chìa khóa trao tay mật độ cao và hiệu quả năng lượng cao giúp tăng tốc thời gian tạo giá trị cho các hoạt động triển khai tăng tốc GPU lớn. Nhiều phiên bản khác nhau sẽ được ra mắt, bao gồm thiết kế làm mát bằng không khí hỗ trợ 64 GPU trong một rack hoặc thiết kế làm mát bằng chất lỏng có 72 GPU NVIDIA Blackwell trong một rack duy nhất.

Tăng tốc triển khai ứng dụng AI biên với Dell NativeEdge và NVIDIA

Dell NativeEdge là nền tảng điều phối biên đầu tiên tự động hóa việc phân phối phần mềm NVIDIA AI Enterprise, giúp các nhà phát triển và nhà quản lý CNTT dễ dàng triển khai các ứng dụng và giải pháp AI ở biên. Các doanh nghiệp từ nhà sản xuất đến nhà bán lẻ có thể phân tích nhanh chóng và chính xác dữ liệu biên của họ bằng các kế hoạch triển khai Dell NativeEdge mới, bao gồm phân tích video NVIDIA Metropolis, khả năng dịch và đọc giọng nói của NVIDIA Riva cũng như dịch vụ NVIDIA Inference Microservice – NIM .

Đơn giản hóa việc phát triển và triển khai ứng dụng AI để tốc độ ra kết quả nhanh hơn

Giải pháp AI tạo sinh mới của Dell dành cho Trợ lý kỹ thuật số giúp tăng tốc độ triển khai trợ lý kỹ thuật số nhằm mang lại trải nghiệm tự phục vụ được cá nhân hóa cho người dùng cuối trên giải pháp Dell và NVIDIA đầy đủ. Dịch vụ triển khai dành cho Trợ lý kỹ thuật số giúp các tổ chức thiết kế, lập kế hoạch, triển khai, thử nghiệm và mở rộng quy mô giải pháp.
Dell AI Factory với các giải pháp NVIDIA giúp các tổ chức nhanh chóng thiết lập môi trường AI cho nhiều ứng dụng khác nhau với tính năng tự động triển khai toàn bộ stack được thiết kế với sự cộng tác của NVIDIA. Tự động hóa toàn diện, full stack giúp giảm thời gian ra kết quả tới 86% so với việc tự thực hiện. Khi kết hợp với NVIDIA Inference Microservices, tổng thời gian từ khi phân phối đến khi chạy tác vụ suy luận thậm chí còn giảm hơn nữa. Các dịch vụ NIM cung cấp cho các nhà phát triển doanh nghiệp các công cụ suy luận được tối ưu hóa, sẵn sàng sản xuất cho các mô hình AI phổ biến có sẵn từ NVIDIA và hệ sinh thái đối tác của họ.
Dịch vụ tăng tốc Dell mới cho RAG trên máy trạm AI chính xác giúp rút ngắn chu kỳ phát triển AI và nhanh chóng mang lại các ứng dụng AI hoạt động tốt hơn thông qua mô hình ngôn ngữ lớn được tùy biến sử dụng RAG trên máy trạm Dell Precision với NVIDIA AI Workbench, một nền tảng phát triển để thử nghiệm, kiểm tra và tạo mẫu cho các dự án AI và ML trong một môi trường an toàn hơn.

“Nghiên cứu của chúng tôi cho thấy các tổ chức tìm cách đơn giản hóa CNTT nhưng gặp nhiều thách thức để đạt được điều đó. AI, mặc dù hứa hẹn đơn giản hóa nhưng lại mang đến những vấn đề phức tạp bao gồm sự lựa chọn, chất lượng dữ liệu, tính nhất quán và vấn đề bảo mật. Dave Vellante, nhà phân tích trưởng của theCUBE Research cho biết, việc sở hữu một cửa hàng tổng hợp đã được chứng minh giúp củng cố hạ tầng, phần mềm và dịch vụ cần thiết để nhận ra giá trị từ AI có thể giảm thiểu rủi ro và giảm chi phí. “Khả năng toàn diện của Dell là điểm khác biệt cốt lõi mà chúng tôi tin rằng sẽ chuyển sang AI. Nhà máy Dell AI với NVIDIA là ví dụ hàng đầu về giải pháp AI được thiết kế để đơn giản hóa việc áp dụng tải xử lý AI mới nổi.”

Lộ trình

Máy chủ Dell PowerEdge XE9680L sẽ có mặt vào nửa cuối năm 2024.
Kế hoạch triển khai Dell NativeEdge cho NVIDIA sẽ có mặt trên toàn cầu bắt đầu từ nửa cuối năm 2024.
Giải pháp AI tạo sinh của Dell dành cho Trợ lý kỹ thuật số và Dịch vụ triển khai dành cho Trợ lý kỹ thuật số hiện đã có mặt ở Bắc Mỹ.
Dell AI Factory với khả năng triển khai tự động của NVIDIA được kích hoạt thông qua các dịch vụ chuyên nghiệp của Dell sẽ ra mắt vào nửa cuối năm 2024. Các dịch vụ vi mô NVIDIA NIM hiện đã có sẵn.
Dịch vụ tăng tốc Dell cho RAG trên Máy trạm AI chính xác sẽ có sẵn vào cuối tháng 5 tại Mỹ.

____
Bài viết liên quan