Triển khai AI hiệu suất tốt nhất với giải pháp Supermicro – NVIDIA Smart AI Combo

Với sự đổi mới nhanh chóng của công nghệ, Trí tuệ nhân tạo (AI) đang thực sự bùng nổ với nhiều lợi ích vượt trội mà nó mang lại. Cùng với đó, sự tiến bộ, cải tiến trong phần cứng và phần mềm cũng đang cho phép AI dễ dàng chuyển đổi các ngành công nghiệp trên toàn thế giới, từ dịch vụ tài chính đến sản xuất, chăm sóc sức khỏe và nhiều ngành khác.

Để chuyển sang giai đoạn tiếp theo, các tổ chức hiện phải tối ưu hóa hiệu suất AI, khả năng mở rộng và chứng minh lợi tức đầu tư rõ ràng. Phát triển một nền tảng và chiến lược cơ sở hạ tầng nhất quán để triển khai và mở rộng AI là bước quan trọng để tăng trưởng hiệu quả về chi phí

Supermicro và NVIDIA đã cùng nhau làm việc để mang đến cho khách hàng, người dùng của họ những tùy chọn, dịch vụ tốt nhất, đơn giải nhất để có thể triển khai một hạ tầng về AI ngay tại doanh nghiệp của họ. Bài viết này sẽ tổng quan mọi thứ về AI, giúp các doanh nghiệp làm quen với những gì cần thiết của AI: từ kiến thức cơ bản đến công nghệ mới và các nguồn lực để lựa chọn phần cứng, nền tảng và cơ sở hạ tầng AI linh hoạt, “minh chứng cho tương lai”. Nó sẽ giúp người dùng công nghệ và doanh nghiệp đưa ra lựa chọn tốt nhất để đạt hiệu suất và hiệu quả tối đa, đẩy nhanh thời gian để định giá và mở khóa sức mạnh của AI ngày từ hôm nay.

Yêu cầu cơ sở hạ tầng để tối ưu hóa kết quả và giá trị AI

Từ đám mây công cộng và riêng tư đến các hệ thống nhúng và hiện đại, các ứng dụng AI đang phát triển ở khắp mọi nơi: trong thiết kế thuốc, trợ lý thông minh tối ưu hóa sản phẩm, ô tô tự lái, cố vấn robot, bộ lọc thư rác, dây chuyền lắp ráp,…. Nhiều tổ chức hiện đang làm việc chăm chỉ để thúc đẩy những nỗ lực ban đầu thành công vào sản xuất rộng rãi hơn và chứng minh giá trị của AI. Những người khác đang cải tiến bằng chứng của khái niệm và thí điểm.

Các nhà lãnh đạo CNTT và doanh nghiệp được giao nhiệm vụ tăng trưởng AI hiệu quả về chi phí phải quản lý thành công hai loại tối ưu hóa:

Tối ưu hóa hệ thống cho khối lượng công việc AI cụ thể

Trong AI, chỉ với một loại hoặc kích thước của hệ thống không thể phù hợp và sử dụng cho tất cả các ứng dụng, workloads. Các ứng dụng AI có các yêu cầu khác nhau, thời gian phản hồi, yêu cầu thông lượng, phát trực tiếp liên tục, các trường hợp sử dụng khác nhau của các mô hình, kiến trúc, khuôn khổ, nền tảng và môi trường hoạt động khác nhau. Ví dụ: mô hình học máy yêu cầu tải, chuyển đổi và xử lý các tập dữ liệu cực lớn để thu thập thông tin chi tiết quan trọng. Học sâu đòi hỏi một hệ thống có lượng bộ nhớ lớn, sức mạnh tính toán lớn và kết nối nhanh để có khả năng mở rộng. Tham chiếu, thị giác máy tính, trợ lý tự động và các khối lượng công việc AI khác, mỗi khối đều có yêu cầu nghiêm ngặt, khác nhau rất lớn về số lượng lõi CPU và khả năng xử lý chính xác cao của GPU.

Việc tạo ra các hệ thống và môi trường phù hợp nhất với các ứng dụng AI đòi hỏi phải lựa chọn cẩn thận nhiều yếu tố, bao gồm khả năng của bộ xử lý, dung lượng bộ nhớ, lưu trữ, mạng và nhiều loại phần mềm.

Tối ưu hóa cơ sở hạ tầng AI để tối ưu hóa kết quả AI

Khối lượng công việc của AI phụ thuộc nhiều vào cơ sở hạ tầng – bao gồm cả cơ sở hạ tầng hiện có – để mang lại kết quả tối ưu và thời gian để định giá. Lý do rất đơn giản: Để thúc đẩy AI, các trung tâm dữ liệu phải xử lý một lượng lớn dữ liệu, cả có cấu trúc và phi cấu trúc. Làm như vậy đòi hỏi cơ sở hạ tầng có sức mạnh tính toán cao, truy cập bộ nhớ nhanh, dung lượng lưu trữ lớn, hiệu quả năng lượng và khả năng mở rộng. Điều đó đòi hỏi phần cứng mạnh mẽ bao gồm GPU, bộ nhớ all-flash và mạng network băng thông cao. Các nền tảng, khuôn khổ, tập dữ liệu phù hợp và thậm chí cả các mô hình AI được đào tạo trước cũng là chìa khóa quan trọng. Cơ sở hạ tầng được tối ưu hóa kém có thể dẫn đến kết quả không tối ưu, lãng phí chi phí đầu tư và có thể thất bại hoàn toàn.

Yêu cầu của hệ thống

Tối ưu hóa khối lượng công việc và cơ sở hạ tầng AI là hai thách thức chính đối với các nhà lãnh đạo CNTT và doanh nghiệp. Bất kỳ sản phẩm hoặc giải pháp nào đều phải hỗ trợ các yêu cầu quan trọng sau:

Managing price/performance

Như chúng ta đã thấy, các thông tin chi tiết khác nhau nhưng môi trường máy tính hiệu suất cao là yếu tố quan trọng đối với tất cả các loại AI. Đồng thời, không có tổ chức nào có ngân sách không giới hạn cho việc khai thác và thay thế cơ sở hạ tầng hiện có bằng các sản phẩm mới. Vì vậy, quản lý chi phí cơ sở hạ tầng là một kỷ luật quan trọng trong AI, đặc biệt là trong việc mở rộng bằng chứng khái niệm vào triển khai doanh nghiệp

Simplifying complexity and integration

Các khối lượng công việc AI khác nhau có các yêu cầu rất khác nhau về phần cứng, phần mềm, khả năng liên kết, mạng và dữ liệu. Lựa chọn sự kết hợp tốt nhất của các yếu tố này là một nhiệm vụ lớn và phức tạp. Vì vậy, việc tạo ra một giải pháp AI end-to-end từ các sản phẩm và nhà cung cấp khác nhau. Mọi thứ càng trở nên khó khăn hơn khi các hệ thống mới phải được tích hợp với cơ sở hạ tầng hiện có, bao gồm số lượng lớn các CPU và GPU khác nhau được cài đặt, mỗi hệ thống có các khả năng và đặc tính hiệu suất khác nhau.

Giải pháp tổng thể

Một loạt các trường hợp và môi trường sử dụng thay đổi nhanh chóng yêu cầu cách tiếp cận nền tảng “sẵn sàng cho tương lai”. Cho dù doanh nghiệp đang mua sắm máy chủ, cụm, khối xây dựng hoặc giải pháp được chứng nhận, để đáp ứng các yêu cầu về giá cả / hiệu suất tốt và tích hợp dễ dàng, hãy tìm kiếm các hệ thống và lựa chọn cơ sở hạ tầng cung cấp:

Key Hardware Components

Giờ đây, doanh nghiệp đã hiểu tầm quan trọng của nó và những gì cần thiết cho cơ sở hạ tầng và hệ thống AI được tối ưu hóa, chúng ta hãy cùng tìm hiểu sơ lược về phần cứng. Cho dù được triển khai trong trung tâm dữ liệu tại chỗ, trong đám mây công cộng hay riêng tư, hoặc xây dựng hoặc mua một giải pháp linh hoạt, việc kết hợp cẩn thận các thành phần tốt nhất là rất quan trọng để mang lại sự cân bằng tốt nhất về hiệu suất và hiệu quả chi phí để phát triển một tổ chức mục tiêu AI duy nhất.

CPUs and general-purpose processor

Lớp điện toán là trung tâm của AI, các đơn vị xử lý trung tâm (CPU) dựa trên x86 hiện đại, được tối ưu hóa hiệu suất cung cấp số lượng lõi cao và vô số tùy chọn phù hợp cho bộ nhớ, I / O, độ bền của dữ liệu và mạng tốc độ cao. Tài nguyên máy tính có mục đích chung có thể cung cấp một lựa chọn kinh tế cho một số mô hình AI / ML nhỏ và hội nghị. Các lợi ích bao gồm giảm chi phí ban đầu, giảm OpEx và tiêu thụ điện năng và dễ dàng nâng cấp, mở rộng vê sau.

GPUs and special-purpose processors

Các đơn vị xử lý đồ họa (GPU), mảng cổng có thể lập trình trường (FPGA) và các mạch tích hợp dành riêng cho ứng dụng (ASIC) đều cung cấp năng lượng cho một loạt các khối lượng công việc AI. Mỗi loại đều có điểm mạnh và điểm hạn chế: ASIC là ít tốn kém nhất trên cơ sở mỗi đơn vị, FPGA là có chi phí nhiều nhất. Cả hai đều tốn kém tài nguyên và thời gian để lập trình. Đối với hầu hết các trung tâm dữ liệu, GPU là lựa chọn tốt nhất cho các máy chủ AI vi nó mang lại hiệu suất tuyệt vời và dễ dàng lập trình, tiết kiệm tài nguyên, phát triển dễ dàng và mang lại nhiều giá trị.

Các trung tâm dữ liệu được tăng tốc GPU mang lại hiệu suất đột phá với ít máy chủ hơn và ít điện năng hơn, vận hành nhanh hơn với chi phí thấp hơn đáng kể. Cấu trúc xử lý song song cao của chúng đặc biệt phù hợp với đào tạo mô hình AI. Các mô hình mới, có GPU dựa trên kiến trúc NVIDIA Ampere mới nhất, được tối ưu hóa cho AI / Deep learning cũng như HPC, 5G và phân tích dữ liệu….

Internal connections

Mạng tốc độ cao đóng một vai trò không thể thiếu trong việc mở rộng hiệu suất ứng dụng trên toàn bộ trung tâm dữ liệu – đơn vị tính toán mới cho AI và HPC. NVIDIA đang mở đường với mạng do phần mềm xác định, tăng tốc Máy tính trong mạng, truy cập bộ nhớ trực tiếp từ xa (RDMA), tốc độ và nguồn cấp dữ liệu nhanh nhất.

PCI-E 4.0 and 5.0

Các tiêu chuẩn PCI-E mới hơn này cung cấp kết nối băng thông cao hơn với GPU, SSD và các thiết bị ngoại vi khác. Bộ xử lý Intel Xeon Scalable thế hệ thứ 3 và bộ xử lý AMD EPYC thế hệ thứ 3 hỗ trợ PCI-E 4.0, trong khi bộ xử lý Intel Xeon và AMD EPYC trong tương lai sẽ hỗ trợ PCI-E 5.0. Tất cả các thế hệ PCI-E đều tương thích ngược, vì vậy không có lý do gì để không nâng cấp hệ thống để tối ưu hiệu năng hoạt động, truyền tải dữ liệu quan trọng qua các giao tiếp PCIe.

NVIDIA HGX platform

NVIDIA HGX kết hợp các kết nối cực nhanh, với tốc độ 600 GB / giây sử dụng NVLink® giữa nhiều GPU, trong một nền tảng máy chủ duy nhất để có hiệu suất cao nhất có thể. Mặc dù GPU NVIDIA dựa trên PCI-E cung cấp tính linh hoạt hơn khi thêm GPU vào các máy chủ hiện có, giao tiếp giữa các GPU chậm hơn so  với HGX, vì dữ liệu được chia sẻ phải đi qua PCI-E đến CPU trước khi được sử dụng bởi một GPU khác

Dưới đây là tóm tắt về các máy chủ GPU của Supermicro với thông tin chi tiết về của chúng:

External connections

Bộ chuyển đổi và bộ điều hợp mạng thông minh giúp giảm độ trễ, tăng hiệu quả, tăng cường bảo mật và đơn giản hóa quá trình tự động hóa trung tâm dữ liệu để tăng tốc hiệu suất ứng dụng đầu cuối. Dòng thẻ giao diện mạng thông minh NVIDIA® ConnectX®  (SmartNIC) cung cấp khả năng tăng tốc và giảm tải phần cứng tiên tiến. Bộ điều hợp Ethernet NVIDIA cho phép ROI cao nhất và Tổng chi phí sở hữu thấp nhất cho các nền tảng siêu cấp HCI, đám mây công cộng và riêng tư, lưu trữ, máy học, AI, dữ liệu lớn và nền tảng viễn thông.

Scalability

Đối với nhiều tổ chức, khả năng mở rộng là thách thức lớn nhất của AI. Thành công phụ thuộc nhiều vào việc có các công nghệ cho phép phù hợp:

• Cấu trúc liên kết PCI-E tối ưu trong máy chủ
• Kết nối mạng tối ưu giữa các máy chủ, sử dụng các giao thức như RDMA
• Các thuật toán có thể mở rộng quy mô nhanh chóng và hiệu quả
• Khả năng quản lý giúp dễ dàng triển khai và quản lý khối lượng công việc ở nhiều quy mô khác nhau

Service? Custom? Platform? Solution?

Nhiệm vụ cuối cùng là hiểu và lựa chọn cách tốt nhất để lựa chọn và triển khai các hệ thống và cơ sở hạ tầng linh hoạt nhất, hiệu quả về chi phí và được tối ưu hóa sẽ nâng cao hiệu suất của các mục tiêu và nhu cầu về AI của tổ chức bạn.

Cloud services

Một số tổ chức chọn các dịch vụ trả tiền theo “pay as you go” cho  những bước đột phá đầu tiên của họ vào AI. Tuy nhiên, nhiều người sớm phát hiện ra rằng cách làm này có thể nhanh chóng tốn kém và giảm hiệu quả. Ngoài ra, bạn sẽ gặp khó khăn hơn với việc lựa chọn phần cứng và phần mềm của nhà cung cấp.supercomputing,

AI infrastructure

Đối với hầu hết các tổ chức, xây dựng cơ sở hạ tầng và kiến trúc AI rộng hơn cho nền tảng AI là một lựa chọn thông minh hơn. Điều đó đặc biệt đúng đối với các doanh nghiệp có nhiều kinh nghiệm hơn với AI và có kế hoạch triển khai rộng rãi. Đi theo lộ trình này hứa hẹn sẽ mang lại giá trị kinh doanh lâu dài hơn và tăng ROI khi các khả năng được xây dựng.

Cách tiếp cận này có ý nghĩa nhất đối với các tổ chức có:

• Phạm vi sử dụng lớn và rộng
• Cam kết chiến lược cấp cao đối với AI
• Cần lập kế hoạch năng lực dài hạn
• Sẵn có cơ sở hạ tầng trong nhà để xây dựng
• Chuyên môn và kinh nghiệm với AI
• Yêu cầu sử dụng công nghệ AI mới nhất càng sớm càng tốt
• Yêu cầu máy chủ tùy chỉnh (CPU, Bộ nhớ, GPU, Bộ nhớ, Mạng)

Certified solutions

Tìm cách giảm bớt sự phức tạp cho các tổ chức xây dựng hệ thống AI của riêng họ, các nhà cung cấp hàng đầu đã giới thiệu các giải pháp chìa khóa trao tay rất linh hoạt. Với việc tiếp tục triển khai các ứng dụng và khối lượng công việc nâng cao, khách hàng yêu cầu các máy chủ có thể quản lý, bảo mật và có thể mở rộng cho trung tâm dữ liệu của họ và mỗi cấu hình máy chủ / GPU kiếm được chứng nhận riêng.

Các hệ thống đã được xác thực và chứng nhận trước mang lại nhiều lợi ích:

• Triển khai nhanh hơn nếu làm việc với các nhà cung cấp có kinh nghiệm và nhiều kiến thức
• Nhiều tùy chọn CPU và GPU để cài đặt trước
• Các API nhất quán từ biên đến trung tâm
• Có thể tùy chỉnh cho các yêu cầu khối lượng công việc AI cụ thể
• Đủ linh hoạt để quản lý khối lượng công việc đang thay đổi mà không mất phí hoặc chi phí thấp
• Cập nhật nhanh chóng các thành phần phần mềm mới nhất theo lịch trình bảo trì của tổ chức

Tổng kết

Các doanh nghiệp trong mọi ngành đang tìm cách phát triển và triển khai AI để cải thiện kết quả kinh doanh trên toàn bộ tổ chức của họ. Khả năng mở rộng và tính linh hoạt sẽ càng trở nên quan trọng hơn khi AI trở nên phổ biến hơn. Một chiến lược cơ sở hạ tầng và nền tảng nhất quán là yếu tố quan trọng để triển khai, mở rộng quy mô và vận hành các ứng dụng AI một cách tối ưu trong chương tiếp theo của hành trình chuyển đổi kỹ thuật số của bạn.

Supermicro và NVIDIA giúp trang bị cho các doanh nghiệp thành công trong nhiều nhu cầu, môi trường và khối lượng công việc AI. Công ty dẫn đầu toàn cầu về công nghệ máy tính, lưu trữ, mạng và điện toán xanh dành cho doanh nghiệp, Supermicro cung cấp các giải pháp cấp giá trị chìa khóa trao tay, xác định trước, kiểm tra trước và xác thực cho những khối lượng công việc khắt khe nhất được tìm thấy trong môi trường trung tâm dữ liệu tiên tiến.