Tăng cường năng lực cho các ứng dụng Edge AI với các giải pháp GPU tiêu thụ điện thấp

Sự tiến bộ không ngừng của trí tuệ nhân tạo (AI) trong các mạng lưới biên — từ bán lẻ, sản xuất đến Smart City — đã thúc đẩy cuộc cách mạng của điện toán song song trong lĩnh vực phần cứng, cung cấp sức mạnh cho nó. Trọng tâm của cuộc cách mạng phần cứng này là bộ xử lý đồ họa (GPU), một công nghệ ban đầu được thiết kế để kết xuất hình ảnh nhưng hiện không thể thiếu để xử lý các thuật toán phức tạp thúc đẩy các ứng dụng AI tại biên – Edge AI.

Yêu cầu đối với GPU được triển khai ở các mạng ở biên

Yêu cầu về hiệu suất xử lý và hiệu quả năng lượng của Edge AI đã biến đổi bối cảnh của GPU. Sự thay đổi này không chỉ thay đổi quỹ đạo phát triển GPU mà còn đặt ra chuẩn mực mới cho những gì các bộ xử lý này sẽ cung cấp.

Hiệu quả năng lượng được cải thiện: GPU phải có hiệu quả năng lượng cao để hoạt động trong môi trường có nguồn điện hạn chế hoặc chi phí cao để cung cấp.
Hiệu năng cao: Mặc dù có kích thước nhỏ và mức tiêu thụ điện thấp, các GPU này đáp ứng sức mạnh để xử lý dữ liệu trong thời gian thực, cũng như các tác vụ AI.
Độ bền và độ tin cậy: GPU được sử dụng trong môi trường biên phải bền và có khả năng hoạt động tin cậy trong nhiều điều kiện môi trường khác nhau, bao gồm nhiệt độ, độ ẩm và rung động cao.
Tính năng bảo mật: Do tính chất phân tán của điện toán biên, GPU phải bao gồm các tính năng bảo mật tiên tiến để bảo vệ dữ liệu nhạy cảm khỏi các xâm phạm trái phép và các mối nguy từ mạng.

SiMa.ai ML SoC và Nền tảng phần mềm Palette

Các công ty khởi nghiệp như SiMa.ai đang dẫn đầu trong công nghệ GPU, đặc biệt là cải thiện hiệu quả năng lượng và thiết lập các tiêu chuẩn mới của ngành. Kiến trúc Machine Learning System-on-Chip (SoC) của SiMa.ai, được thiết kế tỉ mỉ từ gốc, tối đa hóa hiệu quả cho tải xử lý AI. Thiết kế này đạt được thông lượng cao hơn trên các tác vụ suy luận AI trong khi chỉ tiêu thụ một phần nhỏ điện năng so với GPU truyền thống. Khả năng xử lý tiết kiệm điện năng của công nghệ SiMa.ai cho phép AI có thể được triển khai rộng rãi hơn, từ các ứng dụng điện toán biên đến cung cấp sức mạnh cho các thiết bị thông minh thế hệ mới, đồng thời giảm thiểu tác động đến môi trường.

Nền tảng phần mềm Palette của SiMa.ai được thiết kế riêng cho mục đích phát triển ứng dụng ML toàn diện, hỗ trợ mọi quy trình công việc ML để triển khai tại biên trong khi vẫn duy trì hiệu suất tối ưu và tính thân thiện với người dùng.

Với Palette Edgematic, người dùng có thể nhanh chóng tạo prototype cho các luồng công việc computer vision bằng giao diện kéo-thả đồ họa, chuẩn hóa quy trình chỉ trong vài phút. Cả hai công cụ Palette đều sử dụng phương pháp “build bằng nút nhấn”, loại bỏ nhu cầu coding thủ công cấp thấp trong các giải pháp ML tại biên.

Giải pháp AI Edge được đóng gói

Lanner hợp tác với SiMa.ai để xây dựng nền tảng Edge, bao gồm các thiết bị AI Lanner Edge LEC-2290 và EAI-I730, Machine Learning System on a Chip (MLSoC) của SiMa.ai và nền tảng phần mềm Palette Edgematic.

Với hiệu suất “trong một nút nhấn”, chúng tôi kích hoạt nền tảng Edge Machine Learning hiệu quả nhất bằng cách kết nối nhiều camera hơn trên mỗi thiết bị, xử lý video với tốc độ khung hình cao hơn và nhận dữ liệu camera có độ phân giải cao hơn.

Sản phẩm nổi bật

LEC-2290

Intelligent Edge Computing Box hỗ trợ Intel® Core™ i7-8700T/i7-8700

CPU	Support Intel® Core™ i7-8700T/i7-8700 Core i (FCLGA1152), Codenamed Coffee Lake S
Chipset	FH82C246

Xem thêm →

EAI-I730

Nền tảng AI hiệu suất cao cấp công nghiệp với bộ xử lý Intel® i9/i7 thế hệ thứ 12

CPU	Intel® i9/i7 (Raptor Lake-S)
Chipset	Intel® R680E

Xem thêm →

▪ Giải pháp nhận diện khuôn mặt tích hợp vào NAS – QVR Face

Nhất Tiến Chung (NTC) hiện là nhà phân phối chính thức các sản phẩm và giải pháp AI tại biên (Edge AI) của Lanner Electronics tại thị trường Việt Nam. Với kinh nghiệm cung cấp giải pháp CNTT từ năm 2005, chúng tôi cam kết mang đến cho khách hàng những giải pháp AI ở xa data center tiên tiến nhất, đáp ứng mọi nhu cầu về hiệu suất, khả năng chống chịu, tính linh hoạt và tiết kiệm năng lượng.

Danh mục sản phẩm Edge AI của Lanner tại Nhất Tiến Chung.

Bạn muốn trở thành đối tác bán hàng Lanner của NTC?

Đăng ký ngay

____
Bài viết liên quan