Mô-đun NVIDIA Jetson AGX Orin và hệ sinh thái thiết bị AI biên

Việc đưa các ứng dụng, sản phẩm AI và robot mới ra thị trường hoặc hỗ trợ các sản phẩm hiện có, có thể là thách thức đối với các nhà phát triển và doanh nghiệp.

Gần 30 nhà cung cấp công nghệ trong Mạng lưới đối tác NVIDIA trên toàn thế giới, trong đó có Lanner Inc., đang cung cấp các sản phẩm thương mại trang bị mô-đun NVIDIA Jetson AGX Orin mới, mang lại hiệu suất tăng gấp 6 lần so với thế hệ trước.

Với nhiều sản phẩm đa dạng từ các đối tác Jetson, các nhà phát triển có thể xây dựng và triển khai các hệ thống chạy bằng Orin với nhiều tính năng, bao gồm camera, cảm biến, phần mềm và khả năng kết nối phù hợp với AI biên, robot, AIoT và các ứng dụng nhúng.

Một thiết bị của Lanner được trang bị module Jetson AGX Orin chỉ có kích thước của một cuốn sách nhưng năng lực xử lý AI có thể đạt đến 100 TOPS, hiện đang được phân phối tại Thế Giới Máy Chủ.

Các hệ thống sẵn sàng cho sản xuất với các tùy chọn về thiết bị ngoại vi cho phép khách hàng giải quyết các thách thức trong các ngành công nghiệp từ sản xuất, bán lẻ và xây dựng đến nông nghiệp, hậu cần, chăm sóc sức khỏe, thành phố thông minh, giao hàng chặng cuối,…

Giúp đẩy nhanh tốc độ phát triển các sản phẩm AI

Theo truyền thống, các nhà phát triển và kỹ sư bị hạn chế khả năng xử lý nhiều luồng dữ liệu đồng thời cho các môi trường ứng dụng phức tạp. Họ phải đối mặt với các yêu cầu nghiêm ngặt về độ trễ, hạn chế về hiệu quả năng lượng và các vấn đề với kết nối không dây băng thông cao. Và họ cần có khả năng dễ dàng quản lý các bản cập nhật phần mềm qua mạng.

Họ cũng buộc phải đưa nhiều chip vào thiết kế của mình để khai thác các tài nguyên điện toán cần thiết nhằm xử lý lượng dữ liệu ngày càng đa dạng.

NVIDIA Jetson AGX Orin vượt qua tất cả những thách thức này.

Bộ kit phát triển Jetson AGX Orin, có khả năng thực hiện tới 275 nghìn tỷ phép tính mỗi giây (TOPS), hỗ trợ nhiều quy trình ứng dụng AI đồng thời với GPU kiến trúc NVIDIA Ampere, những bộ tăng tốc thị giác và học sâu thế hệ tiếp theo, I/O tốc độ cao và băng thông bộ nhớ nhanh.

Với Jetson AGX Orin, khách hàng có thể phát triển các giải pháp sử dụng các mô hình AI lớn nhất và phức tạp nhất để giải quyết các vấn đề như hiểu ngôn ngữ tự nhiên, nhận thức 3D và kết hợp nhiều cảm biến.

4 mô-đun sản xuất dựa trên Jetson Orin, được công bố tại GTC, cung cấp cho khách hàng đầy đủ hiệu suất AI cấp máy chủ. Mô-đun Jetson AGX Orin hiện có sẵn ở 2 phiên bản 32GB và 64GB. Trong khi Jetson Orin NX là 8GB và 16GB.

Các hệ thống sản xuất được hỗ trợ bởi stack phần mềm NVIDIA Jetson, cho phép hàng nghìn doanh nghiệp và hàng triệu nhà phát triển xây dựng và triển khai các giải pháp AI được tăng tốc hoàn toàn trên Jetson.

Ngoài JetPack SDK – bao gồm stack tăng tốc NVIDIA CUDA-X, Jetson Orin còn hỗ trợ nhiều nền tảng và frameworks NVIDIA như Isaac cho robot, DeepStream cho Thị giác máy tính, Riva cho hiểu ngôn ngữ tự nhiên, TAO Toolkit để tăng tốc phát triển mô hình với các mô hình được đào tạo trước và Metropolis, một framework ứng dụng, bộ công cụ dành cho nhà phát triển và hệ sinh thái đối tác kết hợp dữ liệu trực quan và AI để cải thiện hiệu quả hoạt động và sự an toàn trong nhiều ngành.

Khách hàng đang đưa các ứng dụng edge AI và robot thế hệ tiếp theo của mình ra thị trường nhanh hơn nhiều bằng cách mô phỏng bất kỳ mô-đun sản xuất nào dựa trên Jetson Orin trên bộ công cụ phát triển Jetson AGX Orin trước tiên.

Mở rộng cộng đồng nhà phát triển và hệ sinh thái đối tác Jetson

Hơn 1 triệu nhà phát triển và hơn 6.000 công ty đang xây dựng các sản phẩm thương mại trên nền tảng điện toán AI biên và robot NVIDIA Jetson để tạo, triển khai các máy tự động và ứng dụng AI biên.

Với hơn 150 thành viên, hệ sinh thái đối tác Jetson đang ngày càng phát triển cung cấp nhiều dịch vụ hỗ trợ, bao gồm từ các công ty chuyên về phần mềm AI, phần cứng và dịch vụ thiết kế ứng dụng, camera, cảm biến, thiết bị ngoại vi, công cụ dành cho nhà phát triển và hệ thống phát triển.

Khoảng 32 đối tác cung cấp các sản phẩm thương mại, được hỗ trợ bởi mô-đun Jetson AGX Orin mới, tích hợp nhiều tùy chọn giúp hỗ trợ các ứng dụng tiên tiến và rút ngắn thời gian đưa sản phẩm ra thị trường.

Các nhà phát triển đang tìm kiếm bo mạch chủ và hệ thống phần cứng đầy đủ sẽ tìm thấy nhiều lựa chọn từ AAEON, Auvidea, Connect Tech, MiiVii, Plink-AI, Realtimes và TZTEK để phục vụ nhu cầu của họ.

Hơn 350 tùy chọn camera và cảm biến có sẵn từ Allied Vision, Appropho, Basler AG, e-con Systems, Framos, Leopard Imaging, LIPS, Robosense, Shenzhen Sensing, Stereolabs, Thundersoft, Unicorecomm và Velodyne. Chúng có thể hỗ trợ các điều kiện ánh sáng trong nhà/ngoài trời đầy thách thức, cũng như các khả năng như lidar để lập bản đồ, định vị và điều hướng trong robot và máy móc tự động.

Để được hỗ trợ phần mềm toàn diện như quản lý thiết bị, hệ điều hành (Yocto & Realtime OS), phần mềm và bộ công cụ AI, các nhà phát triển có thể tìm đến Allxon, Cogniteam, Concurrent Realtime, Deci AI, DriveU, Novaauto, RidgeRun và Sequitur Labs.

Và đối với các tùy chọn kết nối, bao gồm WiFi 6/6E, LTE và 5G, các nhà phát triển có thể xem qua các sản phẩm từ Telit, Quectel, Infineon và Silex.

____
Bài viết liên quan