Sự ra mắt của NVIDIA Jetson Thor đã tạo nên một cơn địa chấn trong cộng đồng AI và robotics, với tuyên bố về hiệu suất lên đến 2070 TFLOPS, một con số vốn chỉ thấy ở các hệ thống data center. Điều này không thể không dẫn đến sự so sánh trực tiếp với…
Tag: edge AI
Từ Orin đến Thor: Bước nhảy vọt kiến trúc của NVIDIA JetPack 7.0 và tương lai của robot hình người
Kỷ nguyên mới của Robotics với JetPack 7.0 và Jetson Thor Robot hình người không chỉ là một khái niệm trong các bộ phim khoa học viễn tưởng – nó đã là hiện thực. Các công ty như Boston Dynamics, Tesla Optimus, Figure AI đang xây dựng những con robot này ngay hôm nay. Nhưng…
QNAP ra mắt Máy chủ Lưu trữ Edge AI: Cuộc cách mạng triển khai trí tuệ nhân tạo tại chỗ cho doanh nghiệp
Khi AI đã trở thành “hơi thở” cần thiết cho mọi lĩnh vực, doanh nghiệp phải đối mặt với nhiều thách thức mới. Những vấn đề nổi bật là hiệu năng xử lý, bảo mật dữ liệu và chi phí vận hành tăng cao. Mặc dù điện toán đám mây được xem là giải pháp tốt,…
Edge AI: Biến mọi thiết bị thành cỗ máy thông minh
Trong một thế giới ngày càng kết nối, nơi hàng tỷ thiết bị IoT đang không ngừng tạo ra lượng dữ liệu khổng lồ, nhu cầu về khả năng xử lý thông minh, nhanh chóng và hiệu quả đã trở nên cấp thiết hơn bao giờ hết. Chúng ta đã nói nhiều về AI trên…
SLM và AI tại biên: Bình minh của một kỷ nguyên mới hay chỉ là cơn sốt nhất thời?
Các mô hình ngôn ngữ lớn (LLM) như ChatGPT đã tạo nên một cơn địa chấn trong làng công nghệ, nhưng những người anh em “nhỏ con” hơn, các mô hình ngôn ngữ nhỏ – Small Language Model (SLM), đang âm thầm trỗi dậy. Liệu SLM có phải là lời giải cho bài toán chi…
Một số ý tưởng ứng dụng AI theo mô hình từ lõi đến biên (Core-to-Edge)
Xây dựng các giải pháp AI từ lõi đến biên là một trong những hướng phát triển kinh doanh nằm ở mặt trận tiên phong trong nhu cầu kinh doanh hiện đại. Nó giúp các tổ chức doanh nghiệp có được thông tin nắm bắt theo thời gian thực, tăng cường quyền riêng tư và…
Triển khai giải pháp Generative AI image-to-text tại biên
Khi trí tuệ nhân tạo tiếp tục phát triển lên những cột mốc mới, việc kết hợp phân tích dữ liệu hình ảnh với xử lý ngôn ngữ tự nhiên đã trở thành một bước tiến “mang tính chuyển đổi” cho các doanh nghiệp ứng dụng sớm công nghệ AI. Một giải pháp trong lĩnh…
SOM – System On Module là gì?
System-On-Module (SOM) là gì? System On Module là một bo mạch nhúng nhỏ gọn, có kích thước gần bằng một thẻ tín dụng, được thiết kế để hoạt động như một hệ thống hoàn chỉnh. Mỗi mô-đun bao gồm một System-On-Chip (SoC) — có thể bao gồm bộ vi xử lý, GPU hoặc FPGA —cùng với bộ…
Những lợi ích của việc chạy suy luận AI ngay tại biên, thay vì trong trung tâm dữ liệu
Chuyển đổi suy luận AI từ nền tảng đám mây (Cloud) sang môi trường biên (Edge) tăng cường khả năng ra quyết định theo thời gian thực bằng cách đưa quá trình xử lý dữ liệu đến gần hơn với các nguồn dữ liệu. Đối với các doanh nghiệp, sự thay đổi này làm giảm…
Edge AI: Lợi ích và các ứng dụng
Kết hợp giữa Điện toán biên (Edge Computing) và Trí tuệ nhân tạo(AI), Edge AI là hệ thống sử dụng thuật toán Học máy để xử lý dữ liệu do thiết bị phần cứng thực hiện ở cấp độ cục bộ. Điện toán biên là một bộ khung điện toán phân tán hoạt động trên…