Hiện nay, vẫn còn hiều người nghĩ rằng trí tuệ nhân tạo (AI) chỉ xoay quanh GPU, nhưng đây chỉ là một phần nhỏ của toàn bộ câu chuyện. Đúng là việc huấn luyện mô hình nền tảng tiêu tốn nhiều tài nguyên từ GPU, và tùy thuộc vào lượng dữ liệu cũng như kích…
AI – HPC
CPU cho các hệ thống hiệu suất cao: Số lượng nhân so với tốc độ xung nhịp
Số lượng nhân và tốc độ xung nhịp ảnh hưởng đến hiệu suất như thế nào? Khi cấu hình một hệ thống, CPU – bộ não của máy tính – là ưu tiên hàng đầu. Đối với dòng vi xử lý AMD Ryzen và Intel Core, cấu trúc sản phẩm rất dễ hiểu: Bộ xử…
Edge AI: Lợi ích và các ứng dụng
Kết hợp giữa Điện toán biên (Edge Computing) và Trí tuệ nhân tạo(AI), Edge AI là hệ thống sử dụng thuật toán Học máy để xử lý dữ liệu do thiết bị phần cứng thực hiện ở cấp độ cục bộ. Điện toán biên là một bộ khung điện toán phân tán hoạt động trên…
LLM: Lịch sử và tương lai của các mô hình ngôn ngữ lớn
Sự ra đời của LLM – NLP và Neural Networks Việc tạo ra các Mô hình ngôn ngữ lớn không diễn ra trong một sớm một chiều. Đáng chú ý là khái niệm đầu tiên về các mô hình ngôn ngữ bắt đầu với các hệ thống dựa trên quy tắc được gọi là Xử…
LM Studio – Chạy Generative AI trên máy tính của riêng bạn
Giới thiệu Sự xuất hiện của các Mô hình ngôn ngữ lớn (LLM) đã mang lại sự tiến bộ đáng kể trong xử lý ngôn ngữ tự nhiên (NLP), cho phép máy móc hiểu và tương tác tốt hơn với con người. Trong số đó, các mô hình nguồn mở nổi bật như Mistral 7B,…
NVIDIA giới thiệu nền tảng microservice Metropolis để chạy ứng dụng Edge AI trên Jetson
Xây dựng các ứng dụng AI thị giác (Vision AI) cho môi trường biên thường đi kèm với các chu kỳ phát triển tốn kém và dong dài. Đồng thời, việc phát triển nhanh chóng các ứng dụng AI biên (Edge AI) có tính năng thuần đám mây, linh hoạt và an toàn chưa bao…
Giới thiệu một số mẫu máy chủ AI của ASUS
Tại triển lãm Computex 2024 ở Đài Bắc vừa qua, ASUS đã trình làng một số máy chủ AI chuyên dụng với khách tham quan sự kiện. Trong đó bao gồm các máy chủ trang bị nền tảng NVIDIA Blackwell mới nhất, như B100, B200, GB200 và máy chủ dựa trên AMD MI300X. Ngoài ra…
Hướng đến tương lai: Generative AI dành cho các giám đốc điều hành
Bối cảnh của trí tuệ nhân tạo (AI) đã thay đổi nhanh chóng, với AI tạo sinh (Genereative AI) nổi lên như một động lực chuyển đổi trong các ngành công nghiệp. Với các giám đốc điều hành đang tìm cách tận dụng công nghệ tiên tiến này để thúc đẩy đổi mới và hiệu…
Phát triển ứng dụng AI tại biên với NVIDIA Jetson AGX Orin & Developer Kit
Giới thiệu về NVIDIA Jetson AGX Orin NVIDIA Jetson AGX Orin, một kỳ quan trong lĩnh vực AI tại biên, đánh dấu bước tiến đáng kể của NVIDIA trong dòng sản phẩm Jetson. Sản phẩm mới nhất này của NVIDIA bao gồm kiến trúc NVIDIA Ampere tiên tiến, thiết lập chuẩn mực mới về hiệu suất…
Mô-đun NVIDIA Jetson AGX Orin và hệ sinh thái thiết bị AI biên
Việc đưa các ứng dụng, sản phẩm AI và robot mới ra thị trường hoặc hỗ trợ các sản phẩm hiện có, có thể là thách thức đối với các nhà phát triển và doanh nghiệp. Gần 30 nhà cung cấp công nghệ trong Mạng lưới đối tác NVIDIA trên toàn thế giới, trong đó có Lanner…