Yêu cầu về phần cứng khác nhau đối với AI, học máy và các tải xử lý tính toán chuyên sâu khác. Bài viết này sẽ tìm hiểu các mẫu GPU chuyên dụng cho AI và các thông số kỹ thuật của chúng. Các nhà sản xuất chip đang đều đặn tung các GPU mới…
AI – HPC
So sánh các GPU Tensor Core của NVIDIA: B200, B100, H200, H100, A100
NVIDIA Tensor Core là GPU gì? Theo tên chính thức của dòng Tesla, GPU NVIDIA Tensor Core là dòng GPU tiêu chuẩn vàng cho các phép tính AI nhờ kiến trúc độc đáo được thiết kế riêng để thực hiện các phép tính trong AI và mạng nơ-ron. Tensor là kiểu dữ liệu cơ bản…
LLM: Lịch sử và tương lai của các mô hình ngôn ngữ lớn
Sự ra đời của LLM – NLP và Neural Networks Việc tạo ra các Mô hình ngôn ngữ lớn không diễn ra trong một sớm một chiều. Đáng chú ý là khái niệm đầu tiên về các mô hình ngôn ngữ bắt đầu với các hệ thống dựa trên quy tắc được gọi là Xử…
LM Studio – Chạy Generative AI trên máy tính của riêng bạn
Giới thiệu Sự xuất hiện của các Mô hình ngôn ngữ lớn (LLM) đã mang lại sự tiến bộ đáng kể trong xử lý ngôn ngữ tự nhiên (NLP), cho phép máy móc hiểu và tương tác tốt hơn với con người. Trong số đó, các mô hình nguồn mở nổi bật như Mistral 7B,…
NVIDIA giới thiệu nền tảng microservice Metropolis để chạy ứng dụng Edge AI trên Jetson
Xây dựng các ứng dụng AI thị giác (Vision AI) cho môi trường biên thường đi kèm với các chu kỳ phát triển tốn kém và dong dài. Đồng thời, việc phát triển nhanh chóng các ứng dụng AI biên (Edge AI) có tính năng thuần đám mây, linh hoạt và an toàn chưa bao…
Giới thiệu một số mẫu máy chủ AI của ASUS
Tại triển lãm Computex 2024 ở Đài Bắc vừa qua, ASUS đã trình làng một số máy chủ AI chuyên dụng với khách tham quan sự kiện. Trong đó bao gồm các máy chủ trang bị nền tảng NVIDIA Blackwell mới nhất, như B100, B200, GB200 và máy chủ dựa trên AMD MI300X. Ngoài ra…
Hướng đến tương lai: Generative AI dành cho các giám đốc điều hành
Bối cảnh của trí tuệ nhân tạo (AI) đã thay đổi nhanh chóng, với AI tạo sinh (Genereative AI) nổi lên như một động lực chuyển đổi trong các ngành công nghiệp. Với các giám đốc điều hành đang tìm cách tận dụng công nghệ tiên tiến này để thúc đẩy đổi mới và hiệu…
Phát triển ứng dụng AI tại biên với NVIDIA Jetson AGX Orin & Developer Kit
Giới thiệu về NVIDIA Jetson AGX Orin NVIDIA Jetson AGX Orin, một kỳ quan trong lĩnh vực AI tại biên, đánh dấu bước tiến đáng kể của NVIDIA trong dòng sản phẩm Jetson. Sản phẩm mới nhất này của NVIDIA bao gồm kiến trúc NVIDIA Ampere tiên tiến, thiết lập chuẩn mực mới về hiệu suất…
Mô-đun NVIDIA Jetson AGX Orin và hệ sinh thái thiết bị AI biên
Việc đưa các ứng dụng, sản phẩm AI và robot mới ra thị trường hoặc hỗ trợ các sản phẩm hiện có, có thể là thách thức đối với các nhà phát triển và doanh nghiệp. Gần 30 nhà cung cấp công nghệ trong Mạng lưới đối tác NVIDIA trên toàn thế giới, trong đó có Lanner…
Xây dựng mô hình ngôn ngữ lớn (LLM) riêng tư, an toàn trên mạng 5G riêng
Sự tích hợp của AI và điện toán biên đã mở ra nhiều khả năng trong nhiều lĩnh vực khác nhau. Một ứng dụng đặc biệt mang tính biến chuyển đó chính là triển khai các Mô hình ngôn ngữ lớn (LLM) trên các mạng 5G riêng (private network). Sự kết hợp này không chỉ…