Intel phát hành IPU (Infrastructure Processing Unit), giống như SmartNIC, nhằm tăng cường khả năng xử lý, kết nối mạng và lưu trữ bằng cách giải phóng CPU của máy tính. Trong blog này, bạn sẽ tìm hiểu IPU là gì, nó làm gì và tại sao nó lại quan trọng. Chúng tôi cũng sẽ giới…
AI – HPC
Học sâu với nhiều GPU – Multi-GPU Deep Learning
Đa GPU trong Deep Learning là gì? Học sâu là một tập hợp con của học máy, không dựa vào dữ liệu có cấu trúc để phát triển các mô hình dự đoán chính xác. Phương pháp này sử dụng các mạng thuật toán được mô hình hóa sau các mạng thần kinh trong não để…
5 cách AI có thể định hình lại các Trung tâm Dữ liệu
Chúng ta sẽ cùng tiềm hiểu cách AI có thể tác động đến ngành công nghiệp trung tâm dữ liệu và những thay đổi nào mà chúng ta có thể mong đợi một cách hợp lý trong những năm tới. Gần đây, Trí tuệ Nhân tạo (AI) đã xuất hiện rất nhiều trên các tiêu…
Phần mềm ngăn siêu AI bịa đặt câu trả lời
Phần mềm mới của Nvidia buộc các siêu AI không trả lời lan man, tự sáng tác, tránh chủ đề độc hại và loại bỏ câu lệnh nguy hiểm. Phần mềm NeMo Guardrails, được Nvidia công bố hôm 25/4, được đánh giá là một trong những bước tiến quan trọng của trí tuệ nhân tạo nhằm giải…
NVIDIA đưa suy luận lên cấp độ mới qua các bài kiểm tra MLPerf
GPU NVIDIA H100 và L4 đã đưa AI tạo sinh (Generative AI) và tất cả các workload khác lên một cấp độ mới trong các bài kiểm tra điểm benchmark MLPerf mới nhất, trong khi Jetson AGX Orin cho thấy mức tăng hiệu suất và hiệu quả xử lý đáng kể. MLPerf vẫn là phép…
Vì sao ARM đang dần phổ biến hơn trong các Trung tâm dữ liệu và HPC?
CPU ARM ngày càng trở nên phổ biến hơn đối với các hệ thống điện toán hiệu năng cao (HPC) do tính hiệu quả, mật độ cao, khả năng mở rộng và còn mang đặc tính cloud-native để quản lý các thiết bị IoT. Lĩnh vực Trung tâm Dữ liệu (DC) và HPC đã chứng kiến…
Elon Musk mua hàng nghìn GPU, được dự đoán là NVIDIA H100, cho dự án Generative AI của Twitter
Mặc dù ủng hộ việc ngừng đào tạo AI trong toàn ngành, nhưng Elon Musk được cho là đã khởi động một dự án trí tuệ nhân tạo lớn với Twitter. Công ty đã mua khoảng 10.000 GPU và tuyển dụng nhân tài AI từ DeepMind cho dự án liên quan đến mô hình ngôn ngữ lớn (LLM), Business…
Jetson™ AGX Xavier™ Rugged Fanless PC – MILBOX-XV: Siêu máy tính AI đáng tin cậy cho môi trường quân sự
MISSION SUPERCOMPUTER AT EDGE MILBOX-AGX là một siêu máy tính AI tiên tiến được thiết kế đặc biệt cho các ứng dụng quân sự với tính bền cao. Bộ xử lý NVIDIA® Jetson™ AGX Orin™ mạnh mẽ của MILBOX-AGX có thể mã hóa tối đa sáu luồng 4K ở 60FPS và giải mã tối đa…
Điểm mặt một số thiết bị edge chuyên dụng cho mục đích suy luận AI (inference)
Điện toán biên (Edge computing) là một khái niệm trong lĩnh vực công nghệ thông tin, nó mô tả việc xử lý và lưu trữ dữ liệu và thực hiện các tác vụ trí tuệ nhân tạo (AI) trên các thiết bị tại chỗ, thay vì truyền tải dữ liệu về cloud hoặc data center…
Mạng InfiniBand là gì và sự khác biệt với Ethernet?
Mạng InfiniBand là gì? Hệ thống kiến trúc InfiniBand mang tính hợp nhất của sợi quang vào trung tâm dữ liệu lưu trữ, cung cấp băng thông cao, độ trễ thấp và độ tin cậy cao. InfiniBand là một công nghệ kết nối mạng tiêu chuẩn mở được định nghĩa bởi IBTA, được sử dụng…