Inference (suy luận) là workload quan trọng trong các ứng dụng của Trí tuệ Nhân tạo. Inference giúp xử lý các tác vụ phân loại, nhận dạng và dự đoán trong thời gian thực trên dữ liệu đầu vào. Nó là một tập hợp các giải pháp công nghệ phần cứng và phần mềm, bao…
Tổng hợp
NVIDIA Hopper tiếp tục dẫn đầu hiệu suất Generative AI trong MLPerf
Các bài test tiêu chuẩn ngành cho thấy các hệ thống dựa trên NVIDIA Hopper chạy phần mềm TensorRT-LLM sẽ cung cấp nền tảng mạnh mẽ nhất thế giới đối với Generative AI. NVIDIA đã cung cấp nền tảng nhanh nhất thế giới trong các bài test tiêu chuẩn ngành về khả năng suy luận…
NVIDIA Omniverse ft Apple Vision Pro: Mở rộng thế giới quan với VR/AR
Một trong những tin tức đáng chú ý tại hội nghị AI toàn cầu GTC 24, NVIDIA vừa giới thiệu bộ công cụ phần mềm mới cho phép các nhà phát triển dễ dàng tích hợp mô hình kỹ thuật số song song thực tế (digital twin) công nghiệp dựa trên OpenUSD vào Apple Vision…
NVIDIA HGX AI Supercomputer: Nền tảng điện toán AI hàng đầu thế giới
Trong thế giới của Trí tuệ Nhân tạo (AI), mô phỏng phức tạp và các tập dữ liệu lớn đòi hỏi nhiều GPU với kết nối nhanh chóng và một bộ cài đặt phần mềm được tối ưu hoàn toàn. Nền tảng siêu máy tính AI NVIDIA HGX™ kết hợp sức mạnh đầy đủ của…
Đơn giản hóa phát triển Generative AI tuỳ chỉnh với NVIDIA NeMo Microservices
Trên toàn cầu, các doanh nghiệp đang dần nhận ra những lợi ích của các mô hình Generative AI (GenAI). Họ đang chạy đua để áp dụng những mô hình này vào nhiều ứng dụng khác nhau, chẳng hạn như chatbot, trợ lý ảo hay các coding copilot,… Mặc dù các mô hình có mục đích chung (general-purpose)…
NVIDIA SuperPOD DGX GB200: Kỷ nguyên của AI nghìn tỷ tham số
Hiện nay các doanh nghiệp đều đang sử dụng trí tuệ nhân tạo tạo ngẫu nhiên để phát triển chatbot và cộng tác viên, cá nhân hóa nội dung, tăng tốc khám phá thuốc, tạo ứng dụng hình ảnh và nhiều hơn nữa. Các mô hình cơ sở tiên tiến ngày nay có hàng nghìn…
Nền tảng NVIDIA Blackwell: Tạo nên kỷ nguyên điện toán mới
GTC24 – Đánh dấu một kỷ nguyên mới của tính toán, tại sự kiện này NVIDIA đã thông báo ra mắt NVIDIA Blackwell — cho phép các tổ chức trên toàn thế giới xây dựng và vận hành Trí tuệ Nhân tạo tạo ngẫu nhiên thời gian thực trên các mô hình ngôn ngữ lớn…
NVIDIA Switches thế hệ mới: Tối ưu hóa cho hạ tầng AI quy mô siêu lớn
Tại sự kiện GTC 24, NVIDIA đã ra mắt dòng switch mới X800, với hiệu suất cao hơn và được tối ưu hóa cho trí tuệ nhân tạo. Đây là các nền tảng mạng đầu tiên trên thế giới có khả năng xử lý thông lượng 800Gb/s từ đầu đến cuối. NVIDIA Quantum-X800 InfiniBand và…
NVIDIA CEO: “Chúng tôi đã tạo ra chip xử lý cho kỷ nguyên AI tạo sinh”
Generative AI hứa hẹn sẽ cách mạng hóa mọi ngành công nghiệp mà nó chạm tới – công nghệ là tất cả những gì cần thiết để đáp ứng thách thức. NVIDIA CEO và founder Jensen Huang đã giới thiệu công nghệ đó – nền tảng điện toán Blackwell mới của công ty – khi…
NVIDIA DGX B200: Nền tảng AI thống nhất cho Training, Fine-tuning và Inference AI
Trí tuệ nhân tạo đang biến đổi gần như mọi doanh nghiệp bằng cách tự động hóa nhiệm vụ, nâng cao dịch vụ khách hàng, tạo ra những thông tin chi tiết và khuyến khích sáng tạo. Đây không còn là một khái niệm tương lai mà là một hiện thực đang thay đổi cách…