Tại sự kiện SIGGRAPH 2023, NVIDIA đã chính thức giới thiệu máy chủ NVIDIA OVX™ trang bị GPU mới NVIDIA® L40S, một bộ xử lý trung tâm dữ liệu mạnh mẽ và đa năng, được thiết kế để tăng tốc các ứng dụng phức tạp nhất, đòi hỏi nhiều tính toán, bao gồm đào tạo…
Tag: gpu
Tất cả bạn cần là chỉ một GPU: Đánh giá hiệu suất inference cho Stable Diffusion
Những gì tôi cần để chạy các mô hình text-to-image mới nhất? Liệu có thể dùng các card gaming để thực hiện công việc này? Hay phải cần đến một chiếc GPU A100 cao cấp? Nếu hệ thống chỉ có một CPU thì sao? Đây là những câu hỏi thường xuyên gặp phải khi khách…
Cấu hình tối ưu cho tải xử lý hiệu năng cao trên các máy chủ GPU PCIe Supermicro
Các máy chủ GPU mang lại lợi ích rất lớn về hiệu suất đối với các ứng dụng Trí tuệ nhân tạo (AI) và điện toán hiệu năng cao (HPC) so với máy chủ truyền thống chỉ có CPU. Rất nhiều các ứng dụng khác nhau có thể được thực thi trên những hệ thống…
SXM vs PCIe: GPU nào tốt nhất cho đào tạo các mô hình ngôn ngữ lớn (LLM) như GPT-4?
NLP là gì và LLM là gì? Xử lý ngôn ngữ tự nhiên (NLP) là một nhánh của Trí tuệ nhân tạo (AI) cho phép máy móc hiểu và diễn giải ngôn ngữ của con người. Những tiến bộ gần đây trong học sâu đã dẫn đến sự xuất hiện của các mô hình ngôn ngữ…
Những GPU nào tốt nhất cho suy luận AI?
Không có câu trả lời rạch ròi nào cho việc chọn GPU nào là tốt nhất để suy luận AI (inference), vì các GPU khác nhau có thể có những ưu điểm và nhược điểm khác nhau tùy thuộc vào loại, kích thước và độ phức tạp của mô hình bạn muốn chạy. Tuy nhiên,…
Học sâu với nhiều GPU – Multi-GPU Deep Learning
Đa GPU trong Deep Learning là gì? Học sâu là một tập hợp con của học máy, không dựa vào dữ liệu có cấu trúc để phát triển các mô hình dự đoán chính xác. Phương pháp này sử dụng các mạng thuật toán được mô hình hóa sau các mạng thần kinh trong não để…
NVIDIA ra mắt GPU L4 24GB, thay thế cho mẫu GPU NVIDIA Tesla T4 đình đám trước đây
NVIDIA L4 sẽ trở thành mẫu GPU cực kỳ phổ biến vì một lý do đơn giản: form-factor của nó. GPU NVIDIA Tesla T4 đã thành công vang dội khi nó xuất hiện. Nó cung cấp tính năng tensor core và dung lượng bộ nhớ lớn. Lý do thực sự cho sự thành công của Tesla T4…
NVIDIA và Google Cloud tăng tốc AI mạnh mẽ với GPU L4 và Vertex AI
Google Cloud đã tích hợp GPU L4 mới ra mắt của NVIDIA vào Vertex AI để hỗ trợ các công ty đang phát triển các ứng dụng AI tổng quát. Đây là lần đầu tiên mà Google Cloud cung cấp GPU L4 Tensor Core của NVIDIA. GPU L4 sẽ có sẵn với sự hỗ trợ…
Nhu cầu GPU NVIDIA vượt quá nguồn cung khi ChatGPT và các hãng đầu tư mạnh vào AI
Các GPU chuyên xử lý AI của NVIDIA có thể gặp phải tình trạng thiếu hụt do nhu cầu ngày càng tăng từ những gã khổng lồ về AI sử dụng ChatGPT và các công cụ tạo AI khác. ChatGPT và các công cụ tạo ngôn ngữ/hình ảnh/video khác chủ yếu dựa vào khả năng…
5 đều cần cân nhắc khi xây dựng cụm máy chủ GPU xử lý cho AI
Trí tuệ nhân tạo / AI tiếp tục thay đổi cách nhiều công ty kinh doanh và thực hiện các nghiên cứu của mình. Các ứng dụng học sâu không ngừng phát triển và những đơn vị dẫn dầu về AI đang thích ứng với các công nghệ mới, cải thiện hiệu suất và năng lực…