Các máy chủ GPU mang lại lợi ích rất lớn về hiệu suất đối với các ứng dụng Trí tuệ nhân tạo (AI) và điện toán hiệu năng cao (HPC) so với máy chủ truyền thống chỉ có CPU. Rất nhiều các ứng dụng khác nhau có thể được thực thi trên những hệ thống…
Thẻ: gpu
SXM vs PCIe: GPU nào tốt nhất cho đào tạo các mô hình ngôn ngữ lớn (LLM) như GPT-4?
NLP là gì và LLM là gì? Xử lý ngôn ngữ tự nhiên (NLP) là một nhánh của Trí tuệ nhân tạo (AI) cho phép máy móc hiểu và diễn giải ngôn ngữ của con người. Những tiến bộ gần đây trong học sâu đã dẫn đến sự xuất hiện của các mô hình ngôn ngữ…
Những GPU nào tốt nhất cho suy luận AI?
Không có câu trả lời rạch ròi nào cho việc chọn GPU nào là tốt nhất để suy luận AI (inference), vì các GPU khác nhau có thể có những ưu điểm và nhược điểm khác nhau tùy thuộc vào loại, kích thước và độ phức tạp của mô hình bạn muốn chạy. Tuy nhiên,…
Học sâu với nhiều GPU – Multi-GPU Deep Learning
Đa GPU trong Deep Learning là gì? Học sâu là một tập hợp con của học máy, không dựa vào dữ liệu có cấu trúc để phát triển các mô hình dự đoán chính xác. Phương pháp này sử dụng các mạng thuật toán được mô hình hóa sau các mạng thần kinh trong não để…
NVIDIA ra mắt GPU L4 24GB, thay thế cho mẫu GPU NVIDIA Tesla T4 đình đám trước đây
NVIDIA L4 sẽ trở thành mẫu GPU cực kỳ phổ biến vì một lý do đơn giản: form-factor của nó. GPU NVIDIA Tesla T4 đã thành công vang dội khi nó xuất hiện. Nó cung cấp tính năng tensor core và dung lượng bộ nhớ lớn. Lý do thực sự cho sự thành công của Tesla T4…
NVIDIA và Google Cloud tăng tốc AI mạnh mẽ với GPU L4 và Vertex AI
Google Cloud đã tích hợp GPU L4 mới ra mắt của NVIDIA vào Vertex AI để hỗ trợ các công ty đang phát triển các ứng dụng AI tổng quát. Đây là lần đầu tiên mà Google Cloud cung cấp GPU L4 Tensor Core của NVIDIA. GPU L4 sẽ có sẵn với sự hỗ trợ…
Nhu cầu GPU NVIDIA vượt quá nguồn cung khi ChatGPT và các hãng đầu tư mạnh vào AI
Các GPU chuyên xử lý AI của NVIDIA có thể gặp phải tình trạng thiếu hụt do nhu cầu ngày càng tăng từ những gã khổng lồ về AI sử dụng ChatGPT và các công cụ tạo AI khác. ChatGPT và các công cụ tạo ngôn ngữ/hình ảnh/video khác chủ yếu dựa vào khả năng…
5 đều cần cân nhắc khi xây dựng cụm máy chủ GPU xử lý cho AI
Trí tuệ nhân tạo / AI tiếp tục thay đổi cách nhiều công ty kinh doanh và thực hiện các nghiên cứu của mình. Các ứng dụng học sâu không ngừng phát triển và những đơn vị dẫn dầu về AI đang thích ứng với các công nghệ mới, cải thiện hiệu suất và năng lực…
NVIDIA và Dell Technologies mở rộng danh mục sản phẩm AI
Toàn bộ giải pháp phần mềm NVIDIA AI hiện có sẵn trên 15 mẫu máy chủ Dell PowerEdge mới, giúp các doanh nghiệp xây dựng và triển khai các tải xử lý AI nhanh hơn và hiệu quả hơn. Trong dự án hợp tác về AI lớn nhất từ trước đến nay, NVIDIA và Dell…
Tăng Tốc AI và HPC mạnh mẽ với giải pháp Supermicro và GPU Nvidia® H100 thế hệ mới
Trí tuệ nhân tạo (AI) đã và đang ảnh hưởng đến nhiều khía cạnh của cuộc sống hàng ngày với sự tiến bộ của các công nghệ AI, cả về phần cứng và phần mềm. AI luôn tiếp tục phát triển, với các sản phẩm mới và hiệu quả hơn được phát hành và nâng…