Khi AI tạo sinh (Generative AI) và các Mô hình ngôn ngữ lớn (LLMs) tiếp tục thúc đẩy sự đổi mới, các yêu cầu điện toán cho hoạt động đào tạo (training) và suy luận (inference) đã tăng lên với tốc độ đáng kinh ngạc. Để đáp ứng nhu cầu đó, Google Cloud hôm nay…
Thẻ: gpu
Tất cả bạn cần là chỉ một GPU: Đánh giá hiệu suất inference cho Stable Diffusion
Những gì tôi cần để chạy các mô hình text-to-image mới nhất? Liệu có thể dùng các card gaming để thực hiện công việc này? Hay phải cần đến một chiếc GPU A100 cao cấp? Nếu hệ thống chỉ có một CPU thì sao? Đây là những câu hỏi thường xuyên gặp phải khi khách…
SXM vs PCIe: GPU nào tốt nhất cho đào tạo các mô hình ngôn ngữ lớn (LLM) như GPT-4?
NLP là gì và LLM là gì? Xử lý ngôn ngữ tự nhiên (NLP) là một nhánh của Trí tuệ nhân tạo (AI) cho phép máy móc hiểu và diễn giải ngôn ngữ của con người. Những tiến bộ gần đây trong học sâu đã dẫn đến sự xuất hiện của các mô hình ngôn ngữ…
Những GPU nào tốt nhất cho suy luận AI?
Không có câu trả lời rạch ròi nào cho việc chọn GPU nào là tốt nhất để suy luận AI (inference), vì các GPU khác nhau có thể có những ưu điểm và nhược điểm khác nhau tùy thuộc vào loại, kích thước và độ phức tạp của mô hình bạn muốn chạy. Tuy nhiên,…
Học sâu với nhiều GPU – Multi-GPU Deep Learning
Đa GPU trong Deep Learning là gì? Học sâu là một tập hợp con của học máy, không dựa vào dữ liệu có cấu trúc để phát triển các mô hình dự đoán chính xác. Phương pháp này sử dụng các mạng thuật toán được mô hình hóa sau các mạng thần kinh trong não để…
NVIDIA ra mắt GPU L4 24GB, thay thế cho mẫu GPU NVIDIA Tesla T4 đình đám trước đây
NVIDIA L4 sẽ trở thành mẫu GPU cực kỳ phổ biến vì một lý do đơn giản: form-factor của nó. GPU NVIDIA Tesla T4 đã thành công vang dội khi nó xuất hiện. Nó cung cấp tính năng tensor core và dung lượng bộ nhớ lớn. Lý do thực sự cho sự thành công của Tesla T4…
Nhu cầu GPU NVIDIA vượt quá nguồn cung khi ChatGPT và các hãng đầu tư mạnh vào AI
Các GPU chuyên xử lý AI của NVIDIA có thể gặp phải tình trạng thiếu hụt do nhu cầu ngày càng tăng từ những gã khổng lồ về AI sử dụng ChatGPT và các công cụ tạo AI khác. ChatGPT và các công cụ tạo ngôn ngữ/hình ảnh/video khác chủ yếu dựa vào khả năng…
5 đều cần cân nhắc khi xây dựng cụm máy chủ GPU xử lý cho AI
Trí tuệ nhân tạo / AI tiếp tục thay đổi cách nhiều công ty kinh doanh và thực hiện các nghiên cứu của mình. Các ứng dụng học sâu không ngừng phát triển và những đơn vị dẫn dầu về AI đang thích ứng với các công nghệ mới, cải thiện hiệu suất và năng lực…
NVIDIA và Dell Technologies mở rộng danh mục sản phẩm AI
Toàn bộ giải pháp phần mềm NVIDIA AI hiện có sẵn trên 15 mẫu máy chủ Dell PowerEdge mới, giúp các doanh nghiệp xây dựng và triển khai các tải xử lý AI nhanh hơn và hiệu quả hơn. Trong dự án hợp tác về AI lớn nhất từ trước đến nay, NVIDIA và Dell…
Tăng Tốc AI và HPC mạnh mẽ với giải pháp Supermicro và GPU Nvidia® H100 thế hệ mới
Trí tuệ nhân tạo (AI) đã và đang ảnh hưởng đến nhiều khía cạnh của cuộc sống hàng ngày với sự tiến bộ của các công nghệ AI, cả về phần cứng và phần mềm. AI luôn tiếp tục phát triển, với các sản phẩm mới và hiệu quả hơn được phát hành và nâng…