NVIDIA NeMo framework là gì? NVIDIA NeMo, một phần của nền tảng NVIDIA AI, là một framework phát triển ứng dụng AI toàn diện cấp doanh nghiệp, cloud-native, xây dựng có mục đích cho việc tùy biến và triển khai các mô hình AI tạo sinh (Generative AI) với hàng tỷ tham số. Framework NeMo cung cấp…
AI – HPC
Generative AI mở ra kỷ nguyên mới về hiệu quả trong các ngành công nghiệp
Một bước ngoặt vào ngày 22 tháng 11 năm 2022, phần lớn diễn ra trên không gian mạng, nhưng nó đã làm rung chuyển nền móng của hầu hết mọi ngành công nghiệp trên thế giới. Vào ngày đó, OpenAI đã phát hành ChatGPT, chatbot Trí tuệ nhân tạo tiên tiến nhất từng được phát triển. Việc…
SXM vs PCIe: GPU nào tốt nhất cho đào tạo các mô hình ngôn ngữ lớn (LLM) như GPT-4?
NLP là gì và LLM là gì? Xử lý ngôn ngữ tự nhiên (NLP) là một nhánh của Trí tuệ nhân tạo (AI) cho phép máy móc hiểu và diễn giải ngôn ngữ của con người. Những tiến bộ gần đây trong học sâu đã dẫn đến sự xuất hiện của các mô hình ngôn ngữ…
Máy chủ ASUS với Bộ Vi xử lý và Giải pháp làm mát bằng chất lỏng thế hệ mới: Hiệu năng vượt trội và tối ưu
ASUS, một trong những nhà cung cấp hàng đầu về giải pháp máy chủ, đã đưa ra một dòng sản phẩm máy chủ đột phá với hiệu suất vượt trội và các giải pháp làm mát tiên tiến. Thông qua việc sử dụng bộ vi xử lý Intel® Xeon® Scalable thế hệ thứ 4, cùng…
AI, Digital Twin kích hoạt làn sóng mới về nghiên cứu khí hậu
CEO NVIDIA Jensen Huang vừa có bài trình bày về chủ đề này tại sự kiện Berlin Summit về các sáng kiến và công cụ “ảo hóa trái đất” (Earth Virtualization). “AI và điện toán tăng tốc sẽ giúp các nhà nghiên cứu khí hậu vươn tới những điều kỳ diệu mà họ cần để…
Hệ thống phát triển AI làm mát bằng chất lỏng (Liquid Cooled AI) của Supermicro và Nvidia: Giải pháp AI hiệu năng cao cho môi trường văn phòng
Trí tuệ nhân tạo (AI) ngày càng phổ biến, nhanh chóng trở thành một công nghệ thiết yếu được sử dụng trong nhiều ngành công nghiệp khác nhau và các nhà phát triển, khoa học sẽ rất cần các hạ tầng AI tiên tiến để thực thi và phát triển các ứng dụng mới. Với SYS-751GE-TNRT-NV1, nền…
NVIDIA H100 đặt tiêu chuẩn cho Generative AI với điểm benchmark MLPerf
Người dùng chuyên sâu và các chuẩn benchmark đầu ngành đều cho thấy: Các GPU NVIDIA H100 Tensor Core mang lại hiệu suất AI tốt nhất, đặc biệt là trên các mô hình ngôn ngữ lớn (LLM) – thứ cung cấp sức mạnh cho AI tạo sinh (Generative AI). GPU NVIDIA H100 đã thiết lập những…
HPE GreenLake for Large Language Models: Mang AI đến với nhiều tổ chức hơn
Hãng công nghệ hàng đầu Hewlett Packard Enterprise (HPE) đã thực hiện những bước đầu tiên trong làn sóng AI Cloud bằng việc ra mắt HPE GreenLake for Large Language Models (LLMs). Dịch vụ cloud tiên tiến này nhằm mục đích cung cấp các khả năng triển khai, tinh chỉnh và đào tạo mô hình AI…
Những GPU nào tốt nhất cho suy luận AI?
Không có câu trả lời rạch ròi nào cho việc chọn GPU nào là tốt nhất để suy luận AI (inference), vì các GPU khác nhau có thể có những ưu điểm và nhược điểm khác nhau tùy thuộc vào loại, kích thước và độ phức tạp của mô hình bạn muốn chạy. Tuy nhiên,…
Dell và NVIDIA mang Generative AI đến gần hơn với doanh nghiệp
Sự gia tăng mạnh mẽ về mức độ phổ biến xung quanh ChatGPT và Generative AI (hay GenAI) đang đạt đến đỉnh cao về lợi ích của khách hàng và doanh nghiệp. Các doanh nghiệp nhận thấy tiềm năng gia tăng năng suất thực tiễn với GenAI, mở khóa giá trị dữ liệu giúp tăng tốc…