NLP là gì và LLM là gì? Xử lý ngôn ngữ tự nhiên (NLP) là một nhánh của Trí tuệ nhân tạo (AI) cho phép máy móc hiểu và diễn giải ngôn ngữ của con người. Những tiến bộ gần đây trong học sâu đã dẫn đến sự xuất hiện của các mô hình ngôn ngữ…
Máy chủ ASUS với Bộ Vi xử lý và Giải pháp làm mát bằng chất lỏng thế hệ mới: Hiệu năng vượt trội và tối ưu
ASUS, một trong những nhà cung cấp hàng đầu về giải pháp máy chủ, đã đưa ra một dòng sản phẩm máy chủ đột phá với hiệu suất vượt trội và các giải pháp làm mát tiên tiến. Thông qua việc sử dụng bộ vi xử lý Intel® Xeon® Scalable thế hệ thứ 4, cùng…
AI, Digital Twin kích hoạt làn sóng mới về nghiên cứu khí hậu
CEO NVIDIA Jensen Huang vừa có bài trình bày về chủ đề này tại sự kiện Berlin Summit về các sáng kiến và công cụ “ảo hóa trái đất” (Earth Virtualization). “AI và điện toán tăng tốc sẽ giúp các nhà nghiên cứu khí hậu vươn tới những điều kỳ diệu mà họ cần để…
Hệ thống phát triển AI làm mát bằng chất lỏng (Liquid Cooled AI) của Supermicro và Nvidia: Giải pháp AI hiệu năng cao cho môi trường văn phòng
Trí tuệ nhân tạo (AI) ngày càng phổ biến, nhanh chóng trở thành một công nghệ thiết yếu được sử dụng trong nhiều ngành công nghiệp khác nhau và các nhà phát triển, khoa học sẽ rất cần các hạ tầng AI tiên tiến để thực thi và phát triển các ứng dụng mới. Với SYS-751GE-TNRT-NV1, nền…
NVIDIA H100 đặt tiêu chuẩn cho Generative AI với điểm benchmark MLPerf
Người dùng chuyên sâu và các chuẩn benchmark đầu ngành đều cho thấy: Các GPU NVIDIA H100 Tensor Core mang lại hiệu suất AI tốt nhất, đặc biệt là trên các mô hình ngôn ngữ lớn (LLM) – thứ cung cấp sức mạnh cho AI tạo sinh (Generative AI). GPU NVIDIA H100 đã thiết lập những…
Đánh giá dòng máy chủ Dell PowerEdge R760
Dell PowerEdge R760 là máy chủ 2U rackmount hỗ trợ hai chip xử lý Intel Xeon thế hệ thứ 4, hỗ trợ lên đến 24 ổ cứng NVMe, bao gồm cả các nền tảng SSD chuẩn EDSFF E3.S mới. Các SSD E3.S là form factor Gen5 duy nhất mà Dell hỗ trợ trên nền tảng này, trong khi…
Supermicro ra mắt MicroCloud, hệ thống 3U 8-node mật độ cao sử dụng bộ xử lý AMD Ryzen Zen 4 7000 Series
Supermicro Inc., Nhà cung cấp giải pháp CNTT toàn diện cho Đám mây, AI/ML, Lưu trữ và 5G/Edge, vừa giới thiệu một máy chủ mới mang đến cho các chủ sở hữu trung tâm dữ liệu và hạ tầng CNTT một giải pháp hiệu suất cao và có thể mở rộng để đáp ứng nhu…
HPE GreenLake for Large Language Models: Mang AI đến với nhiều tổ chức hơn
Hãng công nghệ hàng đầu Hewlett Packard Enterprise (HPE) đã thực hiện những bước đầu tiên trong làn sóng AI Cloud bằng việc ra mắt HPE GreenLake for Large Language Models (LLMs). Dịch vụ cloud tiên tiến này nhằm mục đích cung cấp các khả năng triển khai, tinh chỉnh và đào tạo mô hình AI…
Điện toán đám mây trở nên nhanh hơn với PowerEdge và AMD
Những tiến bộ trong công nghệ đang cho phép các công ty phát triển mạnh trong môi trường cạnh tranh ngày nay. Các công ty đang hiện đại hóa hạ tầng CNTT của họ bằng công nghệ máy chủ mới – có thể xử lý một loạt các ứng dụng doanh nghiệp đòi hỏi khắt khe…
Những GPU nào tốt nhất cho suy luận AI?
Không có câu trả lời rạch ròi nào cho việc chọn GPU nào là tốt nhất để suy luận AI (inference), vì các GPU khác nhau có thể có những ưu điểm và nhược điểm khác nhau tùy thuộc vào loại, kích thước và độ phức tạp của mô hình bạn muốn chạy. Tuy nhiên,…