Giới thiệu Các hệ thống lớn bao gồm một cụm của các node máy tính không còn xa lạ đối với trung tâm dữ liệu ngày nay. Và gần đây, với những tiến bộ trong điện toán đa mục đích được tăng tốc bằng GPU, nhiều tải xử lý khác nhau có thể được chạy…
AI – HPC
Siêu máy tính Colossus của tỉ phú Elon Musk chính thức hoạt động
Siêu máy tính Colossus của tỉ phú Elon Musk hứa hẹn mang đến sức mạnh AI (trí tuệ nhân tạo) vượt trội. Theo WCCF Tech, công ty trí tuệ nhân tạo xAI do tỉ phú Elon Musk thành lập vừa công bố siêu máy tính Colossus đã chính thức đi vào hoạt động. Được trang bị…
Tìm hiểu tại sao triển khai on-premises có thể giúp vượt qua 6 thách thức quan trọng của AI
Phần cứng và phần mềm tích hợp chặt chẽ với nhau, cùng các hỗ trợ chuyên môn từ chuyên gia cho phép các doanh nghiệp dễ dàng mở rộng quy mô ứng dụng AI. Trong nhiều lĩnh vực, các doanh nghiệp hiện nay cần một con đường nhanh chóng, tiết kiệm chi phí để ứng…
Tôi có cần CPU kép không?
Bạn đang tìm kiếm một chiếc máy trạm, hay máy chủ HPC cho tải xử lý của mình để tăng tốc công việc? Bạn tự hỏi liệu có nên sử dụng hệ thống cấu hình CPU kép (dual-CPU) để có hiệu suất cao hơn không? Bài này sẽ làm rõ một số vấn đề trong…
Những lợi ích của việc chạy suy luận AI ngay tại biên, thay vì trong trung tâm dữ liệu
Chuyển đổi suy luận AI từ nền tảng đám mây (Cloud) sang môi trường biên (Edge) tăng cường khả năng ra quyết định theo thời gian thực bằng cách đưa quá trình xử lý dữ liệu đến gần hơn với các nguồn dữ liệu. Đối với các doanh nghiệp, sự thay đổi này làm giảm…
Xây dựng hệ thống dữ liệu hiệu suất cao cho AI với VAST Data Platform
Hiện nay, vẫn còn hiều người nghĩ rằng trí tuệ nhân tạo (AI) chỉ xoay quanh GPU, nhưng đây chỉ là một phần nhỏ của toàn bộ câu chuyện. Đúng là việc huấn luyện mô hình nền tảng tiêu tốn nhiều tài nguyên từ GPU, và tùy thuộc vào lượng dữ liệu cũng như kích…
CPU cho các hệ thống hiệu suất cao: Số lượng nhân so với tốc độ xung nhịp
Số lượng nhân và tốc độ xung nhịp ảnh hưởng đến hiệu suất như thế nào? Khi cấu hình một hệ thống, CPU – bộ não của máy tính – là ưu tiên hàng đầu. Đối với dòng vi xử lý AMD Ryzen và Intel Core, cấu trúc sản phẩm rất dễ hiểu: Bộ xử…
Edge AI: Lợi ích và các ứng dụng
Kết hợp giữa Điện toán biên (Edge Computing) và Trí tuệ nhân tạo(AI), Edge AI là hệ thống sử dụng thuật toán Học máy để xử lý dữ liệu do thiết bị phần cứng thực hiện ở cấp độ cục bộ. Điện toán biên là một bộ khung điện toán phân tán hoạt động trên…
LLM: Lịch sử và tương lai của các mô hình ngôn ngữ lớn
Sự ra đời của LLM – NLP và Neural Networks Việc tạo ra các Mô hình ngôn ngữ lớn không diễn ra trong một sớm một chiều. Đáng chú ý là khái niệm đầu tiên về các mô hình ngôn ngữ bắt đầu với các hệ thống dựa trên quy tắc được gọi là Xử…
LM Studio – Chạy Generative AI trên máy tính của riêng bạn
Giới thiệu Sự xuất hiện của các Mô hình ngôn ngữ lớn (LLM) đã mang lại sự tiến bộ đáng kể trong xử lý ngôn ngữ tự nhiên (NLP), cho phép máy móc hiểu và tương tác tốt hơn với con người. Trong số đó, các mô hình nguồn mở nổi bật như Mistral 7B,…