Tại CES, NVIDIA đã chính thức giới thiệu NVIDIA® Project DIGITS, một siêu máy tính AI cá nhân, mang đến cho các nhà nghiên cứu AI, nhà khoa học dữ liệu và sinh viên trên toàn thế giới cơ hội tiếp cận AI hiệu suất cao với sức mạnh của nền tảng NVIDIA Grace Blackwell.
Project DIGITS được trang bị NVIDIA GB10 Grace Blackwell Superchip hoàn toàn mới, cung cấp hiệu suất tính toán AI lên đến 1 petaflop, hỗ trợ tối ưu hóa, thử nghiệm và vận hành các mô hình AI lớn.
Với Project DIGITS, người dùng có thể phát triển và triển khai mô hình AI trên hệ thống máy tính cá nhân, sau đó chuyển tiếp một cách mượt mà sang cơ sở hạ tầng điện toán đám mây hoặc trung tâm dữ liệu tăng tốc.
“AI sẽ trở thành xu hướng chủ đạo trong mọi ứng dụng, thuộc mọi ngành nghề. Với Project DIGITS, siêu chip Grace Blackwell sẽ đến tay hàng triệu nhà phát triển,” Jensen Huang, nhà sáng lập và CEO của NVIDIA chia sẻ. “Đặt siêu máy tính AI ngay tại bàn làm việc của các nhà khoa học dữ liệu, nhà nghiên cứu AI và sinh viên sẽ giúp họ tạo dựng và định hình kỷ nguyên AI.”
GB10 Superchip: Hiệu Năng AI 1 Petaflop với hiệu quả cao
GB10 Superchip là hệ thống trên một con chip (SoC) dựa trên kiến trúc NVIDIA Grace Blackwell, cung cấp hiệu suất AI lên đến 1 petaflop tại độ chính xác FP4.
Chip này tích hợp GPU NVIDIA Blackwell thế hệ mới với các nhân CUDA® tiên tiến và nhân Tensor thế hệ thứ năm, kết nối với CPU NVIDIA Grace™ hiệu năng cao thông qua liên kết chip-to-chip NVLink®-C2C. CPU này bao gồm 20 nhân hiệu suất cao, được thiết kế theo kiến trúc Arm. MediaTek, công ty dẫn đầu trong thiết kế SoC Arm, đã hợp tác phát triển GB10, góp phần tối ưu hóa hiệu suất, hiệu quả năng lượng và khả năng kết nối.
GB10 Superchip cho phép Project DIGITS hoạt động với hiệu suất mạnh mẽ chỉ với nguồn điện từ ổ cắm tiêu chuẩn. Mỗi Project DIGITS có 128GB bộ nhớ thống nhất và dung lượng lưu trữ NVMe lên đến 4TB. Với sức mạnh này, các nhà phát triển có thể vận hành các mô hình ngôn ngữ lớn lên đến 200 tỷ tham số, thúc đẩy đổi mới AI. Thông qua kết nối NVIDIA ConnectX®, hai siêu máy tính AI Project DIGITS có thể liên kết để chạy các mô hình lên đến 405 tỷ tham số.
Siêu Máy Tính AI Grace Blackwell trong tầm tay
Với kiến trúc Grace Blackwell, các doanh nghiệp và nhà nghiên cứu có thể thiết kế, tối ưu hóa và thử nghiệm mô hình AI trên các hệ thống Project DIGITS cục bộ chạy hệ điều hành Linux NVIDIA DGX OS, sau đó triển khai lên NVIDIA DGX Cloud™ hoặc hạ tầng trung tâm dữ liệu tăng tốc.
Điều này giúp người dùng dễ dàng phát triển các mô hình AI trên Project DIGITS, sau đó mở rộng quy mô trên nền tảng đám mây hoặc trung tâm dữ liệu, tất cả đều dựa trên kiến trúc Grace Blackwell và nền tảng phần mềm NVIDIA AI Enterprise.
Người dùng Project DIGITS có thể truy cập thư viện phần mềm NVIDIA AI phong phú để thử nghiệm và phát triển, bao gồm các bộ phát triển phần mềm, công cụ điều phối, framework và mô hình trong danh mục NVIDIA NGC và cổng NVIDIA Developer. Các nhà phát triển cũng có thể tối ưu hóa mô hình với NVIDIA NeMo™, tăng tốc xử lý dữ liệu với thư viện NVIDIA RAPIDS™ và sử dụng các framework phổ biến như PyTorch, Python và Jupyter notebooks.
Để xây dựng các ứng dụng AI mạnh mẽ, người dùng còn có thể khai thác NVIDIA Blueprints và các microservices NVIDIA NIM™, sẵn có trong Chương Trình Phát Triển NVIDIA. Khi ứng dụng AI sẵn sàng triển khai trong môi trường sản xuất, giấy phép NVIDIA AI Enterprise cung cấp bảo mật cấp doanh nghiệp, hỗ trợ và các phiên bản phần mềm NVIDIA AI ổn định.
Thời điểm ra mắt
Project DIGITS sẽ được phát hành vào tháng 5 tới từ NVIDIA và các đối tác hàng đầu, với giá khởi điểm từ 3.000 USD. Đăng ký nhận thông báo ngay hôm nay với đội ngũ của NTC chúng tôi.
Nhất Tiến Chung (NTC) hiện là nhà cung cấp các giải pháp hạ tầng CNTT, điện toán hiệu năng cao (HPC) và lưu trữ cho AI. Chúng tôi là đối tác NPN cấp Elite của NVIDIA cho các hệ thống DGX và hệ thống cụm siêu máy tính DGX SuperPOD với sức mạnh lưu trữ song song của DDN và kết nối mạng tốc độ cao từ hãng Mellanox (thuộc NVIDIA).
Với vai trò là đối tác NPN chính thức của NVIDIA, chúng tôi có thể giúp bạn có được các sản phẩm GPU cao cấp nhất của NVIDIA như H100, H100 NVL, L40s,…, đặc biệt là với thực trạng khan hiếm GPU do các hạn chế thương mại về nhập khẩu GPU như hiện nay.
Bạn muốn trở thành đối tác bán hàng NVIDIA của NTC?
Bài viết liên quan