Tạo chatbot trên dữ liệu của riêng bạn với NVIDIA ChatRTX

ChatRTX là gì?

ChatRTX là một ứng dụng demo cho phép bạn cá nhân hóa mô hình ngôn ngữ lớn GPT (LLM) được kết nối với nội dung của riêng bạn — tài liệu, ghi chú, hình ảnh hoặc các dữ liệu khác. Tận dụng công nghệ Retrieval-Augmented Generation (RAG), TensorRT-LLM và RTX, bạn có thể truy vấn một chatbot tùy biến để nhanh chóng nhận được câu trả lời phù hợp với ngữ cảnh. Và vì tất cả đều chạy cục bộ trên PC hoặc máy trạm Windows với RTX nên bạn sẽ nhận được kết quả nhanh chóng và an toàn.

Trò chuyện với các tài liệu của chính bạn

ChatRTX hỗ trợ nhiều định dạng tài liệu khác nhau, bao gồm cả txt, pdf, doc/docx, jpg, png, gif và xml. Chỉ cần trỏ ứng dụng vào thư mục chứa các tập tin của bạn và nó sẽ tải chúng vào thư viện chỉ trong vài giây.

Nói chuyện với ChatRTX

ChatRTX có hệ thống nhận dạng giọng nói tự động sử dụng AI để xử lý ngôn ngữ nói và cung cấp phản hồi bằng văn bản với sự hỗ trợ cho nhiều ngôn ngữ. Chỉ cần nhấp vào biểu tượng micro và nói chuyện với ChatRTX để bắt đầu.

Tìm kiếm ảnh chụp và đồ họa

Hãy để ChatRTX thực hiện công việc đó — sắp xếp album ảnh của bạn bằng tìm kiếm bằng văn bản hoặc giọng nói đơn giản, giữ mọi thứ ở chế độ riêng tư và không gặp rắc rối.

Xem video – ChatRTX in action

Giới thiệu ChatRTX

ChatRTX Update: Voice, Image, and new Model Support

Trải nghiệm ChatRTX với máy trạm gắn GPU RTX 3080 Ti tại NTC

Tại NTC chúng tôi đã thử nghiệm cài đặt phần mềm ChatRTX trên máy trạm gắn card GPU RTX 3080 Ti và đã cho kết quả ngoài mong đợi.

Tất cả những gì cần làm là: tải xuống bộ cài đặt, ấn định đường dẫn đến thư mục chứa tài liệu, và ngay lập tức có thể bắt đầu nhập vào ô truy vấn để hỏi ngay chatbot của mình.

Thử nghiệm một số câu truy vấn tìm thông số kỹ thuật của máy chủ DGX H100, ngay lập tức ChatRTX trả về kết quả chính xác được “moi” trong file datasheet (PDF) của DGX H100.

Ở thử nghiệm khác, một câu hỏi có nội dung câu trả lời được tổng hợp từ nhiều file khác nhau. Cho thấy ChatRTX không chỉ đơn giản là lục lọi từ khóa, mà nó hoàn toàn có khả năng tổng hợp trên toàn bộ tập dữ liệu được chỉ định.

Chúng tôi có thử nhập câu hỏi bằng tiếng Việt, và ChatRTX cũng hiểu chính xác ý định của câu hỏi, dù kết quả trả về là tiếng Anh như trong tài liệu nguồn.

Như vậy, có thể thấy tính ứng dụng của ChatRTX rất cao. Đặc biệt là đối với những cá nhân hay công ty đang sở hữu một thư viện tài liệu chuyên ngành lớn, có nhu cầu truy lục nhanh chóng câu trả lời bằng câu hỏi thân thiện như người với người. Việc cài đặt cũng đơn giản với vài cú nhấp chuột, không đòi hỏi kỹ năng chuyên môn gì.

Download NVIDIA ChatRTX

Chỉ cần tải xuống, cài đặt và bắt đầu nói chuyện với chatbot của bạn ngay và luôn!

Tải xuống bản cài đặt ChatRTX

Yêu cầu hệ thống

Platform	Windows
GPU	NVIDIA GeForce™ RTX 30 or 40 Series GPU or NVIDIA RTX™ Ampere or Ada Generation GPU with at least 8GB of VRAM
RAM	16GB or greater
OS	Windows 11
Driver	535.11 or later
File Size	12GB

Hỗ trợ

User Guide

Help

Nhất Tiến Chung (NTC) hiện là nhà cung cấp các giải pháp hạ tầng CNTT, Điện toán Hiệu năng cao (HPC) cho AI với kinh nghiệm kinh doanh phần cứng từ năm 2005. Chúng tôi là đối tác NPN cấp Elite (2022) chính thức của NVIDIA cho các hệ thống DGX (DGX A100, DGX Station A100) và hệ thống cụm siêu máy tính DGX SuperPOD với sức mạnh lưu trữ song song của DDN và kết nối mạng tốc độ cao từ hãng Mellanox (thuộc NVIDIA).

Bạn muốn trở thành đối tác bán hàng NVIDIA của NTC?

Đăng ký ngay

____
Bài viết liên quan