Trải nghiệm khi dùng RAGFlow
Sau khi khởi động xong bằng Docker, bạn mở trình duyệt, đăng ký tài khoản và tạo một kho kiến thức (knowledge base). Bạn tải lên hợp đồng, quy trình nội bộ, catalogue sản phẩm. Hệ thống đọc từng tài liệu, chia thành các đoạn và cho bạn xem trực quan cách chia, nếu cần có thể can thiệp bằng tay.
Sau đó bạn tạo một trợ lý trò chuyện, gắn kho kiến thức vào và hỏi như hỏi nhân viên: câu trả lời kèm trích dẫn đến đúng đoạn tài liệu, giúp bạn kiểm tra lại thay vì tin mù quáng. RAGFlow còn có chế độ tìm nhiều bước cho câu hỏi phức tạp, với các mức Low, Medium, High, Ultra.
Điều cần chuẩn bị là nó không có sẵn mô hình AI để trả lời. Bạn phải thêm một mô hình ngôn ngữ, mô hình embedding và reranker, bằng cách nhập tên mô hình, địa chỉ dịch vụ và khoá API ở trang nhà cung cấp. Chọn dịch vụ trả phí hay mô hình chạy tại chỗ là quyết định của bạn.
Tính năng nổi bật
Hiểu tài liệu phức tạp
Rút thông tin từ file có bố cục khó như bảng, nhiều cột, ảnh scan thay vì chỉ cắt chữ thô.
Chia đoạn theo mẫu
Có nhiều mẫu chia đoạn dễ giải thích, và có thể xem trực quan để chỉnh tay.
Trích dẫn nguồn rõ ràng
Câu trả lời dẫn về đoạn tài liệu gốc để bạn kiểm chứng và giảm hiện tượng AI bịa.
Nhiều loại dữ liệu
Word, PowerPoint, Excel, TXT, ảnh, PDF, bản scan, dữ liệu có cấu trúc và trang web.
Tìm kiếm nhiều bước (Agentic)
Mô hình tự chia nhỏ câu hỏi, tìm nhiều vòng và kiểm tra bằng chứng; chọn mức suy nghĩ từ thấp đến cao.
API tích hợp
Cung cấp API để nối vào hệ thống nghiệp vụ có sẵn của công ty.
Tận dụng RAGFlow vào việc gì?
Doanh nghiệp nhỏ, phòng nhân sự
Trợ lý hỏi đáp tài liệu nội bộ
Nhân viên hỏi về quy chế, quy trình và nhận câu trả lời kèm trích dẫn từ tài liệu công ty.
Chủ shop, đội CSKH
Hỗ trợ chăm sóc khách hàng
Nạp catalogue, chính sách đổi trả để chatbot trả lời khách đúng theo tài liệu.
Pháp chế, kế toán
Tra cứu hợp đồng, báo cáo dài
Hỏi nhanh điều khoản hoặc con số nằm sâu trong hàng trăm trang.
Lập trình viên
Xây thử nghiệm RAG cho dự án
Dùng làm nền để thử các chiến lược chia đoạn, embedding và rerank trước khi triển khai thật.
Cần chuẩn bị gì?
- Cấu hình khởi điểm khuyến nghị: 4 nhân CPU, 16 GB RAM và 50 GB ổ cứng trống; nhu cầu thật còn tuỳ lượng tài liệu và số người dùng.
- Docker từ 24.0.0 và Docker Compose từ v2.26.1.
- Nếu dùng Elasticsearch trên Linux: đặt vm.max_map_count tối thiểu 262144.
- Tài khoản và khoá API của nhà cung cấp mô hình (hoặc mô hình chạy tại chỗ) cho LLM, embedding và reranker.
Hướng dẫn cài đặt chi tiết
Cài trên Docker
Cài Docker và Docker Compose. Nếu dùng Elasticsearch trên Linux, kiểm tra vm.max_map_count và đặt lại nếu thấp hơn 262144.
sysctl vm.max_map_count sudo sysctl -w vm.max_map_count=262144Clone repo và vào thư mục docker.
git clone https://github.com/infiniflow/ragflow.git cd ragflow/dockerChọn bản phát hành ổn định theo README (hiện là v1.0.0) rồi khởi động các dịch vụ.
git checkout v1.0.0 docker compose -f docker-compose.yml up -dKiểm tra máy chủ đã sẵn sàng; nhận mã HTTP 200 là xong.
curl -f http://localhost/api/v1/system/healthzMở trình duyệt vào địa chỉ máy bạn (với cấu hình mặc định không cần ghi cổng vì dùng cổng 80), đăng nhập và vào trang nhà cung cấp mô hình để thêm LLM, embedding, reranker cùng khoá API.
Dùng thử lần đầu
Mở trang web, tạo tài khoản và đăng nhập.
Vào trang nhà cung cấp mô hình, nhập tên mô hình, địa chỉ dịch vụ và khoá API (YOUR_API_KEY của dịch vụ bạn chọn) cho LLM, embedding và reranker.
Tạo kho kiến thức mới, tải lên vài file PDF hoặc Word thử, chờ hệ thống đọc xong.
Xem trực quan các đoạn đã chia để kiểm tra chất lượng, chỉnh nếu thấy cắt sai.
Tạo trợ lý trò chuyện, gắn kho kiến thức vào và hỏi vài câu, bấm vào các trích dẫn để đối chiếu tài liệu gốc.
docker logs --tail 50 ragflow-cpu
Mẹo dùng hay
- Nếu khởi động lỗi, lệnh docker logs ở bước trên cho xem 50 dòng nhật ký cuối của container để tìm nguyên nhân.
- Đổi cổng, mật khẩu hoặc công cụ lưu chỉ mục bằng file docker/.env và docker-compose.yml theo tài liệu cấu hình Docker của repo.
- Bắt đầu với vài chục tài liệu thử để chỉnh cách chia đoạn trước khi nạp cả kho tài liệu lớn.
Lưu ý và hạn chế
- RAGFlow không tự đi kèm mô hình AI trả lời: bạn phải cấu hình mô hình và khoá API, có thể tốn phí nếu dùng dịch vụ trả phí.
- README ghi rõ trong bản 1.0 mã nguồn mở, DeepDoc chạy suy luận bằng CPU cho phân tích bố cục, OCR và nhận dạng bảng; tài liệu lớn sẽ xử lý chậm.
- Đây là hệ thống nhiều thành phần; để dùng thật cho cả công ty bạn cần quan tâm sao lưu, bảo mật tài khoản và không mở cổng ra Internet khi chưa có bảo vệ.
Câu hỏi thường gặp
RAGFlow có miễn phí không?
Phần mềm tự cài miễn phí theo giấy phép Apache 2.0. Chi phí phát sinh khi bạn dùng API của dịch vụ AI trả phí, hoặc nếu chọn bản đám mây của họ.
Có dùng được tiếng Việt không?
Khả năng tiếng Việt phụ thuộc vào mô hình embedding và mô hình ngôn ngữ bạn chọn. README không nêu bảng ngôn ngữ riêng, nên hãy thử với tài liệu thật.
Máy cá nhân chạy nổi không?
README khuyến nghị khởi điểm 4 nhân CPU, 16 GB RAM, 50 GB ổ cứng trống. Máy yếu hơn có thể chạy được nhưng chậm, nhất là khi phân tích tài liệu.
Tải mã nguồn về máy
Nếu bạn muốn xem hoặc sửa mã nguồn, mở Terminal (trên Windows là PowerShell) và chạy lệnh dưới. Máy cần cài sẵn Git.
git clone https://github.com/infiniflow/ragflow.gitRepo tương tự nên xem
AnythingLLM
Mintplex-Labs / anything-llm
Ứng dụng AI tất-cả-trong-một: chat với tài liệu của bạn, dùng agent, chạy cục bộ hoặc nối mô hình đám mây
Dify
langgenius / dify
Nền tảng kéo thả để dựng ứng dụng AI, chatbot hỏi đáp tài liệu và quy trình tự động, tự cài bằng Docker
LightRAG
HKUDS / LightRAG
Hệ thống RAG đơn giản và nhanh dựa trên đồ thị tri thức, kèm máy chủ và giao diện web để hỏi đáp tài liệu