Trải nghiệm khi dùng AnythingLLM
Bạn tải bản desktop cho Windows, macOS hoặc Linux ở trang chủ rồi cài như phần mềm thường, mở lên là dùng được. Bạn chọn một mô hình: có thể dùng bộ máy cục bộ tích hợp sẵn (README nói chạy trên CPU hoặc GPU không cần cài thêm), hoặc nhập khoá API của dịch vụ đám mây. Giao diện chia theo không gian làm việc (workspace), mỗi không gian là một chủ đề với bộ tài liệu riêng.
Bạn kéo thả file PDF, Word, TXT vào một workspace, hệ thống tự cắt nhỏ và lập chỉ mục; sau đó bạn hỏi như "điều khoản bảo hành trong hợp đồng này là gì" và nhận câu trả lời kèm nguồn trích dẫn. Cách làm này gọi là RAG (tìm đoạn liên quan rồi mới cho AI trả lời), giúp AI bám vào tài liệu thật của bạn.
Khi cần hơn, bạn bật agent để duyệt web, chạy tác vụ tự động, kết nối MCP, tạo luồng agent không cần viết code, hoặc hẹn lịch chạy. Với công ty, bản Docker hỗ trợ nhiều người dùng với phân quyền và widget chat nhúng vào website.
Tính năng nổi bật
Chat với tài liệu có trích nguồn
Hỗ trợ PDF, TXT, DOCX và nhiều loại khác; kéo thả vào là hỏi được, câu trả lời có nguồn để bạn kiểm tra.
Chạy cục bộ hoặc nối đám mây
Có bộ máy cục bộ tích hợp sẵn và hỗ trợ Ollama, LM Studio, OpenAI, Anthropic, Gemini, DeepSeek, Groq và rất nhiều nhà cung cấp khác.
Agent và công cụ
Agent duyệt web, bộ tạo agent không cần code, tương thích MCP, bộ nhớ tự động và tác vụ theo lịch.
Nhiều người dùng (bản Docker)
Phân quyền người dùng, đổi giao diện theo thương hiệu và nhúng widget chat vào website của bạn.
Cơ sở dữ liệu vector có sẵn
Mặc định dùng LanceDB và bộ nhúng tích hợp sẵn nên không cần cài thêm; có thể đổi sang PGVector, Qdrant, Milvus, Pinecone...
API cho nhà phát triển
Có API đầy đủ để tích hợp vào ứng dụng riêng.
Tận dụng AnythingLLM vào việc gì?
Dân văn phòng, pháp chế, nhân sự
Hỏi đáp hợp đồng, quy trình nội bộ
Đưa hợp đồng, nội quy, quy trình vào một workspace và hỏi nhanh thay vì lật từng trang; vẫn nên kiểm tra nguồn trích.
Chủ shop online
Trợ lý cho cửa hàng
Nạp bảng giá, chính sách đổi trả, mô tả sản phẩm rồi nhúng widget chat vào website để trả lời khách.
Sinh viên
Ôn thi, tổng hợp giáo trình
Nạp sách giáo khoa và bài giảng, hỏi các khái niệm và nhờ tóm tắt theo chương.
IT, doanh nghiệp nhỏ
Nền tảng AI nội bộ cho nhóm
Chạy bản Docker trên một máy chủ, tạo tài khoản cho từng người và gán quyền theo workspace.
Người làm marketing, vận hành
Tự động hoá bằng agent
Tạo luồng agent không cần code để thu thập thông tin, tóm tắt và gửi báo cáo theo lịch.
Cần chuẩn bị gì?
- Bản desktop: Windows, macOS hoặc Linux; tải ở trang chủ chính thức.
- Bản Docker: cần Docker; README gợi ý tối thiểu khoảng 2 GB RAM trên máy chủ đám mây và nên có từ 10 GB ổ cứng.
- Chạy mô hình cục bộ cần RAM hoặc GPU đủ dùng, tuỳ mô hình bạn chọn; README hỗ trợ GPU NVIDIA (CUDA), AMD và Intel (Vulkan).
- Nếu dùng mô hình đám mây: khoá API của nhà cung cấp.
Hướng dẫn cài đặt chi tiết
Cài trên Bản desktop
Vào trang tải chính thức, chọn phiên bản cho Windows, macOS hoặc Linux rồi cài như phần mềm thường.
https://anythingllm.com/downloadTrên macOS: nếu đã có Homebrew, bạn có thể cài nhanh bằng một lệnh trong Terminal.
brew install --cask anythingllmMở ứng dụng, làm theo màn hình chào để chọn mô hình ngôn ngữ (cục bộ hoặc đám mây). Nếu dùng đám mây, dán khoá API vào ô được yêu cầu.
Tạo workspace đầu tiên, tải tài liệu lên rồi bắt đầu hỏi.
Cài trên Docker (Windows)
Cài Docker Desktop. Mở PowerShell và chạy khối lệnh sau theo hướng dẫn Docker của dự án; nó tạo thư mục lưu dữ liệu trong Documents rồi chạy container ở cổng 3001.
$env:STORAGE_LOCATION="$HOME\Documents\anythingllm"; ` If(!(Test-Path $env:STORAGE_LOCATION)) {New-Item $env:STORAGE_LOCATION -ItemType Directory}; ` If(!(Test-Path "$env:STORAGE_LOCATION\.env")) {New-Item "$env:STORAGE_LOCATION\.env" -ItemType File}; ` docker run -d --rm -p 3001:3001 ` --cap-add SYS_ADMIN ` -v "$env:STORAGE_LOCATION`:/app/server/storage" ` -v "$env:STORAGE_LOCATION\.env:/app/server/.env" ` -e STORAGE_DIR="/app/server/storage" ` mintplexlabs/anythingllm;Mở trình duyệt vào http://localhost:3001 và làm theo màn hình thiết lập lần đầu.
http://localhost:3001
Cài trên Docker (Linux/macOS)
Tải ảnh mới nhất, hỗ trợ cả amd64 và arm64.
docker pull mintplexlabs/anythingllmChạy container và gắn thư mục lưu dữ liệu trên máy để khi cập nhật không mất dữ liệu.
export STORAGE_LOCATION=$HOME/anythingllm && \ mkdir -p $STORAGE_LOCATION && \ touch "$STORAGE_LOCATION/.env" && \ docker run -d --rm -p 3001:3001 \ --cap-add SYS_ADMIN \ -v ${STORAGE_LOCATION}:/app/server/storage \ -v ${STORAGE_LOCATION}/.env:/app/server/.env \ -e STORAGE_DIR="/app/server/storage" \ mintplexlabs/anythingllmNếu kết nối tới dịch vụ khác chạy ngay trên máy như Ollama, trong container hãy dùng địa chỉ host.docker.internal thay cho localhost; trên Linux thêm tham số --add-host=host.docker.internal:host-gateway vào lệnh chạy.
Dùng thử lần đầu
Tạo workspace mới, đặt tên theo chủ đề như Chính sách cửa hàng.
Kéo thả vài file PDF hoặc Word vào cửa sổ tải tài liệu rồi chọn đưa vào workspace để hệ thống xử lý và lập chỉ mục.
Hỏi một câu cụ thể về nội dung tài liệu, ví dụ: Thời hạn đổi trả tối đa là bao nhiêu ngày? và xem phần nguồn trích dẫn để đối chiếu.
Bật agent trong cài đặt nếu muốn mô hình duyệt web hoặc dùng công cụ, và thử một yêu cầu đơn giản trước khi giao việc phức tạp.
Mẹo dùng hay
- Nhóm tài liệu theo từng chủ đề vào các workspace riêng để câu trả lời chính xác hơn so với dồn tất cả vào một chỗ.
- Muốn hoàn toàn riêng tư, hãy chọn mô hình cục bộ cùng bộ nhúng và vector DB mặc định, vì các nhà cung cấp đám mây sẽ nhận nội dung bạn gửi.
- Có thể tắt thu thập dữ liệu ẩn danh trong mục Privacy của thanh bên, hoặc đặt DISABLE_TELEMETRY thành true khi dùng Docker.
- Với Docker, luôn gắn thư mục lưu trữ ra ngoài container như hướng dẫn để cập nhật bản mới không làm mất dữ liệu.
Lưu ý và hạn chế
- Chất lượng trả lời phụ thuộc mô hình và chất lượng tài liệu; PDF scan hình ảnh có thể không đọc được chữ tốt nếu không qua OCR.
- README nói ứng dụng có thu thập số liệu ẩn danh (loại cài đặt, sự kiện thêm tài liệu, loại mô hình) và có thể tắt đi; nội dung chat và tài liệu không nằm trong số đó theo mô tả của README.
- Một số tính năng như nhiều người dùng, đổi giao diện thương hiệu và widget nhúng chỉ có ở phiên bản Docker.
Câu hỏi thường gặp
AnythingLLM miễn phí không?
Mã nguồn dùng giấy phép MIT và bản desktop tải miễn phí. Bạn chỉ phải trả phí nếu chọn dịch vụ AI đám mây tính theo mức dùng; dùng mô hình cục bộ thì không tốn phí API.
Có dùng tiếng Việt được không?
Bạn hỏi và nạp tài liệu tiếng Việt được, chất lượng phụ thuộc mô hình ngôn ngữ và bộ nhúng bạn chọn. README không có mục riêng về tiếng Việt nên hãy tự thử.
Tài liệu của tôi có bị gửi ra ngoài không?
Nếu dùng mô hình, bộ nhúng và cơ sở dữ liệu cục bộ thì xử lý trên máy bạn. Nếu chọn nhà cung cấp đám mây thì nội dung bạn hỏi sẽ được gửi tới họ.
Tải mã nguồn về máy
Nếu bạn muốn xem hoặc sửa mã nguồn, mở Terminal (trên Windows là PowerShell) và chạy lệnh dưới. Máy cần cài sẵn Git.
git clone https://github.com/Mintplex-Labs/anything-llm.gitRepo tương tự nên xem
Open WebUI
open-webui / open-webui
Giao diện chat AI kiểu ChatGPT tự cài trên máy của bạn, nối được với Ollama và các API AI khác
Jan
janhq / jan
Ứng dụng thay thế ChatGPT mã nguồn mở, chạy mô hình AI ngay trên máy tính của bạn
Ollama
ollama / ollama
Tải và chạy mô hình AI như Gemma, Qwen, DeepSeek ngay trên máy tính của bạn chỉ với một lệnh