Chuyển đến nội dung

Mintplex-Labs / anything-llm

AnythingLLM

Ứng dụng AI tất-cả-trong-một: chat với tài liệu của bạn, dùng agent, chạy cục bộ hoặc nối mô hình đám mây

AnythingLLM là ứng dụng giúp bạn dựng một ChatGPT riêng: kéo thả PDF, Word, TXT vào, rồi hỏi đáp có trích nguồn. Bạn cắm mô hình chạy trên máy (Ollama, LM Studio, bộ máy tích hợp sẵn) hoặc mô hình đám mây (OpenAI, Anthropic, Gemini...). Có bản desktop cài như phần mềm thường và bản Docker nhiều người dùng.

  • 68.333 sao
  • 7.718 fork
  • JavaScript
  • Cập nhật 3 ngày trước
  • MIT (dùng tự do, kể cả thương mại)
Độ khó
Dễ Cài như phần mềm thường
Dạng
Ứng dụng máy tính, Web tự cài (self-host)
Chạy trên
Windows, macOS, Linux, Docker, Android
Chi phí
Miễn phí (trả phí API AI nếu dùng)

Trải nghiệm khi dùng AnythingLLM

Bạn tải bản desktop cho Windows, macOS hoặc Linux ở trang chủ rồi cài như phần mềm thường, mở lên là dùng được. Bạn chọn một mô hình: có thể dùng bộ máy cục bộ tích hợp sẵn (README nói chạy trên CPU hoặc GPU không cần cài thêm), hoặc nhập khoá API của dịch vụ đám mây. Giao diện chia theo không gian làm việc (workspace), mỗi không gian là một chủ đề với bộ tài liệu riêng.

Bạn kéo thả file PDF, Word, TXT vào một workspace, hệ thống tự cắt nhỏ và lập chỉ mục; sau đó bạn hỏi như "điều khoản bảo hành trong hợp đồng này là gì" và nhận câu trả lời kèm nguồn trích dẫn. Cách làm này gọi là RAG (tìm đoạn liên quan rồi mới cho AI trả lời), giúp AI bám vào tài liệu thật của bạn.

Khi cần hơn, bạn bật agent để duyệt web, chạy tác vụ tự động, kết nối MCP, tạo luồng agent không cần viết code, hoặc hẹn lịch chạy. Với công ty, bản Docker hỗ trợ nhiều người dùng với phân quyền và widget chat nhúng vào website.

Tính năng nổi bật

Chat với tài liệu có trích nguồn

Hỗ trợ PDF, TXT, DOCX và nhiều loại khác; kéo thả vào là hỏi được, câu trả lời có nguồn để bạn kiểm tra.

Chạy cục bộ hoặc nối đám mây

Có bộ máy cục bộ tích hợp sẵn và hỗ trợ Ollama, LM Studio, OpenAI, Anthropic, Gemini, DeepSeek, Groq và rất nhiều nhà cung cấp khác.

Agent và công cụ

Agent duyệt web, bộ tạo agent không cần code, tương thích MCP, bộ nhớ tự động và tác vụ theo lịch.

Nhiều người dùng (bản Docker)

Phân quyền người dùng, đổi giao diện theo thương hiệu và nhúng widget chat vào website của bạn.

Cơ sở dữ liệu vector có sẵn

Mặc định dùng LanceDB và bộ nhúng tích hợp sẵn nên không cần cài thêm; có thể đổi sang PGVector, Qdrant, Milvus, Pinecone...

API cho nhà phát triển

Có API đầy đủ để tích hợp vào ứng dụng riêng.

Tận dụng AnythingLLM vào việc gì?

Dân văn phòng, pháp chế, nhân sự

Hỏi đáp hợp đồng, quy trình nội bộ

Đưa hợp đồng, nội quy, quy trình vào một workspace và hỏi nhanh thay vì lật từng trang; vẫn nên kiểm tra nguồn trích.

Chủ shop online

Trợ lý cho cửa hàng

Nạp bảng giá, chính sách đổi trả, mô tả sản phẩm rồi nhúng widget chat vào website để trả lời khách.

Sinh viên

Ôn thi, tổng hợp giáo trình

Nạp sách giáo khoa và bài giảng, hỏi các khái niệm và nhờ tóm tắt theo chương.

IT, doanh nghiệp nhỏ

Nền tảng AI nội bộ cho nhóm

Chạy bản Docker trên một máy chủ, tạo tài khoản cho từng người và gán quyền theo workspace.

Người làm marketing, vận hành

Tự động hoá bằng agent

Tạo luồng agent không cần code để thu thập thông tin, tóm tắt và gửi báo cáo theo lịch.

Cần chuẩn bị gì?

  • Bản desktop: Windows, macOS hoặc Linux; tải ở trang chủ chính thức.
  • Bản Docker: cần Docker; README gợi ý tối thiểu khoảng 2 GB RAM trên máy chủ đám mây và nên có từ 10 GB ổ cứng.
  • Chạy mô hình cục bộ cần RAM hoặc GPU đủ dùng, tuỳ mô hình bạn chọn; README hỗ trợ GPU NVIDIA (CUDA), AMD và Intel (Vulkan).
  • Nếu dùng mô hình đám mây: khoá API của nhà cung cấp.

Hướng dẫn cài đặt chi tiết

Cài trên Bản desktop

  1. Vào trang tải chính thức, chọn phiên bản cho Windows, macOS hoặc Linux rồi cài như phần mềm thường.

    Văn bản
    https://anythingllm.com/download
  2. Trên macOS: nếu đã có Homebrew, bạn có thể cài nhanh bằng một lệnh trong Terminal.

    Terminal
    brew install --cask anythingllm
  3. Mở ứng dụng, làm theo màn hình chào để chọn mô hình ngôn ngữ (cục bộ hoặc đám mây). Nếu dùng đám mây, dán khoá API vào ô được yêu cầu.

  4. Tạo workspace đầu tiên, tải tài liệu lên rồi bắt đầu hỏi.

Cài trên Docker (Windows)

  1. Cài Docker Desktop. Mở PowerShell và chạy khối lệnh sau theo hướng dẫn Docker của dự án; nó tạo thư mục lưu dữ liệu trong Documents rồi chạy container ở cổng 3001.

    PowerShell
    $env:STORAGE_LOCATION="$HOME\Documents\anythingllm"; `
    If(!(Test-Path $env:STORAGE_LOCATION)) {New-Item $env:STORAGE_LOCATION -ItemType Directory}; `
    If(!(Test-Path "$env:STORAGE_LOCATION\.env")) {New-Item "$env:STORAGE_LOCATION\.env" -ItemType File}; `
    docker run -d --rm -p 3001:3001 `
    --cap-add SYS_ADMIN `
    -v "$env:STORAGE_LOCATION`:/app/server/storage" `
    -v "$env:STORAGE_LOCATION\.env:/app/server/.env" `
    -e STORAGE_DIR="/app/server/storage" `
    mintplexlabs/anythingllm;
  2. Mở trình duyệt vào http://localhost:3001 và làm theo màn hình thiết lập lần đầu.

    Văn bản
    http://localhost:3001

Cài trên Docker (Linux/macOS)

  1. Tải ảnh mới nhất, hỗ trợ cả amd64 và arm64.

    Terminal
    docker pull mintplexlabs/anythingllm
  2. Chạy container và gắn thư mục lưu dữ liệu trên máy để khi cập nhật không mất dữ liệu.

    Terminal
    export STORAGE_LOCATION=$HOME/anythingllm && \
    mkdir -p $STORAGE_LOCATION && \
    touch "$STORAGE_LOCATION/.env" && \
    docker run -d --rm -p 3001:3001 \
    --cap-add SYS_ADMIN \
    -v ${STORAGE_LOCATION}:/app/server/storage \
    -v ${STORAGE_LOCATION}/.env:/app/server/.env \
    -e STORAGE_DIR="/app/server/storage" \
    mintplexlabs/anythingllm
  3. Nếu kết nối tới dịch vụ khác chạy ngay trên máy như Ollama, trong container hãy dùng địa chỉ host.docker.internal thay cho localhost; trên Linux thêm tham số --add-host=host.docker.internal:host-gateway vào lệnh chạy.

Dùng thử lần đầu

  1. Tạo workspace mới, đặt tên theo chủ đề như Chính sách cửa hàng.

  2. Kéo thả vài file PDF hoặc Word vào cửa sổ tải tài liệu rồi chọn đưa vào workspace để hệ thống xử lý và lập chỉ mục.

  3. Hỏi một câu cụ thể về nội dung tài liệu, ví dụ: Thời hạn đổi trả tối đa là bao nhiêu ngày? và xem phần nguồn trích dẫn để đối chiếu.

  4. Bật agent trong cài đặt nếu muốn mô hình duyệt web hoặc dùng công cụ, và thử một yêu cầu đơn giản trước khi giao việc phức tạp.

Mẹo dùng hay

  • Nhóm tài liệu theo từng chủ đề vào các workspace riêng để câu trả lời chính xác hơn so với dồn tất cả vào một chỗ.
  • Muốn hoàn toàn riêng tư, hãy chọn mô hình cục bộ cùng bộ nhúng và vector DB mặc định, vì các nhà cung cấp đám mây sẽ nhận nội dung bạn gửi.
  • Có thể tắt thu thập dữ liệu ẩn danh trong mục Privacy của thanh bên, hoặc đặt DISABLE_TELEMETRY thành true khi dùng Docker.
  • Với Docker, luôn gắn thư mục lưu trữ ra ngoài container như hướng dẫn để cập nhật bản mới không làm mất dữ liệu.

Lưu ý và hạn chế

  • Chất lượng trả lời phụ thuộc mô hình và chất lượng tài liệu; PDF scan hình ảnh có thể không đọc được chữ tốt nếu không qua OCR.
  • README nói ứng dụng có thu thập số liệu ẩn danh (loại cài đặt, sự kiện thêm tài liệu, loại mô hình) và có thể tắt đi; nội dung chat và tài liệu không nằm trong số đó theo mô tả của README.
  • Một số tính năng như nhiều người dùng, đổi giao diện thương hiệu và widget nhúng chỉ có ở phiên bản Docker.

Câu hỏi thường gặp

AnythingLLM miễn phí không?

Mã nguồn dùng giấy phép MIT và bản desktop tải miễn phí. Bạn chỉ phải trả phí nếu chọn dịch vụ AI đám mây tính theo mức dùng; dùng mô hình cục bộ thì không tốn phí API.

Có dùng tiếng Việt được không?

Bạn hỏi và nạp tài liệu tiếng Việt được, chất lượng phụ thuộc mô hình ngôn ngữ và bộ nhúng bạn chọn. README không có mục riêng về tiếng Việt nên hãy tự thử.

Tài liệu của tôi có bị gửi ra ngoài không?

Nếu dùng mô hình, bộ nhúng và cơ sở dữ liệu cục bộ thì xử lý trên máy bạn. Nếu chọn nhà cung cấp đám mây thì nội dung bạn hỏi sẽ được gửi tới họ.

Tải mã nguồn về máy

Nếu bạn muốn xem hoặc sửa mã nguồn, mở Terminal (trên Windows là PowerShell) và chạy lệnh dưới. Máy cần cài sẵn Git.

Terminal
git clone https://github.com/Mintplex-Labs/anything-llm.git

Repo tương tự nên xem

Trợ lý & chat AI159K

Open WebUI

open-webui / open-webui

Giao diện chat AI kiểu ChatGPT tự cài trên máy của bạn, nối được với Ollama và các API AI khác

VừaDockerPythonWindowsmacOS+1
Trợ lý & chat AI45,7K

Jan

janhq / jan

Ứng dụng thay thế ChatGPT mã nguồn mở, chạy mô hình AI ngay trên máy tính của bạn

DễWindowsmacOSLinux
Chạy AI trên máy cá nhân187K

Ollama

ollama / ollama

Tải và chạy mô hình AI như Gemma, Qwen, DeepSeek ngay trên máy tính của bạn chỉ với một lệnh

DễWindowsmacOSLinuxDocker

Nội dung được biên soạn bằng tiếng Việt dựa trên tài liệu chính thức của dự án, cập nhật lần cuối 16/11/2026. Lệnh cài có thể thay đổi theo phiên bản mới; nếu có khác biệt, hãy làm theo README trên GitHub.

Cùng chủ đề: Trợ lý & chat AI

Trợ lý & chat AI89K

NextChat (ChatGPT Next Web)

ChatGPTNextWeb / NextChat

Giao diện chat AI gọn nhẹ, tự dựng bằng khoá API của bạn, có sẵn bản máy tính, web và iOS

VừaWindowsmacOSLinuxiOS+2
Trợ lý & chat AI85,6K

LobeHub

lobehub / lobehub

Không gian làm việc với nhiều tác tử AI (agent) làm cùng nhóm bạn, dùng đám mây hoặc tự cài bằng Docker

VừaWebDockerWindowsmacOS+1
Trợ lý & chat AI53,6K

Cherry Studio

CherryHQ / cherry-studio

Ứng dụng máy tính gom nhiều mô hình AI, agent, kho tri thức và dịch thuật vào một chỗ

DễWindowsmacOSLinuxAndroid+1
Trợ lý & chat AI47,7K

TextGen (text-generation-webui)

oobabooga / textgen

Ứng dụng chạy mô hình ngôn ngữ trên máy, giải nén là dùng, riêng tư tuyệt đối và không thu thập dữ liệu

VừaWindowsmacOSLinuxPython
Trợ lý & chat AI47,2K

LibreChat

LibreChat-AI / LibreChat

Bản "ChatGPT tự dựng" nhiều người dùng, nối OpenAI, Claude, Gemini, Ollama... trong một giao diện duy nhất

VừaWebDockerWindowsmacOS+1
Trợ lý & chat AI42,3K

Chatbox (Community Edition)

chatboxai / chatbox

Ứng dụng chat AI trên máy tính và điện thoại, nối ChatGPT, Claude, Gemini hay mô hình Ollama chạy trên máy

DễWindowsmacOSLinuxAndroid+2

Xem cả 18 repo Trợ lý & chat AI Về Kho Repo