Chuyển đến nội dung

HKUDS / LightRAG

LightRAG

Hệ thống RAG đơn giản và nhanh dựa trên đồ thị tri thức, kèm máy chủ và giao diện web để hỏi đáp tài liệu

LightRAG là dự án của nhóm HKUDS (công bố tại EMNLP 2025) kết hợp tìm kiếm theo vector với đồ thị tri thức: AI đọc tài liệu, rút ra các thực thể và quan hệ rồi dùng chúng để trả lời tốt hơn các câu hỏi cần ghép nhiều ý. Bạn chạy lightrag-server để có giao diện web và API.

  • 40.709 sao
  • 5.779 fork
  • Python
  • Cập nhật hôm nay
  • MIT (dùng tự do, kể cả thương mại)
Độ khó
Khó Dành cho người biết lập trình
Dạng
Web tự cài (self-host), Thư viện lập trình
Chạy trên
Windows, macOS, Linux, Docker, Python
Chi phí
Miễn phí (trả phí API AI nếu dùng)

Trải nghiệm khi dùng LightRAG

Cách dễ nhất theo README là cài gói lightrag-hku[api] bằng uv hoặc pip, tải tệp mẫu env.example thành .env, điền khoá API cho mô hình ngôn ngữ và mô hình nhúng, rồi chạy lightrag-server. Mở http://localhost:9621/webui là có giao diện web để tải tài liệu, hỏi đáp và xem đồ thị tri thức.

Điều khác biệt với RAG thông thường là khi bạn nạp tài liệu, hệ thống gọi mô hình AI cho từng đoạn để rút ra thực thể và mối quan hệ rồi dựng thành đồ thị. Nhờ vậy câu hỏi dạng tổng hợp hoặc cần nối thông tin nhiều nơi có cơ hội được trả lời tốt hơn. Cái giá là bước nạp tốn nhiều lượt gọi AI, nên chi phí và thời gian đáng kể nếu bạn dùng mô hình đám mây.

Dự án phát triển rất nhanh và đã có thêm bộ chia đoạn, bộ xếp hạng lại (reranker), nhiều kho lưu trữ như PostgreSQL, Neo4j, MongoDB, OpenSearch, đánh giá bằng RAGAS và theo dõi bằng Langfuse. Vì vậy bạn nên đọc kỹ tài liệu cấu hình thay vì làm theo bài hướng dẫn cũ.

Tính năng nổi bật

RAG dựa trên đồ thị tri thức

Rút thực thể và quan hệ từ tài liệu rồi truy vấn kết hợp đồ thị và vector.

Máy chủ và giao diện web

lightrag-server cung cấp WebUI để nạp tài liệu, hỏi đáp và xem tri thức, cùng API REST có trang tài liệu tương tác.

Nhiều kho lưu trữ

Mặc định dùng tệp cục bộ không cần cài thêm; có thể chuyển sang PostgreSQL, Neo4j, MongoDB hay OpenSearch khi cần.

Chọn mô hình theo vai trò

Có thể cấu hình riêng mô hình cho việc trích xuất, truy vấn, từ khoá và đọc ảnh.

Trích dẫn nguồn và xoá tài liệu

Hỗ trợ ghi nguồn trích dẫn và xoá tài liệu kèm tự dựng lại đồ thị.

Đa phương thức

Tích hợp RAG-Anything để xử lý PDF, ảnh, bảng, công thức qua MinerU hoặc Docling.

Tận dụng LightRAG vào việc gì?

Nhà nghiên cứu, phân tích

Hỏi đáp trên bộ tài liệu có nhiều khái niệm liên quan

Nạp các báo cáo, bài báo cùng chủ đề rồi hỏi những câu cần nối ý từ nhiều tài liệu.

Đội kỹ thuật nội bộ

Xây trợ lý tri thức cho doanh nghiệp nhỏ

Dựng máy chủ riêng cho quy trình, hợp đồng và tài liệu sản phẩm, có API để cắm vào chatbot hoặc ứng dụng nội bộ.

Sinh viên, người học AI

Thử nghiệm so sánh các kiểu RAG

Chạy thử LightRAG, đọc bài báo gốc và so với RAG vector thuần để hiểu khác biệt.

Lập trình viên

Làm nền cho ứng dụng hỏi đáp riêng

Dùng thư viện Python hoặc API REST làm bộ não tri thức cho sản phẩm của mình.

Cần chuẩn bị gì?

  • Python 3.11 trở lên; README khuyến nghị dùng uv để quản lý gói.
  • Khoá API cho mô hình ngôn ngữ và mô hình nhúng (mặc định theo kiểu OpenAI), hoặc máy chủ mô hình cục bộ tương thích.
  • Cài từ mã nguồn thì cần git và bun để dựng giao diện; cài từ PyPI đã kèm sẵn giao diện.
  • Hoặc dùng Docker và Docker Compose nếu muốn chạy cả kho lưu trữ bằng container.

Hướng dẫn cài đặt chi tiết

Cài trên PyPI (uv hoặc pip)

  1. Cài uv nếu chưa có (Windows PowerShell dùng lệnh thứ nhất, macOS và Linux dùng lệnh thứ hai).

    PowerShell
    powershell -c "irm https://astral.sh/uv/install.ps1 | iex"
    # macOS / Linux: curl -LsSf https://astral.sh/uv/install.sh | sh
  2. Cài máy chủ LightRAG. Gói PyPI đã kèm giao diện web nên không cần dựng thêm.

    Terminal
    uv tool install "lightrag-hku[api]"
  3. Tải tệp cấu hình mẫu thành .env rồi mở ra chỉnh. Tối thiểu cần điền khoá API cho LLM_BINDING_API_KEY và EMBEDDING_BINDING_API_KEY. Nếu dùng nhà cung cấp khác OpenAI, đặt thêm các biến host, model và EMBEDDING_DIM theo tài liệu.

    Terminal
    curl -O https://raw.githubusercontent.com/HKUDS/LightRAG/main/env.example
    cp env.example .env
  4. Bảo vệ máy chủ trước khi chạy: README cảnh báo lightrag-server mặc định lắng nghe mọi giao diện mạng và không bật xác thực, nên trên máy chủ công cộng ai cũng gọi được và tiêu tốn hạn mức AI của bạn. Đặt HOST=127.0.0.1 trong .env hoặc cấu hình LIGHTRAG_API_KEY.

  5. Khởi động máy chủ và mở trang web.

    Terminal
    lightrag-server

Cài trên Docker Compose

  1. Tải mã nguồn và tạo tệp cấu hình, sau đó chỉnh .env giống như phần trên trước khi chạy.

    Terminal
    git clone https://github.com/HKUDS/LightRAG.git
    cd LightRAG
    cp env.example .env
  2. Khởi động bằng Docker Compose.

    Terminal
    docker compose up
  3. Mở giao diện web ở địa chỉ máy chủ theo cổng đã cấu hình; cách cài đặt này cũng chịu cảnh báo về bảo mật ở trên.

Dùng thử lần đầu

  1. Sau khi chạy lightrag-server, mở giao diện web ở địa chỉ dưới đây.

    Văn bản
    http://localhost:9621/webui
  2. Tải lên vài tài liệu ngắn trước (ví dụ vài trang) và chờ hệ thống xử lý. Việc rút thực thể gọi AI cho từng đoạn nên nạp ít để kiểm tra chi phí.

  3. Hỏi một câu liên quan đến nhiều đoạn trong tài liệu, thử các chế độ truy vấn khác nhau và so sánh câu trả lời.

  4. Mở trang tài liệu API để xem các đường dẫn REST và thử gọi thử từ ứng dụng của bạn.

    Văn bản
    http://localhost:9621/docs

Mẹo dùng hay

  • Chọn mô hình nhúng và số chiều EMBEDDING_DIM trước khi nạp tài liệu đầu tiên; đổi sau này nghĩa là phải lập chỉ mục lại toàn bộ.
  • Dùng OpenAI với mô hình suy luận thì đặt OPENAI_LLM_REASONING_EFFORT=low theo khuyến nghị của README để việc rút thực thể nhanh và rẻ hơn.
  • Cần cài nhanh cấu hình? Công cụ hỏi đáp make env-base trong mã nguồn sẽ tạo .env cho bạn từng bước.

Lưu ý và hạn chế

  • Bước nạp tài liệu tốn nhiều lượt gọi AI nên có thể đắt và chậm với dữ liệu lớn nếu dùng mô hình đám mây; hãy bắt đầu với lượng nhỏ.
  • Mặc định không có xác thực và lắng nghe mọi giao diện mạng; nếu đưa lên máy chủ công cộng mà quên đặt khoá, người lạ có thể dùng hạn mức AI của bạn.
  • Dự án thay đổi nhanh, cách cấu hình trong bài hướng dẫn cũ có thể đã lỗi thời; hãy dựa vào README và tài liệu hiện tại.

Câu hỏi thường gặp

LightRAG khác gì RAG thông thường?

RAG thông thường chỉ tìm các đoạn văn gần nghĩa với câu hỏi. LightRAG còn xây đồ thị các thực thể và quan hệ từ tài liệu để hỗ trợ trả lời những câu cần kết nối nhiều thông tin.

Có chạy hoàn toàn offline được không?

Về nguyên tắc có thể, nếu bạn trỏ tới mô hình chạy cục bộ (README cũng nói đến chạy kho lưu trữ, mô hình nhúng bằng Docker). Với mô hình nhỏ, chất lượng việc rút thực thể có thể kém hơn mô hình lớn.

Có miễn phí không?

Phần mềm miễn phí theo giấy phép MIT; chi phí chủ yếu là lượng gọi API AI nếu bạn dùng dịch vụ đám mây.

Tải mã nguồn về máy

Nếu bạn muốn xem hoặc sửa mã nguồn, mở Terminal (trên Windows là PowerShell) và chạy lệnh dưới. Máy cần cài sẵn Git.

Terminal
git clone https://github.com/HKUDS/LightRAG.git

Repo tương tự nên xem

Tài liệu, OCR & hỏi đáp tri thức36,7K

GraphRAG

microsoft / graphrag

Bộ công cụ của Microsoft Research dùng AI dựng đồ thị tri thức từ văn bản để hỏi đáp nhiều tài liệu

KhóWindowsmacOSLinuxPython
Tài liệu, OCR & hỏi đáp tri thức94,2K

RAGFlow

infiniflow / ragflow

Nền tảng tự cài giúp AI trả lời dựa trên tài liệu của bạn, có trích dẫn nguồn.

VừaDockerLinuxWeb
Thư viện & framework AI52,9K

LlamaIndex

run-llama / llama_index

Khung lập trình Python để cho AI đọc và trả lời dựa trên tài liệu, dữ liệu riêng của bạn

KhóWindowsmacOSLinuxPython

Nội dung được biên soạn bằng tiếng Việt dựa trên tài liệu chính thức của dự án, cập nhật lần cuối 16/11/2026. Lệnh cài có thể thay đổi theo phiên bản mới; nếu có khác biệt, hãy làm theo README trên GitHub.

Cùng chủ đề: Tài liệu, OCR & hỏi đáp tri thức

Tài liệu, OCR & hỏi đáp tri thức196K

MarkItDown

microsoft / markitdown

Công cụ của Microsoft đổi PDF, Word, Excel, PowerPoint và nhiều file khác thành Markdown cho AI đọc.

VừaWindowsmacOSLinuxPython
Tài liệu, OCR & hỏi đáp tri thức96,8K

Stirling PDF

Stirling-Tools / Stirling-PDF

Bộ hơn 50 công cụ PDF: gộp, tách, ký, che thông tin, nén, OCR, chạy trên máy hoặc tự cài.

DễWindowsmacOSLinuxDocker+1
Tài liệu, OCR & hỏi đáp tri thức92,7K

PaddleOCR

PaddlePaddle / PaddleOCR

Bộ công cụ OCR của Baidu: đọc chữ trong ảnh, PDF và đổi tài liệu thành Markdown hoặc JSON.

KhóWindowsmacOSLinuxPython
Tài liệu, OCR & hỏi đáp tri thức83,7K

MinerU

opendatalab / MinerU

Đọc PDF, ảnh scan và file Office rồi xuất Markdown, giữ bảng, công thức và bố cục phức tạp.

VừaWindowsmacOSLinuxDocker+1
Tài liệu, OCR & hỏi đáp tri thức77,5K

Tesseract OCR

tesseract-ocr / tesseract

Bộ máy nhận dạng chữ (OCR) mã nguồn mở đọc chữ từ ảnh scan, hỗ trợ hơn 100 ngôn ngữ

VừaWindowsmacOSLinux
Tài liệu, OCR & hỏi đáp tri thức70,6K

Docling

docling-project / docling

Chuyển PDF, Word, PowerPoint, Excel, HTML thành Markdown hoặc JSON gọn gàng để đưa cho AI đọc

VừaWindowsmacOSLinuxPython

Xem cả 22 repo Tài liệu, OCR & hỏi đáp tri thức Về Kho Repo