Chuyển đến nội dung

run-llama / llama_index

LlamaIndex

Khung lập trình Python để cho AI đọc và trả lời dựa trên tài liệu, dữ liệu riêng của bạn

LlamaIndex là framework mã nguồn mở giúp xây ứng dụng AI làm việc với dữ liệu riêng: nạp PDF, trang web, cơ sở dữ liệu, lập chỉ mục rồi cho mô hình ngôn ngữ truy vấn và trả lời (kiểu RAG, AI tra tài liệu trước khi trả lời). Có hơn 300 gói tích hợp với các mô hình và kho vector. Dành cho lập trình viên; README lưu ý công ty hiện tập trung vào dịch vụ LlamaParse, còn framework vẫn được giữ như bộ công cụ mở.

  • 52.921 sao
  • 8.568 fork
  • Python
  • Cập nhật 2 ngày trước
  • MIT (dùng tự do, kể cả thương mại)
Độ khó
Khó Dành cho người biết lập trình
Dạng
Thư viện lập trình
Chạy trên
Windows, macOS, Linux, Python
Chi phí
Miễn phí (trả phí API AI nếu dùng)

Trải nghiệm khi dùng LlamaIndex

Bạn cài gói Python, trỏ nó vào một thư mục chứa tài liệu của mình, rồi chỉ vài dòng code là có một công cụ hỏi đáp: thư viện tự đọc file, cắt nhỏ, lập chỉ mục, và khi bạn đặt câu hỏi nó tìm đoạn liên quan rồi nhờ mô hình ngôn ngữ viết câu trả lời dựa trên các đoạn đó.

Phần khó hơn nằm ở việc tuỳ biến: chọn mô hình nào để trả lời, cơ sở dữ liệu vector nào để lưu, cách cắt tài liệu ra sao, có xếp hạng lại kết quả không. Thư viện được chia thành lõi (llama-index-core) và các gói tích hợp, nên bạn chỉ cài những gì cần dùng.

Khi ứng dụng lớn dần, bạn có thể dựng cả các agent (AI tự gọi công cụ) và quy trình nhiều bước bằng phần Workflows. Dù vậy, README cũng nói rõ công ty đang dồn nhiều sức vào dịch vụ phân tích tài liệu LlamaParse hơn là framework mã nguồn mở, nên nên theo dõi tài liệu chính thức khi chọn công nghệ lâu dài.

Tính năng nổi bật

Kết nối dữ liệu đủ loại

Bộ kết nối nạp dữ liệu từ API, PDF, tài liệu, SQL và nhiều nguồn khác.

Cấu trúc hoá để AI tra cứu

Tạo chỉ mục và đồ thị tri thức cho dữ liệu của bạn để mô hình tìm đúng đoạn cần.

Truy vấn nâng cao

Nhập câu hỏi, nhận lại ngữ cảnh liên quan và câu trả lời có bổ sung kiến thức từ dữ liệu của bạn.

Hơn 300 gói tích hợp

Cắm mô hình, embedding và kho vector bạn thích; chỉ cài những gói cần dùng.

Có API cấp cao và cấp thấp

Người mới dùng vài dòng code, người có kinh nghiệm có thể tuỳ biến từng thành phần.

Liên kết với LlamaParse

Có thể kết hợp với dịch vụ LlamaParse (cần tài khoản, API key) để đọc tài liệu khó như bảng, ảnh scan.

Tận dụng LlamaIndex vào việc gì?

Lập trình viên, đội IT công ty

Hỏi đáp trên kho tài liệu nội bộ

Nạp tài liệu hướng dẫn, quy trình, FAQ rồi dựng chatbot nội bộ trả lời có dẫn nguồn.

Đội pháp chế, tài chính có hỗ trợ kỹ thuật

Trợ lý tra cứu hợp đồng, báo cáo

Lập chỉ mục tập hợp báo cáo dài và hỏi để tìm điều khoản hay số liệu; kết quả nên được kiểm tra lại với bản gốc.

Chủ shop có lập trình viên

Chatbot cho cửa hàng từ catalogue sản phẩm

Đưa catalogue, chính sách bảo hành, đổi trả vào làm nguồn tri thức để chatbot trả lời khách đúng thông tin.

Sinh viên, người học AI ứng dụng

Học và thử các kỹ thuật RAG

Thử các chiến lược cắt đoạn, truy xuất, xếp hạng lại và xem ảnh hưởng đến chất lượng câu trả lời.

Cần chuẩn bị gì?

  • Python và pip; nên dùng môi trường ảo.
  • API key của một mô hình ngôn ngữ (ví dụ OpenAI) nếu dùng dịch vụ online, hoặc mô hình chạy trên máy qua các gói tích hợp.
  • Có thể cần thêm gói tích hợp cho kho vector, mô hình embedding hay loại tài liệu bạn dùng.
  • Dùng LlamaParse cần đăng ký tài khoản và API key riêng.

Hướng dẫn cài đặt chi tiết

Cài trên pip (gói khởi đầu)

  1. Tạo môi trường ảo rồi cài gói llama-index, gồm lõi và một số tích hợp thông dụng. README mô tả đây là lựa chọn nhanh để bắt đầu.

    Terminal
    python -m venv .venv
    pip install llama-index
  2. Đặt API key của nhà cung cấp mô hình vào biến môi trường (thay bằng khoá của bạn). Ví dụ trên Windows PowerShell:

    PowerShell
    $env:OPENAI_API_KEY = "YOUR_OPENAI_KEY"

Cài trên pip (tuỳ chọn gói)

  1. Nếu muốn gọn nhẹ, chỉ cài lõi rồi thêm từng gói tích hợp theo danh sách ở trang integrations của tài liệu.

    Terminal
    pip install llama-index-core
  2. Import theo quy ước: dòng có chữ core là từ lõi, dòng không có là từ gói tích hợp, ví dụ như README minh hoạ.

    Python
    from llama_index.core.llms import LLM
    from llama_index.llms.openai import OpenAI

Dùng thử lần đầu

  1. Tạo thư mục data và bỏ vài file văn bản hoặc PDF vào. Theo README, đây là các bước rất ngắn: nạp, lập chỉ mục, truy vấn. Làm theo ví dụ Starter trên trang tài liệu developers.llamaindex.ai để lấy đoạn code đúng phiên bản bạn cài.

  2. Chạy script, đặt một câu hỏi cụ thể về nội dung tài liệu và đọc câu trả lời kèm các đoạn nguồn.

  3. Thử đổi mô hình hoặc kích thước đoạn cắt để thấy chất lượng thay đổi.

  4. Khi cần đọc tài liệu khó như bảng biểu, ảnh scan, xem phần LlamaParse và LiteParse trong tài liệu chính thức.

Mẹo dùng hay

  • Bắt đầu bằng ví dụ Starter trong tài liệu chính thức rồi mới tách ra gói tuỳ chọn.
  • README tự nói nó không được cập nhật nhanh bằng tài liệu; luôn ưu tiên trang tài liệu khi có chỗ khác nhau.
  • Kiểm thử chất lượng bằng một bộ vài chục câu hỏi có đáp án đã biết trước khi tin dùng ứng dụng cho công việc thật.

Lưu ý và hạn chế

  • Định hướng công ty đã chuyển sang LlamaParse; framework mã nguồn mở vẫn có nhưng bạn nên theo dõi tốc độ cập nhật và kế hoạch lâu dài trước khi xây hệ thống quan trọng.
  • Là framework cho lập trình viên, không có giao diện dùng ngay; nếu chỉ cần chat với tài liệu, các công cụ có giao diện sẽ nhanh hơn.
  • Câu trả lời vẫn có thể sai hoặc bịa; cần hiển thị nguồn và kiểm tra khi dùng cho quyết định quan trọng.

Câu hỏi thường gặp

LlamaIndex có miễn phí không?

Framework dùng miễn phí theo giấy phép MIT. Bạn vẫn tốn tiền API nếu dùng mô hình online, và dịch vụ LlamaParse của công ty là sản phẩm có tài khoản riêng.

Khác gì LangChain?

Cả hai đều là framework dựng ứng dụng AI. LlamaIndex xuất phát từ việc kết nối dữ liệu riêng với mô hình ngôn ngữ nên mạnh ở phần nạp, lập chỉ mục và truy xuất; cái nào hợp hơn tuỳ dự án và thói quen của đội.

Dùng được với mô hình chạy trên máy không?

Có thể, thông qua các gói tích hợp mô hình cục bộ trong danh sách integrations; xem tài liệu chính thức để chọn gói phù hợp.

Tải mã nguồn về máy

Nếu bạn muốn xem hoặc sửa mã nguồn, mở Terminal (trên Windows là PowerShell) và chạy lệnh dưới. Máy cần cài sẵn Git.

Terminal
git clone https://github.com/run-llama/llama_index.git

Repo tương tự nên xem

Thư viện & framework AI150K

LangChain

langchain-ai / langchain

Thư viện Python giúp lập trình viên ráp ứng dụng và agent chạy bằng AI từ các mảnh ghép dựng sẵn

KhóPython
Tài liệu, OCR & hỏi đáp tri thức94,2K

RAGFlow

infiniflow / ragflow

Nền tảng tự cài giúp AI trả lời dựa trên tài liệu của bạn, có trích dẫn nguồn.

VừaDockerLinuxWeb
Tài liệu, OCR & hỏi đáp tri thức40,7K

LightRAG

HKUDS / LightRAG

Hệ thống RAG đơn giản và nhanh dựa trên đồ thị tri thức, kèm máy chủ và giao diện web để hỏi đáp tài liệu

KhóWindowsmacOSLinuxDocker+1

Nội dung được biên soạn bằng tiếng Việt dựa trên tài liệu chính thức của dự án, cập nhật lần cuối 16/11/2026. Lệnh cài có thể thay đổi theo phiên bản mới; nếu có khác biệt, hãy làm theo README trên GitHub.

Cùng chủ đề: Thư viện & framework AI

Thư viện & framework AI202K

TensorFlow

tensorflow / tensorflow

Nền tảng học máy của Google để xây, huấn luyện và triển khai mô hình AI bằng Python

KhóWindowsmacOSLinuxDocker+1
Thư viện & framework AI169K

Hugging Face Transformers

huggingface / transformers

Thư viện Python để tải và chạy hàng triệu mô hình AI từ Hugging Face chỉ với vài dòng code

KhóWindowsmacOSLinuxPython
Thư viện & framework AI106K

PyTorch

pytorch / pytorch

Thư viện học sâu phổ biến nhất giới nghiên cứu, tính toán tensor trên GPU và huấn luyện mạng nơ-ron

KhóWindowsmacOSLinuxDocker+1
Thư viện & framework AI91,6K

OpenCV

opencv / opencv

Thư viện thị giác máy tính kinh điển: xử lý ảnh, video, nhận diện khuôn mặt, vật thể

KhóWindowsmacOSLinuxAndroid+2
Thư viện & framework AI79,6K

Unsloth

unslothai / unsloth

Ứng dụng chạy và tinh chỉnh mô hình AI trên máy mình, tiết kiệm VRAM và nhanh hơn

VừaWindowsmacOSLinuxDocker+1
Thư viện & framework AI76,1K

LLaMA-Factory

hiyouga / LlamaFactory

Tinh chỉnh hơn 100 mô hình ngôn ngữ qua giao diện web hoặc dòng lệnh, gần như không cần viết code

KhóWindowsLinuxDockerPython

Xem cả 14 repo Thư viện & framework AI Về Kho Repo