Trải nghiệm khi dùng Chroma
Với người mới học làm ứng dụng AI, Chroma là điểm khởi đầu rất nhẹ: chạy pip install chromadb, viết vài dòng Python để tạo client, tạo một collection (bộ sưu tập), thêm vài đoạn văn bản kèm id và thông tin phụ, rồi truy vấn. README mô tả lõi API chỉ có bốn hàm, và Chroma tự xử lý việc tách từ, nhúng và lập chỉ mục nếu bạn không đưa sẵn vector.
Mặc định client tạo kho trong bộ nhớ để làm mẫu thử nhanh, và README nói thêm lưu trữ bền vững rất dễ. Khi cần dùng chung giữa nhiều chương trình, bạn chạy chế độ máy chủ bằng lệnh chroma run kèm đường dẫn lưu dữ liệu. Có cả thư viện JavaScript cài bằng npm.
Khi không muốn tự vận hành, bạn có thể dùng Chroma Cloud, dịch vụ đám mây tính tiền theo mức dùng, README nói có 5 USD tín dụng miễn phí để thử. Chroma thường là lựa chọn của dự án nhỏ, bản mẫu, hoặc ứng dụng hỏi đáp tài liệu cá nhân.
Tính năng nổi bật
API chỉ bốn hàm chính
Tạo collection, thêm tài liệu, truy vấn và lấy theo id, đủ để dựng một hệ thống tìm kiếm ngữ nghĩa đầu tiên.
Tự nhúng và lập chỉ mục
Đưa văn bản vào là xong; bạn cũng có thể tự cung cấp vector nếu đã có mô hình nhúng riêng.
Lọc theo thông tin phụ
Gắn metadata như nguồn, danh mục và lọc kết quả theo đó hoặc theo chuỗi có trong tài liệu.
Ba cách chạy
Chạy trong bộ nhớ hoặc lưu bền vững cho thử nghiệm, chế độ máy chủ cho nhiều ứng dụng dùng chung, và Chroma Cloud.
Thư viện Python và JavaScript
Cài bằng pip cho Python hoặc npm cho JavaScript.
Tìm kiếm lai trên đám mây
Chroma Cloud cung cấp tìm kiếm vector, lai và toàn văn dạng serverless.
Tận dụng Chroma vào việc gì?
Sinh viên, người mới học AI
Làm ứng dụng hỏi đáp tài liệu cá nhân
Lưu các đoạn ghi chú hoặc giáo trình vào Chroma, truy xuất đoạn liên quan rồi đưa cho AI trả lời.
Chủ shop có đội kỹ thuật nhỏ
Bản mẫu chatbot cho cửa hàng
Nhúng mô tả sản phẩm, chính sách đổi trả để chatbot tìm đúng thông tin khi khách hỏi.
Lập trình viên
Thử ý tưởng tìm kiếm ngữ nghĩa nhanh
Dựng prototype trong vài chục dòng mã trước khi quyết định có cần hạ tầng lớn hơn.
Người làm sản phẩm AI
Bộ nhớ cho agent và ứng dụng AI
Lưu lịch sử hay tri thức để agent truy xuất lại khi cần.
Cần chuẩn bị gì?
- Python để dùng
chromadb(hoặc Node.js nếu dùng thư viện JavaScript). - Biết viết vài dòng Python hoặc JavaScript; không có giao diện đồ hoạ chính.
- RAM và ổ đĩa tuỳ lượng dữ liệu; thử nghiệm nhỏ chạy tốt trên laptop thường.
- Nếu dùng mô hình nhúng của dịch vụ ngoài thì cần khoá API tương ứng.
Hướng dẫn cài đặt chi tiết
Cài trên Python (pip)
Tạo môi trường ảo để gọn gàng.
python -m venv .venvKích hoạt môi trường ảo (Windows PowerShell dùng lệnh sau; macOS và Linux dùng
source .venv/bin/activate)..venv\Scripts\Activate.ps1Cài thư viện Chroma.
pip install chromadb
Cài trên Node.js và máy chủ
Với JavaScript, cài bằng npm.
npm install chromadbChạy ở chế độ máy chủ (client-server) với thư mục lưu dữ liệu bạn chọn; thay đường dẫn bằng thư mục của bạn.
chroma run --path ./chroma_dbSau đó kết nối từ ứng dụng theo hướng dẫn trong tài liệu chính thức; địa chỉ và cổng do chương trình in ra khi khởi động.
Dùng thử lần đầu
Lưu đoạn mã sau thành
thu.py. Nó tạo kho trong bộ nhớ, thêm hai tài liệu rồi tìm tài liệu gần nghĩa nhất với một câu hỏi.import chromadb client = chromadb.Client() collection = client.create_collection("all-my-documents") collection.add( documents=["Chính sách đổi trả trong 7 ngày", "Hướng dẫn bảo hành điện thoại"], metadatas=[{"source": "shop"}, {"source": "shop"}], ids=["doc1", "doc2"], ) results = collection.query( query_texts=["Tôi muốn trả hàng"], n_results=2, ) print(results)Chạy
python thu.py. Lần đầu có thể cần tải mô hình nhúng mặc định nên hơi lâu.Quan sát kết quả trả về: danh sách id, tài liệu và khoảng cách; càng nhỏ nghĩa là càng gần với câu hỏi.
Thử lọc theo thông tin phụ bằng tham số
wheretrong truy vấn để chỉ tìm trong một nhóm tài liệu.Khi muốn dữ liệu còn sau khi tắt chương trình, xem hướng dẫn lưu bền vững và chế độ máy chủ trong tài liệu.
Mẹo dùng hay
- Mô hình nhúng mặc định chưa chắc tốt với tiếng Việt; hãy thử một mô hình nhúng đa ngôn ngữ và so sánh kết quả trên dữ liệu thật.
- Chia tài liệu dài thành các đoạn ngắn vài câu trước khi thêm vào để kết quả tìm kiếm chính xác hơn.
- Bắt đầu với chế độ trong bộ nhớ cho đến khi cách truy vấn của bạn ổn định, rồi mới chuyển sang lưu bền vững hoặc máy chủ.
Lưu ý và hạn chế
- Chroma là thư viện cho lập trình viên, không có ứng dụng cửa sổ để người dùng thường tải tài liệu lên.
- Chế độ trong bộ nhớ sẽ mất dữ liệu khi tắt chương trình nếu chưa cấu hình lưu bền vững.
- Dự án đang phát triển nhanh nên API có thể thay đổi, hãy đọc tài liệu theo đúng phiên bản bạn cài; Chroma Cloud là dịch vụ tính phí.
Câu hỏi thường gặp
Chroma có miễn phí không?
Thư viện mã nguồn mở theo giấy phép Apache 2.0 nên dùng miễn phí. Dịch vụ Chroma Cloud tính phí theo mức dùng, có tín dụng miễn phí ban đầu theo README.
Chroma khác Qdrant và Milvus thế nào?
Cả ba đều là cơ sở dữ liệu vector. Chroma nổi bật ở độ dễ bắt đầu cho dự án nhỏ và bản mẫu; Qdrant mạnh về lọc và chạy máy chủ gọn; Milvus nhắm tới quy mô rất lớn.
Tôi không biết lập trình có dùng được không?
Khó: bạn cần viết mã. Nếu chỉ muốn chat với tài liệu, hãy dùng công cụ có giao diện như Open WebUI, AnythingLLM; chúng có thể dùng cơ sở dữ liệu vector ở bên trong.
Tải mã nguồn về máy
Nếu bạn muốn xem hoặc sửa mã nguồn, mở Terminal (trên Windows là PowerShell) và chạy lệnh dưới. Máy cần cài sẵn Git.
git clone https://github.com/chroma-core/chroma.gitRepo tương tự nên xem
Qdrant
qdrant / qdrant
Cơ sở dữ liệu vector viết bằng Rust, chạy bằng một lệnh Docker, mạnh về lọc và tìm kiếm lai
Milvus
milvus-io / milvus
Cơ sở dữ liệu vector mã nguồn mở để tìm kiếm theo ý nghĩa trên văn bản, hình ảnh ở quy mô lớn
AnythingLLM
Mintplex-Labs / anything-llm
Ứng dụng AI tất-cả-trong-một: chat với tài liệu của bạn, dùng agent, chạy cục bộ hoặc nối mô hình đám mây