Trải nghiệm khi dùng Milvus
Milvus không phải ứng dụng bấm chuột: đây là hạ tầng mà lập trình viên cắm vào sản phẩm của mình. Cách thử nhanh nhất theo README là cài thư viện Python pymilvus kèm Milvus Lite, một bản nhẹ lưu dữ liệu vào một file trên máy, rồi viết vài dòng mã để tạo bộ sưu tập (collection), thêm dữ liệu và tìm kiếm.
Khái niệm cần nắm khá đơn giản. Bạn dùng một mô hình nhúng (embedding) biến câu chữ thành dãy số, lưu cùng nội dung gốc vào Milvus. Khi người dùng hỏi, bạn cũng đổi câu hỏi thành dãy số và nhờ Milvus trả về những mục gần nghĩa nhất, kể cả khi không trùng từ khoá. Bạn còn lọc kết quả theo thuộc tính như chủ đề hay ngày đăng.
Khi dự án lớn lên, bạn chuyển sang chế độ Standalone (một máy, chạy bằng Docker) hoặc chế độ phân tán trên Kubernetes, dùng cùng một cách gọi. Cũng có thể dùng dịch vụ đám mây Zilliz Cloud do nhóm đóng góp chính cung cấp nếu không muốn tự vận hành.
Tính năng nổi bật
Ba cấp độ triển khai
Milvus Lite cài bằng pip để học và thử nghiệm, Standalone cho một máy chủ, và bản phân tán trên Kubernetes cho quy mô rất lớn.
Tìm kiếm vector và từ khoá kết hợp
Hỗ trợ vector dày để tìm theo ý nghĩa, vector thưa và BM25 để tìm theo từ khoá, rồi trộn kết quả (hybrid search).
Nhiều loại chỉ mục
Có HNSW, IVF, FLAT, SCANN, DiskANN và tăng tốc bằng GPU để cân bằng giữa tốc độ, độ chính xác và chi phí bộ nhớ.
Lọc theo thuộc tính
Lưu thêm số, chuỗi, JSON cùng vector và lọc kết quả theo chúng khi tìm kiếm.
Nhiều khách hàng trên một cụm
Cô lập dữ liệu theo database, collection hay partition, phù hợp phần mềm phục vụ nhiều khách.
Bảo mật
Có xác thực người dùng, mã hoá TLS và phân quyền theo vai trò (RBAC).
Tận dụng Milvus vào việc gì?
Lập trình viên, đội AI
Hỏi đáp tài liệu nội bộ (RAG)
Lưu các đoạn tài liệu đã nhúng vào Milvus để chatbot tìm đúng đoạn liên quan trước khi trả lời.
Sàn thương mại điện tử, shop online
Tìm sản phẩm theo ảnh hoặc mô tả
Cho khách tải ảnh hoặc gõ mô tả mơ hồ rồi trả về sản phẩm giống nhất trong danh mục.
Trang tin, nền tảng học trực tuyến
Gợi ý nội dung, bài viết liên quan
Tìm bài hoặc khoá học có nội dung gần với thứ người dùng đang xem.
Sinh viên, người mới học AI
Học cách xây hệ thống tìm kiếm ngữ nghĩa
Làm theo các hướng dẫn mẫu về RAG, tìm kiếm lai, tìm ảnh trong tài liệu chính thức để hiểu cách vector hoạt động.
Cần chuẩn bị gì?
- Python để dùng thư viện
pymilvusvà Milvus Lite; biết lập trình cơ bản. - Để chạy Standalone cần Docker; để chạy phân tán cần Kubernetes và kinh nghiệm vận hành, xem tài liệu cài đặt ở milvus.io/docs.
- RAM và ổ cứng tăng theo lượng dữ liệu và loại chỉ mục bạn chọn; tài liệu chính thức có phần ước lượng dung lượng.
- Một mô hình nhúng để biến văn bản hoặc ảnh thành vector (tự chạy hoặc gọi dịch vụ).
Hướng dẫn cài đặt chi tiết
Cài trên Milvus Lite (pip)
Cài Python rồi tạo môi trường ảo để gọn gàng. Trên Windows PowerShell kích hoạt bằng .venv\Scripts\Activate.ps1; macOS và Linux dùng source.
python -m venv .venv source .venv/bin/activateCài thư viện Python kèm bản Milvus Lite. README nói Milvus Lite là bản nhẹ, hợp để bắt đầu nhanh bằng pip; hãy kiểm tra trang tài liệu về hệ điều hành được hỗ trợ trước khi cài.
pip install -U "pymilvus[milvus-lite]"Tạo kết nối: dùng một tên file cục bộ để Milvus Lite tự lưu dữ liệu vào đó (file này chính là cơ sở dữ liệu của bạn, nhớ sao lưu).
from pymilvus import MilvusClient client = MilvusClient("milvus_demo.db")
Cài trên Máy chủ Standalone (Docker)
Cần Docker trên Linux. Tải script cài Standalone chính thức và kiểm tra image nó dùng.
curl -sfL https://raw.githubusercontent.com/milvus-io/milvus/master/scripts/standalone_embed.sh -o standalone_embed.sh grep -n "milvusdb/milvus:" standalone_embed.shKhởi động container rồi chờ trạng thái sức khoẻ báo healthy trước khi dùng.
bash standalone_embed.sh start docker inspect --format '{{.State.Health.Status}}' milvus-standaloneMilvus lắng nghe ở cổng 19530 (etcd nhúng ở 2379). Dữ liệu nằm ở thư mục volumes/milvus trong thư mục hiện tại; cấu hình ghi đè đặt trong user.yaml cùng thư mục. Trang quản trị web ở địa chỉ dưới.
http://127.0.0.1:9091/webui/Kết nối từ Python. Chưa bật xác thực thì chỉ cần địa chỉ.
client = MilvusClient(uri="http://localhost:19530")Dừng, khởi động lại (sau khi sửa user.yaml) hoặc xoá. Cẩn thận: lệnh delete xoá cả dữ liệu Milvus. Trước khi nâng cấp hãy sao lưu dữ liệu, embedEtcd.yaml và user.yaml, và thử trên môi trường không quan trọng; đừng áp dụng cách nâng cấp Docker Compose cho container do script quản lý.
bash standalone_embed.sh stop bash standalone_embed.sh restart bash standalone_embed.sh deleteDùng cách Docker Compose nếu cần sao lưu trong chế độ standalone hoặc muốn cài đúng một bản phát hành; xem trang chính thức.
https://milvus.io/docs/install_standalone-docker.mdNếu không muốn tự vận hành, README còn nhắc dịch vụ trả phí Zilliz Cloud (có gói miễn phí để bắt đầu); khi đó kết nối bằng URI và token do dịch vụ cấp, điền vào chỗ có chữ in hoa.
client = MilvusClient( uri="URI_CUA_BAN", token="TOKEN_CUA_BAN")
Dùng thử lần đầu
Tạo một collection với số chiều vector khớp mô hình nhúng bạn dùng. Ví dụ dưới dùng 768 chiều như trong README.
client.create_collection( collection_name="demo_collection", dimension=768, )Chuẩn bị dữ liệu gồm vector, nội dung và các thuộc tính, rồi chèn vào collection. Biến
datalà danh sách các bản ghi do bạn tự tạo từ mô hình nhúng.res = client.insert(collection_name="demo_collection", data=data)Tìm kiếm: đổi câu hỏi thành vector bằng chính mô hình nhúng đã dùng, rồi yêu cầu lấy các kết quả gần nhất.
res = client.search( collection_name="demo_collection", data=query_vectors, limit=2, output_fields=["text", "subject"], )Làm theo các bài hướng dẫn trong phần Tutorials của tài liệu (RAG, tìm kiếm lai, tìm ảnh) để biến ví dụ nhỏ này thành một ứng dụng thật.
Mẹo dùng hay
- Chọn mô hình nhúng trước rồi mới tạo collection: số chiều vector phải khớp, đổi mô hình sau này nghĩa là phải nhúng lại toàn bộ dữ liệu.
- Thử với Milvus Lite cho đến khi logic ứng dụng ổn định, sau đó mới nâng lên Standalone hoặc cụm để tiết kiệm công vận hành.
- Với tiếng Việt, hãy chọn mô hình nhúng hỗ trợ đa ngôn ngữ và thử chất lượng tìm kiếm trên dữ liệu thật của bạn.
Lưu ý và hạn chế
- Đây là hạ tầng cho lập trình viên: không có giao diện bấm chuột để tìm tài liệu của bạn, bạn cần tự viết ứng dụng bên trên.
- Chạy phân tán trên Kubernetes phức tạp và tốn tài nguyên; với dữ liệu nhỏ có thể các lựa chọn nhẹ hơn là đủ.
- Milvus Lite phù hợp thử nghiệm, không thay cho cụm sản xuất khi dữ liệu lớn hoặc cần nhiều người cùng ghi.
Câu hỏi thường gặp
Cơ sở dữ liệu vector là gì, khác gì SQL thông thường?
SQL tìm đúng giá trị hoặc từ khoá. Cơ sở dữ liệu vector tìm các mục có ý nghĩa gần nhau, ví dụ câu hỏi khác từ nhưng cùng nội dung, nên được dùng nhiều trong ứng dụng AI.
Milvus có miễn phí không?
Mã nguồn mở giấy phép Apache 2.0, tự cài là miễn phí. Dịch vụ Zilliz Cloud do công ty đóng góp chính cung cấp là bản trả phí (có gói miễn phí để thử).
Máy tính cá nhân chạy được không?
Bản Milvus Lite chạy nhẹ trong Python để học và thử. Bản Standalone cần Docker và dùng nhiều RAM hơn khi dữ liệu lớn.
Tải mã nguồn về máy
Nếu bạn muốn xem hoặc sửa mã nguồn, mở Terminal (trên Windows là PowerShell) và chạy lệnh dưới. Máy cần cài sẵn Git.
git clone https://github.com/milvus-io/milvus.gitRepo tương tự nên xem
Qdrant
qdrant / qdrant
Cơ sở dữ liệu vector viết bằng Rust, chạy bằng một lệnh Docker, mạnh về lọc và tìm kiếm lai
Chroma
chroma-core / chroma
Cơ sở dữ liệu vector mã nguồn mở dễ nhất để bắt đầu: cài bằng pip, dùng bốn hàm là chạy
RAGFlow
infiniflow / ragflow
Nền tảng tự cài giúp AI trả lời dựa trên tài liệu của bạn, có trích dẫn nguồn.