Trải nghiệm khi dùng Marker
Bạn cài bằng pip, rồi chạy marker_single kèm đường dẫn file PDF. Nó đọc từng trang, nhận ra tiêu đề, bảng, công thức, đoạn mã, bỏ đầu trang và chân trang rồi lưu ra thư mục kết quả cùng các ảnh cắt từ tài liệu. Mở file Markdown, bạn thấy cấu trúc rõ ràng thay vì một khối chữ liền mạch.
Marker có nhiều chế độ để cân bằng giữa tốc độ và độ chính xác. Chế độ fast chạy hoàn toàn trên CPU hoặc chip Apple và là mặc định ở đó; có GPU thì mặc định dùng balanced, và vllm cho độ chính xác cao nhất với bản scan xấu hay công thức dày đặc. Hai chế độ sau cần chạy thêm một máy chủ mô hình cục bộ do Marker tự khởi động ở lần đầu.
Có thêm giao diện web để xem trực quan: marker_gui mở trang cho bạn kéo thả file và xem từng khối bố cục. Ngoài ra có chế độ chuyển cả thư mục hàng loạt, máy chủ API, và chế độ --use_llm nhờ mô hình ngôn ngữ chỉnh lại bảng và công thức khi bạn cần chất lượng cao nhất.
Tính năng nổi bật
Nhiều định dạng đầu vào
PDF, ảnh, PPTX, DOCX, XLSX, HTML, EPUB, mọi ngôn ngữ; xuất Markdown, JSON, HTML hoặc chunk cho AI.
Giữ bảng biểu và công thức
Định dạng lại bảng, form, công thức toán, liên kết, tài liệu tham khảo, đoạn mã và lưu cả hình ảnh trích ra.
Bốn chế độ chạy
no_ocr, fast, balanced và vllm cho phép chọn giữa tốc độ trên CPU và độ chính xác trên GPU.
Tuỳ chọn tăng độ chính xác bằng LLM
Cờ --use_llm dùng mô hình ngôn ngữ (Gemini, Claude, OpenAI tương thích, Azure, Vertex, OpenRouter hay Ollama) để gộp bảng qua trang, xử lý toán và đọc form.
Giao diện xem và chuyển hàng loạt
Có trình xem web để kiểm tra từng bước, lệnh chuyển cả thư mục và máy chủ API.
Chạy trên CPU, GPU hoặc MPS
Chọn chế độ theo phần cứng; laptop không có GPU vẫn dùng được chế độ fast.
Tận dụng Marker vào việc gì?
Lập trình viên, đội AI
Chuẩn bị tài liệu cho chatbot hỏi đáp
Chuyển kho PDF thành Markdown sạch rồi cắt nhỏ, nhúng vector để dựng hệ thống hỏi đáp nội bộ.
Sinh viên, nghiên cứu sinh
Đọc bài báo khoa học, giáo trình có công thức
Đưa bài PDF nhiều cột qua Marker để có bản Markdown dễ đọc, dễ dán vào ghi chú hoặc nhờ AI tóm tắt.
Phân tích dữ liệu, kế toán
Trích bảng từ báo cáo
Dùng bộ chuyển chỉ lấy bảng để kéo dữ liệu từ báo cáo PDF sang dạng có cấu trúc.
Văn phòng, thư viện
Số hoá tài liệu scan hàng loạt
Chạy cả thư mục scan qua chế độ cân bằng để có văn bản tìm kiếm được, nếu máy có GPU.
Cần chuẩn bị gì?
- Python 3.10 trở lên và PyTorch, theo README.
- Chế độ balanced và vllm cần máy chủ mô hình cục bộ: GPU NVIDIA dùng Docker kèm NVIDIA Container Toolkit; CPU hoặc chip Apple cần
llama-servercủa llama.cpp. - Chế độ fast và no_ocr chạy trọn trên CPU/MPS, không cần GPU hay máy chủ mô hình.
- Muốn dùng
--use_llmcần cấu hình một dịch vụ LLM (mặc định là Gemini, cần khoá API) hoặc mô hình chạy cục bộ qua Ollama.
Hướng dẫn cài đặt chi tiết
Cài trên pip
Cài Python 3.10+ và PyTorch theo hướng dẫn trên trang PyTorch, sau đó cài Marker. Nên làm trong một môi trường ảo.
python -m venv .venvKích hoạt môi trường ảo (Windows PowerShell dùng lệnh sau; macOS, Linux dùng
source .venv/bin/activate)..venv\Scripts\Activate.ps1Cài Marker. Bản cơ bản đọc PDF và ảnh; muốn đọc thêm DOCX, PPTX, XLSX, HTML, EPUB thì dùng bản
full.pip install marker-pdf # Hoặc đầy đủ định dạng: pip install marker-pdf[full]Nếu dùng chế độ balanced hoặc vllm trên Mac hay máy không GPU, cài thêm llama.cpp để có
llama-server.brew install llama.cpp
Dùng thử lần đầu
Chuyển một file PDF sang Markdown. Kết quả nằm trong thư mục đầu ra mặc định, hoặc đặt tuỳ ý bằng
--output_dir.marker_single bao-cao.pdf --output_dir ket-quaMáy không có GPU, ép dùng chế độ nhanh trên CPU để khỏi cần máy chủ mô hình.
marker_single bao-cao.pdf --mode fast --output_dir ket-quaMở trình xem web để so sánh kết quả từng trang, rồi vào địa chỉ trình duyệt theo hướng dẫn trong Terminal.
marker_gui --port 8000Chuyển nhiều file một lần bằng cách trỏ vào cả thư mục.
marker thu-muc-pdf --output_dir ket-quaKhi cần chất lượng cao hơn cho bảng và công thức, bật tuỳ chọn dùng LLM sau khi đã cấu hình dịch vụ LLM.
marker_single bao-cao.pdf --use_llm
Mẹo dùng hay
- Bắt đầu bằng
--mode fasttrên laptop để thấy kết quả nhanh, rồi mới thửbalancedhoặcvllmnếu cần chính xác hơn. - PDF có lớp chữ hỏng thì thử
--force_ocrđể buộc nhận dạng lại toàn bộ trang. - Chỉ cần vài trang đầu? Dùng
--page_range "0,5-10"để tiết kiệm thời gian.
Lưu ý và hạn chế
- Giấy phép tách đôi: mã nguồn Apache 2.0 dùng thoải mái kể cả thương mại, nhưng trọng số mô hình theo giấy phép Open Rail-M sửa đổi (miễn phí cho nghiên cứu, cá nhân và startup dưới 5 triệu USD vốn hoặc doanh thu); dùng thương mại lớn hơn cần xem trang giá của Datalab.
- README thừa nhận bố cục rất phức tạp, bảng lồng nhau và form có thể ra chưa tốt;
--use_llmvà--force_ocrgiúp cải thiện nhưng không bảo đảm hoàn hảo. - Các số liệu hiệu năng trong README là của nhà phát triển, nên hãy tự thử với tài liệu thật (đặc biệt tiếng Việt) trước khi tin.
Câu hỏi thường gặp
Marker có hỗ trợ tiếng Việt không?
README nói phần OCR dùng mô hình Surya đa ngôn ngữ và nếu không cần OCR thì Marker làm việc với mọi ngôn ngữ. Độ chính xác với tiếng Việt có dấu nên được tự kiểm tra trên tài liệu của bạn.
Có miễn phí không?
Dùng cục bộ miễn phí theo giấy phép nêu trên. Datalab còn có nền tảng trả phí (có hạn mức chuyển đổi miễn phí hằng tháng khi đăng ký) với độ chính xác cao hơn.
Máy yếu không GPU có dùng được không?
Có: chế độ fast và no_ocr chạy hoàn toàn trên CPU hoặc chip Apple, không cần GPU. Chất lượng với bản scan xấu sẽ thấp hơn các chế độ dùng mô hình thị giác.
Tải mã nguồn về máy
Nếu bạn muốn xem hoặc sửa mã nguồn, mở Terminal (trên Windows là PowerShell) và chạy lệnh dưới. Máy cần cài sẵn Git.
git clone https://github.com/datalab-to/marker.gitRepo tương tự nên xem
Docling
docling-project / docling
Chuyển PDF, Word, PowerPoint, Excel, HTML thành Markdown hoặc JSON gọn gàng để đưa cho AI đọc
PaddleOCR
PaddlePaddle / PaddleOCR
Bộ công cụ OCR của Baidu: đọc chữ trong ảnh, PDF và đổi tài liệu thành Markdown hoặc JSON.
Stirling PDF
Stirling-Tools / Stirling-PDF
Bộ hơn 50 công cụ PDF: gộp, tách, ký, che thông tin, nén, OCR, chạy trên máy hoặc tự cài.