Trải nghiệm khi dùng Jan
Bạn vào trang jan.ai hoặc trang Releases trên GitHub, tải bộ cài cho hệ điều hành của mình (Windows còn có Microsoft Store, Linux có Flathub theo các huy hiệu trong README). Cài xong, mở lên là có giao diện chat quen thuộc như ChatGPT, không cần mở Terminal (cửa sổ gõ lệnh) hay biết lập trình.
Bạn chọn một mô hình để tải về từ Hugging Face thông qua giao diện của Jan, chờ tải xong rồi bắt đầu chat bằng tiếng Việt. Mọi thứ chạy ngay trên máy bạn, kể cả khi mất mạng. Muốn nhanh hơn hoặc mạnh hơn, bạn có thể thêm khoá API của OpenAI, Anthropic, Mistral, Groq, MiniMax... và dùng chung một giao diện cho cả mô hình cục bộ lẫn đám mây.
Phần dành cho người dùng nâng cao gồm tạo trợ lý chuyên biệt, bật máy chủ API tương thích OpenAI ở cổng 1337 trên máy (README ghi địa chỉ localhost:1337) để các ứng dụng khác gọi, và tích hợp MCP cho các tác vụ kiểu agent.
Tính năng nổi bật
Chạy mô hình ngay trên máy
Tải và chạy Llama, Gemma, Qwen, gpt-oss... từ Hugging Face; dùng llama.cpp bên trong nên tận dụng được cả GPU.
Kết nối dịch vụ đám mây
Dùng chung giao diện với mô hình của OpenAI, Anthropic, Mistral, Groq, MiniMax khi bạn có khoá API.
Trợ lý tuỳ chỉnh
Tạo các trợ lý chuyên cho từng công việc như viết nội dung, dịch, soạn email.
API cục bộ tương thích OpenAI
Máy chủ ngay trên máy ở localhost:1337 để các ứng dụng khác dùng mô hình của Jan.
Hỗ trợ MCP
Tích hợp Model Context Protocol để mô hình dùng công cụ ngoài, hướng tới các tác vụ kiểu agent.
Riêng tư theo ý bạn
README nhấn mạnh mọi thứ chạy cục bộ khi bạn muốn; chỉ khi bạn chọn dịch vụ đám mây mới gửi nội dung ra ngoài.
Tận dụng Jan vào việc gì?
Dân văn phòng, sinh viên
Chat AI offline hằng ngày
Soạn email, tóm tắt tài liệu, hỏi đáp, luyện viết tiếng Anh mà không cần Internet sau khi tải mô hình.
Người làm nội dung
Giao diện thống nhất cho nhiều dịch vụ AI
Dùng một ứng dụng để chat với mô hình cục bộ lúc cần riêng tư và mô hình đám mây lúc cần mạnh hơn.
Lập trình viên
Máy chủ API cho dự án nhỏ
Chạy API cục bộ để thử chatbot, script phân loại bình luận mà không tốn phí token.
Chủ shop online
Trợ lý chuyên biệt cho cửa hàng
Tạo trợ lý viết mô tả sản phẩm, trả lời mẫu cho khách với lời dặn cố định.
Người thích công nghệ
Thử nghiệm agent với MCP
Cắm công cụ qua MCP và quan sát cách mô hình chọn dùng chúng.
Cần chuẩn bị gì?
- Windows 10 trở lên (GPU NVIDIA, AMD, Intel Arc được hỗ trợ), macOS 13.6 trở lên hoặc hầu hết bản Linux.
- Theo README cho macOS: 8 GB RAM cho mô hình 3B, 16 GB cho 7B, 32 GB cho 13B.
- Ổ cứng trống vài GB trở lên cho mỗi mô hình.
- Khoá API chỉ cần khi bạn muốn dùng dịch vụ đám mây.
Hướng dẫn cài đặt chi tiết
Cài trên Windows / macOS / Linux
Vào trang chủ Jan hoặc trang Releases, tải bộ cài đúng hệ điều hành rồi cài như phần mềm thường.
https://jan.ai/Cách nhanh hơn: mở PowerShell và cài bằng winget (trình quản lý ứng dụng có sẵn trên Windows 10/11).
winget install --id Jan.Jan -eTrên macOS: nếu đã có Homebrew, bạn có thể cài nhanh bằng một lệnh trong Terminal.
brew install --cask janCó thể tải trực tiếp ở trang Releases trên GitHub.
https://github.com/janhq/jan/releasesREADME cũng có huy hiệu cài từ Microsoft Store cho Windows và Flathub cho Linux; có thể dùng nếu bạn thích cài qua kho ứng dụng.
Mở Jan, chọn một mô hình trong phần tải mô hình, chờ tải xong rồi bắt đầu chat.
Cài trên Build từ mã nguồn
Dành cho người muốn tự biên dịch. Cần Node.js 20 trở lên, Yarn 4.5.3 trở lên, Make 3.81 trở lên và Rust (cho Tauri). Trên Windows hãy chạy lệnh trong Git Bash.
git clone https://github.com/janhq/jan cd jan make devLệnh make dev cài phụ thuộc, build các thành phần lõi và mở ứng dụng. Có thể chọn biến thể động cơ bằng JAN_ENGINE_VARIANT (như cpu, vulkan, cuda12), xem chi tiết trong README.
Dùng thử lần đầu
Mở Jan lần đầu và chọn tải một mô hình nhỏ vừa với RAM của bạn (ví dụ cỡ 3B nếu máy 8 GB).
Chờ tải xong, mở cuộc trò chuyện mới và gõ thử: Giúp tôi soạn tin nhắn trả lời khách hỏi về chính sách đổi trả, giọng lịch sự.
Nếu bạn có khoá API của một dịch vụ đám mây, thêm vào phần cài đặt và so sánh cùng câu hỏi giữa mô hình cục bộ với mô hình đám mây.
Thử tạo một trợ lý tuỳ chỉnh với lời dặn riêng, ví dụ trợ lý chỉnh chính tả tiếng Việt.
Mẹo dùng hay
- Máy 8 GB RAM chỉ nên chọn mô hình cỡ khoảng 3B theo bảng gợi ý trong README; mô hình quá lớn sẽ làm máy chậm.
- Gặp lỗi thì xem tài liệu xử lý sự cố của Jan, sao chép nhật ký lỗi kèm cấu hình máy rồi hỏi trên Discord của dự án.
- Muốn dùng Jan làm máy chủ cho ứng dụng khác, bật API cục bộ và trỏ ứng dụng tới localhost:1337.
- Tải mô hình ở nơi mạng ổn định; file mô hình thường nặng vài GB.
Lưu ý và hạn chế
- Mô hình cục bộ kém hơn các dịch vụ đám mây mạnh nhất ở các bài khó; tiếng Việt phụ thuộc vào mô hình bạn chọn.
- Mô hình lớn cần nhiều RAM hoặc GPU; máy yếu sẽ chạy chậm.
- README ghi giấy phép Apache 2.0 nhưng thông tin giấy phép trên GitHub chưa thống nhất; hãy xem file LICENSE trong repo nếu bạn định tích hợp vào sản phẩm thương mại.
Câu hỏi thường gặp
Jan có miễn phí không?
Có, phần mềm miễn phí và mã nguồn mở. Bạn chỉ trả phí khi dùng khoá API của dịch vụ đám mây, còn mô hình chạy trên máy thì không tốn phí API.
Có chạy offline được không?
Có, sau khi đã tải mô hình về máy, bạn chat không cần Internet. Chỉ khi dùng dịch vụ đám mây mới cần mạng.
Máy yếu có dùng được không?
Dùng được với mô hình nhỏ. README gợi ý khoảng 8 GB RAM cho mô hình 3B trên macOS, các máy khác nên chọn mô hình nhỏ tương tự và kiểm tra tốc độ thực tế.
Tải mã nguồn về máy
Nếu bạn muốn xem hoặc sửa mã nguồn, mở Terminal (trên Windows là PowerShell) và chạy lệnh dưới. Máy cần cài sẵn Git.
git clone https://github.com/janhq/jan.gitRepo tương tự nên xem
Ollama
ollama / ollama
Tải và chạy mô hình AI như Gemma, Qwen, DeepSeek ngay trên máy tính của bạn chỉ với một lệnh
Cherry Studio
CherryHQ / cherry-studio
Ứng dụng máy tính gom nhiều mô hình AI, agent, kho tri thức và dịch thuật vào một chỗ
AnythingLLM
Mintplex-Labs / anything-llm
Ứng dụng AI tất-cả-trong-một: chat với tài liệu của bạn, dùng agent, chạy cục bộ hoặc nối mô hình đám mây