Trải nghiệm khi dùng Tabby
Tabby gồm hai phần: một máy chủ bạn tự chạy và tiện ích gắn vào trình soạn thảo. README đưa lệnh Docker để dựng máy chủ trong một phút trên máy có card NVIDIA, tải sẵn một mô hình code nhỏ và một mô hình chat. Khi máy chủ chạy, bạn mở trang quản trị trong trình duyệt và tạo tài khoản.
Sau đó bạn cài tiện ích Tabby cho VS Code, JetBrains hoặc Vim, trỏ nó tới địa chỉ máy chủ của mình. Khi gõ code, gợi ý hiện ra ngay trong dòng; ở khung chat bên cạnh, bạn hỏi về code và nhờ sửa. Toàn bộ xử lý nằm trên máy chủ của bạn nên code không phải gửi cho một dịch vụ bên ngoài.
Tabby phù hợp với đội ngũ muốn có trợ lý như Copilot nhưng cần giữ mã nguồn trong mạng nội bộ. Đổi lại, bạn phải tự lo máy chủ, card đồ hoạ và chất lượng gợi ý phụ thuộc mô hình bạn chọn.
Tính năng nổi bật
Tự chứa, không cần dịch vụ đám mây
Không cần cơ sở dữ liệu hay cloud bên ngoài; bạn chạy máy chủ và toàn bộ dữ liệu ở trong tầm kiểm soát.
Chạy được với card đồ hoạ phổ thông
README nhấn mạnh hỗ trợ card tiêu dùng, không bắt buộc phần cứng máy chủ đắt tiền.
Giao diện OpenAPI
Dễ tích hợp vào hạ tầng sẵn có như môi trường lập trình trên đám mây của công ty.
Tiện ích cho nhiều trình soạn thảo
Có tiện ích cho VS Code, Vim và JetBrains theo tài liệu chính thức.
Chat và bối cảnh từ kho code
Chat bên cạnh, nhắc tệp bằng dấu @, và dùng kho code, tài liệu riêng làm ngữ cảnh cho câu trả lời.
Quản lý đội nhóm
Có trang quản trị, quản lý người dùng và các tích hợp như GitHub, GitLab theo ghi chú phát hành.
Tận dụng Tabby vào việc gì?
Công ty outsource, đội IT nội bộ
Thay Copilot cho công ty phần mềm có yêu cầu bảo mật
Đặt máy chủ Tabby trong mạng nội bộ để lập trình viên có gợi ý code mà không đưa mã nguồn ra ngoài.
Lập trình viên
Gợi ý code ngay trong trình soạn thảo
Cài tiện ích trong VS Code hoặc JetBrains, nhận gợi ý khi gõ và chat về code đang mở.
Đội phát triển
Hỏi đáp trên tài liệu kỹ thuật riêng
Đưa tài liệu nội bộ vào để trợ lý trả lời dựa trên đó; README nhắc tới việc bổ sung tài liệu qua REST API.
Người mày mò AI
Thử mô hình code mã nguồn mở
Chạy thử các mô hình code nhỏ như được liệt kê ở thư mục mô hình của Tabby trên máy có card đồ hoạ.
Cần chuẩn bị gì?
- Docker; lệnh trong README dùng card NVIDIA nên cần cài driver và hỗ trợ GPU cho Docker.
- Một máy chủ hoặc PC có card đồ hoạ cho trải nghiệm tốt; cấu hình cụ thể xem trong tài liệu cài đặt.
- Trình soạn thảo được hỗ trợ (VS Code, JetBrains, Vim) để cài tiện ích Tabby.
- Ổ cứng đủ chỗ để tải mô hình.
Hướng dẫn cài đặt chi tiết
Cài trên Docker (GPU NVIDIA)
Cài Docker và hỗ trợ card NVIDIA cho Docker. Sau đó chạy lệnh trong README để dựng máy chủ, tải mô hình code StarCoder-1B và mô hình chat Qwen2-1.5B-Instruct. Dữ liệu được lưu trong thư mục .tabby ở thư mục người dùng.
docker run -it \ --gpus all -p 8080:8080 -v $HOME/.tabby:/data \ tabbyml/tabby \ serve --model StarCoder-1B --device cuda --chat-model Qwen2-1.5B-InstructMở trình duyệt tới cổng 8080 trên máy chủ (ví dụ http://localhost:8080) để vào trang quản trị và tạo tài khoản đầu tiên.
http://localhost:8080Muốn đổi mô hình, thiết bị chạy hoặc kiểu suy luận, xem các tuỳ chọn trong trang tài liệu cài đặt.
https://tabby.tabbyml.com/docs/installation/
Cài trên Tiện ích trình soạn thảo
Cài tiện ích Tabby cho VS Code, JetBrains hoặc Vim theo danh sách trong tài liệu.
https://tabby.tabbyml.com/docs/extensions/Trong cài đặt tiện ích, nhập địa chỉ máy chủ Tabby của bạn và token lấy từ trang quản trị.
Dùng thử lần đầu
Chạy máy chủ bằng lệnh Docker ở tab Docker và chờ tải mô hình xong.
Mở trang quản trị trong trình duyệt, tạo tài khoản và lấy token cho tiện ích.
Cài tiện ích Tabby vào VS Code, nhập địa chỉ máy chủ và token.
Mở một file code, gõ tên hàm hoặc bình luận mô tả việc cần làm, chờ gợi ý hiện ra và bấm chấp nhận nếu ưng.
Thử khung chat để hỏi về đoạn code đang mở.
Mẹo dùng hay
- Bắt đầu bằng mô hình nhỏ như trong lệnh mẫu rồi nâng cấp khi đã thấy ổn định.
- Xem thư mục mô hình trong tài liệu Tabby để chọn mô hình hợp với card đồ hoạ của bạn.
- Đặt máy chủ sau mạng nội bộ hoặc VPN, đừng mở thẳng ra Internet nếu chưa cấu hình bảo mật.
- Nếu đội dùng GitLab hoặc GitHub riêng, xem phần tích hợp trong ghi chú phát hành để bổ sung ngữ cảnh.
Lưu ý và hạn chế
- Cần phần cứng và kiến thức Docker/GPU để cài; không phải phần mềm cài một cú bấm cho người mới.
- Chất lượng gợi ý của mô hình nhỏ chạy cục bộ thường thấp hơn các dịch vụ đám mây lớn.
- GitHub ghi nhận giấy phép là hỗn hợp (không rõ một loại); hãy đọc file LICENSE trong kho để biết phần nào dùng được cho mục đích thương mại.
- Phần tin tức trong README mới nhất dừng ở cuối năm 2025 và nhắc tới sản phẩm agent Pochi của cùng nhóm; kiểm tra Releases để biết tình trạng phát triển hiện tại.
Câu hỏi thường gặp
Tabby có miễn phí không?
Bản tự cài miễn phí, nhưng bạn tự trả chi phí máy chủ và điện. Hãy xem file LICENSE vì giấy phép là hỗn hợp.
Máy yếu có chạy được không?
Lệnh mẫu của README dùng card NVIDIA. Các tuỳ chọn thiết bị khác có trong tài liệu, nhưng không có card đồ hoạ thì tốc độ thường chậm hơn.
Code của tôi có bị gửi đi đâu không?
Tabby chạy trên máy chủ do bạn quản lý nên không cần gửi code cho dịch vụ đám mây của Tabby, miễn là bạn dùng mô hình chạy cục bộ.
Tải mã nguồn về máy
Nếu bạn muốn xem hoặc sửa mã nguồn, mở Terminal (trên Windows là PowerShell) và chạy lệnh dưới. Máy cần cài sẵn Git.
git clone https://github.com/TabbyML/tabby.git