Trải nghiệm khi dùng Kimi K2
Cách đơn giản nhất để làm quen là vào trang kimi.com mà README gắn ở phần đầu: bạn mở khung chat và hỏi bằng tiếng Việt như với các trợ lý AI khác. Đây là đường dùng hằng ngày cho đa số người đọc, không cần cài gì.
Nếu bạn là lập trình viên, nền tảng platform.moonshot.ai cung cấp API tương thích cả kiểu OpenAI lẫn Anthropic. README ghi rõ với API kiểu Anthropic, nhiệt độ bạn gửi được nhân 0,6 để tương thích, và mức nhiệt độ khuyên dùng cho Kimi-K2-Instruct là 0,6. Bạn đưa danh sách công cụ vào yêu cầu, mô hình tự quyết định lúc nào gọi và gọi thế nào.
Tự chạy trọng số thì khác hẳn: checkpoint ở định dạng block-fp8, README khuyên dùng vLLM, SGLang, KTransformers hoặc TensorRT-LLM và trỏ sang hướng dẫn triển khai riêng. Với quy mô một nghìn tỷ tham số, việc này thuộc về đội hạ tầng, không phải laptop cá nhân.
Tính năng nổi bật
1 nghìn tỷ tham số, chỉ dùng 32 tỷ mỗi lần
Kiến trúc MoE giúp mô hình lớn nhưng chi phí mỗi lần suy luận thấp hơn một mô hình dày đặc cùng quy mô.
Thiết kế cho agent
Mô hình tự quyết định khi nào gọi công cụ, README có ví dụ gọi hàm lấy thời tiết trọn vẹn từ đầu đến cuối.
Hai phiên bản
Kimi-K2-Base cho người cần tự tinh chỉnh; Kimi-K2-Instruct cho chat và agent thông dụng, trả lời nhanh không suy nghĩ dài.
Hai kiểu API
Nền tảng của Moonshot cung cấp API tương thích OpenAI và Anthropic để cắm vào các công cụ có sẵn.
Kết quả mạnh về code
README báo cáo kết quả trên SWE-bench Verified với công cụ bash/editor là 65,8 phần trăm một lượt; đây là số liệu do nhóm phát triển công bố.
Tận dụng Kimi K2 vào việc gì?
Dân văn phòng, người làm nội dung
Trợ lý chat đa dụng
Soạn thảo, tóm tắt, dịch và hỏi đáp qua trang chat của Kimi.
Lập trình viên, đội tự động hoá
Agent gọi công cụ
Cho mô hình quyền gọi các hàm của bạn như tra cứu đơn hàng, đọc lịch rồi tổng hợp kết quả.
Lập trình viên
Hỗ trợ lập trình
Nhờ viết hàm, sửa lỗi, đọc mã; hãy chạy kiểm thử trước khi tin kết quả.
Đội hạ tầng, doanh nghiệp có GPU
Triển khai nội bộ cho doanh nghiệp lớn
Dùng vLLM hoặc SGLang dựng mô hình trên cụm GPU để dữ liệu không rời công ty.
Nhóm nghiên cứu
Tinh chỉnh từ bản Base
Dùng Kimi-K2-Base làm nền để huấn luyện thêm cho lĩnh vực riêng nếu có nguồn lực.
Cần chuẩn bị gì?
- Dùng qua web hoặc API: trình duyệt và tài khoản; API tính phí theo mức dùng trên platform.moonshot.ai.
- Tự chạy: cụm máy chủ nhiều GPU; README không ghi cấu hình tối thiểu cụ thể mà trỏ sang hướng dẫn triển khai trong thư mục docs.
- Checkpoint dạng block-fp8, tải từ Hugging Face.
- Python và công cụ chạy suy luận như vLLM hoặc SGLang.
Hướng dẫn cài đặt chi tiết
Cài trên Chat web
Mở trang chat chính thức của Kimi, đăng ký hoặc đăng nhập rồi chat trực tiếp.
https://www.kimi.com
Cài trên API
Vào nền tảng dành cho nhà phát triển để tạo khoá API và xem bảng giá hiện hành.
https://platform.moonshot.aiDùng thư viện OpenAI ở Python với địa chỉ gốc và khoá của Moonshot; hãy lấy đúng địa chỉ base URL và tên mô hình trong tài liệu API vì chúng có thể thay đổi. Đoạn mã mẫu trong README dùng temperature 0,6.
pip install openaiThay YOUR_API_KEY bằng khoá bạn tạo ở nền tảng và không đưa khoá lên nơi công khai như GitHub.
Cài trên Tự chạy (nâng cao)
Tải trọng số Kimi-K2-Instruct từ Hugging Face (dung lượng rất lớn).
https://huggingface.co/moonshotai/Kimi-K2-InstructĐọc hướng dẫn triển khai vLLM và SGLang trong thư mục docs của repo trước khi dựng máy chủ.
https://github.com/MoonshotAI/Kimi-K2/blob/main/docs/deploy_guidance.md
Dùng thử lần đầu
Mở trang chat, gõ thử: Hãy lập kế hoạch nội dung 7 ngày cho fanpage bán đồ gia dụng, mỗi ngày một ý chính.
Thử một bài lập trình ngắn, như viết hàm Python kiểm tra số điện thoại Việt Nam hợp lệ, rồi tự chạy thử với vài số.
Nếu bạn có khoá API, làm theo đoạn mã Chat Completion trong README: tạo client, gửi một câu hỏi với temperature 0,6 và đọc kết quả trả về.
Thử thêm danh sách công cụ vào yêu cầu theo ví dụ gọi hàm trong README để thấy mô hình tự quyết định khi nào gọi công cụ.
Mẹo dùng hay
- Dùng nhiệt độ khoảng 0,6 như README khuyên cho Kimi-K2-Instruct để có câu trả lời ổn định.
- Để system prompt mặc định nếu không có yêu cầu đặc biệt, README cho rằng đó là lựa chọn tốt.
- Muốn tự chạy hãy bắt đầu từ vLLM hoặc SGLang, hai engine có ví dụ trong thư mục docs của repo.
- Theo dõi chi phí API khi dùng agent nhiều bước vì mỗi vòng gọi công cụ đều tính token.
Lưu ý và hạn chế
- Mô hình quá lớn để chạy trên máy cá nhân; đa số người dùng nên đi qua web hoặc API.
- Giấy phép là Modified MIT (bản MIT có sửa đổi), không phải MIT thuần; hãy đọc file LICENSE trước khi dùng thương mại.
- Dữ liệu gửi qua web hoặc API được xử lý trên máy chủ của nhà cung cấp, không đưa thông tin mật vào nếu chưa đọc chính sách.
- README chỉ hiển thị số liệu do chính nhóm phát triển đo; chất lượng với tiếng Việt cần tự kiểm tra.
Câu hỏi thường gặp
Kimi K2 có miễn phí không?
Trọng số công khai nên tải được miễn phí, còn chat web và API của Moonshot AI có thể có giới hạn hoặc tính phí theo mức dùng, hãy xem trang của họ.
Chạy Kimi K2 trên máy tính cá nhân được không?
Gần như không với bản đầy đủ vì có 1 nghìn tỷ tham số. Bạn nên dùng qua web hoặc API, hoặc chọn mô hình nhỏ hơn chạy qua Ollama.
Kimi K2 có nói tiếng Việt không?
README không có phần riêng về tiếng Việt. Bạn có thể thử hỏi trực tiếp trên trang chat để tự đánh giá chất lượng.
Tải mã nguồn về máy
Nếu bạn muốn xem hoặc sửa mã nguồn, mở Terminal (trên Windows là PowerShell) và chạy lệnh dưới. Máy cần cài sẵn Git.
git clone https://github.com/MoonshotAI/Kimi-K2.gitRepo tương tự nên xem
DeepSeek-V3
deepseek-ai / DeepSeek-V3
Mô hình ngôn ngữ mã nguồn mở cỡ 671 tỷ tham số của DeepSeek, dùng qua chat web, API hoặc máy chủ GPU riêng
Qwen3
QwenLM / Qwen3
Dòng mô hình AI mở của Alibaba Qwen, nhiều cỡ từ 0,6 tỷ đến 235 tỷ tham số, chạy được trên laptop qua Ollama
KTransformers
kvcache-ai / ktransformers
Khung nghiên cứu chạy và tinh chỉnh mô hình AI cực lớn bằng cách chia việc giữa CPU và card đồ hoạ