Trải nghiệm khi dùng Qwen3
Cách dễ nhất để làm quen là cài Ollama rồi gõ một lệnh như ollama run qwen3:8b. Lần đầu mô hình được tải về, sau đó bạn chat tiếng Việt ngay trong cửa sổ Terminal (cửa sổ gõ lệnh). Nếu thích giao diện bấm chuột, README nói LM Studio đã hỗ trợ Qwen3 và có thể dùng trực tiếp các file GGUF.
Điểm đáng chú ý là chế độ suy nghĩ: bản Qwen3 gốc mặc định nghĩ một lúc rồi mới trả lời, bạn có thể tắt để trả lời nhanh bằng lệnh /set nothink hoặc ghi /no_think trong câu hỏi. Các bản cập nhật 2507 tách thành hai dòng riêng là Instruct (trả lời thẳng) và Thinking (suy luận sâu), nên khi chọn bản cần đọc kỹ tên.
Với người làm kỹ thuật, repo cũng chỉ cách chạy bằng thư viện Transformers, dựng máy chủ API bằng SGLang hoặc vLLM, và có tài liệu riêng về lượng tử hoá và tinh chỉnh. Những phần này cần GPU và biết lập trình, người dùng thường chỉ cần dừng ở bước Ollama hoặc LM Studio.
Tính năng nổi bật
Nhiều kích cỡ cho nhiều loại máy
Bản gốc có các cỡ 0,6B, 1,7B, 4B, 8B, 14B, 32B và hai bản MoE là 30B-A3B và 235B-A22B, nên máy yếu hay mạnh đều có lựa chọn.
Chế độ suy nghĩ và không suy nghĩ
Chuyển giữa suy luận sâu cho toán, lập trình và trả lời nhanh cho chat thường, tuỳ bản mô hình bạn chọn.
Hỗ trợ trên 100 ngôn ngữ
README nêu khả năng làm theo hướng dẫn và dịch thuật đa ngôn ngữ, trong đó có tiếng Việt như các ngôn ngữ phổ biến khác.
Ngữ cảnh rất dài
Các bản 2507 hỗ trợ ngữ cảnh 256K token và có thể mở rộng tới 1 triệu token theo tài liệu của nhóm phát triển.
Gọi công cụ và làm trợ lý
Mô hình được huấn luyện để gọi công cụ bên ngoài, hợp với các ứng dụng agent và tự động hoá.
Giấy phép Apache 2.0
README ghi tất cả mô hình trọng số mở dùng Apache 2.0, thuận lợi cho dự án thương mại.
Tận dụng Qwen3 vào việc gì?
Dân văn phòng, người làm nội dung
Trợ lý viết lách chạy trên máy
Soạn email, tóm tắt biên bản, viết lại bài đăng fanpage ngay trên laptop mà không gửi dữ liệu ra ngoài.
Doanh nghiệp nhỏ, IT
Hỏi đáp tài liệu nội bộ
Kết hợp Qwen3 với công cụ như Open WebUI hoặc AnythingLLM để hỏi đáp trên tài liệu công ty chạy hoàn toàn nội bộ.
Học sinh, sinh viên
Học và luyện đề toán, lập trình
Dùng bản Thinking để xem cách mô hình giải từng bước, sau đó tự kiểm tra lại đáp án.
Lập trình viên, người làm marketing
Dựng chatbot và tự động hoá
Gọi API tương thích kiểu OpenAI từ Ollama, llama.cpp hoặc vLLM để phân loại bình luận, tạo mô tả sản phẩm hàng loạt.
Đội AI
Tinh chỉnh cho lĩnh vực riêng
Theo tài liệu của Qwen, có thể huấn luyện thêm bằng các framework như Axolotl hay LLaMA-Factory.
Cần chuẩn bị gì?
- Cách dễ nhất: cài Ollama (phiên bản mới, README khuyên từ 0.9.0 trở lên) hoặc LM Studio.
- Máy 8 GB RAM nên chọn bản nhỏ như qwen3:4b; bản 8B trở lên cần nhiều RAM hơn. README không nêu bảng RAM cụ thể, hãy xem trang tốc độ và bộ nhớ trong tài liệu chính thức.
- Dùng Transformers: cần Python và thư viện transformers từ 4.51.0 trở lên, nên có GPU.
- Ổ cứng trống từ vài GB đến hàng trăm GB tuỳ cỡ mô hình.
Hướng dẫn cài đặt chi tiết
Cài trên Ollama
Cài Ollama từ trang chính thức (Windows, macOS, Linux đều có), rồi mở Terminal hoặc PowerShell.
https://ollama.com/downloadChạy mô hình Qwen3 cỡ 8B. Có thể đổi hậu tố thành :4b nếu máy yếu, hoặc :30b-a3b nếu máy mạnh. Lần đầu sẽ tải mô hình về.
ollama run qwen3:8bTheo README, Ollama mặc định để ngữ cảnh ngắn nên Qwen3 có thể gặp vấn đề; gõ hai lệnh sau ngay trong khung chat để đặt đủ dài.
/set parameter num_ctx 40960 /set parameter num_predict 32768Tên trên Ollama đôi khi không trùng tên gốc của Qwen (ví dụ qwen3:30b-a3b có thể trỏ tới bản Thinking-2507), nên hãy xem trang thẻ của mô hình trước khi dùng.
https://ollama.com/library/qwen3/tags
Cài trên llama.cpp
Cài llama.cpp theo hướng dẫn của dự án (README khuyên phiên bản b5401 trở lên), rồi chạy giao diện dòng lệnh, nó tự tải file GGUF từ Hugging Face.
./llama-cli -hf Qwen/Qwen3-8B-GGUF:Q8_0 --jinja --color -ngl 99 -fa -sm row --temp 0.6 --top-k 20 --top-p 0.95 --min-p 0 -c 40960 -n 32768 --no-context-shiftMuốn có trang chat trên trình duyệt và API, chạy llama-server. Sau đó mở http://localhost:8080 trong trình duyệt.
./llama-server -hf Qwen/Qwen3-8B-GGUF:Q8_0 --jinja --reasoning-format deepseek -ngl 99 -fa -sm row --temp 0.6 --top-k 20 --top-p 0.95 --min-p 0 -c 40960 -n 32768 --no-context-shift --port 8080
Cài trên LM Studio
Cài LM Studio từ trang chính thức, mở phần tìm mô hình và gõ Qwen3 để chọn bản GGUF vừa với RAM. README xác nhận LM Studio đã hỗ trợ Qwen3 và các file GGUF của Qwen.
https://lmstudio.ai/
Cài trên Python
Với lập trình viên có GPU: cài thư viện Transformers bản mới, rồi dùng đoạn mã mẫu trong README để tải mô hình, ví dụ Qwen3-30B-A3B-Instruct-2507.
pip install "transformers>=4.51.0"Ở Việt Nam hoặc Trung Quốc nếu tải từ Hugging Face chậm, README khuyên dùng ModelScope; công cụ dòng lệnh là modelscope download.
Dùng thử lần đầu
Chạy mô hình cỡ vừa với Ollama và đợi tải xong.
ollama run qwen3:8bHỏi một câu tiếng Việt thực tế, ví dụ: Viết giúp tôi thông báo nghỉ lễ cho khách hàng của shop, giọng thân thiện, dưới 80 chữ.
Thử so sánh hai chế độ: một lần để mặc định (có thể thấy mô hình nghĩ trước) và một lần tắt suy nghĩ bằng lệnh bên dưới, rồi hỏi cùng một bài toán.
/set nothinkGõ /bye để thoát, rồi gõ ollama list để xem dung lượng mô hình đã tải. Nếu không dùng nữa, ollama rm sẽ xoá bớt để lấy lại ổ cứng.
ollama list
Mẹo dùng hay
- Máy yếu thì bắt đầu bằng bản 4B hoặc nhỏ hơn; chạy bản quá lớn so với RAM sẽ rất chậm.
- Bản MoE như 30B-A3B chỉ kích hoạt một phần tham số mỗi lần nên nhanh hơn kích cỡ nghe ra, nhưng vẫn cần đủ bộ nhớ để chứa toàn bộ mô hình.
- Dùng chế độ Thinking cho toán và lập trình, Instruct cho chat thường để đỡ chờ.
- Nhóm Qwen cập nhật mô hình thường xuyên; hãy xem bộ sưu tập Qwen3 trên Hugging Face để chọn đúng bản mới nhất.
Lưu ý và hạn chế
- Chất lượng tiếng Việt của bản nhỏ (0,6B đến 4B) thường kém hẳn bản lớn; README không đảm bảo mức chất lượng cho từng ngôn ngữ.
- Mô hình chạy trên máy cá nhân vẫn có thể bịa thông tin, nhất là số liệu và trích dẫn; luôn kiểm tra lại.
- Tên mô hình giữa Ollama, LM Studio và Hugging Face không luôn khớp, dễ tải nhầm bản Thinking hay Instruct.
Câu hỏi thường gặp
Qwen3 có miễn phí và dùng thương mại được không?
README nêu mọi mô hình trọng số mở được cấp phép Apache 2.0, nên dùng miễn phí và thường dùng được cho mục đích thương mại; hãy xem file giấy phép trên trang Hugging Face của từng mô hình.
Qwen3 có nói tiếng Việt không?
Có, README nói mô hình hỗ trợ hơn 100 ngôn ngữ và phương ngữ. Bản càng lớn thì tiếng Việt càng mượt, bạn nên tự thử với nội dung của mình.
Laptop 8 GB RAM chạy được không?
Chạy được các bản nhỏ như 4B qua Ollama, tốc độ phụ thuộc máy. Bản lớn như 30B hay 235B cần nhiều RAM hoặc GPU hơn nhiều.
Tải mã nguồn về máy
Nếu bạn muốn xem hoặc sửa mã nguồn, mở Terminal (trên Windows là PowerShell) và chạy lệnh dưới. Máy cần cài sẵn Git.
git clone https://github.com/QwenLM/Qwen3.gitRepo tương tự nên xem
Ollama
ollama / ollama
Tải và chạy mô hình AI như Gemma, Qwen, DeepSeek ngay trên máy tính của bạn chỉ với một lệnh
Qwen3-VL
QwenLM / Qwen3-VL
Mô hình AI của Alibaba hiểu ảnh, video và tài liệu, đọc chữ 32 ngôn ngữ, có nhiều cỡ từ 2B đến 235B
gpt-oss
openai / gpt-oss
Hai mô hình trọng số mở của OpenAI (20B và 120B), bản 20B chạy được trên máy có khoảng 16 GB bộ nhớ