Chuyển đến nội dung

QwenLM / Qwen3

Qwen3

Dòng mô hình AI mở của Alibaba Qwen, nhiều cỡ từ 0,6 tỷ đến 235 tỷ tham số, chạy được trên laptop qua Ollama

Qwen3 là họ mô hình ngôn ngữ mã nguồn mở của nhóm Qwen thuộc Alibaba Cloud, gồm nhiều kích cỡ từ nhỏ xíu đến rất lớn, hỗ trợ trên 100 ngôn ngữ và có chế độ suy nghĩ sâu. Repo này là cổng hướng dẫn dùng; điểm hay là các bản nhỏ chạy được ngay trên máy cá nhân qua Ollama, llama.cpp hoặc LM Studio.

  • 27.733 sao
  • 2.106 fork
  • Python
  • Cập nhật 10 tháng trước
Độ khó
Vừa Cần gõ vài lệnh hoặc dùng Docker
Dạng
Mô hình AI
Chạy trên
Windows, macOS, Linux, Python
Chi phí
Miễn phí hoàn toàn

Trải nghiệm khi dùng Qwen3

Cách dễ nhất để làm quen là cài Ollama rồi gõ một lệnh như ollama run qwen3:8b. Lần đầu mô hình được tải về, sau đó bạn chat tiếng Việt ngay trong cửa sổ Terminal (cửa sổ gõ lệnh). Nếu thích giao diện bấm chuột, README nói LM Studio đã hỗ trợ Qwen3 và có thể dùng trực tiếp các file GGUF.

Điểm đáng chú ý là chế độ suy nghĩ: bản Qwen3 gốc mặc định nghĩ một lúc rồi mới trả lời, bạn có thể tắt để trả lời nhanh bằng lệnh /set nothink hoặc ghi /no_think trong câu hỏi. Các bản cập nhật 2507 tách thành hai dòng riêng là Instruct (trả lời thẳng) và Thinking (suy luận sâu), nên khi chọn bản cần đọc kỹ tên.

Với người làm kỹ thuật, repo cũng chỉ cách chạy bằng thư viện Transformers, dựng máy chủ API bằng SGLang hoặc vLLM, và có tài liệu riêng về lượng tử hoá và tinh chỉnh. Những phần này cần GPU và biết lập trình, người dùng thường chỉ cần dừng ở bước Ollama hoặc LM Studio.

Tính năng nổi bật

Nhiều kích cỡ cho nhiều loại máy

Bản gốc có các cỡ 0,6B, 1,7B, 4B, 8B, 14B, 32B và hai bản MoE là 30B-A3B và 235B-A22B, nên máy yếu hay mạnh đều có lựa chọn.

Chế độ suy nghĩ và không suy nghĩ

Chuyển giữa suy luận sâu cho toán, lập trình và trả lời nhanh cho chat thường, tuỳ bản mô hình bạn chọn.

Hỗ trợ trên 100 ngôn ngữ

README nêu khả năng làm theo hướng dẫn và dịch thuật đa ngôn ngữ, trong đó có tiếng Việt như các ngôn ngữ phổ biến khác.

Ngữ cảnh rất dài

Các bản 2507 hỗ trợ ngữ cảnh 256K token và có thể mở rộng tới 1 triệu token theo tài liệu của nhóm phát triển.

Gọi công cụ và làm trợ lý

Mô hình được huấn luyện để gọi công cụ bên ngoài, hợp với các ứng dụng agent và tự động hoá.

Giấy phép Apache 2.0

README ghi tất cả mô hình trọng số mở dùng Apache 2.0, thuận lợi cho dự án thương mại.

Tận dụng Qwen3 vào việc gì?

Dân văn phòng, người làm nội dung

Trợ lý viết lách chạy trên máy

Soạn email, tóm tắt biên bản, viết lại bài đăng fanpage ngay trên laptop mà không gửi dữ liệu ra ngoài.

Doanh nghiệp nhỏ, IT

Hỏi đáp tài liệu nội bộ

Kết hợp Qwen3 với công cụ như Open WebUI hoặc AnythingLLM để hỏi đáp trên tài liệu công ty chạy hoàn toàn nội bộ.

Học sinh, sinh viên

Học và luyện đề toán, lập trình

Dùng bản Thinking để xem cách mô hình giải từng bước, sau đó tự kiểm tra lại đáp án.

Lập trình viên, người làm marketing

Dựng chatbot và tự động hoá

Gọi API tương thích kiểu OpenAI từ Ollama, llama.cpp hoặc vLLM để phân loại bình luận, tạo mô tả sản phẩm hàng loạt.

Đội AI

Tinh chỉnh cho lĩnh vực riêng

Theo tài liệu của Qwen, có thể huấn luyện thêm bằng các framework như Axolotl hay LLaMA-Factory.

Cần chuẩn bị gì?

  • Cách dễ nhất: cài Ollama (phiên bản mới, README khuyên từ 0.9.0 trở lên) hoặc LM Studio.
  • Máy 8 GB RAM nên chọn bản nhỏ như qwen3:4b; bản 8B trở lên cần nhiều RAM hơn. README không nêu bảng RAM cụ thể, hãy xem trang tốc độ và bộ nhớ trong tài liệu chính thức.
  • Dùng Transformers: cần Python và thư viện transformers từ 4.51.0 trở lên, nên có GPU.
  • Ổ cứng trống từ vài GB đến hàng trăm GB tuỳ cỡ mô hình.

Hướng dẫn cài đặt chi tiết

Cài trên Ollama

  1. Cài Ollama từ trang chính thức (Windows, macOS, Linux đều có), rồi mở Terminal hoặc PowerShell.

    Văn bản
    https://ollama.com/download
  2. Chạy mô hình Qwen3 cỡ 8B. Có thể đổi hậu tố thành :4b nếu máy yếu, hoặc :30b-a3b nếu máy mạnh. Lần đầu sẽ tải mô hình về.

    Terminal
    ollama run qwen3:8b
  3. Theo README, Ollama mặc định để ngữ cảnh ngắn nên Qwen3 có thể gặp vấn đề; gõ hai lệnh sau ngay trong khung chat để đặt đủ dài.

    Văn bản
    /set parameter num_ctx 40960
    /set parameter num_predict 32768
  4. Tên trên Ollama đôi khi không trùng tên gốc của Qwen (ví dụ qwen3:30b-a3b có thể trỏ tới bản Thinking-2507), nên hãy xem trang thẻ của mô hình trước khi dùng.

    Văn bản
    https://ollama.com/library/qwen3/tags

Cài trên llama.cpp

  1. Cài llama.cpp theo hướng dẫn của dự án (README khuyên phiên bản b5401 trở lên), rồi chạy giao diện dòng lệnh, nó tự tải file GGUF từ Hugging Face.

    Terminal
    ./llama-cli -hf Qwen/Qwen3-8B-GGUF:Q8_0 --jinja --color -ngl 99 -fa -sm row --temp 0.6 --top-k 20 --top-p 0.95 --min-p 0 -c 40960 -n 32768 --no-context-shift
  2. Muốn có trang chat trên trình duyệt và API, chạy llama-server. Sau đó mở http://localhost:8080 trong trình duyệt.

    Terminal
    ./llama-server -hf Qwen/Qwen3-8B-GGUF:Q8_0 --jinja --reasoning-format deepseek -ngl 99 -fa -sm row --temp 0.6 --top-k 20 --top-p 0.95 --min-p 0 -c 40960 -n 32768 --no-context-shift --port 8080

Cài trên LM Studio

  1. Cài LM Studio từ trang chính thức, mở phần tìm mô hình và gõ Qwen3 để chọn bản GGUF vừa với RAM. README xác nhận LM Studio đã hỗ trợ Qwen3 và các file GGUF của Qwen.

    Văn bản
    https://lmstudio.ai/

Cài trên Python

  1. Với lập trình viên có GPU: cài thư viện Transformers bản mới, rồi dùng đoạn mã mẫu trong README để tải mô hình, ví dụ Qwen3-30B-A3B-Instruct-2507.

    Terminal
    pip install "transformers>=4.51.0"
  2. Ở Việt Nam hoặc Trung Quốc nếu tải từ Hugging Face chậm, README khuyên dùng ModelScope; công cụ dòng lệnh là modelscope download.

Dùng thử lần đầu

  1. Chạy mô hình cỡ vừa với Ollama và đợi tải xong.

    Terminal
    ollama run qwen3:8b
  2. Hỏi một câu tiếng Việt thực tế, ví dụ: Viết giúp tôi thông báo nghỉ lễ cho khách hàng của shop, giọng thân thiện, dưới 80 chữ.

  3. Thử so sánh hai chế độ: một lần để mặc định (có thể thấy mô hình nghĩ trước) và một lần tắt suy nghĩ bằng lệnh bên dưới, rồi hỏi cùng một bài toán.

    Văn bản
    /set nothink
  4. Gõ /bye để thoát, rồi gõ ollama list để xem dung lượng mô hình đã tải. Nếu không dùng nữa, ollama rm sẽ xoá bớt để lấy lại ổ cứng.

    Terminal
    ollama list

Mẹo dùng hay

  • Máy yếu thì bắt đầu bằng bản 4B hoặc nhỏ hơn; chạy bản quá lớn so với RAM sẽ rất chậm.
  • Bản MoE như 30B-A3B chỉ kích hoạt một phần tham số mỗi lần nên nhanh hơn kích cỡ nghe ra, nhưng vẫn cần đủ bộ nhớ để chứa toàn bộ mô hình.
  • Dùng chế độ Thinking cho toán và lập trình, Instruct cho chat thường để đỡ chờ.
  • Nhóm Qwen cập nhật mô hình thường xuyên; hãy xem bộ sưu tập Qwen3 trên Hugging Face để chọn đúng bản mới nhất.

Lưu ý và hạn chế

  • Chất lượng tiếng Việt của bản nhỏ (0,6B đến 4B) thường kém hẳn bản lớn; README không đảm bảo mức chất lượng cho từng ngôn ngữ.
  • Mô hình chạy trên máy cá nhân vẫn có thể bịa thông tin, nhất là số liệu và trích dẫn; luôn kiểm tra lại.
  • Tên mô hình giữa Ollama, LM Studio và Hugging Face không luôn khớp, dễ tải nhầm bản Thinking hay Instruct.

Câu hỏi thường gặp

Qwen3 có miễn phí và dùng thương mại được không?

README nêu mọi mô hình trọng số mở được cấp phép Apache 2.0, nên dùng miễn phí và thường dùng được cho mục đích thương mại; hãy xem file giấy phép trên trang Hugging Face của từng mô hình.

Qwen3 có nói tiếng Việt không?

Có, README nói mô hình hỗ trợ hơn 100 ngôn ngữ và phương ngữ. Bản càng lớn thì tiếng Việt càng mượt, bạn nên tự thử với nội dung của mình.

Laptop 8 GB RAM chạy được không?

Chạy được các bản nhỏ như 4B qua Ollama, tốc độ phụ thuộc máy. Bản lớn như 30B hay 235B cần nhiều RAM hoặc GPU hơn nhiều.

Tải mã nguồn về máy

Nếu bạn muốn xem hoặc sửa mã nguồn, mở Terminal (trên Windows là PowerShell) và chạy lệnh dưới. Máy cần cài sẵn Git.

Terminal
git clone https://github.com/QwenLM/Qwen3.git

Repo tương tự nên xem

Chạy AI trên máy cá nhân187K

Ollama

ollama / ollama

Tải và chạy mô hình AI như Gemma, Qwen, DeepSeek ngay trên máy tính của bạn chỉ với một lệnh

DễWindowsmacOSLinuxDocker
Mô hình AI mã nguồn mở20,2K

Qwen3-VL

QwenLM / Qwen3-VL

Mô hình AI của Alibaba hiểu ảnh, video và tài liệu, đọc chữ 32 ngôn ngữ, có nhiều cỡ từ 2B đến 235B

KhóLinuxWindowsmacOSPython
Mô hình AI mã nguồn mở20,5K

gpt-oss

openai / gpt-oss

Hai mô hình trọng số mở của OpenAI (20B và 120B), bản 20B chạy được trên máy có khoảng 16 GB bộ nhớ

VừaWindowsmacOSLinuxPython

Nội dung được biên soạn bằng tiếng Việt dựa trên tài liệu chính thức của dự án, cập nhật lần cuối 16/11/2026. Lệnh cài có thể thay đổi theo phiên bản mới; nếu có khác biệt, hãy làm theo README trên GitHub.

Cùng chủ đề: Mô hình AI mã nguồn mở

Mô hình AI mã nguồn mở105K

DeepSeek-V3

deepseek-ai / DeepSeek-V3

Mô hình ngôn ngữ mã nguồn mở cỡ 671 tỷ tham số của DeepSeek, dùng qua chat web, API hoặc máy chủ GPU riêng

KhóLinuxPythonWeb
Mô hình AI mã nguồn mở92K

DeepSeek-R1

deepseek-ai / DeepSeek-R1

Mô hình AI "biết suy nghĩ từng bước" mã nguồn mở của DeepSeek, giỏi toán, code và lập luận

KhóWebWindowsmacOSLinux+1
Mô hình AI mã nguồn mở41,6K

BitNet (bitnet.cpp)

microsoft / BitNet

Bộ chạy mô hình AI 1-bit của Microsoft, giúp chạy mô hình ngôn ngữ nhỏ trên CPU thường mà vẫn nhanh

KhóWindowsmacOSLinuxPython
Mô hình AI mã nguồn mở27,2K

MiniCPM-V và MiniCPM-o

OpenBMB / MiniCPM-V

Mô hình AI nhìn ảnh, nghe tiếng và nói chuyện, nhỏ gọn để chạy trên máy cá nhân và điện thoại

KhóWindowsmacOSLinuxAndroid+2
Mô hình AI mã nguồn mở26,1K

FLUX.1

black-forest-labs / flux

Mã chạy chính thức của dòng mô hình tạo và chỉnh sửa ảnh FLUX.1 từ Black Forest Labs

KhóLinuxPython
Mô hình AI mã nguồn mở17,8K

Janus / Janus-Pro

deepseek-ai / Janus

Mô hình AI của DeepSeek vừa hiểu ảnh vừa vẽ ảnh từ chữ trong cùng một mô hình

KhóLinuxPython

Xem cả 10 repo Mô hình AI mã nguồn mở Về Kho Repo