Trải nghiệm khi dùng DeepSeek-V3
Với hầu hết mọi người, trải nghiệm DeepSeek-V3 bắt đầu ở trang chat chính thức mà README đưa link: bạn đăng ký tài khoản, mở khung chat và gõ tiếng Việt như với ChatGPT. Nếu bạn làm sản phẩm, README cũng chỉ sang nền tảng API của DeepSeek, nơi có API tương thích kiểu OpenAI để cắm vào các ứng dụng chat hay công cụ tự động hoá sẵn có.
Phần "chạy trên máy mình" thì khác hẳn các mô hình nhỏ như Qwen hay Gemma. Tổng 671 tỷ tham số (kèm 14 tỷ cho module dự đoán nhiều token) khiến việc chạy nguyên bản cần nhiều máy chủ GPU. README hướng dẫn dùng các engine như SGLang, vLLM, LMDeploy, TensorRT-LLM hoặc bản demo đi kèm, và ghi rõ demo chỉ chạy trên Linux với Python 3.10, không hỗ trợ Mac hay Windows.
Vì vậy hành trình thực tế của người đọc blog thường là: dùng thử trên web cho biết chất lượng, gọi API cho dự án nhỏ, và chỉ khi công ty có hạ tầng GPU mới tính đến chuyện tự triển khai. Bản này là mô hình đời V3 cũ hơn so với các phiên bản DeepSeek mới ra sau, nên hãy xem trang chính thức để biết bản mới nhất.
Tính năng nổi bật
Mô hình mở cỡ lớn, mạnh về code và toán
README báo cáo kết quả cạnh tranh với nhiều mô hình đóng ở các bài thi về lập trình và toán, nhưng đó là số liệu do chính nhóm phát triển công bố nên hãy xem như tham khảo.
Chỉ kích hoạt một phần tham số
Nhờ kiến trúc Mixture-of-Experts, mỗi token chỉ dùng khoảng 37 tỷ trong 671 tỷ tham số, giúp suy luận hiệu quả hơn một mô hình dày đặc cùng quy mô.
Ngữ cảnh dài 128K
Mô hình xử lý được văn bản rất dài, ví dụ cả một báo cáo hoặc bộ tài liệu dài, trong một lần hỏi.
Nhiều đường để dùng
Chat trên web, API tương thích OpenAI, hoặc tự triển khai bằng SGLang, vLLM, LMDeploy, TensorRT-LLM, cả GPU AMD và chip Huawei Ascend.
Trọng số công khai trên Hugging Face
Có cả bản Base (để nghiên cứu, tinh chỉnh) và bản chat DeepSeek-V3, kèm báo cáo kỹ thuật để học cách huấn luyện.
Cho phép dùng thương mại
Mã nguồn dùng giấy phép MIT; trọng số theo Model License riêng của DeepSeek, README ghi rõ dòng V3 hỗ trợ sử dụng thương mại.
Tận dụng DeepSeek-V3 vào việc gì?
Dân văn phòng, người làm nội dung
Hỏi đáp, viết nội dung bằng tiếng Việt qua web
Dùng trang chat chính thức để soạn email, tóm tắt tài liệu, viết kịch bản video ngắn. Lưu ý nội dung bạn gõ sẽ đi qua máy chủ của nhà cung cấp.
Chủ shop online, đội marketing
Gắn vào công cụ có sẵn bằng API
Lấy khoá API rồi dán vào các ứng dụng chat hoặc công cụ tự động hoá hỗ trợ API kiểu OpenAI để viết mô tả sản phẩm, phân loại tin nhắn khách hàng với chi phí tính theo lượng dùng.
Lập trình viên
Trợ lý lập trình
Nhờ giải thích lỗi, viết hàm, chuyển code giữa ngôn ngữ. README đưa nhiều bài đo về code nhưng bạn nên tự kiểm tra kết quả trên dự án của mình.
Đội hạ tầng, IT doanh nghiệp
Triển khai nội bộ cho doanh nghiệp có GPU
Nếu dữ liệu không được phép rời công ty và đã có cụm GPU, có thể dựng mô hình bằng vLLM hoặc SGLang theo hướng dẫn trong repo.
Sinh viên, nhà nghiên cứu AI
Nghiên cứu và tinh chỉnh
Đọc báo cáo kỹ thuật, tải bản Base về nghiên cứu cách huấn luyện FP8 hay dự đoán nhiều token.
Cần chuẩn bị gì?
- Dùng qua web hoặc API: chỉ cần trình duyệt và tài khoản, API tính phí theo lượng dùng trên nền tảng của DeepSeek.
- Tự chạy mô hình: README ghi demo chỉ hỗ trợ Linux với Python 3.10, không hỗ trợ Mac và Windows.
- Mô hình tổng 671 tỷ tham số (685 tỷ kể cả module MTP trên Hugging Face), nên cần cụm nhiều GPU cao cấp; README không đưa con số VRAM cụ thể cho từng cấu hình.
- Trọng số phát hành dạng FP8; muốn bản BF16 phải chạy script chuyển đổi đi kèm.
Hướng dẫn cài đặt chi tiết
Cài trên Dùng qua web/API
Cách dễ nhất cho người thường: mở trang chat chính thức, đăng ký tài khoản rồi chat ngay trên trình duyệt.
https://chat.deepseek.com/Muốn gọi từ phần mềm khác, vào nền tảng API của DeepSeek để tạo khoá và xem bảng giá hiện hành. API tương thích kiểu OpenAI nên nhiều ứng dụng chỉ cần đổi địa chỉ và khoá.
https://platform.deepseek.com/Muốn tải trọng số để nghiên cứu, vào trang mô hình trên Hugging Face. Dung lượng rất lớn nên hãy kiểm tra ổ cứng trước.
https://huggingface.co/deepseek-ai/DeepSeek-V3
Cài trên Linux (demo)
Chỉ dành cho máy chủ Linux có nhiều GPU. Lấy mã nguồn demo về.
git clone https://github.com/deepseek-ai/DeepSeek-V3.gitVào thư mục inference và cài thư viện, nên làm trong môi trường ảo như conda hoặc uv.
cd DeepSeek-V3/inference pip install -r requirements.txtTải trọng số từ Hugging Face về một thư mục, sau đó chuyển định dạng cho demo. Thay /path/to/... bằng đường dẫn thật của bạn; số expert và model-parallel dưới đây là ví dụ theo README cho cấu hình nhiều GPU.
python convert.py --hf-ckpt-path /path/to/DeepSeek-V3 --save-path /path/to/DeepSeek-V3-Demo --n-experts 256 --model-parallel 16Chạy chế độ trò chuyện trên cụm hai máy (ví dụ trong README, cần điều chỉnh theo hạ tầng của bạn).
torchrun --nnodes 2 --nproc-per-node 8 --node-rank $RANK --master-addr $ADDR generate.py --ckpt-path /path/to/DeepSeek-V3-Demo --config configs/config_671B.json --interactive --temperature 0.7 --max-new-tokens 200README còn khuyên dùng SGLang, LMDeploy, TensorRT-LLM hoặc vLLM cho triển khai thực tế; hãy đọc hướng dẫn riêng của từng engine trên trang của họ.
Dùng thử lần đầu
Mở trang chat chính thức, đăng nhập và gõ thử một câu tiếng Việt như: Tóm tắt giúp tôi đoạn văn sau thành 3 ý chính, rồi dán một đoạn tài liệu công việc không nhạy cảm.
Thử một bài về lập trình hoặc toán, ví dụ nhờ viết hàm đổi số tiền sang chữ tiếng Việt, và tự kiểm tra kết quả với vài trường hợp.
Nếu có khoá API, tạo bản yêu cầu đơn giản theo chuẩn tương thích OpenAI của nền tảng. Địa chỉ và tên mô hình cụ thể hãy lấy ở trang tài liệu API chính thức vì có thể thay đổi theo thời gian.
Vào trang mô hình trên Hugging Face đọc phần mô tả và giấy phép trước khi quyết định tải trọng số về máy chủ.
Mẹo dùng hay
- Nếu chỉ muốn dùng thử ý tưởng, hãy gọi API trước; chạy hệ thống 671 tỷ tham số cho một thử nghiệm nhỏ thường tốn kém hơn nhiều.
- Muốn chạy AI offline trên laptop thì chọn các mô hình nhỏ như Qwen hay Gemma qua Ollama, hợp hơn nhiều so với DeepSeek-V3 bản đầy đủ.
- Khi triển khai nội bộ, đọc kỹ trang của từng engine (SGLang, vLLM...) để biết phiên bản và cấu hình GPU được hỗ trợ, vì README repo này viết từ thời đầu phát hành.
- Trọng số FP8; cần BF16 thì dùng script fp8_cast_bf16.py trong thư mục inference của repo.
Lưu ý và hạn chế
- Repo không còn cập nhật từ cuối tháng 8 năm 2025; DeepSeek có các phiên bản mới hơn nên hãy kiểm tra trang chính thức trước khi chọn.
- Không thể chạy bản đầy đủ trên máy tính cá nhân thông thường, và demo trong repo không hỗ trợ Windows hay macOS.
- Khi dùng dịch vụ web hoặc API, nội dung bạn gửi đi được xử lý trên máy chủ của nhà cung cấp; đừng đưa dữ liệu mật hoặc thông tin cá nhân khách hàng nếu chưa đọc chính sách.
- Mã nguồn dùng MIT nhưng trọng số theo Model License riêng; hãy đọc file giấy phép trước khi đưa vào sản phẩm thương mại.
Câu hỏi thường gặp
DeepSeek-V3 có miễn phí và dùng tiếng Việt được không?
Trọng số công khai nên tải về miễn phí, còn chat web và API do DeepSeek vận hành có thể có điều kiện và mức phí riêng. README không có phần riêng về tiếng Việt, nhưng mô hình huấn luyện đa ngôn ngữ nên bạn có thể thử hỏi trực tiếp để tự đánh giá.
Laptop của tôi có chạy được DeepSeek-V3 không?
Không với bản đầy đủ: mô hình có 671 tỷ tham số và demo yêu cầu Linux nhiều GPU. Với laptop, hãy dùng web/API hoặc chọn mô hình nhỏ hơn chạy qua Ollama.
Dữ liệu của tôi có an toàn không?
Nếu tự triển khai trên máy chủ của bạn, dữ liệu nằm trong hạ tầng của bạn. Nếu dùng chat web hoặc API của DeepSeek thì dữ liệu được gửi tới nhà cung cấp, hãy đọc chính sách quyền riêng tư của họ.
Tải mã nguồn về máy
Nếu bạn muốn xem hoặc sửa mã nguồn, mở Terminal (trên Windows là PowerShell) và chạy lệnh dưới. Máy cần cài sẵn Git.
git clone https://github.com/deepseek-ai/DeepSeek-V3.gitRepo tương tự nên xem
DeepSeek-R1
deepseek-ai / DeepSeek-R1
Mô hình AI "biết suy nghĩ từng bước" mã nguồn mở của DeepSeek, giỏi toán, code và lập luận
Qwen3
QwenLM / Qwen3
Dòng mô hình AI mở của Alibaba Qwen, nhiều cỡ từ 0,6 tỷ đến 235 tỷ tham số, chạy được trên laptop qua Ollama
Ollama
ollama / ollama
Tải và chạy mô hình AI như Gemma, Qwen, DeepSeek ngay trên máy tính của bạn chỉ với một lệnh