Trải nghiệm khi dùng Hugging Face Transformers
Bạn cài thư viện bằng pip, rồi viết khoảng ba dòng code dùng pipeline (một lớp gọi nhanh cho từng tác vụ): chọn tác vụ như sinh văn bản, nhận dạng giọng nói hay phân loại ảnh, và nêu tên mô hình trên Hugging Face Hub. Lần chạy đầu thư viện tự tải mô hình về máy, những lần sau dùng bản đã lưu.
Kết quả hiện ngay trong Terminal hoặc Notebook: một đoạn văn được viết tiếp, bản chép lời của file ghi âm, hay danh sách nhãn kèm xác suất cho một bức ảnh. Bạn chỉ cần đổi tên mô hình là thử ngay một mô hình khác cùng loại, không phải viết lại gì.
Muốn chat với một mô hình ngay từ dòng lệnh, README nêu lệnh transformers chat (cần chạy transformers serve trước). Khi đã quen, bạn sẽ dùng nó làm nền để tinh chỉnh mô hình hoặc nối vào ứng dụng của mình.
Tính năng nổi bật
Hơn một triệu mô hình trên Hugging Face Hub
README cho biết có hơn 1 triệu checkpoint dùng được với Transformers, từ mô hình nhỏ chạy trên laptop đến mô hình lớn.
Pipeline: dùng mô hình trong vài dòng
Một API thống nhất cho sinh văn bản, nhận dạng giọng nói, phân loại ảnh, hỏi đáp về ảnh và nhiều tác vụ khác.
Hỗ trợ nhiều loại dữ liệu
Cùng một thư viện xử lý chữ, thị giác máy tính, âm thanh, video và mô hình đa phương thức.
Cả suy luận lẫn huấn luyện
Dùng để chạy mô hình có sẵn hoặc tinh chỉnh bằng dữ liệu của riêng bạn, tương thích với nhiều công cụ huấn luyện như Unsloth, DeepSpeed.
Là chuẩn chung của hệ sinh thái
Mô hình được hỗ trợ ở đây thường cũng chạy được trên các công cụ như vLLM, SGLang, llama.cpp, mlx nhờ dùng chung định nghĩa mô hình.
Chat ngay từ dòng lệnh
Lệnh transformers chat cho phép trò chuyện với một mô hình mà không cần viết code, khi dịch vụ transformers serve đang chạy.
Tận dụng Hugging Face Transformers vào việc gì?
Dân văn phòng biết chút Python, người làm podcast
Chép lời file ghi âm cuộc họp
Dùng pipeline nhận dạng giọng nói với mô hình Whisper để chuyển file ghi âm thành văn bản, rồi chỉnh lại thủ công.
Chủ shop online, nhóm chăm sóc khách hàng
Phân loại bình luận và email hàng loạt
Chọn một mô hình phân loại văn bản để gán nhãn khen, chê, hỏi giá cho hàng trăm bình luận thay vì đọc từng cái.
Sinh viên, người nghiên cứu AI
Thử nhanh các mô hình mới ra mắt
Mô hình mới thường có hướng dẫn dùng với Transformers ngay ngày đầu, nên đây là cách nhanh nhất để thử trước khi có công cụ dễ dùng hơn.
Lập trình viên, kỹ sư ML
Tinh chỉnh mô hình cho dữ liệu riêng
Huấn luyện thêm một mô hình nhỏ bằng dữ liệu tiếng Việt của công ty để cải thiện một tác vụ cụ thể.
Cần chuẩn bị gì?
- Python 3.11 trở lên và PyTorch 2.6 trở lên (theo README).
- Nên tạo môi trường ảo bằng venv hoặc uv trước khi cài.
- Mô hình lớn cần nhiều RAM hoặc VRAM của card đồ hoạ; mô hình nhỏ vài trăm triệu tham số chạy được trên CPU nhưng chậm.
- Một số mô hình (ví dụ dòng Llama) cần đồng ý điều khoản và đăng nhập tài khoản Hugging Face mới tải được.
Hướng dẫn cài đặt chi tiết
Cài trên pip
Tạo môi trường ảo cho dự án để không lẫn với thư viện khác. Lệnh dưới là cho macOS/Linux; trên Windows PowerShell kích hoạt bằng .my-env\Scripts\Activate.ps1.
python -m venv .my-env source .my-env/bin/activateCài Transformers kèm PyTorch theo lệnh trong README.
pip install "transformers[torch]"Nếu dùng uv (trình quản lý Python nhanh), có thể thay bằng lệnh sau.
uv pip install "transformers[torch]"
Cài trên Từ mã nguồn
Dùng khi bạn muốn tính năng mới nhất hoặc đóng góp code. README cảnh báo bản mới nhất có thể chưa ổn định.
git clone https://github.com/huggingface/transformers.git cd transformers pip install '.[torch]'
Dùng thử lần đầu
Tạo file test.py với ví dụ sinh văn bản trong README. Lần chạy đầu sẽ tải mô hình về, mất thời gian tuỳ mạng.
from transformers import pipeline pipe = pipeline(task="text-generation", model="Qwen/Qwen2.5-1.5B") print(pipe("the secret to baking a really good cake is "))Chạy file và đọc kết quả.
python test.pyThử tác vụ khác: nhận dạng giọng nói bằng Whisper (cần ffmpeg nếu đưa file âm thanh của bạn; ví dụ dưới dùng file mẫu trên mạng như trong README).
from transformers import pipeline asr = pipeline(task="automatic-speech-recognition", model="openai/whisper-large-v3") print(asr("https://huggingface.co/datasets/Narsil/asr_dummy/resolve/main/mlk.flac"))Chat nhanh ngay trên Terminal: mở một cửa sổ chạy dịch vụ, cửa sổ khác chạy lệnh chat (xem tài liệu serving của Transformers để biết cách bật dịch vụ).
transformers serve transformers chat Qwen/Qwen2.5-0.5B-Instruct
Mẹo dùng hay
- Bắt đầu với mô hình nhỏ (tên có 0.5B, 1.5B) để thử cho nhanh rồi mới lên mô hình lớn.
- Mô hình tải về nằm trong thư mục cache của Hugging Face và có thể chiếm nhiều GB; kiểm tra dung lượng ổ đĩa thường xuyên.
- Muốn chạy mô hình trên máy mà không cần viết code, các công cụ như Ollama hay LM Studio dễ dùng hơn nhiều; Transformers hợp khi bạn cần tuỳ biến.
Lưu ý và hạn chế
- Cần biết Python và hiểu cơ bản về môi trường ảo; người dùng chỉ muốn chat với AI thì nên chọn ứng dụng có giao diện.
- Chạy mô hình lớn bằng Transformers có thể rất tốn VRAM; nhiều bản tải về chưa được nén (quantize) nên nặng hơn các bản dành riêng cho Ollama hay llama.cpp.
- Mỗi mô hình có giấy phép riêng, có mô hình cấm hoặc hạn chế dùng thương mại; luôn đọc trang mô hình trước khi đưa vào sản phẩm.
Câu hỏi thường gặp
Transformers có miễn phí không?
Có, thư viện theo giấy phép Apache-2.0. Mô hình trên Hugging Face Hub thì mỗi cái một giấy phép riêng.
Cần card đồ hoạ để dùng không?
Không bắt buộc. Mô hình nhỏ chạy được bằng CPU, nhưng mô hình lớn chạy rất chậm nếu không có GPU.
Khác gì với Ollama?
Ollama là ứng dụng để chạy mô hình ngay, còn Transformers là thư viện cho lập trình viên muốn gọi mô hình trong code, tinh chỉnh hoặc thử các mô hình mới chưa có trên Ollama.
Tải mã nguồn về máy
Nếu bạn muốn xem hoặc sửa mã nguồn, mở Terminal (trên Windows là PowerShell) và chạy lệnh dưới. Máy cần cài sẵn Git.
git clone https://github.com/huggingface/transformers.gitRepo tương tự nên xem
PyTorch
pytorch / pytorch
Thư viện học sâu phổ biến nhất giới nghiên cứu, tính toán tensor trên GPU và huấn luyện mạng nơ-ron
Unsloth
unslothai / unsloth
Ứng dụng chạy và tinh chỉnh mô hình AI trên máy mình, tiết kiệm VRAM và nhanh hơn
llama.cpp
ggml-org / llama.cpp
Động cơ chạy mô hình AI viết bằng C/C++, nhẹ, chạy được trên CPU, card đồ hoạ và máy Mac