Trải nghiệm khi dùng MLX
Bạn cài MLX bằng pip trên Mac (pip install mlx), mở Python và viết code gần như quen thuộc nếu từng dùng NumPy: tạo mảng, cộng trừ, tính toán. README nhấn mạnh phép tính của MLX chạy theo kiểu lười (lazy), chỉ thật sự tính khi cần kết quả hoặc khi bạn gọi eval.
Đặc điểm nổi bật là mô hình bộ nhớ dùng chung: mảng nằm ở bộ nhớ chung nên có thể chạy phép tính trên CPU hay GPU mà không phải sao chép dữ liệu qua lại. Cùng thư viện còn có API cho C++, C và Swift, và các gói cấp cao như mlx.nn và mlx.optimizers để dựng mô hình phức tạp hơn.
Với người dùng thường, bạn ít khi chạm MLX trực tiếp. Bạn sẽ gặp nó gián tiếp khi dùng các công cụ chạy AI trên Mac như exo hay các ví dụ chạy LLaMA, Stable Diffusion hoặc Whisper trong repo ml-explore/mlx-examples. Lập trình viên và nhà nghiên cứu mới là người dùng chính.
Tính năng nổi bật
API giống NumPy
Cú pháp quen thuộc, kèm các API C++, C và Swift có hình dạng tương tự.
Bộ nhớ dùng chung
Mảng sống trong bộ nhớ chung nên phép tính chạy trên CPU hoặc GPU mà không cần chuyển dữ liệu.
Biến đổi hàm có thể ghép
Hỗ trợ tự động tính đạo hàm (grad), vector hoá (vmap) và tối ưu đồ thị tính toán, ghép lồng nhau tuỳ ý.
Tính toán lười, đồ thị động
Chỉ tính khi cần và đổi hình dạng đầu vào không gây biên dịch chậm, dễ gỡ lỗi.
Gói mạng nơ-ron và tối ưu
mlx.nn và mlx.optimizers có API gần với PyTorch để dựng và huấn luyện mô hình.
Tận dụng MLX vào việc gì?
Người dùng Mac chip Apple, lập trình viên
Chạy và thử mô hình AI trên Mac
Dùng các ví dụ trong ml-explore/mlx-examples để chạy mô hình ngôn ngữ, tạo ảnh hay nhận dạng giọng nói trên máy mình.
Sinh viên, nhà nghiên cứu
Huấn luyện và tinh chỉnh mô hình nhỏ
Thử ý tưởng học máy ngay trên laptop Mac mà không cần thuê máy chủ GPU.
Lập trình viên iOS, macOS
Làm nền cho ứng dụng AI riêng trên Apple
Dùng API Swift hoặc C++ để đưa mô hình vào ứng dụng của bạn.
Sinh viên công nghệ
Học cách các framework học máy hoạt động
Thiết kế đơn giản, dễ đọc nên phù hợp để tìm hiểu cơ chế bên trong.
Cần chuẩn bị gì?
- Mac chip Apple silicon là môi trường chính của MLX.
- Python để dùng API Python; Linux có thêm tuỳ chọn CPU hoặc CUDA theo README.
- Kiến thức lập trình Python và khái niệm học máy cơ bản.
Hướng dẫn cài đặt chi tiết
Cài trên macOS
Mở Terminal và cài từ PyPI (nên dùng môi trường ảo Python).
pip install mlxKiểm tra bằng Python: import thư viện và in thử một mảng.
python -c "import mlx.core as mx; print(mx.array([1, 2, 3]))"
Cài trên Linux
Bản có hỗ trợ GPU NVIDIA (backend CUDA).
pip install "mlx[cuda]"Hoặc bản chỉ dùng CPU.
pip install "mlx[cpu]"Muốn tự biên dịch API C++ và Python từ mã nguồn, xem hướng dẫn Installation trong tài liệu chính thức.
https://ml-explore.github.io/mlx/build/html/install.html
Dùng thử lần đầu
Mở Python và tạo vài mảng để làm quen với cú pháp giống NumPy.
import mlx.core as mx a = mx.array([1, 2, 3, 4]) b = mx.array([1.0, 2.0, 3.0, 4.0]) print(a.shape, a.dtype, b.dtype)Cộng hai mảng rồi in kết quả; chú ý phép tính lười chỉ chạy khi bạn in hoặc gọi eval.
c = a + b mx.eval(c) print(c)Thử biến đổi hàm: tính đạo hàm của sin tại 0.
x = mx.array(0.0) print(mx.sin(x)) print(mx.grad(mx.sin)(x))Sang repo ml-explore/mlx-examples để chạy ví dụ mô hình ngôn ngữ, Stable Diffusion hay Whisper trên Mac của bạn.
Mẹo dùng hay
- Nhớ phép tính trong MLX là lười; nếu đo tốc độ thì gọi mx.eval để chắc phép tính đã chạy xong.
- Dùng tài liệu chính thức ở ml-explore.github.io/mlx để xem danh sách phép tính và hướng dẫn nâng cao.
- Muốn chat với mô hình trên Mac mà không viết code, dùng các ứng dụng xây trên MLX như exo hoặc các công cụ như Ollama, LM Studio.
Lưu ý và hạn chế
- MLX là thư viện cho nhà phát triển, không có giao diện chat; người dùng thường nên chọn ứng dụng có sẵn.
- Tối ưu chính cho Apple silicon; trên Linux và Windows bạn sẽ không có đầy đủ trải nghiệm như trên Mac.
- Các ví dụ chạy mô hình nằm ở repo mlx-examples riêng, hãy kiểm tra lại cách cài ở đó.
Câu hỏi thường gặp
MLX có miễn phí không?
Có, mã nguồn mở giấy phép MIT.
MLX có chạy được trên Windows không?
README chỉ nêu cài trên macOS và Linux (CUDA hoặc CPU), không nói tới Windows.
MLX khác PyTorch thế nào?
MLX thiết kế cho Apple silicon với bộ nhớ dùng chung và API gọn, gần NumPy. PyTorch rộng hơn về hệ sinh thái; bạn chọn tuỳ nhu cầu.
Tải mã nguồn về máy
Nếu bạn muốn xem hoặc sửa mã nguồn, mở Terminal (trên Windows là PowerShell) và chạy lệnh dưới. Máy cần cài sẵn Git.
git clone https://github.com/ml-explore/mlx.gitRepo tương tự nên xem
exo
exo-explore / exo
Ghép nhiều máy Mac thành một cụm AI để chạy mô hình lớn hơn một máy đơn lẻ chứa nổi
llama.cpp
ggml-org / llama.cpp
Động cơ chạy mô hình AI viết bằng C/C++, nhẹ, chạy được trên CPU, card đồ hoạ và máy Mac
PyTorch
pytorch / pytorch
Thư viện học sâu phổ biến nhất giới nghiên cứu, tính toán tensor trên GPU và huấn luyện mạng nơ-ron