Chuyển đến nội dung

ml-explore / mlx

MLX

Framework học máy của Apple cho chip Apple silicon, dùng như NumPy nhưng chạy nhanh trên GPU của Mac

MLX là thư viện mảng (array framework) cho học máy do nhóm nghiên cứu học máy của Apple phát triển, thiết kế để tận dụng chip Apple silicon với bộ nhớ dùng chung giữa CPU và GPU. Giao diện Python giống NumPy, có thêm các gói mạng nơ-ron và tối ưu hoá giống PyTorch. Đây là nền tảng nhiều công cụ chạy AI trên Mac dựa vào, không phải ứng dụng bấm là dùng.

  • 29.181 sao
  • 2.433 fork
  • C++
  • Cập nhật 3 ngày trước
  • MIT (dùng tự do, kể cả thương mại)
Độ khó
Khó Dành cho người biết lập trình
Dạng
Thư viện lập trình
Chạy trên
macOS, Linux, Python
Chi phí
Miễn phí hoàn toàn

Trải nghiệm khi dùng MLX

Bạn cài MLX bằng pip trên Mac (pip install mlx), mở Python và viết code gần như quen thuộc nếu từng dùng NumPy: tạo mảng, cộng trừ, tính toán. README nhấn mạnh phép tính của MLX chạy theo kiểu lười (lazy), chỉ thật sự tính khi cần kết quả hoặc khi bạn gọi eval.

Đặc điểm nổi bật là mô hình bộ nhớ dùng chung: mảng nằm ở bộ nhớ chung nên có thể chạy phép tính trên CPU hay GPU mà không phải sao chép dữ liệu qua lại. Cùng thư viện còn có API cho C++, C và Swift, và các gói cấp cao như mlx.nn và mlx.optimizers để dựng mô hình phức tạp hơn.

Với người dùng thường, bạn ít khi chạm MLX trực tiếp. Bạn sẽ gặp nó gián tiếp khi dùng các công cụ chạy AI trên Mac như exo hay các ví dụ chạy LLaMA, Stable Diffusion hoặc Whisper trong repo ml-explore/mlx-examples. Lập trình viên và nhà nghiên cứu mới là người dùng chính.

Tính năng nổi bật

API giống NumPy

Cú pháp quen thuộc, kèm các API C++, C và Swift có hình dạng tương tự.

Bộ nhớ dùng chung

Mảng sống trong bộ nhớ chung nên phép tính chạy trên CPU hoặc GPU mà không cần chuyển dữ liệu.

Biến đổi hàm có thể ghép

Hỗ trợ tự động tính đạo hàm (grad), vector hoá (vmap) và tối ưu đồ thị tính toán, ghép lồng nhau tuỳ ý.

Tính toán lười, đồ thị động

Chỉ tính khi cần và đổi hình dạng đầu vào không gây biên dịch chậm, dễ gỡ lỗi.

Gói mạng nơ-ron và tối ưu

mlx.nn và mlx.optimizers có API gần với PyTorch để dựng và huấn luyện mô hình.

Tận dụng MLX vào việc gì?

Người dùng Mac chip Apple, lập trình viên

Chạy và thử mô hình AI trên Mac

Dùng các ví dụ trong ml-explore/mlx-examples để chạy mô hình ngôn ngữ, tạo ảnh hay nhận dạng giọng nói trên máy mình.

Sinh viên, nhà nghiên cứu

Huấn luyện và tinh chỉnh mô hình nhỏ

Thử ý tưởng học máy ngay trên laptop Mac mà không cần thuê máy chủ GPU.

Lập trình viên iOS, macOS

Làm nền cho ứng dụng AI riêng trên Apple

Dùng API Swift hoặc C++ để đưa mô hình vào ứng dụng của bạn.

Sinh viên công nghệ

Học cách các framework học máy hoạt động

Thiết kế đơn giản, dễ đọc nên phù hợp để tìm hiểu cơ chế bên trong.

Cần chuẩn bị gì?

  • Mac chip Apple silicon là môi trường chính của MLX.
  • Python để dùng API Python; Linux có thêm tuỳ chọn CPU hoặc CUDA theo README.
  • Kiến thức lập trình Python và khái niệm học máy cơ bản.

Hướng dẫn cài đặt chi tiết

Cài trên macOS

  1. Mở Terminal và cài từ PyPI (nên dùng môi trường ảo Python).

    Terminal
    pip install mlx
  2. Kiểm tra bằng Python: import thư viện và in thử một mảng.

    Terminal
    python -c "import mlx.core as mx; print(mx.array([1, 2, 3]))"

Cài trên Linux

  1. Bản có hỗ trợ GPU NVIDIA (backend CUDA).

    Terminal
    pip install "mlx[cuda]"
  2. Hoặc bản chỉ dùng CPU.

    Terminal
    pip install "mlx[cpu]"
  3. Muốn tự biên dịch API C++ và Python từ mã nguồn, xem hướng dẫn Installation trong tài liệu chính thức.

    Văn bản
    https://ml-explore.github.io/mlx/build/html/install.html

Dùng thử lần đầu

  1. Mở Python và tạo vài mảng để làm quen với cú pháp giống NumPy.

    Python
    import mlx.core as mx
    a = mx.array([1, 2, 3, 4])
    b = mx.array([1.0, 2.0, 3.0, 4.0])
    print(a.shape, a.dtype, b.dtype)
  2. Cộng hai mảng rồi in kết quả; chú ý phép tính lười chỉ chạy khi bạn in hoặc gọi eval.

    Python
    c = a + b
    mx.eval(c)
    print(c)
  3. Thử biến đổi hàm: tính đạo hàm của sin tại 0.

    Python
    x = mx.array(0.0)
    print(mx.sin(x))
    print(mx.grad(mx.sin)(x))
  4. Sang repo ml-explore/mlx-examples để chạy ví dụ mô hình ngôn ngữ, Stable Diffusion hay Whisper trên Mac của bạn.

Mẹo dùng hay

  • Nhớ phép tính trong MLX là lười; nếu đo tốc độ thì gọi mx.eval để chắc phép tính đã chạy xong.
  • Dùng tài liệu chính thức ở ml-explore.github.io/mlx để xem danh sách phép tính và hướng dẫn nâng cao.
  • Muốn chat với mô hình trên Mac mà không viết code, dùng các ứng dụng xây trên MLX như exo hoặc các công cụ như Ollama, LM Studio.

Lưu ý và hạn chế

  • MLX là thư viện cho nhà phát triển, không có giao diện chat; người dùng thường nên chọn ứng dụng có sẵn.
  • Tối ưu chính cho Apple silicon; trên Linux và Windows bạn sẽ không có đầy đủ trải nghiệm như trên Mac.
  • Các ví dụ chạy mô hình nằm ở repo mlx-examples riêng, hãy kiểm tra lại cách cài ở đó.

Câu hỏi thường gặp

MLX có miễn phí không?

Có, mã nguồn mở giấy phép MIT.

MLX có chạy được trên Windows không?

README chỉ nêu cài trên macOS và Linux (CUDA hoặc CPU), không nói tới Windows.

MLX khác PyTorch thế nào?

MLX thiết kế cho Apple silicon với bộ nhớ dùng chung và API gọn, gần NumPy. PyTorch rộng hơn về hệ sinh thái; bạn chọn tuỳ nhu cầu.

Tải mã nguồn về máy

Nếu bạn muốn xem hoặc sửa mã nguồn, mở Terminal (trên Windows là PowerShell) và chạy lệnh dưới. Máy cần cài sẵn Git.

Terminal
git clone https://github.com/ml-explore/mlx.git

Repo tương tự nên xem

Chạy AI trên máy cá nhân48,4K

exo

exo-explore / exo

Ghép nhiều máy Mac thành một cụm AI để chạy mô hình lớn hơn một máy đơn lẻ chứa nổi

KhómacOSLinuxPython
Chạy AI trên máy cá nhân135K

llama.cpp

ggml-org / llama.cpp

Động cơ chạy mô hình AI viết bằng C/C++, nhẹ, chạy được trên CPU, card đồ hoạ và máy Mac

VừaWindowsmacOSLinuxDocker
Thư viện & framework AI106K

PyTorch

pytorch / pytorch

Thư viện học sâu phổ biến nhất giới nghiên cứu, tính toán tensor trên GPU và huấn luyện mạng nơ-ron

KhóWindowsmacOSLinuxDocker+1

Nội dung được biên soạn bằng tiếng Việt dựa trên tài liệu chính thức của dự án, cập nhật lần cuối 16/11/2026. Lệnh cài có thể thay đổi theo phiên bản mới; nếu có khác biệt, hãy làm theo README trên GitHub.

Cùng chủ đề: Chạy AI trên máy cá nhân

Chạy AI trên máy cá nhân187K

Ollama

ollama / ollama

Tải và chạy mô hình AI như Gemma, Qwen, DeepSeek ngay trên máy tính của bạn chỉ với một lệnh

DễWindowsmacOSLinuxDocker
Chạy AI trên máy cá nhân97K

vLLM

vllm-project / vllm

Máy chủ chạy mô hình ngôn ngữ tốc độ cao cho card đồ hoạ, phục vụ nhiều người dùng cùng lúc

KhóLinuxPythonDocker
Chạy AI trên máy cá nhân50,4K

LocalAI

mudler / LocalAI

Máy chủ AI mã nguồn mở tự cài: chat, ảnh, giọng nói trong một API, chạy được cả khi không có GPU

VừaDockerLinuxmacOSWindows
Chạy AI trên máy cá nhân38,9K

SGLang

sgl-project / sglang

Framework phục vụ mô hình ngôn ngữ và đa phương thức hiệu năng cao, tối ưu cho agent và hệ thống lớn

KhóDockerPythonLinux
Chạy AI trên máy cá nhân26,7K

llamafile

mozilla-ai / llamafile

Gói cả mô hình AI và phần mềm chạy vào đúng một file, tải về là chạy, không cần cài đặt

VừaWindowsmacOSLinux
Chạy AI trên máy cá nhân25,3K

Google AI Edge Gallery

google-ai-edge / gallery

Ứng dụng của Google để chạy mô hình AI ngay trên điện thoại, hoàn toàn offline và riêng tư

DễAndroidiOSmacOS

Xem cả 18 repo Chạy AI trên máy cá nhân Về Kho Repo