Trải nghiệm khi dùng PocketPal AI
Bạn cài PocketPal từ App Store hoặc Google Play, mở menu, vào mục Models, chọn một mô hình hợp với điện thoại rồi bấm tải. Xong thì nạp (Load) mô hình và quay lại màn hình chat. Từ lúc đó bạn gõ câu hỏi và AI trả lời ngay trên chip điện thoại, kể cả khi tắt mạng.
Ứng dụng khá thân thiện với người mới: bạn có thể sửa tin nhắn đã gửi bằng cách nhấn giữ để AI viết lại câu trả lời, bấm thử lại để lấy câu trả lời khác, thậm chí chọn mô hình khác cho lần thử lại. Muốn mô hình khác ngoài danh sách thì thêm từ Hugging Face hoặc từ bộ nhớ máy.
Ngoài chat chữ, PocketPal còn có đọc to câu trả lời bằng giọng nói chạy trên máy, nhập liệu bằng giọng với Whisper, và Pals: những trợ lý có sẵn lời dặn riêng như một người bạn trò chuyện hay một chuyên gia công thức pha chế. Có trang benchmark để đo tốc độ mô hình trên điện thoại của bạn.
Tính năng nổi bật
Chat offline trên điện thoại
Chạy các mô hình GGUF như Gemma, Qwen, Phi, Llama hoàn toàn trên máy, không cần tài khoản.
Giọng nói hai chiều
Đọc to câu trả lời bằng giọng neural chạy trên máy và nhập tin nhắn bằng giọng nói nhờ Whisper.
Pals - trợ lý có tính cách riêng
Tạo trợ lý có mô hình mặc định và lời dặn riêng, hoặc cài thêm Pals do cộng đồng chia sẻ trên PalsHub.
Tải mô hình từ Hugging Face
Tìm và tải mô hình GGUF trực tiếp từ Hugging Face, kể cả mô hình cần mã truy cập của bạn.
Đo hiệu năng thiết bị
Đo số token mỗi giây và bộ nhớ dùng, và tuỳ chọn so sánh trên bảng xếp hạng điện thoại.
Công cụ cho Pals
Trợ lý có thể dùng máy tính, xem ngày giờ, hiển thị HTML và tìm kiếm web nếu bạn bật, theo README.
Tận dụng PocketPal AI vào việc gì?
Dân văn phòng, người bán hàng online
Soạn tin nhắn, email khi đang di chuyển
Nhờ AI viết lại tin trả lời khách sao cho lịch sự hơn ngay trên điện thoại, kể cả khi sóng yếu.
Người quan tâm quyền riêng tư
Hỏi nhanh kiến thức riêng tư
Hỏi những điều không muốn gửi lên dịch vụ đám mây, vì nội dung chat ở lại trên máy nếu bạn không bật tính năng trực tuyến.
Sinh viên, người đi làm
Luyện nói tiếng Anh với giọng đọc
Dùng nhập giọng nói và giọng đọc để luyện hội thoại ngắn; nhớ kiểm tra lại, vì mô hình nhỏ có thể sai ngữ pháp.
Người thích sáng tạo
Tạo nhân vật trợ lý riêng
Đặt lời dặn để Pal đóng vai gia sư, người lên thực đơn hay bạn tâm sự.
Người mê công nghệ, lập trình viên
Thử mô hình mới trên điện thoại
Tải mô hình mới từ Hugging Face và chạy benchmark để biết điện thoại chịu được tới đâu.
Cần chuẩn bị gì?
- iPhone, iPad hoặc điện thoại Android; máy mạnh và nhiều RAM sẽ chạy mô hình lớn tốt hơn.
- Dung lượng trống để lưu mô hình, mỗi mô hình có thể từ khoảng vài trăm MB đến vài GB tuỳ chọn của bạn.
- Internet khi tải mô hình, giọng nói, hoặc khi bạn bật các tính năng trực tuyến như tìm kiếm web.
- Không cần tài khoản để chat với mô hình trên máy.
Hướng dẫn cài đặt chi tiết
Cài trên iPhone / iPad
Mở App Store, tìm PocketPal AI và cài đặt theo link chính thức dưới đây.
https://apps.apple.com/us/app/pocketpal-ai/id6502579498Mở ứng dụng, bấm menu ba gạch, vào mục Models và chọn mô hình hợp với máy rồi tải.
Bấm nạp (Load) mô hình sau khi tải xong, rồi quay lại màn hình chat để bắt đầu.
Cài trên Android
Cài từ Google Play theo link chính thức.
https://play.google.com/store/apps/details?id=com.pocketpalaiNếu muốn bản APK, vào trang Releases của repo. README nêu bản APK trên GitHub từ sau v1.23.0 đã mở khoá sẵn các tính năng Plus.
https://github.com/a-ghorbani/pocketpal-ai/releasesMở ứng dụng, vào menu rồi mục Models, tải một mô hình và nạp nó để chat.
Dùng thử lần đầu
Mở PocketPal, bấm menu ba gạch rồi vào mục Models.
Chọn một mô hình nhỏ trong danh sách, bấm tải và đợi hoàn tất, nên dùng Wi-Fi.
Bấm Load cho mô hình, quay lại trang chat và gõ thử câu tiếng Việt, ví dụ nhờ viết lại một tin nhắn lịch sự hơn.
Thử sửa một tin nhắn của bạn bằng cách nhấn giữ để thấy AI viết lại, hoặc bấm thử lại để lấy câu trả lời khác.
Vào trang Benchmark để đo tốc độ của mô hình trên điện thoại bạn, rồi quyết định có nên đổi mô hình khác không.
Mẹo dùng hay
- Mô hình nhỏ hơn thì nhanh và ít nóng máy hơn; chọn bản nén phù hợp với RAM điện thoại khi tải từ Hugging Face.
- Tìm kiếm web, đọc trang và một số giọng hệ thống sẽ làm nội dung đi qua mạng, nên hãy tắt chúng nếu muốn giữ riêng tư tuyệt đối.
- Dùng Pals để lưu sẵn lời dặn cho các việc lặp lại như viết bài đăng bán hàng hay dịch tin nhắn.
Lưu ý và hạn chế
- Mô hình chạy trên điện thoại nhỏ, tiếng Việt có thể chưa tốt và câu trả lời có thể sai; không nên dùng cho quyết định quan trọng như y tế hay pháp lý.
- Chạy AI làm máy nóng và hao pin nhanh; nên cắm sạc khi dùng lâu.
- Bản App Store và Google Play có tuỳ chọn mua một lần PocketPal Plus cho giọng nói rảnh tay và máy chủ API cục bộ, README nói nhiều tính năng cơ bản vẫn miễn phí.
Câu hỏi thường gặp
PocketPal có miễn phí không?
Chat, mô hình, giọng nói và công cụ miễn phí và không cần tài khoản. Bản trên cửa hàng có thêm lần mua PocketPal Plus tuỳ chọn. Mã nguồn dùng giấy phép MIT.
Dữ liệu chat có rời khỏi điện thoại không?
Theo README, chat và tài liệu chỉ rời máy qua các tính năng bạn bật như tìm kiếm web, máy chủ từ xa hoặc giọng hệ thống chạy online. Tải mô hình, mua hàng hay gửi phản hồi không đính kèm cuộc chat.
Máy yếu có chạy được không?
Có thể chạy được mô hình nhỏ, nhưng sẽ chậm hơn. Hãy dùng trang Benchmark để xem mô hình nào hợp với máy bạn.
Tải mã nguồn về máy
Nếu bạn muốn xem hoặc sửa mã nguồn, mở Terminal (trên Windows là PowerShell) và chạy lệnh dưới. Máy cần cài sẵn Git.
git clone https://github.com/a-ghorbani/pocketpal-ai.gitRepo tương tự nên xem
Google AI Edge Gallery
google-ai-edge / gallery
Ứng dụng của Google để chạy mô hình AI ngay trên điện thoại, hoàn toàn offline và riêng tư
MNN (Alibaba)
alibaba / MNN
Bộ máy học sâu gọn nhẹ của Alibaba, có ứng dụng MNN Chat chạy AI offline ngay trên điện thoại
MLC LLM
mlc-ai / mlc-llm
Công cụ biên dịch và chạy mô hình AI trên mọi loại card đồ hoạ, điện thoại và cả trình duyệt