Box: Ứng Dụng AI Offline Trên Android
/Box
Box là một ứng dụng AI offline trên Android, chạy chat, tạo ảnh, thị giác, giọng nói, và tạo nhạc hoàn toàn trên máy, không gửi dữ liệu lên server. Nó fork từ Google AI Edge Gallery; README nói việc merge với upstream đã dừng lại — Box hiện có hơn 50 tính năng mà bản gốc không có. Hãy chọn Box thay vì năm ứng dụng riêng lẻ, nhất là trên điện thoại de-Google; bỏ qua nếu bạn chỉ cần chatbot nhanh gọn, vì cài đặt tốn công hơn Play Store.
Box Là Gì?
Box là một ứng dụng AI offline trên Android, gộp chat, tạo ảnh, thị giác, giọng nói, và tạo nhạc on-device vào một bản cài đặt duy nhất, hoạt động không cần internet sau khi model đã tải về máy. README mô tả Box là một fork đã phân nhánh đáng kể từ Google AI Edge Gallery, có thêm nhận diện khuôn mặt và chế độ camera đọc to cho người khiếm thị hoặc thị lực yếu, định tuyến qua tăng tốc GPU, TPU, hoặc NPU tùy theo chip điện thoại của bạn.
Các Tính Năng AI On-Device Chính
- ✓Chat GGUF chạy trên engine llama.cpp được xây lại, với Vulkan GPU offload đầy đủ — README dẫn con số tăng từ 0,7 lên 21 token mỗi giây trên Pixel 6a sau bản viết lại v3.3.0, cùng bảng Settings → GGUF Models cho context size, số luồng CPU, số lớp GPU, mmap, mlock, và Q8 KV cache.
- ✓Ba engine tạo ảnh on-device: Bonsai Image 4B — bản ternary-weight của FLUX.2 klein, khoảng 4,3 GB để tải về, chỉ chạy CPU, cho ảnh 512×512 trong bốn bước — cộng thêm FLUX.2 klein (khoảng 7,4 GB) và Z-Image Turbo (khoảng 10,6 GB, chín bước), cùng upscale EDSR ×4 để đưa ảnh lên 2048×2048.
- ✓Box Assist mang lại chế độ camera đọc to cho người khiếm thị hoặc thị lực yếu, với Live mode, Reading mode, và Describe mode, cùng khả năng trả lời câu hỏi bằng giọng nói dựa trên những gì camera đang thấy.
- ✓Tab Sound gồm chat giọng nói speech-to-speech, Live Translator chạy trên các model audio Gemma cho 24 ngôn ngữ, text-to-speech đa ngôn ngữ, và ba mức tạo nhạc/âm thanh (SoundGen, SoundGen HD, SoundGen HD Long, dài tới khoảng ba phút).
- ✓Các công cụ thị giác có sẵn gồm nhận diện vật thể/khung cảnh qua nhiều họ model (riêng PlantNet nhận diện 1.081 loài thực vật), nhận diện khuôn mặt on-device, và công cụ Erase dựa trên MI-GAN inpainting.
- ✓Tăng tốc phần cứng khớp theo đúng chip máy bạn: GPU trên mọi máy, TPU Tensor G5 của Google trên Pixel 10, và các thư viện dispatch NPU tinh chỉnh cho từng chip Snapdragon và MediaTek cụ thể, Box tự chọn bản phù hợp.
- ✓Các tính năng bảo mật được nêu cụ thể chứ không chỉ nói chung chung: khoá sinh trắc học, mã hoá lịch sử chat, và chống tap-jacking, cùng một bản build custom-rom-support riêng cho GrapheneOS, LineageOS, và CalyxOS.
- ✓Nhập model GGUF cho phép bạn tải model cục bộ của riêng mình thay vì chỉ dùng danh mục model có sẵn trong Box.
Ứng Dụng Thực Tế Của Box
- •Chat với model LLM cục bộ dạng GGUF hoặc Gemma khi không có sóng — trên máy bay, dưới hầm, hoặc bất cứ đâu offline.
- •Dùng Box Assist như một công cụ hỗ trợ di chuyển bằng giọng nói: Live mode mô tả chướng ngại vật và người xung quanh, Reading mode đọc to thư từ hay thực đơn, dành cho người khiếm thị hoặc thị lực yếu mà không cần qua API thị giác trên cloud.
- •Tạo nhanh một hiệu ứng âm thanh hoặc đoạn nhạc ngắn cho video qua SoundGen, thay vì tải âm thanh lên một dịch vụ tạo nhạc trả phí trên cloud.
- •Chạy trọn bộ AI on-device trên điện thoại de-Google qua bản build custom-rom-support, nơi phần lớn ứng dụng AI phụ thuộc Play Services không hoạt động.
- •Đưa một tài liệu vào Box để hỏi-đáp offline, hoặc dùng Ask Image để đọc chữ trong ảnh bằng các model thị giác InternVL.
Cài Đặt Box Trên Thiết Bị Android
README của Box mô tả cách cài qua Obtainium thay vì niêm yết trên Play Store: thêm URL của repo (https://github.com/jegly/Box) vào luồng thêm ứng dụng của Obtainium, ứng dụng sẽ lấy về bản phát hành theo nhánh bạn chọn. Có hai nhánh — Main, dành cho Android gốc trên các máy như Pixel hay Samsung, và Custom ROM, dành cho thiết bị chạy GrapheneOS, LineageOS, hoặc CalyxOS không có Google services — và Obtainium cần đúng giá trị filter tương ứng (Main hoặc custom-rom-support) để lấy đúng file APK. Sau đó, các bản cập nhật mới sẽ tự xuất hiện trong Obtainium, hoặc bạn có thể kiểm tra thủ công trong Settings của Box. README cho biết số phiên bản hiển thị trong app đã khớp với số phiên bản phát hành thực tế của Box kể từ v2.0.0, sau khi sửa lỗi lệch số phiên bản kế thừa từ Google AI Edge Gallery trước đó. Changelog cũng nêu phiên bản Android tối thiểu được hỗ trợ là Android 14.
Điểm mạnh
- ✓Đầy đủ tính năng trong một APK: chat, tạo ảnh, thị giác, giọng nói, và tạo nhạc, không cần dùng năm ứng dụng riêng lẻ.
- ✓Kỹ thuật cụ thể đứng sau các con số về tăng tốc — số liệu trước/sau ngay trong README (0,7 lên 21 token mỗi giây trên Pixel 6a sau khi viết lại engine GGUF) là kiểu chi tiết cụ thể mà quảng cáo 'AI nhanh' chung chung thường bỏ qua.
- ✓Có bản build custom-rom-support và quy trình cài riêng cho GrapheneOS, LineageOS, và CalyxOS — trường hợp mà phần lớn ứng dụng AI Android phổ biến bỏ qua hoàn toàn.
- ✓Các tính năng bảo mật được nêu cụ thể thay vì chỉ nói chung chung: khoá sinh trắc học, mã hoá lịch sử chat, và chống tap-jacking.
- ✓Changelog hoạt động tích cực và chi tiết — các mục theo từng phiên bản, gắn số issue cụ thể (#67, #81, #82, #83, #88), cho thấy lỗi được theo dõi và đóng lại chứ không bị bỏ ngỏ.
Hạn Chế Và Lưu Ý Hiện Tại
- △Trường license trên GitHub để trống ('?') — đừng mặc định về điều khoản phân phối lại hay đóng góp, hãy kiểm tra file LICENSE thực tế trên GitHub trước.
- △Tạo ảnh diffusion không nhanh trên phần cứng phổ thông: Bonsai Image chỉ chạy CPU vì diffusion graph của nó quá lớn cho GPU delegate, và README ước tính khoảng hai phút cho mỗi ảnh với mức dùng RAM gần 8 GB.
- △Tăng tốc NPU phụ thuộc từng chip cụ thể, không phải một tính năng chung cho mọi máy Android — changelog ghi lại hàng loạt lần sửa lỗi crash NPU gắn với các SoC Snapdragon và MediaTek cụ thể (ví dụ SM8750, SM8750-AB), nên kết quả tuỳ vào đúng model điện thoại bạn dùng.
- △Đa ngôn ngữ trong app mới chỉ một phần: bộ chọn Settings → Language thêm tiếng Pháp và tiếng Bồ Đào Nha bên cạnh tiếng Anh, nhưng chỉ một số màn hình được dịch, phần còn lại vẫn tiếng Anh.
- △Box không còn chủ động merge thay đổi từ Google AI Edge Gallery upstream nữa, theo README, nên bản sửa lỗi hay tính năng mới bên phía Google chỉ đến với Box nếu đội phát triển Box tự đưa vào.
- △Đây là dự án còn non trẻ xét theo số liệu GitHub, không có niêm yết trên Play Store — cài đặt chỉ qua Obtainium và GitHub releases, đòi hỏi nhiều bước hơn một ứng dụng Android thông thường.
Lựa Chọn Thay Thế Cho Box
Câu Hỏi Thường Gặp
Box có bản APK custom-rom-support riêng dành cho GrapheneOS, LineageOS, và CalyxOS, tách biệt với bản Main cho Android gốc — tải bản đó từ GitHub release mới nhất thay vì bản tiêu chuẩn.
Theo README, các tính năng chat, tạo ảnh, thị giác, giọng nói, và tạo nhạc của Box đều chạy hoàn toàn on-device, không cần gửi dữ liệu lên server sau khi model đã tải về máy.
Box định tuyến chat và tạo ảnh qua GPU, TPU Tensor G5 của Google trên Pixel 10, và các thư viện dispatch NPU tinh chỉnh cho từng chip Snapdragon và MediaTek cụ thể, tự động chọn bản khớp với chip máy bạn.
Box hỗ trợ nhập model GGUF theo README, cho phép bạn tải model tương thích llama.cpp của riêng mình thay vì chỉ dùng danh mục model có sẵn trong Box.
Bộ chọn Settings → Language của Box hiện gồm System, tiếng Anh, tiếng Pháp, và tiếng Bồ Đào Nha (kể cả Português Brasil), dù changelog ghi rõ việc dịch mới chỉ một phần và một số màn hình vẫn còn tiếng Anh.
Box khởi đầu là một fork của Google AI Edge Gallery, nhưng README nói rõ Box không liên kết hay được Google LLC chứng thực, và toàn bộ thương hiệu Google đã được thay thế trong ứng dụng.
Vấn đề Box giải quyết
Các ứng dụng AI on-device trên Android thường chỉ làm một việc — một ứng dụng cho chat cục bộ, một ứng dụng khác cho tạo ảnh — và phần lớn giả định máy chạy Android gốc với Google Play services, khiến người dùng GrapheneOS, LineageOS, và CalyxOS có ít lựa chọn hoạt động ổn định. README của Box đóng khung lý do ra đời của dự án quanh khoảng trống đó: nó fork Google AI Edge Gallery rồi xây riêng một nhánh phát hành custom-rom-support cho điện thoại de-Google, đồng thời gộp chat, tạo ảnh, thị giác, giọng nói, và tạo nhạc vào chung một ứng dụng thay vì năm ứng dụng tách rời.
Ai nên dùng — và ai nên bỏ qua
Hãy thử Box nếu bạn dùng Android và muốn một ứng dụng duy nhất cho chat, tạo ảnh, thị giác, giọng nói, và tạo nhạc offline mà không cần kết nối mạng — nhất là nếu bạn chạy GrapheneOS, LineageOS, hoặc CalyxOS và phần lớn ứng dụng AI khác không cài được. Bỏ qua nếu bạn chỉ cần một chatbot nhanh gọn: một ứng dụng đơn giản hơn sẽ nhanh thiết lập hơn, vì việc cài qua Obtainium và tinh chỉnh tăng tốc theo từng chip của Box đòi hỏi nhiều công sức ban đầu hơn một ứng dụng tải từ Play Store.
Repo liên quan
Chưa chắc Box có hợp với bạn?
Để ChatGPT, Claude hoặc Perplexity tìm hiểu giúp — bấm bên dưới và xem AI nói gì về Box.