一个独立开发者做了个开源安卓App,叫AI Doomsday Toolbox——把大模型推理、语音转写、文档总结、图像生成打包进一个应用,全部离线运行,不走任何云端服务。最新的0.948版还加了分布式能力,多台手机可以在局域网内组网拼算力。以下信息来自开发者在开源社区的公开帖和评论区回复,不是实机测试结果。
据开发者介绍,AI Doomsday Toolbox(下面简称ADT)的功能清单包括:本地LLM推理(基于llama.cpp)、Stable Diffusion图像生成、Whisper语音转写、PDF和视频总结、本地语音助手(带TTS)、数据集创建工具。单台手机就能跑,Play Store搜AI Doomsday Toolbox能找到,GitHub搜ManuXD32有源码。
据项目说明,最低兼容要求是Android 8.0以上、arm64-v8a架构。不是所有旧安卓手机都能用——太老的设备(32位处理器、Android 7以下)装不上。较大的模型对内存和存储也有要求,具体能跑什么规模的模型取决于设备配置。

ADT此前已有分布式LLM推理——同一局域网内多台安卓设备通过App自带的master/worker架构连起来,一台主机调度,其余贡献算力,可以拆分运行单台跑不动的大模型。据开发者说这个功能已经稳定跑了一阵子。
0.948版把分布式扩展到了Stable Diffusion图像生成,通过stable-diffusion.cpp后端实现。但这个功能仍处实验阶段,开发者明确说可能还有不少边角问题。
两项能力的成熟度差别很大:LLM分布式推理是已验证的功能,分布式出图是刚端上来的实验菜。

评论区有人问过实际速度,开发者没有给出可核对的数字——设备型号、量化方式、集群节点数都没说明。手机SoC之间的算力、内存带宽和散热差距很大,在没有统一基准的情况下,能不能用只能自己装上试。
能不能用,取决于你手机的SoC代际、内存带宽和模型的量化方式——这几项差一档,体感就差很远。想知道自己的设备跑得动什么,只能装上试。
除了分布式出图,0.948版还有几个更新:
GPU加速选项。 llama.cpp和stable-diffusion.cpp后端加了初步GPU加速,但标注为实验性——支持程度取决于具体SoC和GPU驱动,不是所有设备都能用。
本地语音助手。 LLM聊天端新增call mode,支持后台TTS,可以当一个不联网的语音助手用。
模型管理优化。 修复了下载中断和半下载模型占空间的问题。
评论区有用户说自己有一台OnePlus 12配16GB内存,觉得应该能跑小模型,但在纠结用来干什么——他已经有一台服务器在跑AI了。这说明了一个现实:很多人有闲置硬件,缺的不是算力而是场景。
ADT试图用一个App把场景打包好:装上就能转写、总结、出图,不用自己配环境。对那些手头有旧手机、没有服务器也不想付API订阅的人来说,这可能是一个门槛最低的本地AI入口。
但几个现实问题需要明说:
速度天花板未知。 手机SoC的算力有限,目前缺少跨设备的统一基准测试,是否实用取决于具体设备、模型和任务。
持续负载的隐性成本。 旧手机跑AI推理不需要额外购买计算硬件,但持续高负载下的电耗、发热和电池损耗是真实存在的。这些方面目前没有长期测试数据。
分布式的折腾门槛。 多台设备组网需要同一局域网,worker配置要在App内手动设置,出图功能还在实验阶段。
还有用户在评论区推荐搭配阿里巴巴的MNN推理框架,说在手机上跑Qwen模型特别快。安卓端的本地AI推理不止ADT这一条路线,生态正在慢慢形成。
这个项目的思路值得关注:部分满足Android 8.0以上、arm64-v8a且内存存储足够的旧手机,装上一个App就可能成为离线AI工具——转写、总结、甚至出图。多台设备还能拼在一起跑更大的模型。
不建议抱着"替代电脑"的预期去试——当作旧设备的额外玩法,抱着折腾的心态更合适。
你手头有几台吃灰的旧安卓手机?如果能装个App让它们跑本地AI,你最想试的是语音转写、文档总结,还是图像生成?这里是我的AI牛马,让 AI 替你打工,下期见。