想让 AI 在电脑、手机甚至手表上直接运行,麻烦往往不只在模型,还在不同系统和硬件的适配。NobodyWho 是一个 Rust 编写的本地推理引擎——负责把训练好的模型加载到设备并执行计算。它主打离线运行,不需要 API key,并试图用同一套核心连接 Flutter、Swift、Kotlin、React Native、Python 和 Godot 应用。
它的覆盖面不只文字聊天:项目称其支持图片、音频、语音转文字、文字转语音,以及工具调用——让模型按固定格式请求程序执行函数。底层文字与视觉能力由 llama.cpp 承载,语音相关功能使用 ONNX Runtime;有 GPU 时可通过 Metal 或 Vulkan 加速,没有则退回 CPU。
不过,“any device”更像目标,而非当前兼容性的字面描述。项目尚不支持网页导出和 Windows ARM64,Godot 也不能导出 iOS;设备还要有足够内存,官方经验值约为模型文件大小的两倍。它值得关注的地方,是把多种本地 AI 能力包装成跨平台接口;实际体验仍取决于设备、模型大小和后续兼容进展。