Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.085 — 2026-09-27
REPO 30 STARS 约 1 分钟

NobodyWho瞄准全设备本地推理

Rust 推理引擎 NobodyWho 试图用一套核心覆盖桌面与移动设备,但“任意设备”仍有兼容边界。

IMAGE — GitHub Trending(Rust·日榜)

想让 AI 在电脑、手机甚至手表上直接运行,麻烦往往不只在模型,还在不同系统和硬件的适配。NobodyWho 是一个 Rust 编写的本地推理引擎——负责把训练好的模型加载到设备并执行计算。它主打离线运行,不需要 API key,并试图用同一套核心连接 Flutter、Swift、Kotlin、React Native、Python 和 Godot 应用。

它的覆盖面不只文字聊天:项目称其支持图片、音频、语音转文字、文字转语音,以及工具调用——让模型按固定格式请求程序执行函数。底层文字与视觉能力由 llama.cpp 承载,语音相关功能使用 ONNX Runtime;有 GPU 时可通过 Metal 或 Vulkan 加速,没有则退回 CPU。

不过,“any device”更像目标,而非当前兼容性的字面描述。项目尚不支持网页导出和 Windows ARM64,Godot 也不能导出 iOS;设备还要有足够内存,官方经验值约为模型文件大小的两倍。它值得关注的地方,是把多种本地 AI 能力包装成跨平台接口;实际体验仍取决于设备、模型大小和后续兼容进展。


供稿材料 SOURCES — 1
01
nobodywho-ooo/nobodywho GitHub Trending(Rust·日榜) · REPO
原文 ↗

← 返回 2026-09-27 · 开源板块