你对着网页说句话,AI 不必把录音上传云端,也不用先后调用语音识别、语言模型和语音合成,就能直接开口回答。LFM3-Omni-2B 的新演示把这条链路完整搬进浏览器:端到端全模态,意思是同一个模型接收文字、图像或声音,并直接生成交错的文字与语音。据 Hugging Face 页面介绍,模型通过 WebGPU——网页调用设备 GPU 的标准接口——在用户电脑上本地运行。
演示作者称,他们为模型编写了定制 WebGPU 计算内核,也就是针对特定运算优化的 GPU 小程序;在 M4 Max 上,生成速度约为 280 token/s,首个 token 等待约 90 毫秒,首段音频约 140 毫秒。速度和延迟均来自作者展示,尚无独立测试;但它值得注意之处很明确:此前仍依赖专门客户端的语音到语音全链路,如今已能直接装进一个网页。