想让 AI 完全离线跑在普通电脑甚至浏览器里，模型往往先被内存和速度卡住。SHADOW-50M 给出了一个醒目的极端样本：作者从零训练了一个实际含 4400 万参数的模型，训练数据量为 450 亿 token；参数可粗略理解为模型学到的模式载体，token 则是模型处理文本的基本单元。完整模型只有 19.8MB，运行时约占 41MB 内存。
它缩小体积的关键之一是三值权重——把模型内部数值限制为 -1、0、+1，以减少存储并简化计算。作者自述，它在笔记本 CPU 上可达约 1900 token/s，即每秒处理约 1900 个文本单元；同一计算核心编译成 WebAssembly 后，也能在浏览器标签页中跑到约 500 token/s。速度会受硬件、输入长度和测试设置显著影响，而作者明确称它只是概念验证，并非产品。真正值得注意的不是“小模型全面追上大模型”，而是不到 20MB 的离线模型已经能把端侧部署的体积和速度推到这个量级。