等 AI 写完一段长回答，速度不只取决于模型，也取决于背后那套“出字引擎”。推理后端——负责加载模型、管理显存并执行生成的软件——换一个，体感可能明显不同。Reddit 用户 Relative-Ant-9249 实测称，QEngine 1.3.1 在双 RTX 5090 上运行 Qwen3.8-Flash-Next，单路生成代码时达到约 504 tok/s，也就是每秒输出约 504 个文本单位。
这套配置采用 INT4——用约 4 位整数压缩模型权重——并把 KV cache 移到内存；KV cache 可以理解为模型保存上下文中间结果的“草稿纸”。同一脚本和提示词下，QEngine 的叙事/代码解码速度为 406/504 tok/s，作者称约为 Strata 的 1.4 至 1.9 倍、约为其测试版 bucko vLLM 的 3 倍。
不过，504 tok/s 接近最佳情况：测试会重复提示词，QEngine 的缓存能从中获益。作者在更多样的流量中测得约 300—400 tok/s；长上下文读取也并非全面领先，90K 输入时慢于 Strata。因此，这更像一份值得复现的社区成绩单，而非已经坐实的通用结论。