让本地 AI 写一段散文时，最磨人的往往是它一个词一个词往外蹦。llama.cpp 新合并的补丁，试图让这一步更快：先批量起草后续词元——也就是模型处理文字的基本单位——再由主模型集中检查。该 PR 于 10 月 2 日合入 master，现有用户更新后即可尝试。
改动的关键是“概率式”起草：草稿端不再永远挑概率最高的词，而是按预测概率抽样；主模型随后用拒绝采样验证，目标是在加速的同时保持原有输出分布。GitHub 上的公开测试覆盖两种硬件、每种八套模型配置和 11 档温度。部分高温 simple-draft（简单草稿）测试的吞吐量——每秒生成的词元数——提升约 14%或更多，散文生成是主要受益场景。
不过，“MTP 解码普遍快 14%”并不准确：多组 MTP（一次预测多个后续词元）配置的平均增益低于 14%，个别设置还会变慢；Eagle3 尚未评估，DFlash 也未受益。新选项默认仍采用 greedy（总选最高概率候选），需要主动开启概率采样。