给同一块显卡“减负”，不只看数字压得多小，还看程序能不能把省下来的空间变成速度。社区项目 TKintegers 尝试用 K5 三值权重表示模型参数，并为它编写定制 GPU 内核。作者自测称，在 NVIDIA L4 上运行 Qwen2.5-0.5B-Instruct 时，K5 的预填充吞吐为 3,402.85 tokens/s，是 TorchAO FP8 基线的 3.21 倍；逐词生成的解码吞吐为 26.75 tokens/s，是基线的 3.10 倍。
K5 用五个三值数字编码一个权重，共有 243 种取值，每个编码占一字节。计算时，内核分块展开权重，再使用 FP16 Tensor Core 运算并以 FP32 累加。值得注意的是，L4 原生支持 FP8，却没有 K5 指令；这组结果因此提示，定制内核和数据编排可能比硬件名义支持更关键。不过对照组是运行于 eager PyTorch 的 TorchAO 动态 E4M3 FP8，作者也明确表示 FP16 对照快于两者，且结果只适用于当前模型、负载和实现，尚不能证明 K5 普遍胜过 FP8，仍需独立复现。