大模型像一套塞不进书桌的百科全书：显卡放不下，就把暂时不用的部分留在书架上。capy-flash用这套思路，让Qwen3.8-Flash-Next 125B-A6B跑在两张RTX 5070 Ti 16GB显卡上。它把“专家”权重卸载到96GB系统内存，需要时再搬给显卡；MoE（混合专家模型）每次只调用部分专家。模型采用NVIDIA官方NVFP4权重，不再二次压缩。NVFP4是一种4位浮点格式，能大幅减少权重占用。
两张卡通过张量并行共同计算，也就是把同一层拆开处理。作者在自己的机器上测得，生成约100 token/s，Strata使用相同NVFP4权重时为78；处理一段约1.5万token的输入时，预填充速度约3400 token/s，对方约2700。不过Strata的3位IQ3_S版本生成仍更快。项目目前只支持Linux和RTX 50系列，速度与质量结论也都来自作者自测。它的意义不只是“塞进去”，而是给小显存本地推理增加了一条明确路线：显卡负责算，系统内存负责装。