线上 AI 服务像餐厅:高峰时机器忙着接单,低谷时不少算力闲着。但这些推理卡通常只擅长让模型“往前算”,显存和网络条件未必撑得住预训练所需的反向传播。ZO-Curv 想做的,是不把它们硬改成训练机器,而是让它们承担一项轻量的辅助工作。
具体说,训练节点仍用一阶优化——通过反向传播算出参数该往哪里改;闲置推理卡则做零阶估计:轻微扰动参数,只看损失变好还是变坏。直接拿这种试探结果指路,在数亿参数中会非常嘈杂。论文的关键转折是:不用它判断“往哪走”,只用它估计曲率——也就是不同方向的损失变化有多陡,再据此调整训练节点每项更新的幅度。两边错开一步并行运行,作者称这一延迟没有可测影响,也无需互相等待。
在 7.7 亿参数模型上,作者报告 ZO-Curv 达到 AdamW 训练 2 万步后的验证损失,只用了 3.9 小时,而 AdamW 用了 7.5 小时;相同步数下,最终损失为 2.70,对照为 2.84。它的价值不在于让推理卡取代训练卡,而在于把低谷期、只能向前算的算力变成预训练的“地形勘测员”。