一道题明明能用好几种方法解,AI 训练久了,却可能只反复使用最熟的一套。论文研究的是 RLVR——“可验证奖励强化学习”:程序只检查最终答案对不对,答对就奖励,却不关心解法是否重复。这样做能提高正确率,也可能悄悄损失策略多样性。
作者设计了 ModeBench,让检查器同时判断答案是否正确、属于哪一种解法。它覆盖 5 类可执行任务,每类设 5 个难度。一个图着色案例有 6 个有效答案;经过 Dr.GRPO 训练后,模型更常答对,正确输出却集中到单一模式。更值得注意的是,作者测试的前沿模型即使保持近乎满分,多次采样找到的解法仍远少于实际可行解。
为此,作者提出 Re:Max:每发现一种正确解法,就保存一个样例,并让各种解法获得同等练习机会。作者称,这一办法在 3 种模型规模、不同训练目标和更难任务上,同时改善了成功率与解法多样性。结论很直接:只盯正确率,可能把“更会解题”和“更会重复套路”混为一谈。