Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.101 — 2026-10-13
NEWS 约 1 分钟

一个信号判断模型何时没把握

U-Space从模型内部提取“没把握”信号,一次运行即可决定是否复核。

AI 最麻烦的一点,是没把握时也能答得很流畅。U-Space 想给开放权重模型装一盏“谨慎灯”:系统只运行模型一次,就估计这道回答是否该交给人工复核、补充检索或保守处理,不必让模型重复作答,也不需要裁判模型和人工标注集。

它的工具 U-Lens 把两个信号相乘:一是隐藏状态——模型处理文字时形成的内部数字表示——朝“歧义、信息缺失、证据冲突、一般性不确定”四个方向偏得多强;二是推理过程中平均 Token 熵,也就是模型对下一个词的候选有多分散。作者自述,在涵盖 3 个模型、4 个基准和 3 个随机种子的实验中,它优于需采样 5 次、10 次的方法及监督式基线。代价是模型须先有适配的 Jacobian Lens;若没有,作者称可用约 100 条无标注提示拟合,主要成本来自反向计算。


供稿材料 SOURCES — 1

← 返回 2026-10-13 · 科技板块