Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.104 — 2026-10-16
PAPER HF 228 · 2 信源 约 7 分钟

Jev:不写推理链也能快思考

Jeva 与 VideoJev 把候选决策做成专用接口,绕开逐字生成,在文本与视频任务中换取更低延迟。

你让 AI 从几十个工具里挑一个,它可能先在内部慢慢推演,再像打字一样逐个生成 Token。答案只有一个名字,等待却花在一长串中间文字上。视频任务更明显:智能体若要边看边行动,等它完整“想完再说”,时机可能已经过去。

Jeva 和 VideoJev 探索的是另一条路:不生成显式推理链,直接对候选项或视频片段打分,输出结构化决定。它们把这种方式称为 System One——借用心理学术语,指快速、直觉式判断,与逐步推演的 System Two 相对。这里说的“Jev”更适合作为共同路线的简称:Jeva 是面向通用决策的架构,VideoJev 则把类似思路用于视频理解。材料没有说明二者来自同一机构或团队,也不能把一篇的架构和成绩算到另一篇头上。

问题不只是生成太慢

自回归生成像打字:后一个 Token 必须等前一个完成。推理和答案越长,延迟通常越高。但 Jeva 论文认为,仅仅取消长答案还不够。一个真正为决策而生的模型,至少要处理四件事。

第一,候选里可能根本没有正确答案。模型需要区分“都不对”和“几个选项之间拿不准”。第二,同一组选项换个顺序,结论不该改变。这叫置换不变性,否则模型可能把 A、B、C 的位置当成线索。第三,候选从十个增加到一千个时,不应重新定义输出空间。第四,反复出现的工具、文档或标签应能提前计算并缓存,别在每次请求里重做一遍。

许多既有做法把请求和候选拼成一段有顺序的文本,再从答案 Token 或专用预测头中读出结果。这样做把本来无序的候选集合变成了序列,也把可重复利用的候选内容塞进每次请求的计算里。

Jeva:候选先存档,请求再来判断

Jeva 的关键拆分很直观。一个共享编码器分别读取请求和每个候选,把它们变成紧凑表示;随后,一个较小的“决策栈”只更新请求的状态,并读取保持不变的候选记忆。像是先给每份档案做好索引,新问题到来时,评审员翻索引作判断,而不是重新整理全部档案。

它又不只是把请求与每个候选分别算相似度。单独打分有一个限制:加入第三个选项,可以稀释前两个选项的概率,却不能颠倒两者的相对偏好。Jeva 让请求状态先观察整个候选集合,再统一评分,因此周围候选的存在可以改变判断,同时候选自身的表示仍可复用。

架构中的对称聚合保证候选换序时,概率只跟着候选一起换位置;共享评分器则让同一套参数处理数量可变的候选。模型还单独设置 coverage estimate,即“覆盖度估计”,判断候选集合中是否至少有一个可接受答案。它先回答“这里有没有答案”,再回答“若有,哪一个最好”,从而把空答案与候选间竞争拆开。

这种拆分也带来缓存。候选的语义表示以及各层所需的投影视图,都不依赖当前请求,可以跨请求保存。新请求仍要编码,决策模块也仍要运行;复用的是候选侧计算,不是旧答案。

结构承诺,经受住了吗?

据 Jeva 论文报告,采用 Qwen3.5-4B 主干和一个决策块的 Jeva-4B,在 600 个 Choice 样本的原始、反转及最多三种随机排列中没有发生一次 decision flip,也就是选项换序后答案翻转;所有排列均答对的准确率为 76.67%。作为对照,Jev-1.13.0、InternDecision-4B 和 JevK5 的翻转率分别为 17.00%、22.67% 和 26.17%。这组结果与其置换对称的设计相符。

在“答案是否缺席”上,论文用 3,080 个含 16 个候选的 BANKING77 请求测试,其中 588 个没有正确候选。Jeva 的 null-detection AUROC——衡量模型区分“有答案”和“无答案”的排序能力——为 98.66%;在约 5% 的误报率下,它识别出 93.88% 的答案缺席案例。

扩展到 2,048 个候选时,Jeva 在 500 个 ToolRet 请求上覆盖全部样本,准确率为 78.40%,论文给出的递归 JevK5 对照为 64.00%。缓存实验中,当 MLDR 候选全部可复用时,中位延迟从 2,102.0 毫秒降至 75.1 毫秒。论文称不同缓存条件下决定不变,但报告的最大概率绝对差为 0.00736,因此这里更准确的说法是选择结果未变,而非数值逐位相同。

VideoJev:把时间轴也变成候选

VideoJev 把同一方向延伸到视频。它改造预训练多模态大语言模型,用一个共享决策头,让视频证据分别与时间区间、文本选项匹配。时间定位——指出事件从何时开始、到何时结束——与视频选择题因此可以共用一种打分接口:前者选片段,后者选答案。

视频交互还有一个天然的复用场景。智能体会围绕同一段视觉历史连续提问,例如先判断任务进度,再决定下一步。VideoJev 提供 Cached inference,复用先前的视频计算;也提供 Joint inference,让多个问题在一次前向计算中共同处理。

据 VideoJev 摘要,在三个时间定位基准上,VideoJev-4B 和 VideoJev-35B-A3B 相对各自主干模型的 mean mIoU 分别提高 6.7 和 10.8 个点。mIoU 衡量预测时间段与正确时间段的平均重合程度;两款模型的实测推理加速为 2.8—3.1 倍。在四个视频问答基准上,它们的表现与各自主干模型的 Thinking mode 相当,实测加速超过 100 倍。

为什么值得关注

这两项工作的共同价值,不是宣称“快速直觉”普遍优于推理,而是重新检查任务的形状。选工具、找文档、判断是否命中、定位视频片段,本来就是从结构化候选中作决定。若仍强迫模型先把决定写成一段序列,就会支付额外的速度税,也可能引入选项顺序、固定答案符号等不必要约束。

Jeva 更进一步:低延迟不是只靠少生成几个 Token,而要从架构上保证候选可换序、可扩展、可缓存,并允许明确回答“都不是”。VideoJev 则说明,这套思想不只适用于文本分类,也可能成为视觉智能体反复查询同一段历史时的实用接口。

局限与未知

  • “不写推理链”只表示不进行自回归答案解码,不代表模型内部没有多步计算,更不证明它普遍胜过需要审慎推演的模型。
  • VideoJev 的摘要没有给出具体基准名称、绝对分数、硬件、批量大小、输入长度和缓存预热成本。“超过 100 倍”只适用于其与各自主干 Thinking mode 的特定比较,不能泛化成所有视频推理场景。
  • Jeva 的架构、稳定性与缓存效果,以及 VideoJev 的速度和精度数字,分别来自各自论文材料;目前提供的材料不包含独立复现。

供稿材料 SOURCES — 2

← 返回 2026-10-16 · 学术板块