深度专题 FEATURES — 3
DreamX:从视频中抽出通用动作
DreamX把视频里的“动作”压成通用编码,让人类示范有机会跨外观、跨本体教机器人。
FP4训练不只是在最后量化
两项研究把FP4推进RL后训练全程:既要修复生成误差,也要让训练与推理真正对齐。
弱模型也能预告扩展终点
给弱模型一点解题线索,便能更早看清大模型训练是否值得下注。
速览 BRIEFS — 8
PAPER
世界模型开始压缩历史层级
把旧画面分层压缩:先记影响未来的动作,再收纳静态细节。
PAPER
Cycle WAM把动作与视频闭成环
Cycle WAM让机器人用画面与动作互相“对答案”,以闭环训练强化一致性。
PAPER
Loop模型的KV缓存压到1比特以下
两项工作挤掉循环 Transformer 的重复缓存,LoopVQ 将平均存储压至每元素 0.5 比特。
PAPER
20B视频模型跑上消费级硬件
20B视频模型在64GB Mac mini上跑通,代价是15秒视频等约80分钟。
PAPER
推测解码开始让智能体更会探索
让草稿模型在关键处故意唱反调,反而能改善长程智能体的探索与决策。
PAPER
光网络也需要预测式控制平面
Halley在通信洪峰和光器件故障前调度网络,减少训练集群空等
PAPER
VLA说得安全,动作却可能变样
VLA 的安全解释可以一字不变,机械动作却已偏离,语言审查因此可能漏报风险。
PAPER
长上下文贵到后段相差七倍
长任务越往后生成越贵;频繁压缩历史,可能比一味扩大上下文更省。