你和 AI 聊了几个月,今天问它:“我为什么改了旅行计划?”答案可能散落在几次相隔很远的对话里。若系统早早把历史压成固定摘要,当时看似无关的细节可能已经丢失。T2Mem 的思路是把关键整理工作推迟到测试时——也就是模型真正收到问题、准备回答的阶段。
它并非完全不做准备:系统会预先提取轻量的“片段级元数据”,记录重要事件和时间关联,同时保留通往原始对话的链接。收到问题后,模型一边推理,一边借这些线索寻找原文;新证据又会提示下一步该查什么。最值得注意的是,这不是从一次性检索出的固定材料里做总结,而是允许模型在推理途中继续补找起初没有取回、后来才显得必要的证据,像接到案子后逐步整理专题卷宗。
作者称,在 LoCoMo 和 LongMemEval 两个长对话问答基准、两种底层大模型上,T2Mem 在相近总 token 预算下持续优于多种记忆与检索基线,并降低了预先建记忆的开销;优势尤其体现在需要串联多段记录的多跳与时间问题上。不过,论文节选未给出具体提升幅度,而这种做法也把部分计算成本推迟到了回答时。