AI 论文深读

2026-09-25

7 篇深读 · 1 篇简读

zjuHF ↑78GitHub ★70模型架构与训练

SpeakerMem-R1: Speaker-Centered Dual-Track Memory for Multi-Party Dialogue

发表时间:2026-09-22

Haobo Zheng, Tan Tang, Yan Chen, Weijie Wang, Yingcai Wu

arXiv · HF 讨论 · alphaXiv
① 一句话定位

本文提出 SpeakerMem-R1,面向多方言长期对话记忆,核心主张不是“检索更相关的片段”,而是构建可溯源的说话人中心双轨记忆:一条轨保存带说话人标签的逐字消息,另一条轨保存按 PERSON/GROUP 分层、区分 source/owner 的派生状态。查询时以 Anchor–Separate–Resolve–Compose 组织证据,并训练一个本地可部署的 Qwen2.5-3B Writer,用 SpeakerLevenshtein 与 speaker-conditioned GRPO 降低结构化写入中的归属与更新错误。论文将自身定位在 GroupMemBench、SocialMemBench、EverMemBench 以及 LoCoMo 的基准评估中,对标 BM25、稠密检索、Mem0、A-MEM、HippoRAG 与全上下文参考,并报告 EverMemBench 公开榜单结果与受控写作器消融。

② 背景与动机

现有长期对话记忆研究主要面向单用户或两人历史,常用切分、压缩、索引与相关性检索来处理会话。多方言群聊同时包含说话人关系、回复结构、跨话题分支与状态修订,不能简单压成按时间顺序的消息流再做压缩。GroupMemBench、SocialMemBench、EverMemBench 的观察表明,通用记忆系统在多方言或长期对话中显著退化,而 BM25 或稠密检索在部分配置下仍具竞争力,说明问题不只是找相关文本,而是保留并恢复多方言对话中的人、关系与历史结构。 论文把困难归纳为两个耦合挑战:message attribution(谁说了什么、内容涉及谁、信息属于个人还是共享)与 state reconstruction(从分散在成员、群体与时间中的线索恢复当前或历史状态)。全局相关性检索不能保证低频成员或正确分支进入候选集;摘要、事实聚合或通用记忆图又容易丢失来源/所有者、PERSON/GROUP 作用域或状态版本。因此作者主张多方言记忆需要带参与者关系、可验证证据与查询条件化局部状态重建,而不是更多摘要或图边。 方法层面,工作借鉴了 DeltaMem 的状态级记忆匹配与 Memory-R2 的局部到全局 GRPO 思路,但将其改造成按 owner 桶对齐、区分源与所有者的说话人条件版本。评价层面同时报告二元准确率与 token-F1,SocialMem 额外报告 MeanQ/MeanN,以区分“任务级正确”与“词面重叠”。论文还给出五个分析维度(成员覆盖、信息归属、个人/群体作用域、术语与事件消歧、带多跳推理的时间更新),用于解释失分模式。

③ 方法机制

SpeakerMem-R1 的执行流程是:给定多方言消息流 D={u_t},其中每条消息包含文本、说话人、时间与频道,先用 Writer W_θ 把 D 写成记忆 M,再按查询 q 检索证据 E_q,最后交给冻结的 answerer 生成答案。普通检索只优化证据与 q 的相关性,而本文要求证据在参与者、归属、作用域、事件与时间上相互兼容。 记忆采用双轨五层。System 1 是唯一逐字层(per_speaker_episodic),确定性追加原始消息并记录 speaker、session/turn、timestamp、channel 与消息 id,保留精确措辞与局部上下文。System 2 是四层派生结构:PERSON 作用域含 Core(稳定身份、事实、立场、习惯行为)与 Profile(对个人的观察及跨人认知,如“Alice 认为 Bob 已同意”);GROUP 作用域含 Interaction(跨说话人事件、关系与决定)与 Insight(群体规范、共识与例外)。每条派生记录 r=(x, src, own, scope, event, time, state, ref),其中 source 表示“谁提供信息”,owner 表示“信息关于谁”;自报记录满足 src=own,而“Alice believes Bob agreed”满足 src=Alice、own=Bob。这一 source/owner 分离是机制的关键,使查询能区分“谁说的”和“关于谁”。 在线写入采用非破坏性更新:Writer 读入当前消息段、花名册与四层派生状态头,输出 Add/Update/Noop。Update 必须引用已有 entry_id,系统验证后继承原记录的 owner、source、layer 坐标,追加新节点并通过 links/superseded_by 连接旧状态,不覆盖历史;head/full 查询模式据此返回当前节点或完整更新链。确定性代码负责 JSON 校验、动作合法性、坐标填充与 from_ids 溯源,Writer 只决定“写什么”,不负责坐标。 查询阶段由 Project 编译约束 Q_q=(rows(q), issue(q), mode(q), scope(q)):rows 是需要覆盖的 PERSON/GROUP 行,issue 是事件或主题约束,mode∈{head,full} 控制时间版本,scope 是 source–owner 约束。例如“every person”展开全部花名册行,“the final decision”选择 GROUP 行,“Alice’s view of Bob”固定 source=Alice、owner=Bob。System 1 从逐字轨检索精确措辞与局部上下文,Select 排序必要性,Expand 沿 session/turn 扩展相邻消息;若证据不足且 ASK 开启,Sufficiency 生成一个补充查询词,召回第二个候选池并合并重排。System 2 先按 rows(q) 展开具体行,再在每行内按 issue、关系、事件与时间选择记录,形式为 C_p(q)={r∈M^der: own(r)=p, match(r,q)=1},随后 V_q[p]=Temporal_{mode(q)}(Select(C_p(q)))。两条检索路径使用独立预算,派生行为空时回退到对应人的逐字消息,仍无证据则保留显式空行。Anchor–Separate–Resolve–Compose 是对上述行为的抽象总结:Anchor 保留来源、所有者、事件、时间与溯源,Separate 从花名册展开 PERSON/GROUP 行,Resolve 区分问题、并行事件与当前/历史版本,Compose 沿人、关系与更新链组织证据。 Writer 训练部分替换昂贵的大模型 Writer,训练 Qwen2.5-3B 的 Add/Update/Noop 决策,而 System 1 写入、查询组织与回答模块冻结。SpeakerLevenshtein 受 DeltaMem 启发,但不使用标准编辑距离,而是在 owner 桶内做坐标一致的一对一匹配:先对 content 计算 token-F1 与 SequenceMatcher 序列比率的加权和,再要求 owner、source、layer 三者一致且软匹配分数不低于 0.50。个人记录、GROUP 记录与跨人观察不能互相抵消,遗漏与重复写都受惩罚。设 F_p 为 owner p 的软 F1,结构势能为 Φ_SL = w1·(1/|P|)ΣF_p + w2·min_p F_p,w1=0.80、w2=0.20;宏平均衡量整体状态,最差 owner 项防止高频成员掩盖低频成员或 GROUP。更新链奖励要求预测与参考的 Update 边先匹配 owner/layer,再分别比较旧状态与新状态的软匹配,并以 w_old=0.50、w_new=0.50 加权。 奖励采用说话人条件的局部到全局回报。局部项包括 action validity(JSON、schema、重复、停止四部分)与结构惩罚,记忆项为 w_SL·Φ_SL + w_chain·R_chain(w_SL=0.80、w_chain=0.20)。全局项是终端 QA 增益:R_g^QA = QA(System1+System2; M_{g,T}) − QA(System1; M_{g,T}),即在同一 System 1 证据下,派生轨相对仅逐字轨带来的问答增益,避免把逐字记忆本身就能答对的问题归功于 Writer。位置 t 的回报 r_{g,t}=w_valid·R_valid + w_mem·R_mem + P + w_QA·γ^{T−1−t}·R_g^QA,权重为 0.20/0.45/0.35,γ=0.95。训练时采样 G=8 条 on-policy 轨迹,只在相同写入位置计算组内相对优势,并用 clipped GRPO 更新;位置内无有效组内变化则跳过。训练配置为 30 个 rollout 轮、每次更新 2 个 epoch、学习率 10^-6、温度 0.8、top-p=0.95。数据包含模型生成的教师轨迹与人工构造的边界网络,训练与评估按网络级隔离。查询预算固定为 System 1 recall-n=40、最终 top-k=10,Expand 至多两次,ASK 至多一次并取 20 项;System 2 每个 owner 行 k=2、source-k=1。Writer 每段动作数上限为 max(8, 2|X_t|)。

④ 实验与证据

论文在多个多方言长期对话基准与一个两方长对话边界测试上进行评估,比较对象覆盖词法检索、稠密检索、若干记忆系统与全上下文参考。主实验同时报告二元准确率与 token-F1,并在 SocialMem 上报告 MeanQ/MeanN;另设公开榜单对照与受控写作器研究。总体看,双轨系统在多数多方言设置上超过所选主流基线,在部分任务上接近或达到全上下文上限;消融显示逐字轨与结构化轨、个人视图与群体视图互补,ASK 补充检索在不同基准上收益不一致。受控实验表明强化学习写作器在冻结查询/回答管线时明显高于 SFT 并接近大模型写作器,但论文同时承认跨证据、多跳、偏好与角色归属、开放域仍是瓶颈。具体数字见各 claim-quote 对。

  1. 主结果在 GroupMem/SocialMem/EverMem 上分别达到 47.9%、69.2%、61.9% 的二元准确率,并比各自最强主流基线高 3.3、12.4、9.4 个百分点;最强基线分别为 BM25 44.6%、A-MEM 56.8%、BM25 52.5%。

    Table 1 shows highest SpeakerMem-R1 accuracies of 47.9%, 69.2%, and 61.9% on GroupMem, SocialMem, and EverMem, respectively, when selecting the highest-accuracy SpeakerMem-R1 configuration for each benchmark. Among the non-Full-context mainstream baselines on each benchmark, the best results are 44.6% from BM25, 56.8% from A-MEM, and 52.5% from BM25, respectively. Compared with the best results of mainstream frameworks evaluated on each benchmark, the scores are higher by 3.3, 12.4, and 9.4 percentage points, respectively.
  2. 公开 EverMemBench 榜单以 GPT-4.1-mini/Gemini-3-Flash 配置评估 2,400 题,SpeakerMem-R1 正确 1,496 题(62.33%),高于 EverOS 约 60.08% 与 RippleMem 54.75%。

    SpeakerMem-R1 answers 1,496/2,400 questions correctly (62.33% accuracy), versus approximately 60.08% for EverOS and 54.75% for RippleMem; public totals are reconstructed from rounded category results, whereas ours uses question-level records.
  3. 受控 305 题中,Qwen2.5-3B Writer-R1 从 SFT 的 57.38% 提升到 68.20%,增益 10.82 个百分点/33 题;LLM writer 为 71.48%,R1 落后 3.28 点、达到其 95.4%。

    the Qwen2.5-3B Writer-R1 reaches 68.20 ± 0.66 % 68.20\pm 0.66\% with the query and answer modules frozen, up from 57.38 ± 0.33 % 57.38\pm 0.33\% for SFT: a gain of 10.82 percentage points, or 33 additional correct answers (Table 3 ). Under the same protocol, the LLM writer reference reaches 71.48 ± 0.66 % 71.48\pm 0.66\% (218/305), leaving R1 3.28 points behind and at 95.4% of the LLM writer accuracy.
  4. 两方 LoCoMo 边界测试 1,986 题准确率 70.85%(1,407/1,986),多跳与开放域仍弱。

    SpeakerMem-R1 achieves an accuracy of 70.85% (1,407/1,986) on two-person LoCoMo (Table 4 ); multi-hop and open-domain questions remain weak.
  5. ASK 消融:关闭 ASK 为 47.0/69.2/60.5%,开启为 47.9/64.9/61.9%;在 GroupMem 与 EverMem 有帮助、在 SocialMem 可能冗余。

    With ASK disabled, SpeakerMem-R1 ∗ obtains accuracies of 47.0/69.2/60.5% on GroupMem/SocialMem/EverMem, versus 47.9/64.9/61.9% with ASK. Supplementary retrieval recovers dispersed clues on GroupMem and EverMem but can add redundant evidence on SocialMem.
  6. SocialMem 上 69.2% 接近全上下文 69.4%,MeanQ/MeanN 为 0.710/0.693,MeanN 的 95% CI 为 [0.659,0.726]。

    On SocialMem, the 69.2% result is near Full context at 69.4%; the full system obtains MeanQ/MeanN 0.710/0.693 with a network-level 95% CI of [ 0.659 , 0.726 ] [0.659,0.726] .
  7. 准确率与 token-F1 非单调:全系统 SocialMem 准确率低于 †,但 token-F1 32.7 高于 † 的 27.4。

    Binary accuracy and token-F1 are not monotonic: the full system has lower SocialMem accuracy than † but higher token-F1 (32.7 versus 27.4), because extra people or incorrect scope can invalidate an otherwise overlapping answer.
  8. EverMem 开放题上 BM25 最强基线 27.0%,SpeakerMem-R1 达 40.0%,领先 13.0 点。

    On EverMem open-ended questions, BM25 is the strongest comparison at 27.0%, whereas SpeakerMem-R1 achieves 40.0%, a 13.0-point gain.
  9. 三基准汇总 token 账目中 SpeakerMem-R1+ASK 总计约 40.56M token、每题约 9,713,高于 BM25/Embed 但低于 Mem0/A-MEM/HippoRAG 的 chunk5 配置。

    SpeakerMem-R1+ASK | 7,212 | 25,546,058 | 721,200 | 13,865,187 | 430,530 | 40,562,975 | 9,713.36
⑤ 审稿人视角

Novelty:新颖性中等偏上。核心贡献在于把多方言记忆问题从“相关性检索”重述为“带归属与作用域的查询条件证据重构”,并据此引入 source/owner 分离、PERSON/GROUP 分层双轨存储;这与常见摘要、图边或纯向量召回形成清晰差异。SpeakerLevenshtein 的 owner 桶对齐、最差 owner 惩罚、更新链匹配,以及用 System1+2 与 System1 的 QA 差作为终端收益,也有一定设计巧思。但逐字+结构化双轨、层级记忆、GRPO 训练本身均有先例,系统整体更像对既有组件的针对性工程集成,而非提出全新的学习范式或记忆表示。 Soundness:严谨性中上但有关键保留。论文给出公式、奖励分解、预算、复现清单与网络级隔离,冻结查询/回答来考察 Writer 的受控设计是合理的。但主结果存在“每个基准选择最高准确率配置”的叙述空间,难以排除配置挑选带来的有利偏差;全上下文仅在 SocialMem 可行,其他基准缺少统一上限。二元准确率依赖 LLM 法官,token-F1 仅衡量词面重叠;受控 RL 只在 305 题上比较,且依赖教师轨迹,置信区间仅覆盖 MeanN,未对配置选择差异做统计显著性检验。因此方向可信,但“SOTA”强度与泛化性应谨慎解释。 Significance:实践意义中等。对多方言对话记忆、归属可溯源以及本地小模型部署给出了可复现方案,source/owner 与 GROUP/PERSON 作用域对可信代理记忆有一定价值。但当前绝对准确率不高,部分类别仍远低于可靠使用阈值;未见真实产品或跨域、跨语言验证。学术影响取决于后续能否在多跳、跨证据、角色归属与开放域问题上持续改进,并在更多基准和独立评测中复现。

⑥ 局限与保留意见

系统假设花名册可靠、source/owner 归属可识别、时间可定位;别名、成员变动、隐式受众、并行事件仍困难。查询与写入成本不低:虽然总 token 低于 Mem0/A-MEM/HippoRAG 的 chunk5 配置,但高于 BM25/Embed,且受窗口、会话切分影响。RL 训练依赖教师轨迹与人工边界网络,存在分布偏差;作者也承认受控实验不等同于跨域 RL 泛化证据。评估方面,全上下文只在 SocialMem 可行,主结果按基准挑选最高配置,二元准确率依赖 GPT-4o-mini 法官,token-F1 只反映词面重叠,未做跨配置显著性检验。跨证据推理、偏好/角色归属、开放域知识、低资源成员覆盖仍是明显短板,多跳与开放域在 LoCoMo 上也较弱。

⑦ 值得跟进

后续可沿几条线展开:一是引入别名消解、成员加入/离开与隐式受众建模,减少对固定花名册的依赖;二是降低构造与检索成本,例如增量维护派生层、动态预算或只更新受影响行;三是强化跨证据与多跳推理,把 Anchor–Separate–Resolve–Compose 扩展为可验证的显式推理链,并补充开放域检索;四是用更大规模、多域、多语言数据训练 Writer,验证 RL 是否真正泛化而非仅拟合教师分布;五是建立统一、可复现的多方言记忆评测协议,公开配置选择、法官一致性与显著性检验;六是分析 source/owner 一致性、更新链完整性的形式性质,或加入人类评估以弥补 token-F1 与 LLM 法官的局限。

OmniAI-ZJUHF ↑43GitHub ★45推理与对齐

Spatial-Interactor: Learning Spatial Reasoning through Interaction with the Observable Physical World

发表时间:2026-09-19

Kaixiang Yao, Xu Wang, Miao Pan, Hu Xiyue, Weishi Wang, Daniel Dahlmeier, Jintao Chen, Yongliang Shen, Xuhong Zhang, Wenqi Zhang

arXiv · HF 讨论 · alphaXiv
① 一句话定位

本文定位于视觉语言模型(VLM)在动态物理世界中的空间推理后训练方法。作者认为现有空间训练主要集中在静态对象属性与空间关系 QA 上,对"局部状态如何随动作/视角变化而转移"以及"长程轨迹中如何整合连续转移"缺少直接监督;而交互轨迹天然提供 O_t → a_t → O_{t+1} 的局部转移结构。论文据此提出 Spatial-Interactor:以交互为中心的三级课程(L1 被动世界态转移、L2 主动自态转移、L3 长程转移整合),构建仿真与真实轨迹混合的 LSI-108K 数据集,先用 SFT 学局部转移,再用带特权轨迹的 On-Policy Distillation(OPD)做长程整合。相比纯空间 QA 语料、几何先验注入和中间表示总结类方法,本文以"可验证的观测—动作—观测"记录作为状态转移的直接监督来源,属于数据构造与过程监督训练层面的系统化改进。

② 背景与动机

论文背景是 VLM 在数字任务上进步显著,但部署到真实三维环境(视觉导航、物体搜索等)时仍缺乏动态空间推理能力:不仅要识别当前场景,还要理解空间状态如何随视角和时间持续演化。作者用两个诊断实验刻画这一缺口。其一是帧打乱诊断:在 VSTI-Bench 上随机打乱视频帧后,模型精度几乎不降,说明模型主要依赖顺序不敏感的视觉线索,未能建模连续空间演化的局部状态转移。其二是局部到长程对比:模型在局部交互任务上表现尚可,但在需要沿更长轨迹累积运动信息的相机位移任务上大幅下降;而给 GPT-5.5 额外提供各连续片段的自生成局部状态转移文本描述(+Trace)后分数回升,说明显式的局部转移描述能帮助长程整合。作者据此指出:现有空间训练多为静态 QA,缺乏对状态如何变化、连续变化如何整合的指导;与之对照,人类婴儿通过观察变化与主动移动来逐步理解物理世界。这一对照直接引出论文的交互中心学习思路与三级课程设计。

③ 方法机制

一、状态转移的建模形式。观测 O_t 同时依赖外部世界态 W_t 与观察者位姿 E_t;相邻观测的差异可能来自物体运动/操作(W_t 变化)或相机平移/旋转(E_t 变化)。交互轨迹被写为有序局部记录序列 T=(δ_1,…,δ_{T-1}),其中 δ_t=(O_t,a_t,O_{t+1}),a_t 表示物体操作、环境事件或相机运动。每条记录把相邻观测与连接它们的可验证物理变化对齐;学单个 δ_t 支持局部转移推断,按序组合全部记录则支持轨迹级推理。 二、三级课程。L1(被动世界态转移)在近似稳定视角下解释外部世界变化,覆盖物体位移、属性/关节变化、遮挡、可见性、相对配置,以及单步/多步操作、顺序与结果;目标是让可见差异与其物理原因、结果世界态关联。L2(主动自态转移)在环境近似不变时把视觉变化归因于相机平移、旋转与高程,结合自我运动理解(运动推断、幅度比较、组合、时序排序)与跨视角空间推断(对应、锚点定位、视差、可见性、运动后关系预测),要求保持场景身份并理解视角变化如何改造观测。L3(长程转移整合)从局部运动区间扩展到完整相机轨迹:全局任务恢复路径长度、端点位移、轨迹形状;关键节点任务识别转向区间、重访位置并支持逆向路径推理,需要保持中间更新顺序并累积分布式证据。课程还支持同一交互记录的多尺度复用:局部窗口与有序动作序列支撑 L1/L2,完整轨迹支撑 L3,从而用同一已验证记录生成多种互补问题,扩大任务多样性与推理时程。 三、LSI-108K 的构建。数据来自互补的仿真与真实交互:仿真源 AI2-THOR、ProcTHOR、HSSD、Replica、SIMS-V 提供相机运动与物体操作;真实源 ScanNet、ScanNet++、MultiScan、ARKitScenes、RoomTour3D 提供相机位姿或物体轨迹,BridgeData V2 提供机器人末端与夹爪状态。每条记录耦合有序观测与已执行或几何测量的状态变化,元数据决定目标,再由确定性模板渲染为 QA;过滤失败动作、微小/不连续/冗余轨迹与歧义目标,冻结 VLM 只做视觉可回答性拒绝(不能生成或修改答案)。位姿换算公式为 c_t=-R_t^T t_t,起始相机系下位移 Δc_t^(t)=R_t(c_{t+1}-c_t);长程目标由水平投影 π_h 给出端点位移 D=||π_h(c_T)-π_h(c_1)||_2 与累计路径长 L=Σ||π_h(c_{t+1})-π_h(c_t)||_2;机器人数据用末端位移与夹爪/转向点定义操作顺序与多步操作。全数据集约 108K(107,518 条 QA):L1 15,109(14.1%)、L2 69,487(64.6%)、L3 22,922(21.3%);来源上仿真交互 55,338(51.5%)、真实相机轨迹 42,180(39.2%)、真实机器人轨迹 10,000(9.3%)。 四、局部转移的 SFT 阶段。对 L1/L2 用标准监督微调:给定视觉输入 V、问题 q、目标响应 y*,在转移前后观测条件下预测 y*;任务要求模型推断可见差异的物理原因,或预测交互的空间后果。对世界态与自态变化的联合监督,把视觉差异与其原因和结果配置绑定,所得局部转移表示用于初始化长程学习。实际使用 82,596 条 L1–L2 样本,并与 80K 来自 VSI-590K、MindCube、VSTI-Bench 的公开空间 QA 混合。 五、长程整合的 OPD 阶段。动机是:识别局部转移并不保证模型能沿长轨迹正确排序与累积,而最终答案监督无法定位哪个中间更新失败。OPD 在可验证 GRPO 基础上加入仅在训练期可见的特权状态转移轨迹。 特权轨迹:每个长视频均匀采样 32 帧并切成四个连续区间(01–08、09–16、17–24、25–32),冻结强 VLM 对每段描述环境、可见变化与粗略相机运动,不接触问题/参考答案/奖励目标;四段描述按时序拼接为 z=(z1,z2,z3,z4),同一视频所有问题共享。 同前缀在线蒸馏:设 x=(V,q)。更新前行为策略采样一组含推理与最终答案的响应。对每个响应,学生与教师在同一学生生成前缀 y_{<t} 上评估下一步分布:学生条件于 x,教师额外条件于 z。教师是更新前策略的 stop-gradient 快照(非 EMA),不生成独立响应;教师参数在更新开始时与学生一致,随后保持固定、梯度只更新学生。同前缀评估隔离出"特权转移证据如何改变当前策略已访问状态上的下一步推理"。过程损失 ℒ_process 是教师到学生的前向 KL,取教师 top-100 非特殊 token 支持(温度 1.0)并重归一化,只作用于推理位置;最终答案、padding、特殊 token 被掩码,答案正确性交给可验证奖励。 奖励与目标:每组 G=8 个响应,R=0.9R_task+0.1R_format。R_task 对单选为精确匹配,对多字段为字段级平均准确率,对数值预测为 max(0,1-|p-g|/max(|g|,1e-6));R_format 要求非空推理段与有效答案格式。奖励在组内标准化 Â_i=(R_i-μ_G)/(σ_G+ε),形成标准 clipped GRPO 目标 ℒ_answer。冻结 SFT 参考策略提供常规 KL 正则(β=0.01),与特权教师不同。总目标 ℒ_OPD=ℒ_answer+β·ℒ_KL-ref+λ_t·ℒ_process;λ_t 起始 0.05,前 100 步固定,随后 1,100 步线性衰减,至第 1,200 步归零,使早期获得显式转移引导、后期更多依赖策略自身推理与可验证结果。 训练配置:两阶段均更新语言模型与多模态投影、冻结视觉编码器。SFT:BF16、AdamW、峰值 LR 1e-5、3% warmup 后余弦衰减、全局 batch 64、一 epoch。GRPO/OPD:BF16、FSDP、AdamW、LR 5e-7、全局 batch 16 prompts,每 prompt 32 帧并生成 8 个 rollouts(温度 0.8、top-p 0.9),prompt/response 长度上限 4096/384 token;L3 使用 10,712 条 RoomTour 与 10,783 条长程 VSTI-Bench 样本。为隔离过程信号,GRPO 基线与 OPD 使用相同初始化、数据、提示、rollout 组、答案奖励与优化调度,唯一差异是特权条件与过程蒸馏。训练与评测在场景/视频级别不相交。

④ 实验与证据

实验覆盖四个骨干模型(Qwen2.5-VL-3B/7B 与 Qwen3-VL-4B/8B),主评测在 VSI-Bench、MindCube、VSTI-Bench、SPBench-MV 上与基座、专有模型及现有空间推理模型对比;另用训练集之外的 MMSI、ViewSpatial、SAT-Real、SAT-Syn 做跨基准泛化,并区分 SFT 与 OPD 两阶段贡献。消融分别考察外部空间 QA、交互 L1/L2 数据与 GRPO/OPD 的增量,还检验课程顺序、训练动态、帧采样数量、文本轨迹顺序以及视频帧打乱敏感性。闭环评测在 WalkerBench 与 ESI-Bench 上比较成功率与所需步数/轮次。总体来看,该方法在各骨干上带来一致提升,跨基准仍保持正向迁移,过程监督对长程任务增量更明显,且训练后模型对帧顺序更敏感、能更高效完成闭环交互;具体数值见下方 experiments 的 claim 与原文引用。

  1. 主评测中 Spatial-Interactor 在四个骨干上把 Overall 提升 16.4–25.0 点。

    Across both Qwen generations and all four model scales, Spatial-Interactor improves Overall by 16.4–25.0 points.
  2. 其变体在 VSI-Bench、MindCube、VSTI-Bench 平均上最高,8B 模型 Overall 达到 65.9。

    Its variants achieve the highest VSI-Bench, MindCube, and VSTI-Bench averages, with the 8B model reaching the best Overall score of 65.9.
  3. Relative Distance 提升 8.3–19.2 点,Route Planning 提升 2.6–7.7 点,Camera Displacement 提升 5.1–28.0 点。

    Relative Distance increases by 8.3–19.2 points, while Route Planning and Camera Displacement improve by 2.6–7.7 and 5.1–28.0 points, respectively.
  4. 在四个训练集外基准上,Spatial-Interactor 的 Overall 提升 4.3–10.6 点。

    Spatial-Interactor improves Overall by 4.3–10.6 points across the four backbones, with gains on both multi-view and interaction-oriented benchmarks.
  5. OPD 在每个骨干上相对对应 SFT 检查点再增加 1.0–1.4 点。

    OPD adds a further 1.0–1.4 points over the corresponding SFT checkpoint for every backbone.
  6. 加入交互派生的 L1/L2 数据后 Overall 升至 58.4,并使每个基准平均提升 1.4–3.9 点。

    Adding the interaction-derived L1 and L2 data raises Overall to 58.4 and improves every benchmark average by 1.4–3.9 points.
  7. 相比同设置的 GRPO,OPD 在 Route Planning 和 Camera Displacement 上分别高 5.1 与 3.1 点。

    standard GRPO raises Overall to 59.2, while OPD reaches 60.1 and improves every displayed benchmark average. The larger task-specific gains occur on Route Planning and Camera Displacement, where OPD exceeds GRPO by 5.1 and 3.1 points, respectively.
  8. 帧打乱诊断中,Qwen2.5-VL-3B 与 7B 精度仅分别下降 0.9 和 0.8 点,且无子任务类别变化超过 1.4 点。

    After shuffling, the accuracies of Qwen2.5-VL-3B and Qwen2.5-VL-7B decrease by only 0.9 and 0.8 points, respectively, with no sub-task category changing by more than 1.4 points.
  9. 局部到长程对比中,Qwen2.5-VL-7B 从 54.7 降至 8.6,GPT-5.5 从 88.7 降至 23.9。

    Performance drops from 54.7 to 8.6 for Qwen2.5-VL-7B and from 88.7 to 23.9 for GPT-5.5 ( OpenAI, 2026 ) .
  10. 为 GPT-5.5 增加局部状态转移文本描述后,相机位移分数从 23.9 升至 35.5。

    Using GPT-5.5’s self-generated descriptions of local state transitions across consecutive segments as additional textual context raises its camera-displacement score from 23.9 to 35.5 (Fig. 2 , Right, +Trace).
  11. WalkerBench 上总体成功率从 7.0 升至 14.0、导航成功率从 5.0 升至 10.0,平均动作数从 17.71 降至 6.52。

    On WalkerBench, overall success rises from 7.0 to 14.0 and navigation success from 5.0 to 10.0, while the mean number of actions decreases from 17.71 to 6.52.
  12. ESI-Bench 上八个报告类别全部改善,平均成功率从 32.9 升至 41.2,已解决回合平均轮次从 12.34 降至 10.55。

    On ESI-Bench, it improves all eight reported categories, raising average success from 32.9 to 41.2. The mean number of rounds among solved episodes falls from 12.34 to 10.55.
⑤ 审稿人视角

Novelty:新颖性中等偏上。核心新意在于把"交互轨迹即状态转移监督"系统化为三级课程,并用仿真/真实混合流水线低成本构建 LSI-108K;OPD 的"同前缀特权轨迹过程蒸馏"是对 GRPO 与在线蒸馏的针对性改造,教师不生成独立响应、只对当前策略采样前缀提供下一步分布监督,这一设计较为具体且有动机支撑。但底层组件(SFT、GRPO、知识蒸馏、特权信息、冻结教师)均为已知技术,整体贡献更像数据课程 + 训练配方的有效集成,而非范式级突破。 Soundness:整体可信度较好。论文用帧打乱诊断、+Trace 提示、跨基准迁移、逐阶段消融、GRPO 与 OPD 同设置对比、帧采样与文本轨迹顺序扰动、闭环评测等多角度证据支撑结论;GRPO 与 OPD 隔离了特权条件这一变量,设计较严谨。主要内部效度风险是主评测的 VSI/MindCube/VSTI 基准家族曾以公开 QA 形式进入 SFT 混合,尽管声称场景/视频级不相交,仍存在同分布过拟合可能;跨基准(训练集外)增益幅度明显小于主评测也提示部分收益来自分布内拟合。此外闭环评测为子集(ESI 每类 30 题、WalkerBench 成功样本少),且未报告方差/显著性。 Significance:对具身 VLM 空间推理有实际意义:用交互轨迹提供可验证状态转移监督,能规模化生成数据并稳定提升多骨干、多格式基准,训练后模型对时间顺序更敏感、闭环效率更高,说明收益不限于单点 QA。OPD 的 privileged process supervision 为长程空间推理提供了一种可复用的过程监督机制,与几何先验、中间表示等方法互补。对导航、操作与长视频空间理解等下游任务有潜在迁移价值,也有助于社区继续探索"从观测变化中学习物理世界"。

⑥ 局限与保留意见

其一,主评测基准(VSI/MindCube/VSTI)的公开 QA 出现在 SFT 训练混合中,虽有 scene/video 级切分,仍属同分布评测,跨基准(MMSI/ViewSpatial/SAT-Real/SAT-Syn)的增量明显更小,说明部分收益可能来自分布内拟合而非纯粹泛化。其二,闭环结果虽改善但绝对水平仍低,WalkerBench 导航等困难类别成功样本稀少,ESI 采用每类 30 题的子集,结论强度有限。其三,OPD 依赖冻结强 VLM 生成特权轨迹,轨迹质量、教师能力与固定四段分割都会影响过程监督,且教师分支增加训练开销。其四,视频固定采样 32 帧,更长时程或高动态场景的证据容量可能不足;文本轨迹的段数、内容与扰动分析只在冻结检查点上做推断期比较,未充分验证训练期不同轨迹质量的影响。其五,仅更新语言模型与投影、冻结视觉编码器,可能限制低层空间表征学习。其六,数据以 L2 相机轨迹为主(64.6%),真实机器人只占 9.3%,L1 相对较少,具身操作覆盖有限;作者也把自适应轨迹分段与更多真实交互列为未来工作。

⑦ 值得跟进

后续可沿几个方向跟进。第一,把固定四段轨迹改为自适应/事件驱动的分段,使特权过程监督匹配场景变化密度;第二,扩展真实机器人交互数据与长程操作序列,提高 L1 与操作类任务比例,覆盖可变形物体、液体与多智能体;第三,将 OPD 与深度、相机位姿、重建或世界模型先验结合,比较"文本轨迹"与"几何轨迹"作为过程监督的差异;第四,在真实导航/操作环境中做在线闭环微调,检验动作改变后续观测时的持续收益,并报告更完整的闭环基准与方差;第五,系统研究教师 VLM 规模、轨迹粒度、帧数、λ_t 调度、top-k 与温度对过程对齐和最终奖励的影响;第六,评估方法在训练集外具身/长视频基准与不同模型家族上的迁移边界,避免同分布高估。

HF ↑36GitHub ★50其他

The Past Frames the Future: Memory for Autoregressive Video Generation

发表时间:2026-09-23

Harold Haodong Chen, Rongjin Guo, Disen Lan, Wen-Jie Shu, Hongfei Zhang, Hanzhe Hu, Shengtao Yao, Zixin Zhang, Guibin Zhang, Zhefan Rao, Jinxiu Liu, Yexin Liu, Rui Peng, Yuhao Liu, Bin Ren, Shuai Yang, Yukang Chen, Salman Khan, Ying-Cong Chen, Ser-Nam Lim, Rynson W. H. Lau, Nicu Sebe, Yu Cheng, Ming-Hsuan Yang, Qifeng Chen

arXiv · HF 讨论 · alphaXiv
① 一句话定位

这是一篇综述论文,目标不是提出新模型或新数据集,而是把自回归视频生成中的“记忆”提升为一级设计问题。文章给出的可操作定义是:记忆是跨外层自回归步骤持续维护的历史信息,即使原始证据已离开局部上下文,仍能影响未来生成。它明确区别于“长上下文”:近期被密集消费的 token、帧或块属于主动上下文;一旦历史信息被选择、压缩、检索、整合或修订,就进入持久记忆。论文的定位缝隙在于,既有视频扩散与世界模型综述未把记忆作为因果 AR rollout 的中心设计问题,且“memory/context/cache/history/state”等术语碎片化,难以系统比较。其核心贡献是五视角框架:Forms、Functions、Operations、Learning、Evaluation,并给出统一的记忆条件生成公式。文章反复强调的核心洞察是:有效记忆超越容量本身,保留状态必须准确、可访问,并能对后续生成产生因果影响。

② 背景与动机

生成模型在图像与短视频保真度上已显著进步,领域正朝长时程、开放式视频生成与交互式世界模型发展。自回归视频生成以逐步预测未来 token、帧或块的方式,提供流式延续与可控长时生成的接口。但瓶颈在于:当序列增长时,自注意力计算、KV 缓存、存储与延迟都迫使模型使用有限上下文窗口。实体身份、空间布局、运动状态、语义承诺、干预导致的因果变化等关键历史信息,常常在相关性尚未消失前就离开主动上下文。现有方法散布于滚动视觉窗口、KV 保留、3D 先验、压缩隐状态、检索库等不同术语下,实则解决同一问题:如何保留并把有用历史信息暴露给后续生成。本文因此以记忆机制为统一透镜,覆盖离散 token 与连续扩散/流式生成器,包括长时程与交互式世界生成,但排除没有跨步持久记忆的短视频生成;对世界-行动模型只选择性覆盖那些能直接启发自回归视觉生成的工作。可见文本交代了问题设定、形式化基础、记忆条件生成框架,以及 Forms 中视觉记忆的详细分类。

③ 方法机制

论文的核心机制是建立一个统一、可操作的自回归记忆框架,而非提出某种记忆模块。其设计可从三层理解。 第一层:把 AR 视频生成抽象为外层因果 rollout。原始视频帧 x_{1:T} 被抽象为 N 个自回归视觉单元 y_{1:N},一个单元可以是离散 token 块、连续隐帧、短片段或多帧 chunk。公式(1)将生成分解为 pθ(y_1:N|c)=∏ pθ(y_n|y_<n,c)。关键区分是:自回归指外层对视觉单元的因果展开,而不是生成每个单元所用的具体架构。这个区分使早期离散 token 模型与近期扩散/流式模型能被同一套记号覆盖。 第二层:区分内层合成与外层自回归。离散 token 范式(VideoGPT、VideoPoet、Emu3)通过 VQ-VAE 把每个单元展平成 L 个 token,再做下一 token 预测(公式 2),并常用因果掩码与 KV 缓存;缺点是 token 序列长、推理慢、内外层误差都会累积。连续范式(扩散或流式)把整个帧或 chunk 作为内层去噪/流轨迹,公式(3)写作 d y_n(τ)/dτ=fθ(y_n(τ),τ,y_<n,c),其中 τ 是内部扩散/流时间,区别于外层 AR 步 n。chunk 级生成能缩短外层 horizon,但每个生成单元仍会成为后续条件历史的一部分。两条范式的共同约束是:直接访问扩张历史的成本被限制,必须解决长时一致性。 第三层:用“有界上下文 + 持久记忆”近似完整历史。实用系统只保留最近 W 个单元作为主动上下文 C_n=y_{max(1,n-W):n-1}(公式 4),把 pθ(y_n|y_<n,c) 近似为 pθ(y_n|C_n,c)。但这对窗口外证据不可达。动作条件下(公式 5)更严重:论文区分“观察改变型控制”(如相机导航,主要考验空间保留)与“状态改变型干预”(如移动物体、开门,要求因果后果持久)。若只保留近期观察与动作,早期干预离开窗口后,其后果可能不再约束生成。于是引入记忆状态 M_n,将有限上下文生成推广为 pθ(y_n|C_n,M_n,c)(公式 6/7),目标是 pθ(y_n|y_<n,c)≈pθ(y_n|C_n,M_n,c)(公式 9)。M_n 可以聚合被截断的前缀(公式 8),但更一般地可以是注意力缓存、索引检索库、循环隐状态、结构化场景表示或可适应参数状态。 记忆生命周期是机制设计的核心,通过一组算子明确读写与管理接口:先生成查询 q_n=Qθ(C_n,c),读取相关历史 r_n=Rβ(q_n,M_n),与局部上下文融合 h_n=Iη(C_n,r_n,c),再按 pθ(y_n|h_n) 生成;生成或观测到 y_n 后提取写候选 w_n=Wα(y_n,C_n,c),更新持久状态 M̃_{n+1}=Uφ(M_n,w_n),最后由管理算子 Gγ 在预算 B 下执行保留、压缩或修订(公式 10–15)。论文强调这不预设载体:可以是 FIFO 队列追加隐帧、刷新 KV、更新循环隐状态、维护检索库或修订结构化场景状态。判断“是否记忆”的标准是跨 AR 步的持久时间转移,而不是模块命名或载体类型;静态条件(如初始文本提示)本身不算记忆,除非系统从中派生出随 rollout 演化的状态、交互或动作后果。 机制上还要说明“为何需要记忆”。论文列出六类记忆缺失失败模式:实体离开上下文后重新出现时被遗漏、复制、换属性或替换;外观纹理/光照/风格漂移;空间拓扑不兼容;运动状态错误、冻结或相位不一致;语义承诺被违背或重复;状态改变干预被当成瞬态控制,导致门重新关上、物体复位或环境重置。这六类不是同一种失败,而是分别要求记忆保留身份、锚定外观、空间拓扑、动力学、语义承诺与因果状态。文章也指出这些症状未必只由缺记忆造成,可能是动力学、控制执行或渲染缺陷,归因需显式讨论。 Forms 部分给出载体分类:视觉、隐式、显式、参数四类。可见文本只详细展开了视觉记忆。视觉记忆的形式化定义是 M_n^vis={m_i^vis=E_vis(y_i)|i∈I_n^vis}(公式 16),关键在于保留与历史观察的可追溯对应,而不是人类可读性。代价是观察级冗余高、且生成伪影可能被回灌。视觉记忆进一步按编码空间分为像素空间与 VAE 空间。像素空间记忆单元是 x_{s_i:u_i},帧级 s_i=u_i,片段级 s_i<u_i(公式 17–19)。帧级设计有三类策略:近期帧保留(如 MCVD)提供稠密短程条件;稀疏锚帧(如 ConsistI2V)提供稳定长程参考;检索式方法(如 Context-as-Memory)按视觉或几何相关性重新激活非局部帧。片段级记忆保留连续区间,典型有近期生成 chunk(如 LGC-VD、Ca2-VDM)、事件中心区间(如 LCT)、检索历史片段(如 PlenopticDreamer),比单帧多了短程运动、时序顺序与交互动力学,但代价更高且旧运动可能成为过期先验。VAE 空间记忆保留观测对齐的 VAE 隐表示(公式 20),也可保留中间噪声级隐表示(公式 21);其观测对齐性区别于任意隐状态。运行模式包括顺序携带(LVDM)、窗口化队列/重叠集(FIFO-Diffusion、PA-VDM)、检索式非局部隐块(LongLive-RAG)。它比 RGB 历史更紧凑、更贴近隐空间生成器,但有编码信息损失和更强的模型耦合。 关于训练与数据:可见文本没有完整展开 Learning 一节,但记号表与引言预告了四类学习目标——输出预测损失 L_pred、记忆状态监督/正则 L_mem、多步动态约束 L_dyn、部署期记忆约束 L_aware,以及三种记忆状态分布:教师强制历史诱导的 q_TF、自生成 rollout 诱导的 q_θ、扰动历史诱导的 q_aug。正文在“有界历史访问”部分明确提到长程退化还来自教师强制训练与自 rollout 推理的不匹配。数据集方面,可见文本没有列出训练集或超参数,只在失败模式部分引用若干诊断性基准,如 EntityBench、MBench、VBench、WorldRoamBench、Videophy、MechVerse、SeqBench、LiveWorld 等,用于说明各类失败现象,而非作为训练数据。因此机制层面能确定的是:文章把学习问题设计为“在闭环 rollout 下优化记忆行为”,并特别关注记忆状态分布偏移,但具体训练配方在提供的片段中尚未展开。

④ 实验与证据

本文没有报告新的定量实验结果,也没有可提取的基准分数、消融指标或用户研究数字。可见文本的证据方式是用统一公式、算子生命周期和代表性方法归类来支撑综述判断,而不是通过实验验证。因此实验总评不宜给出任何数值结论;下面列出的 claim 与原文引文反映的是文章的覆盖范围、组织框架和机制性论断,属于可核验的文本证据。

  1. 本文对记忆机制做系统全面综述,并将记忆定义为跨外层 AR 步骤持续维护、能在原始证据不再局部可访问后影响未来生成的历史信息。

    This survey presents a systematic and comprehensive review of memory mechanisms in AR video generation. We formulate memory operationally as persistent historical information maintained across outer AR steps, capable of influencing future generation even after the originating evidence is no longer locally accessible.
  2. 论文强调有效记忆超越容量本身,保留状态必须准确、可访问并对后续生成有因果影响。

    Through these perspectives, we emphasize a core insight: effective memory transcends mere capacity. Retained states must remain accurate, accessible, and causally influential to subsequent generation.
  3. 论文把记忆生命周期拆为生成前读取与集成、生成后写入、更新和管理,并用统一算子表达。

    At each AR step, memory is read and integrated before generation, then written, updated, and managed after generation.
  4. 像素空间视觉记忆强调帧级保存身份、纹理与视角结构。

    Individual frames preserve fine-grained appearance, identity cues, texture, viewpoint-specific structure, and other visual details that may be difficult to reconstruct after the corresponding observation leaves the local context.
  5. 论文承认记忆缺失只是失败的可能原因之一,并指出需与动力学、控制执行或渲染缺陷进行归因区分。

    These symptoms are not uniquely caused by missing memory: similar failures may also arise from imperfect dynamics modeling, control execution, or rendering.
  6. 前三种载体在运行时或存储对象中实现非参数记忆,参数记忆则把持久性放在被适应的参数状态中。

    The first three categories realize memory as non-parametric runtime states or stored objects, whereas parametric memory places persistence in adapted parameter states.
⑤ 审稿人视角

Novelty:作为综述,其新颖性主要在概念整合而非算法创新。可操作地定义记忆,并把“记忆 vs 长上下文”的边界从窗口长度转移到“信息是否被选择、压缩、检索、整合或修订”,是一个有用的澄清。把离散 token AR 与扩散/流式 AR 统一到同一外层因果 rollout 公式,再叠加生命周期算子,也比按模型家族罗列文献更具分析力。五视角框架(Forms/Functions/Operations/Learning/Evaluation)覆盖了从表示到评估的完整链条。局限是:这些维度并非全部首次出现,Form/Function/Operation 与可微记忆网络、外部记忆等旧文献有亲缘关系;论文没有带来新的经验发现或基准结论。总体判断为中等偏高的概念新颖性、较低的技术新颖性。 Soundness:形式化部分较扎实:公式(1)到(15)连贯,清晰区分外层 AR 步 n 与内层扩散/流时间 τ,明确 C_n 与 M_n 的角色,生命周期算子有良好接口。作为综述,主要风险不在推导,而在分类的互斥性与覆盖完整性。visual/implicit/explicit/parametric 的边界在混合系统中可能重叠;“记忆 vs 主动上下文”仍是操作性判断,依赖系统如何使用状态,而非可计算判据,这可能导致同一方法被不同读者归类不同。此外,可见文本在 Forms 的 VAE-space 部分截断,无法核验 Functions、Operations、Learning、Evaluation 各节的实际深度与代表性。论文没有元分析或定量比较,因此无法检验其方法选择是否存在偏差。总体而言,可见部分在概念上 sound,但完整性与一致性仍需对照全文后续章节判断。 Significance:该工作对长期视频生成、交互式世界模型和自回归扩散研究有实际参考价值:它把视觉锚点、KV 缓存、检索库、循环状态、结构化世界状态等看似无关的设计放进同一语言,并给出失败模式清单,可直接用于设计诊断协议和 benchmark。统一生命周期算子也有助于比较不同实现的计算/存储/可编辑性权衡。不过,作为综述,其影响力取决于后续是否真正产出标准化评估、公开排行榜或被社区采纳为术语框架。中等偏正面的领域意义。

⑥ 局限与保留意见

第一,本文没有实验或定量比较,无法给出“哪类记忆更好”的证据。第二,提供的全文不完整,截至 Forms 的 VAE-space 视觉记忆,Functions、Operations、Learning、Evaluation 的实质内容无法核验,因此以上判断只对可见部分负责。第三,分类边界仍有模糊性:视觉、隐式、显式、参数四类载体在实际系统中常混合使用;“是否属于记忆”依赖维护与使用方式,缺少可计算的判据。第四,可见部分几乎没有训练数据、优化配方、超参数或消融细节,只有记号预告。第五,术语统一本身存在张力:文章批评“memory”一词碎片化,但又把很多机制纳入宽泛记忆框架,可能反而扩大边界。第六,可见部分尚未给出它承诺的标准化评估方案,只提出了开放挑战;其“memory-revealing protocols”是否可落地仍是未知。

⑦ 值得跟进

后续值得做几件事。其一,把六类失败模式(身份、外观、空间、动态、语义、因果)变成可自动判定的 memory-revealing 基准,分离“记忆缺失”与动力学/控制/渲染缺陷的归因。其二,在固定计算与存储预算下,对 visual、implicit、explicit、parametric 载体做统一接口的对比,度量容量、延迟、可编辑性、检索准确率与因果影响力。其三,把公式(10)–(15)的生命周期算子作为模块化抽象,构建可插拔记忆组件的实验床。其四,研究自 rollout 训练与 teacher forcing 之间的分布偏移,尤其是 q_TF、q_θ、q_aug 三种记忆状态分布如何影响闭环稳定性。其五,对状态改变型干预设计因果持久性测试,确保开门、移动物体等后果在证据离开窗口后仍被保持。其六,与 world-action model 文献交叉,厘清哪些 WAM 的 KV 隐式记忆经验能迁移到自回归视觉生成。最后,若要把该综述做成持续资源,可发布可执行的分类数据库与 leaderboard,让新方法按 Forms/Functions/Operations 自动归类。

tencentHF ↑21GitHub ★4推理与对齐

RewardVerse: Rubric-Guided Policy Optimization for Video Reward Modeling

发表时间:2026-09-19

Zhenchen Tang, Yang Li, Songlin Yang, Bo Peng, Xiaotong Zhao, Shuai Li, Haotian Fan, Alan Zhao, Jing Dong

arXiv · HF 讨论 · alphaXiv

未深读 · 全文抓取或深读生成失败

① 一句话定位 (简读)

Reinforcement learning (RL) is vital for optimizing video generation models, with a robust reward model (RM) serving as the cornerstone. However, existing video reward models often produce unstable scalar scores because they directly map complex, subjective video quality into a single score without explicit evaluation criteria. This leads to scalar drift, where the scoring scale collapses or shifts across different prompts, making the reward unreliable for RL. Drawing inspiration from professional human annotation engineering, we address this problem with RewardVerse, a rubric-based video reward framework that introduces a dynamic rubric as an intermediate representation between the evaluation query and the scorer. Instead of unconstrained direct scoring, RewardVerse first generates explicit evaluation criteria and then performs rubric-guided scoring, providing a stable semantic anchor that mitigates scalar drift. To efficiently optimize this collaborative pipeline, we propose Rubric-G

⑤ 审稿人视角 (简读)

仅依据摘要,无法可靠判断方法 soundness 与实验充分性,请以原文为准。

HF ↑16GitHub ★128其他

From Pattern Recognizers to Personalized Companions: A Survey of Large Language Models in Mental Health

发表时间:2026-09-21

He Hu, Yucheng Zhou, Qianning Wang, Yingjian Zou, Chiyuan Ma, Juzheng Si, Jianzhuang Liu, Zitong Yu, Laizhong Cui, Fei Ma, Qi Tian

arXiv · HF 讨论 · alphaXiv
① 一句话定位

本文是一篇以"发展阶段"为核心论点的综述,而非提出新模型或新算法的实证论文。它把零散的 LLM 心理健康研究收敛为一个三阶段演化叙事:Phase I 被动式"信息工具与模式识别器"、Phase II"共情对话者"、Phase III"纵向个性化陪伴"(有状态认知智能体)。与以往分别聚焦社交媒体障碍检测、单次心理治疗对话系统或生成式 AI 泛应用的综述相比,本文自称覆盖面更大,并通过操作化判据表、智能体架构拆解、数据集与基准的演进映射来支撑框架,最终给出负责任、有效、以人为本的路线图,并附资源库 Awesome-Mental-Health-LLMs。其定位是领域内的整合与导航性工作,而非技术增量贡献。

② 背景与动机

全球抑郁、焦虑、孤独等心理健康问题持续上升,而传统心理医疗面临资源稀缺、成本高、污名化与隐私顾虑,导致大量人群无法及时获得支持。LLM 与 MLLM 的自然语言理解和生成能力被视为可民主化心理健康支持的范式转变,MLLM 还能整合语音韵律与面部表情等非语言线索。该领域论文快速增长但碎片化,缺乏统一演化叙事。本文据此提出三阶段:Phase I 对静态文本做分类与风险评估(如从社交媒体检测抑郁、从论坛分级自杀风险);Phase II 通过对话语料微调并套用 CBT 或人本主义框架,实现单会话、无状态的共情对话;Phase III 追求具备记忆、动态用户画像与目标导向规划的有状态智能体,能"记住、学习、协作"。文章依次覆盖应用场景、核心技术、智能体架构、数据集与基准,并总结趋势与未来方向,把评估缺口与高保真仿真作为关键收束。

③ 方法机制

本文的"机制"并非单一模型算法,而是一套把研究组织起来并解释其演进的分类机制加若干层技术机制。文章没有给出数学公式,所谓算法直觉通过各组件的作用方式表达。 (1)阶段判据机制。表 I 用六个维度把 Phase I/II/III 操作化:交互粒度(单轮/多轮/纵向)、用户状态(无/会话级/持久)、跨会话(无/无/有)、个性化(无/会话级/持久)、记忆(无/上下文/长期)、自主性(反应式/交互式/目标导向)。这把模糊的"更先进"转化为可比较的系统属性,是全文的分类引擎。Phase I 面向静态文本做检测与量表评分(PHQ-9、GAD-7 等);Phase II 转向单会话共情对话;Phase III 要求跨会话记忆与目标规划。 (2)训练适配机制。文章把"通用 LLM→心理健康专用工具"拆成三段:领域持续预训练注入心理卫生知识与词汇(如 ProMind-LLM;并指出语音模型声学与语义在层间纠缠会限制下游抑郁检测);SFT 让模型习得咨询对话结构与情感细腻度,分为全参微调与 PEFT(LoRA/QLoRA 冻结主参数、只训轻量模块),PEFT 用于 CBT、叙事疗法、苏格拉底式提问等,并有多阶段适配(MentalGLM、ES-LLM)、端侧微调(FedMentalCare)与紧凑模型(DepressLLM、PsyLite);RL 再用奖励信号做安全、有帮助、治疗原则对齐,方法含 DPO、KTO、ORPO 与 GRPO(Psyche-R1),并强调奖励中间推理步骤以提升训练稳定性与共情连贯性。文中同时提示 SFT 是把双刃剑:提升任务对齐的同时会压缩灵活性、放大数据集偏置、跨分布迁移时退化。 (3)推理时机制。零样本/少样本提示把 BDI 等心理测量构念写进提示,实现免训练的临床对齐与可解释输出;CoT 让模型显式产出中间推理步骤,把"观察→诊断/干预"的临床思维透明化(PsyLLM、PsyMix 用 CBT/PCT 锚定推理),并嵌入干预规划管线;RAG 作为认知脚手架,从外部检索 CBT 工作表、危机热线等已核验材料以保安全,高级做法按用户情绪状态或会话意图动态条件化检索,实时调节语气、推理与治疗焦点。 (4)多模态机制。系统把文本与面部表情、肢体手势、语音韵律融合以改进情绪识别与支持生成(Empatheia 融合文本、语音与虚拟形象视频),或将音视频投影到统一语义空间(LQ-former)以产出可解释的多模态评估。但文章同时强调非语言信号高度歧义且依赖情境,多模态系统易过拟合数据集伪影、把光照或背景噪声等偶发特征误当临床信号,性能提升未必转化为临床合宜。 (5)Phase III 智能体架构。文章将其拆为五个组件:Profile 维护动态用户模型(情绪状态、细粒度心理指标、人格类型);Memory 支持跨会话回忆,实现含层级短/长时结构、RAG 检索历史对话、模拟艾宾浩斯遗忘曲线、专门追踪认知扭曲等;Reasoning 作为"大脑"做临床判断与回应策略,方法含结构化临床工作流、跨理论多视角审议、可解释思维轨迹;Planning 把智能体从反应式应答变成目标导向协调者,做法含层级规划把长期目标分解为可执行会话、按治疗阶段对齐、动态话题引导;Tool Use 连外部知识库,动态检索临床指南、CBT 脚本或危机求助目录,并可条件化于语音时序或情绪信号。这五个组件把"记住、学习、协作"落实为可工程化的模块。 (6)纵向与个性化机制。文章认为前沿不在于"回忆说了什么",而在于管理"治疗旅程走向哪里":MusPsy 用纵向数据训练智能体捕捉来访状态逐步演变;CA+ 用 Planning 把每次会话与长期治疗目标对齐;iPET 把对话绑定到虚拟宠物模拟以加深依恋。临床框架整合走三条路:数据驱动模仿(CACTUS、PsyChatbot 等用 CBT 或动机式访谈语料训练)、显式流程引导(叙事疗法按阶段与反思层级规划,CAMI 以话题规划解决矛盾心态,AutoCBT/MAGI 把 CBT 与 MINI 结构化访谈拆成子代理任务)、推理增强(识别认知扭曲、模仿 DSM/ICD 诊断推理、识别心理动力冲突)。 (7)多智能体机制。单 LLM 难以同时共情、诊断与规划,故按三种复杂性分解:认知复杂度用多代理辩论或头脑风暴降低偏见(认知扭曲分析);程序复杂度把结构化临床流程模块化(AutoCBT 分阶段、MAGI 用四个专门代理执行 MINI 访谈、WiseMind 与 MoodAngels 提高诊断可解释性);社会复杂度模拟多视角人际互动(MIND 让用户与内心"魔鬼/向导"对话,Yang 等组建职业健康专家、HR 顾问与同伴的虚拟团队)。 (8)安全与评估机制。安全按"控制什么"分层:对齐方法塑造回复风格与合规、护栏与监控过滤不安全输出、接地机制提升事实一致性;但文章警告自动化安全得分不等于临床合宜,系统仍可能假性安抚、延迟升级或过度自信地伪临床推理。评估方面,ψ-Arena 用模拟来访、智能体与督导三方反馈;IMA 追踪叙事改变,PHQ-9 提供临床锚点;LLM-as-a-Judge 需对专家判断与已验证临床构念校准。Phase III 的四维评估(纵向一致性、升级处置、危机处理、治疗联盟)建议落地到 CTRS、PANAS、WAI 等量表,实现从会话级到轨迹级的基准化。 (9)数据与基准演化机制。数据集沿三阶段镜像演进:Phase I 以社交媒体静态分类为主(检测、自杀风险、认知扭曲等,多语言覆盖);Phase II 转向单会话或多轮咨询对话与情绪支持,标注策略与治疗取向增多,并大量采用 LLM 合成;Phase III 出现多会话、记忆提取与目标规划标注(如 MusPsy),以及治疗编码与过程性标注(MISC、MITI 等)。基准同步从静态问答走向动态模拟:ψ-Arena、WiseMind、PsychoGAT、Agentmental 用带画像的"患者智能体"与"治疗师智能体"进行多轮或多会话交互,配合三方评估,把评估对象从单轮回复质量推进到纵向一致性与联盟质量。

④ 实验与证据

作为综述,本文的实验性证据不是单一模型的消融或基准成绩,而是对数据集、基准与评估实践的整体归纳。作者的核心经验判断是:当前评估由自动指标主导,辅以专家评价,但基本停留在离线代理层面;只有极少数系统在真实临床人群中被评估。文中用多张表格列出检测类、对话类、治疗编码类数据集以及代表性系统的评估覆盖情况,从而支撑"评估缺口"这一判断,并引出以虚拟患者与动态沙盒替代静态基准的仿真评估方向。以下 claim+quote 对给出这些目录性证据中的具体数字。

  1. 文中目录列出的最大静态检测语料为 Reddit 半监督数据集 MentalHelp,规模为 14097946 条。

    MentalHelp [ 159 ] | 2024.5 | Reddit | Mental health problem detection | ✓ | 14097946 | English | A large-scale semi-supervised Reddit dataset for mental health detection
  2. 中文抑郁检测方面,微博语料 SWDD 达 4854421 条,是所列最大的中文时间序列症状数据集。

    SWDD [ 147 ] | 2023.5 | Weibo | Depression detection | ✓ | 4854421 | Chinese | A large-scale Weibo dataset for depression detection with time-series symptoms
  3. 自杀风险检测中,UMD 以 1556194 条 Reddit 数据成为所列最大规模资源。

    UMD [ 12 ] | 2018.6 | Reddit | Suicide detection | ✓ | 1556194 | English | An expert and crowd-annotated Reddit dataset for suicide risk assessment
  4. 所列最大的合成共情对话语料为中文 SoulChatCorpus,2300248 条多轮对话。

    SoulChatCorpus [ 180 ] | 2023.12 | Synthetic | Empathetic Dialogue | ✓ | 2300248 | 10 | Chinese | A large Chinese multi-round empathic psychological counseling dialogue dataset
  5. 情绪支持对话的经典资源 ESConv 含 1053 段多轮对话,平均轮数 14.1。

    ESConv [ 14 ] | 2021.8 | Crowdsourcing | Emotional support conversation | ✓ | 1053 | 14.1 | English | A high-quality, multi-turn, strategy-annotated dataset of emotionally supported conversations
  6. KokoroChat 含 6589 段日语咨询对话,平均 45.6 轮,是所列长对话资源之一。

    KokoroChat [ 188 ] | 2025.6 | Crowdsourcing | Psychological counseling dialogue Dialogue quality assessment | ✓ | 6589 | 45.6 | Japanese | A psychological counseling dialogue dataset with person role-playing and detailed client feedback
  7. DiaCBT 是 540 段、平均 53 轮的 CBT 咨询对话小语料,附认知概念化图。

    DiaCBT [ 191 ] | 2025.9 | Synthetic | Psychological counseling dialogue CBT technology selection | ✗ | 540 | 53 | English | A CBT counseling dialogue dataset containing cognitive conceptualization diagram
  8. 认知扭曲检测数据集 C2D2 含 7500 条人工书写、专家标注的中文文本。

    C2D2 [ 157 ] | 2023.12 | Task-based Generation | Cognitive distortion detection | ✓ | 7500 | English Chinese | A human-written, expert-annotated dataset of Chinese cognitively distorted text
  9. SYNTHEMPATHY 含 105578 条 LLM 合成的单轮共情回复。

    SYNTHEMPATHY [ 186 ] | 2025.2 | Synthetic | Empathetic Response | ✓ | 105578 | 1 | English | A large, LLM-synthesized dataset of single-round empathetic conversations
  10. BiMISC 是仅 80 段、平均 108 轮的双语心理治疗语料,含细粒度 MISC 多标签。

    BiMISC [ 197 ] | 2024.5 | Real-world | MISC coding | ✗ | 80 | 108 | English Dutch | A bilingual psychotherapy dataset with fine-grained multi-label MISC codes
  11. MusPsy 是 1500 段、平均 28.6 轮的多会话 CBT 咨询语料,面向记忆抽取与目标规划。

    MusPsy [ 22 ] | 2025.6 | Synthetic | Psychological counseling dialogue Memory extraction Goal planning | ✗ | 1500 | 28.6 | English | A multi-session cognitive behavioral therapy counseling dialogue dataset
  12. SMILE 含 55165 段中文多轮对话,平均 5.7 轮。

    SMILE [ 62 ] | 2024.10 | Synthetic | Psychological counseling dialogue | ✓ | 55165 | 5.7 | Chinese | A large-scale, diverse multi-turn dialogue dataset for mental health support
⑤ 审稿人视角

Novelty:新颖性中等偏上,属于综合型综述的贡献。三阶段"工具→对话者→陪伴者"的划分并非全新(分类→对话→智能体在 AI 应用叙事中常见),但本文的新意在于:①把它提炼为贯穿全文的中心论点,并用操作判据(交互粒度、用户状态、跨会话、个性化、记忆、自主性)显式定义;②把技术、智能体组件、数据集、基准四类资源统一映射到同一演化轴上;③把 Phase III 的"有状态陪伴"作为当前前沿单独深挖,并把评估缺口与仿真范式作为路线图收束。它没有提出新算法,因此创新体现在概念整合与文献组织层面,而非技术机制层面。 Soundness:作为综述,内部逻辑自洽且覆盖面广,但严谨性受限于缺少可复现的文献筛选方法。文中没有给出检索式、纳入或排除标准、去重流程,"覆盖更大文献集"的说法无法核验。对三阶段的边界虽有表 I 判据,但真实系统常跨阶段(例如带 RAG 记忆的 Phase II 系统与 Phase III 的部分组件重叠),框架的排他性较弱。评估缺口的判断依赖表 VII 的勾选,但正文未给出统计口径,且该表在呈现中专家、临床、自动列多为空,削弱了可检验性。对数据集仅做目录式罗列,缺乏标注质量、偏置与信度的系统批判。因此,叙事可信、方向判断合理,但证据链的透明度和可证伪性中等。 Significance:实践意义较高:它为快速膨胀、高风险且碎片化的领域提供了可用的地图和共同语言,尤其把"记忆—画像—规划—工具"与纵向评估缺口显式化,有助于研究者定位工作并避免重复。其 Phase III 四维评估(纵向一致性、升级处置、危机处理、治疗联盟)若能落地,会对后续系统设计产生规范作用。但作为综述,其直接影响是组织和启发,而非提供新的技术能力;它本身不解决临床有效性、安全对齐或多模态效度等硬问题,只是清晰划出待办清单。

⑥ 局限与保留意见

本文的主要局限在于方法论透明度与批判深度。第一,未呈现系统检索策略(检索式、数据库、纳入/排除标准、时间窗),"覆盖更大文献集"缺乏可复现依据,存在选择偏误风险。第二,三阶段框架是叙述性简化,现实系统常跨阶段混合(如同时具备 RAG 记忆与共情对话),表 I 的离散判据难以处理灰色地带。第三,作为综述无法独立验证所引工作的结论,只能转述其声称的有效性;对个别论文的方法质量、样本代表性、统计显著性与偏置缺少逐项批判。第四,评估缺口的核心主张依赖表 VII,但正文未给出去重与计数口径,且该表在本呈现中专家/临床/自动列多为空,读者无法复核"极少真实临床评估"的量化强度。第五,数据集章节以目录式表格为主,缺乏对标注质量、信度、隐私合规、语言与文化偏置的系统评价。第六,文章承认多模态信号歧义、合成数据分布偏移、文化同质化、伪临床推理等风险,但未提出可操作的缓解标准。第七,Phase III 四维评估只是概念性建议,CTRS/PANAS/WAI 如何与自动化指标结合、阈值如何设定均未定义。

⑦ 值得跟进

后续工作可从以下几方面推进。其一,把本文升级为可复现的系统综述:公开检索式、纳入/排除标准与 PRISMA 流程,并用版本化 living repository 持续更新。其二,对表 VII 的评估实践做定量 meta 分析,统计自动指标、专家评估、临床评估的出现频率与共现模式,为"评估缺口"提供可检验证据。其三,把 Phase III 四维评估落地为可操作协议:定义纵向一致性、升级处置、危机处理、治疗联盟的具体测量项、阈值与 CTRS/PANAS/WAI 的映射方式,并建立相应的动态沙盒基准。其四,系统研究合成数据的分布偏移与文化同质化:比较合成语料与真实临床人群的语言分布、症状表达差异,评估对少数群体的覆盖。其五,对 RL 对齐与 SFT 的副作用做受控实验,测量"安全得分高但临床不合宜"的失败模式(假性安抚、延迟升级、过度自信伪临床推理),并设计针对这些模式的对抗性测试集。其六,开展多模态信号跨文化效度研究,检验面部、语音线索在不同人群中的歧义与伪相关。其七,推动真实世界部署与随机对照研究,即使规模有限,也应报告伦理审查、知情同意、退出机制与不良事件,以弥补当前临床证据的稀缺。

alibabagroupHF ↑39其他

HappyWorld-Bench

发表时间:2026-09-21

Zhiqi Bai, Junai Cai, Yixin Chen, Jingrun Du, Tao Feng, Wei Gong, Siyuan Huang, Xiao Lin, Jiaheng Liu, Jun Luo, Yongzhe Lyu, Liya Ma, Zenan Meng, Lin Qu, Wenbo Su, Jiaming Wang, Qinghe Wang, Shaofei Wang, Yanghai Wang, Zequn Wang, Ziming Wang, Hu Wei, Jiangtao Wu, Ruiqi Wu, Jiaxin Xie, Yuchi Xu, Ze Xu, Chengting Yu, Liangyu Yuan, Gang Zeng, Yawen Zeng, Xingyao Zhang, Zizheng Zhang, Bo Zheng, Jiancheng Zhu, Song-Chun Zhu

arXiv · HF 讨论 · alphaXiv
① 一句话定位

本文是一篇基准与评估协议论文,而不是新模型或训练方法论文。它提出 HappyWorld-Bench,把视频世界模型、空间世界模型和具身世界模型统一到同一个 W1–W6 能力层级框架下,并同时使用自动化指标和人类偏好 Elo 来评估“生成的世界在生成、探索、交互和干预下是否仍然可靠”。其核心贡献不是某一种模型,而是可跨模型形式复用的能力分类法、三条互补评测轨道,以及把感知质量、状态一致性、因果关系和可控性拆开测量的协议。

② 背景与动机

论文从世界模型的定义出发:世界模型是智能体用来预测环境如何响应动作的内部表征,这一思想可追溯到 Tolman 的认知地图,并在 Ha & Schmidhuber、LeCun 等工作中被重新强调。论文认为世界模型的价值取决于其预测在交互下是否成立,而不是单帧是否逼真;因此可靠的世界应当具有几何一致性、物理合理性、长时持久性、可重访性,以及对控制和干预的响应能力。 现有评测被认为是碎片化的:视频世界模型、空间世界模型、具身世界模型各有成熟协议,但往往只覆盖部分能力或只面向特定模型形式。一个视频模型可能画面好看却丢失物体身份或世界状态;一个空间模型可能外观完整却不具备可导航、可支撑的几何;一个具身模型可能生成像样的动作视频却无法实现指定动作后果。论文由此主张需要一套跨范式、跨能力层级的统一基准,避免仅凭表面生成质量判断世界建模能力。

③ 方法机制

HappyWorld-Bench 的设计核心是一个六层能力框架加三条评测轨道的组合。W1 感知世界要求从视觉或多模态条件构造语义正确、空间连贯、短时时间连续的表示;W2 交互世界要求动作条件下的状态转移保持局部几何、物理和因果一致;W3 持久世界要求在长程交互、视角变化、遮挡和重访下保持全局结构、物体身份和累积状态;W4 可编程世界要求对物体、事件、行为或规则做显式干预,并使后果因果传播且不影响无关内容;W5 可扩展世界要求无限可扩展的多智能体共享世界,支持通信、同步、合作与冲突处理;W6 通用世界则把生成、模拟、持久状态、交互和规划统一起来。三条轨道共享同一套 W1–W6 词汇,但按各自接口实现不同子集:视频轨测输入之外观察的时空一致性,空间轨测导出场景能否支持有效物理操作,具身轨测从第一人称视角预测机器人、场景和被操作物体在动作下的演化。 视频轨的指标分四个维度。感知与表征包括 MUSIQ 的视频质量、HPSv3 的感知偏好、亮度/色温/清晰度聚合的成像稳定性、RAFT 光流动态度,以及原子提示遵循;W4 的指令遵循只测首次干预前的世界保真度。一致性与状态保留包括掩码 CLIP 相似度的背景一致性、基于 DA3 的几何重投影与光度对齐的几何/纹理一致性、物体状态与空间关系的状态一致性,以及 SAM2.1 掩码上 DINOv2/CLIP 特征的主体一致性。因果与因果滚动使用 Gemini 检查表评物理因果、内容因果,并用视觉判断测穿透、嵌入、悬浮和无效接触。可控交互与反事实中,W1–W3 用 DA3 估计相机运动并与时间对齐平移命令比较得到轨迹精度,动作执行则判断命令是否在对应时间段内可见完成;W4 改为交互有效性和状态保真度,分别评估干预是否物理/因果可行、目标状态是否达成并持久、未受影响内容是否保留。 空间轨从可观察质量、物理可用性、场景/物体一致性、受控编辑和扩展保留五个方面评分,W6 不评分。可观察质量通过沿预设相机轨迹渲染的 360 度视频、场景遍历和物体环绕来测,使用 TOPIQ-KonIQ、LAION 美学、感知指数、Q-Align、HPSv3 和 Qwen3-VL,以及 CLIP 文本/图像相似度、无洞率和命名物体覆盖率。物理可用性在导出几何上进行:可导航率取最大连通导航网格分量,放置率测模拟器中带标注支撑面上的稳定板放置。场景级一致性包括轨迹内的边界内比率、亮度/色调一致性、位置 HPS F1;物体级一致性包括基于 SAM3 可见性的物体 HPS F1、基于 TAPIP3D 的轨迹 F1,以及结合有效视角覆盖率与视觉伪影/物体完整性的 VLM F1。受控编辑把指令满足与无关内容保留结合:编辑成功率由 Qwen3-VL 判断至少一个编辑后视图是否满足指令;背景 RGB 保留、LPIPS 相似度和 DINOv2 相似度测物体编辑的局部性,深度一致性测全局编辑下的几何保留。扩展通过前后足迹的面积分数、扩展接口的接线分数、新区域 HPSv3 质量,以及旧区域和连接路径的成对 HPSv3 保留来评估。所有空间分数先归一化到 [0,1] 再乘以 100 报告。 具身轨把评分组织为感知、一致性、因果和可控性四个维度,共 17 个指标。感知包括场景保真、主体保真、MUSIQ-SPAQ 感知质量和清晰度保留;一致性包括主体外观一致性、几何一致性、场景状态一致性、时间相干和运动平滑;因果包括物理合理性、时空因果顺序和因果触发有效性;可控性按层级变化,包括目标状态达成、原子动作合规、功能交互成功、多动作顺序和 W4 的成对条件分支保真。自动帧级指标产生连续分,VLM 指标在冻结的任务断言上做二元判断并按预定义重要性权重聚合,不适用断言被排除而非计零。维度权重固定为感知 20%、一致性 20%、因果 30%、可控性 30%;CBF 在 W4 按匹配对评组分数。关键直觉是把“看起来像执行了动作”与“动作真正产生了规定接触、物体响应和终态”分开:W2 需要完整的动作—接触—效果—终态链;W3 需要顺序—状态转移—累积链;W4 的成对分支共享同一首帧、只改编辑条件,用于检验条件—动力学—对比链。 论文没有给出可训练模型、训练集或优化细节;它本质上是评测协议。其“数据”是评测 case、参考图、动作提示、相机轨迹、任务注解和冻结打分器,附录 B 给出采样、归一化和有效性规则,但正文未披露样本量、来源和标注流程。底层形式化方面,附录把交互重建的状态写成 X_t=(S,V_t),渲染 R(S,V_t) 输出 RGB、深度和原始不透明度;移动动作只改变相机位姿,WASD 接口的位移更新为 p_{t+1}=p_t+vΔt R_t d(a_t),其中 v=1 m/s,W/S/A/D 分别对应局部前后左右方向。尺度约定为 s=1.6/median(d_down),回退为 5/percentile90(d);导航预处理裁剪地面附近区域、去除悬浮天空几何、必要时翻转法线,并用网格 δ=0.05 m 估计 XY 足迹面积 A(F)=δ^2|F|。F1 采用调和组合 H(p,r)=2pr/(p+r),标准差用总体标准差 ddof=0。这些机制说明评测的自动化部分建立在渲染、几何重投影、光流、分割、深度和 VLM 判断的组合上,而不是单一生成质量分数。

④ 实验与证据

三轨实验共同得到一个结论:感知质量、渲染外观和视觉偏好并不等价于可靠的世界建模。视频轨中,模型在短程感知与一致性上表现较强,但随着交互、长程状态保持和规则干预要求提高,因果耦合、状态转移和条件响应成为主要瓶颈;人类偏好 Elo 与自动指标大致一致,但层级分数揭示总体偏好会掩盖能力差异。空间轨中,可渲染场景未必具备可导航几何或可支撑表面,编辑成功也未必意味着背景与深度保留,扩展面积增加不一定带来新旧区域质量保持。具身轨中,动作接地、跨阶段状态传递和对编辑条件/物理规则的动态响应是最薄弱环节。总体看,论文支持其核心主张:世界模型评估应把感知、一致性、因果和可控性作为互补而非可互换的维度。

  1. 视频世界模型轨中,HappyOyster 的 Arena Elo 最高,Genie 3 的 W1 最高;W4 仅报告 HappyOyster 与 Lingbot-World-v2 两个模型。

    HappyOyster achieves the highest Arena Elo of 1263, followed by Genie 3 at 1206 (Table 2 ). Across the W-level evaluations, however, the relative performance varies by capability level. Genie 3 obtains the highest W1 score of 82.8, slightly above HappyOyster at 82.4, whereas HappyOyster achieves the highest reported W2 and W3 scores, with 78.0 and 76.8, respectively. For W4, results are currently available only for HappyOyster and Lingbot-World-v2, with scores of 66.7 and 59.3.
  2. 视频轨 W1 中,Open-Oasis 的 VQ、HPS、IS 和 Dyn 远低于其他模型,分别为 47.88、14.92、45.83 和 1.90。

    Open-Oasis | 47.88 | 14.92 | 45.83 | 1.90 | 81.55 | 83.84 | 97.06 | 44.85 | 22.29 | 90.79
  3. 视频轨 W2 中,HappyOyster 的物理因果为 84.90、内容因果为 77.51、交互穿透为 95.96、动作执行为 80.20,因果和动作完成度较强。

    HappyOyster | 67.25 | 67.82 | 73.98 | 81.25 | 94.14 | 93.79 | 91.36 | 35.94 | 65.60 | 90.35 | 84.90 | 77.51 | 95.96 | 67.31 | 80.20
  4. 视频轨 W4 中,HappyOyster 的交互有效性为 68.55,但状态保真度仅为 38.61,显示干预执行和编辑后稳定是分离的能力。

    HappyOyster | 68.24 | 67.12 | 85.85 | 81.06 | 94.25 | 95.49 | 96.64 | 49.32 | 59.44 | 91.98 | 53.35 | 23.51 | 88.75 | 68.55 | 38.61
  5. 空间轨总体中,Marble 调整后 Arena Elo 为 1308,GPT-6-Astra 为 1252,HYWorld-2.0 为 1230;FlashWorld 和 Lyra 系列虽有可渲染场景,但 W2 分数只有 0.00 到 1.36。

    After accounting for unsupported capabilities, Marble achieves the highest Arena Elo of 1308, followed by GPT-6-Astra at 1252 and HYWorld-2.0 at 1230; details of this adjustment are provided in appendix § B.8 . Across individual capability levels, Marble and HYWorld-1.0 achieve the highest W1 scores, while HYWorld-2.0 leads W2. GPT-6-Astra leads W3–W5 despite lower W1 performance, showing that strong visual quality does not necessarily translate into reliable navigation, consistency, editing, or expansion. FlashWorld and the Lyra variants further illustrate this gap: they produce renderable scenes but obtain W2 scores of only 0.00–1.36.
  6. 空间轨物理可用性中,HYWorld-2.0 的放置率最高,为 70.14%,但仍存在失败,说明最强系统也未提供持续可靠的支撑。

    HYWorld-2.0 achieves the highest placement rate at 70.14%, but the remaining failures indicate that even the strongest evaluated system does not yet provide consistently reliable support.
  7. 空间轨 W4 中,HYWorld-2.0 编辑成功率为 73.33,但背景 LPIPS 相似度和全局编辑分均较低,编辑成功不等于保留无关内容。

    HYWorld-2.0 | 73.33 | 97.05 | 55.42 | 93.04 | 50.86 | 25.04 | 25.04
  8. 具身轨总体中,MiniMax-H3 在 W2–W4 三个层级均最高且 Arena Elo 第一;Cosmos 3 和 Sora 2 在三个层级总分都低于 75。

    MiniMax-H3 achieves the highest overall capability score at all three levels and also ranks first by Arena ELO. In contrast, Cosmos 3 and Sora 2 remain below 75 in overall capability at all three levels.
  9. 具身轨 W2 中,MiniMax-H3 的物理合理性为 100.00,原子动作合规为 98.39,功能交互成功为 96.77,表明其单步动作接地较强。

    MiniMax-H3 | 98.19 | 98.39 | 71.71 | 97.62 | 84.16 | 71.57 | 98.26 | 84.33 | 84.55 | 100.00 | 96.77 | 96.77 | 95.16 | 98.39 | 96.77
  10. 具身轨 W2 中,Sora 2 的因果触发有效性仅为 37.10,目标状态达成也仅为 37.10,控制与因果指标明显低于其感知指标。

    Sora 2 | 89.56 | 89.52 | 64.97 | 95.06 | 88.40 | 66.82 | 88.23 | 83.81 | 84.89 | 90.86 | 40.32 | 37.10 | 37.10 | 30.65 | 38.71
  11. 具身轨 W4 中,模型对物理规则编辑几乎不响应,改变材料、重力或摩擦没有在生成动力学中留下可辨识痕迹。

    For edited physical rules the response is close to absent: a changed material, gravity, or friction setting leaves no identifiable trace in the generated dynamics (Fig. 9 (a)).
⑤ 审稿人视角

Novelty:新颖性中等偏上。单看任何一类指标(DA3 重投影、VLM 断言、导航网格、板放置、人类偏好 Elo)都不新,但把视频、空间、具身三类世界模型放进同一个 W1–W6 能力词汇下,并用“感知/一致性/因果/可控性”四个维度横切,是一个有价值的整合。W4 的成对反事实滚动和“规则编辑必须治理后续演化”的评测逻辑比一般图像编辑基准更贴近世界模型需求。不过,W5/W6 仍主要是定义性/愿景性内容,未形成可执行的评测方案,因此创新集中在框架整合和协议设计,而非新测量技术。 Soundness:稳健性中等。优点是协议写得很细:不同轨道分别规定渲染轨迹、冻结打分器、断言权重、不适用指标排除、归一化和有效性规则,且人类 Elo 与自动指标并列提供交叉视角。主要问题是大量关键判断依赖 Gemini/Qwen3-VL 等 VLM,论文没有给出判断器间一致性、校准、提示敏感性或人工抽验;自动指标(几何重投影、光流、CLIP/DINO 相似度)有明确的代理性质,但未必等于“物理合理性”或“状态保真”。此外,视频轨 W4 只有两个模型,W5/W6 未评分,许多结论来自小样本且没有置信区间或统计显著性检验,Arena 与自动排序的“大致一致”也缺少定量分析。因此结论方向可信,但强度需要更严格的验证。 Significance:实践意义中等。对社区而言,它提供了一套跨范式的能力命名和失败模式拆解,尤其是“动作执行成功不等于状态转移因果正确”“编辑成功不等于编辑后稳定”“可渲染不等于可导航”这些分离有助于纠正只刷生成质量的倾向。但它没有提供公开可复现的完整数据量、样本来源或评测代码细节(在给定正文范围内),也没有给出把指标映射到模型改进的可操作诊断。W5/W6 的可操作性弱,限制了它作为长期路线图的约束力。总体上是协调性、诊断性意义较强,而作为严格排名的意义相对弱。

⑥ 局限与保留意见

第一,W5 和 W6 基本没有落地:W5 仅在空间轨有“扩展”这一近似代理,W6 明确不评分,多智能体通信、同步、合作与冲突在正文中缺少可执行协议和结果。第二,视频轨 W4 只有两个支持干预设置的模型,样本与模型覆盖不足,难以得到稳健的规则可编程性结论。第三,大量评分依赖 VLM 判断(Gemini、Qwen3-VL)和冻结断言,但论文未报告判断器可靠性、提示敏感性、人工一致性或错误来源分析,自动指标与“物理因果”“状态保真”等概念之间仍有语义鸿沟。第四,没有置信区间、方差、显著性检验或污染检测,表格中的细小分数差异可能不可靠。第五,空间轨的物理可用性主要限于可导航网格和板放置,不能代表一般物理仿真;具身轨任务集中在机器人操作类场景,外部效度有限。第六,正文没有给出样本量、数据来源和标注流程,复现和审计困难。第七,人类 Arena 的偏好 Elo 只提供整体偏好,难以归因到具体能力失败,且成本高、可能受表面画质影响。

⑦ 值得跟进

后续工作可以朝几个方向展开。一是把 W5/W6 从定义变成可执行协议:定义多智能体共享世界中的部分可观测任务、通信与冲突指标,并为通用世界建模设计跨环境、跨模态的泛化测试。二是加强 VLM 判断器的校准:引入人工标注子集、判断器间一致性和提示消融,或训练专门的评测模型以降低对通用 VLM 的依赖。三是补充统计严格性:报告置信区间、重复运行方差、显著性检验和基准污染检测。四是扩充 W4 及干预类任务的模型覆盖,并加入反事实因果的可识别性分析,区分“条件未被执行”与“条件被执行但动力学未改变”。五是建立跨轨联合诊断:对同一底层模型同时跑视频、空间、具身协议,定位失败来自感知、几何、状态记忆、动作接地还是控制。六是提供公开评测代码、固定 case 池、版本化评分器和可复现文档,使社区能够持续追踪世界建模能力进展。

SJTUHF ↑14GitHub ★5agent

Schrödinger's Code Repository: Have LLMs Learned SWE-bench or Memorized It?

发表时间:2026-08-21

Silin Chen, Yufei Yang, Xiaodong Gu, Yuling Shi, Chengcheng Wan, Haibing Guan

arXiv · HF 讨论 · alphaXiv
① 一句话定位

本文将问题锚定在仓库级评测的表示敏感性与数据泄漏:SWE-bench 以单一静态仓库表示反复出现在训练、开发与评测中,高分可能来自对仓库表层线索(命名、布局、实现模式)的记忆,而非鲁棒的仓库推理。作者提出 SchrödingerRepo,把测试仓库视为评测期潜变量,在智能体进入环境时才按种子实例化出语义等价但擦除熟悉线索的视图。与持续更新基准(SWE-bench Live、SWE-rebench、SWE-bench Pro)相比,它保留既有覆盖而不牺牲实例多样性;与静态扰动工作(PoorCodeSumEval、RepoMirage 等)相比,它逐次生成新鲜表示而非固定扰动。论文自我定位为对仓库表示敏感性的首次系统研究,提供可控测量仪器,以区分表示鲁棒推理与对熟悉度的依赖。

② 背景与动机

仓库级评测已成为编码智能体的主要标准,SWE-bench 以 2,294 个真实 GitHub issue 与可执行测试环境成为代表,Verified 子集经人工筛选后被前沿智能体广泛采用。但其构建于流行开源仓库,issue、代码、测试与讨论可能进入训练数据,存在已知泄漏问题;OpenAI 的分析也认为 Verified 已不能可靠度量前沿能力。为量化模型在接触仓库前的任务特异性记忆,作者先做动机实验:人类专家把每个实例的完整 issue 描述分解为从宽到细的语义单元并逐轮揭示,模型开始时只看到实例 ID 与少量语义单元,不能访问仓库文件、黄金补丁或测试;每轮后专家对照隐藏参考判断输出是否包含当前提示未出现的任务特异内容,并归类为无有效召回、文件/符号召回、修复逻辑召回、补丁/测试召回四级,据此决定继续揭示或停止索取更具体证据。该实验表明大部分实例存在明确泄漏证据(具体比例见实验部分),构成“强表现到底是能力还是记忆”这一核心疑问的实证起点。在此背景下,本文不新建实例,而是通过评测期变换仓库表示来剥离熟悉度,从而在同一任务上测量表示敏感性。

③ 方法机制

总体框架:SchrödingerRepo 不训练或微调模型,而是作为评测期变换仪器。核心是建立一个带种子且可逆的映射,把原始仓库与智能体可见视图分开:观察层(问题陈述、代码上下文、执行轨迹)被翻译成虚拟表示,动作被翻译回真实命名空间后再执行,最终补丁从仓库状态而非智能体输出的补丁文本恢复。可逆性保证工具执行仍落在真实 SWE-bench 环境,评价仍按原始坐标进行。四层可联合或单独启用,分别消融不同表示维度。 第一层(问题陈述重建):两阶段 LLM 流程。生成器对原始 issue 重排信息、改写措辞、删除不影响任务语义的非必要细节;验证器检查所有任务定义约束是否保留,若缺失或弱化则触发修正。之后由人工工程师做最终语义等价审查。 第二层(命名空间映射):只改观察与交互层,不动物理仓库。离线阶段从 AST 提取所有携带符号的节点——类定义、函数定义、模块级变量、导入引用——收集仓库相关标识符;严格过滤 Python 内建、保留关键字与第三方库符号(外部 API 根、导入包命名空间),只保留仓库内部、承载领域语义的术语。然后把标识符分解为子词 token,在种子控制下映射到语义上可替代的候选,同时保留命名惯例(类 CamelCase、函数/文件 snake_case、常量 UPPER_CASE、模块点分路径),并强制 token 级一致性:共享子成分在不同标识符间翻译一致,例如 QuerySet=Query+Set 被映射为 LedgerSuite,且 Query→Ledger 可在其它含 Query 的标识符中复用。由此生成仓库特定词典,诱导出一致的虚拟命名空间。在线阶段实例化为双向翻译器:观测先翻到虚拟命名空间,动作再翻回真实命名空间后执行;逆向翻译被限制在会话中实际出现过的映射内。 第三层(文件内布局重排):在任务开始前修改仓库状态。对文件级与类级中可重排定义的连续区段操作(顶层函数/类定义、类体内方法),不可重排语句作为锚点分隔可重排区域。对每个可重排区段分析 AST,构造定义期依赖图 G:节点是可重排单元,有向边编码定义期名称可用性约束,来源包括装饰器、默认参数值、类型注解、类基类、类体表达式;任一单元依赖同区段另一单元定义的名称即引入边。然后在偏序上做随机化拓扑排序,多个合法序时均匀随机选一个,无替代序则保留原序。重排结果物化为执行期覆盖层供交互,评测仍锚定原始仓库。 第四层(功能保持重写):改的是局部实现形态而非顺序。离线阶段先识别与原修复信号最直接相关的代码区域,再调用受约束重写智能体生成 unified diff,目标不是修复 bug,而是把现有实现改写成行为等价但形态显著不同的版本。验证通过的改写被物化进工作仓库。与第三层互补:一层改定义出现顺序,一层改问题相关代码的实现形态。 逐层有效性校验:每层由人工额外抽检 100 个随机实例,确认任务同一、目标 issue 保留、解决所需信息等价。第一层由人工工程师终审;第二层在翻译接口上保证命令头不变、只重写携带命名空间的参数或嵌入代码载荷,会话记录记录实际发生的虚拟-真实替换;第三、四层在官方执行环境跑测试套件,只保留满足 Pass_to_Pass(V)=1 且 Fail_to_Pass(V)=0 的候选,前者保证原本正确的行为不变,后者保证目标 bug 仍未修复,从而确保仍是同一未解决实例。 补丁恢复公式:设 B 为原始仓库状态,R′ 为所有变换与智能体编辑后的最终状态,C_B 为最终内容与原仓库不同的文件集合,b_f 为原内容、r′_f 为最终内容,则 final_submission = ⊕_{f∈C_B} Diff(b_f, r′_f)。统一从最终仓库状态导出提交,不依赖智能体输出的补丁文本。 实现与数据细节:智能体脚手架为 mini-swe-agent,解码温度固定为 0,单实例最大 250 个动作,其余为默认参数。为控制大规模成本,第三、四层只作用于黄金补丁涉及的 files/code regions;第三层只在黄金补丁相关文件内重排,第四层只重写黄金补丁相关代码区域。每个变换层对每个实例用不同随机种子生成三个仓库视图,智能体在每个视图上独立评估,报告结果为三次运行平均;因此同一仓库的不同实例通常看到不同视图,同一实例在重复运行中也会遇到不同表示。实验数据为 SWE-bench Verified 的 500 个手动筛选实例、SWE-QA 的 Conan/Reflex/Streamlink 三仓库各 48 个共 144 个问答实例、以及 March 2026 SWE-rebench Leaderboard 的 110 个时间外实例;模型后端为 GPT-5.4-mini、GPT 5.1、DeepSeek-v4-Flash、Gemini-3.1-Flash-Lite。算法直觉是:如果分数依赖可泛化的语义推理,那么语义等价但表层不同的视图不应改变成功与否,只可能改变交互开销;若分数大幅下降,则说明原分数部分来自对熟悉表层线索的记忆。RQ4 的时间外对照进一步区分“任务变难”与“熟悉度被移除”。

④ 实验与证据

实验围绕四个研究问题展开。RQ1 在 SWE-bench Verified 上比较基线、四个单层变换与四层联合的全量设置,从通过率、平均动作数、平均输入/输出 token 四个维度考察;结果显示全量设置下所有模型通过率一致下降,其中命名空间映射贡献最大,问题陈述重建几乎无影响,文件布局与实现重写影响居中,且交互成本同步上升。RQ2 对同一修复任务做轨迹分析,把动作分为导航、搜索、读取、探测、编辑、测试六类,发现额外交互预算主要流向探索与定位类动作,编辑与验证占比很小;不同模型呈现不同探索策略(主动执行探测 vs 静态阅读与检索)。RQ3 将框架迁移到 SWE-QA 仓库级问答,观察到的模式与修复任务一致:问题陈述重建几乎无效,命名空间映射主导,分数变化与交互成本上升同时出现,说明表示敏感性不限于修复流程。RQ4 用发布时间晚于被评测模型的 SWE-rebench 时间外实例做对照,发现通过率在变换下保持不变而交互成本仍上升,支持“变换没有提高任务本身难度,而是移除了熟悉线索”的解释。总体结论是当前智能体对仓库表层线索存在显著依赖,仓库表示应作为评测中的显式实验变量。

  1. 全量四层变换在 SWE-bench Verified 上使四个模型的 Pass@1 分别从 46.8%、72.8%、44.6%、56.7% 降至 35.6%、66.8%、36.2%、42.3%,降幅 6.0–14.4 个百分点。

    When all four transformation levels are enabled together, Pass@1 drops substantially across all evaluated models: GPT-5.4-mini decreases from 46.8% to 35.6% ( − 11.2 % -11.2\% ), DeepSeek-v4-Flash from 72.8% to 66.8% ( − 6.0 % -6.0\% ), GPT 5.1 from 44.6% to 36.2% ( − 8.4 % -8.4\% ), and Gemini-3.1-Flash-Lite from 56.7% to 42.3% ( − 14.4 % -14.4\% ).
  2. 单层消融中 Level 2 命名空间映射降幅最大,GPT 5.1、GPT-5.4-mini、DeepSeek-v4-Flash 的 Pass@1 分别下降 7.4、6.4、6.0 个百分点。

    In contrast, the largest degradation consistently comes from repository-side transformations, particularly Level 2 (Namespace Mapping), which reduces Pass@1 by 7.4, 6.4, and 6.0 percentage points for GPT 5.1, GPT-5.4-mini, and DeepSeek-v4-Flash, respectively, with statistically significant drops across all settings ( p < 0.01 p<0.01 ).
  3. 轨迹分析中,DeepSeek-v4-Flash 与 GPT-5.4-mini 分别有 83.6% 和 81.6% 的额外动作集中于 navigate/search/read/probe。

    For DeepSeek-v4-Flash, 83.6% of the additional actions fall into navigate , search , read , and probe , while only 16.5% are allocated to edit and test . For GPT-5.4-mini, a highly similar pattern emerges, with 81.6% of the additional actions again concentrated in navigate , search , read , and probe .
  4. 探索策略分化:DeepSeek-v4-Flash 额外动作中 probe 占 31.4%、read 占 19.4%、search 占 17.9%;GPT-5.4-mini 则 read 占 41.8%、search 占 33.1%、probe 仅 3.7%。

    DeepSeek-v4-Flash allocates a larger proportion of additional actions to probe (31.4%), followed by read (19.4%) and search (17.9%), indicating a preference for lightweight runtime execution to actively interrogate repository behavior. In contrast, GPT-5.4-mini concentrates its exploration on read (41.8%) and search (33.1%), while probe remains minimal (3.7%), suggesting a more conservative strategy that relies primarily on static inspection and textual retrieval rather than executable probing.
  5. SWE-QA 上 GPT-5.4-mini 平均分从 70.35 降至 65.71,DeepSeek-v4-Flash 从 72.97 微降至 72.42。

    On SWE-QA, GPT-5.4-mini drops from 70.35 to 65.71 in average score, while DeepSeek-v4-Flash shows only a marginal decrease from 72.97 to 72.42.
  6. SWE-QA 交互成本上升:GPT-5.4-mini 动作数从 6.28 增至 7.42,DeepSeek-v4-Flash 从 24.49 增至 35.02 且输入 token 增加 59.10%。

    For GPT-5.4-mini, average actions increase from 6.28 to 7.42, accompanied by higher token consumption. For DeepSeek-v4-Flash, actions increase from 24.49 to 35.02, with a 59.10% increase in input tokens.
  7. 时间外 SWE-rebench(110 实例)上 GPT-5.4-mini Pass@1 保持 17.27% 不变,动作数 15.82→17.11,输入 token +22.01%,输出 token +15.58%。

    GPT-5.4-mini maintains the same Pass@1 of 17.27% under the full SchrodingerRepo setting, despite noticeable increases in interaction cost. Specifically, average actions increase from 15.82 to 17.11, input tokens increase by 22.01%, and output tokens increase by 15.58%.
  8. 案例 django__django-11999 中,变换后运行需要 37→217 个动作,但最终提交同一补丁。

    Consequently, the transformed run requires substantially more interaction steps than the original run ( 37 → 217 37\rightarrow 217 actions), while still converging to the same submitted patch.
  9. 动机实验显示,每个模型超过 65% 的实例存在明确泄漏证据,超过 18% 可召回至补丁/测试级。

    For each evaluated model, more than 65% of instances exhibit clear data-leakage evidence, and more than 18% of instances can be recalled at the patch/test level.
  10. 全量设置下,受影响最强的配置输入 token 使用量增加超过 2.5 倍。

    Input-token usage increases by more than 2.5 × \times for the strongest affected configurations.
  11. Level 2 也带来最大交互成本上升:三模型动作数分别 +63.3%、+32.6%、+112.4%,输入 token 分别 +162.3%、+108.2%、+218.3%。

    Namespace Mapping also induces the largest increases in interaction cost: average actions rise by 63.3%, 32.6%, and 112.4%, while input-token usage rises by 162.3%, 108.2%, and 218.3% for the same three models.
  12. 摘要层面的 SWE-QA 结论:变换视图使回答质量最多下降 4.64 分,动作数增加 18.15–43.02%。

    On SWE-QA, transformed repository views reduce answer quality by up to 4.64 points while increasing actions by 18.15–43.02%.
⑤ 审稿人视角

Novelty:核心新颖性在于把“仓库表示”从固定评测工件变为评测期潜变量:以种子化、可逆映射为每次运行实例化一个语义等价但表层不同的视图,从而把熟悉度与真实推理在概念上解耦。四种变换(问题重建、命名空间映射、文件内重排、功能保持重写)中的单项技术(标识符混淆、语句重排、释义改写)此前已有,但本文将其系统化为可逐层消融的评测仪器,并配套 Pass_to_Pass/Fail_to_Pass 等有效性约束与时间外对照。贡献的实质更多是“测量框架 + 系统研究”而非单一算法:首次量化各表示层对智能体的相对影响,并用 RQ4 分离“任务难度增加”与“熟悉度移除”。与静态扰动工作的差异清晰,但单层方法本身并非全新,整体新颖性属中高,主要增量在框架化与因果对照设计。 Soundness:优点明显:可执行性由 Pass_to_Pass(V)=1 且 Fail_to_Pass(V)=0 的双重约束与官方环境测试保证;可逆翻译使执行与评测始终落地于原始仓库;逐层人工抽检降低变换伪影;三视图平均与显著性检验增强统计稳健;RQ4 的时间外对照是关键设计,能在一定程度上排除“变换使任务变难”的替代解释。但仍有多处疑虑:第三、四层只作用于黄金补丁相关文件/区域,仓库大部分表层线索未被侵蚀,可能低估总体效应或使结论偏向命名空间层面;“潜变量/不可观测”与种子化确定性映射之间存在张力,同一仓库身份加种子仍可复现;时间外实验只覆盖一个模型与较小实例集;动作六分类的自动标注可靠性未报告;动机实验依赖人工判断且未报告一致度;多假设比较的校正与配对检验细节不足;LLM 驱动的第一、四层变换可能引入未被测试套件捕获的语义漂移或新线索。总体方法学设计合理、对照清楚,但稳健性与泛化证据有限。 Significance:该研究对仓库级评测的效度提出重要警示:在单一静态表示下,排行榜分数可能混淆表示记忆与真实推理,提示社区应将表示鲁棒性纳入评测维度。其框架可复用、可拆解,能与现有基准叠加,不必牺牲覆盖或等待新实例,也可作为扰动强度的可控旋钮。行为学证据把“分数下降”解释为上下文重建困难,对智能体的探索策略设计有直接启示:更主动执行探测的智能体在表示变化下更鲁棒。当前结论主要限于 Python、命令行交互、mini-swe-agent 脚手架与少数模型,尚不能作为跨语言、跨工具的普适结论,但其提出的问题与测量方向对仓库级软件工程智能体评测具有实质意义。

⑥ 局限与保留意见

语言与生态:实验限于 Python 开源仓库,未覆盖其他语言、构建系统与开发惯例。工具接口:当前实现主要面向命令行式仓库交互,未适配 IDE API、语言服务器查询或 AST 级导航,内部效度受限。变换范围:第三、四层限定在黄金补丁相关文件/区域,仓库级线索只被部分移除,结论可能主要反映命名空间层而非完整仓库表示;全仓库级变换会带来更大计算成本。时间外证据规模:RQ4 只使用 GPT-5.4-mini 一个模型与 110 个实例,无法支撑跨模型因果结论。语义等价验证:自动校验依赖测试套件的通过与失败保持,测试覆盖不足的路径可能隐藏语义漂移;人工仅抽检 100 个随机实例。LLM 变换可靠性:第一层生成-验证与第四层重写由 LLM 完成,“功能保持”主要靠差分测试,等价性证明不完整。动机实验主观性:人工专家判定召回,缺少严格协议与一致度报告。统计与推断:三视图平均改变了方差结构,未说明配对检验方式与多重比较校正;动作分类的自动标注准确率未报告。最后,种子化确定性映射虽然每次不同,但同一仓库身份加种子可复现,未来仍可能被训练语料重新吸收。

⑦ 值得跟进

后续工作可沿几个方向推进。一是扩展工具接口,使 IDE API、语言服务器查询、AST 导航等富工具在变换后保持一致翻译。二是扩展到多语言与多生态(Java、TypeScript、Rust、Go 及不同构建系统),检验命名/布局敏感性的生态特异性。三是实现全仓库级第三、四层变换并优化预处理成本,避免只作用于黄金补丁区域带来的选择偏差。四是在更多脚手架与更强智能体(含检索式、规划式)上交叉实验,确认结论的普适性。五是扩大时间外数据规模与多模型对照,强化“熟悉度移除 vs 难度增加”的因果推断。六是用自动化泄漏/召回度量替代人工动机实验,提高可复现性。七是把变换强度作为连续变量,绘制性能-扰动曲线,定位关键线索维度。八是将 SchrödingerRepo 与 Live/rebench 等时效基准组合,形成“表示鲁棒性 + 时间新鲜度”的双维评测协议。九是研究探索策略与表示鲁棒性的因果方向:探索型智能体是否天然更鲁棒,以及能否训练出对命名、布局、实现模式不敏感的仓库理解表征。

SalesforceHF ↑33agent

Just-in-Time Memory: Learning to Curate Task-Adaptive Memory for LLM Agents

发表时间:2026-09-23

Yefan Zhou, Yang Li, Zeyu Leo Liu, Semih Yavuz, Shafiq Joty

arXiv · HF 讨论 · alphaXiv
① 一句话定位

本文在 LLM 智能体记忆研究中的定位是提出一个"何时策展记忆"的框架性转轴:反对主流在任务完成后立即把轨迹蒸馏成固定工件(反思、洞察、工作流、技能、推理策略)的"写时策展",主张保留原始轨迹、把策展推迟到"读时"(新任务已知时)再进行。其核心卖点有二:一是同一轨迹可按不同下游任务被反复、差异化地蒸馏,实现任务自适应;二是策展产物被当次任务即时消费,使策展器可用即时任务奖励直接训练,从而消除写时记忆中的长程信用分配与人工任务分组问题。论文贡献是一个名为 JitMem 的读时记忆策展器(GRPO 训练、冻结执行器、流式记忆库)以及三个基准上的实证分析。

② 背景与动机

智能体记忆系统复用过去经验以提升未来表现,但主流设计在写时固化记忆:任务完成后检查轨迹并蒸馏为持久工件,如口头反思(Reflexion 一类)、自然语言洞察、可复用工作流、可执行技能、可迁移推理策略;推理时通过相似度检索取回并注入上下文。这类方案的关键问题是记忆工件在未来查询未知之前就被固定。论文由此归纳两个根本代价:第一,信息丢失是过早且不可逆的,被丢弃的细节在后续任务需要时无法恢复;第二,单一固定工件要服务许多不同未来查询,而同一条轨迹可能蕴含多个教训(如状态转移模式、物体放置策略),哪一个教训重要取决于尚未可知的下游任务。两个代价同源:策展发生在任务已知之前。此外,写时策展的学习困难在于存储决策的价值可能要等很多任务之后、相关查询出现时才显现,形成长程信用分配;已有学习型写时策展(如 SkillOS)甚至需要人为分组相关任务来制造训练信号。本文借鉴认知科学中"情节记忆是重构性而非回放性、由当前目标与线索塑造检索"的观点(Schacter 与 Addis, 2007),把记忆库改为被动的原始轨迹库,把蒸馏推迟到读时,从而让策展器同时看到当前任务与检索轨迹并生成任务条件化载荷,且奖励与策展动作之间时间间隔为零。

③ 方法机制

JitMem 的形式化设定为流式任务序列 {x_1,…,x_T}。每个任务 x_t 由执行器与环境交互产生轨迹 ξ_t=(o_1,a_1,…,o_n,a_n),并获得任务奖励 r_t∈[0,1]。系统由四部分组成:记忆库 M_t、检索器 R、记忆策展器 π_φ、冻结执行器 π_L,只有 π_φ 可训练,目标为最大化期望累计任务成功 max_φ E[Σ_{t=1}^T r_t]。每个任务按四步管道运行: (1)检索:ξ̂_t = R(x_t, M_t),从记忆库取回 top-k 条原始轨迹。 (2)策展:p_t = π_φ(x_t, ξ̂_t),生成任务自适应载荷。 (3)执行:(ξ_t, r_t) = π_L(x_t, p_t),冻结执行器在载荷上下文下求解任务。 (4)更新:M_{t+1} = Update(M_t, ξ_t, r_t),若质量门控接受则把 ξ_t 追加入库。 关键设计是策展产物 p_t 是临时的、不入库,入库的只有执行产生的轨迹 ξ_t。 记忆库:存储完整、未抽象的轨迹,每条含任务描述与完整的观察-动作序列;写时不做任何摘要、反思或技能抽象。保留原始轨迹是任务自适应能力的来源,使同一轨迹可在不同任务下被提取出不同信息。由于部署时无成功标签,使用执行器模型作为 LLM-as-judge 做质量门控,只有被判定为成功解决的轨迹才入库,意图让检索到的演示保持为正例;消融对比了"全量入库并标注对错"的做法。 检索器:用 BM25 仅对任务描述(而非轨迹内容)做检索,保持轻量并与轨迹长度解耦,取 top-k 并按排名拼接;检索器不训练,训练与测试行为一致,框架对检索器无约束。 策展器:输入为结构化提示——当前任务描述 x_t 后接 k 条检索轨迹、以轻量分隔符隔开;输出为紧凑自然语言载荷 p_t,即"简报",识别最相关的过去经验、抽取在相似任务上奏效的策略、给出针对当前任务的具体指导。因为 p_t 显式依赖 x_t,同一检索轨迹对不同任务产出不同蒸馏,这是方法的核心性质。 执行器:冻结预训练 LLM,策展器训练期间永不更新;载荷被前置到执行器提示中,执行器消费紧凑载荷而非直接消费原始检索轨迹。同一执行器模型兼作记忆更新策略的 LLM-as-judge。 策展器训练:采用 GRPO。对每个采样训练任务,检索器取回 ξ̂_t,策展器生成一组 G 个候选载荷 {p_t^(i)};冻结执行器分别用每个载荷尝试任务并返回基准原生奖励 r_t^(i)(ALFWorld 与 τ²-bench 为二值成功,WebShop 为连续分数)。组内优势为 Â_i = r_t^(i) − mean_j r_t^(j)(省略标准差归一化),更新目标为 L_GRPO = −(1/G) Σ_i Â_i · log π_φ(p_t^(i) | x_t, ξ̂_t),无价值网络,执行器全程冻结。该设计的直觉是 r_t 是同一任务 t 上载荷 p_t 的直接函数,策展动作与奖励之间的时间间隔为零,信用分配即时,无需任务分组或延迟回报机制;相比之下写时记忆的存储决策要等未来任务取回工件后才被评分。 训练库与数据细节:为让奖励只反映载荷质量、不受可用轨迹随机性影响,训练时构造固定训练库——先用无策展器的基础执行器在训练集上跑一遍,用真值成功标签(而非 LLM 法官)保留成功轨迹;该库训练期间固定,保证学习稳定可复现。这带来轻度训练/测试分布偏移:训练库含基础执行器轨迹,而测试时库随策展器增强轨迹增长;论文用"分阶段库刷新"来量化并缩小该差距。评估时默认测试序列从空库开始,库随任务在线增长(自然冷启动),采用批式流式协议:批内任务共享同一库状态、批后更新;任务成功用基准真值验证器衡量,更新策略用 LLM 法官以避免把真值标签泄漏进库;由于任务顺序与批组成影响表现,结果在多次随机顺序上取均值与标准差。

④ 实验与证据

实验覆盖 ALFWorld、WebShop 与 τ²-bench 三个智能体基准,对比无记忆、三类写时记忆基线(ReasoningBank、MemP、SkillOS)及各自的无训练与强模型策展变体,并在三个冻结执行器上评估。总体结论是:在相同零样本策展模型下,读时策展普遍优于写时策展;RL 训练后读时策展进一步拉大与 RL 训练写时策展的差距;训练好的策展器可迁移到更强执行器;读时载荷更紧凑并减少执行步数;消融显示任务条件化、质量过滤存储、原始轨迹保留均各自贡献,且 RL 收益主要来自学会蒸馏检索经验而非参数化知识。

  1. 在 ALFWorld、WebShop 与 τ²-bench 上,JitMem 全面优于无记忆与写时记忆方法,相对最强基线分别提升 16.2、16.3、3.9 个绝对成功率点。

    Across ALFWorld, WebShop, and τ 2 \tau^{2} -bench, our Just-in-Time Memory ( JitMem ) consistently outperforms no-memory agents as well as heuristic and learned write-time memory methods, improving over the strongest baseline by 16.2, 16.3, and 3.9 absolute success-rate points, respectively.
  2. 未训练读时策展在同模型下已明显优于写时策展:WebShop 上未训练 JitMem-gemini 为 61.0 SR,而 SkillOS 为 41.0。

    Even without training, read-time curation is already competitive with or substantially better than write-time curation built on the same underlying model: on WebShop, for example, untrained JitMem -gemini reaches 61.0 61.0 SR versus 41.0 41.0 for SkillOS when both use Gemini-2.5-Pro as curator and executor.
  3. RL 训练后的 JitMem 在 ALFWorld 与 WebShop 上以较大优势超过 RL 训练的写时策展 SkillOS。

    JitMem outperforms SkillOS by a large margin: 77.4 vs. 61.2 (+16.2) on ALFWorld and 32.8 vs. 16.5 (+16.3) SR on WebShop.
  4. 读时策展的优势在 τ²-bench 上同样成立:JitMem-gpt 达到 75.6,而写时基线为 71.7 与 66.4。

    The pattern holds with Gemini-2.5-Pro on WebShop (61.0 vs. 40.2/41.0) and GPT-5.4 on τ 2 \tau^{2} -bench (75.6 vs. 71.7/66.4).
  5. 训练好的策展器可迁移到更强执行器,与直接用 GPT-5.4 训练的策展器相比迁移差距仅 1.4 SR 点。

    the transferred curator closes to within 1.4 SR points of one trained directly with GPT-5.4, suggesting it learns generalizable curation strategies rather than executor-specific patterns.
  6. JitMem 载荷更紧凑,相对写时方法显著降低输入 token 与执行步数。

    its compact payload reduces input tokens by 50.3 % 50.3\% – 56.3 % 56.3\% and executor steps by 28.4 % 28.4\% – 31.4 % 31.4\% relative to write-time methods.
  7. 移除任务条件化在未训练时带来小幅下降,RL 训练后损失更大,说明 RL 学会利用任务信号而非仅压缩轨迹。

    Without RL training, this lowers JitMem -base by up to 3.1 on ALFWorld and 4.6 on WebShop across executors. The gap widens after RL training: JitMem without task conditioning drops by up to 11.4 on ALFWorld and 10.4 on WebShop
  8. 移除检索轨迹使 RL 训练后的 JitMem 降至未训练基线水平甚至更低,说明 RL 收益来自蒸馏检索经验。

    Without retrieved context, JitMem degrades to or even below the untrained JitMem -base across all executors, with SR dropping by up to 14.8 on ALFWorld and 15.2 on WebShop.
  9. 写时蒸馏存储丢弃信息,移除原始轨迹在 WebShop 上下降尤为明显。

    This drops JitMem -base by 1.7–2.9 on ALFWorld and 6.8–8.2 on WebShop across executors.
⑤ 审稿人视角

Novelty:新颖性中等偏上。核心新颖点是"记忆应在何时被塑形"这一时机视角:把写时固化的摘要式记忆改为读时、任务条件化的重构式策展,并以即时任务奖励训练策展器,从而把写时记忆的长程信用分配塌缩为单步。这与已有 Reflexion、技能库、工作流、推理策略等文献形成清晰对照,"同一轨迹对不同任务产生不同蒸馏"的定性示例也较有说服力。但具体组件并不新:BM25 检索、冻结执行器、GRPO、LLM-as-judge 质量门控均为现成技术,因此创新主要在框架层面与训练信号构造,而非新算法组件。 Soundness:方法逻辑自洽,多基准、多执行器、多随机顺序、零样本与 RL 变体、逐项消融的设计较完整,训练/测试协议也描述清楚。主要疑虑在基线可比性与结论强度:SkillOS 报告值与论文复现值不一致,WebShop 上为复现还需添加搜索引导并把无记忆基线校准到"不高于报告值",这使对比口径部分依赖作者选择;τ²-bench 只评估训练免费变体,无法验证 RL 训练收益能否推广到该基准;"未训练策展器已具竞争力或超越"在 Qwen 执行器的 WebShop 上并不成立(未训练 JitMem-base 低于 SkillOS),摘要表述有选择性;效率统计只覆盖执行器侧 token/步数,未计入策展器额外调用与检索成本;静态训练库与测试库的分布偏移虽经分阶段刷新研究,但收益有限,未能完全闭环。 Significance:对智能体记忆研究有实际启发意义:它把"策展时机"确立为一等设计维度,可能推动读时、任务条件化记忆与检索增强生成、情节记忆重构视角的交叉;紧凑载荷与跨执行器迁移对部署成本友好。局限是每次任务多一次 LLM 调用、BM25 检索简单、载荷格式按基准手工设计,限制了其在大规模、多域、长程场景的即插即用性。整体影响取决于后续能否降低读时开销并把一次性载荷扩展为轮级/步级在线适应;若成立,这一"存储与策展分离"的框架有潜力成为智能体记忆的新默认范式。

⑥ 局限与保留意见

作者自陈的限制:BM25 检索器简单,随记忆库增大与多样化可能成为瓶颈;策展器每次任务额外增加一次 LLM 调用;载荷格式固定且按基准手工设计;尚未把策展从每任务一次扩展到随新观察出现的轮级或步级适应。除此之外的批判性局限:τ²-bench 因无标准训练划分而未评估 RL 训练变体,训练收益的泛化证据不足;基线复现依赖额外提示校准(WebShop 搜索引导、Qwen 思考/非思考模式选择),对比的公平性需要更多控制;训练库由基础执行器轨迹构成、测试库由策展增强轨迹增长,分布偏移只通过分阶段刷新小幅缓解;空库冷启动与批次、顺序敏感性虽以多随机顺序平均处理,但未完全消除;评估域局限于三个相对狭窄的具身/购物/工具对话基准,缺少开放域、长会话与大规模记忆压力测试;质量门控依赖 LLM-as-judge 可能引入误判;效率收益未把策展器调用、检索与库维护的总成本计入。

⑦ 值得跟进

可跟进方向:一是把 BM25 替换为可学习或稠密检索器,甚至联合训练检索与策展,缓解库规模瓶颈;二是降低读时成本,如用更小的策展器、缓存复用、早停或对强执行器蒸馏;三是把每任务一次载荷扩展为 turn/step 级在线适应,随新观察滚动更新;四是自动学习或搜索跨域载荷格式,去掉手工设计;五是在存储侧引入无损/有损压缩以控制库规模,同时保留任务自适应所需信息;六是学习"哪些轨迹值得入库"的存储策略与质量门控,而非固定 LLM 法官;七是在更长序列、跨会话、多智能体与开放域基准上检验读时策展;八是从理论上刻画即时奖励与任务条件化带来的样本效率收益,并与写时方法的形式化信用分配对比;九是用课程式或在线 RL 消除训练/测试库分布偏移;十是做更严格的控制实验,分离"读时时机"本身与"更优提示/上下文注入"各自的贡献。