AI 论文深读
2026-10-02
6 篇深读 · 2 篇简读
amazonHF ↑202GitHub ★7推理与对齐
Rethinking Latent Visual Reasoning: Grounding Latent Reasoning in Visual Evidence
发表时间:2026-09-28
Xi Xiao, Tianchen Zhao, Youngeun Kim, Zhuowei Li, Linghan Xu, Jiaye Wu, Zheng Zhang, Xiang Xu, Xuanbai Chen, Farhan Tejani, Jakub Zablocki, Julia Xu, Yifan Xing
arXiv · HF 讨论 · alphaXiv
① 一句话定位
本文处于多模态大语言模型(MLLM)隐式视觉推理(Latent Visual Reasoning, LVR)与视觉可监督性/可解释性的交叉地带。与显式文本思维链或输出坐标/区域的做法不同,LVR 在连续隐 token 中完成中间计算,因而难以观察其内部证据使用。论文的核心论点是:最终答案正确并不保证隐 token 已保存产生该答案所需的视觉证据。作者通过受控行为与表征诊断提出 latent evidence-credit gap(隐证据-信用缺口),并把工作定位为对 LVR 的“重新思考”:不改变模型结构与推理流程,在第二阶段 GRPO 之上为当前模型自由运行的隐轨迹加入视觉证据监督。其主张的贡献是三点——识别缺口、提出 ReaLVR、以及首次把连续隐视觉推理训练到 235B 级前沿规模。与 Monet、CoLVR、RIS 等近期隐轨迹/区域监督方法相比,ReaLVR 的辨识度在于同时回答“在哪里监督”与“保留什么证据”,并把二者耦合到一条可微的 on-policy 轨迹上。
② 背景与动机
LVR 的形式化:在输入 x 与文本答案之间插入 K 个连续 decoder hidden state,生成顺序为 x → <|lvr_start|>, z_1,...,z_K, <|lvr_end|>, answer。每个 z_t = T_θ(c_t(τ)),只能依赖图像、问题与更早的隐 token,不能看到未来答案。两阶段训练是本文分析的背景:Stage 1 把 ROI 标注映射为有序视觉目标 v*_{1:T_v},在 teacher forcing 下让 decoder 隐状态以 MSE 重建目标(作者称 target-conditioned,以区别于 Stage 2 的自由运行状态);Stage 2 冻结 behavior policy 采样 G 条 rollout,用 GRPO 做 outcome 优化。标准 GRPO 只对生成文本位置计分,重放时保存的 latent 向量被当作固定 context,策略损失不反向穿过 latent 的生成过程,因此最终答案奖励既不指示哪些隐位置需要更强视觉监督,也不指示应保留什么视觉证据。这就是 latent evidence-credit gap 的来源。相关工作可分为两线:LVR 轨迹设计(文本/视觉交织、可变长度、共享 workspace、结构化/由粗到细、并行/分解/多假设等)与显式视觉 grounding(VisCoT、PixelReasoner、DeepEyes、Argus、grounded CoT,以及连续 latent 的语义/注意力目标、对比目标、latent 专用策略)。与 ReaLVR 最接近的是 Monet(直接优化采样的隐轨迹)、CoLVR(对比隐轨迹)、RIS(监督区域证据),但 ReaLVR 用正确-错误答案 readout 在一条约当前模型轨迹内加权位置,再做相关-不匹配视觉监督,并保留 LVR 推理流程。
③ 方法机制
ReaLVR 的目标可分解为两条监督源:GRPO 继续提供答案级优化,新增的证据损失直接穿透隐 token 的生成过程。其核心设计原则是 on-policy 蒸馏:证据监督应施加在学习者自己产生的轨迹上,而不是 Stage 1 中由视觉目标前缀 teacher-forced 出来的轨迹上。
(1)可微轨迹再生。对每个输入 x,行为策略先采 G 条 rollout,供 GRPO 优势与错误答案集使用;与此同时,ReaLVR 用当前模型 θ 递归再生一条轨迹 z_t^θ = T_θ(x, <|lvr_start|>, z_{1:t-1}^θ), t=1,...,K,并保留该递归的梯度。整段隐 span 在答案 token 之前生成;随后把正确答案与各错误答案分别 teacher-forcing 在共享隐 span 之后,仅用于计算监督权重。这样,一条可微轨迹同时支撑视觉对齐与答案条件路由。
(2)保留什么:相关-不匹配视觉对比。ROI 标注 a 在 N 个视觉 token V 上定义证据 mask a+∈[0,1]^N,正原型 p+ = Pool(V; a+) = Σ_n a_n+ v_n / (Σ_n a_n+ + ε);无 ROI 或 mask 为空时令 a_n+=1,退化为整图目标,所有隐位置共享该视觉目标。为使目标判别,从 mismatched 样本用相同 pooling 构造负原型集 N={p_s^-}_{s=1}^{N_-}。第 t 个隐状态的 margin 为 g_t = sim(z_t^θ, p+) − max_{p^-∈N} sim(z_t^θ, p^-),sim 是余弦相似度。提高 margin 训练隐状态区分支撑性视觉内容与竞争性图像特征;视觉编码器与 connector 冻结,原型固定,只有 LM 通过再生轨迹学习保留证据。
(3)在哪里监督:正确-错误答案 readout。从 G 条 rollout 中保留 distinct、可解析、错误且内容非空的答案构成 Y_x^-。对每个候选答案 y,格式化为 Fmt(y),取内容 token 索引 J(y);将其 teacher-force 到同一隐 span 后,抽取每个内容 token 查询对隐位置 t 的 post-softmax 注意力 A_{j,t}^{(ℓ,h)}(y),对 decoder 层 ℓ、头 h、内容位置 j 求均值得到 r_t(y)。令 r_t+ = r_t(y*)、r_t- 为错误答案 readout 的均值,选择性 credit 为 γ_t = [r_t+ − r_t-]_+,保留原始注意力质量、不重新归一化;若没有有效错误答案,令 r_t- = r_t+,γ_t=0。直觉是:正确答案相对错误答案更偏好的位置,就是需要更强证据监督的位置;减去错误答案共享的注意力可以折扣格式、过渡等公共 token 的干扰。
(4)损失与梯度。权重 w_t = η/K + (1−η)γ_t,η 控制均匀基线;总权重 Σ_t w_t = η + (1−η)Σ_t γ_t,因此答案对比越强,该样本获得的证据监督越多;无选择信号时退化为 w_t=η/K,保证 η>0 时仍有一致监督。对 w_t 施加 stop-gradient,避免路由器通过降低难位置权重来降低损失。证据损失 ℓ_ev = Σ_t sg(w_t)[m_ev − g_t]_+,目标 margin m_ev∈(0,2];Stage 2 总目标为 L_S2^ReaLVR = L_S2^LVR + λ_ev·(1/B)Σ_b ℓ_ev^(b),其中 L_S2^LVR = −J_clip(θ;θ_old,Â) + β·text KL 保持不变。梯度流经 g_t 与递归隐生成,而答案串、原型与权重固定。附录的梯度分解说明:若不去 detach,损失存在经由 w_t 的“信用路由器”路径,会通过降低 r_t+ 或抬高 r_t- 来减少被监督质量,而非改善证据 margin;detach 后每步等价于在当前权重 w_t(θ_k) 下的局部代理 ℓ̃_ev,k = Σ_t w_t(θ_k) h_t(θ)。
(5)训练与数据细节。Stage 1:语言模型在 next-token loss + 视觉重建 MSE(权重 0.1)上训练,视觉塔与 merger 冻结,序列打包到 4096 token,每图 128–5120 个视觉 token;AdamW、峰值 lr 1e-5、cosine、warmup 0.03、wd 0.1,global batch 1600(235B)/512(≤30B)。Stage 2:G=8、采样温度 0.6、top-p 1.0、top-k off,β=0(Stage 1 仅作初始化);图像视觉 token 上限 2560,prompt 来自 ViRL39K + Visual-CoT 混合;训练 100 步、每 25 步存点,峰值 lr 5e-7,最大 prompt 4096、completion 192。证据损失超参:K=8、λ_ev=0.2、m_ev=0.5、η=0.3、N^-=16(负原型从同一 global batch 的其他样本池化),训练与推理均用 K=8。硬件为 AMD MI250X:235B 用 200 节点/800 加速器(1600 GCD),≤30B 用 64 节点/256 加速器(512 GCD),DeepSpeed ZeRO-3、bf16、梯度检查点、SDPA。推理时只生成 K 个隐 token 再解码答案,两个监督分支仅训练期使用,结构与流程与 LVR 完全一致。
④ 实验与证据
实验在视觉判别、空间关系与高分辨率/真实世界感知的五个基准上展开,覆盖六个骨干与三个模型家族,对比 Pixel Reasoner、Vision-R1、LVR、ILVR、Monet 等方法。主结果表明 ReaLVR 在 Qwen2.5-VL-7B 上取得所评隐推理方法中最高的五任务平均,并相对 LVR-SFT 在全部五个任务均有提升;在 Qwen3-VL 多个规模以及 InternVL3、Gemma 家族上同样持续优于 LVR 基线,作者称这是首次在超大规模多模态骨干上训练连续隐视觉推理。消融逐项移除“在哪里监督”(均匀路由、原始注意力、纯选择性)与“保留什么”(无负原型)以及训练机制组件(未 detach、off-policy 目标),确认答案对比路由、判别性负样本、可微再生与 stop-gradient 都必要。机制诊断从反事实编辑、隐状态距离、固定上下文替换、目标区域注意力富集与词汇头/线性探针读出等角度检验,显示 ReaLVR 的隐状态更依赖输入证据、更集中在答案读取位置,并与相关视觉区域更对齐。
-
ReaLVR 在 Qwen2.5-VL-7B 上取得所评隐推理方法中最高的五任务平均(63.7),相对 LVR-SFT、LVR-RL、Monet-SFT、Monet-RL 与最强竞争行 ILVR 均有提升。
ReaLVR reaches the highest five-task average on Qwen2.5-VL-7B , 63.7 63.7 (Table 1 ): + 4.0 +4.0 points over LVR-SFT, + 3.3 +3.3 over LVR-RL, + 2.9 +2.9 over Monet-SFT, + 1.5 +1.5 over Monet-RL, and + 0.8 +0.8 over ILVR, the strongest competing latent-reasoning row by average accuracy.
-
在 Qwen3-VL-8B 与 Qwen3-VL-30B 上,ReaLVR 分别取得 61.2 与 65.2 的平均,且 30B 上比 LVR 高 1.1 分。
On Qwen3-VL-8B, ReaLVR reaches an average of 61.2 % 61.2\% , exceeding the evaluated latent-reasoning baselines. The gains extend to Qwen3-VL-30B, where ReaLVR reaches 65.2%, 1.1 points above LVR.
-
在 Qwen3-VL-235B 上,ReaLVR 在三个已评基准上均优于 LVR-SFT;作者称这是首次在 235B 参数多模态骨干上训练隐空间视觉推理。
On Qwen3-VL-235B , ReaLVR also improves over LVR-SFT on all three evaluated benchmarks. To our knowledge, this is the first demonstration of visual reasoning in latent space trained on a 235B-parameter multimodal backbone.
-
跨模型家族,ReaLVR 在 InternVL3-8B 与 Gemma-3-12B 的五任务平均为 58.1 与 41.6,分别比 LVR-RL 高 3.1 与 2.6 分。
Across model families, ReaLVR yields five-task means of 58.1 58.1 on InternVL3-8B and 41.6 41.6 on Gemma-3-12B without architecture or inference changes. On these backbones, ReaLVR exceeds LVR-RL by 3.1 3.1 and 2.6 2.6 points in five-task mean accuracy, respectively.
-
把选择性路由换成均匀权重(η=1)使平均下降 1.3 分、MMVP 下降 2.5 分,说明监督应集中在正确答案读取的位置。
Replacing the routing weights with a uniform 1 / K 1/K ( η = 1 \eta=1 ) costs 1.3 points on average and 2.5 on MMVP : the same visual supervision, spread evenly over the latent span, is markedly less effective than supervision concentrated where the correct answer reads.
-
去掉负原型、只对齐正原型会使平均下降 1.6 分,是“保留什么/在哪里”成分中损失最大的一项。
Aligning latents to p + p^{+} without mismatched prototypes drops 1.6 points, the largest loss among the “what” and “where” components; a plain alignment objective pulls latents toward generic image content rather than toward what distinguishes this image from others.
-
监督保存的 rollout 隐状态而非当前模型再生轨迹会损失 1.8 分(表中最大降幅);去掉对权重的 stop-gradient 损失 1.1 分。
Supervising the saved rollout latents instead of a regenerated trajectory loses 1.8 points, the largest drop in the table, confirming that the loss must reach the process that produces the latents at inference. Removing the stop-gradient on w t w_{t} loses 1.1 points, matching the shortcut identified in Appendix E : the router lowers weights on hard positions instead of improving their evidence margin.
-
反事实编辑中,正确答案在 81.45%–86.33% 的样本对中发生变化,但 LVR 仅在 5.66%–13.09% 的样本对中改变预测。
The correct answer changes in 81.45 % 81.45\% – 86.33 % 86.33\% of pairs, but LVR changes its prediction in only 5.66 % 5.66\% – 13.09 % 13.09\% (Table G.5 ).
-
原图与编辑图之间,ReaLVR 的 mean-pooled 隐状态距离为 0.13–0.34,而 LVR 低于 0.0005。
In panel (b), ReaLVR’s mean-pooled latent distance between original and edited inputs is 0.13 0.13 – 0.34 0.34 , versus below 0.0005 0.0005 for LVR.
-
固定上下文替换测试中,替换最受答案注意的八个 token 使 ReaLVR 正确答案概率从 0.70 单调降至 0.59,降幅超过 Monet 与两种 LVR 变体。
For ReaLVR, the correct-answer probability falls monotonically from 0.70 0.70 at k = 0 k=0 to 0.59 0.59 at k = 8 k=8 , a drop of 0.11 0.11 that exceeds those of Monet and both LVR variants.
-
目标区域注意力富集方面,ReaLVR 在中层约为 2,Monet 接近 1.6,LVR 在 1.3 或以下。
ReaLVR reaches about 2 2 in middle layers, versus Monet near 1.6 1.6 and LVR at or below 1.3 1.3 (Figure G.2 ).
-
隐状态并非空信息:线性探针可从平均隐状态以 99.9% 准确率恢复 BLINK 任务标签。
yet the states are not empty: a linear probe recovers the BLINK task label from the mean latent with 99.9 % 99.9\% accuracy (Appendix G.6 ).
⑤ 审稿人视角
Novelty:新颖性中等偏上。单个构件——直接优化隐轨迹(Monet)、隐轨迹对比(CoLVR)、区域证据监督(RIS)、attention 诊断——在近期文献中已有先例;本文的增量在于把“答案正确但证据未被保留”形式化为 latent evidence-credit gap,并用正确-错误答案 readout 决定监督位置、相关-不匹配原型决定监督内容,在一条当前模型可微轨迹上同时实现两者。on-policy 再生加 stop-gradient 的工程设计,以及首次把连续隐视觉推理训练到 235B 级骨干,进一步增加了实证贡献。但方法仍建立在 attention readout 与 ROI 原型之上,属于组合式创新,而非提出全新学习范式。
Soundness:方法学上较扎实:主表给出多次运行的均值±误差;消融与诊断和核心主张对齐;跨三家族、多规模的提升方向一致。需要注意的薄弱点:① credit 分配以 attention readout 为代理,不等于因果贡献,虽由固定上下文替换部分弥补;② 负原型从同一 global batch 池化,引入跨样本耦合与批次依赖;③ KL 权重设为零,参考策略仅作初始化,缺少正则;④ 训练步数很少,数据混合规模与泄漏控制披露有限;⑤ 235B 只评了三个基准,规模结论的任务覆盖不完整;⑥ attention 既作路由信号又作诊断指标,存在一定循环论证风险;⑦ 未报告统计显著性检验。这些问题不推翻“证据监督优于纯 GRPO”的主结论,但限制了机制解释的强度。
Significance:意义中等偏高。若隐推理要成为文本 CoT 的可扩展替代,“隐状态是否真正使用视觉证据”是可监督性与可信度的关键。ReaLVR 给出无需改架构/推理的轻量方案,在多家族多规模上稳定增益,并用多种诊断把评价从单一准确率引向内部动力学,对后续隐推理训练与审计有示范价值。不过其证据目标依赖 ROI 标注,基准以短答案视觉感知为主,尚未证明在复杂多步推理或开放生成任务上的收益,因此影响目前集中在 LVR 子领域,而非通用 MLLM 训练范式。
⑥ 局限与保留意见
作者自述:无区域标注时视觉证据目标空间特异性下降;推理使用预设的隐 token 预算。进一步可指出:① ROI 不可得时退化为整图目标,削弱“证据位置”的判别性;② credit 来自 attention readout,可能与真实因果贡献不一致,并受格式/位置偏置影响;③ 负原型取自同批样本,批次组成影响难易度与稳定性;④ Stage 2 步数少且关闭 KL 正则,长期训练与策略漂移行为未知;⑤ 训练数据 ViRL39K+Visual-CoT 的构成、规模与基准泄漏控制未充分说明;⑥ 235B 未评 HRBench,规模收益结论不完整;⑦ 可微再生与多条答案 teacher-forcing 增加显存与计算,部署成本未量化;⑧ 评估以分类/短答案为主,缺少开放长答案与多步推理;⑨ 隐状态不产生可读 rationale,线性探针只表明信息存在,不证明其被正确使用,可审计性仍有限。
⑦ 值得跟进
可跟进的方向:① 用弱监督/伪标注从答案或图像自动构造更细的证据目标,减少对 ROI 标注的依赖;② 学习或自适应每个问题的隐 token 预算,已有预算扫描显示任务偏好不同,任务级 oracle 提示自适应长度有价值;③ 用可学习 credit 或因果干预替代 attention readout 做位置分配,消除“注意力即贡献”的假设;④ 对 credit 分配与梯度分解做理论刻画,明确什么条件下最终答案奖励不足以恢复证据保留;⑤ 在更多家族、更大规模与多步推理/开放生成基准上验证,补齐 235B 的完整基准与统计检验;⑥ 研究隐轨迹是否塌缩为固定向量,及其与文本 CoT 的等价/互补关系;⑦ 把证据监督推广到视频、文档等多模态与长上下文;⑧ 结合探针、干预与反事实建立隐推理审计标准;⑨ 降低 on-policy 再生开销,例如仅对部分层/位置保留梯度或使用重放近似。
RutgersUHF ↑188agent
False Frontiers: Diagnosing and Mitigating Co-Cheating in Self-Evolving Search Agents
发表时间:2026-09-30
Meijia Chen, Hao Li, Zheng Lu, Hongshan Lin, Junbai Tian, Yichen Liu, Zijun Tian, Yufan Zou, Shuhan Sun, Hanxin Chen, Zeyu Zhang, Weizhi Du, Yueting Li, Tianyu Shi, Alaa Khamis
arXiv · HF 讨论 · alphaXiv
① 一句话定位
This is a diagnosis-plus-mitigation study of self-evolving search agents. It names a specific failure mode, "co-cheating": in a proposer–solver loop, the proposer and solver increasingly agree on the same incorrect answers, so in-loop reward improves while externally audited correctness stagnates. The paper positions itself against coupled proposer–solver systems such as Dr. Zero and Search Self-Play, and against SearchMaster as the closest complementary diagnosis of misleading self-play signals. Its primary contribution is CrossFit, a source-level cross-fitted feedback scheme; it explicitly disclaims novelty for self-play, answer verification, or cross-fitting itself, narrowing its claim to controlling the training-data ancestry of the feedback solver. The framing is therefore incremental but well-scoped: the intervention is simple, and the value lies in the evidence-backed audit and the ablations isolating source ancestry as the operative variable.
② 背景与动机
Search-augmented language models interleave reasoning with retrieval actions before answering, but most are trained on externally supplied questions and answer supervision. Self-evolving agents instead generate their own training experience. Recent proposer–solver systems have a proposer turn source documents into questions and pseudo-labels, admitted pairs train a solver, and the solver's performance on new proposals determines the proposer reward; repeating this cycle shifts proposals toward the solver's capability frontier without a fixed human-authored training set. The central risk is that agreement becomes an endogenous proxy for correctness: an incorrect pseudo-label can teach the solver to repeat that error on later questions from the same source, and rewarding that agreement reinforces the error in the next-round curriculum. The paper formalizes this with audit quantities: T_P is adopted-label correctness, T_S is solver-response correctness, A is the observed label–response match rate, F counts pairs that agree on the same incorrect answer, and L counts correct solver responses denied credit by a wrong label. Ordinary label noise can cause disagreement or lost credit, but co-cheating predicts that agreement itself becomes optimistic as both agents converge on the same error; rising A is reliable only when T_P and T_S also rise and F stays low. The audit is post-hoc: at every scheduled step it saves the source document, the adopted pseudo-label, and the five solver responses used for proposer reward, and an LLM judge (gpt-6-astra/high) builds an evidence-backed reference from the source; unsupported cases remain unresolved. Related work on reward hacking, proxy-reward optimization, and pseudo-label confirmation bias frames the phenomenon, while cross-fitting from statistics supplies the exclusion principle used in the mitigation.
③ 方法机制
Coupled baseline loop. In the standard Dr. Zero loop, a proposer generates a question q and an adopted pseudo-label y~ from a source document x, a solver produces five responses z_1..z_5, and the proposer receives R_P(q)=f(sum_{j=1..5} 1[z_j ~= y~]), with z_j ~ S(·|q). Here f(k)=(5-k)/4 for 0<k<5 and zero otherwise, i.e., a "frontier reward": questions get credit according to how difficult they appear to a solver, with moderate match rates rewarded rather than trivial ones. The solver then trains on the admitted question–label pair. The proposer is updated by a sequence-normalized policy-gradient objective: L(θ)=-(1/|E|)Σ_e Â_e (1/|T_e|)Σ_t log π_θ(y_{e,t}|y_{e,<t}, q_e), with advantages Â_e=(r_e-μ_{g(e)})/(σ_{g(e)}+1e-6), normalized within proposer task buckets or within the five solver responses to one question. Prompt and tool tokens are masked, as is the proposer's terminal answer; solver answer tokens remain trainable.
Why co-cheating arises. If a pseudo-label is wrong, it can train the solver to reproduce that error. If the solver later reproduces the same wrong answer on another question from the same source, the five-response match rate is high and the proposer receives reward even though the answer is externally incorrect. The proposer's next-round curriculum then shifts toward these shared errors. The audit's false-agreement mass F measures the fraction of evaluated label–response pairs that agree on the same incorrect answer. The joint rise of A and F, with T_P and T_S stagnating, is the diagnostic signature.
MSV (multi-sample verification). MSV is an admission-time test of whether a proposed question admits a stable answer independently of the proposer's draft. Given source x, question q, and the same model M used in self-evolution, it draws three source-aware and three source-blind answers: a_i^src ~ M(·|x,q), a_i^blind ~ M(·|q), i∈{1,2,3}. Neither view observes the draft. Let Maj return an answer when at least two samples agree under the answer matcher ≃, and ∅ otherwise. With y^v=Maj(a_{1:3}^v) for v∈{src,blind}, admission is I_MSV = 1[y^src≠∅ ∧ y^blind≠∅ ∧ y^src≃y^blind]. When I_MSV=1, the compatible majority replaces the draft as the training label; otherwise the task is rejected. The source-aware view tests evidential support and the source-blind view tests answer stability. Its limitations are that six samples from the same model can share errors, verification does not prevent a later feedback solver from reusing labels derived from the evaluated source, and it adds six generations per candidate (including search and coordination cost).
CrossFit (main method). CrossFit changes only where the proposer obtains feedback. The proposer still generates questions and pseudo-labels from source documents exactly as before. Each source document is assigned once to fold 0 or fold 1, and every question derived from that document keeps the same assignment throughout self-evolution. The split is made at the source level because splitting individual questions could place related examples from the same document on both sides and preserve the reuse path the method wants to remove. Two auxiliary feedback solvers are maintained: after round r, one has learned only from admitted questions in fold 0, the other only from admitted questions in fold 1. In the next round their roles are crossed: questions from fold 0 are evaluated by the solver trained on fold 1, and questions from fold 1 by the solver trained on fold 0. The feedback rule itself is unchanged. Let h denote the source fold, S_{r,1-h} the auxiliary solver trained on the complementary fold, and y~ the adopted label; then R_P(q)=f(Σ_{j=1..5} 1[z_j≃y~]), z_j ~ S_{r,1-h}(·|q). The sum counts responses matching the adopted label under the original matcher, and f is Dr. Zero's frontier reward, so the original training objective is preserved; only which solver supplies the signal changes. This breaks the direct self-reinforcing path: under coupled feedback an incorrect pseudo-label from a source can train the solver, be reproduced by that solver on a later same-source question, and return to the proposer as reward; under CrossFit the later question is evaluated by the complementary solver whose training history excludes that source. The method does not make the auxiliary solver a truth oracle—the two solvers may still share errors inherited from pretraining or overlapping evidence—but it prevents agreement from being rewarded merely because the evaluator was trained on the same source-derived error. Crucially, the main solver is not split: it continues to train on all admitted questions from both folds, and the auxiliary solvers affect only the feedback shaping the proposer's next-round curriculum. When combined with MSV, MSV first decides admission and the pseudo-label, then CrossFit selects the auxiliary evaluator.
Training and data details. All treatments share the same backbone, proposer schedule, main-solver schedule, sampling configuration, and tool budget. The schedule is three rounds with 18 proposer and 25 main-solver updates per round; the solver uses 1,600 admitted questions per round with five responses per question; the proposer uses 64 prompts per update with one selected trajectory per prompt; training sampling is temperature 0.8 and top-p 0.95; MSV uses three source-aware and three source-blind samples; CrossFit uses two source folds with 25 auxiliary-solver updates per fold per round (50 total); the tool budget is at most five assistant actions and 512 new tokens per action. Compute: MSV adds six labeler generations per proposal, and CrossFit adds 50 auxiliary solver updates per round without changing the main solver's training data or update count.
④ 实验与证据
The authors rerun the complete three-round self-evolution loop at two model scales with four treatments: the coupled Dr. Zero loop, MSV, CrossFit, and MSV+CrossFit. A post-hoc LLM judge audits saved source/label/solver-response triples to compute false-agreement mass and related correctness metrics without affecting training. Round-end main solvers are evaluated on a fixed seven-benchmark open-domain QA suite with identical tool budget, decoding, and answer extraction. CrossFit substantially lowers false-agreement mass and raises adopted-label truth, and it improves downstream averages over both Dr. Zero and Search-R1 at both scales; MSV alone yields only a small improvement and adds little on top of CrossFit. Ablations compare same-source and full-data auxiliary evaluators, random question-level versus source-level partitioning, fixed-bank replay that varies only feedback provenance, and a half-budget auxiliary control; these attribute the effect to source ancestry rather than evaluator duplication, arbitrary partitioning, task selection, or extra auxiliary updates. The paper concludes that source-excluded proposer feedback accounts for most of the learned-policy improvement.
-
MSV partially reduces false agreement while CrossFit reduces it far more at both model scales.
After self-evolution, MSV reduces false-agreement mass from 6.1% to 5.7% on Qwen3.5-4B and from 8.8% to 7.2% on Qwen3.5-9B, whereas CrossFit reduces it to 3.0% and 3.7%, respectively.
-
Replaying identical proposals with only feedback provenance changed nearly eliminates false agreement, isolating feedback ancestry.
Replaying identical proposals with source-excluded feedback further reduces false agreement to 0.4% and 0.1%, isolating feedback ancestry from changes in the generated curriculum.
-
CrossFit reaches higher average Cover-EM than Dr. Zero and Search-R1 at both scales.
CrossFit reaches 0.488 and 0.512: gains of 8.8/8.4 percentage points over Dr. Zero and 8.7/7.8 over Search-R1.
-
Verification alone gives only a small average improvement over Dr. Zero.
MSV increases the average by only 0.7–0.8 points over Dr. Zero.
-
Adding MSV to CrossFit yields only a marginal downstream gain over CrossFit alone.
Combining it with CrossFit reaches 0.491 on Qwen3.5-4B and 0.515 on Qwen3.5-9B, only 0.3 points above CrossFit alone.
-
CrossFit's downstream advantage grows across successive self-evolution rounds rather than appearing only in a final re-ranking.
Table 5 shows that the downstream advantage of CrossFit over Dr. Zero grows from 4.2 and 4.3 points after round 2 to 8.8 and 8.4 points after round 3.
-
In the final-round audit, CrossFit raises adopted-label truth and lowers false-agreement mass at both scales.
CrossFit raises adopted-label truth from 0.747 to 0.819 at 4B and from 0.737 to 0.851 at 9B, while reducing false-agreement mass from 0.061 to 0.030 and from 0.088 to 0.037.
-
Question-level random partitioning is much weaker than source-level splitting, which also raises fixed-bank truth and accuracy.
Randomly partitioning individual questions reduces false agreement only modestly, to 0.050 at 4B and 0.062 at 9B, because questions derived from the same document can still enter both folds. In contrast, the source-ID split reduces false agreement to 0.004 and 0.001. It also raises fixed-bank solver truth from 0.687 to 0.770 at 4B and from 0.717 to 0.868 at 9B, with corresponding accuracy gains from 88.1% to 91.5% and from 87.0% to 91.7%.
-
On identical saved proposals, source-ID feedback reduces coupled false agreement, separating feedback from curriculum selection.
On identical proposals, source-ID feedback reduces coupled false agreement from 0.058/0.073 to 0.004/0.001 at 4B/9B
-
A half-budget auxiliary control matches the full source-ID result, ruling out extra auxiliary optimization as the cause.
The half-budget control reaches false-agreement mass of 0.005/0.002 and replay accuracy of 91.6%/91.8%, matching the full source-ID result.
-
In the adaptive-loop audit, CrossFit reduces false agreement much more than MSV, and the combined treatment is lowest.
MSV reduces false-agreement mass from 0.061 to 0.057 at 4B and from 0.088 to 0.072 at 9B, but agreement remains above solver truth. CrossFit produces the larger reductions, to 0.030 and 0.037, while the combined treatment reaches 0.020 and 0.017.
-
MSV is much more expensive than CrossFit, and halving CrossFit's auxiliary budget preserves most of its effect.
Relative to Dr. Zero, MSV raises the reserved budget by about 90% at both scales (379 to 719 H200-hours on Qwen3.5-4B and 476 to 903 on Qwen3.5-9B) and multiplies judge requests almost fivefold, whereas CrossFit adds 72% and 79%. Halving its auxiliary budget to 25 updates per round lowers this to 36% and 40% with nearly the same replay false-agreement mass (0.005 versus 0.004 on Qwen3.5-4B and 0.002 versus 0.001 on Qwen3.5-9B; Figure 7 ). Combining both interventions costs 2.6 and 2.7 times the Dr. Zero budget.
⑤ 审稿人视角
Novelty:Novelty is moderate. The paper does not introduce self-play, answer verification, or cross-fitting, and it says so explicitly; its contribution is the diagnosis of "co-cheating" as a distinct return path (a pseudo-label-trained solver feeding reward back into task generation) and the transfer of statistical cross-fitting to proposer feedback. The diagnostic apparatus—false-agreement mass with an evidence-backed, post-hoc auditor—is a useful conceptual addition, and the source-level split is a simple, non-obvious design choice whose necessity is demonstrated by controls (question-level splitting fails). However, the method itself is an adaptation of an established principle, and the underlying phenomenon overlaps with known reward hacking and pseudo-label confirmation bias. I would rate novelty as solid but incremental rather than a breakthrough.
Soundness:Soundness is reasonably strong. The audit is kept independent of training, admission, and reward; the four-treatment crossing isolates the two interventions; the fixed-bank replay holds proposals, labels, matcher, and evaluation fixed while varying only feedback provenance; and the controls (same-source, full-data, random question-level split, half-budget auxiliary) cleanly separate source ancestry from evaluator duplication, partitioning, task selection, and extra updates. Two model scales and round-wise results support the trajectory claim. Main weaknesses: the ground-truth reference comes from a single LLM judge, unsupported cases are unresolved and handled only through coverage accounting, there is no reported human validation at scale, no error bars or uncertainty estimates are provided, only three rounds are run, and compute comparisons are budgets including waiting time rather than accelerator utilization. These caveats temper but do not undermine the central mechanism claim.
Significance:Significance is moderate-to-high for the self-evolving agent community. Co-cheating is a practically important failure mode because self-generated curricula are increasingly used to scale search agents, and the paper gives a concrete, auditable diagnostic plus a cheaply implementable fix (source-level cross-fitted feedback). The more durable contribution may be the diagnosis and the emphasis on auditing an evaluator's training ancestry, rather than the specific method, whose downstream gains are clear but modest and whose added cost is nontrivial. For practitioners, the lesson generalizes: agreement-based rewards are trustworthy only when the evaluator did not learn from the supervision that produced the task. The work is less significant for statistical theory, since it explicitly borrows the exclusion idea without its asymptotic guarantees.
⑥ 局限与保留意见
The authors acknowledge several limits. Cross-fitting changes who supplies feedback, not what makes an answer true; source exclusion is valuable only if checkpoint ancestry and data routing enforce it. Shared pretraining, overlapping web evidence, semantically related sources, and an adaptive proposer can still induce correlated mistakes, so the auxiliary solvers are not truth oracles. A lower false-agreement mass on accepted questions can also result from rejecting difficult tasks rather than improving learning, so coverage, task difficulty, fixed-probe performance, and downstream capability must accompany that number. The results establish empirical mitigation at two model scales but do not yet establish lower end-to-end cost or robustness to connected sources. Additional limitations from a reviewer's standpoint: the audit judge is a single proprietary LLM and unresolved cases are excluded from correctness but included in coverage, leaving room for judge bias or systematic blindness; there is no reported human validation of the audit at scale; all results use only Qwen3.5-4B and Qwen3.5-9B over three rounds, so the findings may not transfer to other model families or longer curricula; no uncertainty estimates, standard errors, or multiple seeds are reported for the downstream or audit metrics; the compute-overhead table compares reserved budgets (including waiting time) rather than actual accelerator utilization; and the source-level two-fold split may be too coarse when documents are semantically or citationally connected, which the paper itself lists as an open test.
⑦ 值得跟进
Natural next steps include: (1) extending exclusion beyond identical source IDs to connected sources—shared citations, overlapping evidence, or embedding-based semantic neighborhoods—to test whether CrossFit's benefit persists; (2) measuring end-to-end efficiency in terms of actual accelerator utilization, tokens per benchmark point, and wall-clock cost, not just reserved budgets; (3) running longer curricula (more rounds) and additional model families to test whether co-cheating re-emerges or the source-level split saturates; (4) reporting uncertainty (multiple seeds, standard errors) for both audit metrics and downstream Cover-EM; (5) validating the LLM audit against human judgments on a stratified sample, including unresolved cases and rejected tasks, to bound judge bias; (6) investigating whether the reduction in false agreement partly reflects task rejection or difficulty filtering by examining coverage, admitted-task difficulty, and fixed-probe performance jointly; (7) testing adaptive fold assignment and more than two folds to balance data efficiency against exclusion; (8) applying the same ancestry-aware feedback idea to other proposer–solver systems such as Search Self-Play and SearchMaster, and to co-evolving feedback frameworks like CAFE; (9) probing the interaction between MSV and CrossFit more deeply, since pseudo-label reliability helps but is dominated by feedback provenance; and (10) seeking a theoretical condition—an orthogonal-score or independence analogue—under which cross-fitted feedback provably controls the self-reinforcing path in adaptive curricula.
SJTUHF ↑63GitHub ★4agent
EVOKE: Eliciting World Knowledge in Agents for Transferable Decision-Making
发表时间:2026-09-29
Yuhan Guo, Jinming Liu, Liang Xu, Ziqiang Li, Jianguo Huang, Zhicheng Wang, Hu Zhu, Qiuyu Chen, Yuntao Wei, Xin Jin, Wenjun Zeng
arXiv · HF 讨论 · alphaXiv
未深读 · 全文抓取或深读生成失败
① 一句话定位 (简读)
Large language models (LLMs) are increasingly deployed as agents for multi-step decision-making, yet transfer poorly to unseen environments. World-model methods address this by training agents to predict future observations, at the cost of additional training and errors that compound when predictions are used for planning. However, for LLM agents operating in digital environments, much of this world knowledge is already internalized during pretraining, which shifts the problem from acquiring it to eliciting it. We argue that typical post-training provides little pressure for such elicitation, since supervision under a single goal at each visited state inadvertently drives policies to rely on superficial contextual habits. We introduce EVOKE, a post-training method that supplies this pressure through goal diversity at fixed states. Motivated by theory showing that an agent competent across diverse goals must encode a world model recoverable from its action preferences, EVOKE holds the e
⑤ 审稿人视角 (简读)
仅依据摘要,无法可靠判断方法 soundness 与实验充分性,请以原文为准。
nvidiaHF ↑98agent
Mid-Harness: Scaling Actions Between Model and Harness for Terminal Agents
发表时间:2026-09-30
Minki Kang, Ryo Hachiuma, Shaokun Zhang, Subhashree Radhakrishnan, Yonggan Fu, Jindong Jiang, Mingjie Liu, Ehsan Hosseini-Asl, Yi Dong, Yu-Chiang Frank Wang, Byung-Kwan Lee
arXiv · HF 讨论 · alphaXiv
① 一句话定位
本文位于终端智能体(terminal agents)测试时计算扩展的研究谱系中,提出并系统评估 Mid-Harness:在模型与执行环境(harness)之间的边界处做“动作级”采样-验证扩展。与传统轨迹级 Best-of-N / Refine 不同,它每步从同一交互历史采样多个候选动作,先由验证器选出一个再交给环境执行,而生成器与 harness 完全不变。论文的贡献不在新模型或新执行器,而在于一个可插拔的动作验证框架与一组可控实验:把候选宽度、验证机制(listwise / pointwise / pairwise)与验证器能力三个因素联合研究,回答“什么时候动作级算力能提升轨迹成功率、什么让它有效”。它进一步把动作级扩展与轨迹级扩展组合,主张动作可靠性是 test-time compute 的一个新扩展轴。其性质是系统性的经验研究,而非提出新的生成架构。
② 背景与动机
大语言模型驱动的终端智能体在软件工程、数据科学、科学发现等任务中日益重要,但其可靠性受限于随机生成:同一模型与 harness 可能一次成功一次失败,因为每一步执行的命令都会改变环境,而后续决策依赖当前环境状态。一个错误命令(如装错包、改错代码)会破坏后续进度,即使模型本可以生成更好的替代动作。这引出“动作可靠性”问题:即一致地生成支持任务完成的动作。先前的测试时计算工作通过采样、验证、精炼来提升推理与智能体性能,其中也包括在执行前验证候选动作,但这些工作对“何时、为何”动作级算力能转化为轨迹成功率缺乏系统理解;更多候选的收益取决于验证质量,二者必须联合研究。轨迹级验证(Best-of-N、Sequential Refine)比较的是完整运行,需要多个环境实例;动作级验证则在单一环境实例内、执行前比较候选。本文据此提出两个必要条件:生成器是否提供有用的替代动作(候选覆盖),以及验证器能否在执行前识别它们。研究的核心 gap 是:在固定生成器与 harness 的条件下,系统刻画候选宽度、验证机制与验证器能力三者的联合效应。
③ 方法机制
Mid-Harness 的核心是把“采样多个候选动作—验证—只执行一个”嵌入到模型调用包装器中,而生成器权重与 harness 保持不变。设生成模型为 π,交互历史 h_t=(o_0,a_1,o_1,…,a_{t-1},o_{t-1}),其中 o_0 含任务指令,后续 o 含终端反馈。基础 agent 每步从 π(·|h_t) 采样并直接执行一个动作;Mid-Harness 则从同一历史采样 N 个候选 A_t=(a_t^1,…,a_t^N),由验证器 ψ 从中选出一个 a_t^⋆=Verify_ψ(h_t,A_t)∈A_t 交给 harness 执行,得到 o_t 后更新历史 h_{t+1}=(h_t,a_t^⋆,o_t),其余候选丢弃。关键细节:生成器在采样前会产生 <think> 推理(ReAct 风格),但该推理不传给验证器;验证器只看到任务、历史与候选动作本身,因此是在“执行前”评估动作。
验证机制有三种。Listwise:一次调用把整个候选集交给验证器,直接返回选择 i^⋆=ψ_list(h_t,A_t)。优点是单次调用即可直接比较全部候选;缺点随候选集增大,验证器必须在同一响应内区分并排序所有候选,即使集合中含可用动作也可能联合决策失败。Pointwise:对每个候选单独打标量分 q_i=ψ_point(h_t,a_t^i),返回 argmax_i q_i,类似过程奖励模型的步骤打分;优点是 N 个独立评估可并行,缺点是要求把目的不同的动作放在同一可比尺度上,单独看合理、但与另一候选相比较差的动作会被误判。Pairwise:在同一历史下比较两个候选,生成偏好与比较分数 J_ij=ψ_pair(h_t,a_t^i,a_t^j),再用 Aggregate 汇总得到 i^⋆;默认用“margin 加权胜率”排序并返回最高动作。其直觉是每次比较聚焦于两个候选的差异,并给验证器一个共享参照,但代价是调用更多:8 个候选全两两比较需 28 次调用。
为控制 pairwise 成本,论文采用 ring+pivot 锦标赛(沿用 Kwok et al. 的 pivot tournament)。候选先做 tool-call 可解析过滤与去重;对 N=4 比较全部无序对(最多 6 对,一个并行阶段)。对 N=8,先用 seeded shuffle 把 M 个候选排成环,相邻候选(含首尾)并行比较;ring 结束后按归一化 ring 分数排序,取 top K'=min(K,M) 作为 pivot,K=4;pivot 阶段比较每个非 pivot 与每个 pivot、以及 pivot 两两之间,A/B 朝向由 seeded random 决定,ring 已比较过的对不再重复调用。8 个不同候选、4 个 pivot 时产生 22–25 次比较。默认 pairwise 验证器输出 rationale、两个 1–10 整数分数与 A/B/TIE 偏好。每次有效比较的权重为 w_e=max(|s_{A,e}−s_{B,e}|/9, 0.1),候选 i 的聚合得分为 q_i=Σ_{e∈E_i} w_e p_{i,e} / Σ_{e∈E_i} w_e,其中 p_{i,e} 赢为 1、输为 0、平为 1/2;归一化处理不同候选参与比较次数不同的问题。分数与偏好矛盾时该响应无效;相等分数允许 A/B 偏好或 TIE;最终分数平局由 ring 分数、再由 seeded priority 打破。无效或不可用判断从分子分母同时剔除,而不是当作平局。
Decision-only 变体只输出一个 A/B token,用首输出位置 log-probability 归一化:p_{A,e}=exp(ℓ_{A,e})/(exp(ℓ_{A,e})+exp(ℓ_{B,e})),p_{B,e}=1−p_{A,e},候选 i 得分 q_i=(1/|E_i|)Σ_{e∈E_i} p_{i,e};ring 均值决定 pivot,ring–pivot 均值决定最终排名,不做 margin 加权。这近似判别式 reward model 的直接预测,省去 rationale 生成成本。
蒸馏训练细节:教师为 GPT-5.6 Sol,在 TMAX-15k 的 244 个困难任务上用 TMAX-9B 每条任务采 3 条轨迹(平均约 20 步),对中间状态的多对候选生成比较 rationale、分数与偏好标签。过滤与平衡后得到 244 个训练任务与 21 个留出分析任务,训练集 117,631 个验证器输入、分析集 10,543 个;对显示 A/B 胜者做确定性多数下采样平衡(seed 42),保留所有 TIE,最终训练集为 56,274 A、56,274 B、5,083 TIE。分析任务与训练不相交,只用于 Section 5 离线诊断,不参与 checkpoint 选择。用 LoRA 训练(rank 64、alpha 128、dropout 0.05、lr 1e-4、2 epochs、每设备 batch 8、4×H200),适配 attention、MLP 与 state-space 输入输出投影模块;LoRA 仅在验证器激活,生成器保持 Base TMAX-9B 不变。4B/27B 各用同一训练集独立蒸馏。另有 A/B-only 教师语料(113,728 训练 / 10,188 开发,平衡 A/B、剔除 TIE)用于 decision-only 训练。
推理与成本设置:生成器 temperature 0.8、最多 64 步、65,536 context、16,384 输出上限;验证器 thinking off、temperature 0、61,440 context、2,048 输出上限;部分配置把给验证器的历史截断到 8,000 字符。成本方面,POT 近似理想化解码延迟:每个 step 取生成器各候选输出长度的最大值,加上每个顺序验证阶段内各调用输出长度的最大值,POT=Σ_t[max_i c_{t,i}+Σ_s max_j v_{t,s,j}];pointwise 与 N=4 全锦标赛各是一个并行阶段,N=8 pairwise 的 ring 与 pivot 是两个顺序阶段(因 ring 决定 pivot),故最大值相加。总验证输出则直接累加所有调用输出长度。参考价格以 (0.08 I + 0.13 O)/10^6 美元计(Qwen3.5-9B 参考价)。此外,“first-runnable proxy”作为无模型验证的诊断基线:采样 N 个候选,按候选顺序执行第一个通过 tool 解析的候选,不做比较排序。
④ 实验与证据
整体实验围绕固定 TMAX 生成器与 harness 展开,先验证“候选覆盖”,再研究“验证机制与验证器能力”,最后考察与轨迹级扩展的组合及跨设置迁移。总体结论:在强验证器下,同一生成器的候选动作能支撑显著更高的轨迹成功率,证明生成器确实提供了可被利用的替代;但换成零样本自验证时,单纯加宽候选只带来微弱提升,说明瓶颈在验证而非采样。在自验证的各机制中,pairwise 明显优于 listwise 与 pointwise;把前沿验证器的 pairwise 判断蒸馏到生成器同骨架的验证器上,能在不改生成器的条件下进一步提升成功率。离线诊断显示蒸馏改善了分数校准与教师一致性,但命令语义和执行可行性仍是残余分歧的主要来源。动作扩展与轨迹级 Best-of 和 SR 可组合,且组合在更低的估计 token 成本下达到比单纯增加轨迹数更高的成功率;decision-only 验证还能进一步降低成本。跨模型规模、跨模型族、跨基准与跨 harness 的迁移实验普遍显示提升,在极难任务上也能改善本就极低的基线成功率。不确定性分析表明多数点估计有利于 Mid-Harness,但部分成对比较的置信区间包含零。
-
在固定 TMAX-9B 生成器上,用强验证器 GPT-5.6 Sol 把 Pass@1 从基础 agent 的 50.00% 提升到 68.03%,证明生成器候选中存在可被验证器利用的有用替代。
With TMAX-9B as the fixed generator on TerminalBench-Lite [ 17 ] , verification by GPT-5.6 Sol [ 18 ] raises Pass@1 from 50.00% for the base agent to 68.03%
-
零样本 listwise 自验证下,候选宽度从 N=4 翻倍到 N=8 只带来约 1.7 个百分点的 Pass@1 提升,Pass@3 也几乎不变,说明弱验证时加宽采样收益很小。
Under zero-shot listwise verification, doubling the width from N = 4 N=4 to N = 8 N=8 changes Pass@1 only from 49.32% to 51.02% and Pass@3 from 66.33% to 67.35%
-
在 N=8、生成器固定的条件下,pointwise 相对 listwise 仅小幅提升且 Pass@3 不变,而 pairwise 达到 54.76% Pass@1 和 71.43% Pass@3,是评估机制中最优者。
With the generator and N = 8 N=8 fixed, pointwise improves Pass@1 only slightly over listwise and leaves Pass@3 unchanged, while pairwise reaches 54.76% Pass@1 and 71.43% Pass@3
-
蒸馏前沿验证器的 pairwise 判断后,N=8 的 Pass@1 从 54.76% 提升到 57.14%,Pass@3 从 71.43% 提升到 75.51%,且生成器保持不变。
As shown in Figure 2 , distillation at N = 8 N=8 raises Pass@1 from 54.76% to 57.14% and Pass@3 from 71.43% to 75.51% for pairwise verification.
-
蒸馏语料来自 244 个训练任务、21 个留出分析任务,训练集约 11.8 万个验证器输入,说明蒸馏验证器建立在较大规模的前沿教师 pairwise 数据上。
After filtering and balancing, the finalized pairwise verification corpus retains 244 training tasks and 21 held-out analysis tasks, with 117,631 and 10,543 verifier inputs, respectively.
-
离线基准上,蒸馏把 pairwise 比较的分数 MAE 从 2.59 降到 1.05,把 pairwise 一致率从 59.01% 提升到 74.58%,表明蒸馏主要改善了对教师判断的校准。
On the offline benchmark, distillation reduces the score MAE of pairwise comparisons from 2.59 to 1.05 and raises pairwise agreement from 59.01% to 74.58%
-
动作扩展与轨迹扩展组合有效:Best-of-3 基线 Pass@1 为 55.10%,用零样本或蒸馏 Mid-Harness 生成这些轨迹后分别提升到 61.22% 和 66.33%。
With TMAX-9B as both generator and trajectory verifier, Best-of- T T with T = 3 T=3 reaches 55.10% Pass@1. Using zero-shot or distilled Mid-Harness to generate those runs raises Pass@1 to 61.22% and 66.33%, respectively
-
蒸馏 Mid-Harness 与 Sequential Refine 组合时,Pass@1 从基线 SR 的 55.10% 提升到 60.20%,Pass@3 从 71.43% 提升到 75.51%。
Using distilled Mid-Harness for both the source trajectories and their refinements raises Pass@1 from 55.10% with baseline SR to 60.20%, while Pass@3 rises from 71.43% to 75.51%.
-
动作扩展随模型规模迁移:4B 上零样本/蒸馏把 Pass@1 从 38.78% 提升到 41.50%/43.88%,27B 上从 71.09% 提升到 73.13%/76.19%。
At 4B, zero-shot Mid-Harness raises Pass@1 from 38.78% to 41.50%, and distillation raises it to 43.88%. At 27B, the corresponding progression is 71.09%, 73.13%, and 76.19%.
-
N=8 下 TMAX-9B 的 decision-only pairwise 验证器在 Pass@1 上超过带推理的对应版本,同时参考价格 token 成本分别降低 20.9% 和 24.1%。
At N = 8 N=8 , both TMAX-9B decision-only verifiers improve Pass@1 over their reasoning counterparts while lowering reference-priced token cost by 20.9% and 24.1% for zero-shot and distilled verification, respectively
-
跨基准迁移:在 Terminal-Bench 2.1 上,零样本验证把 TMAX-9B 的 Pass@1 从 21.72% 提升到 27.34%。
On Terminal-Bench 2.1 [ 5 ] , zero-shot verification raises TMAX-9B Pass@1 from 21.72% to 27.34%
-
在极难的 FeatureBench-Mini 上,TMAX-9B 基础 agent 仅 1.45% Pass@1,零样本与蒸馏 Mid-Harness 分别提升到 5.80% 和 7.25%,说明动作验证在基线极低时仍有增益。
FeatureBench-Mini [ 31 ] is particularly challenging for TMAX-9B: the base agent succeeds in only 1.45% of runs, yet zero-shot and distilled verification raise Pass@1 to 5.80% and 7.25%, respectively.
⑤ 审稿人视角
Novelty:新颖性中等偏上,但主要是概念化与系统性经验贡献,而非方法创新。执行前验证候选动作、过程奖励模型式步骤打分、pairwise 偏好与 pivot 锦标赛均已有相关工作,本文的 pairwise/decision-only 聚合机制也大量沿用先前方法。真正的新颖点在于:(1) 在固定生成器与 harness 的边界上干净地隔离“动作级”测试时算力,把候选宽度、验证机制与验证器能力作为联合变量研究,明确“验证决定采样收益”这一结论;(2) 用前沿验证器蒸馏到同骨架实现自验证,展示在不改生成器的条件下回收部分覆盖收益;(3) 系统刻画动作扩展与轨迹扩展的叠加关系及其成本-成功率权衡。因此应将其定位为一份澄清“何时、为何”动作扩展有效的实证研究,而不是提出突破性新算法。
Soundness:整体设计合理、披露透明:明确区分 Pass@1/Pass@3、给出精确成功判定与失败计分母规则,成本记账(POT、总验证输出、参考价格)定义清晰,离线分析使用与训练不相交的留出任务,并提供了 bootstrap 置信区间与任务组分析。主要弱点:每任务仅三次重复,统计功效有限,多个对比的 95% 置信区间包含零,因此不少增益未被任务级 bootstrap 明确分辨为正值;论文缺乏动作级 gold 标签,所谓“候选覆盖”只能通过强验证器下的轨迹成功间接推断,“验证正确性”无法直接测量;关键的强验证器结果是闭源前沿模型(GPT-5.6 Sol/Terra),可复现性与验证器质量不确定,且该结果用的是 listwise 机制,与自验证最优的 pairwise 并不完全对等;蒸馏只采用监督 LoRA,与教师仍有较大差距;decision-only 对比中作者也承认存在混淆因素(missing usage、独立 live runs)。总体而言,作为经验研究其结论谨慎、限制说明充分,但部分收益幅度相对不确定性较小。
Significance:实践意义较高:Mid-Harness 是生成器无关、harness 不变的轻量干预,可直接插在模型调用包装层,且跨模型规模、模型族、基准与 harness 均观察到增益;pairwise 机制与蒸馏验证器是可直接采纳的设计选择;“动作+轨迹”组合在更低 token 成本下达到更高成功率,对终端 agent 的部署成本有直接启示。概念意义在于把动作可靠性拆解为“候选覆盖”与“验证识别”两个条件,并指出自验证瓶颈在验证而非采样,这为后续研究提供了清晰靶点。不过,自验证的绝对增益幅度不算大,且距离前沿验证器仍有明显差距,因此其意义更多是确立动作级扩展这一轴的有效性与研究议程,而非给出接近上限的解决方案。
⑥ 局限与保留意见
作者明确承认的局限:蒸馏验证器与前沿验证器之间仍有较大差距(自验证 Pass@1 明显低于 GPT-5.6 Sol 验证),监督蒸馏未能解决如何逼近该上界;离线分析表明命令语义与执行可行性仍是主要失败源,且后期轮次的教师一致性更低;评估缺乏 gold 动作标签,无法直接度量验证正确性、候选覆盖与“完美验证”可达的轨迹成功率,数学推理有步骤级标注,但终端动作需要结合其对环境的影响才能标注;在线比较需要新环境运行,无法用固定轨迹集合复评不同验证器,分支中间状态可支持 beam/tree 搜索但需要环境克隆或恢复;研究固定了生成器的推理设置,未与“单候选增强推理”做同成本比较;所有配置都每步采样验证,缺乏自适应地在步骤间分配宽度的方案;decision-only 在 4B/27B 上 Pass@1 低于带推理版本,省成本伴随性能权衡。其他可指出的局限:每任务仅三次重复使若干对比的置信区间包含零,增益的统计稳健性有限;强验证器依赖闭源前沿模型,影响可复现性与长期可验证性;成本核算使用代理价格,并非真实本地服务成本;研究以 terminal agent 与 TMAX 系监督蒸馏为主,向其他智能体形态的泛化尚待验证。
⑦ 值得跟进
后续方向包括:(1) 用强化学习(如 V1 式生成器-验证器联合训练)替代纯监督蒸馏,使验证器适应生成器不断变化的动作分布,缩小与前沿验证器的差距;(2) 用世界模型预测命令在当前环境中的执行效果,改善对“命令语义”与“执行可行性”的判断;(3) 建立带环境效应标注的动作 gold 标签,直接测量验证正确性与候选覆盖,并从中间状态分支实现更丰富的离线评估与 tree/beam 搜索;(4) 自适应动作扩展,根据步骤难度动态分配候选宽度与比较努力,降低“每步都全量验证”的成本;(5) 发展单 token 或分类头的 decision-only 验证器,在保持或接近性能的同时压缩解码开销,并更干净地隔离响应格式的影响;(6) 与可控推理强度的生成器做同成本对比,检验“多候选验证”与“单候选深推理”是否互补;(7) 把 Mid-Harness 推广到 computer use、robotics 等非终端智能体,并研究验证器如何表示任务进度、未解决需求与长历史中的相关信息。
SciAILabHF ↑24GitHub ★4agent
OSWorld-Science: A Benchmark of Computer Use Agents for Learning and Using Scientific Software
发表时间:2026-09-30
Dingyuan Dai, Heli Qi, Lei Liu, Yinxi Li, Baiding Chen, Zijun Dou, Qingcheng Zeng, Qi Kang, Oliver Sun, Eric Wang, Bo Zhou, Haixin Wang, Yufan Du, Shi Bo, Ruihan Lin, Mengqi Yuan, Dunjie Lu, Steven Dillmann, Yiming Shi, Tina Su, Amy Xin, Minghao Liu, Xi Wang, Xu Huang, Ge Zhang, Pengyu Nie, Zhen Yang, Jie Tang, Juanzi Li, Weihao Xuan, Tianyu Liu
arXiv · HF 讨论 · alphaXiv
① 一句话定位
本文定位为科学软件计算机使用智能体(CUA)的基准与评测环境。它不研究通用桌面/网页操作,也不研究只调用领域工具的文献或实验智能体,而是把“在真实专业科学软件中完成可验证科学工作流”作为评测对象。与 OSWorld 等通用 CUA 基准相比,其任务由领域专家按科学重要性与难度筛选;与 ScienceBoard、Terminal-Bench-Science 等科学基准相比,它强调异构产物(分子结构、分割掩膜、图、数值结果)的统一执行式评分,并把 agent harness 本身作为受控变量进行消融。因此它填补的是“科学问题重要性 + 异构产物验证 + harness 设计”三者结合的空缺,属于互补性、整合性贡献而非全新范式。
② 背景与动机
背景分三层。第一层是计算机使用智能体(CUA)基准:WebArena 提供可复现网站与功能评估,VisualWebArena 增加需要图文联合理解的可视化任务;OSWorld 把评估扩展到完整操作系统,覆盖桌面应用、文件操作与跨应用工作流,并用执行式评分器;Windows Agent Arena 与 AndroidWorld 分别扩展到真实 Windows 与移动端动态任务;OSWorld-MCP 进一步研究 GUI 动作与结构化工具之间的选择,显示交互层与 harness 本身就是实验变量。这些基准的共同点是面向通用桌面/网页/移动任务,不专门考察科学挑战。第二层是科学发现智能体:PaperQA 做全文文献检索与证据综合,ChemCrow 集成化学工具做合成、药物发现与材料任务,Coscientist 把语言模型与文档搜索、代码执行、实验室自动化耦合,The AI Scientist 探索想法生成、实验、分析与论文写作的开环自动化。它们证明领域知识与外部工具的价值,但评测通常绑定特定 agent 架构、领域或工具集,并不直接测“操作专业科学软件”的能力。第三层是科学智能体基准:ScienceBoard 提供专业科学应用上的多模态桌面环境与人工工作流;Terminal-Bench-Science 用专家贡献的终端研究任务与可复现测试检验命令行智能体;SciAgentArena 评测多步跨领域挑战;LogicVista 评测 VLM 的科学推理。这些工作确立了真实科学环境的重要性,但未能围绕“科学家自己认为重要且困难的问题”构建任务,也难以统一评测分子结构、图、统计结果等异构输出,更未系统回答“性能多大程度来自 harness 而非骨干模型”。OSWorld-Science 正是补这三块。
③ 方法机制
机制上,OSWorld-Science 由三条主线构成:专家驱动的任务构建、面向异构产物的执行式评分、以及把 harness 作为可调对象的运行框架。
任务构建。任务来自领域专家提案,并经过人机协同的迭代设计与筛选;筛选依据不是“模型能否做”,而是“科学价值与难度”,即科学家认为重要且困难的问题。由此得到的任务覆盖化学、物理、医学、统计、生物、地理信息、语言学等领域,以及多种专业软件配置(病理图像、分子绘制与逆合成、统计计算、CFD、GIS、天文、EEG、语音等)。每个任务注释同时刻画所需操作模板(文档抽取与表格分析、分子推理与绘制、病理与放射检查、仿真与统计、GIS 数字化、声音/EEG 分析等)以及交互原语(截图观察、点击、文本输入、绘图、CLI)。
形式化。任务被定义为目标条件部分可观测马尔可夫决策过程(POMDP):M=(S,O,A,T,Ω,r,γ,ρ0,G,p_g)。S 是完整环境状态,包含 OS 状态、应用内部状态、已加载科学数据、中间分析结果与任务产物;O 是智能体可获得的观察,包括指令、应用截图、可访问树、可见数值等;A 是可执行动作空间,包括鼠标点击、键盘、拖拽、菜单导航、快捷键以及软件支持的 CLI 命令。T:S×A→S 是转移函数,Ω:S→O 是观测函数,r:S×A×G→[0,1] 度量结果满足目标的程度。策略在每一步依据目标与历史产出动作,交互持续到智能体发出终止动作(DONE/FAIL)或达到步数上限(VOID)。
评分与产物验证。最终奖励为 R(τ,g)=E_g(s_T,F_T)∈[0,1],其中 E_g 是目标专属执行式评分器,直接检查终止时的环境状态与输出产物集合 F_T。评分归一化到 0–1,1 表示全部科学要求满足,中间值表示按任务标准的部分完成,0 表示未达成。两类评分规则:对单一确定解的问题(如分子结构绘制、地图目标计数)做精确匹配,并可按步骤给部分分;对仿真/回归/天体物理参数类问题,按模型输出与真值参数之间的误差是否落入阈值区间判定成功。这使分子结构、分割掩膜、图、数值结果等异构产物能在同一框架下可比。部分任务的评分还细分门控(例如 CFD 结果依次检查格式与有效位数、固定点重启、感兴趣量收敛、以及防捷径检查),形成更细的部分分。
Harness。除 Kimi-K3 因工具适配要求采用官方设计外,其余模型统一运行在作者修改的 mmagent 上。harness 新增/强化三类组件:模型适配器(VLM adapter)、交互循环控制器(loop controller)与用户交互平台,并记录完整轨迹用于细粒度错误分析。改进的目标是“不改模型、只改 harness”层面的适配与效率提升;轨迹分析与错误标注被用于校正 harness,例如坐标帧、截图窗口、终止策略等。闭环结构是:专家定义科学目标 → 智能体在真实软件中执行 GUI/CLI 动作 → 执行式评分器检验产物 → 轨迹分析反馈 harness 设计。
训练与数据细节。本文不训练任何模型,所有结论来自对现成 VLM 在统一环境中的执行。“数据”来自任务注释(操作模板、能力需求、评分细则)与运行轨迹(动作序列、叙述、思考 token、GUI/CLI 步数占比、重复回复、失败原因)。消融通过改变推理努力档位、截图历史窗口长度与提示语言实现,单格单次运行;轨迹分析按“是否交付产物、产物正确/错误/无效、是否耗尽预算”等维度标注。具体任务规模、领域与软件分布见实验部分。
④ 实验与证据
实验部分先给出基准的领域与软件分布,再在多个前沿闭源与开源 VLM 上以统一 harness 运行,报告总体分数与单任务成本关系、领域难度与排名变化,以及对全部轨迹的失败类别分析。随后在 QuPath 医学子集上对推理努力档位、截图历史窗口长度和提示语言做单次运行消融,并配合化学、病理、NMR 等领域的成败轨迹案例。整体结论是:最强模型也远未解决最难的科研工作流,且相当一部分失败来自交互层、坐标帧、软件前置条件等 harness 因素,而非单纯的科学推理能力。
-
发布的基准包含 146 个任务,横跨七个科学领域与 14 种软件配置,构成一个多领域、多应用的真实软件评测集。
The current OSWorld-Science task set contains 146 tasks spanning seven scientific domains and 14 recorded software configurations (Figures 2 and 21 ).
-
化学、物理、医学、统计任务占绝大多数,地理信息与语言学任务很少,因此报告聚合与领域宏平均两种性能是必要的。
Chemistry contributes the largest share with 43 tasks (29.5%), followed by physics with 31 (21.2%), medicine with 26 (17.8%), statistics with 20 (13.7%), biology with 18 (12.3%), geographic information with 6 (4.1%), and linguistics with 2 (1.4%).
-
QuPath、ChemDraw/ASKCOS 与 SAS/R 四个配置合计占任务总量的一半以上,评测在少数软件栈上高度集中。
QuPath ( Bankhead et al., 2017 ) accounts for 23 tasks (15.8%), ChemDraw ( Evans, 2014 ) and ASKCOS ( Tu et al., 2025 ) for 21 each (14.4% each), and SAS/R ( SAS Institute Inc., n.d. ; R Core Team, n.d. ) for 20 (13.7%); together, these four configurations comprise 85 tasks (58.2%).
-
所有任务都要求截图观察,点击与文本输入近乎普遍,绘图较不常见;大多数任务提供 CLI,少数为纯 GUI。
Under the benchmark’s visual-observation protocol, all 146 tasks require screenshot-based observation of the scientific application state; explicit screenshot capture is separately listed in the operation annotations for 21 tasks (14.4%). Click operations appear in 124 tasks (84.9%), text entry in 101 (69.2%), drawing in 21 (14.4%). These capability counts are non-exclusive because a task may require several primitives. CLI access is supported for 122 tasks (83.6%), whereas 24 tasks (16.4%) are GUI-only under the recorded configurations.
-
最强的闭源 VLM 以中等单任务成本取得最高平均分,并明显领先于价格相近的另两个头部模型。
Claude Fable 5.1 achieves the highest mean score, 73.7%, at $6.5 per task, compared with 57.9% at $6.7 for Claude Opus 5 and 57.4% at $7.7 for GPT-6 Astra.
-
一个低成本模型以远低于两个高价模型的成本逼近其分数,显示相近能力水平下存在巨大成本差距。
GPT-5.6 luna reaches 22.6% at $0.23 per task, close to Claude Sonnet 5 (26.3% at $3.6) and Kimi K3 (30.2% at $11.7), whose costs are approximately 16 and 51 times higher, respectively.
-
化学领域显著更困难,多数模型接近零分,只有两个头部模型进入低到中四十分区间。
Chemistry is much harder: Fable 5.1 and Opus 5 lead at approximately 44% and 39%, GPT-5.6 sol reaches 20%, and eight models score approximately 6% or less.
-
在已发布运行中,未获满分的运行多数没有产生可评分产物,且其中大多数耗尽交互预算。
Only 402 runs (26.3%) receive full credit. Of the other 1,100 runs (excluding 20 harness-ended and 8 unresolved runs), 667 (60.6%) end without the graded artifact, against 400 with wrong content and 33 with an invalid one, and 613 of the 667 exhaust their budget.
-
对 Opus 5 在 QuPath 上,推理努力从中档提到最高档能提升平均分,但只有较高档位才新增完全解出的任务。
Opus 5 rises from 44.1% (medium) to 59.7% (max), but only high and max add fully solved tasks (binary 34.8% at low, medium, and xhigh; 43.5% at high; 52.2% at max): from medium to max, eight tasks improve, five regress, and ten are unchanged, eight of which score the same at every effort level.
-
Sonnet 5 对推理努力不呈单调收益,在 high 档达到峰值,到 max 档反而下降。
Sonnet 5 is non-monotone and never exceeds 22.0%, which it reaches at high rather than at max effort (18.3%).
-
扩大截图历史窗口能缩短轨迹、减少输出 token 并提高分数,但约十张之后收益消失。
The window acts on the number of steps at a constant price per step: the mean trajectory shortens from 52 steps at w = 1 w=1 to 22 at w = 10 w=10 , so output tokens fall from 25k to 11k for the same reason and the score rises from 35.2% to 57.0%.
-
提示语言主要改变交互风格与工作语言;两个骨干都在日语提示下得分最高,在中文提示下低于英文。
Both backbones score highest with Japanese prompts and below English with Chinese ones
⑤ 审稿人视角
Novelty:单一元素(科学 CUA 基准、执行式评分、harness 消融)都不全新,ScienceBoard、Terminal-Bench-Science、OSWorld-MCP 已有部分。本工作的新意在于组合与定位:以“科学家认为重要且困难”作为任务筛选原则,用统一的 E_g(s_T,F_T) 执行式评分跨学科处理分子结构、掩膜、图与数值结果,并把 harness 作为受控实验变量(推理努力、历史窗口、提示语言)系统消融。因此属于“互补性、整合性”创新,而非全新范式。
Soundness:设计层面较扎实:真实软件、执行式评分、部分分、状态与产物直接检验、轨迹细粒度分析,POMDP 形式化清晰。主要问题在证据强度:消融为单次运行、无方差估计、轨迹原因采用事后单标签归因,跨模型条件不完全一致(Kimi 官方 loop、Qwen 分辨率缩放、部分任务前置条件差异),闭源模型不可复现。整体 soundness 中等偏上:结论方向可信,但细颗粒数字与因果断言应谨慎。
Significance:对新兴的“科学软件 CUA”方向有较高实用价值:提供可复现环境、跨领域评分协议与 harness 教训(坐标帧校验、历史窗口、前提条件确认、正交验证),可直接指导后续系统与基准设计。局限在于领域覆盖不均与闭源依赖,作为“通用科学 CUA 能力”的证据尚不充分,但作为该方向的测试床与问题清单很有意义。
⑥ 局限与保留意见
局限:(1) 领域与软件覆盖不均:化学/物理/医学/统计占绝大多数,地理信息与语言学任务极少,结论未必外推到冷门领域;且四个软件配置占过半任务,单软件效应与领域效应混杂。(2) 统计证据弱:消融与轨迹分析多为每个模型-任务单次运行,论文反复声明“没有方差估计”;小样本下很多排名与相关(叙述/思考占比、GUI 份额)不可靠。(3) 模型集有限且多为闭源:只测 12 个 VLM,部分闭源模型版本、定价与 token 记账不可复现;Kimi-K3 使用厂商官方 loop、Qwen-CUA 截图分辨率不同,跨模型比较不完全同构。(4) 失败原因标注是事后单一主因,坐标帧判定是“推断”,可能遗漏多因交互;trajectory 分析中与软件相关的结论受任务集合影响。(5) 部分任务把软件前置条件(安装扩展、接受许可、注册)与科学能力混在一起,虽然文章据此做了 harness 教训总结,但评分上会把安装/许可失败计为零,低估科学能力本身。(6) 坐标帧、文件写入、JSON 生成等交互层故障大量出现,说明 harness 与基准的工程稳定性还有问题,可能使部分分数反映的是接口鲁棒性而非科学操作能力。(7) 成本比较依赖 API 价格与输出 token 统计,不能当作稳定效率度量;闭源模型内部机制不透明,无法归因推理努力与上下文长度。(8) 评分细则中部分 0–1 的部分分规则与容差是任务特定的,跨领域可比性依赖归一化假设。
⑦ 值得跟进
跟进方向:(1) 扩充任务与领域,平衡样本量并做多次重复以提供方差与置信区间,把单次运行消融升级为重复设计。(2) 统一并标准化 harness 的坐标帧、截图分辨率、截图历史、终止协议与 CLI 返回,消除跨模型不可比因素;增加点击坐标自动校验/重缩放与文件写入校验。(3) 把软件前置条件(依赖安装、许可、注册)移到 staging 或作为独立门控,分离“科学能力”与“软件操作前提”的评分。(4) 增加开源权重模型与可控推理参数,便于归因推理努力、上下文长度与 harness 组件。(5) 研究更细的失败因果与多因标注,开发可回放的轨迹分析工具,并测量叙述/思考/GUI 份额的因果而非相关效应。(6) 对立体化学等“自洽但不独立”的验证问题,设计正交验证提示与外部参考(wedge/hash 几何、CIP 标签直接对照源数据),并让智能体显式维护每个手性中心的不确定性。(7) 拓展异构产物评测:统一分子、掩膜、图、数值的评分协议,支持多模态产物与可复现性检查(如 OpenFOAM 的四门控思路可推广)。(8) 研究 GUI/CLI 混合策略与结构化工具调用的最优组合,把 harness 本身作为可学习/可搜索的配置变量。
amathislabHF ↑30GitHub ★6其他
TERRA: Terrain-Aware Reconstruction, Retargeting and Control for Musculoskeletal Locomotion
发表时间:2026-09-29
Merkourios Simos, Chengkun Li, Bianca Ziliotto, Alexander Mathis
arXiv · HF 讨论 · alphaXiv
① 一句话定位
本文处于三维地形重建、运动重定向与肌肉骨骼强化学习三者的交叉点。它针对肌肉骨骼模仿学习长期局限于平地的问题,提出 TERRA:一条从“无场景运动数据”到“非平地肌肉驱动控制”的端到端流水线。其定位有两点:一是把 OmniRetarget 所依赖的场景几何变成可推断的上游输出,即从纯运动学轨迹恢复任务相关支撑地形;二是在重定向中为肌肉骨骼体加入解剖、肌腱连续与地形交互约束,并据此训练单一参考条件控制器。与 SceneBot/TIP 相比,TERRA 使用显式地形先验并直接对照真值度量几何误差;与 MuscleMimic/Kinesis 相比,TERRA 把肌肉骨骼模仿从平地扩展到斜坡、楼梯、平台与座椅。
② 背景与动机
动机:人类在斜坡、台阶、座椅等可负担地形上需要协调数百块肌肉,理解这种控制既是神经科学的核心问题,也是人形机器人的实用问题。物理肌肉骨骼模型配合强化学习能从肌肉级控制产生运动;早期任务驱动方法只生成走、跑等单一技能,近期大规模动捕与运动模仿学到可复用技能库,但这些技能库几乎完全局限在平地。
两个障碍:其一,现有动捕数据集很少提供对齐的地形几何;其二,把人类运动转移到复杂肌肉骨骼体不止是匹配关节位姿,还需要保持接触、避免穿透/滑步/悬空,并满足解剖关节与肌腱长度限制,非平地交互会放大这些误差,使参考运动不可行(Table I)。
相关工作分三条线。(i) 运动条件地形重建:TIP 联合估计惯性运动与局部地形高度场;SceneBot 放置并合并常高度地形块,但只用下游跟踪评价、且代码未公开;TERRA 对显式地形先验(平台、楼梯、斜坡、座椅)做结构化推断,并对照真值度量几何。(ii) 运动重定向:GMR 做关键点优化;OmniRetarget 用共享身体-场景交互网格保持与物体/地形的交互,但假设已有场景几何;TERRA 解决互补的上游问题,并扩展交互网格加入目标特异的解剖与地形交互项。(iii) 肌肉骨骼控制:高效探索与多任务控制使接触丰富的肌肉骨骼体可用于学习控制,运动模仿使通用策略成为可能,但基本限于平地;TERRA 在重建地形上训练单一肌肉驱动策略,把模仿扩展到三维非平地运动。Table I 对比显示 TERRA 在运动学约束、地形重建、地形重定向与肌肉骨骼控制四个维度上同时覆盖。
③ 方法机制
**模型与数据端**:肌肉骨骼模型采用禁用手指的 MyoFullBody(来自 MuscleMimic),含 354 个 Hill 型肌腱执行器、83 个 MuJoCo 关节(1 个浮动根 + 82 个标量关节)、49 个主动多项式耦合(腰、肩肱、膝)。用 K=17 个 SMPL-H 标志点(骨盆、脊柱、头,双侧髋/膝/踝/趾,双侧肩/肘/腕)与 MyoFullBody 体原点配对;在中性位姿下优化 SMPL-H 形状系数与全局尺度并施加残差位置偏移。脚、大腿、小腿、后骨盆用胶囊与椭球碰撞几何。
**地形重建**:先验为四类静态 MuJoCo 盒几何——独立支撑盒、斜坡(带斜面顶面的盒)、楼梯(有序水平盒)、座椅。重建由三股证据驱动:踝/趾标志点的低速、低高度静止区间提供“正表面证据”;其余身体轨迹提供“自由空间证据”以限制可容几何;足朝向与摆腿间隙用于区分离散平面与连续斜坡。
支撑提取与校准:对每个踝/趾 j,候选静止区间 e 要求标志点速度低于 v_s;保留条件(1)为区间长度 ≥ n_min、中位高度 ≤ 局部时间窗内最小高度 + ε_loc;与检测到的座椅区间重叠的候选被排除。表面高度 ĥ_e = 中位高度 − 关节偏移 o_j,偏移来自主体匹配的平地参考或自校准。水平分簇:对 ĥ_e 排序,相邻差 > 4 cm 开新层,跨度 > 8 cm 的组在最大内部间隙处递归二分;层高先按单个标志点平均、再跨标志点平均。
连续 vs 离散:把静止区间中位水平位置投影到第一主方向 u(朝向高度增加方向),拟合平-坡-平剖面(2) h(u)=h0+s[clip(u,u0,u1)−u0]。令 θ_t 为踝-趾俯仰角、θ_ℓ^0 为足 ℓ 的中性值、γ_t 为足朝向与坡向夹角。对每个区间内取中位再跨区间取中位,计算(3)的 E_flat(离散假设:|θ_t−θ_ℓ^0|)与 E_ramp(斜坡假设:|θ_t−θ_ℓ^0−arctan(s cosγ_t)|),误差小者决定表面类型。直觉是:离散台阶要求摆动脚先抬升后下降,斜坡上摆动脚近似沿坡面线性爬升。若 |E_flat−E_ramp| ≤ 2°,则用摆腿间隙分数判别:接近线性高度过渡判为斜坡,提前上升或延迟下降判为离散面。2° 模糊带约对应 20 cm 足弦上 7 mm 端点不确定,摆腿线索须超过支撑层变化的 5% 才生效。
离散几何与座椅:≥3 个升高层时构造楼梯候选(公共水平轴、宽度、拟合踏步高),同时构造独立盒候选;每层 yaw 对齐其水平接触点主方向,同层空间分离的接触拆成不同盒;接触包络加足尺寸边距,再按自由空间轨迹裁剪;若踏步在每个升高静止足 5 cm 内且无其他身体标志穿透超过 5 cm 则选楼梯,否则用独立盒。座椅检测:骨盆速度 <0.15 m/s 持续 ≥0.4 s,其中位水平位置距脚/触地肢体凸包 ≥0.10 m;椅面取拟合 SMPL-H 后骨盆/髋表面第 10 百分位高度在首/中/末帧的中位数;高度范围 0.04–0.60 m。
**地形感知重定向**:扩展 OmniRetarget 交互网格。源标志 x_{i,t} 对应目标位置 p_i(q),S 为重建场景采样点(盒顶间距 ≤0.20 m,加上去除盒足迹后的粗地面网格)。顶点矩阵(4)拼接标志点与场景点;Delaunay 四面体化定义邻域与均匀拉普拉斯;目标(5) E_mesh=||L_t V_t(q)−L_t Ṽ_t||_F²,即保持标志点-场景相对拓扑的仿射结构。
TERRA 残差:校准朝向残差 r_i^R=Log(R_i^src R_i(q)^⊤) 匹配骨盆与双侧髋、膝位点的源/目标旋转;站姿期把每个跟骨的 xy 位置锚定在触地锚点 a_i;踝趾位移项惩罚帧间水平运动与超过 0.25 m/s 的运动;单侧残差 [d_min−d(q)]₊ 保持左右腿碰撞体间隔、[h_t*−h_sole(q)]₊ 保持摆动脚底间隙;近地形面时给踝趾加至多 0.06 m 的抬升;校准鞋底偏移对齐源标志与机器人接触面;座椅休息期用有符号距离残差把后骨盆碰撞体拉到重建椅面。
SQP:每帧 t 第 n 次迭代求 Δq∈R^89(3 个根平移 + 单位四元数 + 82 个关节)。目标(6)由四项组成:线性化的交互网格残差 w_L||r_L+J_L Δq||²;与上一帧解的时间平滑 ||Δq−d_t||_W²,其中 d_t=q_{t−1}*−q_t^(n);绝对躯干角惩罚 ||q_t^(n)+Δq||_Q²;活跃 TERRA 残差 Σ w_m||J_m Δq−e_{m,t}||²。约束方面,对活跃机器人-环境几何对 a,裁剪分离距离 φ̄_a=max{φ_a,−(ε_pen+ρ)},并要求 φ̄_a+J_{φ,a}Δq ≥ −ε_pen;Δq 落在关节界 ∩ 信任球 ηB_2 内。ε_pen=0.9 mm、ρ=10 mm/迭代,使深穿透每次最多请求 10 mm 修正,避免子问题任意放大。每次求解后根四元数径向投影到单位 3-球面。使用 Clarabel,CVXPY 精简形式作数值后备。暖启动:首帧复制 30 份随后丢弃;首帧信任半径 1.0、至多 50 次迭代,后续帧半径 0.2、至多 10 次迭代;优化后对短碰撞异常与肌腱不连续做有界插值修复。
**策略训练与生理评估**:观测包括关节位置/速度、根高度、投影重力、航向系根速度、肌肉指令与激活状态、四个足趾触觉、以及以骨盆为中心航向对齐的 11×11 高度图(0.1 m 间距)。单步目标编码航向系根与模仿位点在位置/朝向/速度上的误差,位点位置与速度相对骨盆;未来目标在 0.2/0.4/0.6/0.8 s 提供根运动与骨盆相对位点位置(不含运动相位)。PPO 在 MJX–Warp 上训练,actor/critic 为层归一化门控残差 MLP;8192 个并行环境、100 Hz 控制频率、每动作 5 个 2 ms 物理步;自适应运动采样提高难样本采样概率。奖励为全身位姿与速度跟踪 + 骨盆相对上身位置 + 终点质量奖励;小惩罚抑制出界与动作突变;肌肉活动正则抑制过度激活同时防止肌肉单元静默。终止条件为全局或核心上身平均位点误差 >0.15 m,或根朝向误差 >1 rad;每策略训练 40 亿步。数据端:五数据集共 9.4 小时非平地运动(993 个 AMASS-terrain、31 个 PRISM、3476 个 Gait、1282 个 Darmstadt、716 个 Vielemeyer),策略实验另加入 595 个 Gait 平地步态与 975 个 AMASS 平地片段。生理评估对完成步态与实测轨迹分别做 min-max 归一化,比较垂直 GRF 与三条代表性肌肉的波形形状。
④ 实验与证据
实验在五个动捕数据集上展开:大规模 AMASS 非平地子集、带真值网格的 PRISM,以及三个带已知地形的生物力学数据集(Gait、Darmstadt、Vielemeyer)。重建部分与接触最小二乘、Voronoi 两个基线比较,并消融足朝向/摆腿间隙物理线索;指标包括地形族准确率、斜坡坡度、台阶 riser、座椅高度误差,以及 PRISM 上的支撑高度、覆盖率与 IoU;还测试了噪声、支撑区间移除与阈值扰动。重定向部分与 OmniRetarget、GMR、MM-MoCap-Body 以及 TERRA 无残差、TERRA+Voronoi 变体比较,考察肌腱不连续、自碰撞、环境穿透、滑步、悬空与接触 F1。下游跟踪用同一 PPO 设置对每种方法的重定向参考训练策略,在按主体划分的 held-out 集合上报告成功率与 MPJPE,并按地形族细分。生理部分对策略与人类记录的 EMG、垂直 GRF 做 min-max 归一化的波形形状比较。总体结论:TERRA 在地形分类与几何重建上显著优于基线,物理线索消融显示其必要性,对噪声和阈值扰动稳健但对支撑移除较敏感;重定向五项违规全面最低、接触保持最高;下游完成率最高,但跟踪精度在部分地形族上存在折中;生理波形与人类既相似又有错位。具体数值见 experiments。
-
TERRA 在 5474 个已知地形片段上达到 99.9% 的地形族准确率,同时楼梯高度为亚厘米级、斜坡坡度为亚度级,且所有地形类别优于两个基线。
Overall, TERRA achieved 99.9% terrain-family accuracy, successfully classifying ramps from stairs across datasets and conditions. Importantly, this classification accuracy was paired with strong reconstruction fidelity, namely sub-centimeter stair height accuracy, and sub-degree ramp accuracy, while outperforming baselines on all terrain categories (Table II ).
-
移除足朝向与摆腿间隙物理线索后,族准确率降至 73.5%,说明这两条线索对地形先验选择起关键作用。
Removing the foot-orientation and swing-clearance cues reduced family accuracy to 73.5%, while having little effect on other metrics (performance is identical to TERRA for Tables II b,c and thus not shown).
-
按主体聚簇的 95% 置信区间为 99.853–99.982%,共 144 个数据集-主体簇。
The subject-clustered 95% CI for pooled family accuracy was 99.853–99.982% (144 dataset–subject clusters).
-
不同坡度(7.5°/10°)下斜坡坡度 MAE 约 0.544°/0.529°,不同台阶高度(100/170/240 mm)下 riser MAE 为 7.36/4.34/3.61 mm。
Across independent captures, grade MAE was 0.544 ∘ /0.529 ∘ at 7.5 ∘ /10 ∘ , and riser MAE was 7.36/4.34/3.61 mm at 100/170/240 mm.
-
标记噪声下总体族准确率从 2 mm 时的 99.91% 逐步降至 10 mm 时的 97.06%,主要退化来自斜坡(95.78%)与楼梯(96.52%)。
Noise 2 mm | 100.00 | 99.98 | 99.81 | 100.00 | 99.91
Noise 5 mm | 100.00 | 99.75 | 99.10 | 100.00 | 99.51
Noise 10 mm | 99.59 | 95.78 | 96.52 | 99.96 | 97.06
-
支撑区间移除导致渐进退化:移除 30% 时总体准确率 90.04%,凳子最低(70.36%),平地与楼梯相对稳健。
Support − 10 % -10\% | 100.00 | 98.76 | 99.61 | 89.46 | 97.30
Support − 20 % -20\% | 100.00 | 96.64 | 98.96 | 79.84 | 94.40
Support − 30 % -30\% | 100.00 | 91.18 | 97.42 | 70.36 | 90.04
-
在 31 个 PRISM 静态地形动作上全部重建成功,foot/seat/观测支撑高度 MAE 为 12.95/11.16/12.20 mm,平坦区域覆盖 98.0%、IoU 47.3%,优于两个基线。
TERRA | 31/31 | 12.95 ± \bm{\pm} 6.56 | 11.16 ± \bm{\pm} 5.93 | 12.20 ± \bm{\pm} 6.36 | 90.8 ± \pm 12.4 | 98.0 ± \bm{\pm} 0.6 | 47.3 ± \bm{\pm} 5.5
-
在 993 个 AMASS 非平地动作上全部成功,接触高度 MAE 10.24 mm、一致性 97.1%、穿透/悬空率 0.7%/2.2%、raised F1 93.9%,明显优于两个基线。
TERRA | 993/993 | 10.24 ± \bm{\pm} 9.21 | 97.1 | 0.7 / 2.2 | 98.6 / 89.7 / 93.9 | 9.01 ± \bm{\pm} 7.46 | 0.077 ± \pm 0.444
-
TERRA 的残差项把接触 F1 从 88.49% 提升到 93.80%,同时五项违规全部下降,其中地形穿透从 33.45% 降到 0.16%。
TERRA's residual optimization terms raised contact-timing F1 from 88.49% to 93.80% while lowering all five violation metrics—especially terrain penetration, which dropped from 33.45% to 0.16%.
-
TERRA 在 6498 个重定向输入上全部成功,肌腱不连续 0.026%、自碰撞 0.52%、环境穿透 0.16%、滑步 1.80%、悬空 1.02%,接触 F1 93.80%,下游成功率 87.59%、MPJPE 74.47 mm。
TERRA | 6498/6498 | 0.026 ± \bm{\pm} 0.185 | 0.52 ± \bm{\pm} 1.34 | 0.16 ± \bm{\pm} 2.46 | 1.80 ± \bm{\pm} 1.87 | 1.02 ± \bm{\pm} 3.75 | 93.80 ± \bm{\pm} 4.06 | 87.59 ± \bm{\pm} 0.18 | 74.47 ± \pm 1.51
-
按地形族,TERRA 在平地、斜坡、箱体、座椅上成功率最高(91.70/99.49/46.45/89.32%),楼梯上 TERRA+Voronoi 最高(85.01%)。
Flat (262) | 88.07 ± \pm 0.62 | 91.09 ± \pm 0.75 | 91.70 ± \bm{\pm} 0.46
Ramp (286) | 98.09 ± \pm 0.08 | 89.18 ± \pm 1.06 | 99.49 ± \bm{\pm} 0.18
Stairs (422) | 74.14 ± \pm 3.49 | 85.01 ± \bm{\pm} 0.24 | 81.90 ± \pm 1.73
Boxes (61) | 38.91 ± \pm 4.64 | 39.45 ± \pm 0.19 | 46.45 ± \bm{\pm} 4.45
Seats (246) | 72.11 ± \pm 0.61 | 70.19 ± \pm 0.38 | 89.32 ± \bm{\pm} 0.82
-
按地形族 MPJPE,TERRA 在平地、斜坡、箱体最低(70.01/66.74/82.50 mm),楼梯与座椅上 TERRA+Voronoi 最低(66.65/83.09 mm)。
Flat (262) | 82.42 ± \pm 3.13 | 69.97 ± \bm{\pm} 1.57 | 70.01 ± \pm 2.55
Ramp (286) | 75.82 ± \pm 3.36 | 67.83 ± \pm 1.02 | 66.74 ± \bm{\pm} 2.92
Stairs (422) | 85.18 ± \pm 3.06 | 66.65 ± \bm{\pm} 1.12 | 69.50 ± \pm 2.57
Boxes (61) | 94.02 ± \pm 2.26 | 85.25 ± \pm 0.55 | 82.50 ± \bm{\pm} 0.77
Seats (246) | 107.45 ± \pm 2.48 | 83.09 ± \bm{\pm} 1.13 | 94.75 ± \pm 2.50
⑤ 审稿人视角
Novelty:novelty 判断:中高。单点方法——接触/自由空间证据、显式地形先验、交互网格、肌肉骨骼模仿——均源自已有工作(TIP/SceneBot、OmniRetarget、MuscleMimic),TERRA 的贡献主要是系统整合与填补上游缺口。真正较新的部分是:(1) 以四类地形先验加物理线索(足朝向、摆腿间隙)判别离散面与斜坡的判别式重建,并用自由空间证据裁剪保证碰撞可行性;(2) 在交互网格目标中同时加入肌肉骨骼体的解剖、肌腱连续、接触、间隙与座椅约束的 SQP 公式;(3) 首次把场景缺失的地形重建与肌肉驱动策略的端到端训练闭环,并用真值地形与生理波形双重验证。整体属于工程系统级创新而非原理级突破。
Soundness:soundness 判断:中高。实验覆盖五数据集、真值地形、AMASS 代理一致性、多基线、多随机种子与消融/鲁棒性,证据链完整,重建→重定向→下游跟踪的因果验证清晰。主要薄弱点:SceneBot 代码不可用导致只能与近似的常高度块基线比较;AMASS 无场景几何,一致性指标是代理而非真实几何验证;生理比较是 min-max 归一化的定性波形可视化,无统计检验或绝对幅值比较;部分变体共享同一场景与后处理,可能使差异估计偏乐观;楼梯类成功率与 MPJPE 存在方法间权衡,说明单一指标不足以证明全面占优。
Significance:significance 判断:中高。对社区的直接价值是提供一条从无场景 AMASS 类数据恢复支撑地形并训练非平地肌肉骨骼策略的可用管线,降低数据门槛。它使神经科学中身体尺度 affordance(台阶、座椅)研究能与肌肉骨骼能力挂钩,也有助于人形机器人从人类运动数据获取非平地技能。当前贡献受限于静态先验与离线流水线,通用性受四类地形约束,尚未证明在动态环境或在线部署中的可扩展性,但作为可复现工具和基准具有传播潜力。
⑥ 局限与保留意见
1) 地形先验封闭:只支持独立盒、斜坡、楼梯、座椅四类静态几何,无法表示曲面、斜坡-台阶混合、动态或移动表面;作者也将动态原始几何、在线重定向与移动表面列为未来工作。
2) 重建鲁棒性:对支撑区间移除敏感,尤其是座椅;较大标记噪声会使斜坡/楼梯准确率下降;速度阈值、高度差分簇、凸包等启发式需要按数据调参。
3) 座椅与离散几何依赖规则启发式,对低质量标记或非典型坐姿可能失效。
4) AMASS 无场景几何,只能用接触/非碰撞代理评估,无法直接验证几何精度;PRISM 虽有真值但样本量小。
5) 基线公平性:SceneBot 代码不可用,比较对象是改编的常高度块基线;OmniRetarget 等需替换为 MyoFullBody 模型并重建关节界,超参数未必充分再调优。
6) 生理评估是定性的波形形状比较,min-max 归一化丢弃幅度信息,无统计检验,不能作为定量生理有效性证据。
7) 下游策略虽然完成率最高,但 MPJPE 在楼梯/座椅上不如 TERRA+Voronoi,说明成功率与跟踪精度存在折中;按主体划分、五次随机运行等协议细节也会影响结论。
8) 训练成本高(40 亿步、约 20 小时四张 A100),且离线多阶段流水线可能让误差在阶段间累积。
⑦ 值得跟进
1) 端到端/在线:把重建、重定向、控制联合优化,支持在线地形估计与动态重定向,处理移动表面与动态障碍。
2) 先验扩展:增加曲面、混合地形、可移动家具,用可学习先验或神经场替代手工盒先验。
3) 生理验证升级:改用保留幅度的指标、统计检验、更多肌肉与 GRF 分量进行定量比较,把模拟 EMG 作为假说生成工具。
4) affordance 研究:把学到的地形表征与身体尺度知觉(台阶高度/椅面高度 vs 肌肉骨骼能力)结合,检验经典身体尺度假说。
5) 公平基准:发布 SceneBot 等基线代码,建立无场景地形重建的公共 benchmark 与真值协议。
6) 下游折中:研究成功率与 MPJPE 的权衡,加入地形家族自适应采样或课程学习以改善楼梯/座椅表现。
7) 跨形态迁移:把 TERRA 用于人形机器人、四足或其他肌肉骨骼模型,检验先验与残差项的可迁移性。
8) 数据工程:扩充带真值地形的多源动捕数据集,并融合 RGB-D 视觉观测做跨模态重建。
amazonHF ↑31agent
Breaking Babel: A Self-Evolving Multi-Agent System for Long-Form Subtitle Translation
发表时间:2026-09-29
Haibo Jin, Xinjie Li, Najmeh Sadoughi, Yang Liu, Yibo Wang, Zhu Liu, Yuzong Liu
arXiv · HF 讨论 · alphaXiv
① 一句话定位
本文提出 SMART(Self-Evolving Multi-Agent System),瞄准长剧集/长视频的字幕翻译这一特定任务,并同时交付两个配套贡献:Subtitle Arena 基准与 SubMQM 评估协议(字幕适配的 MQM,用 LLM-as-a-judge 实现)。其定位夹在「通用单次调用大模型翻译」与「已有 agentic 翻译系统(TransAgent、DRT)」之间:前者逐句独立翻译、缺乏跨句跨集状态;后者虽引入多步 agent,但本文认为在长叙事一致性、字幕技术约束与跨集记忆上仍不足。SMART 的核心卖点是「自演化」——按剧集切分做测试时训练,更新 prompt 与路由,并让持久化剧集记忆持续累积,从而在长格式、跨集、多语言场景中获得语义与格式的双重稳定收益。论文以多方向大评估、MuSC 迁移、多模态扩展、时序泛化与盲评人类实验来支撑这一主张,整体属于「任务化系统集成 + 基准/度量」型工作,而非提出全新基础学习算法。
② 背景与动机
字幕翻译与普通文本翻译存在结构性差异:输入是带时间轴的分块对话流,输出必须遵守每行字符数(CPL)、每框行数、断行等硬约束;同时需要跨句、跨集保持人名与术语一致,匹配场景语域,并保留幽默、情感与生动性(vividness)。社区字幕(OpenSubtitles)来源混杂、质量参差,不能作为受控上界。单次调用 LLM(Gemma、DeepSeek、Claude、GPT 系列)虽具备强通用翻译能力,但每次独立翻译一句,没有路由、持久记忆、工具、候选选择与精炼。已有 agentic 方法 TransAgent 与 DRT 做了多步/多角色翻译,但长剧集特有的跨集实体一致性、字幕格式违规与风格适配仍未被系统解决。评估层面,通用 MQM 面向通用翻译质量,缺少字幕维度(断行、CPL、每框行数、语言检测、脏话/正式度等),因此本文把 MQM 改编为 SubMQM。此外,公开 MuSC 基准偏重语义与风格(Accuracy/Naturalness/Vividness),可用于验证 SMART 的迁移能力;而知识截止(knowledge cutoff)带来的时序外推问题也需要显式测试,本文用 2025–2026 年新剧集做了对应实验。
③ 方法机制
先说明文本来源限制:本次提供的全文从第 4.2 节(SubMQM)与第 5 节(实验)开始,SMART 的系统架构正文(方法节)与 Subtitle Arena 基准构建(4.1 节)未包含在内。因此下面的机制描述只依据实验设置、结果段落与附录中可以确认的表述拼接,对只出现名称、未给出实现细节的组件不做臆测性填充。
一、系统组成(可确认项)
从基线定义可以反推 SMART 的组件集合。论文说明单次调用 LLM「translate each sentence once without routing, persistent memory, tools, candidate selection, or refinement」(每句只译一次,无路由、无持久记忆、无工具、无候选选择、无精炼),这等于明确 SMART 相对其增加了五个机制:routing(路由)、persistent memory(持久记忆)、tools(工具)、candidate selection(候选选择)、refinement(精炼)。附录 F.1 的结果解释进一步点出三个子系统的功能分工:「persistent series memory maintains cross-episode information, contextual retrieval supplies relevant long-range evidence, and the judge–refiner loop revisits translations when local hypotheses conflict with accumulated context or subtitle constraints」——即持久剧集记忆维护跨集信息、上下文检索提供长程证据、裁判-精炼循环在局部假设与累积上下文或字幕约束冲突时重访译文。多角色默认都使用 Claude Sonnet 4.6;多模态版本加装 Qwen3-Omni 驱动的视频与音频工具,形成 SMART + MM。
二、自演化(test-time training)协议
按剧集切分数据:「the first 30% of the available content is used for test-time training and the remaining 70% for held-out inference」。训练期允许更新 prompt 与 routing,推断期冻结:「Prompt and routing updates are permitted only during training and are frozen thereafter」;唯一例外是持久剧集记忆:「persistent series memory continues to accumulate because it represents task state」——因为它被定义为任务状态而非可学习参数,所以在推断期仍持续写入。该设计的算法直觉是:用每部剧前 30% 的内容做轻量在线适配,学习「该剧/该语言对应当如何路由、如何提示」,之后冻结策略、只累积记忆,从而兼顾对特定剧集风格的适配与推断期策略稳定性;同时它也模拟了「先看前几集、再翻译后续内容」的真实部署顺序。
三、集级一致性检查
「the episode-level consistency check operates over overlapping windows of size 5, 10, and 20 with 50% overlap」:用长度为 5、10、20 的三种重叠滑窗(50% 重叠)做集级一致性检查,多层窗口分别捕捉相邻句、局部段落与较长叙事范围内的术语/实体一致性问题。
四、候选选择、精炼与裁判循环
单次调用模型没有候选选择与精炼,而 SMART 有;结合「judge–refiner loop」可知,流程应是先产生候选(可能来自不同路由路径或工具),由裁判按字幕相关错误信号(语义偏差、术语冲突、格式违规等)判断,再由精炼器重写,直到局部假设与累积上下文/字幕约束一致。摘录未给出停止条件、迭代轮数、候选数量等实现细节,无法进一步说明。
五、训练与数据细节
- Subtitle Arena:30 个翻译方向(15 个英语→locale 与 15 个 locale→英语);每部剧按上述 30/70 切分。
- 基线三类:Online(OpenSubtitles 社区字幕,明确不当作受控人类上界);单次调用 LLM(Gemma 3 4B、DeepSeek-V3.2、Claude Sonnet 4.6、Claude Opus 4.8、GPT-5.5),它们拿到与 SMART 相同的局部上下文与字幕格式指令,但每句只译一次;agentic 基线 TransAgent 与 DRT,均用 Claude Sonnet 4.6 复现以做受控比较。
- 稳健性检验:5.3 节换用较弱骨干(Gemma 3 4B、DeepSeek-V3.2)运行 SMART,并把裁判从默认换成 GPT-5.5,用于检验增益是否依赖特定强模型或特定裁判。
- 迁移与扩展:MuSC 四个方向;多模态六个代表性方向,对比 ViDove 与 Hermes;时序泛化 200 部 2025–2026 剧集(超出 Claude Sonnet 4.6 知识截止)。
- 人类评估:20 个连续片段、267 条对齐行、13 部剧、20 名标注者,对五个匿名系统在四个标准上做 5→1 排名。
六、SubMQM 评估协议(公式)
SubMQM 是 MQM 的字幕适配版。7 个维度拆成 19 个错误类型:Terminology(人名不一致/术语不一致)、Accuracy(误译/欠译/过译)、Fluency(连贯/自然/生动)、Linguistic Conventions(标点/大小写/语法/空格)、Technical(断行/每行字符数/每框行数)、Locale Conventions(本地化/语言检测)、Audience Appropriateness(脏话/正式度)。裁判对连续句子的滑窗逐窗打分,每个错误类型给 {0,5,10}:0 表示无错、5 表示轻微但不阻碍理解、10 表示严重(改变意义、误导观众或违反硬字幕约束);不适用子类默认记 0。
聚合公式:
- 维度分 = 该维度所有子类惩罚在整集所有窗口上的均值;
- Overall = Σ_d w_d · s_d,且 Σ_d w_d = 1,权重强调语义保真:Accuracy 0.3、Terminology 0.2、Fluency 0.2、Audience Appropriateness 0.12、Linguistic Conventions 0.08、Technical 0.06、Locale Conventions 0.04。所有分数都是惩罚,越低越好。
对齐规则:模型输出保留源块分段、逐块打分;人类参考字幕分段与源不同,按时间戳重叠在段落级对齐,避免把「良性重分段」误判为漏译或错译。
七、机制直觉:为什么增益分布符合设计
论文强调增益不是由单一错误类型驱动,而是语义与字幕技术维度同时下降;反向 locale→英语(所有系统都生成英语)仍成立,说明优势来自语义与一致性层,而非目标语言形态/排版差异。这与组件设计对应:记忆与检索针对跨集人名/术语一致性及欠译/过译,裁判-精炼循环针对局部与全局冲突,候选选择/精炼提供纠错路径,测试时训练让路由与提示适配剧集/语言风格。
④ 实验与证据
实验部分覆盖三类基线与多种设置:以 SubMQM 为主指标,在 Subtitle Arena 上对在线社区字幕、多个单次调用大模型、两个 agentic 基线及 SMART 做全方向比较;通过换用较弱翻译骨干和替代裁判检验稳健性;在 MuSC 上验证跨基准迁移;用多模态扩展对比专门的多模态字幕系统;在知识截止之后的新剧集上检验时序泛化;并以盲评人类实验补充面向观众的偏好证据。总体看,SMART 在所有评估方向取得最低惩罚,且收益分散在语义与字幕技术多个维度,反向生成英语时同样成立;多模态、时序与人类偏好实验也一致指向 SMART 的优势。
-
主结果中,SMART 在全部 15 个英语→目标语言方向取得最低 Overall SubMQM 惩罚,并把平均 Overall 惩罚从 TransAgent 的 1.20 降到 1.11,相对降低 6.9%。
Across the 15 English → \rightarrow locale directions, SMART obtains the lowest Overall SubMQM penalty in every direction and reduces the mean Overall penalty from 1.20 1.20 (TransAgent) to 1.11 1.11 , a relative reduction of 6.9 % 6.9\% .
-
SMART 默认使用 Claude Sonnet 4.6,但仍平均优于更强的单次调用模型 GPT-5.5(平均 Overall 1.44)与 Claude Opus 4.8(1.55)。
Despite using Claude Sonnet 4.6 as its default backbone, SMART also improves over stronger single-call translators, including GPT-5.5 ( 1.44 1.44 ) and Claude Opus 4.8 ( 1.55 1.55 ) on average.
-
反向 locale→英语评估中,SMART 同样在全部 15 个方向取得最低 Overall,将平均惩罚从 0.41 降至 0.37,相对降低 10.0%。
The reverse locale → \rightarrow English evaluation shows the same overall trend: SMART reduces the mean Overall penalty from 0.41 0.41 to 0.37 0.37 , a 10.0 % 10.0\% relative reduction, and achieves the lowest Overall score in all 15 directions.
-
细粒度分解显示,相对 TransAgent,SMART 将平均 Accuracy 惩罚从 1.83 降到 1.67,平均 Fluency 从 1.88 降到 1.79,平均 Technical 从 1.83 降到 1.72。
The reduction is not confined to one category: the mean Accuracy penalty decreases from 1.83 1.83 to 1.67 1.67 , the mean Fluency penalty from 1.88 1.88 to 1.79 1.79 , and the mean Technical penalty from 1.83 1.83 to 1.72 1.72 .
-
locale→英语方向的细粒度结果显示,平均 Accuracy 惩罚从 0.75 降到 0.67,平均 Technical 从 0.13 降到 0.07。
The mean Accuracy penalty decreases from 0.75 0.75 to 0.67 0.67 , while the mean Technical penalty decreases from 0.13 0.13 to 0.07 0.07 ;
-
在 MuSC 上,SMART 在四个翻译方向的所有 Accuracy、Naturalness、Vividness 指标取得最佳模型结果,相对每列最强非 SMART 系统平均提升约 3.0 分,幅度从 1.2 到 7.9 分。
As shown in Table 4 , SMART achieves the best model result on all Accuracy, Naturalness, and Vividness measurements across the four translation directions. Compared to the strongest non-SMART result in each column, SMART improves by an average of approximately 3.0 3.0 points, with gains ranging from 1.2 1.2 to 7.9 7.9 points.
-
Vividness 维度增益最大,在 en→zh、ko→zh、zh→en、zh→th 上分别超出最强既有系统 3.8、7.9、2.0、6.3 分。
The largest gains appear in Vividness, where SMART improves over the strongest prior system by 3.8 3.8 , 7.9 7.9 , 2.0 2.0 , and 6.3 6.3 points on en → \rightarrow zh, ko → \rightarrow zh, zh → \rightarrow en, and zh → \rightarrow th, respectively.
-
多模态扩展 SMART + MM 在六个代表性方向将平均 SubMQM 惩罚从 0.63 降到 0.57,并优于 ViDove 和 Hermes。
Across six representative directions, SMART + MM reduces the average SubMQM penalty from 0.63 to 0.57 and outperforms the multimodal subtitle systems ViDove ( Lu et al., 2025 ) and Hermes ( Cui et al., 2026a ) .
-
人类评估中,SMART 在 Fidelity、Consistency、Language、Subtitle 四项标准均列第一,Overall 分数为 4.50,其中 Consistency 最高为 4.55。
As shown in Table 7 , SMART ranks first on all four criteria and achieves the highest Overall score of 4.50 4.50 , with its best result on Consistency ( 4.55 4.55 ).
-
时序泛化测试在 200 部 2025–2026 年播出的剧集上,SMART 在所有六个评估方向都优于 TransAgent。
On 200 TV series released in 2025–2026, including titles beyond the reported knowledge cutoff of Claude Sonnet 4.6, SMART outperforms TransAgent across all six evaluated directions.
-
人类盲评覆盖 20 个连续字幕片段、267 条对齐行、13 部剧集,由 20 名标注者对五个匿名系统在四个标准上排名。
we conduct a blind human study on 20 20 continuous subtitle passages comprising 267 267 aligned lines from 13 13 television series. Twenty annotators, given the corresponding video and English source, rank five anonymized translations from Online, Claude Sonnet 4.6, GPT-5.5, TransAgent, and SMART on four criteria: Fidelity, Consistency, Language Quality, and Subtitle Quality.
⑤ 审稿人视角
Novelty:新颖度中等偏工程化。模块层面(路由、记忆、检索、精炼、LLM-as-judge)多为已知技术,相对 TransAgent/DRT 的增量在于「按剧集测试时训练 + 冻结提示/路由 + 持续记忆 + 字幕专项约束」的组合,以及配套的 Subtitle Arena 与 SubMQM。把自演化测试时训练引入长格式字幕翻译、并系统验证跨多方向与知识截止外泛化,具有一定新意;SubMQM 的 19 类字幕错误框架也填补了通用 MQM 在该任务上的空白。但核心贡献更像是领域适配与系统集成,而非新的学习算法或理论洞见。
Soundness:证据链较完整,但统计严谨性不足。优点:agentic 基线用同一 Claude Sonnet 4.6 复现以做受控比较;换用 GPT-5.5 替代裁判缓解「同一裁判自偏好」;反向方向、MuSC、人类、时序、多模态多角度交叉验证;明确承认 Online 不是受控上界。缺点:未报告方差、置信区间或多随机种子的显著性检验;LLM-as-judge 仍存在系统性自我偏好风险(替代裁判只部分缓解);测试时训练只给 SMART、基线无等价适配,30/70 按集切分使后续集受前期集记忆红利,构成比较不对称;人类实验规模小且标准粗(论文也承认);成本/延迟未报告;多模态与时序结果在附录且方向数有限;核心方法节与基准构建细节在本摘录中缺失,无法核查「自演化」的具体优化目标与更新算法。综合看,soundness 中等偏上,需补强统计与公平性控制。
Significance:应用意义中高、学术意义中等。字幕本地化是工业界高频场景,论文在大量语言方向、知识截止外内容、多模态与人类偏好上给出较一致的收益证据,对实际部署有参考价值;Subtitle Arena 与 SubMQM 若被社区采纳,可作为后续工作的基准与统一度量,长期影响大于单篇方法本身。但核心学习机制偏工程集成,缺理论或算法层面的可迁移洞见;且多 agent、多轮精炼的推理成本未交代,可能限制其在高吞吐流媒体场景的落地。总体属于「有价值的任务化系统 + 基准」,而非推动通用翻译学习范式的方法学突破。
⑥ 局限与保留意见
其一,本文提供的摘录不含 SMART 方法正文与 Subtitle Arena 基准构建细节,因此「自演化」的具体优化目标、路由更新算法、记忆的存取结构与精炼停止条件都无法核查,本文的机制判断只能基于实验设置与附录的间接描述。其二,评估高度依赖 LLM-as-judge,虽有 GPT-5.5 替代裁判,但未做与人类 MQM 的充分校准,也未报告评判者内/间一致性;同一裁判可能偏好 SMART 的风格(如更「生动」的输出在 Vividness 上得分高)。其三,缺乏统计显著性、方差与多随机种子分析,所有收益均为点估计,无法判断相对 TransAgent 等强基线的差距是否稳健。其四,测试时训练只给 SMART 而基线无等价适配,30/70 按剧集切分可能让 SMART 在后续集上享受前期记忆红利,公平性存疑;同时多 agent、多轮精炼与检索带来的额外计算成本、延迟未报告。其五,Online 社区字幕非受控,只能作为弱参考;多模态与时序泛化实验规模有限,ViDove/Hermes 对比仅覆盖少数方向。其六,人类评估规模小(片段与标注者数量有限)、标准粗,只能作面向观众的辅助验证,不能替代细粒度质量结论。
⑦ 值得跟进
后续可从以下方向推进:一是补全并开源 SMART 的方法实现与 Subtitle Arena 构建流程,使路由更新、记忆读写、候选选择与精炼循环可复现、可审计。二是补充多随机种子、置信区间与显著性检验,并对 SubMQM 做与人类 MQM 的校准研究,报告评判者间一致性与偏差。三是做逐组件消融(记忆、检索、路由、候选选择、裁判-精炼分别移除),明确各模块的真实贡献;现有摘录只给了整系统对比。四是报告成本/延迟/吞吐,并尝试把 SMART 的增益蒸馏进单次调用模型,降低部署门槛。五是扩大人类评估规模,引入专业字幕编辑的细粒度 MQM 标注,并检验 Vividness/风格维度是否存在 LLM 裁判的系统性偏好。六是用开放模型与开放裁判替代闭源 API 做复现,并更严格地分离知识截止内/外、已见/未见内容,排除记忆污染。七是研究跨剧集记忆迁移(而非每剧独立记忆),以及把剧集级自演化推广到更一般的连续文档翻译任务。
amazonHF ↑15X/HN x1agent
MILO: Automated Harness Discovery via Orchestrated Multi-Agent Evolution
发表时间:2026-09-29
Prithwish Jana, Mononito Goswami, Hao Liu, Xinyu Li, Langlin Huang, Zhehui Huang, Zhishen Huang, Patrick Blöbaum, Anoop Deoras, Purak Jain, Nikos Kanakaris, Sahika Genc
arXiv · HF 讨论 · alphaXiv
未深读 · 全文抓取或深读生成失败
① 一句话定位 (简读)
Modern agentic systems combine an AI model with a harness that controls execution and environmental interactions. Harness design strongly affects long-horizon performance, yet its combinatorial search space demands substantial human effort that must be repeated as models change. Existing automated methods explore this space narrowly, optimizing only components such as prompts or skills or becoming trapped by fixed, exploitative search strategies. We introduce MILO (Meta-evolutionary Island Orchestration), a framework that co-evolves agent harnesses and the strategy used to discover them. MILO combines: (i) hierarchical lineage memory over island-based trees, using rejected mutations as negative evidence; (ii) per-island mutator agents that rewrite complete harnesses using global search history and parent-specific feedback; and (iii) an orchestrator that adapts search through lineage grafting and speciation, mutator reassignment and curriculum revision. Across Terminal-Bench 2.1, PaperB
⑤ 审稿人视角 (简读)
仅依据摘要,无法可靠判断方法 soundness 与实验充分性,请以原文为准。