2026-10-07

本文提出 LMBuild，一个面向 LLM 智能体“可建造且可运作结构生成”的评测基准。与既有三维生成评测侧重几何质量、视觉一致性与语义对齐不同，LMBuild 把生成对象表示为“有意义部件分解 + 关节 + 材料 + 装配序列”的可装配结构，并围绕结构可靠性（S）、功能可供性（A）、设计质量（D）、物理实现（R）四个层次给出十二项子指标。它同时提供统一交互式环境（检索/创建/放置/检查工具）和由既有 CAD 数据集改造、并用 Wikipedia 功能知识增强的评测数据。文章的主要贡献是评测框架与诊断性发现，而非提出新的生成模型：结果显示前沿闭源模型在可靠性与视觉对齐上已接近瓶颈，但功能部件完整性与物理可操作性仍是主要能力缺口。

研究动机来自 LLM 智能体正从语言与代码扩展到直接操控 3D 资产、把语言规格转成参数化或程序化 3D 设计，甚至被设想用于“把结构说成现实”。但“几何上好看”不等于“能造、能用”：一个结构可以看起来合理，却无法装配、无法操作或在物理上不可实现。既有三维生成评测主要衡量几何质量、视觉一致性、语义对齐，系统性忽略了结构可靠性、功能可供性与物理可实现性。因此需要一个统一方式评估智能体能否利用先验知识与推理，生成不仅数字上可信、而且可建造、功能对齐、符合物理约束的结构。 为构造基准，作者改造了 BrickNet、BrickComposer、PartNeXt、Fusion 360 Gallery（Joinable）、Artiverse、产品级 CAD 等数据源，筛选类别与模型质量，并注入 Wikipedia 中的核心功能部件、属性、关节与运动关系作为物理属性的文本锚点。评测对象覆盖闭源 API、开源多模态 LLM 与领域专用系统共三十个系统；领域专用系统保留原生输入输出，缺少铰接信息时用 Particulate 推断部件级关节与运动约束，以便统一评分。核心评测数据跨 LEGO、静态结构、机械结构、日常家具与产品级 CAD，异构表示迫使评测采用跨表示可通用的规则与启发式。

一、统一交互环境与任务设定。LMBuild 给智能体配一个手工设计的 harness，并暴露一组工具：从子部件池检索、用任意几何创建新部件、按目标位姿放置、通过检查与修订细化结构。任务只给目标类别标签和参考图像，不含几何规格、部件级指令或中间反馈；智能体在单轮交互内通过工具调用自主完成构建，候选部件池至少包含所需部件数的三倍。领域专用系统保留原生协议，若输出几何不含铰接信息，用 Particulate 推断部件级关节与运动约束供统一评分。为分离机制贡献，设 retrieval-only（只能从池中取件）与 creation-only（禁用检索、必须全部生成）两个受限设置，与 baseline 对比，考察系统对既有部件的依赖与设计新部件的能力。 二、反馈、轮次与提示增强。多轮设置中，每轮后环境返回六视图渲染和规则化诊断报告，报告覆盖碰撞、断开部件、稳定性、关节问题、缺失功能角色与材料等；智能体结合上轮轨迹修订结构，评测 K∈{1,2,3} 的轮次预算。另设丰富规格条件：在提示中加入显著属性与功能部件描述，明确“应有哪些部件、如何运动/操作”，与 baseline 对比，以判断失败来自用户意图欠指定，还是来自模型把详细需求转成可建结构的能力不足。 三、数据构造。作者从约 368K 原始数据中改造并筛选出高质量参考目标（正文称 2,549 个参考目标、200 个核心对象；附录 A.6 又称 50 对象 core、2,399 对象 full，数字不一致，属于文本自洽性问题）。每个任务配一张 component sheet，由必需部件（P）、功能子系统（F）、运动（K）三类断言组成，作为物理属性评测的文本锚点。数据域跨 LEGO、静态结构、机械结构、日常家具与产品级 CAD，表示与物理约束差异大，迫使评测采用跨表示可通用的启发式与规则，而非单一领域专用指标。 四、共享几何原语。生成设计由三角网格部件集合表示，z 轴为竖直轴；每个部件附带语义角色、材料、带类型/轴/原点的关节及装配序列。几何测试用体素表示，pitch r=4 mm。对部件 i，G_i 为体素集；G_i^⊖ 为侵蚀核（去掉最外一层体素），G_i^⊕ 为单格 halo（外扩一格）。部件对形成 interface 的条件是 G_i^⊕ 与 G_k 非空相交（原文公式有排版噪声，但意图是 halo 与对方部件相交）。声明关节的“原点有效”要求其原点落在每个部件表面 2 cm 内，用表面而非质心是因为物理关节应位于连接界面附近。作者区分物理连接与单纯几何接触：满足任一条件才算物理连接——(i) 几何形成有效互锁、机械上约束分离；(ii) 有几何有效的声明紧固关系（铰链、销、螺钉等支持类型）；(iii) 砖块结构的 stud–receptacle 连接。这避免把表面贴靠/邻近当作充分附着证据。这些原语被结构、分解、装配与操作性评测一致复用。 五、功能可供性（A）的确定性机制。A 不用感知判断，目标来自 Wikipedia 结构化功能知识与同类实例统计。对每个任务构造 component sheet；规范部件短语经过分词、去除位置修饰、单数化、拼写规范、等价替代合并；生成结构中的角色通过确定性短语匹配、预定义词汇映射和部件级回退规则落位。为不把单一参考分解当作唯一合法实现，作者用“参考 + 至多 11 个同类实例”构成种群，估算部件相关性与期望多重度：部件若出现在参考中、或出现在至少 40% 的种群实例中，则保留为评测相关。复数部件的最小期望多重度公式为 m_c = min(8, max(1, floor(Q_25(count_c))))，Q_25 是观测计数下四分位数，取四分位数是对类内合法变体的保守期望，上限 8 防止高重复部件主导评分；单数部件 m_c=1。A.1 看几何形状/尺寸/朝向/位姿是否支撑功能，A.2 看必需功能部件是否齐备，A.3 看关节与运动学（轴、类型、行程）是否正确。 六、设计质量（D）的“先校准后评测”机制。D 维捕捉没有单一确定性几何准则能充分评价的方面，采用 Calibration-then-Evaluation：人类对固定、预先声明的校准子集打 1–5 分，只用于校准自动化信号的尺度与权重；校准参数冻结后统一用于其余输出。自动感知信号来自两个独立 VLM 法官 Qwen2.5-VL-32B-Instruct 与 Gemma-3-27B-IT，各自按指标专用准则给 1–10 原始分，归一化 (s-1)/9 后取两法官、多准则均值 J；有客观几何/程序化测量时记计算信号 C。每个信号 h 独立校准：人类分数 H=(r-1)/4 归一化；通过匹配均值与标准差拟合仿射映射 b = sd(H)/sd(h)，a = H̄ − b·h̄，得到映射到校准分 0 与 1 的原始端点 ℓ_h = −a/b、u_h = (1−a)/b，校准值 h′ = clip((h−ℓ_h)/(u_h−ℓ_h),0,1)。当感知与计算信号都有时按非负权重 α、β 融合，D = (αJ′+βC′)/(α+β)；α:β 在 48 个预声明条目（跨 8 个对象）上用留一对象 MAE 选取，拟合后固定。文中给出固定参数：D.1 的 J 校准区间 0.3611→0.7644、C 区间 0.1276→1.0247、α:β=1:1；D.2 只用 J（0.3741→0.7251、1:0）；D.3 的 J 区间 0.4500→0.7766、C 区间 0.1536→0.6057、α:β=3:1。人类标注由 4 名实验室志愿者对 6 个系统生成的 90 个对象完成。 七、物理实现（R）机制。R 回答“数字装配能否有一条通往可制造、可使用的实体的可信路径”。装配序列检查部件能否按声明顺序插入并保持可支撑的中间状态；材料检查声明材料是否与部件功能角色兼容；操作性用刚体仿真（标准化密度、摩擦、碰撞几何、驱动参数）检查完整结构是否支撑功能子系统、铰接运动与使用条件。关键是这些指标评估的是生成装配规格（序列、材料、角色、关节），而非仅最终渲染几何：缺装配指令、缺材料、缺语义角色或不可支撑的铰接都会扣分，即使外形看起来合理。 八、评分约定与超参立场。所有指标在 [0,1] 后重标到 [0,100]，主表报基准任务均值，空/失败生成记 0。跨域异构使许多领域专用指标难以统一应用，因此若干指标引入启发式阈值、容差、离散化与权重；这些超参基于几何/物理想象、代表性结构检查与评测设定实践选定，并先于全基准评测固定、对所有系统一致。AI 工具只被用于帮助检查候选公式与澄清规则，不用于决定结果或按模型调参。作者把指标定位为“可解释、可复现的比较代理”，而非真实物理行为的精确模型。

实验在核心集与不交叠的分层子样本上评估了闭源 API、开源多模态 LLM 和领域专用系统三族系统，并进行了一致性与稳定性验证、失败模式诊断以及设计指标的人工校准校验。总体结论：前沿闭源模型在结构可靠性与视觉对齐上已不再是主要瓶颈，但仍显著弱于功能可供性与物理操作性；开源模型在可靠性与实现上可部分追赶，但在可供性与设计上差距更大；领域专用系统的强项由表示方式决定（如砖格生成保证连接、网格分割保证几何兼容），却未必意味着功能完整。失败分析显示，最突出问题不是几何缺陷或工具调用失败，而是功能部件缺失、关节与运动学错误、装配序列不可执行，且这些缺陷从分解直接传导到操作模拟。指标在不交叠子样本与重采样检验中表现出较高的相对排序稳定性，设计指标经人类校准后在系统层面与人工评价一致性较好。作者同时强调，不能把单一指标上的局部领先解读为更强的通用建造能力，因为更简单结构、表示内置约束和视觉优化都会带来局部高分。

1. GPT-6 Astra 在核心集上的层级得分为 S 88.5、A 50.0、D 74.0、R 53.5，Claude Opus 5 与 Claude Fable 5.1 紧随其后。

   GPT-6 Astra reaches 88.5 / 50.0 / 74.0 / 53.5 on Soundness / Affordance / Design / Realization, with Claude Opus 5 and Claude Fable 5.1 following closely.

2. 最强开源模型 Qwen3.5-27B 在 Soundness（82.9）与 Realization（57.2）上接近闭源，但 Affordance（28.3）和 Design（52.7）显著更低。

   The strongest open model, Qwen3.5-27B, is competitive on Soundness and Realization (82.9 and 57.2) but remains substantially lower on Affordance (28.3) and Design (52.7).

3. 闭源 API 在全集与两个 50 对象子样本上的综合分为 63.4/63.6/62.5，开源模型为 33.9/34.1/34.4，相对稳定。

   closed-source APIs score 63.4 on the full set, 63.6 on sample A, and 62.5 on sample B, while open-source models score 33.9, 34.1, and 34.4, respectively.

4. 30 个系统在两个不相交样本上的指标相关为 Pearson r 0.937–0.988、Spearman ρ 0.86–0.99。

   Across the 30 systems, the two disjoint samples achieve Pearson correlations of r = 0.937 r=0.937 – 0.988 0.988 and Spearman correlations of ρ = 0.86 \rho=0.86 – 0.99 0.99 .

5. 1000 次分层重采样中，不相交样本对平均相关保持在 0.953–0.980，95% 区间不低于 0.91。

   Across 1,000 repeated stratified resamplings, the mean correlation between disjoint sample pairs remains between 0.953 and 0.980, with all 95% intervals at or above 0.91.

6. 校准后的设计指标在系统层面与人类评价的 Spearman 相关分别为分解 0.77、美学 0.83、对齐 0.94。

   with Spearman correlations of 0.77, 0.83, and 0.94 for decomposition, aesthetics, and alignment, respectively.

7. 闭源系统中 6.5%–21% 的设计含至少一个断开部件，3%–16.5% 含相互穿透部件，Claude Haiku 4.5 两类缺陷分别达 38% 和 38.5%。

   between 6.5% and 21% of generated designs contain at least one disconnected part, while 3%–16.5% contain interpenetrating parts, with Claude Haiku 4.5 representing a notable outlier at 38% and 38.5%, respectively.

8. A.3 是六个闭源系统最弱的可供性指标，平均 37.9；失败运动目标中 57% 从未生成所需运动部件，17% 有部件但缺可驱动关节。

   A.3 is the weakest Affordance metric across these systems, with an average score of 37.9. Among failed motion targets, 57% fail because the required moving component, such as a lid, steering link, or handle, is never generated; a further 17% include the relevant part but lack a joint capable of moving it.

9. R.3 在六系统上平均仅 18.3；约 30%–40% 任务中没有任何被声明能力完全成功，Claude Haiku 4.5 达 51%。

   R.3, which evaluates each declared capability according to its weakest required element, averages only 18.3 across the six systems. Nearly every design omits at least one component referenced by its functional description, such as a timer, thermal sensor, or lever. As a result, no evaluated capability succeeds at all on roughly 30%–40% of tasks, increasing to 51% for Claude Haiku 4.5.

10. 48%–68% 的生成装配序列不可完全执行。

    between 48% and 68% of generated assembly sequences are not fully executable.

11. 工具层面不是瓶颈：仅 2%–7% 的 create_part 调用失败，且模型通常在同一回合内恢复。

    Only 2%–7% of create_part calls fail, and the models typically recover from these failures within the same episode.

12. 按数据来源，产品级 CAD 与 Fusion 360 最难，分别有 81% 和 73% 的设计缺失或错放必需部件，Artiverse 家具/家电为 48%。

    Product-level CAD and Fusion 360 objects are the most difficult, with 81% and 73% of designs, respectively, missing or misplacing required components, compared with 48% for Artiverse furniture and appliances.

Novelty：新意主要体现在“评测视角”而非“方法组件”。把三维生成从视觉/几何质量扩展到可建造性与功能可供性、并把对象表示为“部件 + 关节 + 材料 + 装配序列”的评估，是相对清晰的增量贡献；四层十二指标的系统化、Wikipedia 功能知识注入、以及“先校准后评测”的 VLM 设计质量指标，提供了可复用的工程化评测协议。各单点技术（体素连接/碰撞检查、仿真操作性、VLM 裁判、人类校准）本身均非首创，数据集也是既有 CAD 数据的改造。整体可视为一项基准构建与诊断工作，创新属于中等：问题定义和统一环境有价值，但未提出新模型或新训练方法，方法层面以组合、标准化和校准为主。 Soundness：可靠性中等、需谨慎解读。优点：指标定义详细、超参固定且全系统一致、提供跨样本与重采样的一致性证据、设计指标做了人类校准，失败模式分析有诊断价值。主要问题：(1) 提供的正文“3 Experiments”为空，实验叙述依赖附录，且核心/全集数字自相矛盾（正文称 200 核心、2,549 参考，附录称 50 核心、2,399 全集，表 1 加总也不吻合），影响可复现性；(2) 每模型-任务只跑一条轨迹，无法刻画模型内随机性，重采样只反映任务方差；(3) 设计质量依赖两个 VLM 法官和 4 名人类标注者的 48 项校准，规模小，item 级相关与人类间一致仍中等；(4) 物理仿真使用简化刚体假设与固定参数，结果对参数化敏感；(5) 多处公式/符号有排版噪声（如 interface 定义、`\textbf` 泄漏），说明文本校验不足。结论层面作者有意识地限制了对单指标局部领先的过度解读，这是加分项。 Significance：意义中等偏上。问题重要：若 LLM 智能体要走向物理世界，“能造、能用”比“好看”更关键，现有评测确实缺这一维度；LMBuild 提供了一个统一、可复现的 harness 和分层指标，适合作为后续智能体研究的对照基础，并揭示了“几何可靠性≠功能完整性”这一有价值的诊断信号。但当前价值主要是基准与诊断，没有给出改进方法，全集（full split）尚未评测，物理制造/装配验证也未闭环，因此其对领域的实际推动取决于后续社区是否采用、以及能否与制造约束和真实装配打通。若被采纳为可建造结构生成的公共评测，其影响会显著提升。

一是定位限制：它是标准化比较框架，不是工程就绪认证；未建模制造公差、紧固件强度、弹性形变、断裂、疲劳、工具可达性、布线/管路、执行器限制、持续载荷等。二是物理模型近似：稳定性只看倾覆，装配用离散插入路径和中间支撑检查，操作性用标准化刚体仿真；不同参数化或高保真模型可能改变个别分数。三是覆盖与规模：实验只用小规模核心切分（正文与附录对 core 规模表述不一致），full 切分未评测，结果不能视为真实世界对象总体的估计；混合切分是覆盖导向而非分布代表。四是自动评测与人工校准：设计质量依赖两个 VLM 法官与少量人类标注，校准对象/系统有限，Wikipedia 功能表可能遗漏罕见部件或合法替代实现，item 级一致性有限。五是系统可比性与统计：提供商接口/模态不同，领域系统只在共享指标可比；每模型-任务单条轨迹，无运行级不确定性，重采样只反映任务方差。六是文本/数字自洽性：正文“3 Experiments”缺失、核心集与全集数字不一致、表 1 加总不吻合，削弱复现信心。七是尚未做物理打印、装配或功能测试的闭环验证。

一是扩展至 full split 与更多领域（柔顺机构、电子、流体驱动），做类别级与稀有机制分析。二是增加重复运行与 run 级不确定性，标准化原生工具接口，报告任务级和运行级置信区间。三是做指标敏感性分析：改变阈值、仿真参数、材料参数，检验排序稳定性；邀请领域专家标注并报告一致性不确定性，扩充同义词、材料替代与功能实现。四是把数字生成与物理制造闭环：引入增材制造约束（最小特征尺寸、壁厚、悬垂、公差、材料、构建体积），直接测量打印成功、尺寸精度、装配可行性与功能性能，做 sim-to-real 校准；扩展到其他工艺、紧固件、柔顺件、电气/流体路径。五是智能体侧：内化可复用建造知识（关节、界面、承重、间隙等先验）；通过环境探索与失败-仿真学习获得程序性技能；增强 affordance 创造性推理与多轮工具使用、代码化建造接口；把“创建、测试、修订”的功能设计回路作为研究方向。

本文位于自回归视频扩散的长时生成与测试期KV缓存管理的交叉点。针对短时模型外推到分钟级视频时的漂移问题，作者把现有方法归纳为KV conditioning（只决定读哪些缓存、如何定位），并指出其隐含假设——被读的缓存条目仍在训练分布内——在训练视界外不成立。由此提出KV-provenance问题：缓存条目由写入时关注的上下文决定，滚动写入会制造越界条目，之后被读取并累积为漂移。ID-Forcing是免训练测试期框架，通过self-caching控制写入来源，并以首块常驻sink与重旋转控制读取，使两级KV操作都回到训练见过的配置。相较Deep Forcing、∞-RoPE、MemRoPE等只改读取的基线，卖点在于同时治理缓存写入与读取，并以极简滚动窗口把短时模型稳定外推。

自回归视频扩散将视频按块分解，p(x_{0:M}|c)=∏ p(x_j|x_<j,c)。每块生成后写入一个KV条目，后续块通过注意力读取前驱条目。训练在固定视界N内做自滚动：生成块x_i时，去噪器G_θ关注所有前驱KV κ_<i（KV conditioning）；生成完成后，同一去噪器在t=0以同一前驱集合写出κ_i=E(x_i^0,κ_<i)（KV caching），首块只关注自身。训练窗口只增不减且始终包含κ0。测试期外推常用长度L<N的滚动窗口逐出最旧条目，但读与写都改为最近L个条目，偏离训练分布，表现为色彩纹理漂移与运动衰减。已有测试期方法（Deep Forcing的sink与压缩、∞-RoPE的时序索引重分配、MemRoPE的在线RoPE与记忆token）都只作用于KV conditioning，默认缓存条目仍在分布内；更长上下文训练也无法消除任意长度外推的边界。本文的切入点是：缓存条目的分布取决于其写入时的provenance，滚动写入会产生训练未见过的provenance，使缓存本身越界。

ID-Forcing的核心是让测试期外推中的每一个KV操作都等价于训练执行过的配置，分两级实现。 先看KV caching。块x_i的缓存条目κ_i=E(x_i^0;κ_<i)由去噪网络在t=0时前向计算并经KV[·]提取，带stop-gradient。因此κ_i不仅是本块内容的函数，还依赖写入时关注的缓存集合（provenance）。训练中合法的provenance是前缀κ_<i：首块为空/自身，后续块关注从首块开始的完整前缀。滚动窗口逐出旧条目后，新块会在训练未见过的上下文（例如不含κ0、或只含一组最近条目且已重旋转）里被写入，κ_i因而OOD。后续生成读取这些OOD条目，漂移便从写入端进入，且写入完成后任何读取策略都无法撤销。 Level 1 self-caching从源头限制provenance。对窗口长度L，把前ℓ个条目按E(x_j,∅)写成self-cached，即只关注自身，复现训练首块的写入方式；其余L−ℓ个条目在最后一个self-cached条目之上自回归写入，复现训练中后续块堆叠在首块之上的模式。于是每个被写条目要么没有外部provenance，要么只依赖已在分布内的self-cached条目。关键性质是：self-cached条目不携带会随窗口逐出而丢失的外部上下文，因此滚动逐出不会破坏其表示；这正是滚动窗口能保持分布内的前提。 再看KV conditioning。训练中每个块生成时都条件于κ0；外推时逐出κ0本身就越界。κ0不可替代的根据来自因果3D-VAE：初始潜在帧由单个像素帧编码，后续帧则聚合多帧，所以κ0在分布上唯一。ID-Forcing把κ0固定在槽位0，只逐出最旧的非sink条目；这与attention sink保留若干早期条目的经验做法不同，动机是分布唯一性而非经验稳定。窗口长度约束为L≤N−1，槽位0放κ0，其余L−1放最近条目。每次生成后，对保留条目施加R_{−f}重旋转，使窗口内所有相对时间距离都落在训练见过的范围。结合self-caching，逐出不会使剩余条目表示越界，读取窗口也与训练配置一致。 完整算法为：初始化首块并self-cache为κ0常驻；对每个后续块，按Level 1决定写入provenance，按Level 2组织读取窗口与重旋转；随后生成、写入、逐出最旧非sink条目、对窗口重旋转，循环。整个过程免训练，只修改KV的写与读。 训练与数据细节：实现基于Wan2.1-T2V-1.3B，覆盖Self-Forcing与LongLive两个基础模型；每块由少量潜在帧组成，使用少步去噪调度；窗口长度L与self-caching长度ℓ按基础模型设定，且ℓ计入常驻sink κ0。评测提示来自MovieGen并经Qwen2.5-7B-Instruct细化，指标为VBench-Long维度加自建Color Drift、Motion Drift。

实验在Wan2.1-T2V-1.3B架构的不同基础模型上，将短时模型外推至分钟级，比较Deep Forcing、∞-RoPE、MemRoPE等测试期基线。采用VBench-Long标准维度与作者补充的Color Drift、Motion Drift指标，并以成对用户研究佐证。总体显示ID-Forcing在两项漂移指标与Dynamic Degree上稳定领先，在美学质量、成像质量与主体一致性上具竞争力；唯一例外是Motion Smoothness，作者认为该指标偏向低动态程度的退化输出。消融表明首块sink、重旋转与self-caching各有贡献，其中self-caching对抑制色彩纹理漂移和保持运动动态作用最大。

1. 在Self-Forcing基座的120秒生成上，ID-Forcing的Color Drift、Motion Drift、Dynamic Degree均高于基座与Deep Forcing、∞-RoPE、MemRoPE三个基线。

   Self-Forcing | 49.95 | 96.17 | 61.60 | 98.26 | 96.20 | 30.04 | 25.54 | 46.88 Deep Forcing | 57.26 | 96.28 | 65.94 | 98.21 | 97.22 | 45.49 | 59.65 | 71.88 ∞ \infty -RoPE | 55.54 | 95.58 | 67.42 | 97.64 | 96.18 | 62.30 | 54.15 | 85.16 MemRoPE | 55.45 | 95.78 | 67.70 | 97.69 | 96.32 | 62.90 | 59.25 | 82.81 ID-Forcing (Ours) | 58.23 | 96.13 | 68.20 | 97.77 | 96.76 | 65.65 | 72.37 | 89.06

2. 在LongLive基座的120秒生成上，ID-Forcing在Color Drift与Dynamic Degree上领先所有基线，Motion Drift接近最强基线。

   LongLive | 59.25 | 96.52 | 67.32 | 98.68 | 97.57 | 42.55 | 59.98 | 91.41 Deep Forcing | 58.31 | 96.48 | 66.12 | 98.49 | 97.55 | 45.14 | 60.24 | 89.84 ∞ \infty -RoPE | 56.90 | 96.22 | 66.53 | 98.53 | 97.12 | 52.81 | 58.20 | 95.31 MemRoPE | 57.63 | 96.39 | 68.40 | 98.65 | 97.30 | 49.18 | 65.49 | 96.88 ID-Forcing (Ours) | 58.99 | 96.48 | 68.73 | 98.57 | 97.87 | 55.01 | 70.94 | 96.09

3. 在Self-Forcing基座的240秒生成上，ID-Forcing在两项漂移指标与Dynamic Degree上均领先，基座随长度退化更明显。

   Self-Forcing | 44.90 | 96.21 | 58.38 | 97.97 | 95.59 | 29.61 | 20.98 | 56.25 Deep Forcing | 56.27 | 95.93 | 65.63 | 97.83 | 96.59 | 58.82 | 62.52 | 88.28 ∞ \infty -RoPE | 55.39 | 95.61 | 67.48 | 97.61 | 96.17 | 61.98 | 55.49 | 87.50 MemRoPE | 54.29 | 95.83 | 67.36 | 97.96 | 96.47 | 59.75 | 61.41 | 85.16 ID-Forcing (Ours) | 57.72 | 96.10 | 67.88 | 97.62 | 96.70 | 64.76 | 70.34 | 92.19

4. 在LongLive基座的240秒生成上，ID-Forcing在Color Drift与Dynamic Degree上领先，Motion Drift与最高基线相当。

   LongLive | 58.94 | 96.58 | 67.88 | 98.74 | 97.64 | 39.79 | 55.64 | 85.16 Deep Forcing | 57.91 | 96.27 | 66.61 | 98.40 | 97.17 | 46.02 | 57.08 | 89.06 ∞ \infty -RoPE | 56.63 | 96.14 | 67.07 | 98.48 | 96.97 | 53.95 | 56.72 | 94.53 MemRoPE | 57.64 | 96.35 | 68.58 | 98.66 | 97.30 | 48.76 | 64.23 | 96.88 ID-Forcing (Ours) | 60.44 | 96.40 | 68.79 | 98.50 | 97.57 | 56.13 | 71.76 | 96.09

5. 用户研究显示，ID-Forcing在色彩、背景、主体一致性、动态程度、时序闪烁与总体偏好六个维度上均被偏好于所有基线。

   Self-Forcing | 100.0 | 99.0 | 96.0 | 93.0 | 98.0 | 100.0 Deep Forcing | 90.0 | 84.0 | 85.0 | 81.0 | 97.0 | 95.0 ∞ \infty -RoPE | 91.0 | 90.0 | 87.0 | 75.0 | 91.0 | 93.0 MemRoPE | 88.0 | 82.0 | 78.0 | 59.0 | 89.0 | 86.0

6. 消融显示，依次加入sink、重旋转与self-caching后，漂移指标和Dynamic Degree总体改善。

   Self-Forcing | 49.95 | 96.17 | 61.60 | 98.26 | 96.20 | 30.04 | 25.54 | 46.88 + Sink | 55.23 | 95.59 | 64.68 | 96.88 | 95.70 | 46.90 | 48.65 | 67.19 + Re-rotation | 54.14 | 95.68 | 66.89 | 97.36 | 96.08 | 65.44 | 60.66 | 87.50 + Self-Caching (ID-Forcing) | 58.23 | 96.13 | 68.20 | 97.77 | 96.76 | 65.65 | 72.37 | 89.06

7. 论文进一步给出self-caching的增量收益：Color Drift从60.66提高到72.37，Aesthetic Quality从54.14提高到58.23。

   With self-caching, ID-Forcing yields the best score on every metric except Background Consistency and Motion Smoothness, which favor the collapsed output of Self-Forcing. Color Drift improves from 60.66 to 72.37 and Aesthetic Quality from 54.14 to 58.23, matching the reduced drifting and preserved dynamics observed in the frames.

8. 跨时长比较中，基线随生成时长增长性能下降，而ID-Forcing的Dynamic Degree基本保持稳定。

   Comparing across all four durations (30, 60, 120, and 240 seconds), several baselines exhibit a clear decline in performance as generation length increases, particularly on Dynamic Degree and the drift metrics ( e.g. Self-Forcing Dynamic Degree collapses from 44.58 at 30 seconds to 29.61 at 240 seconds), reflecting a growing tendency toward frame freezing and quality degradation over longer horizons. In contrast, ID-Forcing maintains largely consistent performance across all durations ( e.g. 65.94 at 30 seconds to 64.76 at 240 seconds), indicating that our method is robust to extrapolation and does not suffer from the same long-horizon degradation observed in the baselines.

9. 论文将Motion Smoothness视为唯一例外，认为该指标偏向低动态方法，而其他指标上ID-Forcing具竞争力或优势。

   The one exception is Motion Smoothness, which measures local frame-to-frame stability and is therefore inherently biased toward methods with lower dynamic degree; on all other metrics, ID-Forcing remains competitive with or superior to the baselines.

Novelty：novelty中等偏上。核心新意是把长视频漂移的归因从「读哪些KV」推进到「KV如何被写」，提出KV-provenance这一可诊断概念，并据此设计self-caching。单看组件，sink、RoPE重旋转、有界窗口都是已知技术；但把它们组织为「写入+读取」两级训练分布约束，且指出self-cached条目在滚动逐出下仍保持分布内，是清晰且非显然的贡献。方法免训练、无新架构，创新属于概念与测试期算法层面，而非模型能力层面。 Soundness：soundness中等。论证链条直观：缓存条目依赖provenance，滚动写入引入训练未见上下文，控制写入可避免OOD。但「训练分布内」主要通过provenance配置的等价性来论证，缺少对KV表示分布的实证测量或统计检验；「exactly in-distribution」的表述偏强。实验覆盖有限架构与基座，自动漂移指标较为粗糙，用户研究样本量小且未报告显著性，Motion Smoothness的例外也提示可能以局部平滑性为代价。结论方向可信，但需要更严格验证。 Significance：significance较高（在该子领域内）。若经验成立，ID-Forcing为任意长度的AR视频扩散提供极简、免训练的外推规则，可与更长上下文训练正交组合，对世界模型、流式内容与长叙事生成有实用价值。其局限在于绑定chunked AR视频扩散的KV/RoPE设定，普适性尚未证明；对更大模型与其他位置编码的迁移仍是开放问题。

本文的局限主要有几方面。其一，理论断言「保持训练分布内」依赖provenance配置等价这一直觉，未给出KV表示分布距离的实证测量或概率界，OOD程度与漂移的定量因果关系也未直接验证。其二，实验只在一个架构（Wan2.1-T2V-1.3B）与两个基础模型上完成，对更大模型、不同VAE、不同注意力结构或非RoPE位置编码的外推能力未知。其三，自动漂移指标较粗：Color Drift只比较首尾帧HSV直方图，Motion Drift只看首尾段Dynamic Degree差，无法刻画中段纹理退化、语义漂移或对象身份变化；同时Motion Smoothness的例外说明质量与动态之间存在张力。其四，用户研究样本规模有限、无显著性检验，主观维度较多但统计严谨性不足。其五，L与ℓ等超参数需按模型和训练视界选择，缺少自适应或自动调参机制；对多模态、长叙事语义一致性也未评估。最后，测试期开销未作系统报告，虽看似只增加重旋转与缓存规则，但在长序列上的实现效率仍需说明。

后续工作可从以下方向展开。第一，形式化KV-provenance与OOD的关系：用分布距离或探测分类器量化不同写入上下文下KV表示的实际偏移，检验「self-cached条目在逐出后仍分布内」的假设，并尝试给出误差累积界。第二，扩展验证范围：在更大参数量模型、不同视频扩散架构、非因果VAE与不同位置编码上测试，确认方法不是Wan/RoPE特例。第三，改进漂移度量：引入覆盖整条视频的时间一致性、纹理稳定性、对象身份保持和语义漂移指标，并与更大规模、带显著性检验的人类评估互补。第四，研究超参数自动选择与自适应窗口：让L、ℓ随内容复杂度、训练视界和缓存分布动态调整，或与KV压缩/记忆token方法结合以降低窗口约束。第五，探索将self-caching思路前移到训练阶段，或与更长上下文训练联合，形成「训练+测试期」的统一防漂移策略。第六，评估计算与存储开销，并拓展到音频、音视频、世界模型等更一般的自回归潜变量生成任务。

本文提出一种扩散语言模型（DLM）的后训练方法：在冻结预训练DLM的特征空间中，用最大均值差异（MMD）直接匹配生成序列与参考序列的上下文token表示分布。它与两类既有加速路线不同：逐步/渐进蒸馏和一致性蒸馏需要教师轨迹；IDLM、D-MMD、DiDi-Instruct等需要联合训练辅助模型或判别器。本文主张不需要完整采样轨迹、也不需要联合训练的辅助模型，就能从生成样本和参考样本直接计算分布匹配信号。方法覆盖离散模型（MDLM-MMD、DMax-MMD）与连续模型（ELF-MMD），并用策略梯度或穿过生成潜在的可微反传优化同一目标。工作定位是“有限采样预算下的后训练”：在OpenWebText上改善生成困惑度-熵权衡，在GSM8K上改善准确率-计算权衡，并在16B DMax模型上提高解码并行度。

DLM通过离散token空间或连续潜在空间中的迭代去噪生成文本。离散模型常用逐token交叉熵训练分解式去噪器以拟合条件边际，连续模型常用平方误差预测干净潜在来估计条件均值；这些条件估计能指导采样，但不保证少量步骤得到高质量样本。已有加速方案分两类：一是蒸馏类，训练学生一次复现多个教师去噪步（逐步蒸馏、渐进蒸馏），或学习大步转移（一致性模型、flow-map matching，如CDLM、FMLM）；二是辅助模型分布匹配类，用生成器持续输出训练辅助去噪器（IDLM、D-MMD）或密度比判别器（DiDi-Instruct），再用其梯度或奖励更新生成器。这些方法有效但依赖教师目标或联合训练辅助模型。MMD本身是经典的两样本核距离（Gretton et al.），但效果高度依赖比较空间：高维原始空间的距离未必反映语义差异。MMD-GAN对抗学习表示，GFMN匹配冻结网络特征统计；视觉生成中，在预训练特征空间做MMD或相关目标已实现一步/少步高质量生成；EBFT则把冻结特征匹配引入自回归LLM微调，但其基础目标对应条件线性核MMD且每条rollout压缩为单个特征向量。这些线索共同启发本文：用冻结预训练DLM的逐位置上下文特征作为比较空间，对离散和连续DLM做分布匹配后训练。

方法核心是把分布匹配放在冻结预训练DLM的上下文token表示空间，而不是token身份空间或外部判别器空间。机制分四块：表示与评分位置、序列核与MMD估计、离散模型策略梯度、连续模型可微反传与多步采样。 （1）表示提取与评分位置。给定序列x，冻结DLM输出中间隐状态 φ(x)=(φ_1(x),…,φ_L(x))∈R^{L×D}（式2），位置i的特征携带其可用的前后文。实际从干净样本提取特征：论文报告在中间扩散时间步加入噪声没有带来改善；真实样本与生成样本用同一提取规则。评分位置集S的选择取决于任务：无条件潜在生成取全部位置；提示式潜在生成只取响应位置；掩码DLM只取被掩码位置。提取器仍然处理完整可用上下文，所以S之外的信息可以进入所选特征，这也意味着序列内特征可能相关，估计器必须处理这种依赖。保留逐位置特征而非池化成单向量，使一次前向得到|S|个观测，尤其有利于“一个条件只有一个参考序列”的情形。 （2）目标分布与序列核。形式上，从数据分布采x~p_data(·|c)，在S中均匀抽一个位置J，把φ_J(x)的分布记为P_φ(·|c)；生成侧同理定义Q_{θ,φ}(·|c)。用高斯RBF核k匹配两个特征分布，目标为L_MMD=E_c[MMD_k²(P_φ(·|c),Q_{θ,φ}(·|c))]（式3）。理论直觉来自MMD-GAN的论证：若特征映射单射且核为特征核，零总体MMD等价于原分布一致；近期关于因果transformer最后token表示“在假设下几乎必然单射”的结果被引作动机，但作者明确承认这不等于“匹配本文token特征分布能唯一确定序列分布”。实现上并不真的按单位置采样，而是利用一次前向的所有评分位置特征，定义序列核 κ_φ(x,x′)=1/(|S||S′|)Σ_{i∈S}Σ_{j∈S′}k(φ_i(x),φ_j(x′))（式4）。它是两条序列经验核均值嵌入的内积，因此是序列空间上的半正定核。 （3）MMD估计的无偏处理。无条件下，设实样本与生成样本批次各含B条i.i.d.序列、批间独立，用U统计量式5：1/(B(B−1))Σ_{b≠b′}[κ(real,real)+κ(gen,gen)]−2/B²Σ_{b,b′}κ(real,gen)。关键细节是b≠b′：它排除同一序列内的所有token对（含不同位置），以保持无偏；也就是说，B条序列×|S|个特征虽然给出B|S|个观测，却不被当作B|S|个独立样本，保留同序列对一般会引入偏差。real-real项与θ无关，优化时省略；gen-gen项惩罚生成特征之间的相似性、防止坍缩，要求B≥2，B=1时只剩“吸引”项，论文消融显示这会使离散模型变差、连续模型迅速坍缩。条件场景（更常见）下每条件一个参考、B个独立生成样本，用式6：L̂_train=1/(B(B−1))Σ_{b≠b′}κ(gen,gen)−2/BΣ_bκ(ref,gen)；其期望等于条件平方MMD加减与θ无关的常数，因此优化时无需估计real-real项。 （4）离散模型与REINFORCE。给定噪声输入x_t与评分位置S，去噪器定义分解式采样分布 q_θ(x^g|x_t)=Π_{i∈S}q_θ(x^g_i|x_t)，S外位置保持x_t,i（式7）。参考x^r在S处是干净目标token、其余上下文与x_t共享。采样序列与参考都送入冻结提取器，S处特征进入MMD。由于分类采样不可微，用REINFORCE：对同一参考和x_t抽G组独立MMD batch（每组B条），每组以负MMD估计为奖励r_g，其余组作留一基线 A_g=r_g−(1/(G−1))Σ_{h≠g}r_h（式8），再最小化式9的代理损失 L_PG=−(1/G)Σ_g A_g Σ_b Σ_{i∈S}log q_θ(x_{g,b,i}|x_t)。因奖励依赖整批，奖励乘整批序列log概率之和；基线条件独立于共享参考与x_t，不改变期望梯度；G=1时退化为A_1=r_1。实例化：MDLM-MMD的x_t是掩码态、S只含掩码位置；DMax-MMD后训练混合掩码-均匀的DMax，MMD同时训练其掩码预测损失和“对模型自身token预测进行refinement”的预测损失，块扩散时在块内以可用上下文应用目标。后训练完成即恢复各模型原有采样过程。 （5）连续模型与多步采样。ELF-MMD从预训练ELF初始化G_θ，训练一步潜在生成器 x^g=G_θ(z,t=0,SC=0)，z~N(0,I)（式10）；特征取 φ(x)=φ_ELF(x,t=1,SC=x)（式11），MMD梯度直接穿过提取器输入与生成潜在反传。多步推理用自条件迭代细化：x̂^(k)=G_θ(z^(k),t=0,SC=x̂^(k−1))，k=1..K（式12），噪声可跨迭代固定或独立重采样，t保持0；K步细化后再在t=1、空SC下做一次评估得到token logits并argmax，共K+1次网络评估。为缓解“训练时单步空SC、推理时多步有SC”的失配，训练时均匀采样0..n−1个预细化步，以固定噪声、不计算梯度地执行这些预步骤，仅对最后一步反传（bootstrapping）。可选地再做迭代细化蒸馏IRD：冻结ELF-MMD教师以同一噪声跑K步，学生以SC=0单步MSE回归教师最终输出（式13-14）；IRD后仍可继续迭代自条件。解码器微调沿用ELF的交叉熵重构，并增大约20%全局批大小容纳额外样本。训练数据方面，OpenWebText按长度L=1024打包；TinyGSM最大长度L=512；MDLM-MMD用冻结MDLM特征、策略梯度组大小G=4；连续实验用ELF-B，潜在空间分别取T5-small末层隐表示与GPT-2 Large表示（OWT）以及GPT-2 Small表示（GSM8K），并采用移位时间步调度（shift 32与128）。

总体实验结论：在OpenWebText无条件生成上，离散MDLM-MMD在熵对齐时取得比IDLM、IDLM-REINFORCE、DiDi-Instruct等更低的生成困惑度；连续ELF-MMD在多数采样预算上优于ELF、ELF-PD与ELF-GAN，叠加IRD后在少步预算上进一步改善。在TinyGSM训练的GSM8K条件生成上，MDLM-MMD与ELF-MMD（及+IRD）在中等和高预算上改善准确率-计算权衡，pass@k也在小预算上占优。16B规模的DMax-Math-MMD与DMax-Coder-MMD在数学和代码基准上以相似或更高准确率提高了token-per-forward解码并行度，且后训练成本较低。消融支持token级RBF核、保留生成-生成排斥项、使用扩散模型自身特征、留一基线与适度自举；方法在放大到ELF-M后仍保持收益。注意：本段不给出具体数值，所有数字见下方claim+quote对。

1. 在OpenWebText无条件生成中，把曲线插值到参考数据熵时，MDLM-MMD的生成困惑度在8/16/32步三个采样预算上比IDLM低约17–21%。

   In particular, interpolating the curves at the reference-data entropy gives ∼ 17 {\sim}17 – 21 % 21\% lower generative perplexity than IDLM across the three sampling budgets.

2. 在GSM8K条件生成中，MDLM-MMD在中等和高解码预算上准确率更高，在约49步达到约54%准确率。

   As shown in Fig. 3 , MDLM-MMD achieves higher accuracy at moderate and high decoding budgets, reaching ∼ 54 % {\sim}54\% accuracy at ∼ 49 {\sim}49 steps.

3. 在GSM8K上，ELF-MMD+IRD在4步从14.2%提升到20.8%、8步从27.5%提升到32.5%（对比ELF-PD的15.9%和23.5%）；64步达到36.3%，高于ELF-MMD的35.2%和ELF的31.6%。

   At 4 and 8 steps, accuracy rises from 14.2 % 14.2\% to 20.8 % 20.8\% and from 27.5 % 27.5\% to 32.5 % 32.5\% , respectively, compared with 15.9 % 15.9\% and 23.5 % 23.5\% for ELF-PD. At 64 steps, ELF-MMD + + IRD reaches its highest accuracy of 36.3 % 36.3\% , compared with 35.2 % 35.2\% for ELF-MMD and 31.6 % 31.6\% for ELF.

4. 在OpenWebText上，IRD在4步时相对ELF-MMD把生成困惑度降低约30点（T5编码器）和约10点（GPT-2编码器），并使熵更接近参考值。

   IRD further improves few-step results: at 4 steps, it reduces generative perplexity relative to ELF-MMD by ∼ 30 {\sim}30 and ∼ 10 {\sim}10 points with the T5 and GPT-2 encoders, respectively, while bringing entropy closer to the reference value for both encoders.

5. 16B DMax后训练：四个数学基准上DMax-Math-MMD相对DMax-Math报告的运行点把TPF提高10.3–16.5%且准确率相似或更高；代码上DMax-Coder-MMD在HumanEval-Instruct提高2.4个百分点、MBPP-Instruct提高3.8个百分点，同时TPF也提高。

   Across the four math benchmarks, DMax-Math-MMD increases TPF by 10.3 10.3 – 16.5 % 16.5\% over the reported DMax-Math operating points while achieving similar or higher accuracy. On code benchmarks, DMax-Coder-MMD improves accuracy by 2.4 2.4 percentage points on HumanEval-Instruct and 3.8 3.8 points on MBPP-Instruct, while also increasing TPF on both benchmarks.

6. 16B DMax-MMD训练成本很低：400训练步，DMax-Math约13分钟、DMax-Coder约19分钟，8张H100，分别约1.7和2.5 GPU小时（仅训练，不含初始化与评估）。

   We perform 400 training steps that take ∼ 13 {\sim}13 minutes for DMax-Math and ∼ 19 {\sim}19 minutes for DMax-Coder on eight NVIDIA H100 GPUs, corresponding to ∼ 1.7 {\sim}1.7 and ∼ 2.5 {\sim}2.5 GPU-hours per run, respectively.

7. 损失消融表明，token级RBF在GSM8K上给出最强的准确率-计算权衡，attraction-only与feature regression损失准确率更低，连续模型尤甚。

   On GSM8K, token-level RBF gives the strongest accuracy–computation trade-off, with larger gains for discrete models and more modest improvements for continuous models. Attraction-only and feature regression losses yield lower accuracy, particularly for continuous models.

8. 表示空间消融表明，扩散模型自身的特征在离散和连续DLM上都取得最高准确率，优于token嵌入、自回归特征、输入潜在与外部编码器特征。

   Diffusion-based features achieve the highest accuracy for both discrete and continuous DLMs. They outperform token embeddings and autoregressive features in the discrete setting, as well as input latents and external-encoder features in the continuous setting.

9. 策略梯度组大小消融表明，从G=1提升到G=2（启用留一基线）收益最大，G∈{2,4,8}结果相近，因此采用G=4作为默认。

   The largest improvement occurs when increasing G G from 1 1 to 2 2 , which enables the leave-one-out baseline. Further increases yield negligible gains: G ∈ { 2 , 4 , 8 } G\in\{2,4,8\} produce similar trade-offs. We therefore adopt G = 4 G=4 as a shared default and keep it fixed across all other discrete MMD post-training experiments on OWT and GSM8K.

10. 模型规模缩放表明，ELF-M-MMD在每个采样预算上都超过原始ELF-M；较小的ELF-B-MMD在4–16步超过ELF-M、32步相似，说明方法随规模增大仍有效。

    ELF-M-MMD also outperforms the original ELF-M at every budget, indicating that the benefits of our method persist when scaling from ELF-B to ELF-M. The smaller ELF-B-MMD achieves higher accuracy than ELF-M at 4 4 – 16 16 steps and similar accuracy at 32 32 steps.

Novelty：新颖性中等偏上。论文没有提出新的MMD理论或新的生成架构，而是把“冻结表示空间中的MMD”系统性地迁移到DLM后训练：用冻结DLM的逐位置上下文特征构造PSD序列核，并用同一无偏估计器分别对接离散REINFORCE与连续可微反传。相比EBFT（单rollout特征向量、线性核）和视觉SwD（patch级预训练扩散特征），逐token RBF核与“一次前向得到多个观测但按序列去相关、排除同序列对以保持无偏”的估计处理有增量贡献。不过各组件（MMD-GAN、GFMN、SwD、EBFT、ELF自条件细化）都有先例，整体是组合式创新。 Soundness：方法推导总体扎实：序列核是经验核均值嵌入的内积、因而半正定；无偏估计中b≠b′的动机清楚；留一基线条件独立于共享参考和x_t、不改变期望梯度；条件训练损失的期望等于条件平方MMD加减常数。但有几个未完全闭合之处：特征单射性只被引为动机，作者明确说“does not establish that matching our token-feature distributions uniquely identifies the sequence distribution”；连续模型训练（单步空SC）与推理（多步有SC）的失配靠bootstrapping近似缓解，缺乏严格刻画；多数曲线图数据（消融、表示、组大小、缩放）只以图呈现，难以独立复核；部分基线（D-MMD、TokenDrift）无实现、直接引用原论文数字，可比性有限。整体判断为基本可靠、但需补充统计显著性与更多可复现数据。 Significance：实践意义明显：为离散与连续DLM提供了一种简单、低成本的后训练信号，16B模型约十几分钟即可完成400步后训练，避免教师轨迹与辅助模型，并在少步采样、GSM8K准确率-计算权衡、DMax并行解码（TPF）上表现出可扩展收益。科学意义上，它把视觉中的预训练特征分布匹配与LLM特征微调连接起来，验证了“冻结DLM自身特征可作为通用分布匹配空间”这一思路。局限是收益幅度在不同模型和预算上不均匀，连续模型部分改进有限，且评估范围偏窄；因此更偏向“有推广潜力的工程/方法贡献”，而非范式级突破。

（1）性能对RBF带宽和表示空间选择敏感；当前只用单层、干净输入的特征，未系统探索多层、多噪声级或集成提取器。（2）连续模型的训练-推理失配只靠bootstrapping近似处理，理论保证不足。（3）只匹配token特征分布是否唯一确定原序列分布，论文自己未给出证明。（4）MMD在高维空间中的样本效率和距离退化问题未深入讨论，RBF带宽选择细节主要留在附录。（5）评估集中在OpenWebText、TinyGSM/GSM8K以及DMax的数学与代码基准，缺少指令遵循、长文本、对话、安全性/人类偏好等更广维度；pass@k和部分曲线图缺乏表格化精确数据。（6）离散REINFORCE对组大小、批量和奖励方差敏感；部分强基线无公开实现或检查点，只能引用原论文结果，可能不完全可比。（7）表格中个别基线（如Masked D-MMD p=1.0）数值异常，正文未解释其失败机制。

表示设计是首要跟进方向：融合多层/多噪声级特征、多提取器集成、白化或协方差匹配，学习自适应RBF带宽，或把MMD与Representation Fréchet Loss、Drifting Models的吸引-排斥场结合。理论方向：刻画token特征MMD的分布识别条件、样本复杂度与维度关系，并给出连续模型bootstrapping的收敛或一致性分析。算法方向：把MMD与离散DLM的其他目标组合（作者已提到），或与一致性采样、flow-map匹配、IRD更紧耦合，探索单步DMax解码的质量上限。评估方向：扩展到指令遵循、长文本、代码与数学之外的基准以及人类偏好，报告更完整的表格数据、方差与统计检验，并补齐D-MMD、TokenDrift等基线的本地复现对比。

本文属于机器人智能体系统/harness 设计，而非新的视觉-语言-动作模型或底层控制算法。其核心立场是：机器人操控的困难不在于让模型承担更多几何、规划与控制计算，而在于把任务相关的物理选择（目标、位置、姿态、调整量）保留在智能体可见、可改的接口上，同时把几何实现、运动规划和底层控制委托给固定后端。RobotUse 以“意图规格”为边界：主智能体负责任务意图与子目标，子智能体在局部上下文中通过视觉选择候选和姿态并修订，后端执行。相比代码策略（CaP）与技能接口（SayCan、Open Robot Skill），它试图同时避免“隐藏可调整选择”和“让模型维护执行代码”两种极端；相比 PIVOT，它把视觉候选选择扩展为贯穿子目标的闭环修订机制，并引入子智能体上下文隔离与持久 playbook 的经验积累。

机器人智能体设计需要回答：哪些责任归模型推理，哪些应委托给程序或后端。通用智能体 harness 文献中，ReAct 将推理-行动-观察交织；SWE-agent 显示工具与环境反馈设计塑造行为；递归语言模型与 Prime Agent 把长上下文变成可编程检查、递归子会话和持久状态；Deep Agents 通过委派隔离详细工作；Reflexion 用口头反馈改进后续试验；Continual Harness 用执行轨迹更新提示、技能与记忆。RobotUse 把这种计算/上下文分配搬到物理动作上。 机器人操作侧，VLA（RT-2、OpenVLA、π0）直接映射图像与指令到动作；SayCan 用语言相关性与 affordance 接地技能选择；Inner Monologue 用环境反馈修订计划；PIVOT 通过把候选动作渲染到图像上让 VLM 迭代视觉选择；CaP 生成组合感知与控制 API 的程序；ASPIRE 从多模态轨迹诊断、修复程序并积累技能库；GaP 构建感知-规划-控制图并在仿真排练中精化。这些工作要么把执行细节留给模型，要么把选择隐藏在技能/工具内。 本文归纳三个挑战：一是委托执行同时保留决策——高层执行单元可能隐含抓取点、接近方向等任务相关选择，展开为代码又暴露实现；二是把物理结果与修订连接——失败可能源于目标选择、接近方向或接触位置，命令调用的单元与需要修订的选择可能不一致；三是为修订维护上下文——当前观察、先前选择、执行结果与尝试调整在子目标内不断累积，而任务级决策只需要结果、变化场景与未解决约束。RobotUse 的设计即围绕这三个挑战展开。

## 1. 设计原则：意图规格作为接口 RobotUse 把空间执行命令实例化为规格 z_t 而非技能调用或代码。核心分工为： z_t ~ πθ(·|g_i, h_t^(i), P), ξ_t ~ B(·|s_t, z_t)。 g_i 是当前子目标，h_t^(i) 是子智能体局部历史，P 是持久 playbook；πθ 选择目标、位置、姿态等规格 z_t；后端 B 依据当前状态 s_t 生成实际运动 ξ_t。后端做几何转换、运动规划与控制，环境响应由 P_I 捕获。这样，模型不再重复推导几何实现，但保留了“抓哪里、以什么姿态、如何调整”这些任务相关选择。 图 2 的对照直观说明问题：代码策略调用高层 grasp 会隐藏抓取选择；朴素展开虽然暴露实现，却仍由基于分数的规则决定抓取点；RobotUse 把候选及其姿态作为智能体选择和修订的一等对象。规格通过指向（pointing）、候选选择（candidate selection）和姿态编辑（pose editing）修改，并使用视觉与诊断反馈。 ## 2. 子目标交接（handoff） 主智能体根据总目标、playbook 和历史 H_i 选择一个语言子目标 g_i、约束与任务上下文，交给通用子智能体。子智能体维护独立上下文 h_t^(i)，返回报告 ρ(h^(i))，主上下文更新： H_{i+1}=H_i⊕(g_i, ρ(h^(i)))。 主、子智能体使用同一模型 πθ，只是上下文分离。子智能体在子目标完成或“进展需要重新考虑子目标/约束”时返回；报告包含结果与原因、当前图像、已选目标/姿态、修订记录与未解决问题。这些字段让主智能体知道委派期间发生了什么、哪些约束应指导下一步。详细交互历史留在子智能体局部上下文，主智能体只累积交接与报告，从而控制长期上下文增长。 ## 3. 闭环空间交互 子智能体内部循环：观察场景 → 指定空间选择 → 检查反馈 → 修订或执行。指向确定目标/位置；候选选择在后端生成的备选中挑选；姿态编辑调整位置与朝向。检查与执行给出不同反馈：执行前可查看预览与可行性诊断，不可行请求返回诊断而不执行；执行后用新观察与诊断判断进展并决定是否修订规格。例如，接近被阻挡可促使改变方向，目的地选错可促使平移调整。规格是修正的共同参照。局部上下文保留观察、候选、调整与执行反馈，使后续决策能引用“尝试过什么、为什么改”。若修正需要改变子目标或约束，子智能体返回证据供任务级重新决策。 ## 4. 实现细节 空间规格实现为标定 RGB-D 观察上的结构化工具调用。被选目标注册为引用，后续候选生成调用消费该引用；每个候选都有引用，用于检查、调整和执行。检查候选生成姿态卡片，包含测量点与夹爪的侧视、俯视和闭合平面视图；调整生成更新卡片。智能体可在机器人基座坐标系中平移，并绕夹爪接触中心旋转，然后请求运动。后端把请求解析为机器人姿态并返回规划/执行反馈，使被选候选成为视觉检查与运动请求之间的连接。放置运动保持夹爪闭合，释放需单独请求；参考检查防止旧候选在场景变化后被当作新的可执行选择。 ## 5. 持续 harness 与 playbook 跨 episode 的经验通过持久 playbook 保留。每轮由外层 refiner 从主智能体轨迹更新 playbook，轨迹包含委派、返回报告与后续任务级决策；局部执行细节通过报告可得。精化记录特定空间选择与恢复策略在何种条件下有效、委派需要哪些上下文、后续规划需要哪些发现；新证据可限定或修改旧指导。playbook 是版本化 Markdown 文档，包含通用指导与角色专属段；每个智能体提示加载通用段与当前角色段，记录 SHA-256 哈希以追踪版本。refiner 只编辑 playbook，不更新模型参数与后端代码。 ## 6. 训练与数据 本工作没有模型权重训练或微调：主/子智能体共用同一语言模型（评估中为 Gemini-3.8-Flash），学习完全发生在 playbook 的文本更新上。仿真数据来自 RoboLab 桌面操作任务，覆盖简单、中等、复杂三个难度层级，动态物体位置在不同种子下随机化；真实机器人数据来自 Franka Panda 的抓放、叠方块和按按钮任务，观察来自腕部相机和两个固定相机，物体在作业空间内随机放置。因此，“学习”的机制是：执行失败/成功轨迹 → 主智能体报告与决策序列 → 外层 refiner 提取条件化教训 → 更新 playbook → 后续轮次以新指导改变委派、选择与修订，而后端与模型保持不变。

实验部分在仿真与真实机器人两个层面展开。仿真层面使用 RoboLab 任务目录，对比直接动作策略、代码/技能类智能体和 RobotUse 的总体及难度分层成功率；随后通过移除抓取工具考察对预定义动作抽象的依赖；通过单智能体对照考察子目标上下文隔离对输入长度、token、成本与成功率的影响；通过多轮 playbook 修订考察从失败中学习。真实机器人层面考察冻结 playbook 后的可靠执行，以及经验向后续任务的快速迁移。以下 claims 逐条给出原文数字证据。

1. RobotUse 在 RoboLab 40 任务上总体成功率为 45.00%（54/120），比 CaP-X 高 6.67 个百分点、比 Open Robot Skill 高 25.00 个百分点。

   RobotUse succeeds in 54/120 episodes (45.00%), exceeding CaP-X by 6.67 percentage points and Open Robot Skill by 25.00 points.

2. 在难度分层上，RobotUse 在总体、Simple、Complex 类别均最高，Moderate 类别由 Cosmos 3 领先。

   RobotUse has the highest overall, Simple, and Complex success rates, while Cosmos 3 leads on Moderate tasks.

3. 移除抓取工具后，RobotUse 仍保留原先成功率的 75%（从 50.00% 降到 37.50%），而 CaP-X 从 45.00% 降到 17.50%。

   Across 40 tasks, RobotUse retains 75% of its original success rate after grasp-tool removal, falling from 50.00% to 37.50%; CaP-X falls from 45.00% to 17.50%

4. 去掉子智能体后，单智能体条件的平均每次调用输入增加 4.2×、平均 episode 峰值增加 3.5×，总 token 增加 4.9×、API 成本增加 2.4×；任务成功率从 45.0% 降到 40.8%。

   Without subagents, mean input per call increases by 4.2 × 4.2\times and the average episode peak by 3.5 × 3.5\times , raising total token usage by 4.9 × 4.9\times and API cost by 2.4 × 2.4\times . Task success also drops from 45.0% to 40.8%

5. RobotUse 每 episode 使用 596.8k token 和 $0.511，单智能体执行使用 2,909k token 和 $1.221；成功数分别为 54/120 和 49/120。

   RobotUse uses 596.8k tokens and $0.511 per episode, compared with 2,909k tokens and $1.221 for single-agent execution. The average numbers of model calls per episode are 41.6 and 41.1, respectively. Success counts are 54/120 for RobotUse and 49/120 for single-agent execution.

6. 在 40 任务目录上，经验修订使成功数从 19/40 提升到 22/40，且第 3 轮在 40 个新 episode 上评估冻结策略。

   Success increases from 19/40 to 22/40 across revisions (Figure 7 ); round 3 evaluates one frozen policy in 40 new episodes.

7. 真实机器人上，各任务首次成功后冻结 playbook，RobotUse 在每任务 25 次独立评估试验中全部成功。

   With the playbook frozen at each task’s first success, RobotUse succeeds in all 25 separate evaluation trials per task.

8. 评估协议为：语言智能体每方法 120 个 episode，直接动作策略每方法 400 个 episode；真实机器人比较每方法每任务 25 次试验。

   Language-agent results use three trials per task (120 episodes per method); direct-action policies use ten trials per task (400 episodes). The real-robot comparison uses 25 trials per method and task, with RobotUse’s playbook frozen after a separate learning phase.

Novelty：新颖性中等。单看各组件——视觉候选选择（PIVOT）、子智能体委派（Prime Agent/Deep Agents）、从轨迹更新记忆/技能（Reflexion/Continual Harness）、把程序作为生成对象（CaP/ASPIRE/GaP）——都非首次提出。RobotUse 的新意在于把这些机制整合到机器人操控的特定边界上：把“候选+姿态”明确作为智能体可检查和修订的接口，把几何执行完全后移；同时用子目标局部上下文与报告切分修订历史，用 playbook 保留条件化经验而不修改后端。这更接近系统/接口贡献，而非算法或理论创新。对“委托执行同时保留决策”这一边界给出清晰形式化和可运行实现，有一定设计新颖性，但缺少与 PIVOT 或直接展开接口的受控消融来证明该边界单独带来收益。 Soundness：合理性中等。任务成功定义清晰（最终验证器），语言智能体统一使用同一模型，后端在 CaP-X 与 RobotUse 间共享以保证公平；单智能体对照、移除抓取工具、多轮修订与冻结评估等设计能回应部分替代解释。主要问题是：直接动作策略与语言智能体采用不同评估协议（试验次数、初始化/种子），跨类比较不完全同分布；多轮 playbook 修订在同一任务目录上迭代，存在对评测任务过拟合的风险，尽管第三轮在冻结策略的新 episode 上评估；真实机器人实验任务少，且文本未给出 π0.5/Cosmos 基线在真实机器人上的量化结果，跨任务泛化证据有限；缺少置信区间与统计检验；消融不足以分离 playbook、子智能体上下文、视觉规格三者各自的贡献。总体结论有支撑，但应视为系统层证据而非严格因果证明。 Significance：意义中等偏高。它回应了一个实际且通用的问题：机器人智能体应如何划分模型决策与后端执行，以及长期经验如何以低成本进入后续决策。若该边界设计在更多任务与机器人上成立，可降低长程操控的上下文成本，并让经验积累不依赖重训或重写控制代码。其局限是结论绑定 RoboLab 与 Franka 场景、特定 LLM 和后端实现，目前更像可复用的 harness 方案而非被广泛验证的原则。对从事 agent harness、机器人基础模型应用、持续学习系统的研究者有参考价值。

1) 评测范围有限：仿真只在 RoboLab 目录，真实机器人只有三类桌面任务，任务数量和多样性不足以支撑“通用操作”声明。 2) 经验学习的泛化风险：playbook 修订基于同一批任务的失败观察，可能学到针对任务目录的提示性捷径；跨任务迁移仅在少量真实任务上展示，未系统控制任务相似度。 3) 消融不足：没有分别关闭视觉规格、子智能体上下文隔离、playbook 来量化各自贡献，难以判断性能来源。 4) 基线公平性：直接动作策略与语言智能体的试验协议、初始化和停止规则不同；π0.5 使用独立 OpenPI 客户端且无种子参数，跨类比较需谨慎。 5) 真实机器人证据有限：正文未给出 π0.5/Cosmos 在真实机器人上的量化对比，且“首次成功后冻结 playbook”可能掩盖学习过程中的方差。 6) 资源与实现耦合：成本比较依赖具体后端、缓存 token 计价与工具实现；未讨论多机器人、移动操作、动态障碍或接触丰富任务下的扩展性。 7) 报告由语言生成，可能丢失局部关键细节；报告质量与主智能体决策的因果链未被单独评估。

后续工作可沿几个方向：(a) 对 PIVOT 式视觉选择、单智能体长上下文、代码策略和 RobotUse 做同后端、同模型的逐组件消融，分离接口、上下文隔离与 playbook 的贡献；(b) 在更多仿真基准与真实机器人任务（移动操作、接触丰富、动态扰动）上检验意图规格边界的普适性；(c) 研究 playbook 的条件化检索与冲突消解，避免随经验增长而退化，并加入失败预测/不确定性估计；(d) 比较“冻结后端+文本经验”与轻量微调、技能库更新（ASPIRE/GaP）在样本效率与迁移上的差异；(e) 改进报告机制，如结构化证据、图像差异、关键帧与未解决约束的可验证摘要，减少语言报告的信息损失；(f) 研究自动决定何时提升/降低抽象层级——某些子目标可能需要暴露更低层接触约束，另一些则应进一步封装——使边界随任务自适应。

本文把大语言模型驱动的 autoresearch 引入分子几何优化器设计。任务不是训练新的势能面或机器学习力场，而是直接改写优化器算法，在相同收敛标准下减少力调用次数。作者先建立包含 27 个现代优化器配置的基线面板，确认 Sella 2.5.0 在四个数据集中力调用最少，随后以 Sella 的单文件代码为起点进行两路独立演化，得到 AutoSella-F 与 AutoSella-A。核心主张是：在 GFN2-xTB 上搜索出的改进能迁移到未见分子、新化学域，以及搜索中从未见过的 GFN-FF 与 r2SCAN-3c 势能；尤其在 DFT 层面，减少力调用会近似等比地降低弛豫墙钟成本。贡献被归纳为带双门的 autoresearch 循环、两个演化优化器，以及跨分子和势能的泛化评测。

分子几何优化的成本通常用力评价次数衡量。在经验力场上该成本可能与算法本身相当，但在 DFT 级别梯度计算主导墙钟时间，因此优化器所需步数直接决定弛豫价格。几十年来人工设计已形成大量方法：拟牛顿更新、有理函数步、冗余内坐标、模型 Hessian、不同坐标系统、图预条件子和阻尼动力学等；软件层面有 ASE、geomeTRIC、pysisyphus、Sella 等。与此同时，LLM 程序搜索已能通过变异算子演化代码，FunSearch、AlphaEvolve、EoH、ReEvo、LLaMEA 以及 Lion 的程序搜索都展示了从数学构造到优化启发式的自动发现；AI Scientist、Agent Laboratory、AlphaLab、AutoSOTA、SAGA 等则把自动化扩展到研究流程。本文的直接背景是：DFT 弛豫太贵，无法在目标势能上评估数百个候选优化器，因此搜索在 GFN2-xTB 上进行；同时必须防止两类失败——候选优化器对训练分子过拟合，以及通过提前停止伪造更少的力调用。作者因此设置验证集上的泛化门和训练集上的有效性门。相关工作还包括 GOLF、∇²DFT、PubChemQCR、Matbench Discovery、OC20 等 MLFF 弛豫基准，本文则补充一个跨势能保持力调用节省的优化器评测。

任务与度量。优化器接收一个分子和一个力评价器，需在尽可能少的力调用内达到固定收敛判据。令 n_i 为分子 i 的力调用数，n_i^ref 为参考优化器在同分子上的力调用数。成本有两个聚合：C_pooled = Σ_i n_i / Σ_i n_i^ref，C_per-mol = (1/N) Σ_i n_i/n_i^ref。前者由参考轨迹最长的分子主导，后者对每个分子等权。弛豫深度用相对能量回收 r_i = (E_i^start − E_i^final)/(E_i^start − E_i^final,ref)，r̄ = (1/N) Σ r_i；r_i=1 表示下降到与参考相同，小于 1 表示提前停止，大于 1 表示到达更深的极小。这一双指标很关键：只看力调用会奖励早停，所以门控要求 r̄≥1。 数据与训练/验证。训练和验证结构主要来自 SPICE 2.0.1。药物样分子取自 PubChem 子集，非共价二聚体取自 DES370K 子集；通过多样性采样得到训练 225 个 PubChem 分子和 219 个 DES370K 二聚体，验证 250 个 PubChem 分子和 215 个 DES370K 二聚体，再补充 25 个已注册药物，形成 469 个训练、465 个验证结构。留出评测集包括 500 个 OOD PubChem 分子、673 个二肽、475 个氨基酸-配体对和 100 个溶剂化 PubChem 系统。搜索在 GFN2-xTB 上进行，因为它力场精度足够引导搜索、成本又足够低。收敛采用 geomeTRIC 风格的五条高斯判据：相邻力评价之间的能量变化、最大梯度、RMS 梯度、最大位移、RMS 位移同时达标；位移在最优刚体对齐后测量，以去除整体平动和转动。训练与验证力调用上限 200，溶剂化 PubChem 留出集上限 500。 循环与双门。Sella 2.5.0 被整理成单文件 algo.py，代理只能编辑该文件。每个循环中代理提出一个假设，修改并提交 algo.py；远端评价器先在训练集上计算候选的 C_per-mol^t 和 r̄^t，并返回逐分子表（相对力调用、相对能量、最终能量差、收敛状态）。有效性门要求训练集上无评价错误、r̄^t ≥ 1、且 C_per-mol^t < C*_per-mol − δ（δ=1e-4，防止数值噪声冒充进步）。通过后在验证集重测；泛化门要求同样无错误、r̄^{t,V} ≥ 1、且验证 C_per-mol^{t,V} < 冠军验证值 − δ。任何一门失败就丢弃候选并恢复冠军再编辑。两门分别阻止奖励黑客（欠弛豫、早停）和对训练集过拟合。门不检查几何本身，作者另以重原子 RMSD 和振动分析比较构象。逐分子表是形成化学假设的关键：聚合指标告诉代理一个机制是否有用，逐分子表告诉它具体哪些分子受益或受损。 执行环境。代理在隔离容器中运行，只读根文件系统与数据集，禁止修改评价器、收敛判据、分子集或基线元数据；数值实验必须通过远端评价器。评价基础设施由受限 SSH 中继、Redis 任务队列和 192 个单线程 worker 组成，候选按分子并行评价；失败或未收敛的优化可下载诊断包，包含最近几何/力帧、能量、力调用数、收敛指标与异常回溯。代理记忆包括结果表、泛化/非泛化表、叙事日志、backlog 和保存的想法实现，便于形成后续假设。 被发现的机制。两路运行都呈现“提出—诊断—修复”的轨迹。Fable 的主要收益来自修正物理模型并更有效复用历史梯度：加入非共价接触缺失的曲率并随几何更新该模型；发现存储的梯度差会部分抵消修正，于是调整历史信息复用；还在首次 xTB 调用前准备构象与片段位置。Astra 后期接受的改进较小。附录消融把 AutoSella-F 的改动分为若干块：A 几何初始化（固定规则修正甲基旋转取向、使平面三配位磷原子锥化、用形式电荷/键极性与 UFF 参数对片段刚体平移旋转预优化、对多片段系统施加对称破缺位移）；B 片段处理（多片段系统为每个片段维护位置与取向，而不是用人工键连接）；C 模型 Hessian 与坐标；D Hessian 更新复用先前梯度信息并考虑几何变化。AutoSella-A 另有高斯过程模块。消融逻辑是每次从最终算法中移除一或两个相关改动族，比较验证力调用成本；联合移除代价小于单独移除之和，说明各块不是独立可加贡献。Sella 本身在冗余内坐标中做受限步分区有理函数优化、迭代部分 Hessian 对角化、TS-BFGS 更新、线性弯曲虚原子处理与测地线步进，AutoSella 的改动即在此骨架上累积。

评测沿分子与势能两个泛化轴展开。四个留出分子集覆盖药物样单分子、二肽、氨基酸-配体非共价接触和多片段溶剂化系统；势能包括搜索所用的 GFN2-xTB，以及搜索从未见过的 GFN-FF 与 r2SCAN-3c DFT。AutoSella-F 在所有留出集上降低相对 Sella 的力调用，并保持或提高平均能量回收；AutoSella-A 在单分子和小型非共价系统上节省，但在溶剂化多片段系统上回归。迁移到 DFT 后节省仍然存在，且溶剂化系统上相对节省最大。消融把主要收益归于模型 Hessian/坐标、片段处理与 Hessian 更新（AutoSella-F）或高斯过程（AutoSella-A）。经典优化器面板则支持 Sella 作为演化起点的选择。

1. 在 GFN2-xTB 上，AutoSella-F 在四个留出集上均为最便宜，且平均能量回收高于 Sella。

   AutoSella-F is cheapest in every block, at 39.86 39.86 – 73.25 % 73.25\% of the baseline’s force calls per molecule. Its mean energy recovery is above the baseline on all four datasets ( r ¯ > 1 \bar{r}>1 ).

2. AutoSella-A 在前三个 GFN2-xTB 留出集上节省，但在 Solvated PubChem 上回归。

   AutoSella-A uses 78.14 78.14 – 92.57 % 92.57\% of the baseline’s force calls per molecule on the first three datasets, but regresses on Solvated PubChem, requiring 118.77 % 118.77\% while recovering less energy ( r ¯ = 0.999125 \bar{r}=0.999125 ).

3. 在未用于搜索的 r2SCAN-3c DFT 上，AutoSella-F 的最大相对节省出现在 Solvated PubChem。

   The largest saving under DFT occurs on Solvated PubChem, where AutoSella-F requires only 40.24 % 40.24\% of Sella’s force calls while achieving 1.27 % 1.27\% greater mean energy recovery.

4. 结论部分总结 AutoSella-F 在 r2SCAN-3c 四个 OOD 数据集中比 Sella 少用约 23–60% 的每分子力调用。

   Across four out-of-distribution datasets at the r2SCAN-3c level, it required approximately 23 23 – 60 % 60\% fewer force calls per molecule than Sella while achieving greater mean energy recovery.

5. 摘要给出最佳变体在 r2SCAN-3c 上只需 Sella 力调用的 40.2–77.2%，且搜索从未使用 DFT 梯度。

   at the r2SCAN-3c DFT level, the best variant requires only 40.2 40.2 – 77.2 % 77.2\% of Sella’s force calls while achieving the same energy reduction, even though agent used no DFT gradients.

6. 在 DFT 的 Solvated PubChem 上，AutoSella-A 反而需要更多力调用且能量回收更低。

   AutoSella-A uses 109.06 % 109.06\% of Sella’s force calls per molecule and recovers less energy ( r ¯ = 0.993028 \bar{r}=0.993028 ) on Solvated PubChem systems under DFT.

7. 两条 autoresearch 轨迹的产出节奏、接受数与错误率不同，最终算法在训练/验证上的相对力调用也有差异。

   Fable commits 108 evaluated candidates and accepts 37 improvements, whereas Astra commits 672 candidates and accepts 29. Fable has fewer evaluation errors (3, or 2.8%, versus 35, or 5.2%) and fewer candidates rejected for insufficient mean energy recovery (8, or 7.4%, versus 115, or 17.1%). The final algorithms, AutoSella-F and AutoSella-A, have mean per-molecule force-call ratios of 65.13%/74.51% on training and 64.99%/76.66% on validation, relative to the original Sella.

8. 消融显示，对两个优化器而言，移除模型 Hessian/坐标块和片段处理块带来的成本上升最大。

   For both optimizers, the two largest increases come from separately removing the model Hessian and coordinates block and the fragment handling block: approximately 18.7 18.7 and 11.3 11.3 percentage points for AutoSella-F, and 8.8 8.8 and 5.7 5.7 points for AutoSella-A, respectively. The third-largest increase comes from removing Hessian updates in AutoSella-F ( 10.2 10.2 points) and the Gaussian process in AutoSella-A ( 4.7 4.7 points).

9. 经典优化器面板支持 Sella 作为演化起点。

   Sella has the lowest per-molecule force-call cost among the tested classical optimizers on all four datasets, supporting its selection as the starting point for evolution.

10. 在 GFN-FF 和 r2SCAN-3c 两个未见势能上，力调用节省均能迁移，且 AutoSella-F 在所有可得比较中都比 AutoSella-A 节省更多。

    We show that the force call saving carry over to them. AutoSella-F saves more force calls than AutoSella-A in every available comparison.

Novelty：方法论新颖性中等。LLM 作为变异算子的程序搜索、单文件 autoresearch 循环、以及用代理演化优化器启发式，在 FunSearch、AlphaEvolve、EoH、Lion 等工作中已有先例；把 LLM 搜索用于分子几何优化器并非全新范式。本文的新意主要体现在问题域迁移和防作弊设计：用两个门（有效性门和泛化门）同时约束“不能少走能量下降”和“不能只在训练集变好”，并把搜索放在廉价 GFN2-xTB 上、证明可迁移到未见的 DFT 势能。AutoSella 本身是演化出的具体算法，但其内部机制（模型 Hessian、片段处理、历史梯度复用）多是对已知优化思想的组合与调优，尚未形成全新的理论对象。 Soundness：实验设计总体较严谨。优点包括：先做 27 个配置的基线面板并确证 Sella 最快；训练、验证、留出分子集分离；用未见势能 GFN-FF 与 r2SCAN-3c 做迁移检验；远端评价器与代理隔离，代理不能改评价器和收敛判据；逐分子表支持机制归因；附录消融逐块拆解收益。主要不足是统计层面：每个模型只有一条搜索轨迹，没有多随机种子或置信区间，无法判断结果对初始条件、模型采样和提示的稳健性；有效性门只要求平均 r̄≥1，可能允许部分分子欠弛豫而由其他分子“找得更深”来补偿；AutoSella-A 在 Solvated PubChem 上的回归也说明跨域泛化并非自动保证。此外，搜索只用 GFN2-xTB，DFT 层面的结论来自冻结优化器的最终评测，而不是在 DFT 反馈下迭代得到。 Significance：实际意义较高。力调用在 DFT 弛豫中主导成本，AutoSella-F 在 r2SCAN-3c 上跨四个 OOD 数据集实现显著且一致的节省，意味着可直接降低真实量化工作流的墙钟时间；而搜索从未看过 DFT 梯度，说明廉价代理势能可以用于自动开发昂贵目标势能上的算法。对计算化学社区，这提供了一个可复用的“优化器优化器”协议，以及两个开源优化器。方法论上，双门设计也为代理式自动科研如何抑制奖励黑客和过拟合提供了可借鉴的模板。其影响边界在于当前结果以 Sella 为参考、以固定收敛判据和药物样/溶剂化体系为主，尚不能推广到所有化学空间或优化器类型。

第一，搜索只在 GFN2-xTB 单一廉价势能上进行；虽然最终算法迁移到 GFN-FF 和 r2SCAN-3c，但未覆盖更多 DFT 泛函、基组、色散校正、带电/开壳层体系、周期性体系或激发态。第二，每路模型只有一条 66 小时轨迹，缺乏多随机种子和统计误差棒，无法排除运气成分；Fable 与 Astra 的结果差异、以及附录 Grok 的独立表现也说明模型与运行间方差值得量化。第三，有效性门使用平均 r̄≥1，而非逐分子或最坏情况能量回收约束；候选可能在某些分子上提前停止，只要平均被其他分子补偿，作者虽在附录做了构象分析，但主指标仍未完全排除这种权衡。第四，AutoSella-A 在 Solvated PubChem 上回归，说明复杂多片段系统上的泛化仍是薄弱点，且该集合只有 100 个系统，Sella 本身也有 2 个失败案例。第五，评价以固定高斯式收敛判据为准，换用更紧或更松判据、不同坐标对齐方式或不同力调用预算时，节省幅度可能变化。第六，代理虽被禁止做分子身份特判，但演化代码可能隐式学到数据集相关的启发式或阈值，难以从黑盒代码中彻底审计。第七，DFT 评测只用冻结的最终优化器，没有在 DFT 噪声和 SCF 收敛行为下继续演化，因此机制未必对 DFT 梯度噪声最优。第八，能量回收是相对 Sella 而非真实全局极小，r̄>1 只说明比 Sella 更低，不能保证到达全局或正确构象。

后续工作可从几方面展开。一是多保真搜索：在 GFN2-xTB 循环中偶尔插入 DFT 评价，或对候选做 DFT 验证后再决定接受，让机制与 SCF 噪声、DFT 梯度特性协同演化。二是稳健性研究：对同一模型做多随机种子、更长预算、不同提示和不同初始 Sella 版本，报告分布与置信区间；增加逐分子最坏情况能量回收门或 Pareto 目标，避免平均指标掩盖局部欠弛豫。三是扩展化学域：过渡态、鞍点、约束优化、晶体/周期性体系、大生物分子、带电和开壳层体系，以及除力调用外的内存、墙钟和鲁棒性目标。四是可解释性与蒸馏：把演化出的代码块翻译成数学上可陈述的算法原则，检查是否只是对 Sella 的超参数重调，并审计是否存在数据集泄漏。五是与 MLFF 基准结合：在 GOLF、Matbench Discovery、OC20 等弛豫协议上评测，验证节省是否随体系尺度增大而保持。六是把同一 gated autoresearch 协议用于其他昂贵科学计算循环，如 SCF 收敛、基组优化、MD 积分器或力场参数化，进一步检验“廉价代理势能驱动目标势能算法发现”的通用性。

本文的工作定位在统一多模态模型与真实音视频联合推理之间的空白。作者认为，当前 Omni-LLM 虽然能分别处理音频、视觉和语言，但现有评测、训练数据与学习方法大多把模态当作独立来源，难以稳定地要求并激发跨模态证据整合。为此文章提出 OmniReasoning 统一框架：OmniReasoningBench 评测"必需双模态"的题目，OmniQA 数据引擎构造证据链与模态线索，MFSD 学习方法在强化学习中把跨模态交互纳入 token 级信用分配。与 WorldSense、Daily-Omni、OmniVideoBench、JointAVBench 等以单模态消融为主要证据的基准相比，本文更强调查题在缺失任一模态时不可解；与 RLSD 相比，MFSD 把"联合线索带来的似然增益"拆成单模态贡献与交互项。整体上，这是一项以证据依赖为主线、从评测到训练形成闭环的工作。

真实视频理解常需要同时听与看：例如从语音中的年龄和画面中的日期推算出生年份，再与戒指刻字比较。文章把这种能力称为 audio-visual joint reasoning。近年来 Qwen-Omni、Nemotron 3 Nano Omni 等 Omni-LLM 提供统一接口，但评测是否真正要求联合推理仍不明确。作者指出，单模态消融实验并不能完全证明题目必须多模态；一个强视觉模型可以在无音频时答对大量题目，使基准难以区分"跨模态整合"与"强单模态理解"。为此作者提出两类任务：reasoning over video 在视频内部把多跳音频与视觉证据串起来，reasoning beyond video 把视频中获得的规则迁移到新图表或数值条件。训练数据方面，现有音频视觉指令数据如 OmniVideo-100K、OmniVideo-R1 也强调跨模态对应，但本文进一步要求显式证据依赖、时间戳线索和可验证的思维链。学习方法方面，GRPO/GSPO 等以整体奖励分配信用，RLSD 已通过线索条件似然增益做 token 级自蒸馏；MFSD 则在此基础上加入中心化交互对比，使跨模态互补证据在 token 级得到更细的奖励塑形。

三个组件通过显式的音视频证据依赖连接。OmniReasoningBench 由 OmniQA 构造，包含 reasoning over video 与 reasoning beyond video 两类；每题都有参考答案和标注证据链。reasoning over video 要求多跳链式联合证据，覆盖十类题型；reasoning beyond video 将视频内规则应用到新场景，覆盖九类题型。为验证必要性，作者不仅做音频/视觉单模态消融，还定义单模态 oracle（音频或视觉任一答对即算对），比较联合输入相对该 oracle 的增益。 OmniQA 的构造流程如下。它先把视频切分为事件，生成带时间戳的音频描述与视觉描述；以描述和任务规格为条件，问题生成器产出题目、参考答案、依赖链，多选题还生成干扰项。验证阶段做结构检查、caption-conditioned solver 和媒体验证；为排除模态捷径，分别在 question-only、audio-only、visual-only、joint 条件下评估，只有线索有效、联合可答且受限条件不可答时才保留。思维过程生成器只接收时间戳音视频字幕、验证后的 QA、证据链和额外图形，不接收源视频，把链扩展为观察、中间推断和最终答案，并比较选项、展示数值计算。训练数据分为 SFT（约 11 万样本，含合成思维链）与 RL（约 1.9 万人工验证题及证据标注），均覆盖两类任务；RL 阶段保留的音频线索 r_A 和视觉线索 r_V 作为评分时的特权上下文，不参与采样 rollout。 MFSD 的机制如下。给定含原始音视频输入的问题 x，先在无特权线索下从旧策略采样 G 个响应 y^{(i)}。结果奖励按组归一化得到优势 A_i。对每条采样响应，用同一 actor 在四种线索上下文下打分：无线索 r_∅、音频线索 r_A、视觉线索 r_V、联合线索 r_AV=r_A⊕r_V。token 对数似然为 ℓ^M_{i,t}=log π_θ(y_t^(i)|x,r_M,y_<t^(i))，M∈{∅,A,V,AV}。原始媒体、采样前缀和 actor 权重固定，因此差异来自线索条件。定义停止梯度的增益 Δ^M=sg(ℓ^M−ℓ^∅)。联合支持 Δ^AV 是 RLSD 已有信号；MFSD 的核心是交互项 S=Δ^AV−Δ^A−Δ^V，等价于 sg(ℓ^AV−ℓ^A−ℓ^V+ℓ^∅)。直觉是，只有联合线索使某 token 似然上升超过单模态增益之和时，S 才为正；它测的是 log 似然中的不可加性。若联合增益完全由单模态解释，S 为零。文章强调 S 为正并不保证联合增益相对无线索为正，二者符号可不同。在附录的联合一致性假设下，S_t 可写成条件点互信息(PMI)的逐 token 增量：S_t=I_t−I_{t−1}，I_t=log P(r_A,r_V|x,y_≤t)/(P(r_A|x,y_≤t)P(r_V|x,y_≤t))，其中 y_≤0=∅。该解释描述的是模型对线索条件的响应，不证明推理步骤正确。 由于交互项可能带响应级均值，MFSD 对每条响应按有效 token 掩码中心化：S̄_i=(1/T_i)Σ m_i,t S_i,t，S̃_i,t=m_i,t(S_i,t−S̄_i)。中心化使交互项在响应内部重新分配信用，而不是整体缩放。最终 token 分数 g_i,t=(1−β_i)Δ^AV_i,t+β_i κ S̃_i,t；β_i=β 1[r_A≠∅∧r_V≠∅]，即只在两类线索都存在时启用交互项。联合支持保留单模态也能提供的证据，中心化交互则突出跨模态互补证据；β 平衡两者，κ 校准尺度。随后沿用 RLSD 的权重机制：w_i,t=exp(sign(A_i)g_i,t)，Â_i,t=A_i[(1−λ)+λ clip(w_i,t,1−ε_w,1+ε_w)]。g_i,t 更高会放大正优势、减小负惩罚但不翻转符号。裁剪后的策略目标使用 Â_i,t；评分与权重均 stop-gradient，rollout 不含特权线索。相对 RLSD 的改动只是 g_i,t 携带交互信号。三种线索条件评分视图只需同一 actor 的前向打分，不引入额外 rollout 或教师参数。

实验部分围绕三件事展开：证明现有基准的联合推理必要性不足，验证 OmniReasoningBench 对双模态证据的强制力，并报告训练数据与 MFSD 带来的提升。作者先用视觉-only 条件测试现有四个基准，显示大量题目可被单模态解决；随后在自有基准上做消融，无音频时准确率大幅下降，且联合输入相对单模态 oracle 有稳定增益。主结果表明，在 OmniQA 数据上训练并结合 MFSD 后，模型在 OmniVideoBench 与 OmniReasoningBench 上相对 Qwen3-Omni 基线取得两位数百分点级提升，并在 LVOmniBench、Video-MMMU、Video-MME-v2 等通用与长视频基准上报告了增益。

1. OmniReasoning-30B-A3B 在 OmniVideoBench 上达到 50.0%，在 OmniReasoningBench 上达到 42.5%，相对 Qwen3-Omni-30B-A3B-Thinking 分别提升 12.8 和 9.3 个百分点。

   With our training data and learning method, our model OmniReasoning-30B-A3B achieves 50.0% on OmniVideoBench and 42.5% on OmniReasoningBench, improving the base model Qwen3-Omni-30B-A3B-Thinking by 12.8 and 9.3 percentage points, respectively.

2. 在既有四个基准上，Qwen3.5-Plus 仅凭视觉、完全无音频即可取得较高准确率，说明这些基准中有相当比例题目不需要音频。

   In our experiments, Qwen3.5-Plus ( qwen35blog ) achieves 57.85%, 68.76%, 44.90%, and 60.43% accuracy on WorldSense, Daily-Omni, OmniVideoBench, and JointAVBench, respectively, when provided with visual-only inputs and no audio .

3. 在 OmniReasoningBench 的示例中，Qwen3.5-Plus 无音频时在选择题和开放题上准确率分别降至 17.2% 和 8.7%。

   Take Figure 1 as an example, when Qwen3.5-Plus model evaluated without audio, the accuracy drops to 17.2% and 8.7% on the multiple-choice and open-ended questions, respectively.

4. 在 reasoning over video 上，联合输入优于单模态 oracle，增益在三个模型和两种题型上介于 9.9 到 26.7 个百分点。

   On reasoning over video , joint inputs outperform a single-modality oracle that counts a question as solved whenever either the audio-only or the visual-only run answers it correctly. The gains range from 9.9 to 26.7 percentage points across three models and both question formats (Appendix ).

5. OmniReasoningBench 总共包含 1,150 道选择题与开放题。

   It comprises 1,150 multiple-choice and open-ended questions across two tasks, reasoning over video and reasoning beyond video .

6. OmniReasoningBench 含 750 道 reasoning over video 和 400 道 reasoning beyond video 题目。

   It contains 750 reasoning over video and 400 reasoning beyond video questions, each with a reference answer and an annotated evidence chain (Figure 2 ).

7. reasoning over video 设置覆盖十种任务类型，含 375 道选择题和 375 道开放题。

   This setting covers ten task types and includes 375 multiple-choice and 375 open-ended questions.

8. reasoning beyond video 设置覆盖九种任务类型，含 250 道选择题和 150 道开放题。

   There are in total 400 questions spanning nine task types, with 250 multiple-choice and 150 open-ended questions.

9. 发布的数据集包含 112,463 条 SFT 样本和 18,991 条 RL 样本。

   The released datasets comprise OmniReasoning-SFT-112K , with 112,463 samples containing synthesized thinking processes, and OmniReasoning-RL-19K , with 18,991 human-validated questions and evidence annotations. Both cover reasoning over video and reasoning beyond video (Figure 4 ).

10. 模型在通用与长视频基准上也有增益，包括 Video-MME-v2。

    Moreover, it delivers substantial gains on general and long-video benchmarks, including Video-MME-v2.

Novelty：新颖性中高。基准的差异点在于把"必须联合"作为构造与筛选标准，而不是事后消融；OmniQA 把依赖链、时间戳线索和思维链统一进数据引擎；MFSD 相对 RLSD 的核心增量是把似然增益分解为联合支持与跨模态交互，并用中心化交互做 token 级信用分配。这一设计直接针对 RLSD 无法区分"联合推理"与"单模态捷径"的缺陷，思路清晰且与证据结构一致。 Soundness：方法层面较扎实：数学定义清楚，奖励归一化、停止梯度、裁剪、中心化等细节完备；推理成本相对低，因为四个线索条件共享同一 actor 与采样前缀。但仍有可质疑处：第一，交互项 S 只是线索条件下似然不可加性，不等于推理步骤正确，文章也承认这一点；第二，其 PMI 解释依赖附录的 joint-consistency 假设，正文未充分展开；第三，基准筛选依赖特定模型的受限条件表现，可能引入模型偏差；第四，实验证据在提供的文本中只有摘要级数字，缺乏完整表格、误差棒和消融，难以独立核验。总体 soundness 为中等偏上，核心机制自洽，但经验支持尚未在可见部分完全闭合。 Significance：若结果可复现，这项工作对 omni-modal 推理社区有较高价值：它提供了一个更严格的评测、可扩展的数据构造协议，以及能与现有 RL 框架兼容的轻量训练信号。其影响不限于音频视觉，类似"因子化模态线索并显式奖励不可加交互"的思想可迁移到其他多模态或多证据场景。通用与长视频基准的增益也提示，显式训练跨模态证据依赖可能改善更广泛的视频理解。

其一，基准必要性验证依赖 Qwen3.5-Plus 等单模型，无法完全排除模型特异的视觉捷径，需要多模型与人工复核。其二，MFSD 依赖 OmniQA 提供的结构化音频/视觉线索 r_A、r_V，未给出无标注数据上的推广方案。其三，交互项 S 只在线索条件似然空间中度量不可加性，不能认证推理正确性，可能与真实联合推理有偏；中心化和 κ、β、λ、ε_w 等超参数需要额外调参。其四，每个采样响应需在四种上下文下打分，虽无额外 rollout 或教师，但仍增加前向计算与显存。其五，提供的论文文本在实验表处截断，无法看到完整对比、消融、方差与失败案例。其六，自动数据引擎的验证器质量未充分量化，依赖链可能带有生成器先验。

后续工作可在五个方向展开。一是把 MFSD 从 OmniQA 扩展到无结构化线索的数据，例如先用检索或定位自动抽取音频与视觉证据片段，再作为线索条件。二是在多个基础模型与更强闭源模型上重复基准必要性检验，并加入人工判断与题目难度标定，建立更可信的联合推理效度。三是深化交互度量，从成对 PMI 增量走向多线索、多模态的条件互信息分解，并研究负交互、冗余线索与冲突证据。四是补充更细的 RL 消融：β、κ、λ、ε_w，交互项与联合支持各自贡献，以及不同奖励验证器下的稳定性。五是把训练得到的联合推理能力迁移到长视频流式理解、具身导航和视频问答之外的任务，并尝试在推理时显式利用线索链进行可解释解码。

本文面向 LLM 搜索智能体中高频、短小的判断步骤（相关性、证据充分性、导航等），提出判别式“系统1”模型 SearchJev，把这些判断从系统2的生成式推理与答案生成中分离出来。SearchJev 不是新的检索算法，而是把异构搜索决策统一为 schema 条件下的有限选项概率预测，并用校准置信度支撑双系统智能体中的“置信门控 + 委托”。其贡献可定位为：一个统一决策模型与训练范式、一个整合六类决策的基准 SearchDecision-Bench，以及一种将短决策委托给系统1、把规划/查询生成/答案撰写保留给系统2的智能体集成方式。

搜索智能体在轨迹中反复做短判断，例如“该文档是否相关”“证据是否足够”“下一步探索哪个链接”。这类判断决定证据取舍与搜索走向，可用 Kahneman 的系统1/系统2框架理解。传统做法有两种：任务专用 reranker 或查询复杂度分类器需要为不同决策分别建模型和标注；用通用 LLM 提示则能覆盖多样任务，但引入了自回归解码开销，而且其口头或 token 概率形式的置信度往往校准不良。可靠置信度正是决定“能否直接采纳该判断，还是要进一步推理”的关键，因此需要既能统一处理异构搜索决策、又高效且校准良好的模型。相关工作包括：Jev 的 typed probabilistic outputs（闭源，方法不公开）；monoT5 等交叉编码器和 RankGPT/RankZephyr 等 LLM 排序器；FLARE、Self-RAG、Adaptive-RAG 等自适应检索方法；GLiNER/GLiClass 等把标签编码为 token 的 schema 条件分类器；以及严格恰当评分规则与选择性预测/弃权理论。SearchJev 在此基础上把短决策从生成轨迹中“因子化”出来，变成可被智能体反复调用的共享、快速、校准的决策层。

SearchJev 的核心是把搜索决策建模为 schema 条件下的概率预测，而不是生成任务。给定搜索状态 s_t=(q,H_t,C_t)（用户问题 q、轨迹 H_t、候选 C_t）与决策 schema σ={f_1,…,f_k}，每个字段 f 带一个自然语言问题与合法选项集 V(f)，模型为每个字段输出一个概率分布。输出类型分三种：Choice（类别选择）、Score（有序评分）、Noul（二值判断）。 【输入构造】对字段 f，输入 x_f 由搜索状态 s、该字段的问题与输出类型、合法选项文本拼接而成。每个选项绑定词表中已有的单 token 标签（如 A、B），选项描述可以跨多个 token，只有标签必须为单 token。输入末尾是“只输出一个标签”的指令与 assistant 生成前缀。这种设计让同一 backbone 通过文本 schema 表达不同任务，无需为每种决策增加输出头。 【Token-logit 读出】模型不做自回归生成，而是读首输出位置的词表 logits 向量 z_θ(x_f)。设 α_f(v) 是选项 v 的标签 token 索引，选项得分为 ℓ_f(v)=[z_θ(x_f)]_{α_f(v)}，再仅在合法选项集合上做 softmax：p_f(v)=exp ℓ_f(v)/Σ_{u∈V(f)} exp ℓ_f(u)。这样天然得到 Choice/Score/Noul 的分布，不需要 JSON 解析，不新增决策专用参数，只复用现有 LM head。批量处理、标签到选项的映射即可给出结构化输出，规避逐 token 解码的时延。 【SLCD 软标签学习】监督来自可靠程度不同的来源，因此用软目标 t_f 表示标签不确定性；对无概率分布的标签退化为 one-hot。训练时对字段描述做中英文改写，以鼓励模型从 schema 文本学习；对无序字段随机置换选项位置，降低位置偏置。损失是交叉熵与 Brier 的加权组合：L_f=w_f[−Σ_v t_f(v) log p_f(v)+λ_B Σ_v (p_f(v)−t_f(v))^2]。w_f 对 LLM 标注、演示、构造改写等不可靠来源降权，λ_B 平衡两项。两项都是严格恰当评分规则，组合损失唯一最小化于软目标 t_f，因此优化的目标不只是 argmax 正确，而是让 p_f 逼近 t_f 的分布形状。 【按输出类型的温度校准】训练后在验证集上按输出类型 κ(f)（Choice/Score/Noul）拟合正温度 T_{κ(f)}，最小化目标标签的负对数似然；验证样本不足的类型使用跨类型全局温度。校准分布为 p~_f(v)=exp(ℓ_f(v)/T_{κ(f)})/Σ_u exp(ℓ_f(u)/T_{κ(f)})。温度缩放不改变选项排序，只修正置信度，最终 p~_f 供智能体门控使用。 【双系统搜索智能体】系统2负责规划、查询生成与答案撰写，系统1（SearchJev）处理 schema 定义的短判断。置信门控规则：当 max_v p~_f(v)≥δ 时接受系统1判断，否则把同一问题连同合法选项交给系统2解决，两条路径都把结果送进同一搜索控制器。控制器按任务规则把判断映射为 search/open/rerank/stop 等动作，检索与打开页面更新搜索状态；控制器宣布停止后，系统2基于累积证据合成最终答案。δ 控制委托比例；相关性保留阈值 τ_keep 与 δ 是两个独立量。验证判断使用“support=true”的校准概率作为答案支持分，不修改答案、不触发额外检索。 【数据与训练细节】SearchDecision-Bench 把银行/查询改写/检索/多跳 QA/事实核查等来源统一成 state-schema 对。六类决策为 routing、rewriting、relevance、sufficiency、navigation、verification，含 ID 与 OOD 划分（OOD 用 FRAMES、RAGTruth、CANDY、Search Arena、AgentRewardBench、QReCC 等）。构造时给 soft target 标来源置信度，如大多数原始标注 0.97、演示与构造改写 0.70；LLM 参与约三分之一的训练行。清洗包括去重、删除冲突标签、掩码无法判断的字段、按 identity key 与查询文本隔离切分。训练从 Qwen3.5-0.8B/4B 初始化，LoRA（rank 16、α 32），学习率 5e-5，batch 132，单 epoch，λ_B=0.5；LLM 标签/演示/构造改写 w_f=0.5，其余为 1；输出类型温度在 5000 条验证决策上拟合。

实验分三层。第一层在 SearchDecision-Bench 的六个域内决策族上，对比同尺寸 Qwen3.5 AR(JSON) 基线与闭源 Jev 1.13，报告决策质量（分类准确率或相关性 NDCG）、校准误差 ECE 与单条中位延迟，结论是 SearchJev 在两个尺寸上整体质量更优、校准总体更好、延迟大幅下降，但 Jev 在导航上仍更强。第二层在 BrowseComp-Plus 上做端到端搜索，对比 System-2-only、Jev 双系统与 SearchJev 双系统，报告答案准确率、系统2调用数、输出 token 与活跃时间，结论是双系统在提高答案质量的同时显著降低系统2负担与搜索时间。第三层用保留数据集考察 OOD 泛化，发现路由/改写/相关性迁移较稳、速度优势保持，但校准呈现任务依赖性，验证任务与部分闭源对照仍有短板。附录还补充了逐数据集诊断、决策调用资源分解与外部 JevBench 生态对比，进一步暴露了某些保留任务上的弱点。

1. 在 SearchDecision-Bench 的六个域内决策族上，SearchJev 两个尺寸均全面超过同尺寸 Qwen3.5 AR(JSON)，且 4B 版本在五个族上领先。

   Both variants outperform same-size Qwen3.5 AR (JSON) across all six decision families, with the 4B model leading five of them.

2. 相对同尺寸 AR 基线，域内平均 ECE 在 0.8B 下降 74.4%、在 4B 下降 40.7%。

   Across the six families, mean ECE falls by 74.4% and 40.7% relative to the same-size Qwen3.5 AR (JSON) models at 0.8B and 4B, respectively.

3. SearchJev 两个尺寸比同尺寸 Qwen3.5 AR(JSON) 快 5.2-5.3 倍。

   Both model sizes are 5.2-5.3 × \times faster than same-size Qwen3.5 AR (JSON).

4. 相对闭源 Jev 1.13，SearchJev 两个变体在中位决策延迟上快 7.2-9.6 倍。

   Compared with Jev 1.13, both variants achieve a 7.2-9.6 × \times speedup in median decision latency.

5. 在 BrowseComp-Plus 上，双系统智能体把答案准确率从 45% 最高提到 54%，同时获得 3.7-4.7 倍活跃搜索时间加速。

   On BrowseComp-Plus, the dual-system agents achieve a 3.7-4.7 × \times speedup in active search time while improving answer accuracy from 45% to up to 54%.

6. 相对 Jev 1.13 双系统智能体，SearchJev-4B 答案准确率提高 8.0 个百分点，而 0.8B 与其持平。

   Compared with the Jev 1.13 agent, SearchJev -4B improves accuracy by 8.0 percentage points, while SearchJev -0.8B matches its accuracy.

7. 相对 System-2-only 智能体，SearchJev 两个变体减少系统2调用、把输出 token 降低 3.3-4.8 倍，并获得 3.7-4.7 倍中位活跃时间加速。

   Compared with the System-2-only agent, both variants use fewer System-2 calls, reduce output tokens by a factor of 3.3-4.8, and achieve a 3.7-4.7 × \times speedup in median active time.

8. 在 OOD 保留数据集上，SearchJev 两个变体在路由、改写、相关性上均超过同尺寸 AR 基线，其中路由提升 11.9-12.1 个百分点。

   Both variants outperform same-size Qwen3.5 AR (JSON) on routing, rewriting, and relevance, with routing gains of 11.9-12.1 percentage points.

9. 在 OOD 数据集上，SearchJev 仍比同尺寸 AR 基线快 5.3-5.5 倍、比 Jev 1.13 快 7.4-9.9 倍。

   Both model sizes remain 5.3-5.5 × \times faster than same-size Qwen3.5 AR (JSON) and 7.4-9.9 × \times faster than Jev 1.13.

10. OOD 校准呈任务依赖性：SearchJev-0.8B 在改写和相关性上降低 ECE，SearchJev-4B 则主要在路由上改善校准。

    Relative to same-size Qwen3.5 AR (JSON), SearchJev -0.8B lowers ECE on rewriting and relevance, whereas SearchJev -4B improves routing calibration.

Novelty：主要新意在于工程系统层面：把六类异构搜索决策统一到 schema 条件的单 token logit 读出 + 软标签校准训练，并用置信门控在双系统间做委托，同时提供统一基准 SearchDecision-Bench。直接读词表 logits 做分类与 GLiNER/GLiClass 的标签即 token 思路相近，typed probabilistic outputs 也已由闭源 Jev 提出，System1/System2 分工与 selective prediction/弃权也是既有思想；因此这不是方法范式上的根本突破，而是针对搜索智能体的系统性重新组合与实例化，配套基准和训练配方是其增量贡献。 Soundness：方法链路清晰，logit 读出、严格恰当评分规则与温度校准的理由有理论依据，训练与数据清洗细节较完整，基准的 ID/OOD 隔离也较谨慎。但存在若干方法论保留：同尺寸 Qwen3.5 AR(JSON) 被明确描述为任务微调前模型，而 SearchJev 经过了六族决策训练，对比的是“微调判别式 vs 未微调生成式”，公平性有限；闭源 Jev 1.13 无法复现且内部训练方法未知；端到端仅 100 题、每题单次运行，未报告方差或显著性检验；OOD 校准结论不一致；附录 F 显示 SearchJev-4B 在 RAGTruth 的 F1 与 JB-Hard 上明显弱于零样本 backbone，说明泛化并不均匀。因此方向性结论可信，但绝对量化与“优于 Jev”的部分表述需要更严格的对照设计支持。 Significance：对实际搜索智能体有直接工程价值：短决策去生成化可显著降低时延与系统2 token 消耗，校准概率能支撑可靠委托，开放基准降低了复现和横向比较门槛。其影响范围主要限于文本搜索中可枚举选项的短判断，查询生成、规划与答案撰写仍需系统2；对社区更可能被当作可复用的“决策层 + 基准 + 训练配方”，而非改变 LLM 智能体构造方式的通用新范式。

作者自述的局限包括：只在中文与英文的文本搜索决策上评估，端到端仅在 BrowseComp-Plus；决策接口假设合法选项可在 schema 中枚举，开放式的查询与答案生成仍留在系统2；其他语言、模态与应用领域有待验证。训练数据混合原始标注、派生标签与 LLM 辅助监督，约三分之一训练行有 LLM 参与，派生标签依赖过滤模型和产生演示的代理，软目标与来源权重只能缓解而不能消除训练数据偏差。 从审稿视角还可补充：其一，AR(JSON) 基线未做同等任务微调，且“相同尺寸”下判别式读头与生成式基线训练预算不可直接对齐，因此质量和速度对比部分归因于训练范式而非读出方式；其二，闭源 Jev 1.13 的内部架构、训练数据与推理栈未知，无法排除其 API 服务层延迟等因素；其三，端到端仅 100 题单次运行，未给出多次采样或置信区间，54% 与 45% 的差异稳健性不足；其四，OOD 校准不稳定，验证/导航等保留任务偏弱，附录中 RAGTruth F1 与 JB-Hard 甚至低于零样本，说明泛化并非全面成立；其五，δ 与 τ_keep 等门控参数如何选取、对最终性能的敏感性未做系统消融，且 δ 无法从日志唯一恢复；其六，只用 BM25 检索器，未检验与更强检索器或不同 agent 框架组合时的增益稳定性。

后续可沿几条线展开：(1) 扩展语言、模态与非文本动作，检验 logit 读出在更复杂动作空间上的可迁移性；(2) 处理不可枚举或开放选项，把判别式评分与生成式候选生成混合，突破 schema 可枚举假设；(3) 提升 OOD 校准，例如按领域/数据集分组温度、域自适应校准、集成或贝叶斯不确定性估计；(4) 用在线学习或强化学习联合优化 δ、τ_keep 与委托策略，直接以“答案质量-时延/成本”为目标学习何时升级到系统2；(5) 与密集检索器、多步检索器及不同 agent 框架联合训练和评估，检验增益是否依赖 BM25 与特定控制器；(6) 以开源模型复现 Jev 式 typed outputs，并设置同等训练预算的生成式基线，做更严格对照；(7) 人工审计 SearchDecision-Bench 的软标签置信度设置与 LLM 派生标签质量，减少监督偏差。

Test-time training (TTT) lets a model store information in its weights during inference. When the model learns from its own output, however, each update also changes the model that generates the next training example. Across 128K-token streams, retaining generated-text updates worsens prediction on independent human-written text with three TTT-E2E model configurations (labeled 125M, 760M, and 3B). The same failure occurs when Adam updates Qwen3-4B's existing weights. The same update mechanisms can improve on real text, so writing itself is not the failure. Three matched comparisons trace the causal pathway. Fixed Generation removes over 98% of the damage at 125M and 760M by using a frozen model to generate training chunks. Recorded Replay separates the loss caused by reading degraded text from the additional loss stored by updating on it. A paired one-update comparison then shows the local conflict: an update predicts its source better but new real text worse. This cost grows after Clo

仅依据摘要，无法可靠判断方法 soundness 与实验充分性，请以原文为准。