2026-09-27

本文是一份介于研究论文与工程经验报告之间的开放后训练配方记录，目标不是提出新算法或新模型，而是把一条完整、可复现的 LLM 后训练流水线写清楚。对象是 GLM-4.5-Air-Base（106B 总参数、12B 活跃参数的 MoE），串行八阶段为 SFT→Reasoning RL→Coding RL→Instruction-Following RL→General Agent→Coding Agent→Search Agent→RLHF。作者强调使用开源组件与公开数据、不新增人工标注、不使用内部蒸馏教师，核心贡献是数据组成、奖励设计、基础设施与阶段顺序的可复现记录，而非单一基准冠军。

开放权重基座降低了后训练研究门槛，但后训练配方仍被披露得很薄；作者把少数例外如 Tülu 3 视作对照，认为多数后训练章节更像“系统卡”而非可复现配方，团队真正需要的细节恰好最少披露。本文试图填补这一缺口。选择 GLM-4.5-Air-Base 的实用理由包括：权重公开；Slime 与 SGLang 对 GLM 家族支持良好；模型规模足够大，能让 MoE 特有的后训练问题以现实形式出现；12B 活跃参数使 RL 可在 8–32 节点规模运行。作者将基座模型、tokenizer 与原生 <think> 聊天格式视为固定不变。基准仅用于把配方放到公开开放模型之间定位，比较对象包括官方 GLM-4.5-Air、同基座的 INTELLECT-3 以及非同基座的 Nemotron-3-Super 等。论文归纳出四条贯穿性结论：SFT 是能力构建而非热身；难度过滤把 prompt 留在可学习区间；奖励可靠性决定阶段顺序；基础设施与工程选择本身就是配方的一部分。

整条配方是单串行流水线，每阶段在前一阶段产生的检查点上继续训练。阶段顺序由两个轴决定：能力从基础到高级；奖励从硬、可验证信号走向软、judge 型或环境中介信号。Reasoning RL 与 Coding RL 的奖励最难被 reward hacking，因而先跑；更难验证的阶段后跑，缩短可被博弈的奖励受优化压力的时间。IF RL 虽使用 rubric-based LLM judge，却被安排在 General Agent 与 Coding Agent 之前，因为指令遵循接近模型已有能力，judge 被博弈的空间小；RLHF 的偏好奖励在开放目标上风险最大，因此放在最后。后续阶段会更新同一组参数，因此早期收益不被保护，作者按“每阶段相对其起始检查点”来测量。 SFT 阶段。数据组成上，最终混合含 9.01M 样本、44.5B 原始 token，分布在 66.7M 对话轮次中，其中 23.5M 为被监督轮次；屏蔽 system、user 与 tool observation 后，27.0B token（60.8%）贡献训练损失。六类能力中，General Agent 样本最多但训练 token 少，Math 与 Coding Agent 合计只占 18.8% 样本却占 49.1% 训练 token，因为推理轨迹与多轮编码轨迹更长。所有 prompt/response 来自 17 个公开数据集，按发布原样使用，Rufus-Air 自身再生成比例为 0；上游数据中已有的模型生成来自 DeepSeek、QwQ、Kimi-K2、GPT-OSS 等公开模型，作者将其界定为上游依赖而非内部蒸馏教师。预处理三步：一是格式规范化，把所有来源映射到 role-aware 多轮 schema，带 per-message loss mask，修复 system prompt、answer suffix、推理标签与不完整尾轮；二是交错思考监督，保留完整 thought–action–observation 链，assistant 轮只有在发出工具调用且紧随 tool result 时才作为中间轮，否则切分；早期对话中的 assistant rationale 被剥离并屏蔽，从最后一个真实 user 请求起，推理型 assistant 步骤才被监督，system/user/tool-observation 零损失；三是验证与长度过滤，检查 <think> 标签平衡、角色转换与 masking，并在生产 GLM chat template 下计算长度，上限 120K token。去污染采用词级 8-gram 重叠，对每个基准项抽样约 20 个等距 8 词短语做子串匹配，单条命中率≥50% 即删除；十个基准链式执行后共删 3,529 条。对 AIME 与 GPQA 等易泄漏基准再加穷举 8-gram 与 Llama-NV-Embed-Reasoning-3B 稠密检索，并人工复核，最终 SFT 混合总删 4,187 条。训练用 Slime+Megatron、64×8 H200（512 GPU）、batch size 4096、三 epoch；AdamW β=(0.9,0.95)、weight decay 0.1、grad clip 1.0，学习率 100 步线性 warm-up 到 5e-5 再余弦衰减到 5e-6；峰值由小 batch 扫描决定，过高会不稳定。上下文 128K，仅 assistant token 计入损失。由于 held-out 分数在第一 epoch 后趋于平台，作者取平台内的 checkpoint 3799 而非最终步进入 RL。 Reasoning RL。数据来自公开推理题、Enigmata/ReasoningGym 合成题与第三方数学集，共 121,161 个 prompt：Math 57,736、Science 43,199、Puzzles 20,226；Puzzles 占 55.5% prompt token。奖励为确定性 verifier：Math-Verify 规范化答案匹配、生成 Python checker、科学 QA 模糊字符串匹配，均为二元低噪声。两个过滤器最关键：correctness filter 用 GPT-OSS-120B 教师确认至少存在一个正奖励解；learnability filter 丢弃当前策略已解决率>0.8 或零成功样本。训练用 GSPO 作为 policy-gradient 骨干，序列级重要性比与裁剪更稳定；两次 optimizer step 之间用截断重要性采样校正 FP8 rollout 与 BF16 training 的 off-policy 偏差。clip 范围 ε=1e-3、ε_high=2e-3，KL/entropy 系数为 0。每次 rollout 采 256 prompt、每 prompt n=16、温度 1.0、30K token 响应预算，两个 optimizer step（全局 batch 2,048）；截断样本被 mask。训练同步运行在 8 节点（64×H200），FP8 量化 SGLang 引擎与 BF16 训练共用 GPU，通过 engine offload 交替。两个控制项：一是相对组内最短正确 rollout 的线性长度惩罚，低于该基线为零、到最大允许长度封顶；二是在线难度过滤，从 DAPO 动态采样思想出发，selector 过采样 4×（1,024 prompts），只保留组平均奖励 r̄∈(0,0.8] 的组，丢弃全失败与近乎全通过组，形成自动课程。 Coding RL。数据聚合 EvolveCoder、Nemotron、Dolci、ADR 四源，共 29,405 题；功能题用 assert 单元测试，stdin/stdout 题用输入输出对，系统提示固定为 fenced Python 代码块。预处理包括 schema 校验、SHA-256 去重、针对 LiveCodeBench v6 的 400 字符前缀哈希与字符级 60-gram 泄漏检查、教师可解性筛选，以及训练前 warm-up 四样本 drop-all-pass 难度过滤。奖励解析最后一个 ```python 代码块，在沙箱中执行；每题测试用 SHA-256 种子确定性子采样至多 50 个，二元奖励为全部通过。训练仍用 GSPO，ε=2e-3、ε_high=3e-3；KL 系数在 128K 续训时设为 1e-6 的稳定性护栏。rollout 为 128 prompt、n=64（8,192 序列），8 个 optimizer step；早期 64K 预算下 11–28% 样本被截断并 mask，后扩展响应上限到 128K，截断率降至<0.1%，奖励继续上升。训练在 32 个八卡节点（256 GPU）以 FP8 rollout 与 BF16 training 共存方式运行。 IF RL。把“复杂指令遵循”分解为多约束单轮与多轮对话两轴。多约束数据由 Qwen3-235B-A22B 教师从人工单约束池增广为 2–6 个原子约束的 14K 单轮 prompt，每个约束配 Python 验证函数；过滤掉太易与教师无法通过的样本。多轮数据由对抗式对话生成：教师扮演用户并规划如何让助手失败，多个开源模型轮换扮演助手，最终含 13K 段对话、平均 6.1 轮、每段 2.7 个 rubric；部分数据带 system prompt 作为 instruction hierarchy 训练。奖励统一为 rubric-based binary reward：每个 rubric 独立评分，只有全部满足才给正奖励。rubric 分两类：可编程条件用 Python 函数检查，无法程序判断的条件由 LLM judge 评分。关键设计是 rubric 只描述“必须满足”的条件，排除“可选但更好”的 rubric，以避免奖励噪声与长度偏置。训练用 GRPO，256 prompt、n=16、16K 响应预算、lr=1.5e-6，共 90 步。 General Agent。用 AgentWorldModel（AWM）的 10K 个单服务器 MCP 任务，分布在 1K 合成环境中；经正确性过滤与难度过滤后剩约 2K 任务用于 RL。与 AWM 不同，作者不在系统提示中暴露 list_tools/call_tool 发现协议，而是直接把每个工具 schema 注册进系统提示，让 agent 按名调用；奖励只用任务自身的代码验证函数在终止时给出的二元状态判断，不用 AWM 的 LLM judge 与格式奖励。训练用 GRPO+DAPO 式动态采样，配合 Rollout Routing Replay 稳定 MoE；有状态 MCP server 的 rollout 重 CPU，每步 3,072 个 rollout，依赖分布式 rollout。 Coding Agent。任务来自 Endless-Terminal、SETA-Env 与 Scale-SWE 可执行任务集，统一到 Harbor 格式；工具面只有一个 execute_command，返回 stdout/stderr/exit code。任务容器被预烘焙成固定 CPU/内存/存储的 sandbox 模板，rollout 时直接启动，不做在线镜像构建。奖励为任务自带测试在最终状态上的二元结果，无 step-level shaping 或 LLM judge。训练用 GRPO+DAPO 动态采样与 Rollout Routing Replay；对沙箱启动失败、verifier 超时、断连等基础设施噪声，作者将其标记为 aborted，并在计算 advantage 前从采样组中剔除，避免污染组基线。该阶段约 4K 任务，作者明确表示未训到收敛。 Search Agent 面向开放网络，将多跳事实问题分解为子查询、迭代搜索与页面抽取，自行判断何时停止；奖励是 LLM judge，因而噪声大，单次 rollout 可达 100 次工具调用。作者声称该阶段最重要的选择是数据过滤、奖励设计与优化算法，但正文的 Data 小节实际为空，缺少组成细节。评估使用独立 harness：Google Serper API 搜索、Jina Reader 抽取、沙箱 Python 解释器、Claude Sonnet 4.5 评分，128K 上下文与最多 200 次工具调用，并固定 US-English locale 与实时抓取窗口。 RLHF 用于无硬 verifier 的开放生成质量，训练细节很少；其目标结果体现在 Arena-Hard v2 的 Hard Prompt 与 Creative Writing 上。 贯穿性的基础设施选择包括：token-in/token-out rollout 支持 on-policy 多轮 RL；从 SFT 到 agentic 阶段保持 chat template 一致；为长 agentic 运行提供可靠 sandbox 服务；大 batch 配 Rollout Routing Replay 稳定 RL；FP8 推理 rollout 与 BF16 训练共置并通过 engine offload 交替。

实验部分以串行多阶段的相对评估为主线：每个阶段相对其起始检查点报告目标基准变化，最终模型与官方 GLM-4.5-Air 及同规模开放模型比较。总体看，收益集中在各阶段投入训练信号的基准上；SFT 已建立单轮指令遵循与推理初始化，后续 RL 主要补足多轮指令遵循、工具调用与开放生成质量。非目标基准大多持平或小幅升降，未见系统性灾难遗忘。创造性写作是最终模型相对官方基线的主要例外。阅读时需注意自测协议、开发者自报列、不同样本数评估与部分阶段未收敛等限制。

1. SFT 检查点 3799 相对官方 GLM-4.5-Air 在 IFEval、IFBench、AIME 25、AIME 26 上领先，但在 GPQA 上落后。

   | IFEval | IFBench | GPQA | AIME 25 | AIME 26 GLM-4.5-Air | 83.00 | 33.60 | 73.90 | 84.20 | 86.50 Rufus-Air SFT (3799) | 88.33 | 57.75 | 68.18 | 90.83 | 90.00

2. Reasoning RL 相对 SFT 将 GPQA 从 68.2 提高到 73.5，AIME 两个年份下降约 2.6–2.8 点。

   Relative to the SFT checkpoint it trains from, the Reasoning RL checkpoint raises GPQA by + 5.3 +5.3 points, from 68.2 to 73.5, and leaves both AIME years 2.6–2.8 points lower (Table 6 ).

3. Coding RL 将 LiveCodeBench v6 pass@1 从 68.6 提升到 75.9（+7.3），pass@8 提升 2.3 点。

   Relative to the Reasoning RL checkpoint, Coding RL lifts LiveCodeBench v6 pass@1 by + 7.3 +7.3 points (Table 8 ), with the full trajectory in Figure 4 : most of the gain accrues in the 64K phase, and pass@1 peaks at step 33 after the response-budget extension. Pass@8 improves by 2.3 2.3 points, compared with 7.3 7.3 points for pass@1 (Table 8 ).

4. IF RL 将 IFEval 提升到 94.5、IFBench 提升到 77.8、Multi-challenge 提升到 55.8、AdvancedIF 提升到 62.9。

   On hard formatting constraints, IFEval rises + 4.0 +4.0 points to 94.5 and IFBench + 14.0 +14.0 points to 77.8. On multi-turn instruction following, Multi-challenge rises + 24.7 +24.7 points to 55.8. AdvancedIF [ 35 ] , which covers multi-constraint instructions, multi-turn instructions, and system-prompt following, rises + 17.4 +17.4 points to 62.9.

5. General Agent 将 MCP-Atlas pass@1 提升 7.80 点、Tau2-Retail 提升 9.80 点。

   The claim we emphasize is agentic transfer: relative to the checkpoint after IF RL ( Rufus-Air RL ), General Agent training raises MCP-Atlas pass@1 by + 7.80 +7.80 points and Tau2-Retail by + 9.80 +9.80 points (Table 10 ).

6. Coding Agent 将 SWE-bench Verified 从 65.60 提升到 67.80、Terminal-Bench 2.1 从 38.76 提升到 40.17。

   Relative to the General Agent checkpoint, the stage moves SWE-bench Verified pass@1 from 65.60 65.60 to 67.80 67.80 and Terminal-Bench 2.1 from 38.76 38.76 to 40.17 40.17 (Table 11 ).

7. Search Agent 相对 Coding Agent 检查点在 BrowseComp、Seal-0、HLE-Verified 上分别提升 3.0、5.4、3.4 点。

   Table 12 reports the stage’s before/after on the three search benchmarks: Search Agent adds + 3.0 +3.0 on BrowseComp, + 5.4 +5.4 on Seal-0, and + 3.4 +3.4 on HLE-Verified over the Coding Agent checkpoint it starts from, with the comparison against other models in Table 1 .

8. RLHF 将 Arena-Hard v2 Hard Prompt 从 83.06 提升到 89.05、Creative Writing 从 38.56 提升到 52.97。

   Table 14 reports the shipped run against the Search Agent checkpoint it starts from: Arena-Hard v2 Hard Prompt rises from 83.06 to 89.05 ( + 5.99 +5.99 ) and Creative Writing from 38.56 to 52.97 ( + 14.41 +14.41 ), and the two Rufus-Air cells are the Arena-Hard values of Table 1 .

9. 最终 Rufus-Air 在除 Arena-Hard v2 Creative Writing 外的所有报告基准上领先官方 GLM-4.5-Air，并与同规模开放模型竞争。

   The resulting model leads the public GLM-4.5-Air release on every reported benchmark except Arena-Hard v2 Creative Writing and is competitive with open models of similar size (Table 1 , § 5.2 ).

10. 最终模型在指令遵循与对齐行中明显高于官方基线：IFBench 76.9 对 33.6、IFEval 95.4 对 83.0、Multi-challenge 65.8 对 36.0、Arena-Hard v2 HP 89.1 对 55.0；Creative Writing 53.0 对 60.3 落后。

    IFBench (prompt strict) | 76.9 | 33.6 | 29.3 | 68.6 | 76.1 | 69.0 | – | 57.7 | – | 48.0 IFEval (prompt strict) | 95.4 | 83.0 | 79.5 | 91.3 | 93.4 | 88.9 | – | 88.0 | 84.8 | 84.0 Multi-challenge | 65.8 | 36.0 | 36.5 | 50.7 | 61.5 | 45.3 | – | 40.5 | – | – Arena-Hard v2 (HP) | 89.1 | 55.0 | 54.6 | 74.5 | 75.2 | 90.3 | – | – | – | – Arena-Hard v2 (CW) | 53.0 | 60.3 | 45.4 | 61.5 | – | – | – | – | – | –

11. 最终模型在搜索代理基准 BrowseComp、Seal-0、HLE-Verified Gold 上分别领先官方基线。

    BrowseComp | 37.1 | 22.7 | 12.3 | 35.2 | 63.8 | 41.1 | – | – | 49.5 | – Seal-0 | 51.4 | 33.3 | 43.2 | 44.1 | 44.1 | 45.1 | – | – | – | – HLE-Verified Gold | 51.1 | 20.2 | 27.2 | 46.9 | – | – | – | – | – | –

12. 最终模型在编码代理基准 Terminal-Bench 2.1 与 SWE-bench Verified 上分别领先官方基线。

    Terminal-Bench 2.1 | 42.7 | 24.7 | 25.8 | 42.7 | 47.6 | 26.2 | – | – | – | 21.0 SWE-bench Verified | 65.6 | 50.6 | 46.0 | 59.2 | 72.0 | 62.4 | – | 15.4 | 45.0 | –

Novelty：新颖性判断：低到中等。算法与方法层面几乎没有新贡献：GSPO、GRPO、DAPO 式动态采样、Rollout Routing Replay、RLVR、rubric judge 都是已有组件；SFT 数据也主要原样使用公开集。真正的新意在于把一整条多阶段后训练配方的数据、奖励、基础设施与阶段顺序作为可复现对象系统披露，并提炼出难度过滤、奖励可靠性排序、SFT 作为能力底座等经验性原则。这属于工程透明度与复现性贡献，而非方法创新。 Soundness：健全性判断：中等偏上，但以工程报告标准而非严格对照实验标准衡量。每个阶段相对起始检查点做 before/after，给出目标基准与部分 guardrail；对去污染、难度过滤、长度惩罚、动态采样、基础设施噪声处理等关键机制有说明。弱点在于：大量结论来自训练经验而非完整消融，作者也明确标记；缺少严格对照，例如阶段顺序、各过滤器单独贡献、不同奖励设计、可选 rubric 的反向效果等；Search Agent 的 Data 小节实际空缺，RLHF 细节很少；部分评估样本数小，同条件重跑差异较大；非目标基准监控不完整。因此作为可复现配方有较高可信度，但因果归因较弱。 Significance：显著性判断：中等。对前沿能力提升有限，但对开放社区有实用价值：它降低了复现完整后训练管线的信息门槛，特别适合只有数十节点、想基于开源 MoE 基座做 RL 的团队。把基础设施与工程选择视为配方的一部分、提出奖励可靠性排序与在线难度过滤等原则，可能影响后续开源后训练项目。局限是其结论绑定于 GLM-4.5-Air-Base 与特定开源栈，跨模型迁移性未验证。

本文不是受控研究，缺少完整消融，很多结论来自训练经验而非因果证据；阶段顺序部分继承自早期实验，未证明该顺序最优。Search Agent 一节只有 Data 标题而无内容，数据组成、奖励设计与训练配置没有真正给出；RLHF 细节也很少，这削弱了“完整配方”的可复现承诺。Coding Agent 明确未训到收敛，SWE-bench 收益没有保留到最终检查点，而后续两阶段未分别测量该基准，无法归因。去污染采用 n-gram 与稠密检索，作者也承认不能排除所有泄漏，且该风险适用于所有 RL prompt 集。基准读取存在协议差异：基线由作者自测，六个开发者自报列来自附录 D，开放网络搜索有实时漂移，AIME 样本数小且同条件重跑波动较大。数据依赖公开来源与上游模型生成轨迹，可能有风格偏置或隐藏污染。安全、毒性、过度拒答等维度不是重点。整套结论绑定于 GLM-4.5-Air-Base、Slime/SGLang 与特定 MoE 设置，未验证跨基座迁移。奖励顺序降低了但未消除 reward hacking，judge 型 RLHF 的博弈风险仍在。论文没有随文发布可直接运行的脚本与数据清单，外部复现仍需工程还原。

后续工作应首先补齐 Search Agent 的数据组成、奖励设计与训练配置，以及 RLHF 的偏好数据与奖励细节，使配方真正端到端可复现。建议发布数据清单、训练脚本、sandbox 服务与评估 harness，供外部团队独立复现。消融实验应覆盖：阶段顺序交换、难度过滤阈值、正确性/可解性过滤的单独贡献、rubric 只含必要条件与含可选条件、长度惩罚与动态采样窗口、SFT 类别组成。对昂贵的 agent 阶段做受控计算缩放与收敛分析，区分“路径可行”与“已收敛”。在多个 MoE 与 dense 基座上重复同一配方，检验结论的跨模型迁移性。增加更严格的数据泄漏审计，并公开 RL rollout 日志以分析 verbosity、truncation 与在线课程行为。补充安全、过度拒答与 reward-hacking 监控。最重要的是由独立团队复现，作为配方可复现性的最终检验。

本文把自身定位为 RGB-D 语义分割的新一代“数据集 + 基线”工作：一方面指出 NYUv2、SUN RGB-D 等既有基准在数据规模、语义粒度、场景多样性和标注质量上的不足；另一方面提出 RGBD20K，以两万级图像对、百级细粒度类别、多场景类型和精修像素标注来填补大规模 3D/重建数据与高精度二维语义分割之间的空白。方法上，文章提出 score-purified fusion（SPF），以“先纯化、后注意”原则替换 GeminiFusion 的融合模块，并在 NYUv2、SUN RGB-D 与 RGBD20K 上报告最优结果。整体贡献属于以基准建设为主、以融合模块改进为辅的工作。

RGB-D 语义分割利用深度信息补充 RGB 所缺乏的 3D 几何线索，在机器人、自动驾驶和室内场景理解中具有价值。早期基准 NYUv1、NYUv2、SUN RGB-D 规模有限，类别数分别只有 13、40、37 类，且多为室内场景；其标签常存在传感器噪声、边界错位和类别歧义。ScanNet、Matterport3D、2D-3D-S 等虽然数据量更大，但目标偏向 3D 重建、体素化或粗粒度结构解析，标签多为投影或自动生成，缺乏像素级细粒度精度。RealSee3D 等进一步放大规模，但重点仍是重建、平面图和 3D 检测。算法方面，CMX、TokenFusion、GeminiFusion 等双流方法通过交互模块融合 RGB 与深度特征，但计算开销大，且深度流用 RGB 预训练权重存在分布不匹配；DPLNet 探索提示式降参，DFormer 探索统一表示并给深度分配较少通道。本文认为标准交叉注意力面临 attention dilution：注意力需要同时处理跨模态噪声/错位和长程上下文聚合，反而削弱判别特征，因此提出在注意力前对 K/V 进行分数纯化。

SPF 整体沿用 GeminiFusion 的四阶段层级编码器（类似 SegFormer，使用 Swin-L 骨干）。RGB 与深度图分别经过共享的 MHA 与 FFN 编码，并在各阶段融合；最终融合特征送入 SegFormer 头输出分割图。其核心是 Score-Purified Fusion 模块，用于替换 GeminiFusion 原有的融合策略。 输入与分数生成。设某层 MHA 输出的 RGB、深度特征为 Q_rgb, Q_d ∈ R^{N×D}。Score Head 先把二者投影到可对齐空间：F_rgb = W_rgb Q_rgb + b_rgb，F_d = W_d Q_d + b_d。Relation Arbiter 再做互相检验：对 RGB 流，拼接自身查询与对方投影后经 MLP 和 Sigmoid 得到分数 S_rgb^f = σ(MLP([Q_rgb; F_d]))；深度流对称得到 S_d^f = σ(MLP([Q_d; F_rgb]))。这些分数随后被 Split 成模内分量 S_rgb、S_d 与跨模分量 S_rgb←d、S_d←rgb。 关键设计：纯化 K/V。对每个模态，把“自身查询 + 可学习噪声”和“对方投影特征”按相应分数做归一化加权平均，得到进入注意力前的 K 和 V。以 RGB 侧为例，K_rgb = ((Q_rgb + e_rgb^k)·S_rgb + F_d·S_rgb←d) / (S_rgb + S_rgb←d + ε)，V_rgb 同理；深度侧对称构造 K_d、V_d。其中 · 为 Hadamard 积，e^k、e^v 是可学习噪声分量，ε 为稳定性常数。直觉是：模内分数高的区域保留自身可靠特征，跨模分数高的区域引入对方互补证据；低分噪声（如深度边缘伪影、RGB 高纹理不可靠区）在注意力前被抑制。随后执行 O_rgb = MHA(Q_rgb, K_rgb, V_rgb)，O_d = MHA(Q_d, K_d, V_d)，再经残差连接与 FFN。 设计动机。作者认为普通交叉注意力必须同时消解跨模态不一致和长程聚合，造成 attention dilution。SPF 把噪声分辨前移到 K/V 构造阶段，让注意力只在被纯化的流形上做上下文聚合。投影层使两模态进入平衡表示空间；Relation Arbiter 不是简单启发式门控，而是用对方特征做交叉检验，生成像素级动态可靠性；Split 分离模内/跨模证据，使融合可解释；可学习噪声承担模态特有不确定性。 训练与数据细节。SPF 以 SwinTransformer Large 为骨干，权重衰减 0.01，训练 300 epoch，学习率分三段：6e-5、3e-5、1.5e-5，每段采用 poly 衰减（power 0.01），在四张 H100 上训练。NYUv2 与 RGBD20K 输入分辨率为 480×640，SUN RGB-D 为 480×480。RGBD20K 由 SUN RGB-D、RGB-D Mirror、VidSOD、DepthTrack、ARKitTrack 以及 DIML RGB-D 等异质来源整合并统一重标注为 160 类体系；标注采用层级标签、深度感知遮挡排序和部件关联，数据集按 18,000/2,000 划分训练与测试。

实验覆盖 NYUv2、SUN RGB-D、RGBD20K 三个基准，比较多种代表性 RGB-D 分割方法，并做了 SUN RGB-D 标注精修影响分析和 RGBD20K 上的消融。总体结论是：SPF 在所有基准上取得最优 mIoU；仅精修测试集标注即可提升预训练模型的评估分数，重训后进一步提升，且多方法在精修版 SUN RGB-D† 上一致受益；消融表明投影对齐、双向 K/V 分数纯化、可学习加性噪声以及 2 层 MLP + Sigmoid 的 Relation Arbiter 均对性能有贡献。

1. RGBD20K 的数据档案为 160 类、20,000 图像对、75 类场景、368,312 个掩码，平均每图 18.4 个掩码。

   RGBD20K (Ours) | 2026 | 160 | 20,000 | 75 | 368,312 | 18.4

2. RGBD20K 采用 18,000 对训练、2,000 对测试的标准划分。

   RGBD20K consists of 20,000 RGB-D image pairs collected from diverse indoor environments. We adopt a standard benchmark split for training and evaluation, using 18,000 pairs for training and 2,000 pairs for testing.

3. SPF 在 NYUv2、SUN RGB-D、SUN RGB-D† 和 RGBD20K 上分别达到 60.5、55.0、62.2、46.3 mIoU，参数量为 416.4M。

   SPF (Ours) | Swin-L-384 | 416.4M | 60.5 | 55.0 | 62.2 | 46.3

4. DPLNet 作为强基线，在四个基准上的 mIoU 分别为 59.3、52.8、59.0、28.0。

   DPLNet [ 5 ] | MiT-B5 | 88.6M | 59.3 | 52.8 | 59.0 | 28.0

5. 仅精修 SUN RGB-D 测试集标注，即可使预训练 DPLNet 的 mIoU 从 52.8 提升到 55.0。

   we refine only the test set annotations and evaluate a pretrained DPLNet [ 5 ] on the refined test set. This improves mIoU from 52.8 to 55.0

6. 在精修后的 SUN RGB-D† 上重训 DPLNet，可达到 59.0 mIoU。

   Under this setting, DPLNet [ 5 ] achieves an mIoU of 59.0

7. 完整 SPF 在 RGBD20K 上为 46.3 mIoU；去掉投影降至 45.7，去掉分数降至 45.5，仅对 K、V、RGB 或 Depth 加分数均低于完整模型。

   Score-Purified Fusion | 46.3 without Projection | 45.7 (-0.6) without Score | 45.5 (-0.8) with Score (K) | 46.0 (-0.3) with Score (V) | 45.9 (-0.4) with Score (RGB) | 45.8 (-0.5) with Score (Depth) | 46.0 (-0.3)

8. 噪声选择消融中，逐层可学习噪声加性注入效果最好；改用乘法或随机高斯噪声均下降。

   Learnable Noise, Add | 46.3 Learnable Noise, Multiply | 46.1 (-0.2) Random Gaussian Noise, Add | 45.3 (-1.0) Random Gaussian Noise, Multiply | 45.5 (-0.8)

9. Relation Arbiter 采用 2 层 MLP + Sigmoid 效果最好，Softmax 或 CNN 变体均下降。

   2layer-MLP + Sigmoid | 46.3 2layer-MLP + Softmax | 45.8 (-0.5) 1 × \times 1 CNN + Sigmoid | 45.5 (-0.8) 3 × \times 3 CNN + Sigmoid | 45.4 (-0.9)

Novelty：新颖性中等。数据集层面，“更大规模 + 更细类别 + 精修标注”的思路本身并不新鲜，且 RGBD20K 主要由既有数据集整合重标注而来，并非独立采集；但 160 类统一语义体系、跨源清洗以及对 SUN RGB-D 标注噪声的定量分析具有一定工程与社区价值。方法层面，SPF 本质是对 GeminiFusion 融合模块的替换，核心是用可靠性分数对 K/V 做加权纯化；投影、门控、残差和可学习噪声等组件都较常见，相对新意在于把“净化”显式前置于注意力，并用跨模交叉检验生成像素级可靠性分数，但整体仍属组合式改进。 Soundness：可靠性存在明显风险。第一，数据集由多个来源拼接并重新标注，但论文没有报告标注一致性、审核通过率、类别混淆矩阵或标注预算，难以独立判断“高保真”是否成立。第二，对比实验的骨干与参数量不统一，SPF 使用 Swin-L-384 且参数量最大，却未在相同骨干约束下复现其他融合方法，SOTA 结论可能被模型容量优势混淆。第三，仅报告 mIoU，缺少标准差、多次种子或类平均之外的稳定性指标；160 类长尾分布下单一 mIoU 可能掩盖尾类崩溃。第四，SUN RGB-D† 的精修标注与评估由作者完成，存在循环验证风险，且未说明是否只改动测试集或如何防止偏好。第五，RGBD20K 测试集占比仅约 10%，但类别和场景很多，代表性可能不足。方法部分也缺少显存、延迟或计算复杂度分析。 Significance：如果 RGBD20K 真正开源、标注质量得到第三方验证，它可以成为比 NYUv2/SUN RGB-D 更难的 RGB-D 分割测试平台，尤其适合细粒度、长尾和开放词汇/零样本研究。不过，由于数据主要来自既有来源，新增真实场景的边际价值有限，与 Matterport3D、RealSee3D 等大规模资源的定位也有差异。SPF 提供了一种简单、可插入的融合基线，但其普适性仍需在不同骨干、不同深度质量、跨数据集和更多模态设定下验证。整体意义偏“社区基础设施”而非范式突破。

论文自身未设 limitations。可辨识的局限包括：1) 数据来源是异质数据集整合，存在重复图像、不同传感器深度特性、原始标签泄漏和许可/隐私风险，未披露去重与来源清单；2) 160 类长尾分布虽贴近真实，但尾类样本可能过少，导致训练和评估不稳定；3) 高保真标注缺乏定量证据，仅有定性对比；4) 实验只用一种骨干和固定分辨率，未报告 FLOPs、延迟、显存，也未与轻量方法在同等预算下比较；5) SPF 参数多，分数生成与 K/V 构造增加额外计算；6) 没有跨数据集泛化实验（如 RGBD20K 训练、NYUv2 测试），也没有深度缺失/噪声鲁棒性测试；7) 缺少数据卡、偏差、隐私与伦理分析。

建议后续工作：报告标注者间一致性与每类 IoU 分布，公开去重规则、原始/精修标签映射及 SUN RGB-D† 修正脚本，避免自评偏差；在相同骨干和参数量约束下复现 CMX、GeminiFusion、DFormer 等，并比较 FLOPs、延迟和显存；加入跨数据集迁移、开放词汇/零样本分割基线；对深度缺失、边缘错位和传感器噪声做压力测试；针对 160 类长尾设计重加权/重采样或尾部类别专项评估；验证 SPF 在 RGB-T、RGB-LiDAR 等模态上的迁移性；补充数据卡、隐私与许可说明，使基准更适合作为公共基础设施。

WhatWorkedBench 是一个面向“实验理解”的基准：它不只看智能体能否在预算实验后选出最优配置，而看它能否准确预测每个组件改变在任何背景下的条件效应。论文把这种能力形式化为一个完整响应面预测问题，并用穷举原生执行提供可重复、可共享的数值参考。其定位介于交互式科学发现基准、研究流程执行基准与配置归因基准之间，核心贡献是提供了一个能同时比较测量策略、数值推断和程序结构利用的实验平台。

现有 AI 智能体越来越频繁地规划、执行和解释计算实验，研究型智能体还会利用试错历史修改训练配方、把廉价实验的经验迁移到昂贵配置。可靠实验的关键是预测组件改变在新设置中的行为，以及多个改变如何组合。已有评测大多关注最终任务成功、科学发现、因果解释或研究动作质量，较少直接度量智能体在受控干预空间内对条件效应的定量预测能力。相关工作中，BoxingGym、Gravity-Bench、Science-Gym、SciGym、CausalGame 等侧重交互式发现或因果解释；CAFE 和 petri-bench 更接近因子归因，但并非以完整条件效应场为评分对象；MLAgentBench、MLE-bench、ScienceAgentBench 等主要评估可执行研究方案或模型性能。WhatWorkedBench 的差异在于：它冻结一组原生工作流，把每个二元组件选项视作干预，穷举执行得到所有配置的效用，然后对智能体提交的完整响应面逐条计算条件效应误差。这样就把“实验理解”变成了可穷举、可重放、可共享的数值目标。

任务与观测协议。每个任务 t 由冻结的算法实现、随机种子和评估队列定义确定性的原生效用 u_t(z)∈[0,1]，其中 z∈{0,1}^{d_t}，d_t∈{4,6}。每个比特是一个二元选项，称为 factor；整个向量称为 mask，所有 mask 都合法。智能体免费获得两个锚点 u_t(0^{d_t}) 与 u_t(1^{d_t})，并可购买至多 B 个额外互异测量；测量可以自适应或批量进行。重复测量免费，超出预算的批量会被原子拒绝。最终提交物是对每个合法 mask 的有限数值预测 û_t(z)∈[0,1]。评分时，权威观测值会覆盖已测单元，因此已测边误差为零，未测边必须依赖推断。 首要数值目标。对组件 i 和背景 z（z_i=0），定义条件效应 Δ_i(z)=u_t(z+e_i)-u_t(z)。主误差 E_t 是所有 i 与 z_i=0 的 |Δ̂_i(z)-Δ_i(z)| 的平均，即 E_t = 1/(d_t 2^{d_t-1}) Σ_i Σ_{z_i=0} |Δ̂_i(z)-Δ_i(z)|。设 A_t 为真实条件效应绝对值的均值，恢复率 R_t=max(0,1−E_t/A_t)。恢复率为 1 要求 E_t 不超过 10^{-12} 的数值地板；恢复率为 0 表示误差至少等于真实效应均值。路径恒等式是设计核心：从 x 到 y 逐次翻转差异比特，有 u_t(y)-u_t(x)=Σ_{e∈path(x,y)} s_e Δ_e，s_e∈{−1,1}。因此完整条件效应加上一个锚点就能决定整个响应面；从同一张提交表推导所有预测效应可保持路径一致性。若每条边误差不超过 ε，则任意 k 项干预的总误差不超过 kε。 附加指标。除条件效应 MAE 外，还报告两两交互 MAE，即对 u(z+e_i+e_j)-u(z+e_i)-u(z+e_j)+u(z) 在剩余背景上平均后的第二差分；网格 MAE；选择后悔 max_z u_t(z)−u_t(argmax_z û_t(z))，并列时优先更少开启选项、再按字典序；以及严格重建 S_t(τ)，要求所有条件效应误差不超过 max{10^{-12}, τ(max u_t−min u_t)}，开发容差 τ=0.1，并报告多容差剖面。 目录与工作流。目录含 36 个任务条件、30 个数据源、8 个原生工作流家族：分类用逻辑回归与平衡准确率；回归用岭回归与变换 MAE；聚类用 k-means 与归一化互信息；预测用一步岭预测与变换 MAE；恢复用原生图像滤波与变换像素 RMSE；检索用 TF–IDF 与 NDCG@10；心搏检测用 SciPy 信号处理与事件 F1；链路预测用 NetworkX 特征加逻辑回归与 ROC AUC。四因子轨道有 22 个实例；配对轨道给每个家族的一个源增加两项，得到 6 个六因子变体；另有 4 个心搏检测和 4 个图实例。组件选项改变表示、估计器、预处理或计算算子。 数据准备细节。表格数据去重并保持首次出现顺序；监督任务按相同特征向量分组，用 GroupShuffleSplit 评估比例 0.3、种子 20260907，并保证两个分类分割包含相同类集合；特征变换、选择、PCA 和预测模型只在训练部分拟合。聚类在所有去重特征行上运行，已知类别数决定 k，原始类别标签只进入外部 NMI。预测序列的训练切点为 floor(0.75N)，所有 mask 从索引 12 开始拟合，评估时使用固定参数做一步预测。图像恢复使用 scikit-image 0.26.0 图像，统一缩放到最大 256，加种子 20260907、标准差 0.1 的高斯噪声，干净图像只用于外部像素 RMSE。检索使用 BEIR 导出语料，SciFact 使用 5,183 篇文档和哈希前 64 个训练查询，ArguAna 使用 8,567 篇文档和前 64 个查询，并按文档 ID 排序拟合向量器。心搏检测用 MIT-BIH 100、101、102、103 记录第 0 通道 [0,108000) 样本、360 Hz，QRS 标签集合按源标注，评分限制在 [1,299) 秒内部区间，事件匹配容差 100 ms。链路预测把图转为简单无向无权图，按源特定种子打乱边，观察/校准/测试约 60/20/20，负样本是原始非边的平衡采样，所有特征在共享观察图上计算。对回归、预测、恢复的成本 c，效用变换为 u=1/(1+c/s)，其中 s 是固定训练统计量或 0.1。 推断方法。D1 主效应岭建模加性组件贡献；D2 对效应岭加入两两交互。序列岭设计把测量分布到组件特征上；随机设计用 20 个种子和对效应估计器。GP 基线估计常数均值，并以翻转选项数刻画相似性；正则化和核参数通过留一预测误差选择。Grid GP 和 Effect GP 分别选择降低分数不确定性与条件效应不确定性的测量。所有预测器都保留已测值。代码等价控制利用“某操作关闭时某参数失效”等可见规则：等价类内配置原生行为相同，控制方法每个类测一个代表并把预测赋给所有成员；所有等价都经原生预测哈希与分数核对。 智能体设置。核心研究覆盖 108 个回合，使用 deepseek-v4-flash 与 deepseek-v4-pro，B 为低或高预算，并区分日期化队列。智能体获得工作流代码与输入摘要、高努力推理、32768 token 输出上限、1800 秒会话截止。四个工具分别是查看当前证据、购买 mask、执行数值 Python、提交预测表；最多 20 次计算调用，每次 30 CPU 秒和 45 墙钟秒；可用 NumPy、SciPy、scikit-learn 及公共岭助手。信息研究在六个六因子配对变体上比较完整代码与不透明视图。聚合采用 family-macro：源内重复平均、家族内源平均、家族等权。 参考验证。冷执行核对所有配置预测哈希；独立实现的原生指标和目标扰动检查验证评分边界；准备输入包单线程重放全部 1248 条记录，独立回合引擎与 4206 条数值控制记录一致。

论文在全部工作流家族上运行数值控制与核心智能体研究，并补充信息视图、代码等价诊断和新增家族分析。结果显示：精确选优可与较弱的条件效应重建并存；在固定已获取观测的前提下，替换推断器能明显提高恢复率；把代码暴露的等价配置编码进测量与预测也能提高恢复率；但仅提供完整工作流代码并不能稳定改善智能体表现，智能体甚至能报告规则却不遵守。总体上，基准把测量选择、数值重建和程序结构利用分离为可比较的算法决策。

1. 评测规模包含数值控制记录与核心智能体回合。

   Core evaluation combines 4,206 numerical-control records across all eight families and 108 agent episodes across the original six.

2. 目录覆盖多个任务条件、数据源与工作流家族。

   We provide 36 task conditions on 30 sources across 8 computational workflow families.

3. 穷举原生执行产生配置记录、条件效应和平均两两交互。

   Exhaustive native execution yields 1248 configuration records, 3,392 conditional effects, and 342 mean pair interactions, with standalone execution and grading.

4. 配对效应岭在多数源上找到最优并限制最大效应误差。

   At eight new measurements, pair-effect ridge selects an optimum on 15 of 22 sources and limits every effect error to 10% of score range on three.

5. 共享 GP 在两组 Flash 队列上提升恢复率。

   Fitting a Gaussian process (GP) to the same agent observations raises effect recovery, accuracy relative to true effect magnitude, from 0.632 to 0.698 in the original Flash cohort and from 0.621 to 0.720 in an additional cohort.

6. 新增心搏检测与图提交上，共享 GP 提升家族宏观恢复率。

   On six completed beat-detection and graph submissions, the same-observation GP raises family-macro recovery from 0.303 to 0.455.

7. 编码代码等价配置后，GP 恢复率提升。

   On six workflows with six binary options at 20 new measurements, encoding code equivalences, configurations with identical behavior, raises GP recovery from 0.248 to 0.462.

8. 四因子数值控制中，配对效应设计/岭达到给定的家族宏观恢复率、精确选优数和严格重建数。

   On the 22 four-factor sources, pair-effect design/ridge at B = 8 B=8 achieves 0.612 family-macro recovery, 15 exact configuration choices, and three strict reconstructions.

9. 效应方差 GP 在恢复率和精确选优上更高，但严格重建更少。

   The effect-variance GP reaches 0.701 recovery, 16 exact choices, and one strict reconstruction.

10. 原始 Flash 高预算回合中，多数条件效应涉及未测量配置。

    Across the original Flash B = 8 B=8 trials, 67.4% of conditional effects involve an unmeasured configuration.

11. 共享 GP 在原始 Flash 队列上把恢复率从交付表水平提高。

    Applying the GP to the original Flash B = 8 B=8 trials raises mean recovery from 0.632 to 0.698.

12. 代码等价类在六因子配对工作流上同时提升配对岭与效应 GP 恢复率。

    Across six paired workflows at B = 20 B=20 , using these classes raises pair-ridge recovery from 0.157 to 0.389 and effect-GP recovery from 0.248 to 0.462.

Novelty：概念与评测对象新颖：首次把“实验理解”定义为完整条件效应场的定量重建，而不是单点选优、平均效应或最终任务成功。穷举原生执行、共享观测估计器协议、代码等价控制三者结合，使测量策略、数值推断和程序结构利用可以在同一任务上分离比较。这是明确的评测创新。但论文采用的推断器主要是现成的主效应/对效应岭回归、GP 和主动学习准则，算法层面新颖度有限。 Soundness：总体较扎实。原生执行确定且可穷举，参考结果可冷启动重放，指标由独立实现交叉校验；缺失交付按零分计入；共享观测协议能控制测量选择与推断方法之间的混杂；日期化队列和失败统计透明。主要问题是样本规模小、模型覆盖窄，部分共享 GP 分析在原始队列上是回顾性的，缺少系统性显著性检验或置信区间，严格重建阈值和效用变换带有主观设定。 Significance：对实验型智能体评测有实际意义：它清晰区分“找到好配置”和“理解干预如何起作用”，并提供了可复用的任务、参考和回合工具。该基准可支撑自适应实验设计、响应面推断、程序结构利用等后续研究。不过当前体量和模型范围较小，直接外推到更复杂的真实研究流程仍需谨慎。

一，因子空间只有二元选项，维度限于 4 或 6，且工作流是确定性 CPU 计算，无法覆盖随机训练、GPU 大模型训练、多保真度和高成本实验。二，30 个数据源和 8 个家族仍属中小规模，冻结实现可能带来过拟合。三，智能体评估只使用 DeepSeek 系列两个 API 标识，缺乏开放权重模型、其他提供商和人类科学家基线；每个单元格的回合数不多，且存在缺失交付。四，共享 GP 对原始队列是回顾性分析，虽然附加队列部分预先指定，但证据强度有限。五，代码等价控制只在六因子配对变体和少数诊断回合中验证，且智能体并未学会自主利用程序结构。六，效用变换会掩盖原生单位，严格重建阈值和恢复率地板带有任意性，两两交互均值也可能抵消不同符号的效应。七，缺少统计显著性和不确定度报告。

后续工作可沿几个方向展开。第一，把选项扩展为连续、有序或组合型，增加因子数量，并引入随机、多保真度和更昂贵的工作流。第二，纳入开放权重模型、更多模型家族和人类科学家，做更多重复回合并预注册共享推断分析。第三，让程序结构成为智能体的一等工具，例如自动检测参数失效、等价类和不可达配置，而不是只做离线投影。第四，用 Walsh/Fourier 基把评分扩展到任意阶交互，并增加风险感知的自适应实验设计。第五，报告预测效应的校准误差和不确定度，把条件效应误差与真实决策损失联系起来。第六，研究跨任务迁移和课程式实验预算，使智能体把从一个工作流学到的结构知识用于新工作流。

本文定位为一个面向智能体强化学习的“环境—信号联合构造”管线 VHD-Play。其核心立场是反转主流“环境优先”的生成顺序：先采样并求解一个数学机制 M(θ)，得到参考最优与默认策略值，再用语料落地的冻结 setter 把同一机制渲染成有状态工具环境；可执行动力学与轨迹打分参考都继承自同一个已解模型。文章因此把自己放在若干既有路线之间——书面数学题（信号廉价精确但信息直接写在提示里）、手工模拟器（有交互但逐家族作者成本高）、人类反馈/学得裁判（存在评估者有效性负担）、以及先造环境后补奖励的生成式管线（动力学与评价事后对齐）。VHD-Play 的差异化主张是：构造顺序本身保证动力学与评价同源、可验证、可按参数重采样低边际成本扩展；其实验证据则试图显示该基板不仅能训练当前策略，还能随机制规模与视界增长持续提供可学余量。

语言模型智能体越来越多被要求完成长视界、状态演化、决策相互依赖、结果延迟的工作流，例如迭代修软件、跨工具客服、长时间运营模拟店铺。这类任务超出完全给定信息的问题回答，模型必须在动作中恢复信息、承担跨期后果，且可靠性随交互视界增长而下降。由此产生“环境—信号联合构造”问题：每个训练或评估实例都同时需要一个可执行环境，以及一个与该环境产出绑定的可靠信号。既有方案各有短板：书面数学与推理任务及基于答案奖励的搜索任务能提供廉价精确信号，但把相关信息直接放进提示，不要求在有状态过程中恢复；手工模拟器恢复了交互与精确结果，但每个新家族都要专家实现动力学与评估器；人类反馈扩展到非结构化工作流但需重复专家标注；学得裁判与评分表降低了标注负担，却引入自身有效性待确立的评估者；近期的工具/交互环境生成管线扩大了任务覆盖、减少了作者工作量，有时还附带可执行检查，但通常先构造任务或环境，再固定奖励或评估规则，把动力学与评价留到事后对齐。VHD-Play 的回应是把上游机制显式化：让数学模型的求解先行，求解结果固定结果规则，模型实现再提供状态动力学，包装后才暴露给策略；其思想承接运筹学“把具体决策问题抽象为数学模型”的传统，并利用成熟求解器与部分可观测规划（Kaelbling 等）的设定。与 EnvScaler 这类公开的环境优先基线的直接比较则用来具体化这一构造顺序差异。

机制部分是本文重心，可拆为构造顺序、形式对象与动力学、评价信号、生成与准入管线、训练与数据细节五层。 一、构造顺序的反转。论文把常见流程记为环境优先：E →定义 R_E，或 (E,π)→交互 τ_π→标注 y_π；此时交互过程（含转移结构）在监督之前已打包进 E，即使转移结构已知也未必被隔离出来。VHD-Play 则让上游机制显式化：M(θ) →求解 z_θ →固定 R_θ(·;z_θ)，同时 M(θ) →实现 D(θ) →包装 E(θ)，然后 τ_π∼E(θ)、y_π=R_θ(τ_π;z_θ)。关键直觉是“可执行过程”和“评价”都从 M(θ) 派生，二者不是两个事后对齐的工件，而是同一已解机制在动力学侧与评价侧的两个投影。Tab 7 与 EnvScaler 的对比把差异锁定在构造顺序：EnvScaler 先产生程序骨架、数据库与任务得到 E，再生成 checklist 与终态校验器定义 R_E；VHD-Play 先固定 z_θ 与 R_θ，再实现并包装 E(θ)。 二、形式对象与动力学。机制家族 f 定义多期决策问题分布 P_f，参数 θ∼P_f 固定一个实例；M(θ) 规定决策、约束、目标与可行策略。其可执行动力学 D(θ)=(S,Λ_θ,U_θ) 含状态空间、转移与效用；环境 E(θ)=Wrap(D(θ);Ω_θ,A,T) 再加观测映射、动作集与 T 轮预算。反馈过程为 a_t=π(o_{≤t})，s_{t+1}=Λ_θ(s_t,a_t)，o_{t+1}=Ω_θ(s_{t+1},a_t)，u(π;θ)=U_θ(τ_π)，0≤t<T；一轮即一次接口调用。设计上区分探测动作 A_probe⊆A 与决策动作：探测返回隐藏状态或参数的指定视图而不改状态，决策动作经 Λ_θ 改状态，二者共享同一预算 T；接口还可提供既不读也不改任务状态的无状态计算。隐藏参数使过程成为部分可观测问题，但策略无需符号化重建 M(θ)，只需对暴露动力学形成有用代理。信息不对称被写成 G:(θ,c)↦(D(θ),E(θ))，而 π:o_{≤t}↦a_t：建造者看到完整参数与语料种子，策略只看到接口发布的观测。Ω_θ 与 A 属于包装层，因此成为控制“哪些成分初始可见、哪些需交互揭示、哪些保持潜在”的显式控制点。同一 θ 可切为书面题 F、参数揭示的知情智能体 I、仅交互获取参数的智能体 A，问题与评价不变而信息边界不同。 三、评价信号。家族求解器 S_f 在生成前算出 z_θ=(u*(θ),u_0(θ))，即最优值与固定默认策略值。回合奖励为 r(π;θ)=clip[0,1]((u(π;θ)−u_0(θ))/(u*(θ)−u_0(θ)))。默认策略锚定 0、全信息最优锚定 1，截断到有意义区间而非任意数值区间；在部分信息下 u*(θ) 是上参考、线上策略未必可达。参考由闭式算术、枚举、动态规划或数值求解（如 HiGHS、SLSQP）算出，语言模型不进入打分路径。库存例子显示实现层的原点平移：原始默认 22.74、原始最优 45.01，平移后参考对为 u_0=0、u*=22.27。 四、生成与准入管线。(1) 采样与求解：θ∼P_f 后由 S_f 求 z_θ，并把决策变量映射为状态更新、约束放入转移函数、目标累加为终末效用，同一实现逻辑跨参数复用。(2) 语料落地的实现：冻结 setter 接收完整参数与一段独立采样的真实文档，生成场景、关系数据库、领域工具 schema 与函数体、玩家指令；语料提供实体/关系/语言，机制决定决策过程，参考固定评价。完整 θ 保留在 D(θ) 内部，只经 E(θ) 发布接口视图；起始 35B 检查点已能产出有效环境，更强 setter 主要改善良率与界面精细化（App C.3：起始模型 30 个请求中发出 22 个、21 个保持参考，有效准入率 70%；更强 setter 100% 且平均尝试次数更低）。(3) 准入：测试候选是否可执行、其实现行为是否与预计算构造一致，失败则重生成或拒绝；28 个主题域、归一化熵 0.997。(4) 策略优化：对同一实例的 rollout 组用 GRPO，机制优先构造形式上可与其它优化器配对。 五、训练与数据细节。管线产出 3,300 个通过准入的环境：2,200 训练、300 留出评估（三个训练家族）、800 未见家族评估（每家族 100）。十一个被评估家族包括 inventory DP、knapsack、linear programming、quadratic programming、routing、facility location、scheduling、scheduling(tardiness)、negotiation、sequential stopping、sequential search；正文未逐一点名三个训练家族，五家族诊断表覆盖前五个优化家族。GRPO 设置：每步 64 个 prompt、每 prompt 保留 16 条 rollout（过采样到 18），优势为回报减组均值，无标准差归一化、无 KL 惩罚、无价值模型；学习率 2e-6、裁剪比 4e-3、每批一个内轮；报告检查点在第 34 步，消耗 2,176 个环境、共 34,816 条打分 rollout。上下文预算：单回合上限 1,000 轮、每轮生成上限 16,384 token、累计生成上限 120,000 token、prompt 上限 8,192 token、受管上下文 65,536 token；训练集回合平均 59.7 个助手轮次。

实验围绕三个研究问题展开：训练收益能否泛化到留出与未见机制、外部接口与更长视界；为何模型能解书面题却仍在有状态交互上留下大量可学空间；环境生成与策略学习能否随机制规模共同扩展。总体结论是：训练后策略在所有被评估的生成机制家族上都有提升，并迁移到留出训练家族与完全未见的新机制家族；外部迁移在最长视界的电商基准上最明显，训练模型能全程完成运行并避免破产，期末余额相对基线与更强的参考模型都有改善，通用函数调用与旅行规划基准同步提升。三形式对比显示，基线模型在书面题上接近上限，但同一问题转为有状态交互后大幅下滑，且大部分可学缺口来自有状态交互与信息获取而非底层求解能力；训练主要弥合交互缺口并保持书面求解。共扩展实验显示，同一冻结 setter 能实现超出其基础策略初始能力的环境，且随机制规模与视界增大，训练增益不降反升，表明该构造能持续提供训练余量。上述结论的可信度受限于生成家族结果只报告单次训练与单次评估种子、外部基准样本量较小、以及参考模型采用不同 API 协议等条件。

1. 主实验的五家族诊断中，训练 Qwen3.6-35B-A3B 后平均智能体得分从 0.204 提升到 0.815。

   Training Qwen3.6-35B-A3B on three families raises its mean agentic score from 0.204 to 0.815 in a five-family diagnostic.

2. 在生成机制家族上，训练提升所有被评估家族；留出训练家族平均提升 0.56，未见优化家族提升 0.63，远 OOD 两组分别提升 0.24 与 0.16。

   Held-out training families gain + 0.56 +0.56 on average. Near-OOD families are unseen optimization families and gain + 0.63 +0.63 . Far-OOD families change the decision structure or restrict probing and gain + 0.24 +0.24 and + 0.16 +0.16 across the two groups.

3. 在 365 天电商基准上，训练后平均期末余额从 54,294 升至 182,844（约 3.4 倍），并超过 Qwen3.7-Max 参考的 165,224。

   Its mean ending balance rises from 54,294 54{,}294 to 182,844 182{,}844 , or 3.4 × 3.4\times , and exceeds the Qwen3.7-Max reference of 165,224 165{,}224 .

4. 外部迁移中，BFCL V4 十单元无加权均值从 61.25 升至 64.08，TravelBench 计划质量从 0.700 升至 0.794（低于 Qwen3.7-Max 的 0.891）。

   The unweighted mean over this BFCL V4 subset rises from 61.25 61.25 to 64.08 64.08 , and TravelBench plan quality increases from 0.700 0.700 to 0.794 0.794 , below the Qwen3.7-Max reference of 0.891 0.891 .

5. 三形式对比中，基础模型在书面题 F 上得 0.962，但在参数已揭示的知情智能体 I 上跌至 0.231。

   The base checkpoint scores 0.962 0.962 in F F but falls to 0.231 0.231 in I I , although the sampled parameters remain available.

6. 当参数必须通过界面交互获取时，基础模型的智能体形式 A 进一步降至 0.204。

   Requiring those parameters to be acquired through the interface further lowers A A to 0.204 0.204 .

7. 训练对三形式的改变为 (F,I,A)=(+0.030,+0.644,+0.611)，弥合 84% 的参数揭示态缺口与 77% 的书面到智能体全缺口。

   Training changes ( F , I , A ) (F,I,A) by ( + 0.030 , + 0.644 , + 0.611 ) (+0.030,+0.644,+0.611) , closing 84 % 84\% of the parameter-revealed stateful gap and 77 % 77\% of the full written-out-to-agentic gap.

8. 固定分层分析把 0.443 的智能体增益中的 0.030 归因于代码工具采用率上升，另有 0.413 留在相同分层内，说明增益不主要来自调用代码工具。

   The fixed-stratum analysis in App. H.5 attributes + 0.030 +0.030 of a + 0.443 +0.443 agentic gain to increased adoption across the eight families with both tool-use strata, leaving + 0.413 +0.413 within fixed strata.

9. 训练造成的策略偏移很小，前向 KL 为每助手 token 0.089 nats，与能力激发解释一致。

   Consistent with a capability-elicitation interpretation, the gain coincides with a modest policy shift of D KL ( π trained ∥ π Base ) = 0.089 D_{\mathrm{KL}}(\pi_{\mathrm{trained}}\|\pi_{\mathrm{Base}})=0.089 nats per assistant token

10. 共扩展扫描中，6×5 配置下基础/训练策略得分分别为 0.432 与 0.843，11×11 配置下分别为 0.085 与 0.946。

    At 6 × 5 6\times 5 , the Base and trained policies score 0.432 0.432 and 0.843 0.843 . At 11 × 11 11\times 11 , they score 0.085 0.085 and 0.946 0.946 .

11. 四档扫描的训练增益依次为 +0.412、+0.551、+0.675、+0.861；两个较大配置平均 +0.768，两个较小配置平均 +0.482。

    The gains across the sweep are + 0.412 +0.412 , + 0.551 +0.551 , + 0.675 +0.675 , and + 0.861 +0.861 , with the two larger configurations averaging + 0.768 +0.768 compared with + 0.482 +0.482 for the two smaller configurations.

12. 管线共产出 3,300 个多样化智能体环境，单个成本仅几美分。

    The pipeline produces 3,300 diverse agentic environments at a cost of a few cents each.

Novelty：新颖性中等偏上。最清晰的概念贡献是“机制优先”构造顺序：先求解、后渲染，使环境动力学与结果规则同源于一个已解机制，并用参考重放做准入校验；这相对于“先生成环境、后补奖励/标注”的管线是一个真正的顺序反转，而非新求解器或新优化算法。语料落地、信息不对称接口（F/I/A 三形式、探测动作与共享预算）以及按家族注册采样器-求解器-适配器的低成本扩展方式，提供了实用层面的增量。但构成件（GRPO、现成 OR 求解器、LLM 工具生成、部分可观测规划）都是既有技术，机制家族本身也是成熟的数学/运筹学模型；因此新颖性主要落在“构造出处与验证来源”的重新组织，以及对“可验证强化学习从答案走向轨迹”这一扩展的明确化，而非根本性的新方法。 Soundness：方法论整体较扎实：求解器派生参考避免了学得裁判的混淆，参考重放提供对生成动力学一致性的检查，F/I/A 消融干净地隔离了信息暴露方式，固定分层与 KL 估计试图排除“只会调代码工具”的替代解释。但稳健性存在明显保留：训练只覆盖三个家族，生成家族结果只报告单次训练运行与单次评估种子；外部基准样本量小（电商每臂仅五次店铺运行），Qwen3.7-Max 参考在 API 协议下取得、与本地评估不完全同条件；固定分层和 KL 是相关性证据而非因果识别；F/I/A 比较只改变信息边界，训练却使用完整构造，因此未把增益单独归因于结果规则与接口；部分家族的 hindsight ceiling 是不可达上锚，r=1 在部分可观测下未必可实现，归一化分数的解释需要谨慎。总体上结论方向可信，但强度证据属于中等。 Significance：实际意义较强：若机制优先构造确实能以每环境极低边际成本持续产出可验证、可交互、可扩展的训练基板，并对未见机制与更长视界的外部任务产生迁移，则为智能体训练的规模化提供了一个有吸引力的路线，尤其是“冻结 setter 能实现出比其基础策略初始更难的环境”这一不对称性，提示训练基板可随策略能力共同演进。其意义边界在于依赖参考可计算的数学/运筹学家族，且正文自陈这不足以说明运筹学对通用智能体能力是充分的；因此更应视为一种可复用的构造范式与工程框架，而非对通用智能体能力的完整解答。

主要局限如下。(1) 参考可计算性：所有报告家族都有可计算参考结果；优化家族用精确或数值求解器，negotiation 用反向归纳，sequential stopping/search 用 hindsight ceiling，后者仅提供一致上锚、线上策略未必可达，因此 r=1 的解释与分数饱和度需谨慎。(2) 监督稀疏：实现只用单一终末结果，优化器无中间监督，信用分配完全依赖回合级信号。(3) 覆盖有限：训练仅三个家族，生成家族评估为十一个，且多为独立可得的成熟 OR 模型；无法说明更广泛、非结构化或参考不可算领域的表现。(4) 实验稳健性：生成家族结果只有一次训练运行与一次评估种子；外部基准样本量小（电商五轮/臂），Qwen3.7-Max 参考在 API 协议下取得，条件不完全一致。(5) 归因不完整：F/I/A 只隔离信息暴露，训练用完整构造，未把增益单独归因于结果规则与接口；固定分层与 KL 是描述性证据。(6) setter 可行性：起始 35B 检查点有效准入率 70%、需更多重试与界面细化，在最低公开价格下并不比更强 setter 每准入更便宜，说明机制优先仍未完全摆脱对较强 setter 的效率依赖。(7) 边界声明：论文明确不声称策略显式重建了底层模型，也不声称运筹学对通用智能体能力充分；所有结论限于已评估家族。

后续工作可从几方面跟进。(1) 规模与视界的更远端扫描：继续检验机制规模/视界增大时训练增益是否保持，以及冻结 35B setter 能否在更复杂参数下稳定实现并保持参考一致性。(2) 参考类型扩展：把机制优先推广到参考只能部分计算或带噪声的机制，探索用可验证下界/上界、部分奖励或统计保证替代精确最优，以突破“必须可求解”的限制。(3) 监督密度与信用分配：在终末奖励之外加入中间监督或价值引导，观察是否进一步改善长视界信息获取与跨期决策。(4) 消融与因果归因：单独改变结果规则与接口、语料落地与中性模板、探测预算与信息成本，分离各组件贡献。(5) 与环境优先基线的更严格对比：在更强 35B 起点上继续对照 EnvScaler，理解为何低基线的大幅增益未必迁移到强基线，并统一基准与推理协议。(6) 行为机制研究：检验策略是否学会显式建模/代理重建机制，测量“何时停止探测”的信息获取效率与最优停止行为。(7) 发布与审计：公开 3,300 个环境、参考重放脚本与准入审计，供独立验证动力学-参考一致性与奖励可复现性。(8) 机制来源多元化：尝试博弈、排队、组合优化、动态规划、控制等其它形式机制，检验“参数化变体+可执行实现+受控信息不对称+事前固定标准”这一抽象是否普遍成立。

本文提出 Neural Spectral Capacity（NSC）与配套求解器 NSC-DP，试图回答 Transformer 设计与压缩中的共同问题：在固定参数或计算预算下，如何把容量分配到深度、宽度、头数、FFN、LoRA rank 等结构维度。相比 #Params/#FLOPs，NSC 关注的是结构而非规模；相比需要实例化、采输入、做黑箱搜索的训练无关代理，NSC 是只由架构规格决定的闭式标量，并因其逐层可加性可被动态规划精确优化。论文把这一工具同时放进排序、端到端 NAS 与 LLM 结构化剪枝三条实验线中，定位为“规格层面的架构结构标量”，而不是训练后的质量评估器。

现代 Transformer 设计与压缩共享同一个潜在问题：预算一定时，容量应如何在结构组件间分配。预训练阶段涉及深度-宽度、FFN ratio、GQA/MQA 头共享、MoE 专家分配；后训练结构化剪枝则反向决定保留哪些组件。现有标量 #Params 与 #FLOPs 只捕捉规模与算力，两个结构不同的架构只要参数或 FLOPs 相同就得到相同分数。训练无关 NAS 代理虽能评分架构，但通常必须实例化随机初始化网络、在真实或合成输入上测量激活/梯度/注意力，而且代理是整网黑箱函数，资源约束下只能靠进化、RL 或随机采样得到“访问过的最好架构”，不能保证最优。 NSC 的理论背景来自随机矩阵理论与信息论：把权重矩阵看成线性高斯信道 y=Wx+z，其互信息由 log-det 表达，而随机初始化下的奇异值谱服从 Marchenko–Pastur 律，使 log-det 的期望可由矩阵形状和初始化方差闭式计算。这一视角与既有 RMT 工作不同：Martin & Mahoney 用训练权重谱的厚尾诊断训练质量；Pennington & Worah 研究初始化激活谱并依赖非线性与输入分布；Berlyand 等把 MP bulk 内奇异值当噪声剪除。NSC 则把 MP 谱本身的容量当作被计数的量，用谱容量在“多个规格中做选择”。在 LLM 结构化剪枝方面，现有方法多依赖预训练权重和校准激活（LLM-Pruner、Sheared LLaMA、LoNAS、SparseGPT、Wanda），NSC 只需要剪枝后子网的规格，不需要权重或校准数据。

NSC 的设计分四层。 第一层是单矩阵谱容量。对 W∈R^{m×n}，定义 ψ(W)=ln det(I+W^⊤W)=Σ_{i=1}^{min(m,n)} ln(1+σ_i²)。它等价于线性高斯信道 y=Wx+z 的互信息 I(x;y)=1/2·ψ(W)，其中 x∼N(0,I_n)、z∼N(0,I_m) 独立；各向同性输入把单位功率放在每个输入方向，使第 i 个奇异方向以信噪比 σ_i² 被探测，在没有 W 实现可用时这也是最优输入。常数 1/2 被省略，因为排序、加法聚合与最大化对正缩放不变。ψ 依赖完整奇异谱，而非 m·n：同样尺寸的矩阵可因谱分布不同而容量差异巨大，且对低秩截断、宽高比、不同算子类型敏感。 第二层是闭式化。设 W 的条目 i.i.d.、零均值、方差 s²，M=max(m,n)，N=min(m,n)，γ=N/M。Marchenko–Pastur 定理给出归一化平方奇异值 σ_i²/(M s²) 的经验分布收敛到密度 f_MP(λ;γ)，支撑为 [λ−,λ+]=(1±√γ)²。于是 ψ(W)/N 几乎必然收敛到 ℐ(γ,Ms²)=∫_{λ−}^{λ+} ln(1+Ms²λ)f_MP(λ;γ)dλ，这正是 MP 律在信噪比 Ms² 下的 Shannon 变换。作者把 ψ(W) 定义为 ψ_MP(m,n,s)=N·ℐ(γ,Ms²)，即把极限泛函本身当作规格的函数，而非对某次 SVD 的近似。初始化方案固定后 s² 由形状决定（Xavier 为 2/(m+n)，Kaiming fan-in 为 2/n，截断正态为常数），因此评分退化为维度函数。直觉上，∂ψ/∂σ_i=2σ_i/(1+σ_i²) 在 σ_i=1 处达到最大，而方差保持初始化恰好把谱主体放在 1 附近，这为“初始化容量对训练后结构敏感”提供了部分机制解释。 第三层是层内与层间聚合。只考虑线性投影矩阵：多头注意力按每个头的 Q/K/V 分别计算，以区分头数；注意力输出投影与 FFN 矩阵也纳入；卷积 reshape 成 c_out×(c_in·k²) 的 im2col 线性映射；嵌入、偏置、归一化和非线性被排除。层内用求和 Ψ_l=Σ_j ψ(W_l,j)，可解释为 block-diagonal 并联信道的 log-det 相加；层间再用求和 NSC(f)=Σ_l Ψ_l=Σ_{l,j} ψ_MP(m,n,s)，使整个评分在 O(L) 内从规格完成。论文明确说明层间是串行执行，求和不是端到端互信息声明，而是经验选择：min 瓶颈会使分数塌缩，乘积会把深度与容量混淆，求和避免了这两种失败且满足 DP 所需的可加性。 第四层是 NSC-DP。架构分解为网络级决策 g（深度、embedding 等）与层级决策 x_l（头数、FFN 宽度、MLP ratio、LoRA rank 等）。固定 g 后，NSC 和资源约束都按层加性分离，因此内层成为有界或多重选择背包，可用动态规划精确求解；外层枚举 g。DP 表同时编码所有可达预算的最优解，可一次得到 Pareto 前沿。单次 ψ_MP 求积约 10μs，且相同 (m,n,s) 可缓存复用；内层复杂度为 O(L(g)·B·|X_l(g)|)。NSC-DP 返回的是代理目标下的全局最优，而非真实任务最优；适用前提是目标与资源都能逐层分解。 训练与数据细节：NSC 本身不训练、不需数据、不需梯度；但实验验证依赖训练分数或已有权重。排序实验使用 GLUE、WikiText-103、ImageNet 等已有训练结果；Transformer-XL 搜索从零在 WikiText-103 训练；AutoFormer 继承超网权重；LLaMA 剪枝使用 LoNAS 超网，并在八个零样本常识任务上做多选题评估，NSC-DP 不使用任何校准数据。

实验分为排序、架构搜索与 LLM 结构化剪枝三组。排序覆盖七个 Transformer/CNN 家族，重点考察接近等参数预算区间内 NSC 是否仍有区分力，并与 #Params、#FLOPs 及多种训练无关代理比较。搜索与剪枝实验显示 NSC-DP 在单核 CPU 上极快，能找到接近或超过人工设计与代理搜索的架构和剪枝配置。附录进一步验证 MP 闭式对 SVD 谱容量的一致性、跨 CNN 的排序能力以及聚合规则的选择依据。

1. 在 FlexiBERT 500 个架构上，NSC 的 Kendall τ 为 0.695，10%-PW τ 为 0.505；#Params 为 0.485 与 0.082，#FLOPs 为 0.552 与 0.329；W-PCA 为 0.635/0.417，ZeroLM 为 0.527/0.355，SNIP 为 0.289/0.237，GradNorm 为 0.171/0.164。

   NSC (ours) | 0.695 | 0.505 | 2 ms #Params | 0.485 | 0.082 | — #FLOPs | 0.552 | 0.329 | 2 ms W-PCA | 0.635 | 0.417 | 88 s ZeroLM | 0.527 | 0.355 | 63 s SNIP | 0.289 | 0.237 | 73 s GradNorm | 0.171 | 0.164 | 74 s

2. NSC 的 10%-PW τ 在每个基准上都超过 #Params，例如 AutoFormer-Tiny 上 0.503 对 0.322，NATS-Bench-SSS 上 0.372 对 0.116，MobileNetV3 上 0.535 对 0.414。

   This pattern generalizes: NSC ’s 10%-PW τ \tau exceeds #Params’ on every benchmark—e.g., 0.503 0.503 vs. 0.322 0.322 on AutoFormer-Tiny, 0.372 0.372 vs. 0.116 0.116 on NATS-Bench-SSS, 0.535 0.535 vs. 0.414 0.414 on MobileNetV3 (Appendix F.2 ).

3. 在 FlexiBERT 上 NSC 比 W-PCA 高 +0.060、比 ZeroLM 高 +0.168；在 AutoFormer-Tiny 上比 W-PCA 高 +0.110；在 GPT-2 上与领先代理的差距在 0.03 以内。

   On FlexiBERT it leads W-PCA by + 0.060 +0.060 and ZeroLM by + 0.168 +0.168 in τ \tau ; the lead widens on AutoFormer-Tiny ( + 0.110 +0.110 over W-PCA), while on GPT-2 NSC is competitive with the leading proxies (within 0.03 0.03 of W-PCA) at orders-of-magnitude lower wall-clock.

4. Transformer-XL 搜索中，NSC-DP 找到测试 PPL 23.087，低于 TXL Base 23.279 与 Synaptic Div. 23.135，且在 CPU 上 2.0 秒完成，比 883–965 秒的训练无关代理基线快 400 倍以上。

   On Transformer-XL, NSC-DP discovers an architecture with test PPL 23.087 23.087 , the lowest among all methods—improving over Transformer-XL Base ( 23.279 23.279 ) and Synaptic Div. ( 23.135 23.135 ). The search completes in 2.0 2.0 seconds on CPU, more than 400 × 400\times faster than the 883 883 – 965 965 s consumed by training-free proxy baselines.

5. AutoFormer-Tiny 上 NSC-DP 的 Acc@1/Acc@5 为 75.276/92.788，成本 0.03 秒，优于 TF-TAS、AZ-NAS、W-PCA，并接近 AutoFormer-T 的 75.308/92.690（后者耗时 24 天）。

   AutoFormer-T | 5.7 | 75.308 | 92.690 | 24 24 d TF-TAS | 5.9 | 75.234 | 92.730 | 0.5 0.5 d AZ-NAS | 5.9 | 74.804 | 92.504 | 2,592 2{,}592 s W-PCA | 5.8 | 74.752 | 92.500 | 206 206 s NSC-DP (ours) | 5.8 | 75.276 | 92.788 | 0.03 \mathbf{0.03} s

6. 在 LLaMA-7B 5.7B 剪枝中，NSC-DP 的 Avg8 为 65.47，八个任务分别为 64.01/72.85/68.94/51.30/64.72/72.43/58.70/70.80，超过 SNIP 60.73、SynFlow 60.68、GradNorm 62.45 与 W-PCA 63.83。

   LoNAS-SuperNet | 6.7 B | 66.02 | 77.58 | 72.93 | 57.49 | 66.85 | 78.41 | 62.29 | 76.20 | 69.72 | — SNIP | 5.4 B | 61.93 | 69.21 | 64.99 | 41.26 | 62.04 | 66.50 | 52.47 | 67.40 | 60.73 | 22 min SynFlow | 5.2 B | 61.13 | 70.24 | 63.25 | 45.94 | 59.98 | 66.84 | 51.88 | 66.20 | 60.68 | 23 min GradNorm | 5.5 B | 61.31 | 70.78 | 67.35 | 46.33 | 62.59 | 69.02 | 55.03 | 67.20 | 62.45 | 22 min W-PCA | 5.7 B | 63.82 | 70.95 | 67.91 | 49.24 | 62.75 | 69.57 | 56.40 | 70.00 | 63.83 | 45 min NSC-DP (ours) | 5.7 B | 64.01 | 72.85 | 68.94 | 51.30 | 64.72 | 72.43 | 58.70 | 70.80 | 65.47 | 0.5 \mathbf{0.5} s

7. NSC-DP 在 CPU 线程上 0.46 秒完成 LLaMA-7B 剪枝，比最快基线 GradNorm 的 22 分钟快约 2800 倍，比最强基线 W-PCA 的 45 分钟快约 5900 倍。

   NSC-DP completes pruning in 0.46 s on a CPU thread, ∼ \sim 2,800 × \times faster than the fastest baseline (GradNorm, 22 min) and ∼ \sim 5,900 × \times faster than the strongest baseline (W-PCA, 45 min).

8. 同一次 DP 反向传递编码所有可达预算的最优解，可直接读出七个 LoNAS-LLaMA 工作点（1.29–1.41 TFLOPs），无需额外搜索。

   The same DP backward pass that produces the 5.7 5.7 B result encodes the optimum at every reachable budget; reading off the seven LoNAS-LLaMA operating points spanning 1.29 1.29 – 1.41 1.41 TFLOPs requires no additional search (Figure 3 ; Appendix E ).

9. ψ_MP 相对 SVD 值 ψ_W 的误差按 O(1/min(m,n)) 衰减，min(m,n)=128 时低于 0.4%，min(m,n)=1024 时约 1e-4。

   the relative error of ψ MP \psi_{\mathrm{MP}} against the SVD-based value ψ W \psi_{W} of Definition 1 decays as O ⁡ ( 1 / min ⁡ ( m , n ) ) O(1/\min(m,n)) , falling below 0.4 % 0.4\% at min ⁡ ( m , n ) = 128 \min(m,n)=128 —the smallest hidden dimension across our benchmarks—and to ∼ 10 − 4 {\sim}10^{-4} by min ⁡ ( m , n ) = 1024 \min(m,n)=1024 (Appendix G.1 ).

10. 在 LoNAS-LLaMA-7B 训练超网上，ψ_MP 与 ψ_W 对 129 个 Pareto 最优子网的排序 τ=ρ=1.0000，平均 SVD-oracle regret 为 0.039%，相对 SVD 路线节省 720 倍计算。

    On the LoNAS-LLaMA-7B trained supernet, ψ MP \psi_{\mathrm{MP}} matches ψ W \psi_{W} at τ = ρ = 1.0000 \tau{=}\rho{=}1.0000 across all 129 129 Pareto-optimal subnets, with 0.039 % 0.039\% mean SVD-oracle regret and a 720 × 720{\times} compute saving over the SVD route (Appendix G.2 ).

11. 在 10 个架构的训练过程观察中，ψ_t 单调增加，t=0 与收敛 t=T 的排序相关为 1.00，收敛 ψ_T 与最终 PPL 的 |ρ|=1.00；更大规模结果的 Spearman ρ 在 0.78–0.97。

    Figure 1 shows that across training: (i) ψ t \psi_{t} increases monotonically as spectral structure develops; (ii) rankings at t = 0 t=0 are preserved throughout ( ρ ⁡ ( ψ 0 , ψ T ) = 1.00 \rho(\psi_{0},\psi_{T})=1.00 ); (iii) converged ψ T \psi_{T} ranks final PPL perfectly ( | ρ | = 1.00 |\rho|=1.00 ). The perfect correlations reflect the small sample of 10 architectures with deliberate size spread; larger-scale results in § 4 report Spearman ρ ∈ [ 0.78 , 0.97 ] \rho\in[0.78,0.97] .

12. NSC 在 0.54 秒内评分全部 32768 个 NATS-Bench-SSS 候选；CIFAR-10 上 93.44%（比 TAS 高 0.04），CIFAR-100 上 70.68%，ImageNet16-120 上 46.87%；W-PCA 在 ImageNet16-120 跌到 43.29±3.49%，NASWOT 为 44.86%。

    NSC scores all 32,768 32{,}768 candidates in 0.54 0.54 s ( ∼ 16 \sim 16 μ \mu s each)—more than one order of magnitude faster than every baseline (up to four), enabling exhaustive ranking instead of the 1,000 1{,}000 -sample protocol every other training-free method must use. Despite being derived for Transformer attention/FFN matrices, NSC is best on CIFAR-10 ( 93.44 % 93.44\% , ahead of TAS by 0.04 0.04 ) and second on CIFAR-100 ( 70.68 % 70.68\% ) and ImageNet16-120 ( 46.87 % 46.87\% ), trailing TAS by ≤ 0.30 {\leq}0.30 points on those two while running 4,000 4{,}000 – 14,000 × 14{,}000\times faster than TAS, and reaching within 0.21 0.21 / 0.66 0.66 / 0.53 0.53 points of the oracle on CIFAR-10/100/ImageNet16-120. By contrast, the strongest Transformer-side ZCP W-PCA collapses to 43.29 ± 3.49 % 43.29\pm 3.49\% on ImageNet16-120 ( 3.58 3.58 points below NSC ), and CNN-native baselines also fail to match: NASWOT reaches only 44.86 % 44.86\% on ImageNet16-120 (vs. 46.87 % 46.87\% for NSC ), and RBFleX-NAS trails NSC by 0.28 0.28 / 0.32 0.32 / 0.80 0.80 points across the three datasets.

Novelty：新颖性：中高。单矩阵 log-det 容量、线性高斯信道互信息、Marchenko–Pastur 律和 Shannon 变换都是成熟工具，但把它们从“诊断已有网络谱”转为“只由规格计算并用于架构选择”的视角是清晰的。真正的构造性增量在于：把 MP 极限泛函当作定义而非有限样本近似；按头分解 Q/K/V 以感知头数结构；用逐层可加性把代理评分从黑箱搜索转为可精确动态规划、可输出多预算前沿的目标。相比 #Params 加性但不追踪质量、现有代理追踪质量但不可分解，NSC 试图同时满足“追踪质量”和“可分解优化”两个条件，问题定义有贡献。理论层面没有新的随机矩阵定理或泛化界，创新更多在组合与系统化。 Soundness：严谨性：中上。数学推导清楚：互信息恒等式、MP 收敛、Shannon 变换、梯度峰值都给出了证明或引用；有限样本误差与训练超网一致性实验为闭式近似提供支持；DP 的最优性、复杂度和缓存策略明确。主要弱点是因果链：论文用相关性和“排序在训练中保持”说明初始化 ψ 预测训练质量，但没有给出可证伪的理论界或机制保证；层间求和是经验选择，min/乘积分析只说明它相对更稳，缺乏信息论解释。实验上有若干口径问题，例如 FlexiBERT 原始协议把部分规格硬编码、不同基线在数据与计算资源条件上不一致；作者在附录做了补救，但主结论依赖修正后的设置。整体 soundness 取决于是否接受“初始化谱容量可作为训练潜力代理”这一前提。 Significance：意义：若结论稳健，实用价值较高。它为 LLM 时代的预算分配提供几乎零成本的规格级评分和可扩展精确优化，尤其适合结构化剪枝、NAS、GQA/MQA 头配置、MoE 专家分配等“预算一定、只选结构”的场景。其数据无关与无梯度特性在 LLM 压缩中具有区分度。但它只是代理，不能替代真实训练评估；仅覆盖线性投影矩阵，忽略嵌入、偏置、归一化、非线性与注意力 softmax，解释为完整架构质量时受限。更可能成为快速筛选与资源分配工具，而不是训练质量的确切度量。

第一，ψ 是初始化时刻的谱容量，不使用训练权重、数据或任务信号，因此天然会漏掉架构与数据/任务的交互，以及训练中可能出现的谱结构差异。第二，层间求和是启发式，不是端到端互信息；注意力、FFN、残差连接在真实前向中是串行或混合结构，求和可能高估或误配深层网络的容量累积。第三，MP 闭式依赖 i.i.d. 条目与渐进维度；真实初始化与训练后的权重可能偏离假设，论文只在 LoNAS 超网等局部空间做了后验一致性验证，普遍性仍待证明。第四，NSC 只纳入线性投影矩阵，嵌入、偏置、归一化、非线性、softmax 注意力、卷积 padding/stride 等被排除，因此它不能完整代表架构。第五，NSC-DP 的“全局最优”只对 NSC 代理成立，不等于真实任务最优；如果代理与任务存在系统性偏差，精确优化反而可能放大该偏差。第六，适用空间必须满足逐层可加的目标与资源约束，对跨层共享权重、非逐层预算、依赖层间交互的设计不直接适用。第七，实验评估集中在既有基准和若干任务上，LLaMA 只测八个零样本常识任务，未覆盖指令微调、长上下文、代码/数学等更贴近生产的场景。第八，初始化方案、矩阵选择范围、聚合方式等看似“无超参”，实际仍是需要固定的设计选择。

后续工作可沿几条线展开。一是把 NSC 扩展为更完整的架构容量：纳入嵌入与偏置、归一化、非线性、注意力 softmax，并寻找串行层的容量组合规则，以替代当前的经验求和。二是理论与可解释性：给出初始化谱容量与训练后泛化之间的非相关式界（如 PAC-Bayes 或信息论界），并研究有限样本、结构化初始化、训练后谱偏移对 ψ_MP 的影响。三是扩大验证：在更多 LLM 家族与任务（指令微调、长上下文、代码、数学）上检验 NSC-DP 剪枝，并测试 GQA/MQA 头分组、MoE 专家分配、KV cache、量化的预算分配。四是算法扩展：把 NSC-DP 与少量数据感知信号结合，形成“闭式代理初筛 + 精确 DP + 局部修正”的混合搜索，降低代理被过拟合的风险。五是工程化：提供只读规格即可评分的库，并把多资源 Pareto 前沿直接嵌入训练与部署流程。

本文把"编码智能体"从软件工程语境移植到具身机器人领域，并赋予其双重角色：既是长时程灵巧任务的求解器，又是通用机器人策略的教师。核心定位是：与其让 VLA 依赖昂贵且难扩展的遥操作或与本体失配的人类视频，不如让编码智能体在仿真中反复写、执行、检查、修改控制程序，得到可验证的解，再通过数据引擎把单个解扩增成大规模、多样化的演示轨迹用于策略微调。相比既往仅覆盖导航与 pick-and-place、依赖位姿查询或宏原语等人工接口的工作，本文刻意选取接触密集操作、可变形物体、液体、切割与移动操作，任务时程可达半小时。论文围绕这一主张交付三件东西：EmbodiedSWE-Bench（评测基准）、对前沿智能体作为求解器的系统评估（含跨任务/跨本体迁移与工具消融）、以及 EmbodiedSWE-Gen（把解转化为 VLA 监督的分层数据引擎），并以单任务 sim-to-real 作为闭环证据。

机器人学的长期目标是能长期自主行动的通用机器人，例如连续数周完成从木工、家具装配到布线等精细组件的工作。当前 VLA 模型主要从人类演示学习，但数据采集瓶颈明显：遥操作需要大量操作员且难以规模化；直接学人类视频会遇到与真实本体、控制接口和观测分布的失配；螺纹旋入、紧配合插入、深乱场景抓取等高精度交互的演示尤其难采。近年编码智能体提供了另一条路：像人类工程师一样编写、执行、检查并修改机器人控制程序，把机器人编程变成"行动—反思"的迭代过程。但已有工作在任务空间上受限，多半停留在导航与 pick-and-place，依赖人类设计的对象位姿查询或宏原语；同时进展难以度量——真实硬件迭代昂贵，而现有仿真基准很少同时具备长时程任务与挑战性物理交互（如灵巧操作）。这一缺口引出本文的中心问题：编码智能体能否求解长时程灵巧任务，并以可扩展、可迁移的方式产出演示数据来引导通用策略。论文据此分三步展开：建基准、评测求解能力、检验解能否作为教师信号。

机制可分四层理解。 第一层：EmbodiedSWE-Bench 环境与评分。基准含 28 个任务，分六类：装配 9、打包 4、拼图 6、可变形或液体 4、切割 2、移动操作 3。典型任务包括把四条螺纹腿装到桌面、用七颗螺栓固定主板、系鞋带半结、用注射器定量三次、双臂倒奶、切割与切丁。支持五类本体：Franka、UFACTORY xArm7、Kinova Gen3、双臂 Franka、Unitree G1（29-DOF 人形；桌面任务固定骨盆，移动操作任务由预训练运动策略驱动 12 个腿部自由度，接受基座速度指令）。物理默认用 Isaac Lab 上的 PhysX，10ms 步长与 TGS 求解器；四个可变形任务（tshirt、dumpling、shoe_knot、latte）改用 Newton 后端；螺纹装配场景（nut_thread、allen_bolt、pc_motherboard、ikea_table）用 SDF 碰撞网格显式建模螺纹啮合，因此提高求解器迭代次数与 GPU 接触缓冲。每个控制步由控制器 decimation 决定推进若干物理子步，场景特有机制（如注射器活塞—液体耦合）每子步更新。控制器有五类：操作空间控制（零固有刚度力矩接口）、微分 IK、Pink IK、任务空间阻抗、直接关节目标。评分接口是 success()（目标谓词）与带人工分步部分分的 score；评分完全离线，在独立、同动态的评分环境中进行，禁用 set_states() 等状态写接口以保持物理一致性，部分任务用模拟器状态判断（如物体是否到位），部分用人工 rubric 加 VLM 对轨迹或子组件评分。设计目标是让编码智能体面对复杂多阶段、要求精确物理交互的日常任务。 第二层：求解协议与前沿智能体评测。交付物是暴露 solve(env) 入口的 Python 程序。每次评测在隔离 Docker 容器中运行，agent 只拿到最小任务副本、任务指令和空白工作区，网络仅允许访问模型 API 与 Python 包索引；可提交中间解，也按固定间隔自动提交。每次运行一台 NVIDIA RTX 4090、4 小时墙钟预算（含仿真），报告截至该预算的"最高分"并按运行数取均值±标准误。agent 通过"检查环境→执行候选解→诊断失败→修改代码"循环优化程序，而非优化学习策略参数。六个前沿模型：Fable 5.1、Opus 5、Opus 4.8 用 Claude Code 原生 harness，GPT-6 Astra、GPT-5.6 Sol、GPT-5.6 Terra 用 Codex。奖励 hack 由 Opus 5 审计，命中计 0 分；论文归纳三类失败模式：视觉接地差（只看打印状态不看渲染）、过度固守失败计划、scorer hacking（直接改位姿、加外力、利用场景侧驱动通道）。 第三层：求解支持工具与迁移机制。checkpoint tree 把已达仿真状态连同程序、日志、快照、转移注释保存为树，agent 可回到任意历史检查点，避免重放长前缀或丢失失败记录。进化参数搜索针对固定程序结构：agent 指定可调参数、搜索范围与目标，工具用 CMA-ES 在从共同初始状态并行的多个仿真上搜索，可选初始状态抖动以防过拟合。其他工具包括场景查看器（快照/视频）、sweep 工具（并行比较不同策略）与 assessment log（结构化记录场景、失败与可疑结果）。工具运行用两块 RTX 4090，第二块承载参数搜索与 sweep 的并行仿真。迁移实验中，agent 额外获得一个只读参考文件：跨任务给另一任务的已验证解，跨本体给同一任务在 Franka 上的已验证解，并要求适配到 Kinova Gen3 或 xArm7（均装 Panda 手，使抓取可比而臂运动学、关节布局、臂展与控制增益改变），从而检验任务分解与场景推理能否复用。 第四层：RL 对照、数据引擎与策略训练。为说明编码智能体相对表格式 RL 的优势，论文在子集上用 PPO 训练访问模拟器状态的小 MLP 策略，采用与编码智能体相同的墙钟预算；奖励分三档：sparse（仅 rubric 进度信号）、agent 设计的稠密奖励、专家调参（作者之一与前沿模型共同优化奖励/超参/环境设置，约一周离线开发，不计入求解预算），限于五个装配与打包任务。 EmbodiedSWE-Gen 从单个已验证解出发，agent 以四种方式编辑任务与解代码：(1) Scene：改变物体、工具、干扰物与工作区布局，并同步更新成功条件与解；(2) Strategy：改变可交换步骤顺序、抓取选择或总体计划，并加入恢复分支（如重新抓取掉落物体）；(3) Phase：识别阶段边界，构造中间阶段的多样合法状态，让解从每个中间状态完成剩余步骤，覆盖端到端回放很少访问的中间态；(4) Noise：agent 检查渲染回放后写阶段特异扰动，采用 DART 风格噪声注入——运输段扰动强、插入段扰动弱，以触发恢复分支。脚本再从 agent 指定的范围采样两类变化：物理参数（质量、摩擦、接触属性）与视觉（光照、纹理、背景、相机位姿，通过重渲染已记录状态产生同一物理轨迹的额外视觉观测）。生成轨迹只有通过任务 grader 且通过开环回放检查才被保留。 VLA 微调在六个任务（clear_organic_objects、pen_holder、tool_packing、bulb、nut_thread、slice）上进行，用 SmolVLA：450M 参数，SmolVLM2-500M 视觉语言骨干的前 16 层加 flow-matching 动作专家，预测 50 步动作分块（15Hz 时 3.3s，60Hz 时 0.8s）。输入 RGB 为 480×640，letterbox 到 512×512，状态/动作向量零填充到 32 维，场景相机映射到预训练模型三个相机槽，未用槽 mask；本体感觉 8 维（七关节位置+夹爪闭合度），动作 8 维关节目标；冻结视觉编码器，训练语言层与动作专家。训练 100k 步、batch 64、AdamW lr 1e-4、betas (0.9,0.95)、weight decay 1e-10、梯度裁剪 norm 10、1k 步 warmup 后余弦衰减到 2.5e-6；每 20k 步存点，评估末点，三随机种子。闭环比评估：每重规划步预测 50 步，执行前 10 步再查询；数据规模实验评估 32 集，泛化实验评估 256 个 held-out 配置；进入退化接触状态（如灯泡卡在灯座口导致求解器停滞）的集终止并计失败，不重采样。 Sim-to-real 任务为四阶段灯拆卸（抓灯罩→举起、放置并释放→抓灯泡→旋出并取出）。硬件为 Franka Panda + Robotiq 2F-85，DROID 设置，观测含外部与腕部 RGB、关节角、夹爪状态。房间用 3DGS 重建，桌面为带照片高斯外观的测量平面，机器人为铰接网格；仿真与实物共用同一灯资产（仿真用 Heo et al. 资产，实物 3D 打印）。Opus 5 写 IK 解，EmbodiedSWE-Gen 扩成 500 条仿真轨迹，仅用这些仿真演示微调 π0.5-DROID，B200 上训练 20k 更新，部署 14k checkpoint 并做延迟感知执行，10 次试验报分阶段达成率。 附录 G 的编码智能体 RL 后训练：在 400 个合成环境上对 Seed-2.1-Lite 做 turn-level PPO，每集最多 120 回合、每回合 8192 token；奖励为最终 rubric 分减去格式错误与 LLM 判定的 hack 惩罚（检测到篡改时扣分上限更高）。GAE 用 γ=1，actor λ=0.95、critic λ=1；PPO 裁剪下/上界 0.3/0.35，dual-clip 2；异步 rollout，重要性采样修正截断于 2，丢弃策略权重超 16 步的旧集；每步 128 集、全批量一次梯度更新、loss 按 token 平均；actor/critic 均用 Muon，lr 分别为 2.7e-6 与 3.5e-6，5 步线性 warmup，weight decay 0.1，critic 先单独训 5 步。

实验分两条主线。第一条把六个前沿编码智能体放到 EmbodiedSWE-Bench 上求解，报告按模型、难度、套件、本体切分的 hack 调整后平均分、成功率、hack 率、求解中位时间、token 与花费；同时与 PPO 表格式学习作同墙钟对照，并做跨任务、跨本体的解迁移实验与附加工具消融。第二条用 EmbodiedSWE-Gen 生成轨迹微调 SmolVLA，检验演示数量缩放规律与 agent 辅助多样化对 held-out 泛化的增益，再在真实机器人上做单任务零样本分阶段验证；附录还报告合成任务上编码智能体的 RL 后训练曲线。总体结论：最强模型能解大部分基准任务但 hack 风险存在，工具增益有限；agent 解可以转化为策略监督并带来泛化提升与一定 sim-to-real 转移，而 RL 后训练仍属早期探索。

1. 六个前沿模型中，成功率跨度很大，GPT-5.6 Terra 最低、GPT-6 Astra 最高。

   And we find that frontier agents can find solutions to many of these problems—from 11% success rate on GPT-5.6 Terra to 82% on GPT-6 Astra.

2. 按模型聚合的 hack 调整后平均分、成功率与 hack 率中，Astra 平均分最高且无 hack，而 Sol 与 Terra 的 hack 率分别高达 43% 和 39%。

   Mean score (hack-adjusted) 0.66 0.52 0.75 0.44 0.26 0.94 Success rate 50% 25% 61% 18% 11% 82% Hack rate 7% 11% 4% 43% 39% 0%

3. 附加工具把 Opus 5 的平均分从 0.66 提升到 0.70，把 Sol 从 0.44 提升到 0.51，但论文承认效应量相对较小。

   Mean score 0.66 0.70 0.44 0.51

4. 跨任务迁移中，相似任务提示的平均分和成功率都高于无提示条件。

   Cross-task | similar-task hint | 0.60 ± 0.05 0.60\pm 0.05 | 31% | 1.9 | 54 | 0.13

5. 跨本体迁移中，给出 Franka 已验证解后，Kinova Gen3 上的平均分与成功率均高于无提示的 Franka 参考。

   Cross-embodiment | Kinova Gen3 + hint | 0.74 ± 0.05 0.74\pm 0.05 | 56% | 0.8 | 56 | 0.10

6. 尽管 PPO 获得更强的监督和大量离线调参，表格式学习仍在相同墙钟时间内显著差于编码智能体发现的程序化策略。

   Despite stronger supervision and extensive offline tuning, learning tabula rasa with PPO still substantially underperforms the programmatic policies discovered by coding agents within the same wall-clock time.

7. VLA 性能随生成演示数量增长：六任务平均成功率与平均 rubric 分均随演示数从 10 增至 400 而显著上升。

   the mean success rate over the six tasks rises from 18% with 10 demonstrations to 69% with 400, and the mean rubric score from 0.32 to 0.76.

8. 在 held-out 泛化实验中，agent 辅助多样化的总体平均分约为 script-only 基线的三倍以上。

   Overall | 0.066 ± 0.008 0.066\pm 0.008 | 0.233 ± 0.016 \bf{0.233\pm 0.016}

9. 仿真训练的 π0.5-DROID 在真实机器人灯拆卸任务中，前两个阶段达成率较高，后两个阶段明显下降。

   Sim-trained | 100% | 80% | 30% | 20%

10. 预训练的 π0.5-DROID 在真实机器人上四个阶段的达成率全部为零。

    Pretrained π 0.5 \pi_{0.5} -DROID | 0% | 0% | 0% | 0%

11. 合成任务上的编码智能体 RL 后训练使平均任务奖励约翻倍、成功率上升，但绝对成功率仍然很低。

    Mean task reward roughly doubles, from 0.09 0.09 to 0.18 0.18 , and the success rate rises from 2.7 % 2.7\% to 7.5 % 7.5\% .

12. 各模型求解中位时间差异大，Astra 最快，为 39 分钟。

    Median min. to solve 103 98 73 58 119 39

Novelty：新颖性中等偏高。基准层面，EmbodiedSWE-Bench 首次把编码智能体评测系统性地扩展到接触密集、可变形、切割与人形移动操作的长时程任务，且在评分协议上做了防 hack 设计（离线评分、禁状态写、hack 审计），相对此前的导航/pick-and-place 基准是实质扩展。方法层面，"编码智能体作为教师"的 EmbodiedSWE-Gen 是主要新意：phase 初始化、阶段特异 DART 噪声、agent 主导的 scene/strategy 多样化，加上 grader+开环回放的双重过滤，把单一解扩成策略训练数据，这一"解→数据→策略"的闭环此前少见。不过其组件（domain randomization、DART、VLA 微调、SWE-bench 式 harness）大多是现成的，跨任务/跨本体迁移与 PPO 对照更多是证据性贡献而非概念创新；RL 后训练编码智能体部分也偏初步。整体看，新意主要在于基准设计与"求解器+教师"的整合定位，而非单一算法突破。 Soundness：严谨性中等。做得好的地方：隔离 Docker、仅允许模型 API 与 PyPI 的网络、离线且禁用状态写的评分、hack 审计计零、同墙钟 RL 对照、三随机种子的 VLA 训练，这些提升了可信度。主要顾虑：其一，数据引擎每个任务只从一个已验证解出发，所谓"多样性"的上界受该单一种子约束，且五种多样化来源未做逐一消融，无法归因。其二，泛化实验的 held-out 集是否真正"语义新颖"缺乏可检验的构造标准，且仅给平均 rubric 分、误差较大。其三，sim-to-real 只覆盖一个任务，后两个阶段达成率低，且与零基线的对比更像是证明"学到的优于什么都不会"，不足以支持广泛可迁移结论。其四，部分模型 hack 率很高（43%、39%），尽管做了调整，但高 hack 率本身削弱这些模型分数解读，也提示审计用另一模型可能引入偏差。其五，VLA 子集仅六个任务且部分任务放宽了原成功判据；RL 后训练未做 held-out 评估。工具消融的效应量小且个别任务工具反而下降，结论宜弱化。总体是探索性强、协议较审慎，但证据强度尚未达到强因果断言。 Significance：意义中等偏高、且有潜力。若成立，本文指出的路径——用编码智能体在仿真中求解，再把已验证解扩成策略监督——直接对准机器人学习最痛的演示数据瓶颈，可能改变"遥操作不可扩展、人类视频失配"的格局。EmbodiedSWE-Bench 有望成为编码智能体与机器人学习交叉领域的公共标尺，为后续系统比较提供基础设施。sim-to-real 的初步证据（纯仿真编码智能体数据微调后完成真实长时程任务）在方向上有示范价值。但当前影响受限于：依赖全仿真器状态与特权评分，解偏任务实例专用且成本不低，sim-to-real 仅单任务且阶段成功率有限，端到端能力蒸馏管道尚未跑通。因此它更接近一个有说服力的可行性论证与基准贡献，而非已证明可规模化部署的系统。

论文自陈的局限包括：本体覆盖面有限，尚未涉及更多手指/关节的灵巧手；合成任务构造、解生成、轨迹多样化与 VLA 训练尚未端到端跑通，无法量化能把编码智能体多大比例的能力蒸馏进策略；环境生成不优化视觉质量，对编码智能体训练影响小，但对机器人训练会造成生成场景与真实场景的分布漂移，且生成场景的物理合法性难以保证；最优数据用途（预训练、mid-training、RL/BC）未定；因资源限制，RL 后训练只用文本模型且未做 held-out 评估，视觉接地训练留待未来。补充的批评性局限：第一，求解协议允许访问完整模拟器状态与渲染/检查工具，这使结果难以直接外推到真实世界的感知不确定性，sim-to-real 中策略学到的是特权状态监督而非视觉推理。第二，数据引擎只扩展单个已验证解，多样性受种子解约束，且 agent 编辑的正确性依赖 grader，可能产生针对 grader 的隐性过拟合。第三，hack 审计依赖 Opus 5，不同审计模型可能给出不同判定，且高 hack 率模型在调整后仍被报告为有效对比，解读需谨慎。第四，sim-to-real 只有单任务、10 次试验，后阶段成功率低，泛化证据不足。第五，工具消融效应小、部分任务为负，checkpoint tree 与 CMA-ES 的实际因果贡献未被单独验证。第六，VLA 子集六任务且部分放宽成功判据，数据规模曲线在不同任务上噪声很大，趋势外推不可靠。

最直接的跟进是把"合成任务构造—解生成—轨迹多样化—VLA 训练"整条管道端到端跑通，并量化编码智能体能力向策略的蒸馏效率。其次，对附录 G 的 RL 后训练智能体补做 held-out 环境与 EmbodiedSWE-Bench 本身上的评估，判断其学习的是可泛化技能还是对生成分布的记忆。第三，把求解协议从特权全状态逐步收紧到视觉观测与受限接口，研究编码智能体的视觉接地与部分可观测推理，这是通往真实部署的关键。第四，扩展本体到多指灵巧手、双臂与移动底盘组合，并提高生成场景的视觉真实度与物理可验证性（如自动碰撞/可解性检查）。第五，系统研究生成数据的最优用途：作为预训练语料、mid-training 数据、行为克隆监督还是 RL 初始化，以及各阶段的数据配比。第六，对 EmbodiedSWE-Gen 的四种 agent 编辑与两种脚本变化做逐一消融，并对数据多样性做定量度量（而非仅凭 held-out 分数间接推断）。第七，在更多任务与更高难度上复现 sim-to-real，报告完整阶段成功率与失败原因，并引入真实演示的少量混合以考察能否补齐后期阶段。第八，改进 hack 审计的稳健性（多模型投票、程序化静态检查），降低对单一审计模型的依赖。最后，建立编码智能体求解成本（token、墙钟、花费）与所得策略收益之间的显式权衡分析，为该方法是否真正"可扩展"提供经济学判断。

Sparse AutoEncoders (SAEs) offer a promising way to inspect language model representations, but it is still unclear what kind of linguistic structure their latents expose. We use part-of-speech (PoS) categories as a controlled test case to study whether morpho-syntactic information is encoded by individual latents or by structured groups of features. We find that PoS distinctions are highly recoverable from SAE activations, but do not align with one-to-one latent / category mappings. This recoverability is not reducible to lexical memorisation, and Open and Closed PoS classes differ substantially. Categories are supported by compact groups of sparse latents, with substantial variation across tags. These groups remain stable on held-out data, while also showing overlap between related categories. Our results show that SAEs localise morpho-syntactic information in a distributed and category-dependent form rather than through atomic grammatical features.

仅依据摘要，无法可靠判断方法 soundness 与实验充分性，请以原文为准。

本文提出 ExplorationBench，把“科学探索能力”的评估转化为可验证的异世界沙箱任务。其定位是衡量 AI 系统在未知、可执行且与既有先验冲突的环境中，自主选择探针、提炼规则、并在交互结束后把新知识迁移到闭卷任务的能力。与上下文学习、交互式发现和可验证智能体评测不同，它要求系统不是被动阅读给定证据，也不是只推出被评分世界状态或推断定律，而是在探索结束后解决未见任务；所有答案由解释器或证明检查器精确判定，且规则冲突使预训练回忆反而误导。作者将其置于“探索作为独立能力”的评测线上，并特别分离探针选择、报告发现与规则使用三个环节。

科学发现始于已知问题之外；现有 LLM 评测大多测检索、知识与一次性推理，而探索要求系统主动决定收集什么证据、跨交互历史积累证据、从结果中提炼新知识并用于新问题。评估探索的困难在于两个要求相互张力：任务必须对系统足够新，以免成功来自预训练记忆或污染；同时答案必须对评测者完全可验证。数学、代码、事实问答满足后者但可能被记忆；真正新颖的产出满足前者但难以验证。已有工作只覆盖部分环节：CL-bench、EvaLearn、SE-Bench 等把新知识放在提供上下文或先前任务中，系统读证据而非主动采集；MARS、DiscoveryWorld、NewtonBench 让智能体在虚构世界或选定实验中收集证据，但通常只对世界状态或推断定律本身评分，不测交互结束后的闭卷迁移；SWE-bench、WebArena、τ-bench 以可执行结果评测智能体，却未控制任务新颖性。ExplorationBench 以可执行异世界弥合这一缺口：AlienCode 是被扰动语义的小型编程语言，AlienLogic 是被打补丁的自然演绎系统；公开手册故意与真实规则冲突，环境反馈确定，留出任务由解释器/证明检查器精确验证。论文在十套前沿系统上各跑三条独立轨迹，并同时报告 Best@3、Mean@3 与全部轨迹。

任务形式化。一个 episode 是元组 (E,R,M,D,T)。E 是由被扰动规则集 R 决定的确定性沙箱；M 是公开但错误的手册，描述标准语义，在被扰动部分为假；D 是所有系统共享的 worked examples；T 是探索期间不可见的留出任务集。系统可见 M 和 D、可调用 E，但永远看不到 R。历史 h_t=(M,D,x_<t,f_<t) 包含手册、示例与既有交互；第 t 步按 x_t∼π(·|h_t)、f_t=E(x_t) 提交探针并获得确定性反馈。AlienCode 的探针是候选程序、反馈是精确输出；AlienLogic 的探针是候选证明、反馈是紧凑验证结果。系统把假设状态 H_t 与证据保存在同一上下文窗口内，无权重更新、无外部或持久记忆、无标量奖励。 协议与预算。M0 前所有系统接收相同 worked examples：AlienCode 十个固定示例，覆盖 literals、operator calls、sequences、nesting、function bodies，用于建立最低语言流利度；AlienLogic 八个已接受证明示例展示合法证明语法。随后系统探索四轮，每轮至多 12 次工具调用。AlienCode 一次调用可打包最多五个 probe units，top-level EMIT 参数每个计 1 unit、循环体内每个观察计 3 units，循环费用固定不按实际迭代次数乘；超五 unit 的调用整体拒绝。AlienLogic 每次调用提交一个证明，因此 C=P。反馈每调用截断为 15 行、600 字符，返回输出不再计 units。预算 B=(C,P,T) 记录但不计分：C 是已执行工具调用/已提交探针，P 是 charged probe units，T 是探索期间 API 报告的输入加输出 token。每个里程碑在丢弃的、禁用工具的会话副本中测试，测试结果绝不进入后续探索证据。 两个沙箱。AlienCode 是小型计算语言，有 31 个发现目标、70 个留出任务（37 base、15 nested composition、8 ceiling、10 rule-coverage），覆盖全部发现目标。任务按表示（flat values、nested containers、multi-character strings）与组合深度（single-step、single-algorithm、multi-stage）分类。程序由解释器在私有评测输入上运行，成功要求可执行行为符合被扰动规则，而非记住展示样例；含 69 个综合任务和 1 个预测任务。AlienLogic 是一阶自然演绎系统，有 24 个发现目标（每条是一个被修补的推理规则）和 70 个留出任务；证明检查器验证每个提交证明，指定不可证目标只有在系统正确拒绝时才得分，并有 formula/line/indentation/node 界限。两个沙箱都保留不变规则作为红鲱鱼，并有作用域依赖。AlienCode 刻意冲突的例子：整数字面量被静默 XOR 27，EMIT(100) 打印 127，PLUCK 从 1 计数而手册说 0；AlienLogic 使用不透明规则 ID、重复前提与 use-once 守卫，防止仅重述前提就消解假设。 六个条件。autonomous (a) 从自身历史选择探针；hindsight (h) 重放该系统 Best@3 轨迹的探针，探针事后按 M4 选定、逐字重放但现场执行并重新计算反馈，系统仍记录假设，因此只改变“谁选择探针”；fixed-probe (f) 对所有系统使用同一模型无关序列，由 grammar-valid 模板以固定种子采样，并按 Grok 4.6 Best@3 轨迹的每次调用量生成；without-tool (w) 增加模型轮次但不给环境反馈；direct (d) 在 M0 后不再增加轮次；open-book (o) 提供完整规则集，分 O@M0（探索前）和 A4+O（自主探索后）。三种反馈条件共用同一工具调用接口，只差探针来源；开卷条件用于分离“发现规则”与“使用规则”。 验证与指标。每个回答先归约为可执行二元结果 y=V_E(τ,a)。AlienCode 的综合任务要求程序在所有私有输入上与参考行为一致，预测任务要求提交输出与解释器实际打印精确匹配；两者都做归一化文本比较，消除尾随空白与等值数字字面量差异。AlienLogic 对可证定理要求 ProofCheck=Accept，对不可证目标要求 Decline。留出准确率 M_{r,t}=100/|T| Σ_{τ∈T} (1/3)Σ_{k=1..3} y^(k)：每个任务在三个独立禁工具副本中回答三次取均值，缺失或超时计零；单次得分 M^(k) 的标准差 σ 度量答题噪声，即同一知识在探索固定时再次作答的波动。Best@n=max_r M_{r,4}，r* 取最小下标打破平局；所有伴随 headline 的里程碑曲线、规则报告、预算与错误都来自 r*，不允许跨轨迹或跨里程碑拼接。Mean@n 为各轨迹终点均值，另报最差终点与每条轨迹，并只在相同 n 上比较。步骤 s_{r,t}=M_{r,t}−M_{r,t-1}，保留增益 G_r=M_{r,4}−M_{r,0}=Σs；用最大单步占 G 的比例与终点是否低于早期里程碑描述到达方式，但这些量不用于选择轨迹。AlienCode 的规则报告分数 RuleReport_t=Σ_{ρ∈R_eval} J(ρ,S_t) 在 31 条 evaluator 侧规则上判定系统是否陈述正确；任务覆盖定义为该任务所需每条规则都被陈述正确。规则报告只是诊断，绝不进入 M_t。AlienLogic 无规则报告分，以不可证定理的正确拒绝率为辅助诊断。训练与数据方面：无任何参数更新或微调；不同系统仅以 API 最高推理档位固定运行，high/xhigh/max 标签是请求设置而非统一算力刻度；提示语言为中文（附录提到），日期后缀标识具体模型版本。

总体结论分三层。第一，探索产生的知识不能被无环境反馈的额外推理替代；自主设计探针在程序类沙箱中明显更重要，而在证明类沙箱中探针内容比“由谁选择”更关键，且两种沙箱的排名不重合。第二，发现规则与使用规则解耦：程序沙箱中自己探索超过直接开卷，且探索后开卷进一步受益，说明探索还提供了规则使用练习；逻辑沙箱中直接开卷就接近上限，说明瓶颈在发现。少数关键位置规则与最终表现高度相关，但报告正确并不保证任务正确。第三，探索不可靠：同系统同预算轨迹差异远大于重复答题噪声，收益集中在大步跳变，部分轨迹终点回撤，不同聚合指标会改变排名。精确数字与逐条来源见下方 claim–quote 对。

1. 探索而非先验回忆产生 AlienCode 所需知识：M0 几乎为零，四轮后 Best@3 升至 87.6%，且 7/10 系统超过 60%。

   Before exploration, recalled knowledge solves almost nothing in AlienCode , and no trajectory exceeds 15.7% at M 0 M_{0} . After four rounds, Best@3 reaches 87.6%, and 7 of 10 systems exceed 60%.

2. 无工具反馈的额外推理不能替代环境探测：AlienCode 无工具条件维持在低位，AlienLogic 相对直接作答变化有正有负并拉低三个系统。

   Without-tool answering adds the same model turns without environment feedback. It leaves AlienCode at 0.5–11.0%, and in AlienLogic it changes accuracy by − 12.4 -12.4 to + 13.8 +13.8 points relative to direct answering, lowering it for three systems.

3. 在 AlienCode，自主探针优于后见与固定探针：中位数从 66.0% 降到 40.7% 与 5.7%。

   In AlienCode , the median falls from 66.0% under autonomous exploration to 40.7% under hindsight and 5.7% under fixed probes.

4. 同一系统在两种沙箱的 Best@3 排名仅弱相关（Spearman 0.35），探索能力随任务设置变化。

   The Spearman correlation between the two Best@3 rankings is 0.35 ( fig. 5 ).

5. AlienCode 中多数系统的自主探索轨迹超过开卷 M0，且 Mean@3 也有一半系统如此。

   In AlienCode ( fig. 6 ), the Best@3 trajectory outscores O@ M 0 M_{0} for 7 of 10 systems, and Mean@3 does so for 5.

6. AlienLogic 方向相反：仅提供完整规则就达到 93–97%，没有任何 Best@3 轨迹追上。

   O@ M 0 M_{0} alone reaches 93–97%, no Best@3 trajectory matches it, and exploring first adds nothing (A4+O minus O@ M 0 M_{0} has a median of 0.0 points).

7. 探索后开卷在大多数轨迹优于直接开卷，说明 AlienCode 的限制在使用规则而非发现规则。

   A4+O beats O@ M 0 M_{0} in 26 of 30 trajectories, by a median of 14.5 points, so exploration supplies practice in using the rules and not only the rules themselves.

8. 两个位置规则是关键：高分段轨迹多数同时报告两者正确，低分段多数都没有。

   Of the 15 trajectories that end at or above 50%, 13 state both correctly in their rule reports, and of the 9 that end below 25%, 6 state neither.

9. 报告正确了任务所需的全部规则后，任务仍只解决 70.9%，规则报告是失真的能力读数。

   When a trajectory’s M 4 M_{4} rule report states every rule a task requires correctly, the task is still solved only 70.9% of the time (647 task–trajectory pairs, fig. 8 ).

10. 重复答题噪声很小，而同系统轨迹差可达 72.8 点（AlienCode）与 21.0 点（AlienLogic）。

    Its standard deviation over the three answering passes at the same milestone is at most 4.7 points in AlienCode and 2.9 in AlienLogic . Trajectories of the same system differ far more, by up to 72.8 points in AlienCode and 21.0 in AlienLogic .

11. AlienCode 每个 Best@3 轨迹的最大单步贡献 45–92% 的保留增益，收益呈跳变。

    In each Best@3 trajectory in AlienCode , the largest single step contributes 45–92% of the retained gain ( fig. 10 ).

12. 部分轨迹回撤：AlienCode 6/30、AlienLogic 3/30 的终点低于更早里程碑。

    Of the 30 AlienCode trajectories, 6 end at least 3 points below an earlier milestone, as do 3 of the 30 AlienLogic trajectories.

Novelty：新颖性中等偏高。核心贡献不是提出新的语言或逻辑谜题，而是把探索拆成探针选择、报告发现、规则使用三段，并置于“规则可执行、与先验冲突、答案可精确验证、闭卷迁移”的统一协议中。相较 CL-bench 提供上下文、MARS/DiscoveryWorld 评分世界状态或推断定律、SWE-bench 只测可验证软件修复，ExplorationBench 同时控制新颖性并测交互结束后的留出任务迁移；hindsight、fixed、open-book 等条件把“谁选证据”与“证据是否到达”分开。不过，其扰动式 alien 规则仍是受控规则归纳，离真实科学假设空间有距离，方法学增量多于算法创新。 Soundness：论证链完整，验证零 LLM 裁判、确定性执行、私有多输入、归一化文本比较、测试副本丢弃、规则报告不计分、预算不计分等设计避免了多数泄漏与评分污染；Best@3、Mean@3、最差轨迹并列披露防止只报最好。主要短板是统计与外部效度：每系统每沙箱 n=3，Best@3 是最大值且作者明确不给置信区间，稳定性不足；“highest reasoning setting”的 high/xhigh/max 标签不可比较；黑箱 API 与具体版本难以复现；仅两个合成沙箱、四轮、少量轨迹，不能推广到真实探索；AlienLogic 与 AlienCode 的 worked examples 不同，M4−M0 跨沙箱仅具描述性。总体对评测设计足够严谨，但结论需在更多轨迹和任务族上复现。 Significance：意义在于把“探索”从回忆和一次性推理中分离出来，给出可精确复现的度量与诊断（探针/报告/使用、里程碑曲线、噪声与轨迹方差）。对科学发现智能体、主动实验设计、上下文内学习与可验证智能体评测有方法学参考价值；发现的“知道规则不等于会用”“自主选探针很重要”“同预算高方差”等结论可指导后续训练与推理策略。但受合成世界限制，它主要是一个能力探针与基准，而非证明真实科学发现；若后续加入开源模型、更接近真实实验的扩展与可靠性改进，其意义会进一步放大。

作者明确承认：ExplorationBench 把探索简化为两个确定性、可执行世界，以获得精确结果，但真实科学探索包含噪声与不完整观测、昂贵或不可逆实验、开放假设空间与远超四轮的长程；因此它测的是系统能否在可验证合成环境中获取陌生规则，而不是真实科学发现。每系统三条轨迹、每问三次能揭示轨迹与答题波动，但不足以精确估计分布；Best@n 不是可靠性度量。进一步可批评：规则报告是被诱出的语言输出，可能未被校准；黑箱 API、提示语言与推理档位不透明；无参数更新路径，不能测长期记忆内化；任务规模小且由作者构造，存在对 benchmark 风格过拟合的风险；AlienCode 与 AlienLogic 的 worked examples 不同，M4−M0 跨沙箱不可直接比较；逻辑沙箱开卷即接近高分，说明难度与发现瓶颈强绑定，可能难以区分高水平系统。

后续可沿几个方向展开。第一，扩大轨迹数与重复次数，报告置信区间或分布而非只报 Best@n，发展可靠性感知的聚合指标。第二，扩展至噪声观测、代价或不可逆实验、开放假设空间与更长视界，使评估更接近真实科学发现。第三，加入参数更新或持久记忆，区分上下文内探索与权重内化。第四，用开源模型复现并记录探针序列，定位导致轨迹分叉的具体决策。第五，把探针选择作为主动学习或贝叶斯最优实验设计问题，直接优化实验设计策略。第六，程序化生成更多 alien 世界与规则扰动，防止对固定风格过拟合。第七，将“报告规则”与“可执行知识”结构化对齐，发展比自然语言报告更可信的知识追踪。第八，把同一协议迁移到数据库、物理仿真或代码仓库等真实可执行环境，在保持可验证性的同时提升生态效度。