2026-10-12

本文处于RLVR可解释性与后训练稳定化的交叉地带。与直接提升推理分数的多数RL工作不同，作者把RLVR后训练重新表述为激活空间中的干预问题，以“可训练向量”为探针，把RL诱导的行为差异映射为低维有效流形，并据此提出两条经验性质与一个稳定化工具Alpha-Stabler。其定位是：对采样效率、熵动态、缩放律、参数更新几何等既有分析形成互补，同时借用激活转向、表征读出与主成分分析等机制解释工具，但聚焦RLVR收益的可压缩性与几何定位。研究性质偏实证刻画，理论部分为条件性分析，不是端到端新训练算法，贡献可概括为“一个视角、两条性质、一个工具”。

RLVR已成为LLM后训练增强推理的核心范式，但参数更新高维、优化噪声与配置敏感性使内部机制难以分析。既有研究多关注采样效率、熵动态、缩放行为与参数更新几何，较少直接刻画RL诱导行为变化在激活空间中的结构及其与能力迁移、训练稳定性的关系。同时，激活转向或表征工程提供了在冻结模型上施加低维干预的手段，主成分分析常用于刻画激活协方差的方差主导子空间。本文把两者结合：将RL后训练视为激活空间干预，用可训练向量恢复RL教师的行为增益，从而探测增益能否被低维压缩、以及有效干预方向位于激活空间何处。设定依赖可验证奖励任务（答案匹配、单元测试、约束检查）与GRPO/DAPO等RL算法；蒸馏分on-policy与off-policy，并以全参微调、LoRA作为不同表达容量的对照。这一框架引出两条几何性质，后者进一步导向训练稳定化方法。

本文机制分四个层次：探针设计、容量边界分析、流形几何刻画、Alpha-Stabler的监控与控制。 （一）可训练向量作为RLVR探针 作者把RLVR后训练看作激活空间干预问题。给定冻结基座模型（L层、隐维d），在控制层集S上，对每层输出加一个可训练向量：h′_ℓ = h_ℓ + δ_ℓ，ℓ∈S。δ_ℓ是层特定的d维向量，对所有输入和所有token位置共享；只有{δ_ℓ}被优化，骨干完全冻结。训练目标是蒸馏：教师为RL微调后的模型，学生为冻结基座加向量，采用on-policy蒸馏（学生生成轨迹）或off-policy蒸馏（教师轨迹），分别对应附录中的损失形式。对照组为全参微调与LoRA。直觉是：若极低维、输入不变的激活偏置就能恢复RL收益，说明RL引起的行为变化可压缩到低维流形；若不能，则说明所需修正具有输入依赖性或需要更高容量。默认配置为每层一个向量、控制中间一段连续层，参数规模远小于骨干。 （二）容量边界与层间机制 先考察压缩性。on-policy与off-policy下，全参与LoRA接近，单向量转向也能恢复大部分RL增益（具体幅度见实验）。但压缩有边界：固定学生、更换教师时，RL-trained teacher可被转向迁移，非RL teacher则随teacher-student分布差距增大而退化；大差距下出现明确容量排序：full FT > LoRA > vector steering。作者解释为：差距越大，修正越需要输入依赖，固定加性偏置最先触达容量上限。 再考察注入深度。把三种更新限制在单层时，全参与LoRA在各深度有效，固定向量在低/中层表现好、近输出退化。梯度范数显示浅层与高层梯度幅度相当，因此不是优化信号弱；更可能是高层下游非线性变换少，固定偏置难以产生上下文相关效果，而LoRA或单层全参可直接生成输入依赖修正。 为验证该解释，作者把固定偏置替换为低秩非线性门控：δ_ℓ(h_ℓ)=B_ℓ σ(A_ℓ h_ℓ)，其中A_ℓ∈R^{r×d}、B_ℓ∈R^{d×r}、r≪d，σ为元素级门控。B_ℓ定义共享修正方向，σ(A_ℓ h_ℓ)为每个token分配依赖系数；B_ℓ零初始化保证初始恒等。Rank-1门控即每层仍只有一个共享方向，但其强度可随token变化。与参数匹配的静态控制（把σ(A_ℓ h_ℓ)换成常数系数）相比，只有门控带来改善；提高门控秩可进一步逼近全参参考。这说明高层恢复取决于“可用修正方向”与“输入依赖调制”两者。 梯度对齐分析：对每层计算各token对转向向量梯度贡献的平均两两余弦相似度。中低层梯度相似度低、近输出明显更高（数值见实验）。若仅方向对齐决定效果，高层应更利于共享方向干预，但固定向量恰在高层退化，故平均方向对齐不能解释深度差异。再看Rank-1门控系数分布：低/中层系数在[0,1]广分布，类似分级调制；高层集中在0与1附近，类似选择性开关。结合静态对照，说明显式token依赖调制能解除高层瓶颈。由此总结Property 1：复现RL收益所需容量可以很小，但并非无限可压缩，有效容量取决于干预形式与所需修正的匹配程度。 （三）多向量与流形几何 为检验主导方向是否唯一，顺序学习K个向量，并与先前向量两两正交；每个阶段只注入当前阶段向量，先前向量冻结、仅用于定义正交约束，每次优化步后按Gram-Schmidt形式重投影到先前方向的正交补：v^(k) ← v^(k) − Σ_{j<k} ⟨v^(k),v^(j)⟩/‖v^(j)‖² v^(j)。结果表明主导方向有效但不唯一，高阶方向独立注入仍有可观效果；模型越大，高阶方向相对退化越缓。 可复现性：同一任务内，比较不同teacher参数化（全参微调与不同秩LoRA）以及on/off-policy蒸馏提取的方向。层平均余弦相似度显示同索引对齐强于跨索引，匹配索引跨机制对齐也较高，说明同一任务内几何结构大致一致。 跨任务：将科学任务按物理、化学、材料、生物拆分，每主题训练RL teacher并蒸馏提取多向量方向。定义源-目标方向对齐A(s,t)为前四个同索引余弦相似度在控制层上的平均；定义归一化相对迁移增益Δ_rel Acc(s→t) = (Acc(M_s,t)−Acc(M_base,t))/(Acc(M_t,t)−Acc(M_base,t))×100%。方向对齐与迁移增益正相关（拟合优度见实验），表明所学几何与能力迁移相关。 主子空间分离：取冻结基座模型token级激活协方差的领先正交特征向量U_{ℓ,r}（r约为隐维的10%），P_ℓ=U_{ℓ,r}U_{ℓ,r}^T。定义方向z_ℓ的主成分能量占比e_PC(z_ℓ)=‖P_ℓ z_ℓ‖²/(‖z_ℓ‖²+ε)。无约束转向在Top主成分子空间的能量占比极低，远低于各向同性参考，且跨方向稳定（具体百分比见实验）。功能测试：每步移除转向向量在bottom主成分子空间的投影、将其限制在Top主成分张成空间，能量占比上升但准确率无显著改善，说明增益并非来自与主成分子空间对齐。 进一步定义训练中的主成分入侵PSI。步骤t时，让当前策略与冻结基座在同一token序列上运行，取激活差Δ=h(t)−h_base(t)，按行堆叠为X_ℓ(t)，计算PSI_ℓ(t)=‖X_ℓ(t)U_{ℓ,r}‖²_F/(‖X_ℓ(t)‖²_F+ε)。先按token能量求和再归一，避免方向相反的位移相互抵消。易崩溃的运行中，稳定期PSI低；崩溃前PSI先升高且波动加剧，早于分数可见退化；崩溃中PSI继续上升。由此总结Property 2：有效控制方向集中在低方差补空间，并与方差主导的表示子空间分离。 （四）Alpha-Stabler Predictor：预热阶段（前若干更新）由冻结基座评估actor生成的rollout，估计各监控层token级激活协方差，提取前r=⌈0.10d⌉个领先正交特征向量并固定。层级PSI按上述公式计算；跨层聚合PSI将分子、分母分别对各层求和后相除：PSI(t)=Σ_ℓ ‖X_ℓ U_{ℓ,r}‖²_F/(Σ_ℓ ‖X_ℓ‖²_F+ε)。PSI用detached激活计算，不进入梯度，actor计算图保留用于反向。预热后用层中位数与缩放MAD设定警告阈值与较低释放阈值；后续有效观测更新指数滑动平均，连续p次超过警告阈值则激活控制，低于释放阈值则关闭。 Controller：前向激活不变，只改反向梯度。设G_ℓ(t)为第ℓ层传入梯度，a_ℓ(t)为Predictor在反向与优化器步中固定的激活标志，则G̃_ℓ(t)=G_ℓ(t)−a_ℓ(t)(G_ℓ(t)U_{ℓ,r})U_{ℓ,r}^T。激活时，对每个token梯度移除其在主子空间的分量、保留正交补分量；rollout生成、似然比、奖励、GRPO或DAPO损失均不变，优化器仅使用修改后的反向信号。每次active hook执行两次低秩矩阵乘，推理只用训练后actor，额外开销很小。 训练与数据细节：基座为DeepSeek-R1-Distill-Qwen与Qwen3系列多个规模；任务涵盖数学、科学、代码、指令遵循，奖励分别为答案匹配、单元测试与约束检查，均为可验证奖励；RL算法为GRPO与DAPO；蒸馏分on-policy与off-policy；评估采用mean@4（每个提示采样多个回答取平均，不选最佳、不投票）。全参/LoRA/向量转向使用各自的学习率，向量转向需要明显更大的学习率。硬件为H20 GPU、FSDP加vLLM；Qwen3运行于非思考模式以保证基座、教师与学生分布可比。

实验部分围绕两条性质与Alpha-Stabler展开。作者在多个模型与多个可验证奖励任务上，以RL训练教师、蒸馏学生，比较全参微调、LoRA与向量转向三类更新参数化，覆盖on-policy与off-policy两种蒸馏机制；进而做层间注入深度扫描、低秩门控与静态控制对照、梯度对齐与门控系数分析。随后用顺序正交多向量探针考察方向多样性、跨teacher参数化与蒸馏机制的可复现性、跨科学子主题的方向对齐与迁移增益关系、主成分能量占比及其功能测试，以及训练过程中主成分入侵PSI与崩溃的动态关联。最后评估Alpha-Stabler在训练稳定性、学习率鲁棒性、触发时机、控制子空间选择与时间开销方面的表现。总体结论是：RL收益可被低维激活干预大部分恢复但存在容量边界；有效控制方向集中于低方差补空间；PSI可作预警信号，主成分梯度投影能稳定训练且几乎无额外开销。具体数值见各实验条目。

1. 单向量转向在on-policy蒸馏下能恢复RL增益的绝大部分（超过85%）。

   under on-policy distillation, LoRA and full-parameter training perform comparably, while a single steering vector per controlled layer still recovers over 85 % 85\% of the RL gain.

2. 顺序正交多向量探针中，首个方向与第八个方向在SciKnowEval上的独立准确率只差约5.5个百分点，说明主导方向并非唯一。

   the first direction achieves 67.5 % 67.5\% standalone accuracy on SciKnowEval with DeepSeek-R1-Distill-Qwen-1.5B, while the eighth direction, 𝐯 ( 7 ) \mathbf{v}^{(7)} , achieves 62.0 % 62.0\% , only 5.5 5.5 percentage points lower despite being orthogonal to the preceding seven directions at every controlled layer.

3. 高层注入位置的梯度方向对齐反而更高（约0.14），中低层约0.019，但固定向量在高层仍退化，说明平均方向对齐不是决定性因素。

   mean gradient similarity rises from about 0.019 0.019 at lower and intermediate layers to about 0.14 0.14 near the output.

4. 跨科学子主题的方向对齐与归一化迁移增益呈强线性相关（R²=0.91）。

   stronger directional alignment is associated with larger normalized transfer gains across these pairs, with a linear fit yielding R 2 = 0.91 R^{2}=0.91 .

5. 无约束转向在Top-10%主成分子空间中的能量占比仅约1%–2%，显著低于10%各向同性参考。

   across four scientific topics, unconstrained steering places only about 1 % 1\% – 2 % 2\% of its energy in the Top- 10 % 10\% principal subspace, well below the 10 % 10\% isotropic reference

6. 把转向向量限制在Top-30%主成分后，Top-10%能量占比升至约15%，但准确率没有显著改善，说明增益不依赖主子空间对齐。

   the Top- 10 % 10\% energy fraction rises to about 15 % 15\% , but accuracy does not improve meaningfully.

7. Alpha-Stabler在不同学习率下均能稳定训练，受控训练峰值PSI维持在低个位数百分比。

   at each tested learning rate, uncontrolled training eventually collapses, whereas controlled training keeps peak PSI at a low single-digit percentage and reaches comparable final scores across settings, indicating robustness to the choice of learning rate.

8. 触发式控制与始终开启控制在分数和峰值PSI上相当，延迟控制则逐步恶化。

   Triggered control matches always-on control in both score and peak PSI, indicating that continuous intervention is unnecessary, whereas delaying intervention progressively degrades the score and raises peak PSI.

9. 移除Top-PC梯度分量的控制优于随机子空间、Middle-PC、Bottom-PC与全局梯度裁剪。

   Among the compared gradient-control methods, removal of Top-PC components achieves the highest score, while random-subspace, Middle-PC, and Bottom-PC control fail to match it and remain close to the uncontrolled baseline; Top-PC also compares favorably with global gradient clipping.

10. Alpha-Stabler在相同墙钟时间下几乎不增加时间开销。

    nearly identical score trajectories with and without Alpha-Stabler under the same measured wall-clock time, indicating almost no additional time overhead.

11. Alpha-Stabler可将训练稳定维持两千步。

    Alpha-Stabler can stabilize training for 2,000 steps and consistently enhance the gains brought by reinforcement learning.

Novelty：创新点分两层。方法层面，把RLVR后训练重新表述为激活空间干预问题，用可训练向量作为探针，系统比较全参、LoRA与向量转向三类容量，并引入低秩门控向量区分“共享方向”与“输入依赖调制”；顺序正交多向量提取与跨配置、跨主题对齐分析也较系统。发现层面，提出有效流形容量与控制流形分离两条性质，用主成分能量与PSI把RL训练不稳定与几何入侵联系起来，并据此设计Alpha-Stabler，这些经验规律有一定原创性。但构成要素（激活转向、PCA子空间、梯度投影、RL稳定化）大多已有，作者更多是组合与系统化，而非提出全新理论或算法原语；理论部分也明确是经验驱动的条件性结论，并非第一性原理。因此新颖性为中等偏上：视角与经验规律有新意，但核心机制并非颠覆性。 Soundness：方法论总体较规范：多模型、多任务、GRPO/DAPO、on/off-policy蒸馏，匹配采样与评估协议，给出超参与硬件，并使用静态对照、随机子空间对照、触发与延迟对照来支撑因果解释。蒸馏探针逻辑清晰，容量排序与门控实验结果自洽。但仍有关切：多数结论依赖图上趋势，未见显著性与重复方差；“崩溃”与“分布差距”的判定较定性；用蒸馏恢复推断RL几何存在代理偏差（蒸馏目标、teacher-student gap、KL余项等）；顺序正交提取不能刻画解空间全貌；PSI阈值与预警没有检测误差保证；固定基座主子空间不随训练更新；模型家族与任务覆盖有限。整体上实验可信度中等，结论在作者声明的范围内大体可接受，但需要更多统计检验与消融来加固。 Significance：若结论稳健，该工作为RLVR提供了可解释的低维几何画像，并把“低方差补空间”确立为一种设计原则；Alpha-Stabler几乎零参数、零架构改动、低开销，对大规模后训练稳定化有实用价值；PSI可作为预警与自适应控制信号；跨任务方向对齐与迁移相关也提示能力迁移的几何基础。但当前验证仅限RLVR与少数模型、任务，尚未覆盖RLHF、多轮agent或开放生成；稳定化收益也只在有限步骤与基准上展示。因此意义为中等：对社区有启发与工具价值，但泛化边界尚待确认。

本文的主要局限：其一，理论框架建立在经验动机的假设上，未从第一性原理推导；作者也承认其数学结论多为条件性命题，不能替代实证。其二，分析与实验仅覆盖RLVR，任务限于数学、科学、代码、指令遵循等可验证奖励场景，未验证RLHF、多轮agent决策或开放生成，几何性质能否迁移存疑。其三，以蒸馏恢复作为RL几何的代理存在偏差：教师-学生分布差距、蒸馏目标、KL余项和奖励噪声都可能混淆“RL增益的低维性”这一推断。其四，对“训练崩溃”“分布差距”等关键量缺乏严格形式化，PSI的警告/释放阈值依赖启发式与中位数统计，缺少检测错误率保证。其五，主成分基座取自冻结模型且固定不变，可能不是训练全程最优参考；主成分维度选择（如约10%）也较任意。其六，实验未见系统的统计显著性、多次种子方差或置信区间，部分结论仅由少数训练轨迹支撑。其七，模型家族集中在Qwen/DeepSeek系列，评估用mean@4而非pass@k或多数投票，且可能存在基准污染风险。最后，Alpha-Stabler的收益主要在稳定训练与避免崩溃，而非直接提升上限，其与不同RL算法、优化器及更大规模训练的兼容性仍需进一步检验。

后续可沿几条线推进。理论方面：为低维有效流形与低方差补空间定位寻找第一性原理解释，用神经元归因、因果追踪或电路分析放松现有假设，并给出PSI预警的检测误差界。方法方面：把框架扩展到RLHF、多轮agent与开放生成，验证两条性质是否普适；将“低主成分能量”作为显式正则项或学习率、干预强度的自适应信号，发展无需逐层监控的低秩控制。评估方面：引入多随机种子、统计检验、pass@k与多数投票，扩展更多模型家族与非可验证奖励任务。应用方面：探索跨任务方向对齐作为能力迁移或模型合并的几何先验，测试Alpha-Stabler在更长训练、更大规模与不同RL算法下的稳定性，并研究自适应更新主子空间或在线估计能否进一步提升控制精度。

本文（BrickBench: Evaluating Agentic Brick Design）提出一个面向"智能体式、文本条件化乐高套装设计"的基准与环境。论文的定位介于两股潮流之间：一是专用乐高生成模型（BrickGPT、BrickNet 等）长期受限于小规模、单物体与物理验证困难；二是通用编码智能体（coding agents）已能在软件工程、图形、CAD 等"写程序—执行—检查—修改"的闭环任务中工作。作者先展示一个通用编码智能体在 BrickNet 验证集上接近饱和地超过专用模型，借此论证旧基准已不足以区分能力，然后引入 BrickBench：300 条提示词、三种规模/库存约束设置、配套的 BrickAgent 构造环境，以及覆盖物理有效性（连接、碰撞、稳定性仿真）、语义对齐（VQA）与设计质量（VLM 配对判定的 ELO，并经过人类验证）的度量体系。核心结论是：在环境与工具反馈的支持下，前沿智能体几乎解决了"可建造性"，但在"值得建造"的设计质量上仍显著落后于人类，挑战从"做对"转向"做好"。

背景可拆为两条线索。第一条是乐高/积木生成与评测。LDraw 是社区维护的零件库与数字乐高标准，装配被表示为由零件类型、颜色和 6D 位姿构成的实例文本文件；但 LDraw 本身不判断结构是否成立。BrickNet 为库中每个零件标注"带类型连接器"（typed connectors）：每个连接器有 type、subtype、polarity 与 frame，subtype 决定几何匹配关系（stud 配 hole/tube、bar 配 clip），polarity 区分铰链/球/固定关节的两半（必须相反才能连接），frame 给出坐标系；两个实例在"兼容连接器对在容差内对齐"时算作连接。五类连接器（stud、hinge、axle、ball、fixed）各自允许不同的相对运动自由度。生成侧，BrickGPT 把语言模型微调到 20³ 网格上放置八类砖；BrickNet 预测连接而非位置、通过带类型连接器自回归生成结构；LEGO-Maker 做图像条件立面。评测侧，Break and Make 与 LEGO-Puzzles 分别考察智能体拆装与多模态空间问答。 第二条是智能体基准。SWE-bench 靠执行测试打分、OSWorld 靠执行轨迹追踪状态、SceneCraft/BlenderGym 写 Blender 脚本、CAD-Assistant/BenchCAD 写 CAD 程序、BuildArena/PhyBlock 在仿真器中给模块化机械或积木摆放打分。BrickBench 落入这一家族：执行智能体程序得到由真实乐高零件构成的装配，再验证连接、碰撞与重力稳定性。论文的出发点证据是 BrickNet 验证集实验：未在数据集上训练的通用智能体 GPT-5.6 Luna 在 PE、SigLIP 2、VQAScore 上大幅超过 BrickGPT/BrickNet 全系，并在各项指标上与留出真值（GT）相差不到 0.02，接近"饱和"。作者由此指出旧基准遗留两个未被探索的挑战：物理复杂性（BrickNet 至多 100 个零件，远小于数百至数千件的真实套装）和设计质量（"能用"不等于"值得搭"，设计质量没有确定性的通过/失败判据）。这为 BrickBench 的提出提供了直接动机。

任务定义：文本条件化装配要求系统接收一段文本提示，从离散零件库选择零件类型，并为每个实例赋予颜色、位置与 3D 旋转，产出可物理建造的装配。BrickBench 总 300 条提示，分三个设置，各 100 条、十个主题类别（Medieval/Castle、Vehicle/Boat/Airplane、Train、Space/Sci-Fi/Fantasy、Art/Object、Building、Floral/Nature、Animal、Pirate、History/Period）。 设置与约束：Model 设置最多 400 个零件，主要测单组件装配；Set 设置要求使用 400–4000 个零件（对标 BrickLink Designer Program 的零售套装规模）；Alt-Build 只能使用零售套装 10698 的 783 块零件、104 种零件类型（以基础砖/板为主，含少量窗、门、轮与装饰件）。Model 与 Set 都从 BrickNet 支持的完整 LDraw 库（14,441 种零件类型）取材；违反数量/库存约束即判无效。提示由 LLM 生成并经人工合规校验，平均词数 Alt-Build 31、Model 45、Set 57。 提示分解为 DSG 式问题图：把生成提示拆成原子 yes/no 问题（实体、属性、关系），并按图依赖组织，避免"检查骑士盔甲颜色但骑士尚未被确认存在"这类失效依赖。Set 图平均 24 问，因为其提示常描述多对象场景。 BrickAgent 环境：包含 LDraw 库、BrickNet 连接器系统，以及可编程的构造/检查/查看工具：按名称搜索零件、按位置或连接器放置、镜像与测量、定义子装配并组合、从任意视角渲染。验证器把 Sec. 3.2 的连接、碰撞、稳定性测试打包并"点名"报错涉及的零件，让智能体在提交前闭环自检。提示给出带示例的环境说明与设置要求，并告知智能体"资深乐高设计师将按出版套装标准把装配与其他作品对照评判"。消融设置中同一容器只保留 harness CLI、LDraw 库与任务要求，但移除 BrickAgent 工具。 物理有效性判定：装配实例之间的连接构成零件图；装配可含多个（不连通）组件表示多物体场景。稳定性按"静止于重力下"定义：把每个连通分量当作均匀密度刚体，在 PyBullet 中作为单一刚体仿真，设高摩擦系数、零恢复系数，使组件间接触既不滑动也不弹跳；若某组件任何点位移超过四分之三个砖 stud 高度（3 LDU）即判"跌落失败"。stud 连接保持力、轴间隙等未建模，因此能作为刚体平衡即通过，即使实体可能下垂或散架——作者承认这是必要而非充分的代理。两零件几何重叠超过容差即算碰撞，碰撞装配无法建造、在仿真前直接判无效。Valid 是比例，对每个提示打分，要求满足设置零件要求、无碰撞且稳定。 度量： （1）VQA：按 DSG 把渲染与提示做有界语义对齐。用 BrickNet 渲染器从 8 个视角渲染，统一渲染设置；Gemma 4 31B 对图中每个问题单独调用一次，要求只看视图、答 yes/no。单装配得分为满足问题占比，VQA 取均值。 （2）ELO：衡量相对语义对齐与设计质量。对每条提示，取不同系统的所有装配配对，给判官看每方四视角。每个配对问两题：对齐题给提示、问哪个更匹配；设计题不给提示、问按官方套装标准哪个设计得更好（看零件用法而非题材）。每个配对以两种顺序各问一次以消除位置偏差。把胜负拟合成 Bradley–Terry 模型报告为 ELO，锚定到固定参考集；ELO 是 Align ELO 与 Design ELO 按锚点重缩放后的平均值。VQA 与 ELO 都在生成装配上打分、不考虑其是否 Valid。 （3）Cost：生成一个装配消耗的 token 按牌价计算的美元成本；两个训练基线分别是 BrickNet 基座模型按 serverless token 费率的服务成本、BrickGPT 按租用 GPU 的墙钟时间折算。 智能体设定：十一个前沿智能体（GPT-6 Astra、GPT-6.1 Sol、GPT-5.6 Sol、GPT-5.6 Luna、Claude Opus 5.5、Claude Opus 5、Gemini 3.8 Flash、Qwen 3.8 Flash、DeepSeek V4.1 Flash、GLM 5.3 Flash、Muse Spark 1.3）加两个数据驱动基线（BrickNet-14B、BrickGPT，仅适用 Model）。Opus 系跑 Claude Code，其余跑 Codex CLI；推理强度按厂商分级（high/max/xhigh），每提示 300 轮预算。九个智能体构成 ELO 参考集，基线与消融运行只相对参考集打分、不改动尺度。该设计与"经验设计质量无绝对通过/失败判据、只能相对比较"的方法论一致。

实验覆盖十一个前沿智能体与两个数据驱动基线，在三个设置上报告 Valid、VQA、ELO（含 Align/Design 分项）与成本。总评：给定 BrickAgent 环境时物理有效性接近被解决，五个智能体对每个提示都产出有效装配，参考集整体 Valid 比例都不低；失效原因分布在未交付、稳定性、碰撞与零件要求四类。语义对齐（VQA）在参考集内区分温和，顶端接近饱和；设计质量（Design ELO）区分更剧烈，且设计差距与成本不呈正比。环境消融显示移除工具后物理有效性断崖式下跌，但对齐与设计分数几乎不降甚至上升，说明"看起来好"与"真能搭"被环境强制解耦。设计判官的人类验证中，VLM 排序与人类高度一致；与人类设计对比中，人类评分者绝大多数情况下能识别人类作品，所有智能体被误认为人设计者的比例都显著低于随机。两个数据驱动基线在所有指标上大幅落后于通用智能体，但成本差距也极大。按设置看，Set 是有效性最难、对齐普遍下降且部分智能体退化为大量离散组件；Alt-Build 成本最低、有效性最高；Model 是对齐最高且唯一适用基线的设置。

1. 在环境支持下，领先智能体几乎每个提示都产出有效装配，最佳者满足约95%的语义要求。

   leading agents produce valid assemblies for nearly every prompt, and the best satisfies approximately 95% of semantic requirements.

2. 移除 BrickAgent 后物理有效性崩溃：GPT-6 Astra 从100%跌到40%，GPT-5.6 Luna 跌到不足1%。

   Without it, the share of valid assemblies falls from 100% to 40% for GPT-6 Astra and to under 1% for GPT-5.6 Luna.

3. 人类评判者在与人类设计的360次对比中323次选中人类作品。

   human raters identify human-designed assemblies in 323 of 360 comparisons.

4. VQA 对参考集的区分温和，从 GLM 的0.59到 Astra 的0.95。

   VQA separates the reference set gently, from 0.59 for GLM to 0.95 for Astra.

5. Design ELO 区分更剧烈，GLM 与 Astra 相差545点，可解释为判官约96%对局偏好 Astra。

   Design ELO does so more sharply, with 545 ELO points between GLM and Astra, a gap that can be interpreted as a judge preferring Astra's assembly in around 96% of pairs.

6. Claude Opus 5 排名第二但付出四倍成本。

   Opus 5 is ranked second while incurring four times the cost.

7. 后发布的 GPT-6.1 Sol 以约五分之一成本匹配 Astra 的 ELO，Opus 5.5 以40%成本高出 Opus 5 达148分。

   GPT-6.1 Sol matches Astra on ELO (1293 against 1297, intervals overlapping) at a fifth of its cost, and Opus 5.5 rates 148 points above Opus 5 at 40% of its cost, inside Astra's interval on Design ELO but 83 points lower on Align ELO .

8. 设计判官与人类排序在36对智能体比较中的34对一致，Kendall τ 为0.89。

   The rankings agree on 34 of the 36 pairs among the agents, with a Kendall τ \tau of 0.89.

9. 设计判官人类验证共收集102位评分者的4080条判断。

   We collect 4,080 judgments from 102 raters.

10. 两个数据驱动基线大幅落后：BrickNet-14B 仅26%提示无碰撞，BrickGPT 虽逐条有效但只满足2%的问题。

    BrickNet-14B is collision-free on only 26% of prompts, while BrickGPT, though valid on each prompt, satisfies 2% of the questions.

11. 通用智能体取代任务专用模型，但成本提高约900到6800倍。

    displacing task-specific data-driven models at an increase of 900–6,800 times the cost.

12. 最常被误认为人设计者的 GPT-6 Astra，在21对比较中也只被选中4次。

    GPT-6 Astra, the agent most often taken for a person, was chosen in 4 of its 21 pairs.

Novelty：新颖性中等偏上，贡献在于"评测对象与任务尺度"的迁移，而非底层技术发明。核心物理机制（BrickNet 连接器系统、PyBullet 刚体稳定性）与判分思路（DSG、Bradley–Terry、VLM 判官）均来自既有工作，作者的增量是把它们整合为"通用编码智能体 + 工具环境 + 可验证地板 + 开放设计天花板"的成套基准，并把尺度从 ≤100 零件单物体推到 400–4000 零件的套装与固定库存 Alt-Build。最具原创性的部分是把"设计质量"显式化为经过人类验证的 VLM 配对 ELO（对齐题与设计题分离、双向消除位置偏差、锚定参考集），这是此前乐高评测所缺失的维度。总体上它是 benchmark 类论文：方法创新有限，但问题设定与度量设计有新意。 Soundness：方法论上较扎实但有几处明显弱点。强项：物理判定在碰撞、连接、稳定性三个层面做了解释性验证；环境消融用同一 CLI/容器做受控对比，干净地分离出工具反馈的作用；设计判官与人类评分者做了一致性校验（36 对中 34 对一致、τ 高），并显式说明判官比人类更果断而按常数因子对齐；ELO 锚定参考集使后加入的模型不污染既有评分。弱点：其一，稳定性仿真明确只是代理，不建模连接强度与轴间隙，因此"平衡即通过"可能把实体上会散架/下垂的结构判为有效，作者自己也承认；其二，与人类设计的对比只按零件数匹配、不按提示词匹配，因为不存在 BrickBench 提示词的人类设计，这削弱了"设计质量差距"结论的因果强度——差异可能来自题材不同；其三，判官验证仅覆盖 36 个系统对、且两个新模型未被纳入人类研究，自动化评分的泛化边界未充分测试；其四，VQA 用单一 VLM（Gemma 4 31B）判分，存在与 ELO 判官同源偏差的风险；其五，成本口径不一致（token 牌价 vs 墙钟 GPU 折算），横向可比性受限。 Significance：意义中等。对"智能体基准"研究有价值：它把 SWE-bench 式"执行即验证"范式扩展到具有连续物理约束与主观美学目标的离散装配域，且给出了一个可复现、有开放天花板的任务（乐高设计）。其最有迁移价值的发现是"验证器把可建造性从审美中解耦"——移除环境后对齐/设计分不降反升，说明无物理反馈时智能体倾向生成不可建但好看的假象，这对 CAD、机器人装配、场景生成等需要真实物理闭环的领域有警示意义。但局限也明显：乐高设计本身是窄众任务，外部影响取决于后续是否能把"可验证地板 + 开放设计天花板"的设计模式推广到更主流领域；且当前结论高度绑定特定闭源模型版本，随时间快速贬值。作为"设计质量难评测"的案例研究，其方法论（VLM 判官 + 人类验证 + 双向配对）具有一定的可迁移性。

作者自陈的核心局限是物理有效性仿真只是代理：连接不测强度，刚体平衡即通过，无法捕捉 stud 保持力、轴间隙、下垂或散架；文中提到已有针对 stud 连接的力模型与 FEM 尝试，但不通用、会严重限制零件目录，故当前门槛"必要而不充分"。此外还有论文未充分展开或我作为审稿人识别的问题：（1）人类设计对比不是提示词匹配，只按零件数抽样匹配，无法排除"题材不同"导致的偏好，提示词匹配的人类设计需要专门委托制作，作者明确留作未来工作；（2）设计质量判官是单一 VLM，人类验证只覆盖有限系统对，两个新模型（Opus 5.5、GPT-6.1 Sol）未参与人类研究，其自动化设计分的可信度未被直接确认；（3）稳定性的刚体近似把多组件场景当作可整体平衡的刚体集合，可能系统性高估有效性，尤其对 Set 设置中那些由几十个离散组件堆叠的场景；（4）成本度量口径不一致，训练基线的服务成本按 GPU 墙钟折算、智能体按 token 牌价，且智能体推理强度设定不同，成本对比的公平性存疑；（5）基准对闭源 API 模型高度敏感，模型名称与版本更新会迅速过时，长期复现依赖厂商行为；（6）Alt-Build 只覆盖单一零售套装的库存，通用性有限。

最自然的跟进是把"必要而非充分"的物理代理升级为结构级验证：在连接点引入力上限（如 stud 分离力、轴扭矩）或用 FEM/简化梁模型评估下垂与散架，前提是找到对 14,441 零件类型通用的方法；若无法全库覆盖，可先在 Alt-Build 的小零件子集上做精确结构仿真。其次，委托制作与 BrickBench 提示词一一匹配的人类设计，将"与人类设计的差距"从零件数匹配升级为提示词匹配，才能把设计质量的因果结论坐实。第三，扩展设计判官的人类验证规模与覆盖（纳入新模型、更多系统对、多 VLM 判官做交叉校验），并研究判官与人类的常数缩放是否跨模型稳定。第四，利用 BrickAgent 的闭环轨迹做强化学习或过程监督，训练专用智能体缩小成本鸿沟——当前"900–6,800 倍成本"是实用化的最大障碍。第五，把"可验证地板 + 开放设计天花板 + VLM 判官人类锚定"的基准范式迁移到 CAD 机械装配、模块化机器人或程序化建筑等更具产业价值的离散组装域。第六，补充对设计质量的细粒度可解释指标（零件用法、比例、表面细节），避免把设计质量完全外包给黑箱 VLM 判官。

Pumpire 是一篇以评测为核心的论文，不提出新的三维重建模型，而是把“度量尺度下的点对距离估计”作为核心能力来直接评测。论文认为，既有深度/内参基准和点云几何基准都无法等价刻画“任意点对之间的物理距离”，因此设计了 pumpire-6k 数据集与统一回投协议，覆盖图像级/视频级、估计/补全四类三维基础模型，并给出 29 个基线配置的系统结果。其定位是填补“从重建几何直接评测点到点度量距离”的空缺，并支撑跨设置比较与下游任务导向的模型选择。

相关工作分两条主线。几何估计方面：图像级方法包括 MiDaS、Depth Anything v2、Metric3D 系列、Unidepth、MoGe-2/3、Depth Pro、MetricAnything 等；视频级方法包括 DUSt3R、MASt3R、MUSt3R、VGGT、Depth Anything 3、CUT3R 等，它们利用多视图约束提升几何一致性。几何补全方面：图像级方法包括 CDM、DepthLab、PriorDA、Lingbot-Depth、InfiniDepth、Omni-dc、LDCM、Marigold-dc、PromptDA 等；视频级方法包括 MapAnything、pi3x 和 CAPA，它们在 RGB 基础上额外条件于稀疏或不完整深度先验。论文指出现有评测的三类缺口：其一，深度和内参基准即使联合使用，也不等于点对距离估计能力；其二，点云基准主要用 Chamfer Distance、Accuracy、Completion、F1 等几何相似度，无法直接反映任意点对的度量距离；其三，空间推理基准以物体级问答形式评测距离，粒度太粗，而图像/视频、估计/补全的评测框架彼此割裂。Pumpire 由此提出直接、统一、跨设置的点对距离评测。

数据集构造。pumpire-6k 从 100 个真实场景采集，其中 40 个室内、60 个室外；每个场景拍摄 200–300 帧后均匀采样 64 帧，共 6400 帧。每帧提供 1280×720 RGB、RGB 对齐深度图、相机内参、两个贴纸中心之间的物理测量距离，以及贴纸中心在每帧的像素坐标。为避免传感器深度在透明/反射、细长结构、锐利边缘及普通表面噪声处的错误进入真值，点对距离由卷尺物理测量获得；贴纸半径为 10 mm，以便在近远变化和视角变化下可靠定位。标注采用粗到细流程：人工在锚帧点击两个贴纸中心，用 CoTracker3 传播轨迹；漂移超限时重新选锚帧并重标，最后逐帧人工细化到像素精度。采集阶段随机化相机轨迹，包括近远双向距离缩放、朝向变化、贴纸在画面中的随机位置，以及大范围视角与距离变化。 评测协议。对直接预测深度图的模型，将预测深度作为 D；对预测点图的模型，取点图 z 坐标作为 D。然后用相机内参 K 将两个标注像素回投到相机坐标系：P_i = D(u_i,v_i) K^{-1}[u_i,v_i,1]^T，预测距离 d_pred = ||P_0 - P_1||_2。真值 d_gt 来自物理测量，且同一场景内点对固定，因此 d_gt 在该场景所有帧共享。内参使用遵循模型设定：估计模型使用其预测内参，Metric3D 与 Metric3D v2 使用其 canonical 内参；补全模型因条件于传感器深度，使用 GT 内参回投。视频级模型每场景采样 32 组、每组 10 帧，对所有预测取平均；视频级补全模型额外获得传感器深度先验，其中 MapAnything 与 pi3x 同时获得深度和内参。采样使用固定随机种子，所有视频模型共享相同的帧组与顺序，以消除随机视图选择差异。 指标设计。逐帧定义绝对误差 e = |d_pred - d_gt| 和比值 r = d_pred / d_gt。场景级指标为：AE_s 是 e 的均值；RE_s 是 e / d_gt 的均值；LE_s 是 |log r| 的均值；δ_{τ,s} 是 1[max(r, r^{-1}) < τ] 的均值。基准级结果再把场景级指标在场景上平均，而不是把帧混在一起平均，避免帧数多的场景主导。RSD_s 定义为序列内预测距离标准差除以预测距离均值，用来衡量同一场景跨视角预测的一致性。该回投机制的关键在于：点对距离误差同时受深度尺度误差和内参误差影响，因此不能由深度或内参单独预测。 难度划分。论文以原始传感器深度回投距离的 RSD_sensor 作为难度代理，认为传感器不可靠的光学/几何条件同样会挑战学习模型。以 0.1 为阈值，得到 24 个 challenging 场景和 76 个 normal 场景，分别报告，以避免少数严重失败场景主导聚合指标。 基线设置。共 29 个基线配置：图像级估计 8 个、图像级补全 10 个、视频级估计 6 个、视频级补全 5 个；附录 B 说明同族变体（如 CDM-L515/CDM-D435、CAPA-VGGT/CAPA-Unidepthv2/CAPA-MoGe2）分开计数。所有模型均预测绝对尺度几何，因此能在统一距离协议下比较。 分析流程。深度/内参耦合分析在 NYUD、KITTI、ETH3D、DIODE 上报告深度指标，在 LaMAR、MegaDepth、Stanford2D3D、TartanAir 上按 GeoCalib 报告内参 AUC@1/5/10；随后将预测内参替换为 GT 内参再回投，观察性能变化。稀疏深度先验分析随机采样 100、1000、10000 个传感器深度点，与全深度图对比。视频级深度先验比例 ρ 在 {0.1, 0.2, 0.3, 0.5, 0.7, 1.0} 中变化，仅对支持部分视图深度条件的 MapAnything 与 pi3x 评测。跨设置比较让图像级模型按视频采样中帧的出现次数加权，使四类模型在 76 个 normal 场景上有相同帧出现次数。附录还以 N=4 帧、步长 {2,4,8,16} 分析多视图基线宽度的影响。论文不训练新模型，所有基线均为预训练模型。

论文在 normal 与 challenging 两个子集上分别报告图像级估计、视频级估计、图像级补全、视频级补全的结果，并给出平均排名。总体发现是：图像级估计在普通场景下 Metric3D v2 领先，但困难场景排名明显改变；视频级估计 Depth Anything 3 在两个子集均居首；图像级补全 Lingbot-Depth 领先；视频级补全 CAPA 系列包揽前三。进一步分析显示，深度与内参存在耦合，单独或联合的深度/内参基准无法预测点对距离表现；原始传感器深度在普通场景很强、在困难场景失效；补全模型峰值精度高但退化更剧烈；稀疏深度先验并非越多越好；增加带深度先验的视图比例能降低视频级补全误差。具体数值见下列 claim/quote。

1. 数据集由 100 个真实场景构成（40 室内、60 室外），每场景采集 200–300 帧并均匀采样 64 帧，总计 6400 帧。

   We collect pumpire-6k from 100 diverse real-world scenes, including 40 indoor and 60 outdoor scenes. For each scene, we capture a sequence of 200–300 frames and uniformly sample 64 frames to reduce inter-frame redundancy, yielding 6,400 frames in total.

2. 每帧提供 1280×720 RGB、对齐深度、内参、两贴纸中心物理测量距离与逐帧像素坐标；贴纸坐标用“人工锚帧 + CoTracker3 传播 + 逐帧校验”的粗到细流程标注。

   Each sequence provides 1280 × 720 1280\times 720 RGB images, RGB-aligned depth maps, camera intrinsics, the physically measured distance between two sticker centers, and their pixel coordinates in each frame. We annotate the sticker coordinates using a coarse-to-fine pipeline that combines manual anchor-frame annotation, CoTracker3-based propagation Karaev et al. (2025) , and frame-by-frame verification.

3. 以传感器深度跨视角 RSD 为难度代理，阈值 0.1 分出 24 个困难场景与 76 个普通场景。

   Using an empirical threshold of 0.1 0.1 , we identify 24 challenging scenes and 76 normal scenes.

4. 共评测 29 个基线配置，覆盖图像级估计、图像级补全、视频级估计、视频级补全四类设置。

   We benchmark 29 representative baseline configurations spanning four settings: image-level estimation (8), image-level completion (10), video-level estimation (6), and video-level completion (5).

5. 图像级估计中，Metric3D v2 在普通子集平均排名第一；困难子集 Depth Pro 与 MoGe-3 居前，Metric3D v2 明显下滑。

   As shown in Table 3 , Metric3D v2 Hu et al. (2024) achieves the best average rank on the normal subset, followed by Unidepthv2 Piccinelli et al. (2025) and MetricAnything Ma et al. (2026) . On the challenging subset, Depth Pro Bochkovskiy et al. (2025) and MoGe-3 Kong et al. (2026) rank first and second, respectively, while Metric3D v2 drops substantially in average rank. These results suggest that strong performance under normal conditions does not necessarily generalize to challenging scenes.

6. 视频级估计中，Depth Anything 3 在两个子集均排名第一；困难子集 pi3x 升至第二，MUSt3R 跌至第五。

   As shown in Table 4 , Depth Anything 3 Lin et al. () ranks first on both subsets. On the challenging subset, pi3x Wang et al. (2026a) improves from fourth to second in average rank, whereas MUSt3R Cabon et al. (2025) drops from third to fifth.

7. 图像级补全中，Lingbot-Depth 在普通与困难子集均排名第一。

   As shown in Table 5 , Lingbot-Depth Tan et al. (2026) ranks first on both the normal and challenging subsets.

8. 视频级补全中，三个 CAPA 变体在两个子集包揽平均排名前三，CAPA-VGGT 第一。

   As shown in Table 6 , the three CAPA variants Ke et al. (2026) achieve the top three average ranks on both subsets, with CAPA-VGGT ranking first.

9. 把预测内参替换为 GT 内参后，多数模型-指标组合退化，说明预测深度与预测内参存在耦合。

   Surprisingly, this substitution degrades across the majority of metrics — 47 of the 56 model–metric pairs (Table 9 ), demonstrating that predicted depth maps are intrinsically coupled with their corresponding predicted intrinsics.

10. 在普通场景，原始 RealSense D435 深度是很强的基线，仅少数补全模型接近或超过其 δ1.05；困难场景排序反转，多数学习模型 RE 低于传感器。

    On normal scenes (Figure 4 a ), raw RealSense D435 depth is a remarkably strong baseline: only 5 of the 18 baseline configurations approach or surpass its δ 1.05 \delta_{1.05} , all of them completion models (Lingbot-Depth, PriorDA, Omni-dc, LDCM, and InfiniDepth), while the best estimation model reaches barely half its accuracy. The ordering reverses on challenging scenes, where 16 of the 18 baseline configurations achieve a lower RE than the sensor: optical sensitivity and structural vulnerability invalidate active measurement, whereas learned models fall back on geometric priors.

11. 稀疏深度先验并非越多越好，多个补全模型在中间密度达到最佳。

    Figure 5 a reveals a counterintuitive result: increasing the number of depth points does not consistently improve completion accuracy, and several models perform best at intermediate densities.

12. 随着带深度先验的视图比例增加，MapAnything 与 pi3x 的 RE 均下降，MapAnything 的改善更明显。

    As shown in Figure 5 b , RE decreases consistently for both models as ρ \rho increases, demonstrating the benefit of additional depth priors. The improvement is substantially larger for MapAnything, whereas pi3x exhibits a more gradual reduction.

Novelty：新颖性中等偏上。作为基准工作，其核心创新不是算法，而是问题定义与评测协议：首次直接把物理测量的点对距离作为主指标，统一图像/视频、估计/补全四类设置；用贴纸加卷尺获得不依赖传感器深度的真值；用 RSD 划分 normal/challenging，揭示精度-鲁棒性权衡。但与已有深度、内参、点云基准相比，点对距离在协议层面只是回投两个像素并求欧氏距离，评测设计本身较直接；“统一”和“首个”的贡献主要来自数据收集与系统评测，而非方法层面的突破。 Soundness：方法学基本合理：物理测量避免传感器深度误差；逐帧人工校验贴纸坐标；场景级平均再在场景间平均，避免帧数不平衡；估计模型用自身预测内参、补全模型用 GT 内参，符合各自设定；固定种子视频采样保证可复现。但存在若干问题：每场景只标注一对点，空间覆盖有限；难度划分依赖传感器 RSD 的 0.1 阈值，既有人为性，也可能系统性偏向学习模型；普通/困难二分割丢失细粒度；排序采用平均排名，未做统计显著性检验；跨设置比较中内参来源不同，控制不完全。总体 soundness 为中等偏良好。 Significance：该基准对三维基础模型的度量尺度感知评测有实用意义：点对距离直接关联自动驾驶碰撞、机器人抓取、VLM 空间推理等下游任务；提供统一跨设置比较，可能影响后续模型选择与评测协议设计。但作为基准，其影响力取决于社区采纳与维护，且只覆盖单一相机、有限场景和单点对，距离成为通用基准还有距离。显著性中等偏上。

1) 标注规模与空间覆盖：每场景仅一对贴纸，无法刻画场景内不同距离、尺度、遮挡和边缘处的误差；100 个场景、6400 帧规模有限，泛化性未知。2) 测量与标注：卷尺测量本身有操作误差；10 mm 贴纸中心定位有不确定性，远距离时像素误差会被放大；物理测量难以覆盖大范围或不可达点。3) 难度划分：用传感器深度 RSD 和 0.1 阈值定义 challenging 存在循环性，可能高估传感器失效、低估学习模型在传感器可靠场景的不足；二分类粗糙。4) 协议公平性：估计模型用预测/规范内参，补全模型用 GT 内参；补全模型还获得传感器深度先验，因此跨设置对比并非单一变量；视频采样每组 10 帧、32 组的设计未充分论证；RSD 只衡量序列内预测距离波动，不能完全代表时序一致性。5) 基线偏差：模型版本、backbone、训练数据、是否使用深度先验不同；平均排名等权合并各指标，可能掩盖不同指标的权衡。6) 结论外部效度：未与真实下游任务成功率/碰撞率关联；未提供统计显著性和方差；未分析不同相机模型、畸变、内参噪声的影响。7) 没有新的训练方法，不能说明这些发现能否直接指导模型改进。

未来可扩展：多对点/稠密点对标注、更多场景与传感器、不同分辨率与相机模型；用更细粒度和模型无关的难度标签替代传感器 RSD 阈值；加入统计检验、置信区间和方差分解；统一或消融内参来源，报告预测内参/GT 内参/规范内参三种回投；建立公开 leaderboard 并持续纳入新模型；将点对距离误差与自动驾驶、机器人操作、VLM 空间推理任务关联，建立预测性效度；开发直接监督点对距离的训练或适配方法；探索视频级时序一致性、多视图几何约束、深度先验稀疏与噪声的联合建模；进行跨域泛化和长尾困难场景分析。

本文属于"AI for science"与多智能体 LLM 系统交叉的实证研究，核心命题不是提出新的模型或优化算法，而是检验研究环境设计是否能让智能体在缺乏明确奖励/评价指标的开放任务上取得科学进展。作者把既有的去中心化多智能体研究环境 Station 从"有显式指标的封闭任务"迁移到"无 oracle 指标的开放任务"，并新增 Supervisor 与 Meta Reflection 两个机制，配合 Consolidation Agent 输出研究论文。与 AI Scientist-v2 这类中央控制式系统相对，Station 让多个异构模型智能体并行提出并坚持各自的研究方向。论文用"复现 ICLR 口头论文结论"这一可量化代理指标来评估开放发现能力，这是其与大多数仅展示定性案例的智能体科学发现工作的重要区别。定位上它更接近"环境/系统设计与评测基准"贡献，而非方法学突破；但其证据面较广（多个任务、基线、消融、行为分析、专家校验），在开放科学发现的自主性问题上提供了一个有参考价值的实证锚点。

背景：近年 AI 在数学、算法发现等任务上进展显著，但这些成功大多发生在有清晰进步指标或严格流程的领域，开放任务因缺少客观评价标准而难以评估与引导探索。作者识别出两个核心障碍。一是判断错位（judgment misalignment）：没有进度反馈时，智能体只能依赖主观判断评估中间结果，其判断可能与人类研究者分歧。二是街灯效应（streetlight effect）：智能体倾向选择容易验证的问题，并自我论证其重要性，即使对总研究目标贡献有限。现有自主研究系统如 AI Scientist-v2 采用中央控制器协调探索，而 Station 是去中心化、模拟科学生态系统的多智能体环境，允许不同模型、不同上下文的研究者独立提出和推进方向，天然适合并行承载多种科学价值判断。作者认为仅有多样性不足以保证对难题的持续投入，因此加入监督与反思机制。评测对象来自 ICLR 2025/2026 口头论文的开放问题（涌现规划、低秩结构、时序表征），以及两个无 oracle 论文的探索任务（LLM 潜意识学习、VLM 幻觉）。文中明确采用"扣留论文结论、禁网、按子发现逐条打分"的方式衡量再发现，并以 AI Scientist-v2 的三种模型配置与 Codex Multiagent-v2 作为基线，匹配累计实验时间以控制计算预算。该设计把"开放科学发现"从一个模糊口号转化为可比较的实证问题。

机制是本文的核心贡献，分三部分：底层 Station 环境、两个新增引导机制、以及评测协议。 一、Station 环境。Station 按离散 tick 运行，一个 tick 定义为每个活跃智能体各接收一次环境观测并返回一次响应。空间分为若干房间，智能体须移动到相应房间才能使用房间动作： - Research Center：提供共享任务与代码沙箱，智能体以自然语言指令提交给编码助手 Codex（GPT-5.5）执行，可打印输出、保存工件到共享存储；房间只展示任务标题、运行中实验与已提交实验列表，不给任何 evaluator 或任务级分数，web 被禁用。这是"无显式指标"的关键体现。 - Archive Room：论文发布与阅读区，论文由 reviewer 智能体按 NeurIPS workshop 风格指南自动评审，被接受的论文构成站内文献，供后续智能体引用与累积。 - Mail Room：私密线程，用于一对一协作。 - Public Memory Room：公开、持久、无审查的论坛线程。 - Common Room：实时的群聊。 - Reflection Chamber：支持智能体自选 prompt 的 reflect，以及由系统 prompt 池采样的 meta_reflect；一次反思的多轮交换在一个 tick 内完成。 智能体构成为六名：三名 Gemini 3.1 Pro、一名 GPT-5.5、两名 Claude Opus 4.8。智能体按 lineage（谱系）组织，继承同一名字、私密笔记与延续的研究身份；每个智能体最多存活 150 tick，前 20 tick 为"未成熟"隔离期，20 tick 后成熟并可进入协作房间，90 tick 起可主动离开。初始角色从分析型、创造型、综合型、经验型、战略型等模板采样；离开时智能体可为自己后代撰写角色，从而保留谱系间差异。上下文接近约 300,000 token 限制时，智能体需压缩总结并携带关键消息刷新上下文。 二、新增机制。Supervisor 是一个专职监督智能体：当某个 GPT 模型智能体在 Archive Room 发表论文且当前无 Supervisor 时被自动指派；此后它不能再提交实验或论文。其系统提示被刻意限制为"窄、自治、对承诺严格"：只能审查并执行承诺，不得提出研究方向、话题建议或技术细节。成熟智能体须向 Supervisor 提交 Research Proposal，包含研究方向、任务相关性与人类兴趣论证、文献综述（引用至少五篇站内论文）、以及精确措辞的 pre-commit 条款，承诺至少 60 tick 内不换方向；Supervisor 每 10 tick（资深智能体每 20 tick）进行一对一邮件会议，维护 Agent Record，记录批准提案、起止 tick、pivot 请求、续期与警告。60 tick 内若想 pivot 必须提交正式 Pivot Request，除"方向确实无法继续"等极少数情况外一律拒绝，迫使智能体在原方向内调试或换实现；60 tick 结束后续期须重新声明，换方向则须重新提案。这样用程序化手段强制"持久探索"，直接对抗街灯效应。 Meta Reflection 要求所有成熟智能体每 50 tick 进入 Reflection Chamber 执行一次 meta_reflect。系统从预定义 prompt 池采样一个初始 prompt，再追加两次续写提示，共三轮反思；在这三轮回合中智能体模型被临时切换为 GPT-5.5，理由是作者观察到 GPT 智能体更严谨、评估研究价值更中立。模板把智能体"变成"一位外部人类专家："You are no longer [agent name]. You are now an external human researcher, a leading expert in the field, reviewing [agent name]'s past research activities and dialogue"，并以第一人称 "I" 指代外部研究者、以 "you" 指代被审查智能体。prompt 要求评估工作的新颖性、重要性以及坚持与过早 pivot 的平衡，从而把"人类研究者会怎么看"这一主观判断显式注入决策循环，缓解判断错位。 最终阶段引入 Consolidation Agent（Codex + GPT-5.5），把站内各智能体发现整合为约 8,000 词的 research report 作为系统输出；每次运行独立调用三次 Consolidation Agent 得到三份报告，以吸收整合阶段的可变性。 三、任务与评测。再发现任务把 oracle 论文主要发现拆成约 10 个子发现，运行前即固定 rubric；只当报告陈述了实质相同的命题并给出支撑证据时记为该子发现被复现。每份报告由 GPT-5.5 评测智能体用三个随机种子评估，一次运行得到 3 报告 × 3 评估 = 9 个分数的均值。评测提示要求先读 oracle 论文建立"参考账本"、再独立读系统论文建立"证据账本"、最后逐条判 0/1，并强制审计每条 claim 只出现一次。三篇 oracle 论文的 rubric 类别分别为：涌现规划（probing / planning features / causal intervention）、低秩结构（sequence-level structure / reusable relations / functional consequences）、时序表征（linear dynamics / nonlinear dynamics / spatial–temporal tradeoffs）。基线是 AI Scientist-v2（Claude、Gemini、GPT 三种模型配置）和 Codex Multiagent-v2（GPT），各任务三随机种子运行，累计实验时间与 Station 对齐，并要求输出至少 8,000 词。训练/数据层面无模型微调，使用的是冻结检查点；模型知识截止在 2025 年 1 月至 2026 年 1 月，早于部分 oracle 论文发表，因此论文专门讨论了潜在污染问题。

实验分再发现与探索两类。三类再发现任务的总体结论是：扩展后的 Station 在平均子发现恢复率上显著高于所有基线，并且在提供现成检查点的任务上表现强于需要自行训练模型的任务。逐类别看，Station 在"概念探测、序列级结构、可复用关系、线性动力学与容量权衡"等较直接的分析上恢复较好，而在"因果干预、功能后果、非线性动力学与深层机制解释"上恢复较差；基线几乎只停留在表层表征分析。消融表明同时移除 Supervisor 与 Meta Reflection 会降低恢复率，尤其损伤需要"在早期发现之上继续构建"的干预类发现；行为分析显示这两个机制延长了研究项目持续时间、减少了方向切换，并且多数反思事件之后跟着深化或验证既有方向的实验。评测可信度方面，自动 GPT-5.5 评测与盲评专家在多数判断上一致。探索任务上，智能体在潜意识学习任务中得到与同期人类论文一致的 LoRA rank 倒 U 关系及低秩主导模态解释，并进一步提出早期层修复策略；在 VLM 幻觉任务中发现通过缩放最后两层的 MLP 输出来抑制内容型幻觉的干预，也与同期工作相符。综合看，实验支持"环境设计能提升开放任务上的自主科学进展"，但也记录了明显残留的判断错位与街灯效应。

1. 在三个再发现任务上，Station 平均恢复 62.7% 的 oracle 子发现，远高于 Codex Multiagent-v2 的 15.4% 和 AI Scientist-v2 的 14.4–20.6%。

   We find that Station rediscovers 62.7% of the criteria on average, compared with 15.4% for Codex Multiagent-v2 and 14.4–20.6% for AI Scientist-v2.

2. 涌现规划任务（11 个子发现）中 Station 平均恢复 8.33 个（75.8%），探测类恢复强于规划特征与因果干预类。

   Station recovers an average of 8.33 out of 11 sub-discoveries (75.8%), with stronger recovery of probing findings than planning features or causal interventions (Fig. 2 A).

3. 涌现规划任务上 Station 大幅超过 Codex Multiagent-v2（6.1%）与 AI Scientist-v2（6.1–19.2%）。

   Nonetheless, Station substantially outperforms Codex Multiagent-v2 (6.1%) and AI Scientist-v2 (6.1–19.2%).

4. 低秩结构任务（12 个子发现）中 Station 恢复 8.44 个（70.4%），序列级结构与可复用关系近乎完全恢复但功能后果恢复有限，且明显超过两个基线。

   Station recovers an average of 8.44 out of 12 sub-discoveries (70.4%), with nearly complete recovery of sequence-level structure and reusable relations but limited recovery of functional consequences (Fig. 2 B). It substantially outperforms Codex Multiagent-v2 (33.3%) and AI Scientist-v2 (32.4–37.0%), whose recovered findings are almost entirely confined to sequence-level structure.

5. 时序表征任务（10 个子发现）中 Station 恢复 4.19 个（41.9%），线性动力学与空间-时间权衡恢复强于非线性动力学。

   Station recovers an average of 4.19 out of 10 sub-discoveries (41.9%), with stronger recovery of linear dynamics and spatial–temporal tradeoffs than nonlinear dynamics (Fig. 2 C).

6. 时序表征任务虽整体恢复较低，Station 仍超过 Codex Multiagent-v2（6.7%）与 AI Scientist-v2（0.0–11.1%）。

   Although Station outperforms Codex Multiagent-v2 (6.7%) and AI Scientist-v2 (0.0–11.1%), its lower recovery on this task highlights the challenges of tasks that give agents greater autonomy in research directions.

7. 在涌现规划任务上移除 Supervisor 与 Meta Reflection 后，子发现恢复率从 75.8% 降至 57.9%，干预类发现下降明显。

   Removing the two mechanisms reduces sub-discovery recovery from 75.8% to 57.9%, with a pronounced drop in intervention findings (Fig. 3 A).

8. 移除两个机制后平均研究项目持续时间从 67.0 tick 降至 55.5 tick，表明研究持久性下降。

   It drops from 67.0 ticks in Station to 55.5 ticks in the ablated Station, indicating reduced research persistence.

9. 在 92 次 Meta Reflection 事件中，71.7% 之后跟随的是深化或验证既有研究方向的实验。

   Across 92 reflection events, 71.7% are followed by experiments that deepen or validate the existing research direction (Fig. 3 B).

10. 自动评测与盲评专家的一致性较高：在 66 个判断中三次自动评测多数投票与专家在 64 个（97.0%）上一致。

    Across the 66 judgments, the majority vote of three automated evaluations per output agreed with the author on 64 (97.0%).

11. 判断错位仍显著：oracle 论文作者对 24 个不与子发现重叠的智能体提案评分时，75% 仅得 1 或 2 分（满分 5 分），认为过于关注细节。

    The author assigned scores of 1 or 2 out of 5 to 75% of the proposals, commenting that they focused too heavily on minor details whose resolution would offer little insight into the main research question.

12. 探索任务上，智能体发现潜意识学习随 LoRA rank 呈倒 U 关系，该结果与知识截止后的同期人类工作 Nief et al. 相吻合。

    The agents discover that subliminal learning displays an inverted-U relationship with LoRA rank, as shown in Fig. 4 A. This finding is surprising, as one might expect trait transfer to become more effective with a larger rank. The inverted-U relationship coincides with a finding reported in concurrent work by Nief et al. [26].

Novelty：新颖性中等。个体组件（Supervisor 强制承诺、周期反思、整合智能体）并不新鲜：强制不 pivot 接近任务分配/承诺机制，Meta Reflection 是角色扮演式自我评估的变体。真正的增量在于把这些简单机制嵌入去中心化多智能体科研环境，并证明其组合能改善开放任务上的持续探索；以及提出了"以 ICLR 口头论文为 oracle、拆分子发现、扣留结论、逐条打分"的开放科学再发现评测框架，这比多数工作只展示挑选过的案例更系统。与 AI Scientist-v2 的直接对照和消融/行为分析也增加了证据维度。但"开放发现"的定义被窄化为"再发现已知结论"，其衡量的是检索式科学复现而非真正未知发现，这削弱了概念上的新颖边界。 Soundness：方法学上基本稳健但有几处薄弱点。优点是 rubric 在运行前固定、盲评专家校验自动评测、报告与对话公开、累计实验时间对齐基线。主要顾虑：其一，知识截止污染无法排除，虽然论文用基线与直接提示的失败来论证污染不足以解释，但这只是间接证据；其二，样本量小，每任务仅 3 次运行、探索任务仅 1 次，指标区间较宽，个别类别（如非线性动力学、功能后果）接近零且方差大；其三，评测者本身是 GPT-5.5，与生成系统和 Consolidation Agent 共享模型家族，存在循环评测风险，盲评校验只覆盖 66 个判断且集中于单一任务作者；其四，rubric 拆解主观，"实质相似"由自动评测者判断，可能高估或低估；其五，性能差异无法归因于去中心化，因为系统在模型组合、工作流、token 预算上都不同，论文自己也承认这一点；其六，探索任务的"发现"由作者人工筛选，缺乏独立专家盲评与可复现的筛选协议，且与同期工作的匹配可能受已知方向提示影响。 Significance：意义较大。它把"AI 能否自主做开放科学发现"从哲学讨论推进到可重复的实证测量，并用与同期人类论文吻合的探索结果提供了一定支持。对 AI-for-science 社区，其价值不在某个新算法，而在证明环境设计（去中心化、监督承诺、周期反思）可以实质改变探索质量，这为后续系统设计提供了可操作假设。公开的完整智能体对话、rubric 和实验数据也是可复现研究的基础。不过，该结论的适用范围仍受限于"有 oracle 论文可拆解、实验可通过代码沙箱执行"的可计算科学问题；对需要湿实验、理论洞察或长期项目管理的开放科学，外推性尚不明确。总体而言，作为实证基准和系统设计案例，其启发意义高于其技术贡献。

论文自身识别并讨论了几项局限，深读还可补充。其一，污染与独立性问题：模型知识截止（2025 年 1 月至 2026 年 1 月）与最早 oracle 论文发表时间（2025 年 4 月）重叠，无法排除训练期见过结论；论文以基线失败和"需证据而非仅复述"来辩护，但缺少对模型逐条回忆能力的直接探测实验。其二，归因不清：Station 与基线的差异混杂了去中心化、异构模型组合、Supervisor、Meta Reflection、Consolidation、工作流等多重变量，无法把增益归因到具体组件；单机制消融也缺失。其三，评测的循环性：自动评测器、生成器、Consolidation Agent 均依赖 GPT-5.5，盲评专家样本小且仅覆盖一个任务，可能高估评测可靠性。其四，样本与稳健性：每任务 3 次运行不足以稳定类别级差异，探索任务各 1 次且人工筛选，缺乏统计检验。其五，rubric 主观性与"再发现"外延局限：拆解子发现和判"实质相似"都有主观空间；评测奖励的是复现已知结论，可能低估智能体做出的 rubric 之外的真正新发现，也可能高估"检索/记忆+重做实验"型表现。其六，资源成本巨大但未做成本-收益分析；基线 token 与时间匹配并不完全等价。其七，行为分析（项目时长、反思后实验方向）依赖启发式分类，未报告分类者间一致性。最后，结论仅覆盖可代码执行、有冻结检查点的解释性任务，对更广泛科学发现场景的代表性有限。

后续工作可沿几条线展开。第一，做严格归因：对 Supervisor、Meta Reflection、去中心化、Consolidation、异构模型组合做单因素消融与交叉设计，区分各自贡献；本文只做了"两者同时移除"。第二，强化污染控制：构造明确晚于知识截止的 oracle 任务，或在评测前探测模型能否仅凭提示复述各子发现，分离记忆与实验再发现。第三，扩展评测生态：增加任务数量与领域（物理、化学、社会科学的计算分支）、多次运行、类别级置信区间和统计检验；引入多位独立领域专家盲评，避免单一任务作者的 66 个判断。第四，改进自动评测：用与被评系统无关的模型族评测，或用结构化证据提取+规则匹配替代自由文本判断，降低循环风险。第五，把探索任务的"新发现"验证流程制度化：预注册筛选标准、独立复现、对照消融、与外部文献系统比对，而不是作者人工挑选。第六，研究街灯效应与判断错位的可量化度量（如提案方向与人类兴趣的分布距离、pivot 的诱因分类），并探索比"强制 60 tick 不换方向"更柔和的激励机制。第七，从"再发现"走向"真发现"：设计无法用既有论文答案评估、但可由后续实验证伪的前瞻性任务，并做成本效率分析，使系统在 token 与时间预算内更接近人类研究者的深度。

本文提出 SpaceFlow，一个推理期（训练免）的 3D 资产生成框架，在 TRELLIS 结构化潜在整流流之上，把原先全局统一的几何引导与外观引导升级为逐部件的局部控制。用户给定可编辑的超级二次曲面（superquadric）集合，并为每个部件赋几何控制强度 τ_i 与可选的外观提示（文本或参考图）。结构阶段通过掩码化的条件流混合与 RePaint 式重采样，让高控制区域严格贴紧输入几何、低控制区域交给生成先验；外观阶段通过 PartField 聚类构造路由体积，限制每个局部提示只在其目标部件上参与交叉注意力，并用自注意力偏置与测试时对比损失抑制跨部件泄漏。定位为“局部可控制的 3D 生成”，面向迭代式、部件级的资产创作工作流。

背景：近年来文本/图像条件的 3D 生成器（CLAY、Hunyuan3D、TRELLIS 等）在多样类别上已能合成高质量纹理资产，但创作流程是迭代、部件级的，需要不仅控制“生成什么”，还要控制“约束在哪里生效、强度如何”。现有空间控制方法分两类：代理引导（如 SpaceControl）把输入 3D 形状编码进预训练生成器的潜在空间，通过把干净潜在扰动到中间流时刻 τ 再降噪，以 τ 作为全局几何保真度与生成自由的权衡；但它对整条资产施加同一 τ，无法在指定区域严格保留输入、其余区域自由补全。外观控制方面，GuideFlow3D 用自相似性损失做训练免引导，但只支持单一全局外观源；后处理的网格纹理化/风格化方法又不处于生成流过程中。部件感知生成虽引入显式部件结构，但往往要求生成结果本身是部件化的，与使用现成通用生成器不同。SpaceFlow 的设定正是填补这个缺口：用同一组 superquadric 部件同时作为局部几何与外观的控制信号，不改动预训练权重，把“全局单一控制”变成“逐区域异质控制”。

机制 1）问题形式化。给定文本提示 p 与一组用户编辑的可变形 superquadric 部件 S={S_i}_{i=1}^N，目标是生成纹理化 3D 资产 X=(G,T)。每个部件 S_i 携带控制强度 τ_i ∈ {τ_low, τ_high} 与可选外观线索 a_i（图像或文本）。τ_high 强制贴近输入几何，τ_low 放松空间约束，让生成先验自由补全；若 a_i 存在，它只影响对应区域。 2）底层先验。TRELLIS 使用结构化潜在 SLAT：在稀疏 3D 网格的活动体素上附加局部特征，分两阶段整流流——先生成稀疏体素结构，再在活动体素上合成局部几何与外观潜在，最后由解码头映射到不同表示。SpaceControl 在此基础上训练免地实现几何条件：把输入几何经 TRELLIS 的 VAE 编码得到干净潜在 z_1，将 z_1 扰动到中间流时刻 τ 得 z_τ，从 z_τ 开始降噪；τ 即全局控制强度。SpaceFlow 继承这一“潜在扰动+降噪”框架，但把单一 τ 拆成空间掩码上的异质注入。 3）结构生成：局部几何控制。先按控制强度分拆部件：S_r={S_i | τ_i=τ_r}, r∈{low,high}。随后把完整集合 S 与高控制子集 S_high 分别转成网格并各自编码，得到干净潜在 z_1^all 与 z_1^high。为标识低控制区域，围绕 S_low 拟合包围盒（7% 对角线填充），先体素化到 64³，再 4×4×4 平均池化到 16³ 潜在网格并二值化（>0），得到二值掩码 M_low。初始化时把 z_1^all 加噪到 τ_low 得 z_{τ_low}^all 并开始降噪，先建立低控制部件的粗略布局。 关键更新式在每一步 t 注入高控制区域的干净潜在： z'_t = (1 − M_low) ⊙ (α z_1^high + (1−α) z_t) + M_low ⊙ z_t 其中 ⊙ 为逐元素乘，α 为混合权重（0.18）。含义是：在 M_low 覆盖的低控制区域保持当前降噪预测 z_t 不动，让生成先验自由演化；在高控制区域（1−M_low）把 z_t 与干净高控制潜在 z_1^high 按 α 混合，持续把该区域拉向输入几何。由于 z_1^high 只编码高控制部件，低控制部件不会被这个注入锁死。 为避免高低区域边界出现拼接伪影，采用 RePaint 式重采样：在区间 [τ_low, τ_high] 内，每个条件流步做 K=10 次迭代——把混合后的状态从 t_{i+1} 重新加噪回 t_i，单步解算器前向到 t_{i+1}，再重施掩码混合。其直觉与 RePaint 的重新调和一致：让邻接区域多次经过降噪过程，使特征在边界处反复交换、收敛到一致。结构超参数：结构潜在张量 8×16×16×16，τ_low=3、τ_high=10，12 个结构流步，Euler 流匹配采样器，CFG=7.5 且仅在 t∈[0.5,0.95] 生效，时间重缩放 3.0。 4）外观生成：局部路由与引导。外观阶段输入前一阶段生成的稀疏结构及局部外观线索 A={a_i}（未指定则回退到全局提示 p）。核心是路由体积 Φ：它把每个外观潜在体素映射到其条件 a_i，决定哪个提示在流轨迹上引导哪个空间区域。 构造 Φ 的难点：低控制区域可能被生成先验重塑，直接按原始 superquadric 做逐体素几何指派不可靠。SpaceFlow 改为从生成结构中提取 PartField 描述子，对活动体素做 K-means 聚类（K_PF=30），再把每个语义簇作为整体指派给最近的输入部件。具体地，对每个簇 C_m 取其距离簇中心最近的活动体素 c_m 为代表；把每个输入部件 S_i 的表面体素化为 B_i；指派 a(m)=argmin_i min_{b∈B_i} ||c_m − b||_2。簇内所有体素继承同一部件标签，保证路由在语义簇内一致。随后把标签栅格化到 32³ 外观潜在网格得 Φ。对车轮、把手、椅腿等细小部件，下采样后支持体素可能过少，此时改在潜在网格上按最近邻重算掩码并做一格膨胀，保证局部线索有足够体素影响纹理。 每个线索经编码器得到嵌入 e_i（文本用 CLIP ViT-L/14，图像用 DINOv2 ViT-L/14）。在每一层交叉注意力中，每个潜在体素只 attend Φ 选择的嵌入；未分配的体素 attend 全局条件。这样把提示限制在用户指定区域，杜绝跨部件颜色/材质串色。 仅靠交叉注意力路由不够：后续自注意力会在部件间传播并混合外观特征。为此加一个软性自注意力偏置：若 query-key 对共享同一路由条件，就在原始注意力 logit 上加 log β（β=2.5），等价于把 pre-softmax 权重乘以 β。这优先部件内特征传播，却不切断与其余区域的交互。 进一步，为促进同一语义部件内外观一致，在 PartField 语义簇 {ℓ_j} 上优化测试时监督对比损失： L = −1/|V| Σ_j log [ Σ_{k: ℓ_k=ℓ_j, k≠j} exp(s_jk/τ_c) / Σ_{k≠j} exp(s_jk/τ_c) ] 其中 V 为结构体素集，s_jk 为体素潜在之间的余弦相似度，τ_c=1.0。推理时直接在中间外观潜在上做测试时优化，不改预训练权重：每步计算 ∇_z L 并用 AdamW（学习率 5×10^-4，引导权重 1.0）更新潜在状态，共 300 步。为避免显式 |V|×|V| 相似度矩阵，按块计算（块大小 1024/512/256 依体素数自适应）。沿引导轨迹记录损失最低的状态，反归一化后解码为最终纹理资产。若引导权重设 0，则退化为仅路由采样。 5）训练与数据。SpaceFlow 本身训练免：TRELLIS-XL 的所有编码器、流 Transformer 与解码器全部冻结；CLIP 与 DINOv2 仅作条件编码。没有训练数据；评估基准为 83 个资产的几何/外观条件。结构实验将 τ_low=3、τ_high=10 与 SpaceControl 的全局 τ=3、τ=10 对比；外观实验固定同一基础结构，对比 TRELLIS、GuideFlow3D 与加入路由的 SpaceFlow。所有实验在单块 RTX 5060 Ti 上完成。

实验将几何与外观分开评估以隔离效应。几何上，在多类别基准上用视觉语言模型评委进行成对胜率评估，辅以区域 Chamfer 距离、PartField 特征距离与 CLIP 文本相似度，并进行交互式三维成对用户研究；对照统一引导的 SpaceControl 低/高两档。结果表明：高控制区域几何保真接近强全局引导，低控制区域偏差明显更大，区域差值远大于全局基线，同时文本语义相似度不下降，用户研究也支持这一取舍。外观上，在相同基础结构上对比 TRELLIS、GuideFlow3D 与加入路由的 SpaceFlow，报告绝对评分与成对胜率；路由方案在局部提示忠实度与颜色/材质准确性上占优，但在无约束纹理细节上略逊，总体更优；图像条件外观给出 standalone 定性与评分。另含控制强度扫描消融、路由可视化与评委校准实验。

1. 几何控制成对评估：相对 SpaceControl 全局低引导 τ=3，SpaceFlow 的 Prompt and geometric fidelity 胜率 78.3%，总体胜率 75.9%；但 Realism 仅 43.4%，说明高保真区域略损真实感。

   SpaceControl ( τ = 3 \tau=3 ) | 78.3% | [68.3, 85.8] | 43.4% | [33.2, 54.1] | 75.9% | [65.7, 83.8]

2. 相对全局高引导 τ=10，SpaceFlow 的 Realism 胜率 85.5%、总体 68.7%、PGF 66.3%，即更真实但几何严格度略低于强引导。

   SpaceControl ( τ = 10 \tau=10 ) | 66.3% | [55.6, 75.5] | 85.5% | [76.4, 91.5] | 68.7% | [58.1, 77.6]

3. 区域指标：SpaceFlow 的高控制区 CD_high 为 3.65（τ=3 为 15.99，τ=10 为 0.94），区域 Chamfer 差值 ΔCD 达 6.05，而两全局基线接近零；特征差值 ΔD 为 0.15，CLIP 相似度 0.233 与基线相当。

   SpaceControl ( τ = 3 \tau\!=\!3 ) | 15.99 | -0.14 | 0.01 | 0.232 SpaceControl ( τ = 10 \tau\!=\!10 ) | 0.94 | 0.11 | 0.00 † | 0.226 SpaceFlow ( Ours ) | 3.65 | 6.05 | 0.15 | 0.233

4. 用户研究 337 次试验、29 名评估者：SpaceFlow 对 τ=3 的总体胜率 48%，对 τ=10 为 71%，保持质量的同时显著优于强全局引导。

   yielding a total of 337 trials across 29 evaluators. As shown in Fig. 6 , SpaceFlow remains competitive in overall preference against low guidance ( τ = 3 \tau\!=\!3 ), with a 48 % 48\% win rate, and is strongly preferred to the high-guidance baseline ( τ = 10 \tau\!=\!10 ), with a 71 % 71\% win rate.

5. 外观绝对评分（1–10）：SpaceFlow 的 prompt faithfulness 7.07、color/material 6.43、overall 6.78，高于 TRELLIS（6.13/5.79/6.42）与 GuideFlow3D（6.40/5.96/6.46）；但 texture detail 6.49 略低。

   TRELLIS | 6.13 | 5.79 | 6.87 | 6.42 GuideFlow3D | 6.40 | 5.96 | 6.76 | 6.46 SpaceFlow (ours) | 7.07 | 6.43 | 6.49 | 6.78

6. 外观成对：对 TRELLIS，SpaceFlow 的 prompt faithfulness 胜率 63.9%、overall 59.0%，但 texture detail 仅 31.3%。

   TRELLIS | 63.9% | [53.1, 73.4] | 31.3% | [22.4, 41.9] | 59.0% | [48.3, 69.0]

7. 外观成对：对 GuideFlow3D，SpaceFlow 的 prompt faithfulness 58.5%、overall 57.3%、texture detail 37.5%。

   GuideFlow3D | 58.5% | [47.7, 68.6] | 37.5% | [27.7, 48.5] | 57.3% | [46.5, 67.5]

8. 图像条件外观 standalone：style fidelity 6.53、local routing accuracy 7.07、texture detail 6.33、overall 6.73。

   SpaceFlow obtains a style fidelity of 6.53 6.53 , a local routing accuracy of 7.07 7.07 , texture detail of 6.33 6.33 , and an overall score of 6.73 6.73

9. VLM 评委校准：错配几何输入使 adherence 下降 4.43 分，相同渲染被判 100% Equal。

   Mismatched Controls: Scoring outputs against incorrect geometric inputs reduced adherence scores by 4.43 4.43 points, confirming sensitivity to geometric errors. Identical Pairs: Comparing identical renders yielded 100 % 100\% “Equal” ratings.

10. 评委三遍成对评估多数投票，平均跨遍一致性 0.898（Spearman）。

    Final pairwise preferences are decided by majority vote across three passes (three-way ties marked undecided), yielding 0.898 0.898 average inter-pass agreement.

11. 评估基准共 83 个几何与外观条件。

    we constructed a dataset of 83 83 geometric and appearance conditionings covering diverse object categories.

12. 数据集跨 7 个语义大类，primitive 复杂度每资产 2–18 个。

    The dataset spans 7 7 broad semantic categories covering everyday manufactured goods, furniture, vehicles, electronics, and natural/decorative objects, with primitive complexity ranging from 2 2 to 18 18 parts per asset.

Novelty：新颖性属中等偏工程化。贡献点在于把 SpaceControl 的全局 τ 通过空间掩码 + 干净高控制潜在注入 + RePaint 重采样改造成逐区域控制；并把 PartField 聚类用于生成结构到输入部件的语义对应，构造路由体积以在交叉注意力中按部件分配条件，再叠加自注意力偏置与测试时对比损失。就单点而言，superquadric 表示、TRELLIS/SLAT、SpaceControl、GuideFlow3D、PartField、RePaint 均为既有组件，创新主要在“局部化 + 统一几何/外观”的整合，以及路由体积这一几何自适应对应机制。未见对理论性质的刻画（如路由的收敛性或对比损失的几何解释），也非全新生成范式，因此新颖性为中等。 Soundness：整体方法较扎实：几何与外观分设实验、多指标互补（VLM 主观、Chamfer/特征/CLIP 客观、用户研究），评委有错配/同对校准与三遍多数投票，且报告了置信区间；消融覆盖 τ_low 扫描与路由可视化；作者也主动讨论了边界效应与路由误分。但存在若干可质疑处：样本量小（单基准 83 资产）；VLM 主观指标为主，缺乏更标准化的感知/重建指标；成对胜率未做显著性检验，部分胜率接近 50%（尤其用户研究 48%）；图像条件外观没有可比较基线，只有 standalone 评分；单卡评测限制了规模。故可靠性中上，但外部效度有限。 Significance：若结论稳健，SpaceFlow 对 3D 内容创作工作流有实用意义：它以训练免方式在流行 TRELLIS 之上提供“哪里约束、约束多强、外观给哪个部件”的细粒度控制，且几何与外观共用同一部件分解，交互成本低（可编辑 superquadric + 文本/参考图）。这可能降低艺术家迭代改稿的门槛，并启发后续把局部控制引入其它生成器。不过目前局限于 superquadric 部件、两档强度（虽可扫 τ_low）与粗粒度路由，尚难覆盖任意网格或部件内多材质，通用性受限。综合看，工程可用性高、研究范式增量，影响力中等。

作者自述两类失败：(1) 语义-几何冲突：文本与输入几何矛盾时（如“站立的人”对“长凳”结构），文本路径想生成人体特征而几何引导锁死高控制区域，由于底层生成器缺乏文本-几何联合先验，产生不自然扭曲。(2) 路由误分配：路由体积来自 32³ 的 PartField 簇，簇边界与真实材质边界不一致时，外观线索被贴错体素（煎锅手柄木纹渗到锅体、座椅坐垫局部不连续）。此外还可指出：全局流骨架的牵拉使高控制区随 τ_low 增大轻微变化（作者在消融中承认）；几何控制只支持 τ 两档、外观路由粒度受 32³ 限制；图像条件外观缺少基线对比；83 资产规模与单 VLM 评委使结论代表性有限；对细小/薄部件需启发式掩码恢复，鲁棒性未经系统验证。

跟进方向：(1) 用软性、距离加权的路由边界替代硬指派，或引入分层/多粒度部件分解（部件内子区域、材质级语义簇），减少边界串色。(2) 对语义-几何冲突做显式处理，如冲突检测、负提示、区域级文本重写，或微调一个能联合编码文本与几何部件的条件先验（训练免与微调两条线）。(3) 把控制输入从 superquadric 扩展到任意网格、草图、体素与局部手绘遮罩，并研究 τ 的连续、逐点场（而非两档/标量）。(4) 更系统的评估：扩大数据集与类别，加入标准重建/感知指标、多评委、统计显著性检验，并给出图像条件外观的可比基线。(5) 消融 K、α、K_PF、β、引导权重与损失温度对边界一致性的影响，刻画重采样收敛行为。(6) 将路由体积与交叉注意力选择性推广到其他 SLAT/潜空间生成器，并研究多条件同时作用于同一区域的融合策略。

本文的定位是：让部署后参数冻结的 LLM/VLM 不经过任何权重更新就能持续从“部署经验”中获益，并重点面向医疗多模态场景。它把问题从“改模型”转向“改模型之外的专业知识”：用一个 Skill（推理与工具使用流程）、一个 Knowledge Memory（有证据支持的事实）和一个 Multimodal Knowledge Base（保留图像的视觉案例库）来积累经验，再用部署期验证策略决定哪些更新可以上线。文章刻意与两条路线划清界限：一是微调/RL/软提示类方法，它们需要梯度或权重访问，无法用于闭源模型；二是 Reflexion、ExpeL、ACE、EvoSkill、SkillOpt 等参数自由方法，它们要么在固定验证集上反复选优导致过拟合，要么只把经验存成文本而丢失视觉信息。其核心卖点是“模型无关”：经验保存在模型外部，可迁移到其他模型、且不只适用于医学。

背景动机在于医学知识处于持续变化中：新临床证据、更新后的指南、新疗法和新药都会改变既定实践，而部署后的模型参数冻结，内部知识不会自动更新。模型在部署过程中实际上会不断产生经验——它解决问题、检索证据、犯错并接收反馈；一个经过验证的临床案例可能揭示更优的诊断流程、可靠的事实或可复用的视觉模式。如果这些经验无法被复用，模型遇到相似病例时只能从零开始，甚至重复犯错。因此核心问题是：如何让冻结模型从部署经验中发展出更强能力。 相关研究分三条线。第一条是外部记忆与可复用程序：Reflexion、ExpeL、ACE 等把反思、策略或可执行技能直接累积并注入上下文；GEPA、EvoSkill、SkillOpt 则生成候选更新并在留出的验证集上选优。问题在于，不检查效果的累积经验未必能帮助新病例，在同一个固定验证集上反复优化和验证会过拟合该集合，而且仅从交互轨迹中提炼的经验可能缺乏可靠领域知识。第二条是微调与软提示：SFT 或 RL 在交互轨迹上更新参数，需要权重访问、训练成本高、依赖大量可靠轨迹且每个基座模型都要重训；Gare 等人虽冻结 VLM 主干而只训练少量连续提示 token，但仍需通过模型权重的梯度，因此只适用于开放权重模型。第三条是多模态记忆与检索：MIRIX、M3-Agent 保留多模态观察用于长期回忆；Med-RwR、RULE、MMed-RAG 为医学 VLM 检索文本或视觉证据。但这些系统大多只把检索内容作为上下文提供，没有明确要求模型分析证据或与当前病例对照。本文针对以上缺口，提出“外部专业知识积累 + 新/旧案例双重验证 + 引导式视觉参照分析”的框架。

机制是本文的重点，核心是把“部署经验”组织为三类外部专业知识，并配套一个防止过拟合的部署期验证协议。 一、问题形式化与总体流程 基座模型按批次流处理案例 F_1, F_2, …，模型参数始终冻结。第 t 批使用的专业知识记为 ℰ_t = (S_t, K_t, V_t)，其中 S_t 是 Skill（自然语言推理与工具使用流程），K_t 是 Knowledge Memory（事实库），V_t 是 MMKB（视觉案例库）；s_i(ℰ_t) 是案例 i 在基座模型使用 ℰ_t 时的任务得分。关键约束是：模型必须先回答完当前批 F_t 的所有案例，任务得分和源答案才被释放，因此反馈只能影响后续批次。S_1、K_1 为空；视觉任务中 V_1 包含初始参考数据。目标是更新 ℰ_t 使后续案例得分更高，而模型参数不变。基座模型在任务指令中接收 Skill，需要时查询 Knowledge Memory，视觉任务则从 MMKB 检索参照。每批结束后，由 LLM 优化器基于已打分轨迹提出新 Skill 和知识增量，这些更新在部署前必须通过验证；MMKB 则随已完成的、带源答案的视觉案例不断增长。 二、Skill：可复用流程的学习 Skill 是一份自然语言文档，描述有用步骤、适用条件以及何时不需要额外动作。其设计直觉是：把“什么情况下该做什么、什么情况下不该做”写清楚，供每个案例从开头就可用，模型按当前证据和任务要求选择性执行。 每批之后，优化器阅读当前 Skill、Memory、已打分轨迹以及上一轮候选的验证比较结果，然后整篇重写 Skill 文档：补充缺失步骤、收紧过宽规则、删除无益指导，并受长度上限约束。采用“重写”而非“追加”是为了避免两件事——追加会使 Skill（从而模型上下文）每批变长，且会留下互相冲突的规则，两者都会损害性能。论文给出一个合并规则的例子：若一批学到“咳嗽伴发热者拍胸片”，后一批发现生命体征和肺部检查正常时胸片常不必要，重写会把二者合并为“咳嗽伴发热且生命体征或肺部检查异常时拍胸片”。优化器被明确要求不写入病例标识或答案键；提出的 Skill 在用于后续案例前必须验证。 三、Knowledge Memory：事实的获取与复用 即使流程更优，模型仍可能缺少决策所需的事实。Knowledge Memory 存储事实与关系，并附带支持证据和使用条件。当模型通过工具调用提出知识问题时，文本检索找出可能相关的条目，再由一个独立模型检查这些条目是否直接回答该问题、是否适用于当前案例；若无合适条目，系统检索可信外部来源（如 PubMed）。 知识候选有两个来源：外部检索，以及优化器对已完成案例的分析。基于案例的提案必须引用支持它的轨迹并逐字引用证据；模型需核查证据确实存在、确实支持该事实、且支持在原始案例之外复用。通常要求多个支持案例；只有存在可信外部来源的直接支持时，单个案例才足够。患者特异性观察和个体答案键被排除。被支持的事实与现有 Memory 合并形成候选更新。文中强调：仅“事实有支持”不等于“加入后能改善决策”，因此更新后的专业知识仍要在部署前实测。 四、MMKB：从视觉参照中学习 文本化经验会丢失视觉细节，MMKB 的设计直指这一点。它保留原始图像、对应问题或上下文、源答案以及可用的解释；初始参照来自被评估流之外的参考病例，随后从已完成的部署案例中增长。 检索方面，用一个固定的多模态编码器对“图像 + 可用问题文本”做联合表示，再以余弦相似度检索相关参照。更重要的是“如何用”，而不是“检索到谁”：对每个参照，模型要检查其图像和上下文如何支持源答案，再识别哪些观察与条件也适用于当前案例，并必须考虑差异、缺失证据和矛盾之后才能作答。这种引导使当前决策始终锚定在当前输入，同时利用先前案例的经验。 在批次 F_t 结束后，F_t 中所有带图像和源答案的案例都会连同源答案和既有解释（而非模型自己的预测）加入 V_t，形成 V_{t+1}。因此即使模型答错的案例也能成为有用参照。即使 Skill 和 Memory 的更新被拒绝、或早前版本被恢复，这些参照仍会保留；新参照从下一批起可用。检索还排除当前案例、同源组案例和重复图像，防止答案泄漏。 五、部署期验证：防止过拟合到学习案例 为避免在固定验证集上反复选优导致过拟合，候选更新要同时在新案例和旧案例上检验。设候选版本为 ℰ̃_t = (S̃_t, K̃_t, V_t)，它与当前版本 ℰ_t 在 F_t 和一个代表性缓冲 B_t 上比较；缓冲初始化为 F_1 中的案例，因此首次比较发生在 t=2。基座模型先用当前专业知识回答 F_t，这些回答是最终记录；候选版本的回答只用于比较。两个版本使用同一基座模型、同一 MMKB、同一任务设置和每案例相同的随机种子；缓冲中的旧案例重放时，会排除其自身的 MMKB 条目（含图像和源答案）。 对 D∈{F_t, B_t}，定义平均增益 Δ̄_D = (1/|D|) Σ_{i∈D} [s_i(ℰ̃_t) − s_i(ℰ_t)]，并让 W_D、L_D 统计候选得分更高、更低的案例数。接受条件为：Δ̄_{F_t} > 0、W_{F_t} ≥ L_{F_t}、Δ̄_{B_t} ≥ 0、W_{B_t} ≥ L_{B_t}。直觉是：新案例必须确实变好，旧案例可以打平但平均不得下降；对二值得分，胜负条件可由均值条件推出，对连续得分则额外拒绝“少数案例大幅变好掩盖多数案例变差”的候选。接受后 ℰ_{t+1} = (S̃_t, K̃_t, V_{t+1})。 每次比较后，一个 LLM 仅依据任务目标和问题文本（不看答案和分数）刷新缓冲：用 F_t 中的案例替换部分缓冲案例，使缓冲覆盖迄今见过的题型范围。此外还会周期性地把当前版本与早前保留版本在缓冲上比较，若当前版本更差则恢复早前 Skill 和 Memory。这两个机制共同降低“反复重用同一批验证案例”带来的过拟合风险。 六、训练与数据的关键设置 在线批为 32 个案例（不是 32 次模型调用），代表性缓冲也是 32 个案例，每完成一整批后替换 4 个；每 4 批在首次接受更新后与保留的早期版本比较一次，使用相同 MMKB 快照；较短的最后一批评分但不触发优化。优化器每批提出 1 份完整 Skill 和至多 4 条知识增量；Skill 上限 24,000 字符。知识检索考虑 5 个条目、至多返回 2 个“直接回答问题且通过适用性检查”的条目，模型报告置信度不低于 0.55。MMKB 至多返回 3 个合格参照。答案和源解释不进入检索表示；GPT-4o-mini 执行知识检查；text-embedding-ada-002 和固定的 Qwen3-VL-Embedding-2B 分别提供文本和多模态嵌入。每个案例每次比较各执行一次，分数比较容差为 10^-12。推理输出预算上，GPT-5.6-Sol 基座为 24,576 token、高推理强度；GPT-4o-mini 为 16,384、温度 0；Qwen/Nemotron 为 24,576、温度 0。知识查询每案例限 2 次（QCalEval 每子问题 2 次）；AgentClinic 允许最多 20 次咨询动作，MedChain 问诊最多 10 轮。这些细节说明“被评估的经验”与“供优化器提出更新的证据”是分开配置的。

实验部分围绕四个问题展开：部署经验能否提升冻结模型、各专业知识组件是否各自贡献、学到的东西是否对未见过案例保持有用、以及能否不加优化地迁移到其他基座模型。作者在六个基准上评测，覆盖交互式诊断、多阶段临床工作流、文本医学推理、医学与非医学视觉推理，使用四个冻结基座模型（含开放权重与闭源），以 GPT-5.6-Sol 作为优化器；MMKB 只在图像任务启用。主要协议有四类：在线提升（固定批次顺序、批内冻结、全流评分）、消融（分别移除 Skill、Memory、MMKB 或验证，且各变体从同一流起点独立学习）、冻结泛化（在前段流上学习后关闭学习，在后段未见案例上评测）、零步跨模型迁移（用源模型学到的最终专业知识直接给其他模型使用）。总体结论是：该框架在几乎全部基准-模型组合上优于基座且比对照更稳定；增益集中在可复用流程或反复出现的视觉题型上，而在依赖模型自身医学知识的独立题目上较小；Skill 主导文本与多步任务、MMKB 主导视觉任务、Memory 作用较小但互补；去掉验证会导致全面退化；MMKB 的“引导式参照分析”明显优于把参照只当上下文的标准检索；学到的专业知识可泛化到未见案例，也能迁移到其他模型。详细数值见下列逐条引用。

1. 该框架在全部 24 个基准-模型组合上均高于 Base，其中 22 个组合取得最优，平均在线增益明显高于 ACE，且 ACE 在部分组合上反而低于 Base。

   Ours scores above Base in all 24 benchmark–model pairs and achieves the best score in 22 of them (Table 1 ). Its average gain over Base is 17.6%, compared with 5.6% for ACE, which falls below Base in 7 pairs; where ACE scores higher, the margin is small (0.404 vs. 0.400 and 26.4 vs. 26.1).

2. 在线增益在可复用专业知识密集的任务上最大，AgentClinic 达 34.2%、VisuLogic 达 81.9%，且 QCalEval 对所有基座模型都超过 16%。

   Gains reach 34.2% on AgentClinic and 81.9% on VisuLogic, and exceed 16% on QCalEval for every base model.

3. 该框架的在线提升对案例顺序稳健：随机重排下 AgentClinic 与 QCalEval 的平均提升远超随机波动，且固定顺序结果落在均值的一个标准差内。

   Ours improves on Base by 5.7% and 16.5% on average, and both gaps are at least five times the largest standard deviation. The fixed-order results in Table 1 also lie within one standard deviation of these means.

4. 消融显示组件分工互补：移除 Skill 在文本和多步任务上损失最大，移除 MMKB 在视觉任务上损失最大并几乎把视觉增益全部抹掉，移除 Memory 的效果整体较小但在医学知识类任务上最明显。

   Among the three components, removing the Skill causes the largest drops on text-based and multi-step tasks, 12.1% on MedChain and 5.5% on AgentClinic, where the score returns to Base (Table 3 ). Removing MMKB causes the largest drops on visual tasks, 14.0% on QCalEval and 8.2% on VisuLogic, and brings both back to their Base scores (72.4 vs. 72.3 and 45.9 vs. 45.8), so nearly all of the visual gain comes from MMKB. Removing Knowledge Memory has a smaller effect, largest on MedThink-Bench (2.5%), which tests medical knowledge.

5. 部署期验证对收益是必要条件：若接受所有更新而不验证，六个基准的得分全部下降并都低于 Base。

   Accepting every update without validation lowers the score on all six benchmarks by 21.8% to 37.8% relative to Full and leaves every score below Base (Table 3 ).

6. MMKB 的收益来自“如何用参照”而非“检索到哪些参照”：在参照完全相同的情况下，标准检索最多只带来小幅提升且部分任务反而下降，而 MMKB 在所有四个图像任务上均提升，最高在 MedChain Task 3 达 23.9%。

   With identical references, standard retrieval changes the score by − 3.5 % -3.5\% to + 5.0 % +5.0\% relative to Base, whereas MMKB improves all four image-based tasks, by up to 23.9% on MedChain Task 3 (Figure 3 ).

7. 即便只用初始参照、不加入部署案例，MMKB 仍能提升全部四个图像任务，且在加入部署案例后每个任务都获得进一步增益。

   Initial MMKB still improves all four tasks, by up to 22.6% on MedChain Task 3, and adding deployment cases increases the gain further on every task.

8. 冻结后学到专业知识可泛化到未见案例：在测试切分上 24 个组合中 21 个高于 Base、19 个最优，平均增益超过 SkillOpt 和 ACE，且相对 Base 的退化几乎不发生。

   After being frozen, Ours scores above Base on the test split in 21 of 24 pairs and achieves the best score in 19 (Table 4 ). Its average gain over Base is 20.7%, compared with 8.3% for SkillOpt and 1.9% for ACE.

9. 学到的专业知识可零步迁移：36 个迁移结果中有 33 个让目标模型相对其自身 Base 提升，平均增益可观。

   Transferred expertise improves the target model in 33 of the 36 transfer results, with an average gain of 20.0% over the target’s Base (Figure 4 ).

10. 开放权重源模型学到的专业知识也能提升闭源目标模型，且能让较弱的目标模型获得较大增益。

    Expertise learned with the open-weight Qwen3.8-27B also improves the closed-source GPT-5.6-Sol, by 11.8% on AgentClinic and 23.2% on QCalEval, and gives the weaker GPT-4o-mini a 47.3% gain on AgentClinic.

11. 在 MedChain 内部，移除 MMKB 只改变含图像的任务，而移除 Skill 会降低全部五个任务，进一步支持组件间的任务级互补关系。

    Within MedChain, removing MMKB changes only Task 3, the task with images, whereas removing the Skill lowers all five tasks (Table 6 ).

Novelty：新颖性属于“组合式创新”而非单点突破。三个组成要素——可复用技能、事实记忆、多模态检索——在文献中都已存在；本文的新意在于：(1) 把三者统一成一个面向医学部署的模型无关专业知识状态，并让它们各自承担“怎么解、知道什么、看到什么”的互补职责；(2) 提出“候选在 F_t 上必须提升、在 B_t 上不得退化”的部署期验证协议，用不断刷新的代表缓冲替代固定验证集，直接回应 EvoSkill/SkillOpt 的过拟合问题；(3) MMKB 的独特之处不是检索本身，而是强制模型逐参照解释证据、比较与当前输入的异同、并处理矛盾，这比“把检索内容塞进上下文”更有设计感。总体看，作为工程与问题设定层面的推进是有新意的，但基础机制均非首次提出，理论贡献有限。 Soundness：实验设计相当扎实，是本文的强项。覆盖六个异构基准、四个基座模型（含开放与闭源）、在线/冻结/迁移三套协议、逐组件消融、去掉验证的对照、标准检索对照、以及案例顺序随机化，且在线分数只计入“先用当前专业知识作答”的原始预测，候选评估和重放不污染指标。针对 MMKB 的答案泄漏做了多重防护：批内互不可见、批次位置强制、排除同源组与重复图像、重放时排除自身条目。机制内部一致性较好：候选只用于比较、缓冲刷新不看答案分数、周期恢复早期版本，均指向“防过拟合”这一主线。 主要疑虑在于：(1) 所有优化、验证、缓冲刷新都依赖 GPT-5.6-Sol 这一单一强优化器，框架的稳健性未在不同优化器上检验；(2) 医学事实的“可靠性”由模型检查器和外部检索界定，没有独立专家复核，可能高估知识质量；(3) 数据切分是公开数据的自定义划分而非官方隐藏测试集，分数不等同于排行榜成绩；(4) 与微调、软提示等方法只有定性对比，没有经验上的同预算对照，因此“优于训练类方法”的论断未直接验证；(5) 大量重放和每批优化带来显著计算与延迟成本，论文未系统报告。整体上，在参数自由持续学习的设定内，结论有充分证据支撑，但外部效度和成本维度仍需谨慎看待。 Significance：对实践的意义是实在的：它给出一种无需权重访问即可让闭源医学模型随部署持续改进的路径，而“可跨模型复用、无需为新基座重学”对频繁换模型或升级模型的场景尤其有吸引力。把验证机制内建到持续更新循环中、把视觉案例连同源答案持久化并引导式复用，也为医学多模态 Agent 系统提供了可借鉴的工程范式。 但其当前形态更接近一个有说服力的概念验证：评估都在可控基准流上完成，反馈来自数据集源答案而非真实临床反馈，收益又高度集中在流程化或重复性题型，在依赖模型自有知识的独立题目上提升很小。因此它的长期价值取决于能否迁移到真实部署、能否用更低成本维护更新、以及医学事实是否经得起专家审查；在此之前，其重要性应定位为“为模型无关的部署期持续学习确立了可行的机制与验证基准”，而非已解决临床落地问题。

第一，反馈假设理想化：机制要求每批案例的“源答案/参考报告”在模型作答后完整释放，这相当于每个案例都有权威验证反馈；真实部署中这种即时、可信的逐案例评分往往不存在，尤其当最终结局延迟出现或本身有争议时。第二，成本与延迟：每批都要重写 Skill、提出知识增量、在两个版本上分别重跑新案例与 32 个缓冲案例、再做缓冲刷新和周期比较，模型调用量显著放大，且优化器本身是强推理模型；论文没有给出成本-收益分析，这直接影响其是否可实际部署。第三，单一优化器依赖：全部学习、验证判断、缓冲选择都由 GPT-5.6-Sol 承担，若换成较弱或行为不同的优化器，结论能否成立未知；同时用同一模型家族做优化器与部分基座也可能引入未明示的耦合。第四，医学知识可靠性未经人类专家验证：知识候选的“证据存在、支持事实、可复用”由模型检查，外部检索虽有 PubMed 但事实合成仍可能出错，这对医疗场景是实质性风险。第五，MMKB 泄漏风险虽被多重防护，但初始参照来自官方训练数据、公开资料或论文图，可能包含与评测集强相关的视觉模式，使“未见案例”的独立性打折扣；其“排除同源组/重复图”只能排除显式重复，不能排除语义近似。第六，增益分布不均：在 MedThink-Bench、MedThinkVQA 等独立知识型任务上提升很小甚至个别迁移组合退化，说明框架更偏“流程与视觉模式复用”，而非补足模型的基础医学知识缺口。第七，数据与口径：所用切分是公开数据的自定义划分，MedChain 实现严格按顺序工作流传递，作者也承认其分数与原始论文表 1 不可直接比较，因此数字不宜直接外推为官方表现。第八，没有与微调/软提示做同预算的经验对比，跨模型迁移实验中源模型的“学习过程”仍依赖同一个优化器，且迁移评估未验证在目标模型侧再做少量适配是否更好。

后续工作可从几个方向推进。(1) 真实部署试点：把源答案反馈替换为延迟的、带噪声的真实临床反馈（医嘱变更、复诊结果、专家复审），检验验证协议在非干净信号下是否仍稳定；这是当前实验室设定与临床价值的最大鸿沟。(2) 成本控制：研究预算受限的更新策略，例如只在检测到分布漂移或连续错误模式时才触发 Skill 重写，用更小的验证子集或置信度门控减少重放次数，并系统报告每单位性能提升的计算开销。(3) 优化器与验证器解耦：用不同模型担任基座、优化器、知识检查器与缓冲选择器，做敏感性分析，确认框架不依赖某个特定强优化器的“口味”。(4) 医学事实的专家审查与可审计性：引入人类专家对进入 Knowledge Memory 的事实进行抽样复核，记录证据出处与置信度，使更新过程满足可追溯、可回滚的临床工程要求；这是医疗安全合规的自然延伸。(5) 隐私与治理：MMKB 持久化真实患者图像，需研究去标识化、访问控制与遗忘机制；同时为“模型外部知识”建立版本与责任边界，明确哪些结论来自基座模型、哪些来自外部经验。(6) 理论化验证协议：分析缓冲选择策略与接受条件在流式非平稳数据上的泛化性质，例如与在线凸优化/漂移检测的联系，为“为什么不会过拟合”提供更形式化的保证。(7) 与软提示或轻量适配结合：对开放权重模型，可研究“外部专业知识 + 少量可训练软提示”是否能以更低在线成本获得更高上限，同时保留对闭源模型的可迁移性。(8) 更宽的领域与任务：本文已涉及量子校准等非医学视觉任务，可进一步在非视觉、结构化决策、代码/工具调用等场景检验三类专业知识是否同样互补，以及哪些任务特性决定 Skill 或 MMKB 谁更关键。

本文是一篇面向前沿文生图（T2I）模型后训练的系统性"配方"论文，而非提出新的 RL 算法或新基础模型。其核心定位是：把奖励设计本身当作第一类问题，论证单一偏好奖励或单一 rubric 都不足以支撑开放域图像的优化，并提出一个由"大规模 Bradley–Terry 人类偏好奖励 + 多种提示条件的 rubric 奖励"组成的组合奖励，以及四个让组合稳定可优化的机制（分组解耦归一化、提示条件门控、单边否决式抗奖励黑客、权重空间汤）。论文与 DiffusionNFT、Flow-GRPO、Arena-T2I-Hard、PickScore 等已有工作直接对话，贡献点集中在"如何把异构奖励信号拼起来并防止被优化器利用"这一工程与设计层面；其说服力主要来自在 LMArena 在线人类盲评上的端到端验证，以及开源 1K 数据子集的可复现性承诺。相较纯算法贡献，本文更像一篇把已知组件（BT 偏好模型、GDPO 风格归一化、清单式 rubric、weight soup）重新组装并证明其工程有效性的工作。

现代 T2I 模型在视觉质量、提示理解与构图能力上已很强，但进一步通过后训练提升仍困难，关键瓶颈是：开放域图像质量包含审美、忠实度、文本渲染、空间关系、构图正确性等多个难以用单一信号刻画的面。已有可学习偏好奖励（PickScore、HPSv2/v3、ImageReward）在人类偏好数据上训练，能给出"用户整体喜欢什么"的宽泛监督，但对稀疏或弱表征于成对投票中的属性（如每个被请求对象是否齐全、提示特有约束是否满足）基本失明；直接对其优化会出现奖励持续上升、真实质量先饱和后下降的奖励黑客现象。另一方面，针对空间推理、文本渲染、构图正确性的定向 rubric 奖励更精确，但覆盖面窄、且可能被模型钻空子。简单加权组合这些异构信号并不必然有效，因为各奖励尺度不同、对提示的适用性不同、且可能相互干扰。此前 DiffusionNFT 用多奖励分阶段配方，Flow-GRPO 做流匹配 T2I 的 GRPO，Arena-T2I-Hard 则只用忠实度加偏好奖励；本文在这些基础上补上"意图条件约束 + 抗黑客检测 + 组合机制"这一环，并用真实用户在线盲评作为最终判据。其评价协议沿用 MMRBv2 的成对 LLM-as-a-judge，并引入 GPT-5.4 作为独立裁判以检验迁移性。

方法的核心是四类奖励与四个组合机制，最后用 DiffusionNFT 进行在线 RL 并做权重汤。 一、人类偏好奖励。这是一个 Bradley–Terry 偏好模型，训练数据为 Arena 排行榜上收集的大规模人类成对投票：覆盖 2025-04-16 至 2026-06-07、来自 100+ 模型的约 5M 对投票，训练前过滤粗心投票者与低质提示。模型以 Qwen3.6-27B 为骨干，加一个单线性头读取尾部 <|cls|> 隐藏态，输出标量 BT logit；直觉上 P(A>B)=σ(s_A−s_B)，s 越大表示人类越偏好。训练做 1 个 epoch、全局 batch 约 1032、恒定学习率 2e-6、无 warmup、最大序列 8192 token；对每张训练图做光度增强（亮度/对比度/饱和度 ±0.05、色相 ±0.025、σ=0.005 的高斯像素噪声），以降低对低层图像统计量的敏感。论文同时兼容公开 PickScore 作为替代偏好奖励，用于开源复现实验。该信号捕捉整体审美、构图与感知偏好，但不显式监控提示忠实度。 二、rubric 忠实度奖励。离线用 LLM（gemini-3-pro-preview）把每条提示分解为带依赖 DAG 的原子 yes/no 问题（存在性问题作根、属性依赖其对象存在、关系依赖两个对象存在），训练时由同一 VLM 法官（Qwen3.6-27B）按层级批量作答，父问题失败则子问题直接判"no"而不再提问；忠实度奖励=回答"yes"的比例。这是 presence-oriented 信号：只评估被请求的对象、属性、关系、风格是否出现且正确。实际在 10k 训练提示上得到约 182k 个问题（均值约 18.2 条/提示）。 三、rubric 约束奖励。它是互补的 absence-oriented 信号，惩罚与用户意图不一致的多余内容。约束清单同样离线由 LLM（gemini-3.1-pro-preview）生成，覆盖显式否定、背景/风格/额外对象限制，以及从意图推断出的隐含要求（如"极简图像不应出现多余装饰"）。每条问题以"yes 表示合规"措辞，约束奖励=回答"yes"的比例。同时为每条提示分类意图标签 strict/neutral/open：strict 获得完整约束电池（显式否定、背景检查、风格锁检查、通用"无未请求的显著对象/装饰"兜底题），neutral 只保留提示中明确陈述的约束，open 不加约束。实际约 26k 条约束问题。 四、抗奖励黑客奖励。分为两类：能单图判定的失败用 pointwise 检测器（如乱码/无意义渲染文本），直接检查输出是否具有该不良行为；由"相对冻结基座模型的漂移"定义的失败用 reference-based 检测器，把策略输出与同提示的冻结基座生成对比、并双序判断消除位置偏差（如卡通提示下的照片化漂移）。所有判定由同一 Qwen3.6-27B 法官给出。检测器问题固定按失败模式设计，不逐提示生成。 组合机制一：分组奖励解耦归一化。对 pref/faith/constr 每个轴独立做批内 z-score：z_i^(a)=(r_i^(a)−μ^(a))/(σ^(a)+ε)，μ、σ 为当前 batch 均值与标准差。直觉是阻止原生尺度差异让单一成分主导组合目标，提高训练稳定性（沿用 GDPO 风格思路）。 组合机制二：提示条件门控。约束奖励只在意图标签为 strict 的提示上激活：g_i^(constr)=1[y_intent=strict]，pref 与 faith 恒为 1；每个抗黑客奖励 h 只在对应失败模式与用户意图冲突（被标记 applicable）时激活：g_i^(h)=1[y_applicable]。这避免了对开放创意提示施加错误的"不得添加"压力，也避免把照片化倾向错误惩罚到本就要求写实风格的提示上。 组合机制三：单边否决式抗黑客预防。先求 v_i=max_h g_i^(h) r_i^(h)，即任一适用的检测器发现违规则 v_i=1；再把偏好奖励改写为 z̄_i^(pref)=z_i^(pref)−v_i[z_i^(pref)]_+。关键是一边性：只压制正的偏好奖励，不产生"规避黑客行为即可得分"的新可优化目标，从而防止检测器本身被学习利用。 组合机制四：RL 目标与组相对权重。组合奖励 R_i=w_pref z̄_pref+w_faith z_faith+w_constr g_constr z_constr，全部 w=1（未调参）。对同提示的 K 个 rollout，转成 DiffusionNFT 的组相对权重：A_i=(R_i−μ_group)/σ_batch，r̃_i=1/2 clip(A_i/A_max,−1,1)+1/2，A_max=5；μ_group 为同提示 K 个 rollout 的均值，σ_batch 为当前 batch 标准差。 组合机制五：权重空间汤。不同奖励配置的独立优化策略在参数层面互补，于是把两轮 LoRA delta 等权平均：Δθ_ens=1/2 Δθ_1+1/2 Δθ_2。附录给出两种实现：一种通过 rank 拼接实现精确 ΔW 平均（A_cross=[A_champ;A_veto]、B_cross=[1/2 B_champ, 1/2 B_veto]，rank 64→128、α 128→256 以保持 α/r 不变），另一种是因子空间简单平均（含交叉项，作对照）。 训练与数据：用 DiffusionNFT 优化器，LoRA 冻结基座。FLUX.2[dev] 每步采样 G=48 个提示组、每提示 K=24 个 rollout，10 步采样、512²、CFG 4.0，LoRA rank 64/α 128，lr 3e-4，150 epoch，32 GPU，NFT noise 0.7、mixing β=1.0、KL 1e-4；Ideogram 4 同样 G/K 布局但 CFG 7.0、LoRA rank 32/α 64、lr 1.5e-4、64 GPU、KL 1e-3。训练提示用 gemini-3.5-flash 严格过滤（剔除编辑请求、欠具体单行提示、小众命名实体、非英文等），得到 10k 训练与 1k 验证提示。整体分三阶段：Stage 1 用偏好+忠实度+意图门控约束训练初始模型；Stage 2 审计 Stage 1 最佳检查点的失败样本，识别出"乱码/多余渲染文本"与"照片化漂移"两个黑客模式，设计相应检测器并加入否决训练第二个模型；Stage 3 将两阶段最佳检查点做权重汤得到最终模型。

实验分四部分推进。第一部分是主结果：在 1k Arena 验证提示上，用 Gemini-3.5-flash 与独立 GPT-5.4 双裁判、MMRBv2 成对协议评测各配方相对冻结基座的胜率，与 DiffusionNFT、faithfulness-only、Arena-T2I-Hard、preference-only 等基线对比，证明 Stage 1 配方超越基线、Stage 3 权重汤进一步超过两个父模型，且在开源 1K 子集与外部 MMRBv2 提示上趋势一致。第二部分对四个组合机制逐一消融：意图门控、抗黑客适用性门控、单边否决 vs 加性整合、跨配方 vs 同配方权重汤，均显示所提设计的优势（适用性门控的效果与所用偏好奖励有关）。第三部分检验奖励模型偏好数据规模与下游 RL 性能的关系，以及配方在第二个基座模型 Ideogram-4 上的泛化。第四部分报告 LMArena 在线人类盲评 Elo 结果，验证配方在生产服务条件下相对基座模型的提升，并附置信区间与标签审计。总体看，实验证据链完整、含独立裁判与外部提示集迁移，但种子数与基座模型覆盖面有限。

1. 组合配方在 LMArena 在线人类盲评中显著提升 FLUX.2-dev，Ideogram-4 达到 1223.5 Elo 并超越所有开源模型。

   our RL-trained FLUX.2-dev gains 69 69 Elo points over its base model on the LMArena text-to-image leaderboard, and our post-trained Ideogram-4 reaches an Elo of 1223.5 1223.5 , surpassing every open-source model on the leaderboard.

2. Stage 1 配方（偏好+忠实度+意图门控约束）在 Gemini 裁判下把胜率提高到 0.642（Arena RM）与 0.581（PickScore）。

   Our Stage 1 model, which uses the preference reward, faithfulness rewards and the intent-gated constraint reward, raises the win rate to 0.642 0.642 with Arena RM and 0.581 0.581 with PickScore.

3. Stage 3 权重汤在 Gemini 下进一步超越两个父模型，达到 0.6598（Arena RM）与 0.6256（PickScore）。

   the resulting model improves the Gemini win rate to 0.6598 0.6598 with Arena RM and 0.6256 0.6256 with PickScore, outperforming both parent models.

4. 意图门控（vs 对全部提示施加约束）在两个偏好奖励上均提升胜率。

   intent gating increases the Gemini win rate from 0.6046 0.6046 to 0.6416 0.6416 with Arena RM and from 0.5200 0.5200 to 0.5810 0.5810 with PickScore.

5. 单边否决式抗黑客整合显著优于把检测器当加性奖励轴。

   Under Gemini, the win rate increases from 0.5260 0.5260 to 0.6346 0.6346 with Arena RM and from 0.4194 0.4194 to 0.5710 0.5710 with PickScore.

6. 跨配方权重汤优于同一配方内检查点平均（same-run souping）。

   same-run souping achieves win rates of 0.6435 0.6435 with Arena RM and 0.5610 0.5610 with PickScore, whereas cross-recipe souping improves these to 0.6598 0.6598 and 0.6256 0.6256 .

7. 奖励模型的偏好数据规模与下游 RL 胜率正相关，全量约 5.6M 对达到 0.642。

   the win rate rises from 0.537 0.537 with 10K preference pairs to 0.607 0.607 with 100K and 0.611 0.611 with 500K, while the full ∼ 5.6 {\sim}5.6 M-pair RM achieves 0.642 0.642 .

8. 在 Ideogram-4 上，加入意图门控约束奖励是越过平局线的关键步骤。

   Adding the intent-gated constraint reward is again the key step that pushes performance beyond parity, raising the win rate to 0.5526 0.5526 .

9. 开源 1K 子集复现结果接近全量 10K 数据集的性能。

   Stage 1 and Stage 3 with PickScore achieve Gemini win rates of 0.566 and 0.615, respectively, approaching the performance obtained with the full 10K dataset.

10. 外部 MMRBv2 提示集上 Stage 3 仍最高，且消融排序得以保持。

    Stage 3 again achieves the highest win rate at 0.6011 0.6011 , and the ablation orderings are preserved.

11. 使用严格过滤后的提示池比未过滤提示池在相同奖励下退化更慢。

    The run trained on the unfiltered pool lost to its filtered counterpart by 0.0360 0.0360 .

12. 意图标签的人工审计显示三分类一致率 77.8%，门控实际使用的二分类（strict vs 非 strict）一致率 89.5%。

    Human–classifier agreement is 77.8 % 77.8\% across the three-way classification, increasing to 89.5 % 89.5\% for the binary strict-versus-nonstrict decision actually used by the gate.

Novelty：单看各组件，新颖度中等：BT 偏好奖励、GDPO 风格解耦归一化、清单式忠实度/约束 rubric、权重汤均为已知技术，Arena-T2I-Hard 也已做过"偏好+忠实度"组合。本文的新意主要在三处组合性设计：其一，把"意图门控"用于约束奖励，显式区分 strict/neutral/open 提示，避免对所有提示一刀切地惩罚创造性添加；其二，把抗奖励黑客信号从"加性奖励轴"改成"对偏好奖励的单边否决"，使规避黑客行为不再产生可被优化的新目标——这是一个简洁且有理论直觉的设计；其三，用"跨奖励配方 LoRA 权重汤"而非同配方检查点平均来捕获互补失败模式。此外，奖励模型规模曲线（10K→100K→500K→5.6M 人类投票对下游 RL 的单调增益）为偏好数据规模效应提供了较清晰的证据。整体属于工程组合创新，而非概念性突破。 Soundness：方法合理性与证据链较好：有成对双裁判（Gemini 与 GPT-5.4）、外部 MMRBv2 迁移、置信区间、四个机制的可控消融，以及真实用户在线盲评作为最终判据，避免了只报自选奖励分数。主要隐忧是：第一，只报告单一种子，无法排除方差；第二，抗黑客检测器是在审计 Stage 1 失败样本后事后设计的，存在对已观察失败模式的过拟合风险，且对 Ideogram-4 又因"未观察到明显黑客模式"而不引入 Stage 2/3，说明该流程依赖人工发现、而非系统性覆盖；第三，部分消融只给出部分偏好奖励/裁判组合的数值（如适用性门控在 PickScore 下的提升未量化），且 Stage 2 与 Stage 1 的差异被描述为"comparable"，最终收益主要来自汤；第四，奖励法官与评价裁判都重度依赖闭源 LLM/VLM，存在潜在污染与不可复现风险。总体上结论与其证据规模相称，但稳健性仍有提升空间。 Significance：实践意义较高：论文给出了一套可复现、跨两个前沿基座模型有效、并在生产式在线人类盲评中带来真实 Elo 提升的后训练配方，对"如何为生成模型设计抗利用的组合奖励"这一紧迫工程问题有直接指导价值。开源 1K 数据子集降低了复现门槛，对资源有限的研究者尤其有用。奖励模型规模曲线也提示：继续扩大人类偏好投票仍是提升下游 RL 的可靠杠杆。概念上，单边否决 + 意图门控的组合原则可迁移到视频、音频或其他生成模态的后训练。局限是它高度依赖高质量人工/LLM rubric 的离线构建与闭源裁判，且当前证据只覆盖两个文生图基座，故其"通用配方"主张尚需更多模型族与模态验证。

作者自陈的局限：仅在两个基座模型（FLUX.2[dev]、Ideogram-4）上评估，难以判断跨模型族与规模的泛化；未在 agentic 工作流（多步交互、工具调用）中评测；分解出的忠实度问题未经人工标注审计，可能存在分解错误或歧义；受算力限制只跑单一种子。除此之外的深层局限：其一，抗奖励黑客检测器是"事后补丁"式的——先跑 Stage 1、人工审计失败、再针对已见模式（乱码文本、照片化漂移）设计检测器，这使黑客覆盖范围受制于已观察到的失败，而非系统性红队；对 Ideogram-4 因未观察到明显模式就跳过 Stage 2/3，恰好暴露了该流程的主观依赖。其二，奖励模型、rubric 生成、意图分类、检测判定与最终评价裁判大量依赖闭源 gemini/Qwen/GPT 系列，既带来高成本，也存在"同一类 LLM 偏好渗入奖励与评价"的循环风险，削弱了独立性与可复现性。其三，训练与验证提示均来自 Arena 分布，外部 MMRBv2 上增益变小说明真实泛化边界尚不清楚。其四，虽然作者声称权重全部取 1 且"未调参"，但归一化、门控、否决、汤等机制本身包含多个隐式设计选择，且适用性门控的收益与偏好奖励类型相关，不能完全排除对两个基座/两种偏好的局部过拟合。最后，Elo 的"state-of-the-art"结论依赖特定排行榜快照，会随时间漂移。

后续工作可从六个方向展开。(1) 稳健性：多随机种子、更多基座模型与更大规模、更长期的在线评估，以确认组合机制的方差与通用性。(2) 抗黑客的系统化：把 Stage 2 的"审计-设计检测器"闭环变成迭代红队流程，建立失败模式分类法与自动检测器库，研究在训练前就纳入更多潜在 exploit 的方法，降低对人工事后发现的依赖。(3) 组合理论：对"单边否决 + 归一化 + 门控"的交互做更形式化分析，研究否决如何改变梯度方向与 KL 约束下的解，以及等权重是否真是最优、何时需要自适应权重。(4) 去闭源依赖：用开放权重 VLM/LLM 复现 rubric 生成与裁判，量化闭源裁判对结论的影响，检查奖励与评价之间的污染，提升端到端可复现性。(5) 泛化边界：在非 Arena 分布、长尾/多语言/多对象复杂提示、agentic 生成流程上压力测试，明确意图门控与约束奖励在开放创意任务上是否真的不损害多样性。(6) 数据与规模：继续扩大偏好投票并检验收益饱和点，同时研究 rubric 数量、覆盖率与奖励黑客出现概率之间的关系，为"多少偏好 + 多少 rubric"给出可操作的经验法则。

本文的定位是弥合 VLM 空间推理中的“感知—几何”鸿沟：RGB 输入不直接提供几何证据，显式 3D 方法虽能补几何却带来架构与推理开销，结果监督类训练虽保持 RGB-only 推理却只监督最终答案、无法定位并修正推理链中的几何错误。GPD 站在这两条路线之间，把 3D 扫描语料本就携带的深度、语义与 BEV 信息转化为训练期特权（privilege），通过 on-policy 自蒸馏（OPSD）注入一个部署时仍为 RGB-only 的策略。它直接对话两条工作线：GRPO 类结果监督 RL 与 OPSD 类特权蒸馏，并对后者提出关键修正——把默认的 reference answer 特权替换为“问题路由后的几何证据 + reference answer”。在贡献上，本文主张三点：提出几何感知的特权自蒸馏问题表述；提出 GPD 框架（问题路由的文本化 3D 线索 + 只对错误轨迹的 token 级蒸馏）；在两个模型规模、五个基准上给出优于 GRPO 与 answer-privileged OPSD 的受控实验。

空间推理要求 VLM 判断距离、方向、布局，例如规划路线、抓取最近物体或估计沙发到门的距离。现有基准显示这些判断对当前 VLM 仍然困难，根源在于 RGB 帧不直接提供几何证据，模型只能从外观推断深度与布局。已有工作分成两支：显式 3D 方法把几何编码器、表示或感知/重建工具接入模型，代价是架构改动与额外推理延迟；训练型方法用 SFT 或 outcome-based RL 在空间问答数据上微调，保留 RGB-only 推理，但监督信号只来自最终答案，无法定位诸如深度顺序错误、左右方向翻转这类几何错误。OPSD 提供了一个自然的结合点：学生只用任务输入采样，同一模型在额外给定特权上下文后作为教师逐 token 重评分学生轨迹。但本文指出，空间推理错误源于感知层，reference answer 这一标准特权无法修正“看错”的事实；只有场景真实几何能修正。为此需要按问题类型提供匹配的几何证据：计数依赖语义与可见性，距离与导航依赖深度和 BEV。训练语料方面，VSI 与 SPAR 来自 ScanNet 场景，可直接从 3D 标注生成特权；MindCube 缺少对齐 3D 真值，需用 Depth Anything 3 估计深度、Grounded-SAM-2 获取语义实例。评估覆盖 VSI-Bench（八类视频空间推理子任务）、MindCube（有限视角的心智空间建模）、SPAR-Bench（3D 物体关系与场景几何）、MMSI-Bench（多图空间智能）和 ViewSpatial（视角依赖空间理解），骨干为 Qwen3-VL-Instruct 的 2B 与 4B 两个规模。

GPD 的核心设计是让同一个 VLM 在两个条件上下文中扮演学生与教师：学生只看 RGB 观测 v 与问题 q，即 p_S = concat(v, q)；教师额外获得离线构造的特权上下文 p_T = concat(v, q, c_priv(q, a*))。训练信号由 GRPO 与特权蒸馏两部分联合构成，特权只进入训练目标、不进入部署输入。 （1）离线 3D 特权构造。每个训练样本表示为 (v, q, a*)。对每个样本构造可用线索子集 M ⊆ {depth, semantic, BEV}：当存在对齐 3D 标注时直接从标注导出深度、语义与 BEV 线索；否则用 Depth Anything 3 估计深度、用 Grounded-SAM-2 获取语义实例掩码与标签，BEV 只在相机位姿与场景布局信息可靠时加入。所有线索只计算一次并在训练中固定。固定模板把每种模态转成文本摘要 s_m：depth 记录物体距离与近远顺序，semantic 列出物体及其图像区域，BEV 描述俯视关系；多帧输入保留帧标识。 （2）问题条件路由。不同问题需要不同几何证据，全量注入会稀释教师信号。GPD 离线用基座 VLM 为每个问题选择相关子集 r(q) ⊆ M，路由后的场景上下文 c_scene(q) = concat(s_m : m ∈ r(q))，完整特权 c_priv(q, a*) = concat(c_scene(q), a*)。这使教师既拿到几何证据、又拿到目标答案。 （3）GRPO 基线。学生用 p_S 采样一组 G 条响应 {y_i}~πθ(·|p_S)，每条含 T 个 token。由结果奖励 R_i 做组内归一化得到优势 A_i。GRPO 目标为 L_GRPO(θ) = −E[ (1/G)Σ_i (1/T)Σ_j min(ρ_{i,j} A_i, clip(ρ_{i,j}, 1±ε) A_i) − β (1/G)Σ_i D_KL[πθ∥πref]_i ]， 其中 ρ_{i,j} = πθ(t_j|t_<j, p_S)/πθ_old(t_j|t_<j, p_S) 是 token 级重要性采样比，D_KL[πθ∥πref] = Σ_j [log πθ(t_j|t_<j,p_S) − log πref(t_j|t_<j,p_S)] 是对冻结参考策略的 token 级 KL，β 控制正则强度。 （4）特权引导蒸馏。对每个 token 位置 j，教师与学生分别给出条件分布 πθ(·|t_<j,p_T) 与 πθ(·|t_<j,p_S)。由于全词表反向 KL 计算昂贵，本文在学生采样的 token t_j 上做单样本估计。定义 token 级对数概率差 Δ_{i,j} = log πθ(t_j|t_<j,p_T) − log πθ(t_j|t_<j,p_S)， 并构造反向 KL 估计 d_{i,j} = exp(Δ_{i,j}) − Δ_{i,j} − 1。其期望性质很干净：在 πS 下，E[πT/πS − 1] = 0，且 E[−Δ] = E[log(πS/πT)] = D_KL(πS∥πT)，故 E[d] = D_KL(πS∥πT)，即它是反向 KL 的无偏单样本估计；同时由 e^x ≥ 1+x 保证逐点非负。直觉上，当教师认为学生采样的 token 在几何上不可能时 πT ≪ πS，Δ 取很大负值，d ≈ −Δ − 1 变大，梯度把学生拉向几何一致的分布；Δ=0 时损失为零。蒸馏损失对有效 token 归一化：L_OPSD = Σ_i Σ_j u_{i,j} d_{i,j} / Σ_i Σ_j u_{i,j}，u_{i,j}∈{0,1} 指示有效响应 token。这一比较发生在学生自己采样的轨迹上，而非教师生成的 rollout，因此提供的是沿学生推理链的 token 级过程监督。 （5）错误门控与联合目标。对所有轨迹蒸馏可能干扰已经正确的轨迹。GPD 只对错误轨迹集合 E = {i : R_i < τ}（τ=0.5）聚合，并在每个优化微批内把聚合标量裁剪到 1.5 再缩放：L̃_OPSD = min( Σ_{i∈E} Σ_j u_{i,j} d_{i,j} / Σ_{i∈E} Σ_j u_{i,j}, 1.5 )。最终目标 L = L_GRPO + λ L̃_OPSD，λ 控制蒸馏强度。错误门控把过程监督集中在需要修正的轨迹上，避免正确轨迹被噪声教师梯度扰动；裁剪则抑制偶发的大蒸馏信号。 （6）训练与数据细节。训练混合为 10K VSI、4K SPAR、1K MindCube 的训练集样本；VSI/SPAR 从 ScanNet 3D 标注直接生成特权，MindCube 用估计的深度与语义。所有方法与消融共享同一训练混合与预计算特权。骨干为 Qwen3-VL-Instruct 2B/4B，训练一个 epoch，学习率 1e-6，rollout 组大小 n=8，特权蒸馏权重 λ=0.003。总体流程为：离线构造并路由文本化几何线索 → 学生 RGB-only 采样 → 教师带几何特权逐 token 重评分 → 仅对错误轨迹加特权 KL → 与 GRPO 联合更新，部署模型保持 RGB-only。

实验在五个空间推理基准上系统比较 GPD 与通用 VLM、三维增强方法、结果监督方法，以及同数据同骨干训练的 GRPO 与 OPSD 受控变体。总体趋势是：在两个模型规模上，GPD 在 VSI-Bench 主表与四个附加基准上均取得受控变体中的最佳平均成绩，且在多数几何相关子任务上相对 GRPO 与 OPSD 有提升；但个别基准增益微弱甚至低于基座，说明收益并非均匀。消融实验表明答案特权与路由后的三维文本特权互补，路由文本优于全量文本注入，也优于图像化线索；错误轨迹门控优于全轨迹蒸馏，且蒸馏权重存在最优区间，过大反而伤害性能。零样本特权注入预研究证明只有路由文本能超过 RGB-only 基线，支持其作为特权形式。路由分布与任务类型直觉吻合，训练动态显示 GPD 早期熵峰更高、后期保持优势，特权内化分析表明训练后的模型对测试期注入三维线索的依赖更小。案例研究展示 GPD 能纠正 GRPO 未能纠正的几何中间判断。

1. VSI-Bench 主结果（4B）：GPD 在受控训练变体中取得最高平均准确率，相对基座提升 1.7 点、相对 GRPO 提升 0.7 点、相对 OPSD 提升 1.4 点。

   With Qwen3-VL-4B, GPD achieves the highest average accuracy of 57.1 among controlled training variants, improving over the base model by 1.7 points, GRPO by 0.7 points, and OPSD by 1.4 points.

2. VSI-Bench 主结果（2B）：GPD 取得受控最佳平均 51.7，超过基座与 GRPO 0.4 点、超过 OPSD 0.9 点。

   With Qwen3-VL-2B, GPD similarly achieves the best controlled average of 51.7, outperforming the base model and GRPO by 0.4 points and OPSD by 0.9 points.

3. 四个附加基准（4B）：GPD 取得受控最佳平均 37.6，较 GRPO 提升 1.9 点、较 OPSD 提升 6.1 点；在 MindCube、SPAR、MMSI 上均为受控最佳，其中 MindCube 增益最大。

   With Qwen3-VL-4B, GPD achieves the highest controlled average of 37.6, improving over GRPO by 1.9 points and OPSD by 6.1 points. GPD obtains the best result among controlled variants on MindCube (38.0 vs. 33.0 for GRPO, +5.0 points), SPAR (43.4 vs. 41.4 for GRPO, +2.0 points), and MMSI (29.4 vs. 28.7 for GRPO, +0.7 points).

4. 四个附加基准（2B）：GPD 再次取得受控最佳平均 33.6，较 GRPO 提升 0.9 点、较 OPSD 提升 3.4 点，最大增益同样来自 MindCube。

   With Qwen3-VL-2B, GPD again achieves the best controlled average of 33.6, outperforming GRPO by 0.9 points and OPSD by 3.4 points, with the largest gain on MindCube (38.4 vs. 35.8 for GRPO, +2.6 points).

5. 特权组成消融：仅答案或仅路由三维文本都有小幅增益，二者结合效果最强；全量文本注入因噪声反而低于路由文本，路由文本也优于图像化线索。

   Adding the reference answer alone reaches 40.2 (+0.4 points over GRPO), and adding routed 3D text alone reaches 40.5 (+0.7 points). Combining both yields 41.5, confirming that the two sources are complementary: the answer specifies the target outcome while the 3D context supplies geometric evidence. Full 3D text injection (39.8) falls below routed text by 1.7 points despite containing more information, confirming that indiscriminate injection introduces noise. Routed images reach 40.4, below routed text (41.5) by 1.1 points, suggesting that structured text aligns geometric cues with the symbolic reasoning trajectory better than visual overlays.

6. 特权 KL 作用范围消融：对全部轨迹应用特权 KL 会降低平均成绩，说明教师信号会干扰已经正确的轨迹；只对错误轨迹施加 KL 更优。

   Applying privileged KL to all trajectories rather than incorrect ones alone reduces Avg. by 0.9 points to 40.6, consistent with noisy teacher signals disturbing already-correct trajectories.

7. 特权 KL 权重消融：错误门控下 λ=0.003 达到峰值（较 GRPO 提升 1.7 点），λ 增大到 0.004、0.005 时性能回落，说明权重过小不足以提供过程级修正、过大会过度约束策略。

   Too small a weight provides insufficient process-level correction; too large a weight over-constrains the policy and degrades performance.

8. 零样本特权注入预研究：图像化变体与全文本注入都低于 RGB-only 基线，只有路由文本超过基线并带来正增益，支持将其作为 GPD 的特权形式。

   All image-based variants and full text injection remain below the RGB-only baseline ( 49.1 49.1 ): full 3D images drop to 47.4 47.4 , while routed images and full text both reach 48.3 48.3 . Routed text is the only variant that exceeds the baseline, reaching 52.2 52.2 ( + 3.1 +3.1 points), motivating its use as the privilege form in GPD.

9. 特权内化分析：RGB-only 推理下 GPD 已超过 GRPO，且测试期注入路由三维文本时 GPD 的增益更小，说明几何线索在训练中被内化而非依赖推理期注入。

   GPD ( 56.3 56.3 ) already outperforms GRPO ( 54.9 54.9 ) under RGB-only inference, and gains less when routed 3D text is injected at test time ( + 0.6 +0.6 vs. + 2.1 +2.1 for GRPO).

10. 训练动态：GPD 比 GRPO 更早达到更高的熵峰，特权 KL 促进早期探索，且熵水平在后期趋同后 GPD 仍保持准确率优势。

    GPD reaches a higher entropy peak earlier than GRPO, indicating that privileged KL encourages broader exploration in the early training phase. As entropy levels align in later steps, GPD maintains its accuracy advantage, suggesting that the spatial reasoning modes shaped by privileged supervision are retained.

11. 路由分布分析：问题条件路由器选择的模态与任务几何直觉一致——计数主要走语义、绝对距离主要走深度、房间尺寸由 BEV 主导、相对方向同时使用语义与 BEV。

    object counting is routed entirely to semantic maps, absolute distance relies predominantly on depth, room size is dominated by BEV, and relative direction uses both semantic and BEV.

Novelty：新颖性中等偏上。GPD 没有发明新的基础训练范式：OPSD 的特权蒸馏、GRPO 的结果优化、单样本反向 KL 估计都是已有组件，其中 exp(Δ)−Δ−1 作为反向 KL 的无偏单样本估计属于标准统计技巧。本文的新意在于“用几何证据替换默认特权”这一针对性改造：把 3D 扫描语料中的深度、语义、BEV 文本化为问题路由后的教师上下文，并只对错误轨迹施加过程级 KL。相对于已有 OPSD 默认注入 reference answer、多模态特权多用视觉裁剪或缩放视图，这种“问题条件的结构化几何文本特权 + 错误门控”组合是明确的增量贡献。但整体仍属组合创新而非机制创新，新颖性未达到范式级别。 Soundness：合理性总体可接受、但证据强度中等。优点在于受控比较设计较干净：GRPO 与 OPSD 在同一数据、同一骨干、同一预计算特权上训练，消融覆盖特权组成、路由、门控与权重，零样本预研究为特权形式选择提供先验证据，内化探针与训练动态也支持“模型学到几何而非依赖推理期特权”的主张。主要问题是稳健性证据不足：全文没有报告多次运行的标准差或统计显著性，部分基准的增益很小甚至出现退化（如 2B 的 MMSI、4B 的 ViewSpatial），主表数字与进一步分析中的内化数字口径不一致（摘要与主表为 VSI 57.1，而图 6 的 RGB-only 为 56.3，未说明评估子集差异）；消融中的 Avg 包含了 VSI 等五个基准，与表 2 的四基准口径不同，跨表比较时容易混淆；λ 搜索区间较窄，且以单次微调为据。因此方向性结论可信，但“普遍优于基线”的强度被部分弱信号稀释。 Significance：对空间推理与具身智能方向有实际意义。它直接回应了“显式 3D 有架构/延迟成本，结果监督训练没有几何过程监督”的两难：利用 3D 扫描语料本就携带的几何信息作为训练特权，部署时保持 RGB-only、零额外推理开销，且把监督从最终答案下沉到 token 级几何一致性，这对导航、抓取、路线规划等下游任务有潜在迁移价值。问题条件路由与文本化几何线索的做法也为“如何把结构化感知信息压缩进语言推理链”提供了一个简单可复用的模板。但其影响目前受限于 Qwen3-VL 单一家族、文本化几何较粗（丢失精确度量与遮挡细节）、以及部分基准增益量级有限；能否推广到更大模型与更细粒度几何，决定其长期影响力。

本文存在若干局限。第一，特权可获取性与质量：BEV 只在相机位姿与场景布局可靠时可用，MindCube 缺乏对齐 3D 真值，深度与语义由外部模型估计，估计误差会作为特权噪声进入教师，削弱过程监督的可靠性。第二，文本化几何粗粒度：深度被压成物体距离与近远顺序、语义被压成物体区域列表，精确度量、遮挡、三维坐标等信息丢失，教师对需要精细几何判断的问题可能仍然力不从心。第三，路由器是离线且固定的基座 VLM，路由错误会永久剔除某个问题真正需要的线索，训练中不更新、无纠错机制。第四，错误门控基于结果奖励的二值化（R_i < 0.5），只看最终答案：结果正确但中间几何错误的轨迹不会被蒸馏，结果错误但几何正确、错在别处的轨迹也会被蒸馏，存在误门控。第五，单样本反向 KL 估计方差较大，虽用 1.5 的标量裁剪抑制，但裁剪阈值本身是启发式，缺少理论或敏感性分析。第六，实验范围有限：仅 Qwen3-VL 一个家族、训练一个 epoch、约 15K 样本，未检验跨架构泛化与更长训练；部分基准增益微弱甚至低于基座，且未报告方差或显著性检验，稳健性存疑。第七，摘要/主表的 VSI 结果与进一步分析中的内化数字不一致，实验口径与报告清晰度有待提高。

后续可沿几条线推进。其一，特权表示升级：用结构化 JSON、可微几何 token 或潜在向量替代固定模板文本，保留精确深度、遮挡与坐标信息，检验是否能进一步纠正细粒度几何错误。其二，路由改进：把离线固定路由改为可学习或训练中动态更新的路由器，并允许路由以概率或软权重组合模态，降低路由错误的永久影响。其三，过程监督细粒度化：用逐 token 的几何一致性评分或过程奖励替代“结果对错”的二值门控，减少误门控；也可研究裁剪阈值与 λ、β、ε 的联合自适应。其四，降低单样本 KL 估计方差：尝试多样本采样、重要性加权或平方损失形式的 KL 估计，并给出理论偏差-方差分析。其五，扩展验证：在更多 VLM 家族、更大规模骨干、更长训练轮次上检验结论；补充多次运行的标准差与显著性检验，统一主表与内化分析的评估口径。其六，任务迁移：把 GPD 用于导航、操作、自动驾驶等需要几何过程监督的具身任务，观察几何特权是否带来可泛化的空间推理模式。最后，可用探针或可解释性方法验证模型到底内化了哪类几何概念（深度序、布局、视角变换），为特权设计提供更直接的证据。