2026-09-18

本文提出 LimiX-2，一个面向结构化数据智能的大型表格基础模型（LDM），是 LimiX 家族的规模化续作。其核心定位是范式转换：从 PFN 式的目标中心后验预测 p(y|x,D_context) 转向 Contextual Mechanism Networks（CMN）的机制中心联合建模 p(x,y|D_context)，把监督预测降格为更广义条件推理的特例。LimiX-2 仅用合成 SCM 数据预训练，在单一模型内统一分类、回归、缺失值插补与因果发现，无需逐任务更新参数。论文的贡献主张包括：新的 CMN 范式与 CCMM 预训练目标、细胞级双轴 Transformer 架构细化、SCM 数据引擎扩展，以及在 TabArena、TALENT、BCCO 上的领先结果和标度律分析。

结构化数据智能被定位为语言与物理世界之外的第三前沿，但长期发展不足。传统表格方法（梯度提升树、深度网络、AutoML 集成）通常需要逐数据集训练与选模，跨任务知识复用有限。PFN 系列在合成任务上预训练表格预测器，学习 p(y|x,D_context)，并在新数据集上以上下文方式免更新预测；TabICL、TabFM、Mitra 等延续这一目标中心范式。其问题在于监督被限制在预测单一目标列，而非显式建模所有变量的联合依赖，可能限制变体数据推理（如任意列插补、条件查询）。前作 LimiX 提出上下文条件建模与 CCMM；LimiX-2 的核心变化是把目标从后验预测显式泛化为机制中心的联合建模 p(x,y|D_context)。评估采用 TabArena（偏实用协议）、TALENT（偏任务多样性）、BCCO（偏缺失与不完整数据）三个社区基准，并以特征注意力恢复因果骨架作为因果意识的操作化测量。

LimiX-2 的机制可拆成范式、表示、骨干、读出、预训练目标和数据生成五个层面。 范式层面，CMN 不学 p(y|x,D_ct) 而是学 p(x,y|D_ct)。网络不再只围绕一个被指定为目标的列，而是把整张表的变量间预测依赖当作学习对象：在给定上下文集合时，任意被掩码或缺失的变量都可作为条件推理目标，监督分类回归只是特例。其训练目标 CCMM 把目标预测与特征重建统一在同一条件接口下。 表示层面，表格有 N 行 F 列，每个原始单元 x^R_{i,j} 映射到 d 维（LimiX-2 取 d=256）特征表示。数值单元经两层 MLP（RMSNorm+GELU）编码，缺失单元共享可学习向量 E_miss，再叠加判别性特征编码（DFE）的列身份 e_j。DFE 给每列一个 s 维（s=d/4）码 u_j，经 E∈R^{s×d} 映射到嵌入空间；低秩列身份约束模型识别列而非记忆位置，也便于跨列共享统计强度。目标侧用 K=4 个 d 维槽位编码 y_i，数值回归目标经 E_num^Y，分类目标经正交初始化的嵌入表 E_cat^Y；上下文行保留标签，查询行目标槽填 MASK，并在每个槽上加任务类型嵌入 E_type(τ)（cls/reg）。 骨干是 M=24 层双轴 Transformer。样本轴注意力用上下文行形成先验：在每个特征位置和目标位置上跨样本传播信息。目标侧先拼接 K 个任务槽再进入注意力，之后拆回 K 个。因果掩码上，上下文行互相可见，查询行只能注意上下文，因此查询预测只依赖自身特征和上下文，不依赖同批其他测试样本。Q/K/V 映射在特征间共享，但特征与目标路径不共享。特征轴是不对称注意力：特征表示可以注意目标和其他特征，目标表示只能注意特征，即文中 x^(l)=Attn_X(Q_X(x~),K_X([x~,y~]),V_X([x~,y~])) 与 y^(l)=Attn_Y(Q_Y(y~),K_Y(x~),V_Y(x~))。这种不对称使特征路径能融合目标信息用于重建，而目标路径只从特征收集证据。随后是独立 SwiGLU 门控 FFN：SwiGLU(z)=W_o[SiLU(W_g z+b_g)⊙(W_v z+b_v)]+b_o，特征路径在 R^p 上运算，目标路径在 R^{Kd} 拼接槽上运算。多头注意力使用全部 K/V 头，Q/K 先归一化，再按头施加长度相关缩放 s_h=(1+w_h log n)β_h，w_h、β_h 可学习并经 tanh 软截断，用于稳定变长上下文。子层均用 pre-norm RMSNorm。块内顺序为：独立 X/Y 样本轴注意力、独立 SwiGLU、非对称特征轴注意力、残差连接。 读出层面，不同任务挂在不同深度。掩码特征重建需要局部细节，头接在浅层 x^(l_mask)（l_mask<M）；分类与回归从末层 y^(M) 解码。每个头前有独立瓶颈后适配器 A_mask、A_cls、A_reg，分类回归逐槽应用后拼接。C 类分类输出 logits 并用交叉熵。回归不采用 MSE，而是把目标范围分成 B=5000 个有序 bin，预测 bin 概率 p∈Δ^{B-1}，再以 bin 中心加权得到 y^=Σ p_i c_i，使回归保持分布性输出。 预训练 CCMM 层面，每个 episode 把表分成上下文行集和查询行集。上下文保留观测；查询行 i 的掩码列 π_i 上估计 q_θ(x_{i,j}|x_{i,-π_i},X_ct,y_ct)，查询目标 y_i 从同样条件信息经任务头预测。查询行沿样本轴只能看上下文，上下文计算不接触查询，保证预测对查询批组成不变。掩码模式混合三种粒度：单条目、跨查询行的整列、条目块，扩大条件预测任务覆盖。被掩码单元用 E_miss 并叠加 DFE 列码，与自然缺失共享缺失编码而保留列身份。 数据生成层面，预训练数据完全由 SCM 合成，流程五步：超参数采样、DAG 生成、SCM 传播、变量采样、任务适配。超参数（样本数、连续/分类特征数、任务类型）从 normal、uniform、beta 随机选定的分布族中抽取。DAG 由多个局部因果结构（因果 motif）层级递归展开，motif 可含多输入多输出并编码链、混杂、对撞等结构，再做保无环的拓扑变换（边重定向、局部路径替换、节点级变换）。函数机制沿拓扑序传播 X_i=f_i({g_{i,j}(X_j)}_{j∈PA(X_i)},ε_i)，边函数包括 MLP、CNN、决策树，以及线性、核、分段、周期、乘法交互等，并可复合；多父节点用平均、加权、神经聚合。变量采样按多属性选择，依据子图结构和特征冗余构造粗粒度任务描述并做多目标筛选。任务适配对特征目标做线性缩放、单调非线性、对数、指数等随机复合变换；分类任务把连续目标随机离散化以控制类别数与不均衡，回归任务调整尺度、偏度和尾部。

作者在 TabArena、TALENT、BCCO 三个公开基准上对 LimiX-2 与大量基线做预测性能对比，并在因果发现数据集上用特征注意力做骨架恢复探测。总体结论是：LimiX-2 在 TabArena 全量及其分类、回归子集的所有报告指标上均列第一；在 TALENT 上各分组平均排名最低、改进空间最小、聚合胜场最多；成对胜率对全部展示对手占多数甚至大幅领先。标度律部分拟合若干参数规模的 Elo，发现下游性能随模型容量呈对数线性增长，各任务斜率不同。因果探测声称 LimiX-2 的注意力恢复的骨架优于其他表格基础模型、树模型特征重要性和专用因果发现方法。需要注意 BCCO 结果一节在正文中只有标题而无具体内容。

1. TabArena 全量（51 数据集）上，LimiX-2 四项指标均列第一：Elo 1935，比亚军 TabFM+ 高 117.4 分（未取整前）；improvability 3.3%；平均排名 5.5；聚合胜场 18.9 对 TabFM+ 的 5.3，约为 3.6 倍。

   It attains the highest Elo score of 1935, exceeding the Elo runner-up, TabFM+, by 117.4 points before rounding, and yields an improvability of 3.3% versus 6.2% for TabFM+. Consistently, LimiX-2 achieves an average rank of 5.5, compared with 9.0 for TabFM+, and records an aggregated win count of 18.9 against 5.3 for TabFM+, corresponding to approximately 3.6 times as many aggregated wins.

2. TabArena 分类子集（38 数据集）：Elo 1917、improvability 4.3%、平均排名 6.0、聚合胜场 10.6、平均成对胜率 94.5%，四项指标均第一。

   It attains an Elo of 1917, an improvability of 4.3%, an average rank of 6.0, an aggregated win count of 10.6, and an average pairwise win rate of 94.5%.

3. TabArena 回归子集（13 数据集）：Elo 2206、improvability 0.6%、平均排名 3.8、聚合胜场 8.3、成对胜率 96.9%，均第一；TabFM+ 2063 次之，AutoGluon 1.6（NC, 4h）2060。

   achieving an Elo of 2206, an improvability of 0.6%, an average rank of 3.8, an aggregated win count of 8.3, and an average pairwise win rate of 96.9%. TabFM+ is the Elo runner-up at 2063, followed by AutoGluon 1.6 (noncommercial, 4h) at 2060.

4. TabArena 成对胜率：对 TabFM+ 65.2%、TabFM 67.7%、AutoGluon 1.6（NC, 4h）78.3%、EXAONE Tabular 79.0%、Causilo 79.3%、Mitra-v2 81.3%；对其余展示表格基础模型超 90%，对调优集成的树/神经网络基线至少 95%。

   In particular, its win rates against TabFM+, TabFM, AutoGluon 1.6 (noncommercial, 4h), and EXAONE Tabular are 65.2%, 67.7%, 78.3%, and 79.0%, respectively. It also achieves 79.3% against Causilo ( Nums AI Inc., 2026 ) and 81.3% against Mitra-v2. Its win rates exceed 90% against the remaining displayed tabular foundation models, including Xiaomi-TabLDM, and reach at least 95% against the displayed tuned-and-ensembled tree-based and neural-network baselines.

5. TALENT 上 Elo 1506，比 TabFM 高 35 分、比 AutoGluon 1.6（EX, 4h）高 68 分；improvability 降至 6.75%，相对 TabFM 的 9.17% 降低 26.4%。

   Its overall Elo reaches 1506, exceeding TabFM and AutoGluon 1.6 (EX, 4h) by 35 and 68 points, respectively. The improvability decreases to 6.75%, compared with 9.17% for TabFM, corresponding to a 26.4% relative reduction.

6. TALENT 聚合胜场 84.3 对 TabFM 的 50.1，约为 1.7 倍。

   LimiX-2 also records an aggregated win count of 84.3, versus 50.1 for TabFM, approximately 1.7

7. 参数效率：LimiX-2 以少 4 倍的参数量超过 TabFM。

   LimiX-2 surpasses TabFM despite being 4 times smaller in model parameter size.

8. 标度律拟合（参数取对数、Elo 线性）：TabArena 截距 α=1863.88、斜率 β=34.68、R²=0.9808、RMSE=8.31；TALENT 分类 β=22.16、回归 β=18.26；BCCO 分类 β=11.24、回归 β=30.06，各系列 R² 介于 0.9617–0.9808。

   TabArena | 1863.88 | 34.68 | 0.9808 | 8.31 TALENT classification | 1427.25 | 22.16 | 0.9792 | 5.53 TALENT regression | 1545.12 | 18.26 | 0.9680 | 5.69 BCCO classification | 1295.86 | 11.24 | 0.9617 | 3.84 BCCO regression | 1795.89 | 30.06 | 0.9702 | 9.03

9. 规模收益：TabArena 上 Elo 从 12.5M 参数的 1766 升到 406.2M 参数的 1935，增益 169。

   On TabArena, Elo increases from 1766 at 12.5M parameters to 1935 at 406.2M, yielding a gain of 169 Elo

10. TALENT 分类与回归在同一参数范围内分别提升约 109 与 89 Elo；BCCO 分类提升 56、回归提升 147；BCCO 回归斜率 30.06 每翻倍为第二大。

    On TALENT, classification and regression improve by approximately 109 and 89 Elo, respectively, over the same range. The trend generalizes to the disjoint BCCO benchmark collection, where classification gains 56 Elo and regression gains 147 Elo. Notably, BCCO regression exhibits the second-largest scaling coefficient, at 30.06 Elo per doubling.

11. 因果骨架恢复（定性）：LimiX-2 的特征注意力恢复的骨架优于其他表格基础模型、树模型特征重要性与专用因果发现方法。

    The results demonstrate that LimiX-2 outperforms other tabular foundation models, tree-based feature importance methods and dedicated causal discovery methods, indicating that its feature attention encodes causal structural information.

Novelty：范式层面有真正的新意：把 PFN 的目标中心后验推广为机制中心的联合条件建模 p(x,y|D_context)，并让监督预测、插补、因果推断共用同一接口，这是相对 TabPFN、TabICL、TabFM、Mitra 的清晰概念区分。CCMM 作为更稠密的监督目标延续自前作 LimiX，非本文首次提出。架构部分多为增量工程：非对称特征轴注意力、独立 SwiGLU、低秩 DFE、长度稳定缩放、回归分箱头，分别有合理动机但单个贡献有限。SCM 数据引擎的扩展主要增加图、函数与观测多样性，属广度扩展而非原则性新方法。因果骨架恢复作为能力探针较有新意，但更像事后解释而非训练驱动。 Soundness：整体评估框架扎实：采用官方协议、多随机种子、Elo 自举置信区间、大量基线，覆盖分类、回归、缺失与因果。内部一致性较好（标度律趋势、各表数值自洽）。但存在明显缺口：文中没有对关键设计（不对称注意力、双路径、DFE、K 槽、掩码模式、分箱数、层数）的消融；BCCO 结果一节为空；因果骨架恢复只给定性结论，无 SHD/F1 等指标和与 PC/NOTEARS 的标准化对比；未报告预训练算力、数据量或 FLOPs；跨框架基线实现差异可能混淆归因；Elo 置信区间较宽，与亚军的差距是否显著未被正式检验。 Significance：若结果可复现，意义较大：一个模型免训练覆盖多种表格任务，能降低表格 ML 的工程成本；标度律为继续投入容量提供依据；注意力编码因果结构提示了可解释性。对社区而言，它把竞争从“更好的 PFN”推向“联合分布建模”，可能影响后续研究的问题设定。但意义受限于可复现性、消融缺失与仅合成数据预训练，需要独立验证后才能确认。

主要局限如下。一是缺少消融实验：正文没有报告对非对称特征轴注意力、独立 SwiGLU、低秩 DFE、K 槽、各掩码模式、回归分箱数、层数等关键设计选择的控制变量结果，无法把性能提升归因到具体机制。二是 BCCO 一节只有标题没有正文，无法核验其在缺失与不完整数据上的表现；缺失值插补虽有声明但未给出基准结果。三是因果骨架恢复只给出定性结论，缺少 SHD、F1、AUROC 等定量指标，也未与 PC、FCI、NOTEARS 等标准因果发现方法做规范化对比，注意力阈值到因果边的映射缺乏可识别性论证。四是未报告预训练算力、数据规模、FLOPs、训练时长与成本，影响可复现性与效率判断。五是基线成绩部分取自公开排行榜特定日期快照，跨框架实现与预处理差异可能影响公平性；Elo 置信区间较宽，与亚军的差距未做显著性检验。六是仅合成 SCM 数据预训练，真实世界分布漂移、数据泄漏与泛化上限未讨论；标度律外推到更大规模属于预测而非实测。七是文中称比 TabFM 少四倍参数但未给出 TabFM 参数量，对比细节不完整。

后续工作可沿以下方向展开。一是逐项消融：移除或替换不对称注意力、双路径 FFN、DFE、K 槽、长度缩放、各掩码模式与分箱数，量化各自贡献。二是补全 BCCO 结果、缺失值插补与校准/概率质量评估，验证统一接口的多任务能力。三是因果发现用标准指标与标准算法（PC、FCI、NOTEARS、DAG-GNN 等）对比，并研究注意力阈值选择与跨数据集稳定性。四是实测十亿参数级模型，验证标度律外推，同时研究数据标度律（合成数据量、多样性、真实数据混合比例）。五是在真实表格语料或下游领域做继续预训练与适配，检验合成预训练的迁移与域外泛化。六是效率与推理成本：与梯度提升树在长上下文、宽表、大样本下的延迟与内存对比，研究更长上下文与更大特征维度的扩展。七是把特征注意力与条件独立性/因果邻接形式化联系，给出理论或合成基准验证。八是开放权重与完整评估日志以支持独立复现。

本文的定位不是提出新的科学基准或单一模型，而是把世界科学代码库转化为智能体可学习环境的基础设施。作者把问题命名为"科学经验瓶颈"：论文、仓库与数据不会自动成为可训练环境，因为工具链异构、验证依赖物理量/数值容差/未成文惯例。ScienceIDE 位于两类工作的交叉点：一边是 SciCode、ScienceAgentBench、SWE-bench Science 等评测资源，它们提供评估单元却不提供任务生产与训练接口；另一边是 SWE-Gym、R2E-Gym、SWE-smith 等代码环境工厂，它们有任务生成机制但缺乏科学正确性契约。其核心主张是：经专家批准的"科学模块+检查"成为可复用单元，环境专用工厂据此重复产任务，SFT/RL/评测消费交互轨迹，专家判断与重复任务生产被解耦。实验部分用 ScienceIDE-Hard 比较十五个智能体，并对 Qwen 基座做 SFT/RL，展示留出科学修复与部分通用基准的提升。

代码智能快速进步的重要原因是仓库、编译器和测试让动作可观察、结果可检查，模型能行动、观察后果并从失败中学习；这也支持可验证奖励的强化学习。科学智能更难：编码任务通常给出问题、目标与验收测试，而发现导向工作要求识别有价值的问题、通过干预检验假设、从证据迁移结论。科学把这些要求集中在与代码、数据、模拟器的持续交互中，其中经过验证的数值模型提供外部检查的训练信号。但把机会变成训练经验会遇到瓶颈：异构工具链与配置使科学仓库难以可复现执行；验证依赖物理量、数值容差与不成文惯例；可运行代码还必须变成有行为验证、分级反馈和记录交互的有意义任务。现有科学编码与可复现基准（SciCode、ScienceAgentBench、LAB-Bench、SciGym、DiscoveryBench、CORE-Bench、PaperBench、AInsteinBench、SWE-bench Science）评估智能体，却不提供跨仓库、跨任务族扩展经验的生产基础设施；SWE-bench Science 尤其强调软件测试会低估科学契约。代码侧的 SWE-bench、SWE-Gym、R2E-Gym、SWE-smith、SWE-RL 提供了环境与任务规模化机制，但未解决科学验证的特殊性：要比较哪些科学量、在什么工作负载与容差下、如何把部分进展转化为奖励。ScienceIDE 试图填补的正是从科学策展到可重复任务生产再到模型学习的连接。

整体管线。构造单元是版本化代码库中的"科学模块"，模块拥有连贯的科学责任与可执行覆盖，而非简单按文件分组；环境把获批模块与其运行期和科学检查打包；工厂把任务作者化流程特化到某环境；经验证的任务给出初始工作区、交付物与验证器；episode 是智能体与任务的一次交互，产出产物、轨迹与可测量结果。 环境构建。智能体先检查固定的上游版本、依赖、许可证与构建假设，构建源码并运行官方测试与示例；这些运行暴露输出格式、数值波动、昂贵路径与执行风险。智能体提议模块，模块需标识输入输出、算法阶段、拥有的实现路径、排除的责任与支撑测试；领域专家评审分解与覆盖，一个仓库可贡献多个环境。智能体实现环境专用实验适配器并提议科学输出，策展人掌握模块边界与等价契约；注册表与 CLI 强制结构并追踪来源，但不替专家选择科学可观测量。 从官方测试到科学检查。奖励单位是 check：固定输入+分级输出+通过策略。逐点策略比较每个分级值 |c−r| ≤ a + ρ|r|，a=ρ=0 即精确相等；其设计直觉是：只要界在一个有科学意义的窗口内包含实测灵敏度、同时仍能拒绝真实故障，就优先用逐点。比较对象是物理可观测量而非簿记信息：无序集合按输出携带的身份对齐（粒子性质跟随粒子 ID 而非数组槽位），存储顺序、自适应步数、计时、rank/chunk 布局、随机抽取、特征向量相位都不算可观测量。不变式策略在逐点界无法同时容纳逐次波动与拒绝故障时，比较矩、分布、守恒量或积分范数；若缩短分级窗口后物理仍成立，先缩短窗口，否则从一开始用不变式。标定用名义与变体初始条件把选择变成可测量：变体扰动最小充分的活跃输入集合，让分级输出暴露数值灵敏度；可选 altbuild 在另一合法构建上记录跨构建分离。自校验要求名义与变体独立复现参考并获满分。每个 check 携带平实语言 warrant：说明比较什么、该界旨在区分哪种科学相关偏差、为什么合法实现能通过。检查套件在任务作者化之前固定，任务可改变请求的工作，但验收契约不变。 任务工厂与验证。工厂把可复用作者化程序与环境科学上下文结合；共享程序处理可逆编辑、执行与产物组装，局部规则识别活跃路径、用例、构建配方与有意义的变换。七类任务为加速、修复、发现、复现、集成、标定、实现；修复与实现通过可逆突变和切除实现可自动化候选扩展，其余类别为专家指定目标提供接口。工厂提议只有经过可执行证据才成为任务：对注入修复，已知有效见证必须通过、未修复基线必须留出余地、变更必须产生由参考修复消除的 check 失败；还要过编译、原生执行与覆盖，防泄漏打包与执行完整性检查。修复分数把部分完成度对缺陷起点归一化：r_repair = max(0, (r−f)/(1−f))，其中 r 是科学一致度、f 是未修复构建得分；直觉是把 f 映射到 0、1 映射到 1，从而只有相对缺陷基线的净改进获得分数。设计难度标签与按模型/面板/脚手架/预算/日期测量的难度分离，跟踪审计区分求解失败、预算耗尽与基础设施故障。 episode 接口与学习。智能体获得可编辑工作区，可检查代码与科学输入、做修改、跑实验，并向私有验证器提交产物；harness 记录动作、观察、check 奖励、执行状态与资源使用，区分科学分歧、交付不完整与基础设施故障。SFT 消费轨迹并监督含工具调用的动作，RL 把策略控制的 rollout 接到验证器奖励。 SFT 数据与训练细节。示范由 GPT-5.6-sol 生成并经数值等价验证器筛选；训练分块 4,567 段来自 564 个任务，验证 544 段来自 81 个任务，按任务标识不相交。用 ms-swift 对所有线性层做 LoRA（秩 32、缩放 64、dropout 0.05），BF16、全局批 64、36,864 token 序列上限、学习率 2×10⁻⁵、3% 预热、余弦衰减、三 epoch（216 步）。损失只监督新的助手动作与工具调用，指令、观察、复用历史以及被标记为失败/重复的动作为上下文被掩码。留出修复评测用贪婪解码、8,192 token 上下文、2,048 token 响应上限，由固定 runner 应用补丁并跑原数值检查，保留部分分。 RL 算法与截断掩码。奖励只在 episode 结束后由验证器给出，是跨几十轮、数万 token 的结果级信号。rollout 与训练在不同 GPU 上并发，用 token 级截断重要性采样修正单步策略陈旧。生成用 vLLM、优化用 PSRL（veRL 定制）驱动黑盒 harness，直接消费验证器原生奖励。对每组 G=8 条轨迹、奖励 R_i，组相对优势 Â_i = R_i − (1/G)ΣR_j，刻意去掉原 GRPO 的标准差除法（Dr. GRPO），因为近双峰的组奖励会放大孤立成功；token 用 PPO 式裁剪比更新，裁剪界不对称（ε_low=0.2、ε_high=0.3），让少见的修复动作保留概率质量上升空间；损失按 token 均值聚合。关键病理：episode 可因修复完成、轮数上限或响应预算耗尽而结束，但结果级奖励把三者同样评分；预算截断轨迹在正均值组中获得负优势，在 token 均值聚合下对最长轨迹惩罚最重，于是策略可通过缩短轨迹来提高奖励。论文观察到未掩码运行的奖励先升后跌破起点、每轮 token 数降三倍以上，形成"缩短→更多截断→更强惩罚"的自强化循环。修复方法是把截断轨迹保留在组基线中但从损失中掩码，其奖励仍进入优势计算；同时关闭 DAPO 的奖励侧长度惩罚，理由是长度反映缺陷定位与修复难度。

实验分三块。第一块在 ScienceIDE-Hard 的留出任务上比较十五个智能体（通过 Codex、Claude Code、Gemini CLI 接入），以严格科学成功（修复分数为一）为主指标，并分析预算曲线、成本与输出体量的相关性，以及轨迹级失败机制。第二块对三个规模的 Qwen 基座做 SFT，用数值等价验证器筛选的 GPT 演示训练，评测任务标识不相交的留出科学修复奖励与若干公开代码/推理/知识基准。第三块在两个科学环境上做在线 RL，直接以编译并运行科学模拟得到的验证器分数为奖励，重点验证截断掩码修复：对比未掩码的长度坍缩病理与掩码后的奖励、截断率和每轮 token 变化。具体数字均见下方 claim-quote 对。

1. 注册表规模：64 个环境来自 27 个科学代码库，共 2,812 个制造任务（修复 2,515、实现 295、加速 2），另有 1,076 个可执行数值检查。

   ScienceIDE provides 64 environments from 27 scientific codebases and 2,812 manufactured tasks (Figure 1 ), of which repair and implementation supply nearly all (2,515 and 295) and acceleration two so far; each environment designates the workload an acceleration task must speed up. A companion collection provides 1,076 executable checks of numerical outputs and physical invariants.

2. 十五个智能体在 ScienceIDE-Hard 上的严格成功率：Fable 5.1 最高 67.1%，Opus 5 为 64.6%，Astra 为 63.1%，Sol 为 55.0%，其余十一个低于 40%。

   Fable 5.1 has the highest observed success rate at 67.1%, followed by Opus 5 at 64.6% and Astra at 63.1%. Sol reaches 55.0%, while the remaining eleven agents score below 40%.

3. 预算曲线：10 分钟时 Astra 49.6% 对 Fable 25.9%；约 31 分钟 Fable 反超；20–60 分钟间 Astra 仅增加 2.0 个百分点，Fable 增加 11.8、Opus 16.0、Qwen3.8 Max 30.2。

   At ten minutes, Astra reaches 49.6% success against Fable’s 25.9%; Fable overtakes it at approximately 31 minutes (Figure 8 ). Between 20 and 60 minutes, Astra gains only 2.0 percentage points, compared with 11.8 for Fable, 16.0 for Opus, and 30.2 for Qwen3.8 Max.

4. 成本与效率：Fable 每任务约 7.90 美元达到 67.1%，Astra 3.56 美元达到 63.1%；Astra 平均 9.4 分钟/13.9k 输出 token，Fable 16.8 分钟/85.7k token；DeepSeek V4.1 Flash 输出 172.4k token 只有 36.0%。

   On the leaderboard cohort, Fable achieves 67.1% success at an estimated $7.90 per task, while Astra achieves 63.1% at $3.56 (Figure 9 ). Astra averages 9.4 minutes and 13.9k output tokens per task, compared with Fable’s 16.8 minutes and 85.7k tokens. DeepSeek V4.1 Flash produces 172.4k output tokens per task for 36.0% success.

5. SFT 后留出修复奖励：4B 在 PLUTO-Particles-Dust 从 0.0000 到 0.3333；9B 在 PLUTO-RMHD/ResRMHD 从 0.0000 到 0.2857、LAPS 从 0.3125 到 0.5000、MITgcm-Biogeo 从 0.0625 到 0.1250。

   For 4B, mean reward on PLUTO-Particles-Dust rises from 0.0000 to 0.3333 (+33.33 points). For 9B, it rises from 0.0000 to 0.2857 (+28.57 points) on PLUTO-RMHD/ResRMHD, from 0.3125 to 0.5000 (+18.75 points) on LAPS, and from 0.0625 to 0.1250 (+6.25 points) on MITgcm-Biogeo.

6. SFT 代码基准增益：4B 在 HumanEvalFix JavaScript 提高 10.98 个百分点，QuixBugs Java 从 0.400 到 0.500；CodeXGLUE 缺陷检测从 0.422 到 0.492（仍低于 0.5）。

   For 4B, HumanEvalFix JavaScript improves by 10.98 percentage points, and QuixBugs Java increases from 0.400 to 0.500 (+10.00 points). CodeXGLUE defect detection increases from 0.422 to 0.492 (+7.03 points), although final accuracy remains below 0.5.

7. SFT 推理/知识增益：9B 的 BBH Word Sorting 从 0.240 提高到 0.576，并伴随 GSM8K 提升。

   For 9B, BBH Word Sorting increases from 0.240 to 0.576 (+33.60 points), alongside a gain on GSM8K.

8. RL 留出奖励：30 步后 LAPS 从 0.357 到 0.857（约 2.4 倍），MITgcm-biogeo 从 0.286 到 0.571（约 2.0 倍），均相对 Qwen3.5-4B 基座。

   after 30 training steps, LAPS from 0.357 0.357 to 0.857 0.857 ( 2.4 × 2.4\times ) and MITgcm-biogeo from 0.286 0.286 to 0.571 0.571 ( 2.0 × 2.0\times ) over the base Qwen3.5-4B checkpoint.

9. RL 训练动态：LAPS 平均训练奖励从 0.427 到 0.828，完成样本平均奖励从 0.683 到 0.883，预算截断从 39.5% 降到 6.6%。

   Comparing the first and last five recorded steps, LAPS mean training reward increases from 0.427 0.427 to 0.828 0.828 , while mean reward among completed episodes rises from 0.683 0.683 to 0.883 0.883 . At the same time, budget truncation drops from 39.5 % 39.5\% to 6.6 % 6.6\% .

10. 截断下降并未以缩短回复为代价：LAPS 平均每轮 token 从 1103 增至 1135，MITgcm-biogeo 从 780 增至 914。

    Truncation falls without shorter responses: mean tokens per turn increase from 1103 to 1135 on LAPS and from 780 to 914 on MITgcm-biogeo.

11. 失败机制：参考惯例不匹配占 Fable 任务均衡失败的 71.4%、Astra 的 64.9%。

    Reference-convention mismatches account for 71.4% of Fable’s and 64.9% of Astra’s task-balanced failures (Figure 15 a).

12. 历史污染审计：5,314 次试验中发现 455 条指向上游的命令，21 次确认成功抓取，其中 13 个被记为已解决。

    later trajectory inspection found 455 upstream-directed commands among 5,314 trials, with 21 confirmed successful fetches and 13 scored as solved.

Novelty：新颖性中等偏上。把"专家科学契约"做成可复用检查、并用工厂反复产任务是清晰且有价值的综合：check 的逐点/不变式二分、warrant、名义/变体与 altbuild 标定，比一般软件测试更明确地把"什么是科学正确"编码为可执行验收。任务工厂七分类与"修复分数对缺陷基线归一化"也有具体新意。RL 部分的截断掩码是对 GRPO 类长度奖励捷径的明确诊断与修正，方法上可迁移到其他长程结果级奖励场景。但整体范式仍承接 SWE-Gym/R2E-Gym/SWE-smith/SWE-RL：把仓库变环境、程序化造任务、从轨迹学习并非首次；科学侧的特殊性主要体现在容差与可观测量契约，而非全新架构。 Soundness：稳健性为中等。强项包括：任务需见证/基线/参考修复三重校验才能入库；私有验证器防止浅层测试自欺；SFT 按任务标识不相交划分；论文主动披露历史污染与声明被改写等审计问题，透明度较高。弱项包括：榜首 Fable 仅单次测量，点估计排序被作者自己也否定；重复尝试中模型-任务对存在成败混合，聚合成功率可能掩盖不稳定；SFT 迁移只覆盖选定公开基准且无多重比较校正，部分增益绝对值很小；RL 只在两个训练环境内做提示型留出任务，无跨代码库迁移、无多种子方差估计；任务数少且工厂变体可能共享代码路径，不能把任务计数当作独立覆盖。总体结论措辞克制，与证据基本匹配，但外部效度与统计强度不足。 Significance：潜在意义较高但尚未兑现。若该基础设施按目标扩展到更多代码库与任务族，且跨代码库迁移被证实，它将为科学智能体提供类似 SWE-Gym/SWE-RL 之于代码智能的规模化经验来源，并把专家策展成本摊薄。当前证据集中于计算物理与地球科学的修复/实现任务，且"一千环境"仍是开发目标；对开放发现、假设竞争与多有效解的支持尚未实现。因此对领域的影响取决于后续发布规模、外部审计与跨域迁移证据，目前更多是基础设施命题而非已验证的通用科学智能方案。

论文自陈的局限包括：证据限于可参考验证的软件任务，以计算物理与地球科学的修复和实现为主，不覆盖开放发现；任务族与千环境发布仍是目标；工厂生成变体可能共享代码路径与假设，任务数不能度量独立科学覆盖；硬集只探测到一小时预算与两个耦合编辑位点。验证是科学建模选择：与所选可观测量和标定容差一致不等于检查之外正确，合法替代实现可能与参考不一致；缺少独立外部审计与对抗性奖励黑客评估。工厂摊薄而非消除专家策展，扩展仍依赖领域知识与上游再分发权；仓库、依赖或硬件变化需要重新验证。模型比较是模型-harness 系统在固定预算下的结果，服务速度与不均匀重复覆盖限制精细排序；检索控制不能排除对公开源码的预训练记忆，历史镜像保留时间戳线索，难度选择早于完整检索隔离，故选择未被证明无污染。SFT 增益只涉及选定公开基准，RL 增益只涉及训练环境内的提示型留出任务，均未证明跨未见代码库迁移；SFT 分离只按任务标识而非相关变体验证，RL 未估计种子间方差。此外可补充：摘要宣称的 PhAI-IDE 模型与正文基于 Qwen 基座的 SFT 检查点之间的命名对应不够清晰；历史审计承认 455 条上游命令、21 次成功抓取、13 个被判解决，以及 19 个暂存脚本把隔离声明改写为公开，说明早期对照实验的完整性存在实质缺陷；对 Fable/Opus/Astra 等是否开源或可复现未说明，也限制独立验证。

后续阅读与复现建议：(1) 对照 SWE-bench Science、AInsteinBench 与 SWE-Gym/R2E-Gym，在相同代码库上比较任务质量、验证契约与学习增益，检验科学 check 是否比软件测试带来不同信号。(2) 关注作者是否真正开源环境、检查与任务注册表，并复核第 8、9 附录的审计账目；独立团队可重跑污染审计与对抗性奖励黑客测试。(3) 需要跨代码库与跨任务族的 SFT/RL 迁移实验：在训练环境之外的代码库上测修复/实现，并控制相关变体与预训练记忆。(4) RL 应做多种子、多环境重复，报告方差；消融截断掩码、组优势去标准差、非对称裁剪与长度惩罚的各自贡献。(5) 对开放发现任务，设计不依赖固定参考的检查（假设竞争、多有效解、新结果），否则 ScienceIDE 仍只是"复现与修复"基础设施。(6) 成本与策展账目：专家构建每个模块/check 的工时与失败率，决定"摊薄"主张是否成立。可跟进的问题包括：逐点容差标定在多尺度物理中的泛化、身份对齐对非结构化输出的适用性、以及预算截断掩码是否会在其他长程 agentic RL 中同样稳定。

In reinforcement learning for large language models, Proximal Policy Optimization (PPO) commonly uses a critic to estimate state values and reduce the variance of policy updates. However, we uncover a systematic failure mode in PPO critics, which we call Value Flattening: state values, estimated from multiple Monte Carlo continuations, change sharply across intermediate states while critic predictions remain comparatively flat. We further observe this phenomenon in a controlled FrozenLake environment and find that it becomes more pronounced as the state space grows. Our theoretical and empirical analyses relate Value Flattening to an implicit variance penalty in the critic loss and redundant updates from temporally correlated states with similar gradients. Motivated by these findings, we introduce SParse Proximal Policy Optimization (SP$^3$O), which applies the value loss to only a few well-separated states in each response to mitigate both effects. Experiments on Qwen3-Base show that

仅依据摘要，无法可靠判断方法 soundness 与实验充分性，请以原文为准。

这是一篇系统/基础设施类论文，核心对象不是新模型或新训练方法，而是"自主研究的多智能体协调层"。Agora 的主张是：把研究记录为一个只追加的 Git DAG，每个贡献是一个 commit，parent 边表示"建立在什么之上"；派生的索引暴露前沿、被忽略分支与验证状态；多样性感知的注意力分配规则防止社区坍缩到单一 leader。它刻意与端到端研究者（AutoResearch、AI Scientist 等）互补，不规定工作流，只提供持久的公共状态。论文的证据形态是一个持续运行：少量语言模型 worker 在无任务指派、无中心 planner 的条件下协作解决权重迁移问题，并把评估分数从随机基线推到接近训练模型水平，配以大量复现与一次人工干预的协调轨迹。论文的自我克制也很明确：它不声称 trace 能证明因果，而是在附录中提出受控对比作为下一步测量。

科学发现常被叙述为个人突破，实则由社区完成；多重/同时发现是常态而非例外（Merton 1961），群体产出不等于最强个体产出（Woolley 2010），近期工作也主张把 agentic AI 视为社会与制度系统而非单一大型推理器（Evans 2026）。AI 研究 agent 使协调问题难以回避：单个会话能跑代码、读论文、启动实验，但所学内容困在 transcript 或临时 worktree 里；下一会话不知道哪个学习率发散、哪个分支被放弃、哪个结果仍需独立复现。加 worker 会带来更多尝试，也带来更多重复搜索、更早收敛与更高的"重建谁做了什么"成本。现有多智能体框架多组织对话或角色工作流（Li 2023；Wu 2023；Hong 2023），适合单一任务；研究社区还需要超越任何 worker 的状态：公共前沿、不可变 lineage、负结果、独立验证，以及不强制单一 workflow 的注意力扩散方式。相关文献可归为五类：集体智能与科学制度（Polanyi 1962；Fortunato 2018；Evans 2026）；LLM 多智能体系统（role play、SOP、orchestrator、generative agents、repeated debate）；自主研究 agent（AutoResearch、ResearchAgent、AI Scientist、Agent Laboratory、MLAgentBench 等）；共享工作区与可复现 artifact（blackboard、DataLad、ReproZip、Whole Tale、RO-Crate、Nextflow/Snakemake/MLflow）；探索与 quality-diversity（bandit、UCT、novelty search、MAP-Elites、POET）。Agora 从中取一个窄切片：持久公共记忆、归因、验证与注意力分配，作为独立调度研究者的协调基板。

Agora 的设计把多智能体研究抽象为只追加 DAG：节点是贡献，边是"builds on"。平台要在任意时刻回答四问：试过什么（含失败）？哪些断言有独立支持或冲突？当前前沿（含被忽略的替代）在哪里？哪个精确 artifact 与 lineage 产生了报告结果？Table 1 把失败模式映射到机制：会话局部发现消失→只追加 Git commit + 显式 parent lineage；前沿不可见→leaf/hypothesis/verification/cluster/metric 视图；证据质量被 popularity 操纵→独立 follow-on、可替换验证裁决、自引排除；搜索多样性不足→语义聚类、多样性摘要、frontier 候选与 exploit/explore 槽位；可审计性不足→内容寻址 artifact、canonical commit、不可变修订、可重建索引。论文强调 Agora 是协调基板而非 lab manager：项目自定指令、指标、artifact 契约与安全边界。 **贡献图与溯源。** 项目状态是 DAG G=(V,E)，边 (u,v) 表示 v 建立在 u 上（Git 中 u 是 v 的父提交）。节点 v=(h,a,T,d,x,m,P,τ)：h 是 canonical commit hash，a 是发布账户，T 是标签集，d 是描述，x 是结构化元数据，m 是可选项目指标，P 是父集，τ 是服务器时间戳。因为身份是 hash、parentage 是 Git parentage，历史在构造上就是只追加且无环的。Git 是系统唯一依赖的状态：SQLite 索引、分析视图和报告中的图都从 Git history 导出并可重建。参与者通过 CLI 或 HTTP API 发布，不共享文件系统、模型或对话。 **贡献词汇表。** 保留标签带权重与规则：setup +5（零号 commit，无项目指标）；result +5（成功与失败都算）；insight +5（解释/模式，父节点标识被综合的证据）；hypothesis +5（具体未测提议，不得假装已测出指标值）；report +5（可读综合，引用结论所依据的节点）；verification +20/+10/−20（confirmed/partial/failed，恰好一个目标，绝不验证自己的工作）；endorsed 0（可见但排除在 fitness 之外）；wip 0（进行中以减少重复，可见但不传播分数）。 **轻/重发布路径。** 仅元数据的工作走 light path：客户端发 JSON，服务器创建 canonical commit。带代码的工作走 heavy path：参与者本地 commit、上传 Git bundle，服务器先验证再创建 canonical 服务器时间戳 commit。两条路径产生同一种节点，因此 lineage 与查询不关心哪条路径。项目以 agora init 创建 setup 贡献开始；此后参与者循环：analyze→pick parent→本地运行→publish→再 analyze。 **下游证据质量。** 证据分数是"其他账户建立在它之上"的加权计数：S(u)=Σ_{v:(u,v)∈E} 1[a(u)≠a(v)]·w(v)。直觉是只统计不同账户的 follow-on 工作，权重取子节点标签权重（如 verification 权重更高）。descendant count 追踪从 u 可达的合格下游工作；endorsement、wip、failed verification 不计入。自引排除防止工人靠延伸自己的分支刷分；若验证者更改裁决，最新裁决替换旧裁决对分数的影响，但两个 commit 都留在历史。论文明确说分数不是真值信号，只编码"被他人复现或 build-on 的工作比仅被投票的更可操作"这一窄断言。 **多样性感知注意力分配。** leaderboard 是好的 exploitation 信号但糟糕的地图：把所有人拉向同一父节点、隐藏负结果、让饱和 basin 看起来像进展。因此 analyze 一次返回多视图：metric leaders、most built-on、leaves、有潜力但未充分探索的 results、unverified results、contested verifications、open hypotheses、recent activity、tags、contributors。当 embedding 覆盖足够多贡献时，服务对描述做 single-link 聚类，报告簇数与大小、top-cluster share、基于熵的有效簇数、evenness、指标直方图与小簇 frontier；默认要求至少 50% 覆盖、cosine 阈值 0.90、成对分析上限为最近 5000 个贡献。候选排序采用多样性感知 UCB：U(v)=100·Q(v)+C·sqrt(log(N+1)/(n(v)+1))+100D/sqrt(1+ρ(v))。其中 Q(v) 是质量百分位（exploitation），第二项是探索奖励（n(v) 是 v 上的 follow-on 数、N 是总数，被探索少的节点奖励更大），第三项是多样性红利（ρ(v) 是近重复描述数，重复越多红利越小）；C 在指标分布紧贴最佳值附近时增大，鼓励离开饱和 basin。候选随后分三槽展示：exploit（复现/精炼 leader）、explore known（扩展薄簇中的有前景工作）、explore novel（检查 singleton 或极小簇中的未触碰节点）。论文认为槽位划分比精确分数更重要：它把 trade-off 摆到参与者面前，让项目能察觉社区正在坍缩成 monoculture。 **原型实现。** Go 服务 + CLI + Next.js web。每个项目在服务器 data root 下拥有 bare repo，canonical contribution refs 保证每个被接受节点可达。SQLite 八张表：agents、projects、contributions、parents、tags、cross-project references、embeddings、rate limits。贡献索引可从 Git 重建；项目元数据与认证状态需普通数据库备份。服务暴露 26 个 HTTP 路由，CLI 有 15 个命令组；读视图覆盖 projects/lineage/DAG/search/analysis/file browsing/diffs，写操作、clone、fetch 需 bearer 认证，rate limit 约束注册、贡献创建、搜索、项目创建与 bundle 大小，Docker 镜像打包 API、web 界面与持久存储。 **验证运行的训练/数据设置。** 任务是无训练数据、无梯度更新地把 pretrained 模型知识迁移到架构不匹配的目标：donor zoo 有 141 个开源模型（534 GB、32 个架构家族）；目标是 14 层 attention/SSM 混合模型，hidden size 672、7 个注意力头、untied embeddings、119,572,320 参数，维度刻意与所有 donor 不匹配。参与者提交 transfer(model, config) 函数，接收随机初始化目标并返回新权重；evaluator 固定随机种子为 42，在 200 条 FineWeb-Edu 文本的 512-token chunks 上用 GPT-2 tokenizer 计算 next-token loss 除以 UTF-8 字节数。规则禁止在 transfer() 内调用数据 loader，禁止 pretraining/fine-tuning，禁止修改 evaluator 或目标配置。随机基线 3.3923 bpb，训练过的 GPT-2 124M 约 1.0。worker 是运行前沿模型的 coding-agent 会话，launcher 在带 GPU 的容器中挂载单个账户凭证并 headless 启动；会话循环由 program.md 规定：read analyze→pick parent→fetch/checkout 精确 commit→做一处修改→evaluate→commit 可复现内容→push 描述与指标→发布 insight/hypothesis/verification→再 analyze。

论文报告了一次持续的自主研究运行：少量语言模型 worker 在共享 Git 图、无任务指派、无中心 planner 的条件下解决权重迁移问题。worker 发布了大量贡献，涵盖 scored results、insights、hypotheses、verifications 与一份 report。最佳方案把评估指标从随机初始化水平大幅推进，填补了到训练参考模型的相当一部分差距；其配方是把 donor 的 next-token 统计压缩进目标的 embedding 与输出头，再通过稀疏确定性编辑加入短程上下文信号。所有已发布的复现尝试均未失败。协调轨迹呈现快速早期 exploitation、一条狭窄的主干 lineage 与并行重复发现；一次中途的人工干预部署了多样性视图，随后社区离开了单一 basin。该运行构成案例研究，但不构成因果证据。

1. 持续运行设置：近十二天、十三个语言模型 worker，无指派任务、无中心 planner，处理权重迁移问题；共发布一千七百多个贡献，评估指标从 3.39 降到 1.899 bpb，填补到训练 GPT-2 124M 差距的 62%。

   We describe the system and report its first sustained use: a run of nearly 12 days in which 13 language-model workers, with no assigned tasks and no central planner, worked on a weight-transfer problem. Given 141 pretrained donor models and a frozen 119.6M-parameter attention-SSM hybrid whose dimensions match no donor, the workers had to initialize the target without training data or gradient updates. They published 1,703 contributions and drove the evaluator from 3.39 to 1.899 bits per byte, closing 62% of the gap to a trained GPT-2 124M.

2. 主结果：无训练数据、无梯度更新，社区最佳 transfer() 将冻结的 119.6M 混合模型初始化到 1.899044 bpb，对比随机初始化 3.3923 与训练 GPT-2 124M 约 1.0，填补 62% 差距。

   Without training data or a single gradient update on the target, the community’s best transfer() initializes the frozen 119.6M hybrid to 1.899044 bpb , against 3.3923 for random initialization and about 1.0 for a trained GPT-2 124M, closing 62% of that gap.

3. donor zoo 包含 141 个开源模型（534 GB）、32 个架构家族。

   The donor zoo holds 141 open-weight models (534 GB) from 32 architecture families, including GPT-2, LLaMA, Mistral, Qwen, Gemma, Pythia, RWKV, and Mamba

4. 目标是 14 层 attention/SSM 混合模型，hidden size 672、7 个注意力头、untied embeddings、119,572,320 参数，维度刻意与所有 donor 不匹配。

   The target is a 14-layer hybrid that alternates multi-head attention blocks ( Vaswani et al., 2017 ) with simplified Mamba-style selective state-space (SSM) blocks ( Gu and Dao, 2023 ) , with hidden size 672, seven attention heads, untied embeddings, and 119,572,320 parameters. We chose these dimensions so that no donor matches any of them.

5. 贡献构成：1,124 个 scored results、284 个 insights、203 个 hypotheses、165 个 verifications、1 份 report，其中 233 个 scored results 刷新最佳。

   The 1,703 contributions comprise 1,124 scored results, 284 insights, 203 hypotheses, 165 verifications, and one report, with tag overlaps; 233 of the scored results set a new best.

6. 前 18 个 scored contributions 贡献了约 98% 的总降幅。

   Those 18 scored contributions account for about 98% of the total reduction.

7. 明确标记为负结果的贡献有 53 个。

   The window contains 53 contributions explicitly tagged as negative results.

8. 最佳贡献的血统有 145 个 commit，来自 17 个账户中的 15 个；144 条父边中 115 条跨账户，因此不是单一 worker 组装的。

   The best contribution at cutoff has 145 commits in its ancestry, written by 15 of the 17 accounts; 115 of the 144 parent edges cross account boundaries, so no single worker assembled the recipe.

9. 参与者发布了 165 个 verification 贡献、覆盖 95 个不同目标；每个验证者都不同于作者，且没有报告失败。

   Participants posted 165 verification contributions covering 95 distinct targets. Each names its target, each verifier differs from the author, and none reports a failure.

10. 截止时图有 1,703 个节点、1,894 条边、149 个多父节点，一个连通分量包含 98.9% 的节点。

    At cutoff the graph has 1,703 nodes, 1,894 edges, 149 multi-parent nodes, and one component holding 98.9% of all nodes.

11. 696 对不同账户发布相同分数，63% 在一小时内、80% 在六小时内。

    Of 696 pairs of different accounts posting identical scores, 63 % 63\% are within an hour of each other and 80 % 80\% within six (Figure 5 ).

12. 5 月 2 日人工干预：分析视图显示超过三分之一活动集中在单一语义簇且 leaderboard 停滞，部署聚类/多样性摘要/多样性 UCB 后，次日出现首个 sub-1.90 结果。

    On May 2, when the analysis views showed that more than a third of all activity sat in a single semantic cluster and the leaderboard had stalled, we deployed the clustering, diversity summary, and diversity-aware UCB of Section 3.3 . Workers adopted the new views immediately, and the first sub-1.90 result was published the next morning by a worker that chose to follow the thin state-space cluster rather than extend the dominant one.

Novelty：单件技术并不新：内容寻址 Git、bandit UCB、语义聚类、可复现 artifact（DataLad/RO-Crate 等）都已有。新颖处在于把它们合成一个"研究 DAG"协调基板，并把下游证据分数与多样性槽位作为一等设计对象；相比 AutoResearch 的单 agent 或 AI Scientist 的端到端 pipeline，Agora 提供的是与任何研究者兼容的持久状态层。真实长时间、多账户、无中心 planner 的运行 trace 也是一种少见的经验性新对象。但没有新的学习算法、理论保证或对注意力策略的严格优化，总体 novelty 属中等。 Soundness：内部验证相当严谨：从导出的完整 trace 重算所有统计、按 import 链逐层阅读 winning code、不把 agent 叙述当作证据、确认无梯度更新与无评估数据接触。但因果推断缺失：没有无 Agora 或普通 leaderboard 的对照；主结果未由作者独立重跑，依赖 archived evaluator output 与 agent 复现；所有组件在同一 200 文本 dev evaluator 上选择，存在对该指标的过拟合，且最后一步改动幅度低于跨硬件差异；一次人工干预与后续变化相关但不可归因；分数公式与聚类阈值（0.90、50%、5000）是启发式且无敏感性分析。作为系统/案例论文可接受，但不支持"共享状态提高每单位计算发现"的强因果结论。 Significance：若 agentic research 真的规模化，协调层可能成为瓶颈，因此该方向有潜在重要性。Agora 提供了一个最小、可审计、可部署的方案和一个可供社区审计的真实 trace，并明确给出预注册式对照矩阵，价值在于可复现的制度化实验而非一个具体分数。但目前只有单任务、单次运行，通用性与因果收益都未证明，属于"方向性贡献 + 案例证据"，而非已确立的方法论。

第一，没有对照条件：未在同样模型与算力下运行无 Agora、flat log 或 central planner 的 arm，因此无法判断 Agora 是提高了发现效率，还是仅仅更整齐地归档了同样的并行浪费；论文自己也承认这一点。第二，单次运行、单任务（权重迁移）限制了外部效度；该任务可能恰好适合被发现的配方（评估器全局线性、sublayer 欠利用、大词汇 bigram 可分解）。第三，选择指标与评估器同一：所有组件在同一 dev evaluator 上选择，最终小数位不可信，最后一步改动小于跨硬件差异，需要 held-out evaluator。第四，作者未重跑 winning method，主结果来自 archived output 与 agent 复现，缺乏作者独立执行。第五，人工干预（部署聚类/多样性视图）与结果变化相关，无法排除时间或其他混杂因素，也无法分离"给地图"与"改分数规则"的作用。第六，证据分数、UCB 与聚类参数是经验设定，没有理论或敏感性分析；虽排除自引，但未做 sybil/联合操纵分析。第七，治理被下放：论文只提供 bearer auth 与 rate limit，未讨论恶意贡献、评估器污染、资源滥用或安全边界。第八，未测效率：只统计贡献数量，未统计算力或重复率，无法谈"每单位计算"的收益。第九，验证的"成功"依赖 brief 设定的 tolerance，且报告中没有失败案例，可能低估验证难度。

最直接的后续是执行 Appendix C 的 matched matrix（Isolated / Flat log / Central planner / Agora），预注册并以"每单位计算的发现量"为主指标、整个社区 run 为分析单元。第二，在多样任务上复现，测试 DAG 协调是否超出权重迁移这一特例。第三，引入 held-out 或独立评估器，把"搜索指标"与"泛化指标"分开，避免对 dev evaluator 的选择过拟合。第四，把验证自动化：sandbox 重跑、artifact 哈希、GPU/driver 身份记录，减少对人工 tolerance 的依赖。第五，把注意力分配从启发式 UCB 升级为可学习或可比较的策略，与 MAP-Elites、novelty search 等 quality-diversity 方法在 DAG 上对比，并做参数敏感性分析。第六，加入治理与安全层：恶意/错误贡献检测、sybil 抗性、成本预算、human-in-the-loop 政策与可审计性标准。第七，对证据分数的激励相容性做理论分析：自引排除是否足够、联合攻击如何破坏下游证据。第八，公开 trace 与代码作为公共 benchmark，让第三方审计并复现统计结论。

本文处理的是内存墙的“另一半”——静态权重。它把 MoE 推理从“权重必须驻留内存”的假设中解放出来：专家权重驻留在 SSD，按需 mmap 流式读取，峰值内存由活跃专家集而非参数总量决定。核心不是又一种卸载，而是训练了一个跨 token 的 prerouter，提前一个 token 预测下一层路由，并把预测直接当作路由消费，使“预取的专家集”与“实际路由集”在构造上完全一致，从而消除预门控系统的丢弃/回退。再叠加一个不合并的恢复 LoRA，补偿 int4 量化与路由替换的联合质量损失。工作位于 MoE 本地/边缘服务、专家卸载、预测式路由与低比特恢复 LoRA 的交界处，宣称在 24 GB 消费级机器上以约 3 GiB 活跃内存服务 35B 级 MoE，并开源框架、checkpoint 与 adapter。

内存墙由 Wulf 与 McKee 在 1995 年命名：处理器改进快于 DRAM，机器等待内存的周期占比不断上升。三十年后的 AI 推理同样受其约束，解码每读一个字节权重只做极少量 FLOP，而硬件 ridge point 高出几个数量级，瓶颈是字节，字节住在内存里。内存里两类数据行为迥异：KV cache 状态动态、随 token 增长；权重静态、训练结束即固定。业界先攻击动态半边：MLA 把 KV 压缩一个数量级，稀疏注意力把上下文固定到有限窗口，线性状态模型干脆去掉显式 cache。静态半边（几十 GB 权重）则用数据中心、专家并行与分片服务来吸收。本地两个标准答案在 35B 规模都失败：量化到 4-bit 触底，再低误差不可用且无后处理可救；MoE 稀疏在另一轴起作用——35B MoE 每 token 只激活约 3B 参数，这缩小的是计算而非存储，19.5 GB 仍需存在某处。相关工作中，MoE 路由主流有两族：softmax-topk（Qwen3.6 式，精确 softmax、top-k、重归一）与 sigmoid-group（DeepSeek-V3/Ling 式，sigmoid 分、组内 top-2 和排名、幸存组内 top-k、权重取原始 sigmoid 重归一缩放），Edge0 逐字实现两者并复用同一函数训练与推理 prerouter。pre-gated MoE 在同 token 内选下一块专家，决策在 block N attention 后产生、block N+1 取权重前消费，但该调度在流式引擎中不成立。卸载方面，llama.cpp --cpu-moe 把 MoE 专家放系统内存，PowerInfer 按热冷在 GPU/CPU 分神经元，Mixtral-offloading 与 MoE-Infinity 按流行度或重用距离缓存专家，FlexGen 把层级延伸到磁盘；它们都在移动足迹而非缩小足迹，且到达磁盘时不知道下一步需要哪些专家。量化方面 GPTQ/AWQ 使 4-bit 成为 PTQ 实际工作点，QLoRA 证明 4-bit base 加 adapter 可接近 16-bit 微调，专家跳过自蒸馏表明训练过的 MoE 可容忍减半专家数——Edge0 把该观察用于预测即路由。

Edge0 的机制由三层构成：SSD 流式专家执行器、prerouter（预测即路由）、以及不合并的恢复 LoRA；三者分别解决字节安置、读取时序与质量回收。一、SSD 流式专家层。40 层、256 专家、int4 affine group-64 的 MoE 每层专家权重约 453 MB（每个专家约 1.77 MB），路由专家合计约 18 GB（16.9 GiB），在 19.5 GB checkpoint 中占大头。Edge0 mmap 量化后的专家 safetensors，按字节范围按需读取，依赖操作系统 page cache 承载热数据，峰值内存跟踪活跃集而非参数量。执行器有四条路径，全部通过同一量化 gather 核计算 down(silu(gate(x))·up(x))，并由测试逐元素比对反量化参考（相对 L2<1%，实测残差≈0.24% 来自 bf16 内部精度），因此可以按层、按阶段自由切换路径而不改变输出：exact 是去重按需建包、堆叠、量化 gather 的正确性基线；staged 是解码主力，用槽表 take 映射路由索引、索引不离开 GPU，重复专家集复用缓存图节点，并用持久 sticky-slot 张量原位更新（incr_stack），每步只重写发生变化的专家，而不是重建每层 9 个堆叠张量（gate/up/down 权重及其 scales、biases）；hot 是每层固定 LRU 热专家集，命中走堆叠 gather、未命中回落 exact，对应 PowerInfer/Mixtral-offloading/MoE-Infinity 的热冷分裂；whole-layer 为 prefill 一次读入整层，利用逐层堆叠布局做 9 次直读而非 256×9 次构建，CPU 加载与上一层 GPU 执行重叠。关键洞察是驻留基线并不快：模型放不下时系统换页，而 Edge0 的代价是图构建与张量组装而非权重本身；oracle 实验把残余差距定位到每步张量组装，incr_stack 直接攻击这一成本。二、Prerouter：预测即路由。Naive 流式引擎在每层每 token 都因磁盘延迟停顿，因为第 N+1 层的专家选择依赖第 N 层输出，而该输出在需要发起读取时尚不存在。prerouter 用双移位打破依赖：第 N 层拥有的 head 在 token t 上、以第 N 层 attention 后 norm 输出为输入，预测第 N+1 层在 token t+1 的路由；第 N+1 层消费一个 token 之前的预测，其 SSD 填充与当前 forward 重叠。提前量必须是整 token 而非单层：同 token 的 pre-gated 方案需要每层同步和 head 求值，会排空 GPU 流水线，且下一层 attention 尚未计算；整 token 提前把 head 求值移出逐层关键路径，每步一次 flush 同时预测所有 staged 层（35B 32 层、8B 16 层）。head 结构为 fc1→erf-gelu→fc2，外加线性残差路径 ℓ，训练脚本用下一层 router 权重热启动该残差（默认 0），因此训练从“把下一层 router 直接作用于当前 hidden state”开始，MLP 只学修正项。输入特征拼接 hidden state 与两个 top-k one-hot：本层本 token 实际路由到的专家、以及上一 token 的专家（维度 d_model+2E；35B 为 2048+2×256=2560，隐藏宽 512；8B 为 1536+2×128）。head 以 fp16 导出。35B 携带 33 个 head（owner 6–38），8B 携带 16 个（owner 7–22）；预测在 35B 的 7–38 层、8B 的 8–23 层被消费，即 40 层中 32 层、24 层中 16 层由预测而非自身 gate 路由（35B 第 38 层拥有的 head 预测第 39 层路由但该层不 staged，故无消费者）。解码时 MoE 层用 prerouter 的 logits 路由，且走与原 router 完全相同的 softmax-topk 或 sigmoid-group 数学（附录 A），因此路由集=预测集，staged 槽精确对应、无任何丢弃；近似代价被转移到训练阶段一次性支付。特征漂移被显式建模：head 输入包含其层实际执行的路由，训练时是 base router 选择，解码时是 head 自身预测，head 不为此漂移重训；恢复 LoRA 在带 prerouting 的 student path 上训练，看到部署分布，质量测量把漂移与 int4、路由近似一起定价。两档消费配置为 8B K=8 八个 staged 槽、35B K=4 增量 sticky-slot 栈；prefill 走 whole-layer（每层所有专家都被命中、无可预测），prerouter 仅在解码被调用。三、恢复 LoRA：设计上不合并。服务模型是 (int4 base)+(路由替换)+(LoRA)，LoRA 用来补偿前两者。它在 student path（prerouter 路由）上以教师数据的交叉熵训练，联合补偿量化与路由近似。部署保持不合并：y=W4bit(x)+(α/r)BAx 作为并行 delta 计算，4-bit base 字节不动。合并后重量化失败是算术原因而非实现：LoRA delta 幅度低于 4-bit 组步长，重量化抹掉大部分权重级 delta，logits 级留存也很低（具体留存见实验）。不合并路径只多出少量 adapter 权重、无可测解码开销，且严格更忠实，因此 adapter 作为 base 旁的独立文件发布：一个只读 base 服务所有 adapter 代际，换档只需换两个文件。四、训练三段式。全程在 4-bit 部署 checkpoint 的反量化 bf16 重构上训练（训练即所服务），base 全程冻结。Phase 1 只训练 head，损失模仿下一层真实 router，让 head 学会预测路由而非拟合文本。Phase 2 在 student path 上 SFT：LoRA 挂在 attention、linear-attention 与 shared-expert 投影上，但不挂路由专家（其权重要流式、必须可替换），forward 全程启用 prerouter 路由，约两百万行教师生成文本；这一阶段使近似可用——仅蒸馏的 checkpoint 在 student 路由下产生重复、坍塌文本，同样 head 加 SFT 则输出连贯且速度内存相同。顺序不可交换：先 head（否则 SFT 信号淹没微小 head 梯度）、再 SFT、最后 on-policy 蒸馏。追逐更高 router 一致率是错误目标：从上一 token hidden state 的跨 token 预测受信息限制，真正重要的是语言模型在 student 路由下产出好文本。Phase 3 是 on-policy 蒸馏：Phase 2 checkpoint 生成，原始 fp16 base 打分作为教师，梯度穿过服务路径、在相同可训练面上回传；目标为 reverse KL（mode-seeking，不要求覆盖教师全部支撑），施加于教师 top-k token，top-k 外质量由 tail 项承载而非丢弃；约在 SFT 语料十分之一规模收敛。迭代经济学：换路由宽度只换 adapter 文件，冻结 base 使宽度成为唯一同时移动速度与内存的旋钮。

评估分质量与系统两面。质量在若干公开基准上用 OpenCompass、在相同设置下对比 Edge0（int4+adapter+prerouter 路由）与原始 fp16 base，不涉及时序。系统吞吐与内存均为单设备测量：档位数字在 Mac mini 上取得，prerouter A/B 在权重放不下的 MacBook 上同会话交替进行，用页缓存预热、匹配缓存预算、旋转臂顺序、重放相同采样序列、取重复运行中位数；作者明确单次基准波动大，故所有证据只用同会话对比。实验还覆盖主线程阻塞时间、不可回收分配与 RSS、加载次数与字节量、LoRA 合并留存、增量堆叠增益、路由宽度收窄增益，以及长链推理的质量损失集中。

1. 在 24 GB Mac mini 上，全量驻留 4-bit 权重反而更慢：Edge0 K=4 以 20.4 tok/s、2.9 GiB 超过驻留 3.9 tok/s、18.2 GiB。

   the Mac mini M4 Pro has 24 GB, and a vanilla mlx-lm server with all 19.5 GB of 4-bit weights resident decodes at 3.9 tok/s occupying 18.2 GiB, while Edge0 ’s K = 4 K{=}4 profile decodes at 20.4 tok/s occupying 2.9 GiB.

2. 8B 档在 28 tok/s 下峰值内存 1.5 GiB。

   an 8B hybrid at 28 tok/s inside 1.5 GiB

3. 恢复后质量接近 fp16：35B 档平均差 3.9 分，8B 档平均差 2.8 分。

   mean per-benchmark gaps of 3.9 points on the 35B tier and 2.8 on the 8B, close enough that we treat the two served tiers as quality-matched to their fp16 bases.

4. 五个基准平均分：35B 档 79.2 vs 83.2，8B 档 69.9 vs 72.7。

   Average | 79.2 | 83.2 | 69.9 | 72.7

5. AIME 上 35B 档 86.6 vs 92.7，8B 档 63.3 vs 73.3。

   AIME 2026 | 86.6 | 92.7 | 63.3 | 73.3

6. prerouter 在权重放不下的 16 GB 机器上带来 +80/82/84% 的解码增益。

   decode reaches 8.6, 6.4, and 3.3 tok/s against 4.8, 3.5, and 1.8 tok/s on demand: + 80 % +80\% , + 82 % +82\% , and + 84 % +84\% (Table 3 ).

7. 主线程被专家加载阻塞的时间大幅下降：K=2、4、8 分别从 154.9、244.0、575.0 ms 降至 46.5、101.9、211.6 ms。

   the time the main thread spends blocked on expert loads falls from 154.9 to 46.5 ms per step at K = 2 K{=}2 , from 244.0 to 101.9 ms at K = 4 K{=}4 , and from 575.0 to 211.6 ms at K = 8 K{=}8

8. prerouter 抬高不可回收 MLX 分配：K=2、4、8 分别为 1.72、1.73、1.79 GiB，对按需流式的 2.33、2.60、3.22 GiB。

   the prerouter raises it: 1.72, 1.73, and 1.79 GiB for on-demand streaming against 2.33, 2.60, and 3.22 GiB ( K = 2 , 4 , 8 K{=}2,4,8 )

9. LoRA 合并后重量化只保留少部分效果：注意力投影 34%、dense 投影 2%、logits 级 18%。

   LoRA deltas (RMS 10 − 3 10^{-3} ) sit below the 4-bit group step, so requantization erases most of the weight-level delta (34% of the effect survives on an attention projection, 2% on a dense projection), and at the logits level 18% survives.

10. incr_stack 增量堆叠进一步带来 +34% 解码。

    replacing per-step stacks with persistent sticky-slot tensors updated in place contributes a further + 34 % +34\% decode.

11. 同一缓存预算下把 K=8 收窄到 K=4 近乎翻倍解码（3.3 到 6.4 tok/s）并降低峰值活跃内存。

    narrowing from K = 8 K{=}8 to K = 4 K{=}4 nearly doubles decode ( 3.3 3.3 to 6.4 6.4 tok/s, Table 3 ) and lowers peak active memory

12. 质量损失集中于长链推理：AIME 差 6.1/10.0 分，MMLU-Pro 学生反超 4.3 分。

    Quality loss concentrates in long-chain reasoning: 6.1 points on AIME for the 35B tier and 10.0 for the 8B tier; every other 8B benchmark is within 6.7 points, and MMLU-Pro is 4.3 points in the student’s favour.

Novelty：新颖性中等偏上。专家卸载、预门控、LoRA 恢复、4-bit 量化分别都不是新事物，但把它们组装成“SSD 权重层 + 跨 token 预测即路由 + 不合并恢复 LoRA”的完整可服务系统，并给出使语言模型在替换路由下仍可用的三段训练配方，是有实质贡献的组合创新。“预测被消费为路由本身、staged 集等于 routed 集、无丢弃”这一构造消除了预门控系统在运行时的覆盖-质量权衡，是与 pre-gated MoE 的关键差异。不合并 LoRA 的留存量化（合并重量化几乎抹掉 delta）提供了一个有价值的负结果。两档开源 checkpoint 提高了可复现性，但本质上仍是工程集成，没有新的训练算法或理论。 Soundness：可靠性总体较好。正确性层面用逐元素比对与位一致路由数学守住了多路径切换的契约；系统实验意识到单次测量波动极大，坚持同会话交替 A/B、匹配缓存预算、旋转臂序、重放序列、取中位数，方法学严谨。但质量面较弱：只有五个基准、无方差或显著性，“几个点内”缺乏统计支撑；未做路由漂移的消融，head 一致率未被报告，无法区分增益来自提前量本身还是读取合并；prerouter 臂多读字节且多占不可回收驻留，作者承认这是 page cache 的代价，但收益的因果归因（预测正确 vs 仅提前发起）仍可更干净地分离。训练细节（数据、超参、教师评分）不足以完全复现。 Significance：意义在于重新框定了消费级大模型部署：把静态权重视为存储放置决策而非内存驻留必然。若开源框架与 checkpoint 可靠，35B 级 MoE 在 24GB 桌面、约 3GiB 活跃内存、可读速度下运行，对本地、隐私、低成本部署有实际价值，尤其与 MLA、线性注意力等 KV 压缩正交互补。其局限是单请求、CPU 侧组装地板、依赖慢存储与紧内存的 regime，故更可能是边缘设备与个人服务的利基方案，而非数据中心或多租户生产系统。它对“预测即路由”的训练化处理为后续 MoE 流式与卸载工作提供了可复用配方。

论文自陈的限制包括：Edge0 一次只服务一个请求，FIFO 串行，并发属于服务层，批处理会改变专家工作集而逐请求画像不建模；流式解码是 CPU 侧而非存储侧，40 层 forward 的图构建是每步硬地板，kernel 级图摊销或更小模型才能关闭；prerouter 增益随热缓存与快速存储缩小，且受重用约束——相邻 token 只有约四分之一专家集一致，预取专家常只读一次、付两次代价，其价格是从 page cache 拿走的不可回收驻留，这恰是内存紧张、存储慢的 regime 才成立。质量损失集中在长链推理（具体幅度见实验），恢复 LoRA 在其余基准回收大部分损失，推理仍是 int4 加路由替换可见之处。MLX 是唯一实现，backend facade 是抽象，CUDA 槽位只是架构而非代码。从审稿视角还应补充：质量评估只有五个基准、无多次运行方差或置信区间，“几个点内”是描述性而非统计性结论；训练数据为教师生成文本，未说明数据来源与许可、污染控制；prerouter 训练与推理存在路由漂移，文中依赖 LoRA 隐式吸收而非显式消融；冷页粒度、page cache 与 RSS 的交互被仔细测量，但其结论对 SSD 型号与页缓存策略敏感；无并发、无长上下文 KV 压力、无多用户竞争的直接实验。

可跟进的路线：一是并发与批处理。把单请求 FIFO 换成批量调度，重新刻画专家工作集，验证预测即路由在共享槽、批内路由合并下的收益是否保持。二是图构建税。文中指出每步 CPU 侧图构建是地板，后续可做 kernel 级图摊销、持久化槽与异步 fill 移至非主线程，或把 sticky-slot 增量组装下沉到设备侧。三是预测质量与重用的联合优化。当前 head 只学模仿 router，作者已主张一致率不是正确目标，可进一步以端到端文本质量或加载收益为信号训练 head，并引入面向重用距离与驻留成本的预取策略。四是把路由宽度、量化位宽、LoRA 秩作为联合搜索空间，因为冻结 base 使宽度成为文件交换旋钮，可产出多档速度-内存-质量帕累托。五是与 KV 侧压缩结合：8B 档已用 MLA+MoE，可系统研究 MLA 与线性注意力省出的内存如何转给活跃专家集或 page cache。六是推理能力恢复：长链推理损失最大，可对 chain-of-thought 轨迹做针对性蒸馏，或只在推理密集层保留更高精度与更大 K。七是后端与可移植性：补齐 CUDA 实现以检验 SSD→GPU 直读、pinned 内存与异步 I/O 是否改变结论。八是更严格评估：增加基准数、多次 seed 与方差、污染与数据来源说明、并发与长上下文压力测试。值得对照阅读的包括 pre-gated MoE、MoE-Infinity 的重用距离缓存、专家跳过自蒸馏、QLoRA 的 4-bit 适配，以及 llama.cpp 与 PowerInfer 的热冷分裂路线，以判断预测即路由相较热集缓存与同 token 预门控的边界。

本文是一份面向“通用 VLM 能否在机器人任务中做情境学习（ICL）”的实证框架研究，而非提出新的策略模型或训练算法。它引入 GPT-Policy——一个把现成 VLM 与机器人工具相连的共享闭环接口，在统一执行框架下比较不同模型如何使用不同上下文。其定位的贡献不是超越 GEN-1.5、S1、Zero-WAM 等专用具身模型，而是把问题从“专用策略能否利用演示”转向“固定参数的通用多模态模型在任务理解上能走多远、又在接触执行/结果验证/物理安全上如何失效”。论文把这一“感知—行动环中的适应成功与断裂”具象化为五类上下文实验，并据此给出具身基础模型的研究议程。

论文的背景问题是：机器人部署无法被训练集穷尽，适应新任务、陌生物体摆放与意外交互是具身 AI 的核心挑战。作者把“机器人 ICL”定义为：在测试时依据演示、示例或交互经验改变行为，而不进行梯度更新或持久任务特定参数变化。不同上下文对应不同行为维度——目标图像规定期望结果，人与机器人视频演示操作流程，对齐的机器人动作提供运动参考，交互历史记录过往观测与结果，在线人类反馈澄清意图或环境规则变化。最近专用机器人基础模型已展示这种能力：GEN-1.5 报告由物理提示实现的一次技能适应（含人-机器人与仿真-真机），S1 用视频演示指定新颖原子与长程任务，Zero-WAM 训练视频-动作模型跟随人类视频。论文由此提出互补问题：未经专用机器人策略训练、参数固定的现成 VLM 能多大程度支持机器人 ICL。相关工作有两条线：其一是通用智能体用于机器人控制，如 ASPIRE、ENPIRE 借助执行反馈自动改进策略与训练，RoboPrompt 由文本提示预测动作，Show-Harness 以离散语义动作接口做闭环 VLM 控制；其二是演示条件化策略，源自 Brown 的 ICL 与 Duan 的一次模仿，后扩展到传感器运动轨迹、几何演示表示、人类视觉演示及 RoboTTT 的长视觉上下文。GPT-Policy 的特殊之处在于：把 ICL 能力放在“无附加机器人训练、无测试时参数更新”的通用多模态智能体上检验，并强调执行端的失败是独立于任务理解的关键缺口。

GPT-Policy 的核心是一个参数固定的通用 VLM 策略 π_θ 与一个“机器人工具接口” ℰ 组成的闭环。每步决策中，模型依据任务指令 T、上下文 c_t、最新观测 o_t 与上一步工具结果 f_{t−1}，输出工具请求 a_t=(u_t,v_t)，即工具名 u_t 与参数 v_t；执行器执行后返回 (o_{t+1},f_t)。θ 在任务执行期间保持不变，既不微调也不做持久参数更新。上下文 c_t 由任务参考与在线历史组成：目标图像 G 规定结果；演示视频 V 以选定关键帧表示；录制动作 A 含测量状态、夹爪与命令；在线交互历史 H_t 记录观测、工具请求、结果与操作员反馈。 上下文编译器把参考组织为模型可读输入：视频被编码为按时间排序的帧块，并与相对时间、相机标签、阶段标注、状态/动作数值等文本记录交错；加载器保持“参考”与“在线图像”边界清晰。Provider 适配器管理历史：保留参考输入、限制旧在线图像，并保留累计文本或用主机生成的摘要替换旧交换，以维持回合与决策计数。这一层的直觉是：VLM 只负责“读上下文→选工具→给关键姿态”的高层离散决策，连续控制被隔离在执行层。 工具层把自然语言/结构化输出规范化为 JSON 或原生工具调用 (u_t,v_t)。Cartesian 请求暴露两类原语：move_to（单个 TCP 目标）与 move_eef_chunk（有序目标序列）；每个非空目标以 pose_xyzquat 给出位置 p∈R³ 与 xyzw 顺序四元数 R∈SO(3)，相对机械臂基座。双机械臂请求中，某臂 null 项表示保持前一姿态；Cartesian 运动期间夹爪不变，用 set_gripper 单独改变开口。这样模型不必输出关节级或连续控制信号，而是通过目标姿态与夹爪命令间接表达意图。 执行层从当前 TCP 姿态 (p₀,R₀) 出发，对连续目标做线性位置插值与四元数 SLERP（沿短弧）：p_j(s)=(1−s)p_j+s p_{j+1}，R_j(s)=R_j exp(s Log(R_jᵀ R_{j+1}))。先在几何路径上采样，再做逆运动学：q_k=IK(p̂_k,R̂_k;q_{k−1})，以前一解为种子并以规划时实测关节角初始化；验收条件是位置残差 ∥e_p,k∥₂≤ε_p、姿态残差 ∥e_R,k∥₂≤ε_R（YAM/ARX 为 0.002 m 与约 1°，Morphi Kino 为 0.003 m 与 0.02 rad）。顺序播种不设样本间关节位移硬界：这有利于平滑，但也意味着没有几何硬约束来阻止双机械臂碰撞。 时序由 Ruckig 负责：以标量进度曲线分配时间戳，端点速度/加速度为零。随后对采样参考做限幅缩放：令 r_v、r_a、r_j 为速度/加速度/加加速度与限值之比的最大值，取 α₀=max{1, r_v, √r_a, ∛r_j}，超过 1 时 α=1.001α₀，并把时间戳乘以 α（τ'_k=ατ_k）。注意关节样本不变、只拉伸时间，且校验的是采样参考而非连续时间物理加加速度。双机械臂各自规划后，对应段同步到较慢者。后端分发定时关节参考并回报实测状态、末端误差与 settling 状态；完成/被拒请求成为下一步反馈，故障或操作员中断可终止回合。模型声明的“完成”与物理任务成功被刻意区分——这正是论文反复强调的闭环缝隙，也可通过独立完成复核把未验证的完成请求退回控制环。 训练与数据方面：本文没有训练或微调，所有“学习”来自测试时上下文。真人视频每任务被压缩为若干关键帧（如拾毛巾、拾笔记本、拔胶盖分别约 8/6/7 帧），只含画面与阶段标注、无数值动作；遥操作机器人视频含时间戳图像、测量关节/末端状态与动作/夹爪命令，瓶盖任务 13 关键帧、插头任务 14 关键帧（42 图）。关键帧由视觉模型在重叠视频窗口内选关键时刻，再做全局去冗余（保留起止、接触、释放、臂角色切换），上限 24 关键帧/48 图、最长边 1280 像素。状态-动作对齐按共享时间轴最近邻匹配（0.1 s 容差），是时间戳匹配而非硬件同步曝光；动作样本约每秒保留一个，并保留段端点与夹爪命令变化两侧，供 Video+Action 推理而非轨迹直接回放。

实验覆盖五类上下文：真人视频演示、机器人视频/动作演示、目标图像、自交互历史、在线人机交互，在桌面抓取、精细操作、摆放、主动探索与协作任务上报告成功/失败、决策次数与执行时间，并做有无上下文或不同输入模式的对照。总体结果支持“任务相关上下文可提升完成率、多数情况下减少决策与耗时”的结论，但接触敏感与需结果验证的任务仍暴露失败；跨模型比较仅具示例意义，作者明确不据此建立可靠模型排序。

1. 单个真人视频演示把两个拾取任务的成功率从无上下文的 0/3 提升到 2/3。

   Human Video achieves 2/3 success on both tasks, compared with 0/3 under None.

2. 加入真人视频后，拾毛巾与拾笔记本任务的决策次数和平均执行时间均下降。

   For towel pickup, the average decision count decreases from 96.3 to 76.7 and average execution time from 24.6 to 18.9 minutes; for notebook pickup, the corresponding averages decrease from 94.0 to 66.7 decisions and from 24.6 to 16.1 minutes.

3. 瓶盖任务在无演示/机器人视频/视频加动作条件下成功率递增，动作参考达到 3/3。

   Table 1 reports bottle-opening success of 0/3, 2/3, and 3/3, averaging 71.0, 74.3, and 54.7 decisions and 16.1, 15.2, and 17.9 minutes.

4. 插头拔插任务仅视频条件仍为 0/3，加入时间对齐动作后达到 2/3。

   Plug-task success is 0/3, 0/3, and 2/3, averaging 24.0, 33.7, and 48.3 decisions and 5.3, 7.9, and 10.8 minutes.

5. 目标图像条件下两个摆放任务均 3/3 成功。

   GPT-6 Astra achieves 3/3 success on both tasks (Table 1 ), averaging 66.7 decisions and 15.8 minutes on “Arrange T Shape” and 49.0 decisions and 12.4 minutes on “Arrange Fruit.”

6. 自交互历史条件下两个任务均 3/3，移动探索的耗时远高于决策数相近的桌面任务。

   GPT-6 Astra achieves 3/3 success on both tasks (Table 1 ), averaging 35.3 decisions and 8.1 minutes on “Lemon to Pink Plate” and 40.33 decisions and 25.53 minutes on “Movable Exploration.”

7. 在线人机交互的两个任务均 3/3 成功。

   GPT-6 Astra achieves 3/3 success on both tasks (Table 1 ), averaging 69.7 decisions and 13.6 minutes on “Tic-Tac-Toe” and 67.3 decisions and 15.0 minutes on “Pointed Fruit Pickup.”

8. 单次运行对比中，真人视频使 GPT-6 Astra 的任务进度由 55% 升至 100%，另两个模型进度较低且资源消耗更少。

   For GPT-6 Astra, human video increases task progress from 55% to 100%, with approximately 35.6% shorter run time and 58.9% lower estimated token usage. Fable 5.1 and Kimi K3 use fewer resources but reach only 30% and 20% progress, respectively.

9. 动作参考在视频关键帧之外补充了密集的中间样本。

   Table 5 reports 205 retained action samples for 13 video keyframes in bottle opening and 131 samples for 14 keyframes in plug reinsertion.

10. 每个实验条件重复三次，样本量很小。

    Each experiment is repeated three times.

Novelty：中等。GPT-Policy 未提出新模型、新训练目标或新学习算法，其组件——VLM 工具调用、SLERP 插值、顺序 IK、Ruckig 时间缩放——均为既有技术。新颖之处主要在问题组织与实证：把机器人 ICL 系统性地迁移到“固定参数、无训练”的现成 VLM 上，并在统一闭环接口下覆盖五类上下文、给出“任务理解成功但执行可靠性不足”的统一归因。相比专用策略工作，这更像一个评估框架与议程设置，而非方法创新。 Soundness：中偏低。系统与方法描述较完整（接口、插值、IK 残差、时间缩放、数据对齐与采样都较清楚），但证据强度弱：每条件仅三次重复、无统计检验，主要结论依赖小样本与定性观察；跨模型比较只是单次运行，作者也承认不能形成可靠排序。因果声明受限于不完整消融与不可观测的预训练，且部分“成功”判据依赖人工语义/几何检查，缺乏可复现的客观指标。 Significance：中等。它把“通用 VLM 能理解任务、能做出正确动作选择，但不保证接触精度、结果验证与物理安全”这一感知—行动环缺口具体化，并据此提出安全层、接触感知、System1/System2 分层、移动主动感知、长程组合上下文与动力学适应等方向。对具身基础模型研究有议程价值，也有助于界定通用模型的“免费能力”与“必须专用学习”的边界；但当前小规模证据限制了其直接说服力。

作者自认证据覆盖小任务系列，消融不完整、预训练不可观测，限制因果与新颖技能主张；上下文质量、观察-动作对齐、执行延迟与人工干预都是约束，跨具身迁移与可靠自主操作需更广评估。实验层面更具体的问题包括：每条件仅三次重复、无统计检验；主体只依赖 GPT-6 Astra，跨模型比较仅是单次运行且不构成排序；无专用机器人策略（如 VLA）作对照，难以判断差距究竟来自通用模型还是接口设计；成功判据由任务特定的几何/语义准则定义，客观可复现性有限；多平台配置（YAM/ARX/Morphi Kino）在视图、深度、IK 后端、速度/加加速度约束上不一致，未作为受控变量；文中反复观察到双机械臂碰撞，说明规划器不做碰撞检查、现有安全措施不足以支撑自主部署。

最直接的跟进是给双机械臂增加独立于 VLM 的碰撞检查与安全层，并显式报告碰撞、近失与安全干预。其次是接触感知抓取：暴露抓取稳定性与接触后的物体运动，加入滑移检测、力限制与局部恢复。分层控制（System 2 VLM + System 1 VLA 做姿态精修与双机械臂协调）可承接论文提出的“何时局部反馈触发重规划”问题。移动操作方向应把主动感知扩展为“选择看哪里、站在哪里”，并引入持久空间记忆与底座-臂协调。长程任务可测试跨多个演示组合子技能、保留已完成子目标并丢弃过期上下文。另一个关键方向是用最近交互更新摩擦、柔顺与物体响应预测，检验“适应物理动力学”而非只适应任务描述。最后，需要扩大任务与模型规模、增加重复次数与统计检验，并加入专用策略基线，才能把当前的示例性发现提升为可推广结论。

本文针对自回归视觉-语言-动作（VLA）模型中的动作分词环节，提出一个不同于点式重建误差的评估与训练视角。作者认为，动作分词器决定策略训练目标与预测 token 解码出的可执行指令；MSE 只约束单个动作的逐点重建，无法刻画跨演示的动作调整是否被保留。为此，论文引入物理秩一致性（PRC），在解码后的物理动作空间中衡量局部距离排序保持程度，并据此提出 ActionPiece，在编码表征与量化分配两个阶段联合施加物理秩保持（PRP）与量化正则（QR）。在共享 Qwen3-VL-4B 策略训练设置下，ActionPiece 与 ActionCodec、OAT、FASTer、FAST、标准 RVQ 等动作分词器对比，并在 LIBERO、LIBERO-Plus、SimplerEnv、VLA-Arena 四个基准上报告成功率。论文的定位是改进动作表示接口而非提出新策略架构，其核心贡献在于关系保真度度量、显式物理序监督方法，以及跨数据源与泛化条件的系统验证。

自回归 VLA 将连续动作转换为离散 token，再通过解码恢复可执行机器人指令。已有动作接口包括坐标离散化、频域压缩与学习式矢量量化，如 RT-2/OpenVLA 的坐标 binning、FAST 的 DCT 系数量化加 BPE、FASTer 的残差矢量量化、OAT 的有限标量量化与粗到细排序等；此外还有连续动作头、扩散/流匹配策略以及离散监督与连续执行结合的混合方案。压缩虽然带来紧凑生成，但会改变最终执行的动作。作者观察到，同一任务的多次演示中相似运动会围绕物体位置、机器人状态和执行阶段反复出现并带有调整；在需要精确对齐、抓取或接触的操作中，很小的动作差异也可能影响结果。压缩后相似动作可能仍聚集在某个代表性运动周围，但适应不同上下文所需的调整可能被削弱、扭曲甚至反转。由于策略即使正确预测 token 序列，解码器执行的仍是重建后的动作，因此仅靠 MSE 等逐点指标不足以刻画动作调整保真度。论文因此把关系保真度与点式重建精度并列，提出用组合平移、旋转、夹爪状态的物理距离来比较重建前后同一邻居的距离排序，并在解码动作空间中计算，以获得跨词表、序列长度和解码器结构的公共物理参照。相关工作部分将动作空间设计分为离散、连续、混合三类，把动作离散化与 tokenization 研究总结为坐标 binning、频域/BPE、学习式潜变量量化等路线；ActionPiece 的差异在于显式物理序监督与 PRC 度量。

ActionPiece 由一个浅层 Transformer 编码器/解码器加残差矢量量化（RVQ）组成。动作块 A∈R^{H×D}，配置为 H=8；编码器输出 S=16 个潜在槽；RVQ 深度 Q=1、码本大小 K=512，因此每个槽选择一个码字，token 总数 T=SQ=16。第 s 个槽的量化表示为 q_s=Σ_{r=1}^{Q} e^{(r)}[z_s^{(r)}]，解码器一次性重建整个动作块 A^=D_ω(q)。每个码序列都映射到完整动作块，保证 token 可解码为可执行命令。动作数据采样率为 LIBERO 20 Hz、VLA-Arena 10 Hz、BridgeData V2 5 Hz；分词器用 AdamW、学习率 1×10^{-4}、批大小 128，训练 100K 步。 物理距离是 PRC 与两个训练目标的共同基础。对末端指令 a=(p,R,g)，旋转距离采用 SO(3) 上最短测地角 d_SO(3)(R,R')=||Log(R^T R')^∨||_2；单步物理距离组合平移、旋转与夹爪：δ_phys(a,a')=α_p||(p-p')/s_p||_2^2+α_R(d_SO(3)(R,R')/s_R)^2+α_g|g-g'|^2。s_p、s_R 在训练动作上拟合，组权 α 在同一 embodiment 内固定；动作块距离对相应时间步取平均，旋转先映射到合法 SO(3) 元素。该距离定义了训练与评估中的近远序。 PRC 度量局部物理距离排序保持。对每个锚点 A_i，在原始动作空间取 k 近邻 N_i^k；重建为 A^_i=D(T(A_i))；PRC@k=1/N Σ_i ρ_S([d_phys(A_i,A_j)]_{j∈N_i^k}, [d_phys(A^_i,A^_j)]_{j∈N_i^k})，其中 ρ_S 为 Spearman 相关，k=32。在解码空间计算使不同 token 词表、序列长度和解码器结构具有共同物理参照。MSE 衡量单个重建保真度，PRC 衡量物理距离排序保持，二者互补。 物理秩保持（PRP）让编码与量化后的表征距离保持物理近远序。令 h̄_{i,s} 为动作块 A_i 第 s 槽的编码器特征，ē_{i,s} 为量化器输出投影后的选定码向量，二者均做 LayerNorm 与单位 ℓ2 归一化。编码距离与量化距离分别为 d_enc²(i,j)=1/S Σ_s||h̄_{i,s}-h̄_{j,s}||²、d_quant²(i,j)=1/S Σ_s||ē_{i,s}-ē_{j,s}||²；加权表征距离 d_rep²=0.25 d_enc²+0.75 d_quant²，D_ij=√d_rep²。该距离同时纳入编码器特征和解码器实际使用的离散表示。为使梯度穿过码选择，采用直通估计与 soft 码概率：π_{i,s,c}=softmax_c(-Δ_{i,s,c}/(s_{i,s}τ_q))，其中 Δ_{i,s,c} 是投影特征到码字 c 的平方距离，s_{i,s}=max(sg[Std_c(Δ_{i,s,c})],10^{-6})，τ_q=1 且无 Gumbel 噪声；前向值为硬码贡献，梯度来自软分配。对每个 anchor，在训练批内排除自身后按物理距离排序，取 5th 百分位为正（近）样本、95th 百分位为负（远）样本。PRP 损失为 L_rank=1/B Σ_i softplus(D_{ij_i^+}-D_{ij_i^-}+m_r)，m_r=0.1。其直觉不是让所有表征距离等于物理距离，而是保持“近者更近、远者更远”的序关系，从而避免相似动作之间的调整被压缩反转。 量化正则（QR）把物理序监督直接施加到码字分配概率上。对动作块 A_i 的第 s 槽，soft 码概率 π_{i,s} 由编码器-码字距离经 softmax 得到；两个动作块的差异用对应槽的平均 Jensen-Shannon 散度 d_JS(i,j)=1/S Σ_s JS(π_{i,s},π_{j,s}) 度量。使用与 PRP 相同的正负邻居，QR 损失为 L_quant=1/B Σ_i softplus(d_JS(i,j_i^+)-d_JS(i,j_i^-)+m_q)，m_q=0.1。PRP 监督表征距离，QR 监督决定码字选择的概率分布，二者分别覆盖“学特征”和“映射到码字”两个压缩阶段。 重建目标为归一化动作坐标上的 MSE：L_MSE=1/(BHD) Σ_{i,t,d}((A_{i,t,d}-A^_{i,t,d})/s_d)²。完整分词器目标为 L_tok=L_MSE+λ_vq L_commit+λ_r L_rank+λ_q L_quant，其中 λ_vq=0.25，λ_r=λ_q=6.25×10^{-4}。消融通过移除其中一个或两个物理序目标实现。Q>1 时，每个残差级使用同样的可微码选择，量化距离在所有残差级的累积部分重建上平均；论文称 Q=1 与 Q=2 下游表现类似，最终采用 Q=1。码本以指数移动平均更新。 训练后冻结分词器，把其索引加入 VLM 词表；策略用标准下一 token 预测 L_VLA=-Σ_{t=1}^T log p_θ(z_t|I,ℓ,z_{<t}) 优化，生成序列经冻结解码器得到可执行动作块。策略训练遵循 StarVLA 协议，使用 Qwen3-VL-4B 骨干、AdamW、初始学习率 1×10^{-5}、余弦退火、DeepSpeed ZeRO-2、梯度裁剪最大范数 1.0、无梯度累积，硬件为 8 张 NVIDIA RTX PRO 6000。受控比较中 VLM 骨干、提示、演示、优化器、全局批、训练预算、动作与执行视野、种子和评估协议均固定；每个基线 tokenizer 保留其原生输出长度与词表。

实验部分先考察重建保真度与物理邻域序保持如何关联下游策略成功率，随后做受控动作分词器对比：所有方法共享同一 Qwen3-VL-4B 策略训练流程，在 LIBERO 与未见扰动的 LIBERO-Plus 上比较。接着在 SimplerEnv 与 VLA-Arena 上测试真实到仿真迁移与更困难的控制条件，并报告成功率与累计安全代价。最后进行组件消融，逐项加入 PRP 与 QR，观察 PRC、MSE 和成功率变化；附录还比较 SIGReg、Temporal、Neighborhood 等替代目标。实验结论是物理关系监督同时改善 PRC 与策略成功率，且 PRP 与 QR 具有互补性；具体数字见下方 claim-quote 对。

1. 摘要级主结果：ActionPiece 在 LIBERO 达到 94.8%、未见 LIBERO-Plus 达到 68.8%，SimplerEnv 达到 71.9%，VLA-Arena L0–L2 达到 51.5%。

   ActionPiece achieves 94.8% on LIBERO and 68.8% on unseen LIBERO-Plus, with additional evaluations reaching 71.9% on SimplerEnv and 51.5% across VLA-Arena L0–L2.

2. 在共享 Qwen3-VL-4B 设置下，ActionPiece 超过所有对比动作分词器，且在 LIBERO 与 LIBERO-Plus 上分别比最强基线高 1.1 和 4.5 个百分点。

   ActionPiece outperforms all compared action tokenizers, achieving 94.8% success on LIBERO and 68.8% on unseen LIBERO-Plus, exceeding the strongest baseline on each benchmark by 1.1 and 4.5 percentage points, respectively (Table 1 ).

3. 受控对比中，ActionPiece 在 LIBERO 为 94.8%，高于 ActionCodec 的 93.7%；在 LIBERO-Plus 为 68.8%，高于最强基线的 64.3%，并在七类偏移中领先六类。

   Table 1 reports 94.8% on in-distribution LIBERO for ActionPiece , compared with 93.7% for ActionCodec, the strongest baseline on this benchmark. The separation is larger on unseen LIBERO-Plus: ActionPiece reaches 68.8%, compared with 64.3% for the strongest baseline, and leads on six of seven shift categories.

4. 跨 55 个 tokenizer-基准评估的相关性分析中，PRC 与成功率的 Spearman 相关为 0.681，高于重建保真度的 0.544。

   Both metrics exhibit positive associations with success, with PRC yielding a higher Spearman correlation ( 0.681 0.681 ) than reconstruction fidelity ( 0.544 0.544 ).

5. SimplerEnv 真实到仿真评估中，ActionPiece 平均成功率为 71.9%，其中块堆叠为 58.3%、勺子为 83.3%、茄子为 91.7%。

   ActionPiece achieves the highest average success of 71.9% in this real-to-sim evaluation, with task-specific strengths varying across methods. ActionPiece leads block stacking at 58.3%, a task requiring precise placement, alongside strong spoon (83.3%) and eggplant (91.7%) results.

6. VLA-Arena 共 3400 次 rollout 中，ActionPiece 在 L0/L1/L2 达到 82.2%/42.7%/29.5%，等权 33 单元均值为 51.5%，是对比模型中最高平均。

   Across all 3,400 VLA-Arena rollouts, ActionPiece reaches 82.2%/42.7%/29.5% on L0/L1/L2 and an equal-weight 33-cell mean of 51.5%, the highest overall average among the compared models.

7. 尽管只在 L0 训练，ActionPiece 在 VLA-Arena 的 L1 和 L2 平均成功率分别领先 7.0 和 5.0 个百分点。

   Despite training only on L0, ActionPiece leads the L1 and L2 averages by 7.0 and 5.0 points.

8. 消融中标准 RVQ 在 LIBERO 和 LIBERO-Plus 为 90.9% 和 60.4%；加 PRP 后为 93.8% 和 65.4%，只加 QR 为 92.9% 和 62.4%；两者合并在两个基准上均最高，分别为 94.8% 和 68.8%。

   Standard RVQ reaches 90.9% on LIBERO and 60.4% on LIBERO-Plus. Adding physical rank preservation raises these scores to 93.8% and 65.4%; adding only quantization regularization yields 92.9% and 62.4%. Combining both components achieves the highest overall success on both benchmarks: 94.8% and 68.8%.

9. 同样消融使 PRC 从标准 RVQ 的 0.902 上升到 PRP 的 0.947、QR 的 0.916，合并模型达到 0.953。

   The same ablations raise PRC from 0.902 0.902 for standard RVQ to 0.947 0.947 with physical rank preservation and 0.916 0.916 with quantization regularization; the combined model reaches 0.953 0.953 .

10. PRP 的单项收益更大，QR 进一步使 LIBERO-Plus 成功率提升 3.4 个百分点，支持二者联合使用。

    Physical rank preservation contributes the larger individual gain; adding quantization regularization further raises LIBERO-Plus success by 3.4 percentage points, supporting their joint use.

11. 合并目标在六个 LIBERO-Plus 类别中超过任一单项，其中 camera-shift 从仅 PRP 的 35.5% 提升到 45.1%。

    Combining the objectives exceeds either alone in six LIBERO-Plus categories, including a camera-shift gain from 35.5% with PRP to 45.1%.

Novelty：新颖性中等偏好，属于问题重定义与训练目标层面的增量创新。PRC 作为解码空间中的局部物理距离序保持度量，提供了一个可跨 tokenizer、词表长度和解码器结构比较的新评估角度，这比单纯 MSE 更能反映动作调整是否被保留。ActionPiece 的核心机制是把物理近远序同时注入编码表征距离（PRP）和码字分配概率（QR），与只做重建、近邻吸引或时序一致的方法相比，明确建模相对排序而非绝对值。不过其底层仍是 Transformer 编码器-解码器加 RVQ，softplus 排序损失、Jensen-Shannon 正则和直通码选择都是已有组件；因此主要贡献更多体现在度量设计、联合监督方式和系统化验证，而非全新架构。 Soundness：方法与实验总体较为扎实。论文给出完整公式与实现细节，包括物理距离归一化、SO(3) 测地角、正负邻居选择、可微码选择、残差级扩展和训练超参；受控比较固定策略骨干、数据、优化器、预算、种子与评估协议，组件消融和替代目标分析能区分 PRP 与 QR 的作用，PRC 与 MSE 双指标也能解释策略收益。主要保留点是：LIBERO 上的提升幅度较小；受控对比允许各基线保留原生输出长度和词表，不能完全排除 token 预算、码本容量或编码器结构等混杂因素；PRC 的 k=32、5/95 分位、物理距离权重等选择缺少敏感性分析；相关性分析未报告统计显著性；结论主要来自 Qwen3-VL-4B 单一骨干与仿真/真实到仿真环境，物理机器人证据有限。总体判断为机制合理、控制较充分，但稳健性仍有可加强之处。 Significance：对自回归 VLA 动作接口研究具有实际价值。论文提醒社区，动作分词不能只追求逐点重建误差，还要保留动作之间的物理差异排序；PRC 可作为通用诊断指标，PRP/QR 可作为无需改策略架构即可插入的表示学习监督。其在 LIBERO-Plus、SimplerEnv、VLA-Arena 上的表现显示，显式关系监督对未见偏移和困难控制条件尤其有益，这一观点可能影响后续动作表示评估与 tokenizer 设计。不过收益幅度整体中等，且方法限于离散自回归 VLA 的分词训练阶段，对连续/扩散策略的迁移价值尚待证明。

本文存在若干局限。第一，PRC 只衡量局部近邻距离排序，不直接刻画绝对重建误差、平移/旋转/夹爪各自的失真、远距离拓扑或排序破坏的具体来源；k=32、5/95 分位、物理距离权重、Spearman 相关等选择对指标值敏感，但论文未做敏感性消融。第二，受控 tokenizer 对比允许每个基线保留其原生输出长度和词表，因此 ActionPiece 的优势可能部分来自 token 预算、码本大小或编码器结构差异，而不是物理序监督本身；标准 RVQ 是与 ActionPiece 最接近的对照，但其他基线的容量并不完全对齐。第三，策略验证集中在 Qwen3-VL-4B 与 StarVLA 协议上，未显示对策略骨干、动作频率、embodiment 或训练规模的鲁棒性。第四，没有真实机器人部署，SimplerEnv 与 VLA-Arena 仍为仿真评估。第五，最终配置 Q=1，残差量化更深层级的优势没有被充分探索；附录仅称 Q=1 与 Q=2 下游表现类似。第六，正负邻居在 minibatch 内按分位选择，小批或数据分布变化可能影响排序监督质量。第七，PRC 与成功率的关系主要是相关性证据，不能证明排序保持是成功率提升的因果机制。第八，论文未明确报告多次种子的方差、置信区间或显著性检验。

后续工作可沿多个方向展开。其一，把 PRC 扩展为多尺度或全局拓扑保持度量，并与绝对重建误差、各分量失真联合形成完整的 tokenizer 诊断体系。其二，在固定 token 预算、码本大小和编码器容量的条件下重新比较，分离物理序监督与容量因素对策略成功率的贡献。其三，将 PRP/QR 的思想引入连续、扩散或流匹配策略的表示学习，检验关系保真度是否同样有利于连续动作生成。其四，对不同 embodiment 自动拟合或学习物理距离权重，甚至采用马氏距离或任务相关度量，替代手工固定组权。其五，研究更深残差量化层级下 PRP 与 QR 在多级残差上的行为，以及 Q 值对 PRC 和下游成功率的系统影响。其六，从理论上分析排序保持与下游策略误差界的关系，给出 PRC 改善为何能带来执行收益的因果解释。其七，在真实机器人操作任务、更多 VLA 骨干和更大规模数据上验证，并将 PRC 作为在线验证、主动学习或 tokenizer 选择的信号。

本文把置信估计的基础从“只读当前一次推理过程”迁移到“actor 自身积累的已评分经验”，提出经验式置信估计（experiential confidence）这一新范式，并以 XConf 具象化：Recall 统计地读取相似历史 episode 的命中率，Reflect 让模型重读自身战绩后重新声明置信度，二者等权融合。论文的核心卖点是黑盒、训练自由、格式通用、仅一次答案生成的成本，并声称在推理、代码、多模态与交互式 agent 上以更低校准误差匹敌或超过十样本自一致性。相较并发工作 GCM（把历史蒸馏进微调正确性模型）与 AUQ（用声明置信度驱动 agent 行为），本文落在“训练自由、推理时检索显式 episode”的一端，并把评估扩展到代码与 agent 轨迹；相较“记忆用于增强能力”的主流，本文把同一机制改用于“估计当前解是否正确”这一校准用途。整体定位是一篇以系统评估与消融分析为主的实证方法论文，贡献不在新理论，而在轴心转移以及跨格式、跨模型、跨任务族的证据。

可靠置信度是决定“发布、升级、重试”的信号。现有估计器的共同前提是只读当前推理过程：verbalized 方法让模型内省刚生成的答案，便宜且格式通用，但系统性过度自信，声明的不确定性常不忠实于模型实际依循的不确定性；likelihood 方法评分答案 token 概率，但需 logit 访问，多数前沿 API 不提供；consistency 方法重采样并度量一致性（精确投票、语义聚类、图聚合或声明级核对），是可比较答案场景下最强的黑盒族，但需多次生成且格式受限；post-hoc 校准与 conformal 方法用标注结果重映射既有分数，消耗与本文记忆库相同的监督；trained verbalized 微调模型输出校准概率或弃权，但闭源权重不可达、训练后固定且会改变模型行为。论文用表 1 从“单次生成、黑盒、训练自由、随经验扩展、格式通用”五个轴对照，指出既有方法都不查询模型自身历史——这是本文改变的轴。 认知科学依据：人类置信是从线索的推断，而非仅读刚完成的推理；核心线索是对自身结果的记忆，人从相似 episode 的既往结局判断对错，且预测自己远准于预测他人；经典认知模型把判断实现为对多个存储实例的检索；延迟判断（从检索线索而非即时感觉）显著更准；与自身一致度量的是可靠性而非有效性，是过度自信的结构性来源；事后偏差不能靠指令消除，必须结构性预防；最佳校准的人类预测者会保持并回访显式战绩。LLM 内部机制研究同样发现言语置信是网络真实计算而非 token 概率读出，但它追踪的是对答案的承诺而非正确性，模型并用该内部置信决定何时作答或弃权。这些发现分别支撑第 3 节的设计选择。 LLM 系统的记忆模块此前主要用于增强能力：agent 回放失败轨迹、构建技能库、蒸馏经验。本文把类似机制用于校准而非求解。并发 GCM 蒸馏历史到微调正确性模型，AUQ 给 agent 配置信度以引导行为，step 级 critic 记忆与训练 verifier 各有侧重；本文是训练自由端，并扩展到代码与 agent 轨迹。

问题形式化。目标是在模型已生成答案后估计校准概率 P(y=1|x,a)。一次诱导产生一个 episode e=(x,ρ,a,r,v,y)：x 是任务，ρ 是推理轨迹/rollout，a 是输出，r 是评分前写的简短自我反思，v∈[0,1] 是声明置信度，y∈{0,1} 是评分结果。经验库 B={e1,…,en} 收集模型过去的 episodes；测试时只有当前之前已评分的 episodes 可见。置信估计器是映射 ĉ=f(x,ρ,a,r,v;B)，目标是 P(y=1|x,a)。关键分野：表 1 中既有方法都是 trace-intrinsic，形如 ĉ=g(x,ρ,a)，不依赖 B；XConf 通过检索依赖 B。 经验库。每条记录五字段：任务、模型在未知结果前写的自我反思、声明置信度、评分结果、以及评分到达后由 actor 自己写的一次性教训。教训被隔离在库内，模型反思未评分解答时绝不展示，因为结果知识会造成事后偏差，指令无法消除。库是运行系统的副产品而非单独数据收集：这些 episode 在开发、评估或部署中本来就要被评分，嵌入离线且摊销。记录不要求输出短或可投票；同一五字段可描述选择题字母、程序、三十步 rollout。 Recall（统计读数）。检索键 F(e)=[φ(x); v]，即任务嵌入与声明置信度拼接；φ 是冻结的现成嵌入器（gemini-embedding-001，四模型共用，作为模型无关的标尺）。为使“相似”指“因相同原因失败”而非“共享话题”，在该空间上做正确性监督的重标定，用库内已评分 episode 拟合（精确形式在附录 E）。检索 k=50 个最近邻 N_k(e)，读取结果命中率 Recall(e)=(1/k)Σ_{j∈N_k(e)} y_j。直觉：这是“类似任务、类似感觉”下的历史成功率，不是主观感觉，因此习惯性误校准被机械修正——若模型历史上在该类任务声称高置信却只有六成正确，统计读数直接给出该频率。库稀疏时估计优雅退化：近邻只是弱相似，命中率趋向该声明置信度下的基础成功率，粗糙但诚实。 Reflect（言语读数）。把检索到的 episodes 渲染成上下文卡片（任务摘要、当时声明置信度、结果、教训）。给模型看当前任务、自身反思与这些卡片，先要求它指出记录中反复出现的失败模式，再重新声明校准后的置信度。Reflect 是短提示，不重新解题。最终估计 Confidence(e)=1/2(Recall(e)+Reflect(e))。等权依据：两个不完全相关判断器的等权融合难以被超越。 训练与数据细节。不动模型权重、不微调；唯一“拟合”是检索空间的重标定（因此对 LM 训练自由，但并非完全无监督，重标定消耗与标注型基线相同的结果标签）。检索键不接触答案字符串，故格式通用。成本为一次答案生成加一次短调用；Recall 只是嵌入+最近邻查询，嵌入离线摊销。评估协议用五折轮换保证经验严格在先：每条估计所用库只含其他折 episode，绝不看到自身结果、自身任务或同批评估的 episode；另有严格实时顺序回放。每条 episode 由该任务最强的可用 verifier 评分：选择题精确匹配、自由形式数学与推理用黄金条件 LLM verifier、代码与 SWE-bench 用真实单元测试、agent 用环境自身评分。

评估覆盖四类任务族（推理、代码、多模态问答、交互式 agent）、九项基准、四个来自三家族的模型，指标为 AUROC（判别）、ECE（校准）、AURC 与 Brier（选择性预测与稳健校准）。协议采用五折轮换与实时序回放，确保经验严格在先。基线涵盖表 1 全部家族：言语化、十样本自一致性、离散语义熵、P(True)、单 rollout 的言语化/LLM 裁判、标注消耗型 Platt/isotonic/直方图/conformal 以及训练 verifier。总体结论：XConf 在判别力上普遍匹敌或超过十样本自一致性，校准误差明显更低，生成成本约为其十分之一；优势在代码与 agent 域最明显，那里一致性需要启发式或不可行。分析表明经验可跨数据集/模型迁移但有界、随库规模单调改善、可转化为选择性预测收益，且信号并非仅来自问题难度。

1. 在九项基准、四个模型上，XConf 在 24 个比较中的 23 个上以 AUROC 胜出或持平十样本自一致性，且 ECE 更低、成本约十分之一。

   XConf beats or matches ten-sample self-consistency in discrimination (AUROC) on 23 of 24 comparisons, with much lower calibration error (ECE), at a tenth of the generation cost.

2. 对 SC@10 的逐项胜负统计为 21 胜、2 平、1 负。

   Against SC@10 the score is 21 wins, 2 ties, and 1 loss.

3. 在多模态 MMMU-Pro 上 XConf 全列胜出十样本一致性，AUROC 区间更高且校准误差低二到五倍。

   Our method beats ten-sample consistency on every column, .779 .779 – .833 .833 against .756 .756 – .769 .769 , with two to five times lower calibration error; the verbalized baseline is competitive only on the strongest column.

4. 代码基准上，适配的代码相似度投票恢复判别力，但仍每列落后于 XConf，且校准误差高四到二十倍。

   The adapted vote recovers real discrimination, .742 .742 – .804 .804 , but stays .06 .06 – .13 .13 AUROC below our method on every column, with four to twenty times the calibration error, at ten times the generation cost ( Table 3 );

5. 在三个交互式 agent 域的全部十二个模型-域单元上，XConf 最优或持平。

   On three interactive agent domains our method is best or on par in all twelve model-domain cells.

6. 经验库规模扩大带来校准改善，AppWorld 配 Claude Sonnet 4.6 的 AUROC 随库增长而上升。

   on AppWorld with Claude Sonnet 4.6, AUROC climbs from .628 .628 to .810 .810

7. 选择性预测中，丢弃最低置信的 10% 使平均交付准确率提升，且每个单元都获益。

   dropping the lowest 10 % 10\% raises delivered accuracy by 4.8 4.8 points, averaged over all thirty-six cells

8. 选择性预测的最大增益出现在 AppWorld 配 Gemini 3.5 Flash 上。

   8.7 8.7 points on AppWorld with Gemini 3.5 Flash, .805 .805 to .892 .892

9. 同类别的外部编码记忆库（R2E-Gym）纯迁移校准 SWE-bench 与自有库相当，合并后超过任一单独库。

   a bank built from a different coding corpus (R2E-Gym) calibrates SWE-bench as well as SWE-bench’s own bank ( .720 .720 – .734 .734 pure transfer against .726 .726 native, three replication waves), and merging the two beats either bank alone by + .022 +.022 – + .053 +.053

10. 借用另一模型的记录在同任务上会损失 AUROC，损失大小随配对而稳定。

    a donor model’s bank loses .03 .03 – .06 .06 AUROC on five of the six datasets, no matter how donor and target are paired.

11. 检索键有效性呈阶梯：随机邻居接近随机、语义检索次之、完整配方最高。

    random neighbours score at chance ( .494 .494 mean AUROC over the 24 24 reasoning cells), semantic retrieval reaches .732 .732 , and our full recipe reaches .833 .833 .

12. 控制问题难度后 XConf 仍能区分对错，并在绝大多数单元高于随机，且仍领先言语化置信度。

    XConf still separates correct from incorrect attempts at .79 .79 AUROC, above chance in 35 35 of the 36 36 cells, and still leads the verbalized confidence by .05 .05 ( .06 .06 on agents).

Novelty：概念新颖性中等偏高：把置信估计从“只读当前推理”（trace-intrinsic）切换到“查询 actor 自身已评分历史”（experiential）是一个清晰的新轴心，表 1 的对照使其明确。Recall 的“置信度条件命中率”（相似任务+相似声明置信度下的历史成功率）与 Reflect 的“重读战绩再声明”双读数设计，以及把记忆机制从“提升能力”转用于“校准”，是有辨识度的贡献。技术新颖性中等：检索记忆、言语置信、标注校准、conformal 等组件均已知，本文的贡献在组合与用途迁移；并发 GCM 已用蒸馏历史做正确性模型，AUQ 已把置信度引入 agent 行为，因此“历史应影响不确定性”的信念并非首创，训练自由+显式 episode 检索+代码/agent 扩展是差异化所在。 Soundness：总体较扎实。防泄漏是亮点：五折轮换保证库只含其他折 episode，另有实时序回放；配对 bootstrap 做胜负判定；用 Brier 对冲 ECE 可被分数扁平化钻空子；随机邻居、去除键分量、难度分层、标签质量等消融直指“信号确实来自经验”。需留意：“训练自由”只是不动 LM 权重，检索空间的重标定在库内已评分结果上拟合，因此存在一个轻量监督环节，虽与标注型基线匹配监督，但其细节（附录 E）决定是否引入间接泄漏；跨模型/跨任务迁移的代价支持“经验绑定 actor”的机制解释，但也削弱普适性；部分基线（P(True)）在闭源平台不可用，SC@10 在代码上依赖启发式相似度，且被排除的饱和领域提示基准选择会影响结论强度。整体可复现性与内部有效性较好，外部有效性受基准选择与监督前提制约。 Significance：实践意义高：黑盒、格式通用、单次生成成本、无需 logit，直接命中闭源 API 与代码/agent 部署场景；选择性预测在失败“沉默”的领域收益明显，且记忆库是部署的副产品、可离线摊销。范式意义在于为置信估计研究开辟“从经验学习”的新方向，并把校准与记忆、自进化系统连接起来。但主张被作者自己限定：在可投票事实性问答上仍不如自一致性，且依赖外部评分、跨模型迁移有损，因此更准确的定位是“投票无法覆盖的广度与低成本方案”，而非对所有估计器的全面替代。

论文自己承认的边界：在可投票的事实性问答（如 SimpleQA）上，自一致性仍是更强判别器，本文一处主表失利就落在可投票单元，故其主张是“投票去不了的地方的广度与成本”，而非全面优越。设计上冻结的每个组件都是未决选择：检索方式（学习或结构化键）、库的构建与策展（保留什么、何时遗忘、能否把累积 episode 固化为可复用失败模式，初步参数化与聚类尝试未超过保留原始 episode）、反思诱导以得到更锐利的键、以及如何把战绩读回给模型使其真正重校准而非简单顺从。与自进化记忆的组合未测试；自进化 actor 非平稳，经验绑定 actor，旧 episode 随能力增长逐渐变成“另一个模型”的，校准记忆可能需与能力增长同步遗忘。 从审稿视角可补充的保留：方法依赖外部评分信号，这是元认知性质而非缺陷，但意味着冷启动与无标注反馈场景受限；“训练自由”仅指不动 LM 权重，检索空间的重标定本身在已评分结果上拟合，故严格说并非无监督，只是与标注消耗型基线在监督上匹配；单模型、跨任务族迁移存在成本；ECE 可被分数扁平化钻空子，文中用 Brier 与报告规则对冲，但主表仍以 ECE 为主；被排除的 ALFWorld/WebShop 说明在失败已显式写入轨迹的领域所有方法饱和，测试台选择会放大差异；统计 Recall 接近尺寸不变、言语 Reflect 在小模型上退化，说明两部分在不同能力档位的贡献不均；弱但独立的标注器保留大部分价值而自标注失效，说明必须依赖独立于模型自身判断的评分信号。

沿本文留下的开放选择：(1) 检索键：用学习或结构化键替代重标定对角键，把反思诱导为更锐利的检索键，研究跨任务族与跨模型的迁移机制；(2) 库管理：决定保留与遗忘策略，把原始 episode 固化为可复用失败 schema（作者初步参数化/聚类尝试未胜出，仍有空间），与自进化记忆共享同一存储、用校准置信度门控进化环（决定重试什么、写哪些教训）；(3) 非平稳性：随 actor 自我改进，经验逐渐过期，需要与能力增长同步的遗忘与时间衰减、实时在线更新而非离线重放；(4) 读取方式：如何把战绩读回模型使其重校准而非顺从，以及 Reflect 在小模型上的退化如何弥补；(5) 理论与组合：把经验式分数与 conformal 结合给出覆盖率保证，分析经验规模-校准的收敛律，澄清重标定步骤在五折与实时序下的防泄漏属性；(6) 更难的测试台：挑选失败“沉默”的领域以区分估计器，而非失败已显式写入轨迹的饱和领域。另可探索多模型联合库的冷启动与自我-他人不对称的边界。