2026-09-21

Information retrieval is increasingly important as LLM agents tackle complex tasks involving diverse information needs. Because retrieval relies on an index that represents each document through index keys, retrieval quality depends heavily on how effectively these keys expose the knowledge contained in each document. However, effective index representations vary across retrieval environments, making it difficult for any fixed optimization strategy to perform consistently. Yet evolving an index to its retrieval environment remains largely human-driven, requiring humans to diagnose retrieval failures, refine the optimization strategy, and reprocess the index accordingly. We propose SELF-INDEX, a framework that enables an index to self-evolve without human intervention. Its Optimizer autonomously diagnoses retrieval shortfalls, selectively revises the responsible index keys, and validates each revision before updating the index. Beyond reacting to observed retrieval demands, SELF-INDEX p

仅依据摘要，无法可靠判断方法 soundness 与实验充分性，请以原文为准。

On-policy self-distillation (OPSD) lets a language model learn from a frozen copy of itself that sees an answer or a worked solution. Giving the teacher this extra information seems to offer the student more to learn, but how much does it add beyond distillation itself? To isolate that contribution, we construct AMPLE-Math, a reusable suite of 5,319 mathematical problems with six reasoning views that share the same answer, and compare each view with matched reference-free distillation. With a thinking-enabled teacher supervising direct-response rollouts, reference-free distillation accounts for much of Qwen3-1.7B's improvement under thinking-enabled evaluation, both in domain and on external benchmarks. Evidence for an additional reference benefit is modest in Qwen, strongest for a polished solution, whereas complete traces add two percentage points in SmolLM3-3B at step 50. These benefits depend on the student being trained. At the same checkpoint, replacing short direct-response roll

仅依据摘要，无法可靠判断方法 soundness 与实验充分性，请以原文为准。

Famos 处于三类方法的交叉处：测试时优化方法需要稠密多视角、常假设已知部件数、且逐物体优化代价高；视频/交互序列方法依赖时序连续与跟踪，易在遮挡下误差累积；单状态前馈方法只能依赖类别形状先验，因为单一观测不含运动证据。Famos 的定位是：用一次前馈推理，从稀疏、无序、可变化数量的部分点云观测中直接恢复可动部件分割与 1-DoF 关节参数，把预测建立在“被观测到的运动”而非仅形状先验上。论文还以程序化自标注数据生成解决标注资产稀缺问题。其贡献属于多状态前馈铰接建模的增量推进，核心卖点是输入约束更宽松（无序、变数量、部分几何、无需部件数先验）且推理极快。

铰接物体在日常环境（冰箱门、抽屉、剪刀等）中普遍存在，机器人、AR/VR 与具身智能需要理解其可动部件与运动学。难点在于：单一观测只暴露部分几何与运动证据，同一可见几何可能对应多种运动学解释，因此单状态前馈方法必须靠类别形状先验，对未见几何与部分输入泛化差。已有路线各有约束：神经隐式或 3D Gaussian Splatting 的测试时优化需要稠密多视角和每个状态的重建，且逐物体优化不可扩展；基于视频的方法依赖点跟踪或场景流，需要时序连续、有序的观测；现有多状态前馈工作（如 Ditto、ArtSplat、ART）分别假设完整几何、单可动部件、多视角或已知部件数。数据方面，PartNet-Mobility、GRScenes、ACD 等标注资产规模与多样性有限，程序化/智能体生成（如 ArtiCraft-10K）成为补充方向。Famos 针对这些缺口，提出在部分点云的稀疏无序集合上联合推理，并用程序化生成器扩大训练分布。

Famos 的输入是同一物体在 S 个不同铰接状态、不同视角下的部分点云，每帧 N 个点，均处于共享坐标系（可由 3D 基础模型直接给出）。输出包括部件数 P（含静态基座与 P−1 个可动部件）、S×N 的分割掩码，以及每部件关节参数：旋转关节用单位轴 a 与轴上原点 o 表示，棱柱关节用单位方向 d 表示。方法不要求已知部件数，S 可变（包括 S=1）。 点编码：每个观测先用冻结的 PartField 主干逐点提取部件感知特征 f_{s,i}；再对点坐标与表面法线分别施加正弦编码，拼成几何嵌入 g_{s,i}=[γ(x_{s,i}); γ(n_{s,i})]，两者拼接后经线性投影得到 token z_{s,i}。关键设计是不给点 token 加观测索引或状态嵌入，避免模型学到与状态编号绑定的身份，从而在推理时能灵活处理任意数量的输入。 部件查询：维护 K 个可学习查询 q_k（K 是部件数的上界，论文取 K=16），每个查询是候选可动部件，不携带固定语义身份。 Transformer 层：共 L=6 层，交替执行两个注意力阶段。状态内注意力对每个观测内部的点 token 独立做自注意力，让点聚合本帧几何上下文；与此同时部件查询彼此自注意力，协调“哪个查询代表哪个部件”。这一步也使得省略状态索引嵌入可行，因为累积的上下文隐式标识了 token 所属观测。全局注意力把更新后的查询与所有观测的点 token 拼成一条长度为 K+SN 的序列做联合注意力：查询可吸收所有点的证据，点与点之间也跨观测直接交互。后者对无序、仅有部分重叠的观测至关重要，因为可见表面随视角、遮挡与铰接状态变化，跨观测对应关系必须在点 token 之间直接建立。这区别于先前查询式 transformer（如 Particulate）中信息只经查询—点交叉注意力路由、点 token 互不直接交互的设计；论文消融显示全局注意力是关键。 预测头：轻量 MLP 输出逐点—查询得分 c_{s,i,k}=h_mask([z_{s,i}; q_k])，沿查询维 softmax 把点分配给部件。部件数 P 从分割中读取为“有点被分配的查询数”，实际 P≪K。由于同一查询在所有观测中分割同一部件，物理部件被绑定到同一查询，分割天然跨状态一致。每个查询另有分类头输出关节类型 {static, revolute, prismatic}；旋转关节回归 6 维 Plücker 坐标 (â, m̂)，恢复单位轴 â/‖â‖ 与原点 (â×m̂)/‖â‖²；棱柱关节回归单位方向 d̂。此外还有一个只在训练时使用的辅助头回归观测铰接跨度 Δ̂_k。 观测铰接跨度：类型、轴与原点都是与状态无关的物体固有属性，原则上单帧就能推断；只监督这些量会让网络走捷径——只依赖一个观测、忽略其余输入。为迫使模型整合整组观测，论文定义跨度目标。设 θ_{s,p} 为部件 p 在观测 s 的真值关节值（角度或位移），V_p={s | 存在 i 使 Y_{s,i}=p} 为 p 可见的观测集，则 Δ_p = max_{s∈V_p} θ_{s,p} − min_{s∈V_p} θ_{s,p}，仅对 |V_p|≥2 的部件定义；旋转以弧度计，棱柱以物体归一化单位计。该量依赖输入集合所捕获的具体构型，不能由单帧推出、不能被记忆为物体属性、也不能因观测无序而简单用首末帧差分近似；预测它需要跨所有观测定位同一部件、推断其在各帧的相对构型并聚合。之所以监督“跨度”而非逐观测关节值，是因为后者需相对未观测且不唯一的规范静止位姿定义，而差值对静止位姿选择不变，对任意观测集合都有良定义。 训练目标：查询无固定身份，先用匈牙利算法做匹配。对真值标签 Y，选择单射 π̂ 最大化所有观测上的分割对数似然 Σ_s Σ_i log softmax(c_{s,i})_{π(Y_{s,i})}；该匹配联合所有观测计算，因此跨状态共享。未匹配查询不计损失。损失项包括：分割交叉熵 L_seg、关节类型交叉熵 L_type、旋转 Plücker 线 ℓ1 L_rev、棱柱方向 ℓ1 L_pris、以及对 |V_p|≥2 部件的跨度 ℓ1 L_span。总损失为各分项加权和（论文全部权重设为 1.0）。 程序化数据生成：用六种解析几何基元（盒、圆柱、空心圆柱、半环、球、开孔面板）组装成 15 类物体（铰链/抽屉柜、门、桌、盒、笔记本、烤箱、洗衣机、风扇等），部件数、尺寸与关节位置逐实例随机化，得到每物体 1–8 个可动部件。因部件与关节解析摆放，构建时即知精确分割与关节参数。训练期由内存工厂用确定性种子在线合成资产，形成近乎无限且不重复的数据流。 训练细节：数据来自过滤后的 PartNet-Mobility（约 1,020 对象/25 类）与 GRScenes（约 968 对象/15 类），加上程序化生成流。每样本最多 S=4 状态、每帧 N=2048 点；S∈{1,2,3,4} 按概率 (0.1,0.3,0.3,0.3) 采样。点云归一化到 [−0.5,0.5]，并做点密度变化与噪声增强。架构 K=16、L=6、隐藏维 D=768、12 个注意力头，输出头为隐藏维 1536 的两层 MLP。训练分两阶段：先仅用程序化资产预训练 50k 步，再用程序化资产与策展数据集按 1:1 每 epoch 混合继续训练 80k 步；AdamW、余弦学习率、峰值 3e-5、有效批大小 128、bfloat16、梯度裁剪 1.0，4 张 A100 40GB。渲染侧，每帧关节值在限制内随机采样、网格铰接后从虚拟相机渲染深度图并反投影为部分点云；视点从略微抬高的前向球面区域独立采样；所有点云变换到首帧相机定义的公共坐标系；法线用每点 30 个最近邻几何估计。

Famos 在 PartNet-Mobility、ACD、ArtiCraft 三个基准上评估，分割与运动估计均优于前馈与优化式基线，且跨数据集时优势最明显；单状态输入下也优于同设置重训的 Particulate。消融验证全局注意力与观测铰接跨度损失是关键组件，程序化数据混合进一步提升分布外性能。推理速度与前馈基线同量级，远快于优化式方法。跨度预测在定量评测中准确，匹配部件数更多说明增益并非来自检测更少、更易的部件。真实世界定性结果展示纯合成训练下的泛化。

1. 摘要报告相对最强前馈基线，Famos 在分割上相对提升最高 64.5%、在运动估计 F1 上相对提升最高 75.7%。

   Famos achieves relative improvements of up to 64.5% in segmentation and 75.7% in motion-estimation F1 score

2. 在跨数据集的 ACD 与 ArtiCraft 上，Famos 的分割 F1 比多状态 Particulate 基线分别高 28.2 与 15.9 分。

   where Famos improves over the multi-state Particulate baseline by 28.2 28.2 and 15.9 15.9 F 1 F_{1} points on ACD and ArtiCraft

3. 优化式基线即使获得更稠密且部分带特权信息的输入，分割 F1 仍普遍低于 60。

   The optimization-based baselines remain below 60 60 F 1 F_{1} everywhere despite receiving denser and partly privileged inputs

4. 在最严格 MAO 判据下，Famos 在三个基准达到 98.4、64.5、90.0，相对 Particulate 提升 8.1、27.8、21.5 分，优化式基线均低于 40。

   Under the strictest MAO criterion it reaches 98.4 98.4 , 64.5 64.5 , and 90.0 90.0 on PartNet-Mobility, ACD, and ArtiCraft, improving over Particulate by 8.1 8.1 , 27.8 27.8 , and 21.5 21.5 points

5. 误差是在更多匹配部件上计算的（ACD 上 947 对 572），说明增益并非来自检测更少、更容易的部件。

   these errors are computed over substantially more matched parts than for the baselines ( 947 947 versus 572 572 on ACD), so the gains do not arise from detecting fewer, easier parts.

6. 消融显示用寄存器瓶颈替代全局注意力，在 PartNet-Mobility 与 ACD 上 MAO 分别下降 2.2 与 8.1 分。

   This forces all cross-state correspondence reasoning through the register bottleneck and reduces MAO by 2.2 and 8.1 points on PartNet-Mobility and ACD, respectively

7. 去除观测铰接跨度损失，在 PartNet-Mobility 与 ACD 上 MAO 分别下降 1.3 与 5.7 分。

   removing the observed articulation span loss consistently degrades articulation estimation, reducing MAO by 1.3 and 5.7 points.

8. 最大性能提升来自加入第二个状态（首次暴露运动证据），之后更多观测的收益递减并趋于饱和。

   The largest gain comes from adding the second state, which first exposes motion evidence, while further observations yield smaller improvements in both segmentation and articulation estimation until performance saturates.

9. 性能在超过训练时的 S=4 后不退化，模型可处理比训练时更大的观测集合。

   performance does not degrade beyond S = 4 S{=}4 , the maximum used during training, indicating that the model can handle larger observation sets than it was trained on.

10. Famos 前馈单次推理每物体约 0.1 秒，与 Particulate 相当，而 ReArt 与 ArtGS 分别需 182 秒与 297 秒。

    Famos predicts part segmentation and joint parameters in a single forward pass and processes an object in 0.1 s, on par with the feed-forward Particulate [ 30 ] baseline. The optimization-based baselines instead fit a kinematic model to each object at test time and are three orders of magnitude slower, requiring 182 s (ReArt [ 37 ] ) and 297 s (ArtGS [ 39 ] ) per object.

11. 观测跨度预测在 PartNet-Mobility 与 ArtiCraft 上旋转误差约 1.6–1.7 度、平移误差低于 0.007 物体尺度，ACD 上为 4.97 度与 0.0185。

    On PartNet-Mobility [ 60 ] and ArtiCraft [ 61 ] , the revolute error is approximately 1.6 1.6 – 1.7 ∘ 1.7^{\circ} , while the prismatic error remains below 0.007 0.007 of the object scale. On the more challenging ACD [ 19 ] , the span error remains relatively low at 4.97 ∘ 4.97^{\circ} for revolute and 0.0185 0.0185 for prismatic joints.

12. 程序化资产生成平均 2.99 毫秒/资产，吞吐约 334.5 资产/秒。

    An asset, together with its exact part and joint annotations available by construction, is generated in 2.99 2.99 ms on average, corresponding to 334.5 334.5 assets/s.

Novelty：核心新颖点有两处：一是多状态铰接 Transformer 中“状态内注意力 + 全局注意力”交替的设计，使无序、变数量的部分点云能直接建立跨观测点级对应，这是对既有查询式铰接 Transformer 的实质性改动，但注意力机制本身并非新发明；二是观测铰接跨度目标，针对“单状态即可解耦导致模型忽略其他观测”的捷径问题提出，动机清晰、定义干净（差值对静止位姿选择不变），是较精巧的训练信号创新。程序化资产生成器属工程贡献，思路与 ArtiCraft 等一致但更轻量、在线化。整体新颖性中等偏上：问题设定（稀疏、无序、变数量）比单组件更显新意。 Soundness：方法自洽，公式、匹配、损失与训练细节交代清楚；消融分别隔离全局注意力与跨度损失，并控制变体只使用策展数据以保证公平；运动估计同时报告匹配部件数，避免了“匹配更少更容易部件反而误差更低”的假象；跨数据集（ACD、ArtiCraft）评估检验分布外泛化。可商榷处：摘要的 64.5%/75.7% 是相对提升，绝对性能在跨数据集上仍不算高；跨度损失对最终指标的因果性主要通过消融体现，但跨度头是辅助任务；真实世界仅定性展示，缺少系统化定量评测；程序化数据与策展数据混合比例的消融说明最优点敏感，但主结果采用了合理配置。总体方法学可靠，结论与证据基本匹配。 Significance：对机器人、AR/VR 与具身智能中“从随手稀疏观测快速重建可交互资产”有实用意义：前馈、单次推理、无需部件数先验，速度远快于优化式方法，且支持单帧到多帧的同一模型。其“用被观测到的运动证据而非仅形状先验”的取向，对三维理解任务有借鉴价值；程序化在线数据生成对标注稀缺的铰接物体域亦有复用潜力。但当前限制在 1-DoF、深度一运动学树与合成训练，距离真实复杂铰接场景仍有距离，因此影响力偏向该子领域内的强基线推进。

一是模型聚焦深度一运动学树（每个可动部件直接连到静态基座），无法表示多级链式或复合关节；二是仅覆盖 1-DoF 旋转/棱柱关节，未处理球铰、多轴或自由部件；三是训练仍完全合成，真实域只有定性结果，上游三维重建噪声大时仍会失败；四是对小部件、被遮挡部件与训练分布外几何/类别退化明显；五是全局注意力对 (SN+K)² 呈二次复杂度，虽在论文压力测试内可用，但扩展到极长序列仍需注意力优化或稀疏化；六是依赖外部三维基础模型提供共享坐标系的点云与法线，端到端鲁棒性受上游影响。

自然延伸包括：利用程序化生成器构建更深运动学树与更多关节类型，训练能表达链式/复合结构的模型；加入多 DoF 关节与自由部件；把方法接入更鲁棒的三维基础模型或做端到端联合训练，以缓解重建噪声；引入真实世界自监督或弱监督（如交互视频中的运动信号）以缩小 sim-to-real 差距；对全局注意力做线性化或稀疏化以支持更长序列；把“观测跨度”思路推广为更一般的跨状态运动证据学习信号；以及将该框架用于下游策略学习、可交互资产生成或机器人操控中的在线铰接建模。

本文处于两个活跃方向的交叉点：多轮 LLM 智能体的可验证奖励强化学习（RLVR）与在线蒸馏（OPD）。其核心立场是：在智能体任务中，特权上下文蒸馏的教师不应被默认为可靠，也不应被全程保留或按固定进度退火，而应被视为“临时脚手架”。相比既有 OPSD（教师与学生共享参数）与固定退火/两阶段方法，RetireOPD 的关键动作有两步：先把特权条件教师解耦并用环境奖励单独训练，再用训练过程中可观测的两个信号（师生差距是否停止缩小、学生成功率是否达到教师的一定比例）在线决定何时退休教师。它属于机制清晰、偏工程训练配方的改进型工作，卖点是简单可复现、且能让学生在教师退休后继续超越教师。

RLVR 是训练 LLM 智能体的主流范式，但整条轨迹只有一个标量奖励，长交互的中间决策完全无监督。OPD 通过在学生自己采样的轨迹上引入教师 token 级监督来补充稀疏奖励；在智能体训练中，教师通常是同一模型加上仅在训练期可见的特权上下文（如检索到的任务技能），学生被训练为在无该上下文的条件下复现教师行为，从而把技能内化进参数、推理时不再需要额外上下文。该范式默认两个假设：教师因看到特权信息而可靠地优于学生，并且匹配教师在整个训练期都有益。作者在 ALFWorld 与 WebShop 上检验后认为两个假设都不成立：其一，在共享参数的 GRPO+OPSD 中，技能条件分支并不稳定优于它监督的学生，因为共享参数主要由技能无关的学生目标优化，从未真正学会利用技能上下文；模型变大也无济于事，7B 模型带同样技能提示在 ALFWorld 上表现仍然很差。其二，OPD 的收益是阶段性的：把 OPD 加入 GRPO 能消除纯 GRPO 的慢启动和纯 OPD 的低天花板，但师生差距先缩小后扩大，说明学生内化技能后，奖励优化会倾向教师不采取的动作，两类梯度开始冲突；继续匹配教师会把学生压在教师性能天花板附近。附录的一阶分析把“差距停滞”解释为局部梯度对立的信号。已有方法用训练前固定的退火权重或预定切换步回答“学多久”，既不观察教师是否仍有用，也因最优切换点随模型与任务在较宽范围波动而难以统一；更细粒度的在线决策（按 prompt、按 token）都不移除教师。本文由此提出：能否继续用教师，可以从训练信号本身读出——差距停止下降即目标冲突，学生相对教师的成功率指示技能是否已内化，因此切换点应在线决定而非预先固定。

方法分三阶段：教师构建、GRPO-OPD 联合训练、自适应教师退休。 【任务定义与教师构建】多轮智能体给定任务输入 x，与环境交互生成轨迹 τ=(x,y)，y=(y_1,…,y_T) 为各步响应，R(τ) 为标量环境奖励。教师 π_φ 与学生 π_θ 从同一基座模型初始化、架构相同。训练期教师额外获得任务相关技能上下文 c^+（特权信息），并用 GRPO 直接优化环境奖励，目标为 φ*=argmax E_{x~D, τ~π_φ(·|x,c+)}[R(τ)]；训练后冻结 φ* 记为熟练教师 π_T。关键点是把教师从学生参数中解耦：教师被显式训练去“利用”技能上下文，把信息优势转化为行为优势，而不是像 OPSD 那样让技能分支与学生共享参数、被技能无关目标主导。此后教师只用于给学生提供稠密监督，不额外采样轨迹。 【联合 GRPO-OPD】学生无 c^+，目标 L_student(θ)=L_GRPO(θ)+λ L_OPD(θ)。GRPO 部分：对每个 x 采样一组 G 条轨迹，按组内标准化得到优势 Â^(i)=(R(τ^(i))−Mean({R}))/std({R})；token 级重要性比 r_t^(i)=π_θ(y_t|x,y_<t)/π_θ_old(y_t|x,y_<t)，用标准 clip 目标 min(r_t Â, clip(r_t,1−ε,1+ε)Â) 对组与 token 平均。OPD 部分：教师与学生以同一前缀 y_<t 为条件比较分布，学生是 π_θ(·|x,y_<t)，教师额外条件于 c^+ 得 π_T(·|x,c+,y_<t)；教师只在学生访问过的状态上打分，不生成独立轨迹。蒸馏目标是 reverse KL：E_{x,y~π_θ}[(1/|y|)Σ_t D_KL(π_θ(·|x,y_<t) || π_T(·|x,c+,y_<t))]。精确 KL 需对整个词表求和，开销大，因此采用学生采样 token 上的单样本近似：Δ_t=log π_T(y_t|x,c+,y_<t)−log π_θ(y_t|x,y_<t)。由于 y_t 来自学生策略，−Δ_t 是该位置 reverse KL 的蒙特卡洛估计，梯度直觉是把学生对自己采样 token 的对数概率向教师方向拉近。 【自适应退休】把训练切成窗口 W。第 n 步的 token 级差距 Δ_t^(i)，先聚合为步级 K_n=(1/G)Σ_i (1/|y_n^(i)|)Σ_t Δ_t^(i)（师生平均对数概率差），再取窗口平均 K̄_m=(1/W)Σ_{n=mW}^{mW+W−1} K_n。两个触发信号：其一“对齐进展”ρ_m^(K)=(K̄_m−K̄_{m−1})/K̄_m，ρ 为负表示师生差距仍在缩小（迁移在进行），非负表示缩小停滞或反转（冲突出现）；其二“相对能力”η_m=(SR_m+SR_{m−1})/(2 SR_T)，把学生连续两窗口成功率平均后除以教师成功率，用以抑制学生尚弱时的过早退休。退休条件取第一个满足的窗口 m*：m≥2 且 ρ_m≥δ 且 η_m≥γ，默认 δ=0、γ=0.9；一旦满足即去掉 OPD 项，只用 GRPO 继续训练，且不再需要教师前向。设计直觉由附录一阶分析支撑：令 J 为期望回报、D 为 KL 散度、g=∇J、h=∇D，联合更新 θ^+=θ+η(g−λh)；回报一阶变化为 η(‖g‖²−λ⟨g,h⟩)，故 ⟨g,h⟩>0 时 OPD 与奖励优化冲突，λ⟨g,h⟩>‖g‖² 时联合更新甚至降低回报；又 dD/dt=⟨g,h⟩−λ‖h‖²，所以差距不再下降意味着局部冲突或 OPD 信号趋于零；在冲突区间退出教师比继续联合优化多出一阶回报提升 ηλ⟨g,h⟩。 【训练与数据细节】基座为 Qwen2.5-1.5B/3B/7B-Instruct，教师与学生同架构同初始化。默认蒸馏系数 λ=0.01、GRPO 组大小 G=8、学习率 1e-6、训练批 16、总步数 150、验证集 128、KL 正则系数 0.01；退休判据每 H=5 个评估步检查一次，窗口 W=5，γ=0.9、δ=0。特权信息使用 SkillRL 的 SkillBank，检索采用 SDAR 的 Keyword Matching 策略。基准为文本具身任务 ALFWorld 与网页购物任务 WebShop，分别考察长程规划/状态追踪与目标导向的多步信息收集。学生最终在推理时无任何特权上下文。

实验在多个交互式智能体基准、多个模型规模、多组基线（免训练、纯强化学习、纯蒸馏、混合）上进行。总体结论是 RetireOPD 在所有设置中取得最佳成绩，既明显超过纯 GRPO 与更强的 GiGPO 等强化学习基线，也超过全程保留蒸馏的 GRPO+OPD，并在各规模上超过它自己的技能条件教师。消融与动力学分析相互印证：显式训练教师能大幅提升教师质量并传导到学生；两个退休判据各自有贡献、联合最好；阈值在较宽区间内表现稳健，退休步数只在小范围波动；与线性退火相比，自适应切换在早期保留引导的同时避免后期受约束。训练动力学与附录的一阶分析一致：退休点之后继续联合优化会趋于平台，继续纯 OPD 不能提升任务表现，而去掉 OPD 继续 GRPO 能持续改善。

1. 相对 RL 基线，RetireOPD 在 ALFWorld 成功率上提升 14.1% 到 18.8%，在 WebShop 准确率上提升 11.8% 到 19.0%，并在所有设置中超过自己的技能条件教师。

   Across Qwen2.5 models from 1.5B to 7B, RetireOPD improves ALFWorld success rate over RL baseline by 14.1% to 18.8% and WebShop accuracy by 11.8% to 19.0%, and surpasses its own skill-conditioned teacher in every setting.

2. 在 ALFWorld 上，RetireOPD 相对 GRPO 的增益随模型规模分别为 +17.0、+18.8、+14.1 个点。

   On ALFWorld, RetireOPD outperforms GRPO by 18.8 points on Qwen2.5-3B (93.8% vs. 75.0%), with similarly strong gains of +17.0 / +14.1 points on the 1.5B / 7B models.

3. 在 WebShop 上，RetireOPD 相对 GRPO 的准确率增益为 +19.0、+14.0、+11.8 个点。

   On WebShop, RetireOPD delivers similarly strong improvements, reaching 75.8% accuracy on Qwen2.5-1.5B compared with 56.8% for GRPO (+19.0 points), with gains of +14.0 / +11.8 points on the 3B / 7B models.

4. RetireOPD 在 3B 设置上超过教师：ALFWorld 93.8% 对 79.7%，WebShop 77.3% 对 64.8%。

   For example, on Qwen2.5-3B-Instruct, RetireOPD achieves 93.8% success on ALFWorld and 77.3% Acc on WebShop, compared with the teacher’s 79.7% and 64.8%.

5. 7B 模型仅用技能提示在 ALFWorld 上只有 23.4% 成功率，说明模型规模本身不能带来技能利用。

   Model size does not help: a 7B model prompted with the same skills reaches only 23.4% success on ALFWorld (Section 4.4 ).

6. 未显式优化的 3B/7B 教师只有 28.9%/23.4%，经环境奖励优化后升至 79.7%/90.6%，并带来更强的学生表现。

   Without explicit optimization, the 3B and 7B teachers achieve only 28.9% and 23.4%, indicating that simply increasing model capacity does not improve skill utilization. After optimization with environmental rewards, their performance rises to 79.7% and 90.6% respectively, and consistently leads to stronger student performance.

7. 退休判据消融：全程保留 OPD 仅 82.8%，完整方法 92.2%；只用对齐停滞或只用相对能力都只有 89.0%。

   Retaining OPD throughout training achieves only 82.8%, while the complete method reaches 92.2%, showing that timely removal of teacher supervision is crucial for further optimization. Using either alignment progress or relative competence alone reaches 89.0%, whereas combining both signals achieves the best performance, indicating that the two criteria are complementary.

8. 阈值敏感度：改变 γ、δ 使切换步在 55 到 95 之间变动，成功率仍在 89.1% 到 92.2% 范围内。

   Varying either threshold shifts the selected transition step from 55 to 95, while success rates remain relatively stable, ranging from 89.1% to 92.2%, indicating reasonable robustness over a broad parameter range.

9. 退休时机稳健性：在 γ∈[0.80,0.96]、δ∈[−0.10,0.04] 区间内退休步与默认设置相差不超过 ±5 步。

   Specifically, the retiring step stays within ± 5 \pm 5 steps of the default setting for γ ∈ [ 0.80 , 0.96 ] \gamma\in[0.80,0.96] and δ ∈ [ − 0.10 , 0.04 ] \delta\in[-0.10,0.04] .

10. 自适应退休削弱了学生对教师质量的长期依赖：Skill-7B 与 Skill-3B 教师下的学生差距从 89.8% 对 82.8% 缩小到 91.4% 对 92.2%。

    With adaptive retirement, this gap largely disappears (91.4% vs. 92.2%), suggesting that a reliable teacher is important for early guidance, while the retirement mechanism reduces long-term dependence on the teacher.

11. 在退休点之后去掉 OPD 并继续 GRPO，成功率从 76.6% 提升到 93.8%。

    In contrast, removing OPD and continuing with GRPO steadily improves the success rate from 76.6% at the retiring point to 93.8%.

12. 7B 设置下 RetireOPD 取得 ALFWorld 平均 95.3%、WebShop 分数 91.7、准确率 84.4。

    RetireOPD | Hybrid | 100.0 | 100.0 | 100.0 | 76.9 | 96.4 | 90.9 | 95.3 | 91.7 | 84.4

Novelty：新颖性判断：中等偏实用。单项组件——解耦教师并用环境奖励训练、GRPO+OPD 联合、按训练信号减弱教师影响——在文献中都有对应物；本文的新意主要在于把“教师是否可靠”与“何时退休教师”从默认假设/固定进度提升为训练期在线决策，并用两个可观测量（师生对数概率差距的停滞、相对教师成功率）给出一个简单的触发规则。其理论分析是一阶局部展开，属于解释性而非新的理论贡献。整体上不是范式级创新，但问题定位清晰、机制直观，是一种可迁移的训练配方改进。 Soundness：可靠性判断：中上。优点：基线与消融较全，覆盖纯 RL、纯蒸馏、混合、退火对比，并在两个基准、三个规模上一致；退休判据的每个成分都有消融，阈值稳健性也有专门实验；训练动力学与附录一阶分析相互印证，逻辑链较完整。主要短板：只报告单次运行、无种子方差或置信区间，无法判断小差异的显著性；成功率 SR_m 依赖周期性验证评估，属于额外开销且文中未完全说清其与训练批次的关系；δ=0 默认且 ρ 以 K̄_m 归一，在差距接近零时的数值稳定性未被讨论；λ 固定取自既有工作，未做灵敏度分析；两阶段切换类基线只实现了线性退火，未直接比较其他预定切换方案；理论分析忽略 clip 与有限样本噪声，只能作为启发式解释。结论方向可信，但严格性有待补强。 Significance：显著性判断：中等。智能体 RLVR 与特权蒸馏是当前热点，本文发现的“教师监督是临时脚手架”与“教师需先被训练才能利用特权信息”对实践者有直接价值；方法实现简单、只在退休前多花教师前向，且能让学生超过冻结教师，对混合 RL+蒸馏流程有借鉴意义。局限在于仅在两个文本类环境、单一模型家族、最大 7B 规模上验证，证据广度有限；它更像工程配方与经验规律的打包，尚未改变该方向的理论或基本方法框架。

一、评估面窄：只有 ALFWorld 与 WebShop 两个文本类基准，未覆盖代码智能体、工具调用、浏览器或多模态智能体，外部效度有限。二、规模与家族单一：全部使用 Qwen2.5-Instruct 系列、最大 7B，未验证更大模型或其他家族；教师与学生同容量，未讨论更强/更弱教师及容量差。三、统计严谨性不足：未见多随机种子、方差、显著性检验，表格中的微小差距难以判断是否稳健。四、退休信号依赖验证成功率 SR_m，需要周期性评估，文中未详细说明评估成本与训练集/验证集关系；ρ 的分母 K̄_m 在差距趋近零时可能不稳定，也未做退化情形分析。五、超参数仍多：窗口 W、检查间隔 H、γ、δ、λ 都需设定，虽展示了 γ/δ 稳健性，但 λ、W、H 未做灵敏度；默认 δ=0 的“停滞”定义较宽。六、教师构建成本：需先单独训练一个同容量教师再冻结，增加计算与显存开销，且教师不随学生更新，后期可能过时。七、固定进度对比不足：只实现了 ATOD 线性退火，未直接比较两阶段切换、余弦退火等其他预定方案。八、理论分析是一阶局部近似，忽略 clip、随机性与非凸性，不能严格证明最优退休点，只能作为动机。九、对技能检索质量依赖强：使用 SkillBank 与 Keyword Matching，但未系统消融特权信息质量或检索错误的影响。十、二元退休（一次性移除 OPD）缺少中间态，可能不是最优的教师退出方式。

可跟进方向：一、在代码智能体、工具调用、浏览器任务、SWE-bench 风格长程环境以及更大模型上复现，检验“临时脚手架”结论的普适性。二、补多随机种子与方差报告，并对 γ、δ、λ、窗口大小、检查间隔做系统灵敏度，尤其检验 K̄_m 近零时的数值稳定性。三、用更完整的分布散度或直接估计 ⟨g,h⟩（梯度内积）作为冲突信号，替代采样 token 的 log 概率差；也可把二元退休推广为根据冲突强度自适应下调 λ 的软退休。四、允许教师在线继续微调或学生-教师协同更新，避免教师冻结导致的陈旧监督。五、与更多固定进度方案（两阶段切换、余弦/线性退火、按 token 门控的退出策略）做受控比较，明确“在线判据”相对“充分调参的固定进度”的净收益。六、降低评估开销：探索用训练批内的奖励/优势统计量近似相对能力，替代周期性验证成功率。七、把教师构建扩展到异源教师（更强模型、外部工具、检索式技能与后见技能混合），并研究教师质量阈值对退休点的影响。八、从理论上分析带 clip 与随机梯度的 GRPO-OPD 动力学，给出更严格的最优退出条件或收敛保证。

Fine-grained visual perception in MLLMs is commonly improved by raising the resolution, but the added visual tokens inflate vision-encoding and language-model prefilling costs. We show that the two operations underlying fine-grained perception, localizing the region of interest (RoI) and recognizing its content, have different resolution requirements. In a controlled diagnostic, localization tolerates roughly 3 to 4 times stronger token compression than recognition, which motivates localizing from a coarse view and concentrating resolution on the selected evidence. Decoding coordinates with the MLLM can be trained end-to-end from answers, but costs a full model pass per query and depends on grounding ability. A lightweight proposal network distilled from the model's attention is fast, but inherits the noise of its attention targets. The RoI from the proposal network reaches the answer through a discrete region choice, so its faithfulness to the answer cannot supervise the network. We t

仅依据摘要，无法可靠判断方法 soundness 与实验充分性，请以原文为准。

本文提出 SpectralShift，一种面向 Gated DeltaNet（GDN）长上下文持续预训练的谱重参数化方法。与只调整位置编码或直接续训的常见做法不同，论文从循环状态转移矩阵的谱动力学出发，识别出长程信息保持的两个条件：足够宽的“慢谱带”与保留快衰减模式；据此对 α 投影做初始化重参数化，并对 α 投影施加长度缩放的学习率。论文同时给出基于 NIAH 的谱分析、理论引理/定理和多种扩展设置下的实验验证，属于“谱视角分析 + 训练策略改进”的方法型工作，代码已开源。

长上下文建模是现代大模型的核心需求，涉及长文档理解、检索增强推理和智能体交互等任务。全注意力提供直接的 token 级交互，但复杂度随长度平方增长，限制其可扩展性。线性注意力架构把历史信息压缩到固定大小的循环状态中，以线性复杂度换取长序列处理能力，因此被越来越多地用于大规模模型。 GDN 是线性注意力/循环架构中的一种，它维护矩阵值循环状态，并用数据依赖的保留门 α 和更新门 β 执行 gated delta rule。与全注意力“所有历史 token 显式可访问”不同，循环模型必须通过有限维状态转移过程保留信息，因此长上下文能力本质上受制于循环状态能否在目标依赖距离上保持信息。 已有长上下文扩展方法大多针对 softmax 注意力调整位置编码，然后进行更长序列的持续预训练，而线性注意力层往往被原样保留。论文认为这会造成一个错配：在原始上下文长度上学到的循环转移动力学，未必适合更长的目标上下文。针对这一问题，论文选择 GDN 作为研究对象，从转移矩阵的有限时间衰减和奇异值谱出发，提出“慢谱带”和“写对齐”概念，并将谱结构调整落到 α 投影的初始化与训练动态上。 相关背景还包括：线性注意力从核方法到 Lightning Attention、Mamba-2、DeltaNet 等 expressive 架构的发展；长上下文扩展中渐进式长度课程、位置编码修正、注意力机制改进等路线；以及针对 Mamba 类循环模型的 Universal Position Interpolation、LongMamba、DeciMamba、ReMamba 等工作。相比之下，DeltaNet/GDN 的长上下文缩放行为此前较少被系统研究。

一、GDN 循环状态与有限时间衰减分解 GDN 对每个 head 维护状态 S_t，更新规则为 S_t = A_t S_{t-1} + Δ_t， 其中 A_t = α_t (I - β_t k_t k_t^T)，Δ_t = β_t v_t k_t^T。 α_t∈(0,1] 控制对上一状态的保留，β_t∈(0,1) 控制当前写入强度。α 的参数化是 α_t = exp(-exp(A_log) softplus(a_t + b_dt))，a_t = W_α h_t， β 由 β_t = σ(W_β h_t) 给出；key 通常做 L2 归一化。因为 α_t 是标量，A_t 的谱为 spec(A_t) = {α_t(1-β_t), α_t, …, α_t}， 即 α 对所有方向施加共同的缩放，而 β 沿当前 key 方向额外衰减。 对位置 i<j、间隔 ℓ=j-i，定义有限时间转移矩阵 Φ_{i→j} = A_j A_{j-1} … A_{i+1}。 状态展开为 S_j = Φ_{0→j}S_0 + Σ_{s=1}^j Φ_{s→j}Δ_s，因此位置 i 的写入对位置 j 的贡献是 Φ_{i→j}Δ_i。对 Φ 的奇异值 σ_r(Φ) 定义逐方向衰减率 γ_r(i,j) = -(1/ℓ) log σ_r(Φ_{i→j})。 将标量 α 与方向性项 R 分开后得到 Φ_{i→j} = exp(Σ_{t=i+1}^j log α_t) R_{i→j}， R_{i→j} = Π_{t=i+1}^j (I - β_t k_t k_t^T)， 于是 γ_r = γ_α + γ_{R,r}， 其中 γ_α = -(1/ℓ) Σ_{t=i+1}^j log α_t 是 head 内所有方向共享的头部衰减分量， γ_{R,r} = -(1/ℓ) log σ_r(R_{i→j}) 是由 β、k 决定的方向性衰减分量。 论文由此把“忘记行为”拆成两个可分别控制的部分：α 决定整体快慢尺度，β/k 决定哪些方向被更快清除。 二、慢谱带与写对齐：从谱到检索的两条经验规律 对目标依赖长度 ℓ，如果某个方向的有限时间时间尺度满足 1/γ_r≥ℓ，等价地 log σ_r(Φ_{i→j}) ≥ -1， 则该方向属于“慢谱带” S_ℓ。|S_ℓ| 衡量能覆盖目标依赖距离的慢方向数量。论文还定义两个层-头聚合量： H_ℓ^slow = #{h: S_ℓ≠∅}，M_ℓ^slow = Σ_h |S_ℓ|， 分别度量慢传播容量在多少层-头中分布，以及总共多少状态方向能跨完整 needle-query 距离。 仅有慢方向容量还不够，写入必须真正进入这些方向。needle 位置 i 的实际写入不是原始 value，而是 Delta 残差形式 Δ_i^(needle) = k_i Δv_i^T，Δv_i = β_i [v_i - α_i S_{i-1}^T k_i]。 若 Φ_{i→j}=UΣV^T，右奇异向量 V_{S_ℓ} 张成能在完整区间存活的方向。定义写对齐 E_write = ||V_{S_ℓ}^T k_i||_2^2 / ||k_i||_2^2， 度量 needle key 有多大比例投影到慢输入子空间。E_write 越大，写入信息越可能被慢模式保存到回答位置。 论文用成对的 Low-Retrieval 和 High-Retrieval 检查点做 NIAH 谱分析：High-Retrieval 在最长 needle-query 距离上拥有更多覆盖完整距离的慢模式和更宽的层-头分布，同时 E_write 与 NIAH 分数也更高；并且快头数量几乎没有因慢谱扩张而减少。这说明有效长上下文需要“宽慢谱带 + 高写对齐 + 快模式保留”的组合，而不仅仅是单个最大记忆时间尺度。 三、α 投影重参数化：谱初始化 设参考 α 投影矩阵 W_α^ref，其全局均值为 μ_α^ref = (1/N) Σ_{m,n}(W_α^ref)_{mn}。 对隐藏状态 h_t，把 α 投影输出分解为 a_t^ref = W_α^ref h_t = μ_α^ref J h_t + (W_α^ref - μ_α^ref J) h_t = c_t + ξ_t， 其中 c_t 是共享幅度项，ξ_t 是输入依赖的偏离项。SpectralShift 的初始化重参数化为 a_t(s_1) = c_t + s_1 ξ_t，0<s_1≤1， 即缩放 α 投影围绕其全局均值的偏离，而不是整体缩放 W_α。 记 p_t(s_1)=exp(A_log) softplus(c_t+s_1ξ_t+b_dt)，α_t(s_1)=exp(-p_t(s_1))。对其求导得 ∂p_t/∂s_1 = exp(A_log) σ(z_t(s_1)) ξ_t， 由于 exp(A_log)>0 且 sigmoid 为正，导数的符号完全由 ξ_t 决定。于是 Lemma 1 给出：当 ξ_t>0 时，减小 s_1 使 p_t 减小、α_t 增大，即增强保留；当 ξ_t<0 时，减小 s_1 使 p_t 增大、α_t 减小，即增强遗忘。这样同一重参数化会在不同 token/head 上产生相反方向的局部遗忘调整：正偏离方向变得更慢，负偏离方向变得更快。沿序列累积后，它改变 head 级共享衰减 γ_α，从而形成非均匀的谱初始化：一些 head 偏向慢传播，另一些保持较快遗忘，而方向性转移 R 在重参数化瞬间保持不变。 论文进一步在幂律族 s_k = (L_ref / L_tar)^k 中根据尺度匹配推导最优指数 k=0.5，因此 s_1 = (L_ref / L_tar)^{0.5}。 直觉是：目标长度增大时，需要把输入依赖偏离项的幅度按长度比的平方根压缩，既不是完全不缩放（k=0），也不是线性完全缩放（k=1）；平方根在“增强慢模式”与“保持稳定优化”之间取得平衡。这一选择也通过消融中的 s^{0.25}、s^{0.5}、s 对比得到验证。 四、长度缩放的持续预训练：训练期谱保持 如果 CPT 期间 α 投影被大幅更新，初始化建立的慢谱带可能被破坏。SpectralShift 只缩放 α 投影的学习率： η_α^tar = s_2 η_α^ref， 其他 β、key、value 参数保持原学习率。把 α 更新写成 ΔW_α = -s_2 η_α^ref Q_α， 并再次按共享/中心分解 Δa_t = Δc_t + Δξ_t。Theorem 1 给出一步更新后 head 共享衰减的一阶变化： γ_α^{(u+1)} - γ_α^{(u)} = (1/ℓ) Σ_{t=i+1}^j ω_t^{(u)}(Δc_t^{(u)} + Δξ_t^{(u)}) + R_α^{(2)}， 在局部正则条件下有界为 |γ_α^{(u+1)} - γ_α^{(u)}| ≤ C_α^{(u)} s_2 η_α^ref + O(s_2^2 η_α^ref)。 因此 s_2 直接限制整个 head 向快/慢谱区的集体漂移，而未被缩放的 β、key、value 更新继续根据目标长度数据调整方向性转移和状态写入。实现上直接令 s_2 = s_1 = (L_ref / L_tar)^{0.5}。 五、联合谱位移与最终慢谱条件 将初始化与 CPT 更新合并，最终模式衰减率为 γ_r^after = γ_r^ref - D_r， D_r = δ_r^init + δ^{CPT,α} + δ_r^{CPT,Δ}。 对目标依赖长度 ℓ，只要 D_r ≥ γ_r^ref - 1/ℓ，该模式就满足 γ_r^after ≤ 1/ℓ，进入最终慢谱带。附录给出可验证的充分条件：在有限 CPT 中保持正初始化裕度 D_r ≥ g_*/(2ℓ)>0，从而参考慢模式被保留、近边界模式进入任务匹配慢谱带；同时给出保持参考快头的独立条件。综合效果是：慢谱带变宽，更多长上下文写入能投影到存活方向上，长程信息保留增强，而快衰减分量不被牺牲。 六、训练与数据细节 论文先预训练一个 GDN-MoE 混合模型作为基线，数据为 Dolma3，优化器为 Muon，采用固定短上下文长度。随后从该检查点扩展到多个目标上下文长度；对最长的两个目标采用分阶段长度课程，先从短上下文扩到中间长度，再扩到目标长度。默认设置使用 ABF 调整的 RoPE base 处理全局注意力，CPT 使用常数学习率与固定 token 预算。评估包括通用能力基准（MMLU、LAMBADA、ARC-Easy、WinoGrande、PiQA）和长上下文基准（RACE、DROP、RULER，RULER 覆盖 needle retrieval、词频抽取、变量追踪和阅读理解等子任务）。谱分析在成对的低/高检索检查点上进行：两者从同一短上下文检查点出发，区别仅在是否先做 α 重参数化；前向在 BF16 下执行，转移矩阵乘积和 SVD 在 FP64 下执行，慢模式判据为 log σ_r(Φ) ≥ -1。

论文先预训练一个 GDN-MoE 基线，再在不同长度课程与位置编码策略下扩展到多个目标上下文长度，比较 SpectralShift 与直接续训基线。评估分为通用能力与长上下文能力（RACE、DROP、RULER）两类。实验还包含四类消融/扩展：α 重参数化与 α 学习率缩放的组合及缩放因子选择；DroPE、YaRN、ABF 三种位置编码；纯 GDN 架构上的适用性；以及 RULER 方差检验。总体结论是：SpectralShift 在多数设置下提升长上下文检索，同时保持或略改善通用能力；α 重参数化与 α 学习率缩放互补，中等缩放因子最稳；对不同位置编码和纯线性注意力架构也有效。具体数值见下方 claim-quote 对。

1. 基线模型是一个从零预训练的 GDN-MoE，短上下文长度为 8192，训练预算为 500B token，全局 batch 为 1024，学习率为 8.6e-4，使用 Muon 优化器。

   we pretrain a 1.5B-A0.6B scale GDN-MoE language model from scratch on the Dolma3 corpus Olmo et al. (2026) with an 8192 context length. The base model is trained with a 500B-token budget, a global batch size of 1024, and a constant learning rate of 8.6e-4 using Muon optimizer Jordan et al. (2024) .

2. 在最长 needle-query 距离上，High-Retrieval 比 Low-Retrieval 拥有更多覆盖完整任务距离的慢模式，并且这些模式分布在更多层-头中；例如 8K 窗口下慢层-头数从 18 增至 22，慢模式数从 1036 增至 1308。

   8K | 6535 | Low-Retrieval | 18 | 1036 High-Retrieval | 22 | 1308 32K | 26195 | Low-Retrieval | 15 | 984 High-Retrieval | 19 | 1109

3. High-Retrieval 的写对齐 E_write 和 NIAH 平均分均高于 Low-Retrieval，说明检索能力与写入慢子空间的比例相关。

   8K | Low-Retrieval | 0.1006 | 8.60 High-Retrieval | 0.1503 | 32.93 32K | Low-Retrieval | 0.0964 | 10.07 High-Retrieval | 0.1819 | 30.47

4. 慢谱扩张后快衰减头基本保持：8K 窗口下 Low-Retrieval 有 4 个快头、High-Retrieval 有 5 个；32K 窗口下两者均为 5 个。

   8K | 4 | 5 32K | 5 | 5

5. 在 32K 目标上下文、10B 课程设置下，SpectralShift 的 RULER 长上下文分数在 8K/16K/32K 上均高于基线（57.1/52.9/45.8 对 55.5/49.7/40.6），但通用平均分略低于基线（53.1 对 54.3）。

   32K | 10B | SpectralShift | 53.1 | 21.5 | 34.2 | 57.1 | 52.9 | 45.8 | – | – Baseline | 54.3 | 22.3 | 33.8 | 55.5 | 49.7 | 40.6 | – | –

6. 在 128K 目标上下文、10B+10B 两阶段课程下，SpectralShift 的 RULER 分数在 16K 至 128K 各长度上均高于基线（60.1/56.7/49.9/44.6 对 57.2/51.9/45.4/43.1）。

   128K | 10B+10B | SpectralShift | 54.8 | 22.1 | 33.4 | 64.6 | 60.1 | 56.7 | 49.9 | 44.6 Baseline | 53.7 | 20.7 | 32.4 | 64.3 | 57.2 | 51.9 | 45.4 | 43.1

7. 在 128K 两阶段 CPT 设置下，SpectralShift 的平均 RULER 分为 55.18，基线为 52.38，相对提升约 5.35%。

   when extending the model to a 128K context window through two-stage continual pretraining, SpectralShift achieves an average RULER score of 55.18, compared with 52.38 for the baseline, corresponding to a relative improvement of approximately 5.35%.

8. 消融显示：同时使用 α 重参数化和 α 学习率缩放、并取 s^0.5 的配置（⑤）总体最佳；完全缩放 s（⑥）虽然检索尚可但通用能力明显下降。

   ① | No | No | No | 54.0 | 20.1 | 35.5 | 57.6 | 50.8 | 47.4 | 43.6 | 42.8 ② | α \alpha | No | s 0.25 s^{0.25} | 55.1 | 24.0 | 34.6 | 60.0 | 51.9 | 49.1 | 41.2 | 38.4 ③ | α \alpha | α \alpha | s 0.25 s^{0.25} | 54.9 | 21.6 | 34.1 | 61.8 | 56.2 | 50.0 | 42.1 | 40.7 ④ | α \alpha | No | s 0.5 s^{0.5} | 54.1 | 22.2 | 34.8 | 61.4 | 54.2 | 50.6 | 43.5 | 39.8 ⑤ | α \alpha | α \alpha | s 0.5 s^{0.5} | 54.3 | 23.9 | 35.3 | 63.8 | 57.8 | 52.5 | 48.5 | 42.9 ⑥ | α \alpha | α \alpha | s s | 52.2 | 21.2 | 31.8 | 61.3 | 53.4 | 51.4 | 43.5 | 40.1

9. 在 ABF 位置编码、32K→64K 扩展设置下，SpectralShift 的 RULER 各长度分数均高于基线（59.7/52.7/45.4/38.5 对 56.5/47.0/41.6/32.2）。

   ABF | SpectralShift | 55.5 | 24.1 | 33.0 | 59.7 | 52.7 | 45.4 | 38.5 Baseline | 54.8 | 21.6 | 31.3 | 56.5 | 47.0 | 41.6 | 32.2

10. 在纯 GDN 模型上，SpectralShift 在 4k→8k、4k→16k、4k→32k 三种扩展设置下 RULER 分数均高于基线，且目标长度越长优势越明显。

    SpectralShift | 11.96 | 11.25 | 10.63 Baseline | 11.11 | 8.00 | 6.43

11. RULER 多次评估方差很低，表明主要长上下文扩展实验的结果具有较强一致性。

    128K | 10B+10B | SpectralShift | 0.0844 | 0.0894 | 0.0905 | 0.0808 | 0.0702 Baseline | 0.0744 | 0.0828 | 0.0849 | 0.0798 | 0.0636

Novelty：新颖点主要在于把 GDN 长上下文扩展问题显式建模为循环状态转移矩阵的谱结构调整。已有工作多围绕位置编码或通用续训，本文提出了“慢谱带宽度 + 写对齐 + 快模式保留”的分析框架，并用 E_write、H_ℓ^slow、M_ℓ^slow 等可计算量连接谱与检索表现。方法层面，α 投影“围绕全局均值缩放偏离项”的重参数化比较轻量，既非整体缩放、也不改变 β/key/value 的方向性转移；配套的 α 学习率缩放也有清晰的 head 级共享衰减控制解释。整体上属于有新意的增量贡献，但核心部件仍基于现有 GDN 参数化，理论多为局部、条件性结论，未提出全新架构或训练目标。 Soundness：论证结构较完整：先通过有限时间转移矩阵严格导出 γ_r 分解，再用配对检查点的谱测量验证慢谱带与写对齐假设，最后给出 Lemma 1、Theorem 1 和附录中的充分条件。实验方面，论文自训 GDN-MoE 基线并覆盖多个目标长度、位置编码和纯 GDN 设置，消融能区分重参数化、学习率缩放和缩放因子的作用，方差报告也增强了可靠性。不过仍有若干削弱证据强度的因素：核心机制分析依赖 NIAH 合成探针，写对齐/慢模式数量与检索分数的因果关系不够直接；固定轨迹、固定方向等假设只能描述初始化瞬间，无法完整刻画多层网络全前向的谱变化；未与针对线性循环模型的其他扩展方法直接比较，baseline 主要是“不修改线性层的续训”；部分指标提升幅度不大，且 8K→32K 的 ABF 设置下通用分甚至略低于基线，方法的稳健边界尚需更多证据。 Significance：对当前混合线性注意力大模型的长上下文扩展有实践意义：现代模型广泛采用 GDN/Mamba-2/Delta Attention 等线性层，但技术报告通常不解释其长上下文扩展细节。SpectralShift 提供了一个轻量、可叠加在续训流程上的谱初始化与学习率缩放方案，且与不同位置编码策略兼容，对纯线性注意力也有迁移潜力。其谱分析工具（慢谱带、写对齐、快头保持）也可用于诊断其他循环/线性架构。局限是验证规模较小、任务偏合成检索，距离证明其在工业级混合模型上的收益仍有距离，因此当前更应视为一个有启发的机制研究和方法原型。

论文自陈的主要局限是只在较小规模的 GDN-MoE 基线上验证，没有在已经扩展到超长上下文的大规模开源混合模型上实验，原因是训练大规模混合模型超出可用算力。由此带来的外部效度问题是：SpectralShift 的增益是否随模型规模、混合比例和真实长上下文数据分布保持，尚未可知。 从方法内部看，α 重参数化的谱位移分析基于固定轨迹和固定方向假设，只精确描述重参数化瞬间的直接效应；完整网络中后续层状态会因 α 变化而改变，最终谱并不等于逐头标量位移。Theorem 1 依赖局部正则条件，附录中的充分条件也是条件性结论，不能保证任意训练轨迹都满足。分析主要用 NIAH 合成任务，E_write 和慢模式计数对更复杂的长上下文推理（多跳、变量追踪、跨文档综合）的解释力有限。 实验比较面也偏窄：baseline 基本是“直接续训”，没有与 LongMamba、DeciMamba 等循环模型长上下文扩展方法对比；CPT token 预算固定且较小，课程设置与位置编码策略的组合可能引入混淆。此外，缩放因子 s=(L_ref/L_tar)^{0.5} 的幂律形式和指数 0.5 虽经消融支持，但缺乏跨长度、跨数据分布的自适应机制，超长上下文下是否仍需分阶段调整也不明确。快模式保持虽在谱指标上成立，但未在需要快速上下文切换/状态清除的行为任务上做直接验证。

后续工作可沿几个方向展开。第一，在更大规模的混合线性注意力模型（如 Qwen3.5、Kimi Linear、MiniMax-01 等公开或可复现模型）上验证 SpectralShift，观察谱增益是否随模型规模、线性层占比和已有长上下文能力变化。第二，扩展到 GDN 之外：DeltaNet、Mamba-2、Lightning Attention 等架构同样存在标量衰减与方向性更新可分离的结构，可以类比设计对应投影重参数化和模块级学习率缩放。第三，把谱约束从“初始化 + α 学习率缩放”发展为训练期显式正则或损失项，例如约束慢谱带宽度下限、约束快头比例或直接最大化 E_write，从而减少对固定轨迹条件的依赖。第四，用更真实的长上下文任务评估，如多文档问答、长代码仓库理解、长对话状态跟踪、agent 轨迹记忆等，检验快慢谱分离是否真正对应“长期记忆 vs 上下文切换”的行为需求。第五，研究缩放因子的自动化选择：根据目标长度、层深度、数据统计和初始谱分布学习或搜索 s，而不是固定平方根。第六，将 SpectralShift 与位置编码方法、状态压缩/固化方法组合，分析它们在谱层面的叠加或冲突，为混合模型长上下文训练给出更完整的配方。

Test-time scaling can improve large language model reasoning by generating and combining multiple candidate responses. In sampling-based methods, the inference budget is often described by the number of generated candidates, N. However, N tells us how many candidates are generated, not how they are executed. The same candidate budget can be produced in one batched generation call or split across several sequential calls with smaller batch sizes. We first study the effect of increasing N on reasoning accuracy using Phi-3-mini and Qwen2.5-1.5B on 500 GSM8K prompts. As expected, increasing N from 1 to 8 improves accuracy by 8.4 percentage points for Phi-3-mini and 18.4 points for Qwen2.5-1.5B. However, accuracy alone does not show the systems cost of using a larger candidate budget. We therefore fix N = 8 and compare four generation schedules: 1x8, 2x4, 4x2, and 8x1, where axb denotes a generation calls with b candidates per call. We measure latency, throughput, GPU-hours, and gross GPU-d

仅依据摘要，无法可靠判断方法 soundness 与实验充分性，请以原文为准。

本文处于视觉-语言模型的像素级密集 grounding 研究线，具体任务是 panoptic grounded captioning：模型需同时生成覆盖前景物体与背景区域的完整场景描述，并为每个指称短语给出像素级掩码。文章同时交付两件东西：一是人工标注基准 PanoCaps，解决现有数据“覆盖率高但噪声大 / 人工质量高但覆盖稀疏”的取舍；二是模型 PANORAMA，把 phrase grounding 重新定义为“从短语条件化的 mask proposal 池中做选择”，从而把指代理解（VLM）与边界勾画（预训练分割器）解耦。其定位是证明在不大幅牺牲语言质量的前提下，可以获得高质量、支持多实例的像素级实体定位，并通过跨任务迁移验证该接口设计的通用性。

现代 VLM 能生成流畅详细的字幕，但把描述可靠地对应到像素仍难。已有的空间 grounding 方法大致三类：坐标/空间 token（多为框级）；以 [SEG] 隐藏态条件专用 mask decoder；把掩码离散化为 token 自回归重建。其中 [SEG]-decoding 让单一表示同时承担指代与边界，往往需要额外 mask tokenizer 或任务专用像素解码器。数据方面，Flickr30k Entities 提供短语-框对齐（理解型）；PNG 通过鼠标轨迹自动映射；GranD-f 规模大但描述稀疏、覆盖不完整；COCONut-PanCap 有密集掩码但自动标注噪声、仅 COCO、缺乏人类校验。PanoCaps 填补“人工自由文本 + 近全覆盖 + 短语级像素对齐”的空白：取自 COCONut/ADE20K/VIPSeg，人工筛选与独立验证，约 3.5K 图、99% 像素覆盖、31.3K 实体、17.9K 唯一名词短语；约 9.8% 短语指向多个掩码、12.5% 掩码被多个短语引用。评估上，文本质量用 CAPTURE，分割用类别无关 AP50/mIoU，grounding 用级联 exact/lemma/WordNet/Sentence-BERT 的短语相似度 + 匈牙利匹配得到 P/R/F1，并引入 gPQ：对匹配对按掩码 IoU 与文本相似度加权、分母计入 FP/FN，从而同时惩罚漏检与误检。

任务定义：给定图像 I，生成自然语言 caption C，其中每个指称短语对应像素掩码集合；短语可指向单个区域、多个区域或空集（无目标区域时不发 [SEG]）。 核心思路是把 phrase grounding 形式化为“从短语条件化的 mask proposal 池中做选择”。流程分四步： (1) VLM。基于 Qwen3-VL-Instruct（2B/4B），自回归生成响应，每个指称短语用 <p>…</p> 包裹，并在其后发出一个 [SEG] token。 (2) 概念桥。取第 k 个 [SEG] 位置的末层隐藏态 h_k，经可学习投影 φ 得到概念向量 c_k = φ(h_k) ∈ R^d，d=256。c_k 作为 VLM 与分割分支之间的接口，同时条件化 proposal 生成与 proposal 打分。 (3) 概念条件化 proposal 生成。proposal 模型基于 SAM 3，一个可提示的分割器（含融合编码器与 DETR 式解码器加分割头）。原生 SAM 3 用 CLIP 式文本编码器编码短名词短语；PANORAMA 省略该编码器，直接把 c_k 作为单 token prompt 输入融合编码器。融合编码器把 c_k 与图像特征做交叉注意力，得到概念条件化的图像表示；DETR 式解码器为每个短语返回 Q=200 个 query：Q_k={q_k,1,…,q_k,Q}。每个 query 经分割头产生候选掩码 m_k,j∈[0,1]^{H×W}。这样候选池由 c_k 条件化，而不是固定的类别无关池。使用 CLIP 文本塔只会用短语文本本身、且需 354M 参数；概念 token 则让分割器直接条件化于 VLM 对指代的上下文表示（含视觉输入与语言上下文），并允许 grounding loss 端到端训练该表示。 (4) Proposal 选择。轻量 match scorer 把概念向量与每个 proposal query 比较：s_k,j = σ(⟨ψ_q(q_k,j), ψ_c(c_k)⟩)，ψ_q、ψ_c 为可学习投影，σ 为 logistic。得分超过固定阈值 θ=0.5 的候选构成该短语的掩码集合 S_k={m_k,j : s_k,j>θ}。每个 proposal 独立阈值化，所以 |S_k| 可为 0、1 或多个，天然匹配可变基数目标；保留逐实例掩码，需要单一实体级二进制掩码时取并集。与 [SEG]-decoding 的区别在于：不是让一个表示同时编码指代与边界，而是 VLM 负责指代理解、SAM 3 负责边界、打分器负责链接。与 GROUNDHOG（从图像级、短语无关 proposal 池选择）的区别在于先条件化候选池再选择。 训练。每个短语 k 的 GT 目标集 G_k={g_k,1,…,g_k,n_k}，n_k=1（stuff 或单数）或 n_k>1（复数）。用匈牙利匹配把 GT 目标与候选 proposal 对齐，匹配代价 C(i,j)=1−Dice(m_k,j,g_k,i)−λ s_k,j，λ=0.25。Dice 是主匹配信号，打分项在多个候选重叠相近时提供先验；分配结果给出 selection loss 的正负 query 标签。总损失 L=L_text+L_sel+L_mask+L_sem。L_text 是标准 next-token CE，监督 caption 文本、<p></p> 分隔符与 [SEG]；L_sel 是对 s_k,j 的逐 query sigmoid focal loss；L_mask 是匹配上的 proposal 掩码与目标区域的 BCE+Dice，梯度回传融合编码器与概念桥；L_sem 用 SAM 3 预训练语义头的单通道掩码对目标并集做同样 mask loss，提供分配无关的监督，推理时丢弃该头。融合编码器和概念桥从三个 grounding loss 获得梯度，match scorer 只由 L_sel 训练。 数据。957K 训练混合：密集 grounded captioning（PanoCaps + 预处理后的 COCONut-PanCap）325,062（34.0%）、GCG 171,596（17.9%）、referring segmentation 257,526（26.9%）、generalized referring segmentation 101,866（10.6%）、multi-granularity segmentation 101,349（10.6%）。COCONut-PanCap 先由 Qwen3-VL-235B 重新生成带掩码 ID 的字幕，再经 Qwen3-VL 与解析工具校验修复对象分配错误、冗余短语/对象标签和格式错误；multi-granularity 组源自 SegLLM，用 Qwen3-VL 保留可从图+文识别的样本，引入 parts、stuff、属性与关系性指代。 实现与推理。XTuner 实现；proposal 模型输入最长边 1008，VLM 用原生动态分辨率。LoRA 作用于所有 attention/MLP 投影，4B 用 rank 256/α 512，2B 用 rank 128/α 256，dropout 0.05；另训练 token embeddings、输出头、概念桥、融合编码器与 match scorer，两个视觉编码器冻结。损失权重：mask/semantic/language 为单位权重，selection 0.5；BCE 2.0、Dice 0.5；每图最多监督 10 个短语（超出均匀采样）。训练一 epoch，AdamW lr 4e-5、weight decay 0.05、grad clip 1.0、5% warmup、cosine decay、BF16、序列 8192、batch 128、16 张 H100，2B/4B 约 5/7 小时。推理时贪心解码，图像特征计算一次并跨短语共享，选出掩码上采样到输入分辨率并二值化。

作者在 PanoCaps 主基准与 GCG、RefCOCO/+/g、GRES、GroundingSuite 等外部分基准上系统评估。主结果、消融与泛化结果以表格呈现；核心发现是：候选池短语条件化与显式选择器都带来可观的 grounding 增益，语义头辅助损失贡献有限；在 PanoCaps 上的密集监督可迁移到更短更稀疏的 GCG，且无需基准专属微调即可与强专用模型相当，微调后在多数 split 领先。具体数值见以下 claim-quote 对。

1. PanoCaps 包含约 3.5K 图像、约 34K 掩码、31.3K 实体、每图约 9 个实体、17.9K 唯一名词短语，且引用区域覆盖约 99% 像素。

   As summarized in Table 1 , PanoCaps comprises 3.5K images, approximately 34K panoptic masks, and 31.3K grounded entities across the training, validation, and test splits. Each image contains roughly nine grounded entities, spanning 17.9K unique noun phrases and yielding substantial lexical diversity. The referenced regions cover ≈ 99 % \approx 99\% of image pixels, encompassing both foreground objects ( things ) and background regions ( stuff ).

2. 标注采用多阶段验证，每图约 15 分钟标注、12 分钟审核，总计约 1,530 人时。

   We adopt a multi-stage annotation and verification process (median ∼ \sim 15 min labeling and ∼ \sim 12 min review per image, ∼ \sim 1,530 human hours in total).

3. 去掉选择器、直接用 SAM 3 解码器会显著下降：gPQ -7.5、Recall -10.0、AP50 -20.0。

   w/o selection (SAM 3 decoder) | 34.6 ± \pm 0.8 (-7.5) | 50.3 ± \pm 0.5 (-10.0) | 54.3 ± \pm 1.7 (-9.6) | 40.8 ± \pm 1.3 (-20.0) | 66.3 ± \pm 0.1 (+0.1) | 80.1 ± \pm 0.0 (-0.3)

4. 去掉 proposal 的短语条件化使 PanoCaps 指标小幅下降，并使 RefCOCO cIoU 下降 2.9。

   w/o proposal conditioning | 40.3 ± \pm 0.5 (-1.8) | 57.7 ± \pm 0.5 (-2.6) | 63.5 ± \pm 0.9 (-0.4) | 59.2 ± \pm 1.6 (-1.6) | 65.8 ± \pm 0.2 (-0.4) | 77.5 ± \pm 0.2 (-2.9)

5. 在 GCG 上，微调后的 PANORAMA-4B 在十个指标中的七个取得最佳，并在两个 split 的全部 grounding 指标上领先。

   PANORAMA-4B matches or exceeds the strongest specialized models: after finetuning, it obtains the best result on seven of the ten reported metrics, including every grounding metric on both splits.

6. 在 GCG 测试集上，PANORAMA-4B (ft) 达到 METEOR 17.2、CIDEr 58.5、AP50 40.5、mIoU 73.0、Recall 52.1。

   PANORAMA-4B (ft) | 17.2 | 54.4 | 39.6 | 73.7 | 50.9 | | 17.2 | 58.5 | 40.5 | 73.0 | 52.1

7. 在 RefCOCO/+/g 上，不微调的 PANORAMA-4B 已与最强专用模型相当，在 8 个 split 中 4 个领先；微调最多增加 1.5 cIoU，在 8 个 split 中 7 个最佳。

   Without any benchmark-specific finetuning, PANORAMA-4B already matches the strongest specialized model, leading SAMTok-4B on four of the eight splits; finetuning adds at most 1.5 cIoU and gives the best result on seven of the eight, with SAMTok-4B remaining best on RefCOCO+ val (80.2 vs. 79.8 cIoU).

8. 微调后的 PANORAMA-4B 在 RefCOCO val/TestA/TestB 的 cIoU 为 84.4/85.3/82.7，在 RefCOCOg val(U)/test(U) 为 81.1/82.2。

   PANORAMA-4B (ft) | 84.4 | 85.3 | 82.7 | | 79.8 | 83.7 | 77.2 | | 81.1 | 82.2

9. 在 GRES 上，PANORAMA 在所有 split 取得最高的 no-target 准确率与最好的 gIoU/cIoU。

   As reported in Table 9 , PANORAMA achieves the highest no-target accuracy (N-acc) and the best region-level segmentation, as measured by gIoU and cIoU, across all splits.

10. 微调后的 PANORAMA-4B 在 GRES val 上达到 gIoU 88.2、cIoU 78.0、N-acc 92.3。

    PANORAMA-4B (ft) | 88.2 | 78.0 | 92.3 | | 80.9 | 78.9 | 91.0 | | 76.1 | 72.5 | 87.3

11. 在 GroundingSuite 上 PANORAMA 每个类别均第一，整体 gIoU 从 67.8 提升到 75.5，Part 从 40.8 到 53.5、Multi 从 72.1 到 80.0。

    PANORAMA ranks first in every category and improves overall gIoU from 67.8 to 75.5. The largest gains appear in the Part and Multi categories, where gIoU improves from 40.8 to 53.5 and from 72.1 to 80.0, respectively, indicating that supervision from related grounding tasks transfers to the new benchmark.

12. 2B 模型三种子训练的 run-to-run 波动为 0.6 gPQ、1.0 AP50、0.1 平均 RefCOCO cIoU。

    obtaining standard deviations of 0.6 gPQ, 1.0 AP50, and 0.1 mean RefCOCO cIoU; differences of this magnitude should be read as comparable performance.

Novelty：新颖性主要在于任务形式化与接口设计，而非基础部件。PanoCaps 是首个将人类手写自由文本字幕与近全覆盖像素级短语对齐结合的基准，gPQ 把固定类别的 PQ 推广到自由短语与分级匹配。PANORAMA 相对 [SEG]-decoding 与 GROUNDHOG 的图像级 proposal 池，提出“短语条件化 proposal 池 + 打分选择”，用单 token 支持多实例集合输出，这是清晰的增量创新。但 VLM、SAM 3、DETR/Hungarian、focal/BCE/Dice 等均为现成组件，核心新意集中在概念桥与匹配打分器的协同训练。 Soundness：方法学总体稳健：有人工多阶段质检、指标与人类判断的相关性验证、架构消融、2B 三种子方差、以及跨多个外部分基准的泛化证据。可指出的薄弱点：主要结果来自单次训练；方差只在 2B 尺度报告；基线在 PanoCaps 上按发布代码微调 10 epoch，未必是最强调优；COCONut-PanCap 的清洗依赖同族 Qwen3-VL-235B，可能引入自洽性偏差；2B/4B 规模尚不足以证明在大模型上同样成立。整体 soundness 中等偏上。 Significance：对密集像素级场景理解、具身智能和视觉辅助有直接价值：PanoCaps 可作为高质量训练与评测资源；PANORAMA 展示了“上下文语言表示作为预训练分割器接口”的可复用范式，避免训练 mask tokenizer 或任务专用解码器；在多个既有基准上的迁移结果说明其不是只在自建基准上成立。长期看，对多任务 grounding 的统一有一定启发意义。

作者自述：仅支持图像级 grounding，不覆盖 region description 与 video grounding；仍会漏掉可见区域、产生不精确描述；未做 VLM-分割器反馈闭环或 RL。此外：PanoCaps 仅约 3.5K 图、标注成本高；模型只验证 2B/4B；COCONut-PanCap 清洗依赖同族大模型可能引入偏差；推理阈值固定且贪心解码；主要结果单次训练、方差证据有限；外部分基线可能未被同等调优。

自然延伸包括：把概念条件化 proposal 选择扩展到视频 grounding 与 region-level description；加入 VLM 与分割器之间的迭代/反馈机制；用 RL 直接优化 grounding 与描述质量；在更大 VLM 与更多样 proposal 模型上验证；将 gPQ 和短语匹配协议推广为标准评测；扩充 PanoCaps 的图像来源、语言多样性与低资源标注策略；对比不同 mask-tokenizer 方案与选择式方案在数据规模、延迟上的权衡。