2026-10-05

Recent multi-agent LLM systems increasingly combine heterogeneous models for specialized agent roles. However, text-based communication requires each receiver to prefill shared context already processed by the sender. Reusing the sender's key-value (KV) cache avoids this redundancy, but prefill-free transfer across model families must handle differences in tokenization, model depth, and KV representations. To address these issues, we propose HeteroFold, a prefill-free cross-family KV cache transfer method that keeps both the sender and receiver frozen. HeteroFold aligns model structures, maps the sender cache into the receiver space, and calibrates it to preserve receiver behavior. Across six transfer directions, HeteroFold achieves the best cache-transfer performance on all four long-context benchmarks and most short-context settings. It also matches text-based communication on the multi-agent benchmark. At 32K context length, Llama-3.1-8BrightarrowMinistral-3-14B transfer is 10.7time

仅依据摘要，无法可靠判断方法 soundness 与实验充分性，请以原文为准。

本文属于 LLM 强化学习/RLHF 中优势估计改进的工作。它从多奖励 GRPO 的协方差分解出发，提出 CorrGRPO：保留中心化总奖励作为分子，但把分母由协方差和替换为 Pearson 相关系数和，从而解决大尺度奖励主导归一化的问题。贡献包括一个清晰的协方差视角、一个简单且可与其他策略优化方法组合的优势估计修改，以及代码生成、工具调用、智能体安全三个多奖励域的实证。整体定位是方法驱动的增量改进，强调可解释性、低实现成本与易落地性。

强化学习已成为对齐大语言模型、提升复杂任务解决能力的中心范式，其中 GRPO 因无需单独价值模型、仅按同一提示采样的轨迹组内做均值中心化与标准差归一化来估计优势而广受采用。实际训练目标往往需要多个奖励信号：一类是相互促进的目标，例如代码生成中语法有效性、编译成功、运行成功、测试通过构成依赖链条，改进前置环节可解锁后续奖励；另一类是存在权衡的目标，例如智能体需在任务效用与安全之间平衡，过度保守会拒绝合法请求，过度宽松则增加提示注入暴露。作者将多奖励聚合视为核心切入点：当 GRPO 将 r 个奖励分量求和为总奖励 R 时，其归一化所用的方差等于所有两两奖励协方差之和，因此分母隐式聚合了奖励方差与奖励间依赖。对固定的中心化总奖励，更强的正相关会增大分母、缩小优势幅度，反之亦然，这提供了一种随奖励关系自适应调整更新强度的机制。但协方差等于 σ_l σ_m ρ_lm，奖励尺度与相关性纠缠在一起：大尺度分量会同时主导对角与反对角项，使小尺度但信息量高的奖励对归一化的影响被压制。这一尺度失衡正是 CorrGRPO 的动机。相关工作语境中，GDPO 等变体在代码实验中被作为基线比较；本文并不重新设计优化目标，而是对 GRPO 优势估计中的归一化统计量做相关性修正。

一、GRPO 的协方差视角。对提示 q 采样 n 条轨迹，设第 l 个奖励分量为 R_l^i，总奖励 R^i=Σ_l R_l^i，组内均值 R̄_l、R̄。固定奖励权重被吸收进对应分量。GRPO 在结果监督下对轨迹 i 的所有 token 共享优势 A_GRPO^i=(R^i−R̄)/(√Var̂(R)+ε)。因为 R^i−R̄=Σ_l(R_l^i−R̄_l)，且方差求和恒等式 Var̂(Σ_l R_l)=Σ_l Σ_m Cov̂(R_l,R_m)，分母可写为 √S+ε，其中 S 是样本协方差矩阵所有元素之和。进一步 S=Σ_l σ̂_l²+2Σ_{l<m} σ̂_l σ̂_m ρ̂_lm。于是 A_GRPO^i=g·ΔR^i，g=(√S+ε)^{-1} 是组内共享的缩放系数：正协方差增大 S、减小 g，负协方差抵消部分变异性、增大 g；由于统计量随新采样轨迹重算，g 随提示和训练进程自适应变化。该机制改变代理目标中奖励驱动项的尺度，但保留分子中预设的奖励权重。 二、尺度纠缠问题。协方差把统计依赖与尺度耦合：每对相关系数被 σ_l σ_m 加权，大尺度奖励既主导方差项，也主导分母对相关性变化的敏感度。文中 Figure 2 给出一例：前两个奖励强相关（ρ̂₁₂≈0.9756），第三个奖励与二者弱相关（ρ̂₁₃=ρ̂₂₃≈0.1098），但第三个奖励的方差 14.1696 单独占协方差和 S=15.5520 的约 91.1%，其与另两个奖励的协方差（各 0.1728）也超过强相关前两者之间的协方差 0.1707，说明大尺度弱相关分量主导了归一化。 三、CorrGRPO 的定义。CorrGRPO 把分母中的协方差项替换为样本 Pearson 相关系数：A_CorrGRPO^i=Σ_l(R_l^i−R̄_l)/(√(Σ_l Σ_m ρ̂_lm)+ε)，其中 ρ̂_lm=Cov̂(R_l,R_m)/√(Var̂(R_l)Var̂(R_m))。所有统计量在同一 rollout 组内计算。分子保持中心化总奖励不变，因此保留训练目标给定的相对奖励权重；分母的对角线在分量有非零组内方差时为 1，反对角线反映依赖的方向与强度，从而移除尺度对每对项的加权。对零方差分量，把相关矩阵对应行列（含对角）置零；该矩阵仍半正定，保证相关和非负、ε>0 时分母严格为正。Figure 2 中，CorrGRPO 给强相关的 r₁、r₂ 赋值 0.9756，给弱关系赋值 0.1098，强相关对内部分母和的贡献约为后者的 8.89 倍，说明小尺度强相关可以显著影响归一化。 四、与 GRPO 的解析关系。记相关矩阵 C=[ρ̂_lm]、标准差向量 s=(σ̂_1,…,σ̂_r)、全 1 向量 1。因分子相同，A_CorrGRPO^i=c_q·A_GRPO^i，其中 c_q=(√(sᵀCs)+ε)/(√(1ᵀC1)+ε)>0。c_q 由同组统计量算出、组内共享，并在代理优化时固定。由于裁剪代理对优势正齐次，该缩放保持激活裁剪分支不变，且逐组梯度满足 ∇_θ L_CorrGRPO,q=c_q·∇_θ L_GRPO,q：在相同策略参数下保留每组非零奖励梯度的方向，仅调整幅度；不同组的 c_q 不同，因此它们在批次梯度中的相对贡献会改变，KL 项系数不变。二次范数视角下，GRPO 的归一化统计量是 ||s||_C²=sᵀCs，CorrGRPO 是 ||1||_C²=1ᵀC1：把标准化后的中心化奖励当作相关输入通道，GRPO 用增益 s 恢复各源自身幅度再测组合输出，CorrGRPO 给所有标准化通道相等增益，只反映相关性结构。 五、双奖励直觉。对二元运行成功 R_run 与全部测试通过 R_pass，且通过蕴含运行成功，Pearson 相关系数可化简为 √(R̄_pass(1−R̄_run)/(R̄_run(1−R̄_pass)))。当运行成功率稳定在 1 以下、通过率继续上升时，两奖励越来越重叠，CorrGRPO 的分母 √(2+2ρ̂)+ε 增大，衰减冗余信号；极限 R_run=R_pass 时（忽略 ε）优势退化为 R_run−R̄_run，即复制相同奖励不会把优势翻倍。 六、与其他方法的兼容。对 DAPO 和 CISPO，可直接用 A_CorrGRPO^i 替换原组相对优势，保留各自裁剪与 stop-gradient 操作；正齐次性给出同样的 c_q 梯度缩放。对 GDPO，保留其逐奖励组内归一化与聚合，仅把最终批次标准差分母替换为批次内逐奖励优势分量 U_l 的相关范数：分母由 ||s_B||_C 变为 ||1||_C，分子、组归一化与聚合权重不变。 七、训练与数据细节。代码域使用 Qwen2.5-Coder-Instruct 的 0.5B/1.5B/3B/7B，在 LeetCodeDataset 的 2,641 题训练划分上训练、228 题测试划分评估；奖励 R_code=0.05R_fmt+0.05R_syn+0.05R_compile+0.25R_run+0.60R_pass+0.30R_ast+0.20R_eff，其中语法→编译→运行→全部通过构成依赖链，R_pass 为各测试通过指示的乘积，R_eff=𝕀[R_pass=1]·clip(1−t(y_g)/t(y_r),0,1)，t(y_r) 为参考实现四次运行的平均耗时；外部评估为 HumanEval、MBPP、LiveCodeBench v6（175 题）。工具调用域使用 Qwen2.5-7B-Instruct、Qwen3-4B-Thinking-2507、Qwen3-8B，在 RLLA-4K 的 3,920 训练/80 测试上训练，奖励 R_tool=R_fn+R_pn+R_pv+R_fmt，其中 R_fn=0.5(2S_fn−1)、R_pn=2S_pn−1、R_pv=1.5(2S_pv−1)，提供部分得分，格式奖励为 0/1；外部评估 API-Bank v1/v2/v3。智能体安全域使用 Qwen2.5-3B-Instruct、Qwen2.5-7B-Instruct、Qwen3-8B，在 AgentDojo 的 1,584 训练/411 测试（21 干净+390 受攻击）上训练，R_agent=R_util+R_sec，二者均为二值；外部评估 Agent Security Bench（400 对干净/受攻击）与 InjecAgent。

作者在代码生成、工具调用、智能体效用-安全三个多奖励域上比较了 CorrGRPO、GRPO、基座模型以及部分域中的 GDPO，并补充了与 CISPO、GDPO、DAPO 组合的兼容性实验。总体而言，CorrGRPO 在代码正确性与可执行性、工具调用的完整调用正确性与 API 泛化、智能体联合准确率与攻击成功率等主指标上多数优于 GRPO，并外扩了正确性-效率的经验 Pareto 前沿；兼容性实验显示收益并不完全一致，部分组合在个别基准上出现回退。整体支持相关性归一化的收益方向，但效应的稳健性与普适性仍需更多重复与消融实验确认。

1. 代码生成中，CorrGRPO 相对 GRPO 的平均 Pass@1 在 0.5B、1.5B、3B、7B 四个规模分别提升 2.09、0.80、2.27、4.21 个百分点。

   Relative to GRPO, average Pass@1 increases by 2.09, 0.80, 2.27, and 4.21 percentage points at 0.5B, 1.5B, 3B, and 7B, respectively.

2. 在正确性-效率前沿上，CorrGRPO 的 7B 模型取得最高 Pass@1 24.12%，0.5B 模型取得最高 Efficiency 67.86%，3B 模型处于中间前沿点（Pass@1 14.47%、Efficiency 60.00%）。

   Its 7B model achieves the highest Pass@1 at 24.12%, its 0.5B model achieves the highest Efficiency at 67.86%, and its 3B model occupies an intermediate frontier point with 14.47% Pass@1 and 60.00% Efficiency.

3. 工具调用中，三个骨干上 CorrGRPO 的 RLLA-4K all-exact 分数相对 GRPO 提升：Qwen2.5-7B 从 63.38% 到 67.61%，Qwen3-4B-Thinking 从 57.75% 到 59.15%，Qwen3-8B 从 61.97% 到 63.38%。

   Compared with GRPO, RLLA-4K all-exact score increases from 63.38% to 67.61% for Qwen2.5-7B, from 57.75% to 59.15% for Qwen3-4B-Thinking, and from 61.97% to 63.38% for Qwen3-8B.

4. API-Bank 平均分相对 GRPO 在三个骨干上分别提升 1.14、3.94、2.26 个百分点。

   On API-Bank, the average score improves by 1.14, 3.94, and 2.26 percentage points, respectively.

5. API-Bank v3 上的最大增益出现在 Qwen3-4B-Thinking，正确率从 52.24% 提升到 64.08%。

   The largest gain occurs for Qwen3-4B-Thinking on API-Bank v3, where correctness increases from 52.24% to 64.08%.

6. Agent Security Bench 上，CorrGRPO 相对 GRPO 的 Joint Accuracy 提升：Qwen2.5-3B 从 14.88% 到 18.13%，Qwen2.5-7B 从 31.38% 到 47.88%，Qwen3-8B 从 57.38% 到 58.63%。

   Relative to GRPO, CorrGRPO increases ASB Joint Accuracy from 14.88% to 18.13% for Qwen2.5-3B, from 31.38% to 47.88% for Qwen2.5-7B, and from 57.38% to 58.63% for Qwen3-8B (Table 3 ).

7. InjecAgent 上，CorrGRPO 相对 GRPO 的总体 ASR 下降：8.80% 到 5.52%、13.53% 到 6.17%、13.94% 到 7.98%。

   On InjecAgent, overall ASR decreases from 8.80% to 5.52%, from 13.53% to 6.17%, and from 13.94% to 7.98%, respectively, with reductions in every reported attack category.

8. AgentDojo 上，CorrGRPO 对 Qwen2.5-3B 与 Qwen2.5-7B 提升 Joint Accuracy，3B 上最大增益从 60.13% 到 89.62%。

   On AgentDojo, CorrGRPO also improves Joint Accuracy for Qwen2.5-3B and Qwen2.5-7B, with the largest gain at 3B, from 60.13% to 89.62%.

9. CISPO 组合实验中，CISPO+CorrGRPO 将 LeetCodeDataset Pass@1 从 21.93 提升到 25.00、平均 Pass@1 从 50.30 提升到 51.56，但 LiveCodeBench v6 从 23.43 降至 21.71。

   CISPO | 34.51 | 83.77 | 21.93 | 76.83 | 79.00 | 23.43 | 50.30 CISPO + CorrGRPO | 38.44 | 82.46 | 25.00 | 81.71 | 77.80 | 21.71 | 51.56

10. GDPO 组合实验中，GDPO+CorrGRPO 将 LeetCodeDataset Pass@1 从 16.23 提升到 17.11，但平均 Pass@1 从 48.88 略降至 48.21。

    GDPO | 41.28 | 84.21 | 16.23 | 76.83 | 79.60 | 22.86 | 48.88 GDPO + CorrGRPO | 44.64 | 86.40 | 17.11 | 76.83 | 77.20 | 21.71 | 48.21

11. DAPO 组合实验中，DAPO+CorrGRPO 将平均 Pass@1 从 50.68 小幅提升到 50.92，收益有限。

    DAPO | 40.48 | 81.14 | 20.18 | 81.71 | 77.40 | 23.43 | 50.68 DAPO + CorrGRPO | 47.07 | 82.89 | 21.93 | 80.49 | 78.40 | 22.86 | 50.92

Novelty：核心新颖点在于把多奖励 GRPO 的归一化明确写成协方差矩阵求和，指出其分母既编码相关性又被奖励尺度加权，并据此把分母替换为 Pearson 相关系数和。该改动小而直接，但通过正齐次性导出了 A_CorrGRPO=c_q·A_GRPO、梯度方向保持等解析性质，使"相关性归一化"不只是启发式。相对已有工作，它没有引入新的优化目标、额外网络或复杂聚合策略，新颖性属中等：思想清晰、动机充分，但本质是对归一化统计量的一次替换，创新幅度有限。 Soundness：理论部分较自洽：方差求和恒等式、零方差分量的半正定处理、c_q 缩放与裁剪分支保持、以及 DAPO/CISPO/GDPO 的兼容性推导均在固定采样组的假设下给出。实证覆盖三类任务、多模型规模与多个基线，主指标多数改善。但稳健性存在缺口：未见重复种子或置信区间；工具调用与智能体安全的测试集较小，低基线区域的波动较大；兼容性实验中部分组合在个别基准回退，且未控制等训练步数，削弱了"普遍兼容、普遍更优"的结论强度。总体方向可信，但效果幅度与普适性需谨慎解读。 Significance：对多奖励 RLHF/RL 具有实际意义：GRPO 已被广泛使用，CorrGRPO 是无侵入式的优势估计替换，改动小、易实现，且可与 DAPO、CISPO、GDPO 等组合，部署成本低。它提供了一个可解释的相关性归一化视角，有助于处理异构奖励尺度问题，尤其在代码生成、工具调用与安全等需要多奖励信号的任务中。不过显著性受限于改进幅度偏小、每域单一训练集、缺少统计检验，尚不足以证明其应成为通用默认选项；其价值更多在于提出了一个清晰、可复用的分析框架与归一化修正。

其一，统计稳健性不足：没有报告多次种子或置信区间，工具调用与智能体安全域的测试集规模小，部分低基线结果波动明显，结论可能受采样噪声影响。其二，方法边界：相关性归一化只移除分母中的尺度加权，分子仍由预设奖励权重决定，无法修正错误或偏差的奖励；零方差分量的行列置零是启发式处理；每组 rollout 数较少时样本相关系数噪声较大，稳定性依赖 ε 与样本量。其三，理论假设：c_q 与梯度方向保持建立在固定采样组、裁剪代理正齐次的假设上，跨组 c_q 变化会改变批次内相对贡献，等效于动态调整各组学习率，其与 KL 系数、优化器、训练步数间的交互未被系统分析。其四，实证范围：每个域只用一个训练数据集，骨干以 Qwen 系列为主，GDPO 仅在代码域比较，兼容性实验并非等步数且部分组合出现回退，不能说明该修正对所有优化器都普遍受益。其五，安全泛化：基准上的攻击成功率下降不等于真实世界安全，注入攻击类型与防御泛化未被覆盖。

后续可从五方面推进。一是统计与消融：补充多次种子、置信区间、不同组大小 n 与 ε 的敏感性；系统比较协方差、Pearson 相关、Spearman/秩相关、收缩相关矩阵、逐奖励标准化、秩归一化等分母选择，厘清相关性修正的净收益来源。二是理论深化：刻画 c_q 在训练中的分布及其与等效学习率的关系，设计自适应步长或 KL 补偿；分析小样本相关矩阵的估计误差与正则化，以及接近奇异时对优化稳定性的影响。三是扩展范围：在更多奖励组件与更多域（数学推理、对话、多目标安全、约束 RL）验证；与 DAPO/CISPO/GDPO 做等步数、等预算的严格对照，并扩展到更大规模模型。四是工程化：实现高效、流式的组内相关矩阵计算与数值稳定策略，使方法便于在大规模 RL 训练中落地。五是安全研究：将相关性归一化与多目标安全约束、攻击泛化测试结合，检验其是否能在真实部署场景中稳定平衡效用与安全。

本文在循环 Transformer 解码与对比解码（contrastive decoding）的交界处提出 LoopCD。它把循环 Transformer 同一前缀在不同循环深度产生的隐藏状态视为天然的“弱-强”预测对：早期状态为弱参考，最终状态为强预测，解码时沿“循环细化方向”外推，无需辅助模型、提示扰动或额外训练。相比既有对比解码依赖小模型、扰动上下文或中间层，LoopCD 直接复用架构自身已经计算出的中间状态，并给出 logit 空间（LoopCD-Logits，多一次输出投影）与 hidden 空间（LoopCD-Hidden，零额外输出开销）两种形式，以及 fixed/adaptive 两种引导强度。论文的定位不仅是提升满深度解码质量，更强调把这些增益转化为推理计算节约：在减半循环迭代数时仍匹配或超过满深度未引导基线。

循环 Transformer 通过反复执行共享参数块来解耦深度与参数量：参数不随有效计算深度增长，但生成时会在多次循环中逐步细化表示。现有解码方法通常只使用最后一次循环输出的状态，早期迭代产生的、同样可解码为下一 token 分布的中间状态被丢弃。论文指出，这些中间状态与最终状态处于同一表示空间，天然形成对齐的弱到强预测序列。 对比解码（如 Li et al. 2023）的思路是让强预测远离一个对齐的弱参考；扩散模型中的 autoguidance 与 classifier-free guidance 也有类似“远离退化/无条件参考”的原理。在普通语言模型中，要得到对齐的弱预测通常需要额外小模型、扰动上下文或中间层（Li et al. 2023；Shi et al. 2023；Chuang et al. 2024）。循环 Transformer 因为反复执行同一参数块，递归轨迹本身就能提供弱-强对，这正是 LoopCD 的出发点。 论文在四类循环 Transformer 上验证：Ouro（重复 decoder stack 并在中间深度训练预测）、Huginn（prelude + 高斯噪声初始化的循环状态）、Parcae（prelude + 带学习线性项的循环块）和 Looped-Qwen3（在冻结 Qwen3-4B 上以阻尼残差方式改造出循环）。这些模型训练方式不同，用于检验 LoopCD 是否依赖特定循环训练目标。评估覆盖数学推理（AIME、OlympiadBench）、代码生成（HumanEval、MBPP/EvalPlus）、多选知识基准（ARC、SciQ、MMLU、HellaSwag、WinoGrande、PIQA）以及 GSM8K、MMLU-Pro 等生成式任务，并特别考察减半循环深度后的精度与 FLOPs 权衡。

LoopCD 的核心对象是循环 Transformer 在式 (1) 中定义的第一次循环状态 h1 与最终状态 h_R。两者来自同一输入前缀、同一参数块和同一表示空间，只是经历了不同数量的循环计算。标准解码使用 h_R；LoopCD 则用 h1 作为弱参考，沿 h_R - h1 的方向外推，形成引导后的预测。ω 是引导强度，ω=0 时退化为未引导解码。 一、两种引导空间。 LoopCD-Hidden 在进入 coda 层和语言模型头之前组合状态： h' = h_R + ω (h_R - h1)，ω ≥ 0。 组合后的 h' 再通过 z' = lm_head(coda(h'))。因为两个状态在 coda/head 之前已经合并，coda 和 lm_head 只执行一次，因此相比基线没有额外输出层前向开销；只需要保存早期隐藏状态。其概率形式无法像 logit 形式那样直接写为概率比，因为 coda 层是非线性的。 LoopCD-Logits 则先分别通过输出接口得到 logits： z1 = lm_head(coda(h1))，z_R = lm_head(coda(h_R))， 再做对比： z' = z_R + ω (z_R - z1)，ω ≥ 0， 最后从 softmax(z') 解码。计算 z1 需要把参考状态多走一次 coda 和 head，这是 LoopCD-Logits 的唯一额外前向开销。附录 A.3 给出等价概率形式：p'(v) ∝ p_s(v) (p_s(v)/p_w(v))^ω，其中 p_s 是强（最终）分布，p_w 是弱（早期）分布；该恒等式在每个 token 位置成立，且在 temperature 或截断之前描述引导 logits。这个形式直观地表明 LoopCD 是在放大强分布相对弱分布更有把握的 token。 二、引导强度的选择。 固定强度：在同一评测设置内对所有 token 使用常数 ω。不同任务/模型族的 ω 通过预先 screening sweep 选定；例如多选评分、生成、数学推理各自采用不同固定值或上限，hidden 形式只使用固定强度。 自适应强度：对 LoopCD-Logits，设 p_R = softmax(z_R)，取最大的两个概率 p_R,(1)、p_R,(2)，令 ω = ω_max [1 - (p_R,(1) - p_R,(2))]。 当 top-2 概率差很小（模型在两候选间犹豫）时，ω 接近上限 ω_max；当某个候选明显占优时，引导强度自动减小。这个规则用 top-2 概率边际直接衡量不确定性，避免在全词表上计算熵。LoopCD-Logits 本来就要计算 z_R，所以自适应规则没有额外开销；LoopCD-Hidden 若用同样规则，需要先对 h_R 走一次 coda/head 得到 p_R，再对 h' 走一次，会破坏其零输出开销优势，因此 hidden 形式只用固定强度。 三、训练与数据/模型细节。 LoopCD 本身是 training-free 的：不更新参数、不引入辅助模型、不改变 prompt；引导与未引导运行共享完全相同的 checkpoint、prompt、shot 数、生成长度、停止规则、答案提取器和评测器。不同模型对“早期 logits”的获取方式不同：Ouro 重复 decoder stack 且在中间深度训练预测，没有 prelude/coda Transformer 层，早期状态只需过 final norm 和词表头；Huginn 先算 prelude 表示，再用高斯噪声初始化循环状态，h1 是第一次更新后的状态，早期 logits 需经过两层 coda 和 head；Parcae 的循环输出要先经过 projection 再进 coda；Looped-Qwen3 在冻结 Qwen3-4B 上对一个四层中间窗口施加阻尼残差更新，子步形式为 u_{j+1} = (1 - 1/K) u_j + (1/K) g(u_j)，窗口前有 15 层、后有 17 层，早期 logits 需经过冻结尾部层和 head。 四、参考状态选择。 对 logit 空间，第一次循环状态通常是最有效的参考。原因是循环早期移动大、后期接近收敛；参考与最终预测的分歧越大，可被利用的方向信息越多。但对 hidden 空间，Huginn 由于循环状态从高斯噪声初始化，第一步的 hidden 对比会被未投影的噪声主导，因此需要用 burn-in 后的状态（如 h6/h7）作参考；Parcae 与 Looped-Qwen3 从确定性 prelude 表示出发，两个空间都可直接用 h1。这说明 hidden 形式对初始化和 coda 深度敏感，需要按模型选择参考迭代。 五、机制解释。 论文把 logit 对比向量 z_R - z1 投影到与 z_R 平行和正交的两个分量。平行分量等价于对 logits 做均匀缩放，类似 temperature 调整，不改变 token 排序；正交分量改变 token 间相对距离，是真正改变 top-token 选择的“重排”分量。实验表明重排分量几乎单独解释了增益。进一步，重排只能翻转那些 top-2 差距小于引导推力的决策；因此引导增益集中在模型最不确定的样本上，对已很确定的预测几乎不改变。这解释了自适应边际门控为何有效，也解释了自回归生成需要比多选评分更小的 ω：生成中早期 token 的偏移会在后续前缀上复合放大，大强度会导致漂移和性能下降。 六、成本会计。 FLOP 计算假设矩阵乘中的每个 multiply-accumulate 为 2 FLOPs，并以 512-token prefill 计。LoopCD-Hidden 只引入向量加减，输出层仍走一次，理论乘数约为 1.000×；LoopCD-Logits 的乘数取决于参考状态需要重复哪些非循环层（head/coda/tail）。减半循环深度时，节省来自去掉循环块本身，但 LoopCD-Logits 仍要重复一次循环后读出层，因此其实际节省受循环块占整体前向计算比例的限制；对 Ouro、Huginn 这类循环占比高的模型，Logits 形式也能显著降 FLOPs，而对 Looped-Qwen3 这类大量非循环层模型，hidden 形式才是有效降本路径。

论文在四个循环 Transformer 家族上系统评估 LoopCD，涵盖满循环深度与减半循环深度两种计算预算，以及数学推理、代码生成、多选知识基准和生成式问答等协议。满深度下，LoopCD-Logits 与 LoopCD-Hidden 均带来一致提升，adaptive 规则在 logit 空间通常最优，hidden 空间以零输出层开销在代码生成上表现突出。多选基准上几乎所有模型均值改善，但个别子项出现负向变化。减半循环深度后，LoopCD 能在多个设置中追上或超过满深度未引导基线，并显著降低前向 FLOPs。机制实验验证了弱到强循环轨迹、参考迭代选择、正交重排分解、不确定性集中效应以及不同任务对引导强度的敏感度差异。

1. 满深度数学推理上，Ouro-2.6B-Thinking 用 adaptive LoopCD-Logits 时，AIME 2024 pass@1 从 61.88% 提升到 73.33%，AIME 2025 从 49.58% 提升到 56.88%，OlympiadBench 从 64.05% 提升到 67.29%。

   For Ouro-2.6B-Thinking, adaptive LoopCD-Logits raises AIME 2024 pass@1 from 61.88% to 73.33%, AIME 2025 pass@1 from 49.58% to 56.88%, and OlympiadBench pass@1 from 64.05% to 67.29%

2. Ouro-Thinking 系列在 pass@1 与 pass@10 的所有数学基准上，fixed 与 adaptive 规则都带来提升：pass@1 增益 5.27 到 7.33 点，pass@10 增益 2.53 到 4.12 点。

   Fixed and adaptive guidance rules both improve all evaluated benchmarks across pass@1 (gains of 5.27 to 7.33 points) and pass@10 (gains of 2.53 to 4.12 points), with the adaptive rule achieving the highest mean accuracy by concentrating guidance on difficult decision boundaries.

3. 代码生成上，Huginn-0125 的 adaptive LoopCD-Logits 在 R=32 时把 HumanEval pass@1 从 23.17% 提升到 28.66%，在 R=16 时从 20.12% 提升到 28.05%。

   For Huginn-0125 at R = 32 R=32 , adaptive LoopCD-Logits lifts HumanEval pass@1 from 23.17% to 28.66%, and at R = 16 R=16 from 20.12% to 28.05%

4. 在 hidden 空间，Huginn 的代码生成增益更强：R=32 时 LoopCD-Hidden 把 HumanEval pass@1 从 22.56% 提升到 31.71%，R=16 时从 21.95% 提升到 28.05%。

   Combining the two hidden states before the output layers achieves even stronger results: at R = 32 R=32 , LoopCD-Hidden raises HumanEval pass@1 from 22.56% to 31.71%, and at R = 16 R=16 matches the adaptive logit score, moving from 21.95% to 28.05% (Table 3 (b)).

5. 多选基准上，Ouro-2.6B 的七基准平均变化为 fixed +0.84、adaptive +0.95；ARC-C、HellaSwag 等提升明显，但 WinoGrande 分别下降 0.79 和 1.73 点。

   Ouro-2.6B | 66.21 | 88.01 | 94.20 | 51.09 | 79.52 | 77.66 | 80.25 | LoopCD, fixed | 68.60 +2.39 | 89.10 +1.09 | 94.60 +0.40 | 51.82 +0.73 | 81.07 +1.55 | 76.87 −0.79 | 80.74 +0.49 | +0.84 LoopCD, adaptive | 69.71 +3.50 | 89.02 +1.01 | 94.30 +0.10 | 52.30 +1.21 | 81.66 +2.14 | 75.93 −1.73 | 80.69 +0.44 | +0.95

6. Parcae-1.3B 在多选七基准上 fixed 平均提升 +1.38、adaptive 平均提升 +1.59，其中 ARC-C 与 HellaSwag 增益较大，但 PIQA 在两种规则下均为负。

   Parcae-1.3B | 41.21 | 65.07 | 83.70 | 32.63 | 55.93 | 57.85 | 72.03 | LoopCD, fixed | 43.86 +2.65 | 65.91 +0.84 | 85.80 +2.10 | 33.19 +0.56 | 59.19 +3.26 | 58.72 +0.87 | 71.44 −0.59 | +1.38 LoopCD, adaptive | 45.31 +4.10 | 66.16 +1.09 | 85.30 +1.60 | 33.52 +0.89 | 60.44 +4.51 | 58.48 +0.63 | 70.35 −1.68 | +1.59

7. LoopCD-Hidden 只增加轻量向量运算，输出层仍走一次，理论 FLOP 乘数约 1.000×，即无额外输出层前向开销。

   Conversely, LoopCD-Hidden only introduces lightweight vector operations and relies on a single standard coda pass. Consequently, its computational multiplier effectively rounds to 1.000 × 1.000\times in this accounting, representing negligible overhead.

8. 减半循环深度后，Huginn-0125 在 16/32 迭代下分别以 LoopCD-Logits 超过满深度未引导基线 1.02 点、以 LoopCD-Hidden 超过 0.51 点；Looped-Qwen3 在 half iterations 下以 LoopCD-Hidden 刚好追平满深度基线。

   Huginn-0125 evaluated at sixteen of its thirty-two iterations outperforms its full-depth unguided baseline by 1.02 points under LoopCD-Logits and 0.51 points under LoopCD-Hidden; Looped-Qwen3 matches its full-depth baseline at half iterations under LoopCD-Hidden (+0.00 points).

9. 在全部减半深度设置中，LoopCD 在精度不低于满深度时消除了 22.5% 到 48.2% 的前向 FLOPs。

   Across evaluated reduced-depth settings, LoopCD eliminates 22.5% to 48.2% of total forward FLOPs at equal or superior accuracy.

10. logit 空间以第一次循环状态为参考最有效：ARC-Challenge 上 Huginn 的增益随参考深度增加从 3.07 点降到 0.17 点，Parcae-1.3B 从 3.50 点降到 1.02 点。

    on ARC-Challenge, gains drop from 3.07 to 0.17 points as reference depth increases for Huginn, and from 3.50 to 1.02 for Parcae-1.3B; Figure 7 (a)

11. Huginn 的 hidden 空间参考需要 burn-in：早期 hidden 状态会带来负增益（约 -0.58 点），到第六步才达到峰值 +0.83 点。

    causing early hidden states to yield − 0.58 -0.58 points before peaking at the sixth step with + 0.83 +0.83 points (Figure 7 (b)).

12. 将 logit 对比分解为平行温度缩放与正交重排后，正交重排几乎单独解释增益：HellaSwag 上 Ouro-1.4B 的纯重排为 +1.72 点而全更新为 +0.76 点，Ouro-2.6B 为 +2.27 点而全更新为 +1.56 点。

    On HellaSwag, applying the orthogonal re-ranking component alone achieves gains matching or exceeding the full update up to ω = 1.5 \omega=1.5 , yielding +1.72 points against +0.76 for Ouro-1.4B and +2.27 against +1.56 for Ouro-2.6B at ω = 0.5 \omega=0.5 (Figure 8 (b)).

Novelty：新颖性属于中等偏上：对比解码、autoguidance 和“远离弱参考”的思想本身并不新，LoopCD 的主要新意是识别循环 Transformer 的递归轨迹天然构成对齐弱-强预测对，从而把对比解码变成无需辅助模型、无需额外训练的推理时技巧。论文进一步系统化了两个引导空间（logit 与 hidden）、fixed/adaptive 强度、参考迭代选择，并把精度增益转化为减半深度的 FLOPs 节省，这是有价值的工程与系统贡献。相比 DoLa 等对普通稠密网络取中间层，LoopCD 明确论证循环架构在 pass 内部没有训练好的 exit，因此必须用完整迭代状态而非 pass 内层状态；这一负结果与架构分析是增量认识。总体而言，这是对已知思想的自然迁移与系统化验证，而非全新算法框架。 Soundness：方法本身简单、可复现性较好：guided 与 unguided 严格共享 checkpoint、prompt、采样和评测协议，配对比较设计合理；FLOP 记账清晰地区分了 logit 形式额外读出与 hidden 形式零开销。主要弱点是超参数较多且依赖 screening sweeps（固定 ω、自适应上限、参考迭代），hidden 形式的参考选择还需要结合初始化与 coda 深度做模型特定处理；自适应规则只对 logit 形式实现，hidden 形式没有对应的无开销自适应版本。结果并非全面正向：部分多选子项（WinoGrande、PIQA）下降，GSM8K 表现混合，Looped-Qwen3 的数学 pass@1 在 guided 后下降而 pass@10 上升。整体结论在主要基准上有一致证据，但泛化到新模型/新任务时仍需调参，且 wall-clock 收益未被直接测量。 Significance：对部署循环 Transformer 的推理有实际意义：零训练、hidden 形式几乎零输出开销，且能把满深度增益兑换为大幅前向 FLOPs 下降，这对参数高效但计算深的模型有直接工程价值。对推理时解码与高效推理社区也有启发，说明架构自身被丢弃的中间状态可以作为引导信号，而不必引入小模型或修改 prompt。其局限在于收益在部分知识/多选任务上较小甚至为负，且强度选择不是即插即用；因此更像一个需要按模型/任务轻量调参的部署技巧，而不是普遍提升所有生成质量的通用解码器。学术影响上，它补上了循环 Transformer 解码与对比解码之间的空白，并有较完整的机制分析支撑。

第一，超参数与参考状态依赖较强。LoopCD 的固定 ω、自适应上限以及 hidden 空间参考迭代都需要按模型族和任务 screening；Huginn 因高斯噪声初始化而必须选择 burn-in 后的 hidden 状态，Parcae/Ouro 的 logit 形式又倾向 h1，说明方法不是完全免配置。自适应边际门控只对 LoopCD-Logits 实现，LoopCD-Hidden 若要保持零输出层开销就无法直接使用该规则，限制了 hidden 形式在难样本上的强度调度。 第二，收益在任务和模型间不均。多选基准上 WinoGrande、PIQA 等子项多次出现负 Δ；GSM8K 结果混合；Looped-Qwen3 的数学推理出现 pass@1 下降而 pass@10 上升，说明引导可能牺牲单条采样的成功率、扩大轨迹覆盖。对自回归生成，强度窗口较窄，过大会因误差复合而显著退化，实际使用需要更保守的强度。 第三，hidden 形式受 coda 深度与初始化影响。深层 coda 会衰减 hidden 空间注入的对比信号，导致 hidden 形式只保留部分 logit 增益；Huginn 的首个 hidden 状态甚至会放大未投影噪声。因此 LoopCD-Hidden 的“零开销”优势伴随模型特定的参考与强度选择成本。 第四，计算收益主要是理论 FLOPs。论文按 512-token prefill 的理论算术量记账，减半深度实验也集中在多选基准，未给出端到端 wall-clock、内存占用、KV cache 或长序列生成中的实测加速；对 Looped-Qwen3 这类非循环层占比大的模型，logit 形式的读出开销可能抵消循环节省。 第五，评估范围有限。主要证据来自数学、代码和多选知识基准，缺少指令跟随、长程 agent、安全/校准、人类偏好或更大规模模型的系统验证；也没有证明 LoopCD 在非循环稠密模型或不同循环范式（如 Mamba/SSM、通用 Transformer）上的可迁移性。

一是自动化和自适应。可以为 LoopCD-Hidden 设计无需额外 coda/head pass 的不确定性估计（例如从隐藏状态范数、残差或中间 logits 近似 top-2 边际），使 hidden 形式也能安全地使用逐 token 自适应强度；也可以学习或在线搜索参考迭代与 ω，而不是 screening sweep。 二是扩展到更多架构与解码流程。可研究 LoopCD 在 Mamba/SSM、通用 Transformer、扩散语言模型中的对应物；与 speculative decoding、KV cache 压缩、early exit 结合，或把循环中间状态用作 verifier/reward 信号。对 Looped-Qwen3 这类非循环层占主导的模型，可探索在循环窗口前后更合理的注入点以减少读出开销。 三是深化自回归生成理论。分析引导强度在长生成中的误差复合机制，设计随前缀长度或熵动态衰减的调度；针对 pass@1 下降但 pass@10 上升的现象，研究引导对采样多样性与覆盖率的影响，寻找同时提升单样本质量与覆盖率的方案。 四是训练与解码协同设计。Ouro 已在中间深度训练预测，这可能使弱-强对更有效；可以显式训练中间状态使其成为更好的弱参考，或让 coda 层对 hidden 对比更鲁棒。也可以把 LoopCD 的对比方向作为蒸馏/RL 的辅助目标，进一步压缩循环深度。 五是更广泛的评测与成本验证。在长程推理、agent 任务、指令跟随、安全性和人类偏好上验证；补充实测延迟、吞吐和内存报告，区分 prefill/decode 阶段，并测试多 GPU/批处理场景下 hidden 与 logit 形式的真实收益差异。

SILSA 是一篇图像条件的高分辨率 3D 生成论文，核心立场是：现有 3D 表示在效率与结构保持之间存在两难——密集体素直接但计算随分辨率立方增长，稀疏/层次/八叉树体素依赖数据分布且常需两阶段，三平面与集合式潜变量虽紧凑却削弱 token 与局部几何的空间对应。作者提出以三根规范轴上的滑动窗口切片潜变量作为可生成表示，用固定长度且带空间索引的 token 概括形状，并配套拓扑感知的 SliceVAE、切片级持续同调损失，以及在 rectified-flow 生成器内做跨轴协调的 Volumetric Anchor Lattice。论文处于"原生 3D 生成 + 可学习紧凑表示 + 拓扑监督"的交叉点，主张在表面误差之外显式保持连通性、孔洞与跨深度结构一致性，同时大幅压缩 token 与计算成本。

高分辨率 3D 生成已从 score distillation 与多视图扩散走向直接在 3D 结构上训练扩散、自回归或 flow 的原生生成器。已有表示各有代价：密集 SDF/占用网格提供直接空间脚手架但记忆与计算立方增长；稀疏体素、octree、层次 tokenizer 只建模占用或高细节区域，但 token 数会随薄支撑、重复部件、复杂拓扑增长，且常需要先预测 active voxel 再生成局部几何的多阶段流程；三平面与集合式潜变量保持生成可负担，却弱化了 token 与局部结构的直接对应，可能出现低表面误差但填洞、断支撑、并合邻近部件的结构错误。切片/横截面表示（如 OReX）表明平面切片能暴露组件、孔洞与连通性变化。拓扑感知学习方面，持续同调与 Betti 损失已被用于保持连通性与孔洞结构，但全体积持续同调匹配在高分辨率生成训练中代价过高。SILSA 的动机是把切片从"外部观测"升级为"学习到的生成潜变量"，并以切片内持久图匹配加邻接切片 Betti 转移对齐，把拓扑监督变为可承受的逐切片成本。

SILSA 分两阶段：先训练 SliceVAE，把形状编码为三轴切片潜变量并重建网格；再冻结其编码器/解码器，用 rectified flow transformer 从单张图像生成这些潜变量。 一、滑动窗口切片编码器。给定网格，采样带法向的表面点云，把单位包围盒沿每条轴分为 N=128 个 bin。对轴 j 的第 k 个 bin，滑动窗口收集 (k−w/2, k+w/2) 内的所有点，边界截断到 [0,N−1]；w=8，因此每个 bin 特征由跨越 8 个连续切片的点共同决定。为保留窗口内位置信息，每个点被增广为相对深度偏移 δ(p)=⌊p^(j)·N⌋−k，表示其相对中心 bin 的位移。共享 MLP 逐点处理 (p, n, δ(p)) 后做 max-pooling 得 h_k^j，再映射为高斯后验的均值与 log 方差；训练时用重参数化采样，训练后取后验均值作为确定性潜变量。三轴共 3N=384 个切片 token，空窗口用可学习空嵌入。直觉上，每个 token 概括一个局部深度窗口的整片平面区域拓扑，而非无穷薄平面或大量局部体素，因此在紧凑长度下仍能暴露薄件、孔洞与邻近表面。 二、稀疏体积解码。解码端把三轴潜变量散落到共享粗 3D 特征网格。因切片分辨率高于网格分辨率，多个相邻切片索引映射到同一网格平面 u，通过归一化求和聚合：Π_a(u) += (1/|K_u|) Σ_{k∈K_u} W_a z_k^a，其中 a∈{x,y,z} 分别写入 G[u,:,:]、G[:,u,:]、G[:,:,u]，实现三轴融合。随后稀疏 transformer 精修特征，再经过两阶段 self-pruning 上采样，从 16^3 升到 256^3，逐步细分活跃单元并剪除空区；最终线性头预测每单元等值面参数（SDF 值、顶点形变、插值权重），用可微 Dual Marching Cubes 抽取网格。 三、VAE 目标与切片级拓扑损失。渲染损失是深度、法向、silhouette 的 L1 加权和，另有 KL 正则。作者指出渲染损失对薄或高度连通结构的拓扑错误不敏感，因此加入 L_topo。解码后得到稠密 SDF 网格，沿每条轴在 N_s 个均匀截面取软占用 σ(−ŝ/κ)，κ=0.02 控制边界锐度。每张截面诱导 superlevel-set filtration，其持久图记录 d=0（连通分量）与 d=1（孔洞）的出生–死亡对；同时计算 0.5 阈值下的 Betti 数及相邻切片差 ΔB=B_{k+1}−B_k。损失分两项：L_PH 对每个截面的预测/真值持久图做最优匹配，并允许匹配到对角线，从而惩罚虚假的短命特征（式8）；L_trans 对齐 Betti 转移序列，使拓扑事件（出现、消失、合并、分裂）发生在正确深度（式9）。Betti 数是离散的，前向用阈值化占用计算，反向用 straight-through estimator。由 Morse 理论，非零转移对应高度函数沿轴的临界事件区间。最终 L_topo=λ_PH·L_PH+λ_trans·L_trans。直觉是：L_PH 管单张截面"有哪些拓扑"，L_trans 管"沿深度在何处变化"。 四、Rectified flow 与 Volumetric Anchor Lattice。冻结 VAE 后，transformer 学习从噪声到潜变量的速度场，Z(t)=(1−t)Z(0)+tε，以冻结 DINOv2 图像特征为条件（式11）。跨轴一致性是核心难题：三个轴序列各自去噪，却必须描述同一形状。VAL 是一个持久 3D 特征网格 G∈R^{D×D×D×C}（D=16），作为共享空间记忆；每个切片 token 按其轴与深度映射到平面 G[k',:,:]、G[:,k',:] 或 G[:,:,k']，其中 k'=⌊kD/N⌋。每个 transformer block 依次执行：各轴内 self-attention；Anchor Read，token 与其深度平面做 cross-attention，读取其他轴写入同一空间区域的证据；Anchor Write，用门控更新该平面，门 z_g=σ(W_g[ĥ_k^j;g_k^j]) 逐通道决定保留旧内容还是写入新贡献（式12）；随后图像 cross-attention 与 FFN。VAL 每次速度评估初始化为零，在多个 block 间累积跨轴证据，使生成的 x/y/z 切片解码为同一连贯物体。transformer 共 24 层、hidden 1024、16 个注意力头，推断用 50 个 Euler 步。 五、训练与数据。训练集为 Trellis-500K（ObjaverseXL/ABO/3DFUTURE/HSSD），形状归一化到单位包围盒，用 200K 个带法向表面采样点编码。SliceVAE 训练 5 个 epoch，AdamW、lr 1e-4、batch 16、8×A100；λ_d=1.0、λ_n=0.5、λ_m=1.0、β_KL=1e-4、λ_topo=0.1；拓扑监督用 N_s=128 个截面、κ=0.02。Flow transformer 训练 300K 步，AdamW、lr 2e-4 余弦衰减、batch 256、8×A100。

实验系统覆盖四个层面：图像到 3D 生成、SliceVAE 重建、效率对比与多组消融，另补充开放曲面泛化。生成质量用 CLIP/FD/KD/PSNR/LPIPS/COV/MMD 评估，重建用 CD、双阈值 F-Score、IoU 与 Betti 误差，效率统计 token 数、阶段数、参数量、训练显存、每迭代时间与单形状推断时间。总体结论是 SILSA 在多数几何与分布指标上达到最优或并列最优，同时以固定且明显更少的 token 与单阶段流程显著降低成本；消融一致表明切片级拓扑损失、三轴表示、VAL 共享工作空间及其门控写入缺一不可。开放曲面数据上几何指标继续占优，但拓扑指标因任务过于简单而趋于饱和。

1. 图像到 3D 生成中，SILSA 取得最优 FD/PSNR/COV/MMD 并匹配最优 KD/LPIPS；相对 SparseFlex，PSNR 从 30.12 升至 32.74（8.7% 相对提升），覆盖率从 73.12% 升至 79.08%（5.96 点绝对提升）。

   In particular, SILSA improves PSNR from 30.12 to 32.74 over SparseFlex, an 8.7% relative gain, and increases coverage from 73.12% to 79.08%, a 5.96-point absolute improvement.

2. VAE 重建中 SILSA 相对最强基线 SparseFlex 在 CD、双阈值 F-Score、IoU 上全面占优，Betti-Err 从 1.743 降至 1.582（9.2% 相对降低）。

   Compared with SparseFlex, the strongest baseline, SILSA reduces CD from 0.61 to 0.59, improves F-Score@0.01 from 96.18 to 96.79, improves F-Score@0.005 from 83.62 to 84.03, and increases IoU from 92.54 to 93.01. More importantly, Betti-Err decreases from 1.743 to 1.582, a 9.2% relative reduction, showing that SliceVAE better preserves connected components and holes rather than only improving surface-level reconstruction fidelity.

3. 效率上 SILSA 仅用 384 个 token（比 Trellis/XCube/SparseFlex 少 98% 以上），且相对 Dora 训练显存从 14.6GB 降至 8.7GB、训练耗时从 0.38 降至 0.21 s/iter、推断从 0.82 降至 0.34 s/shape。

   SILSA uses only 384 tokens, which is over 98% fewer than Trellis, XCube, and SparseFlex. Despite this large reduction in sequence length, SILSA achieves the best reconstruction quality. The compact representation also translates directly into lower computational cost: relative to Dora, SILSA reduces training memory from 14.6GB to 8.7GB, training time from 0.38s/iter to 0.21s/iter, and inference time from 0.82s/shape to 0.34s/shape.

4. 跨轴通信消融：三轴独立生成时 CD 5.87、IoU 49.26、Betti-Err 17.91，严重退化；直接跨轴注意力接近 VAL，但 VAL 仍取得最低 CD 与 Betti-Err。

   When the three slice streams are generated independently, performance degrades substantially, with CD increasing to 5.87, IoU dropping to 49.26, and Betti-Err rising to 17.91. Direct cross-attention between axes improves consistency, reducing CD to 0.60 and Betti-Err to 1.64 while increasing IoU to 93.18. However, VAL achieves the best geometric and topological fidelity, obtaining the lowest CD of 0.59 and lowest Betti-Err of 1.58, showing that a shared volumetric workspace provides more reliable coordination than unconstrained token-to-token attention.

5. VAL 分辨率 D=16 是最优折中：相对 D=8 全面改善，D=32 虽略提升 IoU 但 CD 与 Betti-Err 变差。

   The VAL resolution ablation further shows that D = 16 D{=}16 gives the best trade-off: compared with D = 8 D{=}8 , it reduces CD from 0.65 to 0.59, improves IoU from 91.37 to 93.01, and lowers Betti-Err from 1.86 to 1.58. Increasing the resolution to D = 32 D{=}32 slightly improves IoU to 93.18, but worsens CD to 0.60 and Betti-Err to 1.62, suggesting that finer anchors add communication cost without improving structural correctness.

6. 拓扑损失消融：完整 L_topo 相对去掉该损失将 Betti-Err 从 4.43 降到 1.58、CD 从 0.78 降到 0.59；仅用 L_PH 或 L_trans 介于两者之间。

   The full topology loss gives the best reconstruction trade-off, reducing Betti-Err from 4.43 to 1.58 relative to removing ℒ topo \mathcal{L}_{\mathrm{topo}} while also improving CD from 0.78 to 0.59.

7. 开放曲面 DeepFashion3D 上 SILSA 几何指标占优：CD 从 0.05 降到 0.04，F-Score@0.005 从 93.07 升到 93.21，Betti-Err 因拓扑简单趋于饱和。

   SILSA achieves the best reconstruction quality across geometric metrics, reducing CD from 0.05 to 0.04 over SparseFlex while matching its perfect F-Score@0.01 and improving F-Score@0.005 from 93.07 to 93.21.

8. 切片分辨率 N 从 64 增至 256 时质量上升，但 N=128 后收益饱和：N=256/512 需 2×/4× token，N=1024 反而使 Betti-Err 恶化。

   Increasing the number of slices improves reconstruction quality from N = 64 N{=}64 to N = 256 N{=}256 , since finer slice bins expose more local geometry and reduce topological ambiguity. However, the gains saturate beyond N = 128 N{=}128 : N = 256 N{=}256 and N = 512 N{=}512 slightly improve CD and IoU, but require 2 × 2\times and 4 × 4\times more tokens, while N = 1024 N{=}1024 further increases token count and worsens Betti-Err, suggesting that overly fine slicing fragments cross-sectional evidence.

9. 窗口宽度消融显示重叠关键：w=1/2 上下文不足、Betti 误差更高，w=8 整体最佳，w=16 因过度聚合轻微退化。

   The window-width ablation shows that overlap is critical: w = 1 w{=}1 and w = 2 w{=}2 lack sufficient context and produce higher Betti error, while w = 8 w{=}8 gives the strongest overall balance. Increasing the window to w = 16 w{=}16 slightly degrades performance, likely because excessive aggregation smooths local structures and weakens slice-level specificity.

10. 轴数量消融：即使给足 384 个切片，单轴（仅 z 或仅 x）Betti-Err 高达 5.92/6.18，缺少正交方向证据导致严重拓扑错误。

    Single-axis variants degrade substantially regardless of slicing direction: even when given N = 384 N{=}384 slices to match the default token count, the model lacks cross-sectional evidence orthogonal to its slicing direction, leading to severe topological errors (Betti-Err of 5.92 for z z -only and 6.18 for x x -only).

11. 两轴配置（x,y）与（x,z）虽补回大部分差距，但 Betti-Err（2.61–2.74）仍差于三轴的 1.58，说明第三轴强化拓扑一致性。

    both two-axis configurations still trail the full three-axis design, particularly on Betti-Err (2.61–2.74 vs. 1.58), indicating that the third axis specifically reinforces topological consistency by exposing structures that any two cross-sectional views jointly underdetermine.

12. VAL 写入机制消融：门控写入最优；全覆写 CD 0.66/Betti-Err 1.91，加性写入 CD 0.63/Betti-Err 1.74，门控达 0.59/1.58。

    Replacing gated writes with full overwrite causes each transformer block to clobber the accumulated cross-axis evidence with the latest token’s contribution, breaking the multi-block coordination that makes VAL effective (CD 0.66, Betti-Err 1.91). Switching to additive writes preserves prior evidence but lets magnitudes accumulate without channel-wise selectivity, which improves over overwrite but still trails the gated variant (CD 0.63, Betti-Err 1.74). The default gated write achieves the best results across all metrics by allowing the model to learn, per channel, how much existing VAL content to retain versus replace as new slice evidence arrives.

Novelty：novelty 判断：中等偏上。三轴滑动窗口切片作为"生成潜变量"是最主要的原创点：把平面横截面从 OReX 式的重建观测改为固定长度、有空间索引的生成 token，兼顾体素的空间落地与集合表示的定长紧凑，且免去 active-voxel 预测阶段。切片内持久图加邻接切片 Betti 转移的拓扑监督组合也有一定新意，关键在于避免了全体积持续同调的高成本。VAL 作为跨轴共享空间记忆，在机制上接近外部 memory 或 plane attention 的变体，但其"按几何平面读写、门控累积"的设计针对多轴切片去噪问题较贴切。局限在于各组成（PointNet 池化、Dual Marching Cubes、rectified flow、持续同调损失、平面注意力）均已有先例，创新更多在表示定义与组合方式，而非全新原语。 Soundness：soundness 判断：总体扎实但有保留。方法公式清晰，训练与超参完整，消融覆盖拓扑损失分量/权重/截面数、跨轴通信、VAL 分辨率与写入机制、切片分辨率与窗口宽度、轴数量，能支撑主要主张。主要顾虑：一是生成评估样本量较小，FD/KD/COV/MMD 的统计稳定性有限；二是拓扑指标按 2D 截面统计 β0/β1，未直接监督或报告完整 3D 的 β1 隧道与 β2 空腔，"拓扑保持"的结论在 3D 意义上有缺口；三是 Betti 计数用 straight-through 回传，梯度偏置未被讨论；四是基线对比主要面向体素/结构化 tokenizer，缺少与更强三平面/集合式潜变量在同等拓扑指标下的直接对照。整体方法可信，但结构正确性的核心主张需更大基准与更完整的 3D 拓扑度量来加固。 Significance：significance 判断：较高。固定长度、明显更少 token 的单阶段流程若在更大规模上成立，对高分辨率 3D 生成的可扩展性与显存成本有实际价值，且"切片潜变量 + 拓扑监督"为"低表面误差但结构错误"这一常见问题提供了明确改进方向。拓扑损失被拆到逐切片与相邻转移，工程上可承受，便于被其他 3D 生成器复用。不过当前贡献集中在图像到 3D 与物体级重建，尚未验证文本条件、复杂场景或更大数据规模，且 2D 截面拓扑度量的局限会限制其作为通用结构监督的影响力。总体属于有潜力推动表示与拓扑监督方向的工作，但影响力取决于后续扩展。

论文自述的局限：生成质量依赖训练分布与输入图像质量，分布外结构可能保真度下降。审稿视角的额外局限：(1) 拓扑监督是切片级 2D 拓扑（β0、β1），未覆盖 3D 的 β2 空腔与沿轴的全局 β1 隧道，"topology-preserving" 的表述强于其实证支持；(2) Betti 转移的 straight-through 估计带来有偏梯度，且 λ_topo 过大时反而降低几何指标，说明拓扑与几何目标存在张力，训练稳定性值得进一步分析；(3) 生成评估集偏小，分布指标统计力不足，Betti-Err 的绝对阈值意义未与感知判断校准；(4) 表示是轴对齐且固定分辨率的，对旋转/非轴对齐结构或细长跨轴特征可能有盲区，文中未做姿态敏感性测试；(5) 仅报告图像条件，未展示文本条件或多模态输入，限制其作为通用资产生成器的结论范围；(6) 开放曲面上拓扑指标饱和，未给出更有区分度的结构度量。

跟进方向：(1) 把切片级拓扑监督扩展到完整 3D 持续同调或分层 Betti（β0/β1/β2），或在切片基础上加入跨轴拓扑合并的一致性约束，补齐 3D 空腔与隧道；(2) 在更大规模与更多样基准（含文本条件、多视图条件、复杂场景）上重新评估分布指标与结构错误，最好引入感知拓扑指标或用户研究；(3) 探索非轴对齐/可学习切片方向与多分辨率切片金字塔，缓解轴对齐盲区并平衡 token 预算；(4) 研究 VAL 的初始化、读写顺序与多 block 累积行为，以及门控写入在长序列生成中的稳定性；(5) 将切片潜变量用于视频/4D、可交互编辑或部分观测补全，验证其结构保持能力的迁移性；(6) 理论或实证分析切片表示的容量上限与可辨识性，为 token 数与拓扑复杂度给出更原则性的选择标准。

An activation-steering coefficient sets intervention strength, but requesting a particular degree of persona expression requires a behavioral scale. We study persona dosing: controlling a language model through a trait description and a requested mean intensity. PersonaDose specializes a shared, description-conditioned FLAS controller on persona responses, then calibrates its flow time against measured trait expression. Training responses are not paired with requested target intensities. Across Llama-3.1-8B, Qwen3-8B, and Gemma-3-4B, PersonaDose raises core-trait expression at the Persona Vectors coherence floor of 75 by 33.2, 18.3, and 17.8 points over contrastive activation addition. Calibration-selected settings retain an expression advantage on held-out questions, although the coherence floor does not hold for every trait there. Across seven trained traits, calibrated requests yield mean targeting errors of 4.7-6.2 points over 14-22 calibration-reachable targets out of 28 per model

仅依据摘要，无法可靠判断方法 soundness 与实验充分性，请以原文为准。

本文针对多模态嵌入的"扩展两难"：给强文本嵌入模型新增模态通常会扰动文本几何、导致灾难性遗忘，而现有全模态嵌入器普遍靠数十亿参数换容量。作者提出 Omni-Embed-Mini，核心立场是文本不应作为共同学习者，而应成为不可移动的锚点。做法是冻结 backbone，用同一 backbone 对密集级联字幕生成的嵌入作为教师目标，形成共享权重的自蒸馏，再配以轻量投影器、分阶段 LoRA、Matryoshka SigLIP 损失与在线混合硬负例挖掘，在 0.9B 参数下把文本、语音、音频、图像、视频和富视觉文档绑定到单一余弦空间，并保持文本推理路径位级不变；另提供 2.3B 变体。论文自认贡献不是新对齐原语，而是带有一条不变式（部署文本路径不变）的整体配方。

研究背景分两层。其一，文本嵌入与全模态嵌入的现状：MTEB 体系有强文本编码器，视觉-语言检索有 VLM2Vec-V2、Qwen3-VL-Embedding 等，音频侧有 CLAP 家族与 Whisper、Dasheng 编码器；而 LCO-Embedding-Omni、BidirLM-Omni、omni-embed-nemotron、e5-omni 等全模态嵌入器普遍达到 2.5B–8.9B 规模。其二，对齐范式：ImageBind 以图像为锚、LanguageBind 以文本为锚训练各模态编码器，AudioCLIP 走三方联合对比；e5-omni 用 LoRA 校准共享空间，借助模态温度、去偏负例课程与协方差对齐减少模态失配。本文与 LanguageBind 同选文本锚，但四处不同：引入非对称蒸馏（冻结 backbone 对密集字幕的嵌入作为逐样本固定目标）、用密集字幕制造配对数据、教师与学生共享同一冻结权重、以及单一因果 transformer 可把多模态交错进同一 token 序列。概念上这是 Reimers & Gurevych 跨语言蒸馏的跨模态翻版。技术上继承 ANCE 的刷新硬负例池、Kusupati 与 OpenAI 的 Matryoshka 表示、Zhai 的 SigLIP 与 Hu 的 LoRA。论文把数据侧密集字幕视为第一等方法贡献，而非后勤细节。

机制核心是一条不变式与三条原则。P1 Backbone invariance：backbone 从不更新，不做全量微调、也不在 backbone 上加 LoRA；0.9B 覆盖文本路径，2.3B 覆盖文本与视觉路径，这些路径不挂投影器，权重与原始 backbone 位级一致。P2 Cascaded-caption self-distillation：每个媒体样本配一条密集字幕，字幕经同一冻结 backbone 的嵌入作为教师目标；师生共享权重，在原生池化隐藏空间里做余弦对齐即可，不需要投影头或独立教师。T1 Alignment-first, then adaptation：Phase 1 只训投影器，Phase 2（约 20% 步后）注入编码器 LoRA；动机是投影器尚未对齐时 LoRA 会适应噪声上游投影，切换点未做消融。 架构上，backbone 是带因果注意力的 decoder-only transformer；EOS-pooling 头取最后一个非 padding 隐藏态并做 L2 归一化，无投影头。0.9B 用 Qwen3-Embedding-0.6B（隐藏维 1024），视觉编码器取自 Qwen3.5-0.8B 的 ViT；2.3B 用 Qwen3-VL-Embedding-2B（隐藏维 2048）并复用其原生视觉。音频走双编码器：Whisper（梅尔谱）与 Dasheng（原始波形）并行，各自经带 SwiGLU 残差的 1-D 时序降采样投影器每 30 秒块输出 128 个投影 token，两流按 (w1,d1,w2,d2,…) 时间交错成 256 token/块；交错是结构归纳偏置，让因果注意力在局部窗口内同时看到语音语义与声学纹理，不增加参数。视觉路径在 0.9B 上是 ViT → 2×2 空间合并 → 维数投影 → backbone 隐藏维，视频用可学习 196-query 预算的 cross-attention 空间池化使序列长度与帧数无关；2.3B 用原生视觉模块处理图像/视频，音频经 embedding 层 forward hook 注入。图像/视频 token 携带多模态 RoPE，音频 token 作为连续时间跨度拼接并复用文本 RoPE；媒体嵌入通过 one-hot matmul 拼入带模态标签的占位位置，使梯度流经投影器与 Phase 2 的编码器 LoRA。 蒸馏数据流：每个样本 i 配一条由 Qwen3-Omni-30B-A3B-Instruct 生成的密集字幕 c_i，源数据集的真实字幕作为 grounding prior 固定在系统提示里。教师 t_i 是冻结 backbone 对 c_i 的 L2 归一化 EOS-pool 输出；因为 backbone 冻结，t_i 在训练中恒定，预先计算并按稳定样本 id 缓存在磁盘。学生 s_i 是对"媒体拼接进 token 序列"后的同一 EOS-pool 输出。师生共享 backbone 与池化，几何完全一致。 损失设计：Matryoshka 维度集合 D={128,256,512,1024（2.3B 再加 2048）}；对每个 d，把嵌入截断到前 d 维并重新归一化。对比项采用 SigLIP 的逐对 sigmoid 损失，作用于批内对与硬负例对，带可学习温度 τ 与偏置 b；其优点是逐对打分、不依赖批内 softmax 归一化，小 batch 下更稳。各维度损失按 w_d = d^{-1/2} / Σ_{d'} d'^{-1/2} 加权，偏重更激进的截断。蒸馏项 L_dist 在各维度上计算学生与教师的余弦距离期望 1 − s·t。总损失 L = L_contr + λ·L_dist，λ=1。直觉上，对比项负责把媒体学生嵌入拉向正确字幕目标并推开负例，蒸馏项提供逐样本固定向量监督，两者共享 Matryoshka 权重。 硬负例挖掘：后台子系统维护 FAISS-CPU 内积索引（文本一个、每个媒体模态一个），沿用 ANCE 思路。轻量文本循环约每 epoch 10 次经 text-only 路径重嵌字幕并保留每 query 的 top-k 邻居；媒体循环约每 epoch 5 次经完整模型按模态重嵌样本进各自索引。miner 与训练循环共享 live 模型，所以编码器越好、挖出的负例越难。因文本分支无梯度，文本索引完全稳定；只有媒体索引漂移并周期性刷新以供给更难负例，这被设计为在不破坏文本几何的前提下防止模态坍缩。 数据与训练：源语料是 omni-modal caption corpus 的 caption slice。总 590,858 行中，筛选 speech/audio/image/video/visual-doc 的 caption-category 行得 242,080 单轮样本，再经时长过滤得 227,704 有效训练行；omni 多轮 chat 与 chat 样本因答案过窄不适合蒸馏而被排除。每条字幕是低温度（T=0.7）单次调用 Qwen3-Omni-30B-A3B-Instruct 的产物，真实字幕以"Reference caption"插入模态专用提示；visual-doc 行用"expert document analyst"提示且无参考字幕。密集字幕暴露对象、属性、布局、时间事件、声学环境与 OCR 文本等多面信息。噪声控制靠四点：接地提示、池化目标而非 token 级监督、挖掘中的 0.92 余弦截断、以及冻结文本路径使字幕器偏差无法触及文本；但不按事实性过滤字幕。训练硬件为 8×AMD Instinct MI210（64GB HBM2e）、bf16、DDP。优化器 AdamW（wd 0.01、clip 1.0），2% 线性预热后余弦衰减；音频投影器 LR 2e-4，视觉投影器与编码器 LoRA LR 1e-4（仅 Phase 2）；LoRA r=16、α=32；相位切换在 20%；λ_dist=1。视频评估对 8 帧图像嵌入取 mean-pool，以保持各模型可比。

实验在四个基准上展开：MTEB-v2 的 8 任务英文 BEIR 子集用于文本退化检测，MAEB 的 22 任务英文音频子集用于音频-文本对齐与覆盖，MMEB-V2 的 16 任务英文子集（图像与视频）用于多模态检索，ViDoRe-V3 的 7 个英文富视觉文档域用于视觉文档检索。协议为仅英文、按发布锚重验证、并对与 MMEB-V2 共享父语料的训练源做标识级重叠审计。主结果对比开源全模态嵌入器与闭源 gemini-embedding-2，并做四类消融：冻结 backbone 与加 LoRA、密集字幕与原始字幕、四种挖掘配置、以及三种子的稳定性；另考察 Matryoshka 截断行为。总体结论是 0.9B 以构造性方式守住文本分数、在媒体模态上受限于小视觉编码器与数据量而落后于大模型，2.3B 因原生视觉编码器缩小差距并在若干模态与总平均上具备竞争力，密集字幕对视频等时序模态收益最大，联合挖掘带来清晰提升，截断到低维的代价温和。

1. 0.9B 保持文本权重位级不变，训练不会退化文本检索，同时扩展到五个额外模态。

   Omni-Embed-Mini-0.9B keeps its text weights bit-identical to the backbone, so training cannot regress text retrieval (49.57 nDCG@10 on MTEB-v2 BEIR-8), while extending it to five additional modalities

2. 0.9B 的文本分数在开源 omni embedder 中仅次 omni-embed-nemotron-3B，后者大五倍。

   At 49.57 on Text it is second among open omni embedders only to omni-embed-nemotron-3B (50.48), which is five times larger.

3. 2.3B 变体总平均 51.39，视频领先、图像与视觉文档具竞争力。

   The 2.3B variant, built on a frozen Qwen3-VL-Embedding-2B, reaches an overall-modality average of 51.39: it leads the omni block on Video (55.18) and is competitive on Image (64.80) and Visual-Doc (58.10)

4. 2.3B 在总平均上超过闭源 gemini-embedding-2。

   Against gemini-embedding-2, which is closed and of undisclosed size, our 2.3B leads on the overall-modality average (51.39 to 49.51).

5. 0.9B 图像与视频分数较低，原因是从 0.8B backbone 提取的小 ViT。

   The 0.9B variant scores lower on Image (26.29) and Video (18.48) because its vision encoder is extracted from a 0.8B backbone with a comparatively small ViT

6. 0.9B 解冻 backbone 时媒体模态上升而文本下降，正是冻结锚点要避免的退化。

   At 0.9 0.9 B it is a genuine trade-off: every media modality improves, by + 1.10 +1.10 to + 5.66 +5.66 , while text drops by 3.13 3.13 points, which is exactly the regression the frozen anchor exists to prevent.

7. 密集字幕相对原始字幕，语音提升最小、视频提升最大。

   Table 2 shows the smallest gap is on speech (+2.68), where source transcripts already carry most of the content; the largest is on video (+14.06), where short clip captions miss nearly every temporal event.

8. 只有文本与媒体联合挖掘显著优于无挖掘。

   Fig. 6 shows that only combined mining separates clearly from no mining ( + 2.6 +2.6 on the mean over the five media modalities); the gaps among the other three configurations are comparable to the seed spread reported below.

9. 视觉文档上把密集字幕换成原始字幕损失 4.8 nDCG@10。

   replacing the dense cascaded captions with the datasets’ original captions costs 4.8 nDCG@10 (46.98 to 42.21).

10. 2.3B 在视频上以一半到四分之一参数领先 e5-omni 3B/7B。

    We lead on video (55.18 against 32.92 and 44.73) at a half to a quarter of their parameters, and hold a strong text score at 0.9B.

11. 2.3B 总平均略超 e5-omni-3B。

    our 2.3B edges ahead of e5-omni-3B (51.39 against 49.28).

12. 三种子下文本分数一致，因文本分支无训练参数。

    Text is identical across all three at 49.57: the text branch carries no trainable parameters, so every 0.9B checkpoint returns the same value.

Novelty：新颖性中等。作者明确承认不是新对齐原语，而是把密集字幕、冻结 backbone 自蒸馏、参数高效适配、Matryoshka 训练与在线挖掘组合成一条配方。真正有区分度的点在于：教师与学生共享同一冻结 backbone 权重，使教师目标与文本查询出自位级相同的几何，从而把"文本不退化"从经验目标变成构造性保证；以及用单一因果 transformer 把多模态交错进同一序列，使跨模态查询成为架构原生能力而非后期融合。相对 LanguageBind 的文本锚，额外的逐样本蒸馏监督和共享权重设计是实质增量。但每个组件单独看都已有文献支撑，方法层面创新有限。 Soundness：健全性总体良好但有关键保留。零退化主张是位级可验证的强主张，且用独立检查点四位小数一致加以佐证；冻结/加 LoRA 对照、字幕密度与挖掘配置消融方向一致，支撑主要设计选择。但若干环节削弱证据强度：单一字幕器生成全部教师目标，系统偏差会均匀施加而非平均掉，而作者未做字幕扰动或跨字幕器交叉验证；未按事实性过滤字幕，只能"抑制"噪声而非度量其传播；相位切换点未消融；0.9B 的视觉数据量少，媒体表现弱，使其"最小全模态嵌入器"的意义更多在效率而非绝对质量；视频用 8 帧 mean-pool 自我设限；与闭源 gemini 的对比受协议与未披露参数规模影响。整体上，核心机制站得住，外围泛化与鲁棒性证据尚不完整。 Significance：实践意义面向边缘部署的动态检索，零退化保证对生产环境尤其有吸引力：可新增模态而无需担心破坏文本检索这一最常用路径，且未来文本嵌入改进可通过重跑投影器+LoRA 吸收。亚十亿参数覆盖六模态也确实构成效率上的示范。但 0.9B 在图像/视频等媒体模态明显落后于更大的全模态模型，说明该配方在极小规模下更多是"保文本、适度拓展模态"而非全面超越；其价值高度依赖以文本为主、多模态为辅的部署场景。此外作者指出现有基准缺乏六模态任意到任意的统一评估，这一社区缺口若被填补，将显著提升此类工作的可衡量性。

作者自陈与附录披露的局限包括：共享空间受冻结文本 backbone 约束，难以完整表达难以语言化的声学纹理、抽象视觉模式或细粒度时间线索；级联字幕由单一字幕器生成，可能含幻觉、遗漏或偏差并被学生继承，且未做事实性过滤与源媒体核验，仅靠挖掘中的 0.92 余弦阈值排除疑似假负例；未做受控字幕扰动研究，只能给出聚合层面的字幕质量影响。其他局限：音频固定时间交错对单一音频类型输入可能次优；0.9B/2.3B 规模面向效率，复杂推理型检索能力有限；评估限于现有基准，缺乏六模态任意到任意统一基准；视觉文档字幕约六倍长于其他模态，被 2048-token 上下文截断长尾，教师与学生一致截断故余弦对齐不受影响但损失细节；视频评估用 8 帧 mean-pool，低于原生时序编码器上限；0.9B 与 2.3B 视觉模式不同，跨变体视觉策略消融留待未来。

最有价值的后续是字幕鲁棒性研究：用第二字幕器交叉核验、以独立模型打分字幕-媒体一致性、抽样人工验证，并做受控字幕质量扰动来量化退化曲线。架构上可探索音频双编码器 token 的习得混合、Mixture-of-Encoders 路由到专家分支、以及替换视频逐帧 mean-pool 的原生空间池化以保留时空结构。更广的跟进包括：对交错多模态查询做受控消融以验证"架构原生"这一未隔离的贡献；在两个变体间统一视觉策略并做跨变体消融；利用冻结 backbone 的可替换性，把配方迁移到更新的文本或视觉-语言 backbone 以检验其可复用性；最后是构建六模态任意 query→corpus 组合的统一检索基准，填补评估缺口。

PhysVista 是一篇面向视觉语言模型（VLM）"物理智能"的基准评测论文。它的定位不是新数据采集，而是通过"感知—推理—评估"闭环框架重新组织与重标注任务，统一测评物理状态感知（Seeing）、物理动力学推理（Reasoning）与物理合理性评估（Assessment），并首次把评估阶段纳入闭环，同时引入真实世界与 AI 生成视频两条数据来源。相较已有工作：PhysBench 偏感知且存在语言捷径；IntPhys2 只是二元合理性判断；CausalVQA/CoPhyBench 只测因果问答；PAI-Bench 覆盖感知与推理但缺评估环节。PhysVista 的差异化主要在于闭环完整性、事件级与尺度级推理的分层、以及生成视频的物理真实性评测。

VLM 在视觉理解与多模态推理上已取得显著进步，但"能否真正理解真实世界物理动态"仍不明确；已有研究显示强视觉识别并不必然带来真实物理理解。物理理解本质是闭环认知：先感知可观察状态，再推理潜在因果机制，最后判断动态是否遵循物理规律。然而现有基准只测闭环的片段：PhysBench 以感知为主，多数推理基准只覆盖事件级（是否发生）而忽略尺度级（大小、数量、精确位置、比例）；PAI-Bench 虽覆盖感知与推理，但缺少评估环节。评估范式本身也有问题：PhysBench 的语言偏见带来 video-blind 捷径；IntPhys2 的二元判断只测浅层物理直觉；另有若干工作把物理问题做成结构化解题，视觉只是辅助线索，与感知驱动的真实物理理解错位。数据来源上，早期基准多基于仿真，缺乏真实世界视频；同时生成视频模型爆发使 AI 生成内容的物理真实性评估日益重要，但这一方向几乎未被探索，且需要"物理违规批判"与"物理合理性打分"等新任务。

PhysVista 的核心是一个三阶段闭环评估设计，没有模型训练，全部工作集中在任务定义、数据筛选/重标注、选项生成与质量控制。 【总体框架】闭环由三阶段构成：Physical State Perception（Seeing）、Physical Dynamics Reasoning（Reasoning）、Physical Plausibility Assessment（Assessment）。与只测孤立能力的旧基准不同，它要求模型依次完成可观察状态重建、因果机制推断、以及对全局合理性的打分与排序，从而诊断物理认知是否完整。 【阶段一：Seeing】感知阶段测五个互补维度。 (1) 空间状态感知，再分解为四个子类：Relationship（方向、远近、包含、支撑等相对空间配置）、Interaction（接触、碰撞等物理交互）、Scene Context（地形、天气、表面属性等环境条件）、Spatial Feasibility（尺寸相容、物体是否放得下等几何/物理可实现性）。 (2) Temporal Violation Localization：要求定位物理不合理事件发生的精确时间区间，做秒级时序定位，而非视频级检测。 (3) Camera Motion Recognition：把相机运动分类为十个预定义类别；从 Multi-CamVideo 的相机位姿轨迹自动标注，先按相机中心与视线方向分为"纯旋转（pan/tilt）"与"含平移的旋转"，后者再按几何准则细分为弧线运动与纯平移。 (4) Quantitative Scale Estimation：不用粗粒度形容词，而是要求输出物体间相对比例的分数值（如 1/3），做数值化细粒度感知。 (5) Physical Uncertainty Awareness，含两种不确定性：Parameter Uncertainty（摩擦系数、反射率等潜变量无法从视觉证据确定）与 Outcome Uncertainty（因信息不完整或长期不可观测过程导致未来结果本质上不可确定，正确答案固定为 Indeterminate）。 感知数据主要来自真实世界数据集 WISA-80K 与生成视频数据集 VideoPhy-2，相机任务来自 Multi-CamVideo；筛选单主导相机运动、无干扰运动、并去掉缺乏多物体交互或物理动态的简单场景。除相机任务外，均采用"内容无关的固定模板"，无槽位填充，以削弱文本线索。空间选项由采样帧与原始字幕生成；时序违规区间由人类标注起止时间戳；定量尺度由人类给出精确分数比；参数不确定性用 Gemini 3.1 Pro 生成问题，结果不确定性直接沿用 VideoPhy-2 的 indeterminate 标注。对 VLM 生成的标签做人工核验，并重写带有明显风格模板的样本以减少语言偏见。 【阶段二：Reasoning】推理阶段分解为时序推理与因果推理。 - Temporal Order Reconstruction：给定以不规则间隔采样的四帧乱序帧，重建物理一致的事件序列；干扰项只通过交换相邻帧构造，测试模型能否依据物理时序依赖恢复顺序。 - 五个因果子任务：(i) Physical Mechanism Reasoning，推断支配事件因果的物理机制而非表面描述；(ii) Physical Principle Violation Reasoning，找出违反守恒律、重力等基本物理原则的所有实例，是多标签任务；(iii) Physical Dynamics Prediction，只给早期片段、隐去结局，预测后续状态/结果，同时要求事件级与尺度级精度（例如"停在前"与"恰好停在参考点"的区分）；(iv) Counterfactual Physical Reasoning，隐式修改关键物理条件（如把冰面换成鹅卵石路面）并预测结果；(v) Physical Violation Critique，识别不合理事件、分析其违反的真实物理约束，并建议修改关键物理因素使其变得合理。 数据构造先过滤静态/低动态片段，保留丰富运动与多物体交互的视频，再做任务专用过滤：批判任务排除同时多原则违规；原理违规任务去掉中间性/歧义违规；预测任务只给早期片段。除原理违规外均为单选 MCQ；除反事实外均用内容无关固定模板。反事实题先用 Gemini 3.1 Pro 从采样帧与字幕/事件标注中识别主事件，再通过改场景来隐式引入条件变化。 关键算法是选项生成的"分层三阶段"流程：(1) Event-level generation：生成并排序四个粗粒度基础选项，取最高者为候选正确答案；(2) Scale-level refinement：把每个基础选项细化为语义相近但精细有别的变体，并在组内排序；(3) Selection：粗粒度选择取每组最优选项来测事件级推理，细粒度选择在同一基础组内采样多个变体（可选混入其他组）来测尺度敏感性。原理违规任务用标注的违规原则作正确项、用同语境中未违规原则作干扰项，可能产生多个正确项；预测任务用被隐去的后续片段推导正确项；批判任务让 Gemini 3.1 Pro 基于标注的违规原则做"最小编辑"使场景物理自洽，以标注为锚约束推理、缓解幻觉，干扰项同时包含事件级与尺度级选项。 质量控制在推理阶段有三点：(i) 保证数据质量；(ii) 删除不看视频也能答对的样本，并用 video-blind 评估证明数据无偏；(iii) 改写有 LLM 风格措辞的样本以减少语言偏见。 【阶段三：Assessment】评估阶段要求整体合理性判断，而非对某一事件解释机制。 - Physical Plausibility Scoring：对单视频给 1–5 的离散合理性评分，按不一致严重程度校准，而不是二元有效/无效。 - Physical Plausibility Comparison：比较两个视频哪个物理合理性更高，做相对排序。 数据上，生成视频来自 VideoPhy-2 的 1–5 分标注，并在五个分数档均匀采样；真实视频来自 WISA-80K，作为物理一致样本统一赋最高分 5。两者都采用固定模板与 MCQ。比较任务构造三类配对：真实 vs 生成、真实 vs 真实、生成 vs 生成；其中生成—生成对是最细粒度的设置，控制语义相似性，多数配对之间合理性等级差距不超过两档，迫使模型区分细微的物理一致性差异。 【指标】感知与推理主要报准确率；原理违规任务额外报 exact-match、选项级 Micro-F1 与原理类型 Macro-F1；评分任务表格中给出形如"x/y"的双指标（如 0.6141/0.5586），比较任务报准确率。

论文在感知、推理、评估三个闭环阶段上对多款 VLM 做了系统实验。总体结论是：感知相对强于推理与评估；感知内部空间感知较好，而定量尺度估计与不确定性意识偏弱；推理阶段中时序顺序重建相对容易，物理动力学预测与反事实推理最困难，物理原理违规的多标签精确匹配普遍极低；评估阶段存在明显的评分塌缩与校准差，成对比较在真实—真实配对中暴露过度自信。跨阶段排名不一致说明感知强不等于推理强，推理强也不等于评估强。真实视频总体上优于生成视频，但定量尺度估计在生成视频上反而略高，是唯一反转现象。

1. 在感知平均准确率上 GPT-6 Sol 最高（68.59%），但其定量尺度估计仅 35.00%，物理合理性比较仅 54.00%，感知内部能力不均衡。

   GPT-6 Sol OpenAI (2026b) | 81.00% | 74.00% | 35.00% | 60.00% | 68.59% | 53.03% | 0.6141 / 0.5586 | 54.00%

2. 动力学推理平均准确率上 Claude Opus 5.5 最高（67.89%），时序顺序重建达 90.67%，但反事实推理仅 49.58%。

   Claude Opus 5.5 Anthropic (2026b) | 90.67% | 77.08% | 51.60% | 58.52% | 49.58% | 87.00% | 67.89%

3. Grok 4 在物理动力学预测与反事实推理上明显偏弱，分别为 22.96% 和 27.73%，推理平均仅 40.37%。

   Grok 4 xAI (2026) | 46.67% | 47.40% | 45.59% | 22.96% | 27.73% | 56.00% | 40.37%

4. GPT-5.2 空间感知（85.00%）与不确定性意识（76.11%）较高，但相机运动识别仅 38.50%，说明感知排名掩盖了子能力短板。

   GPT-5.2 OpenAI (2026a) | 85.00% | 38.50% | 43.33% | 76.11% | 64.06% | 42.09% | 0.3328/0.3423 | 51.00%

5. Qwen3-VL-8B 在物理合理性评分任务上几乎为零（0.0240/0.0071），比较任务为 50.00%，呈现明显分数塌缩。

   Qwen3-VL-8B Bai et al. (2025b) | 75.00% | 22.00% | 23.33% | 34.44% | 42.19% | 48.83% | 0.0240/0.0071 | 50.00%

6. 物理原理违规推理的精确匹配准确率普遍很低，其中最高的 Qwen3-VL-8B 也只有 20.98%，Macro-F1 为 31.66%。

   Qwen3-VL-8B [ 11 ] | 20.98% | 31.66% | 41.31%

7. 感知阶段各任务的样本量为：空间 200、违规定位 200、相机 200、尺度 60、不确定性 180。

   Spatial | Localization | Camera | Scale | Uncertainty 200 | 200 | 200 | 60 | 180

8. 推理与评估阶段各任务的样本量为：顺序 150、机制 192、违规 224、预测 135、反事实 119、批判 100、评分 200、比较 100。

   Order | Mechanism | Violation | Prediction | Counterfactual | Critique | Score | Comparison 150 | 192 | 224 | 135 | 119 | 100 | 200 | 100

9. 人工质量评估覆盖基准数据的 40%，由五名独立评估者按 1–5 分对语言中立性、问答精度与物理推理有效性打分。

   we recruit five independent human evaluators to rate the 40% of the benchmark dataset on a scale from 1 to 5 in terms of linguistic neutrality, question-answer precision, and physical reasoning validity.

10. 相机运动识别任务共定义了十个相机运动类型。

    We have incorporate 10 camera motion types in Camera Motion Recognition task, the definition of each type is illustrated in Tab. 4 .

11. Doubao Seed 2.0 Pro 时序顺序重建达 91.33%，但物理动力学预测仅 35.56%，跨子任务差异显著。

    Doubao Seed 2.0 Pro ByteDance (2026) | 91.33% | 59.90% | 42.09% | 35.56% | 40.34% | 70.00% | 60.06%

12. 定量尺度估计是唯一在生成视频上表现反而略高于真实视频的任务，呈现反转现象。

    An interesting exception appears in Quantitative Scale Estimation , where performance on generated videos slightly exceeds that on real-world videos.

Novelty：新颖性中等。闭环"感知—推理—评估"框架的整合、事件级/尺度级分层推理、以及把物理合理性评估与生成视频纳入统一基准，是该文的主要贡献，相较 PAI-Bench 补齐了评估环节。但多数子任务并非全新：空间感知、时序/因果问答、相机识别、合理性打分等在 PhysBench、MVP Bench、CausalVQA、VideoPhy 相关工作中已有雏形。其本质是任务组合、系统化重标注与统一评测协议，而非新数据或新模型，因此更接近"框架化/诊断性"贡献。 Soundness：方法设计整体清晰、数据来源可追溯，且有意通过固定模板、video-blind 过滤与人工改写来缓解语言捷径，闭环诊断逻辑也合理。但存在若干可靠性问题：正确答案与若干题目依赖 Gemini 3.1 Pro 生成，人工验证只覆盖部分数据，且未报告标注者间一致性；合理性评分的双指标（如 0.6141/0.5586）未给出定义与计算方式；比较任务没有"相等"选项，真实—真实对的低分可能部分由任务设计导致；表 2 与表 7 对同一模型命名不一致（GPT-6 Sol 与 GPT-5.6 Sol）；结论多为排名观察，缺少统计显著性与方差；"人类评估"只给分数分布说明，缺少协议细节。综合来看，soundness 为中等偏上但需要补充验证与指标定义。 Significance：作为诊断性基准，PhysVista 对物理智能评测、生成视频真实性评估以及未来物理对齐/物理接地模型设计有一定参考价值，闭环视角和尺度级分析可引导后续工作。但它不提供新模型、新训练目标或可复用的算法，影响力主要限定在 VLM 物理评测社区；若缺乏开源数据、详细标注协议与指标实现，实际可复现性与长期采用度会受到限制。

第一，贡献定位在"任务重标注与统一评测"而非新数据，规模有限，部分子任务（如定量尺度估计仅 60 例）难以支撑稳健结论。第二，题目与选项生成大量依赖 Gemini 3.1 Pro，虽然以 WISA-80K/VideoPhy-2 标注为锚，但生成内容仍有幻觉与偏好风险，人工验证覆盖不全、未报告一致性指标。第三，MCQ 与固定模板虽然降低语言偏见，但也限制了开放世界物理理解评估，无法考察自由形式解释、定位理由或逐步推理。第四，评分任务的指标含义不明确，比较任务缺乏"相等/不可判"选项，可能把模型无法识别等价样本的问题误判为能力缺陷。第五，跨阶段"认知缺口"分析主要基于排名移动，没有控制模型规模、训练数据与任务难度混杂因素。第六，论文未提供数据来源的授权/脱敏、数据污染检查，且使用了若干未来版本模型，复现和比较的稳定性存疑。

后续可做几个方向：一是把封闭式 MCQ 扩展为开放生成式评估，让模型输出带时间定位与物理原则引用的解释，再用 LLM/人工联合评分，避免选项捷径；二是补上比较任务的"相等"分支并定义合理的评分校准指标（如 ECE、分档混淆矩阵），区分分数塌缩与真实校准能力；三是扩大定量尺度估计、不确定性意识等薄弱子任务的样本量，并加入更多物理原则类型与长时程动态；四是对生成视频增加"可定位违规"的掩码/区间标注，把违规批判做成可验证的定位任务；五是做跨阶段因果消融，例如给定感知 oracle 后再测推理，分离感知误差与推理误差；六是发布完整数据、标注协议、提示词与指标实现，保证可复现并监测模型版本漂移与数据污染。

本文提出 Tex-Zero，针对原生 3D 纹理生成（native 3D texture generation）：给定几何与多视图参考图像，直接在 3D 空间为表面合成颜色。论文挑战该领域的一个普遍假设——训练此类模型必须依赖大规模高质量真实 3D 资产数据——并给出否定回答：仅用 2D 图像构造的 3D 训练样本，即可训练高保真原生 3D 纹理生成框架。其定位落在 3D 纹理生成的数据范式层面，核心主张是高质量、细粒度颜色信息对纹理训练才是关键，而几何信息可被人工构造、不必语义合理。做法是把 2D 图像变成 3D 彩色平面，经 patch 级随机旋转与聚合构造几何复杂的样本，分别训练 Tex-Zero VAE 与 Tex-Zero DiT；前者同时成为 2D 图像与 3D 纹理的统一潜空间，后者在该潜空间中做条件生成。工作价值在于为 3D 纹理生成摆脱 3D 资产稀缺瓶颈、走向海量图像数据扩展提供一条路径。

原生 3D 纹理生成近年来兴起，它在 3D 空间直接预测颜色，避免传统方法先从 2D 视图重投影再融合所引入的投影误差，天然更适合几何对齐与全局一致纹理。训练此类模型通常被默认为需要大量高质量 3D 资产，而 3D 资产采集需要专门设备与高昂成本，长期稀缺，成为扩展瓶颈。相比之下，自然语言、2D 图像与视频数据规模庞大且易得。论文注意到 2D 图像与 3D 纹理共享一个数据结构：两者都是把颜色赋给空间位置——图像赋给 2D 像素，3D 纹理赋给 3D 表面点。由此提出核心问题：能否把海量 2D 图像中的丰富颜色信息赋给 3D 空间中的点，从而把 2D 图像转化为 3D 纹理生成的有效训练数据。相关工作包括以重投影为主的 2D 纹理方法，以及 NaTex、TRELLIS 等原生或结构化 3D 生成方法；在图像域，FLUX VAE 与 MMDiT 提供了可借用的网络骨架。Tex-Zero 的关键发现是训练样本需要高质量的纹理细节，而几何结构不必来自真实 3D 资产，可以手工构造，这使 2D 图像成为可行的替代数据源。

机制可拆为三部分：图像到 3D 监督样本的构造、Tex-Zero VAE、Tex-Zero DiT。 一、数据构造（3.2 节）。出发点是把每个 2D 图像转化为 3D 训练样本。第一步"图像作为彩色平面"：将像素映射为 3D 点，像素坐标决定位置 x_i=(u_i,v_i,0)，RGB 归一化为颜色 c_i，所有点初始法向为 n_i=(0,0,1)。该映射保留图像完整空间与颜色信息，形成可被 3D 纹理模型直接处理的表示。第二步"patch 级几何增强"：单平面几何过简，无法支撑真实表面复杂几何关系的学习。将图像平面切成互不重叠 patch，对每个 patch 独立施加随机 3D 旋转与平移：x~_i=R_k(x_i−μ_k)+t_k，n~_i=R_k n_i，c~_i=c_i；R_k 为随机 SO(3) 旋转，μ_k 为 patch 中心，t_k 决定 patch 在 3D 空间的位置。同一旋转作用于 patch 内所有点与法向，RGB 不变，从而只改位姿、保留 patch 内纹理细节。第三步"聚合"：独立旋转产生孤立漂浮 patch，与真实资产的连贯结构不符；将 patch 聚合到有界 3D 区域、鼓励空间重叠而非分散，得到更复杂几何与视点相关遮挡。第四步"体素化与渲染"：把变换后的表面点分配到分辨率为 R 的体素网格，同一体素只保留一个点且不改其位置、法向、颜色，得到 G~={(x~_i,n~_i,v~_i)} 与 C~={c~_i}；再从规范正交视点渲染彩色点云得到条件图像 I~ 与掩码。每个源图像产生训练元组 (G~,C~,I~)，其中 (G~,C~) 训练 VAE，完整元组训练 DiT。 附录 A 给出有效性直觉：VAE 只需在给定几何支撑上重建颜色场，不需要几何语义合理。固定平面训练会使 z 方向核权重梯度为零（∂L/∂W_Δ=0），无法监督 3D 方向；全局旋转仍保持共面（λ_min(Σ_x)=0）；patch 独立旋转去除共面性、引入多样法向；聚合使不同取向 patch 进入同一局部感受野（dist(P_i,P_j)≤r_L），形成多 patch 邻域交互。对 DiT，构造数据通过投影、深度排序与遮挡把 3D 空间关系转化为条件图像中可观察的几何依赖结构；patch 可见部分与隐藏部分来自同一完整外观场，构成类似 outpainting 的条件补全 P_img(A_hid|A_vis,M)，促使模型从可见上下文预测被遮挡区域。 二、Tex-Zero VAE（3.3 节）。给定几何 G 与颜色 C，Z=E(C,G)、Ĉ=D(Z,G)。网络可在任意标准图像 VAE 基础上，把稠密 2D 操作替换为表面特征上的稀疏 3D 操作；实现采用类似 FLUX VAE 的结构。训练先做 warm-up：每张图作为单个彩色平面并施加随机 3D 旋转、不做 patch 操作，从简单任务起步保证稳定优化；无该阶段 VAE 无法收敛。随后切换到完整数据构造。损失为 L_VAE=L_color+λ_perc L_perc+λ_KL L_KL：L_color 是逐点颜色 MSE；L_perc 是图像空间 LPIPS，计算时把 patch 逆变换回原 2D 布局、重拼重建图再与原图比较；L_KL 是 KL 正则。推理时真实 3D 资产直接输入即可迁移重建；把 2D 图像表示为 3D 平面时同一 VAE 也能高保真重建 2D 图像，从而形成 2D-3D 统一潜空间，这是后续 DiT 条件编码的基础。 三、Tex-Zero DiT（3.4 节）。输入为噪声纹理潜变量 Z_t、多视图参考图像 I 与几何。图像条件：把六个规范视图分别表示为按观察方向定向的彩色平面，用冻结 Tex-Zero VAE 编码，潜 token 拼接为条件序列 Y。几何条件：编码表面法向，与 Z_t 按通道拼接。位置编码用联合 4D RoPE：p_j=(g_j,s_{j,x},s_{j,y},s_{j,z})，s_j 为 3D 潜网格坐标；g_j=0 表示目标噪声纹理 token，g_j=1…6 分别对应前、右、后、左、上、下视图条件 token；对注意力 q/k 的通道组沿四条轴分别施加旋转嵌入，使注意力同时感知相对空间位置与组身份。架构采用 FLUX MMDiT。训练时每个 step 随机采样视图子集（数量与组合都变），避免依赖固定视图配置；被遮挡或缺失的 patch 区域需要从可见上下文预测，形成类 outpainting 任务。目标为标准 flow matching：Z_t=(1−t)ε+tZ、u*=Z−ε，损失 L_DiT=E[||f_θ(Z_t;t;Y;G)−u*||_F^2]，并施加概率 0.1 的图像条件 dropout 以支持无分类器引导。推理时编码真实几何与多视图图像，多步去噪得到纹理潜变量，再由冻结 VAE 解码为表面 RGB。 训练与数据细节：VAE 与 DiT 均用 SA-1B、BLIP3o-60k、ShareGPT-4o 等公开图像数据集训练，图像统一 resize 到 1536×1536。VAE 为 5 个分辨率层级、通道宽度 [128,256,512,512,512]、4 次下采样（空间压缩 16）、潜通道 16；DiT 为 12 个双流块加 24 个单流块、宽度 1024、8 头、MLP 倍率 4、旋转维度 [16,40,40,32]、频率基 10000。两者用 AdamW、FP16 混合精度训练。

实验部分覆盖重建、生成、联合训练与消融。训练数据为多个公开大规模图像数据集，所有图像统一缩放到同一高分辨率。重建实验在真实 3D 资产测试集与 2D 图像验证集上进行，将 Tex-Zero VAE 与图像域 FLUX VAE、3D 资产训练的 NaTex VAE、TRELLIS.2 VAE 及同架构但用 3D 资产训练的稀疏 VAE 对比；结果显示图像训练的 Tex-Zero VAE 在从未见过真实 3D 资产时达到有竞争力的 3D 重建，并在 2D 图像重建上一致领先。生成实验在多视图与前视图设置下对比 NaTex 与 TRELLIS.2，Tex-Zero 在所有报告指标上领先。联合训练实验表明，在已有 3D 资产时混入 2D 数据仍能同时提升 VAE 与 DiT。消融实验分别验证数据预处理各步骤（固定平面、随机旋转、patch 数量、聚合）与条件编码策略（DINO、独立 VAE、共享 3D VAE、图像训练共享 VAE）的作用，并说明单平面预热阶段对 VAE 收敛的必要性。总体看，实验证据支持仅图像数据即可训练的核心主张，但评估多在内部测试集上进行、消融步数有限，外部泛化证据仍需加强。

1. Tex-Zero 的 VAE 与 DiT 完全在约 1110 万张公开图像上训练，不使用真实 3D 资产。

   We train both the Tex-Zero VAE and DiT on large-scale, publicly available image datasets, including SA-1B ( Kirillov et al., 2023 ) , BLIP3o-60k ( Chen et al., 2025 ) and ShareGPT-4o ( OpenGVLab, 2024 ) , comprising approximately 11.1 million images in total.

2. Tex-Zero VAE 的 f8c16 变体在未见真实 3D 资产时，3D 资产重建达到 LPIPS 0.0154、PSNR-PC 34.03、PSNR 42.41、SSIM 0.987，2D 图像重建达到 LPIPS 0.0217、PSNR 39.82、SSIM 0.956。

   VAE-f8c16 | Image | 0.0154 | 34.03 | 42.41 | 0.987 | 0.0217 | 39.82 | 0.956

3. 尽管训练中从未见过真实 3D 资产，Tex-Zero VAE 在真实 3D 资产重建上仍有竞争力。

   Despite never observing real 3D assets during training, the Tex-Zero VAE achieves competitive reconstruction performance on reconstructing real 3D assets.

4. 在 2D 图像重建上，Tex-Zero VAE 一致优于 3D 数据训练的同架构 VAE 及其他基线。

   For 2D image reconstruction, the Tex-Zero VAE consistently outperforms its 3D-trained counterparts and other baselines.

5. 生成实验中，Tex-Zero 六视图评估为 LPIPS 0.0340、PSNR 35.68、SSIM 0.983，前视图评估为 LPIPS 0.0294、PSNR 35.31、SSIM 0.985。

   Tex-Zero | 0.0340 | 35.68 | 0.983 | 0.0294 | 35.31 | 0.985

6. 在已有 3D 资产时加入 2D 数据联合训练，VAE-f16c32 与 DiT 均优于只用 3D 数据：VAE LPIPS 0.0140、PSNR 42.85、SSIM 0.988，DiT LPIPS 0.0216、PSNR 37.68、SSIM 0.983。

   2D + 3D | 0.0140 | 42.85 | 0.988 | 0.0216 | 37.68 | 0.983

7. 数据预处理消融中，16 个 patch 配合随机旋转与聚合取得最佳重建：LPIPS 0.0355、PSNR-PC 28.97、PSNR 37.16、SSIM 0.973。

   16 | Yes | Yes | 0.0355 | 28.97 | 37.16 | 0.973

8. 生成管线消融中，用图像训练的 Tex-Zero VAE 作为共享编码器（统一潜空间）取得最佳生成质量：LPIPS 0.0481、PSNR 32.54、SSIM 0.970。

   Tex-Zero VAE | Image | Yes | 0.0481 | 32.54 | 0.970

9. 若没有单平面 warm-up 阶段，3D VAE 训练无法收敛。

   Without this warm-up stage, the VAE fails to converge during training.

Novelty：新颖性中等偏上。核心新意不在网络结构——稀疏 3D VAE 与 FLUX MMDiT 都继承自已有工作，flow matching、RoPE、CFG 也是成熟组件——而在训练数据构造范式：用人工构造的、从 2D 图像派生的几何替代真实 3D 资产，以及由此推出的 2D-3D 统一 VAE 条件编码。该思路直接挑战"3D 纹理生成必须 3D 资产"的共识，并给出可运行的 pipeline 与消融证据；附录还从稀疏卷积方向监督、共面性退化、感受野交互、投影遮挡等角度做了机理说明。不过，图像转 3D 训练样本的构造本身较直接（patch 旋转加聚合），其是否构成真正的新数据范式，仍需更大规模实验与开放复现来验证。 Soundness：合理性总体可接受。论文用同架构 3D 训练基线隔离数据来源变量，数据预处理消融逐步证明旋转、patch、聚合的贡献，生成管线消融证明统一潜空间优于 DINO、独立 VAE 与共享 3D VAE，warm-up 消融说明训练稳定性，联合训练实验说明 2D 数据在已有 3D 数据时仍有效。但也存在削弱点：3D 重建与生成结论依赖内部测试集（重建与生成样本数有限且不公开），难以复核；表 1 中 Tex-Zero VAE 的 3D 指标并非全面领先，而是"有竞争力"，核心优势集中在 2D 图像与生成指标；消融只训练 20K 步，可能低估完整训练下的差异；TRELLIS.2 仅支持单视图输入，对比公平性有限；缺少用户研究与几何分布外鲁棒性度量。因此核心主张有证据，但需谨慎解读。 Significance：若结论稳健，其意义在于把 3D 纹理生成的数据瓶颈从稀缺 3D 资产转移到海量 2D 图像，为规模扩展提供现实路径；统一 2D-3D 潜空间也提示 3D 生成可以复用图像 VAE 与 DiT 生态。这对 3D 纹理、纹理迁移、可泛化重建等下游任务有潜在影响。但当前证据集中在纹理阶段的保真度指标，且测试集内部化，距离真正改变 3D 生成的数据范式仍有距离；其长期影响取决于能否在公开基准、更多几何与更多方法上复现。

第一，训练几何与真实几何之间存在分布差异：构造样本由旋转平面 patch 堆叠而成，缺少真实物体的水密性、薄壳、拓扑与全局语义约束；附录论证只能说明其覆盖了若干几何退化情形，并不等于对任意真实几何都能无损迁移。第二，评价以渲染视图的 PSNR/SSIM/LPIPS 与点云 PSNR 为主，衡量外观转移的逐像素或逐点保真，缺少几何对齐误差、遮挡区域恢复、语义一致性、多样性与用户主观评估；高指标未必对应感知高质量。第三，测试集为内部资产与有限样本，来源、难度与分布未公开，外部复现与公平比较受限。第四，消融实验只训练 20K 步，未必反映完整收敛后的相对排序；且不同 VAE 压缩率与基线压缩设置不完全对齐，表 1 横向比较存在架构与潜空间容量混杂。第五，对比方法有限：TRELLIS.2 仅支持单视图输入，NaTex 与 3D 训练基线的数据、训练时长、token 化方式不同，公平性更多体现在统一评估协议而非完全同构训练。第六，分类器引导尺度、采样步数等推理超参在主文本未系统报告，可能影响可复现性与性能敏感性判断。第七，论文未讨论版权、隐私与图像数据偏置：直接从未清洗的大规模 2D 图像构造训练样本，可能把水印、文字、人脸等细节过拟合到 3D 纹理。第八，对"几何信息可人工构造"的结论主要来自纹理生成阶段，不适用于需要生成或重建几何的任务，外推需谨慎。

建议后续：(1) 开放数据构造代码与公开测试基准，或至少完整公开内部测试集的生成协议、几何来源与指标计算细节，以便复现与公平比较；(2) 进行真正的大规模 scaling 实验，检验图像数据量、patch 数、聚合策略与 VAE/DiT 容量之间的标度律，并明确收益饱和点；(3) 在更多真实几何（非水密、细薄结构、高曲率、拓扑复杂、语义极端形状）上做系统性泛化评估，量化构造几何与真实几何之间的分布差异对性能的影响；(4) 将图像条件替换为真实多视图扩散模型生成的多视图，研究条件分布外偏差与几何-图像不一致时的鲁棒性；(5) 把统一 2D-3D VAE 推广到法向、材质、光照等通道，探索联合生成；(6) 从理论或实验上建立"构造几何足以覆盖稀疏卷积方向与感受野"的充分条件，而非仅做合理性论证；(7) 引入用户研究与感知指标，检验 PSNR/SSIM/LPIPS 增益是否对应用户可见的纹理保真提升；(8) 探索在已有少量 3D 资产时用 2D 数据做课程学习或混合比例调度，进一步压缩对 3D 资产的依赖。