AI 论文深读
2026-09-17
7 篇深读 · 1 篇简读
JohnsHopkinsHF ↑287GitHub ★9模型架构与训练
Continual Learning Mechanisms Compose for Long-Horizon Memorization
发表时间:2026-09-07
Zheyuan Zhang, Alvin Zhang, Daniel Khashabi, Tianmin Shu
arXiv · HF 讨论 · alphaXiv
未深读 · 全文抓取或深读生成失败
① 一句话定位 (简读)
Language models may need to internalize information that arrives over time and retain it through many subsequent updates. To study this challenge, we introduce long-horizon memorization, a setting in which a model learns 100 query-answer tasks through continual supervised fine-tuning without retaining earlier training examples or receiving task identifiers at inference. Sequential updates cause catastrophic forgetting, and no single continual learning mechanism we evaluate maintains strong retention at this horizon. We hypothesize that mechanisms addressing complementary sources of forgetting will be more effective when composed. We organize these compositions along two design dimensions. Data, function, and weight anchors specify what prior information each update should preserve, while low-rank allocation rules determine where successive updates are retained. To test this hypothesis systematically, we construct three distinct 100-task memorization datasets. We introduce task-level su
⑤ 审稿人视角 (简读)
仅依据摘要,无法可靠判断方法 soundness 与实验充分性,请以原文为准。
HF ↑86GitHub ★54X/HN x1agent
The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement
发表时间:2026-09-10
Yi Duan, Ying Liu, Zirui Tang, Haodong Chen, Jun Zhou, Yumou Liu, Bangrui Xu, Yukai Wu, Sidi Chen, Yuhan Zhou, Haoyu Wang, Xiaoyou Yu, Shaokun Han, Xuzhou Zhu, Le Zhou, Bolin Lu, Wei Zhou, Jiachen Liu, Nuozhou Fang, Jiaxin Tian, Ruoyu Chen, Yuxuan Li, Kai Zuo, Kaiyan Zhang, Jiantao Qiu, Conghui He, Guoliang Li, Bowen Zhou, Zhiyuan Liu, Zhoufutu Wen, Jihua Kang, Xuanhe Zhou, Fan Wu
arXiv · HF 讨论 · alphaXiv
① 一句话定位
本文是一篇以“递归自我改进(RSI)”为主题的综述与路线图文章,而非提出新算法或开展新受控实验的原创实证论文。作者把“改进回路”作为分析单位,提出以自主性为中心的五级框架:B0(任务内改进,无持久系统改变)、L1(改进执行)、L2(改进策略)、L3(经验获取)、L4(环境适应)、L5(递归继承/元改进),并自建 Headroom-Closed Index(HCI)对模型-基准观测做归一化能力轨迹分析。文章横跨科学发现、具身智能、软件工程、医疗与工业实践,核心目的是厘清哪些改进责任已由 AI 内化、哪些仍由人或固定基础设施控制,从而区分“任务性能提升”与“改进机制本身被修改并被复用”。
② 背景与动机
本文回应大模型开发中的规模化负担:虽然模型参数规模、上下文窗口与研发流程都在扩展,但端到端开发(数据准备、架构设计、分布式优化、评测、部署后修复)仍主要靠外部协调,成本成为瓶颈。作者把负担归为三类:基础模型训练资源密集;合成数据与强化学习带来反馈与学习环境的扩展需求;部署后需持续诊断故障、修订工具与状态、做回归测试。由此引出 RSI 概念,强调要让部分协调能力成为系统自身的持久能力。文中还讨论 RSI 与持续学习、AutoML、Agentic AI/ML 的异同:这些范式只自动化了回路的一部分,目标、搜索空间、评测器或更新规则通常仍由设计者固定。研究证据范围被扩展到技术报告、工程博客、开源仓库与公司研究材料,理由是许多前沿改进回路先出现于工业系统而非学术论文。作者与既有综述的差异在于:以改进回路为单位、以责任转移定义自主性、区分结构递归与有效递归、跨运行条件比较机制。
③ 方法机制
一、HCI 能力轨迹的构造。论文不直接比较原始基准分,而是先按“协议链接家族”归并:只有基准版本与评测 harness 稳定,或能通过重叠模型建立可辩护桥接的结果,才进入同一家族;版本或评测设置不兼容的结果保留在审计记录中但被排除。对同模型、同基准家族、同协议、同评测模式的多个来源,先算加权共识 s̄_{mbh}=Σ_i w̃_i s_{imbh}/Σ_i w̃_i(Eq.1),h 表示评测协议,i 索引来源。来源基权为:基准所有方表 3、独立通用 harness 评测 2.5、综合基准/模型报告 2、模型作者表 1;第一方数值再乘 0.75。这相当于给自报结果打折、给独立评测更高权重。随后用 HCI 归一化:H_{mbh}=100×(s̄_{mbh}−F_{b,0})/(100−F_{b,0})(Eq.2),其中 F_{b,0} 是该基准进入数据集首年的 90 分位模型分数。直觉是把不同量纲的原始分统一为“已关闭的头部空间百分比”:H=0 对应首年前沿,H=100 对应满分。再对每个基准家族与发布年取 90 分位 HCI 前沿 Q_{b,y},领域轨迹 T_{d,y}=Σ_{b∈B_{d,y}} sqrt(n_{b,y}) Q_{b,y}/Σ sqrt(n_{b,y})(Eq.3),n_{b,y} 为该基准-年份前沿贡献的不同模型数;平方根加权使覆盖度更高的家族权重更大,但避免单个最大榜单主导。最后给出说明性外推端点 R_d=100−0.22(100−T_{d,2026})(Eq.4),等价于把剩余头部空间的 78% 作为潜在收益,并明确这是假设性说明而非预测。
二、改进回路解剖。作者定义 RSI 为:智能系统通过持续与任务/环境/其他智能体交互,自主把经验与反馈转化为跨轮次对自身的持久改变(模型参数、agent harness 或改进策略),且这些改变能进一步影响后续自我改进的产生、评估、选择与固化机制。其回路包含九个组件:AI system(跟踪能力状态的整体计算实体)、system state(一轮结束后被继承的部分)、experience(被用于后续修改的既往交互信息)、target(本轮被直接修改的对象)、improver(把当前状态与经验转为候选修改的机制)、strategy(improver 决定搜索与生成方式的方法)、verifier(评估候选并执行验收规则的机制)、improvement(通过验收并被继承的状态变化)、successor(继承更新进入下一轮的系统)。据此提出三问:回路在哪里闭合、什么被更新并被继承、哪些决策仍外部。这用于把“输出改变”与“系统改变”分开:B0 只是输出改变而无持久系统改变,因此是非 RSI 参考级。
三、自主性层级。L1 改进执行自主性:人规定改进对象、方法与成功标准,AI 只执行候选更新(如按人类标签做数据筛选)。L2 改进策略自主性:目标、任务边界与评测标准仍外部固定,但 AI 诊断弱点并决定如何改进(如在固定基准与晋升规则下编辑 agent harness)。L3 学习信号/经验获取自主性:系统还决定下一轮需要何种经验(如根据当前行为评估生成针对弱点的练习任务)。L4 环境适应自主性:回路利用部署交互修订持久系统状态,受外部验收与治理规则约束(如按观测结果接纳或降级可复用规则)。L5 递归继承自主性:系统持续修订支配后续改进的机制(improver、verifier 或后继生成流程),如修订研究策略后用于下一轮训练。表 2 以技术族为行(进化搜索、树搜索/MCTS、贝叶斯优化、反思/批判、程序/代码搜索、离线合成数据、自博弈/对抗任务、自适应课程、环境生成、自主探索、SFT、偏好优化、RL、蒸馏、prompt 优化、记忆/技能固化、单元测试/形式化验证、奖励模型/LLM 评审、回归测试/模型选择、在线持续学习、经验回放、自修改代码、协同演化评测器),以 L1–L5 为列,说明同一技术可出现于多个层级,空单元格不表示技术不兼容。
四、防止伪递归的可靠性机制。安全继承要求变更持久且不损害既有能力,需要迁移测试、版本历史与回滚;自主性归因要求区分 AI 控制的决策与固定的搜索/人工验收规则;可靠验证要求防止评测者被利用。RQGM 的做法是:学习到的评测器在一个 epoch 内冻结,周期边界用独立 ground-truth 锚比较挑战者评测器,替换后作废依赖旧评测器的分数并重新评测;锚、替换时间表与编排仍外部固定,因此稳定性只在冻结 epoch 内成立,不覆盖目标的无限制改变。
五、训练与数据细节。作为综述,训练与数据细节来自被引系统:A-Evolve-Training 把后训练结果固化为研究策略与发现日志,由 meta-agent 修订后续 workers 的配方选择;DGM 演化编码 agent,但归档维护与父代选择规则仍固定;DrugSAGE 用跨任务记忆存储建模流程与错误修复;Test-Time Tool Evolution 在推理时合成、验证并复用工具。HCI 数据管线是本文唯一自建的数据处理部分,强调协议链接与来源加权,用于把不可直接混合的原始分统一到同一尺度。
④ 实验与证据
论文没有开展新的受控实验或训练新模型,其实证部分主要由三类组成:一是基于既有模型-基准观测构建 HCI 归一化指标,绘制多领域能力轨迹;二是对若干代表性 RSI 系统的报告性能做二手引用与案例比较;三是梳理工业实践材料。定量结论集中在领域能力差异、个别系统的性能变化以及资源规模估计上,多数数据来自技术报告、博客与论文转述,缺乏独立复现和统一预算控制。因此其实验证据的强度是观察性与综述性的,而非新因果实验。
-
HCI 分析显示,到 2026 年高等数学与研究生级科学已接近关闭头部空间,而法律推理、多模态推理与前沿学术广度仍处于中等水平。
By 2026, advanced mathematics and graduate-level science reach HCI values of 86.4 and 85.8, while broad knowledge reaches 77.2. The corresponding values for legal reasoning, multimodal reasoning, and frontier academic breadth are 64.5, 62.2, and 60.4.
-
软件工程、搜索与终端 agent、工具 agent 的 HCI 值明显低于研究生级科学,显示交互式能力仍有较大缺口。
Software engineering reaches an HCI of 52.6 in 2026, search and terminal agents reach 56.8, and tool agents reach 39.9.
-
说明性外推端点显示,网络安全从高位小幅上升,而软件工程、搜索终端与工具 agent 因剩余头部空间更大而获得更大外推增量。
Cybersecurity therefore moves from 91.9 to 98.2, while software engineering, search and terminal agents, and tool agents move from 52.6 to 89.6, from 56.8 to 90.5, and from 39.9 to 86.8.
-
A-Evolve-Training 在四轮自主改进后外部得分提升,但仍略低于最强人类提交,说明自主改进接近但尚未超越人类配方。
Across four autonomous rounds on a 30B Nemotron model, the external score rose from 0.80 to 0.86, compared with 0.87 for the top human submission Shi et al. [2026b] .
-
Gödel Agent 同时重写任务策略与改进逻辑,但仍有一定比例的优化试验低于初始策略性能,说明持久性不保证增益。
Gödel Agent Yin et al. [2025] , for example, rewrites both its task policy and improvement logic, yet 14% of its 100 MGSM optimization trials ended below the initial policy’s performance.
-
Darwin Gödel Machine 在 SWE-bench 子集上把性能从 20% 提升到 50%,但其归档维护与父代选择规则仍在自修改范围之外。
The Darwin Gödel Machine Zhang et al. [2026b] evolves coding agents, raising performance on its SWE-bench subset from 20% to 50%, but its archive maintenance and parent-selection rules remain outside self-modification.
-
RQGM 在留出 Polyglot 编码任务上的通过率略高于 HGM-H,且搜索 token 用量更低。
On held-out Polyglot coding tasks, the preprint reports a 71.7% pass rate against 69.9% for HGM-H, with lower search-token use.
-
DrugSAGE 用 16 个任务积累的经验在 17 个留出任务上改善性能,提供了继承经验迁移到新问题的证据。
Experience collected from 16 tasks improves performance on 17 held-out tasks, providing direct evidence that inherited experience changes behavior on new problems.
-
SciEvo 基准包含 1,590 个任务,并由 925 个演化出的工具支撑,用于评估推理时工具演化。
Test-Time Tool Evolution Lu et al. [2026b] synthesizes, verifies, and reuses executable scientific tools during inference, whose SciEvo benchmark contains 1,590 tasks supported by 925 evolved tools.
-
图 3 的轨迹基于 2023 年至 2026 年 9 月之间十个能力领域的 393 个合格模型-基准观测。
Figure 3 summarizes 393 eligible model–benchmark observations across ten capability domains for models released between 2023 and September 2026.
-
HCI 加权共识对来源类型赋予不同基权,并对第一方结果施加额外折扣。
Benchmark-owner tables, independent common-harness evaluations, combined benchmark or model reports, and model-author tables receive base weights of 3, 2.5, 2, and 1, respectively. We multiply first-party values by an additional factor of 0.75.
-
在最新模型审计的 33 个结果中,只有 17 个被协议链接家族规则纳入轨迹,其余因版本或评测设置无法链接而被排除。
This rule admitted 17 of the 33 results considered in the latest-model audit.
⑤ 审稿人视角
Novelty:新颖性中等偏上。贡献集中在概念与框架层面:把“改进回路”作为分析单位、以“责任转移”而非能力高低或组件数量定义自主性、区分结构递归与有效递归,这些都比既有自我演化综述更清晰,也有助于把 RSI 从口号变成可核对的问题。HCI 提供了跨基准归一化的一种尝试,但与已有归一化思路相比创新有限,且权重与端点常数带有明显主观性。本文没有提出新的学习算法、系统或新实验,因此不属于方法或实证突破。
Soundness:论证在概念上较严谨:明确区分输出改进与系统改进、持久性不等于增益、AI 选择与固定搜索的归属、评测者被利用与目标漂移等问题;对回路组件与三问法的拆解清晰,能有效识别“伪递归”。但实证严谨性有限:数据几乎全部来自二手报告,来源权重、90 分位初始前沿、平方根加权与 0.22 外推常数均为启发式选择,缺少敏感性分析;协议链接规则只纳入了少量观测,跨基准可比性仍存疑。整体上是概念稳健、实证薄弱。
Significance:作为议程设定与术语统一工作有较高价值,能帮助社区把“自主性/递归性”从笼统宣传变为可核对的回路问题,并把学术与工业实践并置、把反馈成本与验证可靠性纳入比较。但由于没有新证据和可操作的统一评测,其影响主要是启发与整理性的,而非结论性的;后续研究者可以借用其五级框架与三问法来设计和审计系统,但尚不能据此判断哪些系统真正实现了有效递归。
⑥ 局限与保留意见
第一,没有开展新实验或独立复现,实证数字几乎全部来自被引系统的报告或技术博客,可信度与统计口径不一致。第二,HCI 归一化依赖来源权重、90 分位初始前沿、协议家族规则与平方根加权,这些选择可能改变轨迹结论,文中未做稳健性或消融分析。第三,0.22/0.78 的外推端点是说明性假设,容易被误读为预测,且其选择缺乏理论依据。第四,自主性层级是定性判断,分级边界依赖对系统实现细节的解读,同一系统可能因读者理解不同而被归入不同层级。第五,安全、对齐与治理问题只被识别而未解决:继承错误的回滚、评测者冻结的长期可行性、人类验收权如何保留等仍需论证。第六,横跨四个领域与工业实践导致广度有余、深度不足,很多机制只列名称与一两句描述,未给出可操作的判别标准或伪代码。
⑦ 值得跟进
后续工作应:1)建立长时程、统一预算与独立锚定的 RSI 评测基准,分离有效递归与搜索预算增加、评测者利用带来的假性提升;2)对 HCI 做敏感性分析,公开数据与复现代码,检验权重与归一化选择对结论的影响;3)对 A-Evolve-Training、RQGM、DGM、Gödel Agent 等代表性系统进行受控复现,核实其自主性归因与安全继承;4)研究跨任务/跨领域继承、灾难性遗忘、版本回滚与评测者协同演化问题;5)把安全约束内化为验收规则的一部分,并明确人类在 L4–L5 层级中的保留控制点;6)用形式化方法刻画自主性层级与可控性边界,使 RSI 的“递归”可验证、可审计。
NationalUniversityofSingaporeHF ↑106GitHub ★146其他
AI for Games in the Foundation Model Era
发表时间:2026-09-15
Meng Luo, Yanlin Li, Hao Li, Hongzhan Lin, Pengfei Zhou, Tianjie Ju, Ran Zhang, Yeying Jin, Mong-Li Lee, Wynne Hsu
arXiv · HF 讨论 · alphaXiv
① 一句话定位
本文是一篇面向“基础模型时代”的游戏AI综述。它并不提出新的模型、算法或基准,而是提出一个按“AI输出的即时用途”划分的六角色框架:玩与行动、玩家与游戏建模、游戏设计、游戏构建与维护、运行时生成与适应、测试与评估。论文的核心定位是把原本分散的研究传统——博弈、过程化生成、自动化设计、交互叙事、玩家建模、自动试玩——放在同一分析框架中,追踪其学习式与符号式前身,并重点考察角色之间的输出如何流动、哪些能力与产物可迁移或复用、哪些仍绑定于具体游戏、引擎、接口或玩家群体。相比既有综述分别覆盖单一方向,本文的贡献是关系综合与证据评估,并提供项目主页和GitHub索引。
② 背景与动机
游戏AI的经典脉络包括以规则、搜索、强化学习和自对弈为核心的游戏博弈(Shannon、DQN、AlphaGo/AlphaZero、AlphaStar、OpenAI Five等),以及过程化内容生成、自动化规则设计、交互叙事、玩家建模和自动试玩等并行传统。这些工作大多围绕单一AI角色各自发展。基础模型改变了这种格局:自然语言、视觉理解、代码生成和工具调用使模型能跨阶段参与游戏生命周期。例如DreamGarden把高层设计意图展开为可检查的分层计划,Play2Code把编码代理接入可交互的浏览器试玩器以获取修改反馈,IF:CARGO把自然语言规则翻译为引擎可验证命令,GameNGen从游玩轨迹学习交互式模拟器,Dreamer类世界模型在学到的环境中训练策略。已有综述覆盖博弈代理、内容生成、玩家建模、世界模型、社交代理、生成式开发、自动化测试等子领域,但彼此隔离。本文以“基础模型时代”作为分析透镜而非纳入标准,将可执行开发维护、运行时生成和自动评估与行动、建模、设计放进同一分析中,并用边界、迁移与复用、证据三个问题贯穿全篇。
③ 方法机制
本文的方法论机制是一个“输出用途分类器+跨角色证据审计器”。它先按AI输出的直接用途定义六个角色:玩与行动输出动作、计划、消息;玩家与游戏建模输出状态、转移、玩家预测;设计输出关卡、规则、故事结构;构建与维护输出代码、场景、项目编辑;运行时生成与适应输出对话、任务、即时内容;测试与评估输出轨迹、判定、诊断。角色不等同于生命周期阶段,一个系统可跨多个角色;主角色按“主要经验声明所依赖的输出”分配,次角色通过交叉引用记录。例如MarioGPT因输出关卡内容而归为设计,Play2Code因实现和修复软件而归为构建与维护;在线运行但为规划或训练服务的预测仍属建模角色。这种归属规则的直觉是:提出一个有趣的机制、正确实现它、检查玩家如何遇到它,是三种不同的成就,不能因共享架构而混淆。
每个角色都回答三个问题:边界(游戏或工作流提供什么,AI负责什么)、迁移与复用(哪些能力迁移、哪些产物可复用、哪些仍绑定设置)、证据(输出在其使用点有何经验支持)。论文据此建立角色级输出—应用—声明的对应表,并把跨角色连接视为核心机制:轨迹可成为模拟器训练数据,学到的环境可为代理提供经验,设计规范可驱动可执行实现,游玩或测试反馈可指导修订。但作者同时指出,控制方案、规则、引擎接口、状态表示和玩家语境常仍是设置特定的;共享预训练骨干或在组件间传递产物,本身并不证明迁移。
在可见文本中,机制展开最充分的是“玩与行动”。论文把该角色的设计空间拆成四个层级。第一层区分专家代理、算法复用、参数共享和测试期适应。专家代理在单一游戏的观测、奖励和训练协议中学习专门策略;算法复用让同一学习配置或推理机制跨任务保留,但策略通常重新训练;参数共享保留训练权重并跨游戏测试;测试期适应在保留游戏中通过演示检索、规则识别或探索来调整。论文特别指出“保留单元”的含义不同:新地图通常保留操作与规则,新模式可能改变奖励或转移规则,保留整个游戏则是更大变化;因此算法复用和保留关卡性能都不能自动证明跨游戏策略迁移。
第二层是接口约束。语义动作API暴露库存、合法动作或导航例程,减少运动不确定性;原生键盘鼠标控制则要求代理自行学习和执行这些可供性。Cradle以截图加键盘鼠标统一跨应用观察与控制,Orak以结构化MCP接口做跨游戏评估;二者支持不同的控制声明。论文认为,只有说明系统获得了哪些中间服务,比较才有意义。
第三层是学习与控制层级。语言规划器可在文本层面推理规则和任务,但规划有效性与规划落地是两回事:文本状态适配器可提供部分接地,视觉代理需从观测中推断更多信息。技能库把行为打包为代码程序、学习策略或目标图像等不同表示;代码可显式检查和编辑前置条件,学习策略能泛化外观和运动变化,目标图像只说明“达到什么”,不构成对动态模型的验证。控制器训练方面,强化学习和自对弈直接优化游戏结果,但需要奖励设计和持续交互;行为克隆利用人类轨迹覆盖稀疏奖励难以到达的状态,但继承技能不均和动作标签不完整。VPT从小规模动作标注数据学习逆动力学模型,再为更大在线视频语料恢复控制;JARVIS-VLA先让视觉—语言模型适配Minecraft观测,再通过模仿学习键盘鼠标;OmniJARVIS用行为编码器把轨迹离散化为加入多模态语言模型词表的行为token,再由模仿学习解码器执行,使指令、观测、推理和行为token进入同一序列预测目标。规划器与控制器的接口还受实时性约束:深思熟虑的规划可能更新过慢,决策质量、控制频率和动作到效果的延迟共同决定行为,因此异步规划、缓存信念、可中断技能和安全默认值也是系统能力的一部分。
第四层是测试期适应与记忆。REGENT从保留游戏的演示中检索状态—动作示例,并与预训练策略结合,以不微调的方式做上下文适应,但演示和已知观察/动作空间仍是设置的一部分;检索相似性必须对应相同动作问题,否则外观相似的状态可能在规则或库存变化后需要不同动作。S3Gym分离宽松探索与保留种子/配置评估,并比较原始交互历史、摘要经验和监督微调,其收益取决于任务是否能把经验压缩为可复用策略。Twin构建未知动态的可执行假设,对重放转移进行检验并在数字孪生中搜索;交互因此同时服务于获得奖励和区分竞争机制解释。Code World Models则合成可执行的转移、合法性与终止函数,其评估协议提供自然语言规则和初始离线轨迹,模型在竞争前精炼、竞争期间固定,并用推理函数处理部分可观测游戏中的隐藏信息。三者重建的对象不同:REGENT提供相关演示,Twin通过交互识别未知机制,Code World Models把陈述规则转成可测试模拟器。
④ 实验与证据
本文作为综述,没有报告新的主实验,而是对已有系统的经验设置与声明进行比较和分类。可见材料中的实证证据可归为若干组:算法复用在多任务配置上的可复用性;程序化环境中训练分布记忆与保留关卡泛化之间的差距;共享策略在多游戏训练和保留游戏评估上的表现;统一观察控制接口与结构化接口对跨游戏评估的影响;测试期经验复用在保留种子或配置上的比较;记忆需求环境中基于注意力强化学习的稳定性;以及可执行世界模型在自然语言规则和离线轨迹上的合成与精炼。总体判断是,有限游戏游玩和部分学习环境的评估最标准化、最贴近执行,而持久世界状态、反复软件修订、经验证的玩家建模、持续运行时适应和代表性自动化测试仍不成熟。
-
DreamerV3 作为算法复用的学习时代示例,用同一训练配置覆盖超过150个任务,并为各任务分别学习模型和策略。
DreamerV3 provides a learning-era example, using one training configuration across more than 150 tasks while learning separate models and policies for those tasks ( Hafner et al., 2025a ) .
-
Procgen 用16个类游戏环境的过程化关卡变化衡量算法复用在泛化上的不足,揭示训练分布记忆与保留关卡泛化之间的差距。
Procgen measures what algorithmic reuse leaves open by varying levels procedurally across 16 game-like environments and exposing the gap between memorizing a training distribution and generalizing to held-out levels ( Cobbe et al., 2020 ) .
-
Gato 用一个多模态策略覆盖 Atari、机器人和语言;Multi-Game Decision Transformers 在41个 Atari 游戏上训练,并在5个保留游戏上做微调评估。
Gato demonstrated one multimodal policy spanning Atari, robotics, and language ( Reed et al., 2022 ) , while Multi-Game Decision Transformers trained on 41 Atari games and evaluated fine-tuning on five held-out games ( Lee et al., 2022 ) .
-
Cradle 以截图加键盘鼠标统一观察与控制;Orak 以结构化 MCP 接口在12个游戏上支持即插即用评估。
Cradle standardizes observation and control around screenshots plus keyboard and mouse across games and applications ( Tan et al., 2025 ) , whereas Orak uses a structured MCP interface to support plug-and-play evaluation across 12 games ( Park et al., 2026 ) .
-
S3Gym 在七个游戏中把宽松探索与保留种子或配置上的评估分开,并比较原始交互历史、摘要经验和监督微调。
S3Gym examines reuse across attempts within a game. It separates permissive exploration from evaluation on held-out seeds or configurations in seven games and compares raw interaction histories, summarized experience, and supervised fine-tuning ( Shi et al., 2026b ) .
-
Gated Transformer-XL 在包括 DMLab-30 的记忆需求环境上评估其对基于注意力强化学习的稳定作用。
Gated Transformer-XL stabilizes attention-based reinforcement learning and evaluates it on memory-demanding environments including DMLab-30 ( Parisotto et al., 2020 ) .
-
VPT 从较小的动作标注 Minecraft 数据集中学习逆动力学模型,并用于为更大的在线视频语料恢复控制。
Video PreTraining (VPT) learned an inverse-dynamics model from a smaller action-labeled Minecraft dataset and used it to recover controls for a much larger corpus of online video ( Baker et al., 2022 ) .
-
Code World Models 的评估协议提供自然语言规则与初始离线轨迹,并在竞争前精炼、竞争期间固定合成世界模型,同时用推理函数处理部分可观测游戏中的隐藏信息。
Code World Models also synthesize executable transition, legality, and termination functions, but the evaluated protocol supplies natural-language rules and initial offline trajectories. The synthesized world model is refined before competitive play and held fixed during it, and inference functions handle hidden information in the partially observed games ( Lehrach et al., 2026 ) .
-
Atari 模式转移实验显示策略在相对较小的变化下也可能失败,且表示复用与目标任务微调必须区分。
Atari mode-transfer experiments already showed that a policy can fail under such relatively small changes, and that representation reuse and target-task fine-tuning must be distinguished ( Farebrother et al., 2018 ) .
-
REGENT 在保留游戏的演示中检索状态-动作示例,并与预训练策略结合,实现无需微调的上下文适应;演示和已知观察/动作空间仍属于实验设置。
REGENT retrieves state–action examples from demonstrations of a held-out game and combines them with a pretrained policy, allowing in-context adaptation without fine-tuning. The demonstrations and known observation/action spaces remain part of the setup ( Sridhar et al., 2025 ) .
⑤ 审稿人视角
Novelty:新颖性中等偏高,但属于综述式的新颖。本文不发明新算法,而是把“构建与维护”“运行时生成与适应”“测试与评估”同“玩与行动”“建模”“设计”放进统一输出导向框架,并以“跨角色产物流动”作为分析单元。相比Gallotta等已有的LLM角色综述,本文更强调可执行开发、运行期变化和测试证据,并系统区分迁移与复用、规划有效性与落地、算法复用与策略迁移等概念。其“基础模型时代作为分析透镜而非纳入标准”的定位,也让它能连接符号式前身与近期学习式系统。但分类框架本身并非全新,六个角色有部分重叠,跨角色连接的结论更多是综合而非发现。
Soundness:作为综述,其可靠性主要来自分类规则的一致性和对证据声明的限定。论文明确说明共享预训练骨干或传递产物本身不证明迁移,要求在下游设置中重新验证;对保留单元、接口服务、规划与落地、检索相似性与动作问题的对应等做了细致区分,这使核心论点较为稳健。但可见文本没有给出系统检索策略、纳入排除标准或文献筛选流程,经验结论均转述自一手文献,未做独立复算或质量加权;跨角色比较也主要是定性综合,缺少可操作的证据等级。对于一篇以证据为关键问题的综述,这一方法论透明度的不足会削弱可复现性和批判性使用价值。
Significance:对研究社区有实际导航意义。六角色框架和系统索引能帮助不同子领域的研究者快速定位系统,跨角色连接(轨迹→世界模型→策略、设计规范→可执行实现、试玩反馈→修订)指出了复用机会,而“哪些能力仍绑定具体设置”的反复强调有助于抑制过度泛化。对审稿或立项而言,本文关于评价最成熟与最不成熟方向的判断,能引导后续基准建设。不过其影响主要是组织和诊断性的,而非提供新的可测量基准、新的迁移方法或因果结论;它更适合作为研究地图和课程材料,而非直接改变下游系统性能。
⑥ 局限与保留意见
论文自身承认的局限是:持久世界状态、反复软件修订、经验证的玩家建模、持续运行时适应和代表性自动化测试仍不够成熟;控制方案、规则、引擎接口、状态表示和玩家语境常常是设置特定的,下游能力声明必须在目标设置中验证。就综述方法而言,分类依赖“主要经验声明所依赖的输出”,当系统同时做规划、执行和测试时,主角色归属可能仍有争议;跨角色迁移判断多来自对一手文献的二次解读,缺少统一的证据分级。此外,所提供文本对机制的具体展开集中在“玩与行动”一个角色,后续五个角色的深度比较、以及第9至11节的跨角色证据综合,只能依据导言和目录式声明作概览,无法做同等深度的审稿审查。
⑦ 值得跟进
后续工作可朝四个方向展开。第一,为综述建立可复现的系统检索与编码协议,对每个角色的输出、接口、训练数据和评价指标做结构化标注,并定义迁移与复用的证据等级,避免仅凭共享骨干或产物传递推断泛化。第二,构建统一的跨角色评估台,显式记录代理获得的中间服务(语义API、文本状态、演示、可执行技能),在相同游戏变化维度下比较原生控制与结构化接口、上下文适应与微调、算法复用与策略迁移。第三,用受控实验验证论文提出的跨角色回路:把轨迹训练世界模型、在世界模型中训练策略、设计规范驱动实现、试玩反馈驱动修订串成闭环,测量误差在角色间如何累积。第四,为论文指出的弱证据区建立基准,包括持久世界状态、反复软件修订、玩家建模的真实预测、运行时适应对玩家体验的影响,以及代表性自动化测试;其中玩家面向的结果应引入用户研究和长期交互数据,而非仅用生成一致性或代理分数代替。
stepfun-aiHF ↑91X/HN x1模型架构与训练
StepAudio 3 Realtime Technical Report
发表时间:2026-09-12
Bin Lin, Bo Zhao, Boyang Zhang, Boyong Wu, Chao Yan, Chen Geng, Chen Wu, Cheng Yi, Chengli Feng, Chenglin Zhu, Chengting Feng, Chengyuan Yao, Daijiao Liu, DanNi Wan, Daxin Jiang, Dongjian Li, Dongqing Pang, Fei Tian, Feng Tian, Future Li, Gang Yu, Guanglong Yang, Haoyang Zhang, Hongyuan Wang, Jia Peng, Jiahao Song, Jialong Xue, Jiamin Fan, Jiangjie Zhen, Jianzheng Gao, Jincheng Wen, Jinghua Liang, Jinglan Gong, Jun Chen, Li Xie, Liang Zhao, Lifang Zhang, Lingli Ji, Lun Cai, Min Xu, Peilin Li, Peng Yang, Pengfei Tan, Qingjian Lin, Qinxin Du, Ruijie Xiong, Runze Li, Shenghua Hu, Shengqian Qin, Shi Qiu, Siqi Tu, Siyi Zhou, Tianjiao Deng, Wanying Lu, Weiming Niu, Wen Sun, WenWen Qu, Xiangyu Zhang, Xianwei Zhang, Xiaosu Su, Xing Chen, Xinyu Liu, Xuerui Yang, Yan Wu, Yang Li, Yang Yang, Yechang Huang, Yibo Zhu, Yifan Zhang, Yinuo Yan, Youjun Chen, Yu Fu, Yu Luo, Yu Zhou, Yujie Chen, Yumang Wang, Yunzhou Ju, Yuxiang Yang, Yuxin Li, Yuxin Zhang, Zekai Liu, Zengwei Yao, Zhaoxin Yuan, Zhenwei Mou, Zhiquan Zhang, Zhiyue Wu, Zichao Li, Zichao Zhou, Ziqi Ren, Zixuan Wang
arXiv · HF 讨论 · alphaXiv
① 一句话定位
这是一份系统级技术报告,而非提出单一算法突破的论文。StepAudio 3 Realtime 被定位为「实时语音交互的音频-语言基础模型」,围绕连续的 listen-converse-think-act 闭环组织:Deep Perception 负责声学感知,Seamless Duplex 负责会话地板管理,Think-While-Speaking 负责边说边想,Voice Agent 负责异步工具执行。其核心卖点是把「深度推理」与「低延迟语音」这对通常冲突的目标解耦:私有推理与口语生成并行进行。报告以多基准自评(ASR、音频理解、全双工交互、对话推理、工具任务、通用文本)展示该模型在会话流畅性与音频理解上的领先,并坦承在多轮约束遵循与零售工具任务上仍有差距。相较基础研究,本文更接近可复现性有限的工业产品技术披露。
② 背景与动机
实时口语交互的困难在于系统既要跟踪用户、又要管理自己的回应:句内停顿可能被误判为话轮结束,模型说话时用户的声音可能是确认性 backchannel 也可能是实质打断;复杂请求要求谨慎推理,而推理又加剧响应延迟;工具调用进一步拉长交互链条,外部任务可能比发起它的口语回合更持久。此前工作把声学表征与大语言模型结合用于 ASR,随后音频-语言模型扩展到声学理解与直接语音生成,流式与全双工系统允许听与说重叠。StepAudio 3 Realtime 建立在 Step-Audio 系列的共享音频-语言基础上,并明确借鉴了 Mind-Paced Speaking 的双过程设计(Formulation Brain 与 Articulation Brain)。其语言骨干基于 Step 3.7 Flash,音频前端复用 Qwen3-Omni 的 AuT 编码器。报告沿用的外部基准包括 LibriSpeech、AISHELL-1、WenetSpeech、ContextASR-Bench、Big Bench Audio、MMSU、MMAU、MMAR、WildSpeech-Bench、AudioMultiChallenge、Step-Caption、MTalk-Bench、HMMT、GPQA Diamond、MultiChallenge,以及 Artificial Analysis 的 Full Duplex Bench 与 τ-Voice。其中 StepAudioChat 为封闭的内部基准,专门评估「文本层面」的对话智能,以隔离韵律、时序与打断处理的影响。
③ 方法机制
【系统架构与双流表示】模型采用 MoE 架构,约 196B 总参数、每 token 11B 激活参数。语言骨干基于 Step 3.7 Flash;音频前端用 Qwen3-Omni 的 AuT 编码器,再经 adapter 映射到 LLM 表示空间。全双工输入路径同时纳入「用户音频流」与「模型自身音频流」:音频块经编码器与 adapter 进入 LLM decoder,文本 token 走独立输入路径,使 decoder 联合条件于声学信息与文本上下文;语音生成器产生流式模型音频后又回流到模型音频流,构成闭环。共享会话上下文聚合声学/语言证据、对话历史、当前说话回合、推理进度与工具执行状态,用于动态决定继续听、继续说、继续推理或触发外部动作。
【预训练与中训】数据策展是自动化的大规模音频管线:先以声音事件检测(SED)与语音活动检测(VAD)过滤原始音频,合并并重切分为语义完整、时长合适的样本;为样本标注质量、合成语音似然、说话人数等元数据,并用多个识别系统做转录与语言识别、交叉校验后按声学与语义质量分级,以支持质量感知采样。预训练分三阶段:modality alignment 建立声学表征与 LM 的接口;multimodal mixed training 大规模发展联合音频-文本建模;cooldown 阶段加大高质量数据权重精修基础。全程固定 32K 序列长度,共处理 1.2T 训练 token,并提高纯文本占比以保底语言能力。Midtraining 把上下文扩展到 128K,并显著提高音频理解与 agent 交互数据的比例。
【Deep Perception:ASR 与音频理解】ASR Max 与 Realtime 共享预训练和中训,仅在 SFT 分叉。ASR 分支打包到 32K,采用 SpecAugment 式时频掩码,冻结音频编码器、只更新 adapter 与 decoder 以输出规范化转录;上下文感知识别可选地提供对话历史、前置模型回复、场景描述或领域术语作为证据,目标转录仍锚定输入波形,防止无关复制。长短音频数据通过多系统转录、ROVER 对齐融合、一致性过滤重组成长会话,再由 LLM 恢复标点。长尾术语增强:LLM 扩展知识分类以找同音词、罕见字、缩写与产品 ID 密集的类别,枚举去重后嵌入自然载体句,经 TTS 后仅保留发音与目标文本一致的样本,可选加入实体提示。音频理解数据的构建依赖层级 taxonomy(词汇、副语言、声学事件、说话人/时序结构、音乐、音频 grounding 推理);先对录音做描述并映射能力,再生成 clip 级问题,由多模型独立标注同一 audio-question 对,通过一致性与质量检查合并。质量控制分两层:确定性检查剔除空/截断/畸形/重复输出;纯文本 LLM judge 评质量与 case-value(综合查询、响应、注释中可用信息量与训练价值),grounding 可靠性则由多模型响应一致性近似估计——高分、高 case-value、强一致性者进入 SFT,分歧样本回流重标注。
【Seamless Duplex:会话地板管理】系统把音频切成 320ms 块,每块后接一个交互状态或文本 token,形成时间交错表示;模型据此增量更新状态,在声学证据与语义上下文中决定继续听、开始说、继续说或让出地板。关键是以双流加历史消解歧义:例如「right」既可能是确认 backchannel,也可能是纠错的开头;系统用声学时序加语义完整性区分句内停顿与话轮结束,用正在播出的模型语音解释重叠用户话语,用历史判断语音是否针对助手还是背景对话。训练上,midtrain 引入流式 ASR、VAD 与流式完整性预测的联合监督,混合超过 10,000 小时合成全双工交互数据,并保留文本数据维持语言与推理能力;post-training 再用高质量交互数据细化轮换、backchannel、打断与背景语音拒绝。
【Think-While-Speaking:边说边想】这是机制重心。它基于 Mind-Paced Speaking 的双过程设计,对同一音频模型做两次并发调用:Formulation Brain 生成私有推理迹;Articulation Brain 依据「迄今已生成的推理 + 已说出的回应」产生短响应段。Playback-aware 调度按流式输出音频的播放进度释放响应段,同时 formulation 继续并行推进;formulation 结束后,剩余响应用完整推理状态,最后的 continuation 可补充或纠正始于不完整推理的回答。默认 Speak-First(不等推理前缀即开口),Think-First 则先等一个短推理前缀。Adaptive Thinking 在 assistant-turn 级构造监督:收集对话上下文、目标答案、原始推理迹与任务类型特征;用一个未经自适应训练的固定 probe 模型在空 think 块(no-think)条件下重新生成答案;盲 judge 对 original 与 no-think 轨迹打分并标注「推理是否改变了答案质量」,以配对判断为主证据,辅以重复判断一致性、推理迹与答案的连贯性及任务类型先验。每个域内被标为 reasoning-unnecessary 的回合成为替换候选,由 per-domain no-think 预算决定取多少,并按细粒度主题分层保留、对每项能力设置 drop 上限,避免推理密集型能力被过度剥除。MTP 加速采用三预测头(MTP3)在每步草拟至多 3 个未来 token;严格验证遵循标准投机解码规则,Medusa 式 typical acceptance 用熵自适应置信阈值接受严格验证会拒绝但分布上合理的草稿 token,配 1.05 重复惩罚防循环;私有推理用 typical acceptance,口说响应保留严格验证。
【模型合并与 Voice Agent】多个教师从共同 base 出发、以不同数据组成训练,保持参数对齐后直接加权平均:θ_merge = Σ_i α_i θ_i(α_i≥0,Σα_i=1),报告模型用 4 个教师、3:1:1:1 权重,系数在对话/音频理解/通用文本的 held-out 评估上选择。Voice Agent 按请求需求在「直接回应、轻量工具(天气/搜索)、后端异步执行」间路由;语法完整不等于请求完整,故提交外部动作前训练模型做澄清或上下文检索并在必要时确认。后端任务异步执行期间,用户可问进度、补需求或换话题,模型需把任务相关输入关联到进行中任务、区分无关对话;训练混合定向 voice-agent 对话与真实多步 agent 轨迹,负例抑制不必要的工具调用与未证实的成功声明。
④ 实验与证据
实验覆盖六个能力域:ASR、音频理解、对话与推理、全双工交互、agent 任务完成与通用文本,兼用公开基准与内部基准(StepAudioChat、Step-Caption),并对 ASR 基线在同一测试音频与评分流程下重跑。总体结论是:该模型在音频理解与全双工会话控制上表现突出,推理模式下对话推理达到专用推理模型的水平,交互模式(Think-While-Speaking)能在保持实时说话的同时维持接近的对话与推理分数,工具任务与通用文本整体有竞争力。报告还包含两组有意义的内部对照:「less is more」SFT 数据质量消融,以及 Adaptive Thinking/MTP 的消融。作者同时诚实指出,多轮约束遵循与零售工具任务仍是短板,Adaptive Thinking 对推理资源的分配并不总与收益匹配。所有具体数字均以下方 claim+quote 对呈现。
-
StepAudio 3 ASR Max 在 LibriSpeech、AISHELL-1、WenetSpeech 三个标准 ASR 基准族上总体领先,仅在 WenetSpeech 两子集上略低于 HY3.0 ASR Preview。
StepAudio 3 ASR Max leads on all three standard benchmark families: it is best on both LibriSpeech subsets and AISHELL-1, and it remains ahead of Doubao 2.0 ASR and Seed 2.0 Lite on both WenetSpeech subsets while trailing HY3.0 ASR Preview only by a small margin.
-
在长文、多域、实体密集的 ContextASR-Bench 上,StepAudio 3 ASR Max 英、中宏平均错误率均低于 HY3.0 ASR Preview。
Its macro-average error rate is 5.67% on the English subsets and 1.23% on the Mandarin subsets, compared with 6.60% and 1.69% for HY3.0 ASR Preview.
-
音频理解方面,StepAudio 3 Realtime 在八个基准中领先四个,MMSU 与 MMAR 相对最强基线的优势分别为 7.0 与 4.8 分。
StepAudio 3 Realtime leads the reported baselines on four of the eight benchmarks, with its largest margins on MMSU (90.6 versus 83.6) and MMAR (86.5 versus 81.7), gains of 7.0 and 4.8 points.
-
「less is more」消融表明,约 100K 高质量 SFT 样本优于约两百万随机样本,MMSU、MMAR、WildSpeech 与 MTalk-Bench 宏平均均有提升。
The quality-controlled set improves MMSU from 78.78 to 89.70 and MMAR from 74.70 to 84.50. WildSpeech rises from 74.20 to 77.11, while the macro average across the ambient, paralinguistic, and semantic subsets of MTalk-Bench increases from 88.83 to 90.84.
-
在 Artificial Analysis 全双工评测中,StepAudio 3 Realtime 总体排名第一,并在轮换与打断处理上取得最高分。
StepAudio 3 Realtime achieves 100.0 on turn taking and 99.0 on user interruption handling, alongside scores of 98.9 on pause handling and 98.0 on backchannel handling.
-
StepAudioChat 推理模式下,StepAudio 3 宏平均高于 Doubao 2.0 Lite 与 DeepSeek-V4-Flash,但低于 Kimi K3。
StepAudio 3 achieves a macro average of 73.0, above Doubao 2.0 Lite at 70.5 and DeepSeek-V4-Flash at 71.4, but below Kimi K3 at 77.1.
-
加入 Think-While-Speaking 的实时交互模式在 StepAudioChat 上取得与专用推理模型相近的宏平均。
In realtime interaction, StepAudio 3 Realtime reaches a 70.41 macro average on StepAudioChat, comparable to Doubao 2.0 Lite at 70.5 and DeepSeek-V4-Flash at 71.4.
-
Adaptive Thinking 在八个能力类别上的显式推理调用率介于约一半到八成之间。
Adaptive Thinking invokes explicit reasoning at rates from 51.5% to 82.0% across the eight categories.
-
与直接 SFT 相比,Adaptive Thinking 提升对话语用但降低推理维度得分,说明推理预算分配未必与收益匹配。
Relative to Direct SFT, Adaptive Thinking improves Dialogue Pragmatics from 63.59 to 65.87, but reduces Reasoning from 71.89 to 66.80.
-
在 typical acceptance 下,MTP5 每步接受的草稿 token 多于 MTP3。
Under typical acceptance, MTP5 accepts more drafts per step than MTP3 (2.153 versus 1.801).
-
加权合并四个教师后,合并模型在音频理解上追平最强教师宏平均,在通用文本上取得最高宏平均,对话上低于最强对话教师。
On audio understanding, the merge reaches a macro average of 81.3, tying the best teacher macro average while leading on MMAU and WildSpeech. On general text, it achieves the highest macro average of 76.5, with the best HMMT 2026 Feb and GPQA Diamond scores and a tie on MultiChallenge. On dialogue, it has a macro average of 73.0, exceeding Teachers 2, 3, and 4, while remaining below the strongest dialogue teacher at 74.2.
-
在 τ-Voice 工具任务上,StepAudio 3 Realtime 的宏平均任务成功率接近 Grok、高于 Qwen 与 GPT,电信域最高、零售域明显落后 Grok。
StepAudio 3 Realtime achieves the highest telecom score among the evaluated models at 70.2%, exceeding Grok by 6.5 percentage points. Its airline score of 60.0% is within 2.0 percentage points of the highest reported score of 62.0%. Retail performance leaves room for further improvement, with a score of 37.7% compared with 49.7% for Grok.
⑤ 审稿人视角
Novelty:概念层面的新意中等偏低:全双工、双脑边说边想(Mind-Paced Speaking)、投机/多 token 解码、参数平均合并均有先例,本文主要贡献是系统级整合与训练数据工程。较有增量价值的点包括:(1) Adaptive Thinking 的「盲判配对 + 域内 no-think 预算 + 分能力限幅」的推理门控监督构造,以及它暴露的推理分配错位问题;(2) 音频理解数据以多模型一致性近似 grounding 可靠性、用 case-value 做样本筛选;(3) ASR 长尾同音/罕见术语的 TTS 合成增强与发音一致性校验;(4) 320ms 音频块 + 状态 token 的时间交错双流表示与全双工 floor 控制。但这些多为工程技巧,缺乏新的理论机制或可泛化的方法贡献。
Soundness:作为自报技术报告,严谨性总体中等。优点:ASR 基线在统一音频与评分流程下重跑;多个消融(数据质量、Adaptive Thinking、MTP、模型合并)有对照;作者对 Adaptive Thinking 分配错位、MTP 墙钟比非受控比较、零售短板等主动披露。主要问题:StepAudioChat、Step-Caption 为内部/封闭基准,外部无法复现;Adaptive Thinking 与 Direct SFT 的对比混入了训练差异,作者自己也承认;MTP 的墙钟加速不是受控深度比较;全文作为「实时」系统却未报告端到端延迟、TTFT、打断响应延迟等关键实时指标;模型不开放权重与代码,第三方难以验证;部分表述(如 70.4 与 70.41 并存)说明精度规范不严格。因此应把各数字视为产品自评而非独立可复现结论。
Significance:若关键声明(全双工 98.9、边说边想仍维持接近专用推理模型的对话能力、电信域工具成功率最高)可被独立验证,则该工作对实时语音助手/语音 Agent 的落地有较高参考价值:它把「延迟—深度推理」的矛盾用边说边想与自适应推理门控显式化,并给出了完整的感知/地板/推理/工具协同方案。报告对 Adaptive Thinking 失败案例的分析(推理获益最大的 Reasoning 反而 think rate 偏低)为后续推理预算分配研究提供了有价值的负例证据。但因其封闭基准、不可复现性与无公开权重,当前的学术显著性受限,更多是工业方向上的能力声明。
⑥ 局限与保留意见
报告明确或隐含的局限包括:(1) 多轮约束遵循是明显短板:实时交互模式下 StepAudioChat 的 Instruction Following 从推理模式 66.3 大幅降至 54.1,AudioMultiChallenge 比 Gemini 3.1 Pro 低约 17.7 分。(2) 工具任务不均衡:τ-Voice 零售域 37.7% 远低于 Grok 的 49.7%。(3) Adaptive Thinking 的分配策略与收益错位:Reasoning 从完整思考中获益最大,think rate 却只有 59.5%;Faithfulness 获益小却给了 79.2% 的 think rate,说明当前门控是统计性预算而非逐 turn 的最优决策。(4) MTP 下 Instruction Following 相对基线下降,且「保留严格验证于口说输出」并不能消除不完整私有推理带来的错误。(5) 实时性证据不足:只报告 MTP 解码加速,没有端到端延迟、TTFT、打断响应时间等指标,难以判断「realtime」的系统性成本。(6) 内部/封闭基准(StepAudioChat、Step-Caption)与自评数字缺乏独立复现,ASR 之外多数对比依赖厂商版本标签,模型版本与 effort 标签对齐存疑。(7) 模型合并结论建立在 4 个教师、单组权重上,未见权重敏感性分析。(8) 音频编码器冻结、adapter 与 decoder 更新等架构选择缺少消融。(9) 没有人工评估语音自然度、韵律与情感表达质量,AA 类别分数不能替代主观听感。(10) 安全、语音深度伪造、多语言/代码切换等维度仅以内部 Safety & Reliability 分数覆盖,缺乏外部验证。
⑦ 值得跟进
后续工作可围绕四类方向。第一,推理预算的最优分配:当前 Adaptive Thinking 按域预算与主题分层,但未把「预期收益」纳入每 turn 决策;可训练一个价值头估计 no-think 与 think 的得分差,或用 RL 直接优化「质量—计算」权衡,重点修复 Reasoning 高收益却低 think rate 的错位。第二,多轮约束遵循与工具任务:针对 Instruction Following 在实时模式的大幅回退和零售域落后,构造包含嵌套约束、跨轮一致性与执行期修订的对话数据;把工具结果与对话状态更紧地耦合,显式建模「待办约束集合」。第三,真正的实时性评测:补充 TTFT、端到端延迟、打断响应延迟、思考时间与自然停顿的交互式指标,以及 MTP 深度、自适应门控与墙钟延迟的联合受控实验,而不只是单点速度比。第四,可复现性与外部验证:公开 StepAudioChat 等封闭基准或提供可执行评测脚本,开放小规模检查点;对模型合并权重、音频编码器冻结、adapter 设计做消融;引入第三方人工听感评测与安全审计(语音伪造、prompt 注入、越权工具调用)。此外,「边说边想」中不完整推理导致的前期话语修正对用户体验的影响值得用真实用户研究量化。
HF ↑17GitHub ★15X/HN x1agent
ScienceBuddy: Recursive-in-Recursive Self-Improvement for Interactive Scientific Agents
发表时间:2026-09-15
Shuhan Xue, Jianyuan Zhong, Ziyuan Nan, Wenbin Li, Zhaochen Yu, Jinchao Ding, Qiang Gao, Pengyu Zhan, Yuntong Zhang, Tian Cheng, Zhenfei Yin, Yingcheng Wu, Ling Yang
arXiv · HF 讨论 · alphaXiv
① 一句话定位
本文把 ScienceBuddy 定位为一个“互动式科研工作台”兼研究产品,核心不是提出某个单一算法,而是提出“递归套递归的自改进”范式:内层递归在任务模型固定的情况下演化可编辑 harness(指令、技能、上下文管理流程),外层递归在选定 harness 下用 GRPO 强化学习更新任务模型。文章明确把自己放在三条相关线索的交汇处:一是持久经验与 harness 优化(Reflexion、GEPA、ACE、Meta-Harness、PILOT),二是交互驱动学习与 rubric 奖励 RL(OpenClaw-RL、RLAnything、GRPO 类工作),三是模型与 harness 联合适配(SIA、HELIX)以及科学领域的 AgentBuild。其差异化主张是:不是只做反射或只做 RL,而是让“流程修改”和“策略学习”互为条件、交替进行,并把研究者协作记录转化为可执行任务与评估 rubric。论文以“研究产品发布”而非基准刷分为主要贡献形态,实验部分用案例研究而非大规模对照来支撑框架。
② 背景与动机
论文的动机来自科研工作的迭代本质:研究者会澄清假设、质疑结论、要求补做检查,这些对话揭示了工作应如何开展与如何评估,但单次对话内修正答案并不等于跨任务的能力提升。因此中心问题是:科学智能体如何把与研究者的协作转化为工作流程与底层能力的持续改进。相关工作分为几类:Reflexion、GEPA、ACE 等以记忆或提示搜索保留经验;Meta-Harness、PILOT 在运行期学习可复用流程;OpenClaw-RL 从用户回复中提取评价与指令信号;RLAnything 联合适配环境、策略与奖励模型;SIA 同时更新 harness 与模型权重;HELIX 把 harness 演化与训练数据构造连接起来。在科学场景中,AgentBuild 用科学家撰写的 rubric、课程与知识库构造智能体。ScienceBuddy 的切入点是让协作本身同时提供任务定义与评价标准:请求、澄清、执行记录与产物被整合为自包含 Harbor 任务,并配套任务专属 rubric;历史答案与研究者的认可不自动视为科学真值。工作台提供 224 个工具、22 个功能模块,支持 Python/R/Bash 执行、数据库查询、文献检索与本地数据湖,研究者可上传文档、表格、序列和图像,并通过 Chat、Trajectory、Compute、Results 等视图检查执行轨迹与产物。
③ 方法机制
一、工作区与 harness 分层。ScienceBuddy 把可编辑 harness 与基础设施分离:科学工具、执行环境、持久工作区、交互管理与存储服务构成固定底座;harness 的可编辑部分是 instructions、skills 和选定的 context-management 流程。这样“流程改动”可以在一致的执行条件下被评估,工具、基础设施、rubric 与评估器保持冻结。
二、交互的形式化。设 x 为请求及输入,π_θ 为任务模型,H 为 harness,历史 h_t=(x,a_0,o_1,…,a_{t-1},o_t)。动作 a_t 是可执行代码、工具调用或面向研究者的回复;观测 o_{t+1}=(e_{t+1},u_{t+1}) 记录环境输出/执行状态 e 与可选研究者回复 u(无回复时 u=⊥)。harness 从历史、记忆、技能与工具描述构造模型上下文 C_H(h_t)。若 harness 安排了确定性动作 d_H(h_t),则联合策略取点质量 δ,否则采样 π_θ(a|C_H(h_t)),由此定义 μ_{θ,H} 和轨迹 τ。关键直觉是:harness 不只是提示词,还能注入确定性的“检查输入”等步骤,因此联合策略是模型与流程的耦合产物。
三、协作到任务与 rubric。协作轨迹被整理为“自包含任务 + 评估 rubric”两个互补产物。任务指令保留最终需求与输入,但不携带历史答案;rubric 由完整协作轨迹构造:C(x)=ConstructRubric(τ_x^collab; I_x, A_x),覆盖任务范围、方法学要求、证据与预期产物。冲突需求在打分前解决;历史答案与研究者认可不自动作为科学真值。最终打包为 Harbor 任务 P_x=(I_x, A_x, E_x, C(x)),既支持通过拒绝采样保留 rubric 合格的 SFT 轨迹,也支持 RL 用 rubric 分数作为奖励;rubric 在每个后训练阶段内保持固定。
四、内层递归:固定模型的 harness 进化。在外层第 k 轮的内部第 j 步,θ_k 保持不变,用一个独立且固定的辅助模型(GPT-6 Astra)做轨迹诊断与 harness 编辑:它审阅近期轨迹与 rubric 评价,指出未满足的标准,引用相关动作和观测,提出一个有界更新 H̃_{k,j+1}=U(H_{k,j},E_{k,j};θ_k)。每次提案只增、删或改一个 scoped skill,或编辑一条指令,或改一处暴露的上下文设置,其余组件不动;schema 检查强制编辑范围与规模预算。工具、执行基础设施、rubric 和评估器冻结,任务模型与辅助模型都不做梯度更新。接受规则是:候选既满足 Valid 约束,又在相同开发任务、种子和执行预算上使平均归一化 rubric 分数有正增益(Δ_{k,j}>0),否则保留父版本;平局也保留父版本。评估包含此前成功的任务以防回归;被拒编辑与分数变化留在历史中。开发任务与策略训练任务及最终留出测试集分离,测试集绝不参与编辑或选择。这一机制的直觉是“用流程级搜索吸收可复用的经验”,把一次性失败转化为可评估的流程改动,而不是把任务特例答案写进 harness。
五、外层递归:演化 harness 下的持续 RL。先做环境难度校准:用当前模型与选定 harness 做 pilot 执行,对研究者派生任务做增强——改变科学输入与分析条件,或延长计算步骤之间的依赖——使已经变常规的任务重新具有训练价值,然后提供新的 on-policy rollout。奖励采用任务自适应 rubric:权重 w_c(x) 在 rollout 评估前分配,满足度 v_c(x,τ)∈[0,1] 由可执行检查或固定 judge 给出,轨迹奖励为 R_x(τ)=Σ w_c v_c / Σ w_c(权重和大于 0)。rubric 跨任务可变,但在优化与配对 harness 评估期间固定。外层目标最大化期望轨迹奖励 J_k(θ)=E_{x~q_k}E_{τ~π_{θ,H*}}[R_x(τ)],其中 q_k 是第 k 轮验证过的种子环境与增强变体的训练分布。这一阶段的直觉是:harness 改变后,任务难度和轨迹分布都变了,因此模型学习要基于新 harness 下的新鲜 on-policy 样本,而不是历史交互中的旧轨迹。
六、GRPO 细节。每个 rollout 批次由当前策略的冻结副本 π_old 为每个任务生成 G 条轨迹;若批次被多轮优化器复用,概率比仍相对其原始收集策略计算。组内优势为 Â_i=(r_i-mean_j r_j)/(std_j r_j+δ),δ>0,同一轨迹的所有生成 token 共享该优势;奖励完全相同的组其策略梯度优势为零。研究者消息、工具输出、任务指令与确定性 harness 动作从被优化 token 中排除。对生成 token b_{i,ℓ} 及其上下文 c_{i,ℓ},比值 ρ_{i,ℓ}=π_θ/π_old;目标为 token 级平均的 min(ρÂ, clip(ρ,1−ε,1+ε)Â)−β d̂,其中 d̂=z−log z−1,z=π_ref/π_θ,π_ref 是外层 RL 阶段开始时任务模型的冻结副本。d̂ 是采样 KL 代理,明确不声称是更新后策略下的精确 KL 散度。轨迹奖励在 rollout 完成后由输出与任务相关执行证据计算,不把后续评估信息回填到生成早期 token 的上下文中。文中特别区分了反馈解释器的诊断三元分数 q_t∈{−1,0,+1} 与策略优化用的轨迹奖励 R_x(τ):前者用于 harness 诊断,后者用于 GRPO 优势。
七、训练与数据细节。任务集合共 895 个任务:96 LitQA2、511 DbQA、108 ProtocolQA、180 GWAS,共 16 个 subtopic。独立 harness 案例用固定 Qwen3.5-4B 任务模型,Qwen3.8-27B 助手做有界用户模拟与反馈解释,GPT-6 Astra 提出 harness 编辑;每 12 个任务对话后做一次更新,288 个适配对话产生 24 次更新。模拟反馈只依据正确性/提交状态从允许回复集中选择,回复集排除正确选项、标识符与数值答案,避免把答案泄露给学习流程。反馈解释器只看到回复与公开上下文,看不到私有答案与判定,把回复分类为接受、纠正、新信息、新需求或歧义,并给诊断分。信息边界表明确:任务策略、用户模拟器、反馈 judge、harness 反射器、科学验证器、策略学习器各自可见的内容不同,私有参考答案不进入策略与提案输入。耦合循环实验从 Qwen3.5-4B 与初始 harness 出发,运行三轮 k=0,1,2,每轮 harness 细化做 10 步搜索并按验证精度选择 H*,随后在选定 harness 下做 20 次 RL 更新;继承 harness 会在更新后的模型下重新评估后再部署。
八、调度与协调。在线服务用 (θ_k,H_k) 服务研究者,在固定收集区间内积累交互;背景更新异步进行:先固定 θ_k 做 harness 改进,再在选定 harness 下做模型 RL。更新后的模型-harness 对重新评估后部署,研究者与新系统的交互又成为下一轮证据。所有 harness 版本与任务环境被保留以供后续演化,体现“流程经验与策略经验跨轮复用”的递归结构。
④ 实验与证据
实验部分由四组案例研究组成,分别回答四个研究问题:研究者交互如何暴露任务目标与评估标准;交替 harness 细化与模型学习能否跨轮持续改进;固定模型权重时 harness 适配能否提升科学任务表现;固定 harness 时强化学习能否扩展可解问题范围。耦合实验从同一初始模型与初始 harness 出发运行多轮协同演化,报告了每轮内 harness 验证精度与 RL 训练奖励的变化,以及留出集上单次尝试测试精度和错误→正确/正确→错误的迁移比例。独立 harness 案例在适配集上做程序修订与选择,再在独立验证集上与初始 harness 比较首答正确率。独立模型学习案例保持初始 harness 不变,比较 RL 前后在相同尝试预算下的问题覆盖率。数据覆盖文献阅读、数据库判断、协议排查、基因与变异评估四类任务族。总体结论是:流程修订与模型学习各自都能带来可观察的改进,且耦合循环能把改进跨轮传递。
-
三轮协同演化中,harness 细化在每一轮内都提高了验证精度。
Harness refinement increases validation accuracy from 38.9% to 44.4%, 34.4% to 46.7%, and 61.1% to 70.0% in the first, second, and third cycles, respectively.
-
三轮协同演化中,RL 阶段的平均训练奖励在每轮前后半段之间上升。
Over the same cycles, mean training reward rises from 33.3% to 38.8%, 44.1% to 60.5%, and 57.8% to 69.8% between the first and second halves of each RL phase.
-
留出集上总体单次尝试测试精度提升,且更多问题由错误变为正确、由正确变错误的比例较小。
Overall single-attempt test accuracy increases from 42.2% to 73.3%. Among all test problems, 33.3% transition from incorrect to correct, whereas 2.2% transition from correct to incorrect.
-
固定模型权重时,harness 适配在独立验证集上带来显著的首答正确率提升。
Validation accuracy increases from 31.1% to 51.1%, a gain of 20 percentage points with model weights fixed.
-
harness 适配过程中,最佳观测批次首答准确率达到特定水平。
Across 24 adaptation batches, the best observed batch accuracy reaches 75.0%.
-
固定 harness 下,RL 后问题覆盖率(四尝试内至少一次成功)提升。
Coverage increases from 48.3% before RL to 67.8% afterward ( Figure 10 b), a gain of 19.5 percentage points.
-
任务集合由四类任务族构成并给出各家族数量。
The 895-task collection contains 96 LitQA2, 511 DbQA, 108 ProtocolQA, and 180 GWAS tasks.
-
harness 进化实验按固定批次节奏执行,共进行多次更新。
After each batch of 12 task conversations, user feedback and execution evidence guide an update, giving 24 updates over 288 adaptation conversations.
⑤ 审稿人视角
Novelty:新颖性中等偏上。单个组件都不算新:反射/提示搜索、harness 优化、rubric 奖励、GRPO、环境增强都有成熟先例,SIA 与 HELIX 也已经在做模型与 harness 的联合适配。本文的真正新意在于“内层固定模型改流程、外层固定流程训模型、再循环”的嵌套依赖结构,以及把“研究者协作轨迹 → 可执行任务 + 任务专属 rubric”作为衔接两层递归的统一信号来源。将 harness 演化与 RL 训练数据构造绑定、并作为研究产品发布,具有一定集成创新价值。但相较 HELIX 等前作,概念上的增量主要是调度方式与信息边界设计,理论贡献有限。
Soundness:方法学描述相对扎实:公式、接受规则、信息边界、训练/评估数据隔离都有较清晰交代,且区分了诊断分数与策略奖励,避免了常见混淆。但实证严谨性偏弱:以案例研究为主,样本量小,缺少与 Reflexion、Meta-Harness、HELIX、SIA 等基线的直接对比;耦合循环中 harness 按验证精度选择,存在对验证分布过拟合的风险;固定 H0 的模型学习案例无法证明“耦合”本身优于单独 RL;文中自认未隔离单个编辑或反馈来源的贡献;未做多次种子或统计显著性检验;关键辅助模型 GPT-6 Astra 为外部固定模型,可复现性受限。因此机制可信度尚可,但结论强度不足以支撑强因果断言。
Significance:作为“科研工作台 + 持续自改进框架”的发布,对社区有一定方向性意义:它把流程经验、策略学习与研究者协作放在同一产品闭环里,并给出可执行的任务打包与 rubric 构造工作流,可能启发科学智能体的长期部署研究。但目前的证据只是初步案例,尚未证明其在真实、大规模、跨领域科研中能稳定优于现有方法,也未建立“发现智能”所需的长期闭环与安全监控。因此更应视为一个有价值的原型与框架提案,而非已被验证的突破性成果;其显著性取决于后续能否给出对照实验、更长周期部署与真实研究者反馈的规模化验证。
⑥ 局限与保留意见
本文存在多方面局限。第一,实证规模小且缺乏基线:仅用 895 个生物医学任务和案例研究,未与 Reflexion、GEPA、Meta-Harness、HELIX、SIA、OpenClaw-RL 等直接比较,难以判断改进来自框架还是基础模型/任务难度。第二,耦合循环的 harness 选择以验证精度为依据,验证集参与了选择,可能高估泛化;独立 harness 案例与耦合案例的选择协议又不一致,削弱了两者结论的可比性。第三,作者自认“Effects of individual skills and feedback sources are not separately isolated”,即无法归因到具体流程编辑或反馈类型,也没有消融内层与外层的相对贡献。第四,harness 案例使用有界模拟反馈而非真实研究者反馈,真实交互只做定性展示,缺乏闭环规模化证据。第五,模型学习案例固定初始 harness H0,只说明 RL 单独有效,不能证明递归耦合优于“先 harness 后 RL”或反之的简单串联。第六,依赖专有模型 GPT-6 Astra 作为诊断/编辑器,复现性与长期可用性存疑。第七,缺少统计显著性、多次种子与误差区间,2.2% 的正确→错误回归未深入分析,也未给出持续部署中的安全回滚与监控机制。第八,rubric 从历史协作构造时虽声明不把研究者认可当作真值,但实际如何检测“错误认可”与“冲突需求”没有量化,judge 偏置风险未评估。第九,结果集中于生物医学,跨领域泛化未知。
⑦ 值得跟进
后续工作可沿几个方向展开。其一,补对照与消融:与 Reflexion、Meta-Harness、PILOT、HELIX、SIA、OpenClaw-RL 等在同一任务面板上比较,并分别关闭内层 harness 进化、外层 RL、环境增强,量化每个组件的边际贡献。其二,把有界模拟反馈换成真实研究者反馈的规模化闭环,测量在线部署中任务成功率、研究者留存与回滚频率,建立安全监控与版本回退机制。其三,隔离单个 harness 编辑与反馈来源的效果,做因果归因而非仅报告学习曲线;引入多次种子与统计检验,报告方差与置信区间。其四,扩大与跨域验证:从生物医学扩展到化学、物理、材料等数据密集型科学,检验 rubric 构造与工具目录的领域迁移。其五,研究嵌套收敛性与失效模式:内层编辑何时应停止、外层模型更新如何反噬既有流程、多轮循环是否会累积偏差或灾难性遗忘;可尝试让反射器本身也被评估或更新(文中明确其固定,是一处已知边界)。其六,改进 rubric 质量与真值处理:量化研究者认可与科学真值的冲突检测,研究 judge 偏置与可执行检查的覆盖度。最后,开放辅助模型以摆脱对专有 GPT-6 Astra 的依赖,提升可复现性。
AlayaLabHF ↑22GitHub ★30模型架构与训练
AlayaVista: Streaming World Modeling from Panoramic States to Perspective Video
发表时间:2026-09-13
Jiaming Tan, Mingliang Zhai, Zhen Li, Yuwei Wu, Chuanhao Li, Kaipeng Zhang
arXiv · HF 讨论 · alphaXiv
① 一句话定位
本文将 AlayaVista 定位为介于纯透视世界模型与显式 3D 重建之间的中间方案:以全景视频潜变量作为相机中心的动态"世界状态",而非最终显示输出;仅对用户请求的透视视口做高保真合成。作者的核心主张是,把昂贵的显示级合成推迟到视口选择之后,可以同时保留全角上下文、提升观测质量并控制计算开销。三点贡献:(1) 单图输入的流式视频世界模型,将全景世界演化与透视观测合成解耦为潜空间视口渲染 + 透视精修;(2) MUGEN 大规模真实全景视频数据集(1,318 小时、≥4K)及 300 小时 MUGEN-HQ 子集;(3) 渐进式训练流水线:长窗口动态学习、分块自回归 rollout、分离训练的潜渲染与少步蒸馏,用于端到端流式部署。
② 背景与动机
交互式视频世界模型需同时维护屏外上下文、跟随相机运动、生成高保真观测并保持低延迟。现有透视模型(AlayaWorld、Wonder、ReWorld 等)以透视帧序列表示世界演化,但单帧只覆盖局部视野,离开视口的内容必须靠长上下文注意力、有界缓存、地标库或空间记忆来恢复,导致观测合成与记忆维护紧密耦合。全景表示提供完整角覆盖,但若把全景视频作为最终输出,高保真生成与精修必须覆盖整个球面,而交互用户一次只观察一个视口。显式 3D 方法(HY-World 2.0、MoVerse 等)用高斯 splats、网格、点云或空间代理获得几何持久性,却引入几何提升、场景构建、记忆维护或渲染等额外阶段。作者援引视觉感知研究:观察者从低空间频率与周边信息快速推断粗粒度场景布局,细粒度细节由高敏中央视觉选择性获取,且常随行动即时采样;由此提出非对称的"全局-局部"计算原则。数据集层面,WEB360、PanoVid、PanFlow 等生成型与感知型全景数据集很少同时满足大规模、分钟级时长、高分辨率、自然动态与连续相机轨迹;作者引入 MUGEN 并与 Sekai2 全景子集配合。相关技术包括 SpheRoPE 等全景几何适配、UCPE 相机条件编码、LTX 式潜在上采样,以及 DMD/Self-Forcing 少步蒸馏。论文的问题设定因此清晰:能否在不合成每一方向显示级内容、也不先构建显式 3D 世界的前提下,保留宽广视觉上下文。
③ 方法机制
整体推理流程(式1):给定透视图 I0、相机轨迹 Π、每帧视口参数 κ、可选文本 c,先用预训练全景扩展模型 O 得到 2:1 ERP 全景 P0,再编码为干净初始化块 Z_init;全景状态生成器 G_θ 依相机条件演化出全景潜轨迹 Z^pan_{1:T};潜渲染模块 R_ψ 依 κ 选出低分辨率透视潜 Z^view,LR;透视精修器内,确定性上采样 U_ω 得到高分辨率结构载波 C,生成式精修 F_φ 以 C 为条件恢复细节;最后固定解码器 D_Wan 把 Z^view,HR 转为 RGB。全文 t 索引潜时间,T 为潜切片数而非 RGB 帧数;Π 提供潜时间戳上的相机到世界位姿,κ 指定每个 RGB 帧的视口。RGB 分辨率记宽×高,潜网格记高×宽。只有最终透视潜变量被解码为 RGB。
全景初始化:采用 HY-World 2.0 预训练全景模型,把单张透视输入扩展为完整 2:1 ERP,为后续生成提供全球场景先验;初始化块按 3.6.1 节的重复图像编码构造。
全景状态生成器:从 Wan2.2-TI2V-5B 初始化,操作 WanVideoVAE38 的 48 通道潜变量。保留扩散 transformer 的文本条件与 flow-matching 参数化,但把位置编码、VAE 边界处理与相机条件通路改为全景几何。位置编码按 SpheRoPE:宽度轴 RoPE 换成两路球面构造——高频通道用整数经度谐波,使旋转相位跨 ERP 接缝周期;低频通道用连续球面坐标(正比于 cosφcosλ 与 cosφsinλ,λ、φ 为经纬度),接缝连续且近极点减少经度依赖;时间与高度轴 RoPE 不变。VAE 空间卷积与重采样算子加经度循环填充,时间与纬度填充不变;VAE 权重固定,关闭空间分块以免引入人工内边界。相机条件采用 UCPE 并行注意力通路:位姿相对首帧表达,运动轨迹按相邻潜帧平均位移重缩放,近静止轨迹保持不变。每个 ERP token 依据相机位姿构造球面视线与局部射线坐标系。设 T_i∈R^{4×4} 为 token i 的世界到射线齐次变换,对维数 d_h(可被4整除)的注意力头定义 Γ_i=I_{d_h/4}⊗T_i(Kronecker 积)。相机分支计算 q̄_i=Γ_i^T q_i、k̄_j=Γ_j^{-1} k_j、v̄_j=Γ_j^{-1} v_j;被注意特征经 Γ_i 映射回查询射线坐标系后投影回骨干宽度,与原生自注意力残差融合。查询-键乘积含 Γ_i Γ_j^{-1},因此只依赖相对射线变换 T_i T_j^{-1}。通路使用压缩注意力特征并在每层零初始化输出投影,初始化时保持预训练网络不变。流式生成采用块内双向、跨块因果注意力;原生自注意力与全景 UCPE 注意力都维护时间偏移对齐的 KV 缓存,使每块复用已生成的全景特征及其相机相对几何。
潜渲染模块:把全景潜轨迹映射为请求的透视观测,无需解码完整 ERP。视口条件在每个 RGB 时间戳给出 ERP 帧内的 yaw、pitch、水平 FOV。工作分辨率下,把 960×480 ERP 视频潜映射到 512×288 透视视频潜,潜网格从 30×60 变为 18×32,48 通道与时间长度不变。监督目标由解码-投影-编码参考算子定义:Z^{view,*}=E_Wan(W_κ(D_pan(Z^pan))),W_κ 为像素空间 gnomonic 投影,D_pan 为 ERP 感知解码器,E_Wan 为标准透视 Wan VAE 编码器;上标 * 表示低分辨率透视监督目标而非最终高分辨率输出。推理时用学到的潜空间映射近似该 RGB 空间算子:解析视口几何确定采样位置,网络学习 VAE 特有的非线性校正。模块由分解式视频 transformer 与紧凑的局部重采样适配器组成。透视查询由几何对齐的 ERP 邻域、分数采样偏移、球面位置与畸变特征构造;因每个非初始 Wan 潜切片代表 4 个 RGB 帧,保留四个视口位姿锚点而非把相机运动折叠成单一姿态。transformer 用投影足迹与相机运动扫描导出的软几何偏置交叉注意 ERP token,再做透视空间与时间自注意力。局部适配器从邻近 4×4 ERP 潜邻域学习几何条件校正。输出为 Z^{view,LR}=S_κ(Z^pan)+ΔZ^global+ΔZ^local:S_κ 是指定视口锚点上的几何条件双线性潜采样,ΔZ^global、ΔZ^local 分别是全局 transformer 与局部适配器预测的残差。模块保留显式几何采样先验,部署时无需完整 RGB 解码-投影-编码路径。
透视视频精修器:由确定性潜空间上采样器与载波条件生成式精修网络组成。上采样器 U_ω 采用 LTX-2 启发的残差 + 空间 PixelShuffle 结构,在 Wan 潜空间专门训练:3D 残差块聚合局部时空信息,PixelShuffle 将空间分辨率加倍、时间长度不变。它结合固定最近邻载波与学习残差:ΔZ^raw=A_ω(μ+s⊙Z^{view,LR}),C=NN_{2×}(Z^{view,LR})+ΔZ^raw⊘s;μ,s∈R^{48} 为 Wan VAE 逐通道均值与标准差,A_ω 的最终投影零初始化,训练从最近邻映射起步。输出网格从 18×32 升到 36×64,对应 512×288→1024×576。该输出是承载布局、运动与粗外观的结构载波,而非最终细节视频,模糊高频纹理留给生成式精修器。精修器从 Wan2.2-TI2V-5B 初始化,以四个潜切片为块处理载波。对块 n,采样先重加噪其载波:X_{n,σ0}=(1-σ0)C_n+σ0 ε_n;干净载波按相同时空位置与零扩散时间步追加为对齐参考。n>1 时,前一已精修块作为干净前缀前插,得到 [Ẑ_{n-1}, X_{n,σ}, C_n];块内双向注意、跨块因果注意,只解码当前目标 token。蒸馏后每块四步去噪,Ẑ_n 被输出并作为下一块干净前缀复用,长视频直接拼接精修块。
训练阶段分为三组:全景生成器训练、渲染模块训练、透视精修器训练(含潜在上采样、多步质量训练、少步蒸馏)。全景初始化器与两个 VAE 全程固定;训练透视分支前冻结生成器与渲染器;上采样器在自身子步后冻结;整条流水线不做端到端联合优化。
全景生成器训练:(1) 双向适配——用非因果时间注意力与短到长调度把预训练视频模型适配到全景生成;稳定的 10 秒检查点初始化因果生成器,另一双向副本扩展到 20 秒并保留为后续分布匹配的长窗口分数模型;训练混合图/视频/文本条件样本。掩码流路径 Z_σ=(1-σM)⊙Z+σM⊙ε:目标状态向噪声插值,条件状态保持干净;损失 L_FM 按 Wan 时间步权重、对掩码监督项做流匹配,期望覆盖训练样本、条件配置、噪声水平与高斯噪声,每个样本至少含一个监督目标。(2) 分块自回归——转为块因果注意力,每块 4 个潜切片(约 16 FPS 下 16 个 RGB 帧);单图推理时全景重复 13 个 RGB 帧并编码为干净四切片初始化块。生成按 p_θ(B^pan_{1:N}|P_0,Π,c)=∏ p_θ(B^pan_n|M_n,P_0,Π_{[≤n]},c) 分解,M_n 为缓存历史,Π_{[≤n]} 含截至块 n 末的全部位姿;当前块联合去噪且不接触未来块。训练先使用带潜变量损坏与重放预测误差的教师强制历史,再引入分离的自重采样与教师生成 rollout 历史,使模型暴露于不完美的部署式上下文;初始化块受保护,构造历史不反向传播梯度。(3) 少步蒸馏——先通过 50 层因果教师的一致性蒸馏得到四步学生,EMA 学生作为低噪声目标;随后用学生自身分块 rollout 做在线 Self-Forcing++ 与分布匹配。冻结真实分数模型与可训练伪分数模型由 20 秒双向检查点初始化。对扰动样本 Z̃_τ=(1-τ)sg(Ẑ^stu)+τ ε',真实/伪分数模型给出干净预测 Ẑ^real/Ẑ^fake;归一化方向 g=(Ẑ^fake−Ẑ^real)/(mean|Ẑ^stu−Ẑ^real|+ε),DMD 损失 L_DMD=1/2‖Ẑ^stu−sg(Ẑ^stu−g)‖_F²。稀疏谱锚点复用早期缓存特征约束后续 rollout 的低频布局与颜色,保留互补的高频注意力特征不变。
渲染模块训练:用冻结参考算子(式4)生成缓存的全景-透视潜对;输入来自真实全景视频,视口轨迹覆盖静止、平滑、快速、全旋与跨接缝运动。监督包括通道归一化潜重构、一/二阶时间差分,以及解码视频损失(感知相似度、图像梯度、高频时间一致性)。先优化全局 transformer 并冻结,再拟合零初始化的局部适配器;目标是确定性视口变换而非无约束外观生成。
透视精修器训练:上采样子步训练 U_ω 复现确定性高分辨率载波而非直接回归模糊的原生高清纹理;载波目标 Z^car=E_Wan(Bicubic_{2×}[D_Wan(Z^{view,LR})]),输入混合真实 ERP 潜、双向全景生成与四步全景生成,均经冻结渲染模块处理,保证逐源确定性对应。目标含归一化潜重构、多尺度结构保持、时间与高频一致性及解码视频感知监督。多步质量训练训练普通步载波条件精修器,真实样本以 VAE 编码高清透视视频为目标,生成全景输入配固定高质量伪目标;L_Q=L_FM+λ_strL_str+λ_hfL_hf+λ_percL_perc+λ_tempL_temp+λ_bndL_bnd,其中 L_str 把低频结构锚定到载波,L_hf 恢复目标细节,L_perc 为解码感知损失,L_temp 匹配一/二阶时间变化,L_bnd 约束相邻块过渡。少步蒸馏以质量模型为冻结真实分数,用 Self-Forcing 蒸馏四步因果学生:学生逐块 rollout 并复用分离预测作为下一块前缀;方向 g_n=(Y^fake_n−Y^real_n)/(mean|Ẑ_n−Y^real_n|+ε),L_SF=λ_DMD L_DMD^ref+λ_strL_str+λ_bndL_bnd+λ_relL_rel,L_rel 保持跨块低频运动与高频能量。在自身生成历史上训练使训练与推理分布对齐,减少长时误差累积。
训练数据 MUGEN:以 YouTube 为源,人工筛选全景创作者并以"360 tour"等关键词经 Data API 检索,人工剔除仿真/动画/渲染内容,得 9,544 候选;经元数据与格式过滤(去非全景、<4K、<30 FPS、码率不足)得 2,893 小时原始素材。裁掉首尾各一分钟,用 TransNetV2 检测镜头边界并只保留连续段,切成不重叠 60 秒片段,H.265 转码、AAC 48kHz 音频,预处理后约 2,287 小时、137,209 个片段。内容过滤含:亮度均值限 [40,215]、COVER 感知质量 ≥0.7、把 ERP 投影到六张透视视图用 VLM 检测字幕/水印/界面/天底补丁(仅用于过滤)、以及用 ViPE 估计轨迹并剔除混乱路径/时间不连续/异常旋转。ViPE 同时提供深度图与实例掩码。最终 MUGEN 含 1,318 小时高质量一分钟片段,来自 6,446 个源视频。MUGEN-HQ 为 300 小时子集:按 COVER 取前 70% 作质量候选池,再对场景类别、相机运动模式、动作类型与天气分层采样。统一标注采用 AlayaWorld 的分层训练导向方案,对 MUGEN 与 Sekai2 全景视频使用同一 ERP 表示、时间采样、标注字段与输出格式,产出对齐的说明、逐帧相机信息等。
④ 实验与证据
定量评估在 MUGEN-HQ 选取的评估案例上进行,将原始 ERP 序列投影为透视参考视频并以首帧作为输入,对比 MoVerse 与 HY-World 2.0 的最终透视 RGB 输出。指标分三组:重构一致性(FVD、SSIM、LPIPS、PSNR)、感知与时间质量(VBench++ 的一致性、质量、动态),以及相机控制(用 ViPE 重估输出轨迹后计算平移误差与旋转误差)。总体结论是 AlayaVista 在参考一致性、时间一致性与旋转跟踪上领先,质量有小幅提升;但动态分数偏低,提示潜渲染与视频精修对局部运动存在衰减;平移误差介于两个基线之间,作者将此归因于显式 3D 基线的几何引导更强。
-
评估从 MUGEN-HQ 选取了 200 个案例。
We select 200 evaluation cases from MUGEN-HQ.
-
生成视频与参考视频在匹配时间戳上评估,每视频 81 帧,统一分辨率为 1024×576。
Generated and reference videos are evaluated at matched timestamps, using 81 frames per video at a common resolution of 1024 × 576 pixels.
-
AlayaVista 取得最佳 SSIM、LPIPS 与 PSNR,表明与参考视频的一致性优于两个基线。
AlayaVista achieves the best SSIM (0.4616), LPIPS (0.5321), and PSNR (14.108), indicating closer agreement with the reference videos than both baselines.
-
AlayaVista 取得最高 Consistency 分数,Quality 有小幅提升。
It also obtains the highest Consistency score (0.9240) and a modest improvement in Quality (0.5579), demonstrating favorable temporal consistency and perceptual quality.
-
相机控制方面,AlayaVista 取得最低旋转误差。
For camera control, AlayaVista achieves the lowest rotation error (2.132), indicating more accurate tracking of the target camera orientations.
-
较低的 Dynamic 分数可能反映潜渲染与视频精修对局部运动的衰减,提示运动活跃度与时间一致性之间存在权衡。
The lower Dynamic score (0.9200) may reflect attenuation of local motion during latent rendering and video refinement, suggesting a possible trade-off between motion activity and temporal consistency.
-
平移误差低于 HY-World 2.0 但仍高于 MoVerse,作者归因于 MoVerse 显式 3D 高斯骨架提供更强的几何引导。
Although our translation error (0.03312) is lower than that of HY-World 2.0 (0.03885), it remains higher than MoVerse's (0.02746), whose explicit 3D Gaussian scaffold may provide stronger geometric guidance during video synthesis.
⑤ 审稿人视角
Novelty:新颖性属于架构层面的中间层创新,而非全新基础机制。核心新意在于把全景潜变量明确当作内部动态状态而非输出,并在视口选择后才进行高保真合成;"几何采样先验 + 全局/局部残差"的潜空间视口渲染器,以及"确定性载波 + 载波条件生成精修"的组合也较有特色。但构成系统的关键组件——HY-World 2.0 全景扩展、Wan2.2-TI2V-5B 骨干、SpheRoPE、UCPE、DMD/Self-Forcing 蒸馏、LTX 式上采样——均为既有技术,论文更多是对其进行工程集成与训练调度创新。总体 novelty 为中等偏上。
Soundness:方法与公式描述完整、训练阶段分工清楚,分离监督目标(确定性载波、确定性视口变换)避免不必要的不确定性回归,工程上显得严谨。但实证支持偏弱:仅 200 个案例、两个外部基线,没有标准误差或显著性检验;正文宣称的长时稳定性、回访一致性、端到端流式效率缺少对应的量化证据(仅有质量与相机控制指标);PSNR 绝对值很低,领先幅度是否稳健未知;且缺少逐模块消融来验证渲染器、上采样器、精修器与少步蒸馏各自的贡献。因此目前 soundness 只能评为中等,需补充消融、延迟/吞吐与长 rollout 量化。
Significance:MUGEN(1,318 小时、≥4K、轨迹/深度/实例掩码/分层标注)对全景与世界建模社区有实际数据价值;"全景状态—透视视口"的表示折中为后续流式世界模型与生成式渲染提供了清晰参照,可能影响中间表示的设计选择。但系统依赖多个预训练大模块、训练阶段复杂,实际采用与复现门槛较高;论文展示的定量优势也较有限。总体 significance 为中等。
⑥ 局限与保留意见
论文自身承认的局限:相机中心的全景状态本身不保证大相机平移下的持久空间记忆,也不保证高动态场景中的严格几何一致性;全景扩展阶段的错误会传播到后续生成、渲染与精修。结构与实验层面:各模块分离训练、未做端到端联合优化,可能产生累积误差;定量评估仅覆盖 200 个 MUGEN-HQ 案例与两个外部基线,缺少消融、统计误差与跨数据集泛化证据;尽管宣称流式效率与长时稳定性,正文未给出延迟、吞吐、缓存占用或长 rollout 稳定性量化;Dynamic 分数低于两个基线、平移误差高于 MoVerse,说明局部运动保持与几何一致性仍有短板;系统含 5B 全景生成器、5B 精修器、渲染器、上采样器与外部全景初始化器,部署成本较高。数据层面,MUGEN 依赖自动化估计(ViPE 轨迹/深度/掩码)与自动质量过滤,标注误差与选择偏差的影响未评估。
⑦ 值得跟进
后续工作可沿几条线展开。(1) 持久空间记忆:在全景潜状态之外引入世界空间锚点或地标库,处理大平移与多次回访的一致性。(2) 更强几何感知目标:用深度、轨迹、重投影或跨视口一致性约束全景状态与渲染器,缓解几何漂移。(3) 端到端训练:在保持稳定性的前提下对渲染器、上采样器与精修器做联合微调,或设计可微投影损失贯通梯度。(4) 全景初始化的错误建模:估计扩展不确定性,让生成器有选择地修正或重新生成不可信区域。(5) 系统性效率评估:报告真实端到端延迟、吞吐、KV 缓存与长 rollout 稳定性,验证"流式"主张。(6) 消融与基准:公开逐模块消融、更大规模评测集与统一轨迹协议,帮助社区理解各组件贡献。(7) 数据扩展:把 MUGEN 的统一标注管线推广到更多来源,并补充合成-真实混合的几何监督。
antgroupHF ↑14GitHub ★19agent
HazardAuditor: From Executable Threats to Safer Computer-Use Agents
发表时间:2026-09-14
Yunhao Feng, Ruixiao Lin, Ming Wen, Yanming Guo, Xingjun Ma, Yutao Wu, Xinhao Deng, Shouling Ji
arXiv · HF 讨论 · alphaXiv
① 一句话定位
本文提出 HazardAuditor,一个面向 computer-use agent 运行期安全的执行证据护栏框架。它处于两条研究线的交叉点:一是把智能体安全评估从静态 prompt/response 转向可执行交互(AgentDojo、AgentHarm、SafeArena、DTap、Vera 等);二是把护栏模型从通用 moderation 推向轨迹感知的 agent guard(ShieldAgent、AgentDoG、BraveGuard 等)。作者的核心判断是:现有可执行安全平台只产出评测判决,不产出可供单一护栏跨框架学习的归一化监督;现有轨迹护栏又大多基于单框架 SFT,其 token 级优化目标与二元安全决策错配。因此,论文的贡献不在于新基础模型,而在于(1)把 Claude Code、Codex、Hermes、OpenClaw 的异构执行日志归一化为 canonical event representation,使执行证据成为跨框架训练信号;(2)提出 GuardPO,把确定性安全结果转化为序列级 advantage,并对 rationale 与 verdict 区域做响应级归一化,使安全决策而非解释长度成为优化单位。整体定位是“执行监督基础设施 + 面向生成式护栏的后训练目标”的系统性工程改进。
② 背景与动机
Computer-use agent 在浏览器、终端、文件系统、外部服务中操作,其安全风险往往不直接体现在生成文本里,而体现在执行行为中。同一工具调用是否 unsafe,取决于授权、参数、交互历史与环境效应;恶意识别指令或敏感信息可能只出现在上下文中而从未被真正执行。因此,运行时安全不能被还原为对 prompt、response 或孤立 action 的分类,而需要对 agent 与环境交互中累积的行为证据进行推理。
可执行安全平台(AgentDojo、AgentHarm、SafeArena、DTap、Vera 等)已经把“执行”确立为评估 agent 安全的核心证据来源,但它们主要为评测服务:输出是 verdict,日志没有统一 schema,难以直接作为单一 guard 模型跨框架学习的监督。与此同时,护栏模型的发展经历了从通用 moderation(Llama Guard、WildGuard、Qwen3Guard、YuFeng-XGuard、SingGuard-NSFA)到 agent 导向推理(GuardAgent、ShieldAgent、AgentDoG、BraveGuard)的过程。BraveGuard 等虽然使用 computer-use rollout 做监督,却仍以单框架数据做 SFT。
这里还存在一个训练目标层面的问题。SFT 本质是 token 级 imitation,而生成式安全护栏的操作目标是二元安全决策。若采用标准 token-mean 优化,较长 rationale 会因为包含更多 token 而在梯度更新中占据更大权重,尽管每个响应只对应一个安全决策。HazardAuditor 试图同时弥合两个缺口:用 canonical event schema 与适配器把异构执行日志变成训练就绪监督;用 GuardPO 把优化单位从 token 数量拉回安全决策本身。
③ 方法机制
HazardAuditor 可拆为三层:可执行安全监督、生成式护栏学习、GuardPO 决策级后训练。
一、可执行安全监督。形式化地,一个 safety case 被定义为 σ=⟨g,s0,Vg⟩,其中 g 给出任务与安全相关目标,s0 是初始环境状态,Vg 是可选的、基于可观测执行证据的 verifier。在观测点 m,可用执行轨迹为 τ1:m=(e1,…,em),其中规范事件 e_k 属于 {U(u_k), A(a_k,r_k), T(ν_k,α_k), O(o_k)}:U 是用户消息;A 是 agent 响应,并可选地携带框架暴露的推理 r_k;T 是工具调用,包含工具名 ν_k 和参数 α_k;O 是环境观测。若框架不暴露推理,则 r_k 置空。框架专用适配器把 Claude Code、Codex、Hermes、OpenClaw 的原生日志映射到上述表示,保留与安全相关的执行语义,同时删除时间戳等非语义元数据,使单一 guard 能跨异构执行协议进行推理。
标签 y∈{0,1},0 表示 safe、1 表示 unsafe。关键设计是行为与内容的区分:仅仅观察到恶意指令或敏感值本身不构成 unsafe;当 agent 尝试或执行未授权/有害操作、泄露敏感信息、生成可操作的有害产物,或以其他方式实质性推进不安全目标时,才标记为 unsafe。例如,agent 遇到要求外泄凭据的 prompt injection 但拒绝执行相关工具调用,标记为 safe;若它以凭据为参数调用 file-read 或 network-send,即使调用未成功,也标记为 unsafe。标签主要依据工具调用及其参数(T(ν_k,α_k))相对任务目标 g 是否构成未授权行为;环境观测 O 与 verifier 输出 V_g 只作为行为是否生效的佐证,而非标签本身。
二、生成式护栏。对观测轨迹序列化 x=Serialize(τ1:m),并将其放入显式 delimiter,把轨迹内容标记为不可信输入,避免日志中的指令被当成 guard 指令。HazardAuditor 是一个生成式策略 πθ,输出 z=[z^rat;z^ver],格式为 <analysis>…</analysis><label>safe|unsafe</label>:rationale 给出证据支持,terminal verdict 提供确定性的下游控制接口。模型先用 rationale-supervised fine-tuning 初始化,教它推理格式与安全策略。
SFT 只在 assistant token 上计算损失。对目标响应 z⋆=(z1⋆,…,zL⋆),似然为逐 token 条件概率乘积。由于 verdict 只占响应的一小部分,SFT 对最后 K_ver 个目标 token 加权:w_t=ω_SFT 用于最后 K_ver 个 token,其余 token w_t=1;取 K_ver=12、ω_SFT=4。损失为加权负对数似然的归一化和。这提高了 verdict 尾部的重要性,但仍然是 token 级目标。
三、GuardPO。标准 token-mean 优化 L_token=∑i∑t ℓ_i,t / ∑i L_i 让长 rationale 获得更多聚合优化权重。GuardPO 的修正分四步。
(1)决策级 outcome。对输入 x_i,从 rollout 策略采样 z_i,确定性 parser 返回 ŷ_i∈{0,1,⊥},⊥ 表示格式错误。奖励为 R_i=+1 若 ŷ_i=y_i;R_i=−1 若 ŷ_i 是有效二元标签但判错;R_i=−γ 若 ŷ_i=⊥,γ=1.25。这里不需要学习 reward model,也不需要在线 LLM judge。对全局 rollout batch B 的 N 个响应,计算批均值 R̄_B=(1/N)∑R_i,并定义序列级 advantage Â_i=R_i−R̄_B;同一响应的所有 valid token 共享同一个 Â_i。
(2)clipped token update。令 π_old 为当前 update 的锚点策略,计算逐 token 重要性比 ρ_i,t=πθ(z_i,t|x_i,z_i,<t)/π_old(z_i,t|x_i,z_i,<t),并裁剪为 ρ̃_i,t=clip(ρ_i,t,1−ε,1+ε),ε=0.1。沿用 CISPO 的 clipped importance weighting 原则,token 损失为 ℓ_i,t=−sg(ρ̃_i,t)Â_i log πθ(z_i,t|x_i,z_i,<t),即裁剪后的重要性比被 stop-gradient,只用于加权,不产生额外梯度路径。
(3)decision-normalized objective。GuardPO 的核心不在 token 损失本身,而在聚合方式。对响应 i,令 V_i 包含其最后 K_ver 个 valid token(verdict 区域),R_i 包含之前的 rationale token;K_ver=12。定义区域平均损失 M_i(S)=(1/|S|)∑_{t∈S}ℓ_i,t,空集为 0。最终 GuardPO 损失为:L_GuardPO=(1/N)∑_{i∈B}[M_i(R_i)+λ_ver M_i(V_i)],λ_ver=2。也就是说,每个响应贡献一个归一化的 rationale 项和一个归一化的 verdict 项;所有 token 仍共享同一序列 advantage,但 rationale 长度不再决定该响应的优化权重。verdict 项单独加权,保留对最终决策的显式压力。
(4)长度不变性。Proposition 1 表明:若把响应 i 的每个 rationale token 复制 q>0 次得到多重集 R_i^(q),则 GuardPO 中该响应的贡献不变,因为区域平均 M_i(R_i^(q))=M_i(R_i);而在标准 token-mean 目标下,复制会增加 L_i,从而增加该响应在 batch 中的权重。注意该性质只移除聚合层面对 rationale 长度的直接比例依赖;内容仍可改变区域内平均损失,GuardPO 并不假设更长或更短的分析天然更好。
四、训练与推理细节。模型从 Qwen3Guard-Gen-8B 初始化。SFT 做 full-parameter 训练,10 个 epoch,输入预算 16K token,全局 batch size 16,AdamW,学习率 5×10^-6;超长输入做 prefix-preserving truncation,保留轨迹初始事件。GuardPO 从选定 SFT checkpoint 出发,1 个 virtual epoch,全局 batch 为 32 个 prompt、256 个响应,每个 prompt 采样 8 个 rollout,学习率 2×10^-7,constant scheduler,warmup ratio 0.03,weight decay 0.01,最大梯度范数 1.0,采样温度 T=0.5、top-p=0.9,最大 prompt/response 分别为 16K/384 token。实现上,SFT 用 LLaMA-Factory,GuardPO 用 VERL,单节点 8 张 A100。推理采用 greedy decoding,最大响应 384 token,最大轨迹上下文 16K token,相同 prefix-preserving truncation,不调用外部 judge 或 reward model。
④ 实验与证据
实验部分在自建平衡跨框架诊断与多个外部基准上展开,并补充了固定测试集、查询级迁移和部署效率分析。自建诊断由可执行安全基础设施从多个异构 agent 收集,按 safety case 分层留出以避免训练泄漏,类别均衡。外部基准覆盖不同风险分布:有的强调组合行为、有的强调延迟风险触发、有的覆盖多样化交互。基线包括通用大模型裁判、通用护栏和智能体导向护栏三类;指标围绕准确率、宏平均 F1 以及 unsafe 类 precision/recall/F1。
总体结论是:HazardAuditor 在多个异构 agent 上全面优于先前的 agent-oriented guard,GuardPO 相对 SFT 初始化在多数来源上带来提升,且在执行证据最丰富的来源上增益最大;对外部轨迹分布有一定迁移能力,但并非每个基准都单调提升。作者还强调其精度与召回较为平衡,而非落入高精度低召回区间。快速分类头实验表明,冻结骨干后接轻量头可以大幅降低延迟,但会显著牺牲宏 F1 与 safe recall,只适合作为预筛器。
-
在自建 CUA-Exec 四个 agent 的平衡子集上,HazardAuditor 在所有报告指标上均最优,并相对最强智能体护栏 BraveGuard 在四个 agent 上分别提升 12.5、4.0、9.5、16.5 个准确率点。
HazardAuditor achieves the best result in every reported metric across Claude Code, Codex, Hermes, and OpenClaw, despite differences in agent architecture, tool interfaces, and execution protocols. Relative to the strongest prior agent-oriented guard, BraveGuard, HazardAuditor improves accuracy by 12.5, 4.0, 9.5, and 16.5 percentage points on the four agents, respectively.
-
GuardPO 在四个平衡子集上均比 SFT 初始化提升准确率:Claude Code 从 82.0 到 94.0,Codex 从 91.0 到 95.5,Hermes 从 75.0 到 86.5,OpenClaw 从 74.0 到 87.5。
GuardPO also improves upon the SFT initialization across all four balanced subsets, , raising accuracy from 82.0 to 94.0 on Claude Code, from 91.0 to 95.5 on Codex, from 75.0 to 86.5 on Hermes, and from 74.0 to 87.5 on OpenClaw.
-
在 AgentHazard 四个后端上,HazardAuditor 相对同一 SFT 初始化均提升 F1:GPT-5.5 从 82.24 到 84.31,Claude Sonnet 4.6 从 83.03 到 85.98,Gemini 3.1 Pro 从 93.28 到 95.07,Qwen3-235B-A22B 从 92.30 到 92.51。
HazardAuditor improves F1 over the same SFT initialization on all four backends: from 82.24 to 84.31 (GPT-5.5), 83.03 to 85.98 (Claude Sonnet 4.6), 93.28 to 95.07 (Gemini 3.1 Pro), and 92.30 to 92.51 (Qwen3-235B-A22B).
-
AgentHazard 的 GPT-5.5 后端暴露剩余权衡:HazardAuditor 准确率最高,但 BraveGuard 的 recall 与 F1 更高。
At the same time, the GPT-5.5 backend reveals a remaining trade-off : HazardAuditor attains the highest accuracy, but BraveGuard retains higher recall and F1.
-
在三个外部轨迹基准上,HazardAuditor 在 ASSE-Safety 上取得最优准确率与 F1,在 ATBench 上取得最高准确率,但在 R-Judge 上 SFT 初始化略强。
HazardAuditor achieves the best accuracy and F1 on ASSE-Safety (91.5%) and the highest accuracy on ATBench (88.4%), while on R-Judge the SFT initialization is marginally stronger.
-
在 R-Judge、ASSE-Safety、ATBench 三者中,HazardAuditor 保持最高的最差基准 F1,为 88.3%,高于 SFT 初始化与最优先前护栏。
Across all three benchmarks, HazardAuditor maintains the highest worst-case F1 (88.3%), compared with 86.2% for HazardAuditor-SFT and 80.7% for the best prior guard.
-
HazardAuditor 的安全决策边界更平衡,其 unsafe precision 与 recall 的最大绝对差为 1.1 个百分点。
Its largest absolute gap between unsafe precision and recall is 1.1 percentage points.
-
对比之下,多个已发布护栏处于高精度低召回区间,如 Qwen3-Guard 在 ATBench 上 100% 精度但 10.8% recall,ShieldGemma-27B 在 R-Judge 上 100% 精度但 1.0% recall。
Qwen3-Guard reaches 100% precision but only 10.8% recall on ATBench, and ShieldGemma-27B reaches 100% precision but 1.0% recall on R-Judge.
-
按来源拆解,GuardPO 在 CUA-Exec 上把聚合准确率从 80.50 提高到 90.88,F1 从 80.16 提高到 90.85。
CUA-Exec | 80.50 | 90.88 | +10.38 | 80.16 | 90.85 | +10.68
-
在自然失衡的固定 CUA-Exec 测试子集上,GuardPO 将池化准确率从 76.75% 提高到 88.16%,Macro-F1 从 76.75% 提高到 87.76%;但 Codex 子集从 90.78% 降到 88.86%。
GuardPO raises pooled accuracy from 76.75% to 88.16% and Macro-F1 from 76.75% to 87.76%. Macro-F1 gains are 12.82, 14.98, and 12.84 points on Claude Code, Hermes, and OpenClaw, while Codex decreases from 90.78% to 88.86%.
-
在 NSFA-Query-Multilingual 本地平衡子集上,HazardAuditor 取得 88.89% 准确率、88.88% Macro-F1、96.01% unsafe precision、81.28% unsafe recall、99.89% 解析率。
HazardAuditor obtains 88.89% accuracy and 88.88% Macro-F1, with 96.01% unsafe precision, 81.28% unsafe recall, and a 99.89% parse rate.
-
冻结骨干训练快速分类头可显著降低延迟:MLP-64 平均推理约 304 ms,而生成式 HazardAuditor 约 3138 ms;但 MLP-64 的 Macro-F1 为 69.63、safe recall 为 41.11,生成式为 88.12 与 88.14。
MLP-64 | 75.02 | 69.63 | 41.11 | 97.63 | 303.99 ms | 1498.80 ms | 314.47 ms
MLP-128 | 73.68 | 67.59 | 37.94 | 97.50 | 303.95 ms | 1499.71 ms | 314.26 ms
MLP-256 | 71.70 | 63.93 | 31.62 | 98.42 | 304.00 ms | 1498.18 ms | 314.25 ms
Generative HazardAuditor | 88.46 | 88.12 | 88.14 | 88.67 | 3138.10 ms | 5522.97 ms | 3148.81 ms
⑤ 审稿人视角
Novelty:新颖性中等偏上。Canonical event representation 本身不是全新概念,但把它系统化为跨四个异构 agent 框架的 guard 训练接口,确实回应了可执行平台“只评测、不产出归一化监督”的痛点,工程价值明确。GuardPO 的贡献更偏“目标重设计”而非新算法:它把确定性解析结果作为奖励、复用 clipped importance weighting,并用 rationale/verdict 区域均值归一化来消除长度主导。Proposition 1 的长度不变性很直接,但清晰刻画了与 token-mean 的差异。相比现有 trajectory guard 的 SFT 范式,这种以安全决策为优化单位的思路有针对性,不过并未引入全新的优化理论。
Soundness:soundness 中等。方法表述清楚,公式自洽,GuardPO 与 SFT 的对照、外部基准迁移、固定测试集和源分析使结论有一定支撑。但主要基准 CUA-Exec 是作者自建,且由同一基础设施生成,天然偏向本文的 canonical serialization,虽然外部基准缓解了这一担忧,仍不能完全排除格式同源优势。标签协议依赖 verifier 与行为规则,行为/内容边界的判定可能遗漏隐蔽攻击;论文没有报告人工一致性或错误分析。评估缺少误差棒、显著性检验与多次随机种子;部分基线模型版本与裁判协议细节不足,跨表指标口径也不完全一致。GuardPO 的 γ、λ_ver、K_ver、ε 等关键超参未见系统消融,只有一个 virtual epoch 的训练量使优化增益的稳定性存疑。快速头实验显示安全召回大幅下降,说明当前部署路径尚未闭合。因此,方向可信,但优势幅度需要第三方复现与更大规模自然分布验证。
Significance:若结果可复现,该工作对运行时 agent guard 的训练实践有实际意义:它把“执行证据归一化”与“决策级优化”组合起来,能降低对单一 agent 框架的过拟合,并提升跨分布稳定性。对需要审计轨迹并做二元干预的系统,显式 rationale 加 deterministic verdict 是实用的接口。不过,它仍是判别式护栏,没有直接改善被监管 agent 策略本身的安全,也没有解决在线干预控制、低延迟部署、流式检测等关键问题。整体影响中等:适合作为 agent-safety guard 训练栈的重要补丁,而非范式级突破。
⑥ 局限与保留意见
第一,数据与评估的外部效度有限。CUA-Exec 是自建诊断集,每个框架样本量不大,固定测试集更小且自然失衡;论文虽用 AgentHazard、ATBench、R-Judge、ASSE-Safety 做迁移,但这些基准的交互格式与风险分布未必覆盖真实部署中的长程任务、新颖工具和对抗性攻击。第二,标签协议依赖 verifier 和工具调用证据,可能低估“看似合规但组合有害”或“通过环境反馈间接推进”的行为;行为/内容边界在模糊场景下没有给出可操作的判定细则,也缺乏人类标注一致性。第三,guard 只消费序列化轨迹,若框架不暴露 reasoning(r_k=∅),或关键证据被 16K prefix-preserving truncation 截掉,决策质量会受影响;延迟风险触发器若出现在轨迹后段,可能被直接丢弃。第四,GuardPO 训练量很小,超参消融不足,无法判断长度不变性在实际梯度噪声下是否稳定;确定性 parser 使格式错误被重罚,但解析率提升与安全性能之间的关系未被充分拆解。第五,部署路径不完整:生成式模型延迟较高,快速分类头又显著降低 safe recall,只能做预筛;论文没有给出端到端控制器的干预策略、误报/漏报成本权衡或在线更新方案。第六,对比公平性有隐患:不同 guard 的推理协议、prompt 适配和标签映射并不完全统一,表格中的部分模型版本也难以独立核验,可能影响“最强基线”结论。
⑦ 值得跟进
后续工作可从几个方向展开。(1)扩大并开放执行安全语料:覆盖更多 agent 框架、更长 horizon、更复杂工具 schema 和自然类别分布,并引入人工标注与 inter-annotator agreement,验证行为/内容标签的可信度。(2)系统消融 GuardPO:分别改变 γ、λ_ver、K_ver、ε、区域划分方式,比较 DPO/GRPO/在线 RL 等基线,报告多次种子与统计检验,明确增益来自 outcome reward、clipping 还是区域归一化。(3)研究流式与早停:让 guard 在轨迹尚未结束时输出递增风险分数,配合 controller 做 cost-aware 干预,评估任务完成率与安全性的联合 trade-off,而不只评估最终分类。(4)改进快速部署路径:用蒸馏、分层推理、推测解码或检索增强 rationale 来降低延迟,同时保住 safe recall;并对阈值校准、OOD 检测和不确定性估计做专门评估。(5)测试对抗鲁棒性:构造针对 guard 的日志注入、混淆工具参数、误导性环境观测,检验 untrusted-delimiter 方案是否足以防止轨迹内容劫持 guard 判断。(6)与 agent 策略安全训练结合,把 HazardAuditor 的决策信号用于约束或重排序 agent rollout,形成“执行—审计—策略改进”闭环。
AlayaLabHF ↑17GitHub ★31模型架构与训练
Kaininja: Extending Native 3D Generators to the Part Level
发表时间:2026-09-14
Ruihan Yu, Lian Fu, Muyao Niu, Zheng-hui Huang, Yu-Ju Tsai, Sho Kuno, Fengbo Lan, Yonghao Yu, Erwin Wu, Ming-Hsuan Yang, Kaipeng Zhang, Zhixiang Wang
arXiv · HF 讨论 · alphaXiv
① 一句话定位
KaiNinja 属于端到端、无掩码、无边界框的部件级图像到三维生成(第 (iv) 类),且是首个建立在 TRELLIS.2 与 O-Voxel 表示上的该类方法。它把 PartPacker 的双体积打包从 vecset/SDF 潜空间迁移到骨干网络自身的稀疏体素网格上,通过双流、两阶段的继承式微调,使原生 3D 生成器直接从单图输出部件分离的网格,同时保留开放曲面、UV、材质与 PBR。文章的核心贡献是表示层论证:O-Voxel 每体素只存一张曲面片,单体积在任意分辨率下都无法表示两部件接触面,因此必须改表示,双体积打包是最小修正。其贡献还包括首次用 LLM 智能体创作的 Articraft-10K 数据训练三维生成模型,以及经验发现打包同时提升整对象保真度。
② 背景与动机
近年来单图原生 3D 生成(TRELLIS、TRELLIS.2、Hunyuan3D 等)直接在三维潜空间去噪,能输出带 UV/材质/PBR 的高保真网格,但都输出一个融合的整对象。下游编辑、重纹理、绑定、仿真、跨场景复用都需要部件为独立网格。现有取部件路径有四类:(i) 生成后分割再重建(P3-SAM、X-Part、PartGen、HoloPart),依赖分割精度且端到端慢;(ii) 用二维掩码或边界框在生成前规划(OmniPart、Part123、ComboVerse、PhyCAGE);(iii) 自回归逐部件生成(AutoPartGen、PartGen),需 N 次网络前向;(iv) 端到端无掩码无框(PartPacker 双体积打包、PartCrafter 按部件分组 token),但二者基于 vecset/SDF,需要水密化且只建模几何。KaiNinja 属第四类。
O-Voxel 是基于对偶轮廓的稀疏体素结构:每活动体素一个对偶顶点、每条轴边一个 crossing flag,存的是曲面片而非场采样,故可表示开放、非流形、封闭曲面及材质。其关键限制是每体素至多一张曲面片:两部件接触面是几乎重合的两张片,在同一体素内只保留一张;这是容量限制而非分辨率限制。PartPacker 的双体积打包(接触图二染色,相邻部件不同体积)一次解决三个问题:部件可作为各体积的连通分量读出(无需预测 N 或分割器);任意数量部件装入固定双流(骨干只跑一次、N 无上界);接触面不共享体素(不塌缩)。
但继承预训练先验有三大鸿沟:先验从未见过部件界面;打包体积是“半对象+裸露接触面”的新分布;两体积需联合决策而独立双流无法协调。文章据此设计了分阶段继承训练,并利用 Articraft-10K(LLM 编码智能体从基元组装部件并加物理关节,部件标签来自 authoring 而非标注)等四源语料训练。
③ 方法机制
核心设计分为表示、双流两阶段、训练、数据、推理后处理五部分。
【表示:双体积 O-Voxel】O-Voxel 直接由原始带纹理网格经刚性归一化(居中、缩放至单位立方、对齐朝上轴)体素化,不做重网格化或水密转换。每活动体素存一张曲面片;两部件接触处的两张近平行面落入同一体素时只保留一张。因此构造接触图 G:以部件为节点,当且仅当某体素同时携带两面片的 facets 时两部件相邻,边权为该类共享体素数。若 G 为二部图,两个颜色类即两个体积;否则贪心收缩奇数环:取奇数环上权重最大的边,将其两端部件合并为一个节点,重建图,直到可二色,再 BFS 二染色。这是 PartPacker 的贪心奇数环收缩,不保证最优,优先合并接触最紧的部件。最终每个部件只属于流 A 或流 B,同流内部件不接触。二染色只是启发式:附录 7 用 Tietze/Besicovitch 论证 3D 接触图不必可平面、任意数量区域可两两相邻,接触图色数无界,因此任何固定体积数在最坏情况下都不安全;把图平面化等于删边,删边要么合并部件(更粗分解)要么断开接触(需预测位移并重装)。这是表示层的根本边界。
【双流两阶段】TRELLIS.2 是两段 rectified flow 级联。阶段 1 去噪决定“哪里有表面”的粗结构潜,阶段 2 去噪决定“表面是什么”的结构化潜。部件结构主要在第一段(哪些部件、位置、归属哪个体积是双流联合分配),第二段是预训练已擅长的局部精修,故两阶段处理不同:layout flow 用每流独立权重 + 新跨体积块;refinement flow 保持骨干不变、只通过注意力作用域分流。
条件:DINOv3 ViT-L/16 读 512×512 图,经 cross-attention 进入两阶段;CFG 用一条无条件、一条条件路径外推。
阶段 1 layout flow:在 16^3 稀疏结构潜上,每流 8 通道,解码器扩为 64^3 占位网格。每流是预训练 transformer 的完整副本(30 块、宽 1536、12 头、旋转位置编码),各有输入/输出投影和时间步调制;流身份由权重承载、无需额外嵌入。在深度 {6,12,18,24,29} 后各设一个共享跨体积注意力块,同时注意两流 token,并有自己的调制分支。这些块零初始化,使训练起点等于两个独立预训练去噪器。
阶段 2 refinement flow:占位已固定,任务接近骨干预训练任务,故骨干权重按发布原样加载、不改结构。30 块中 20 块的自注意力只在单体积 token 上作用;其余 10 块(深度 2,5,8,…,29)同时注意两体积。自注意力天然支持变长 token,重新分组不改变层宽、不增骨干参数。合并块中流身份由学到的体积嵌入给出,初始为零、加到时间步调制上。
【训练:继承整对象先验】训练目标是 flow matching。layout flow 三阶段:(i) fit:从预训练单流去噪器出发,独立微调两份副本,分别拟合语料的体积 A、B 潜,先跨过分布鸿沟、让每流适应“半对象+裸露接触面”的边缘分布;(ii) merge:把两份拟合权重载入双流,因每流触及的块/投影/调制都归属单流,权重无需重解释即可迁移;加零初始化跨体积块后,合并模型初始行为等于两个已拟合去噪器;(iii) warmup 再 joint fine-tune:冻结双流只训跨体积注意力与调制分支,让双流在扰动拟合先验前学会协调,然后全部解冻。跳过 warmup 会让未训练跨体积块把梯度推过已拟合流;跳过 per-volume fit 会要求同一预训练权重服务两个未见过的边缘分布。
联合微调中加入不相交惩罚:每步由速度恢复预测干净潜 x̂_0,用冻结的稀疏结构解码器解码两流为 64^3 软占位 o_A,o_B∈[0,1],惩罚 L_ov = E[o_A ⊙ o_B],权重 λ_ov=5,加到 flow loss。代价是每步一次解码前向。它作用在部件结构被决定的层:打包保证每部件只属一体积,但逐流 flow loss 不禁止两流抢同一体素。
refinement flow 无需 per-volume fit:骨干不变、两流复用发布权重,权重没有要跨的分布鸿沟;用相同两段式(冻结 warmup 只训体积嵌入,再全量微调)。因为作用域注意力对预训练计算的扰动远小于改流拓扑。
超参:两流均宽 1536、30 块、12 头、旋转位置编码;bfloat16、AdamW(β=(0.9,0.95), weight decay 0.01)、EMA 0.9999、自适应梯度裁剪 norm 1.0、logit-normal 时间步调度、p_uncond=0.1、全局批 32。Stage1 冻结 warmup 10K 步 lr 1e-4(500 步热身),联合微调 100K 步 lr 5e-5(2000 步热身)、λ_ov=5;Stage2 冻结 warmup 30K 步、全量微调 100K 步,均 lr 3e-5;结构化潜自编码器为发布的 TRELLIS.2,全程冻结。
【数据】语料四源:articraft(智能体创作,8,968)、partnext(6,358)、trellis(1,931)、fusion360(1,875),共 19,132 对象。Articraft 是 LLM 编码智能体写程序、从基元构建每个语义部件并用物理关节连接,部件监督是程序结构而非人工标注,无标注噪声;这是首次用智能体创作资产训练 3D 生成模型。从网格场景图读部件标注,几何节点全部融合时回退到连通分量;对原始带纹理网格体素化为 O-Voxel 后跑合并+二染色得到打包。质量过滤:体素化前在归一化网格上保留 2–32 部件,剔除部件严重互穿(按成对碰撞深度与广义 winding number 重叠)、剔除烘入地面/背景 quad 的展示平面;打包后要求有效潜与渲染条件,并加平衡过滤器(最小体素数、A/B 最小占位比),丢弃一体积近空的退化打包;PartPacker 无此检查。因 O-Voxel 无场,跳过 SDF 打包所需的水密修复与壳膨胀,保留开放曲面与材质。
【推理与后处理】layout flow 采样两体积结构潜,refinement flow 填充。两流在推理时可能不不相交、偶发把同一曲面放进两体积,故阶段间做重复占位合并:对两体积各取一连通分量,测共享体素比例与嵌入深度,当重叠过半且嵌入至少 3 体素深时,把小分量体素并入大分量体积;不删除任何东西,并集不变,开销可忽略。薄壳有时漏过。之后冻结 TRELLIS.2 VAE 把每体积潜解码为 O-Voxel 并提取带纹理网格;同体积内部件不接触,直接取各网格连通分量为部件。解码器偶留小缝,故把表面相距两细体素内的分量视为同一部件,把小于体积表面积 0.5% 的碎片贴到最近部件。两步都不预测部件数,部件数由生成的 layout 自然决定。
④ 实验与证据
实验分四块:主对比在全部方法都能完成的对象上进行,覆盖四个来源,指标为整对象与部件的 CD、F-score(宽松与严格阈值)及 mIoU,部件用 IoU 匈牙利匹配;KaiNinja 在全部指标与分源细分上领先,优势在严格阈值最明显。成本分析用 GPU 墙钟/秒度量全流程,显示段后分割级联最慢、自回归次之,KaiNinja 以小幅成本增量换部件能力。整对象质量表把微调语料贡献与扩展贡献分开,显示打包比同骨干微调更好。泛化在 Sketchfab/GitHub 混合集与外部 HY3D-Bench 上评估:前者 KaiNinja 整体领先、部件严格阈值领先;后者整对象领先但部件指标落后,被归因于标注粒度而非几何。定性显示 KaiNinja 在 CAD、家具、有机体上部件干净且数量接近真值,基线易融合或碎裂。消融检验体积数、不相交惩罚与后处理:三体积在部件上略好但不稳健,故选双体积;惩罚主要作用于 layout 布局阶段、对最终指标影响小;合并步骤影响小、重标记步骤是关键。
-
在主对比中,KaiNinja 相对最强基线 Hunyuan3D-2.1+X-Part,严格阈值 F1_W^0.05 提高 0.10、F1_P^0.05 提高 0.09,整对象 CD 低 40%。
Against the strongest baseline, Hunyuan3D-2.1 + X-Part, it gains 0.10 0.10 F1 0.05 W {}_{W}^{0.05} and 0.09 0.09 F1 0.05 P {}_{P}^{0.05} at the strict threshold, and its whole-object Chamfer distance is 40 % 40\% lower.
-
相对不同范式的部件生成管线,KaiNinja 整对象 Chamfer 距离降低 40%,严格部件 F-score 提高 16%。
Against part generation pipelines of different paradigms, it lowers whole-object Chamfer distance by 40 % 40\% and raises strict part F-score by 16 % 16\% .
-
与在相同语料上微调同一骨干相比,KaiNinja 的 F1_W^0.05 再高 0.089、达 0.919,失败率 0.7%,代价约为 2.5 倍生成成本。
KaiNinja starts from the same pretrained weights and sees the same corpus, yet it is another 0.089 0.089 above that at about 2.5 × 2.5\times the generation cost (Figure 4 b), and it delivers parts. At 0.919 0.919 it is above every reference in the table, and it misses the shape outright on 0.7 % 0.7\% of objects, against 3.9 3.9 to 6.8 % 6.8\% for the zero-shot references.
-
成本上 PartPacker 最便宜但部件最弱;KaiNinja 成本高 40% 却换取 F1_P^0.05 提高 0.20,AutoPartGen 花费 3 倍预算,段后分割级联慢一个数量级。
PartPacker is the cheapest method and the weakest on parts; our model costs 40 % 40\% more and gains 0.20 0.20 F1 0.05 P {}_{P}^{0.05} . AutoPartGen spends 3 × 3\times our budget, because it generates one part after another, and the segment-then-regenerate cascade costs an order of magnitude more than any other method, because it cannot begin part reasoning until a whole object exists.
-
在 Sketchfab/GitHub 泛化集上,KaiNinja 整对象 F1_W^0.05 领先次优方法 0.075;部件 CD 与严格 F1_P^0.05 领先,严格阈值对最近基线的优势为 0.036。
KaiNinja keeps a clear lead on the whole object, by 0.075 0.075 F1 0.05 W {}_{W}^{0.05} over the next method. On parts it is ahead on Chamfer distance and on the strict F1 0.05 P {}_{P}^{0.05} , where the margin over the closest baseline is 0.036 0.036 .
-
在外部 HY3D-Bench 上,KaiNinja 整对象三项指标第一、F1_W^0.05 领先 2.6 点;但部件指标不领先,Hunyuan3D-2.1+X-Part 领跑全部部件指标,KaiNinja 的 mIoU_P 排六者第四。
On the whole object KaiNinja is first on all three metrics, by 2.6 2.6 points of F1 0.05 W {}_{W}^{0.05} over the next method. On parts it is not. Hunyuan3D-2.1 + X-Part leads every part metric, and on mIoU P we sit fourth of six, behind AutoPartGen and PartPacker as well.
-
三体积消融在阶段 1 输出上整对象打平、部件 F1_P^0.05 高 1.6 点、CD_P 低 0.0067,均在配对 bootstrap 下显著。
Three volumes are not worse at geometry. The whole object ties, and on parts three volumes are slightly ahead, by 1.6 1.6 points of F1 0.05 P {}_{P}^{0.05} and 0.0067 0.0067 of CD P , both significant under a paired bootstrap.
-
三体积的稳健性代价是:在 1000 对象中 13 个彻底失败,7.7% 对象出现空流,而双体积仅 1.5%,且每步成本多一半。
They fail outright on 13 13 of 1000 1000 objects where two volumes never do, and they leave a stream empty on 7.7 % 7.7\% of objects against 1.5 % 1.5\% , so a third of the capacity idles on one object in thirteen while every step costs half again as much.
-
不相交惩罚在阶段 1 占位输出上把跨体积重叠中位数从 0.229 降到 0.184,把重叠超 0.5 的对象占比从 17.2% 降到 14.4%。
Over 250 250 held-out objects scored at the Stage-1 occupancy, the term lowers the median cross-volume overlap from 0.229 0.229 to 0.184 0.184 , and it lowers the fraction of objects in which one volume largely duplicates the other, overlap above 0.5 0.5 , from 17.2 % 17.2\% to 14.4 % 14.4\% .
-
重标记后处理把连通分量数从 14.06 降到 5.43(真值 5.85),并提升 mIoU_P 与 F1_P^0.05。
This trick cuts the component count from 14.06 14.06 to 5.43 5.43 against 5.85 5.85 in the ground truth and improves mIoU P and F1 0.05 P {}_{P}^{0.05} .
-
更换 X-Part 前置生成器会使 F1_W^0.05 移动 0.035,说明该级联继承上游生成器的形状而非算力预算。
Swapping the model in front, by contrast, moves X-Part by 0.035 0.035 F1 0.05 W {}_{W}^{0.05} .
-
与同用打包但用 vecset/SDF 的 PartPacker 相比,KaiNinja 整对象 CD_W 为 0.0186 对 0.0390,部件 F1_P^0.05 为 0.692 对 0.492,CD_P 大 60% 以上。
On the whole object the gap is moderate (CD W 0.0390 0.0390 against 0.0186 0.0186 ), but on parts it is the widest in the table: F1 0.05 P {}_{P}^{0.05} 0.492 0.492 against 0.692 0.692 , with CD P more than 60 % 60\% larger.
⑤ 审稿人视角
Novelty:新颖性集中在三处。一是表示层论证:O-Voxel 每体素一张片的容量限制使单体积无法表示部件界面,故部件级扩展必须改表示,双体积打包是最小修正;这一论证清晰且此前未被用于 TRELLIS.2。二是把 PartPacker 的打包从 vecset/SDF 迁到骨干自身稀疏体素网格,并设计“fit-merge-warmup”与“注意力作用域分流”两个阶段不同的继承方案,使预训练先验损失最小。三是首次用智能体创作数据(Articraft-10K)训练三维生成模型,部件标签来自 authoring 而无标注噪声。不过双体积打包与贪心二染色本身源自 PartPacker,跨体积注意力、零初始化、分阶段 warmup 都是成熟继承技巧,架构层面增量性明显;“打包提升整对象保真度”是经验发现而非理论贡献,因此新颖性属中高、但非范式级创新。
Soundness:方法论证链路完整:从表示限制→双体积→接触图收缩→双流→训练顺序→后处理,每一步都有动机。训练三阶段专门针对三大分布鸿沟;消融覆盖体积数、惩罚项与后处理;在整对象、分源、泛化、外部基准四个层面评估;指标协议明确(匈牙利匹配、过/欠分割都计罚)。主要薄弱点:外部 HY3D-Bench 部件指标明显下滑,文章用“粒度”解释但未提供可验证的粒度校准实验;与 PartPacker 的比较混杂了语料差异,无法纯隔离表示因素;不相交惩罚在最终解码指标上与不惩罚几乎无差异,只在阶段 1 中位数上有效;主表无误差条,只有消融处提及配对 bootstrap;生成具有随机性而失败模式(空体积、重复整对象)被归因于继承先验,但缺少更系统的稳定性统计。整体属扎实但留有未闭合的经验问题。
Significance:实际意义高:部件级原生生成是编辑、绑定、仿真、复用的关键入口;方法保留速度、开放曲面、UV、材质与 PBR,且无分割器/掩码/框在关键路径上。继承式扩展 recipe 对后续整对象骨干有可迁移价值,“表示层必须改”的论证也对 O-Voxel 类表示有警示意义。用智能体创作数据训练生成模型开辟了低成本、高质量部件监督的数据路线。局限是两体积假设与随机分解,限制了密集互锁对象与需要精确可控部件数的下游场景;外部基准上的部件粒度错配说明其对标注习惯敏感。总体是对原生 3D 生成向部件级推进的有意义一步,但尚未形成通用部件级范式。
⑥ 局限与保留意见
一是继承 PartPacker 的两体积假设:接触图远非二部时需合并部件直到二色,密集互锁对象会被欠分割;部件质量依赖语料每部件标注。二是随机性:分解随种子变化。三是三种复现失败模式:layout flow 欠分割(几乎整对象进一体积、少量小部件在另一体积,拥挤体积内接触部件融合,因为单体积内无信号区分);完全塌缩到一体积、另一体积为空;相反地整对象在两个体积各生成一份,拼装结果带两套近乎重合副本,被部件指标读成许多碎片。阶段间合并对薄壳漏检,不相交惩罚只缓解不根治。作者将这些读作继承限制:预训练权重由未分割对象塑造,没有信号要求均衡分裂或阻止两流收敛到同一曲面;从零用打包体积训练可检验但算力/数据超范围。四是 Stage-2 解码器偶发掉片留孔,发布管线仍做轻量几何清理。五是外部 HY3D-Bench 部件指标不领先、mIoU 第四,粒度错配未解决。六是与 PartPacker 比较受语料差异混淆,贪心收缩无最优性,主表无误差条,不相交惩罚最终收益有限。
⑦ 值得跟进
可跟进的方向:一是突破两体积,因接触图色数无界,探索自适应体积数或“断开接触+位移预测+重装”的删边路线,缓解密集互锁欠分割。二是显式控制部件数与粒度(条件信号或可控聚类),减少外部基准的粒度错配。三是学习重装分离部件、预测关节与装配关系,直接服务绑定与仿真。四是把同一继承 recipe 应用于未来整对象骨干,形成通用部件级扩展模板。五是从零在打包体积上预训练以检验“继承限制”假设,需更多算力与数据。六是系统研究为什么双体积打包提升整对象保真度:是否等价于更好的表面表示或正则。七是评估部件级 PBR/材质/UV 质量与部件间接触一致性,并定义标准化部件匹配协议以替代各方法自定协议。八是扩大智能体创作数据规模与多样性,考察其作为部件监督来源的上限与偏差。九是稳定性改进:加入平衡先验或正则防止空体积与重复整对象,同时不牺牲继承。