后见之明特权 RLVR：免组采样的单次轨迹令牌信用分配
🧭 RLVR 单 rollout token 信用分配 ★ 深度解读
华南理工大学 · 清华大学 · 香港科技大学 · 华为2012实验室 · 深圳技术大学
用已验证轨迹的未来信息对单次 rollout 计算归一化 JSD token 权重，替代 GRPO 组采样，训练最高提速 2.30 倍
📌 工作参考价值（4 点）
- 对交互成本高、rollout 贵的电商 Agent（如导购、多步搜索、谈判）可尝试 HP-RLVR 的单 rollout 方案替代 GRPO：rollout 量降至 1/8，适合模拟器或真实用户反馈昂贵的场景。
- 工程实现上无需额外 critic 或 reference model，只需用同一 frozen policy 做两次前向：因果视图与加入未来+verifier 反馈的 hindsight 视图；verifier 结果渲染成文本 outcome descriptor，可直接复用现有推理路径。
- 落地时建议监控 zero gradient records 与同质 reward group 比例：GRPO 在稀疏 reward 下大量梯度为零，HP-RLVR 可以避免该问题，但历史 baseline 引入偏倚，需结合任务小规模 paired run 验证。
- 注意该方法的精度 tradeoff 是任务相关的：数学任务占优，代码与 ALFWorld 低于 GRPO；业务侧不能默认单 rollout credit 一定更好，应先在小流量任务上对比 best checkpoint 与完整训练耗时。
AUSO：从技能内部化到利用的动作级统一技能优化
🧭 Agent RL · 技能内部化与利用 ★ 深度解读
University of Science and Technology of China · University of New South Wales · Independent Researcher · University of Chinese Academy of Sciences · Xi'an Jiaotong-Liverpool University
用 JSD 度量技能对策略动作分布的影响，以动作级信号重加权 GRPO，将技能从外部监督渐进转为按动作收益利用，提升 Agent 泛化
📌 工作参考价值（4 点）
- 用动作级 skill sensitivity 替代轨迹级 skill routing：在电商导购/搜索 Agent 中，检索到的商品知识、query 改写策略或用户记忆通常整条 trajectory 统一使用。可以仿照 AUSO，在同一个 visited state 分别计算“有技能/无技能”的策略分布，用 JSD 得到动作级 sensitivity，再乘 GRPO advantage；只加强有利动作、抑制被技能干扰的动作，且不改变 advantage 符号。
- 对 reward 稀疏、全失败组失效问题，可仅对 success rate=0 的任务组加入 skill-conditioned teacher JSD loss，并用 ramp-up + smooth-decay 退火。这比一直加蒸馏更稳，能让 Agent 从专家技能中恢复而不过度依赖外部监督。
- 在二元成功/失败的 rollout group 中，引入 p(1-p) uncertainty gate 控制动作级 credit assignment；全成功或全失败时门控趋近 0，避免无信息差异的动作被错误加权。该轻量 trick 可直接嵌入现有 GRPO 流程。
- 课程式阶段划分 2:5:3（内部化/探索/利用）可迁移到业务 Agent post-training：先蒸馏已有专家或策略知识，再做自主 RL，最后自适应利用外部工具/skill，尤其对 OOD 流量收益明显。