AgentOPSD: Recursive Self-Distillation for Agentic Reinforcement Learning
AgentOPSD：通过递归自蒸馏为多轮Agent提供回合级信用分配
🧭 Agent 多轮交互的回合级信用分配 ★ 深度解读
清华大学 · 浙江大学 · 美团
将自蒸馏的token级log概率差聚合成信念状态，通过贝叶斯递归更新定位关键回合，重塑轨迹级优势函数
📌 工作参考价值（4 点）
- Agent RL 训练的信用分配：电商/搜索 Agent 的任务往往多轮交互（多步检索、筛选、比较），轨迹级奖励广播会模糊关键动作。AgentOPSD 的递归信念更新提供了一种轻量替代方案：无需训练额外 critic，仅通过自蒸馏的 token 级 log 概率差来估计每个动作对最终结果的贡献，可迁移到商品搜索 Agent 或对话式推荐 Agent 的强化学习微调中。
- 自蒸馏信号的利用方式：论文演示了如何将自蒸馏的 log 概率差转化为“证据”，并用于贝叶斯更新而非直接作为损失或缩放因子。在电商 Agent 中，业务特征（如用户停留、点击等）常作为特权信息仅在训练时可用，可仿照此思路构建 teacher 分支，生成回合级证据并根据信念变化幅度动态调整优势权重，提升样本效率。
- 多轮对话/交互的鲁棒性：AgentOPSD 在长 horizon 任务上优势显著，且超参数不敏感（λ 除外）。对于广告多轮出价或多步推荐场景，该方法的衰减累积机制和基于信念状态饱和度的自适应门控（B(1−B)）同样适用，可避免早期冗余动作的噪声干扰，同时稳定训练。
- 工程实现友好：仅需一次额外 teacher 前向传播，无额外 rollout 或 critic 网络，可直接嵌入 GRPO 训练循环。对于已有 GRPO 流程的团队，迁移成本低；且开箱即用的超参数（λ=0.5, γ=0.95）提供了直接参考。