Back to the Definition: Estimating Step-Level Advantages via Trajectory Graphs for Agentic Reinforcement Learning
基于轨迹图的逐步优势估计用于 Agent 强化学习
🧭 Agentic RL 的 step-level 信用分配 ★ 深度解读
Shanghai Jiao Tong University · Tencent AI Platform Department
用轨迹图合并多条 rollout，以 Bellman 迭代反传稀疏奖励估计状态价值，得到符合 RL 定义的 step-level advantage
📌 工作参考价值（4 点）
- 无 PRM 的步骤级信用分配：把同一 prompt 下的多条 rollout 按状态合并成有向图，用终端奖励做 Bellman 反向迭代估计节点价值，得到 step advantage。适合多轮对话/任务型 agent 只有结局奖励（成功/失败）的场景，不需要额外 step reward 标注或 critic 模型。
- 状态 canonicalization 可复用：对 LLM 生成的中间状态用 exact matching 或 embedding 相似度聚类，解决语义相同但文本不同的问题。电商搜索 agent、多轮推荐对话中，可以把用户状态和系统动作序列映射为图节点，聚合跨轨迹的相似状态。
- Graph GAE + on-state group norm 稳定训练：用图上的 GAE 加权多跳 TD residual 降低 value estimation bias；按同一源节点的出边做 group normalization。这两个 trick 对稀疏奖励下的策略梯度方差控制有直接借鉴价值，可嵌入现有 GRPO 类训练框架。
- 步骤级重要性比匹配优势粒度：GRPO-C 用 step 级（或序列级）geometric mean importance ratio 替代 token 级分配，避免 response-level advantage 被错误均匀分配给每个 token。若你在做多轮交互的策略优化，建议把 action 定义为“一步回复/一次工具调用”而不是 token，更新时用步骤级 likelihood ratio。