DRACO: Fine-Grained Credit Assignment with Dynamic Rubrics for Long-Horizon Agent Training
DRACO：动态评分标准驱动的长程智能体细粒度信用分配
🧭 Agent 强化学习 · 步骤级信用分配 ★ 深度解读
Carnegie Mellon University · IBM Research
DRACO 在 outcome-blind 设定下动态生成轨迹级 rubric，并把单标量奖励闭式重分配到步骤级优势，用于长程工具智能体 GRPO 训练
📌 工作参考价值（4 点）
- 在没有程序化 verifier 的客服、策略执行等业务场景，可用动态 per-trajectory rubric 代替 ground-truth 成功信号：judge 根据任务指令和每组 rollout 生成 criteria，只保留组内有人失败的 criteria（discriminative dropout），并用 pass/(pass+fail) 得到 outcome-blind 奖励；避免静态 rubric 训练早期就饱和丧失区分度。
- 把 GRPO 的 trajectory-level advantage 按 judge 标注的 responsible steps 做闭式重分配：step quality Q_j=p_j/(p_j+f_j)，winner 加权 Q_j、loser 加权 1-Q_j，每个 step 的总贡献正比于 quality 而与 token 长度无关，sum 守恒且 sign 保持。这个方法不需要额外训练 attribution 模块，可直接迁移到长程 Agent RL 的步骤级信用分配。
- 成本敏感时可以用策略模型自己当 judge，配合 thinking enabled 和 k=3 一致投票，训练 judge 成本约降 5.1 倍（$1607→$316），仍接近或超过 verifier-trained 性能；分析表明 self-judge 的 lenient 错误比 strict 错误对 GRPO 更新危害小。
- 业务关注稳定完成率时，应报告 pass^k 而不仅是 pass@k：DRACO 的 TGC p3/p1 retention 明显高于 p1/pass@3，说明它主要提升重复尝试的成功一致性而非单纯发现能力。