TRIAGE: Role-Typed Credit Assignment for Agentic Reinforcement Learning
TRIAGE:面向智能体强化学习的角色类型化信用分配
🧭 Agent 角色条件信用分配
LinkedIn Corporation · Harvard University · Johns Hopkins University
用角色标签(进展/探索/倒退)修正结果奖励,降低策略梯度方差,提升成功率与效率
📌 工作参考价值(4 点)
- 在对话推荐、搜索导航等智能体训练中,用结构化判断器对轨迹片段打角色标签(决定性进展、有用探索、无进展基础动作、倒退),通过固定奖励映射(如探索给+0.2,倒退给-0.5)注入片段级过程奖励,直接纠正 GRPO 的结果监督偏差,无需训练价值模型。
- 即使任务失败,也可对探索行为给予小额正奖励,防止 GRPO 因统一惩罚而抑制智能体尝试新动作,从而在复杂交互环境(如商品搜索、多步决策)中维持探索。
- 重点检测成功轨迹内的倒退动作(如重复点击、无效页面回退),并施加惩罚,能使策略学会更短路径完成任务,在实验中成功轨迹轮次额外减少约 10-15%,可直接用于优化电商智能体效率。
- 该方法不需要学习奖励模型,只需一个可靠的角色分类器(可用 LLM 实现),工程成本低,适合快速集成到现有 GRPO 训练流程中。