Scoring Higher, Answering Worse: Mitigating Reward Hacking in Rubric-Based RL via Protocol-Level Rubrics
分数更高，回答更差：用协议级评分准则缓解 Rubric-RL 的奖励黑客
🧭 RL 奖励聚合 · rubric 设计
Beijing University of Posts and Telecommunications · ByteDance
发现 Rubric-RL 加权求和奖励造成准则间补偿，提出按协议级维度合取聚合的 ProRubric，关键指标提升 10.8 点
📌 工作参考价值（4 点）
- 在电商/Agent 场景用 rubric-based reward（如评估对话质量、商品推荐理由、query 改写）时，不要在 criteria 级别做加权求和，否则模型会靠堆砌次要建议刷分，牺牲关键动作；可把 checklist 离线分组为合取维度，组内全部满足才给分。
- 如果业务已有规则/奖励维度很多，ProRubric 的改动只在奖励聚合层，不碰优化器和 prompt，可低成本接入现有 PPO/GRPO 流程，尤其适合需要硬性约束的生成任务。
- 对 LLM-as-judge 打分，警惕 additive aggregation 带来的 proxy-utility divergence；可加 failure clause 或让关键维度一票否决，避免“分数上涨但真实指标下跌”。
- 在生成式推荐或 Agent 决策中，优先保证“必须做对的一步”不被补偿掉，而不是单纯追求 rubric coverage。