When KL Regularization Misfires in Group Policy Optimization
当 KL 正则化在群体策略优化中失灵时
🧭 RLHF/GRPO 训练稳定性优化
Alibaba Group
系统分析 GRPO 中参考 KL 与奖励交互的七种失效模式，提出条件 KL 标定组内奖励系数的 ZCPO
📌 工作参考价值（4 点）
- 在电商/广告/Agent 场景用 GRPO 类方法做 LLM 策略优化时，若显式 reference KL 导致奖励收敛慢或指标波动，可尝试去掉 KL 项或改用条件 KL 只用在校准组内奖励系数，而非独立正则项。
- 对于文案生成、搜索词推荐等变长输出任务，注意 KL 会随 response length 增长且可能集中在少数 token，造成长度偏置；可考虑 per-token 或条件归一化，避免长文本被过度惩罚。
- 当组内样本 reward 相同或梯度取消时，独立 KL 梯度不会完全抵消，仍会推动策略漂移；可在组内 reward 方差接近 0 时关闭 KL 更新，或采用 ZCPO 式相对漂移标定。
- 将 KL 估计直接加入 reward 会引入采样噪声，建议分离 KL 估计与 reward 计算，并使用更稳健的组内相对校准系数。