Reliability-Weighted Direct Preference Optimization: Penalized Weights for Robust Preference Learning
可靠性加权直接偏好优化：鲁棒偏好学习的惩罚权重方法
🧭 偏好学习 · 鲁棒 DPO
School of Data Science and Analytics, Kennesaw State University
在 DPO 中为每个比较样本引入可学习可靠性权重，自动降权翻转/噪声偏好，几乎无额外计算成本
📌 工作参考价值（4 点）
- 直接用于 LLM 推荐/排序模型的偏好微调：电商场景的用户行为（点击、点赞、下单）常含噪声甚至反转，RW-DPO 的权重估计与策略联合优化可自动降权可疑样本，工程实现只需在 DPO loss 中加一个惩罚项和闭式权重更新，几乎不增加训练成本。
- 容忍标注噪声，减少人工清洗：实验显示在 10-30% 翻转标签下，RW-DPO 的 win rate 不随翻转率上升而下降，甚至超过干净标签 DPO，说明面对隐式反馈数据不必先花大量资源清洗，可直接训练。
- 利用 margin 阈值识别翻转样本：理论证明恢复所有翻转比较需要 margins 约 log n，可据此设计样本检查策略：优先审查模型与其高置信度预测矛盾且 margin 较大的比较对，辅助数据质检。
- 与其他噪声校正方法对比的启示：RW-DPO 的误报标志更少、估计误差更低，可作为 RLHF 训练中鲁棒偏好建模的基线方案，适合需要快速验证鲁棒性的团队。