What Does Privileged Information Add to On-Policy Self-Distillation?
特权信息在在线策略自蒸馏中究竟增加了什么？
🧭 训练方法 · 自蒸馏与特权信息
National University of Singapore
系统分离自蒸馏与特权参考的贡献，发现特权信息仅带来有限增益，核心机制是跨模式能力转移
📌 工作参考价值（4 点）
- 蒸馏目标设计：在电商/搜索的 LLM 自我蒸馏中，不必过度追求“教师看到完整推理/用户行为解释”的特权信息；无参考的蒸馏目标（只用问题-答案对）就能激活大部分跨模式迁移，可显著降低数据标注与构造复杂度。
- 学生生成模式：训练时学生的 rollout 模式应与评估模式一致，例如用短直接回答而非长思维链作为训练样本，否则收益可能反转为损失；这提示生成式推荐或 QueryRec 蒸馏时，训练样本的生成风格需匹配线上推理风格。
- Token-level 监督的敏感性：改变 token 级别的损失干预（如不同 mask 策略）可能对模型最终行为影响很小，实际调参时可将精力集中在宏观目标与数据分布上，而非逐 token 细节。
- 跨模式能力共享：参数共享使直接回答与思考回答的能力可相互迁移，OPSD 是低成本激活已有推理能力的有效手段，适用于资源受限的推荐/广告文案生成模型升级。