Multi-Teacher Reasoning Distillation for LLM Recommendation with Self-Exploration
面向 LLM 推荐的多教师推理蒸馏与自探索框架 MUSE
🧭 推理增强推荐 · 多教师蒸馏 ★ 深度解读
The Hong Kong Polytechnic University · Nanyang Technological University
MUSE 构建多教师+学生自探索候选池，用 Rank-Gain 效用筛选并对比蒸馏，让 LLM 推荐器学到真正有益的偏好推理
📌 工作参考价值（4 点）
- 用下游排名收益做无标注推理筛选：RGUA 直接以 ground-truth item 的全库排名提升作为推理轨迹效用，避免人工标注，很适合电商/广告中大量交互日志。工程上只需轻量 encoder 算候选 rank，不必引入 LLM evaluator，成本低。
- 多教师 + 学生自探索的候选池设计：先让多个 teacher LLM 生成候选，再随训练逐步增加学生采样数量，让模型逐渐摆脱 teacher 知识上限。业务中可对重要用户/类目建立多 LLM 候选池，用 ranking 指标筛选后再蒸馏。
- 双对比损失解耦“生成”和“利用”：ConDistill 让 generator 拉开高/低效用推理的 likelihood；ConUtil 让 encoder 强制在好推理下比坏推理更接近目标 item，防止模型只依赖历史行为而忽略推理信号。该思路可迁移到多任务推荐排序中，用对比目标强化特征利用。
- 训练与推理效率可复用：teacher 推理预生成并缓存，推理时只需 student 单次生成，vLLM 延迟与 R2ec 相当；业务可离线跑多教师，在线保持轻量。