Strategically Diverse Sampling for Self-Training
自训练中的策略多样性采样方法
🧭 LLM 自训练数据构建与采样
School of Informatics, University of Edinburgh
提出策略多样性采样，证明解法多样性比正确性和教师规模对自训练更关键
📌 工作参考价值（4 点）
- 构建 SFT/蒸馏数据时不要只按正确性过滤，可以先用模型生成多个高层策略（例如基于价格、用户画像、场景），再展开成完整轨迹，避免同一策略的表面变体；在电商训练 LLM 生成推荐理由、query 改写或 Agent 规划时，能显著提升困难 case 上的泛化。
- 错误但多样的轨迹也有价值：如果缺乏大规模教师标注，可以用小模型自己采样并保留多样化的错误中间步骤，经过筛选或与正确样本混合训练，可能比直接蒸馏大模型更有效，降低 API 成本。
- 对 RLHF/GRPO 在线采样，策略多样性原则说明仅靠提高温度不够，需要显式鼓励策略分支；可以在 reward 中加入策略多样性项，或在 prompt 中要求给出多种解法，提升 rollout 组的信息量。
- 在生成式推荐中构建 Semantic ID 或多路径推理数据时，可将策略多样性作为数据增强与负样本构造的指导思想。