RLVR 无免费午餐：pass@1 提升必付 pass@k 代价
🧭 RLVR 训练中 pass@1 与 pass@k 权衡
用定理证明 RLVR 中 pass@1 增益必然伴随 pass@k 下降，并给出精确权衡边界与诊断方法
📌 工作参考价值（4 点）
- 在电商/搜索/推荐中用 RLVR 微调 LLM 生成式召回、query 推荐或 Agent 策略时，不能只看 top-1 命中或 pass@1：pass@1 显著提升可能以牺牲 pass@k 覆盖率、多样性和长尾生成为代价，必须同时监控 pass@k 或候选多样性指标。
- 论文提供的诊断方法（从 eval log 读 pass@1-pass@k 前沿、order-preserving test、price）可直接迁移到线上 AB：评估生成式推荐/搜索改写模型的 exploration-exploitation 权衡，避免只优化单点指标。
- 熵崩溃结论提醒：RL 微调后生成多样性会塌缩，电商文案、push 消息、搜索 query 生成需要加熵正则或约束，防止生成同质化候选影响后续排序与多样性。
- 多 prompt/多任务联合优化时注意“独家专业化”现象：提升某些 query 模板或类目的生成成功率可能损害另一些，需按 prompt/类目分层监控并设置约束。
直接优化 Pass@k 的思维剪枝：平衡测试时推理的质量与多样性
🧭 LLM 推理剪枝 · pass@k 优化
University of Southern California
直接优化所选候选池的 pass@k，让质量与多样性在剪枝中自动平衡，超越现有策略
📌 工作参考价值（4 点）
- 在搜索/推荐/QueryRec 中用 LLM 生成多个候选 query、文案或商品描述时，可将 pass@k 作为筛选目标：只保留能最大化「至少有一个成功」概率的子集，而不是单独按质量分或多样性筛选，减少冗余并提升最终命中率。
- 工程实现上，对每个生成前缀估计其最终成功的概率（可由模型 logprob 或轻量分类器给出），然后用联合概率选择子集，而非独立 top-k 截断；该思想可嵌入 beam search 或 MCTS 框架，用于 Agent 多步推理轨迹的早期剪枝。
- 结论显示保留中等数量候选时收益最明显，提示不要过度剪枝：当 LLM 生成大量候选时，仅保留前 1-2 个可能损害覆盖，适当保留 5-10 个候选再精排更优。
- 该方法不依赖特定模型，适用于任何可产出候选集的 LLM 场景，可直接用于消息推送选词、搜索 suggestion 的候选生成环节。
超越重复采样：学习用于LLM推理的搜索策略
🧭 LLM推理 · 可训练搜索策略 ★ 深度解读
Meta FAIR · Université Paris-Saclay · Inria · CNRS · NYU Courant Institute and CDS
用RL训练小型概念生成器作为大模型推理的搜索策略，在hard数学问题上pass@128翻倍并跨模型迁移
📌 工作参考价值（4 点）
- 推理时多样性不要只调 temperature/top-p，可以在 prompt 层注入多个高层概念、策略或意图，并用单轨迹批量生成，避免近重复采样；对应推荐/广告中可对同一 query 生成多个语义方向再分别生成候选文案或推荐理由。
- 训练小型 orchestrator/概念生成器作为黑盒或闭源大模型的搜索策略，RL 奖励直接来自下游大模型的 pass@k；max-of-mean 比 max-of-max 信息量更大、更稳定，适合作为奖励聚合方式。
- 训练成本主要在下游大模型 rollout 和 judge，可以用固定 judge 复用并离线采样；在业务中训练轻量 agent 来引导重模型探索，不必微调大模型，且学习到的策略可跨模型家族迁移。
- 实验设计要公平：基线必须使用高温度、高 top-p 的探索性解码，否则概念引导或策略提升的效果可能虚高；报告 pass@k 时要匹配相同的 answer generation 预算。
影响力导向蒸馏：解决采样令牌在线蒸馏中的多样性瓶颈
🧭 On-policy 蒸馏多样性保持
BiliBili.Inc · University of North Carolina at Chapel Hill · University of Science and Technology of China · Shanghai University of Finance and Economics
提出 IDA-OPD，用一阶局部熵影响力识别并替换熵收缩更新，仅靠采样令牌教师概率提升 pass@k 并保持 pass@1
📌 工作参考价值（4 点）
- 在蒸馏小模型做生成任务时（如 query 推荐、商品描述、广告文案），不要只盯 pass@1；引入 pass@k 监控多样性继承，避免蒸馏后输出同质化。
- 可以低成本复用 IDA-OPD 思想：用教师仅对采样 token 的 log-prob 做更新，通过一阶局部熵影响力判断更新是否压缩熵，对熵收缩更新做自适应优势收缩，无需全词表教师 logits，适合线上资源受限的生成推荐场景。
- 若已有 on-policy 蒸馏流程，先用该影响力代理做离线诊断，定位哪些训练 step 导致多样性下降，再有针对性调整更新或数据混合，比盲目增加正则更高效。
- 在生成式推荐中，若要继承教师模型生成多样性（如多样商品标题、搜索联想词），可借鉴本文用符号一阶代理解耦教师-学生差距与学生局部概率结构的方法，快速识别负影响力位置。
弱模型引导提升 RLVR 中 LLM 探索
🧭 LLM 强化学习 · 探索增强
Wangxuan Institute of Computer Technology, Peking University · National Engineering Research Center of New Electronic Publishing Technologies
用弱模型生成部分推理前缀，强制主模型续写陌生路径，缓解 RLVR 熵坍塌并提升 pass@k
📌 工作参考价值（4 点）
- 在搜索/推荐场景用 RLVR 微调 LLM（如 query 改写、商品文案生成、可验证奖励排序决策）时，可引入弱模型前缀：用轻量模型生成部分推理或候选文本，由主模型续写，以提升生成多样性，适合需要多个候选解的生成式推荐与 Agent 决策。
- 对 pass@k 有要求的生成管道（多路 query 建议、多候选推荐解释），熵保持比单条平均奖励更重要；该方法无需额外 SFT 或复杂奖励设计，可直接复用现有粗排/轻量模型，工程成本低，作为训练阶段的即插即用探索增强。
- 多模型协同（粗排-精排、teacher-student、Agent 层级）可借鉴跨模型扰动思路：刻意用弱模型产生分布不一致的前缀，让强模型适应陌生输入，提高策略鲁棒性；需注意差异过大可能引入噪声，应调节前缀长度或来源模型。
- 若 RLVR 奖励可验证（点击、转化等），可设计外部前缀机制，避免主策略在高奖励模板上过拟合，扩大覆盖的推理路径。
QuasiMoTTo：准蒙特卡洛测试时扩展
🧭 QMC 相关采样 · 推理与RL 样本效率 ★ 深度解读
Stanford University
用准蒙特卡洛相关采样替代独立采样，推理与RL训练中样本效率提升25-50%
📌 工作参考价值（4 点）
- 在推荐排序/agent 推理的 beam search 或并行采样中，可用 lattice QMC 生成更均匀覆盖的候选集，减少冗余生成，维持每条候选的边缘分布不变（即仍是原策略的准确样本），从而在相同成本下提升 recall 或 pass@k。
- 在策略梯度训练（如 GRPO）中，通过 QMC 采样提高组内样本多样性，可以降低零方差组的比例，增大有效梯度样本数，加速收敛；可尝试在广告竞价策略或推荐对话策略训练中引入。
- 算术编码的逆 CDF 采样方法本身实现了低 overhead 的并行生成，可复用到任何需要高效并行生成的场景（如搜索召回时的多条 query 改写）。
- 对于已有独立采样的系统，QMC 采样是几乎零成本的 drop-in 替换，仅需在 batch 生成前生成均匀随机数并传递给解码器，不改变模型推理逻辑。