Intrinsic Selection and Particle Resampling for Inference-Time Scaling Beyond Domain Verifiability
基于内在熵与粒子重采样的免验验证推理时扩展
🧭 推理时扩展 · 内在熵选择与粒子滤波 ★ 深度解读
Red Hat · MIT · IBM
利用样本集的内在尾部熵统计来选择和引导生成，无需外部奖励模型即可实现跨领域推理时扩展。
📌 工作参考价值（4 点）
- 推荐/Agent输出的无奖励模型排序：iS 利用生成样本的尾部熵中位数进行候选排序，不依赖任何外部解析器或奖励模型，可直接用于 Agent 多轮规划或推荐结果的二次筛选。
- 多步推理的步级重采样：iPF 用 token 熵作为伪观察似然，在推理过程中动态重采样粒子，将计算集中在高置信度轨迹上，适用于困难问题的 Agent 推理树搜索，可减少无效探索。
- 特权信息蒸馏以引导约束遵循：dPF 通过 logit 混合和 KL 引导的重采样，将规则、提示等特权信息注入生成过程，可在电商广告文案生成、合规性要求高的场景中替代昂贵的奖励模型微调。
- 难度自适应路由：利用初始样本集的熵统计自动判定问题难度，为简单任务立即用 iS 选优，难题则动态路由到 iPF 或 dPF，可落地为 Agent 工作流中的动态预算分配策略。