Learning When to Think: Adaptive Reasoning for Test-Time Compute Allocation
学习何时思考：面向测试时计算分配的自适应推理
🧭 LLM 自适应推理 · GRPO 自路由 ★ 深度解读
Vrije Universiteit Amsterdam
1.5B 蒸馏推理模型在 GRPO 内学会用首个 token 自路由 NoThink/Short/Long 三模式，平均响应长度减少 41% 且保持精度-长度帕累托前沿
📌 工作参考价值（4 点）
- 在电商搜索 query 理解、推荐解释、智能客服等 LLM 推理服务中，可部署“首个 token 路由”让主模型自行选择 NoThink/Short/Long，无需额外 router 网络；简单流量占多数时可节省 50%+ 推理成本，精度损失极小。
- 训练多模式策略时，用硬 token cap 把路由标签与行为绑定：给短模式设 1024/3000 上限，超过即判错，防止模型选短模式却输出长链，同时保留 Long 模式处理难题。
- 在 GRPO 中加入负载平衡项防止模式坍塌：advantage 里加 β_bal*(p* - f_mode)，并做非对称门控——只惩罚错误过载模式的 rollout、只奖励正确欠载模式，不破坏正确样本梯度。
- 先离线分析业务任务难度分布再上路由；若难度同质（如 Countdown 负例），路由学不到价值差距，会坍塌为单一模式。