Search, Fail, Recover: A Training Framework for Correction-Aware Reasoning
搜索，失败，恢复：面向纠错意识推理的训练框架
🧭 验证器引导的搜索与显式回溯训练 ★ 深度解读
Innopolis University · Lomonosov Moscow State University · AXXX
提出Pyligent，利用验证器标记失败分支并显式训练回溯，让小型LLM学会从延迟错误中恢复推理
📌 工作参考价值（4 点）
- 显式引入回溯动作与失败监督：在多步推理Agent（如对话式商品搜索、多轮筛选）中，可定义<backtrack>动作，利用业务规则作为验证器，将失败路径转化为监督信号，训练模型何时撤回错误分支。
- 逆课程学习策略：从接近完成的前缀开始探索，逐步向任务起点扩展，可降低早期训练难度，适用于需要多步试错的推荐对话或规划场景。
- 失败分支的简短摘要（trace）：回溯后注入失败原因摘要，帮助模型复用失败信息，避免重复错误，可在提示工程中用于记忆管理。
- 区分回溯质量指标：定义invalid/valid/correct/perfect回溯等级，评估模型是否回到正确的恢复点，这一评估方式可迁移到Agent策略评估中，衡量纠错精度而非仅看成功率。