需要搜索时搜索,可靠时继续:面向高效智能搜索的元认知可靠性监督
🧭 Agentic RAG 搜索决策强化学习 ★ 深度解读
Beijing Institute of Technology
用局部结论的序列不确定性估计可靠性,为搜索/不搜索决策构建过程奖励,在 GRPO 中提升搜索效率与准确率
📌 工作参考价值(4 点)
- 将局部结论的 sequence uncertainty 作为可靠性信号,可用于对话推荐/购物助手中判断模型对中间结论的自信程度,决定是否调用商品知识库、搜索或 RAG;无需额外标注,推理时零开销。
- 对“搜索/不搜索”决策分别设计 process reward:不搜索时奖励高于校准阈值的可靠性,搜索时奖励检索前后可靠性的增量,而非只看最终答案是否正确;这能直接迁移到 Agent 工具调用策略的强化学习训练。
- 用 matched probes 估计 counterfactual reliability change,可推广到其他工具调用:固定同一状态,比较有/无工具返回结果的可靠性差异,作为工具价值的无偏监督。
- 实验结果提供可复用结论:该策略在 single-hop 查询上减少约 20.9% 搜索调用,multi-hop 上增加 6.6%,说明可按问题复杂度动态分配检索/工具调用,适合电商搜索中查询类型分流的成本优化。
SelfSearch:自改进 Agent 的无奖励搜索
🧭 Agent 自我改进 · 无奖励搜索 ★ 深度解读
Graduate School of Data Science, Seoul National University
用历史自我改进轨迹取代下游评估信号,驱动 Agent 自我修改并提升任务成功率与执行效率
📌 工作参考价值(4 点)
- 可将业务 Agent(如广告文案、query 改写、选品分析)历次自我修改的 reasoning、工具调用、失败与代码变更沉淀为可检索经验库;在没有线上收益或频繁 A/B 的情况下,先低成本迭代 scaffolding,再少量验证。
- 工程上把 runtime 与可编辑 agent repository 分离,固定推理设置、资源预算和轨迹记录,适合电商/广告场景中安全地让 agent 修改工具和规划器,保证可回滚。
- 借鉴双 lineage + 共享 episode records:capability 方向专注新增可复用工具,adaptive 方向专注失败恢复,避免单一改进路径过拟合,对工作流自动演化尤其有用。
- 优先建设“面向自我调试的可复用工具”,如带输出上限的 text search、line-range file viewing、call/result 关联;这些工具既能提升任务解决,也会在后续自改进中被复用。
思考之前的思考:用元推理扩展智能体推理规模
🧭 Agent 元推理控制与 artifact graph ★ 深度解读
Meta Superintelligence Labs
将 Agent 的控制决策与目标级计算分离,用显式元推理管理 artifact 图、预算和 worker 调度,提升长程任务性能并随预算持续扩展
📌 工作参考价值(4 点)
- 把“控制”与“执行”拆开:在电商推荐/搜索的 Agent 流程中,不要让每个动作都携带完整历史;用轻量 controller state + 可检索 artifact memory,worker 只接收必要 context,能显著降低长上下文信息丢失,提高多步决策稳定性。
- 用 artifact graph 做系统诊断:记录每个中间候选/策略的依赖关系,将失败分解为 coverage(是否产生过正确结果)和 selection(是否选中),类似论文中的覆盖率和 frontier 选择增益,快速定位是召回/生成不足还是最终排序/选择错误。
- 做预算感知的元推理:在线上低延迟场景可以设置 model-call 预算,由 Evaluate 阶段判断剩余预算下每个候选动作的计算价值,小预算时自动关闭深层次控制;论文中低预算 crossover 现象说明元推理 overhead 对简单任务可能有害。
- 引入独立 controller verdict,而非只依赖 worker 自我置信:在推荐 Agent 中对生成结果做独立评估和打分,其排序信号往往比生成模型自报置信度更可靠,可用于最终候选选择。