Look Before You Leap: Autonomous Exploration for LLM Agents
先看再跳:LLM Agent 的自主环境探索能力训练
🧭 LLM Agent 自主探索能力训练与评估 ★ 深度解读
University of Science and Technology of China · Meituan
通过 ECC 指标和交错 GRPO 训练,显式培养 LLM Agent 在陌生环境中的主动探索能力,显著改善下游任务表现。
📌 工作参考价值(4 点)
- 探索-利用分离范式可迁移至电商场景:agent 在接单前先自主探索商品状态、接口参数或用户偏好,获取结构化知识后执行推荐/购物任务,提升动态环境的适配性。
- 用 ECC 量化领域探索度:为电商或工具 Agent 定义关键产品、属性、API 返回等“探索检查点”,像本文计算覆盖率,可客观评价 agent 对业务环境的理解程度,避免依赖模糊的成功率。
- 交错训练平衡探索与任务优化:采用 GRPO 交替优化探索奖励(覆盖度)与任务奖励(转化/收益),可训练出既会收集信息又能完成目标的 agent,比纯任务 RL 更鲁棒。
- 鲁棒性增强可用于生成式推荐:环境扰动(如物品库存变化)时,让 agent 先探索再决策,类似事前信息采集,可减少因过拟合静态知识导致的错误推荐,提升在线适应力。