Do Agent Optimizers Compound? A Continual-Learning Evaluation on Terminal-Bench 2.0
代理优化器增益能否复合?基于 Terminal-Bench 2.0 的持续学习评估
🧭 Agent 持续优化与回归感知搜索 ★ 深度解读
RELAI.ai
两阶段持续学习协议揭示:仅回归感知的优化器 RELAI‑VCL 能同时实现正向迁移与二次提升,终身平均通过率达 76.4%
📌 工作参考价值(4 点)
- 在 Agent 自优化流水线中强制回归控制:每次接受候选更新前,校验其在已解决任务上的表现,拒绝退步的更新。不要等到部署后才回滚。
- 用两阶段评价暴露过拟合与停滞:开发阶段应采用“静态优化 → 迁移到新任务 → 二次优化”的协议,避免仅凭单阶段 benchmark 分数被误导。
- 作为隐式泛化过滤器的回归约束:回归感知搜索会自然排斥仅针对当前任务集的捷径,因此对未见任务有更好的迁移性,这对于推荐/搜索 agent 的 prompt 或工具链优化尤其有益。
- 工程实现时可参考 RELAI‑VCL 的思路:在 agent 框架中内置一个任务类型分类器与完成前的一致性检查门,无需硬编码任务样本即可提升鲁棒性。