Model or Harness? An Interaction-Centric Taxonomy for Localizing Agent Failures
以交互为中心的Agent失败分类法:定位故障源与修复责任
🧭 交互为中心的Agent失败诊断
Scale AI
提出基于组件交互边的Agent失败分类法,41种模式指定故障方,使评估直接指向可修复组件
📌 工作参考价值(4 点)
- 在构建电商搜索/推荐多智能体系统时,可借鉴交互图建模,将失败归因到具体组件交互边(如LLM↔工具、LLM↔记忆),避免笼统的“模型不好”结论,精准指导是微调模型还是修复脚手架。
- 使用分类法指导Agent评估框架设计,标注失败时区分模型侧、工具侧、环境侧,确保改进资源投向正确组件。
- 可自研类似的离线失败分析流程:对Agent日志轨迹按交互边分类失败模式,生成故障热力图,辅助迭代优化。
- 利用LLM作为评判器自动分类失败,实现监控告警的细粒度归因,降低人工分析成本(论文验证强法官κ=0.76,可复现性高)。