From Evidence to Action: How Tool-Using Agents Fail
从证据到行动：工具型智能体如何失败
🧭 工具使用 Agent · 证据链评估 ★ 深度解读
National University of Singapore · Hong Kong Baptist University · Amazon Web Services · Princeton University
提出 SAFEACTBENCH，用确定性轨迹评估定位工具型智能体在证据建立、动作执行与依赖传播中的失败点
📌 工作参考价值（4 点）
- 在电商/客服等有状态操作（退款、订单修改、营销 push）上线前，可引入 确定性证据链检查器：对每个副作用动作，验证其前置证据是否已通过工具调用建立，并绑定到正确的实体和当前状态，避免只看最终结果；不要用 LLM judge，用可重放的规则判断。
- 分离 静态决策与交互执行 的监控：静态判断准确率（Legacy）可能很高，但交互执行暴露过早行动（PAR）与调查未完成（BSR）等失败模式；建议在回归测试中持续追踪这些指标，尤其多步工作流。
- 多步 Agent 工作流中显式建模 动作依赖 DAG，要求下游必须使用前置动作实际返回的字段（如 refund_id），不能使用相似值或其他实体结果；在测试集中加入 withheld/contradicted evidence 场景，验证 agent 是否仍坚持无证据行动。
- 证据缺失时，仅增加检索次数不一定会提高行动克制；requester 明确声明“已检查” 比直接提供证据包更能降低无证据行动概率，提示业务中需警惕 agent 对声明的过度信任。