CHI-Bench: Can AI Agents Automate End-to-End, Long-Horizon, Policy-Rich Healthcare Workflows?
CHI-Bench：AI 代理能否自动化策略密集、长周期的医疗工作流？
🧭 面向策略密集长周期工作流的 Agent 评估
actA V A.ai · Johns Hopkins Medicine · Wellstar Health System · Stanford University · CMU
构建首个评估 AI 代理端到端自动化多角色、高策略密度医疗运营工作流的基准，当前最优方案仅完成 28% 任务。
📌 工作参考价值（4 点）
- 多角色与策略密集工作流设计：在电商客服、售后纠纷、供应链协调等多角色交互场景中，可借鉴 χ-Bench 的“指令-技能书-多 MCP 工具”架构，将企业内部业务规则编码为可被 Agent 调用的知识库与工具集，构建更贴近真实业务的长周期任务评估。
- 长周期任务性能退化警示：实验表明单会话连续执行所有任务时成功率骤降至 3.8%，提示在电商推荐或订单处理 Agent 的部署中，需设计会话状态持久化、记忆压缩或子任务分拆等机制来对抗长上下文下的性能衰减。
- 工具集成与标准化 MCP 接口：基准中 87 个工具通过 MCP 服务器暴露，为电商/推荐系统 Agent 集成复杂的业务 API（如商品搜索、营销规则引擎、物流查询）提供了工程参考，可复用其工具描述模式，降低 Agent 与异构系统的对接成本。
- 严格多级评估准则（pass³）：对于生成式推荐、Agent 辅助决策等对可靠性要求高的场景，可以引入 χ-Bench 的多维度通过标准（如轨迹正确性、产出文档质量、最终结果），避免单指标乐观估计，更真实反映 Agent 在不可逆业务操作中的可靠性。