OSWorld2.0: Benchmarking Computer Use Agents on Long-Horizon Real-World Tasks
OSWorld 2.0:面向长周期真实任务的计算机使用智能体基准测试
🧭 长周期多步骤Agent评测基准
XLANG Lab
提出108个长周期真实工作流基准,暴露前沿智能体在约束追踪、流式交互与隐含状态推理上的严重不足
📌 工作参考价值(4 点)
- 长周期、多步骤的Agent评测设计:可借鉴其构建包含动态环境变化、用户中途改需求、跨源信息整合的评测用例,用于压力测试推荐或对话Agent在实际业务流程中的稳定性。
- 强调隐含状态追踪与跨源推理:推荐Agent常需结合用户历史、实时上下文和外部知识,可专门设计评测环节检验Agent是否具备“从历史中恢复隐含约束”的能力,避免遗漏关键条件。
- 安全审计视角:引入任务执行后的安全合规检查(如越权操作、隐私泄露),对面向用户的电商Agent有直接借鉴意义,可在上线前自动化审计高风险操作。
- 工程启示:智能体在长流程中容易丢失约束、跳过验证,提示我们需要在工程实现中增加显式的状态摘要、中间检查点和响应性用户询问机制,而非仅依赖模型自身记忆。