Chain-of-Procedure: Hierarchical Visual-Language Reasoning for Procedural QA
面向视觉过程问答的分层推理框架与基准
🧭 视觉过程问答 · 多模态分层推理
提出ProcedureVQA基准和CoP层次推理框架,通过先检索后细化的方式增强VLM的过程推理能力
📌 工作参考价值(4 点)
- Agent 多步决策借鉴:CoP 的“先粗粒度检索 → 细粒度步骤分解”架构可直接用于电商场景的过程式 Agent,如根据订单状态图片自动检索售后退款流程并定位下一步操作。
- 多模态 RAG 实现:利用视觉线索检索结构化过程知识库的方法,能迁移到商品手册、安装教程的智能问答系统,通过图像匹配相关文档段落再生成答案。
- 数据构建思路:ProcedureVQA 的构建方式可用于内部评测 Agent 的多模态过程推理能力,暴露模型在细粒度跨模态对齐上的短板。
- 流程优化 trick:CoP 的语义分解模块对于长文本步骤的细化,可用于将用户粗糙的意图(如“退货”)分解为可执行的子步骤,提升推荐或客服 Agent 的指令可操作性。