Evidence-Backed Video Question Answering
证据驱动的视频问答:从文本答案到时空分割掩码的联合输出
🧭 视频理解与可解释性 · 时空证据接地
Salesforce · Brown University
提出 E-VQA 任务,要求模型同时输出语义答案与精确时空证据(时间段+稠密分割掩码),并构建基准与数据集以弥合推理与细粒度接地的鸿沟
📌 工作参考价值(4 点)
- 可解释推荐中的证据输出范式:将推荐结果与细粒度证据(如关键帧、区域掩码)绑定,可迁移到商品视频理解、直播切片解释等场景,增强推荐理由的可信度。
- 自动标注流水线放大稀缺数据:借鉴论文的 scalable 生成 pipeline(概念识别→掩码获取→跟踪→QA 对生成),可在电商领域自动构造大量带有空间 grounding 的商品描述与对比问答,降低人工标注成本。
- 统一视觉接地与文本生成的模型架构:微调 Video LLM 使其输出时空掩码 token,为电商多模态 Agent 提供“定位并解释”的能力,例如在用户问“这款口红在哪一秒涂抹了”时,精准返回片段与分割区域。
- 解耦 QA 准确性与真视觉感知的发现:警惕仅靠缩放模型不能解决可解释性问题,需显式训练接地能力;在构建电商问答/搜索系统时,应设计专门的接地评估集,避免模型依赖语言偏见生成答案。