ProV-Mem: Proactive Memory for Streaming Video Question Answering
ProV-Mem:面向流式视频问答的主动记忆框架
🧭 流式视频主动问答 · 分层记忆
The Hong Kong Polytechnic University · Tencent Inc. · Shenzhen Loop Area Institute
冻结 VLM 骨干下,用三层轻量记忆解耦何时查询、说什么、是否发出,实现训练无关的主动流式问答
📌 工作参考价值(4 点)
- 三层记忆架构可直接迁移到实时用户行为流监控与主动触达 Agent:将「触发时机」「生成策略」「去重发送」解耦成独立轻量层,避免每次事件都调用大模型,显著降低推理成本。
- 冻结 VLM backbone + 外围无训练记忆模块,适合业务快速上线;用固定 prompt 先验约束生成简洁且视觉接地的内容,可类比于推荐文案、商品摘要的约束生成。
- episodic memory 做近重复过滤对主动 push 场景尤其关键——能减少对同一用户反复推送相似商品或消息造成的打扰,提升用户体验与消息接受率。
- CAUC 评估思路值得借鉴:在离线评估主动推荐/推送系统时,除准确率、召回外,增加对冗余、过高发送频率、过长输出的显式惩罚,更贴近真实业务收益与成本权衡。