MemEye: A Visual-Centric Evaluation Framework for Multimodal Agent Memory
MemEye:以视觉为中心的多模态智能体记忆评估框架
🧭 Agent
从视觉证据粒度和推理方式两维评估多模态记忆,揭示现有架构在细节保留与状态变化推理上的缺陷
动机:现有长时多模态记忆评估常依赖文本描述即可回答视觉问题,缺乏对细粒度视觉证据保留以及随时间变化的状态推理的测试,导致对记忆能力的评估失真。
方法关键点:
- 提出MemEye框架,从两个维度定义记忆评估:
- 决定性视觉证据的粒度(从场景级到像素级),测量需要多精细的视觉信息才能正确回答;
- 检索证据的使用方式(从单一证据检索到进化式综合),测量如何整合跨时间步的视觉变化。
- 构建8个生活场景任务,覆盖不同粒度和推理模式,并通过消融驱动的验证门确保问题可回答性、抵抗捷径、视觉必需性和推理结构。
- 在4个VLM骨干上评估13种记忆方法,分析证据路由、时间跟踪和细节提取能力。
关键结果:当前架构在保留像素级视觉细节和推理状态变化方面仍严重不足,长时多模态记忆性能受证据路由、时间跟踪和细节提取的瓶颈限制。