Mem++: Non-Destructive Memory for Long-Term Organizational LLM Agents
Mem++:面向组织 LLM Agent 的非破坏性长期记忆
🧭 LLM Agent 长期组织记忆 · 读时检索 ★ 深度解读
The University of Texas at Austin · AIDAChip Inc.
Mem++ 用整文档存储与读时时间过滤+多路检索融合,替代写时蒸馏,在组织记忆基准上大幅领先
📌 工作参考价值(4 点)
- 在电商/广告规则、商品属性、政策文档等需要追溯“某时间点有效版本”的场景,不要写时蒸馏成事实或图谱,保留原始文档并按日期/作者索引,读时按 as-of 时间过滤检索。这样能回答“当时规则是什么”“谁改的”“从哪个版本改成哪个版本”等问题,避免旧版本被覆盖后无法回答。
- 多路检索融合策略可直接复用:lexical(精确 ID/术语)+ semantic(嵌入相似)+ tag(作者/店铺/品类)加权 RRF 融合,并保留 top k-3 融合结果 + 3 个最新日期匹配记录(recency reserve)。在商品搜索、客服知识库、推荐理由生成中能兼顾精确匹配与语义泛化,同时保证时效性。
- 写时零 LLM 调用,只做 embedding 和索引,读时才做选择。对海量商品/文档更新场景,可大幅降低写入延迟和费用;消融显示实体图谱、事实抽取、consolidation 在多个基准上增益有限甚至为负,可优先采用更简单的纯检索方案。
- 多作者冲突版本不删除、由答案模型读时判断,适合多客服、多团队知识库,避免一个模型在写入时错误地覆盖或合并关键信息,保持溯源能力。