Shared Selective Persistent Memory for Agentic LLM Systems
智能体系统的共享选择性持久记忆架构
🧭 Agent 记忆架构 · 选择性持久化
Apple Inc.
将智能体会话中的可复用上下文提炼为四种结构化记忆，丢弃推理痕迹，实现跨会话协同与零Token数据刷新
📌 工作参考价值
- 选择性记忆分解：将用户会话中的可复用知识拆分为任务规格、数据模式、工具配置、输出约束四类，丢弃推理痕迹和中间文件。在推荐系统Agent中可类似存储常用API Schema、数据源元信息、输出格式偏好，避免重复提供上下文。
- 零Token数据刷新：通过数据注入合约强制生成代码不硬编码数据，新旧数据模式兼容时可零调用更新结果。适用于定期刷新的报表、BI看板、推荐理由生成等场景，直接替换数据源，大幅降低LLM调用成本。
- 摘要替代原始数据注入：用预计算的统计摘要（列类型、分布、样本行）代替全部数据传入Prompt（~500 tokens vs 48K），显著减少输入Token且提升生成准确率。推荐系统中可将用户画像、物品池统计量以结构化摘要形式提供给Agent，避免长文本引入噪声。
- 协作工作空间与版本控制：工作空间支持Git版本回退和草稿隔离，允许非破坏性探索。可借鉴到多人维护的Agent配置管理，如商品推荐策略模板由不同角色协作编辑，回滚机制保障生产环境安全。
动机 当前LLM智能体在会话结束后丢弃所有上下文，导致用户每次需重新指定数据模式、工具配置与输出约束，造成大量重复工作与Token浪费。简单将完整对话历史持久化反而因不相关的推理痕迹和工具调用日志污染新会话，损害生成质量。
方法关键点
- 提出共享选择性持久记忆，将可复用上下文分解为四种类型：任务规格（自定义指令）、数据模式（预计算统计摘要）、工具配置（外部工具Schema）、输出约束（数据注入合约）。
- 记录选择性遗忘原则：主动丢弃中间文件、未批准修改、推理链、工具调用日志、错误恢复路径和原始数据，仅保留四种结构化记忆。
- 会话开始时将四类记忆与基础系统提示组合，数据摘要注入用户消息，使LLM在无需意识持久化机制的情况下获得全量上下文。
- 零Token数据刷新：强制生成代码仅从运行时注入点获取数据，当数据源Schema兼容时，更新数据无需重唤LLM，实现14倍任务时间缩减。
- 协作工作空间：工作空间可跨用户共享，支持角色权限控制，结合Git版本管理和草稿隔离，允许无风险试错与一键回退。
关键结果
- 在24个企业常规生成任务中，选择性记忆达到96%任务完成率，对比无记忆（79%）和全历史记忆（71%）显著更高；全历史甚至会降低完成率，印证“迷失在中段”现象。
- 零Token刷新在Schema兼容的18/24任务中成功，完全免除LLM调用；摘要驱动生成将每次调用Token消耗降低97倍（企业数据）至946倍（公开数据集）。
- 在4个公开数据集上复现实验，选择性记忆实现100%完成率，零Token刷新全部通过；用户研究中任务时间缩短至原来的约1/14。
- 输出Token减少约50%，墙钟时间从285秒降至68秒。
核心启示：对Agent系统而言，持久化声明式知识（规格、模式）而丢弃过程性痕迹（推理、执行日志），远比保留一切或全部丢弃更高效，上下文管理是提升企业级Agent效率的关键杠杆。