Memory as a Controlled Process: Learned Adaptive Memory Management for LLM Agents
记忆作为受控过程:LLM Agent 的习得式自适应记忆管理
🧭 Agent 自适应记忆控制 · Contextual Bandit ★ 深度解读
University of California Los Angeles · University of Washington · Northwestern University
将 Agent 记忆访问建模为 MDP,用在线 contextual bandit 学习自适应策略,零额外 LLM 调用且后端无关
📌 工作参考价值(4 点)
- 轻量级记忆控制器:可将 Agent 检索深度、是否注入过往成功策略、何时遗忘陈旧信息的决策,接管为一个表格式上下文 Bandit,在线学习 Q 表,收敛只需几十个任务,无需额外 LLM 推理,适合电商对话 Agent、智能客服等对延迟和成本敏感的场景。
- 后端解耦:记忆控制策略与底层存储(向量库、图记忆、潜 Token 记忆等)分离,现有系统只需暴露检索/存储接口即可无缝装配,便于在推荐商品问答、多轮导购等场景中,渐进式将固定 retriever 升级为自适应 retriever。
- 令牌节省机制:通过抑制无效检索、复用成功计划模板,MEMCON 实现 5–20% 的 token 消耗下降同时提升成功率,对计费严格的 LLM 应用有直接成本收益。
- 状态设计思路:在电商推荐 Agent 中,可按“目标商品类别”“步骤阶段”“是否卡壳”“记忆库规模”等构建紧凑状态,配合少量离散动作空间,即可部署类似 UCB 策略,让 Agent 学会何时更多检索历史对话、何时直接复用成功推荐链路。