Memento 3: Model-Based Recursive Self-Improvement through Reflective Rulebooks
Memento 3:通过反思式规则簿实现基于模型的递归自我改进
🧭 LLM Agent 通过可执行世界模型递归自改进 ★ 深度解读
University College London · Huawei Noah's Ark Lab, UK · University of Liverpool
让冻结 LLM Agent 用自然语言规则簿+可执行代码作为显式世界模型,通过反思与验证递归自改进,在 ARC-AGI-3 全部 25 个游戏达到人类动作效率天花板
📌 工作参考价值(4 点)
- 在电商搜索推荐 Agent 中,可把「用户意图/商品属性/召回规则」维护成 natural-language rulebook + 可执行代码,作为显式世界模型;用 action-observation 轨迹做 exact replay 验证,只接受能复现历史交互的规则/代码,避免 LLM 幻觉。
- 引入 Git 版本化记忆:每次规则修订/代码编译提交 commit,能 diff、回滚,便于线上排查与衰减实验;相当于把模型的「学习轨迹」变成可审计资产。
- population 扩展:同时维护多个世界模型假设,共享交互证据,用行为等价类采样保证探索多样性;在不确定用户意图或流量分布变化时,可以做多臂/集成式探索,降低单一错误假设的自我确认风险。
- 如果业务中需要 Agent 在无 reward 的交互环境中做事,可直接借鉴「反思→修订规则→编译为代码→验证」loop,把策略改进外置到可执行模型,而不是微调 LLM 参数,适合 rapid iteration 和低成本 rollback。