PEAM: Parametric Embodied Agent Memory through Contrastive Internalization of Experience in Minecraft
PEAM:通过经验内化将具身智能体记忆参数化
🧭 具身智能体经验参数化与持续学习 ★ 深度解读
Northwestern University · Northeastern University · South China University of Technology · Hong Kong Baptist University · Beijing Normal - Hong Kong Baptist University
将智能体经验从检索式记忆转为参数化技能,通过失败-纠正对比学习与隔离式的MoE-LoRA适配器实现持续巩固。
📌 工作参考价值(4 点)
- 经验内部化减少推理开销:在推荐/Agent场景中,可将高频技能或用户偏好直接固化到模型参数中(如LoRA适配器),避免每次推理时检索技能库或长上下文注入,可大幅降低延迟(实验中下降42%)和Token消耗(-85%)。
- 失败-纠正对比训练:利用失败与纠正后的轨迹对进行DPO训练,让模型不仅模仿成功行为,还能辨别纠正前后差异,此思路可迁移到对话Agent、推荐排序中:收集用户负反馈与修正后的正样本,构造对比学习信号。
- 按类别隔离的LoRA适配器防遗忘:在多任务/多领域场景中,为每个类别(如不同商品类目、不同Agent技能)分配独立的LoRA模块,物理隔离参数更新,可天然避免灾难性遗忘,无需复杂正则化。
- 自触发巩固机制:基于失败率统计检验自动决定何时更新模型,无需人工设定任务相关阈值,适合电商推荐等动态环境,根据实时表现自适应调整模型更新节奏。