Macaron-V1: Towards Open Continual Learning with Self-Improvement and Mixture-of-LoRA
Macaron-V1:通过自改进与混合 LoRA 实现开放持续学习
🧭 Agent 持续学习与适配器组合 ★ 深度解读
Mind Lab
提出冻结基座 + 可组合 LoRA 专家的 MoL 架构与递归自改进循环,实现代理模型部署后持续适应与协作
📌 工作参考价值(4 点)
- 多域任务路由架构:将不同业务域(如对话、推荐、搜索)建模为独立 LoRA 适配器,冻结共享基座,通过 Proxy 按请求路由,避免任务干扰且支持独立更新,类似推荐系统中多目标 MoE 的路由分离。
- 版本化 harness 协议:HCP 将 prompt、工具、技能、环境等配置统一为 TOML 工件,可作为推荐 Agent 中工具与指令的线上可 audit 配置层,便于 A/B 测试和回滚。
- 长上下文执行与 KV 复用:通过可拼接的 own-view 实现跨适配器 prefix cache 命中,值得在多轮会话、长用户行为序列的 LLM 推理中借鉴,降低延迟。
- 递归自改进循环:从生产日志挖掘失败任务 → harness 配置搜索 → LoRA 更新,可复用至搜索推荐 Agent 的持续优化,逐步扩展能力边界。