DualEvolve:推荐系统机制与编排的双层级自演化
🧭 LLM Agent 自进化推荐 · 双层优化 ★ 深度解读
Independent Researcher · Meituan
同时演化推荐模型代码和 Agent 编排,用过程质量反馈与 Thompson 采样在 64 个比较中全部优于现有自演化方法
📌 工作参考价值(4 点)
- 将「任务指标」和「过程质量」分离:模型晋升只依赖固定验证分数和噪声/成本门控,Agent 编排更新只看过程质量(决策质量、实验严谨性、分析深度、新颖性),避免只追最终分数导致的过拟合或错误方向。
- 推荐模型 AutoML 或 LLM 自动调参中,采用两档 fidelity screening:低预算粗筛候选,高预算再验证,配合 noise floor 和 cost coefficient 决定是否晋升,能明显降低 full-budget 训练次数。
- 外层编排动作选择用 Thompson sampling 从 KEEP / EDIT HARNESS / EDIT SKILL 中采样,下一轮过程 reward 残差更新后验;比确定性 argmax 更能保持探索,实现简单、可复用。
- 把任务特定经验(inside wiki)与外部论文先验(outside wiki)解耦,迁移时只搬 evolved harness/skill rules,不搬原始日志,便于跨业务/数据集复用;同时固定评估器和晋升规则,防止 LLM agent 搜索时篡改评估逻辑或利用捷径。
VibeGame:基于 AI 原生引擎与自进化对抗智能体团队的提示词生成游戏
🧭 多智能体对抗式游戏生成
PRLab, Nanjing University · S-Lab, Nanyang Technological University · Liblib.ai
用 AI 原生引擎与八个专用对抗智能体,从提示词端到端生成可玩 2D 游戏项目
📌 工作参考价值(4 点)
- 可借鉴的结构化可执行状态:把复杂系统状态定义为 schema-validated text,并提供 frame/time-step 同步的 inspect/execute/verify 接口;可迁移到广告出价、query 改写等 Agent 场景,将候选 query、context、约束写成结构化状态,critic agent 分步读取、回滚和验证,避免直接依赖全量代码。
- 实施者/审查者对抗解耦:用多个 specialist agents 把生成与审查分离,多轮 loop 找问题;可复用到搜索广告文案、商品推荐理由生成 pipeline,一个 agent 产出、一个 agent 基于规则或仿真反馈审查,降低线上事故风险。
- 训练免费自进化机制:将成功项目蒸馏为 skeletons、modules 和 collaboration contracts,作为未来任务的模板;业务中可把历史成交的 prompt 工作流沉淀为可复用 SOP、模块库和 agent 间接口契约,减少每次从零生成并提升多 agent 协作稳定性。
- 评估思路:PA2G 与 P2G 区分“给定资产库”和“自主生成资产”,能更干净地评估 agent 的规划与集成能力;推荐实验也可区分“给定候选”与“生成候选”,定位系统瓶颈。
长程终端智能体的 Harness 自进化框架
🧭 Agent 执行脚手架自优化
Tencent HY LLM Frontier · Indiana University · University of Maryland, College Park · University of Georgia · National University of Singapore
固定模型权重,通过成功/失败对照轨迹与运行时监控证据迭代改进 agent harness,提升任务可靠性与成功率
📌 工作参考价值(4 点)
- 建立 agent 运行时监控,不只记录模型轨迹,还记录 harness 执行事件(命令执行、反馈、上下文裁剪、完成判定),与任务成败标签关联,定位系统性问题。
- 选取“同一配置下既有成功又有失败”的任务作为诊断单元,用成功轨迹作免费参考,无需人工标注即可发现可靠性缺口。
- 维护一份 Harness Handbook,把失败证据映射到源码与行为,便于跨任务复用问题模式;优先优化共享机制而非单点 patch。
- 引入候选 harness 变更前先做行为校验和重复评测,通过后再迭代;固定模型权重、只改执行层,对生产系统风险更低。
自进化 Agent 脚手架
🧭 Agent 自我进化与持续学习理论
Zhongguancun Academy · Zhongguancun Institute of Artificial Intelligence · University of Science and Technology of China
保持模型权重固定,仅修订 prompt/memory/workflow/代码实现 Agent 自我进化,并给出持续 PAC 学习保证
📌 工作参考价值(4 点)
- 在推荐/电商 Agent 中,将 prompt、memory、workflow、工具代码作为可独立版本化与验收的资产;更新时强制走“提案-准入”流程,用独立的线上验证集或影子流量做高概率准入决策,避免直接热更引发事故。
- 对生成式推荐/QueryRec 系统中调用 LLM 的 agent,可借鉴“解释态(如语义 ID 映射、标签)低风险快速更新,可执行代码/工具高风险慢更新”的分层更新策略,控制回归预算。
- 多智能体协作或 RAG 工作流可引入持续 PAC 式监控:每次 harness 修订后记录历史回归与泛化误差,基于预算决定是否保留更新,保证长期稳定性。
- 注意组织层面:harness 不断进化会改变团队知识共享与工作流,建议保留修订审计日志、权限隔离和回滚机制,与模型权重更新流程区分开。
Mara Chain:把失败候选转化为 AI 系统自进化的垫脚石
🧭 Agent 自进化 · 失败驱动优化 ★ 深度解读
Ant Group · Beijing Intelligent Game and Decision Lab · Beijing Defense Innovation Institute
保留被拒候选并做链式细化,在技能、harness 与检索管道优化上大幅提升样本效率与最终性能
📌 工作参考价值(4 点)
- 在 LLM 驱动的 prompt/skill/harness 离线优化中,不要直接丢弃未达阈值的候选;保留其 rollout 日志、错误分析、变更历史,用深度受限(如 d=5)的链式 refine 沿同一 lineage 继续改,尤其适合长链路、失败模式顽固的任务(如 query 改写、RAG 检索管道、多步 agent workflow)。
- 候选池管理上,用 per-instance Pareto 支配过滤保留互补性强的候选,再用 Top-N 按平均验证分数截断,防止高维 pass/fail 指标下候选池无限膨胀;N 建议取 3 或更小。
- 工程实现将全部 rollout 原始数据、分数、分析和 changelog 落盘为 filesystem-backed memory;proposer 的 analyze 阶段读原始记录,mutate 阶段读压缩后的 analysis + changelog,避免长上下文和原始数据污染。
- 设计 artifact schema 时,为不同表示(prose < script < extension)设置可靠性先验,当证据显示修改被绕过时,引导 proposer 升级到更高可靠性的表示(如把自然语言提示改成可执行脚本),使优化产物可控、可执行。
EvoOntology:面向数据 Agent 的自进化本体层
🧭 数据 Agent 自进化本体语义层
Renmin University of China
将本体封装为 MCP 三层服务,通过自进化循环持续优化,显著弥合数据 Agent 与异构数据间的理解鸿沟
📌 工作参考价值(4 点)
- 用 MCP server 而不是 prompt 注入语义层:把商品表结构、字段含义、口径说明拆成 schema/content/tool 三层,Agent 按需查询,避免 prompt 过长和上下文浪费,适合电商多数据源场景。
- 自动构建 + 自进化代替人工维护 ontology:用 builder agent 从已有查询日志和表结构自动生成本体,再通过 attribution-guided typed edits 持续修正字段语义,可迁移到广告投放数据、用户行为日志等语义层的自动化维护。
- backbone-conditional paired evaluation 保证编辑质量:只有在新 LLM backbone 上同时评估新旧本体且新本体胜出才接受编辑,避免单个模型偏好导致的退化,适合多模型混合部署的推荐系统语义层场景。
- 把专家知识变成 Agent 可调用的工具而非一次性文档:将规则、口径、映射关系封装为 tool layer,让 Agent 在运行时主动查询,对多业务线知识管理有直接复用价值。
经验驱动策略精化的自进化LLM交易智能体
🧭 Agent 自进化策略优化
KAIST · DeepAuto.ai
将Agent的system prompt视为文本参数化策略,由策略Agent基于决策轨迹和组合反馈迭代重写
📌 工作参考价值(3 点)
- 将Agent的system prompt / 工具调用策略当作可优化的“文本参数”,通过定期基于历史交互trace和业务反馈(如转化率、收益)让策略Agent重写prompt,无需微调LLM即可实现策略迭代。适用于搜索/推荐中的Agent决策流程优化。
- 借鉴其批量更新思想:在每轮更新间隔内收集决策动作和实际奖励,然后离线让策略Agent修订系统提示,再用于下一批决策。这样可形成闭环,尤其在非平稳的电商/广告环境中,定期调整信息获取和排序逻辑。
- 行为分析可作为诊断工具:通过比较旧/新策略下的动作分布(如工具调用类型、代码执行比例)和归因分析(策略改动→动作变动→回报变动),找出哪些流程调整真正有效,可迁移到推荐Agent的可解释性分析。
Ecdysis:高效训练LLM Agent运行时harness的失败诊断驱动框架
🧭 Agent 运行时自进化 · 失败归因 ★ 深度解读
Chengdu Institute of Computer Applications, Chinese Academy of Sciences · University of Chinese Academy of Sciences · Beijing Institute of Technology · Beijing University of Technology · Yangtze Delta Region Institute of Tsinghua University, Zhejiang
跨任务失败聚合与多角色协作诊断,区分模型适配与系统缺陷,实现训练加速与泛化提升
📌 工作参考价值(4 点)
- 在搜索/推荐 Agent 的 workflow 优化中,不要针对单条失败 case 直接改 prompt 或工具逻辑;先批量收集失败轨迹,按“失败模式”跨任务分组,只对重复出现的模式做系统级修改,能显著减少过拟合和重复修改成本。
- 把“诊断”与“实施”分离:用 Analyst/Critic/Engineer/Moderator 多角色写结构化修改规范,再交给 coding agent 改代码。这相当于在修改工作流前加一道评审,能降低无效修改,提升输入 cache 命中率(论文从 89% 升到 96%)。
- 用诊断价值选训练样本:优先选暴露新交互路径和未知失败机制的任务,而不是全量随机;论文中仅用 1/4 训练失败样本就接近全量效果,可用于电商/广告 bad case 分析的降本。
- 监控 model-accommodation ratio:统计修改中有多少是在迁就当前 LLM 的怪癖;若过高,该 workflow/工具链很可能只对当前模型有效,换模型会退化。可把这个指标纳入 Agent 上线前的回归检查。
面向 LLM Agent 的过程图:自演化的执行结构
🧭 Agent 过程性记忆与自演化图结构 ★ 深度解读
Google · Georgia Institute of Technology · Peking University
用可编辑的 (procedure, relation, procedure) 图组织过程性知识,在线按当前节点生成局部引导,离线通过验证门控自演化图结构
📌 工作参考价值(4 点)
- 在搜索/推荐 Agent 工作流中,把工具或技能(query 改写、召回、精排、解释、政策校验)抽象为过程图节点,边属性写 condition/guidance/pitfalls;推理时用最近一次 tool call 做 exact match 定位,取 2-hop 邻域生成 guidance,比注入全图省 token 且效果更好。
- 离线自演化:用成功/失败轨迹对比让 LLM refiner 提出增删节点/边、改属性,必须通过 held-out validation 不降分才提交;保留 rejection memory,避免重复无效修改。可迁移到自动优化广告投放、选品、客服 Agent 的流程。
- 图结构在权重外,便于审计、回滚和人工修正,适合电商合规/风控;不需要 fine-tune 模型。
- 注意效率:localized generative guidance 在长轨迹上能减少 solver steps,但总 token 仍可能上升,需缓存或选择性生成。
LLM 能否创建并演化自己的 Agent 执行框架?
🧭 Agent 基础设施自动构建与演化评测
ByteDance Seed · Singapore University of Technology and Design · Georgia Institute of Technology · M-A-P · TokenWave.AI
HarnessDev 基准评估 LLM 从零构建并迭代优化 Agent 执行基础设施的能力,发现领域差异大且跨模型迁移受限
📌 工作参考价值(4 点)
- 把 agent harness 当作与模型权重同等重要的优化变量:在电商搜索/推荐 Agent 中,执行循环、工具选择、上下文管理、失败恢复等基础设施设计可直接改变下游任务成功率和 token 成本,建议建立 harness 级 A/B 评测,而不是只换模型或调 prompt。
- 借鉴 Creation/Evolution 两阶段范式:可尝试用强 LLM 基于少量示例自动生成 RAG/推荐 Agent 的执行代码,但必须在 held-out 任务上验证,防止只在开发集上过拟合;对代码、搜索等复杂领域,自动生成 harness 仍落后于人工参考,不要盲目全自动替换。
- 重视执行效率:论文中生成 harness 的执行 token 成本差异很大,实际业务中可把 token 成本作为约束纳入 harness 优化目标,避免高性能但高成本的 harness 上线。
- 注意跨模型迁移性:如果 harness 是为某个 runtime 模型优化得到的,换用其他 LLM 后性能增益可能消失。在多模型混合部署的推荐/搜索服务中,需要按模型或模型族分别评估和调优 harness。
EvoUndo:LLM Agent 自进化的可恢复性约束框架
🧭 LLM Agent 自进化安全与恢复性验证 ★ 深度解读
Independent Researcher
提出 EvoUndo,将 witness 捕获、反事实验证、效应合约与分层恢复语言结合,使 LLM 自修改 harness 可验证回滚
📌 工作参考价值(4 点)
- 给业务里的自进化 Agent(自动改 prompt、改工具注册、改配置、改中间件)增加恢复性验证:每个 mutation 必须同时提交 witness capture 和 recovery program,并用 counterfactual states 做 round-trip 验证,不能只看 forward capability 提升。
- 把 effect contract 和运行时副作用 diff 引入 admission:未声明副作用直接拒绝,可防止自动修改静默污染线上状态;这对广告/电商 Agent 的配置、路由、工具热更新尤其有用。
- 恢复语言分层设计:L0 覆盖配置/prompt/路由/工具,L1 增加中间件顺序、listener、文件、socket 等结构化状态;诊断粒度不必越细越好——语言受限时给精确 state address 很关键,语言丰富时粗分类反馈在 gpt-oss-120b 上反而更优,可避免过度分解和序列倒置。
- 用 Wilson score LCB 作为小样本准入门槛,并隔离 hidden counterfactual 状态;发展集 OOD 增强会把误收率从 16.8% 压到 0%,但会损失约 15pp yield,需要在 precision-coverage 间显式权衡。
更智能验证,更深远进化:通过行为感知验证实现高效 Harness 进化
🧭 Agent 自进化 · 行为感知验证 ★ 深度解读
School of Data Science, Fudan University · Shanghai Key Laboratory of Data Science · College of Computer Science and Artificial Intelligence, Fudan University
提出预算感知的 HARNESSLENS 框架,用行为相关任务和可归因证据门控筛选候选修改,显著提升 harness 进化样本效率
📌 工作参考价值(4 点)
- 评估候选修改时,不要用固定验证集评估所有候选;根据候选意图选择相关任务(supporting trajectories + 相关目标/工具),使信号不被无关任务稀释,回归检测更敏感。
- 采用可归因证据门控:要求观察到的改进能归因到具体行为变化(如 recovered / stable success),仅聚合指标提升不足以接受修改,避免噪声导致接受有害修改。
- 预算感知控制器:设定总交互预算,每次迭代前检查是否能覆盖完整验证+确认轮次,否则停止,避免评估不充分。
- 轨迹诊断与经验复用:把每次 rollout 轨迹转化为可复用经验和缺陷,支持后续候选生成和验证,提高样本效率。
Rubrics 作为视觉修复上下文的自演化 UI-to-Code 生成
🧭 VLM 自演化 · 视觉修复上下文
University of Maryland, College Park · Microsoft
提出 RubSE,用结构化 rubric 引导视觉修复,解决 UI-to-code 自演化中局部修复相互耦合导致轨迹不稳定的问题
📌 工作参考价值(4 点)
- 在迭代优化 Agent(如落地页、商品详情页、广告创意自动生成)中,引入结构化“修复指令/评分标准”作为上下文,而不是反复给模型完整截图让其自由修改,能明显约束修改范围,避免模型过度重写导致原本正确区域被破坏。
- “每轮只选一个最高优先级修复目标”并维护已选目标历史,这种机制可以迁移到多轮自优化流程(如搜索推荐文案、UI 布局、推送消息的自动迭代),提升轨迹稳定性,减少回归。
- 强 rubric 生成器 + 弱代码执行器的组合:业务上若代码生成模型能力有限,可以用更强的模型生成视觉修复 rubric,再交给轻量模型执行修改,推理成本更低且效果可迁移,类似推理时蒸馏。
- 将视觉差异表示为 typed rubrics(layout_geometry、style、component 等),把修复问题分解为可执行子目标,对多模态 Agent 设计有直接参考价值,可用于电商多模态内容生成的闭环优化。
FlowEvo:工作流与可执行技能共演化的自进化智能体
🧭 Agent 自进化 · 工作流与技能共演化 ★ 深度解读
Southeast University · Rensselaer Polytechnic Institute · The Hong Kong University of Science and Technology
训练免更新框架,将成功工作流编译为可执行技能,并在推理时通过直接复用或技能条件生成持续提升智能体能力
📌 工作参考价值(4 点)
- 在导购/客服/搜索推荐 Agent 中,把验证通过的会话或工具调用轨迹编译为带接口与测试的技能条目,而不是仅存 prompt 文本;可显著降低重复探索的 token 成本,适合高并发商品推荐、Query 改写等场景。
- 采用「动态生成 / 直接执行 / 技能条件化生成」三级路由,并设直接执行失败自动回退;可嵌入商品属性抽取、推荐解释、营销文案生成等 workflow,结构化任务优先走缓存式执行。
- 用对比式效用追踪(compare skill applied vs withheld)做负迁移治理:对 prompt 版本、策略技能、推荐模板做持续 AB 式统计,低于阈值自动降权/停用,防止线上记忆库被低质量经验污染。
- 该框架在可验证信号(结构化 action、code、math)下更稳,对无明确 reward 的开放对话需谨慎;其「小模型受益大」结论可用于低资源场景,用记忆库补偿模型能力。
SkillEvo:多轮交互反馈驱动的自更新智能体技能进化
🧭 Agent Skill 自进化 · 多轮反馈 ★ 深度解读
Tencent Cloud Andon · Zhejiang University
把多轮用户模拟从评估终点改为反馈生成器,并用独立治理层主动修复知识退化,使技能进化梯度可持续
📌 工作参考价值(4 点)
- 多轮用户模拟不要只当测试集,要做成持续产出“可修复知识缺口”的反馈器:电商客服/导购 Agent 可从真实工单抽取 intent agenda + behavior facts + emotion trajectory,让模拟用户按状态机逐层追问,暴露单轮 QA 看不到的深层缺陷;每轮修复后对话自然进入下一层,梯度可再生。
- 反馈可信度三条件值得照搬:coverage/accuracy/attributability。用 intent state machine 保覆盖,用 dual-sided orthogonal evaluation 区分 simulator 和 agent 责任,用 collective attribution 把失败分成 Knowledge Gap / Capability Limit / Evaluation Noise,只把 Knowledge Gap 送入修订。业务里先归因再改知识库,能避免把权限、工具或评测噪声误写成知识。
- 治理层不要只做标量门禁,要做“结构诊断+主动修复”:对 Skill/知识库做 fact consistency 硬约束(dual anchors 分别抓跨轮知识丢失和本轮新增事实错误)和 structural consistency 软约束(bloat、断链、过度泛化)。RAG 知识库、policy 文档、推荐策略知识库的多轮更新都适用,能明显抑制膨胀和事实漂移。
- 版本选择用 dev 集而不是最终标量分数;自动修订不直接上线,保留 human checkpoint。线上 Agent 知识库或策略库的 closed-loop 更新可以采用同样的工程护栏。
代理系统中的协同进化:走向超越人类设计的自引导进化
🧭 多智能体协同进化框架与分类
Hong Kong University of Science and Technology · University of Illinois Urbana-Champaign · The Chinese University of Hong Kong · The University of Hong Kong · Peking University
提出三阶段分类法,梳理多智能体与环境协同进化逐步摆脱人工设计约束的研究
📌 工作参考价值(4 点)
- 设计多智能体推荐系统时,可借鉴 Agent-Agent 协同进化中的对抗、协作与组织适应机制,使各策略 agent 在动态博弈中自动优化分工与交互协议,而非依赖人工静态编排。
- Agent-Environment 协同进化的思想可用于构建自适应的搜索推荐框架:将用户反馈、上下文环境作为演化压力,在线调整召回、排序、重排模块的参数或模型结构,应对数据分布漂移。
- 元协同进化为“可演化的 Agent 架构”提供思路,例如在电商 chatbot 或 query 生成 agent 中,使 prompt 模板、工具选择逻辑甚至内部思维链结构具备自我调优能力,减少人工迭代成本。
- 该综述强调的安全与可控性挑战,提醒我们在实际部署自动演化系统时需设计监控、回滚与约束机制,防止 agent 策略在长期演化中偏离业务目标。
Argus:验证引导下可持续进化的通用长程Agent运行时
🧭 多智体协作的持久化研究运行时 ★ 深度解读
Microsoft · Shanghai Jiao Tong University · Fudan University · Nanjing University · Tsinghua University
一种带角色分工与验证门控的Agent运行时,允许目标修正同时防止目标漂移,在固定模型下实现状态自进化
📌 工作参考价值(3 点)
- 在电商搜索推荐Agent系统中,可借鉴“验证-门控”持久状态管理,将用户意图与操作目标分离,允许根据反馈修正目标并记录,避免工作流中断或错误累积。
- 将长程任务分解为有界任务(missions),由 Manager / Planner / Engineer / Reviewer 角色协作,可迁移到多 Agent 推荐系统的任务编排,减少模型幻觉导致的错误扩展。
- 固定模型参数,仅通过验证门控方式进化记忆、技能、验证规则等持久状态,为生产环境中不希望频繁微调的场景提供了一种轻量级 Agent 改进方案。
教LLM自我进化:用强化学习培养核心元技能
🧭 RL训练自我进化元技能
University of Illinois Urbana-Champaign
通过合成进化轨迹和进化感知的RL,教会LLM自我反思等元技能,大幅提升跨领域迭代优化能力
📌 工作参考价值(4 点)
- 借鉴进化轨迹合成方法:在搜索/推荐场景中,收集多轮策略调整的历史数据(如出价序列、排序规则迭代),构造包含状态、收益、历史尝试的训练样本,让模型学会基于历史决策反馈进行增量优化。
- 奖励塑形技巧:利用业务连续指标(CTR、转化率、时长)设计fitness score,替代二元成败,为RL训练提供更细粒度的反馈,引导模型生成更高效的策略。
- 推理时进化搜索:部署推荐/广告Agent时,可对同一请求执行多轮推理,每轮根据环境模拟反馈(如预测的CTR)微调输出,最后选择最优解,实现test-time自我改进。
- 域无关元技能迁移:在代码数据上训练获得的自我反思与迭代优化能力,可迁移到推荐文案生成、搜索词优化等开放域任务,减少对标注数据的依赖。
AgentX:面向工业推荐系统的智能体驱动自我迭代
🧭 多智能体闭环驱动推荐策略与模型自进化 ★ 深度解读
Kuaishou
生产部署的多智能体闭环,自主生成、实现、评估并进化推荐实验,实现业务收益的复利增长。
📌 工作参考价值(5 点)
- 构建推荐迭代闭环智能体:将“想法→代码→A/B评估→知识沉淀”全流程 agent 化,把工程师从重复性劳动(拉数据、改配置)中解放,直接复用至电商/广告推荐策略迭代,显著提升实验并发量与产出速度。
- 证据加权生成与防重复机制:用实验 KB、系统 KB、数据分析、模型研究四类知识源对候选想法打分,自动过滤重复、不可行或违背护栏的策略,避免“重新发明失败”,可借鉴到搜索推荐实验管理平台。
- 生产代码可靠性保障:通过仓库模式查询、DSL 检查器、静态 lint 等多维验证,防止 LLM 生成代码时的属性幻觉和注册缺失,大幅降低人工介入,适合在自动化投放引擎或特征平台落地。
- 离线模型研究的可信归因:强制每个模型改动声明因果链和可观测量,并用专家投票与日志确定性提取来判断收益是否可信,防止无法归因的 AUC 增益污染知识库,对工业级 AutoML 或模型迭代管线有直接参考意义。
- 基于轨迹的自我进化(SGPO):利用执行轨迹的语义梯度持续优化 prompt,形成“越用越强”的飞轮,可迁移至其他需要持续改良的 agent 系统(如广告文案生成、动态排序策略优化)。
HarnessX:可组合、自适应、可进化的 Agent 运行时脚手架工厂
🧭 Agent 多智体协作优化 ★ 深度解读
Darwin Agent Team
将 Agent 运行时脚手架抽象为一等公民,通过模块化处理器、进化引擎与协同训练实现自动优化,在多基准上平均提升 14.5%
📌 工作参考价值(4 点)
- 模块化处理器架构:将 Agent 行为拆解为上下文组装、工具生态、内存策略、控制流等九维处理器,通过 hook 和替换代数实现可组合、可替换的运行时。电商推荐、对话 Agent 可根据场景(搜索、推荐、售后)快速组装不同的 prompt/工具组合,无需重复开发。
- Trace 驱动的自适应优化:AEGIS 引擎将执行轨迹、验证分数转化为进化信号,自动调整 Agent 的 prompt、工具选择与交互流程。在电商场景中,可将用户反馈(点击、转化)作为 reward,让 Agent 在线自动优化推荐话术、多步检索策略,且通过变体隔离避免多任务间相互干扰。
- 跨策略版本协同训练:利用不同脚手架版本产生的轨迹进行 GRPO 训练,任务级分组计算 group-relative advantage,让模型内化多种策略的优点。可用于训练电商 Agent 从混合策略数据(如不同召回/排序规则)中学习最优决策,突破固定策略的限制。
- 共享回放缓冲区的经济性:Harness 进化与模型训练复用同一批 rollout 轨迹,仅增加一次前向缓存和梯度计算,无额外环境交互成本。对于需要频繁迭代的线上 Agent 系统,该方法以较低算力开销实现智能化升级。
自演化的视觉提问者
🧭 自监督问题生成 · 视觉提问
University of Maryland, College Park · University of California, Los Angeles · Peking University · Arena · MBZUAI
让VLM通过自我生成与过滤,逐步产出更困难、更多样化的视觉问题,无需外部监督
📌 工作参考价值(4 点)
- 搜索/推荐场景下,可用类似 self-evolving 范式自动产出更困难、更多样化的用户查询词或推荐理由,无需人工标注。
- 对话式推荐 Agent 可利用自提问-过滤机制,主动向用户提出高信息量的澄清问题,提升交互效率。
- 论文的 Agentic 评估协议(感知、推理、多样性)可直接迁移用于评估推荐系统生成的 query 或对话的质量。
- 工程上可借鉴其双模式训练(提问者+回答者联合优化),保证生成能力不损害原有任务性能。
Role-Agent:让单一 LLM 扮演代理与环境双重角色,自举式协同进化
🧭 LLM Agent 自举式协同进化 · 过程奖励 ★ 深度解读
University of Science and Technology of China · AMAP, Alibaba Group
用一个 LLM 同时做 agent 和环境,通过预测未来状态和分析失败模式实现自举式共进化,平均提升超 4%
📌 工作参考价值(4 点)
- 模拟环境自生成与针对性训练:在对话推荐、客服 Agent 等场景,可用同一 LLM 根据历史失败交互(如用户不满意的对话)分析失败模式,自动检索并复现类似任务,实现针对性微调,无需人工构造样本。
- 预测用户状态作为额外奖励信号:在交互式推荐/搜索中,可在 agent 动作后要求其预测用户/环境下一步状态(如用户下一句话、页面跳转),将预测匹配度作为过程奖励来调制任务奖励,鼓励模型理解动作后果,避免随机成功带来的奖励误导。
- 双角色复用降低工程复杂度:无需额外部署专门的环境模拟模型或任务生成器,直接用同一个 LLM 切换角色完成数据增广和训练,适合资源受限或快速迭代的场景。
- 状态分组优势计算:借鉴 GiGPO 的状态分组思想,可按相同状态(如用户类似意图)对交互中的动作进行分组归一化优势,减少时序噪声,提升梯度的稳定性,可直接移植到 PPO/GRPO 训练流程中。
影响引导的自我进化提升推理能力
🧭 自我进化训练 · 影响引导课程学习 ★ 深度解读
Yale University · Stanford University · University of Chicago · Toyota Technological Institute at Chicago · University of California, San Diego
提出INFUSER框架,用影响分数指导生成器与求解器协同进化,无需外部教师,大幅提升数学和通用推理性能。
📌 工作参考价值(4 点)
- 影响分数作为合成数据质量度量:使用开发集梯度与合成样本引起的模型更新方向的余弦相似度来评估单个样本的训练价值,可借鉴到推荐系统的样本筛选或Agent领域的数据蒸馏,替代简单的难度或困惑度指标。
- 生成器-求解器协同进化范式:将生成训练数据与模型训练建立成双层博弈,让生成器根据求解器当前能力实时调整输出,这类似推荐系统中召回与排序的联合优化或Agent多体协作的场景,可以通过更小的开发集引导数据生成远离分布外噪声。
- DuGRPO稳定连续奖励训练:针对影响分数这类连续且带噪声的奖励,提出组内+批内双重归一化,避免低方差组的噪声放大和高方差组的梯度主导。在推荐模型的强化学习微调(如GRPO)中,当奖励函数从离散点击变为连续业务指标时,可直接复用该归一化技巧。
- 文档池作为可持续课程来源:利用无结构化文档(如教材)作为生成器输入,无需昂贵的人工标注,结合影响引导就能自动形成难度适中的课程。电商场景中可用商品描述、用户评论等非结构化文本,生成多模态问题-答案对,持续提升对话Agent或推荐解释生成的质量。
心智经济:通过经济交互涌现多智能体集体智能
🧭 多智能体经济协作与自进化 ★ 深度解读
Harvard · MIT · 2077AI · Kempner Institute
仅用拍卖、交易和财富的经济信号就使一群受限智能体自组织、自进化,在多个任务上超越完整单一智能体。
📌 工作参考价值(4 点)
- 去中心化协调替代集中编排:在电商多Agent场景(如协商、客服、供应链)中,可借鉴拍卖选择动作 + 财富驱动的生存机制,避免中心协调器瓶颈,实现自组织协作,尤其适合流式任务。
- 隐式信用分配:Bucket-brigade交易规则(获胜者向前一Agent支付出价)自动将价值反向传播,无需全局奖励分解或稠密过程奖励,适合难以定义子任务奖励的长链任务(如多步对话或推荐管线)。
- 经济驱动的群体进化:用财富积累与破产作为自然选择压力,剥削成功Agent并通过突变传播其策略,探索则利用破产Agent的修正版本;这种方法可替代手工设计提示或架构,使Agent群体在持续任务流中自适应。
- 鲁棒性与通用专家:实验表明增加一个全能Agent不会垄断市场,市场仍偏好局部精细的专业Agent,这为构建可扩展的多专业Agent生态提供了信心;可应用在生成式推荐中,让多个领域专家Agent通过经济信号竞争,避免单一模型退化。
SkillOpt:智能体技能的自进化优化执行策略
🧭 Agent 技能优化 · 文本空间训练 ★ 深度解读
Microsoft · Shanghai Jiao Tong University · Tongji University · Fudan University
第一个系统性的可控文本空间优化器,将有界编辑、拒绝缓冲等引入技能训练,在52项测试中全部最佳。
📌 工作参考价值(4 点)
- 将技能优化视为带约束的文本训练过程:借鉴学习率(编辑预算)、验证集门控、负反馈缓冲区等概念,可在电商 Agent 的技能迭代中引入类似控制,避免无监督改写导致的退化。
- 离线优化、零部署成本:SkillOpt 只在高能力优化器上训练一次,导出紧凑的 best_skill.md(<2k tokens),部署时无额外推理开销。电商场景中可用这种模式批量生产领域技能,大幅降低在线 Agent 的推理成本。
- 技能跨模型和执行环境迁移:实验证明优化技能可跨模型规模、跨工具链(Codex ↔ Claude Code)甚至跨任务转移。这对构建可复用的电商领域技能库很有启发:一个技能可用于多个相关任务或不同能力模型。
- 拒绝编辑缓冲提供负反馈学习:类似训练中保留失败样本以指导后续更新,可借鉴到推荐系统或 Agent 的在线学习环节,利用用户反馈的负面信号修正策略。
GenEvolve: 基于工具编排与视觉经验蒸馏的自进化图像生成智能体
🧭 自进化图像生成智能体 · 视觉经验蒸馏
The Hong Kong University of Science and Technology (Guangzhou) · Meitian · The Hong Kong University of Science and Technology · National University of Singapore
通过对比多条生成轨迹提取结构化视觉经验,以 token 级蒸馏实现图像生成智能体的自进化
📌 工作参考价值(4 点)
- 自进化训练范式可迁移到推荐/对话 Agent:通过生成多条候选轨迹、对比优劣并蒸馏 token 级监督,可让推荐系统智能体(如对话式购物助手)从交互中自行学会更好的搜索策略、知识激活与工具调用。
- 工具编排的密集监督替代稀疏奖励:采用 privileged teacher 提供 token 级差异信号,比标量奖励更精细,可提升 Agent 在复杂工具选择(如商品搜索 API、图像编辑工具)中的决策质量,适合电商场景中的多步操作。
- 视觉经验的结构化表示:将最佳/最差轨迹差异抽象为可学习的“经验”,可借鉴到多模态推荐中大模型对图片、商品的细粒度对比与知识激活。
- 自建数据与基准的思路:为业务中缺少训练数据的问题提供了参考:通过构造任务和自动采样轨迹来生成训练信号,可应用于自建垂直领域的 Agent 训练数据集。
超越个体智能:基于LLM的多智能体系统协作、失败归因与自我演化综述
🧭 Agent ★ 深度解读
西安交通大学 · 联想AI技术中心 · 华中师范大学 · 悉尼大学
提出LIFE框架将单智能体能力、多智能体协作、失败归因与自我演化统一为因果链环,填补了闭环诊断与自主改进的综述空白
自进化记忆架构:LLM智能体通过自动研究自我优化检索
🧭 LLM ★ 深度解读
UNC-Chapel Hill · UC Berkeley · UCSC
首个通过LLM闭环诊断自主进化检索配置的记忆框架,实现AutoResearch,无需人工调参