CAFE：自我改进搜索智能体需要协同进化的反馈
🧭 搜索 Agent · 反馈协同进化 ★ 深度解读
Fudan University · Tencent LLM Department
提出 CAFE 框架，共享参数模型交替扮演搜索 agent 与 critic，通过在线反馈奖励整形与离线偏好优化让反馈随策略协同进化
📌 工作参考价值（4 点）
- 在搜索/推荐 Agent 中引入显式 <request_feedback> 动作，用共享 backbone 做 role-conditioned agent/critic，避免单独部署 critic 的额外开销；适合多轮商品搜索或深度信息检索 Agent，让模型在轨迹中途主动请求诊断。
- 奖励整形技巧可直接借鉴：CFE 用同一 prompt 下 call feedback 与 skip feedback 的成功率差作为请求反馈的 utility 信号，再配合 repeat penalty；feedback-aware advantage shaping 对反馈前/后 token 分开加权，避免强化错误的失败前缀，改善 RL 中的信用分配。
- 离线反馈优化用 RDPO：从 on-policy rollout 中挖掘 prefix-matched 成功/失败反馈对，用 DPO 训练反馈生成，比只用成功轨迹的 SFT 更干净，能缓解只有最终成交/转化标签导致的 outcome confound，适合业务中无逐步人工标注的场景。
- 交替更新策略值得工程化：不要固定 critic 或 agent 单侧优化，否则会 plateau；每轮 agent RL 后用最新 rollout 更新 critic，保持反馈与当前策略的错误分布对齐，可参考 100 步 RL × 5 轮的节奏。
代理系统中的协同进化：走向超越人类设计的自引导进化
🧭 多智能体协同进化框架与分类
Hong Kong University of Science and Technology · University of Illinois Urbana-Champaign · The Chinese University of Hong Kong · The University of Hong Kong · Peking University
提出三阶段分类法，梳理多智能体与环境协同进化逐步摆脱人工设计约束的研究
📌 工作参考价值（4 点）
- 设计多智能体推荐系统时，可借鉴 Agent-Agent 协同进化中的对抗、协作与组织适应机制，使各策略 agent 在动态博弈中自动优化分工与交互协议，而非依赖人工静态编排。
- Agent-Environment 协同进化的思想可用于构建自适应的搜索推荐框架：将用户反馈、上下文环境作为演化压力，在线调整召回、排序、重排模块的参数或模型结构，应对数据分布漂移。
- 元协同进化为“可演化的 Agent 架构”提供思路，例如在电商 chatbot 或 query 生成 agent 中，使 prompt 模板、工具选择逻辑甚至内部思维链结构具备自我调优能力，减少人工迭代成本。
- 该综述强调的安全与可控性挑战，提醒我们在实际部署自动演化系统时需设计监控、回滚与约束机制，防止 agent 策略在长期演化中偏离业务目标。
技能自我对弈：用可进化的技能接口突破 LLM 自我训练的数据困境
🧭 Agent 自我进化 · Skill 协同 ★ 深度解读
Alibaba · The Chinese University of Hong Kong · Renmin University of China · Sun Yat-sen University · Peking University
通过可进化的技能库充当任务生成的结构化接口，在工具调用与逻辑推理上显著超越无引导自我对弈
📌 工作参考价值（4 点）
- 技能库即任务模板池：电商搜索/推荐中可将高频意图、结构化的查询改写或回复模式抽象为可进化的技能模块，直接指导生成式推荐或对话模型的训练，避免无监督生成的数据坍塌。
- 双轨训练与动态课程设计：借鉴技能流（skill stream）与开放探索流（exploration stream）混合构建训练池的做法，在推荐模型或Query改写模型的强化学习训练中，用预定义模板确保基本质量，同时用无约束采样扩展多样性，通过前沿奖励自动筛选高价值样本。
- 技能生命周期管理：定期根据模型表现剪枝已饱和的技能、从成功探索中诱导新技能，可迁移到推荐系统中的新闻推送文案生成、活动主题生成等场景，自动淘汰低质模式，持续注入新鲜内容。
- 共进化验证机制：用同一个模型同时扮演提议者和求解者的自我对弈，可用于线上自动评估推荐解释/文案的质量，无需额外标注，适合业务中快速迭代的Agent或生成式推荐组件。