AutoRSE：评估 LLM 推荐工程师 Agent 的自主进化能力
🧭 LLM Agent 自主改进推荐算法评估 ★ 深度解读
University of Science and Technology of China · National University of Singapore
构建 AutoRSE 框架，量化 LLM RSE-Agent 自主改进推荐算法的能力与瓶颈
📌 工作参考价值（4 点）
- 实际可先用 LLM agent 做工程级优化：hyperparameter tuning、模型集成、训练策略调整。在生成式推荐（HSTU/TIGER）等尚未饱和场景，单靠这些就能拿平均 16.1% 的相对提升；而在 CTR 任务 AUC 接近饱和时，agent 收益有限。
- 若想让 agent 产出算法创新，不要只靠它自我 brainstorm。建立外部 idea library（顶会论文、竞赛方案、专家经验提炼成短条目）注入给 agent，比 self-generated ideas 平均高 13.35%，novelty 也明显更高。
- 评估 agent 不能只看最终分数，要做 trajectory-level 分析：把实验按策略分类（参数调优/集成/训练策略/特征/架构/损失），能暴露 agent 真实能力边界；工程优化占比越高，说明创新瓶颈越重。
- 可复用其 12 小时单卡预算 + 隐藏测试集 + 强制持续运行协议，在内部做 agent 优化竞赛或离线评测，避免 agent 提前停下或只做少量修改。
SEER：面向时序预测的自进化事件推理与检索
🧭 自进化 Agent · 事件检索增强时序预测 ★ 深度解读
Google Cloud AI Research · University of Virginia
用预测误差驱动检索记忆与因果知识库更新，显著提升事件驱动时序预测的准确性与可解释性
📌 工作参考价值（4 点）
- 在电商需求预测/广告转化预估中，把动态外部事件（价格调整、大促、供应链、热搜）作为可更新的文本上下文，而不是静态特征；用 retrieval memory 生成搜索 query 扩展候选，再用 selection memory 做噪声过滤，两个组件解耦，避免信息过载。
- 闭环反思机制可用于推荐/搜索的在线学习：将预测残差（销量/CTR 偏差）和推荐理由对比，更新「检索记忆」与「因果规则库」，离线回放、线上冻结，避免直接更新模型参数；尤其适合已有 LLM 推荐理由或文案生成场景。
- 严格时间边界与 fact-check 约束对推荐系统外部特征同样关键，确保只用截至请求时刻的商品新闻/库存/价格，防止特征穿越导致线上翻车。
- 蒸馏 IF-THEN 因果规则不仅提升可解释性，还能让 Agent 主动拒答/过滤高噪声样本（如选择性股票预报、选品），提升精度；电商中可迁移到「是否推荐、推什么品类」的不确定性决策。
TabFM-Auto：LLM Agent 自进化表格基础模型流水线
🧭 LLM Agent 驱动表格数据流水线自动进化 ★ 深度解读
Google Research · Google DeepMind · University of Southern California · Harvard University · University of Texas at Austin
将 LLM 编码代理与冻结表格基础模型结合，只进化数据流水线，拿下 TabArena 与 MLE-Bench-Tabular 榜首
📌 工作参考价值（4 点）
- 冻结主模型、只让 LLM agent 搜数据/特征/采样/后处理：在推荐/广告 CTR 模型上，可冻结已训练好的排序/召回模型，让 agent 围绕它生成特征工程、样本选择、校准代码，用离线验证集反馈，避免边改模型结构边训练的噪声。
- 从列名/元数据自动生成领域特征：电商表格中大量业务字段（价格、类目、用户/商品 ID），LLM 可生成 price_ratio、category co-occurrence、user-item graph degree 等显式特征，免去模型从原始数值中隐式推断。
- 上下文采样 + 先验校准应对不平衡：类似论文中对少数类过采样多视图并在 log-odds 空间做先验修正，适合电商点击/转化率预估中的正负样本不平衡、稀有类目。
- 严格测试隔离与防泄漏：搜索只在单 fold 训练集内部 3 折 CV，沙箱禁网且不挂测试集；分类数据 shuffle 防止行号/排序泄漏。这些工程细节可直接照搬进推荐模型自动调参/特征搜索 pipeline。
SEEK：工业搜索中技能路由与可演化知识的评估框架
🧭 LLM-as-a-Judge 搜索质量评估 ★ 深度解读
Peking University · Kuaishou Technology
提出 SEEK 框架，将搜索评估标准外部化为技能库，动态路由相关技能进行列表级评估与归因，并支持不重训模型的知识更新
📌 工作参考价值（4 点）
- 技能化评估标准：将多维度评估规则拆成独立技能（路由描述+操作指南），通过轻量路由器为每个样本选择相关子集，避免全量规则塞入 prompt 导致的上下文冗余和标准干扰。业务中可用于搜索/推荐结果的自动评测，尤其适合规则多且频繁更新的场景。
- 外部知识更新机制：评估标准变化时只需修订技能银行的指南，冻结模型参数，通过重放验证保证不损害历史性能。这实现了轻量级快速迭代，无需重新训练评估 LLM，适合业务规则频繁调整的电商/广告场景。
- 两阶段训练 + 层次化奖励：先用教师模型生成证据轨迹和路由标签，再 SFT + DAPO 强化学习，奖励包含最终判断、技能诊断质量、冲突惩罚，提升列表级判断与归因一致性。可借鉴用于训练内部 LLM-as-a-Judge，提高诊断可解释性。
- 生产可行性：LLM 评估在 24k 样本上达 0.842 准确率，比外包审核高 5.9 个点，耗时仅 0.9 小时（40 倍提速），说明可替代人工评估作为大规模质量监控和故障分析工具。
ForeDreamer：面向未来事件预测的自进化双智能体记忆架构
🧭 Agent 记忆与自进化 · 未来事件预测 ★ 深度解读
Zhejiang University · Ant Group · National University of Singapore · Zhejiang University of Technology
双智能体将嘈杂网络证据蒸馏为结构化事实记忆，并用双轨经验自进化提升预测校准
📌 工作参考价值（4 点）
- 在电商搜索/推荐 agent 中，可将召回/检索结果的处理从主决策链路剥离，由专门子 agent 用「指南+工具」流程把原始商品信息、用户行为、query 上下文蒸馏成结构化事实记忆，主 agent 只消费干净证据，降低长上下文噪声干扰。
- 自进化双轨经验：一条是文本经验（搜索计划、排序/预测校准提示），一条是过程性工具经验（可执行数据处理工具/流程）。推荐 agent 可基于线上反馈小流量验证定期更新经验池，采用 ADD/MODIFY/REMOVE 编辑和验证门控，避免线上劣化。
- Compositional Tool Reuse 减少重复工具生成：当需要新处理流程时，先检索并复用已有工具，只生成缺失部分；可应用于推荐 agent 的工具库管理，降低工具膨胀与相似代码重复。
- Diversity-Guided Exploration 防止策略收敛到单一 pipeline：定期根据现有策略类别摘要生成多样候选，避免只微调某一种召回/排序策略；可借鉴到推荐策略探索与自动策略生成中。
超越能力边界：零阶优化驱动的自进化LLM智能体
🧭 Agent 自进化 · 零阶优化突破能力边界 ★ 深度解读
北京理工大学计算机学院智能信息技术北京市重点实验室 · 深圳MSU-BIT大学广东省机器感知与智能计算实验室 · Alaya Lab
通过零阶梯度估计扰动LoRA参数，使Agent在困难样本上也能采样正确轨迹，突破能力边界。
📌 工作参考价值（4 点）
- 零阶优化思想可迁移至推荐系统模型更新：当环境反馈为黑盒（如点击、转化）无法直接求梯度时，可通过对服务策略参数（如召回或排序的LoRA分支）施加随机扰动，利用线上指标变化估计梯度，实现无需过程监督的自优化。
- 并行扰动推理机制大幅降低零阶优化的采样开销：只计算一次骨干预网络输出，多个轻量LoRA支路并行评估，适合在线服务中低延迟要求下进行策略探索。
- 自适应查找缓存（Adaptive Lookup）对重复工具调用（如搜索相同关键词、访问同一页面）做命中复用，节省30%-50%的交互时间，在推荐系统中可类比为缓存用户画像/点击日志，避免重复计算，加速多臂老虎机策略评估。
- 答案困惑度损失（Answer Perplexity Loss）提供平滑、稳定的信号，比稀疏的二元奖励更利于优化收敛；在推荐场景中可用商品描述或用户评论的对数似然作为过程级信号，缓解结果奖励稀疏问题。
Se-DPO：自演化令牌信用用于直接偏好优化
🧭 偏好对齐 · 令牌级自适应KL正则化 ★ 深度解读
University of California, Los Angeles · Shanghai AI Laboratory
通过在线从模型自身隐式奖励与参考熵中动态学习每令牌KL预算，解决DPO均匀加权的次优问题。
📌 工作参考价值（4 点）
- 动态重要性加权思想可迁移至推荐场景：类似给用户行为序列中不同位置 token 分配不同 KL 预算，推荐系统中可对用户历史行为的不同步数或不同特征维度分配不同的正则化强度或学习权重，避免平均主义，让关键决策点有更大优化自由度。
- 在线重要性更新机制：静态重要度在训练后期会严重失配，Se-DPO 定期从模型当前状态更新信用。这启发在在线学习排序模型或生成式推荐中，可引入周期性重估每个样本/特征重要性的机制，而不是训练前一次性固定。
- 轻量校准网络的设计模式：用一个小 MLP 融合强度（\(|\hat{r}_t|\)）与不确定性（\(H_{\text{ref}}\)）两个信号，输出信用。推荐系统可类似设计一个轻量子网络，结合预估的重要度与置信度来动态调节损失权重，几乎无额外成本。
- 无需外部信号的在线信用提取：只用模型自身隐式奖励和参考熵，无需教师模型或额外标注。在缺乏外部监督的生成式推荐或 Agent 任务中，可仿照此方法利用模型内部信号进行自适应样本加权。
通过技能与上下文代码进化实现自进化具身智能体
🧭 Agent 自进化 · 技能与harness优化
Northeastern University · Microsoft Research
提出SHAPER框架，冻结模型参数，通过环境交互进化可复用技能与上下文代码harness，实现无需训练的具身Agent自进化
📌 工作参考价值（4 点）
- 在电商/Agent系统中可借鉴将LLM同时用作planner和optimizer：冻结模型，将成功经验沉淀为可复用技能（类似结构化RAG），通过目标环境rollouts自我进化，避免频繁微调带来的数据和算力成本。
- 将prompt模板、工具调用逻辑、上下文代码视为可优化的外部参数（harness），在线上交互中持续调整，这与推荐系统中优化召回策略、重排规则等非参数组件思路一致，可低风险快速迭代。
- 在无法标注大量数据或训练成本过高时，优先尝试基于test-time scaling的train-free方案（如verifier-free selection、voting）作为基线，可能接近SFT效果，适合初创或快速验证场景。
- 注意该工作针对具身智能体，业务落地时需抽象其核心：固定模型权重，进化外部技能库和任务编排，对电商Agent的多轮对话、工具调用、query理解等模块具备直接迁移价值。
EvoReason：自演进推理基元引导的在线策略蒸馏用于生成式推荐潜在推理
🧭 生成式推荐·潜在推理·在线策略蒸馏 ★ 深度解读
Kuaishou Technology · Shenzhen University
提取可复用推理原语并自演进，引导结构化链式思考，通过在线蒸馏将推理能力迁移到潜在表示，实现高效生成式推荐。
📌 工作参考价值（4 点）
- 借鉴从 Agent 轨迹中诱导推理原语的方法，将复杂用户意图推理拆解为可复用的函数式工具（如偏好提取、冲突检测），提升 CoT 稳定性与可解释性，适用电商搜索推荐场景。
- 在线策略蒸馏机制可将大模型推理能力压缩进轻量潜在表示：通过置信门控过滤低质量监督，KV 缓存对齐将显式推理信息注入潜在空间，线上推理无需生成显式 CoT，延迟极低。
- 自演进原语库的设计支持根据线上反馈动态更新推理模式，适应电商促销、季节变化等分布迁移，无需全模型重训练。
- 教师与学生共享 backbone，训练时仅通过额外上下文增强，不引入额外参数，工程实现友好。
RecHarness：基于Bandit路由与LLM代理的推荐模型自进化框架
🧭 Bandit路由+LLM生成·推荐模型自动迭代 ★ 深度解读
Georgia Institute of Technology · Kuaishou Technology
用Thompson采样选择编辑方向，LLM负责具体代码修改，在有限预算下稳定优化推荐模型
📌 工作参考价值（4 点）
- 分离方向决策与代码生成：把“试什么方向”交给Bandit（基于历史成功/失败后验），把“怎么改代码”交给LLM，避免LLM在巨大搜索空间内盲目发散。推荐系统工程师可借鉴此架构，用简单统计路由控制尝试领域（架构、损失、特征），用LLM执行具体编辑。
- Jump-Basin机制跳出局部最优：当近期提升速率低于阈值时，自动开放结构跳跃臂（如更换序列编码器）。线上A/B显示，这一机制在短期局部精调无收益后自动激活，产出了可部署的结构改进。在广告排序或CTR模型迭代中，可设置类似机制自动触发大改。
- 实验技能（Experiment Skill）作为文本记忆：动态总结成功编辑、失败原因和趋势，形成紧凑的文本上下文注入LLM提示，避免模型重复犯错。可直接迁移到工业Agent中，用于维护试验记录、提炼可复用策略。
- 有限试验预算下的高效分配：Thompson采样在每一轮集中分配试验给高潜力臂，使47.92%的非基线试验刷新了best-so-far分数（随机分配仅22.45%）。在电商搜索/推荐中，当单次全量训练和评估成本高时，此路由可显著提高试验效率。
自进化Agent Harness框架：基于语义质量多样性的可信增益
🧭 Agent自进化 · 质量多样性搜索 ★ 深度解读
EverMind AI · Shanda Group
将修改提议与可信度评估分离，通过统计检验和质量多样性归档实现harness稳健演化，跨七领域密封测试增益+9~+15.5pp
📌 工作参考价值（4 点）
- 可信的Harness优化闭环：把提示、知识注入、控制流等harness编辑的评估从模型自身剥离，用配对2σ显著性检验在密封测试集上判定增益，部署时可杜绝“幻觉式改进”，适合要求严苛的电商/搜索Agent运维。
- 病理学驱动的归档（GSME）：按*(where×why)*（编辑位置×失败原因）维护精英补丁库，支持跨细胞重组，防止搜索坍缩到安全提示微调。在搜索推荐Agent开发中，可借鉴此结构持续积累针对特定失败模式（如过早结束、空 turn）的修复方案。
- 诊断与信用分离模式：强模型负责诊断和提出补丁，确定性代码负责采样、门控和统计检验，这降低了模型错误判断的风险，适合在Agent pipeline中构建自动化的自我改进模块。
- 跨模型病理-补丁匹配规律：发现harness增益高度依赖模型自身的失败分布，同一病理可能跨模型家族重现。在多模型部署场景下，可复用*诊断-信用*循环，快速为不同基座模型定制harness，而不是盲搬同一套配置。
从原子动作到标准操作流程：LLM Agent 的迭代工具自进化
🧭 Agent 工具自进化与工具集迭代优化 ★ 深度解读
Renmin University of China · Alibaba Group
迭代地从执行轨迹中提取可复用 SOP，并持续合并、评估、剪枝，实现工具集的自进化与精简。
📌 工作参考价值（4 点）
- 在电商/搜索推荐场景中，可借鉴 EVOSOP 的轨迹驱动的工具抽象：从 Agent 多次调用原子 API（查订单、发消息、改状态）的轨迹中，自动提取高频共现的动作序列并封装成 SOP，减少重复推理和 token 开销。
- 工具生命周期管理是工程落地的关键：必须配套合并与剪枝机制，否则工具集会快速膨胀导致决策质量下降。可设计类似 REVIEWER 的轻量级评判器，基于执行成功率、是否引发故障等信号自动淘汰低质工具。
- 非参数化自进化思路值得注意：无需微调 LLM，仅通过优化工具集就能持续提升 Agent 表现，适合模型已封装或不易训调的场景。同时，采用 checkpoint 与“按训练成功轮次选最优工具集”的策略，规避了 LLM 随机性的坑。
- 方法论上的“符号反向传播”类比（从行为轨迹中提取逻辑块固化回工具集）可迁移到复杂多步查询、多 Agent 协作的 SOP 自动发现，比如将跨服务调用的子流程封装成高级工具函数。
MLEvolve：面向自动化机器学习算法发现的自演化多智体框架
🧭 多智体长周期自演化与算法搜索 ★ 深度解读
Shanghai Artificial Intelligence Laboratory · East China Normal University
通过图搜索、回顾记忆与分层规划实现长周期自演化，在 MLE‑Bench 上以半数时间达到 65.3% 奖牌率 SOTA。
📌 工作参考价值（4 点）
- 图搜索 + 跨分支信息复用：Progressive MCGS 在有向图中引入引用边，允许非父‑子节点间的策略组合，可迁移到多方案 A/B 实验或推荐模型架构搜索，打破单支探索的信息孤岛。
- 动态经验积累：回顾式记忆将每次尝试的计划、结果、分析存入全局记忆，通过 BM25+FAISS 混合检索在规划和调试阶段自动召回相关经验，可直接用于 Agent 的“失败经验库”或营销策略迭代记忆。
- 规划‑编码解耦与自适应模式：分离“改什么”与“怎么改”，根据搜索阶段和代码成熟度在全量生成、模块化生成、diff 编辑间自动切换，能稳定长周期代码迭代，适用于 LLM 驱动的自动化特征工程或流水线优化。
- 渐进式探索‑利用调度：熵启发的软开关在 UCT 探索与精英引导利用间平滑过渡，可在有限计算预算（如广告竞价、推荐排序在线调参）下自动从宽探索收敛到高价值方向，避免后期资源浪费。
走向自我进化的智能体文献检索系统
🧭 Agent ★ 深度解读
Shanghai Jiao Tong University · SciLand · Zhejiang University
提出PaSaMaster，以自演进检索、幻觉消除排名和规划-检索分离，在1%成本下超越GPT-5.2，实现零源幻觉