AI Papers Daily

#MLE

2 篇

MLExpert: Towards a Generalist Agentic Model for Autonomous Machine Learning Engineering

MLExpert：面向自主机器学习工程的通用智能体模型

🧭 Agent 后训练 · 长程 MLE 优化 ★ 深度解读

East China Normal University · Shanghai Artificial Intelligence Laboratory

用层级SFT与执行窗口交互强化学习训练35B MoE，将MLE奖牌率从37.9%提至72.7%

📌 工作参考价值（4 点）

• 执行窗口共享奖励：面向需要多轮执行反馈的推荐/搜索 Agent（如自动调参、A/B 实验优化、query 改写迭代），把相邻两次实验结果之间的多步决策作为一个 execution window，共用结果奖励，避免稀疏轨迹奖励导致的学习困难；局部性能趋势项可鼓励持续改进而非只追求终局最优。
• 异步收集 + token 级策略修正：在线 RL 中 rollout 策略与当前训练策略不一致是常态，WIRL 的 token-level policy correction（用记录 log-prob 计算比值并截断）可直接迁移到电商/搜索 Agent 的在线训练，降低等待开销。
• Outcome-guided 监督选择：从长轨迹中提取“首次最优提交”之前的有效探索与失败恢复，截断峰值后退化尾段，能显著提升长程 agent 训练数据质量；可借鉴到推荐系统策略迭代数据清洗。
• 交互 harness 设计：维护 experiment tree、candidate 提交、invalidate_node 防止过拟合/数据泄漏，可作为多版本推荐策略管理或自动实验平台的工程蓝本。

Agent | 2026-10-15 | cs.LG | score 8/10

Agentic ModelPost-trainingRLHFLong-horizonWIRLMLE

MLEvolve: A Self-Evolving Framework for Automated Machine Learning Algorithm Discovery

MLEvolve：面向自动化机器学习算法发现的自演化多智体框架

🧭 多智体长周期自演化与算法搜索 ★ 深度解读

Shanghai Artificial Intelligence Laboratory · East China Normal University

通过图搜索、回顾记忆与分层规划实现长周期自演化，在 MLE‑Bench 上以半数时间达到 65.3% 奖牌率 SOTA。

📌 工作参考价值（4 点）

• 图搜索 + 跨分支信息复用：Progressive MCGS 在有向图中引入引用边，允许非父‑子节点间的策略组合，可迁移到多方案 A/B 实验或推荐模型架构搜索，打破单支探索的信息孤岛。
• 动态经验积累：回顾式记忆将每次尝试的计划、结果、分析存入全局记忆，通过 BM25+FAISS 混合检索在规划和调试阶段自动召回相关经验，可直接用于 Agent 的“失败经验库”或营销策略迭代记忆。
• 规划‑编码解耦与自适应模式：分离“改什么”与“怎么改”，根据搜索阶段和代码成熟度在全量生成、模块化生成、diff 编辑间自动切换，能稳定长周期代码迭代，适用于 LLM 驱动的自动化特征工程或流水线优化。
• 渐进式探索‑利用调度：熵启发的软开关在 UCT 探索与精英引导利用间平滑过渡，可在有限计算预算（如广告竞价、推荐排序在线调参）下自动从宽探索收敛到高价值方向，避免后期资源浪费。

MultiAgent | 2026-06-03 | HF Daily | score 8/10

MultiAgentSelf-EvolvingMCGSMemoryCode GenerationMLE