Frontis-MA1: Training an AI4AI Model towards Recursive Self-Improvement in Machine Learning Engineering
Frontis-MA1：面向递归自我改进的机器学习工程训练
🧭 AI4AI 自动化机器学习工程 ★ 深度解读
Horizon Research · Frontis.AI · Tsinghua University
通过执行反馈训练 Draft/Improve/Debug/Crossover 原子算子并组合长程进化搜索，在有限 GPU 预算下将 MLE-Bench Lite 奖牌率从 39% 提升至 71%
📌 工作参考价值（4 点）
- 原子算子训练 + 进化搜索范式：将复杂任务（如推荐模型自动调参、特征工程）拆解为 Draft/Improve/Debug/Crossover 四种原子操作，用执行反馈训练这些操作，再通过 OpenMLE-Evo 组合成长程搜索，可直接迁移至 AutoML 或 Agent 自动优化推荐 pipeline 的场景。
- 执行反馈 RL 的自适应奖励设计：使用自适应上下界和熵优势（entropic advantage）将学习信号集中于高质量解，而非仅奖励有效解。在推荐策略搜索或 SQL 生成等可验证任务中，可避免模型产生“能跑但性能差”的结果。
- 结构化经验与父代选择策略：通过结构化经验卡（score/improvement/novelty）进行父代选择，兼顾解的质量、改进幅度和方向新颖性；操作触发式记忆合成避免上下文膨胀。这些可直接用于 Agent 搜索推荐组合空间、模型结构搜索等需要平衡探索与利用的任务。
- 预算自适应的监督数据收集：SFT 阶段每任务设执行预算和接受配额，提前终停止艰难任务，节省计算开销。在标注昂贵或执行成本高的推荐场景（如在线实验）中，可高效获得高质量训练数据。