TimeRSI：面向时间序列基础模型的自改进智能体部署
🧭 Agent 自动编排预测部署流程
Georgia Institute of Technology · University of Southern California · Samay AI
用 LLM coding agent 在冻结预测模型外围自动生成与迭代 pipeline，并通过自适应选择器提升时间序列预测部署效果
📌 工作参考价值（4 点）
- 把“冻结模型 + 外围 pipeline 自动迭代”迁移到电商预估/推荐：不改模型权重，由 coding agent 生成和修改特征注入、日历/活动信号、后处理或重排代码，在滚动历史回放窗口上评估，可显著降低人工 pipeline 调试成本。
- 借鉴错误反馈闭环：将回测中的分场景误差（如大促、时段、类目偏差）写成自然语言反馈给 agent 进行下一轮修改，比一次性搜索更有效；推荐系统可用“场景化 error report”驱动规则/校准代码生成。
- 在线集成 adaptive selector：按当前上下文和近期相似条件下的实际表现，从多个候选 pipeline/策略中动态选择，而不是固定单一版本；适合推荐场景中多召回/多后处理策略的在线组合选择。
- 工程落地时限定 agent 可修改空间（输入特征、输出校准、后处理逻辑）并做沙箱执行与回测成本控制，避免开放式搜索失控。
面向专用神经网络自动调参的多智能体 LLM 系统
🧭 多智能体 LLM · 自动调参
National Research Centre “Kurchatov Institute”, Moscow, Russia · National Research Nuclear University MEPhI, Moscow, Russia · Moscow Institute of Physics and Technology, Dolgoprudny, Russia · Harbin Institute of Technology, Harbin, China
多智能体 LLM 框架用分析师/编码员/记录员三角色在受限语义空间内调优专用神经网络组件，在 SNN 和 PINN 任务上大幅超越基线
📌 工作参考价值（4 点）
- 组件级代码生成：不优化整个 ML 脚本，只让 LLM 改指定的功能组件（如个性化模块、损失权重、特征交叉），保持主网络结构不变，可降低线上模型迭代风险，适合电商推荐模型的快速调优。
- 多角色 + 沙箱 + 实验日志：分析师、编码员、记录员分工明确，配合 sandbox 执行和完整日志，能构建可信的自动实验流水线；可用于超参数搜索、训练策略调优或模型结构微调。
- 弱模型对详细提示更敏感：在成本受限无法用顶级 LLM 时，可优先投资详细的 prompt 设计，而非盲目换更大模型。
- 跨任务通用性：同一框架在分类和 PDE 求解上都有效，提示多智能体自动调参有潜力迁移到推荐系统多任务学习权重、损失平衡等场景。
EvoSkillRec：技能基因组进化用于推荐系统架构发现
🧭 推荐架构自动进化 · Skill 库与 LLM 代码合成 ★ 深度解读
City University of Hong Kong · Kuaishou Technology · Xi'an Jiaotong University
将推荐模型拆解为可复用技能卡，通过技能空间重组与LLM代码空间发明双空间进化，并沉淀有效创新
📌 工作参考价值（4 点）
- 将现有线上模型拆成结构化 skill card：声明输入输出 key、inductive bias、失败签名、验证 suite 与历史收益，形成可检索库；新架构组合时靠类型检查和规则匹配过滤不可行候选，避免浪费训练资源。
- 双空间进化策略：先用低成本 skill 空间做 add/replace/hybridize/specialize 重组，性能平台期再动态增加 code 空间预算，让 LLM 规划器与合成器发明新模块；验证有效后将其沉淀为 Tier-2 技能，供后续 skill 空间复用，形成持续积累。
- 生成式排序模型上可联合优化 AUC 与训练 MFU：设置 eligibility 门槛（AUC 损失 ≤1e-3、MFU ≥ 种子模型 95%）选择候选，实验显示同一批进化结构可同时提升精度与硬件利用率，避免两目标对立。
- LLM backbone 对发现结果影响显著：CTR 任务闭源模型更稳，MTL/MDL 任务开放权重 GLM-5.2 性价比高；可针对业务任务类型预选 backbone，降低 API 探索成本。
TabFM-Auto：LLM Agent 自进化表格基础模型流水线
🧭 LLM Agent 驱动表格数据流水线自动进化 ★ 深度解读
Google Research · Google DeepMind · University of Southern California · Harvard University · University of Texas at Austin
将 LLM 编码代理与冻结表格基础模型结合，只进化数据流水线，拿下 TabArena 与 MLE-Bench-Tabular 榜首
📌 工作参考价值（4 点）
- 冻结主模型、只让 LLM agent 搜数据/特征/采样/后处理：在推荐/广告 CTR 模型上，可冻结已训练好的排序/召回模型，让 agent 围绕它生成特征工程、样本选择、校准代码，用离线验证集反馈，避免边改模型结构边训练的噪声。
- 从列名/元数据自动生成领域特征：电商表格中大量业务字段（价格、类目、用户/商品 ID），LLM 可生成 price_ratio、category co-occurrence、user-item graph degree 等显式特征，免去模型从原始数值中隐式推断。
- 上下文采样 + 先验校准应对不平衡：类似论文中对少数类过采样多视图并在 log-odds 空间做先验修正，适合电商点击/转化率预估中的正负样本不平衡、稀有类目。
- 严格测试隔离与防泄漏：搜索只在单 fold 训练集内部 3 折 CV，沙箱禁网且不挂测试集；分类数据 shuffle 防止行号/排序泄漏。这些工程细节可直接照搬进推荐模型自动调参/特征搜索 pipeline。
MISO：用模型内部状态引导排序模型优化
🧭 模型内部状态引导的排序模型局部优化 ★ 深度解读
Meta
利用模型参数、激活、梯度等内部状态聚合出可解释信号，将排序模型优化试错成本降低84–94%
📌 工作参考价值（4 点）
- 将 MISO 的「ranking / alignment / comparison」三种聚合原语引入模型迭代流程，替代纯端到端指标判断，可以快速定位需要扩增容量、替换归一化模块或剪枝的位置，减少盲目试验。
- 工程上可以直接在训练框架中挂载 MIS 提取器（参数、梯度、归一化统计），离线分析后给出一份优先级排序的候选动作列表，再用少量验证 run 确认；适合广告/推荐团队在模型版本频繁更新时做低成本诊断。
- 对齐原语（Alignment）用于发现归一化层分布偏移，可提前干预不稳定特征流，避免线上指标漂移或训练崩坏；这一思路可直接用于电商搜索的 DNN 排序模型。
- MISO 本身是一种闭环优化范式：提取信号→生成建议→验证→再提取。可以结合现有的 AutoML 或超参调优流程，用 MIS 信号做剪枝后的高效搜索，保留可解释性的同时大幅降低重训练消耗。
TabPFN-3: 大规模表格基础模型的速度与性能突破
🧭 表格基础模型规模化与推理加速
Prior Labs
基于合成数据预训练的表格基础模型，通过测试时计算扩展和工程优化，在多种表格任务上超越调优集成方法，速度提升20倍
📌 工作参考价值（4 点）
- 合成数据预训练范式可迁移至电商推荐特征工程：不依赖真实标签，用先验生成大量多样化表格数据训练基础模型，冷启动场景潜力大。
- 测试时计算扩展（Thinking模式）思路可借鉴至推荐模型推理阶段：对复杂样本动态分配更多前向次数或集成，以可控计算成本换取显著效果提升，适合高价值决策场景。
- 工程优化直接复用：通过缩减KV缓存和row-chunking支持百万行数据单卡推断，可应对推荐系统海量用户-物品交互数据。
- SHAP值计算加速120倍：若业务需用SHAP进行模型可解释性分析，可参考其KV缓存复用策略，大幅降低线上或离线归因耗时。