AutoDataBench：加速自动研究的数据中心测试平台
🧭 评估Agent数据智能能力
The Hong Kong Polytechnic University · IQuest Research · Shanghai Jiaotong University · TU Darmstadt · The University of Manchester
构建受控测试床隔离数据智能，评估LLM改进训练数据的能力及数据效应推理，并将轨迹复用于mid-training
📌 工作参考价值（4 点）
- 将数据诊断、数据组织、数据构建三阶段框架用于电商推荐数据飞轮：固定模型与超参，单独度量数据改动的增益，避免归因混淆。
- 借鉴迭代实验设置：在资源预算约束下让LLM自动做特征筛选、样本去噪、知识注入（如商品属性补全），可降低人工数据工程成本。
- 引入“训练前预测 vs 训练后结果”对比审计LLM的数据理解能力，识别Agent是否只是试错而非真正推理数据效应，可用于内部Agent评估。
- 收集Agent的数据干预轨迹用于mid-training，提升下游任务性能，说明高质量数据操作过程本身可作为合成数据，适合电商场景的持续预训练或指令微调。
MidTool：面向智能体工具使用的中期训练数据合成
🧭 Agent 工具使用 · 中期训练数据合成 ★ 深度解读
University of Washington · Snowflake · University of North Carolina at Chapel Hill
构建首个通用工具使用中期训练语料MidTool-Mix，显著提升4B/8B模型在函数调用、多步交互和MCP任务上的表现
📌 工作参考价值（4 点）
- 将工具文档、API schema、代码仓库等非结构化数据合成 agentic trajectories 用于 mid-training，可让模型提前学会参数 extraction 和 workflow composition；电商推荐 Agent 可借鉴此思路，针对商品搜索、订单、优惠券等内部 API 构建专属语料，减少对 post-training 的依赖。
- 两条合成分支分别针对 grounding（从文档/PDF生成 QA 和轨迹）和 execution（从真实 API/MCP 生成可执行轨迹），且必须组合才能全面收益；业务上可分别构建「文档问答+多轮调用轨迹」与「真实工具交互轨迹」两个数据管道，避免单一类型导致能力偏科。
- 数据配比约 42% web + 26% code + 23% PDF + 9% native agentic trajectories，其中 9% 的 native 轨迹对精确函数调用贡献最大；在构建内部工具使用语料时可参考此比例，优先保底 code/文档，但必须预留一部分真实可执行轨迹。
- 训练顺序上先 mid-training 再 SFT/RL 能显著提升多轮交互和 unseen tool 泛化，且 SFT 收敛更快；如果业务已有工具调用 SFT 数据，可先做一轮小规模 mid-training 初始化，再用原有 SFT 数据微调，投入产出比高。
Metis：记忆基础模型，让大模型内生记忆能力
🧭 记忆基础模型·原生记忆状态与过程 ★ 深度解读
MemTensor (Shanghai) Technology Co., Ltd. · Renmin University of China · National University of Singapore · Shanghai Jiao Tong University · Tongji University
首个记忆基础模型原型，将记忆内化为原生参数化状态和计算过程，用中间训练获得自主记忆能力
📌 工作参考价值（4 点）
- 可用轻量级固定尺寸记忆矩阵（M_t, S_t）隐式存储多轮对话历史，替代显式文本拼接或外部检索，上线仅需前向传播，无需梯度更新，适合在线推荐 Agent 部署
- 记忆更新（Gated Delta Network 风格）与当前推理完全解耦，可与原始注意力并行计算，推理延迟主要取三者最大而非相加，对实时性要求高的电商对话系统有参考价值
- 中间训练数据构造方法可复用：将公开事实型数据集改造成含记忆操作（记住/更新/遗忘/反射）的多步交互序列，显式标注记忆一致性，用于训练推荐对话 Agent 的上下文理解与状态管理
- “原生记忆过程”思想可扩展到推荐模型：将用户行为序列压缩为模型内部动态参数，用特殊设计的记忆重建与操作损失联合优化，实现端到端的个性化状态保持