行为引导稀疏路由的序列推荐
🧭 行为引导的MoE序列推荐 ★ 深度解读
Korea Advanced Institute of Science and Technology · Seoul National University
用会话行为线索（节奏/主题/记忆/流行度）引导MoE稀疏路由，让不同行为模式的会话走不同计算路径
📌 工作参考价值（4 点）
- 电商/广告序列推荐中，可以用日志侧特征构造行为线索作为MoE路由信号：从timestamp算interaction tempo，从类目标签算focus/switch rate，从item id算repeat/carryover，从训练集频次算popularity tendency；这些信号在预测前可算，且比纯hidden state更能反映会话行为差异。
- 分层稀疏路由值得借鉴：先由行为线索选 top-k 专家组（如tempo/focus/memory/popularity各组），再在组内结合当前hidden state选专家；组选择保持行为语义，组内选择保留位置级适应。
- 训练时不要用load balancing，改用route consistency + z-loss：前者让相似行为session的路由分布接近，后者压制路由logit过大；论文显示load balancing会伤害行为依赖分配。
- 多尺度路由（macro/mid/micro）对电商session有效：跨历史、当前会话、最近局部窗口分别聚合线索，macro/mid共享、micro随位置重算；若缺少类目或时间特征，可退化为sequence-only线索，仍能保持竞争力。
学习层级生成式检索的多分辨率相关监督
🧭 生成式检索 · Semantic ID 多分辨率监督 ★ 深度解读
Beihang University · Meituan
将文档相关度投影为 SID 层级各层的条件分支分布，训练共享 query 表示并保留标准自回归推理
📌 工作参考价值（4 点）
- 对于生成式召回中一个 query 对应多个相关 item 且共享粗粒度 ID 的情况，将 item 相关性按 SID/品类树投影到各层前缀，构造条件分支分布作为辅助监督，训练后丢弃辅助头，不增加推理延迟，可直接叠加到现有 full-SID/生成式召回训练。
- 用 parent relevance mass 加权局部 KL，并在候选集包含所有相关 children 和若干高打分 legal sibling negatives，显式建模同父节点分支竞争，比每条正样本独立 one-hot 监督更稳，可迁移到层级品类树下的 item ID 生成。
- 推理时可在 beam search 中加入前缀级 query-catalog 兼容性打分（如品类、属性、词法匹配），权重在验证集选，提升最终排序中相关分支覆盖率；中间层作用更大，别只靠 leaf 分数。
- 可借鉴 refinement entropy / ambiguity 指标量化 query 在每层 ID 的分支不确定性，用于评估 ID 结构是否合理、标注是否稀疏；不完整标注会掩盖粗粒度分支。
学习功能子空间实现神经网络压缩
🧭 低秩压缩 · 功能子空间学习 ★ 深度解读
Helmholtz Munich · Technical University of Munich · Télécom Paris · Columbia University · New York University
用端到端学习的正交投影子空间替代逐层闭式低秩截断，显著提升LLM/ViT高压缩比下的精度与推理效率
📌 工作参考价值（4 点）
- 在电商/广告/搜索的LLM部署中，可用LSP对底座或领域模型做低秩压缩：用线上日志、商品语料或搜索曝光文本作为校准集，冻结原权重、以KL蒸馏学习要删的子空间，比SVD/剪枝更适合极限压缩。
- 直接复用「按输出KL边际成本分配rank」：Q/K/V往往比MLP更可压，注意力层可更激进地降秩；避免均匀分配浪费参数，分配阶段无需梯度，便于工程落地。
- 借鉴tied projector共享Q/K/V输入因子：KV cache只存一个窄潜在向量，可显著降低长上下文用户序列、Agent记忆或会话历史的显存占用；配合Palu/MLA类实现效果明显。
- 训练后合并为标准低秩矩阵，无额外算子，容易接入TensorRT/vLLM等推理框架；warm-up、direction dropout和正交惩罚等技巧可直接迁移到自研压缩流程。
循环 MoE 超越两轮的可扩展训练方案
🧭 循环 MoE 深度扩展与训练稳定化 ★ 深度解读
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences · Peng Cheng Laboratory · University of Chinese Academy of Sciences · The Hong Kong Polytechnic University · University of Surrey
LOOM 用残差缩放、输入重注入、逐循环路由与 Looping Residual 让 MoE LLM 稳定循环 9-12 轮并优于基线
📌 工作参考价值（4 点）
- 在生成式推荐或 Query 生成中若采用 Looped LLM / 共享层 MoE，可复用 γ=λ/(H√M) 的残差缩放和逐轮输入重注入，防止多轮迭代后表示漂移与训练发散，尤其适合反复生成候选 query 或语义 ID。
- 在 FLOPs 受限的在线推理中，建议共享专家但为每轮循环配置独立 router：只增加少量路由参数，就能避免专家选择坍缩，让每轮实际激活不同 expert，提升循环计算收益。
- Looping Residual 以固定衰减 EMA 仅存一个累加张量就能保留跨循环历史，适合在低延迟排序/召回中叠加多轮细化信号，显存开销可忽略。
- 训练深层循环模型时采用分段反向传播（每 K=3 循环为一段、段间 detach），峰值显存几乎不随循环数增长，训练更快更稳，值得 GPU/NPU 受限的业务复现。
以工作流为支架的多角色协同进化框架 FLOWRIGHT
🧭 多智能体工作流协同进化与训练 ★ 深度解读
William & Mary · NEC Corporation of America · University of Illinois Urbana-Champaign
提出FLOWRIGHT，将工作流作为统一harness，通过分层结构感知奖励实现多角色自进化与共进化，无需额外模型或标注
📌 工作参考价值（4 点）
- 将推荐/搜索链路建模为工作流，用统一的业务指标作为 harness 同时训练召回、粗排、精排、重排等多角色策略，避免各环节独立优化导致的不一致；工作流生成器和执行器共享同一奖励信号，可实现端到端协同进化。
- 借鉴结构感知信用分配：从执行 trace 中提取每个角色失败的节点比例作为轻量惩罚项，无需额外 reward model 或人工标注，即可在联合训练中定位责任，降低多智能体 RL 的信用分配成本。
- 采用数据硬化策略构造工作流级任务：将简单 query 或单步任务组合成需要多源信息聚合、长上下文推理的复杂任务，防止训练信号退化为单一 agent 主导，更有效地激发多 Agent 协作。
- 测试时 meta-distillation：将线上成功的工作流模板蒸馏为 few-shot prior，通过上下文学习快速适应新场景，避免在线梯度更新，适合电商大促、突发 query 等动态环境。
在生成式与协同用户画像之间路由：一种用于可控新颖性的服务时门控
🧭 生成式用户画像 · 服务时路由 ★ 深度解读
DePaul University · Comcast Technology AI
提出服务时路由门控，在协同过滤与LLM生成画像推荐模型间按用户选择性切换，以可控新颖性-相关性权衡提升Novelty@10
📌 工作参考价值（4 点）
- 借鉴 serving-time gate 思路：当有多个候选模型（如协同过滤 vs LLM画像）时，不要全局切换，而是训练轻量分类器根据用户特征动态路由，用 NDCG 损失预算控制流量分配。
- 特征设计简单有效：使用历史长度、消费物品流行度均值/中位数、niche ratio 等行为统计特征，无需复杂模型或画像生成过程，即可预测路由收益；其中协同表示范数是最重要特征。
- 用 pairwise 差值定义训练标签：对每个用户计算切换前后的 ΔNovelty 和 ΔNDCG，设定双条件（ΔNovelty>0 且 ΔNDCG>=0）作为正样本，可以训练门控直接预测“有益路由”概率。
- 评估时采用 OOF 和覆盖排名扫描，在固定相关性预算下选择最大化新颖性的阈值，避免过拟合，并得到可解释的 operating point。
在推理时强化视频LLM的时序表示
🧭 视频LLM时序推理的推理时激活注入
Korea Advanced Institute of Science and Technology (KAIST)
发现时序信息在中间层达到峰值后逐渐消失，提出无需训练的 Temporal Activation Injection (TAI) 在推理时注入激活以强化时序推理
📌 工作参考价值（3 点）
- 在电商/内容平台使用 VideoLLM 做商品视频、直播切片、短视频广告素材理解时，可直接在推理阶段集成 TAI（无需训练），提升对时间顺序类问题的回答准确率，如“主播先展示哪款商品后再讲解优惠”、“使用步骤的先后”等；对非时序任务几乎无副作用，适合即插即用。
- TAI 的核心是层间时序分歧曲线的测量与衰减补偿，这一诊断思路可迁移到多模态 LLM 的推荐场景：对商品属性、价格、款式等特定信息做层间表示分析，定位表达该信息的关键层，为后续推理时干预、提示设计或模型裁剪提供依据。
- 在 Agent 工作流中若包含视频理解子模块，TAI 仅增加一次前向的激活注入，工程实现简单、延迟开销小；可复用其从分歧向量峰值处提取信号并沿层衰减回注的做法，作为强化特定模态/时序能力的通用推理时增强手段。
AdaM-Rec：面向多模态推荐的自适应模态路由框架
🧭 多模态推荐 · 自适应模态路由 ★ 深度解读
University of Queensland · Alibaba Group · Southeast University · Adelaide University
AdaM-Rec 用 LLM 智能体通过历史正样本伪查询做代理召回评估，动态路由文本与多模态召回预算
📌 工作参考价值（4 点）
- 对多路召回系统，可以用“历史正样本伪查询”做在线代理评估：为每个 query 生成与当前粒度一致、指向用户已购/点击商品的伪 query，在小候选池上比较文本向量和多模态向量的命中 rank，据此动态分配召回 quota，代替固定融合权重。
- 将 LLM 作为策略控制器输出路由参数（分支权重和总预算），并结合相似用户的历史参数做 warm start；实验显示小预算时聚焦单一优势模态优于均分，可指导长尾流量召回策略。
- 排序前按召回来源做特征裁剪：对文本召回候选过滤视觉属性，减少不相关视觉信号对相关性打分的干扰，尤其适合功能/规格型 query。
- 工程上注意开销：agentic 路由增加推理成本，但可通过轻量文本编码器（如 0.6B）和控制迭代步数来平衡，多模态编码器容量对效果更敏感。
AdviSD：通过定向多轮自蒸馏训练前沿 LLM 的顾问模型
🧭 小型 advisor 训练 · 定向自蒸馏 + GRPO ★ 深度解读
Google · University of Southern California
用配对评分筛选哪些反思修正值得监督，训练小型 advisor 通过自然语言建议提升冻结 Gemini/Claude 的工具调用与多轮 agent 表现
📌 工作参考价值（4 点）
- 对调用黑盒 LLM API 的电商/Agent 场景，可以用小模型做外部 advisor，不必微调 frontier 模型；AdviSD 的配对评分过滤不依赖 executor logits 或额外 rollout，工程成本低。
- 训练时把“修正生成”和“选择哪些修正用于监督”解耦：用 pre-update advisor 对同一 executor 回复计算 with/without advice 的平均 log-prob 差，只保留差值超过阈值的决策；不要学所有反思修正，尤其避免学对 executor 行为无影响的“正确但无用”建议。
- 对原始 abstention 决策要单独 bypass：因为无 advice 时 with/without 上下文相同、score 差为 0，容易被过滤掉；保留被 reflection 标记的 missed advice 可提升 0.6–1.7 点。
- 做消融时加 matched-count random control，能区分“少学一点”和“选得对”；阈值可以用 donor advice（其他任务 advice）在 pilot 上校准并固定。
AutoDataBench：加速自动研究的数据中心测试平台
🧭 评估Agent数据智能能力
The Hong Kong Polytechnic University · IQuest Research · Shanghai Jiaotong University · TU Darmstadt · The University of Manchester
构建受控测试床隔离数据智能，评估LLM改进训练数据的能力及数据效应推理，并将轨迹复用于mid-training
📌 工作参考价值（4 点）
- 将数据诊断、数据组织、数据构建三阶段框架用于电商推荐数据飞轮：固定模型与超参，单独度量数据改动的增益，避免归因混淆。
- 借鉴迭代实验设置：在资源预算约束下让LLM自动做特征筛选、样本去噪、知识注入（如商品属性补全），可降低人工数据工程成本。
- 引入“训练前预测 vs 训练后结果”对比审计LLM的数据理解能力，识别Agent是否只是试错而非真正推理数据效应，可用于内部Agent评估。
- 收集Agent的数据干预轨迹用于mid-training，提升下游任务性能，说明高质量数据操作过程本身可作为合成数据，适合电商场景的持续预训练或指令微调。
半事实信用增强策略优化
🧭 LLM 强化学习训练 · token 级信用分配
Zhejiang University · Westlake University · Shanghai Innovation Institute · Shanghai AI Laboratory
提出 SCAPO，将半事实稳定性融入 GRPO 的 token 级信用分配，提升数学推理与 OOD 泛化
📌 工作参考价值（4 点）
- 在电商/Agent 场景用 RLVR 微调 LLM（如以是否成交/点击作为 verifiable reward）时，GRPO 会把同一 outcome advantage 平均分给所有 token，容易强化 prompt 模板、位置等伪相关；可借鉴 SCAPO，用语义不变改写构造半事实干预，计算 token 概率漂移作为稳定性分数，在早期训练中对不稳定 token 降低 advantage。
- 论文发现解码时直接抑制高 drift token 候选，无需更新权重就能提升推理准确率；这可以迁移到 LLM 排序/召回/query 改写等生成任务，对 prompt 改写或模板扰动下概率漂移大的 token 做推理时惩罚或 mask，降低线上 prompt 敏感性。
- 稳定性分数被归一化后只用于削减不稳定 token 的 advantage，不给稳定 token 额外奖励，避免 reward hacking；实际调优时可沿用这一设计，把稳定性作为正则化/掩码信号而非正奖励。
- 主要实验在数学推理，业务迁移需自行验证；但对需要强泛化、且 reward 容易受 prompt 表面特征影响的 LLM Agent 训练，SCAPO 提供了一种轻量的 token 级 credit 修正思路。
测试时 AI4AI 中面向 Agent 脚手架设计的元技能学习
🧭 Agent 元技能与执行环境构建 ★ 深度解读
Apodex · University of Illinois Urbana-Champaign
提出通过 Builder 从 Target 执行反馈学习元技能，并物化为脚手架以提升固定权重 Agent 的表现
📌 工作参考价值（4 点）
- 将“教模型解题”拆成“教构建者设计支持”：用 (when, provide, use) 三字段沉淀执行反馈中的共性失败/负担，而非只蒸馏任务技能；在电商 Agent 工作流中可用于提炼“何时需要价格/库存校验、提供什么工具、谁负责最终判断”的运维原则。
- 支持要以“可执行脚手架”交付，不要直接把同一批 skill 塞给下游 Agent：让 Builder 把元技能编译成 memory、controller、verification、工具包装等；论文中 Builder 交付比直接给 Target 平均高 12.02 个百分点，说明把语义知识转成持久状态/控制流是收益来源。
- 同一模型可同时当 Builder 与 Target，不更新权重也能通过“学会给自己搭环境”自改进；适合线上 Agent 系统在 fixed model 下做轻量自举，尤其是反复出现的协调/提交流程。
- 技能访问默认全量 bank 给 Builder，通常优于 BM25 top-2（本文 5/6 设置全量更好）；当 bank 变大再做考虑互补性的检索，并结合开发集反馈做回滚/选择性保留，避免过拟合。
从给定证据到主动采集证据：纵向医疗推理的智能体学习
🧭 Agent 工具调用与证据采集强化学习
Durham University · DAMO Academy, Alibaba Group · Hupan Laboratory · University of the Chinese Academy of Sciences
提出 CASE 角色化临床智能体与训练框架，将证据寻求策略蒸馏到 8B VL 模型，纵向医学基准超越 GPT-5.4 与 Claude Opus 4.8
📌 工作参考价值（4 点）
- 信息获取型 Agent 的环境设计：不要把用户/商品/内容/广告记录一次性塞进大 context，而是将不同数据源组织成可查询工具（历史订单、点击序列、画像、素材、库存/物流等），让策略模型自主决定“看哪个来源、看多细、是否回看”。这更适配需要跨多证据推理的选品归因、活动复盘、商品冷启动与客服工单诊断。
- 训练框架可复用：先 SFT 蒸馏 frontier 模型的多轮工具调用轨迹，再做 on-policy RL + 特权自蒸馏 + rubric-based LLM 反馈；关键是不规定工具调用顺序，只奖励最终结论质量与证据引用合理性。比固定 pipeline 更适合搜索推荐的动态环境。
- 评测结构化：以真实结果（如 ICD-10 诊断）生成问题，让 Agent 在患者环境中主动取数；业务上可由真实成交/退货/投诉/复购结果构造诊断性问题，评估 Agent 的证据检索与归因能力，而不是只看预测 AUC。
- 8B 紧凑策略模型 + 对齐过的评估条件能超过大体量 frontier 模型，说明把前端交互策略训练好，中小模型在特定业务环境中具备落地性价比。
Dr. OPD：学习该跟随哪些教师信号的最优在线蒸馏
🧭 On-policy distillation 自适应 token 加权 ★ 深度解读
Rutgers University
通过双层优化学习 token 级教师信号权重，使学生在在线蒸馏中以 outcome reward 为准则超越教师
📌 工作参考价值（4 点）
- 在蒸馏生成式物品/query 模型时，不要平均地模仿 teacher 的所有 token，可以用 outcome reward（如点击、转化、生成质量分）与 teacher correction 的梯度对齐来给 token 加权。闭式更新 weight = clip(1 + λ * credit, w_min, w_max) 实现简单，λ 在 0.2-0.6 内不敏感，适合线上快速调参。
- 工程上，credit 的计算不需要为每个 token 显式保存参数梯度，用一次 JVP 即可得到所有 token 的方向导数，开销很小；可直接在现有 GRPO/PPO 框架里加一个 JVP + 权重重算步骤，且可以复用 actor optimizer 的二阶矩做 scaling，稳定训练。
- 在业务 LLM 微调中，当 teacher 比 student 强但 reward 信号存在（如 search 中用户点击、query 改写后的检索指标），可先蒸馏后加 reward 加权，可能让 1.7B 小模型超过 4B 教师；对于 base 模型冷启动，若 reward 成功样本太少，提升有限，需要先保证一定的成功 rollout 比例或使用更简单训练子集。
- 可复用的结论：不是所有教师监督都有用，遵循“有利于 reward 的教师信号”才提升业务指标；在 OPD 基础上融合 outcome reward 的方式很重要，简单加 GRPO 或 gate 可能只带来 marginal gains，梯度对齐的 token-level 加权是关键。
多模态流：嵌入空间中语言与视觉的统一流建模
🧭 多模态统一连续生成 · Flow Matching
Huazhong University of Science and Technology · Beijing Jiaotong University · Horizon Robotics
提出全连续多模态生成模型，用流匹配在连续嵌入空间统一语言和视觉，避免离散量化瓶颈
📌 工作参考价值（4 点）
- 连续 embedding 流建模可以替代离散 token，用于商品多模态统一表征，减少视觉量化损失；在生成式推荐中可尝试用连续流匹配生成 item embedding 或 Semantic ID 的替代表示。
- chunk-causal 骨干同时保留文本顺序和图像空间结构，适合电商商品标题、详情图等混合模态的联合建模；训练时并行预测多 target chunks，推理顺序生成 hyperchunks，可加速序列化商品描述生成。
- 共享联合注意力 + 模态特定 FFN 的架构，可作为商品图文融合模块：不同模态保持专门前馈处理，同时通过注意力做跨模态交互，比简单拼接更灵活。
- 在小数据预算下持续预训练仍能提升多模态能力，说明该连续建模范式的数据效率较高，对业务中数据量有限的场景有参考价值。