Muon-RT：复用教师轨迹的无动量 Muon 用于 LLM 自蒸馏
🧭 LLM 自蒸馏优化器内存优化
IIT Kanpur · Amazon
复用 EMA 教师-学生位移替代 Muon 动量缓冲，在自蒸馏微调中省显存并提升准确率
📌 工作参考价值（4 点）
- 如果业务中已在用自蒸馏/EMA teacher 做 LLM 对齐（SDFT/SDPO），可去掉 hidden weight 矩阵的 Muon 动量 buffer，直接复用 teacher-student 位移；在 Qwen2.5-7B 上平均准确率比 AdamW 高 2.6 点，同时持久显存省 42%，适合 7B 级线上微调。
- Muon-RT 保留 Newton-Schulz 正交化，但对 teacher 位移做去径向分量 + spectral normalization，再与当前梯度混合；这种“复用历史更新方向去噪”的思路可迁移到推荐模型的大 embedding/MLP 权重优化，尤其是 LoRA/全参微调受显存限制时。
- 相比 momentum Muon 平均提升 5.4 点、持久显存少 27%；在 Olmo-3-7B SDPO 上比 AdamW 提升 2.0 点，说明策略优化/RL 自蒸馏场景也能作为 AdamW 替代。
- 注意边界：收益依赖局部模型、正则与对齐假设，且主要针对 hidden weight 矩阵；建议先在小规模微调中验证内存与收敛，再在推荐/搜索 LLM 训练中推广。
潜在稀疏注意力：面向亚二次超长上下文注意力
🧭 高效注意力 · 超长上下文
提出潜在稀疏注意力 LSA，通过可学习层次聚类实现超长上下文亚二次注意力且保持精度
📌 工作参考价值（4 点）
- 长上下文 Agent 会话/记忆管理可借鉴：电商导购、客服等 Agent 维护超长多轮历史时，用 learned latent space 对 keys 做层次聚类，query 只打分聚类中心，大幅降低 decode 阶段的 KV cache 访问与计算，适合在线低延迟场景。
- 已有预训练模型不想重训的情况下，D-LSA 蒸馏提供低成本升级路径：仅在注意力层增加分层聚类索引，用原模型蒸馏对齐，可离线验证精度损失后逐步上线。
- 若从零训练或大规模训练长上下文模型，N-LSA 原生训练同时降低训练与推理成本（128k tokens 单层训练 1.6x），对自建基础模型或微调有参考价值。
- 局限与注意：方法依赖键空间聚类稳定性，电商推荐中商品/query 分布快速变化，需评估索引重建频率与召回误差；目前验证集中于语言模型，迁移到推荐特征需要额外实验。
RangeSWA：连续扩散语言模型的免训练长度外推
🧭 连续扩散语言模型 · 长度外推
Clemson University · University of Ottawa · PayPal · actA V A AI
提出训练无关的 RangeSWA，通过滑动窗口+远程块摘要+动态检索缓解连续扩散语言模型长文本生成的重复与漂移
📌 工作参考价值（4 点）
- 长序列生成（如商品详情文案、营销邮件、多轮对话 Agent 的长期记忆）可借鉴“局部窗口 + 远程块摘要 + 检索”的混合注意力策略：不重新训练，只改推理时 attention mask 和 token 组织，减少长输出的重复和跑题。
- 位置重映射与条件注意力校正的思路可迁移到已有 LLM/扩散推荐模型做长度外推：将训练时位置范围线性/非线性映射到更长范围，同时对 conditioning 的注意力权重做校正，避免因训练分布偏移导致的崩溃。
- 去噪阶段自适应窗口调度值得在扩散式生成推荐（如连续扩散生成 item embedding 或描述）中尝试：前期大窗口保持全局一致性，后期缩小窗口强化局部细节，可平衡多样性与准确性。
- 但连续扩散语言模型本身在电商/广告场景尚未成为主流，落地需先评估该范式与自回归模型相比在成本、延迟上的优势；该方法主要为学术贡献，工程迁移门槛较高。
SecPO：面向提示注入安全的原理性对抗训练
🧭 LLM 安全 · 对抗训练防御 Prompt Injection
UC Berkeley · Anthropic · Google DeepMind
提出 SecPO 损失与对抗训练管线，将 Qwen3.6-27B 在 AgentDojo 上的提示注入 ASR 从 78.8% 降至 8.8%，且无良性性能损失。
📌 工作参考价值（4 点）
- 在电商/客服 Agent 使用不可信外部数据（商品评论、工单、邮件）时，应将 prompt injection 视为高风险，采用防御性微调而非仅依赖系统提示词；SecPO 思路：构造注入不变且保持业务 utility 的偏好对，替代以原始不安全模型为参考的 DPO。
- 可搭建红队自动化对抗训练流水线：持续合成强注入样本（论文 best@240 水平的攻击），加入微调数据，比只用弱模拟攻击有效；对电商场景可针对商品描述注入、用户评论注入等生成专用对抗样本。
- 上线前评估应采用 AgentDojo 类自适应攻击和 ASR@N 指标，覆盖攻击者后手（AttackerMovesSecond）等更贴合真实 agent 工作流的位置，而不仅是单轮 prompt 测试。
- 安全微调可以与工具调用、指令遵循等能力保持兼容：通过多任务/多基准联合训练与监控，避免为了安全牺牲业务核心能力。
上下文即基础设施：面向带Harness的Agent系统检索的知识编译
🧭 Agentic RAG 的知识编译与检索纪律 ★ 深度解读
InfiniFlow Inc. · East China Normal University
在Agentic检索中，把文档编译为声明-证据叶子可让命中token省91%、平均省38%，盈亏平衡充分率仅2%
📌 工作参考价值（4 点）
- 在Agentic检索/问答栈中，优先用BM25+grep+LLM harness做检索控制，不必引入向量索引；论文实测加dense leg反而降准确率，可降低系统复杂度和索引成本。
- 对电商商品描述、政策文档、广告素材库等需要精确引用的场景，可仿照claim-evidence编译：用轻量模型抽取“声明+逐字证据span+源偏移”，召回后替换整chunk进上下文；命中节省91% token，未命中仅多1.9%，平均38%，适合token敏感的大规模Agent系统。
- 增加决策gate（轻量决策模型）判断证据充分性，拒绝则丢弃整个块而不是塞入prompt；可显著降低端到端延迟（140s→30s），但token节省以检索轮次为代价，需在延迟和成本间权衡。
- 结构化的RAPTOR/PageIndex/wiki/graph等artifact在强harness下对准确率无增益甚至负收益，不应作为召回卖点；应把它们当作治理/审计/跨源集成工具，用独立ledger（如审计覆盖率、集成成功率）评估，而不是benchmark准确率。
树结构分支策略优化 TSBPO：交互式语言智能体训练
🧭 交互式语言智能体策略优化
University of Electronic Science and Technology of China
TSBPO 用树结构采样与更新统一解决交互式语言智能体训练的采样、延迟信用分配和多 token 损失聚合
📌 工作参考价值（4 点）
- 将 rollout 构建为物理树，并用 likelihood-fitted Root/Branch allocator 在固定预算下优先展开高风险分支：这个思路可迁移到电商导购 Agent 的模拟训练，减少无效交互采样，把探索预算集中在信息增益大的状态。
- 信用分配不用全局奖励做蒙特卡洛，而是比较同父兄弟片段和同任务/观测状态的相对优势：适合多轮推荐对话中延迟转化信号，能被归因到具体话术或动作轮次，减少奖励噪声。
- 多 token 动作聚合采用完整 response 内 token surrogate 求和并按 active turns 归一化，避免直接按 response 长度平均导致的梯度消失：生成式推荐中的商品标题/文案策略梯度可直接复用这一项。
- 固定 checkpoint + 多次随机 episode 取平均成功率作为评估，比单次最优模型更可靠，适合上线前回归评测 Agent 稳定性。
TradeWar：执行落地贸易谈判基准与自适应 LLM Agent
🧭 LLM 多智能体自适应谈判与执行反馈
College of Computer Science, Beijing Information Science and Technology University
提出执行导向的多国贸易谈判基准 TradeWar 和自适应智能体 TACTIC，用结算结果驱动跨轮策略优化
📌 工作参考价值（4 点）
- 谈判类 Agent 不能只看 agreement rate：业务上应定义“执行后收益”指标（如 EHI），把对话策略与最终结算、履约结果绑定，避免高成交低价值。电商价格谈判、广告位协商、供应链协同都能复用。
- TACTIC 不更新 LLM 权重，靠跨 episode 经验、对手建模和结算反馈形成策略迭代闭环。工程上可用外部 memory / replay buffer 沉淀历史会话与成交结果，在 prompt 中注入 refined strategy，成本低且可控。
- 交互记忆 + CoT 并不足够应对延迟执行反馈；推荐系统中曝光→点击→转化同样是延迟反馈，建议把多轮交互后的实际结果作为显式状态纳入策略更新，而不是只积累对话文本。
- 论文通过 technology-controls 和 energy-crisis 冲击测试鲁棒性，说明构建环境模拟器并加入外部 shock 训练，能提升 Agent 面对政策、流量或供给突变的韧性，适合电商大促、广告库存异常等场景。
需要搜索时搜索，可靠时继续：面向高效智能搜索的元认知可靠性监督
🧭 Agentic RAG 搜索决策强化学习 ★ 深度解读
Beijing Institute of Technology
用局部结论的序列不确定性估计可靠性，为搜索/不搜索决策构建过程奖励，在 GRPO 中提升搜索效率与准确率
📌 工作参考价值（4 点）
- 将局部结论的 sequence uncertainty 作为可靠性信号，可用于对话推荐/购物助手中判断模型对中间结论的自信程度，决定是否调用商品知识库、搜索或 RAG；无需额外标注，推理时零开销。
- 对“搜索/不搜索”决策分别设计 process reward：不搜索时奖励高于校准阈值的可靠性，搜索时奖励检索前后可靠性的增量，而非只看最终答案是否正确；这能直接迁移到 Agent 工具调用策略的强化学习训练。
- 用 matched probes 估计 counterfactual reliability change，可推广到其他工具调用：固定同一状态，比较有/无工具返回结果的可靠性差异，作为工具价值的无偏监督。
- 实验结果提供可复用结论：该策略在 single-hop 查询上减少约 20.9% 搜索调用，multi-hop 上增加 6.6%，说明可按问题复杂度动态分配检索/工具调用，适合电商搜索中查询类型分流的成本优化。
异步流图语言模型（aFMLMs）
🧭 并行语言模型 · 异步流图
KAIST · Purdue University · The University of Tokyo
将 token 预测顺序通过异步流图编码进单步并行语言模型，实现高质量一步生成
📌 工作参考价值（4 点）
- 延迟敏感场景（如搜索结果摘要、推荐理由、广告文案）可借鉴 aFMLM 将教师迭代生成的顺序知识蒸馏到单步学生模型，保持生成质量的同时把推理从多步降到一步，显著降低 RT。
- 学习 state-adaptive 的 token 时间调度可作为一种隐式排序机制：模型根据上下文决定哪些 token 先“成熟”，适合需要动态优先级生成的推荐解释或对话式推荐。
- 蒸馏流程可复用到生成式推荐中的 Semantic ID 序列生成：用教师模型（AR 或扩散）生成顺序信号，训练单步模型快速输出 item ID 序列，降低线上生成延迟。
- 该方法在 Sudoku 和代码生成等结构化推理任务上有效，提示在需要约束生成的任务（如商品标题、属性组合生成）中，显式建模 token 顺序可能比纯并行生成更优。
逐步查询：无教师思维链访问下的推理蒸馏
🧭 LLM 推理蒸馏 · 黑盒 query 细化
Institute of AI and Future Network, Beijing Normal University
黑盒教师下用逐步独立查询蒸馏推理，无需 CoT，14/16 对比最优
📌 工作参考价值（4 点）
- 黑盒大模型 API 做推理蒸馏：不要只拿 final answer/brief solution，把任务拆成单步 derivation、validity check、correction 多轮 query，再拼装 SFT；业务侧拿不到 teacher CoT 权限也能做小模型推理增强。
- 数据过滤别只按 final answer：答案错误但中间推理有效的轨迹可保留，尤其适合商品属性抽取、query 改写逻辑、广告文案生成等任务；可用 frozen student 对正确中间步骤的 log-ratio（类似 SEIG）评估哪些 step 仍有信息增益。
- 拆解粒度要控成本：逐步 query 有收益但过度分解收益有限，工程上优先拆到关键推导与校验，避免过多 query 调用和延迟。
- 对 Agent 规划训练可复用：若用大模型生成多步决策轨迹，可把每步 decision/check/修正作为独立 query 组装成微调数据，提升小模型规划稳定性。
Agentic University：协作多智能体实现个性化学习
🧭 多智能体协作个性化学习
Shanghai Jiao Tong University · Nanyang Technological University · National University of Singapore
提出人类参与的多智能体组织方法，让学习者与专门Agent协作维护可修订能力计划，实现连贯自适应学习
📌 工作参考价值（4 点）
- 借鉴“Capability Program”作为用户长期偏好/目标的显式表示，让用户参与目标设定与修订，将行为证据（点击、转化、反馈）作为驱动后续推荐策略的“学习证据”，形成目标-行为-评估闭环。
- 多智能体组织分工：将推荐链路拆分为目标对齐、候选生成、评估反思等专门 agent，通过组织化协调而非单一大模型调用，提升系统的可解释性和可控性；可参考其“人类参与”机制，让用户作为协作方而非被动对象。
- 分层评估与反馈闭环：引入分层评估（如短期满意度、长期能力提升）并利用评估结果触发策略修订，对应推荐系统中结合即时指标（CTR）与长期指标（用户留存、LTV）的动态调整。
- 工程实现上，Agent 间通过共享可修订文档（Capability Program）协调，类似用结构化状态文件协调多智能体，适合电商场景中多 agent 共同维护用户画像或推荐策略。
别丢线索：让长程 LLM Agent 自主分配认知资源
🧭 Agent 长程上下文管理 · 多 episode RL ★ 深度解读
The Chinese University of Hong Kong · Tencent · The Hong Kong University of Science and Technology
CORAL 用可调用的记忆管理与上下文重置工具，让 Agent 自主 checkpoint 并跨 episode 做 RL，GAIA 上 8B 达 42.8% 且 token 成本少 6-7 倍
📌 工作参考价值（4 点）
- 在电商/搜索的 long-horizon Agent（如导购调研、售后多跳查询、广告素材调研）中，可引入显式 Working Memory 工具：用 MM 维护“任务进度 + 已验证事实”，在上下文过大时触发 CO 清空历史只保留 memory。能显著降低线上 token 成本（本工作输入 token 减少 87.4%），并缓解长会话中模型注意力被旧上下文稀释。
- 训练数据可把 multi-episode 轨迹按上下文重置边界拆成独立对话，后续 episode 的输入 = system prompt + user task + 上一 episode 产出的 memory state；这比平铺拼接更符合推理现场，且天然教会模型“从检查点续跑”。推荐在 SFT 时对 observation tokens 做 loss mask，只学 agent 自己的 thought/action。
- 对于弱/中等开源模型，光靠 prompt 加工具可能无效甚至掉点（Qwen3-8B prompting 仅 20.4% vs ReAct 19.4%）；建议走“SFT + 简单 RL”。RL 不需要复杂信用分配：把 trajectory 最终 reward 广播到所有 episode 并池化做 group advantage（Multi-episode ARPO），即可提升 checkpointing 策略并稳定输出方差。
- 工程上注意 Memory 污染：CO 重置会永久丢弃历史中可交叉验证的证据，错误事实一旦写入且被 reset 后不可恢复。推荐 MM 写得保守、CO 只在上下文真正难管理时调用；必要时给 memory 条目保留 provenance/引用，以便后续校验。
CASH：面向广告主补贴分配的能力感知补贴调度框架
🧭 广告主补贴分配 · LLM Agent 与数值模型协作 ★ 深度解读
Fudan University · Kuaishou Technology · Tianjin University
以结果校准的 capability license 融合 LLM Agent 与数值模型，在线收入提升 15.35%
📌 工作参考价值（4 点）
- 借鉴 outcome-grounded capability license：不全局信任 LLM 或数值模型，在账户×档位维度维护误差上限、支持度和区域准入，只让许可范围内的估计参与优化；适合把 LLM 纳入线上决策但需控风险。
- 共享预算问题写成 multiple-choice knapsack 并用对偶价分解；许可证能屏蔽未许可档位带来的跨账户误差传播，电商大促补贴/优惠券分配可直接复用。
- 限频调用 LLM：用 pre-call judge 与 call-value 回归选择 top quota 账户调用，靠随机 audit 保留可观测性；CASH 用 15% 的调用量恢复全量 86% 的 MAE 收益，成本敏感场景可用。
- EPCG 式探索：用 Beta 后验和区域准入变化预估新增反馈对可靠覆盖的增益，动态规划分配反馈预算，比随机采样更能扩展可信任区域，可迁移到 RAG/冷启动补标签。
长时智能体记忆：互补式记忆构建与整合
🧭 Agent 长程记忆 · 混合存储与整合 ★ 深度解读
Microsoft
提出情节记忆+结构化关系记忆的混合存储，并通过离线聚类整合压缩16%以上记忆且性能几乎不降
📌 工作参考价值（4 点）
- 会话级记忆构建：电商客服/导购 Agent 可在 session 结束后批量抽取两类记忆，减少逐轮 LLM 调用，同时保留跨轮上下文；关系记忆采用 (实体, 关系, 客体, 时间戳, 来源上下文) 结构，便于后续查询、更新和溯源。
- 双存储分离检索：查询时同时检索情节记忆和关系元组，关系条目更短、预算内可多取，适合「用户历史偏好/订单/承诺」等电商 QA 场景；固定 top-k 且 k=10 已饱和，能省 token 和延迟。
- 离线 UMAP+HDBSCAN 聚类整合：定期对 embedding 聚类做 merge/delete，可压缩 16–34% 存储，适合长生命周期用户档案；min_cluster_size 取 5–10 能在压缩率和准确率间取得平衡。
- 关系记忆的 provenance/timestamp 设计可直接迁移到推荐系统的用户画像：不仅存「用户喜欢什么」，还存「何时为何说」，避免旧偏好覆盖新偏好。
从碎片到融合：全模态嵌入综述与路线图
🧭 多模态嵌入统一框架与路线图
Ant Group · Shanghai Jiao Tong University · Australian National University · Tongji University · National University of Singapore
提出覆盖、可比、组合三能力框架与三条统一路径，系统梳理多模态嵌入研究
📌 工作参考价值（4 点）
- 在推荐/搜索中构建多模态商品或内容 embedding 时，先诊断系统在 3C 上的短板：是否覆盖了用户 query、商品图、描述、视频等所有输入？不同模态 embedding 是否真的可比（同空间）？若需组合属性（如“红色连衣裙”），仅靠对齐可能不足，应评估联合嵌入。
- 工程实现上可阶段式升级：若资源有限，先用 transformation 将表格、图等序列化为文本，复用现有 text encoder 快速上线；但要注意转换损失，适合冷启动和 MVP。
- 对比学习对齐双塔（如图文）存在 modality gap，导致跨模态检索的相似度分数不可直接比较；可在损失中加 gap 校准项，或后处理投影到同一子空间，提升图文一致性。
- 对 Agent 场景：当 LLM 需要理解混合输入（商品列表、图片、用户行为）时，优先使用联合嵌入模型而非分别编码再拼接，以保留组合语义，便于后续推理。