用户作为印迹：将每用户记忆内化为局部参数编辑
🧭 用户事实的局部参数编辑与共享推理
Pine AI
把用户事实稀疏写入 Engram 的哈希记忆表，推理技能由共享适配器承载，实现高精度个性化且不干扰推理
📌 工作参考价值（4 点）
- 可将用户长期偏好（商品偏好、搜索历史等）压缩为 Engram 行编辑写入模型，免去每次推理时检索或 prompt 拼接的延迟与 token 成本。
- 共享推理适配器 + 多用户稀疏编辑的架构支持高并发个性化推理，适合电商搜索推荐等需实时读取用户记忆的场景。
- 编辑透明可控：写入的事实只影响特定触发词，不污染其他主题回答，有利于金融、医药等高合规领域的推荐安全性。
- 多用户编辑可叠加存储于同一模型，无需维护独立 LoRA 权重，大幅降低部署成本，工程实现更友好。
重新思考奖励监督：基于评分标准的自蒸馏
🧭 训练方法 · 评分标准自蒸馏
Yale University
用评分标准作为细粒度反馈，将准则级条件转化为 token 级指导，提升推理模型训练效果。
📌 工作参考价值（4 点）
- 用评分标准替代标量奖励：在 Agent 推理训练中，可以定义类似评分标准（如正确性、连贯性、步骤完整性）作为细粒度反馈，让模型明确改进方向，避免传统 RL 的稀疏信号问题。
- 两阶段训练可复用：先训练一个评分标准生成模型，再用于指导主任务推理，这种分离设计在推荐解释、多步决策等需要可解释反馈的场景中可直接借鉴。
- 自蒸馏减少标注依赖：利用模型自身采样轨迹进行 token 级指导，无需高质量 chain-of-thought 人工标注，适合电商/推荐系统中快速迭代模型。
- 细粒度信用分配提升效果：在多个基准上平均领先 GRPO 1.0 点，表明 token 级奖励比结果级奖励更有效，可尝试将类似机制引入推荐 Agent 的策略优化中。
重新思考LLM FP4预训练中的收缩偏置：几何根源与UFP4方案
🧭 低精度训练 · FP4均匀网格 ★ 深度解读
Ant Group
指出非均匀E2M1格式固有的收缩偏置被RHT放大导致训练不稳定，提出基于均匀E1M2网格与全RHT相结合的UFP4训练配方
📌 工作参考价值（4 点）
- 当对推荐模型做低比特量化或采用类似RHT的旋转预处理时，优先选用均匀网格（INT4/E1M2），因为非均匀格式（E2M1）的舍入偏置会在深层网络积累，而均匀网格不存在该问题。
- 若使用FP4训练LLM-based推荐模型，可借鉴UFP4的配方：将RHT扩展到前向、数据梯度、权重梯度三个GEMM，仅对dY使用随机舍入；该设计在1.5B~124B的实验中稳定降低了与BF16的loss差距。
- 收缩偏置是一个容易被忽视的几何缺陷：当量化区块不对称时，即使是零均值的分布也会产生系统性负误差，造成信号衰减；在自研或选用量化方案时，应检查舍入bin的对称性，而非只关注动态范围。
- 在只有E2M1硬件的场景下，试图通过限制最大可表示值来模拟均匀网格效果不佳，未来若能为推荐训练引入FP4加速，应争取支持均匀4-bit格式作为第一等训练原语。
重新缩放MLM-Head以实现神经稀疏检索
🧭 神经稀疏检索 · MLM-head尺度校正
Korea University · Independent
发现SPLADE训练中MLM-head尺度不匹配导致训练崩溃，提出初始化时简单缩放修正，稳定训练并提升大骨干检索性能
📌 工作参考价值（4 点）
- 在电商搜索或推荐系统的召回阶段，若使用SPLADE类稀疏检索模型，替换更强预训练骨干时出现训练不稳定，可检查MLM-head的L2范数，并在初始化时进行尺度缩放（如除以范数均值），零成本、不改架构，即可恢复稳定训练。
- 该发现提示：对于依赖预训练MLM-head输出构造稀疏表示的模型，模型升级时不能只看编码器能力，还要注意输出头的尺度校准；类似问题可能存在于其他用MLM-head logits构建匹配分数的检索或排序模型中。
- 广告搜索场景中，稀疏词项表示能提供可解释的召回结果，此技巧可帮助团队更放心地将现代预训练模型（如ModernBERT）应用于生产级稀疏检索，提升召回率而无需担心训练崩溃。
- 在Agent系统中若用稀疏检索作为记忆或知识召回模块，更换更强的语言模型时，推荐先检查并校正MLM-head尺度，避免对比训练不稳定导致性能下降。
超越奖励工程：长上下文强化学习的数据配方
🧭 长上下文强化学习数据配方
OpenBMB · Tsinghua University
以简单的数据配方替代复杂奖励工程，仅用结果奖励GRPO即可大幅提升长上下文推理及Agent任务表现
📌 工作参考价值（4 点）
- 构建面向长文档的推荐/搜索Agent时，可借鉴检索、多证据合成、推理三类混合数据配方，提升模型在冗长轨迹中定位、整合关键信息的能力。
- 仅使用outcome-based GRPO，无需复杂奖励工程，工程实现轻量、易迁移，适合业务线快速试错。
- 14K的小规模高质量数据即可带来显著收益，在业务数据稀缺时尤其有参考价值。
- 可将该数据范式迁移到多轮对话推荐、长序列用户行为分析等Agent任务中，微调模型的长上下文推理能力。
从推理轨迹到可复用模块：理解语言模型推理中的组合泛化
🧭 训练与推理中的模块化组合泛化
Carnegie Mellon University · Mohamed bin Zayed University of Artificial Intelligence · Institute of Foundation Models · University of Michigan
揭示SFT与RL在LLM推理中非对称互补：SFT提供模块原料，RL分解轨迹提取原子模块实现组合泛化
📌 工作参考价值（4 点）
- 训练范式迁移：在构建推荐/搜索Agent时，可先通过SFT用组合轨迹（如查询改写→检索→排序的完整链）覆盖所有原子技能，保证基础能力；再用RL重点训练SFT未见过的技能组合，提升泛化性。
- 数据构建策略：训练数据应避免只给孤立原子操作（如单独改写或单独排序），而应提供复合任务示例，实验证明复合训练比分离训练带来更强的组合泛化。
- RL Fine-tuning 设计：RL阶段将奖励信号聚焦于新颖组合，鼓励模型探索原子模块的不同路由方式，可有效提升在未见过的搜索场景或用户意图下的表现。
- 模块化推理架构：在Agent工作流中可显式抽象出“技能（局部操作）”和“路由（信息选择与组合）”两级原子模块，便于模型复用和重组，降低新任务开发成本。
从自身错误中学习：构建可学习的微反思轨迹用于自我蒸馏
🧭 LLM 自我蒸馏 · 轨迹增强
Qwen Business Unit of Alibaba · Tsinghua University · Peking University
通过修正模型自身的错误轨迹并插入自然语言诊断，将自我蒸馏从分布对齐升级为显式轨迹构造。
📌 工作参考价值（4 点）
- 电商/广告场景中若用 LLM 生成推荐理由或解释，可借鉴 TAPO 对比式轨迹构建：收集模型自身的正确与错误回复，在失败点插入反思诊断，形成新的微调样本，提升解释准确性与错误恢复能力。
- 对于搜索意图理解等推理链路长且容易出错的任务，可利用难度感知筛选，只在高能力边界的样本上构造反思轨迹，避免简单样本浪费训练资源，并保持 on-policy 分布。
- 解耦优势估计的技巧可迁移至多策略混合训练中，防止不同难度或不同来源轨迹间的梯度互相干扰，改善训练的稳定性。
- 工程实现上，TAPO 无需外部更强模型参与，完全依赖模型自身的采样群组，适合在闭环推荐系统中持续自我优化，降低人工标注与模型蒸馏成本。
从自我未来学习：面向扩散LLM的在线策略自蒸馏
🧭 扩散LLM后训练 · 在线自蒸馏
Tsinghua University · Technical University of Munich · Nanyang Technological University · University of British Columbia · University of Texas at Austin
首个面向扩散大语言模型的在线自蒸馏框架，通过后缀条件化与步骤级监督实现高效后训练
📌 工作参考价值（4 点）
- 若业务中采用扩散模型做生成式推荐（如商品语义ID序列生成），可借鉴d-OPSD的后缀条件化设计：将已生成的未来token作为条件，为当前token提供稠密监督，无需额外的前缀特权信息。
- 步骤级监督（step-level KLD）比token级监督更适配迭代去噪训练过程，可在扩散推荐模型的微调中替换逐token loss，提升生成质量与训练效率。
- 该方法样本效率极高（仅需RLVR 10%的优化步数），在大规模推荐模型训练中可大幅降低算力成本，适合资源受限场景的模型后训练。
- 自未来经验蒸馏的思路可推广至其他序列生成任务，例如用llm生成搜索query时，利用模型自身后续生成的内容作为监督信号，强化长程一致性。
动态轨迹编辑：缓解 RL 训练推理模型的过度思考
🧭 GRPO 训练中的动态轨迹编辑
Institute of Computing Technology, Chinese Academy of Sciences · University of Chinese Academy of Sciences
针对 GRPO 训练中序列级信用分配导致过度思考膨胀，提出训练时动态编辑成功轨迹的冗余部分
📌 工作参考价值（4 点）
- Agent 多步推理的截断训练：在电商 Agent 用 RL 训练时，若成功轨迹存在冗余推理，可借鉴 DRE 思路，在答案出现后截断并保留前缀，避免对无用 token 的正向强化。
- GRPO 信用分配的工程修正：在广告文案生成或推荐解释的 RL 训练中，即使整体生成质量不错，序列级奖励会错误地鼓励拖沓；可引入轨迹编辑，显式偏好简洁版本。
- 减少线上推理浪费：训练时压制 overthinking，能降低部署后 Agent 在搜索、问答场景的 token 浪费，直接节省成本。
- 监控与干预点：初始化 GRPO 时检查成功轨迹的过度程度，早期干预可避免反馈循环，适合在推荐模型 RL 微调时作为监控指标。
FAPO：多步LLM管道的全自主提示优化
🧭 自主Agent优化多步LLM管道
Foundation AI–Cisco Systems Inc. · Yale University
让Claude Code自主诊断并优化多步LLM管道，先调提示再改结构，15/18基准胜出，平均+14.1pp
📌 工作参考价值（4 点）
- 自主管道优化Agent：对电商搜索/推荐的多步LLM管道（如query改写→召回→精排→解释生成），可构建类似的自主Agent自动诊断和优化，从提示到流程结构逐步提升。
- 结构化诊断归因：借鉴FAPO检查中间步骤、定位瓶颈的机制，开发推荐链路失败分析工具，区分是检索、推理还是格式化步骤出错。
- 保守优化策略：先优化提示，仅当提示优化不足且明确结构瓶颈时才调整管道结构，这种策略在生产环境中风险可控，适合线上实验。
- 标准化代码库封装：将推荐管道实现为标准化代码库，使Agent能够进行代码审查和修改，便于自动化迭代，增强系统可维护性。
GateMem：多主体共享记忆智能体的记忆治理基准
🧭 多智能体共享记忆治理评估
Jilin University · Shanghai Jiao Tong University · King Abdullah University of Science and Technology (KAUST) · Tsinghua University · National University of Singapore
首创多主体共享记忆治理基准，评估效用、访问控制与遗忘，揭示当前智能体在可靠共享记忆上的不足
📌 工作参考价值（4 点）
- 共享记忆治理是电商/客服多角色Agent（如买家、卖家、平台客服）的刚需：不同主体写入和查询的权限隔离、状态更新与遗忘机制，可直接借鉴GateMem的三维评估框架来设计系统测试集。
- 主动遗忘（active forgetting）能力对电商Agent至关重要：当用户请求删除历史记录或账户注销时，需要确保记忆真正消除，GateMem的遗忘泄露测试方法可复用于验证内部记忆模块的合规性。
- 长上下文提示虽然治理得分更高，但高token成本不适用于大规模推荐/对话系统；检索式内存机制成本低却易泄露，这提示工程上需要混合方案：对敏感记忆用封装API进行精确擦除，对非敏感长语境采用压缩摘要。
- 可借鉴的工程实现：增量记忆注入和隐藏检查点（hidden checkpoints）的评测设计，能度量记忆在连续交互中的漂移和泄露，适用于推荐系统中用户画像的忠诚度与隐私验证。
基于保形风险控制的工具与检索增强Agent轨迹级风险校准
🧭 Agent 轨迹风险控制·保形预测 ★ 深度解读
The University of Texas Rio Grande Valley · Florida International University
将Agent完整轨迹作为校准对象，控制检索与工具使用漂移下的上游风险，避免仅依赖最终答案的风险盲区。
📌 工作参考价值（4 点）
- 推荐链路的全轨迹风险校准：在电商搜索/推荐的多级漏斗（召回→粗排→精排→重排→生成文案）中，可借鉴轨迹风险评分思想，对每一步（如召回是否覆盖、精排是否过度依赖某些特征、生成式推荐是否支持证据）赋予风险分数，整体校准一个接受/干预阈值，而非仅校验最终排序的指标。
- 漂移检测与有效样本量监控：引入基于轨迹相似度的漂移分数和有效样本量，用于线上监测推荐系统输入分布、用户行为、商品池变化。当有效样本量过低或漂移分数变大时，可自动触发更保守的策略（如提高重排门槛、回退到规则兜底）。
- 随时报警与提前止损：利用超鞅构造的anytime alarm，在推荐请求处理途中（如召回结果异常、工具调用失败、生成置信度过低）即停止，避免浪费后续计算资源并防止上线高风险结果。
- 风险来源分解定位：将总风险分解为检索贡献、工具使用贡献、合成贡献等，对应推荐中召回不相关、模型偏差、融合失误等问题，帮助快速定位系统薄弱环节并指导改进。
可控稀疏的混合注意力：通过可学习分配优化FA/SWA组合
🧭 高效LLM推理 · 混合注意力稀疏分配 ★ 深度解读
Institute of Information Engineering, Chinese Academy of Sciences · School of Cyber Security, University of Chinese Academy of Sciences · Baidu Inc.
用L0正则化与增广拉格朗日约束学习全局/局部注意力的最优分配，实现可控稀疏并揭示底层局部、中层全局的一致结构
📌 工作参考价值（4 点）
- 部署长上下文LLM（如query理解、会话摘要）时，可用ConSA动态决定哪些层/头用全局注意力、哪些用滑动窗口，在几乎不降性能的同时减少KV cache和推理计算。
- 借鉴可控稀疏思想，在推荐系统的Transformer中为不同用户行为序列（短期 vs. 长期）分配不同的注意力范围，用类似L0-拉格朗日方法学习分配。
- 增广拉格朗日约束可精确满足目标稀疏率，适合在业务中需要严格控制资源预算的场景（例如单机GPU限制）。
- 手工设计混合注意力时可参考已发现的规律：底层放局部注意力、中层放全局注意力，避免均匀交错模式。
LooseControlVideo：基于空间阻塞的导演式视频生成控制
🧭 文本到视频生成 · 3D布局控制
Adobe Research
用有向3D稀疏框实现文本到视频的精确空间编排，显著提升轨迹、遮挡与运动一致性
📌 工作参考价值（4 点）
- 在电商广告视频创作中，可直接用稀疏3D框定义商品运动路径与遮挡关系，替代密集深度图人工制作，降低动态多对象场景的成本。
- 系统采用的 DNOCS 编码 将 3D 尺寸、方向和深度顺序解耦，可借鉴到多模态商品展示生成中，为推荐场景的虚拟主播或交互式货品演示提供显式遮挡先验。
- 局部精调能力允许在不破坏全局上下文的情况下，单独调整某个商品的轨迹或添加交互，适合实时协同创意编辑。
- 稀疏控制范式对 Agent 动作推演可视化有启发：用少量关键 3D 框约束复杂物理交互，可能迁移到虚拟环境下的多智体行为规划。
MCompassRAG：话题元数据作为段落级检索的语义指南针
🧭 RAG 检索优化 · 话题元数据引导
University of British Columbia · University of Salerno · ServiceNow Research
用话题元数据增强段落嵌入并通过LLM蒸馏训练轻量检索器，实现高效、精确的话题感知检索
📌 工作参考价值（4 点）
- 电商搜索/推荐场景的文档切分优化：商品描述、评论往往混合多主题，直接使用粗粒度段落会引入语义噪声。可借鉴用商品类目、属性等元数据增强段落embedding，让检索结果更精准。
- 低延迟检索器蒸馏：用LLM作为教师蒸馏一个轻量双编码器，推理时无需调用LLM，显著降低线上检索延迟和成本，适合高并发实时推荐系统。
- 话题感知的Agent检索：在多跳推理或Agent工作流中，当需要从大规模非结构化文档中提取证据时，可引入话题元数据引导检索，减少无关片段干扰，提升事实准确性。
- 工程实现简单：只需在现有dense retriever基础上注入话题embedding，无需改动索引结构，易于迁移到商品库、帮助中心文档等场景。