潜在稀疏注意力：面向亚二次超长上下文注意力
🧭 高效注意力 · 超长上下文
提出潜在稀疏注意力 LSA，通过可学习层次聚类实现超长上下文亚二次注意力且保持精度
📌 工作参考价值（4 点）
- 长上下文 Agent 会话/记忆管理可借鉴：电商导购、客服等 Agent 维护超长多轮历史时，用 learned latent space 对 keys 做层次聚类，query 只打分聚类中心，大幅降低 decode 阶段的 KV cache 访问与计算，适合在线低延迟场景。
- 已有预训练模型不想重训的情况下，D-LSA 蒸馏提供低成本升级路径：仅在注意力层增加分层聚类索引，用原模型蒸馏对齐，可离线验证精度损失后逐步上线。
- 若从零训练或大规模训练长上下文模型，N-LSA 原生训练同时降低训练与推理成本（128k tokens 单层训练 1.6x），对自建基础模型或微调有参考价值。
- 局限与注意：方法依赖键空间聚类稳定性，电商推荐中商品/query 分布快速变化，需评估索引重建频率与召回误差；目前验证集中于语言模型，迁移到推荐特征需要额外实验。
异步流图语言模型（aFMLMs）
🧭 并行语言模型 · 异步流图
KAIST · Purdue University · The University of Tokyo
将 token 预测顺序通过异步流图编码进单步并行语言模型，实现高质量一步生成
📌 工作参考价值（4 点）
- 延迟敏感场景（如搜索结果摘要、推荐理由、广告文案）可借鉴 aFMLM 将教师迭代生成的顺序知识蒸馏到单步学生模型，保持生成质量的同时把推理从多步降到一步，显著降低 RT。
- 学习 state-adaptive 的 token 时间调度可作为一种隐式排序机制：模型根据上下文决定哪些 token 先“成熟”，适合需要动态优先级生成的推荐解释或对话式推荐。
- 蒸馏流程可复用到生成式推荐中的 Semantic ID 序列生成：用教师模型（AR 或扩散）生成顺序信号，训练单步模型快速输出 item ID 序列，降低线上生成延迟。
- 该方法在 Sudoku 和代码生成等结构化推理任务上有效，提示在需要约束生成的任务（如商品标题、属性组合生成）中，显式建模 token 顺序可能比纯并行生成更优。
WeVisCut：从脚本到长视频的单一 Agent 编辑系统
🧭 长视频编辑 Agent 策略学习与蒸馏
Xidian University · WeChat Vision, Tencent Inc.
用离线反推编辑决策训练9B策略，在统一工具环境中逼近Claude Opus 5且token减少33倍
📌 工作参考价值（3 点）
- 从成品反推决策的 inversion + verified replay 管线值得借鉴：在推荐/广告的多步决策场景（如会话式推荐、创意生成）中，可以用线上成功案例反推隐式决策链，并通过回放验证构造高质量监督数据，训练小模型逼近大模型。
- 状态化 Agent harness（共享生产状态、工具反馈驱动决策与修复）可迁移到电商 Agent 架构，统一维护商品/素材/用户状态，支持多轮工具调用的一致性和自我纠错。
- 紧凑策略蒸馏思路：9B 模型达到大模型相当效果且 token 减少 33 倍，适合成本敏感的实时推荐/广告文案生成；通过任务特化监督而非通用多阶段工作流，显著降低推理成本。
HERD：面向持续学习的 Harness 演进递归蒸馏
🧭 持续学习混合框架 · 递归蒸馏
Monash University · University of the Sunshine Coast
提出混合持续学习框架 HERD，用 harness 技能库与有界残差记忆结合双锚漂移约束蒸馏，实现新任务获取与低遗忘。
📌 工作参考价值（4 点）
- 在电商/Agent 持续迭代中，可借鉴「skill/harness + 有界高残差样本库」做快速适配：新任务/新类目先用上下文技能处理，只把模型反复出错的高价值样本沉淀为记忆，避免全量重训。
- 蒸馏策略：定期把 harness 记忆蒸馏回基座模型时，采用双锚点（初始 checkpoint + 上一版蒸馏模型）做漂移约束，能缓解长时间递归更新中的遗忘，适合需要频繁发版/增量训练的推荐模型或 Agent policy。
- 资源固定：HERD 在固定 memory 与 compute 预算下运行，给生产环境提供了一个可落地的约束范式：不无限增长上下文/记忆，通过递归蒸馏滚动内化经验，保持线上成本稳定。
- 注意：论文面向通用 LLM 持续学习，不是推荐系统专用；但其中「技能库 + 残差记忆 + 双锚蒸馏」的架构可迁移到多域推荐、搜索 query 策略或客服 Agent 的持续优化。
Cortex：将上下文收益固化进 LLM 参数记忆
🧭 LLM 记忆固化 · 参数更新 ★ 深度解读
Zhejiang University · ByteDance Seed · Tsinghua University
用前瞻性重演与 FFN-only 低秩/结构化更新，把上下文增益蒸馏为可堆叠的参数记忆，兼顾 CR 与 RR
📌 工作参考价值（4 点）
- Agent 经验与临时规则沉淀：可把商品知识、活动政策、API 文档、成功轨迹等上下文，先用冻结模型生成“预期查询+上下文条件回答”，再蒸馏到 0.74M–2.73M 的小型 FFN adapter；无需把完整上下文塞进 prompt 或检索库，适合高频、确定性的商户规则/接口知识固化。
- 架构选择：只更新 FFN/MoE，冻结 attention、router 和 backbone；Structural 新增非线性通道比低秩 Synaptic 更擅长代码/API 类可复用过程，且 MoE 用 shared branch 给所有 token 直接训练曝光，减少遗忘、提升 CR。
- 训练目标 trick：用 top-K_v 截断 KL + 对齐后 FFN hidden-state MSE 监督，teacher 带上下文、student 不带；这对少样本、要保 base 能力的高保续更新很有效。历史 query replay 只留 query、不存 context，降低隐私和存储成本。
- 落地边界：CR/RR 的权衡在实体邻近知识上仍明显，组合推理/可移植性（portability）是短板；建议只固化高频、低歧义技能，开放生成仍保留 RAG/prompt 兜底。
PathFM：多元轨迹的快速生成式预测模型
🧭 生成式时间序列预测 · Flow Matching
California Institute of Technology · Amazon
PathFM 用 flow matching 生成完整多元轨迹，通过蒸馏与共享 KV cache 实现近单次查询速度，并取得最优路径分数
📌 工作参考价值（4 点）
- 需求/流量预测：电商大促、广告库存等场景需要累积需求、峰值、到达时间等轨迹级指标，用 flow matching 替代纯分位数模型可同时保留多步依赖与不确定性，适合 downstream 优化。
- 工程加速：多轨迹采样通过蒸馏到 1-2 步 + 共享 history attention cache 显著降低在线推理成本；类似思路可迁移到生成式推荐或 Agent 场景中需要对同一上下文做多次采样的模块。
- 校准损失直接优化：蒸馏后采样器支持端到端校准目标，比事后校准更稳定；在电商不确定预测（如缺货概率、风险控制）中可借鉴。
- 评估指标：引入 energy score / variogram score 评估路径依赖，比单纯 CRPS 更能反映序列依赖结构，可用于多步推荐收益预测、广告投放轨迹评估。
任务导出评分细则，证据得出判断：工具增强的逐点 Rubric 奖励模型
🧭 LLM 奖励模型与 Rubric 评估
University of Tennessee · University at Albany
提出 ReVeR，从指令本身推导评分细则并用工具增强逐点评分，通过标签盲蒸馏训练，超越 pairwise rubric RM
📌 工作参考价值（4 点）
- 从指令本身推导评分细则，避免响应偏置：在电商推荐/Agent 评测中，构建 reward 或评估模型时，不要仅从已有候选回答归纳准则，先从任务指令或用户需求出发生成硬规则和分级原则，提升评估的泛化性与公平性。
- 工具增强判官提升机械约束处理能力：对于需要精确标量、结构化约束或事实核验的推荐文案、搜索改写、Agent 动作评估，让 judge 主动调用工具（如代码执行、数据库查询）从证据得出判断，而非单纯阅读，可显著提高指令遵循类指标。
- 标签盲蒸馏降低数据成本：用偏好标签仅过滤教师模型输出，生成大量 rubric-reasoning 与 judging 轨迹，可复用到需要大量过程监督数据的奖励模型训练中，适合资源有限的业务场景。
- 偏好准确率与下游策略效用不必然一致：部署奖励模型时不要只盯偏好准确率，需联合下游生成策略的线上指标和 rubric fidelity 联合验证，尤其在 RL 微调后可能出现“高分低质”脱节。
路由化 3D 特权蒸馏提升视觉语言模型空间推理
🧭 VLM 空间推理 · 特权蒸馏
浙江大学
将深度、语义、BEV 等 3D 几何线索作为特权，在 GRPO 中对错误轨迹做路由化蒸馏，提升 VLM 空间推理且部署保持仅 RGB
📌 工作参考价值（4 点）
- 借鉴「特权信息蒸馏」思路：训练时引入部署时不可用的 3D 几何、商品属性、用户行为后验等特权信号作为教师，通过 KL 蒸馏到仅 RGB/文本输入的在线模型，在不增加推理延迟的前提下提升空间推理或多模态判断能力，尤其适合电商图像中的家具尺寸、商品摆放、场景布局理解。
- 借鉴「仅对错误轨迹施加特权 KL」的稀疏监督：在 RLVR/GRPO 流程中，只对模型出错的样本做特权蒸馏，能更高效利用稀疏错误信号，降低训练开销并改善收敛稳定性；推荐/Agent 系统中也可以只对失败案例蒸馏专家/特权信息。
- 借鉴「问题条件路由」：按问题内容只注入相关几何线索（如当前问的是距离则只给深度，问的是方向则给 BEV），而非全量上下文，避免冗余信息稀释注意力；可迁移到 Agent 或推荐模型中对多源特征的按需路由与融合。
- 多种特权可以互补：答案特权和几何特权叠加优于单一特权，业务上可同时蒸馏商品属性、用户反馈、场景 3D 等多类特权，进一步压缩模型与真实环境的信息差。
瓶中智能体：LLM智能体能否将自身能力转为廉价可扩展制品
🧭 Agent 自动化低成本制品生成与评估 ★ 深度解读
University of Tübingen · ELLIS Institute Tübingen, Max Planck Institute for Intelligent Systems, Tübingen AI Center · École Polytechnique, Institut Polytechnique de Paris, CNRS · KAIST AI
用BOTTLED基准评估LLM智能体在固定预算下把通用能力封装为任务专用廉价制品的能力，发现零样本强不必然装瓶强
📌 工作参考价值（4 点）
- 大规模重复性电商文本任务（商品属性抽取 MAVE、query-product 相关性 ESCI、内容审核）不要逐条调用大模型：先用固定蒸馏脚本做基线——用便宜模型标注到预算耗尽，再训练 Qwen3-0.6B / SmolLM2-360M。论文里这个 naive 基线击败了 31/60 个 agent 装瓶 run，落地时应当优先验证。
- 选型别只看零样本指标：GPT 5.6 Terra 与 Sonnet 5 在 MAVE 零样本 F1 都约 0.44，但装瓶后 F1 分别为 0.405 和 0.154。实际业务中若要让 LLM agent 自己生成廉价制品，必须在同等 token/时间预算下重新评估模型，而不是沿用零样本/少样本 leaderboard。
- 工程上必须设置硬性预算、强制交付 out.txt 并监控预算：21/60 run 耗尽 token，8 个没有任何输出；Gemini Flash-Lite 甚至把数百万条输入误判为 49 条。生产系统需要 fallback、预算跟踪工具和超时熔断，否则 agent 会浪费资源无产出。
- 对于超大规模重复推理，自蒸馏小模型/规则程序可以接近专用廉价模型 Jev：Opus 5 在 ESCI 上恢复 Jev 94% 的 macro-F1，成本约 1/4；在 RAID 上 Gemini 3.1 Pro 达到 Jev 97% AUROC，成本约 2%。可优先尝试 bottling 而不是引入另一套专用推理模型。
Omni-Embed-Mini：通过稠密蒸馏绑定模态而不遗忘
🧭 多模态嵌入蒸馏与对齐
Mohamed Bin Zayed University of Artificial Intelligence
0.9B 参数多模态嵌入模型，冻结文本塔、用稠密 caption 自身嵌入作教师，在不退化文本检索下对齐六模态
📌 工作参考价值（5 点）
- 多模态向量召回：把商品图片、视频、ASR 文案、详情页等映射到同一余弦空间，可实现自然语言 query 直接检索图片/视频/富文档，直接用于电商搜索、广告创意匹配、内容推荐。
- 冻结文本塔防退化：现有文本 embedding 服务（如商品描述召回）扩展多模态时，可完全冻结文本编码器，只对非文本模态编码器加轻量 projector 和 phased LoRA，避免线上文本检索指标下滑，工程上更安全。
- 用稠密 caption 做教师信号：用多模态 LLM 离线为图片/视频/音频批量生成 dense caption，再以文本塔 embed caption 作为学生对齐目标，无需单独训练教师模型，成本低且几何空间天然一致。
- 在线混合 hard negative miner：随着 encoder 更新逐步 sharpen 负样本，可结合 ANN 检索召回困难负样本，提升对比学习区分度，适合电商多模态检索中的难例挖掘。
- 0.9B 小模型即可覆盖六模态，2.3B 变体接近闭源 gemini-embedding-2，适合业务落地部署。
终端智能体动作级采样与验证方法
🧭 终端 Agent 动作级验证与测试时扩展 ★ 深度解读
NVIDIA · KAIST
在动作执行前采样并验证多个候选，以 pairwise 比较和蒸馏提升终端 Agent 轨迹成功率，成本效率优于纯轨迹扩展
📌 工作参考价值（4 点）
- 对会改变环境状态的关键动作（选品、改库存、出价、下架、发消息）在执行前采样多个候选并用 pairwise verifier 筛选；pairwise 比 listwise/pointwise 更稳定，尤其生成器与验证器同模型时。
- 有更强模型但推理成本高时，离线收集 teacher 的 pairwise 偏好，用 LoRA 蒸馏出轻量 verifier，生成器不动；决策-only 只输出 A/B，可再降 20-24% token 成本，9B 模型上 Pass@1 不降反升。
- 动作级验证可与轨迹级 Best-of-N/Sequential Refine 叠加：同等环境执行次数下 Pass@1 可显著提升；测试时算力优先加动作验证，比单纯多跑完整 trajectory 更划算。
- 离线诊断 disagreement 发现失败集中在「命令语义 / 执行可行性」，建议业务中重点标注此类样本，优化 verifier。
MERGED：通过生成专家推理蒸馏的多模态实体解析
🧭 多模态实体解析 · 推理蒸馏 ★ 深度解读
Amazon
无需人工标注，多教师VLM生成推理标签，共识SFT+分歧DPO蒸馏7B学生，PR-AUC超32B基线6.32%且成本降6倍
📌 工作参考价值（4 点）
- 关系定义频繁变化的电商场景（exact/variant/substitute），可直接用多教师 VLM 生成结构化标签与 reason；共识样本用于 SFT，分歧样本用 meta-judge 选偏好做 DPO，无需等待人工 SOP 审核，可把新关系上线周期从月级压缩到天级。
- 让模型输出 label+reason+confidence 的 JSON，并用 label 和 confidence 合成标量分，方便接入现有排序/召回链路；7B 学生单样本 <1s、成本约 $600/百万，适合百万级实时商品匹配。
- 冷启动迁移时不要从基座从头训：从已有相邻任务 checkpoint 继续做一轮 MERGED，10K 样本即可显著提升，适合跨市场/跨品类关系定义快速扩展。
- 生成式推荐/Agent 中若需要模型自我解释，可复用 meta-judge 偏好构造思路，提升 reasoning-label faithfulness；但需评估 meta-judge 的一次性大模型成本。
基于可验证奖励的在线策略蒸馏
🧭 RLVR+OPD 无缝结合训练推理模型 ★ 深度解读
LeapLab, Tsinghua University · Beihang University · SMS, Peking University · NLPLab, Tsinghua University
对采样 token OPD 的 log-ratio 奖励做 ReLU 门控，使教师信号与轨迹正确性对齐，零超参结合 OPD 与 RLVR
📌 工作参考价值（4 点）
- 可直接复用的训练 trick：若业务中已有可验证奖励（点击、转化、GMV 等）和教师模型或旧版模型，可在 on-policy 蒸馏损失中只加一行 ReLU 门控——正确轨迹上 max(0, log(πT/πθ))，错误轨迹上 -max(0, log(πθ/πT))，无需额外超参或 loss 权重，即能避免教师信号与业务奖励方向冲突。
- GRPD 替换二元 reward：用 GRPO 的 group-relative advantage 替换二元正确性 sign，再做同样的 ReLU gate，可平滑引入相对优势信息；适合推荐/广告中 reward 噪声大、需要组内归一化的场景。
- 训练健康度监控指标：论文观察到 zero-gated token ratio 稳定在 40-50%，可作为训练健康的实时监控；如果该比例过高或过低，说明教师信号与业务奖励大量冲突或几乎无冲突，需要检查教师模型质量或 reward verifier。
- 架构兼容性：该方法可无缝接入现有 PPO/GRPO/DAPO 训练框架，不改变采样流程；在已有的 RL 训练脚本中实现成本低，适合快速验证。
多模态图像重排的结构化相关证据方法
🧭 多模态搜索重排 · 结构化证据
The Hong Kong University of Science and Technology (Guangzhou) · Tencent Yuanbao · The University of Hong Kong
将多模态图像重排建模为语义约束满足，解析查询为结构化证据包并做证据条件验证，SOTA 且可蒸馏
📌 工作参考价值（4 点）
- 将用户查询解析为 typed semantic slots（required/forbidden/ignorable）的结构化证据，比不透明 embedding 或自由 CoT 更能捕获电商搜索中的复合约束（如“同款但粉色”“保留版型、忽略背景”），减少细粒度条件遗漏或幻觉。
- 采用 deterministic rubric scoring + evidence-grounded listwise comparison 的无训练重排流程，可直接接入已有召回/粗排链路，无需微调、上线快，适合电商场景数据分布频繁变化、快速迭代的需求。
- 显式证据可蒸馏轻量学生模型，保留 90%+ 效果且成本大幅降低，适合线上高 QPS 的排序阶段；可将证据包作为结构化监督信号迁移到商品/广告排序模型。
- 六个语义槽（entities, attributes, relations 等）与 required/forbidden/ignorable 的标注方式，可复用到商品属性约束理解模块，提升对用户意图（保留什么、改什么、忽略什么）的结构化建模能力。
Alaya-EVOKE：线性监督扩展与无限世界生成
🧭 交互式世界模型 · 长时记忆与蒸馏
MoE Key Lab of BIPC, USTC · Shanghai Innovation Institute · Alaya Lab
外部化世界状态并重新设计长时域教师，蒸馏出3步无CFG学生模型，实现持久记忆与持续生成
📌 工作参考价值（4 点）
- 外部可索引记忆库：将长会话状态存入 camera-indexed world state bank，按当前视图检索相关片段，避免上下文无限增长；在电商用户行为序列建模中可维护外部用户状态库，按当前 query/item 检索相关历史，而非全量塞入 prompt。
- 长时域教师训练：使用 chunk-wise 分组稀疏注意力 + 检索远处帧 + 线性注意力全局状态实现线性成本长序列监督；在序列推荐或会话模型训练长行为序列时可借鉴此架构降低计算与内存。
- 蒸馏方案：用 30 秒长时域 distribution-matching 目标 + self-forced rollouts 将长时一致性迁移到 3 步学生模型，并去除 CFG；在生成式推荐/文案生成中可用类似 rollouts + 分布匹配蒸馏提升 few-step 生成质量。
- chunk 级条件控制：支持在序列中途改变 prompt 和事件，适合交互式推荐/Agent 长任务中分段注入新指令，保持响应性。
下一帧截图知道答案：门控后见蒸馏训练移动GUI代理
🧭 GUI Agent · 后见知识蒸馏 ★ 深度解读
电子科技大学
利用下一帧截图作为特权信息，通过门控蒸馏将未来知识注入前缀策略，显著提升GUI代理任务成功率。
📌 工作参考价值（4 点）
- 序列决策任务（如推荐多轮交互）中，可模仿GHD，将用户事后真实行为（点击、购买）作为“未来状态”，通过teacher-student蒸馏，将事后知识注入仅依赖当前上下文的前缀策略，提升决策合理性。
- 门控机制“仅学生犯错且教师纠正时蒸馏”能有效过滤噪声样本，保证蒸馏信号的可靠性；类似地在推荐agent训练中，可只蒸馏那些模型在当前状态下给出差动作而事后信息能给出更好动作的case。
- 将强化学习（GRPO）与token级分布蒸馏结合，提供稠密的token级监督，比传统基于动作标签的模仿学习更高效；该训练范式可迁移到任何需自然语言推理+行动的agent场景。
- 动态采样（最多三次尝试寻找有效蒸馏样本）在不大幅增加训练开销的情况下显著提升有效监督密度，适合在离线数据有限时提升RL训练效率。
在线策略增量蒸馏
🧭 LLM训练 · 推理蒸馏
NAVER AI Lab
用教师与其基模型输出的差异（delta信号）替代直接模仿，更高效传递推理能力增益
📌 工作参考价值（4 点）
- 在基于LLM的推荐或Agent模型中，可以将教师模型设置为经任务指令微调的强版本，基模型为原始预训练版本，蒸馏时拟合两者输出logits之差（delta信号），更聚焦于任务特定的推理模式迁移，避免直接模仿可能引入的冗余信息。
- 对于对话式推荐或多步推理Agent，delta信号能显式捕捉“推理策略增益”，训练更稳定，且论文表明仅需短暂后训练即可大幅提升性能，适合业务快速迭代。
- 若搜索推荐业务中使用强化学习（如RLHF）存在奖励设计困难或训练噪声大，可尝试OPD²替代，直接用token级监督，工程实现简单，无需单独的价值网络或偏好数据。
- 蒸馏过程中需要教师和基模型的双重前向计算，实际部署时可缓存基模型在训练数据上的输出分布，减少计算开销。
TREK：蒸馏拓探索，强化精炼——面向困难提示的路由训练框架
🧭 RL训练中的困难探索支持扩展 ★ 深度解读
LinkedIn Corporation · Harvard University · Georgia Institute of Technology
用教师或自反提案识别并巩固困难提示，以正向KL先行扩展学生支持，再交还GRPO精炼
📌 工作参考价值（4 点）
- 困难样本识别与路由：在电商搜索/推荐中，同样存在模型反复生成相似低分结果而不探索新模式的“支持塌陷”；可借鉴TREK的硬提示阈值路由（按学生pass rate），仅在困难查询上触发热模型或自反推理来生成候选解决路径。
- 自反思提案生成：无需外部强模型，仅对当前模型增加推理时上下文（如失败记忆、环境反馈）即可产生优质探索轨迹；推荐系统中可让模型基于前序无效推荐生成反思推词或替代匹配路径，作为蒸馏素材。
- 正向KL巩固而非模仿：选择教师/自反轨迹中与学生当前分布距离最近（trimmed NLL）的样本进行短时正向KL微调，避免全盘模仿，保证探索到的模式能快速进入学生采样空间；在推荐Agent的规划或查询改写任务中，可用此方法将RL探索不到的成功交互路径固化。
- 阶段性训练流水线：硬提示挖掘→提案筛选→短正向KL热身→常规GRPO，该解耦设计可插入现有在线RL训练流程，特别适用于搜索多轮交互、对话式推荐的稀疏奖励场景，用少量教师查询换取早期训练效率大幅提升。
单图无害，多图有害：防止普通图片组合隐含的有毒语义
🧭 多模态安全 · 隐含联合语义
The Conversational AI (CoAI) Group, DCST, Tsinghua University
定义多图隐含毒性（MIIT）问题，构建数据集并训练推理蒸馏模型，在审核中超越商业API
📌 工作参考价值（4 点）
- 电商场景中，用户多图晒单或商品详情页的图片组合可能隐含违规（如暗示毒品器具），可借鉴多图联合推理的审核机制，将单图无害的概念纳入模型输入，提升对组合语义的捕捉能力。
- 训练阶段采用“渐进式蒸馏推理监督”：先让强模型生成有推理链的标注，再逐步蒸馏到小模型，产出带实体关联解释的判定结果，有助于审核人员快速确认风险。
- 工程上可设计两阶段流水线：先快速过滤单图明显违规，再对剩余多图组合进行联合编码推断隐性风险，平衡延迟与召回。
- 数据集构造的自动化流程（利用LLM生成危险组合描述、图生成模型合成图像）可作为扩充审核负样本的手段，缓解组合风险样本稀缺问题。
BitNet文本嵌入：极端低比特LLM语义表示
🧭 极端低比特嵌入模型的量化训练与多精度存储 ★ 深度解读
Peking University · Microsoft Research
将LLM转换为1.58位BitNet嵌入器，配合对比预训练与蒸馏，实现接近全精度性能并支持多精度存储
📌 工作参考价值（4 点）
- 线上推理加速：将LLM嵌入骨干量化为1.58位三值权重与8位激活，CPU吞吐量提升约2倍，适合电商搜索/推荐场景的实时查询编码。
- 多精度向量索引：单个模型可输出1/2/4/8/16位嵌入，按存储预算灵活选择精度而不需重新训练，大幅降低向量数据库成本。
- 蒸馏策略可复用：相似度分布蒸馏（KL散度对齐批内候选分布）与注意力关系蒸馏（单层多头自注意力关系对齐）能有效补偿量化损失，可迁移至其他模型压缩任务。
- 工程稳定技巧：在每层Transformer内插入子层归一化 (SubLN)，缓解量化带来的激活尺度漂移，使极端低比特训练更稳定。
MCompassRAG：话题元数据作为段落级检索的语义指南针
🧭 RAG 检索优化 · 话题元数据引导
University of British Columbia · University of Salerno · ServiceNow Research
用话题元数据增强段落嵌入并通过LLM蒸馏训练轻量检索器，实现高效、精确的话题感知检索
📌 工作参考价值（4 点）
- 电商搜索/推荐场景的文档切分优化：商品描述、评论往往混合多主题，直接使用粗粒度段落会引入语义噪声。可借鉴用商品类目、属性等元数据增强段落embedding，让检索结果更精准。
- 低延迟检索器蒸馏：用LLM作为教师蒸馏一个轻量双编码器，推理时无需调用LLM，显著降低线上检索延迟和成本，适合高并发实时推荐系统。
- 话题感知的Agent检索：在多跳推理或Agent工作流中，当需要从大规模非结构化文档中提取证据时，可引入话题元数据引导检索，减少无关片段干扰，提升事实准确性。
- 工程实现简单：只需在现有dense retriever基础上注入话题embedding，无需改动索引结构，易于迁移到商品库、帮助中心文档等场景。
密集监督的生成式重排框架 DeGRe
🧭 生成式重排 · 密集监督 · 离线在线解耦 ★ 深度解读
浙江大学 · 阿里巴巴
通过离线 beam search 挖掘高价值序列并转化为逐步密集监督，让轻量生成器在线仅需一次贪婪解码即逼近全局最优重排。
📌 工作参考价值（5 点）
- 离线在线解耦范式：离线用计算资源换在线效率，将排列空间探索、beam search 等重计算放在离线完成，在线仅部署轻量生成器，一次贪婪解码，适合电商实时重排的延迟约束。
- 密集监督构造方法：利用累积回归评估器对每个候选提供 step-wise 价值估计，构建硬标签（模仿选中的物品）和软标签（保留候选集的完整价值分布）作为训练信号。相比只用点击与否的启发式标签或 list-wise 稀疏奖励，能更精细地指导生成器学习物品间上下文依赖。
- 序列加权蒸馏：对 beam search 得到的多条前瞻序列按其评估价值加权，让生成器重点学习高价值序列，避免被低质量解码路径带偏；软标签蒸馏作为辅助正则，既保留排序信息又防止过拟合。
- 用户引导的解码启动：用用户表征投影作为 decoder 的初始输入，替代通用的 <BOS> 令牌，增强首物品决策的个性化，可借鉴到自回归生成推荐中。
- 候选约束的指针网络解码：生成器每一步从输入候选集中选择物品，通过点积注意力得分选取，避免生成无效物品，适合变长候选集的电商重排场景。
CollectionLoRA：将50种效果及加速能力蒸馏进单一LoRA
🧭 多LoRA合并与蒸馏
Zhejiang University · Qwen Applications Business Group of Alibaba · Xi'an Jiaotong University
多教师在线蒸馏框架，将多个效果LoRA与少步生成合并为一个LoRA，消除参数干扰并降低部署成本
📌 工作参考价值（4 点）
- 多任务LoRA合并部署：若业务中存在多个LoRA用于不同下游任务（如客服、商品描述生成、搜索改写等），可借鉴多教师蒸馏将多个LoRA的知识压缩到单一LoRA中，减少动态加载开销，并避免级联多个LoRA时的特征干扰。
- 随机数据流切换增强泛化：Probabilistic Dual-Stream Routing 在训练时随机切换数据源，类似技巧可用于多任务推荐模型的训练，通过在不同任务数据流间随机切换，提升模型对未见任务组合的泛化能力。
- 提示空间概念隔离：Asymmetric Orthogonal Prompting 通过正交提示隔离不同概念，此思想可迁移到生成式推荐中的多属性控制，例如用正交提示向量区分“风格”与“品类”，避免生成时属性混淆。
- 粗到细蒸馏缓解分布差距：Coarse-to-Fine Distillation 从输出分布粗对齐逐步过渡到特征细对齐，可应用于推荐模型蒸馏，尤其当教师模型远大于学生模型时，分阶段对齐有助于提升蒸馏效果。
后训练关键在状态分布而非Token：SFT、RL与在线蒸馏的状态视角
🧭 LLM后训练状态分布视角 ★ 深度解读
提出状态分布视角统一SFT、RL和在线蒸馏，实验显示学生可超越退化教师且on-policy方法更稳定
📌 工作参考价值（4 点）
- 用状态源/信号源拆解训练策略：将推荐Agent的训练明确分为“状态采自哪里”和“监督信号从哪里来”。离线数据（如用户历史日志）提供固定状态，但Agent部署后可能遇到未覆盖的状态分布，借鉴on-policy采样（RL或在线蒸馏）能减轻分布不匹配造成的性能退化。
- 在线蒸馏时让学生控制状态分布：在电商场景中，Teacher模型可能在某些上下文（如长对话或冷门商品）表现差，但局部Token预测仍可用。让学生Agent在自身状态上请求教师指导（如生成短续写），类似DAgger，可以保留教师局部能力的同时避免复制教师的全局错误轨迹，实现学生超越教师。
- 避免单纯用标量漂移判断遗忘：业务监控时，不要仅靠rollout状态的MMD等单一距离指标下结论。论文显示，两个模型可能有相近的全局状态漂移但遗忘程度迥异。应结合状态来源分析——是在模型自身可达状态上做更新（如RL/OPD），还是在与模型当前策略偏离的固定状态上做密集离线更新（如stress SFT）。
- 轻量在线RL可作为能力保留手段：在追求目标指标提升时，可以先跑一轮温和SFT注入基础能力，再用在线RL（如带分组相对奖励的GRPO）在模型自身轨迹上小步优化，既能提升主任务，又可抑制遗忘。对电商搜索排序或对话Agent，可设定简单的验证性奖励（如用户点击、转化），用on-policy采样来微调，保持通用知识不退化。
TIGER-FG: 文本引导的隐式细粒度定位用于电商图像到多模态检索
🧭 电商图像检索 · 文本引导隐式细粒度对齐 ★ 深度解读
Kuaishou Technology
提出文本引导的隐式定位框架，无需物体检测即可从全图中提取目标聚焦的多模态嵌入，显著提升混叠场景下的检索精度。
📌 工作参考价值（4 点）
- 文本作为定位引导：利用商品标题、类别等结构化文本作为语义先验，通过交叉注意力模块自动关注图像中的目标区域，省去显式检测模块，降低工程部署成本与误差传播风险。
- 双蒸馏目标稳定表征：空间关系蒸馏（LSRD）保持patch级空间一致性，相似度分布蒸馏（LSDD）继承教师模型的全局视觉相似结构，两者联合可提升嵌入的判别力与训练稳定性，均可迁移至其他需要细粒度对齐的召回模型。
- Mosaic 增强与批次内竞争：将目标商品与跨类干扰物粘贴到随机背景上构成 Mosaic 样本，并将同一 Mosaic 中的多个商品放入同一 batch，迫使模型依赖文本来区分视觉相似但语义不同的候选项，适用于存在背景杂乱或多物共现的搜索场景。
- 高效轻量的工程适配：仅 85.7M 用户侧参数、256 维嵌入，可直接接入现有向量检索库；训练时仅需物品检测框作为辅助监督，索引与检索时完全无需任何框信息，适合大规模电商检索系统。
Granite 嵌入多语言 R2 模型
🧭 Other ★ 深度解读
IBM Research
基于 ModernBERT 的多语言嵌入模型族，支持 200+ 语言与 32K 上下文，在检索、代码和长文档任务上达到领先水平，并提供同类最优的 97M 参数压缩模型。