并非全部丢失：修复个性化编码器中的有损用户偏好状态
🧭 推荐系统偏好状态事后校正 ★ 深度解读
KDM Lab, Dhirubhai Ambani University · LCS2 Lab, Indian Institute of Technology Delhi · Dhirubhai Ambani University
提出 REPAIR，利用冻结编码器缓存修复偏好状态，在不改编码器和任务头下提升推荐与个性化生成
📌 工作参考价值（4 点）
- 对已部署的推荐模型，可在不重训编码器、不增加线上编码成本的情况下，插入轻量 REPAIR 模块，直接复用前向计算中已有的逐 timestep 缓存，修复压缩后的用户偏好状态，提升 MRR/nDCG；实验显示仅微调任务头提升很小（如 Mamba4Rec +0.19 MRR），而修复状态本身能带来 +3.96 MRR，说明瓶颈在状态压缩而非头部，排查效果时应优先检查状态表达。
- 修复模块采用低秩可学习模式（K=128）和长/短/片段三时间基函数，是即插即用的工程组件；可借鉴其选择性写回与残差融合设计，控制线上额外延迟（论文报告延迟开销 38-44%）。
- 对于 LLM 个性化生成，可将修复后的状态映射为连续前缀喂给冻结 LLM，在 PerSEval 个性化指标上提升显著（IMPerSumm +25.23%），但通用生成指标变化不大，提示在评估个性化生成时需单独使用个性化敏感指标。
- 训练目标中加入位置和源一致性辅助损失，可稳定修复模块对证据来源的追踪，在电商多行为序列建模中可借鉴该思路，让修复更可解释。
CARM：面向 LLM 强化学习的抵消感知响应掩码
🧭 LLM RL 离策略响应掩码 ★ 深度解读
Moore Threads AI
用绝对 log-ratio 均值替代带符号 geometric mean，防止双向策略漂移相互抵消，提升 GRPO 训练稳定性与推理/代码效果
📌 工作参考价值（4 点）
- 在做 LLM 推荐/Agent reasoner 的 GRPO/PPO 训练时，可直接把现有 GeoMean 离策略 mask 换成 CARM：只改聚合方式为 mean absolute log-ratio，复用 rollout logprobs，工程成本低，且不改变 token 级 surrogate。
- 阈值可直接当策略漂移监控：对 token ratio band [0.8,1.28]，tau=1.02 意味着最多约 8.88% token 越界；tau=1.04 约 17.58%。可据此设置离线训练过滤阈值和预警线。
- 不要只 mask negative-advantage 样本：CARM 消融显示标准全量 mask 在数学和代码任务上都明显好于 negative-only；正 advantage 样本同样可能离策略，推荐/Agent 任务中奖励稀疏时更建议全量掩码。
- 过滤比例不是越高越好：accuracy 与 masked fraction 非单调，调试时不要只盯 mask rate，应结合验证集准确率、保留样本质量或 best-of-k 一致性来调 tau。
从规则到神经图：可扩展结构化预测用于专利现有技术检索
🧭 信息检索 · 图结构化预测
IPRally Technologies Oy
用局部 biaffine attention 构建专利发明图，蒸馏规则解析器，实现长文档可扩展图检索
📌 工作参考价值（4 点）
- 长商品描述/详情页常被截断，可借鉴局部 biaffine attention 构建商品属性/关系图，用图表示替代截断；短序列训练、长序列部署，适合线上低延迟。
- 规则解析器（类目、属性、标签体系）脆弱且维护成本高，可仿照知识蒸馏：用已有规则系统生成百万级标注，训练轻量神经解析器，通常能超越规则模型且推理成本更低。
- 对超长文档检索，图结构 + Graph Transformer 比直接 dense 向量在全文档上更有效，尤其查询与文档长度差异大时；商品详情页可构建轻量图做相关性匹配。
- 滑动窗口限制 pair scoring 是简单有效的 O(n²)→O(n·w) 优化，对任何需长序列实体/关系抽取的模块都有参考，且权重共享使短序列训练直接部署到长序列，无需重训。
从梯度到能力：理解多教师在线策略蒸馏
🧭 多教师在线蒸馏优化机制 ★ 深度解读
University of Illinois Urbana-Champaign · Princeton University · Westlake University
通过梯度与优化器分析，揭示损失平均、Adam动量、BF16精度和词汇截断如何影响多教师蒸馏的任务性能。
📌 工作参考价值（4 点）
- 多任务/多领域模型融合时，响应长度差异会通过 token 平均隐式改变各任务损失权重；即使显式平衡域权重，域内长度加权仍通过协方差项影响梯度方向。建议在长度差异大的场景下，优先使用响应级平均或引入长度归一化，并监控各任务有效梯度占比。
- Adam 的一阶动量会掩盖不同教师/任务之间的梯度差异，更新方向被历史平均对齐；在线学习或需要快速适应新任务信号时，可尝试使用 SGD 或重置一阶矩，实验显示 SGD 在 PG 损失下四任务均值更高。
- BF16 存储会隐藏大量 FP32 主权重中的小变化（约97% vs 7-11%），导致模型更新看似稀疏，实际并非如此。评估参数变化或稀疏性时，应基于 FP32 master weights，避免被低精度舍入误导。
- top-k 词汇截断虽在梯度方向上与全词汇 KL 高度一致（余弦>0.999），但任务收益取决于损失平均方式；不能仅凭梯度余弦决定是否采用。资源受限时可使用 top-64 交集 KL，但需针对目标任务调整权重。
从用户生成主题语料中学习数据结构化
🧭 LLM 驱动的语料属性 schema 自动归纳
Bar-Ilan University
用 LLM 全自动迭代发现领域属性 schema，无需预定义本体即可抽取结构化数据
📌 工作参考价值（4 点）
- 用户生成内容（评论、社区帖、客服对话）中自动发现隐性属性：不用预设 taxonomy，先让大模型从语料归纳候选属性，再合并语义重叠、分配结构类型，快速搭建商品/内容属性体系，适合冷启动或长尾品类。
- 成本控制：schema 发现用大模型，值抽取用较小指令微调模型；可根据模型 scale 评估精度-成本曲线，选择合适模型，对百万级评论抽取能明显省成本。
- 属性集在 10 轮内稳定，说明迭代流程可产品化：可周期性对新语料运行，自动维护和增量更新属性字典，减少人工梳理。
- 结构类型分配与值抽取 F1 0.8，可用于生成推荐/搜索特征，例如抽取用户提到的具体症状、偏好、使用场景，丰富用户画像和 query 扩展。
从知识访问到源学习：构建源特化能力
🧭 Agent 长期源能力学习 ★ 深度解读
Georgia Institute of Technology · University of Illinois at Urbana-Champaign · University of California, Los Angeles
提出SourceLearn，用自指导+任务指导学习持续构建可复用源模型，在13/15设置中超越RAG与记忆基线
📌 工作参考价值（4 点）
- 在电商/广告 Agent 中，类目规则、活动规则、API 文档、售后政策等是反复访问的持久权威 source。可以维护一个与实时 RAG 并列的 source model：source model 固化可复用的结构、条件、规则与关系，RAG 继续提供精确证据；任务时按预算激活相关 region，减少每次从零推理。
- 自指导源学习采用 Inspect–Study–Consolidate 的 read-many write-once 模式：先对照现有源模型找出未解释清的机制/条件，再规划有限 DEEPEN/CONNECT 动作，最后才提交一次持久更新。适合离线周期性沉淀业务知识库，避免频繁写坏记忆。
- 任务指导学习不要把失败答案或经验本身存入记忆；只用失败定位源模型缺失的 requirements，然后回到权威 source 做 grounded reconstruction。跨任务可抽象成 representation lesson，只存“应显式区分条件/不要合并/应同置”等表示偏好，再对 source 做 recalibration，能把经验迁移到未见区域。
- 源模型实体槽位可参考 attributes/mechanisms/distinctions/decisive_details，优先结构和条件而非低层事实；论文显示条件显式度从约 30% 升到 65–82%，未来任务覆盖从 23.2% 升到 40.0%，覆盖越高准确率越高。检索失败时，source model 也能单独维持与完整检索 RAG 相当的水平，适合兜底降级。
CUAWright：数字代理的极简统一接口
🧭 数字代理 · 终端统一接口
Microsoft Research · National University of Singapore · The Ohio State University · Carnegie Mellon University
用 bash 命令和文件系统作为极简接口，让数字代理动态创建工具，大幅提升任务成功率和效率
📌 工作参考价值（4 点）
- 在需要自动化操作浏览器或桌面应用的场景（如电商数据采集、广告投放监控、多步骤订单处理），可以考虑用终端/bash 作为统一动作接口，替代传统 GUI 点击或 DOM 操作，减少对固定工具的依赖，让 LLM 直接调用命令行工具或编写脚本完成操作。
- 采用文件系统作为可演化的工具和记忆空间：让 Agent 在任务执行过程中将中间结果、上下文、创建的工具脚本写入文件，后续步骤可读取修改，实现类似长期记忆和动态工具注册表，避免每次重新生成工具定义。
- 统一接口降低了 harness 的工程复杂度：仅约 3K 行代码即可实现，适合快速搭建 Agent 系统原型，相比维护多套 GUI 特定工具（浏览器、桌面、CAD 等）更轻量，且跨领域复用性强。
- 结果提示：在需要视觉理解与命令行交互结合的任务（如 CAD 设计、UI 自动化测试）中，终端接口比纯 GUI 或混合 CLI 接口有显著提升，可以优先尝试将业务自动化流程改造为基于终端命令的交互方式。
单语检索增强生成中推理语言对齐的作用研究
🧭 单语RAG推理语言对齐
Johannes Gutenberg University Mainz · University of Colorado Boulder
在德语RAG问答中，对齐推理语言与查询文档语言可提升表现，但无法超越无约束英语推理
📌 工作参考价值（4 点）
- 构建多语言RAG评测集时，可采用小众虚构领域（如特定游戏世界）迫使模型依赖检索而非内部知识，避免记忆污染，验证检索能力。
- 多语言业务（如跨境电商、多语种搜索）中，若需要LLM进行推理回答问题，不强制其推理语言与用户语言一致可能获得最佳性能；但若追求可解释性而强制推理语言，对齐查询/文档语言（如德语对齐德语）优于不对齐的强制语言（如法语），且性能接近无约束英语推理上限。
- 在agentic RAG循环中，使检索上下文更丰富和结构化（如保留文档结构信息）会增强推理语言对齐带来的收益，提示工程中可优先采用结构化文档表示。
- 可复用结论：模型的语言熟练度并非决定RAG性能的唯一因素，语言对齐本身有独立贡献，因此在实际系统中应根据业务需求在可解释性与性能之间权衡，不必盲目强制英语推理。
当历史误导：指令引导LLM生成式推荐的非对称边际监督
🧭 生成式推荐 · 指令跟随与历史纠偏 ★ 深度解读
Duke University · Meta
提出AIMS，把单条历史删除效应转化为请求特定的反事实排序边际目标，用非对称辅助损失在完整历史上训练
📌 工作参考价值（4 点）
- 在电商/搜索的指令引导生成式推荐中，用户当前 query 与历史行为冲突常见（如“素食快手菜” vs 历史“红烧肉”）。可以离线用冻结模型评估删除单个历史事件对目标物品分数和 target–competitor margin 的影响，只保留同时提升两者的删除，把对应 margin 作为训练目标；训练仍用完整历史，推理零额外开销，适合大规模工业系统。
- 非对称梯度路由值得借鉴：辅助排序损失中把目标物品分数 detach，梯度只回传竞争者分数。这避免与 CE 对目标分数的直接监督冲突，能更干净地压低边界竞争者而不损害目标，可复用到 pairwise/ranking loss 设计。
- 做历史去噪或特征归因时，不能只看 influence 或 target uplift。本文证明无标签的 prediction sensitivity 与目标 support 几乎不相关，且 target uplift 高可能 competitor uplift 更高。实际应使用有标签的离线 margin 校验筛选干预，而不是仅依赖敏感度或单边 uplift。
- 简单 history dropout 不能复现 AIMS 的收益，说明“忽略冲突历史”不是把历史随机丢掉的等价做法。在冲突请求上增益更大，且 AIMS 选择的删除优先移除违反当前约束的历史事件，这提示可以显式构造约束冲突样本并用 margin 监督来纠正。
递归自重写扩展复杂任务成功轨迹
🧭 轨迹重写 · 自改进 SFT
Tencent HY LLM Frontier · University of Maryland, College Park · University of Georgia · National University of Singapore · Indiana University
用 planner-critic-executor 递归重写多 harness 成功轨迹，将 2k 源轨迹扩至 11k，SFT 后 terminal 任务 pass@3 全面提升
📌 工作参考价值（4 点）
- 数据合成去 harness 特定干预：引入 critic 自动检查 verifier leakage / solution leakage，可借鉴到推荐 Agent 训练数据生成中，避免把策略特有字段、评估答案或工具返回信号写进 SFT 样本，提升线上一致性。
- 成功轨迹规模化：用 planner 把少量成功 case 抽取为 runbook，executor 在新 sandbox 重放生成多样化轨迹，适合电商搜索/推荐中稀缺的成交路径、高转化 query 改写样本扩增。
- 多策略并行收集后统一蒸馏：三个 harness 联合比单一最强 harness 多解决 34.3% 任务；在业务中可并行跑多路召回/排序/工具链，仅保留成功结果训练 base 模型，避免单管线能力偏置。
- 过程奖励过滤：重写后 process reward 上升说明中间步骤质量提高；对长程推荐/Agent 任务，可用过程奖励而非只看最终结果来做数据筛选。
低精度 Transformer 推理中的随机舍入：小 GPT-2 变精度仿真研究
🧭 低精度推理 · 随机舍入策略
Krembil Centre for Neuroinformatics, Centre for Addiction and Mental Health · Université Paris-Saclay, UVSQ, LI-PaRAD
系统研究低精度 Transformer 中随机舍入与就近舍入的逐位置权衡，发现 MLP 输出宜用 SR、LM head 宜用 RN，混合配置可显著降低困惑度损失
📌 工作参考价值（3 点）
- 在低比特部署 LLM 时，不要全局统一舍入策略：对长 reduction 的 MLP 输出（尤其 down-projection）优先尝试随机舍入 SR，可显著抑制误差累积；而在 LM head 保留就近舍入 RN，避免引入非均匀 logit 方差导致 softmax 损失增加。
- 混合精度方案可将 SR 用于 MLP、RN 用于 head，实验中在 t=6 时把 perplexity 损失从等位 RN 的约 2.21x 降至 1.10x，减少约 28%，这对电商搜索/推荐中的文案生成、query 改写等低比特小模型很实用。
- 借助 PRISM 变精度随机舍入（VPSR）算法可离线评估不同层/操作的舍入策略，无需真实低精度硬件即可进行 what-if 分析，适合在量化工具链中作为 auto-tuning 组件。
DMAD：分布匹配即对抗蒸馏，用于快速视觉生成
🧭 扩散模型对抗蒸馏加速生成
Texas A&M University · Intelligent Creation, ByteDance
把分布匹配蒸馏重构为对抗式分类，免去辅助 score 模型并实现 1.04 FID 一步生成
📌 工作参考价值（4 点）
- 工程上，若做商品图/视频/AIGC 的少步扩散蒸馏，可借鉴共享 backbone + 两个判别头的设计，避免维护不断更新的辅助 score 模型，降低显存和计算，简化训练管线。
- gap-based reweighting 根据真实样本与教师样本的判别 logit gap 动态调节蒸馏监督，这种自适应加权方式可迁移到推荐排序蒸馏、LLM 生成质量判别蒸馏等场景，替代固定权重。
- 对于生成式推荐中的 Semantic ID / 商品文案 / 营销物料生成，若希望用少步生成模型降低推理延迟，可尝试把分布匹配目标写成判别损失，并利用 real-teacher gap 调整监督；比单独训练交叉熵或 score 模型更省资源。
- 论文证明的 logit→log-density ratio 恒等式是通用理论：已有判别器或 LLM reward model 时，用线性 logit 损失就能近似分布梯度，可尝试接入 Agent 或多模态生成 Reward 模型做策略优化。
动态 Harness 搜索：按查询预测构建多智能体系统
🧭 成本敏感的按 query 多智能体编排搜索 ★ 深度解读
Google · Arizona State University
SHIFT 用本地小模型预测 harness 效用并以 MCTS 按查询构造多 Agent 系统，无需在线执行候选，精度与成本双优
📌 工作参考价值（4 点）
- 把 agent harness 定义为可执行图（roles/directives/tools/edges），在请求级用本地小模型（如 Gemma-2B + LoRA）做 MCTS 选择，而不是固定 pipeline；电商场景可按 query 决定是否需要「检索→规划→校验」多人链路，还是仅一个 reader/单步商品查询，降低高耗时多 Agent 编排的无效消耗。
- 成本敏感的价值函数值得直接复用：reward=成功项 - 归一化 token/latency/tool/agent 惩罚，用 binary cross-entropy + pairwise ranking loss 训练 value head；线上可选择 value 最高的 harness 而非最强 harness，类似路由/降级策略，在牺牲极小精度下大幅省 token。
- 搜索只在本地模型内完成，候选执行不进入在线路径；MCTS 用虚拟损失实现批量并行，H100 上构造 harness <1s，在线成本接近固定编排。适合已有 workflow/Agent 编排平台做逐 query 编排，或作为 offline 训练 policy、online value 决策的两段式部署。
- 动作空间从最小 harness（single Coder 无 tools）开始，40 个 action 共享跨 domain 的结构/指令，工具权限随 domain 变化；这种冷启动方式可迁移到新的商品类目/垂直搜索，通过少量执行数据训练 architect，再迁移到更难任务。
多模态 RAG 的自适应粒度证据压缩框架
🧭 多模态 RAG 证据压缩与迭代检索
POSTECH
CANOPY 用层级节点评分与父相对细化选择多粒度证据区域，结合 critic 触发补充检索，压缩 token 同时保持准确率。
📌 工作参考价值（4 点）
- 在电商多模态知识库/商品问答场景，对检索到的商品详情图、表格、视频片段构建层级表示，用微调的小型节点编码器做 query 相关打分，替代 LLM 逐节点判断，压缩成本低且可并行。
- 父相对细化：比较父节点与子节点得分的相对差异来选择保留区域，可迁移到商品详情页中“整块描述 vs 局部属性”的自适应裁剪，避免统一细粒度丢失关键上下文。
- critic 触发补充检索对多跳问题（如跨商品属性对比）很有价值：当现有证据不足时，主动发起针对性二次检索，可提升复杂 query 的答案质量；工程上可用轻量规则或小模型实现。
- 压缩减少 reader 输入 token 14.2–27.7% 且准确率不受损的结论，支持在 RAG 服务链路中加入后置压缩模块，降低 LLM 输入成本，适合线上成本敏感场景。
多语言编码器生成的 Semantic ID 跨语言一致性检验
🧭 生成式推荐 · Semantic ID 跨语言一致性 ★ 深度解读
Amazon · Rutgers University
用 ESCI 翻译对照证明：多语言编码器与平衡码本不能保证同一商品跨语言 SID 前缀一致，需显式对齐目标。
📌 工作参考价值（4 点）
- 部署多语言生成式推荐时，不要假设多语言 encoder 的 SID 天然跨语言一致；若用 exact prefix 做召回/索引，需为同一商品的不同语言文本增加显式对齐约束或后处理映射。
- RQ-VAE 第一层易坍缩到单码，工程实现要加输入 centering、per-step dead-code recycling，并监控每层有效码数 Keff；E5 原始空间共享 offset 强，直接量化会失效。
- 拟合码本时语言平衡不必然带来更好 cross-lingual agreement；实验中英文 only 拟合反而保留更多翻译前缀。若目标是英文为主索引，可保守采用英文主导拟合 + 跨语言一致性损失。
- 评估 quantizer 扰动敏感度时，isotropic control 会高估语言方向选择性，应构造 product-directed control（沿真实产品 embedding 方向移动相同距离）才能得到可靠结论。