数据受限稠密检索的缩放律与算力分配
🧭 数据受限 Dense Retrieval 的 scaling law ★ 深度解读
Tsinghua Shenzhen International Graduate School · Xi'an Jiaotong University
提出 MAEL 作为数据受限微调的稳定目标，拟合乘法 scaling law 并量化模型规模相对数据规模的计算效率优势
📌 工作参考价值（4 点）
- 在标注/点击数据受限且重复多 epoch 的检索召回微调中，用 MAEL（训练期间最低 eval loss）替代固定 step 的 eval loss 做模型选择与资源分配；它对学习率不敏感，且与 MRR@10、Recall@100 等线上指标高度相关（Pearson ≤ -0.985），适合小规模网格外推。
- 学习率主要改变到达 MAEL 的步数而非最终最低 loss：scaled step = step × lr / (2e-5) 可对齐曲线。工程上可以先小网络扫学习率确定收敛速度，不必为每个配置重跑大搜索。
- 资源分配：在 5K-320K 唯一样本、BERT-Tiny→Base 的数据受限 regime 下，增加预训练模型大小比增加唯一 in-domain 标注数据约 1.46 倍更 fine-tuning compute 高效；若模型容量受线上延迟/部署限制，再补唯一数据。
- Weight decay 调参：不要固定 λ，改用 EMA timescale τ_epoch = B / (η λ U) 作为不变尺度；数据减半时 weight decay 翻倍，常能降低 MAEL 并提升 in-domain 与 BEIR OOD 检索指标。
System One 模型并非更好的重排序器
🧭 LLM reranker 微调策略对比
University of Passau · Interdisciplinary Transformation University Austria (IT:U)
在 0.6B–27B 六个 Qwen 骨干上，决策微调从未超过重排微调，9B 以下重排微调领先 5–29 nDCG@10
📌 工作参考价值（4 点）
- 实际搜索/推荐重排中，若目标是 nDCG，优先选择专门 reranker 微调模型（如 Qwen3-Reranker），不要拿 System One/决策模型按“是/否”概率直接排序；0.6B–9B 差距为 5–29 nDCG@10，27B 才打平。
- 9B 以下 decision fine-tuning 相比 untuned zero-shot 没有排序增益，如果已有 untuned LLM，可先做零样本问法 baseline，不必额外引入决策微调。
- 决策模型的校准优势对问题措辞敏感，换一种问法可能消失；在线上系统评估校准或做阈值策略时，必须用实际 prompt 验证，不能直接沿用论文结论。
- 若关心固定阈值下保留优质结果，reranker fine-tune 的概率比 decision model 概率更可靠；做准入/截断时应基于 reranker fine-tune 输出。
微调前可线性读取的知识在微调后更能泛化
🧭 LLM 线性可读性与微调泛化
Center for Information and Language Processing, LMU Munich · Munich Center for Machine Learning (MCML)
预训练表示中原关系的线性可读性越强，新构造关系微调后的泛化越好，模型内 Pearson r=0.87–0.92
📌 工作参考价值（4 点）
- 微调电商/搜索领域的实体属性映射前（如品牌→类目、商品→属性、query→品类），先用线性探针测量预训练表示中该映射是否线性可读；可读性高时，小样本微调更可能泛化到长尾实体，可节省标注和算力。
- 若要做生成式推荐或 Semantic ID 映射等新任务，可构造“原属性→任意新标签”的代理任务，快速预判模型能否在新实体上泛化，避免在不可泛化的监督信号上做无效微调。
- 线上模型出现错误标签时，可将错误标签映射回原答案，并通过线性探针的 top 预测辅助诊断：错误可能不是模型没记住事实，而是共享结构没有被线性编码；这能指导后续是继续微调还是补充预训练/表示学习。
- 对 Agent 或 LLM4Rec 中需要模型进行规则归纳、实体聚类、属性补全的场景，优先选择预训练表示中已线性可分的特征作为监督目标，能显著提高微调后的 held-out 泛化。
学习风格，遗忘语义：SFT与RFT分类任务案例研究
🧭 微调遗忘机制 · SFT vs RFT
University of California, Davis
理论证明SFT因风格漂移导致语义遗忘下界为正，而RFT保持零语义误差
📌 工作参考价值（4 点）
- 在业务中持续微调LLM（如搜索/推荐文案生成、query改写）时，若教师数据存在风格偏好，SFT可能把模型带偏到风格维度而遗忘底层语义能力；可监控风格漂移指标，或对提示分布做均衡化。
- 当任务需要保持跨风格一致性（如同一语义的多种表达），优先考虑RFT/策略梯度或加入风格不变正则，避免SFT因非均匀教师产生离轴漂移。
- 理论框架可指导混合训练：在已有较好拟合的checkpoint上继续SFT时，注意前几步更新的方向，防止在风格上过拟合；必要时用RFT微调或对SFT更新做投影约束。
- 该工作主要偏理论学术贡献，业务可借鉴点有限，核心价值在于提供理解SFT遗忘的新视角。
针对翻译微调LLM：通用遗忘缓解不保护MT特定指令遵循
🧭 LLM 微调与灾难性遗忘缓解
AppTek GmbH, Aachen, Germany · Machine Learning and Human Language Technology, RWTH Aachen University, Germany · Applied Science Private University, Amman, Jordan
比较微调中的遗忘缓解方法，发现EWC保留通用能力最好，但只有混合控制任务数据可保留MT特定指令遵循，且泛化有限
📌 工作参考价值（3 点）
- 在电商/推荐场景微调LLM（如生成推荐文案、query改写、对话Agent）时，建议添加EWC正则化：实现简单，能显著减缓通用基准能力下降（本文8B模型仅降1.7分 vs 标准微调11.0），同时不影响领域任务性能。
- 若需要保留多种控制能力（如文案语气、长度、格式），仅靠通用遗忘缓解不够，应在微调数据中混合少量控制任务示例，但需注意对未见过的指令模板泛化有限，因此要持续扩充控制任务的数据多样性。
- 评估微调模型时必须同时监控通用能力和任务特定指令遵循，不能只看单一指标，因为通用能力保留不代表特定控制能力保留。
Harness-Zero：通过 Agent-as-Harness 实现 Harness 蒸馏
🧭 LLM Agent 蒸馏与外部策略内化
Peking University · Google · The Hong Kong University of Science and Technology
用 agent-as-harness 把优化 harness 的引导转为目标动作空间修正示范并微调，移除专用 harness 后成功率 23.3%→44.3%
📌 工作参考价值（4 点）
- 业务中若存在按场景/人群/地区切换的规则引擎、多路召回/重排策略、风控或兜底 harness，可借鉴“专家 harness 引导 + 修正 agent 生成目标动作空间示范 + SFT”的流程，把外部策略内化到统一模型，降低线上策略路由与维护成本。
- 若优化 harness 与学生目标 harness 的动作空间或可用信息不一致，不要直接拿专家输出做监督；引入 bridging agent 在目标动作空间重写学生响应，是比 code-as-harness 更稳的蒸馏方式。
- 实验显示内化后移除专用 harness，模型成功率从 23.3% 升至 44.3%，超过保留原 harness 的 41.7%；可尝试用微调替代部分外部系统，减少推理延迟与策略冲突。
- 对推荐/搜索 Agent 场景，可将不同场景的 query 改写、选品或 push 选词策略作为 expert harness，蒸馏到一个 base model，支持多场景统一服务，尤其适用于对话式购物/搜索助手中的策略简化。
基于隐藏状态相对表示的参考式 LLM 偏见检测
🧭 LLM 偏见审计·相对表示
NASK - National Research Institute, Poland · Warsaw University of Technology, Poland · Gdańsk University of Technology, Poland
用隐藏状态与锚点句的相似度构建相对表示，在共享空间中度量微调前后偏见偏移 ΔB
📌 工作参考价值（4 点）
- 可用于业务模型上线前/微调后的低成本偏见回归监控：不依赖输出级标注或裁判模型，直接对 checkpoint 隐藏状态做 ΔB 检测，约 3 分钟完成，适合 CI 流程。
- 在电商推荐/广告文案生成等场景，可借鉴相对表示方法，用固定锚点句集合编码不同群体/属性，快速审计模型对性别、地域、品牌等的隐含关联漂移。
- 对 LoRA/PEFT 微调尤其注意：结果更依赖模型，建议结合输出级评估使用，不要单独作为放行标准。
- 若业务中已有针对敏感群体的句子模板，可将 ΔB 作为模型迭代时的内部指标，与输出 A/B 测试互补，提前拦截高风险检查点。
学会遗忘：长上下文稀疏注意力的微调方法
🧭 长上下文稀疏注意力微调 ★ 深度解读
Amazon Web Services · University of Amsterdam · Amazon · Technical University Berlin
提出在任意 KV cache 策略下微调 LLM 的方法，使模型与稀疏注意力协同适应，在中等 GPU 上超越序列并行训练
📌 工作参考价值（4 点）
- 训练/推理一致性：若线上推理启用 H2O、SnapKV 等稀疏 KV cache 策略，微调时务必使用同一策略做前向，否则模型在稀疏推理下会出现输出过长、乱码；论文中 SP 训练模型在多个 Helmet 任务上严重退化。
- 低成本长上下文微调：单卡 40GB 可用 LoRA + 嵌套激活检查点 + CPU offload + delta encoding 处理 KV cache，将 autograd 显存降至与推理相当，适合多轮对话、长工具输出、长行为序列等场景。
- 缓存策略 trick：H2O 归一化累积注意力分数、batch 维度独立淘汰、保留少量 attention sink 前 β 个 token，能提升长上下文稳定性；避免全局统一淘汰。
- 工程落地：可复用 KeysAndValues 库快速对比策略；推动 SDPA kernel 支持返回 summed attention weights 和隐式 causal mask，降低稀疏注意力延迟。
侵入者阈值：LoRA微调的频谱定律
🧭 LoRA微调侵入维度预测 · 理论临界阈值
Technical University of Munich
推导逐层临界更新强度，无参数预测LoRA微调产生灾难性遗忘的侵入维度
📌 工作参考价值（4 点）
- LoRA 超参预警：计算每层临界强度 \(s^* = \bar{\theta}/(\gamma \sigma_1(BA))\)，仅需一次 SVD，无需验证集扫描，可在微调前诊断层是否易产生记忆覆盖，指导学习率、秩 \(r\) 的设置。
- 遗忘抑制规则：依据阈值推导的 spike-budget rule，限制侵入维度数量，在最脆弱模型上降低 62% 遗忘，且不损失任务性能，适用于推荐系统多任务微调时保护旧任务。
- 安全微调策略选择：全量微调天然安全（更新分散在阈值以下），若 LoRA 更新强度接近阈值，可切换更高秩或调整学习率，避免 Agent 在持续学习时遗忘领域知识。
- 层冻结依据：通过阈值快速筛选高风险层，仅冻结这些层或对其施加更小学习率，在电商搜索或广告模型中平衡新任务学习与遗留能力。
理解LLM微调中记忆知识为何难以泛化的机制
🧭 LLM微调 · 知识泛化与电路错位
HKUST(GZ) · HKUST
揭示“知用鸿沟”：记忆的表示存在但未路由到有效计算层，提出自修补干预可恢复58-75%的泛化失败
📌 工作参考价值（4 点）
- 微调注入新知识后推理失败的诊断：在电商/Agent场景中，若微调后模型能记忆商品属性但无法正确回答组合推理（如“哪个去年发布的手机拍照最好”），可通过自修补（self-patching）分析内部激活定位，找出哪些层的表示未参与推理，指导后续模型优化。
- 无需重新训练即可部分修复推理：采用简单的启发式规则（如将某些层的记忆表示转移到关键计算层），可快速恢复泛化能力，适合在线知识更新后紧急修复推理表现，成本低。
- 微调策略的启示：设计训练损失时，应考虑让与推理相关的深层也参与记忆表示的学习，或加入辅助任务迫使知识表示向有效计算层对齐，避免“知用鸿沟”。
- 模型调试工具：自修补方法可作为内部调试工具，用于持续集成测试中自动检测新知识注入后的推理衰退，降低线上事故风险。
面向智能编码的代码检索综合基准 CORE-Bench
🧭 代码检索基准与Agent编码评估
Beihang University · Peking University
提出三层级代码检索基准，揭示Agent编码场景下检索性能急剧下降，微调可显著提升
📌 工作参考价值（3 点）
- 对于电商智能体（如自动化客服、商品信息管理）需要从代码库或结构化知识库中检索上下文时，可借鉴 CORE-Bench 的三层级评估框架（代码理解、问题定位、广泛上下文）来设计更全面的检索评估指标。
- 实验表明在 Agent 检索场景下，对通用嵌入模型简单微调即可大幅提升性能，这提示在构建垂直领域检索系统（如商品描述与用户意图匹配）时，可基于少量领域标注数据微调现有嵌入模型，低成本提升上线效果。
- CORE-Bench 揭示了传统代码搜索与 Agent 状态化检索之间的显著差距，类似地在电商推荐 Agent 中，从单纯文本匹配到需要结合会话状态、库存状态的上下文检索也存在鸿沟，需专门构建评测与优化方案。
将未来行为预测作为学习任务
🧭 行为预测 · 推理模型可解释性
Bar-Ilan University · Constellation · Allen Institute for AI · UK AI Security Institute
训练Behavior Forecaster从推理轨迹直接预测大推理模型的行为，比强LLM更准且成本更低。
📌 工作参考价值（4 点）
- 若使用大推理模型（如DeepSeek-R1）做搜索排序、Agent决策，可通过训练小模型预测其输出一致性，低成本做线上预检。
- 自动构建训练数据的方法：多次查询LRM获取轨迹与行为标签，无需人工标注，适合构建自定义监控模型。
- 预测LRM对输入扰动的敏感性，可用于评估输入中哪些特征对推荐结果影响大，辅助特征工程。
- 推理轨迹包含比纯文本阅读更丰富的信息，建议在LLM诊断时利用轨迹特征训练下游预测模型，而非依赖提示工程。
MixSD：混合上下文自蒸馏用于知识注入
🧭 知识注入 · 混合自蒸馏 · 分布对齐 ★ 深度解读
Carnegie Mellon University · University of Toronto · University of Illinois Urbana-Champaign · Princeton University · Cornell University
提出MIXSD，通过混合基础模型自身专家与朴素条件采样构建分布对齐监督，大幅减轻知识注入时的灾难性遗忘。
📌 工作参考价值（4 点）
- 用模型自身的语境采样作为监督信号：在注入新知识时，不直接使用人工书写的目标文本，而是用基础模型在“看到事实”与“未看到事实”两种条件分布下采样的token混合生成训练目标，使监督更贴近模型原有分布，减少分布偏移带来的遗忘。
- 通过混合率 λ 灵活控制注入与保留的平衡：λ=0.3–0.5 通常可保持注入准确率的同时大幅提升通用能力保留；在电商/Agent 场景下，可将该超参数作为调节“领域知识吸收 vs 通用能力保持”的杠杆，无需复杂正则化。
- 替代昂贵的 on‑policy 自蒸馏：MIXSD 仅需一次离线生成混合 rollouts，训练成本与 SFT 相近，却显著优于 OPSD 等 on‑policy 方法，适合工业级知识注入流程。
- 用 Fisher 对齐比率诊断遗忘风险：发现参数更新方向（而非幅度）与遗忘强相关，可在微调过程中监控该指标，提前预警能力退化；对于 Agent 多步推理能力保持尤其重要。