基线项与增量项：Instagram Feed 排序中的用户、物品与请求去偏
🧭 推荐排序去偏 · 价值模型 ★ 深度解读
Meta
在排序价值模型中保留原始预测并给增量项单独权重，用一个算子统一用户、物品、请求三类去偏
📌 工作参考价值（4 点）
- 排序公式里不要直接移除 bias：把原始预测 p 和增量项 Δ 分别加权，交给在线调参决定配比。电商推荐中用户历史点击率、商品热度、请求上下文都能分别构造 baseline，避免单一权重无法平衡“习惯性点击”和“候选真实增量”。
- 三类 baseline 成本都很低：user/item 历史均值可预计算，request baseline 直接读当前候选池的 mean 或 p75。电商搜索/推荐可以借鉴 request baseline 处理同一 query 下候选池强弱偏差，且只需 O(N) 或 O(N log N)，不加模型推理成本。
- 用 quantile Pearson r + Var% 做离线筛查，只当 high-recall filter，不用于排序；真正决策靠在线四臂消融（none/raw/incremental/both）。可避免离线指标误杀有潜力的 debias 信号。
- 媒体格式类偏差（如图片/视频尺寸）走 debiased label，流行度偏差走 VM scoring term；概率信号比较用 logit gap，回归信号用原单位 gap；稀疏 baseline 特征要 clamp 并单独看 zero share。
密集检索模型性别敏感性的机制分析
🧭 密集检索偏见机制的因果分析
Brown University · University of Amsterdam · University of Tübingen
揭示双编码器性别偏见源于输入嵌入并经少量后期注意力头传播，不同层级干预效果迥异
📌 工作参考价值（4 点）
- 组件级拔除偏见方法：借鉴论文的因果中介分析流程，对召回双塔模型的特定注意力头进行输出干预（加偏置向量），可定向抑制性别偏好而不伤及术语匹配信号，比全局嵌入调整更精细。
- 生产环境公平性监控：定期对双编码器组件的性别敏感度进行机制探测（如路径修补），识别偏见集中的注意力头，作为模型上线前的公平性检查点。
- 解耦表征设计启示：论文揭示性别与相关性信号在晚期层共享注意力头，提示在搜索推荐系统中，可尝试增加辅助任务头拉出性别无关分支，或在该层加入正交化损失，减少信号纠缠。
- 干预层次选择：嵌入层干预虽可中和分数差异，但非特异性地影响所有输出；注意力级干预能实现方向性偏移，类似少量样本针对性调整，更适合需要对特定查询类型（如无性别倾向的通用查询）去偏的场景。
ConAlign：平衡有偏与无偏推荐的条件对齐框架
🧭 推荐去偏 · 流式条件对齐 ★ 深度解读
Kuaishou Technology
提出条件门控对齐机制，选择性传递有偏知识，在流式训练下平衡有偏环境准确度与无偏偏好估计。
📌 工作参考价值（4 点）
- 可用于线上推荐系统，部署小比例随机流量收集无偏数据，训练无偏塔并与有偏塔通过条件对齐连接，在不损害主业务指标的前提下提升长期多样性。
- 条件门控 I_cond：仅当有偏塔损失更低时才激活对齐，避免无偏塔被过度纠正；电商/广告场景可借鉴，选择性利用曝光偏差信号。
- 跨塔设计：无偏塔拼接有偏塔倒数第二层隐向量，用 stop-gradient 防止梯度回传，低成本实现知识迁移，适合流式训练。
- 快手线上 A/B 结果：DAU +0.069%，LT7 +0.029%，兴趣多样性显著提升，验证了去偏对长期留存的正面影响，为电商平台追求用户长期价值提供实证。
Pinterest全漏斗内容冷启动探索与去偏系统PinEqualizer
🧭 全漏斗冷启动探索与去偏 ★ 深度解读
Pinterest, Inc.
提出覆盖语料、召回、排序的全漏斗冷启动解决方案，通过去偏与探索结合高效测量框架显著提升新鲜内容分发与用户参与
📌 工作参考价值（4 点）
- 特征工程去偏：使用内容唯一依赖的Embedding（VLM/CLIP）避免图Embedding对新鲜内容的偏倚；对历史互动特征做Individual Dropout，迫使模型更依赖内容信号；通过DCNv2交叉内容年龄、内容特征与互动特征，让模型动态调整偏好。
- 低成本的探索策略：在效用层加入基于实时印象数的简单UCB奖励（UCB = α / sqrt(1+β·impressions)），无需方差估计即可有效提升未探索内容分发；Neural Linear UCB精度更高但可解释性差，适合在最终精排中使用。
- 快速实验与测量：使用“未探索内容互动量”作为用户A/B实验的代理指标，与长期留存强相关且无内容泄露问题，可大幅加速迭代；长期新鲜内容Holdout实验测量增量价值，证明探索的长期收益大于短期成本。
- 全漏斗瓶颈分析：对各阶段新鲜内容的输入占比与输出存活率进行分析，识别瓶颈（如召回不足或排序打压），从而优先投入ROI最高的环节；为搜索表面单独提升相关性权重，保证探索不牺牲语义相关性。
位置偏见修正不足以替代迭代注意力排序
🧭 RAG 上下文重排中的位置偏失去偏 ★ 深度解读
Analemma
去偏单次注意力排序在高偏置模型上可小幅提升，但仍远不及迭代排序，仅弥补 37% 的精度差距
📌 工作参考价值（4 点）
- 轻量级文档重排 trick：在长上下文 RAG（如多文档问答）中，仅用一次 decode 的注意力权重即可对文档排序，计算代价极小，可作为生成前的轻量重排模块，且效果接近单次注意力排序基线。
- 提示级位置偏曲线估计：利用同一 prompt 中低注意力文档（剔除 top-α）分箱聚合（中位数或均值）来估计位置偏置曲线，再用减法或除法校正原始注意力分数。这一思路可直接迁移到需要对抗位置偏见的生成式推荐或搜索摘要场景，无需额外训练或外部数据。
- 迭代 vs 单次的取舍：结果表明，对于位置偏置不严重的模型（如 LLaMA‑2‑32K‑Instruct），单次注意力排序已足够，迭代排序带来的增益极小（0.6pp 以内），可节省多轮生成的计算开销；对偏置严重的模型（如 YaRN），仍需要迭代排序才能获得较大收益，但可先尝试去偏一次排序，若效果不足再增加迭代。
- 注意力排序的部署成本控制：若业务对延迟敏感（如实时推荐搜索）且使用偏置较弱的模型，可直接用单次排序（1 sort+1 gen），仅需一次前向和一次生成，大幅降低延迟，避免 5 次 sort‑and‑generate 的代价。
因果表征学习提升推荐系统分布外泛化：从信息解耦到线上A/B验证
🧭 因果表征学习 · 分布偏移优化 ★ 深度解读
University of Warwick · Spotify · University College London
提出互信息解耦准则去除表征中的非因果依赖，在Shopify线上A/B测试中显著提升用户参与度，而离线指标不起变化
📌 工作参考价值（4 点）
- 直接在标准排序损失上增加一个互信息惩罚项（通过梯度反转实现去相关），无需额外数据、不改推理架构，即可消除物品表征中的非因果泄露，适用于任何现有监督模型。
- 离线指标（如AUC）可能完全反映不出线上收益：论文三种场景下CRL模型在偏置训练集上离线指标与基线持平，但在随机曝光测试集和线上A/B中均显著胜出。建议多用随机曝光测试集或小流量线上实验评估分布外真实效果。
- 调参安全：理论表明存在“无损耗”区间，较小的惩罚权重λ即可去掉非因果信息，不损害预测效用；实践中可用NCE-CLUB上界监控互信息下降量。
- 工程落地简单：方法与具体模型解耦，无需干预数据或多环境分划，仅用现有观测日志训练，适合大规模推荐系统快速部署。