#fairness

4 篇

Collective Bias Mitigation via Model Routing and Collaboration

通过模型路由与协作实现集体偏见缓解

🧭 多 LLM 协作路由去偏

Nanyang Technological University · National University of Singapore · Harbin Institute of Technology · King's College London

提出 Collective Bias Mitigation，用多 LLM 路由与协作降低偏见，Committee 在 top-7 将年龄偏见从 0.25 降至 0.10

📌 工作参考价值（4 点）

在生成推荐文案、广告语、客服话术等 LLM 输出场景，可先对业务敏感维度（性别、年龄、地域、消费能力）做细粒度偏见评估，按问题类型路由到该维度偏见更低的模型或 LoRA 专家，而不是全局换大模型。
借鉴 Committee 拓扑：多个异构 LLM 对同一 prompt 生成候选，再用低成本聚合/仲裁模型投票或改写，能明显降低 biased 输出；线上可按 top-k 控制成本，用较小 committee 在偏见与推理成本间取平衡。
Debating 拓扑适合高价值、低 QPS 场景（如公关文案、敏感 push 文案），让模型互相挑战后再产出；普通推荐解释或 query 改写可用 Committee 的轻量投票。
工程上把偏见分数作为模型路由特征：离线为每个模型×敏感属性×任务类型建立 bias profile，路由时查表选择，避免每次实时前向全部模型。

LLM | 2026-10-02 | cs.CL | score 7/10

Fairness Pruning: Locating Demographic Bias in GLU-MLP Layers via Differential Activations

公平剪枝：通过差分激活定位GLU-MLP层中的人口统计偏见

🧭 LLM 偏见定位与结构性干预

Universidad Internacional Menéndez Pelayo · Universidad de Jaén

提出一种轻量级结构干预方法，利用差分激活定位LLM中与人口偏见相关的极少神经元，剪枝即可解耦偏见与能力

📌 工作参考价值（4 点）

差分激活定位方法可迁移到推荐/对话模型中，用于定位特定行为（如价格敏感、品牌偏好）的神经元回路
极少量神经元剪枝（<0.031% 参数量）即能改变模型输出，启发在保持主任务性能下进行精细行为干预，对模型压缩和可控生成有参考价值
发现偏见神经元存在正负双向性，提示未来可分别调制“推高偏见”与“压低偏见”的神经元，实现定向公平性控制
该工作完全基于推理时激活捕获，无需重新训练，适合快速在已有LLM推荐或文案生成管线中做偏见审计与干预

LLM | 2026-07-29 | HF Daily | score 6/10

fairness bias mitigation mechanistic interpretability differential activation GLU-MLP neural pruning

Scoring Is Not Enough: Addressing Gaps in Utility-fairness Trade-offs for Ranking

仅靠打分不够：排名中效用-公平性权衡的缺失及其弥补

🧭 排序效用与公平性权衡 · 后处理优化

University of Illinois Chicago

证明排序中仅靠打分函数无法实现最优效用-公平性权衡，半贪婪后处理可逼近理想前沿

📌 工作参考价值（4 点）

推荐系统重排序引入公平性目标时，避免仅依赖单一预测分数排序，应使用显式列表级后处理（如半贪婪方法）来平衡公平与效用
半贪婪后处理计算开销远低于穷举搜索，可在线部署，适合电商/广告大候选集的公平性干预
跨请求的累积公平性约束（多查询公平）比单次推荐公平更能改善长期生态，可作为长期公平优化方向
实验表明基于分数的随机排序（如概率排序）也无法充分实现公平-效用前沿，建议直接优化排序策略而非调整分数

RecSys | 2026-06-24 | cs.IR | score 6/10

ranking fairness utility-fairness trade-off scoring function post-processing semi-greedy

Data Bias Mitigation under Coverage Constraints & The Price of Fairness

覆盖约束下的数据偏差缓解与公平代价

🧭 数据公平性 · 覆盖约束与整数规划

Khoury College of Computer Sciences, Northeastern University, USA · Casa de Investigadores Científicos La Comarca, Uruguay · Cheriton School of Computer Science, University of Waterloo, Canada

在覆盖约束下用整数线性规划优化数据偏差缓解，显式量化公平代价与数据效率的权衡

📌 工作参考价值（4 点）

在构建推荐系统的训练数据时，借鉴覆盖约束的思想，强制要求每个用户子群体（如按性别×年龄×消费层级）达到最低样本量，避免长尾群体被模型忽略，提升公平性与整体性能。
使用整数线性规划对数据采样/增补策略进行全局优化，而非启发式重采样，可在数据购买成本或标注预算有限时，获得最优的数据修改方案，支持数据治理决策。
引入“公平代价”的量化概念，在业务中设定可接受的公平性容忍阈值（例如法律合规要求的特定偏差上限），据此计算最小数据修改成本，帮助在成本与公平间制定可解释的权衡。
该方法不依赖特定模型，可与现有分类器或推荐模型解耦，适合作为数据预处理管线的一部分，在电商/广告推荐中先行修正训练数据分布，再训练下游模型。

Other | 2026-06-18 | cs.LG | score 6/10

data bias fairness coverage constraints integer linear programming data efficiency intersectionality