Harm Laundering in GPT Models: Evidence That Gender Discrimination Is Transformed Rather Than Reduced Across Safety-Trained Generations
GPT 模型中的伤害洗白：性别歧视在安全训练世代间被转化而非减少
🧭 LLM 安全评估 · 偏见转化检测
Durham University
安全训练降低毒性分数，但性别歧视被转化为隐性代表伤害，毒性指标不足为据
📌 工作参考价值
- 在生成式推荐/搜索/Agent 输出中，仅看整体毒性、满意度或安全拦截率会掩盖群体差异；需按用户属性或内容主题分组对比，类似 REGARD 的代表性伤害指标，而不是只依赖 Detoxify 类毒性分数。
- 警惕安全对齐后的隐性偏见转化：显式歧视词被替换为看似中立但偏向某群体的讨论（如将女性健康话题转为男性权利框架）。在推送文案、产品标题、对话回复生成时，应检查语义话题在不同群体上的分布是否对称，而不仅是文本表面。
- 三阶段检测协议（分组话题聚类、情感极性对比、语义簇审计）可直接迁移到线上生成内容的公平性监控，尤其适合女性/男性、不同地域用户、不同商品类目等分组，识别 harm laundering 型差异。
- 过度纠正风险：对齐可能使情感极性反转（如早期贬低女性、后期过度美化），导致新的体验不公平。需要监控生成结果的情感分布，避免善意补偿变成另一种偏差。
动机：LLM 安全评估普遍依赖表层毒性分类器，模型代际毒性分数下降被视为安全改进。但这一指标是否充分？本文以 GPT 谱系为例检验。
方法：分析 15 个 GPT 模型（GPT-2 到 GPT-5）共 450,000 条性别定向补全，分三种人口统计条件。用话题聚类、情感、Detoxify 毒性、REGARD 代表性伤害等指标对比男女定向输出，提出 harm laundering 三准则测试与三阶段检测协议。
关键结果：
- GPT-2 女性定向输出中性暴力簇在 GPT-4 消失，但男性定向补全获得照护、情感、盟友等正面领域，女性未获同等。
- GPT-5 中一个 1,997 文档话题簇将乳腺癌框架为男性权利辩论，女性输出无等价；三个独立分类器判为无毒。
- 情感在 GPT-4 反转：早期模型贬低女性，后期过度纠正。
- 女性话题多样性相对男性在 GPT-4 对齐边界下降 36%（W/M=0.58，GPT-2 为0.91）。
- REGARD 代表性伤害差异随发布日期上升（ρ=+0.55, p=.034），而 Detoxify 毒性不相关（ρ=-0.23, p=.42）。
结论：毒性分数降低不是伤害降低的充分代理；显式歧视被转化为隐性代表性伤害。