Debias-SparseGPT：大语言模型的偏置感知剪枝
🧭 LLM 压缩与公平性 · 偏置感知剪枝
Laboratoire Hubert Curien, UMR CNRS 5516 · Université Claude Bernard Lyon 1 · Université Lumière Lyon 2, ERIC · École Centrale de Lyon, LIRIS, CNRS UMR 5205
在 SparseGPT 剪枝中引入基于对比输入的二阶去偏正则项，显著降低剪枝引起的偏置放大，同时保持模型质量
📌 工作参考价值（3 点）
- 在电商/推荐场景部署压缩后 LLM（如生成商品文案、用户评论回复）时，SparseGPT 等剪枝可能放大对特定用户群体（性别、年龄 persona）的偏见。可借鉴 Debias-SparseGPT 的思路：在剪枝校准阶段加入对比敏感属性的输入对，并加入二阶正则项，在几乎不损失困惑度/准确率的情况下降低公平性风险。
- 校准集的选择直接影响剪枝后模型质量：在强结构化剪枝（如 2:4）下，应优先选择长上下文、内容丰富的样本，而非随机短样本。提示我们在为推荐场景 LM 做压缩时，校准数据应覆盖业务中典型的长尾、复杂情境，以提高泛化和公平性。
- 若业务中需用压缩后 LLM 做个性化推荐或广告文案生成，可在离线评估时加入 fairness 指标（如不同性别/年龄群体输出差异），并将 Debias-SparseGPT 作为模型压缩 pipeline 的一部分，避免上线后因 persona 提示产生明显偏好。
FSGR：缓解 SID 生成式推荐中的 Token 频率偏差
🧭 生成式推荐 · Semantic ID 公平性 ★ 深度解读
Nankai University
提出 FSGR 框架，在 SID 构建与 LLM 训练两端联合缓解 Token 频率偏差，平均 Gini 公平性提升超 20%
📌 工作参考价值（4 点）
- 在 RQ-VAE 生成 Semantic ID 时，用 mini-batch 内 OT 对齐均匀边际分布（Sinkhorn-Knopp + KL）替代纯最近邻量化，可显著提升 codebook 覆盖率（实验中 Coverage 从 0.67/0.78 升到 0.999/1.0），缓解冷门类目获得高热度 token 不足的问题。业务中若已有 SID 或 item-id 量化模块，可低成本引入该正则项。
- 对 LLM 做 SID 生成时，先标准 CE 预训练，再在第二阶段对 SID 预测 logits 加对数频率先验（b=-log(f+ε)），并按层设置校准温度（浅层弱、深层强）。这一分层温度技巧直接适配电商类目层级：粗粒度类目不应被强校准，细粒度长尾靠深层强化校准。
- 评估生成式推荐的 item-side fairness 时，不要只看整体 Recall/NDCG，用生成 token 频率分布的 Gini coefficient 做监控，能捕捉头部 token 过度曝光；FSGR 达到平均 Gini 改善 20%+，且准确率几乎不降。
- 该框架与 LoRA 微调兼容（LLM 用 8-bit AdamW + LoRA），适合工业级大模型推荐侧的落地；可直接把 HFC 作为插件用于现有 SID 生成式推荐系统。