Neighborhood-Aware Unlearning for Generative Recommendation
面向生成式推荐的邻域感知遗忘
🧭 生成式推荐 · SID 邻域感知遗忘 ★ 深度解读
BIFOLD & TU Berlin, Germany · University of Amsterdam, The Netherlands
NAU 结合 SID 级遗忘目标与邻域概率质量控制,消除生成式推荐遗忘对共享 token 邻近物品的泄漏,保持超 95% 重训效用
📌 工作参考价值(4 点)
- 在 SID / Semantic ID 生成式推荐中做遗忘时,不要只对目标 item 做 gradient ascent,要在 loss 中显式加入邻居概率质量项;λ_n 取正保留合法邻近替代品(spam 删除),取负抑制相似语义邻居(不想推的类目),一个参数控制两种删除场景。
- 评估遗忘效果不能只看全局 NDCG,必须增加“被删 item 的 SID 邻域”上的 utility/exposure 指标;本文显示全局 NDCG 几乎不变时邻域 NDCG 可能掉 13 个百分点以上。
- 工程上可复用 retain+forget+separation+neighborhood 四类 loss 组合,无需二阶信息,模型架构和 SID 保持固定,推理时也不做候选过滤;遗忘耗时 3.7s vs retrain 17,399s,适合频繁删除请求。
- 邻居构建可以直接用 pre-quantization embedding 的 top-k(k=8),评估用 SID 第一 token 邻域;这种结构对商品语义编码相似的电商场景可快速迁移。