LACUNA: A Testbed for Evaluating Localization Precision for LLM Unlearning
LACUNA：评估 LLM 遗忘定位精度的测试平台
🧭 LLM 知识遗忘评估 · 参数定位精度
Mila – Quebec Artificial Intelligence Institute · McGill University
首个提供参数级定位真值的 LLM 遗忘基准，揭示现有方法定位不准且易受攻击，精准定位可大幅提升遗忘鲁棒性。
📌 工作参考价值（4 点）
- 在需严格删除用户隐私（如 GDPR 合规）的推荐或对话系统中，参数级精确遗忘比仅监控输出更可靠，可降低数据泄露风险。
- 定位思想可迁移到模型纠偏或概念编辑：先定位存储不良偏见的参数，再定向修改，提升推荐公平性。
- 提醒从业者：行为级遗忘评估（输出不可见）可能只是“掩藏”而非真正擦除，应增加参数级验证，防止被攻击还原。
- 通过受控注入合成数据构建私有测试集的思路，可用于测试模型对特定知识（如促销活动）的记忆强度与遗忘效果。