Refusing Intent, Not Form: Wrapper-Based Intent-Group Supervision for LLM Safety
拒绝意图而非形式：基于包装的意图组监督用于LLM安全
🧭 LLM 安全对齐训练 · 意图组监督
BrainCog Lab, Institute of Automation, Chinese Academy of Sciences · School of Artificial Intelligence, University of Chinese Academy of Sciences · Beijing Key Laboratory of Safe AI and Superalignment · Ant Group
提出 WIFA 自动增强数据，通过意图组配对和锚定训练改善 LLM 对有害包装的拒绝并减少过度拒绝。
📌 工作参考价值（4 点）
- 数据增强思路：在训练推荐系统或 LLM Agent 时，可针对同一用户意图的不同表达（如 query 改写、prompt 模板变化）构造结构匹配的正负例对，强制模型关注意图而非表面形式，提升鲁棒性。
- 两阶段训练策略：先使用难例（如对抗性样本）进行安全/鲁棒性增强，再通过一致性正则化减少对良性样本的误判，可迁移到电商推荐中需要平衡安全过滤与用户体验的场景。
- 锚定一致性训练：对同一意图的不同表达进行决策分数对齐，确保模型对相似请求响应一致，适用于多轮对话推荐或跨场景的意图识别，减少对同义表达的波动。
- 工程实现提示：无需人工标注每个包装的意图，通过自动配对有害与良性样本可高效构建增强数据，降低数据成本；适用于需要大量多样性表达的业务场景。