CASCADE Against Jailbreaks: Combination Across Stages with Controlled Attack-Defense Evaluation
CASCADE 对抗越狱：跨阶段组合与受控攻击-防御评估
🧭 LLM 安全防御组合与评估
School of Computing, National University of Singapore
首个系统研究 LLM 越狱防御跨阶段组合，标准化评估框架发现组合防御显著提升安全性
📌 工作参考价值（4 点）
- 若业务中部署 LLM Agent（如对话式推荐、自动生成广告文案），不要依赖单一防御，建议采用分层管道：输入阶段过滤 + 输出阶段监控，组合可显著降低越狱成功率。
- 评估自家 LLM 应用安全性时，应统一攻击成功率定义并控制攻击查询预算，避免不同设置下的不可比性，文中 CASCADE 框架可直接借鉴。
- 优先选择那些在组合后效用损失最小的防御对，例如输入改写 + 输出分类器，而非追求单个最强防御。
- 该工作主要面向安全攻防，对推荐/广告算法核心指标无直接提升，但可作为 LLM 应用上线前的安全测试规范。