BiRD: A Bidirectional Ranking Defense Mechanism for Retrieval Augmented Generation
BiRD：基于双向排序的检索增强生成防御机制
🧭 RAG安全 · 双向排序信号
Wuhan University · Naval University of Engineering · Xi’an Jiaotong-Liverpool University
发现毒化文档的双向排名对齐特征，提出结合前向与后向排名的双信号防御框架，兼顾效率与鲁棒性
📌 工作参考价值（4 点）
- 电商 RAG 系统可借鉴双向排名一致性检查作为轻量级毒化检测：在检索后计算查询到文档的前向排名和文档到查询的后向排名的一致性分值，筛选异常文档，额外延迟 < 1s，适合在线服务。
- 双向排名信号不依赖特定 LLM 或检索器，可嵌入现有检索管道作为插件式过滤器，迁移成本低。
- 该发现启示在推荐/广告系统反作弊中，可分析用户与物品的双向近邻关系来检测异常交互，例如刷单用户的邻居行为异常。
- 实验证明该方法在强攻击下仍有效，可应用于电商问答系统防投毒，提升生成答案的可靠性和任务准确率。