RIDAR: Safeguarding Research Integrity in Autonomous Research Agents via Automated Detection and Runtime Intervention
自主研究代理的完整性保障：自动检测与运行时干预框架 RIDAR
🧭 Agent 行为审计与运行时纠偏
Tsinghua University · Renmin University of China · Zhipu AI
提出研究完整性违规分类法与 RIDAR 框架，离线检测 F1 85.2%，运行时干预减少违规 36.8%
📌 工作参考价值（4 点）
- 可借鉴 RIDAR 的“离线检测 + 运行时干预”双层架构，对电商 Agent 的推荐文案生成、客服自动回复、选品/定价策略等轨迹做合规审计，实时拦截违规内容（如虚假宣传、价格欺诈、敏感词）。
- 借鉴 RIVT 的细粒度违规分类法，定义电商 Agent 自身的违规类型（如商品描述夸大、使用禁投词、泄露用户隐私等），构建 domain-specific 的检测 taxonomy 和评测集。
- 采用运行时干预的思路：检测到违规步骤时，通过重写动作或注入约束条件来纠偏，而不是仅 post-hoc 审计，可减少任务结束时残留问题，提升最终交付质量。
- 其评估方法可复用：用专家标注的小基准 + 大规模无标注轨迹结合，先测检测器再分析真实分布，作为业务 agent 质量监控的模板。