PolicyGuard: A Dialogue-Grounded Sub-Agent Verifier for Policy Adherence in LLM Agents
PolicyGuard:基于对话的子代理验证器用于LLM代理策略遵循
🧭 对话驱动的策略合规验证
KAIST · DeepAuto.ai
提出对话级子代理验证器,依据策略推理并给出可操作反馈,大幅提升代理策略遵循度。
📌 工作参考价值(4 点)
- 在电商客服/订单处理Agent中,可用子代理做策略合规检查,而非只做参数级拦截,能捕捉多轮确认、上下文依赖等复杂策略违规。
- 子代理可共享完整对话历史,基于系统策略提示进行推理,生成自然语言反馈指导主代理下一步,而非简单拒绝,提升修复效率。
- 与现有ReAct框架解耦,作为外挂验证层,可集成至不同基座模型与工具调用流水线中,复用性强。
- 在策略频繁更新的场景(如促销规则、退款政策),可快速验证新提示是否符合策略,降低人工审核成本。