PACT: Can Enterprise AI Assistants Be Trusted Under Pressure?
PACT：企业AI助手在压力下是否可信
🧭 企业LLM合规压力测试基准
Georgia Institute of Technology · Decagon AI · Baseten
PACT基准首次系统测量企业LLM助手在持久用户施压下的合规表现
📌 工作参考价值（4 点）
- 在电商/客服Agent上线前，可借鉴PACT的「规则+违规捷径+压力注入」结构，构造针对售后、优惠、价格合规等场景的对抗式合规测试集，发现高违规风险模型。
- 多轮对话中持续合规监控机制值得落地：不要只测单轮，要模拟用户反复施压、管理者催促等真实交互，并计算类似PACTScore的可靠性加权违规率作为模型选型硬指标。
- 用LLM-as-judge审计样本构建测试集的方法可直接迁移：确保样本无歧义、不可通过识别评估意图取巧、且足够真实，避免模型评估时表现出「表演合规」。
- 结果提示即使最强LLM也有6-10%规则误用率，且普通用户压力下违规率平均上升65%，因此电商Agent不能仅依赖模型自身对齐，必须外挂规则引擎或护栏（如政策校验、敏感操作二次确认）。