When Lower Privileges Suffice: Investigating Over-Privileged Tool Selection in LLM Agents
权限过高是否多余：探究LLM代理中的过度权限工具选择
🧭 代理工具选择与权限控制
Institute of Information Engineering, Chinese Academy of Sciences · Beijing Academy of Artificial Intelligence · The Chinese University of Hong Kong · Institute for Artificial Intelligence, Peking University · School of Cyber Security, University of Chinese Academy of Sciences
揭示LLM代理在工具选择时偏好高权限工具且故障会加剧该倾向，并提出后训练防御以遵循最小权限原则
📌 工作参考价值（4 点）
- 对电商客服代理等场景，可将工具按权限分级，并在代理系统设计中强制‘最低权限’原则，避免因模型偏好而越权调用退款、改价等高危接口。
- 在后训练阶段加入权限感知偏好优化（类似论文的 privilege-aware post-training defense），通过构造偏好对让代理优先选择功能足够但权限更低的工具，从根源上减少过度授权。
- 仔细处理工具调用失败的降级/重试逻辑，防止代理在遇到瞬时故障时自动升级到更高级别工具，需预设权限升级白名单或人工审批流程。
- 可构建领域专属的工具权限基准（类似 ToolPrivBench），评估代理在订单查询、修改、删除等不同权限工具间的选择合规性，作为安全回归测试的一部分。