PACMS: Submodular Context Selection as a Pluggable Engine for LLM Agents
PACMS:即插即用的次模上下文选择引擎,提升长会话LLM Agent问答
🧭 Agent 上下文管理 · 次模优化 ★ 深度解读
Nasiko
提出基于设施选址次模函数的上下文选择方法,在保持回忆的同时将LLM Agent端到端QA准确率提升8~12个点
📌 工作参考价值(4 点)
- 电商对话Agent的长上下文管理:电商客服、导购Agent的会话会累积商品信息、用户意图、工具调用结果,PACMS的做法可直接移植:将所有来源(记忆、对话、API响应)统一为一个候选池,每次模型调用时根据最新查询做子模覆盖选择,优先保留与当前需求最相关的信息,丢弃冗余。
- 推荐解释/文案生成中的上下文压缩:在生成推荐理由或广告文案时,需从大量用户行为、商品属性中筛选关键句,可使用类似设施选址覆盖的贪心选择,在 token 预算内最大化覆盖相关属性,同时自动剔除重复表述。
- 插件化设计支持策略A/B测试:PACMS将上下文选择实现为可替换的引擎插件,通过本地HTTP服务暴露接口,支持多种策略(PACMS、MMR、top-k、last-k)。这种做法可直接照搬,让搜索推荐Agent的上下文组装逻辑与主框架解耦,便于线上快速切换和效果评估。
- 工程优化技巧:嵌入向量缓存常驻服务、失败时回退到简单策略(soft fail)、成本感知的贪心近似,这些实现细节对构建稳定低延迟的在线服务具有参考价值。