Context as Infrastructure: Knowledge Compilation for Retrieval in Agentic Systems with Harnesses
上下文即基础设施：面向带Harness的Agent系统检索的知识编译
🧭 Agentic RAG 的知识编译与检索纪律 ★ 深度解读
InfiniFlow Inc. · East China Normal University
在Agentic检索中，把文档编译为声明-证据叶子可让命中token省91%、平均省38%，盈亏平衡充分率仅2%
📌 工作参考价值（4 点）
- 在Agentic检索/问答栈中，优先用BM25+grep+LLM harness做检索控制，不必引入向量索引；论文实测加dense leg反而降准确率，可降低系统复杂度和索引成本。
- 对电商商品描述、政策文档、广告素材库等需要精确引用的场景，可仿照claim-evidence编译：用轻量模型抽取“声明+逐字证据span+源偏移”，召回后替换整chunk进上下文；命中节省91% token，未命中仅多1.9%，平均38%，适合token敏感的大规模Agent系统。
- 增加决策gate（轻量决策模型）判断证据充分性，拒绝则丢弃整个块而不是塞入prompt；可显著降低端到端延迟（140s→30s），但token节省以检索轮次为代价，需在延迟和成本间权衡。
- 结构化的RAPTOR/PageIndex/wiki/graph等artifact在强harness下对准确率无增益甚至负收益，不应作为召回卖点；应把它们当作治理/审计/跨源集成工具，用独立ledger（如审计覆盖率、集成成功率）评估，而不是benchmark准确率。