Agent | | arXiv:2610.30026

What the Author Wrote, What the Agent Reads: Silent Cue Loss in Enterprise Document Ingestion

作者写了什么,Agent 读了什么:企业文档摄取中的静默线索丢失

🧭 企业文档摄取与格式线索保留

Amazon

Yikai Zhao, Saurabh Pandey, Pradeep Kumar Misra

企业文档摄取层丢失高亮和颜色等视觉格式线索,使 Agent 对关键义务识别 F1 骤降且自信犯错

📌 工作参考价值

  • 在 RAG/Agent 文档解析链路中优先保留高亮和颜色:实验显示 docling/plain text 格式盲摄取使义务识别 micro F1 从 0.690 降至 0.150/0.075,而高亮贡献 +0.302、颜色 +0.262;建议在 OOXML 解析阶段提取 highlight/color 属性并转为显式标记(如 <highlight>...</highlight> 或文字说明),而不是只输出纯文本。
  • 不要过度依赖粗体、斜体等常见格式:本文中 bold/italic/monospace/strikethrough 对义务抽取增益均在 ±0.003 内,真正有效的是高亮和颜色;在合同、政策、促销规则等业务文档中应重新权衡格式线索的优先级。
  • 把格式线索显式键入提示比仅隐式保留更强:预注册测试显示额外 +0.085 F1(p=0.049),可在 ingestion 层自动生成“原文中以下内容被高亮/着色,可能为关键义务”的上下文提示,代价低且可量化。
  • 用 OOXML 属性做确定性 ground truth 匹配器,无需 LLM 裁判即可监控解析器对格式信息的保真度,适合持续集成评测,避免文档解析中静默退化。

动机

企业 Agent 依赖摄取层将 Word/PDF 转成 tokens 后理解文档。但常见转换器只恢复文本、表格和结构,作者通过文字外观(高亮、颜色等)编码的语义信息被静默丢弃,导致 Agent 对关键义务自信犯错而非可见缺漏。

方法

构建自 76 份真实政策文档的任务:恢复作者特别标出的要求,使用文件自身 OOXML 属性做确定性匹配器评分,避免 LLM 裁判。对比格式盲摄取(docling、纯文本)与保留格式的基线,跨六个模型(五款 Claude 不同档位和 GPT-5.6)验证。通过 span-level leave-one-out 定位单个格式线索贡献,在 PDF 上重复实验,并统计 6,460 份文档中颜色/高亮出现率。用渲染页面图像独立验证标签(κ=0.72),并测量仅靠措辞的 AUC 上限(0.664)。

关键结果

格式盲摄取使 micro F1 从 0.690 暴跌至 0.150(docling)和 0.075(纯文本);docling 在作者未标记要求上的误报率是基线的四倍。高亮贡献 +0.302,颜色贡献 +0.262,均 Holm-adjusted p<1e-4;粗体、斜体、等宽、删除线几乎无影响。32.8% 的文档包含刻意颜色或高亮,其中 10.3% 出现在义务类内容。显式把线索键入给 Agent 比仅保留格式额外 +0.085(p=0.049)。