TrustMargin: Training-Free Arbitration between Parametric Memory and Retrieved Evidence in Large Language Models
信任边际:大语言模型中参数记忆与检索证据的无训练仲裁
🧭 训练无关的RAG答案仲裁 · 参数记忆与检索置信度权衡
DCST, Peking University
提出TrustMargin,一种无训练即插即用的仲裁层,利用模型自身似然评分选择直接生成或RAG答案
📌 工作参考价值(4 点)
- 在电商问答或商品知识查询中,可利用似然比(TrustMargin)自动判断直接回答与检索增强回答的置信度,无需额外训练,即插即用。
- “参数先验边际”思想可迁移到推荐解释生成:检测模型对检索到的商品属性是否“熟悉”,避免将不常见的属性强行加入解释。
- “证据绑定边际”提供了一种无监督的问题-证据相关性度量,可用于过滤噪声检索结果,提升 RAG 在电商客服、商品描述生成中的可靠性。
- 该方法不依赖特定检索器,可集成到现有 RAG 流水线中,对生成式推荐的答案选择、多路召回结果仲裁具有参考价值。