Temporal Multi-Signal Fusion for Token-Level Hallucination Detection
时序多信号融合的Token级幻觉检测
🧭 LLM 幻觉检测 · 多信号时序融合
Independent Researcher
用 BiGRU 序列标注融合文本统计、NLI 蕴含与 LM surprisal，在 RAGTruth 上幻觉检测 AUC 达 0.840，比独立基线高 11 点
📌 工作参考价值（4 点）
- 在电商 RAG 或 Agent 生成商品描述、推荐理由、客服回答时，可加一个轻量 Token 级幻觉检测器：只用生成文本 + 外部信号（文本统计、NLI entailment、LM surprisal），不需要模型内部 logits，适合闭源 LLM（如 GPT-4、Kimi）接入。
- 把幻觉检测从独立 token 分类改为序列标注：用 BiGRU 对 token 序列建模，证据能从高置信位置传播到邻近模糊 token，明显优于逐 token 独立打分。业务上可对生成的推荐文案逐 span 判断可信度，而不是只给句子级分数。
- 特征集可复用：文本统计 + NLI entailment + LM surprisal 的 33 维特征，实现简单、成本低，可快速在自有 RAG 场景验证。作者发现架构（BiGRU/Mamba/Attention）不是瓶颈，特征集才是天花板（AUC ≈0.845），提醒我们优先投入特征工程。
- 跨模型泛化好：在未见过的生成模型上 AUC 损失 <4%，意味着训练一个检测器可以覆盖多个上游 LLM，适合业务中多模型并存的场景，减少重复标注。