#token-level - AI Papers Daily

Mixture-of-Expert Blocks Contain Strong Hallucination Detection Signals

MoE 块蕴含强幻觉检测信号

🧭 MoE 路由信号幻觉检测

INESC-ID · Instituto Superior Técnico

利用 MoE 路由熵/专家不一致等内部信号提出 InnerExpert，实现 token 级幻觉检测并达 SOTA

📌 工作参考价值（3 点）

若业务已使用 MoE 架构模型（如 Mixtral、DeepSeek），可直接采集路由熵、专家激活分布、专家不一致等特征，作为额外的“不确定性/事实性”信号，用于拒答、触发检索或降低生成置信度，成本几乎为零。
借鉴 InnerExpert 的轻量分类器设计：将路由特征与隐藏状态拼接后训练一个小型检测头，只做一次前向即可输出 token 级幻觉概率，适合实时推荐/Agent 场景。
用 LLM-as-judge 自动生成 token 级真实标签，避免人工标注，支持线上数据回流持续更新检测器；对电商文案、推荐理由、Agent 回答可做细粒度事实核查和风险定位。

LLM | 2026-08-18 | cs.LG | score 7/10

时序多信号融合的Token级幻觉检测

🧭 LLM 幻觉检测 · 多信号时序融合

Independent Researcher

用 BiGRU 序列标注融合文本统计、NLI 蕴含与 LM surprisal，在 RAGTruth 上幻觉检测 AUC 达 0.840，比独立基线高 11 点

📌 工作参考价值（4 点）

在电商 RAG 或 Agent 生成商品描述、推荐理由、客服回答时，可加一个轻量 Token 级幻觉检测器：只用生成文本 + 外部信号（文本统计、NLI entailment、LM surprisal），不需要模型内部 logits，适合闭源 LLM（如 GPT-4、Kimi）接入。
把幻觉检测从独立 token 分类改为序列标注：用 BiGRU 对 token 序列建模，证据能从高置信位置传播到邻近模糊 token，明显优于逐 token 独立打分。业务上可对生成的推荐文案逐 span 判断可信度，而不是只给句子级分数。
特征集可复用：文本统计 + NLI entailment + LM surprisal 的 33 维特征，实现简单、成本低，可快速在自有 RAG 场景验证。作者发现架构（BiGRU/Mamba/Attention）不是瓶颈，特征集才是天花板（AUC ≈0.845），提醒我们优先投入特征工程。
跨模型泛化好：在未见过的生成模型上 AUC 损失 <4%，意味着训练一个检测器可以覆盖多个上游 LLM，适合业务中多模型并存的场景，减少重复标注。

Eval | 2026-06-29 | HF Daily | score 7/10