真实 PMID，错误论文：生物医学声明验证代理的 Harness 设计
🧭 Agent 检索 harness 设计与瓶颈分析
Independent Researcher
对照实验表明检索而非推理是医疗文献验证代理的瓶颈，自写查询代理提升召回但预算利用不足
📌 工作参考价值（4 点）
- 在需要检索工具的 LLM 应用（如电商导购、客服问答、商品知识库问答）中，直接用用户原始 query 做单次检索往往不可靠，应让模型自己改写/生成多个查询，或采用 ReAct 式迭代检索，能显著提升召回和最终答案质量。
- 检索质量通常是整体效果的瓶颈，而不是推理能力：即便给予黄金文档，模型准确率仍有较大提升空间，因此应优先投入优化检索/召回环节，而非只调大模型推理。
- 对返回结果进行“存在性检查”不够，必须做相关性校验：模型可能吐出真实存在的商品 ID 或文档 ID，但与问题无关，应增加一个独立的 LLM judge 或相关性过滤步骤。
- 让 agent 具备搜索预算意识：实验发现 agent 只使用了不到一半的搜索预算，可设计显式的预算消耗策略（如强制步数、每次搜索的查询数量限制）以充分探索检索空间。
基于子序列关联过滤与广度感知选择的LLM查询扩展幻觉词抑制
🧭 LLM查询扩展幻觉过滤 ★ 深度解读
Indian Institute of Technology (BHU), Varanasi, India · University College London, London, UK · Halmstad University, Halmstad, Sweden
用跨上下文可再现性与语料支撑度识别幻觉term，在nDCG@10无损下将注入query的无支撑词减少85%-93%
📌 工作参考价值（5 点）
- 可直接复用 SAFE-QE 的过滤评分：对 LLM 生成的候选扩展词/phrase，用「随机扰动 prompt 后的重现率 ρ(t)」+「与 top-k 相关文档的最大支持度 γ(t)」做加权，公式 s(t)=γ(t)-λρ(t)(1-γ(t))+μfreq(t)。在电商搜索 query 改写、广告关键词扩展中，能有效识别并降权「无论上下文都被生成但无商品/文档支撑」的幻觉词。
- 词选择不要固定 top-k，改为带 grounding 约束的 budget 最大覆盖问题：用贪心近似（1-1/e）从候选词里选最多覆盖伪相关文档/商品 faceting 的子集，避免多个高分词重复覆盖同一意图。电商多意图 query（如“苹果”）尤其需要这种 breadth-aware selection。
- 稳定性过滤很便宜：对 LLM 采样 N 次，只保留 freq(t)≥θ 的稳定 term，能额外过滤掉少量采样中出现的幻觉词。工程上可简单并行多次采样，几乎不增加线上复杂度。
- 建立 HETR 监控指标：在业务评估里同时看「幻觉率」和「幻觉负载＝HETR×注入词数」，不要只看率；强 retriever / dense retrieval 下生成式扩展收益小，但幻觉过滤的收益最大，这时候尤其值得上线。
- 结论可迁移：一个 0.5B 小生成器 + 过滤器，faithfulness 可以超过 9B HyDE，说明过滤机制比生成器规模更重要；训练无关、检索器无关，适合低成本接入已有 generate-then-expand 流程。但注意 grounding 阈值 τg 需要按 retriever 分别标定（SPLADE 下的伪相关集合会让更多候选通过阈值）。
搜索引擎从不说“不”：冻结 Agent 面对检索工具拒答时的反应
🧭 搜索 Agent · 工具侧拒答机制 ★ 深度解读
工具侧返回 NULL 拒答信号，让顺从 Agent 弃答率提升 243%，并给出按 recall 定价的收益曲线
📌 工作参考价值（5 点）
- 在电商搜索/导购 Agent 的检索出口加“拒答门”，不改模型和检索栈：对 Qwen3-8B/32B、Haiku 这类顺从模型，一句 NULL_RESULT + 解释就能把不可答问题的弃答率从 24% 拉到 84%、幻觉率从 65% 降到 10%，且可答准确率不降。
- 拒答 wording 必须放进 observation，不是 system prompt；效果排序 directive > explanation > bare token，soft warning 几乎无效。线上无货/无匹配结果适合写成“没有可靠结果，可能索引没有该信息；请换 query 或回答 unknown”。
- 对闭源强模型（Sonnet/Opus 5.5）工具侧拒答失效，它们更吃 system-prompt 指令（+16 点 vs 工具侧 +2 点）。多模型混合部署时建议按模型家族分别配置拒答策略。
- 真实收益受 miss-detector 的 recall 上限约束：在固定 false-refusal budget 下，弃答收益几乎由触发器 recall 决定。可先用轻量 QPP/交叉编码器，再按 recall-收益曲线判断是否值得上 LLM judge；detector 不行时改 agent 也白搭。
- 用删除黄金段落/答案串构造 index-hole 测试集，比人工标注便宜且边界干净；适合复用到商品知识库 RAG 的不可答样本评估。
可解释记忆决策控制器：解耦置信度与一致性的三信号互补机制
🧭 Agent 记忆信任决策 · RAG 防幻觉 ★ 深度解读
Tianjin University of Technology
在检索与生成间插入零参数三信号互补编码器，解耦置信度与一致性，将冲突记忆下 RAG 幻觉率降低约 56%，高风险近零
📌 工作参考价值（4 点）
- 在搜索/客服/商品推荐理由生成等 RAG 链路中，检索到的商品属性、用户评价、政策条款常互相冲突。可以借鉴 MDL，在检索后、LLM 生成前插一个零参数决策层，用 relevance（query-记忆相似度）、reliability（记忆间一致性/冲突率）和 task risk（类目风险等级）计算 adopt/abstain，避免把冲突证据注入 prompt。
- 具体工程 trick：将置信度 norm C 和方向一致性 cosine α 解耦，用 C_final = C·(0.3+0.7α) 做 gating；高风险类目（医疗/金融等）可用 sinv_A=1-A 反向编码，强制触发拒绝回答或改用参数知识，实现近零高风险幻觉。
- 该控制器零参数、纯几何运算，单次决策约 0.14ms，比 embedding 检索快约 50 倍，可作为高并发推荐/对话系统的轻量中间件，无需训练和 GPU 成本，且输出可审计的 C/α 标量。
- 注意边界：高风险且高相关（A≥0.70, M≥0.70）时，高相关性会抵消风险抑制，效果下降；需要额外做片段级过滤或对 memory store 本身做清洗，不能只靠决策层。
三思而后行：利用内部归因信号的事实性解码
🧭 LLM 事实性解码 · 内部归因信号
Chung-Ang University, Department of Artificial Intelligence · Chung-Ang University, Graduate School of Advanced Imaging Sciences, Multimedia and Film
提出 DescaPE，在推理时用内部归因信号对候选续写打分，抑制幻觉易发路径，提升事实性
📌 工作参考价值（3 点）
- 推理时轻量探针监控内部归因信号，可集成到电商商品文案、搜索回答或推荐理由生成中，在 beam search / top-p 解码时对候选打分，实时过滤容易出错的属性、价格、活动规则等事实错误，无需重训大模型。
- 滑动窗口 MLP 消融定位事实显著层的方法可复用：业务中可对自有 LLM 做类似层重要性扫描，找出监控事实性的关键层作为线上干预点，降低全量 probing 成本。
- 探针只需单次前向传播近似信号，延迟仅 1.10×，适合在线生成场景；可结合业务知识库构建正负样本训练领域定制探针，与 RAG 互补，防止检索到错误信息后继续编造。
在推测式检索增强生成中保证忠实证据提取
🧭 RAG 忠实证据提取与解码约束
Université de Toulouse - IRIT UMR 5505 · Airbus Protect
提出CHyD，将投机解码改造为强制约束解码，保证引用片段逐字来自检索文档，技术领域准确率接近完美
📌 工作参考价值（4 点）
- 在电商/广告合规文案、商品政策解释、客服问答等场景，需要引用原文保证信息准确时，可以使用硬约束解码限制生成内容必须来自检索到的商品详情、条款或文档 span，从机制上避免幻觉。
- 将 speculative decoding 的目标从加速改为 faithfulness 验证，思路可迁移：用草稿模型提出候选 span，再用约束目标模型验证是否逐字匹配，既保留一定效率又保证忠实。
- 对于需要精确抽取的任务（如商品属性提取、广告审核依据、搜索中的摘要引用），优先选择 constrained decoding 而非依赖模型自觉引用，能把抽取准确率从低于 40% 提升到接近 100%，代价是牺牲部分流畅性，适合准确性优先场景。
- 该思路可以用于 Agent 的检索增强工具：当 Agent 需要引用外部知识回答时，约束其输出为检索结果的连续片段，可显著降低事实性错误和不可验证引用。
多模态大模型幻觉源于协同头信息分布漂移
🧭 多模态大模型幻觉归因与校准
Shenzhen University of Advanced Technology
提出 HEAL，通过头部级信息解耦与校准识别并缓解多模态大模型幻觉
📌 工作参考价值（4 点）
- 多模态 LLM 在电商商品描述生成、图文推荐、广告创意生成等场景中容易出现幻觉，可借鉴头部级解耦与校准思路：定位并校准跨模态协同注意力头，无需全模型微调，降低落地成本。
- 因果噪声干预筛选冗余头的方法可用于分析现有多模态推荐模型的注意力机制，识别对跨模态对齐贡献不大的头，进行剪枝或优化，提升推理效率。
- 动态注入校准因子到 value vectors 的机制可迁移到多模态特征融合模块，作为轻量级即插即用组件，增强图像和文本特征的一致性。
- 结论“幻觉与模态特定头数量/强度无关，而与协同头信息分布漂移相关”提示在多模态推荐/搜索中应关注跨模态交互的质量而非单模态表示的强度，可指导模型调试和特征工程。
PEA-DPO：感知增强直接偏好优化用于多模态大模型对齐
🧭 多模态 LLM 对齐与视觉偏好优化
University of Science and Technology of China · National University of Singapore
提出 PEA-DPO 显式利用视觉偏好信号，解决多模态 DPO 中的视觉不敏感问题并显著减少幻觉
📌 工作参考价值（4 点）
- 在电商图文推荐或商品文案生成中，仅靠文本偏好对齐容易让模型忽略图像关键信息；可借鉴 PEA-DPO 思路，构造显式视觉对比样本（例如移除商品属性区域前后）作为偏好对，强制模型感知视觉差异。
- 多模态场景下 DPO 失效往往表现为「视觉不敏感」，建议在偏好数据中显式注入视觉信号，而不是简单复用文本偏好对；这能降低商品描述与图片不一致的幻觉。
- PEA-DPO 在增强视觉敏感性的同时保持语言建模能力，说明多模态对齐可以解耦：对视觉模块加感知约束，对语言模块保持原有优化目标，适合需要兼顾文案流畅性和图片一致性的业务。
- 论文验证了不同规模 MLLM 上均有效，说明该方法可作为轻量级偏好优化插件，接入现有多模态推荐或搜索问答系统，无需改变主架构。
迈向Gricean后退：探测LLM的知识边界与指称特异性
🧭 LLM知识边界与生成特异性探测
University of Colorado, Boulder
LLM内部已编码知识边界与指称特异性信号，但生成时未协调，仍倾向编造具体细节而非退回通用陈述
📌 工作参考价值（4 点）
- 在商品文案生成、推荐理由或对话式电商中，对于长尾/新品等知识边界外的实体，可主动降低指称特异性：生成更通用的描述（如“某品牌运动鞋”而非具体型号），减少事实错误，提升可信度。
- 利用论文发现：模型激活中已包含知识边界和特异性信号，可训练轻量探针或使用激活引导（steering）在解码时调整logits，对低置信度实体自动触发“通用化”策略，无需重新训练大模型。
- 在RAG或知识增强场景中，当检索不到实体的具体信息时，可提示模型生成更笼统但真实的回复，并可将知识边界信号作为拒答或回退的触发条件。
- 该工作为幻觉控制提供了新思路：不是直接抑制幻觉，而是引导模型退回到安全的特异性层级，这比单纯惩罚更符合合作沟通原则，可尝试作为RLHF的额外奖励信号。
视觉语言模型在视觉缺失或被误导时的行为评估：科学图表基准
🧭 VLM 不确定性行为评估与基准
University of Aberdeen, UK · International Institute of Information Technology Hyderabad, India · University of Technology Nuremberg, Germany · University of Southern California, USA
提出 SciFigBench 与 A-R-I 框架，系统评估 VLM 在科学图表上的不确定性行为，揭示高精度不等于高可靠性
📌 工作参考价值（3 点）
- A-R-I 框架可改造成多模态商品理解质检：当商品图模糊、文字遮挡时，模型是否应承认“看不清”而不是编造卖点；可设置 blur/裁剪变换 + 强制确认 unreadable 区域，评估模型在低质量图片上的拒答率。
- resistance probes / caption-bias probes 可借鉴为“图-文不一致”检测：商品主图与标题/卖点描述冲突时，模型是否会被营销文案带偏？可构造对抗样本测试多模态推荐/审核模型的抗误导能力。
- 将“高感知精度≠行为可靠”的结论用于模型选型：在商品图 OCR、广告素材审核等场景，除了 accuracy，还要看 hallucination rate 和 uncertainty admission，类似 Gemini 3.1 Pro 在阻力分数上表现更强，可能更适合需要安全拒绝的业务。
注意力头角色断裂：理解与检测VLM幻觉
🧭 视觉语言模型幻觉检测
Peking University · Joy Future Academy
发现幻觉使注意力头偏离忠实上下文行为（角色断裂），基于此构建轻量线性检测器，AUROC 达 93.23%
📌 工作参考价值（4 点）
- 在电商多模态推荐（如商品图生成描述/问答）中，可借鉴 Role-Break 信号构建轻量线性检测器（特征维度<5000），无需微调 VLM 即可识别幻觉输出，提升生成内容可信度。
- 检测器基于注意力头行为的局部偏离，具备线性可读性和可解释性，适合作为实时监控或过滤模块，拦截不可靠的生成文本。
- 若 Agent 工作流中调用 VLM 进行图像理解，可将此检测器后置，对高幻觉 token 直接干预（屏蔽/重生成），降低下游决策风险。
- 该方法不依赖单一幻觉模式，跨模型/任务稳定性强，可用于多模态推荐系统的质量保障。
ORCA-bench：LLM智能体在oncall根因分析中的准备度评估
🧭 Agent 根因分析基准评估
Cornell Tech · Traversal · Columbia University
在真实微服务系统中评估LLM Agent的根因分析能力，最佳准确率仅25.3%，暴露严重幻觉与代码依赖
📌 工作参考价值（4 点）
- 构建推荐系统智能运维Agent时，需警惕幻觉风险：即使最强模型在部分任务中也给出完全无关根因，可借鉴其幻觉率指标与人工评审机制
- 源端可观测性（指标、日志、追踪）完整性与代码访问权至关重要：移除源码访问会全面降低Agent表现，建议在推荐系统线上故障排查Agent中强制集成代码检索工具
- 任务难度分级方法可复用：根据报告特异性、检测延迟、并发故障等维度系统构造评测集，用于评估电商搜索推荐场景下的异常检测Agent
- LLM-as-judge与专家对齐（Cohen’s κ_w=0.90）的验证流程，可直接用于生产环境中Agent输出的自动化评估，减少人工审核成本
InternReviewer 与 InternAdvocate：同行评审与反驳的客观奖励与评估
🧭 Agentic RL 学术评审智能体
Shanghai AI Laboratory · Beijing Jiaotong University · Tsinghua University · Renmin University of China
用客观多维 reward 与严格引文验证训练学术评审/反驳 Agent，减少主观评判偏差和幻觉
📌 工作参考价值（4 点）
- 评估与奖励去偏：用多维客观指标（reference-anchored semantic alignment、structural compliance、citation verification）替代单一大模型打分，减少 reward hacking 和主观偏差。在生成式推荐/导购文案中，可定义商品属性一致性、结构模板、引用可验证等可计算的 reward。
- 可验证的引用日志交叉核对：将生成内容中的声明与实时检索/工具调用日志强制对齐，能直接迁移到电商 RAG 问答和商品描述生成，降低幻觉（如虚构参数、不存在的促销）。
- Agentic RL 闭环：先检索证据再生成、用严格验证作为 reward 信号，可复用为“检索-生成-校验” pipeline，适用于需要事实性的营销文案、售后应答等。
- 数据集构建：建设高质量垂直领域数据 + 高效检索工具，是提升 Agent 落地效果的基础，电商可借鉴构建商品知识库与交互日志。
面向端到端生成任务型对话的不一致性检测
🧭 约束满足问题用于对话一致性检测
Fondazione Bruno Kessler
将任务型对话建模为约束满足问题，利用CSP求解器自动检测不一致并建议最小修复
📌 工作参考价值（4 点）
- 在电商对话助手的商品推荐、订单查询等场景中，将商品属性（价格、库存、类别）和对话约束（用户偏好）转化为CSP变量与约束，对LLM生成的回复进行事后校验，捕捉幻觉（如推荐不存在的商品、价格矛盾）。
- 可集成到对话系统的后处理管道中，作为一道安全网：给定知识库和对话历史，自动识别不一致的片段并建议最小修改（例如替换错误实体），提升系统可靠性和可解释性，无需额外训练。
- CSP建模方式灵活性高，可适应不同领域的约束，例如餐厅预订的日期、人数、位置限制，或电商物流的地址、配送范围等，适合多域对话系统的质量保障。
- 对话轨迹与有效变量赋值的对比可生成诊断信息，辅助人工审核或在线修复，降低高风险场景（如支付、预约）的业务故障率。
基于神经元感知的主动少样本学习用于大语言模型
🧭 LLM少样本选择 · 内部表征利用
University of Pittsburgh
通过神经元激活模式替代输出层信号，同时考虑多样性和易幻觉样本，更有效地挑选少样本标注数据
📌 工作参考价值（4 点）
- 电商/搜索推荐场景中，若需用少样本示例将通用LLM适配到特定垂直领域（如商品分类、Query意图识别），可借鉴NeuFS的神经元激活模式筛选样本：用激活向量聚类保证样例多样性覆盖领域知识，同时通过神经元共识度量化样本的“易幻觉”程度，优先标注这类高信息量样本，减少人工标注量。
- 内部神经元信号比外部embedding（如SimCSE）更能捕捉模型自身知识缺口，在做LLM评测或诊断时，可以分析神经元激活分歧来定位模型在哪些Query/商品上更容易产生幻觉，进而针对性补充训练数据。
- 该方法依赖对LLM神经元激活的访问，对于仅提供API的黑盒模型不适用；但在自有部署的开源LLM上（如LLaMA），可将其集成到数据飞轮流程中，实现持续、低成本的模型垂直调优。
- 双准则选择策略（多样性+幻觉倾向）可解耦后单独使用：多样性准则可迁移到推荐系统的物品表征学习或Review示例选取；幻觉倾向量化可为对话式推荐Agent的回复可靠性评估提供信号参考。
ADAPT：通过注意力动态对齐与偏好调优实现可信多模态大模型
🧭 MLLM幻觉缓解 · 跨注意力动态干预
University of Science and Technology of China · Huawei Technologies Ltd. · State Key Laboratory of Communication Content Cognition, People's Daily Online
从文本-图像跨注意力退化中检测并纠正幻觉，结合视觉锚点与偏好对齐，将主流模型幻觉率降低40%–60%
📌 工作参考价值（4 点）
- 生成式推荐中的视觉锚定：在商品文案、图文搭配生成时，可借鉴ADAPT的早期解码提取视觉锚点，约束后续生成对图像关键区域保持高注意力，减少描述与图像不符的幻觉。
- 在线注意力漂移检测与修正：在Agent多模态交互（如视觉问答、商品搜索）中，可监控跨注意力分布的熵或偏移量，实时触发重聚焦或重新解码，提升回复的视觉忠诚度。
- 偏好数据构造新思路：利用注意力质量作为对比信号，自动筛选视觉grounding好的响应作为正例，无需人工标注即可构造DPO偏好对，低成本提升模型对齐效果。
- 模型架构无关的轻量插件：该方法无需修改原模型结构，只改变推理时的注意力使用与少量微调，可快速集成到现有MLLM pipeline中，适合业务快速验证与迭代。
人类撰写文本事实错误检测实证分析与应用
🧭 事实错误检测分类与 LLM 评估
Nikkei Inc.
提炼人类文本事实错误分类法，评估 LLM 检测能力，GPT-5.4 仅 52% F1
📌 工作参考价值（4 点）
- 在生成商品描述、推荐理由等文本时，可借鉴分类法（如数量词错误、实体误转换）设计事实性校验模块，提高内容可信度。
- 评估场景中可复现类似的合成测试方法，针对自身业务常见错误类型（如价格单位、商品属性）构造测试集，检验 LLM 的事实一致性。
- 观察到 LLM 对人类文本事实错误检测效果有限（F1 52%），提示在自动选品文案等场景中，不能完全依赖 LLM 自查，需加入后置规则或人工审核。
- 对于 Agent 系统，在调用 LLM 生成对外内容时，可针对分类法中特定错误类型设计提示模板，引导模型避免常见事实性错误。
走向自我进化的智能体文献检索系统
🧭 Agent ★ 深度解读
Shanghai Jiao Tong University · SciLand · Zhejiang University
提出PaSaMaster，以自演进检索、幻觉消除排名和规划-检索分离，在1%成本下超越GPT-5.2，实现零源幻觉