通过隐式品牌注入刻画对抗性生成引擎优化
🧭 生成式搜索对抗攻击 · 隐式品牌注入 ★ 深度解读
Indian Institute of Science · University of Illinois Urbana-Champaign
提出多代理框架IBI,通过单句隐式品牌注入提升生成式搜索中的品牌可见度,并构建IBIBench基准
📌 工作参考价值(4 点)
- 多代理分工实现最小扰动内容注入:IBI将插入任务拆分为位置规划、句子重写、验证和选择四个子任务,每个代理只负责一部分约束,最终通过确定性校验保证单句修改和品牌出现一次。这套流程可直接迁移到电商商品描述优化、广告文案嵌入或UGC内容改造,确保语义保持和自然度。
- 合成品牌+受控RAG管道评估攻击:使用不存在的品牌避免模型先验偏差,固定文章-品牌配对,严格控制检索和生成参数,这种评估范式可用于在自家系统中测试内容操纵对搜索结果或推荐的影响,提前暴露风险。
- 单一非促销提及即可显著影响生成式搜索:实验显示仅一句话的品牌提及在文章条件查询下Hit@10可达82.2%,下游品牌提及率最高62.7%。这提醒平台需警惕第三方内容中的隐性品牌植入,防御上可考虑来源隔离、多源佐证或对陌生实体降权。
- 区分检索暴露与下游传播的度量体系:论文提出Hit@k、MRR、BMR、BRR和条件传播CP等指标,将攻击效果分解为检索阶段和生成阶段,便于定位瓶颈。从业者可借鉴该分解思路,对生成式推荐链路进行分层监控和优化。
证据引导的自适应图检索 EAGR
🧭 RAG · 证据引导的隐式图多跳检索 ★ 深度解读
IBM
用 VectorDB 元数据中的语义描述符构成隐式图,以积累证据动态选择检索方向,无需显式图或查询改写
📌 工作参考价值(4 点)
- 商品/内容知识库可离线用 LLM 抽取商品属性、卖点、适用人群、实体等作为 metadata 存入现有向量库;共享同一 descriptor 即形成隐式连边,无需构建商品知识图谱或专用 GraphDB。descriptor 必须 grounding 到原文,并做同义/人名归一,能低成本获得图遍历能力。
- 会话式导购/多跳商品搜索中,用「accumulated evidence」选择下一步要扩展的属性或关系,而不是重写整个 query 或遍历所有关联属性:让 LLM 基于已确认的用户约束和商品信息,从当前候选 descriptor 里只挑几个最可能补全信息缺口的方向,可显著节省检索预算。
- 回答/推荐理由生成前增加「充分性校验 + 证据链填空」:让 LLM 写出 (entity, attribute, value) 链,并强制每个 value 必须出现在已检索内容中,能拦截模型用参数记忆胡编,适合电商 QA、卖点解释和售后理由。
- 多跳检索结果按证据链重排,而非仅按 query 相似度:通过关系/属性间接命中的商品或内容,应优先展示能支撑最终结论的节点,可提升 RAG 上下文质量和推荐理由的可信度。
上下文即基础设施:面向带Harness的Agent系统检索的知识编译
🧭 Agentic RAG 的知识编译与检索纪律 ★ 深度解读
InfiniFlow Inc. · East China Normal University
在Agentic检索中,把文档编译为声明-证据叶子可让命中token省91%、平均省38%,盈亏平衡充分率仅2%
📌 工作参考价值(4 点)
- 在Agentic检索/问答栈中,优先用BM25+grep+LLM harness做检索控制,不必引入向量索引;论文实测加dense leg反而降准确率,可降低系统复杂度和索引成本。
- 对电商商品描述、政策文档、广告素材库等需要精确引用的场景,可仿照claim-evidence编译:用轻量模型抽取“声明+逐字证据span+源偏移”,召回后替换整chunk进上下文;命中节省91% token,未命中仅多1.9%,平均38%,适合token敏感的大规模Agent系统。
- 增加决策gate(轻量决策模型)判断证据充分性,拒绝则丢弃整个块而不是塞入prompt;可显著降低端到端延迟(140s→30s),但token节省以检索轮次为代价,需在延迟和成本间权衡。
- 结构化的RAPTOR/PageIndex/wiki/graph等artifact在强harness下对准确率无增益甚至负收益,不应作为召回卖点;应把它们当作治理/审计/跨源集成工具,用独立ledger(如审计覆盖率、集成成功率)评估,而不是benchmark准确率。
DeFT-RAG:将多跳问题分解为带可复用答案的自包含子问题
🧭 多跳 RAG 子问题分解与缓存复用
University of Texas at Dallas
DeFT-RAG 用自包含子问题分解、规则化状态跟踪和 QA 缓存复用,提升多跳 RAG 准确率并降低 LLM 调用成本
📌 工作参考价值(3 点)
- 在电商客服或商品知识问答中,把多跳问题拆成“自包含”子问题,每个子问题显式带出所有实体,避免让 LLM 自己规划依赖图;可显著减少状态跟踪和错误传播。
- 将“哪些已答、下一步该问什么”等状态更新从 LLM 中剥离,用规则表维护 QA 状态,再用轻量决策模型做 yes/no 判断,能大幅降低 LLM token 消耗和推理延迟。
- 缓存跨请求的 QA 对,遇到语义相同的子问题直接复用答案,适合推荐系统中用户高频重复的子查询(如商品属性、活动规则),可在不牺牲准确率的前提下减少 12%+ 的 LLM 调用。
分解、估计、选择:面向长文本 RAG 的覆盖感知上下文构建
🧭 RAG 覆盖感知检索与自反馈生成 ★ 深度解读
New York University Shanghai · New York University
提出覆盖感知 RAG 流水线,通过子问题分解、覆盖矩阵估计和贪心选择提升证据覆盖,并发现检索覆盖提升未必带来答案覆盖提升
📌 工作参考价值(4 点)
- 覆盖感知选择层面:在长文本问答/报告生成场景,不要只用相关性排序,可将用户 query 拆成多个子问题,用 cross-encoder 预测文档×子问题覆盖矩阵,再贪心选择最大化覆盖。这种思路可直接迁移到商品详情页摘要、多属性商品推荐理由生成、广告文案多卖点覆盖等任务。
- 自反馈环节:发现检索到的证据覆盖率提高不一定带来答案覆盖提高,瓶颈在生成器的利用。可做“生成→自我 critique→指出未充分利用的文档→在同上下文二次生成”,不增加检索成本就能提升答案完整性。在电商场景可用“第一次生成标题,让模型指出漏掉的卖点,再基于同一商品描述重写”的迭代文案优化。
- 工程权衡:子问题分解用 GPT-4o 比开源 7B 只高 0.027 α-nDCG,成本可控。交叉编码器估计覆盖矩阵是关键瓶颈,估计不准导致性能损失大于子问题分解,建议投入更多数据训练 coverage estimator。
- 评估启示:用 α-nDCG、Vstrict 等覆盖指标区分冗余证据,比单纯 nDCG 更能反映长文本效果。若业务目标是多卖点覆盖(如商品标题需覆盖不同卖点),可引入类似 nugget 的原子事实评估,避免模型重复强调同一卖点。
xPRT:跨段落检索预训练
🧭 无监督检索预训练 · 跨段落对比学习
Microsoft Research
提出无监督跨段落检索预训练框架 xPRT,利用文档内跨段落信号,在 MTEB 上平均超越最强基线 3.2%
📌 工作参考价值(4 点)
- 电商搜索/推荐中的稠密检索模型可用商品详情页、用户评论等长文档内部段落关系构造无监督对比对,无需标注 query-doc 数据,降低训练成本。
- 在已有无监督 checkpoint 上继续预训练时,直接使用常规对比学习目标可能性能回退,xPRT 的跨段落信号能带来互补增益,对检索模型持续预训练有参考价值。
- 工程实现上,可从同一文档内采样正负段落,利用标题、章节、评论段落等结构信息生成难负样本,增强语义区分能力。
- 若业务中已有 RAG 或搜索系统,可将 xPRT 作为额外预训练任务叠加到现有流程,提升检索器在语义匹配任务上的泛化性。
Glance:生成器即重排序器
🧭 生成器内置重排序,共享 prefill
Airun Intelligence Labs
提出 Glance,给生成器加轻量决策适配器和指针头,共享一次 prefill 对候选段落打分,免去独立重排模型
📌 工作参考价值(4 点)
- 若业务中已部署 LLM 作为生成式排序或回答模型,可借鉴 Glance 思路:在同一个 LLM 上挂轻量决策头同时完成相关性打分与生成,避免单独服务 cross-encoder,节省显存和部署成本。
- “共享 prefill + 轻量 probe”技巧:对候选商品/内容批量编码一次,从缓存中分支不同 probe 产生分数,比逐对 prefill 更高效,适合候选量较大的重排场景。
- 激活适配器变体允许生成继续使用原始缓存,可将重排与生成解耦为不同 adapter,按需激活,主干权重不变,便于多技能扩展。
- 注意:论文仅在通用 RAG 数据集上验证,迁移到电商/推荐需自行评估,但“单骨干多技能”的架构思想值得复用。
量子启发式成对排序聚合与主动 LLM 反馈用于文档重排
🧭 量子启发式排序聚合 · LLM 主动反馈 ★ 深度解读
University of Arkansas, Fayetteville · Walmart Inc. Applied AI
只用高分歧文档对的少量 LLM 判断学习多路检索融合权重,以约 30 次调用逼近 SOTA 零样本 LLM 重排效果
📌 工作参考价值(4 点)
- 如果线上已有多路检索/召回(BM25、dense、SPLADE)需要融合,可借鉴「只让 LLM 判高分歧 top-r 文档对」的主动采样:每 query 约 5–30 次 LLM call 即可超过最强无监督融合,成本远低于 listwise/pairwise 全量重排,适合低延迟搜索与 RAG 候选重排。
- 权重更新公式可直接复用:用 LLM 的 A/B 判断和 logit gap 做置信度过滤,保留高于 τ 的判断;权重 ∝ softmax(β * mean(2*P(winner|ranker)-1))。累积历史 refit 比 momentum 更稳定更强,推荐 β=3、τ=2.5,无需训练数据或微调。
- 最终只做线性分数融合,工程上极轻量,可缓存各 ranker 分数与融合权重,毫秒级重排;若原始 BM25 分数缺失,可用 rank-based proxy 替代。
- 注意当前二选一判断无法处理“两个文档都不相关”的场景,可能引入噪声;低置信度过滤只能缓解,业务可考虑增加“都不相关”选项或校准置信阈值。
上下文嵌入:超越单一黄金块的分级蒸馏
🧭 上下文嵌入训练与评测 ★ 深度解读
Perplexity AI · turbopuffer
用查询感知压缩模型蒸馏分级 chunk 相关性替代 gold-chunk 标注,发布 9B/0.6B 模型并刷新多基准 SOTA
📌 工作参考价值(4 点)
- 用 query-aware 压缩模型/reranker 产生 token 级 graded relevance,聚合为任意 chunk 软标签,替代二值 gold chunk;既避免标注绑定分块,又让支撑证据不再被当负样本。电商搜索、长商品详情、合同、政策文档检索可复用这套在线蒸馏链路。
- 文档级检索可采用 multi-vector + MaxSim:每个文档保存多个 chunk embedding,查询-文档相似度用最高 chunk 分数;在 RAG/商品召回中比单向量更细粒度,且不增加 chunk 数存储。
- 评测不要只看单一 gold chunk,应标注 answer groups + evidence groups,并报告 Answer@K、Evidence recall、Tokens to full coverage;这能暴露排序在 aspect coverage 与读取代价上的真实差异。
- 大模型蒸馏小模型保持共享 embedding space,让索引侧用 9B、查询侧用 0.6B,配合 MRL 1024/2048 维度 + int8 量化,可在不同存储/延迟预算下切换。
QESChunker:用问答证据监督统一重叠与非重叠 RAG 分块
🧭 RAG 分块 · 监督式索引构建
Alibaba Group · Taobao (China) Software Co., Ltd.
将 RAG 分块形式化为问答证据效用最大化的监督组合优化,非重叠用 DP 精确解,重叠用贪心近似解
📌 工作参考价值(4 点)
- RAG 知识库/商品文档分块别再只用固定长度或段落:沉淀业务侧 question–evidence pairs(客服问句-答案片段、售后手册标注、商品属性问答),用 QESChunker 思路以“完整证据召回率”为预算约束优化每个文档的 chunk 边界;非重叠版可用 DP 解,适合电商知识库规模。
- 重叠 chunk 的组合优化是 monotone submodular,贪心有 (1-1/√e) 近似,工程上可先用 LLM 生成 question-evidence 对,再做监督式 chunking,不必等真实 query 日志,冷启动友好。
- 论文验证指标是 complete-evidence recall,对应客服/导购 Agent 中“是否一次检索取回完整答案证据”,建议在业务评估里加这个指标,而不只看 top-k 命中。
- 混合 retriever 固定条件下该方法优于 heuristic,可作为 Agent 检索底座预处理:先离线构建 document-specific chunk index,不增加在线复杂度,适合商品手册、店铺政策等更新频率低的语料。
SpectRAG:面向多跳 RAG 的加权块图与 token 预算上下文选择
🧭 RAG · 图检索 · 谱图上下文选择 ★ 深度解读
Mitsubishi Electric US · Mitsubishi Electric Innovation Center (MELIC) · Karabuk University
用加权块图的谱坐标与预算化选择,把 RAG 检索从 top-k 相似改成连通证据集优化,以更低索引成本提升多跳证据召回
📌 工作参考价值(4 点)
- 电商 RAG/购物助手:除文本相似外,把商品同款/互补、类目层级、共同属性、会话共现/共点击、query 改写关系作为边构建商品或内容 chunk 图;用 Laplacian 谱坐标做结构化特征,可在召回阶段纳入连通性,减少相似商品冗余,补回缺失的桥接属性/卖点。
- Token 预算选择直接用于 LLM 推荐解释、Agent 工具/知识上下文化:设定固定 token 预算,做 protected core + tail precision + backfill,而不是固定 top-k;按 token 长度归一化 utility,避免长 chunk 吃光预算。
- 混合种子 + 两跳扩展:用 RRF 融合向量、BM25、历史或生成式问题匹配,再沿图做两跳扩展,可找回多跳证据;适合售后/导购等需要跨产品、跨文档推理的场景。
- 成本与效果:chunk 级稠密图 + 谱特征比实体级 GraphRAG 索引小一个数量级且 recall 更高;生产上可离线缓存图与谱坐标,在线只做轻量扩展/PPR,避免每条 query 都调大模型抽实体。
Tessera:面向 Web RAG 的结构补全证据单元
🧭 RAG 结构化证据交付优化 ★ 深度解读
The Chinese University of Hong Kong, Shenzhen · The University of Hong Kong · Beijing University of Posts and Telecommunications
训练无关的证据交付层,将检索页面重建为结构完整的证据单元,文本/截图/Agentic RAG 提升 5-6 点准确率
📌 工作参考价值(4 点)
- 电商详情页/商品参数表在 RAG 中常因提取或固定 chunk 丢失表头、价格、规格等结构化证据。可借鉴 Tessera 在 query-time 从原始 HTML 重建“标题路径+表头+行”的证据单元,用 cross-encoder 选相关行打包进一个 token 槽,保留 top 检索结果中的 prose。
- Agent 多跳搜索(如选品、竞品分析)可在每次 search 工具返回中加入该层:替换最后一个 doc 为结构补全的单元块,不仅提升准确率,还让 agent 少搜索、上下文更短(FRAMES +5.2,搜索次数 2.41→2.19)。
- 对多模态/截图索引同样有效:用 top tiles 定位页面,再从 HTML 构建单元替换最后一个 tile,比单纯增加 tile 数量更省 token 且更准;适合在截图索引上叠加,无需重建索引。
- 工程实现:单元构建可离线缓存 per page,query 时只需解析少量 anchor pages 和 cross-encoder 打分,新增成本低(15ms CPU/页 + 0.2 GPU-s/query);可作为现有 RAG pipeline 的即插即用层,不改变 index/retriever/reader。
幻觉感知的多智能体 RAG:用内部注意力信号做奖励塑形
🧭 多智能体 RAG · 注意力奖励塑形 ★ 深度解读
University of Technology Sydney · University of Auckland
用 TruthfulQA 校准的注意力头范数 critic 作为幻觉风险奖励,联合优化多智能体 RAG 的 query 规划、证据选择和答案生成,同时提升任务指标并降低幻觉率
📌 工作参考价值(4 点)
- 将生成链路拆成 query planner / evidence selector / answer generator 三个 role-specific LoRA adapter,共享 frozen backbone,用统一 terminal reward 做 cooperative PPO;电商问答、商品摘要、广告文案生成等场景可以用较低训练成本同时优化多个子策略。
- 用 attention head norms 训练轻量离线 critic(TruthfulQA 校准)作为 hallucination 风险 reward shaping 项,无需每次 rollout 调用外部 LLM judge,工程开销小,且可跨任务迁移到业务数据,不必为每个业务域标幻觉标签。
- 保持 backbone 和 critic 冻结,只更新低秩 adapter,避免奖励函数漂移;先监督 warm start 再 RL,降低探索难度;风险惩罚权重 λ 需要小量(论文用 0.08)平衡 task reward 与风险信号。
- 评估时不要只看 EM/F1,可引入 AHR(Answer Hallucination Rate)分离“答案重叠”与“证据忠实度”;内部信号适合作为弱监督辅助,而非替代任务奖励。
面向多智能体系统的企业 RAG 知识层:先组织后检索
🧭 企业 RAG · 多 Agent 知识组织
Cognizant, Plano, Texas, USA
将本体置于 artifact 层,用元数据注册表与导航超图先组织后检索,实现结构化消歧避免跨服务规则混淆
📌 工作参考价值(4 点)
- 结构化过滤优于向量排序:在电商/广告 RAG 中,同名词如「优惠券」「活动价」在不同业务线含义不同,向量检索容易返回高相似但错误上下文的片段。可先解析查询到 artifact ID 或业务域,用元数据约束候选集,让错误来源的内容不进入排序,而非依赖打分压过。
- 轻量元数据注册表替代重型本体:不要一开始就构建内容级实体关系图,成本高且难以维护。利用生成式语料自带的 provenance(来源服务、组件、域、类型)做稀疏元数据索引,几天内即可上线,适合快速迭代的推荐/广告知识库。
- 超图定义在文档/规则 artifact 而非实体上:跨服务旅程查询(如从商品详情到订单到售后)可以用 artifact 超图导航,先确定相关 artifact 集合,再做向量检索,避免实体链接爆炸。
- 新服务按约定接入:设计一套轻量 schema(服务名、域、类型),新接入业务线只要按约定注册元数据即可扩展,无需重新训练或构建图,适合多业务线快速扩展的 Agent 工作流。
GraphRAG 自动化富集分析:高效多数据库 ORA 提取与生物解释
🧭 GraphRAG 加速 ORA 并提升解释忠实度
Graduate School of Information Science and Technology, The University of Osaka, Japan · The First Affiliated Hospital of China Medical University, China
将多基因集库建成术语-基因知识图谱,用紧凑证据子图驱动 LLM 生成可溯源解释,查询提速 37 倍且忠实度最高 0.90
📌 工作参考价值(4 点)
- 多源标签整合:把商品属性、类目、场景、用户标签建成统一实体关系图,用共享实体连接分散的标签体系,便于跨源召回和解释。
- 证据子图检索:给 LLM 提供紧凑连通子图而非平铺 top-k 文档,可降低上下文噪音并提升推荐理由/广告文案生成的事实一致性。
- claim-level 忠实度评估:逐条校验生成声明是否被图谱边路径支撑,可作为 RAG/Agent 输出质量监控指标,适合落在 pipeline 里自动打分。
- 查询加速:图式预计算+子图检索相比逐库查询显著提速,可用于实时推荐解释或 Agent 工具检索的缓存设计。
混合检索的融合税:稀疏-稠密融合何时有害的诊断分析
🧭 混合检索 · sparse-dense 融合诊断 ★ 深度解读
Independent Researcher, Bothell, WA, USA · Independent Researcher, Issaquah, WA, USA
系统量化 BM25+密集检索融合在单查询上的损失,发现即便平均提升,13-48%查询反受损
📌 工作参考价值(4 点)
- 不要默认 RRF:若目标 domain 的 dense 检索明显强于 BM25,用 dense-heavy score interpolation(α=0.6-0.7)比 RRF 更稳;RRF 只在两路强度接近时更合适。
- 上线前做 per-query fusion 损益审计:统计比单独 dense 差的 query 占比(该论文 8-21%),尤其对风险敏感的商品搜索/广告召回;不要只看平均 nDCG。
- 不要依赖便宜 query 特征做跨 domain 路由:同一特征在不同 sparse-dense 平衡下方向会翻转,跨 dataset AUC 仅 0.59,路由收益不可靠;可考虑更重的 LLM judge 或在线评估。
- 排序第二级 reranker 不一定能修复第一级融合损失:先在目标域确认 reranker 可靠性;若 reranker 可靠,约 71-90% 原受损 query 被修复但会引入新 hurt query,需持续监控。
将自回归LLM控制编译为策略精确的并行推理用于层级RAG
🧭 层级RAG控制并行编译 ★ 深度解读
MemTensor (Shanghai) Technology Co., Ltd. · China Haisum Engineering Co., Ltd. · The Hong Kong University of Science and Technology (Guangzhou) · Shanghai Jiao Tong University
把层级RAG受限解码编译为一次prefill+树因果probe,零输出token复制串行策略
📌 工作参考价值(4 点)
- 对电商/Agent里任何 bounded-horizon constrained LLM controller(选品、路由、工具/query推荐、多步筛选),可把动作空间编译成 action-prefix tree,用 root prefill + tree-causal probe 一次前向求出所有可达状态;零解码 token、深度-2,直接去掉 JSON 协议失败和串行延迟。
- 若业务上「顺序选择有历史依赖」但最终只取集合,可用 probe 计算 order-marginalized posterior,并用 branch-and-bound MAP certificate 得到精确集合选择;避免把顺序当成集合决策的 serialization artifact。
- 上线前用 interaction mass Iseq = KL(P_AR || P_U) 诊断历史依赖强度;若 Iseq 大,说明 unary logit shortcut 不能替代串行策略,可以用同一 probe 低成本判断何时需要保留自回归条件。
- 注意工程限制:bf16 下 near-tie 翻转与跨硬件/跨后端差异同量级;需要强 parity 就换 fp32 或对低 margin round 回退串行;horizon>3 时 probe 宽度阶乘增长,建议改成 staged/chunked 混合执行。
面向任务的长文档视觉问答综述:分类、演进与未来方向
🧭 多模态检索增强生成 · 长文档 VQA 综述
College of Computer Science and Technology, Zhejiang University · School of Software Technology, Zhejiang University · Polytechnic Institute, Zhejiang University · BWTON Technology Co., Ltd.
以任务瓶颈为主线,系统梳理长文档 VQA 的解析、证据检索、生成与评测,突出预算约束下的证据充分性
📌 工作参考价值(4 点)
- 电商售后、产品手册、合规条款等长文档问答场景,可参考其「证据组织与检索」组件化设计:把版面元素(表格、图表、段落空间关系)作为显式检索证据,而不仅是文本 chunk。
- 广告审核、商家资质审核需要从长合同/报告中找到依据,可借鉴「预算感知协调」与可验证理解的思想,在 token/延迟约束下动态选择直接阅读或检索。
- 面向客服 Agent 的架构:论文梳理的 Agentic Reasoning 与显式检索结合,可用于设计能持续管理证据、支持可纠正问答的长文档助手,降低幻觉风险。
- 评测维度中的证据充分性、可验证性,可直接迁移到内部长文档 VQA 评测集构建,重点考察答案是否有高保真证据支撑。
真实文档修订下的分块重算:固定、递归与内容定义分块更新成本及检索质量测量
🧭 RAG 文档分块更新成本评估
Anhui University of Technology
在真实维基百科修订对上量化三种分块策略的嵌入重算成本与检索质量,发现更新成本差异显著且检索质量相近
📌 工作参考价值(4 点)
- 对于维护动态知识库(如商品文档、政策页、新闻)的 RAG 系统,分块策略不能只看静态检索指标:固定大小分块在每次更新时重算 57-68% 的嵌入,内容感知分块(递归/内容定义)可降低到 38-56%,但需注意内容定义分块在部分中文文本上失败(4/62),工程上可选择更稳健的递归分块。
- 采用字节相同重用规则:只对内容发生变化的 chunk 重新嵌入,可显著降低更新成本;这要求存储 chunk 的哈希或原始文本,适合增量更新流水线。
- 当检索质量差异很小时(<2 个百分点),优先选择更新成本低的分块策略,尤其在高频更新场景(如价格/库存变化引起的文档编辑)。
- 评估分块器时应同时报告更新成本(重算比例)和检索质量,避免仅依据静态基准选型;参数长度会影响内容感知分块器的成本排名,需针对实际 chunk 长度做网格搜索。
复杂 Agentic Memory 是否总是必要?朴素 RAG 比我们想的更强
🧭 长对话记忆中朴素 RAG 基线对比复杂 Agentic Memory
Xi'an Jiaotong University · Shanghai Jiao Tong University · Zhejiang University · The Chinese University of Hong Kong
在长对话理解中,基于原始历史的朴素 RAG 在多数基准上超越复杂 agentic memory,并揭示保留原始信息的重要性
📌 工作参考价值(4 点)
- 在电商客服、用户 long-term profile、Agent 对话等场景,可以先实现朴素 RAG:直接对原始历史做 dense retrieval + reranking,再交给 LLM 生成回答,工程成本远低于构建复杂记忆系统,却可能获得更高准确率。
- 保留原始交互序列和日志很重要。复杂记忆转换(如 summary、知识图谱、记忆更新)会引入信息损失,导致后续推导所需的依赖路径丢失;在推荐/客服场景应保留 raw evidence 作为检索源。
- 证据覆盖率比单条证据利用率更关键。朴素 RAG 可能检索到更多冗余但相关证据,即使部分证据未被 LLM 充分利用,也能通过提升 recall 来弥补 precision 的不足,因此评估记忆系统时不要只优化 top-k 精度。
- 重排序在 raw-history RAG 中是有效的 trick:先 dense retrieval 提高 recall,再用 reranker 压榨 top-k 质量,可以在低 ingestion 成本下达到甚至超越复杂记忆的表现。
MAPS:宏观自适应并行推理调节 RAG 搜索动量
🧭 迭代式 RAG · 搜索动量调节 ★ 深度解读
Northeastern University, Shenyang, China · Tsinghua University, Beijing, China
提出 search momentum 量化迭代 RAG 中的查询意图漂移,并用轨迹解耦与并行多方向检索缓解漂移
📌 工作参考价值(4 点)
- 用 search momentum 做在线 query 漂移监控:在多轮搜索/Agent 中,记录每步生成 query 的 embedding 位移并加权累积,当 momentum 与原始 query 余弦相似度持续下降时触发校准(重写 query、并行探索或回退原始意图),适合电商搜索 query 改写、对话式推荐中的信息收集。
- 状态管理上把“已获取的知识”和“历史查询轨迹”解耦:只保留知识观察和压缩后的推理状态,不把历史 query 序列塞进 prompt,可避免中间错误查询累积污染后续召回。工程上可用一个 summarizer 将检索到的商品/文档证据压缩成结构化状态,而不是保留完整对话历史。
- 并行生成多个互补检索方向:在 query/关键词扩展时,先让 LLM 提出 N 个互补方向(如类目、属性、风格、价格带),再分别生成 query 并行检索并合并召回结果。这比单纯并行生成多个 query 更可控,消融显示 direction proposal 贡献约 4 个百分点。
- 自适应终止:MAPS 对简单 query 更早终止,复杂 query 多轮继续检索且不丢准确,可用一个 lightweight 判断器基于已收集证据是否足够来决定停止,减少不必要的检索轮次。
PPLX-Embed-V2-Late:0.6B/9B 多模态后期交互检索模型
🧭 多模态 late-interaction 检索蒸馏 ★ 深度解读
Perplexity AI
用 18B 教师表征蒸馏出 0.6B/9B 多模态 late-interaction 模型,支持大模型离线建库、小模型在线查询的共享向量空间
📌 工作参考价值(4 点)
- 非对称部署:用 9B 离线索引商品/文档/图片,0.6B 在线编码 query;报告显示 0.6B query + 9B doc 比纯 0.6B 平均 nDCG@10 高 1.6pp,query 延迟不变,适合电商大规模商品库和低延迟搜索。
- 表征蒸馏优于直接 contrastive:训练小 late-interaction 模型时,直接拟合 18B 教师的 token 级 L2 归一化表征,比单独对比学习更稳,尤其 <1B 模型;业务里想压缩强检索模型可以优先考虑这种 pointwise distillation。
- 128 维多向量是低成本选择:在视觉文档检索上,0.6B 128 维 multi-vector 超过同尺寸 0.8B 模型 3.3pp;相比 4096 维 dense,存储和 ANN 成本显著降低,适合电商图片搜索、商品详情页截图检索。
- 训练工程 trick:用 gradient caching + 自定义 Triton MaxSim kernel 支持 16,384 对比 batch;quasi-random golden-ratio Kronecker 采样保证多个子数据集比例稳定且均匀出现,可复用到多源商品/query 数据混合。
RAG预算证据选择的边际视角效用学习
🧭 RAG 预算证据选择 · 边际视角覆盖
Nanyang Technological University · University of Toronto
提出LMVU轻量排序器,按边际视角覆盖增量选择证据,在有限上下文下提升多视角覆盖
📌 工作参考价值(4 点)
- 在电商 RAG 场景(商品问答、评论摘要、多卖点对比)中,上下文预算有限,可借鉴边际视角覆盖思想:优先选择能补充当前已选集合缺失观点的候选,而非单纯按相关性得分截断。
- 训练数据构造:利用已有的观点/标签标注(如评论情感、产品属性、类目标签)作为伪视角,构造同一选择状态下的候选配对,让 ranker 学习增量覆盖价值;推理时迭代选择,类似贪心式集束搜索,开销低。
- 评估指标:用 RVC1/RVC2 度量检索结果的视角覆盖度,可作为多样性/覆盖度补充指标,尤其当业务目标要求搜索结果覆盖不同用户意图或品类时。
- 轻量 ranker 设计可作为在线精排后的二次重排组件,输入包括已选证据集合与候选的交互特征,输出边际增益,适合低延迟的实时检索链路。
检索增强生成(RAG)的组合性评估
🧭 RAG 流水线组合评估
IBM · Weizmann Institute of Science
系统评估RAG各阶段技术组合,发现孤立增益不可叠加且最优组合随语料规模变化
📌 工作参考价值(4 点)
- 在电商/Agent的RAG知识库或购物问答中,不要只按单模块离线指标选型:三种检索技术孤立预测+47%联合提升,组合后仅+17%,单点提分可能被其他阶段抵消。
- 同时跟踪检索质量(如NDCG@10)和最终忠实度/业务指标;组件对两者增益方向可能相反,避免为召回率牺牲生成质量。
- 语料规模从小规模实验到全量商品库/百万级文档时,必须重新验证最优组合;小语料最优配置不一定在大语料保持,应做分规模子集测试。
- 借鉴LASAGNA思路搭建内部RAG实验框架,固定其他阶段做单变量替换,支持不同语料规模与多指标报告,沉淀可复现的pipeline配置。
面向企业零售异构数据工作流的Agentic RAG评估基准与框架
🧭 Agentic RAG · 多源异构零售问答评测 ★ 深度解读
KAIST · Cluvion · GS Retail
提出RetailBridge多源零售QA基准与RetailRAG框架,定位跨源链式为瓶颈
📌 工作参考价值(4 点)
- 在电商 Text-to-SQL / 数据分析 Agent 中,先构建并注入 auto-schema briefing:包括列类型与示例值、类别枚举、跨表 join 键、派生指标公式,可提升 planner 路由和 SQL 生成准确率。
- 采用 source-routed plan chaining:对复杂查询一次性生成显式依赖链,支持 SQL→文本→SQL 的中间结果传递;简单查询走快速通道,控制 API 调用成本。
- 失败恢复用 diagnostic plan revision:只定位并局部修正失败步骤,保留已完成步骤,避免整体 replan;把失败类型划分为 schema mismatch、filter 过严等,可显著降低 token 消耗并提高成功率。
- 构建内部评测集可借鉴 RetailBridge 的合成管线:用 persona 仿真生成订单/评论/客服交互数据,再用 entity-linked/answer-linked 算子递归组合出多跳查询,按推理深度、跨源数和证据模态分层,便于诊断 agent 短板。
基于随机投影的隐私保护检索增强生成
🧭 隐私保护 RAG · 随机投影
University of Chicago
用随机投影同时处理知识库与查询嵌入,在保持语义相似度的同时缓解数据抽取攻击,优于DP方案
📌 工作参考价值(4 点)
- 在涉及用户/商家敏感数据的 RAG 场景(如客服知识库、内部文档问答)中,可对 datastore embedding 和 query embedding 用同一个随机投影矩阵降维后再做检索;无需复杂 DP 机制,工程实现简单,还能降低向量维度、省存储与计算。
- 随机投影矩阵可以按租户或定期更换,增加攻击者从泄露的投影向量恢复原文的难度;但要注意它不能替代访问控制与审计,对强背景知识的成员推断攻击防护有限。
- 对电商搜索/推荐中跨团队共享商品或用户行为 embedding 的场景,可以先随机投影再共享,在 cosine/点积检索损失较小的前提下减少原始 embedding 泄露风险。
- 论文表明随机投影在检索与生成质量上优于 DP baseline,可作为轻量隐私基线;若业务需要正式合规保障,仍需结合差分隐私或其他审计机制。
检索到但未读:理解搜索增强 LLM 未利用可用证据的原因
🧭 搜索增强 LLM 的证据利用失败分析
Imperial College London
通过时序事实和分层分析,揭示搜索增强 LLM 常“检索到但未读”,即使有新证据仍输出过时答案并给出不忠实引用
📌 工作参考价值(4 点)
- 在电商/Agent 场景中,价格、库存、促销、政策等事实变化频繁,别把“检索到”当“已使用”。应记录 agent 是否打开详情页/全文;若仅读 snippet,可强制要求先展开来源页并基于全文作答,或把全文放入 context,避免 snippet 偏见。
- 引用可信度:对购物助手/客服回答要求逐句引用已打开页面内容;用 citation faithfulness 校验(如 NLI)拦截“答 A 引 B”的回复,尤其对有时效性的事实。
- 内部状态与最终答案不一致:即使模型隐层已表示新证据,最终仍可能偏向旧参数知识。可在 prompt 中显式对比“当前日期/最新数据”与模型先验,要求输出依据;或对关键时效属性做规则/缓存覆盖,不依赖 LLM 自己纠偏。
- 评测方法:构建训练截止后变更的“(实体, 属性, 旧值, 新值, 生效日期)”事实集,模拟商品改价/上下架/政策更新,用于回归测试 agent 的时效性和引用忠实性。
因果引导的知识图谱检索 Agent 用于问答
🧭 Agent 因果检索 · 知识图谱 QA ★ 深度解读
University of North Carolina at Charlotte
提出 CARA,以证据对回答的因果贡献替代纯文本相似,引导 KG 检索 Agent 并融合多轨迹
📌 工作参考价值(4 点)
- 在电商商品知识图谱或导购 Agent 中,把召回/排序的相似度信号替换或补充为因果相关性评分:对候选商品/证据问“加入它是否实质性改善对用户 query 的回答/推荐,去掉它是否损失关键证据”,可有效过滤“相关但不必要”的商品,减少推荐噪音,尤其适合长尾 query 和复杂约束场景。
- 采用多 Agent 并行探索 + RRF 融合:多个 agent 用不同初始锚点和子查询独立遍历,最后用 reciprocal rank fusion 聚合,比简单的 count-based vote 更鲁棒;可迁移到多策略召回/多路搜索融合,成本可控且提升召回稳定性。
- 聚焦探索与成本控制:因果评估能减少无效 hop 和工具调用,但会引入 LLM 评估延迟;业务落地时可对候选批量评估、只对 top-k 邻居调用因果模块,或用轻量模型/规则做初筛后再评估,在效果与延迟间取平衡。
- 论文在 STaRK 的 AMAZON 电商数据集上验证有效,其 causal prompt 设计(明确“不是文本相似”,给出 0-0.2 无关、0.9-1.0 决定性等评分量表)可直接参考迁移到电商 QA、导购知识库检索等场景。
按需检索有用信息:选择性检索增强机器翻译的智能体强化学习
🧭 选择性检索增强 · 强化学习 ★ 深度解读
The University of Texas at Austin · Amazon
提出 SRAT,将检索作为可学习翻译动作,用 GRPO 与检索器对齐实现选择性检索增强
📌 工作参考价值(4 点)
- 把“是否调用外部知识”变成策略动作:不要固定 always-retrieve 或 never-retrieve,用 GRPO 以最终业务指标(如转化率、用户满意度)为奖励,让模型学习何时检索、生成什么查询。可以用于商品文案生成、客服回复等场景,避免无关知识干扰。
- 检索器要与下游质量对齐,而不是语义相似度:当知识库检索难度高、语义相似度不够时,用翻译/生成质量对比训练检索器,让正样本由“哪个文档能提升最终输出”决定。这可以迁移到推荐解释生成、广告标题生成等任务,直接用最终打分函数提供监督。
- 黑盒模型也能受益:训练一个独立的轻量检索策略(如 Qwen 小模型),用闭源大模型(Claude/GPT)的输出质量作为奖励,不动主模型参数也能提升其生成效果。适合在已有黑盒生成服务之上加一层自适应检索。
- 课程学习避免策略退化:先用高质量检索轨迹做 SFT 初始化,再 RL 时加临时检索惩罚防止模型退化成 never-retrieve。这个 trick 对任何需要学习“何时调用工具”的 Agent 场景都适用。
RCER:为迭代检索增强生成重建跨证据关系
🧭 迭代 RAG · 跨证据关系重建
Xi'an Jiaotong University · Beijing University of Posts and Telecommunications
在迭代 RAG 中重建跨证据实体对应与推理依赖,多跳 QA 平均 EM/F1 提升 2.83/3.06
📌 工作参考价值(4 点)
- 在商品/店铺/活动规则等复杂问答或客服 Agent 中,可把多轮检索到的片段抽象成实体对应关系和推理依赖图,每次新证据加入时增量重建关系,驱动下一轮 query 分解,避免仅靠向量相似度重复召回。
- 把「证据获取」和「推理上下文构建」解耦:先做互补证据联合选择,再基于跨证据推理补齐隐式链条,最后组合关系回答;适合电商场景中跨文档信息拼接,如满减规则+商品类目+用户历史生成答案。
- 工程实现上,RCER 直接利用累积的 source passages,不依赖外部知识图谱或额外训练,可以低成本接入现有 RAG pipeline;在多跳、叙事型、隐式推理问题上收益更明显。
- 若业务问题偏短平快,收益有限;更值得用于导购对比、合规规则问答、售后政策推理等需要链路推理的场景。
超越最终 Embedding:从 Token 级证据中检索记忆
🧭 RAG 记忆检索 · token 级匹配 ★ 深度解读
Southeast University · MemoraX AI · Leiden University · University of Sydney
冻结 embedding 的 token 级稀疏匹配融合整句相似度,无需训练提升记忆检索
📌 工作参考价值(4 点)
- 可复用现有 embedding 模型已经算好的 token hidden states:给商品/内容/会话记忆建 token 级 HNSW 索引,query token 检索后按 source memory ID 聚合,再与整向量相似度做 query-wise 标准化融合。无需训练 encoder 或重建文档索引,适合快速在现有召回链路上加一层局部证据信号。
- 工程实现上,保留 token 到 memory/item 的 ID 映射,聚合时用检索到的最后一个 token 的 clipped similarity 作为缺失分 floor,能显著减少 HNSW 漏召回的影响;k=64、α=0.5 在多个 backbone 上稳定,可直接作为默认参数。
- 可选的 LoRA query adapter 只训练 query token states,保持 item/memory 侧索引完全不变,对商品库频繁更新、多租户场景很友好;上线只需替换轻量 query 头。
- 存储与延迟权衡:token 索引不压缩会大很多,但 SQ4 可压缩 81–85%,质量几乎不降;大规模商品/内容索引可优先上 SQ4,进一步降本可试 RP128+SQ4,但质量损失更明显。
面向法律推理的可验证检索:结构驱动知识图谱
🧭 RAG · 知识图谱结构化检索
Technische Hochschule Ingolstadt
用结构驱动解析构建法律知识图谱,比较多种 KG 感知分块与检索策略以提升引文检索准确性
📌 工作参考价值(4 点)
- 可将结构驱动解析迁移到电商/广告领域:基于商品类目树、属性 Schema、活动规则等层级结构构建 KG,替代固定长度分块,提升召回语义完整性。
- 在客服导购 Agent 或规则问答系统中,要求输出附带来源证据(如具体条款、商品属性路径),实现可验证引用,降低幻觉风险。
- 混合检索策略可借鉴:先经 KG 导航缩小候选范围,再做向量相似度匹配,平衡精确性与召回率,适合规则密集、文档规模大的场景。
- 对生成式推荐中的可解释性有参考意义:生成 item/文案时绑定结构化来源,便于后续审计与用户信任建立。
NEAR:面向记忆检索的邻域感知残差框架
🧭 记忆检索 · 邻域残差投影 ★ 深度解读
Southeast University · MemoraX AI · Leiden University · University of Sydney
训练无关地用邻居方向构造投影残差,把共享主题带来的干扰记录转为匹配信号,单次 ANN 检索提升记忆召回。
📌 工作参考价值(4 点)
- 可把“同品牌/同店铺/同话题商品的向量相似但证据不相关”问题转化为局部参考:离线对每个 item/memory 用 top-k 邻居均值方向做投影残差,抑制类目/品牌共性,放大差异;适合商品召回、内容去同质化。
- training-free + 固定索引:残差和原向量拼接成静态 key,线上只做一次内积 ANN(如 HNSW),不用改 encoder 或做多路召回,便于接入现有 embedding 库。
- query 侧参考由 16 个 anchor 的 spherical K-means + softmax 路由生成,避免在线先检索邻居,工程轻量;可迁移到 query embedding 的在线局部校准。
- 存储/延迟可控:NEAR 未压缩是 Base 2x 存储、约 2.39x 延迟;用 SQ4 可压到 Base FP32 的 0.36x,Recall 几乎不变。适合大规模 item/memory 索引,结合业务接受度调节 residual weight/depth。
PRIME:预检索索引建模与增强结构化文档检索
🧭 索引侧优化 · 层次检索与语义重构 ★ 深度解读
The Hong Kong University of Science and Technology (Guangzhou)
确定性元数据匹配结构化分块检索质量,嵌入计算降45.8倍,语义重构再提升Answer-F1 13.7%
📌 工作参考价值(4 点)
- 轻量元数据索引替代全量分段嵌入:对商品详情页/活动页等结构化长文档,可仅用标题+类目标签+关键属性词+页面标题树构建元数据向量(如 BGE-small 384 维),配合 BM25 做粗筛,能在保持检索质量的同时把 embedding 计算量和索引向量数降低 1-2 个数量级,适合大规模电商语料成本敏感场景。
- 两阶段层次化检索架构:先用 metadata 粗筛候选(BM25+稠密向量 RRF),再用 cross-encoder 对 section/字段级精排,避免 query 时调用大模型 rerank,且能精确送回 top 相关小节,适合商品详情页/用户手册等多段式文档的 Agent 引用。
- LLM 重写提升上下文密度:SR 的 explication+compression 可提高上下文语义密度,让下游生成用更少 token 达到更高 QA 质量,但会牺牲 BM25 词面匹配;实践中应保留原始文本索引,或做 hybrid 融合,防止 lexical 信号丢失。
- 先做语料结构审计:无稳定标题树/短文本语料(类似 NFCorpus),元数据抽取可能有害;可在全量改造前抽样评估 heading 覆盖、段落长度分布、词面重叠度,决定是否采用索引侧重构。
GeopoliticalQA:情报报告检索与生成基准
🧭 RAG 检索与生成基准评测
Mantis Analytics
构建 415 份情报报告、5,525 条 QA 的地缘政治 RAG 基准,系统评估检索与生成
📌 工作参考价值(4 点)
- 在电商/Agent 知识检索场景中,chunk 级检索质量不必依赖超大 embedding 模型;中等规模开源编码器 bge-m3 可与大 10 倍模型持平且优于商业 API,可先用这类模型做成本可控的域内检索。
- 文档画像先行的问题生成 pipeline 可用于构建电商搜索/推荐领域的合成评测集:先对商品/报告进行结构化画像再生成问题,并配合 LLM-as-judge 做质量过滤,提升训练与评测数据可用性。
- 即使给定黄金证据,复杂推理类问题(对应商品选品、活动归因、风险判断等)仍是生成瓶颈;在 RAG Agent 中应加强多步推理、证据整合与结果校验,而非只优化召回。
- LLM-as-judge 协议验证数据集质量的方法可直接迁移到搜索 query 改写、推荐理由生成等任务的离线评估,减少人工标注成本。
NativeScope:基于正确锚点的原生拓扑关系限定检索
🧭 关系限定检索 · 原生拓扑锚点
用 (A,r,B) 关系范围限定再排序,RAG 召回在文档/记忆上提升 42.75/22.00 个百分点
📌 工作参考价值(4 点)
- 在电商知识库或客服 Agent 中,商品详情页模块、订单时间线、客服会话轮次等原生结构都可以作为 belonging/before/after 的范围过滤信号;先把用户问题中已有的锚点(如商品 ID、会话时间点)转成 scope,再在范围内做语义排序,能显著减少无关 chunk 召回。
- 工程上优先建设结构化范围索引,而不是只优化 query 改写:论文中 NS-FullQ 与短 query 版本差异不显著,说明主要收益来自关系性范围限定,而非排序问题变短,因此应把原生拓扑和过滤算子纳入检索链路。
- 自动锚点定位会带来明显风险:Top-1 自动锚点让记忆召回从 72.50% 跌到 35.50%。业务上应优先使用用户显式选择、稳定记录 ID 或高置信度上游定位器;弱锚点场景需要软约束或回退到全局检索,避免硬范围过滤继承定位错误。
- 可复用的评估思路:把检索评估拆成“给定正确锚点的条件召回”和“自动锚点定位”两部分,能更清楚地区分定位误差与范围检索能力,适合在搜索/推荐/Agent 记忆系统中做模块化归因。
RIT-RAG:检索诱导树在文档语料中导航
🧭 Agentic RAG 树结构导航
IBM · IIT Kharagpur
用检索块位置诱导多文档子树,让 LLM Agent 在结构上导航并选择性阅读,提升复杂文档问答准确率
📌 工作参考价值(4 点)
- 借鉴“检索提出位置、Agent 决定阅读”的分离设计:把检索结果映射到商品文档、帮助中心或政策文档的目录树片段,让 Agent 在局部子树上推理而非直接读 chunk,能更好利用结构信息并控制上下文长度。
- 离线为每个文档/类目构建树索引(TOC、sitemap、商品属性层级),在线用宽召回 chunk 诱导多个候选子树,避免“先选文档后无法纠错”,适合多来源、超长文档库。
- 在客服/售后场景中,Agent 选择性读取节点并改写查询,可以降低 LLM token 消耗,同时提高回答准确率和可溯源能力;可以在现有 RAG pipeline 上增加结构索引层。
- EntQABench 是 284 万级技术文档 QA 基准,可用于评估大规模文档库的检索和 Agent 导航能力,但电商领域还需自建结构评估集。
从分块到功能证据:面向 EDA 文档问答的功能感知检索
🧭 RAG 检索单元重构 · 功能超边
Zhejiang University · Shanghai Innovation Institute
用功能单元(超边)重组多类型文档碎片,训练编码器对齐 query 与功能单元,联合 chunk 检索与统一 reranker,大幅提升 EDA 文档 QA 的 ROUGE-L
📌 工作参考价值(3 点)
- 复杂技术文档、商品详情页、广告投放规则等多类型碎片场景,可借鉴「功能单元」思想:将相关代码块、参数表、图、约束等聚合成检索单元(如商品功能单元、活动规则单元),用超边链接源 chunk,缓解 query 与孤立 chunk 失配问题。
- 检索阶段采用单元检索与直接 chunk 检索并行,再统一 reranker 选证据,比单一 chunk 或纯图检索更稳;在电商知识库 QA、规则问答里可直接复用该混合召回架构。
- 训练一个 encoder 对齐 query 与功能单元表示,而非只训练 chunk encoder,能更好捕获跨模态/跨类型信息之间的耦合关系;业务上可对商品多属性(标题、参数、卖点、图)学习统一功能表示。
文档结构是否提升密集检索?双语料四机制安慰剂对照消融
🧭 RAG 密集检索 · 文档结构消融
Center for Research Computing, University of Notre Dame
在双语料上做安慰剂对照消融,证明结构对齐分块与真实标题路径能小幅但稳定提升稠密检索 nDCG
📌 工作参考价值(4 点)
- 做商品文档/详情页 RAG 时,尽量按标题、段落等结构对齐分块,而不是固定窗口;给 chunk 加真实标题路径可小幅提升检索 nDCG,成本不高。
- 避免把标题路径等元数据当任意 token 前缀:收益来自语义内容,不是文本扰动;打乱或占位符无效,所以要保留真实结构语义。
- 分层两阶段检索在业务里可能不如单阶段,尤其第一阶段 section 召回率是瓶颈;上线前需对比单阶段与两阶段的 recall/nDCG。
- LLM 重建文档结构不一定优于原始结构,Wikipedia 上原始结构更好,QASPER 上无差异;不要盲目用 LLM 诱导结构,按语料做小样本验证。
找到正确平衡:LLM 检索中的相关性与多样性
🧭 RAG 检索多样化自适应策略
Université du Québec à Trois-Rivières
提出基于候选池冗余与查询证据需求的查询自适应规则,选择性启用检索多样化,避免损害相关性与答案质量
📌 工作参考价值(4 点)
- 在电商 RAG/商品问答中不要全局默认启用 MMR 或多样性重排:生产数据若候选池干净,多样化会降低相关性与答案质量;先用已有 embedding 统计 top-k 最近邻中有效 distinct 文档数,再决定是否开启多样性。
- 多证据场景(如从多个商品评价/卖点综合回答)可借鉴 query-adaptive 触发条件:当 top-k 选择的 distinct 文档数低于查询所需证据条数时再触发多样化,否则回退到最近邻;该规则无需额外模型,可跨数据集和 encoder 迁移。
- 当使用重叠 chunking 或商品库中有同款/相似描述时,可通过 RNG-Score 的 margin 检测重复结构,作为降级信号;margin 明显时说明冗余高,适合切换多样化,否则直接保留 NN 结果。
- 工程实现可把“有效不同文档数”做成轻量在线统计特征,与召回/重排解耦,避免因盲目开多样性浪费 context budget 或漏掉关键证据。
自适应证据路由:学习计算正确上下文
🧭 自适应证据路由 · RAG 与计算融合 ★ 深度解读
MIT · Google Research
提出RECAST,将证据构建视为检索与计算操作的序列决策,用轻量RouterLM迭代选择/合成操作,在6个基准上平均准确率达75.6%,超最强基线15.9%
📌 工作参考价值(4 点)
- 把检索和计算统一为证据操作:在电商推荐/搜索场景中,不要只把用户历史或商品池当作检索对象;可把 SQL 聚合、Python 特征计算、代码合成作为等同的“证据获取”原语,让系统从原始数据中派生可用的上下文,而不仅仅是召回已有片段。
- 用轻量 RouterLM 做调度,冻结大模型做编译和回答:业务上可显著降低大模型调用成本;LoRA 微调小模型即可超过更大黑盒模型,适合需要在低延迟下做复杂证据构建的场景。
- SFT+GRPO 训练技巧可复用:从成功轨迹中选 SFT 专家,再用混合成败轨迹做 GRPO,配合 reward shaping(正确性 0.9 + token F1 0.08 + 结构 0.02)和 mixed-outcome filtering,比仅用正确性奖励提升明显,且样本效率更高。
- 规则化预处理 + compact source profile:将异构数据(表、文本、用户画像)统一为 records 并生成紧凑概要,避免把完整 source 塞进 prompt,能降低 token 成本并让路由模型更聚焦于证据需求。
Agentic AutoRAG:推理驱动 Agent 优化 RAG 流水线
🧭 Agent 驱动 RAG 超参优化 ★ 深度解读
ETH Zurich
用 LLM agent 诊断检索/生成失败并借助模型排行榜与价格先验做 RAG 超参 Pareto 优化,样本和成本效率显著提升
📌 工作参考价值(4 点)
- 失败归因驱动调参:搜索/推荐系统中召回和排序通常是两级漏斗,可以从线上 bad case 中区分“召回没召到”和“排序没排好”,把失败归因作为信号指导下一轮配置调整,比只看整体指标更能定位问题。
- 注入先验知识库跳过劣质配置:将模型能力排名和成本信息预先编码进搜索过程(类似模型的 leaderboard 和定价表),可以大幅减少无效试错,尤其适合成本敏感的在线服务,快速找到性价比高的配置。
- 构建可区分性评测集:用 probe-based selection 筛选出对不同配置敏感的评测样本,避免在大量无区分度样本上浪费评估预算;在推荐/搜索的离线评估中也可以借鉴,聚焦于能区分策略优劣的 query 或 item 集合。
- 输出 Pareto 前沿而非单点:多目标优化(准确率/成本)返回 Pareto 前沿,让业务根据预算和效果要求选择配置,而不是只给一个固定最优解。
UNREAL:用单一模型统一检索与长上下文证据选择
🧭 模型内证据选择统一检索与长上下文 ★ 深度解读
NVIDIA · Technion
冻结LLM内部表征统一语料检索与长上下文去噪,仅训练<500K参数即超SOTA检索器
📌 工作参考价值(4 点)
- 搜索/推荐 RAG 场景可尝试冻结主模型只训练 retrieval tokens 和 layer-mixing 权重,把 embedding/retriever 与生成模型统一,省去独立 embedding 大模型和 reranker,降低跨模型不一致与维护成本。
- 用 LLM 内部中间层 residual stream 做多向量 late-interaction 检索,配合 mean-pool 压缩,可平衡检索效果与索引大小;类似做法可用于商品描述、用户评论、广告素材的 candidate retrieval。
- 长上下文用户行为建模中,可以把长期行为序列或搜索日志分块后用内部 evidence selector 去噪,只喂 top-n chunks 给生成器,避免无关历史干扰并降低 prefill/KV cache 成本;从 32K tokens 起 FLOPs 和 TTFT 优于 full-context。
- 训练用多正例 InfoNCE + hard negatives 而非简单 in-batch negatives;query 侧加入 BM25 初始上下文和 soft prompt tokens,保留检索模式,适合冷启动或小样本微调。局限是当前主要基于 Wikipedia QA,跨域迁移需验证,多向量存储成本较高。
T-Search:面向困难多步搜索的开源 Agentic 检索器与实验平台
🧭 Agentic 多步搜索与检索器训练 ★ 深度解读
T-Tech
开源权重 Agentic 检索器,以多轮短上下文搜索返回证据块,平均 Recall@10 达 56.0 并超越更大模型
📌 工作参考价值(4 点)
- 检索与生成解耦:把 agentic retriever 独立成服务,只返回证据块而非最终答案,下游生成器可替换;在电商搜索/推荐中,可拆分为召回证据 Agent + 答案/推荐生成模型,便于独立迭代与后端切换。
- 短上下文轮次 + 显式记忆:每轮 32k token 上限,丢弃前一完整 transcript,只保留 saved chunks、round summary、coverage、next goal,避免 context rot 影响判断;适用于电商多轮会话/Agent 工具调用,防止长工具输出堆积。
- 合成任务对抗过滤 + recall 奖励:训练数据通过整问检索、闭卷可解、支撑必要性等 shortcut 测试过滤,仅保留难任务;RL 以 chunk identifier 的 Recall 作为奖励,无需 LLM judge,适合商品/内容证据召回目标,奖励直接对齐最终 Recall。
- 后端可插拔与多 rollout 融合:模型只通过 search_corpus 工具访问文档,支持 dense/BM25/rerank 同 checkpoint 切换;3 个 rollout 用 RRF 融合可提升召回(55.96→61.33),适合广告候选生成等高召回场景,代价是 3 倍推理。
CLIMB:多模态检索增强生成中的置信度引导互补证据
🧭 多模态 RAG 互补证据与置信度控制
Rutgers University · Google
训练无关的多模态 RAG 框架,用互补证据池与置信度引导的迭代细化提升知识密集型视觉问答效果
📌 工作参考价值(4 点)
- 在商品图文问答、电商知识库检索中,可用 MMR 式去冗余代替单纯 Top-K,构建紧凑互补证据池,减少重复段落、提高信息覆盖。
- 多维度 critic 评分(相关性、证据特异性、跨模态对齐)比单一相似度更精细,可迁移到多模态商品信息或图文评论的检索排序。
- 置信度条件接受机制(只有置信度上升才更新答案)可作为 Agent 多轮检索-生成中的停止准则,避免无效迭代和 token 浪费。
- 训练无关、不改动底层 MLLM 与检索器,适合在现有 RAG 流程上快速灰度实验,验证推理侧优化收益。
跨语言检索中的查询感知路由与 LoRA 适配
🧭 跨语言检索 · LoRA 路由
ConfidentialMind
用 query-only LoRA 适配器加语言路由,跨语言检索平均 nDCG@10 提升 20.9%,同时保持同语言性能
📌 工作参考价值(4 点)
- 已有文档索引可以不变:只对 query 侧加 LoRA 训练,文档嵌入冻结复用,避免跨语言优化时重建全量向量库,适合电商/RAG 线上迭代。
- 语言路由是一种廉价的安全兜底:根据 query 语言和索引语言做确定性分支,同语言查询走原 encoder,跨语言查询走 adapter,可防止多语言优化回退同语言效果。
- LoRA 微调只用 query 塔,参数量小、训练快,且天然避免破坏原有同语言检索能力,适合在多语言商品库或本地化搜索场景做增量优化。
- 如果业务里已有跨语言点击/相关性日志,可以仿照该思路训练 query-only adapter,再配合简单语言 ID 路由上线,不需要改动召回链路。
单语检索增强生成中推理语言对齐的作用研究
🧭 单语RAG推理语言对齐
Johannes Gutenberg University Mainz · University of Colorado Boulder
在德语RAG问答中,对齐推理语言与查询文档语言可提升表现,但无法超越无约束英语推理
📌 工作参考价值(4 点)
- 构建多语言RAG评测集时,可采用小众虚构领域(如特定游戏世界)迫使模型依赖检索而非内部知识,避免记忆污染,验证检索能力。
- 多语言业务(如跨境电商、多语种搜索)中,若需要LLM进行推理回答问题,不强制其推理语言与用户语言一致可能获得最佳性能;但若追求可解释性而强制推理语言,对齐查询/文档语言(如德语对齐德语)优于不对齐的强制语言(如法语),且性能接近无约束英语推理上限。
- 在agentic RAG循环中,使检索上下文更丰富和结构化(如保留文档结构信息)会增强推理语言对齐带来的收益,提示工程中可优先采用结构化文档表示。
- 可复用结论:模型的语言熟练度并非决定RAG性能的唯一因素,语言对齐本身有独立贡献,因此在实际系统中应根据业务需求在可解释性与性能之间权衡,不必盲目强制英语推理。
多模态 RAG 的自适应粒度证据压缩框架
🧭 多模态 RAG 证据压缩与迭代检索
POSTECH
CANOPY 用层级节点评分与父相对细化选择多粒度证据区域,结合 critic 触发补充检索,压缩 token 同时保持准确率。
📌 工作参考价值(4 点)
- 在电商多模态知识库/商品问答场景,对检索到的商品详情图、表格、视频片段构建层级表示,用微调的小型节点编码器做 query 相关打分,替代 LLM 逐节点判断,压缩成本低且可并行。
- 父相对细化:比较父节点与子节点得分的相对差异来选择保留区域,可迁移到商品详情页中“整块描述 vs 局部属性”的自适应裁剪,避免统一细粒度丢失关键上下文。
- critic 触发补充检索对多跳问题(如跨商品属性对比)很有价值:当现有证据不足时,主动发起针对性二次检索,可提升复杂 query 的答案质量;工程上可用轻量规则或小模型实现。
- 压缩减少 reader 输入 token 14.2–27.7% 且准确率不受损的结论,支持在 RAG 服务链路中加入后置压缩模块,降低 LLM 输入成本,适合线上成本敏感场景。
Matryoshka 层次化 RAG 实现高效多跳问答
🧭 层次化 RAG · Matryoshka 与实体预算 ★ 深度解读
Polytechnic University of Marche · University of Modena and Reggio Emilia
结合 Matryoshka 嵌套表示与层次聚类 DAG,用实体预算与锚定控制实现高效多跳检索,在三个多跳 QA 基准上取得最佳质量与效率
📌 工作参考价值(4 点)
- 用 Matryoshka embedding 做分层索引替代重型图索引:电商商品/内容知识库可按类目→子类目→商品构建层次聚类,上层用低维前缀(如 64/128 维)、底层用全维(768 维),响应时间比 FAISS 全维检索降低约 35-47%,聚类质量不降。无需 LLM 摘要或 KG 构建,离线成本比 GraphRAG/LightRAG 低几个数量级。
- 实体预算迭代检索替代 LLM planning:在商品多跳场景(如“某系列配件的兼容型号”)中,用查询和已检索文档的实体数量控制每轮检索文档数,用实体 Jaccard 重排候选,避免多次 LLM 调用,同时保持多跳覆盖能力。可迁移到 Agent 的检索工具中,降低 query 成本。
- 锚定机制防 query drift:迭代检索时动态提高原始 query 权重 β_t = |R_{t-1}|/K,平衡累积上下文和原问题,防止语义漂移。在 Agent 多轮检索或 PRF 场景中可直接复用,作为轻量正则。
- p-nearest 冗余覆盖容错:每个节点关联多个父簇(p=2)可缓解贪婪自顶向下无回溯导致的漏检;在类目体系不完美或边界模糊的电商知识库中,保留多条路径能提高召回鲁棒性。
仅用 In-Context 示例实现无需训练的 Dense Retrieval
🧭 LLM 免训练 dense retrieval ★ 深度解读
University of Waterloo · The University of Queensland
RICE 用少量 in-context query-document 示例直接提示 LLM 生成 dense 表示,免训练,在 BEIR 上显著超越同类零样本检索方法
📌 工作参考价值(4 点)
- 电商搜索/召回可直接复用:用少量人工标注 query-商品对作为 in-context examples,prompt 自有 LLM 生成 query 侧向量和商品侧向量,再接入 FAISS 做 ANN 召回,省去微调检索模型;商品侧离线预计算,query 侧实时生成,工程上可用 vLLM 加速。
- 动态 exemplar selection 值得落地:查询时先用 BM25 从示例池检索与当前 query 最相似的示例,能进一步提升召回(FiQA/NFCorpus/SciFact 上均有增益),适合电商 query 改写或召回场景。
- 通过换更大/更强的 LLM 可直接提升检索效果,无需重新训练,RICE 用 Qwen3.5-9B 比 Qwen3-8B 平均高 1.6 点,说明 LLM 能力提升能直接迁移到检索表示。
- 示例标签不必精准:同域 query-doc 对(甚至 random / non-relevant 对)都能带来提升,shuffled/blank 代表词影响很小;因此收集少量同域语料即可,不必精细标注相关性,但要避免跨域示例。
重排序与晚期交互驱动检索质量:科学问答 RAG 策略受控对比
🧭 RAG 检索策略对比评测 ★ 深度解读
San Jose State University, Department of Computer Science
在46万篇arXiv语料上系统对比6种RAG检索管线,ColBERT晚期交互与改写加重排效果最好,融合与Agent检索反不及基线
📌 工作参考价值(4 点)
- 电商商品搜索/内容推荐的知识增强检索中,若当前向量召回是单向量池化,可优先评估 ColBERT/PLAID 这类 late-interaction 索引:同语料下 Hit@3 从 47–53% 翻倍到 93–95%,对最终生成质量有直接提升;代价是建索引与检索成本更高,适合高价值 query 或小规模候选集召回。
- LLM 查询改写不能单独上:改写可能让 query 漂移,尤其意图型 query 的 Hit@3 反下降(39.7% vs 46.3%)。实践中若上改写,必须接一个 reranker(listwise LLM rerank 或 cross-encoder),让改写+重排作为整体管线,否则不如直接 raw query 检索。
- 多查询融合 RRF 和 Agentic tool-call 在这些实验里没有带来增益,反而显著低于经典基线;业务引入 agent 自主决定是否检索时需要明确回答率与成本约束,不能因为“更智能”就默认更好。
- 评测设计可复用:固定 generator、prompt、文档池,用配对查询差异(paired delta + 95% CI)而非只看均值;LLM-as-a-judge 用不同模型家族以避免 self-preference;同时报告 answer rate 和 conditional score,避免拒答/零分扭曲结论,并报告 Hit@1/Hit@3/MRR@3 与生成质量的相关性。
通过 LLM 引导剪枝改进最近邻图索引
🧭 LLM 离线精修图索引 · 语义检索 ★ 深度解读
University of Wisconsin–Madison · MIT
提出 LGP,在 DiskANN/HNSW 图索引上离线用 LLM 替换低价值邻居,弥合几何构造与语义评估错配
📌 工作参考价值(4 点)
- 可在现有 HNSW/DiskANN 等图索引上增加离线 LLM 精修环节:对每个节点,用两跳非邻居构造小候选池,先按结构冗余/两跳可达性筛到 M=12~24,再让 LLM 只选 B=2 个语义互补候选替换低价值边;不改查询链路,直接提升低 search width 下的召回与 NDCG。
- 该方法的收益在窄 search width/低距离计算预算下最大,适合召回候选受限、重排器无米下锅的场景;可作为索引侧优化,和 query-time rerank/RGS 等互补。
- 工程上 LLM 调用只发生在离线构图阶段,按节点短list 调用,成本可控;可先对高流量 query 相关节点或重要类目做部分精修(β=0.25/0.5),再逐步放开到全图。
- 语义选择模型越强收益越明显(Qwen3-32B > Qwen3-8B),且对 embedding 模型鲁棒;建议用非推理模式的小 LLM/VLM 控制成本,避免破坏图导航。
陈旧文档毒化:过期检索覆盖模型正确答案
🧭 RAG 时间适用性 · 陈旧文档毒化 ★ 深度解读
University of Southern Denmark
发现RAG中过时文档可使模型在原本正确时被翻转,并定位为选择性信任失败
📌 工作参考价值(4 点)
- 在电商/客服 Agent 的 RAG 知识库中,为文档增加生效/失效日期或 supersession 关系,检索后先判断文档是否仍在适用期,而不只是发布时间或相关性。可作为索引字段或后置过滤。
- 提示词里避免全局“遵循检索文档”指令,改为要求模型结合文档的适用期限判断;必要时显式给出“该推荐自 X 日期起失效”,能显著提升大模型对过期内容的抵制。
- 检索侧可加 recency-aware hybrid re-ranker,但必须确保时间元数据可靠;日期缺失或错误时收益消失甚至反转,因此需要元数据治理。
- 评测 RAG 时增加“反向毒化”指标:只统计未检索时答对、检索后答错的样本,观察过期文档是否推翻已有正确知识;同时测试匹配的当前文档是否被遵循,以区分全面失败与选择性信任失败。
返回还是修订?学习何时修订能改善检索增强问答
🧭 RAG 答案修订决策
DCS Corp · Air Force Research Laboratory
提出 recoverability 配对效果并训练 scorer,决定 RAG 中是否修订草稿答案,在 9 组设置中优于草稿置信度 scorer
📌 工作参考价值(4 点)
- 在 Agent/RAG 工作流中,不要默认「检索后一定修订」。可离线构造配对数据:用同一 judge 给草稿和修订后的答案打分,训练 recoverability scorer 来决定是否执行修订,避免过度修订带来的时延和成本。
- 评价修订策略时,除了 accuracy,使用 accuracy–revision-rate 曲线和 oracle gap 指标;这能区分「修订有价值」和「修订只是增加调用次数」。
- 如果系统已经有标准 RAG 答案,优先把决策建模成「草稿 vs RAG 答案」的二选一,而不是为复杂的三选一引入候选修订;实验表明增加第三个选项无显著收益,工程实现更简单。
- 对电商客服问答、商品问答等场景,可用业务评判器标注「修订后是否解决、是否引入错误」,训练一个轻量 scorer 控制检索修订的触发,减少不必要的检索和生成开销。
非对称动态路由:平衡超图RAG中的推理深度与计算效率
🧭 查询自适应超图RAG路由
School of Software Engineering, Xi’an Jiaotong University · State Key Laboratory of Human-Machine Hybrid Augmented Intelligence, Institute of Artificial Intelligence and Robotics, Xi’an Jiaotong University · EHV Power Transmission Company of China Southern Power Grid Co., Ltd
提出意图条件路由框架ADR,用轻量分类器动态调度三种非对称拓扑遍历算子,减少48.7% token和45.3%延迟
📌 工作参考价值(4 点)
- 在电商知识问答/导购Agent中,对用户query做轻量意图分类:事实型查询(如“某商品材质”)走局部事实锚定,减少全图遍历;对比/推荐理由类查询走自底向上邻接扩散,获取关联实体;策略/选品建议类查询走自顶向下洞察接地,引入高层抽象知识。
- 可复用“非对称遍历算子”设计:不同意图对应不同图计算代价,避免静态RAG对所有查询执行同等深度检索,显著降低prompt token和端到端延迟,适合高并发在线推荐场景。
- 若已有商品知识图谱或用户-商品异构图,可参考ADR的层次路由思路:在召回/排序前置一个轻量分类器,动态决定图扩散深度与方向,平衡效果与算力,尤其利于边缘部署或成本敏感业务。
- 结果表明动态路由能在保持推理质量前提下节省近50% token,对依赖LLM做导购解释、推荐理由生成的业务,可降低API成本并提升响应速度。
基于领域适配检索增强生成的金融合规自动化问答
🧭 RAG 领域适配与忠实性评估
University of Bonn · Lamarr-Institute for Machine Learning and Artificial Intelligence · Universitat Rovira i Virgili · Fraunhofer IAIS
用三阶段领域适配检索器与 RAFT-LoRA 微调紧凑模型,显著提升合规问答召回但暴露 grounding 评估缺口
📌 工作参考价值(4 点)
- 检索器领域适配可采用三阶段训练:entailment tuning 将 question-passage 匹配重构为 premise-hypothesis 重建,再用 in-batch negatives 做对比学习,最后与 BM25 做 score-level fusion,能大幅提升 Recall@10。
- 生成侧用 4-bit 量化的 2B-12B 小模型 + RAFT-LoRA 微调可提升答案质量,且对小模型收益更大;适合对延迟和成本敏感的场景,但需注意 RAFT 需要检索上下文。
- 评估 RAG 生成质量时,RePASs 这类综合分不能证明忠实性:闭卷模型得分与全 pipeline 仅差 0.011,却不引用且误报义务。业务中必须单独设计 grounding/citation 评估,不能只看端到端分数。
- 领域适配后的模型跨域迁移差(文中从 ADGM 规则到澳大利亚判例法失败),若业务要覆盖多法规/多语料,需分别适配或多任务训练。
Seek:面向知识检索的自评估探索式迭代检索框架
🧭 LLM 迭代式检索与相关性反馈 ★ 深度解读
University of Waterloo · Mila – Quebec AI Institute · University of California, Berkeley · University of Toronto · Toronto Metropolitan University
训练无关的迭代检索框架,用 LLM 生成伪段落扩展 query 并分级评估反馈,突破单次检索 recall 上限
📌 工作参考价值(4 点)
- 用「LLM 生成 pseudo-passage 扩展 query → 重新召回 → LLM 分级标注」的测试时循环替代固定候选池 rerank,能在不训练排序模型的情况下找回 BM25 漏掉的商品/内容;电商搜索中可让 LLM 根据 query 生成伪商品描述、属性组合或场景描述来提升长尾和复杂约束 query 的 recall。
- 显式利用正负反馈:高分结果强化有效 facet(风格、价格带、使用场景),低分结果作为 drift 在下一轮 prompt 中抑制,而不是只做简单二值相关;可借鉴 UMBRELA 0-3 分级判断,使后续 query 扩展更精准。
- 成本控制设计可直接复用:每轮只评估 top-K 未见文档、最多 T 轮、top-K 全为最高分或连续两轮 top-K 不变时早停;工程上不需要全库 dense embedding,适合快速接入已有搜索链路。
- 最终排序采用两阶段:assessor 打过分文档按 grade 优先、未评估文档按 retriever 分数补位;对 Agent 检索工具友好,因为输出的是已评估的可解释候选池,比原始 BM25 更适合下游推理或商品推荐生成。
VLM 长文档问答流水线的实证研究
🧭 长文档 VLM QA 流水线实证
Amazon
图像检索 top-k 页面输入是 token 效率与准确率均衡选择,Agent 收益随 VLM 规模增大才显现
📌 工作参考价值(4 点)
- 在商品详情、说明书、财报等多模态长文档处理中,优先尝试图像 embedding 检索 top-k 页面/区块而不是全量文本入库,token 可降到全页输入的 1/7 到 1/4,且准确率不降反升。
- Agent 工具调用(page/table/figure/search)不是小模型的免费午餐:Qwen3.5-4B/9B 上落后静态页面输入,27B 才持平,Sonnet 4.5 才领先。实际选型时先评估静态管道,再决定是否把预算花在 agentic 流程上。
- 文本检索侧一个现成 cross-encoder rerank 就能匹配很重的多阶段 LLM 管道,工程上可用轻量 reranker 替代 LLM 重排,节省成本和延迟。
- 最强流水线之间互补,oracle 路由能提升约13点,但证据类型路由几乎无效;说明自动路由很难,可先通过人工分析问题类型或构建更强路由特征,不要盲目上路由模型。
信任与否:语音检索增强事实核查
🧭 语音事实核查 · RAG+CoT
IISER Bhopal · King's College London · MBZUAI
提出语音事实核查基准 VeriSpeak,揭示文本-语音模态差距,并验证检索+显式推理准确率达86.1%
📌 工作参考价值(4 点)
- 直播/短视频事实审核:在电商直播、短视频带货中,虚假宣传检测可用「语音输入 + 文本检索证据 + 显式推理」管道;仅拼接检索片段容易被模型混淆,应加 CoT 要求先区分“声明”和“证据”再判断。
- 模态差距评估:如果现有文本事实核查/内容安全模型被用于语音转写后的文本,要意识到可能存在系统性能下降;上线前需在真实语音或 TTS 基准上评估,或直接用 LALM 处理音频。
- RAG 防混淆设计:召回证据后,可在 prompt 中用角色/字段显式隔离 claim 与 evidence,并要求模型输出“一致/矛盾/无关”的结构化判断,这比直接给混合上下文更稳。
- 业务基准构建:可参考 VeriSpeak 的 probe 设计,构建电商领域 spoken claims 小样本(如功效、产地、价格承诺),快速对比不同 RAG+推理组合。
查询联盟:学习检索动作
🧭 RAG 检索动作控制 · LoRA 轨迹微调
University of Passau
用 teacher search traces 将 RAG 检索决策建模为 7 路动作预测,LoRA 微调小模型作为控制器,动作 F1 0.6536、端到端 EM 0.7946
📌 工作参考价值(4 点)
- 把 RAG/Agent 中隐式检索决策显式化为结构化动作空间(decompose/search/reformulate/extract/verify/stop),用 teacher trace 构造分类数据,LoRA 蒸馏到 3B 小模型;电商客服、搜索 Agent 需要低延迟可控检索时,可用 action head 替代自由生成,提高稳定性和可观测性。
- LoRA 监督微调小模型从 trajectory state 预测 next action,比 zero-shot prompting 高约 3.7 倍,可作为轻量路由器放在检索前,减少大模型调用;线上先判定动作类型再分发给对应工具,类似 query 改写/意图路由。
- TF-IDF + logistic regression 基线达到 0.5399,说明动作控制任务中词法特征很强;业务数据量小或冷启动阶段,先上线性模型做 sanity check,再逐步上 SLM。
- 单一小模型同时承担 controller 和 generator,端到端效果提升且减少服务编排复杂度;对资源受限、链路长的实时搜索/推荐 Agent,可考虑合并角色降低链式延迟。
计算而非几何:意义同一性是计算产生的,不是嵌入自带
🧭 RAG 语义向量假设的实证挑战
Independent Researcher
系统实证显示同义改写判断依赖句子在同一前向中的联合计算,冻结双塔向量几乎无法读出该关系
📌 工作参考价值(4 点)
- 同义 query 归一化、商品标题同款识别、广告文案去重等任务中,不要依赖双塔向量 cosine 相似度(AUC 仅 0.55-0.65)。直接用 cross-encoder / 联合前向读头,或现成 BGE-reranker-large(AUC 0.94),1.5B 联合 probe 即可达 0.90+,成本可控。
- 搭建召回/检索时,dense 双塔召回对 paraphrase 类语义不够敏感,建议增加 hybrid retrieval,并用联合注意力的 reranker 做第二跳,而不是期望单塔召回解决含义等价问题。
- 若为线上性能必须保留双塔结构,可从联合教师模型(如 BGE-reranker)蒸馏分数到小型联合读头或非线性 pair 模块;但注意 bi-encoder 直接 fine-tune 到 paraphrase benchmark 会显著损失 STS-B/QQP 迁移(Spearman 下降约 0.25),需任务隔离或加通用损失。
- 对 query 改写、push 文案、广告创意等生成后需要判断"是否同一意图/同义"的场景,优先用 LLM/联合编码核对,而不是保存的句子向量比较。
评估土耳其语领域文档中开放权重 LLM 的检索与硬件约束表现
🧭 RAG 评估与本地硬件约束
Edge Hill University, United Kingdom · Ermetal Otomotiv ve Eşya San. Tic. A.Ş., Türkiye
提出证据标注评估协议,分离检索失败与推理失败,发现 4-bit 量化下字符 TF-IDF 检索基线足够强
📌 工作参考价值(4 点)
- 证据标注评估协议可复用:为每个问题标注证据位置,不增加额外模型调用即可把错误拆成「检索没召回」和「模型读到了但答错」。电商/推荐场景做 RAG 或知识库问答评估时,直接照搬这套标注方式,能快速定位是召回侧还是 LLM 生成侧的问题。
- 不要盲目追复杂检索器:7 种 lexical、dense、hybrid 检索配置在统计检验下都没显著超过字符 TF-IDF 基线。业务上如果文档量不大、语言形态丰富(如土耳其语、商品标题/详情),可以先上字符 TF-IDF,再逐步验证 dense/hybrid 的真实增益。
- 4-bit 量化 + 6GB VRAM 本地部署可行:7B-8B 模型在 RTX 3050 上可跑文档问答,端到端准确率 49%-75%。对需要数据隐私或低成本推理的电商客服/选品分析场景,有参考价值;但要注意模型间差异和证据召回饱和现象。
- 统计检验优于看平均分:用 95% Wilson 区间和配对 McNemar 检验比较检索配置,能避免少量样本上的假增益。做策略 AB 测试或检索方案对比时,建议引入同类显著性检验。
双超图索引:桥接知识孤岛以支持 RAG 多跳推理
🧭 RAG 索引 · 超图聚合
School of Software Engineering, Xi'an Jiaotong University · State Key Laboratory of Human-Machine Hybrid Augmented Intelligence, and Institute of Artificial Intelligence and Robotics, Xi'an Jiaotong University · EHV Power Transmission Company of China Southern Power Grid Co., Ltd
提出 Dual-Hypergraph Indexing,以双层超图与双路径聚合提升多跳 RAG 的逻辑连贯性与推理能力
📌 工作参考价值(4 点)
- 在商品/内容知识库 RAG 中,可显式分离实体-关系事实层(商品属性、品牌、活动事实)与深层洞察层(增长归因、趋势结论),避免单条事实孤岛导致多跳推理断裂。
- 用 5 维拓扑指标 + adaptive thresholding 做 hub 聚合,可迁移到用户-商品异构图或类目树,自动发现核心类目/品牌/场景簇,提升召回与解释性。
- 对于时效敏感场景(大促、热销榜、活动节奏),采用滑动窗口 + greedy exploration 聚合时间链,让索引保留时序演变,防止旧事实污染新推理。
- 评估多跳 RAG 时,除了单条证据命中,应增加逻辑连贯性、因果链完整性等指标,可设计跨 session/行为链的业务 QA 集。
TEMPS:面向时间信息检索的时间句嵌入模型
🧭 时间感知检索 · 模块化时间分支
SAMOVAR, Télécom SudParis, Institut Polytechnique de Paris · Aldebaran Care
在冻结语义检索器上附加时间分支,用时间表达式 grounding 提供监督,提升时间敏感检索
📌 工作参考价值(4 点)
- 可直接复用到电商搜索:商品标题、query 中常含“2023 新款”“夏季促销”“去年款”等时间表达,冻结现有语义双塔模型,增加轻量 temporal branch,解析时间区间并计算 Gaussian-KL 包含度作为时间相似度分数,在召回/排序阶段与语义分数加权融合,无需重新训练主模型。
- 训练 supervision 来自时间表达 grounding,不需要人工标注时间相关性数据,适合业务中大量无标注文本;可在现有商品库/搜索日志上自动构造时间锚点对。
- 时间分数设计为分布包含度量(KL inclusion),适合处理模糊时间词如“近三年”“最近夏天”,比精确日期匹配更鲁棒;可直接用于 RAG 知识库的时效性过滤,避免过期内容被检索。
- 工程实现上 temporal branch 参数少、冻结 backbone,线上推理开销小,可作为排序阶段的一个独立特征接入现有点击/转化模型。
MemoryAthena:潜在记忆与生成记忆的自适应路由
🧭 记忆增强 LLM · 检索与生成记忆自适应路由
ELLIS Institute of Finland · University of Turku · University of Technology Sydney · University of Science and Technology of China · Shanghai Jiao Tong University
冻结骨干下训练轻量因果路由头,以 Engram 检索为锚对生成记忆做有界插值干预,QA/NLP 多任务平均提升
📌 工作参考价值(4 点)
- 在 RAG / 记忆增强推荐或 Agent 系统中,可把直接检索结果作为 anchor,生成式候选只做有界插值;当路由判断收益为负或不显著时回退到检索结果。这种“拒绝即恢复 baseline”的设计适合线上安全上线,避免生成内容污染原始记忆。
- 冻结大模型主干,仅训练轻量因果路由头,用反事实未来 token 似然优势作为监督信号。业务上可对用户/商品记忆的多路候选(如 item embedding、LLM 生成的用户兴趣 summary、序列隐状态)训练一个小 router 决定选用或融合,无需微调主模型。
- GE 和 GH 的分离值得借鉴:一路从检索到的线索生成,一路直接从模型 contextual state 生成。推荐场景可分别对应“基于召回的候选生成”与“基于用户序列隐状态的候选生成”,并让 router 在两者之间选择或插值。
- 论文中的 oracle 互补分析提示:多路记忆虽然真实路由头不能完全释放上限,但可离线构造 gold-label oracle 评估各路潜在价值,再决定是否投入训练更复杂的 router。
知识拉取请求:持续文档编写的可解释更新框架
🧭 RAG 文档维护 · 可解释知识更新
Johns Hopkins University
提出 KPR 框架,将文档更新拆为 Claim Proposal 与 Document Diff,使每次知识变更可审计,并显著提升信息整合与内容保留
📌 工作参考价值(4 点)
- 可以把知识更新与文本改写解耦:类似电商商品详情页、帮助中心、政策文档的持续维护,先产出 Claim Proposal(新增/冲突事实),再产出 Document Diff,让运营/审核先确认“改了什么知识”,再确认“改了什么文字”,降低审核成本。
- Claim 抽取 + 路由到 section 的机制可复用到多来源商品信息整合:例如从不同供应商、不同语言描述中抽取结构化卖点,自动匹配到详情页对应模块,并标记冲突价格、规格、功效等。
- 对 RAG 知识库动态更新有直接参考价值:与其定期全量重建索引,不如维护一套主文档,用 KPR 方式增量合并新来源/新语言信息,同时保留 ChangeLog,便于溯源和回滚。
- 评估中“per token generated 的信息增量”值得借鉴:在生成式推荐/文案场景中,不仅看最终文本质量,还可以追踪每次修改的知识增量,避免大模型冗长改写却未新增有效信息。
文档检索感知分块 D-RAC:通过 PDF 归一化与多模态 Markdown 转换实现通用企业文档摄入
🧭 企业文档 RAG 摄入与分块
AI Research Team, Yellow.ai
D-RAC 将任意文档先归一为 PDF,再用多模态 LLM 转检索优化 Markdown 后按 ID 规划分块,显著降本
📌 工作参考价值(4 点)
- 对电商/广告团队构建产品文档、招商政策、客服知识库等 RAG 时,可先统一归一化为 PDF,再用单个多模态 LLM 转 Markdown,避免为 DOCX/PPTX/XLSX/扫描件分别开发解析器。
- 将表格改写为自包含 prose、保留标题层级,能显著提升商品规格表、价格政策等表格密集文档的 chunk 检索召回。
- 分块规划只在 ID 层级做、不重写文本,既降低 token 成本又避免幻觉,适合离线大批量摄入文档并保持可复现、可审计。
- 报告中 token 减少 95.7%、分块成本降低 77.8%~85.6%、时间降低 75%、线性扩展到 500+ 页,可直接作为内部 RAG 摄入预算与架构选择的参考。
多跳检索可预测失效:分数分布置信度评分与弃权
🧭 RAG 多跳检索 · 置信度评分与弃权 ★ 深度解读
提出基于检索分数分布特征的轻量级置信度评分RCS,实现多跳RAG的校准弃权,降低高置信错误率
📌 工作参考价值(4 点)
- 利用检索分数分布特征(top-k最大分数、margin、lift、top3均值、熵)构建零额外LLM推理的置信度评分RCS,可在电商搜索/推荐召回后实时判断结果可信度(<1ms),对低置信query触发精排兜底或人工介入,避免高置信错误。
- 定义CWAR并采用弃权策略:在覆盖率-准确率曲线上根据业务目标选择阈值,可在规定错误率下最大化自动回答覆盖率,适合电商导购Agent中控制高成本错误。
- 特征互补性结论:不同领域的数据集中主导置信度特征不同(如query长度 vs hop-1分数集中度),提示我们不要依赖单一检索分数阈值,应使用多特征逻辑回归融合,增强跨场景稳健性。
- 跨域迁移性:该置信度模型跨数据集迁移仅损失0.5pp AUC,说明这些结构性特征领域无关,电商多品类场景可通过少量标注数据训练得到通用置信度模型,降低标注成本。
FootprintRAG:科学文献探索中RAG证据上下文精炼的可视化分析系统
🧭 RAG 证据上下文可视化精炼
Computer Network Information Center, Chinese Academy of Sciences · University of Chinese Academy of Sciences · Hangzhou Institute for Advanced Study, UCAS · University of Technology Sydney · Western Sydney University
将RAG证据上下文显式化为可检查、可修订对象,通过LLM-agent与可视化视图支持多轮检索、证据精炼与溯源摘要生成
📌 工作参考价值(4 点)
- 在商品知识库问答或客服 RAG 场景,把检索到的证据片段(商品属性、用户评论、政策条款)显式呈现为可勾选/排除的候选列表,生成前允许业务人员修正证据上下文,减少隐式过滤导致的错误答案。
- 引入多轮检索轨迹可视化:记录每轮 query 变体、召回、重排和采纳/丢弃状态,便于调试 RAG pipeline,定位漏召回或误排序原因,类似检索评估矩阵。
- 用 LLM-agent 自动化证据评估与补充候选生成:对每条证据打分并基于语料级证据空间推荐 ERS 排名补充候选,可迁移到广告文案生成中的素材/卖点证据挖掘与推荐。
- 摘要生成支持 provenance-aware,每条结论可追溯到来源证据单元,适用于电商导购内容合成或商品推荐理由解释,增强可信度与合规性。
RAFT:面向故障排查 Agent 的有状态检索增强框架
🧭 有状态 RAG 检索层用于故障排查 Agent
Microsoft
将历史案例建模为有向时间线条目链,在条目级检索匹配中间状态,显著提升案例命中率
📌 工作参考价值(5 点)
- 将长流程业务数据(如售后工单、客服会话、广告异常处理)建模为有向时间链条目,用条目级 embedding 检索,能匹配中间状态而非仅整篇相似度,提升问题定位精度。
- 检索时返回锚定在匹配状态的父案例轨迹,而不是完整长文档,可减少无关上下文噪声,降低后续 LLM 推理成本与干扰。
- 利用可配置相似性表示构建案例级图,可连接相似案例用于图检索或辅助导航,适合构建案例库的推荐和聚类功能。
- 只评估检索层(Case Hit)而非整个 Agent 系统,无需生产部署即可快速迭代检索策略;在业务中可先离线验证检索质量,再集成到在线 Agent。
- 合成数据结合真实标签数据(如 Jira duplicate labels)验证迁移性,对有标签的真实业务数据可低成本验证方法有效性。
规范文档问答的版本与适用范围感知系统及生产规模评估
🧭 规范RAG · 版本与范围治理
Beijing Caizhi Technology Co., Ltd. · dknownAI
将显式版本与适用范围规则置于生成前,使规范文档问答得分从88.1提升至97.7
📌 工作参考价值(4 点)
- 对业务知识库问答(平台规则、政策、广告合规)不能只用向量检索 + LLM 生成:必须显式解析文档的生效版本、适用主体/地区/日期,过滤不适用文档后再生成。可直接建模为元数据规则层置于检索与生成之间。
- 生产级评估避免“拿测试集调参”:分层抽样 200 题、每题绑定 gold 源文档、采样规则不读系统输出,能客观对比不同 RAG 架构;建议业务方也公开部分标注与脚本。
- 若托管检索服务作为 baseline 得分 88.1,治理系统提升 9.6 点,说明规则性 scope/version 错误是主要损失,值得优先投入。
- 商业化部署已经验证多租户稳定性(1,126 用户、约 10 万 calls/workday),架构上治理规则应可配置、可追踪,而非写死在 prompt 里。
文档应该存在哪里:上下文、表示还是参数?
🧭 知识注入位置对比 · KV vs LoRA ★ 深度解读
Amazon AGI
系统对比知识注入三种位置,Cartridges(KV)在多文档检索中唯一匹配 ICL,但高压缩下有遗忘
📌 工作参考价值(4 点)
- 电商/搜索的高频文档(商品详情、活动规则、广告素材)可以预计算成 KV-cache adapter(Cartridge)在线复用,避免每次查询重复 prefill 原文;20× 压缩下加载 10 个 adapter 约 30–50ms,10× token 减少约带来 100× prefill FLOPs 下降,适合低延迟在线服务。
- 多文档组合场景下,不要用「每个文档训一个 LoRA 再合并」替代检索,尤其信息密集任务;论文显示一个 distractor 就能让合并效果崩溃(FinQA k=3 时 34.5→4.9)。若必须用参数化方式,joint training 优于 adapter merging,但仍不如可拼接的 KV-cache。
- 训练知识注入 adapter 时,用蒸馏目标(teacher = 原文 in context,student = adapter)比普通 next-token CE 平均高 4 个点,在数值推理/金融类任务上收益更大;可直接迁移到商品属性提取、活动规则问答等场景。
- 上线前要评估通用能力退化:LoRA 低秩约束更稳,full FT 和大 MLP adapter 遗忘严重;如果使用 Cartridge,可考虑用 Compaction 初始化 KV cache 来缓解 HumanEval 类代码能力下降(论文中下降了 16 点)。
预测智能体RAG中部分答案质量与效用
🧭 Agentic RAG 轨迹质量预测与早停
University of Glasgow
提出轨迹内探针框架,预测Agentic RAG中间答案质量与增量效用,实现约11%早停节省且保持98%质量
📌 工作参考价值(4 点)
- 在电商/购物助手的多跳 Agentic RAG 场景中,可在每次检索-推理后强制生成一个 partial answer,用轻量回归/分类器实时预测其质量或增量效用,作为动态早停信号,而非固定最大步数;论文显示可省约 11% 迭代次数且仅损失约 2% 最终质量。
- 可借鉴的三类轨迹特征:intra-iteration(当前检索结果与 query 的相关性、query 特异性)、inter-iteration(partial answer embedding 漂移/趋于稳定)、query-iteration(query 改写相似度),组合成在线 guardrail,适合低延迟、高吞吐的推荐/问答服务。
- 质量预测比效用预测更可靠(Pearson r > 0.43 vs. 效用更低),工程落地时建议以质量阈值/置信度为主要停止判据,效用 delta 可作辅助信号或用于异常检测,避免因效用预测噪声导致过早切断有效推理。
- 商品搜索/导购场景中,用户问题常需多轮查询细化,可把该框架扩展到“是否已获得足够商品信息”的判定,减少无效检索与 LLM 调用,同时保持答案完整度。
CiteGuard-RAG:以验证为中心的证据支撑问答系统
🧭 验证中心RAG架构
Department of Computer Science, Western Michigan University
集成混合检索、引用约束生成、句级grounding验证与单次重生成,在最终交付前决定接受、拒绝或重生成答案
📌 工作参考价值(4 点)
- 在电商客服/商品问答中,可将验证作为独立运行时组件放在检索和最终回答之间,对生成答案做句级引用校验,避免给出无依据的售后政策或参数。
- 混合语义-词汇检索(受控数据集检索准确率99.1%)值得借鉴:商品知识库/店铺政策QA可结合BM25和向量检索,提升证据命中率。
- 单次重生成机制:验证失败时先尝试基于检索证据重新生成,若仍不合格则拒绝回答;适合价格、退换货规则等高合规风险场景,防止误导用户。
- 引用约束生成要求逐句标注来源,便于线上审核和用户信任;可用于广告文案合规检查,确保每句声称都有依据。
CiteShade:多源检索增强生成中的引用洗钱攻击及其反事实防御
🧭 RAG 引用安全与防御
City University of Hong Kong
提出首个 RAG 引用洗钱攻击,展示如何让模型把错误答案归因于可信源,并给出反事实防御。
📌 工作参考价值(4 点)
- 在构建基于 RAG 的搜索/问答/推荐解释系统时,不能默认引用真实可靠:攻击者可通过单一恶意源污染多源上下文,需引入引用链路验证机制,单纯检查答案困惑度或引用支持度不够(本文已证明可被绕过)。
- 借鉴反事实防御思路:在线生成后执行“源删除”或干预测试,观察答案是否改变,以检测哪个来源真正驱动了答案,可作为校验模块部署在生成链路末端。
- 漏洞与模型的引用倾向相关而非模型规模,选型时应实测模型在引用指令下的“易受骗程度”,优先选择引用倾向低或约束引用格式的模型,而不是只看参数规模。
- 在多源外部数据接入(商品描述、用户评论、广告文案)时,建议对来源可信度分级,并对引用来源做隔离或加权,防止低可信来源劫持高可信来源的引用。
量级幻象:重新思考推理密集型检索中的置信度
🧭 RAG 检索置信度与拒答优化
UNSW Sydney · University of Innsbruck
发现相似度分数大小在逻辑/时间推理查询中失效,提出零成本的分数分布信号可显著提升检索拒答 AUROC
📌 工作参考价值(4 点)
- 在电商/客服/广告的 RAG 场景中,不要用原始相似度分数阈值做检索拒答;直接计算 top-1 与 top-k 的 Score Gap(s1 - sk)或 LSMV(局部分数均值与方差),零成本替换 magnitude thresholding。
- 对于需要逻辑/时间约束的查询(如“价格低于500且评分4.5以上的红色连衣裙”),语义相似度分数会误导置信度判断,必须引入分数分布信号,否则拒答策略接近随机。
- 工程实现上,只需在召回后保留 top-k 的分数向量,在线计算 gap / variance,无需额外推理或模型加载;可先离线在 reasoning-intensive 查询集上验证 AUROC,再决定是否上线。
- 评估检索器或 RAG 流水线时,除了 recall/NDCG,建议加入基于分布信号的 abstention AUROC,尤其在逻辑、时间推理类查询上,能暴露 magnitude 指标的盲区。
Top-K 不是混合检索的预算
🧭 RAG 混合检索预算优化
Southwest Jiaotong University
DiBud 以访问预算为输入,增量认证 RRF 排名精确前缀,用更少访问量保留混合检索质量
📌 工作参考价值(4 点)
- 将访问预算作为第一输入替代固定 Top-K 截断:在电商搜索/推荐混合召回中,向量与倒排融合常固定取前 L 条,但长尾查询成本波动大。可借鉴 DiBud,对每次请求设定硬访问预算(如最多读取多少候选),通过选择性访问动态决定每个通道的读取深度,保持延迟稳定。
- 增量认证与预算停止:DiBud 不会一次性计算完整融合,而是逐步输出已确定顺序的 RRF 前缀,预算耗尽即停止。推荐系统可据此实现流式/增量融合,优先保证已认证 top 项的正确性,并设置强制停止点,降低线上最坏延迟。
- 质量保留校准:用 held-out 查询校准预算参数,在满足 95% nDCG 保留的前提下大幅减少访问。可以按不同流量桶/查询类型离线校准预算,线上按查询特征动态选择预算,替代全局统一 Top-K,实现成本与质量的最优折中。
- 长尾成本意识:论文显示完成精确 Top-20 的访问分布长尾,少量高成本查询拖累系统。应监控访问成本分布,对异常高成本查询设置兜底预算。
你的检索器已经知道:面向RAG检索充分性的分布形状QPP
🧭 RAG检索充分性预测 · 分布形状QPP ★ 深度解读
Department of Mathematics, FNSPE CTU in Prague · Institute of Information Theory and Automation, Czech Academy of Sciences
24个分布形状特征2ms预测RAG检索充分性,AUROC 0.856超过LLM judge 0.649
📌 工作参考价值(4 点)
- 在电商/搜索推荐RAG链路中,可以用检索/召回分数向量的分布形状特征(top1-top2 gap、top-10 std、decay slope、bimodal gap、gap concentration等)构造轻量「检索充分性/置信度」模型,判断top-k是否含可回答结果;无需读商品内容或调用LLM,2ms级在线可自动触发query改写、扩大召回或直接生成答案。
- LLM judge不要单独做置信度,把其分数作为额外特征加入小分类器(Logistic/Ridge/MLP)形成hybrid:在安全关键/对抗query上AUROC更高(SÚJB adversarial-detection 0.954),且误答率从12–16%压到6–7%;若LLM推理已在链路中,这种as-feature组合比单独judge更值得用。
- 多领域/多站点迁移建议用lean特征子集:全量24特征LODO从0.856掉到0.706,而13特征S1-Lean(8分布+5query-surface)恢复到0.719并改善校准;跨域部署优先选lean子集而非全量模型。
- 对无答案/对抗query检测,分数分布形状尤其有效:unanswerable query的top-k分数分布平坦,S1在SÚJB对抗检测AUROC 0.934 vs MaxSim 0.489;可作为推荐系统防冷启动、防误导、防幻觉的置信度开关。
REVA:可复用证据视图聚合实现上下文高效 RAG 服务
🧭 RAG 上下文压缩 · 注意力挖掘与复用 ★ 深度解读
VinUni-Illinois Smart Health Center, VinUniversity, Vietnam · University of Illinois Urbana-Champaign, USA
挖掘历史查询-文档注意力聚合为可复用证据视图,以极低在线开销实现高质量 RAG 上下文压缩
📌 工作参考价值(4 点)
- 电商搜索/推荐 RAG 场景中商品、评论、内容文档重复检索率高,可离线挖掘目标 LLM 对文档的注意力,构建文档级 evidence score store,线上只做轻量视图渲染,将压缩延迟从百 ms 级降到几十 ms。
- 借鉴 word-unit 聚合:不直接存储 token 级分数,而是合并为可读词单元(保护价格、型号、日期等短结构化片段),避免输出碎片化,便于审计与 Debug。
- 采用 budget-agnostic 的 score store:同一份文档分数支持不同 prompt 预算;local 等额配额是默认安全策略,global 按历史效用重分配适合证据分布不均的多跳/对比类场景。
- 注意兼容性 key(generator/tokenizer/template/corpus version),避免跨模型或语料版本错误复用分数;可用异步更新和指数衰减应对 query 分布漂移。
TimelyRAG:面向重叠演化文档的时间敏感混合检索框架
🧭 RAG 时间敏感检索
KAIST · Korea University · University of Vermont
提出 retriever-agnostic 的 TimelyRAG,用时间距离重排解决修订版本文档的时态问答,并发布 TimelyQABench
📌 工作参考价值(4 点)
- 电商/政策类文档常存在修订而非完全替换,如促销规则、商品参数、平台协议;可直接在现有向量检索后加一层 retriever-agnostic 的时间距离重排,无需重训 retriever。
- 将文档生效时间/版本区间与 query 的时间参考(显式或隐式)作为特征,设计 hybrid score = semantic similarity + λ·temporal distance,λ 可按业务数据调优。
- 构建评估集时,不要只用静态 QA 对;应加入同一政策/商品的多个修订版本,并标注 query 的时间锚点,避免语义重叠导致旧版本被误召回。
- 对 Agent 使用 RAG 的场景,建议在检索输入中显式加入当前业务时间或用户询问的时间上下文,防止动态信息(价格、库存、政策)过期。
VikingRAG:结构化文档的高精度低 token 检索增强生成
🧭 结构化文档 RAG · 目录感知存储与经验复用 ★ 深度解读
Renmin University of China · Independent Researcher · Fudan University
目录感知语义存储结合经验边与自适应升级,使结构化文档 RAG 精度持平 SOTA 而 token 降至 5.1%-32.5%
📌 工作参考价值(4 点)
- 将商品/政策/售后文档按目录树 URI 化,构建多粒度摘要(chunk 与 section abstract)的向量索引;语义召回结果带回 URI 路径,后续检索/读取限定在该子树,避免每次把完整目录序列化进 prompt,显著降 token。
- 用 Search/List/Grep/Read 四种工具切分检索动作:先语义粗定位到商品/政策条目,再按 URI scope 做关键词精确匹配,最后只读需要的内容验证证据;适合售后规则问答、广告审核政策、商品属性答疑等易漏召回场景。
- 把多轮 agent 检索成功的轨迹物化为 query-conditioned experience edges,相似 query 直接走边扩展召回,避免重复探索;可借鉴为在线服务中的“会话检索缓存/知识捷径层”,随真实 query 增量更新,降低重复路径 token 与延迟。
- 自适应 escalation:先用一轮 experience-augmented retrieval 生成候选答案,并要求 LLM 先列关键约束再判定证据是否充分,不充分才升级多轮 agent。工程上能把大多数 easy query 留在低成本路径,hard query 才触发高成本 agent。
合成数据何时有害:LLM Agent技能检索中的灾难性遗忘
🧭 LLM Agent 技能检索 · LoRA 遗忘缓解 ★ 深度解读
Manulife
在34,396技能规模上,朴素LoRA合成数据微调会遗忘真实/OOD任务;保守正则可保持OOD并提升分布内召回13.98%。
📌 工作参考价值(4 点)
- 在电商/广告召回或相关性模型微调中,真实点击/转化标注通常远少于曝光;若用LLM合成训练样本,优先选择低秩保守LoRA(如r=8、attn-only、lr=5e-6)并加LwF/EWC/anchor/L2-init正则,可降低真实流量OOD掉点风险。
- 上线评估必须拆OOD真实query:不能只看合成集指标。论文中激进LoRA在合成Ring提升,但真实Ring 3 Recall@10从0.850跌至0.650;因此要单独监控自然流量、长尾类目、未参与训练的场景。
- 轻量0.6B bi-encoder在技能检索上可匹配4B+BM25 hybrid(HIT@10=0.907),搜索/推荐召回侧可用小模型+FAISS降低成本;微调稳定性主要由LoRA rank控制,anchor weight影响较小,优先调rank。
- retriever与reranker分数融合可采用per-query min-max归一化后线性加权α;BM25等稀疏召回用RRF融合,避免不同分数尺度校准问题。
LiteRAG:高效图检索增强生成方法
🧭 图 RAG 低成本高效检索
Universitat Rovira i Virgili
用查询条件算法探索替代检索时 LLM 控制,显著降低图 RAG 多跳问答延迟与成本
📌 工作参考价值(4 点)
- 在电商知识库/政策规则/商品图谱等多跳问答场景,可把图检索中的在线 LLM 遍历或总结改为查询条件驱动的确定性算法,先做子图探索再构造上下文,避免每 query 调大模型,显著降本。
- 上下文不要塞入整个相关子图,而是按证据链/推理链选择边和节点;用 query-adaptive thresholding 动态控制保留范围,能减少大量无效 token,尤其适合店铺/商品/规则相关问答。
- 对图谱中的高连接度 hub 节点(如平台总则、大品牌/大店铺)做 community-aware 惩罚,降低宽泛上下文对生成的干扰;在电商商品知识图谱或活动规则图谱里可借鉴。
- 对已经上线 GraphRAG 的团队,可先审计在线路径;把 LLM 从 query-time 关键路径移除,换为轻量算法,往往比换生成模型或复杂索引收益更大。
LLM 知识图谱问答中的答案路径与 grounding 指令
🧭 GraphRAG · 上下文构建与评估
Siemens Digital Industries Software
GraphRAG 中答案路径是否出现决定性能,grounding 指令在无事实时使 F1 降 8.63 倍;语法/顺序/大小无影响
📌 工作参考价值(4 点)
- GraphRAG 工程优先保证答案路径/关键事实的召回,而非上下文中全部三元组的精度:在固定三元组数量下替换非路径三元组为无关实体,F1 仅 +0.003,但缺失答案路径损失大部分图谱价值;检索预算应投高召回、允许低精度。
- 避免在 prompt 中加入“只使用提供的事实”这类 grounding 指令,除非确认所有必要事实都在上下文中:无事实时该指令使 F1 从 0.299 降到 0.035(8.63 倍)。在检索不完整的 RAG 场景中,此类严格限定会严重损害回答质量。
- 评估 GraphRAG 时注意实验公平性:若只对图谱上下文分支加 grounding 指令、不对无上下文基线加,会虚假得出“图谱上下文有害”结论;作者在自己的结果中发现并撤回。业务评估应统一指令设置。
- 错误子图不易被 LLM 察觉,知识库写入路径是提示注入攻击面;电商知识图谱(商品属性、活动规则)更新时需要校验来源,防止恶意或错误三元组污染回答。
在推测式检索增强生成中保证忠实证据提取
🧭 RAG 忠实证据提取与解码约束
Université de Toulouse - IRIT UMR 5505 · Airbus Protect
提出CHyD,将投机解码改造为强制约束解码,保证引用片段逐字来自检索文档,技术领域准确率接近完美
📌 工作参考价值(4 点)
- 在电商/广告合规文案、商品政策解释、客服问答等场景,需要引用原文保证信息准确时,可以使用硬约束解码限制生成内容必须来自检索到的商品详情、条款或文档 span,从机制上避免幻觉。
- 将 speculative decoding 的目标从加速改为 faithfulness 验证,思路可迁移:用草稿模型提出候选 span,再用约束目标模型验证是否逐字匹配,既保留一定效率又保证忠实。
- 对于需要精确抽取的任务(如商品属性提取、广告审核依据、搜索中的摘要引用),优先选择 constrained decoding 而非依赖模型自觉引用,能把抽取准确率从低于 40% 提升到接近 100%,代价是牺牲部分流畅性,适合准确性优先场景。
- 该思路可以用于 Agent 的检索增强工具:当 Agent 需要引用外部知识回答时,约束其输出为检索结果的连续片段,可显著降低事实性错误和不可验证引用。
检索增强生成中用于幻觉检测的证据对齐实体验证
🧭 RAG幻觉检测·实体证据对齐
University of Technology Sydney
提出 EAEV,在实体层面用 RAG 对齐生成与检索证据,结合三维对齐评估和反事实稳定性分析,一致提升 RAG 幻觉检测性能
📌 工作参考价值(4 点)
- 在电商商品文案/搜索结果生成中,可借鉴实体级幻觉检测:将商品属性(品牌、型号、参数)作为实体,逐项验证生成文本与商品知识库/活动规则的证据对齐,比整体一致性打分更细粒度、可定位错误属性。
- 采用多维度对齐信号:可设计“实体是否在证据中出现”“实体上下文是否一致”“实体关系是否冲突”等互补指标,结合轻量规则或分类器进行 RAG 输出校验,适合低延迟的线上 Agent 回复。
- 反事实稳定性分析可迁移为回归测试:对检索到的证据文本做小扰动(替换同义词、增减片段),要求生成关键实体保持稳定,若翻转则标记高风险幻觉,提升对检索噪声的鲁棒性。
- 用 RAG 做幻觉检测而非仅生成,可解决模型参数知识过时的问题,特别适合电商频繁更新的价格、库存、促销等时效性知识。
通过多轮证据消融评估与改进大语言模型事实核查的证据依据性
🧭 RAG 事实核查 · 证据依赖性评估与训练
University of Sheffield
提出 FAE 多轮证据消融评估与 REAL 反事实训练,揭示 LLM 更依赖参数知识并提升证据依赖性
📌 工作参考价值(4 点)
- 在商品/广告审核、评价真实性验证等 LLM-as-verifier 场景,可用 FAE 式多轮证据消融做上线前审计:逐条移除或替换 cited evidence,观察模型预测是否翻转,识别“参数记忆强于上下文”的风险。
- REAL 的反事实证据训练可直接迁移:不只使用完整证据+标签,也构造删除支撑证据、替换为不相关或相反证据的样本,强制模型在证据缺失时改变判断,增强系统对检索质量的敏感性。
- 把“证据依赖度”作为与准确率并行的评测指标,特别适用于广告合规、商品属性校验等高风险任务,避免高准确率但弱 grounding 的 LLM 上线。
- 若在用 LLM 生成推荐理由或搜索解释,可借鉴多轮 evidence ablation 验证解释是否真实来自用户历史/商品信息,而非模型通用说辞。
通过生成器在环对齐弥合多模态 RAG 中的语义-效用差距
🧭 多模态 RAG · 检索对齐
两阶段生成器在环框架,用 VLM 生成假设文本并基于答案反馈微调 reranker,弥合多模态 RAG 语义相似与生成效用差距
📌 工作参考价值(4 点)
- 检索/排序目标再对齐:现有向量召回和相关性模型常优化语义相似度,但业务目标可能是点击、转化或生成质量。可用生成器/模型反馈自动构造偏好对,比如候选商品描述是否能辅助生成正确推荐理由或回答,无需人工标注,降低标注成本。
- 跨模态 query 桥接:电商中图片搜索、图文推荐可先让 VLM 根据图像和用户 query 生成“假设文本”(如商品属性、风格描述),再用该文本做 dense retrieval,缓解模态 gap,提升召回精度。
- 低成本 reranker 微调:用 LoRA 微调 cross-encoder reranker,并支持 triplet/DPO/SFT 多种损失,方便在现有排序服务上快速实验。同时可周期性重新挖掘偏好对,随着 reranker 提升迭代优化。
- 生成器在环评估:可以直接将下游生成任务的表现(如推荐理由吸引力、答案正确性)作为排序信号,而不是只看排序指标 NDCG;在线实验时监控最终业务指标,更贴近业务价值。
先思后链:多语言实体链接中的稀有性、推理与检索
🧭 多模态实体链接 · 推理+检索
Carnegie Mellon University
提出训练免的视觉-语言模型框架,结合迭代搜索与推理,提升多语言多模态实体链接在稀有实体上的准确率
📌 工作参考价值(4 点)
- 稀有度定义不能只看流行度(如 pageviews),应加入知识图谱结构指标(文档丰富度、连接度),能暴露不同失败模式;在电商长尾商品/实体识别中,可以用类似多维稀有度切片评估模型,避免只优化头部。
- 训练免框架实用性强:用 reasoning-capable VLM 动态搜索 Wikipedia 并迭代收集证据,无需微调即可部署;适合在业务中快速构建多语言实体链接/消歧模块,尤其处理长尾 query 或冷启动实体。
- 推理与检索互补的结论可直接迁移到 RAG/Agent 系统:单独检索能提升稀有实体但可能损害整体,单独推理对稀有实体帮助有限;组合使用时,让模型在推理循环中根据检索反馈调整判断,比一次性生成更稳健。
- 多模态信息(如图像中的文字、logo)对消歧很有价值;在电商商品匹配、query 到商品实体链接中,可以利用商品图片中的文字信息辅助文本匹配,并配合外部知识库检索。
超越一次性扩展:多跳检索的对比证据探索
🧭 多跳 RAG 检索 · 对比证据探索 ★ 深度解读
Chung-Ang University
训练免的多跳检索框架,通过对比 facet 索引、证据条件探索和覆盖感知重排提升 RAG 证据召回
📌 工作参考价值(4 点)
- 可直接迁移到电商搜索中的复杂意图查询:将原始 query 视为多跳证据链的起点,利用 LLM 基于已检索商品/属性生成下一轮 probe,逐步发现缺失的品类、品牌或属性约束,避免一次性扩展引入噪声。
- 借鉴 passage-specific contrastive facets 思想:为每个商品或知识片段离线生成“区分性问答对”(如“该商品与相似商品的差异点”),在召回阶段作为附加信号,帮助提升稠密检索对相似商品的区分度,避免同款/相似款混淆。
- Coverage-aware 贪心选择可以用于重排:在电商推荐或广告素材排序中,用生成多个 probe 分别代表不同用户意图,通过最大化边际覆盖增益选择集合,保证最终结果覆盖不同意图而非重复满足同一需求。
- 工程上,该框架 training-free,只需复用已有 embedding 和 LLM;但离线对比 facet 构建和在线多轮 LLM 调用成本较高,可以先在小而美的商品知识库上预计算,或者限制邻居数量和轮数来权衡 latency。
看哪里与用什么:面向长期对话记忆问答的检索-定位-生成框架
🧭 长时对话记忆QA · RAG
University of Electronic Science and Technology of China, Chengdu, China · Institute of Information Engineering, Chinese Academy of Sciences, Beijing, China · School of Cyber Security, University of Chinese Academy of Sciences, Beijing, China · MiLM Plus, Xiaomi Inc., China · State Key Laboratory of Internet Architecture, Tsinghua University, Beijing, China
提出MemLoc框架,通过多粒度检索、证据定位与位置ID引导生成,解决长期对话记忆问答中的碎片化与噪声问题
📌 工作参考价值(4 点)
- 借鉴多粒度记忆单元与图路由:在用户长期行为序列建模(如电商会话历史)中,将 session 按不同时间粒度/主题切分为多粒度单元,用图结构建模跨会话依赖,配合熵基粒度选择,可提升对长周期用户兴趣的召回精度,避免只依赖全局 embedding。
- 引入证据定位层压缩上下文:在 RAG 生成前增加一个“定位器”,从检索到的多个文档或历史记录中抽取关键片段并重排,输出轻量位置 ID 而非全文,能显著降低无关噪声干扰,缓解 lost-in-the-middle 效应,可复用于客服对话摘要、用户评论分析等场景。
- SHPO 训练技巧:用“自反思提示策略优化”训练定位器,即让模型生成推理过程并依据反馈调整,可将此方法用于训练业务中的证据提取/重排模块,提升定位精度。
- 工程实现上,位置 ID 作为 grounding 信号比直接拼接原文更省 token,同时保留原文索引方便回溯,适合在低延迟 Agent 系统中部署。
模型感知紧凑语义检索的 Matryoshka 哈希表示
🧭 嵌套哈希压缩 · 语义检索索引 ★ 深度解读
The Chinese University of Hong Kong, Shenzhen
两级训练哈希码,分离全宽训练与前缀组织,实现8/16/32字节嵌套二进制码在零样本检索上全面超越PQ/JPQ
📌 工作参考价值(4 点)
- 在向量召回/RAG 索引中,存储成本敏感时可采用 MHR 两阶段训练:先训练全宽 binary code 保证排序质量,再冻结编码器训练零初始化残差适配器让前缀可搜索,避免直接多前缀联合训练的跷跷板效应。
- 查询侧保留连续 logits、文档侧 hard sign 的不对称打分在检索质量与存储间取得平衡,并可映射到 FAISS IndexPQFastScan 的 analytic LUT 实现约 8.7× 加速;电商商品 embedding 检索可借鉴,尤其 CPU 服务。
- 嵌套前缀码可作为一个通用压缩 payload 在 IVF、HNSW/LEANN 剪枝、粗排过滤中复用,无需按不同字节预算重编码 corpus;可在推荐系统召回/粗排阶段用 8/16/32 字节嵌套码做自适应候选筛选,再对少量候选 full-precision rerank,接近浮点效果。
- 源域训练的 model-aware discrete code 在零样本域迁移上优于 reconstruction-based PQ/OPQ,说明用业务点击/成交等排序信号训练离散码比重建误差更值得投入;推荐场景可替换 PQ 作为 drop-in 压缩。
CAGE:检索增强生成中的连贯性感知图编码重排序框架
🧭 RAG 重排序 · 图编码连贯性
Capital One · General Intelligence Company
用异质实体图建模检索块间连贯性,通过图神经网络重排序提升多跳问答上下文质量
📌 工作参考价值(4 点)
- 在搜索/推荐系统的召回后重排阶段,不要只对单个 item 和 query 打分,可以构建 item 之间的实体关系图(如互补、替代、共现),用 GNN 编码集合整体连贯性,提升 top-k 集合的质量。
- 对于电商场景下多跳查询(如“适合油皮的轻薄粉底液”),可以抽取商品属性实体构建图,利用 min-out-degree 重加权突出少连接但关键的事实锚点(如肤质、功效),增强上下文的事实一致性。
- 在 LLM 生成推荐理由或广告文案时,检索出的商品信息可能存在矛盾或冗余,可借鉴 CAGE 的 Noise Resistance 和 Informational Bonding 维度,用图结构过滤噪声、强化信息互补性,减少生成幻觉。
- 部署时可将 CAGE 作为轻量级 reranker 模块叠加在现有检索器后,无需改动生成模型,只需额外构建实体图并做一次图卷积,工程成本可控。
超越无压缩:RAG 软上下文压缩的两阶段训练配方
🧭 RAG 软上下文压缩 · 蒸馏+RL 训练
Shandong University · Bloomberg · Leiden University
用正确样本蒸馏 + 失败样本强化学习两阶段训练,让 16 倍压缩的 RAG 软上下文效果反超无压缩基线
📌 工作参考价值(4 点)
- 若在商品知识问答、客服 RAG、广告文案检索增强等场景用 LLM 消费长文档,可尝试 soft context compression:把 top-N 商品详情/用户评价/知识条目编码成少量 embedding,替代原始文本,换取 4×–24× 的推理提速。
- 训练配方的可迁移点在于:蒸馏时只用教师 RAG 回答正确的样本,避免把无压缩模型的错误模式蒸馏进压缩模型;然后专门在教师失败的 query 上做 RL,让压缩模型学习更适配压缩表示的计算路径,而不是只模仿教师上限。
- 对推荐/搜索中的 LLM ranker 或生成式 item 描述,若需压缩长用户行为序列或 item 文本,可以用类似两阶段:先用正确输出 warm-start,再对 hard case 做策略探索,可能比直接 SFT 或全量蒸馏更稳。
- 评估时值得像论文一样扫不同 retrieval depth(top-5 到 top-30),确认压缩方案在长上下文下是否仍保持收益,而不是只在单点设置上调优。
基于树结构的 RAG 框架:自适应规划与拓扑感知证据收集用于证据密集型 QA
🧭 RAG 结构化推理 · 自适应证据收集
Korea University · Hanyang University · Hyundai Motor Company
提出 APT-RAG,通过自适应规划扩展推理树和拓扑感知证据收集,提升证据密集型问答性能。
📌 工作参考价值(4 点)
- 在复杂查询或商品长尾问答场景中,用树结构动态分解任务并自适应扩展节点,比固定多步流水线更能应对证据分散的需求,可借鉴其节点扩展策略。
- 利用推理树拓扑关系(兄弟节点证据共享、子节点证据聚合)减少重复检索、提升证据覆盖,适用于多文档、跨类目信息整合的推荐解释或客服问答。
- 证据引导的批量答案生成(evidence-guided batched answer generation)可以降低 LLM 推理次数与成本,在高并发搜索或推荐场景中可尝试将多个子问题合并生成。
- 该框架强调证据需求驱动规划,可作为电商 Agent 在商品对比、规则解释等需要多跳信息收集时的设计参考。
利用低层符号能力进行无监督扎根的幻觉检测
🧭 神经符号方法,SQL 落地检测幻觉
Heinrich Heine University Düsseldorf, Germany
让 LLM 用 SQL 构建参考文档数据库,以神经符号方式无监督检测生成响应中的幻觉,无需领域微调
📌 工作参考价值(4 点)
- 在电商/广告生成式推荐中,可将商品知识库、广告素材或用户评价等参考文档预先转换为 SQL 表,然后用 SQL 查询校验 LLM 生成的推荐理由、商品描述或客服回答是否忠于原文,低成本的线上幻觉检测无需标注数据。
- 利用 LLM 的低层符号能力(SQL/JSON 查询)作为 grounding 工具,比直接让 LLM 判断幻觉更可解释、稳定,且不依赖领域微调,适合快速迁移到不同商品类目。
- 神经符号 pipeline 可拆分为「文档→SQL 数据库构建」和「基于 SQL 的声明验证」两步,工程上可以并行或缓存数据库,适用于实时校验。
- 适合对事实一致性要求高的场景,如生成商品参数、价格、促销信息等,可避免编造属性导致的客诉或合规风险。
面向文学知识处理的神经符号时空 GraphRAG 框架
🧭 神经符号时空 GraphRAG 与可验证 QA
Joint Laboratory for Port Big Data and Intelligent Applications, Dalian Ocean University
提出整合时空约束与动态子图检索的 NS-ST-GraphRAG,并发布红楼梦多跳 QA 基准
📌 工作参考价值(4 点)
- 按查询时空范围选择有效图状态:电商/推荐场景中,商品属性、价格、库存、活动规则都有明确时效;可以借鉴论文思路,按时间戳/空间/场景对知识图谱做切片,检索时动态加载匹配版本,避免 RAG 返回过期或冲突信息。
- 本体引导抽取 + 确定性约束检查:在商品知识、活动规则、导购问答等场景,先定义轻量本体(类目、属性、关系、时效),用 LLM 抽取实体关系后,再用规则校验时间范围、数值区间、空间限制等硬约束,降低生成幻觉;适合构建可解释的导购 Agent 或政策问答。
- 可审计的多跳评估方法:论文的机械答案复现、引用忠实度检查、每部分证据跨度设计,可以迁移到内部知识问答或推荐解释评估中;建议对关键业务 QA 采用“规则校验答案 + 独立语义判断”双轨,而不是只依赖 LLM 主观打分。
- 警惕过度设计:实验显示时空 GraphRAG 相比简单窗口基线只有方向性优势但统计不显著;业务上应先用严格 AB 和统计检验验证复杂架构的必要性,避免为了图而图。
从主题相关到可回答性:面向对话检索的蕴含蒸馏
🧭 对话检索 · 可回答性 · 蕴含蒸馏 ★ 深度解读
University of Electronic Science and Technology of China · Southwest University of Finance and Economics
提出 CLEAR,用答案-段落蕴含蒸馏和段落中心溯因召回,缩小对话检索中主题相关与可回答性差距。
📌 工作参考价值(4 点)
- 在电商客服/商品问答 RAG 中,不要只优化 query 与商品的 topical similarity:可以在 rerank 阶段加入 answerability 头,训练时用 NLI 模型对「答案-商品/内容」算 entailment 再蒸馏到 cross-encoder,推理时只需 context+passage,能有效把「能回答问题」的候选提上来。
- 对低相似但可回答的商品详情页、评论区、文档,可离线用 LoRA fine-tune 的 LLM 为每个 item 反向生成多个可能 query,建成向量索引,在线做 query-to-query ANN 匹配并 RRF 融合;这样能找回 dense retrieval 漏掉的候选,同时避免在线 LLM 延迟。
- NLI teacher 信号偶尔会倒置(负例 entailment 高于正例),不要直接丢弃;借鉴其 adaptive calibration:正例按 passage 相似度放大,负例按不相似度削弱,保留 hard negatives 排序,可稳定 reranker 训练。
- 工程上把 LLM 生成和 entailment 计算全部放到离线,在线只留 ANN lookup + 固定 size cross-encoder,延迟可比 autoregressive rewrite 方案低约 3-4 倍,适合低延迟线上检索链路。
RATL:检索历史残差用于鲁棒多变量时间序列预测
🧭 检索增强 · 残差反馈修正
Department of Automation, Tsinghua University · State Key Laboratory of Hydroscience and Engineering, Tsinghua University
将 RAG 思想用于连续预测:冻结基座模型,检索相似历史残差并路由融合以纠偏
📌 工作参考价值(4 点)
- 电商销量/流量/广告消耗等多变量预测场景,可维护基座模型的历史残差记忆库,上线后检索相似上下文残差做轻量级后处理纠偏,无需重训基座。
- 冻结已部署的预测模型,只额外训练残差检索与融合模块,降低迭代成本与上线风险,适合工程化快速验证。
- 利用验证集自动选择 correction strength 控制残差注入幅度,防止过度修正导致线上指标波动,该机制可迁移到任何 additive correction 的预估模型。
- set-aware router 按 forecast block 和 variable 维度选择残差,可借鉴到多指标联合预测(如 GMV、订单量、转化率),让不同指标学习不同的融合权重。
增强金融问答:银行财报新基准数据集 FinRAG-QA
🧭 金融财报 RAG 基准与组件增益分析
Intesa Sanpaolo Innovation Center · Università degli Studi di Milano-Bicocca · Politecnico di Torino · IMI CIB, Intesa Sanpaolo · University of Bologna
构建跨机构银行财报问答基准 FinRAG-QA,量化 RAG 各组件贡献,检索与上下文增强将 NDCG@10 从 0.322 提至 0.710
📌 工作参考价值(4 点)
- 长文档、跨实体检索可借鉴「上下文 chunk enrichment + 检索优化 embedding」组合,NDCG@10 从 0.322 提到 0.710,适合商品详情、商户证照、政策文档等长文本 FAQ 检索。
- 生成阶段不要默认堆多 chunk:论文显示单个 top-ranked chunk 比更大上下文更准且延迟更低,可在业务 RAG/Agent 中优先精简上下文并做对比验证。
- 首阶段检索已强时,cross-encoder rerank 可能带来负优化;在已有高质量 embedding 和丰富上下文后,应评估是否保留 rerank,以节省 GPU 与延迟。
- 采用 reasoning-optimised 生成器会带来约 20 倍生成延迟,适合高价值、低实时要求场景;搜索/推荐 Agent 中建议按 query 价值做分级或缓存降级。
群组感知的自适应证据导航检索
🧭 自适应检索 · 组级扩展 · 推理密集检索 ★ 深度解读
Sungkyunkwan University
用组级方向评估替代文档级扩展,结合探索-利用策略提升推理密集检索中的有界召回问题
📌 工作参考价值(4 点)
- 在电商/内容推荐中,可借鉴离线对物品图做社区检测得到语义簇,并用LLM为每个簇生成摘要,作为粗粒度召回方向。相比逐item扩展,簇级信号能更早发现远处相关物品,减少初期弱信号下的迷航。
- 采用explore-then-exploit策略:召回初期用round-robin从多个高分组簇各取少量物品,避免过早集中在单一簇;后期集中到强相关簇。该策略适合搜索推荐中的多路召回融合,前期保多样性,后期聚焦头部。
- 分离粗粒度方向评估与细粒度相关性排序:navigator用较小的reranker模型(如Qwen3-Reranker-4B)评估组摘要,主reranker用大模型精排文档。工程上可并行执行,且实验表明小模型足够做方向判断,可节省大量推理成本。
- group-driven evidence propagation后处理:对同簇内高排名文档赋予衰减权重,并传播给簇内其他文档。可类比电商推荐中的类目内协同过滤,利用头部商品带动长尾商品得分,提升召回排序质量。
ViSAR:面向视觉文档问答的无训练自适应-k检索
🧭 视觉文档RAG·自适应k检索
INSA Lyon, CNRS, LIRIS UMR 5205 · EPITA Research Laboratory (LRE) · Lowit
在嵌入空间构造查询条件页面级相似度矩阵,动态决定检索页数,降低RAG延迟并保持或提升准确率
📌 工作参考价值(4 点)
- 可借鉴动态 top-k 思想:在电商/广告场景中,为商品详情页、广告落地页或用户评价做 RAG 时,不再固定召回条数,而是根据查询复杂度动态截断,能显著减少输入 LVLM 的 token 数和首字延迟。
- 利用 late-interaction 编码器产生的 page-level 相似度矩阵作为查询语义激活图:该方法无需训练,直接基于 embedding 空间的 MaxSim 等运算,可在现有向量检索链路上快速实现,适合业务侧低成本验证。
- 将相似度矩阵的统计结构(如激活分布、峰值集中度)作为检索质量信号,用于重排或决定是否触发多跳检索/补充上下文,类似于推荐中 uncertainty-aware 的截断策略。
- 论文结果显示自适应检索在多个编码器与 LVLM 组合下最高降低 58.7% 延迟且准确率不降,证明“检索质量感知的上下文裁剪”在视觉富文档问答中有效,对多模态商品理解、店铺资质审核等 RAG 任务有直接迁移价值。
EM^2Mem:面向大语言模型的事件中心多模态记忆
🧭 多模态 RAG · 事件索引
Zhejiang University · South China University of Technology · Lenovo Group Limited
以事件为中心组织多模态记忆,将异构证据绑定到事件锚点,提升长视频 QA 精度并大幅降低推理成本
📌 工作参考价值(3 点)
- 直播/商品视频问答:按业务事件(商品讲解、优惠发放、试用对比)建立事件索引,把对应帧、ASR、OCR、商品卡片绑定到事件 cell;检索时直接返回完整事件单元,避免 agent 在推理时拼接零散多模态片段,降低延迟与 token 开销(论文减少 63.66% tokens、4.67× 延迟)。
- 召回/证据评测:引入 strict event-level Top-K evidence recall,评估检索结果是否覆盖关键事件而非只看最终答案准确率,可用于商品知识库、直播切片或广告素材检索的离线评测。
- 用户行为记忆:将 session 内行为序列按事件(搜索、点击、加购、下单)聚合为 memory cell,绑定跨通道特征、时间与商品关系,为 LLM 推荐/导购 Agent 提供紧凑、可溯源的上下文,减少推理时的对齐成本。
E-SENS:面向负约束检索的排除敏感惩罚方法
🧭 RAG · 负约束检索优化
Independent Researchers
训练无关重排方法 E-SENS,用陷阱查询相似度惩罚排除概念,减少否定敏感检索中的违规召回
📌 工作参考价值(4 点)
- 电商搜索/推荐中用户常含否定词(如“非雪纺”“不含酒精”),现有嵌入召回容易命中否定概念;可借鉴 E-SENS:用 LLM 抽取否定片段生成 trap query,在召回或重排阶段对候选商品做相似度惩罚,无需训练即可上线。
- 广告否定关键词可类似处理:为每个否定词构造排除向量,从广告相关性分数中减去,减少 exclusion 流量上的无效曝光。
- 工程实现上,trap query 应尽量紧凑,避免引入多余语义;惩罚强度作为超参,可在评测集扫描 recall-violation 曲线,取满足召回底线下的最小违规点。
- 在 Agent/RAG 知识召回中,若用户明确排除某类内容,可由 LLM 先提取排除约束并生成 trap query,对召回结果重排过滤,降低后续生成违规风险。
LivingRAG:把可验证经验写入 Graph RAG 的在线复用框架
🧭 Graph RAG 在线经验复用 ★ 深度解读
State Key Laboratory of Virtual Reality Technology and Systems, Beihang University · Hangzhou Innovation Institute, Beihang University
提出可写经验存储的 Graph RAG 框架,复用激活图和推理摘要,在多跳 QA 上提精度并降生成 token
📌 工作参考价值(4 点)
- 在线搜索/推荐会遇到大量『同模板不同实体』的 query,如『A 和 B 哪个更省电/更快』。可借鉴 masked template 相似度匹配历史问题的推理脚手架,只把摘要交给生成模型,不把历史实体直接注入召回,避免污染当前结果。
- 把历史 query 在图上的实体激活向量作为可复用先验:用当前 query 语义相似度 + 当前 base activation 与历史稀疏 activation 的 cos 相似度选 top-K,再融合到初始实体激活。电商知识图谱检索里可用它做 query 级 warm start,避免新 query 冷启动重新探索图邻域。
- 经验写入一定要有质量门:先 novelty 去重,再对答案提取原子 claims 用 NLI 做证据支撑检查。业务 Agent 记忆/知识库写入可参考这种『先廉价 novelty、后昂贵 NLI』的顺序,既省推理成本又避免错误经验被放大。
- 成本收益要区分 prompt/completion:经验复用会增加约 3.5% prompt tokens,但能减少 22.7% completion tokens、总 API cost 降约 12.1%。在生成成本远高于输入成本的 LLM 应用中,这种 trade-off 更划算;同时要注意经验增长,需设计过期、剪枝或 time-decay,动态商品/价格/库存场景更关键。
ReliableRAG:可靠性引导推理链对抗RAG错误信息
🧭 多跳QA · 细粒度可靠性评估
Jilin University · Dalian University of Technology · National University of Singapore · Zhuhai College of Science and Technology
首个面向多跳QA的可靠性驱动RAG框架,通过细粒度三元组评估与推理链生成对抗欺骗性错误信息
📌 工作参考价值(4 点)
- 借鉴“信息段→结构化三元组→可靠性打分”的管线:在电商商品问答或导购场景中,把商品详情、评论、UGC转为三元组,结合 query 相关性与三元组可信度(来源权威度、事实一致性)过滤不可靠内容,降低错误信息对答案的影响。
- 采用 top-K 非冗余三元组压缩上下文:RAG 检索大量文本易含噪声,先抽取三元组并去冗余,能减少 token 消耗、提高生成准确性,适合实时推荐文案生成或客服Agent场景。
- 自回归构建推理链而非一次性生成:在多跳决策场景(如“为何该商品适合油皮?”需综合成分、评价)中,逐跳纳入可靠三元组,提高推理可解释性与鲁棒性,可参考用于购物决策Agent。
- 显式区分语义相关性与事实可信度:推荐/搜索中只做语义匹配易被“看起来相关但事实错误”的内容误导,建议增加可靠性评估模块(来源权威度、跨源验证等)。
指路藏终点:大规模实用私有密集检索
🧭 隐私保护向量检索 · 深度哈希短列表
The Chinese University of Hong Kong, Shenzhen · State Key Laboratory of Internet Architecture, Tsinghua University · Beijing University of Posts and Telecommunications · The Chinese University of Hong Kong · Institute of Software, Chinese Academy of Sciences
用可学习深度哈希生成短候选列表,结合加密重排与不经意传输,在保持检索质量的同时将全库密码学搜索成本降至可部署水平
📌 工作参考价值(4 点)
- 在需要隐私保护的 RAG 或私有知识库检索中,可将「可学习深度哈希 shortlist」作为预筛层:只对哈希命中的 200-500 个候选做加密重排,避免全库同态计算,检索质量接近全库向量检索。
- 将连续 embedding 映射为二元哈希码后,不再直接暴露原始向量,配合 directional metric DP 可显著降低 embedding inversion / property inference 泄露;对电商用户行为、广告素材、商品描述等敏感语料检索有直接参考价值。
- 工程上可采用两阶段漏斗:哈希粗筛得到短列表,再用 oblivious key transfer 和加密 reranking 保护具体 query 与最终 item 选择;这比单纯用聚类或 LSH 粗扫更贴合私有检索的隐私与质量平衡。
- 在 10Gbps 网络、数百万文档规模下,该协议额外延迟约 0.73s,适合在线 RAG 服务;但需要额外训练/微调深度哈希模型,并接受候选短列表带来的召回上限。
VoiceMem:实时交互的流式双脑记忆
🧭 实时语音 Agent 记忆 · 流式 RAG ★ 深度解读
Nanyang Technological University · National University of Singapore · Tsinghua University · The Chinese University of Hong Kong · Open Interaction Lab
双脑流式记忆:左脑管信息、右脑管情感人格,top-5 检索 134ms 达到实时语音交互记忆 SOTA
📌 工作参考价值(4 点)
- 用 schema-entity 两层索引替代扁平向量召回:先把候选池按实体/类目路由到小集合,再做 top-5/10 精排;适合电商导购/会话推荐里把用户长期行为、商品类目、偏好实体做成可寻址索引,低 token 预算下保持高准确率。
- 借鉴“让候选池更密而不是把 K 调大”的结论:通过 query 共现和 LLM judge 自动让兴趣簇/商品簇跨预设类目重组,可迁移到用户兴趣聚类、促销主题挖掘、Semantic ID 层级构建。
- 把事实行为与情感/偏好分开建模:独立节点记录长期偏好,跨实体节点记录对具体商品/事件的态度,避免把一次情境反应误判为长期兴趣;适合个性化推荐理由、卖点文案和售后 Agent 的情绪感知。
- 上层图路由与底层向量/记忆引擎解耦,四阶段流式检索拆分到固定静音/请求窗口内;在电商语音助手或实时推荐 Agent 中可异步执行召回/粗排/精排,保证延迟不随 K 线性增长。
FashionKG-RAG:知识图谱增强的时尚问答检索增强生成
🧭 知识图谱增强 RAG · 时尚问答
构建领域级时尚知识图谱 FashionEcoKG,并设计训练无关的 PG-RAG 框架,通过双粒度路径重排提升时尚问答准确率
📌 工作参考价值(4 点)
- 构建领域知识图谱时不要止步于物品属性/关系,可借鉴 FashionEcoKG 的 agentic 三阶段管道:从权威教材抽取高保真知识核心,再做跨域增强和生成式扩展,捕获电商领域的完整生态(设计、生产、营销、穿搭等),降低 LLM 幻觉。
- PG-RAG 的 Dual-Granularity Path Re-Ranking 可直接迁移到通用 RAG 检索后排序:先用剪枝后的 query skeleton 提升召回,再用原始完整 query 对候选路径逐条做 agentic 审查,兼顾召回和精确率。
- 训练无关(training-free)框架适合快速落地,无需微调 LLM,只需在检索和重排环节做结构化处理,适合电商搜索推荐团队在现有 RAG 管线上增量部署。
- 对时尚/导购类 Agent,可以将领域 KG 作为工具或知识源,结合 skeleton 提取和路径重排,让 Agent 回答“这件衣服适合什么场合”等知识密集型问题时更有依据。
上下文分配定律:生成式搜索中的因果测量与闭环编排
🧭 生成式搜索 · 推理时上下文编排 ★ 深度解读
Peking University · National Engineering Research Center for Software Engineering, Peking University · Tencent
用因果探针揭示标准相关性代理在困难负样本上失效,并证明窄上下文多轮生成比宽上下文单轮带来16.8-20.5个百分点的组合召回增益
📌 工作参考价值(4 点)
- 借鉴因果归因探针:在电商搜索/RAG 场景中,用 leave-one-out 对数似然下降度量生成结果对每个上下文文档的真实依赖,避免 query-doc 相似度等代理指标在同查询稠密负样本上的失效。工程上可对已生成响应做并行 teacher-forced 前向,绕过解码瓶颈,适合在线监控证据利用率。
- 推理预算分配策略:若有多轮生成场景(如生成多个搜索摘要或推荐理由),优先把相同证据槽位拆成多个窄上下文轮次,而不是一次性塞入宽上下文。实验显示相同 24 个文档预算下,k=2,T=12 比 k=24,T=1 的 portfolio recall 高 0.144(0.397 vs 0.253),且提升在 7B-32B 模型上稳定。
- 反馈驱动的子模调度:在每轮生成后用归因信号标记已消费的知识簇,下一轮通过贪心子模最大化选择未被充分利用的文档;比盲目轮换文档的 ECR 提升显著(0.626 vs 0.375)。该模式可直接用于多轮对话推荐或多样性商品集合生成,避免内容冗余。
- 对比解码增强新鲜证据整合:在生成阶段用公式 ℓ' = ℓ(·|q,C) + α[ℓ(·|q,C\O) - ℓ(·|q,O)] 减去过度使用证据的概率质量,推动模型利用新文档,同时加 plausibility 约束防止幻觉。此 trick 可用于电商推荐理由生成中强制覆盖不同卖点。
WARP:面向群体意见的 Wasserstein 对齐 RAG
🧭 RAG 检索校准 · Wasserstein 对齐意见分布
Amazon.com
用 Wasserstein 距离校准 RAG 检索证据的情感分布,避免少数意见被淹没
📌 工作参考价值(4 点)
- 在电商评论摘要、用户反馈聚合等场景,top-k 检索容易偏向主流意见,可借鉴 WARP 思想:先估计总体意见分布(如情感强度分布),再用 Wasserstein 距离选择文档子集,使检索证据的分布与总体对齐,避免生成有偏的回答。
- 工程实现上,WARP 提供三种变体适应不同候选池规模(稠密/稀疏/可变),亚秒级延迟,可在线作为 RAG 检索后处理模块,与现有向量检索无缝集成。
- 将 Wasserstein 距离作为检索校准的优化目标,比 KL/JS 更合理,因为它保留了情感强度之间的序数关系——强烈负面与强烈正面混淆的代价高于相邻强度混淆。在涉及情感、评分等有序标签的场景中可优先考虑。
- LLM 生成阶段对检索证据分布敏感,WARP 实验表明校准检索能显著提升生成质量(86% 偏好),因此构建“群体意见总结”类 Agent 时,应将检索校准作为生成前必要步骤。
现代RAG管道评估:文本、多模态、稠密与晚交互
🧭 RAG 管道选型与多模态权衡
Özyeğin University, Istanbul, Türkiye
提出数据驱动的RAG管道选择方法,在检索效果与资源约束间权衡
📌 工作参考价值(4 点)
- 电商详情页、广告落地页含大量布局、表格、图片,纯 OCR 文本管道会丢失结构语义;可在 RAG 检索阶段引入 VLM 多模态编码,但需按类目或高价值 query 试点,用延迟与召回指标对比。
- late interaction(如 ColBERT)是稠密检索与多模态之间的实用折中:保留 token 级交互提升细粒度匹配,同时避免每次查询调用 VLM 的高开销,适合低延迟搜索推荐场景。
- 建立管道选型决策表:依据文档类型(文本为主 vs 富媒体)、query 类型、资源预算,用离线 nDCG/recall@k 与在线 p50/p99 延迟、GPU 成本联合选择,避免一刀切。
- 对表格规格、价格/评分等结构化信息,优先用 layout-aware 文本解析或混合表示,减少 VLM 调用次数;可先文本召回再用视觉重排,在成本可控下提升准确率。
EnSI-RAG:实体结构索引的长文档问答检索增强框架
🧭 长文档 RAG · 实体结构索引 ★ 深度解读
University of Illinois Urbana-Champaign
用实体中心 passage 和 entity-structure index 做检索句柄,把证据定位与答案生成解耦,提升长文档 QA 精度
📌 工作参考价值(4 点)
- 商品/店铺知识库构建:不要用固定 chunking;对每个商品/SKU/商家建实体中心 passage,抽取 type + property/relation/aspect(如价格、规格参数、店铺关系),用 [entity][type][field:value]→psg_id 建离线索引。线上从原始 passage 生成答案,避免表格拆散、属性与值分离。
- 多跳对比/选购问答:把同类商品对比、品牌关系、优惠条件建模为 relation 或双向 relation(如替代品、配件、belongs_to),保留一对多 set-valued 映射而不是折叠成唯一记录;LLM 只做证据合成,不负责搜索。
- 工程实现:offline LLM 抽取成本高但可摊销;online 只需 1 次 retrieval planning + 1 次 generation,适合高 QPS 场景。对商品 spec 表使用 row-level 而非 table-level 粒度;检索深度未必越大越好,可先从小 k 开始调。
- 属性粒度按域选择:标准化粗粒度属性能减少稀疏性,但法律/精确规格类需保留细粒度;电商可对标准品类用粗粒度类目属性,对参数敏感品类保留原始参数名。
可信 RAG:检测生成式 AI 系统中错误信息与知识中毒的评估代理
🧭 RAG 评估 · 知识中毒检测
Tampere University
用 NLI 与加权中毒信号构建生成前评估代理,Trust Index 在 TruthfulQA 上达 91% 准确率和 100% 精确率
📌 工作参考价值(4 点)
- 在电商/广告/搜索 RAG 场景中,检索到的商品信息、商家文案可能被恶意污染,可把 NLI 事实校验 + 多信号加权评分做成生成前 guardrail,先丢弃低 Trust Index 的检索块,降低事实错误与合规风险。
- 采用中间件/Agent 形式实现,不改 LLM 主干,适合线上生成式推荐/客服 Agent 的风险拦截;但阈值必须按业务领域和生成风格单独校准,不要直接跨域复用,FEVER 结果表明跨数据集泛化需要 domain-specific calibration。
- 对指令注入类攻击,该方案召回高且易阻断;对实体替换、语义弱化等 subtle poisoning 仍难检测,电商场景应额外补充商品属性一致性校验或细粒度事实比对。
- 五信号检测器 + relevance-weighted aggregation + 高污染非线性阻尼可工程化为特征打分模块,适合作为检索后、生成前的风控层,优先处理高风险 query 和长尾商品知识。
RAG 需要索引:摄取时语义编译胜过查询时解释
🧭 RAG · 摄取时语义编译与索引 ★ 深度解读
Endgame Labs, Inc. · Asia AI Institute, Musashino University · Faculty of Data Science, Musashino University · AIx, Inc.
提出摄取时语义编译 ISC,将语料编译为带验证来源的原子声明,查询时读取成本降低约21倍且准确率更高
📌 工作参考价值(4 点)
- 电商知识库/客服对话场景:将商品卖点、用户评价、客服承诺提前编译为原子事实(claim),每条事实携带 verbatim span、说话人、位置;RAG 时直接返回事实而非原始段落,可显著降低读取 token 并提升答案准确率,尤其适合高频查询。
- Agent 记忆/生成式推荐中写入 provenance 门禁:对从评论、对话中提取的每一条声明做精确字符串匹配,无法定位原文 span 的不写入,避免幻觉传播到下游答案或推荐理由。
- 成本模型 R* 指导编译决策:热门商品描述、政策文档、常见问题可提前编译;长尾、易变内容保留查询时解释,不要默认全量编译。
- 索引维护上借鉴增量低秩更新:频繁更新的商品语料不要每次全量重算 embedding,可考虑增量更新;模型升级用 Procrustes 对齐,只重新嵌入少量样本,降低迁移成本。
从检索上下文到运行时控制:边缘RAG的自适应压缩
🧭 RAG上下文压缩与边缘推理优化
Northeastern University
实测边缘RAG中固定压缩率不可靠,中间压缩率可降GPU能耗53.2%且质量损失可忽略,主张遥测驱动的自适应压缩
📌 工作参考价值(4 点)
- 在电商/广告的RAG型助手、搜索摘要或智能客服中,检索到的商品/内容上下文越长,prefill与KV cache成本越高;可引入LLMLingua-2等轻量压缩器先剪枝,再进入大模型生成。
- 不要用固定压缩率:按query长度、上下文冗余度、当前GPU/SoC能耗或尾延迟预算动态选择压缩率,中间档位往往比固定高压缩更划算。
- 把压缩器自身的延迟与能耗计入总账;端侧或边缘部署时,只有当生成节省明显大于压缩开销才启用,7B-8B模型下生成约占90%延迟,值得压缩。
- 可采集设备telemetry(GPU功耗、KV cache占用、QPS)作为运行时策略输入,在低负载时少压缩保质量,高负载或省电模式时提高压缩率。
DeepWeaver:弥合开放问答中的证据合成鸿沟
🧭 RAG 证据合成 · Thought Block Chain ★ 深度解读
Tsinghua University
用 Thought Block Chain 将噪声证据编织成细粒度、带引用的声明,显著提升开放 QA 的证据利用率与引用质量
📌 工作参考价值(4 点)
- 借鉴 TBC 作为生成前中间表示:在电商/推荐场景中,当需要基于大量候选商品、用户评论、内容文档生成推荐理由或商品综述时,可以先用 LLM 抽取结构化的「claim + keywords + salient info + evidence」块,把长上下文压缩为可管理的块链,再逐块生成最终文案,避免直接给 LLM 全量候选导致的信息丢失。
- 迭代式证据补全机制:DeepWeaver 的 subordinate + commit 流程(识别未覆盖证据 → 生成子 TBC → merge/discard)可以直接迁移到商品推荐理由生成或搜索 answer 合成中:先让模型生成初稿,再找出被忽略的用户痛点或商品卖点,补充后合并去重,能大幅提升内容覆盖率和细节保留度。
- 随机采样证据分轮处理:在广告文案、推荐理由等需要引用大量候选的场景,不必一次把所有商品/文档塞进 context,可按轮随机采样子集构造 TBC,多轮后覆盖全量证据,既能降低单次 context 压力,又能保持最终输出的全面性。
- 可解释性与引用对齐:通过把每个 claim 显式链接到证据片段(商品属性、评论、文档段落),可以方便地做归因和后续验证,适合需要高可信度的搜索推荐答案生成,也方便在线上做引用溯源和质量审核。
更多上下文,相同预算:超越Top-K检索的双界关系召回
🧭 检索上下文分配 · 图关系扩展 ★ 深度解读
Radiant Institute for Manifold Studies (RIMS)
相同检索预算下,用相关性种子加图邻接扩展比平铺top-k多恢复23.8个百分点的完整支持证据
📌 工作参考价值(5 点)
- 在RAG/搜索上下文中,不要把上下文窗口只当Top-K分数填充:可以预留一部分预算给与已选高相关实体有边关系的邻居(知识图谱、共现、商品关系等),这对需要多跳证据的查询尤其有效。实验证明相同token/对象预算下,图邻接扩展比继续下钻排名多恢复24%的完整证据集。
- 评估检索不要只看单条hit rate或recall@k:改用「完整支持集恢复」这类集合级指标,才暴露出平铺top-k在组合证据上的短板。电商导购中一个答案往往需要多个商品/属性共同支撑,单条命中掩盖了证据不完整问题。
- 问题类型决定策略:桥接类/多跳查询从关系扩展中获益巨大(+28.7pp),比较类查询几乎不获益(+4.2pp)。先做查询类型识别,再有条件触发关系扩展,能集中预算、减少对平铺场景的伤害。
- 关系质量必须用真实业务图谱:随机邻居和度保持打乱图都显著弱于真实关系图,说明不能只靠粗略共现或结构相似,要构建和维护语义准确的知识图谱。
- 注意伤害案例:关系扩展替换掉了192个问题本可恢复的平铺项,并非单调有益。部署时应学习一个选择器或价值模型,在扩展和继续下钻之间做期望收益判断。
面向Cessna 172维修手册的多模态RAG降低技师检索负担
🧭 多模态RAG垂直领域知识检索
Purdue University · Clemson University
开发多模态手册检索器与MRAG流程,在维修手册上实现93.37% recall@5和87.20%答案语义相似度
📌 工作参考价值(4 点)
- 电商/推荐场景可迁移:将商品文档、规格表、示意图做多模态RAG,让客服或导购Agent同时检索图文页面,而不是只依赖文本切片,提高复杂产品问答质量。
- 评估方法可直接复用:用合成查询按信息类型(程序、图示、警告/安全、规格)分层构造测试集,能更细粒度定位检索瓶颈,比单一整体指标更利于迭代。
- 工程实现参考:把检索和生成拆开分别评估 recall@5 和生成相似度,便于定位问题是出现在召回还是生成;同时记录单查询耗时和成本,作为上线前可行性门槛。
- 多模态可解释性可借鉴:用热力图可视化页面上哪些区域被检索模型关注,可用于排查错误召回、做人工审核,也便于向业务方解释模型为何推荐某张图或某个手册页。
超越视觉相似性:面向知识型视觉问答的实体对齐检索
🧭 多模态 RAG · 实体对齐嵌入检索
Shenzhen International Graduate School, Tsinghua University · University of Arizona
提出 KBMR,首个基于 MLLM 的 KB-VQA 嵌入检索器,用实体一致性连续蒸馏实现实体级语义对齐,Recall@1 最高提升 14.7%
📌 工作参考价值(4 点)
- 商品视觉检索可用 MLLM 自回归嵌入替代 CLIP 双编码器,显著区分“视觉相似但实体不同”的商品(如不同品牌同款鞋),降低误召回,适合电商以图搜图/相似商品推荐。
- 连续实体一致性权重 + 软蒸馏可直接迁移到商品类目/SPU 级对比学习:用判别器生成软标签替代 hard negative 二元标签,缓解用户行为(点击、购买)中的弱监督噪声,改善 hard negative 采样质量。
- 在导购 Agent 或商品知识问答中,外部知识检索(商品详情、属性、类目树)可采用实体对齐的 MLLM retriever,对长尾、视觉多变商品的知识命中更稳定,提升最终回答/推荐准确率。
- 工程实现上,大规模弱监督检索语料(如商家上传图文)可通过类似 semantic discriminator 产出连续一致性权重,再蒸馏到轻量检索模型,兼顾效果与推理成本。
成本随变化缩放而非语料大小:增量维护演化语义基底
🧭 增量语义基底维护 · RAG 成本优化
Asia AI Institute · Musashino University · Endgame Labs, Inc.
增量低秩更新替代全量 SVD,使语义基底维护成本随变化量而非语料规模增长
📌 工作参考价值(4 点)
- 电商商品库/内容库频繁上新时,可用增量低秩更新维护语义索引(LSI/SVD),单次更新成本与新增变更量成正比,替代周期性全量重建,适合高动态场景。
- 切换 embedding 模型或版本时,不必全量重新嵌入所有商品/文档;用 orthogonal Procrustes 对齐新旧嵌入空间,只需重嵌约 10% 代表性样本校准虚拟轴,可恢复 0.95 平均余弦相似度,大幅降低迁移成本。
- 增量 SVD 维护的子空间与全量 SVD 接近一致(recall@10=1.0),可作为动态语义召回或 RAG 索引的底层机制,支持低延迟 ingestion 和稳定检索质量。
- 可推广到用户/商品向量索引(如 ANN)的更新策略:用增量更新 + 漂移校准代替定期全量重建,减少离线计算资源消耗。
复杂分块何时值得?大规模分块方法多目标评估
🧭 RAG 密集检索 · 分块多目标评估
University of Passau · Interdisciplinary Transformation University Linz
8种分块策略的规模化评测表明复杂分块很少一致优于简单分块,最佳选择高度依赖模型、数据和规模,且成本差异显著
📌 工作参考价值(4 点)
- 在电商 RAG 场景(商品文档/评价/客服知识库)中,先以固定长度或递归分块作为 baseline,不必一上来用 Proposition/语义分块等复杂方法:它们往往只带来微小或不一致提升,但索引与维护成本更高。
- 选型分块时把索引吞吐、查询延迟、向量库内存纳入评估,而不只看 nDCG/Recall;相同检索指标下,优先选择 chunk 数量少、平均长度小的策略,可显著降低线上召回和存储成本。
- 分块效果与 embedding model 和 corpus size 存在交互,没有 universal best;上线前应在自己模型与目标语料规模下做小规模多目标 ablation,并分别报告 Recall@k 与 nDCG@k,因为结论可能随目标指标不同而翻转。
- 对于长文档召回,采用“更细分块 + MaxP/段落级聚合”常是一个稳的起点;复杂分块若不能在同一模型/数据上稳定提升,不建议为微弱效果付出工程复杂度。
LineageRAG:构建带来源锚定的证据谱系增强 GraphRAG
🧭 GraphRAG 多跳证据溯源与锚定
XiaoLab, Beijing University of Posts and Telecommunications · Xi'an Jiaotong University
为每个证据需求构建显式谱系并通过原文字段锚定来源,显著改善多跳检索与生成效果
📌 工作参考价值(3 点)
- 在电商知识图谱/商品属性图上做多跳推理时,可先将用户 query 拆成多个证据需求(如品类、属性、场景约束),并在图谱遍历中保留每个候选与需求的绑定关系,避免最终结果只覆盖部分意图。
- Agent 做多步检索/推荐解释时,可借鉴 lineage completion:用已检索片段的 provenance 选择互补证据,并强制对每个需求提供原文字段支撑,缺少支撑的需求触发补召回或降低置信度,从而提高可解释性和防幻觉能力。
- 工程上可把“需求初始化 → 需求条件检索 → 谱系补全 → 来源锚定”拆成独立模块,在电商 RAG pipeline 中输出带有引用来源的结构化证据链,便于 debug、评估和线上链路追踪。
RegulaRAG:基于LLM的法规合规场景生成(以UN第152号法规为例)
🧭 RAG 检索增强生成优化
RegulaRAG结合SmartChunking、图遍历参考感知增强与Smart Retrieve & Rerank,在法规场景生成中Meta-Score 82.99,领先43%
📌 工作参考价值(4 点)
- 结构感知切片(SmartChunking):对法规、商品说明书、活动规则等长文档RAG,保留标题/章节/条款层级,避免简单固定长度切片导致上下文断裂,可显著提升LLM回答准确性。
- 参考感知增强:通过图遍历自动关联段落与表格(例如电商SKU参数表与正文描述),解决表格信息在RAG中检索不到或割裂的问题,可直接用于商品详情页问答、售后政策查询。
- 三步渐进式参数搜索:不依赖暴力网格搜索,快速找到chunk大小、top-k等检索参数,降低调参成本,适合快速迭代的电商RAG系统。
- 鲁棒性压力测试:用干扰文档扩充语料库评估RAG稳定性,可作为上线前评测标准,防止因知识库膨胀导致检索质量急剧下降。
Noesis:双向图 RAG 与自适应并行及跨知识库语义发现
🧭 Graph-RAG 架构 · 多跳推理与跨知识库路由
Alpha Cogs
提出解耦 Graph-RAG 架构,结合双向图遍历、AIMD 并发控制、MoE 量化与跨 KB 路由,HotpotQA 超 GraphRAG +27.8 EM
📌 工作参考价值(4 点)
- 知识图谱构建时参考双向遍历 + 带记忆衰减的 context resolver,可改善电商场景中商品详情、用户评价、售后政策等长文本的跨段落关系抽取,尤其适合“多商品对比”“政策条款与商品页关联”等需要跨 chunk 因果链的任务。
- 借鉴 AIMD 并发控制器:将文档 ingestion 或模型服务的并发从固定线程改为类似 TCP 的加性增/乘性减自适应策略,能自动跑满硬件且避免 OOM,适合大促前全量商品知识库刷新。
- MoE 模型上线采用领域感知选择性量化而非全局量化:对高频/关键专家保持高精度,对冷门专家激进量化,可在 12GB 消费级 GPU 部署大模型,降低电商 RAG assistant 或投放助手的推理成本。
- Mesh 的跨 KB 语义路由可直接迁移:多个业务知识库(商品、活动、广告、客服)不必合并成单一大图;路由层做运行时结构发现与自适应阈值切分,让一个较小模型完成跨域多跳推理,适合构建统一购物助手或广告投放问答系统。
RoE-FND:融合经验学习增强LLM的通用证据型假新闻检测
🧭 LLM 推理增强 · 经验检索
Fudan University · Hohai University
构建可复用推理经验库并通过检索经验裁决对立论证,提升LLM假新闻检测与跨域泛化能力
📌 工作参考价值(4 点)
- 经验库构建方法:在电商内容审核(如虚假评论、商品描述真实性)中,可让 LLM 同时生成无约束判断与给定真实标签后的条件判断,将两者分歧提炼为可复用的审核规则/经验条目,沉淀成行业/品类专属经验库。
- 双论证对抗裁决:对高风险 case,不要单次 LLM 判断,而是给出两个相反伪标签分别生成论证,再检索类似历史经验对关键分歧点做裁决;可迁移到客服纠纷判责、商家资质审核等需要证据链推理的业务。
- 无需微调的跨域迁移:适合电商多品类、多平台快速冷启动,避免频繁训练模型;只需维护经验库与检索器,即可在新类目复用推理能力。
- 与现有 RAG 结合:把经验库当作比事实片段更高阶的"推理模式索引",修正 LLM 易被表面说服的倾向,可增强 Agent 在复杂决策中的鲁棒性。
层级感知多模态RAG:结构忠实的图文交错生成
🧭 层级感知多模态RAG
The Hong Kong University of Science and Technology (Guangzhou) · ASCETEX INTERNATIONAL LIMITED · MOVENSYS Inc. · Schneider Electric · Technical University of Munich
利用文档层级引导检索与生成,实现多模态RAG中的结构忠实与图文对齐,在多个基准上平均提升17.3%
📌 工作参考价值(4 点)
- 在电商详情页、说明书、SOP等多模态文档RAG中,优先保留文档层级(标题/章节/步骤)作为检索单元,而不是切割成扁平chunk;可将章节路径和父子关系编码进索引和prompt,提升证据选择的忠实度。
- 对于需要图文交错生成(如商品使用教程、维修指南)的场景,在prompt中保留局部文本-图像对及其在源文档中的位置,可显著减少图片放错和图文不匹配;考虑将图片与相邻文本绑定作为最小检索单元。
- 构建内部评测基准时,可借鉴HAM-Bench的分类覆盖(攻略/网页/论文/食谱),针对结构化多模态文档设计图文一致性、步骤顺序等指标,而非仅用文本相似度。
- 工程上,层次化RAG可以结合文档解析工具(如PDF结构抽取、DOM树)自动提取层级,再对同一层内的text和image做关联索引,生成时用层级路径作为约束。
检索冗余与多样性如何影响 RAG 生成正确性
🧭 RAG 检索多样性对生成器的影响 ★ 深度解读
The University of Queensland · CSIRO
在虚构 QA 上证明重复/改写文档几乎无益,跨体裁多样文档可提升 RAG 正确性 17%–47%
📌 工作参考价值(4 点)
- RAG 检索/重排不要只取 similarity top-k,必须引入来源/视角多样性:可复用 MMR、coverage-aware rerank,或在结合商品知识、用户评论、官方说明时显式跨体裁采样,让生成器获得多角度证据。
- 对同义改写、伪文档扩展要谨慎:LLM 改写同一份 anchor 并不能稳定提升事实型 QA 正确性,不必在推理侧做同质数据扩增;省下来的上下文预算换成异质来源。
- 在商品问答、推荐理由生成、广告文案等 RAG 场景中,文档体裁/来源可信度可能比单纯相关性更影响生成;可考虑对百科型或权威结构化内容加权,压制低质社媒文本。
- 评估检索质量时,传统去冗余假设对生成器不一定成立:面向生成器的评估要看最终答案正确性,并控制参数知识和答案字符串匹配,否则容易误判多样性收益。
CogChat:异构知识图谱增强设计对话 AI 的认知接地
🧭 知识图谱增强对话 · 异构 Graph Transformer
Design AI Lab, Hanyang University · Human-Centered AI Design Institute, Hanyang University
用个人异构知识图谱 + HGT 选择相关节点注入 LLM,提升设计对话的上下文保留与个性化意图理解
📌 工作参考价值(5 点)
- 面向电商/广告/搜索推荐场景的可借鉴点:
- 用户级动态知识图谱做长程上下文:在客服/导购/创意 Agent 中,实时从对话里抽取实体(商品、属性、类目、偏好)与关系,构建个人异构图谱,替代仅依赖 sliding window 的上下文;用 HGT 或轻量图注意力做子图选择,避免全量 KG 造成 prompt 噪声和延迟。
- 同名词/多义词消歧:异构图中实体类型和关系结构可区分同一词在不同上下文(如“苹果”作为品牌或品类),适合电商搜索 query 理解与个性化召回;将图结构注入 LLM 可提升意图识别准确率。
- 主动探测问题生成:借鉴 CogChat 同时生成 intentional 和 exploratory probing questions 的机制,在推荐对话中用于偏好澄清、query 改写建议(如“你指的是 A 还是 B?”),降低用户决策负担并收集偏好信号。
- 工程实现:可用轻量抽取器构建图,HGT 只负责节点打分与选择,LLM 负责最终生成,保持低延迟;先在特定垂直领域(服装、家居、3C)试点,注意图谱更新频率和图谱规模控制。
多轮RAG何时停止?Search-R1中结构化停止判断与检索削减
🧭 多轮RAG自适应停止策略
Unaffiliated
在冻结的Search-R1框架上训练S2G风格结构化judge,用第一STOP决策减少3.7%检索调用,EM仅降0.625个百分点
📌 工作参考价值(4 点)
- 冻结主流程、只训停止judge:在电商搜索/Agent的多轮RAG场景,可以保持线上reasoner、retriever、prompt不动,只在小模型judge上做结构化停止判断,降低切换风险。
- 用“充分性+缺口”双标签替代二分类:让judge同时预测当前证据是否足够、缺失信息是什么,能提供更可解释的停止信号,后续可直接用缺口引导下一轮query改写或检索。
- 把序列决策当成first STOP选择问题:部署时轨迹由第一个STOP决定,因此评估时应按整条轨迹的最终效果而非单状态分类准确率来选阈值,建议用grouped validation避免同题多状态之间的泄漏。
- 注意成本口径:论文明确即使检索次数减少,judge推理也可能增加总耗时;业务上要单独核算端到端latency/cost,不能只报检索调用下降。
HybridRAG-BN:面向孟加拉语KBQA的检索增强与微调验证框架
🧭 低资源语言KBQA · 混合检索+验证精炼
Chittagong University of Engineering & Technology
混合稀疏/稠密检索与LoRA验证、后处理兜底的Bangla KBQA方案,竞赛双榜F1最高0.729
📌 工作参考价值(4 点)
- 在跨境电商/多语言客服KBQA中可复用“BM25+BGE-M3”混合召回:BM25卡精确词,BGE-M3补跨语言语义,减轻低资源语言形态变化对召回的冲击;工程上可离线建倒排+向量双索引。
- 生成器+LoRA验证器双模型范式:先用大模型生成候选答案,再用同一底座LoRA微调做验证与精炼,可嵌入客服回复、商品问答、Agent工具调用结果的质量把关环节,降低不可靠输出。
- 兜底后处理:对低置信度或未解析case,用fallback规则+外部搜索(如DuckDuckGo)二次检索,适合商品知识库覆盖不全时的实时兜底,避免Agent空答或乱答。
- GGUF量化部署Gemma-4-31B,在有限GPU下也能跑生成+验证两个模型;低资源业务可借鉴量化+LoRA节省成本。
面向多语言多跳问答的延迟翻译与合成器折叠框架
🧭 多语言RAG · 问题分解与延迟翻译
School of Computer Science and Engineering, Northeastern University, Shenyang, China · Yunnan Key Laboratory of Artificial Intelligence, Kunming University of Science and Technology, Kunming, China
Syfer 通过延迟翻译和子问题图质量检查,在保持精度同时降低多语言 RAG 成本
📌 工作参考价值(4 点)
- 跨语言电商搜索/问答中,不必默认把 query 翻译成英文再召回;可先按原语言分解并做质量检查,通过则直接在目标语言检索与作答,失败才启用英文翻译路径,节省翻译成本和保留本地化语义。
- 复杂购物意图可拆成带约束的子问题图,在 Agent 执行前增加一道 decomposition-quality check,避免冗余子任务引入的错误累积。
- 多跳检索问答采用顺序 retrieve-then-answer,让子问题共享上下文,比先生成全部子问题再聚合结果更能抑制误差放大;这一点可迁移到多 Agent 协作的任务规划。
- 双语子问题图对齐只在翻译 fallback 时启用,作为低成本的跨语言一致性保障,适合需要兼顾效果与推理预算的生产环境。
RAGSieve:检索增强生成中知识投毒的自引用局部对比检测
🧭 RAG安全 · 自引用局部对比检测
Nanjing University of Information Science and Technology · Meituan
提出自引用局部对比检测框架,在查询时和语料入库时无需投毒标签识别RAG投毒文档
📌 工作参考价值(4 点)
- 在RAG检索后、生成前增加轻量检测层:对同一次检索的 top-5 与 rank 6-20 候选做分布对比(如相似度集中度、排名跃迁),发现异常文档直接过滤,不需要全局阈值,适合多品类电商检索结果分布差异大的场景。
- 语料入库阶段构建文档局部邻域图,检测与语义相似但词法不同邻居的密度异常,可提前拦截协同注入的商品描述、评论或UGC内容,降低在线风险。
- 方法无需投毒标注或可信参考语料,适合业务冷启动或无标注数据时快速上线防御。
- 联合部署查询时和入库时检测,攻击成功率从67.4%降至14.0%,且对干净检索F1影响有限,可作为RAG安全模块直接嵌入现有pipeline。
谁发言重要:面向意大利议会记录的权威感知多视角RAG
🧭 权威感知的多视角 RAG 专家检索
University of Milano-Bicocca, Milan, Italy
以查询依赖的说话者权威模型驱动多视角摘要,在议会语料上实现高引文忠实度与政治团体覆盖
📌 工作参考价值(4 点)
- 在电商评价、内容导购或专家问答中,可对 UGC 作者/KOL 构建查询依赖的权威度特征(职业、历史发言、主题相关度),而非仅按点赞量或影响力加权,降低头部作者主导。
- 多视角摘要可迁移到商品评论区、直播切片观点提取:先检索相关 chunk,再识别跨立场的领域专家,最后生成综合摘要并强制附带原文引用,配合 faithfulness 校验降低错误归因。
- 可借鉴政治团体覆盖度指标,在推荐或内容聚合场景衡量不同品牌/品类/观点群体的覆盖,防止少数头部主导曝光,提升多样性。
- 架构上将「检索 → 专家识别 → 综合生成」解耦,便于在 Agent 系统中替换各模块(如专家知识图谱、引用验证器)。
先结构后查询:实现非结构化文档的精确分析查询
🧭 非结构化文档的结构化查询与分析
HKUST(GZ)
AnnoIndex 用自动标注模式构建结构化索引,结合 SQL 扩展查询引擎,以 0.87 F1 实现低成本精确文档分析
📌 工作参考价值(4 点)
- 用 annotation index 替代纯向量检索:对商品描述、用户评论、客服工单等非结构化文本,可预先用轻量模型抽取属性(如品牌、价格、功效),构建结构化索引,支持精确过滤,降低在线 LLM 调用成本。
- SchemaLoop 自动生成层级 schema:在电商类目/属性挖掘中可借鉴,从语料中自动归纳属性体系,避免手工定义大量标签字典;轻量模型抽取后增量合并,持续丰富知识库。
- 分层查询执行计划:先低成本过滤(倒排/SQL),再逐步对少量候选调用高成本 LLM 做深层语义分析,适合大规模商品库/内容库上的复杂查询与推理。
- 查询结果反哺索引:将抽取的新属性写回 annotation index,形成持续增值的文档知识库,类似用户行为/反馈数据不断补充商品标签与属性。
证据引导的多跳图检索查询重构
🧭 RAG · 多跳图检索查询重构
Nanjing University of Information Science and Technology · Meituan
利用已检索证据生成残差查询,分离查询重构与图证据聚合,提升多跳检索 Recall@5 与 F1
📌 工作参考价值(4 点)
- 多跳检索中引入残差查询:在商品图谱问答或客服 RAG 中,初始 query 往往只指向第一跳实体,后续证据需要新查询补充。可仿照 EviReform,用已命中的商品/属性片段生成 residual query,针对尚未解决的信息需求定向检索,避免把所有证据混在一个 query 向量里。
- 分离查询修正与图聚合:不要每拿到新证据就重新编码整个 query 或图。工程上可以并行计算原始 query 和多个残差 query 的检索分数,分别归一化后加权融合,再在实体/商品关系图上传播。这样既保留原意图,又能灵活吸收中途证据。
- 利用语义证据引导图遍历:在商品知识图谱或内容关系图中,边权重可以结合当前已观察到的实体语义相似度,而非仅依赖静态关系。例如用户问“A 品牌手机续航如何”,先用 A 品牌手机命中节点,再根据该节点生成“电池容量/快充”残差查询,补充商品属性节点。
- 评估指标与成本意识:论文中 Recall@5 最高提升 5.59 点,说明少量残差查询即可带来显著收益。在业务中可控制每轮残差查询数量(如 1-3 个),平衡检索延迟与召回提升。
LODESTAR:可信熵是导航而非测量——强化极化器防止冻结 LLM 被错误证据自信误导
🧭 RAG 答案选择 · RL 训练提示干预
Research Center for Information Technology Innovation, Academia Sinica, Taiwan
用 RL 训练固定 prompt 干预串,提升冻结 LLM 在 RAG 答案选择中对误导证据的鲁棒性
📌 工作参考价值(4 点)
- 生成式推荐/搜索候选重排:用 frozen LLM 的预测熵筛选候选时,注意低熵可能因上下文误导而不可靠。可在 prompt 前加一个固定的“polarizer”提示串(如“请先检查证据可信度”类),用离线 RL 训练,不改模型权重,在线零成本提高鲁棒性。
- 训练技巧:RL 奖励可来自 gold 标签与 LLM judge 组合,离线构建标签,推理时不依赖 judge。适合业务中无实时标注但离线有部分人工/gold 数据的场景。
- 架构选择:保持 LLM 冻结,只优化一个短的自然语言干预,比 fine-tune LLM 成本低且易于 A/B 测试;推荐系统可对不同候选池/域分别训练 polarizer 字符串。
- Agent 检索后答案融合:在 Agent 的 retrieve-then-answer 流程中,对多个检索证据采用基于熵的选择时,可引入干预提升对误导证据的韧性;消融实验证明能降低误导段落被读取概率。
语料特定的临床 RAG 系统在 HealthBench 上匹敌或超越新前沿 LLM
🧭 领域特定 RAG 系统评估
领域特定 RAG 通过定制语料在开放基准上与最新前沿 LLM 打平或领先,验证语料特异性对 grounding 的作用
📌 工作参考价值(4 点)
- 电商/客服领域 RAG 可借鉴「语料特异性」:把平台规则、商品政策、本地化约束、用户历史上下文等做成强约束检索源,能提升事实 grounding,不一定需要最大模型;具体做法是让检索 top-k 覆盖业务规则和场景化文档,并在 prompt 中显式要求优先依据检索证据回答。
- 评估模型和 judge 最好不共享家族/血缘,否则分数会系统性高估;可以用中立开源模型(如不同厂商模型)做第二评判,看结论是否稳健,尤其关注「准确性」「完整性」和「沟通分数」的分维度变化,避免只看总分。
- 当业务知识库足够垂直时,专用 RAG + 中等生成模型可对标甚至压过通用大模型,但会牺牲表达流畅度;产品上可以用 RAG 保证准确,再用后处理或改写模型补偿沟通体验。
- 消融「语料范围」是个高价值实验:把知识库从通用语料换成店铺/行业/活动强相关语料,观察同一 LLM 的准确率变化,即可量化语料特异性收益。
基于锚点的逐点LLM重排序何时有效?重排序质量、统计范围及锚点设计分析
🧭 LLM重排序 · 锚点设计 · 复现性研究
Missouri University of Science and Technology
复现揭示锚点重排序的对比评分是核心,但结合标准得分仅对弱检索器有益,简单锚点优于复杂设计。
📌 工作参考价值(4 点)
- 在推荐/搜索的多阶段排序中,若一阶段粗排模型足够强(如稠密双塔),使用锚点重排序时无需额外融合标准逐点相关性分数,可简化架构。
- 锚点构造无需复杂聚合,直接交错拼接top排序的句子即可达到或超过原复杂方法,降低工程实现成本。
- 重视方法复现中的隐藏细节:论文发现原方法有8个未公开细节,迁移类似方法时需通过充分消融实验验证,避免性能缩水。
- 进行离线评估或A/B测试时,应采用Bonferroni等多重比较校正,确保效果统计可靠,避免假阳性结论。
CoinRAG:面向长上下文RAG的细粒度信息块KV缓存复用
🧭 KV缓存复用 · 细粒度信息块 · 低延迟RAG ★ 深度解读
University of California, Santa Barbara · Hanbat National University
通过离线提取细粒度信息块并复用其上下文KV缓存,在低延迟预算下显著提升多跳问答准确率
📌 工作参考价值(4 点)
- 细粒度信息块离线提取与缓存复用:在电商/内容推荐中,可对商品描述或文档预先提取关键事实块并缓存KV,在线仅加载所需片段,大幅降低预填充延迟,适配严格的SLA。
- 两阶段检索缩小候选范围:先粗粒块召回,再在块内针对查询做细粒度块排序,可迁移到多路召回或Rerank场景,减少噪声同时提升效率。
- 位置对齐实现非连续缓存拼接:利用RoPE旋转偏移对齐来自不同块的缓存片段,保持紧凑的连续位置编码,减少内存占用并加速解码,适用于动态组合多种证据的生成式推荐或广告文案生成。
- 块感知微调(nugget‑aware fine‑tuning):在训练中直接注入拼接的非连续缓存结构,能大幅缩小训练‑推理偏差,类似方法可用于在业务中微调模型以接受结构化的检索增强输入,如structured prompt+商品属性片段。
无需固定截断深度的精确自适应混合检索
🧭 自适应混合检索 · 精确Top-K无截断
Southwest Jiaotong University
提出可按需继续的精确稠密-稀疏融合方法,保证完全列表Top-K一致且避免固定截断,平均加速23-30倍
📌 工作参考价值(4 点)
- 多路召回免截断融合:电商/推荐场景中,embedding 召回与倒排召回融合时,可借鉴 EAHR 的按需增量获取机制,不再硬性固定每条通道的截断数,避免截断过小丢失关键文档或过大引入冗余计算。
- 可恢复的精确排序:使用 PVS 量化向量索引 + PBM 块最大索引,支持随时恢复并继续拉取下一个未读高分项,工程上可设计成流式/游标式接口,方便在多路融合中按需拉取。
- 边界裁剪节省算力:计算未读候选的融合分数上界,仅当上界可能挤入当前 Top-K 时才继续请求,多数 easy query 可提前终止,大幅降低平均延迟(实测加速 23-30 倍),同时保证融合结果与完整列表完全一致。
- 无需依赖历史查询调参:实验证明固定深度无法从历史查询可靠迁移,EAHR 的自适应策略省去了繁重的离线参数调优,更适合动态语料与长尾查询。
修辞角色感知的领域RAG:面向印度最高法院判决的法律问答
🧭 领域增强RAG · 修辞角色分块
National Institute of Technology, Tiruchirappalli · National Institute of Karnataka, Surathkal
提出修辞角色分块、混合检索与查询改写的领域RAG框架,提升法律多轮问答的上下文召回与答案相关性
📌 工作参考价值(4 点)
- 修辞角色分块可迁移至电商内容理解:对商品标题、详情、评论按修辞角色(属性、评价、场景)分块,提升检索与生成相关性。
- 多轮查询改写增强对话Agent:利用历史与意图分类进行查询改写,可解决电商导购、客服场景中的指代消解与意图漂移。
- 结构感知提升专业领域检索:提取文档中的实体(如法官姓名)类似电商中的品牌、规格,可作为稀疏特征加入检索或重排序。
- 混合检索与交叉编码器重排序:在商品搜索或推荐Agent中直接复用,融合稠密与稀疏检索信号,再用交叉编码器精排,成本可控且效果提升明显。
对齐即一切:时间序列基础模型的免训练检索增强预测
🧭 检索增强预测 · 免训练时序对齐
Stanford University · Amazon
提出免训练的时序对齐方法Align-RAG,证明冻结模型自身即可动态利用检索上下文,无需训练适配器
📌 工作参考价值(4 点)
- 在电商销量/广告点击预测中,可直接使用“幅度缩放+相位平移”的对齐方法,将检索到的相似时间序列与当前序列对齐后输入冻结预测模型,无需训练任何适配器,降低工程复杂度。
- 用户行为序列预测(如下次购买时间、点击路径)可借鉴此思路:对检索到的历史行为窗口进行均值和方差归一化,并基于互相关计算最佳滞后,再作为冻结基座模型的上下文,有望提升零样本泛化能力。
- 对推荐系统的RAG设计启示:冻结大模型本身已具备动态利用检索上下文的能力,应优先采用无参数的输入对齐基线,避免过早引入可学习的融合模块,减少训练成本和过拟合风险。
- 工程实现简单高效:对齐仅需计算均值和方差(幅度缩放)及整数滞后(相位对齐),易于集成至现有检索增强推理流水线,可作为时序预测任务的默认基线。
神经符号检索增强生成用于可解释问答
🧭 神经符号RAG · 可解释推理
Data Science Group, Heidelberg University, Germany
将检索文本块合成为可归因的Prolog模块并引入知识缺口检测,实现透明可溯源的RAG推理
📌 工作参考价值(4 点)
- 在对话式推荐或客服Agent中,可将检索到的商品知识/政策文本转化为Prolog谓词,实现决策步骤的可追溯和确定性验证,提升用户信任。
- 知识缺口检测机制可移植到个性化推荐:当用户上下文不完整时(如未提供偏好尺寸、预算),系统主动追问,改善冷启动和动态探索。
- 利用LLM从非结构化语料(商品描述、活动规则)自动抽取结构化规则(布尔断言),与推荐引擎结合,构建可解释的过滤/排序逻辑。
- 在Agent关键推理节点,嵌入神经符号混合策略:用LLM完成灵活的语言理解,用符号执行保障逻辑一致性,平衡泛化与可靠性。
通过合成查询探测映射不同嵌入模型的相似度空间
🧭 嵌入向量相似度跨模型校准
Pegasystems · Leiden University
提出无参考合成查询探测方法,学习分数映射使不同嵌入模型的相似度可比,提升阈值可迁移性
📌 工作参考价值(4 点)
- 模型迁移时的阈值复用:当切换或升级嵌入模型时,利用 isotonic 回归学习旧的相似度分数到新模型分数的单调映射,可直接复用原有检索阈值,避免重做大量 A/B 测试或人工调参。
- 无标注的快速校准:Synthetic Query Probing 通过从文档自动生成查询(如用 LLM 生成)构建配对数据,无需人工标注,可在分钟级完成一次跨模型分数校准,适合频繁迭代模型的场景。
- 多路召回分数融合:在推荐或广告系统的多路召回中,不同路可能使用不同嵌入模型,先对各路分数进行跨模型校准再融合,可提升融合排序的合理性,避免因分数分布差异导致某一路被系统性压制。
- 线上阈值自适应:新模型上线时,仅需少量查询-文档校准对即可在线学习一个轻量映射函数,实现动态阈值调整,降低线上实验风险。
TS-RAG:用于时间序列预测的检索增强生成
🧭 检索增强的时间序列预测
Baidu, Inc.
提出 TS-RAG,用参考令牌融合检索序列,提升时间序列预测精度
📌 工作参考价值(4 点)
- 在电商销量、流量等时序预测中,可借鉴 TS-RAG 的检索增强思路,检索相似历史窗口并通过可学习的参考令牌融合,避免简单拼接带来的噪声。
- 对于推荐系统的行为序列预测(如用户下一步动作),可检索相似用户序列作为参考,用融合机制增强模型对长尾或冷启动场景的预测能力。
- 工程实现上,需预先对历史序列切片并计算表示向量,构建近似最近邻索引,在线推理时低延迟检索,同时注意定期更新索引。
- 参考令牌设计与 Transformer 主干解耦,可灵活插入现有预测模型,无需大幅改动架构。
跨平台多源证据共识验证提升AI新闻摘要事实可靠性
🧭 多源验证与共识仲裁提升事实一致性
Bank of Changsha Co., Ltd. · Boston University
提出MECV框架,通过异构多源检索与多LLM陪审团共识打分修正摘要幻觉
📌 工作参考价值(4 点)
- 多源证据交叉验证:在商品描述生成或评论摘要等场景,可借鉴从商品库、百科、用户问答等多源检索证据,交叉验证事实性声明,减少单一信源偏差。
- 多LLM陪审团共识机制:对关键商品属性(如材质、功能)或广告文案的事实陈述,采用不同LLM独立验证,通过矛盾感知的共识打分识别不可靠内容,提升可信度。
- 迭代最小编辑修正:对生成式推荐文案或推送消息中的可疑事实片段,采用小步迭代修改,既修正错误又尽量保留原有结构和风格,降低改写成本。
- 异构检索引擎编排:在涉及多平台商品信息核验时,可设计类似架构,组合内部知识库、第三方API和开放网络搜索,并利用协调器控制修正流程。
教Nemotron希腊语:专业领域现代希腊语RAG全流程构建
🧭 低资源语言RAG全栈适配 · 领域检索增强生成
Sophea AI, KIEFER SA, Athens, Greece
为低资源语言从头搭建检索增强生成系统,合成监督、微调嵌入与重排、适配生成,并发布基准HERA。
📌 工作参考价值(4 点)
- 不要迷信多语言密集检索:在特定领域(如电商商品描述、客服文档),先跑一个BM25作为基线,很可能强过通用多语言嵌入模型,尤其在低资源语言场景。
- 小规模领域检索对微调有大收益:仅用6.5万合成希腊语检索对微调1B嵌入模型,nDCG@10从0.362涨到0.835。在电商垂直领域,可以自动构建(query, 商品/文档)对来微调嵌入模型,成本低但效果显著。
- 重排器也需要领域适配:现成跨编码器重排器在不同领域表现不一致,用领域数据微调后能变成稳定增益。构建RAG系统时,别忽略重排环节的定制训练。
- LoRA微调MoE阅读器大幅提升答案质量:仅LoRA调优30B-A3B的MoE模型,答案正确率从29.4%升至66.9%,且忠实性和引用质量显著改善。对于需要从长文档中提取证据的场景(如电商说明书、政策文档),用LoRA高效地让大模型接地气。
SciRet:面向科学RAG的检索与重排序计算感知实证研究
🧭 科学RAG检索与重排序实证分析
Laurentian University · North South University
在科学问答RAG中,混合检索更鲁棒,跨域重排序可能有害,且生成忠实度随语料规模增大而提升。
📌 工作参考价值(4 点)
- 电商搜索/推荐场景的 RAG 系统应优先采用混合检索(稀疏 BM25 + 稠密向量),它在不同索引规模下均更鲁棒,可避免单一方式在长尾或新类目上的性能塌陷。
- 重排序模型必须使用领域内数据微调;直接使用通用 Web 数据(如 MS MARCO)训练的 cross-encoder 会因领域不匹配而损伤检索精度,建议用业务日志中的点击/转化数据构建正负例进行微调。
- 随索引语料规模增大,生成回答的忠实度(faithfulness)可能自然提升,但需权衡计算成本;在工程上可考虑分层检索或动态调整检索深度。
- 句子窗口分块策略简单有效,适用于商品描述、用户评论等长文本场景,可作为 baseline 快速验证。
用搜索评分标准训练文档重排序器以支持深度研究智能体
🧭 搜索评分标准引导的文档重排序器训练 ★ 深度解读
中国人民大学 · 腾讯
提出层级式搜索评分标准,指导文档重排序器训练,提升智能体检索质量并减少搜索调用次数
📌 工作参考价值(4 点)
- 搜索评分标准可迁移至电商/推荐场景:借鉴层级式评估(集合级:相关性、简洁性、一致性;文档级:来源权威性、时效性),为商品搜索词或推荐候选集设计 query-specific 质量 rubrics,直接用于训练重排模型或构造奖励函数。
- 两阶段训练范式可直接复用:先用教师模型(如强 LLM)按 rubrics 生成伪标签做 SFT 冷启动,再用 GRPO 搭配 rubrics 加权奖励做 RL 微调,这一范式适合商品列表、广告创意列表等需要集合整体优化的排序任务。
- rubric 构造方法可提升评估与训练信号质量:用强 LLM 先合成高质量答案,再扩展出细粒度、带权重的评分标准,能够更精准地捕捉集合级别的信息需求(如多样性、覆盖度),这个方法可直接嫁接于推荐系统的离线评估或 RL reward 设计。
- 文档集级别重排思想可直接用于电商搜索/RAG 系统:不按单个文档相关性排序,而是直接输出一个满足整体质量要求的子集,能够减少冗余、提升证据充分性,可降低后续 Agent 或 LLM 生成回答时所需的搜索步数,改善时延。
边缘语言模型的结构化记忆:O(1) SSM 状态注入实现持久上下文与语料检索
🧭 SSM 状态注入实现 O(1) RAG
BrainChip Inc.
利用 SSM 固定大小隐藏状态实现 O(1) 预填充的语料检索与记忆巩固,在边缘设备上实现 4500 倍加速
📌 工作参考价值(4 点)
- 高并发低延迟场景可直接复用:将商品/广告语料库离线预编码为 SSM 隐藏状态,线上查询时注入匹配状态,跳过在线重编码,显著降低首 token 延迟
- 多 Agent 协作中共享记忆体:各 Agent 可维护各自的结构化记忆,查询时动态融合检索到的语料状态与自身瞬时状态,实现 O(1) 会话初始化
- 用户长期偏好建模:借鉴 SMC 分层记忆机制,将短期交互序列浓缩为固定大小语义状态,持久化存储,与新检索上下文状态直接融合,无需重新处理历史
- 轻量级边缘推荐:在手机或 IoT 设备上部署小型 SSM,预编码推荐知识库作为隐藏状态,实现端侧零上下文实时推荐
桥接 RAG 中问答鸿沟的假设提示嵌入
🧭 RAG 检索优化 · 假设嵌入
University of Primorska, Faculty of Mathematics, Natural Sciences and Information Technologies · InnoRenew CoE · Research Centre of the Slovenian Academy of Sciences and Arts, The Fran Ramovš Institute
将假设内容生成从查询时移至索引阶段,用预计算的假设提示嵌入将检索变成问题-问题匹配
📌 工作参考价值(4 点)
- 预计算假设查询嵌入,替换在线 HyDE:在电商搜索或客服 RAG 中,可将每个商品详情页、政策文档预先用 LLM 生成多个可能用户会问的问题(hypothetical prompts),用这些问题嵌入直接建索引,在线时用户查询嵌入直接与问题嵌入匹配,完全消除查询时调用 LLM 的延迟和成本。
- 多假设覆盖长尾查询:每个 chunk 生成 5-10 种不同表述的假设问题,能覆盖更广泛的用户表达习惯,尤其适合电商搜索中同义但非规范表达的查询,提升召回率和上下文精度。
- 与重排序、多向量检索等兼容:HyPE 仅改变索引构建方式,不影响线上检索架构,可直接叠加现有的粗排-精排流水线、多向量延迟交互模型(如 ColBERT)或查询分解,适合渐进式落地。
- 监控与质量保障:生成假设问题时需要控制幻觉,可先用小模型生成再过滤,或结合类目体系约束生成范围,保证问题与文档内容一致,这比 HyDE 在线生成更容易审计和修复。
EMBL AI 图书馆员:面向 AI 代理的生命科学文献知识层
🧭 面向 AI 代理的文献检索 · 证据提取
EMBL Rome, European Molecular Biology Laboratory · European Bioinformatics Institute (EMBL-EBI) · Sapienza University of Rome · Uppsala University · Heidelberg University
将结构化文献搜索升级为自然语言证据检索层,大幅提升科学代理的问答、验证与综合性能
📌 工作参考价值(4 点)
- 领域知识层架构可迁移至电商导购 Agent:将核心思想——用 LLM 将自然语言问题分解为互补子查询,对接现有搜索引擎 API,并以“证据”而非整篇文档返回——直接用于构建商品知识检索层,为电商对话推荐 Agent 提供精准的商品属性、评价摘要或政策依据。
- 子查询规划与合并策略:借鉴其 LLM 动态生成多个子查询、去重并汇聚证据的方式,可用于复杂推荐解释或多条件检索场景,避免 Agent 硬编码搜索语法,提升召回覆盖率和信息密度。
- 评估方法启发:论文使用的 Citation F1 指标可用于推荐系统生成解释时的引用准确率评估,尤其适合需要引用原文(如用户评价)的场景,可设计类似的证据覆盖度与精确度指标。
- 实时检索与证据定位流水线:该工作结合了现有搜索引擎的实时检索与 LLM 的精读定位,方案轻量且无需重新索引,电商领域可直接套用此模式,将商品搜索 API 与 LLM 结合,为 Agent 提供“事实性回答”能力,降低幻觉风险。
面向端侧上下文学习的无梯度任务条件检索
🧭 输出条件化的无梯度检索对齐
City University of Hong Kong · Institute of Automation Chinese Academy of Sciences
CoRA 利用输出信息构建条件空间,无需微调即可将冻结编码器转为任务导向检索器,支持端侧多模态示例选择
📌 工作参考价值(4 点)
- 无梯度任务适配:在推荐或搜索中,可用少量任务样本(如高转化 item 的标题或图像)构建条件空间,将已有编码器快速适配为任务专用检索器,无需重新训练或反向传播,适合快速 A/B 测试。
- 端侧高效检索:低秩压缩将检索索引缩小至原始表示的 1/50~1/100,且查询时仅需输入编码和预计算索引,适合移动端或边缘设备的实时个性化推荐。
- 多模态扩展:可将商品图、详情描述等视觉特征纳入条件空间,直接检索多模态示例,为图文推荐或广告创意优选提供轻量方案。
- 离线构造与双通流式处理:采用闭式岭回归和双通算法避免储存完整拟合矩阵,可处理百万级候选集,适合大规模电商场景下构建任务条件索引。
面向领域数据资产发现的结构化知识基础设施
🧭 企业级RAG:知识图谱引导检索与场景感知排序 ★ 深度解读
Xiaohongshu
基于知识图谱引导检索和场景感知排序,将广告数据资产命中率从19.1%提升至96.6%,Token降低71.6倍
📌 工作参考价值(4 点)
- 知识图谱候选门:借鉴GGR,用领域知识图谱社区划分与同义词扩展做粗召回,将候选集从数千缩至3–15个,再喂给精排模型,既能降低向量检索噪声,又能将LLM Token消耗减少数十倍。
- 双用途结构化标注:设计同时服务检索和生成的文档模板,将“适用/不适用场景”显式标签作为第一类排序信号;特别是“不适用”负向知识,直接贡献25pp的Hit@10提升,可在电商推荐中用于抑制错误匹配、提升可解释性。
- 意图路由机制:构建基于关键词规则+LLM兜底的意图分类器(7类),在毫秒级延迟内实现查询分流,可灵活用于Agent系统中的工具分发或任务路由,无需微调。
- 轻量闭环刷新:LLM自动起草知识补丁,专家一键审批后30秒热加载,既保持知识库天级新鲜度,又避免全自动合并的风险,适用于活动/属性变化频繁的电商知识维护。
面向知识图谱的图语言模型增强检索生成
🧭 图增强检索生成 · 多跳推理
Institute of Computational Linguistics, Heidelberg University · Aleph Alpha Research
微调图语言模型检索器在多跳知识图谱RAG中取得跨领域SOTA,泛化性优于GNN和向量检索
📌 工作参考价值(4 点)
- 图增强召回:在商品知识图谱上构建GLM检索器,将商品、属性、类目作为节点,微调后可直接用于多跳推理类推荐(如“适合露营的防晒帐篷”),提升跨品类泛化。
- 检索器架构选择:单跳场景优先用高效向量检索(如双塔);涉及多关系推理时改用GLM或GNN检索器,并关注图覆盖度与推理深度的权衡。
- 跨域迁移能力:若业务需快速扩展到新领域(如从服装到美妆),可利用GLM检索器的语言理解优势做zero/few-shot迁移,减少重新标注成本。
- 训练效率与覆盖的平衡:GNN检索器能用更少训练资源达到更高图覆盖率,适合冷启动或图谱频繁更新的场景;GLM检索器在充足数据下随参数量增大性能提升明显,适合主赛道长期投入。
AskChem:以声明为中心的化学文献合成基础设施
🧭 声明为中心的科学文献RAG基础设施
New York University · Matterstack, Inc.
将文献检索单元从论文改为携带出处的原子声明,构建分面分类与证据图,提升AI代理答案可追溯性
📌 工作参考价值(4 点)
- 将商品详情、用户评论等非结构化内容拆分为原子事实声明,携带来源ID(如评论锚点),构建可溯源的“商品知识库”,AI导购或客服可直接引用出处,增强可解释性与信任感。
- 建立商品证据图(如用户反馈 ↔ 产品参数声明),当用户查询“哪些手机在弱光下拍照好”时,系统检索相关声明并聚合显示,而非仅返回商品列表,提升多跳推理问答能力。
- 利用分面分类法动态组织商品属性(品牌、价格、材质等),支持层级浏览与过滤,类似电商导航栏的自动生成,方便探索式购物。
- 借鉴MCP接口设计,将内部搜索/推荐系统封装为Agent可调用的工具,使第三方AI Agent能直接访问结构化声明数据,实现跨平台智能助手的快速集成。
BM25在大规模上获胜:检索增强生成范式的扩展性研究
🧭 检索增强生成扩展性分析 ★ 深度解读
University of Science and Technology of China · Metastone Technology · Beijing Academy of Agriculture and Forestry Sciences
在450倍语料规模扩展实验中,BM25在大约1000万词元后全面超越文件系统Agent和图RAG,成为准确性最高且成本最低的默认检索方案
📌 工作参考价值(4 点)
- 大规模知识库推荐系统检索选型:在电商商品描述、客服知识库等百万级文档场景中,BM25应当被作为默认检索器,而不必盲目追求稠密检索或Agent搜索;BM25无需LLM构建索引,成本极低且准确率在大规模时反而领先。
- 搜索词/问题改写中的成本控制:File-System Agent在小规模(<1000万词元)时可获得最佳准确率,但其顺序探索导致查询成本为BM25的39倍以上;在广告搜索词推荐或用户问题重写中,应先通过全局关键词检索(如BM25)获得候选,再引入Agent推理,而不是全程依赖Agent遍历。
- 图索引构建的门槛评估:GraphRAG(如LightRAG、MS-GraphRAG)在构建阶段消耗极大,LightRAG在300万词元时已无法完成构建,且准确率始终不如BM25;在含有大量噪声、事实冲突的电商评价或客服记录中,图遍历更容易被语义干扰,应谨慎评估ROI。
- 评测设计的借鉴:论文通过固定问答集、固定对抗文档、仅增加背景语料的“嵌套语料梯”设计,可以迁移到搜索推荐系统的离线评估中,用于衡量模型在库存/内容膨胀时的鲁棒性,避免单一体量评估掩盖扩展性问题。
互补记忆痕迹框架 CMT-RAG:用于多轮多跳对话 RAG
🧭 对话记忆与检索协同 · 子问题级 trace ★ 深度解读
中山大学 · 深圳循环智能研究院 · 香港大学
用子问题级记忆痕迹对齐对话记忆与检索,通过 SSM+DAG 实现跨轮依赖跟踪和证据复用
📌 工作参考价值(3 点)
- 子问题级记忆单元设计:在电商对话推荐或搜索中,可借鉴 trace 结构(子问题、关键词、依赖、证据 ID),将用户意图分解为可检索的细化单元,避免全文历史重放导致的上下文稀释。
- 依赖图驱动的证据复用:每次对话轮次通过 DAG 节点链接前序推理步骤,直接复用之前检索到的段落 ID,减少重复检索,提升长对话的响应速度与一致性,适合多轮商品对比或参数补充场景。
- SSM 生成器替代 Transformer 重编码:使用 Mamba-2 维护回合级隐状态,将推理时延降低近一半,适合对延迟敏感的在线服务;同时通过课程学习 + DPO 微调适配特定下游 Reader,可落地到需要结构化计划生成的 Agent 工作流中。
面向大规模金融文档的层级重排序RAG系统
🧭 RAG 层级重排序与长上下文处理
Financial Security Institute · Hanyang University
通过预检索优化、两阶段层级重排序与自适应长上下文管理,显著提升金融RAG的检索精度与事实一致性
📌 工作参考价值(4 点)
- 预检索优化可复制:归一化、关键词扩展与表格转换等轻量级预处理,可直接用于电商搜索或推荐系统的查询理解模块,提升召回阶段的命中率,尤其适合含表格的产品描述。
- 两阶段重排序架构:先粗排后精排的思路在推荐系统中已成熟,本文的层级重排序强调利用不同粒度证据进行递进式匹配,可将类似思路用于多路召回后的融合排序,比如先用稀疏特征粗排,再用cross-encoder精排,降低精排计算压力。
- 长上下文的切片与融合机制:对于需要处理用户长期行为序列或长文档描述的推荐场景,自适应分区和证据融合方法可以避免上下文截断带来的信息丢失,保持长序列推理的连贯性,可迁移至用户长历史建模或多轮对话Agent的记忆管理。
- 事实一致性校验的启发:文中强调生成结果的事实一致性,电商生成式推荐(如AI文案、评论总结)同样面临幻觉问题,可借鉴其在RAG管道中加入事实核对步骤,对生成内容与检索证据进行交叉验证。
面向知识对齐的多跳检索增强生成
🧭 知识图谱多跳检索与对齐学习
The Pennsylvania State University · University at Albany, State University of New York · Stony Brook University, State University of New York
区分锚点与链接三元组,通过全局召回与局部扩展提升图多跳检索的证据完整性
📌 工作参考价值(3 点)
- 知识图谱驱动的商品多跳问答:在电商场景构建商品-属性-类目等知识图谱后,可借鉴 KAMR 的“先全局检索锚点三元组,再沿图局部扩展收集弱相关证据”的两阶段策略,解决复杂查询(如“适合油皮的平价控油粉底液有何副作用?”)需要组合多条知识才能回答的问题。
- 弱对齐事实的补救机制:采用对比学习 pair-level 与 element-level 匹配,配合 LLM 掩码生成部分对齐数据的训练方式,能有效召回语义上弱相关但结构必要的三元组,适合推荐系统中低频长尾属性(如冷门成分)的补全。
- 支持 Agent 的推理链路构建:在 Agent 需调用知识库进行多步推理时,该检索方法可输出有序的证据链,增强答案的可解释性,尤其适用于合规审查、导购解释等场景。
GRADRAG:跨组件提示自适应实现多智能体RAG协同优化
🧭 RAG多智能体协同优化
Bloomberg
将RAG管线建模为计算图,通过评估反馈反向传播优化上游Agent提示,取得12-15pp偏好提升
📌 工作参考价值(4 点)
- 在搭建电商搜索/问答的Agent管线(检索→证据整理→答案生成→校验)时,可借鉴GRADRAG的图结构建模与反馈传播思路:设计一个Evaluator对最终答案和中间证据打分,将结构化反馈反向发送给上游Agent(如检索改写、图谱构建),用少量迭代联合优化全链路,避免各环节独立调优导致的误差累积。
- 两阶段自适应提示机制可直接落地:先让Evaluator输出简短评判(太模糊/证据不足),再据此生成具体改进指令,带动检索和生成prompt的自动更新,降低人工设计prompt的成本。
- 早停策略对成本敏感的场景很有价值:Evaluator判断答案质量达标即可终止迭代,避免无效重试,平衡效果与推理开销。
- 该方法与底层检索范式解耦,支持chunk-based和graph-based两种模式,因此无论团队当前用的是语义分块检索还是知识图谱增强,都能叠加GRADRAG提升多步推理效果,适配迁移成本低。
LAMAR:开放的语言感知多语言对齐重排序器
🧭 多语言RAG重排序 · 语言感知对齐
Korea University
提出语言感知多语言重排序器LAMAR,通过英语锚定蒸馏和偏好对齐,同时优化语义相关性和语言一致性。
📌 工作参考价值(4 点)
- 在电商搜索重排序中引入语言偏好特征,优先展示与查询语言一致的商品描述,可提升多语言用户体验和转化率。
- 使用英语作为锚定语言进行跨语言相关性蒸馏,统一多语言语义评分,可直接复用至多语言召回/排序的 teacher 模型构建。
- 偏好对齐(如 DPO)可显式控制排序中的语言一致性,结合点击/转化等业务信号微调,比规则加权更精细。
- 多语言 RAG 场景下,重排序考虑语言一致性可减少下游生成的语言混淆,对多语言客服 Agent 或知识库问答有直接帮助。
SHIFT:自重建利用隐式细粒度思考进行检索
🧭 隐式推理检索器 · 细粒度自重建
Peking University · Institute of Computing Technology, Chinese Academy of Sciences · Beihang University
用细粒度自重建缓解对比学习与隐式推理的目标错配,提升推理密集型检索性能
📌 工作参考价值(4 点)
- 隐式推理检索可直接用于电商搜索/推荐召回:在双塔模型里插入少量软 token 做隐式查询理解,替代显式改写,既保留推理能力又降低在线延迟。
- 细粒度 NTP 重建可作为对比学习的有效正则:在训练检索器时加入 next-token-prediction 重建 query 或 item 文本,能缓解对比目标与生成能力之间的冲突,提升表征的语义对齐度,适合复杂意图的查询-商品匹配。
- 残差投影与双向注意力的适配方案:将 LLM 转换为检索器时,用残差投影层和按任务定制的双向注意力聚合,可稳定保留预训练语义知识,这为利用大模型做召回模型提供了一套轻量、稳定的改造范式。
- 对 Agent 中检索工具的优化意义:若 Agent 需要调用多跳推理检索,可微调一个隐式推理检索器,在低延迟下实现接近显式推理的效果,适合实时决策场景。
PAGE-RAG:基于投影感知自适应图检索的长文档问答
🧭 图增强检索 · 自适应路由
成都信息工程大学 · 北京航空航天大学
将图视为文档语义骨架,通过任务自适应路由和知识边界控制提升长文档问答的可靠性和效率
📌 工作参考价值(4 点)
- 自适应检索路由可用于电商多源知识问答:在商品知识库、政策文档等长文本场景,根据问题类型动态选择只查图、只查原文档或两者结合,平衡效率与质量,避免图检索的过度开销或信息遗漏
- 图作为语义骨架而非独立知识源:在构建商品属性图、类目关系图时,明确图仅是文档的辅助导航结构,最终答案仍需回源文档验证,可减少因图结构不完备导致的幻觉
- 知识边界控制机制可直接迁移:在客服Agent或商品推荐解释生成中,通过定义证据范围拒绝回答超出知识覆盖的问题,提升系统可信度,避免编造描述
- 检索行为显式路由:可启发在推荐/搜索中设计查询理解模块,动态选择不同检索策略(如稠密检索、图检索、混合检索),而非一刀切,提升长尾查询效果
基于强化知识图谱探索的分解学习框架用于事实核查
🧭 推理增强 · 强化知识图谱检索
University of Louisville · Denison University
将声明分解为多个查询,用强化学习优化知识图谱探索策略,事实核查 F1 提升 10–15%
📌 工作参考价值(4 点)
- 复杂查询的分解与推理:电商搜索中用户长尾/多条件意图,可借鉴 Planner LLM 将 query 分解为子问题,再到结构化 KG(商品属性、品牌关系)中检索证据,提升复杂 query 的召回精度和可解释性。
- 用 GRPO 优化检索策略:若需训练 query 改写或检索路径选择模型,可采用 Group Relative Policy Optimization,以最终结果准确性+检索多样性为奖励,避免传统监督信号昂贵的问题,适合在线上持续优化搜索或推荐 agent。
- 知识图谱替代纯文本检索:在 RAG 管线中,用 KG 存储商品/用户结构化信息,由分解后的子查询定向抽取子图,可有效减少 LLM 幻觉,适合需要事实级准确性的场景(如营养成分、尺码对比推荐)。
- 多样性与可审计的设计:奖励中加入结构多样性,能防止检索结果单一化,同时 KG 路径可天然提供审计链,这对电商合规和用户信任构建有直接价值。
零幻觉,由构造保证:面向可信企业AI的幻觉感知分层监查
🧭 幻觉感知的多层防御RAG架构
FlowX.AI
提出HALO六层防御架构,将幻觉视为可容错系统属性,通过接地生成、证据信心和校准拒答实现企业AI零幻觉
📌 工作参考价值(4 点)
- 电商/广告搜索中LLM生成内容(如商品属性、广告语)易出现幻觉,可借鉴证据基置信度:要求输出中事实片段明确对应检索到的原始文档片段,不依赖模型自身置信度,并在验证失败时触发校准拒答,避免向用户展示错误信息。
- 生成式推荐或 Query 推荐系统可采纳多信号验证层:同时用LLM裁判和基于源文档的硬校验(如实体匹配、数值对齐)对生成结果打分,双重把关后再决定是否放出。
- 全链路可追溯(检索、工具调用、生成)对推荐系统的 debug 和审计极有价值:快速定位究竟是检索错误还是生成错误导致幻影推荐。
- 持续监查与漂移检测适合推荐系统线上效果维护:定期采样对比历史基线,发现生成质量下滑或幻觉率超标时自动告警,并触发重生成与统计验证,形成闭环优化。
多域检索中无标签逐域污染控制及共形风险保证
🧭 共形风险控制 · 多域检索污染保证
Electric Power Research Institute (EPRI)
提出 C3R,一种即插即用的共形控制层,无标签情况下逐域认证污染预算,在最难域上保证污染降低。
📌 工作参考价值(4 点)
- 无标签域污染控制:无需查询时域标注,仅用推断的域后验即可逐域设定污染预算,适合电商多源检索(商品、评价、攻略)中低成本抑制错误域文档。
- 可认证的风险保证:提供有限样本下逐域污染上界的严格证书,且在最差域上保证污染降低而非仅边际平均,适合对权威性/安全性要求高的金融、法规等场景。
- 软降级优于硬级联:软降级策略在相同认证污染水平下比传统校准级联保留更多召回,可直接作为检索后安全层,不破坏原有排序。
- 堆栈冻结与重排器无关:C3R 作为外挂控制层,不改动现有检索和重排模型,迁移成本极低,适合现有搜索推荐系统快速落地。
布尔查询就够了吗?LLM代理结合布尔检索的探索
🧭 LLM Agent 自动布尔查询生成与检索
University of Waterloo
LLM搜索代理自动生成布尔查询,基于子串匹配密度无监督排序,NDCG@10=0.6863超越主流稠密/稀疏检索器
📌 工作参考价值(4 点)
- 无监督检索替代方案:电商搜索或广告匹配中,可使用LLM将用户query改写为多条件布尔查询,结合商品属性词库进行精确匹配,无需训练稠密或稀疏模型,适合冷启动或快节奏场景。
- 多轮交互式检索:在Agent框架内,用少量模型调用(≤100次/主题)迭代优化布尔查询,可低成本实现高精度检索,可借鉴到对话式导购系统。
- 匹配密度评分:仅基于匹配子串的数量和长度计算相关度,实现简单,可解释性强,适合要求透明排序的业务(如合规广告召回)。
- 数据泄露警惕:由于测试集可能包含在LLM训练数据中,实际迁移时应避免直接使用公开基准,需在业务特有数据集上验证效果。
RAGU:多步GraphRAG引擎与紧凑领域适配LLM
🧭 GraphRAG引擎优化 · 轻量模型
ITMO University · Novosibirsk State University · Far Eastern Federal University
将知识图谱构建拆分为抽取与整合两步,用7B语言模型超越32B模型,实现更完整的证据检索
📌 工作参考价值(4 点)
- 知识图谱构建流水线可复用:两阶段有类型实体抽取 + DBSCAN 去重 + LLM 摘要 + Leiden 社区发现,适合电商商品库、搜索日志构建结构化知识图谱。
- 业务专属轻量模型思路:任务所需的语言技能(理解、抽取、推理)随参数增长有限,可针对性地训练 7B 模型替代大模型,降低成本与延迟,适用于线上抽取 pipeline。
- 多跳检索的完整性验证:GraphRAG 在医学领域取得证据召回 0.84,可迁移至电商多条件筛选或推荐解释场景,确保检索覆盖所有相关事实片段。
- 工程化参考:开源、pip 安装、单 GPU 运行,易于集成到现有 RAG 系统中,可直接作为商品问答、内容推荐的 GraphRAG 基座测试效果。
通过人类反馈增强LLM:迈向自我改进之路
🧭 人类反馈驱动的RAG自我改进
Intel Corporation
用辅助RAG系统收集并整合详细人工反馈,驱动主RAG回答的自我优化
📌 工作参考价值(4 点)
- 在推荐或问答系统中,收集用户明确纠正的文本反馈(如“我要的不是XX,而是YY”),比隐式二元信号更能精准定位检索和生成缺陷
- 可构建一个轻量的辅助RAG模块,专门处理用户反馈,动态修正知识库的检索权重或生成策略,而无需频繁重训大模型
- 引入人类在环的持续反馈循环,将新反馈逐步纳入实时推理,适合线上快速迭代的电商搜索或客服场景
- 利用LLM-as-a-Judge自动化评估反馈对系统改进的效果,降低人工评估成本,适合快速实验和上线
DocMaster:层次结构感知的文档分析系统
🧭 结构感知文档索引与多模态分析
The Chinese University of Hong Kong, Shenzhen · The Chinese University of Hong Kong · OceanBase, AntGroup
保留文档层次结构,构建结构感知语义索引,提升复杂文档过滤与问答性能
📌 工作参考价值(4 点)
- 电商商品搜索中,可借鉴文档树解析商品详情页,保留标题、属性、图片的层次结构,构建多粒度索引,提高长尾查询的召回精度。
- 多视图语义索引策略可应用于商品评论和描述的分离索引,支持自然语言条件过滤(如“有赠品的商品”),增强可解释性过滤能力。
- 先过滤后问答的 workflow 可迁移至智能客服:先基于层次化结构筛选相关商品/政策文档,再做精准回答,降低 token 消耗并提高准确率。
- 树形结构语义索引的设计思路可复用到商品类目体系,结合 LLM 进行类目感知的个性化推荐,保持层次约束。
历史档案对话检索与即时图知识建模系统
🧭 RAG + 图记忆的对话式知识检索
Computer Vision Center, Universitat Autònoma de Barcelona
在图结构上动态建模专家知识,充当LLM记忆实现跨文档推理与对话式检索
📌 工作参考价值(4 点)
- 将领域专家知识构建为图索引,作为LLM的外部记忆,在RAG过程中优先检索此类已建模知识,能显著提升问答深度与一致性,特别适合电商商品知识库、政策QA等场景
- 允许业务专家即时向图中添加/更新事实(如新品属性、促销规则),系统无需重新训练即可动态扩展知识,适合快速变化的电商运营环境
- 图结构天然支持多跳推理和链接发现,可解决“相似商品对比”“历史订单关联查询”等跨文档复杂问题,弥补纯向量检索的局限
- 对话中既检索原始文档又检索提炼后的图知识,形成记忆增强的生成流水线,可迁移至客服系统或Agent的长期记忆模块
面向可解释 QA 的自适应检索与推理不确定性框架
🧭 不确定性估计 · 自适应检索与推理
University of Glasgow
利用 LLM 隐藏状态分解不确定性,以单次前向高效估计,按信号自适应触发 RAG 或推理
📌 工作参考价值(4 点)
- 对话式推荐/客服中的自适应检索:根据用户查询的模型内部不确定性,自动判断是知识不足(触发商品知识库 RAG)还是模糊冲突(启动推理链澄清),避免盲目调用。
- 低延迟在线服务:从隐藏状态单次前向计算不确定性,比多步提示或自一致性方法更轻量,适合高并发推荐问答场景。
- 多策略稳健响应:区分知识缺失与知识冲突,设计不同分支处理(如“查商品” vs “反问用户”),提升 agent 回答的可靠性。
- 用户可感知的置信度:显式的不确定性信号可转化为界面提示(如“正在为你搜索准确信息”),增强用户信任与体验。
DynaKRAG:多跳RAG中可学习证据控制的统一框架
🧭 可学习证据控制 · 多跳RAG
Shanghai Jiao Tong University · Shanghai Aircraft Manufacturing Co., Ltd. · Tongji University
将多跳证据获取构建为状态条件下的原子操作控制问题,通过学习控制器动态选择操作,性能全面超越固定基线。
📌 工作参考价值(4 点)
- Agent 动作调度借鉴:在多 Agent 搜索/推荐系统中,可引入状态条件动作空间,动态决定检索、查询改写、证据批判或停止,替代固定管道,提升多步推理任务的效率与效果。
- 轻量控制器设计:使用小型 LLM 学习策略控制器,根据当前证据状态选择下一步动作,适合业务中平衡推理能力与延迟,可集成到现有的 LLM-based Agent 架构。
- 充分性反馈机制:将“当前证据是否足够回答”的判断集成进工作流,避免冗余检索或对话轮次,对电商客服、商品咨询等多轮交互场景有直接降本价值。
- 检索预算动态分配:实验表明额外检索并非均匀有益,可根据查询难度动态分配检索次数,对广告召回、搜索排序系统的资源优化有直接指导意义。
检索集合而非独立段落:集合级兼容性学习实现高效集合探索
🧭 集合级检索 · 多跳推理
Seoul National University
将多跳检索建模为查询-集合兼容性评分,用轻量自注意力和交叉编码器联合学习集合兼容性
📌 工作参考价值(4 点)
- 组合证据检索思路:在需要多个协同信息源的任务(如电商问答、客服多轮、Agent 工具调用)中,不要独立对每个文档/物品打分,而应评估集合级别的兼容性,避免局部最优导致的冲突或冗余。可借鉴 ParaSet 的轻量集合打分方式,在 bi-encoder 编码的向量上引入自注意力,高效评估候选集合的整体相干性。
- 训练目标迁移:将“完整兼容集合 > 残缺/噪音集合”的排序损失引入学习排序(LTR),可用于搭配推荐(如服装组合)、多创意组合评估等场景,让模型学会全局最优组合而非单物品最优。
- 异构检索器互补:ParaSet(快速探索)与 SetCE(精确重排)的组合效果优于单一检索器的更多召回,启发我们在多路召回融合中,有意识设计互补的检索器(如语义匹配 vs. 协同过滤),通过合并输出而非简单增加单个检索器的数量来提升效果。
- 工程实现参考:ParaSet 在预计算好的段落向量上做自注意力,无需重新编码,非常适合对延迟敏感的在线集合探索;类似思路可用于实时推荐中,对召回的物品集合基于已缓存 embedding 做兼容性快速打分。
注入还是导航?交易法律文档LLM分析的令牌高效检索
🧭 RAG检索策略比较与效率优化
Syntheia Pty Ltd
比较全量注入、嵌入检索与LLM导航索引,证明检索可大幅降低token消耗且质量不降
📌 工作参考价值(4 点)
- 结构感知分块(structure-aware chunking):对电商中的长文档(商品说明书、合同、政策)进行结构分块,避免全文注入,大幅降低推理成本,可迁移到产品FAQ或合规文档问答。
- 嵌入检索+重排序管道:嵌入检索(NAVEMBED)配合重排序能在长文档QA中达到与全量注入几乎相当的质量,同时输入token减少17⁻30倍,适合构建低延迟、低成本的商品知识库检索。
- 紧凑结构化索引与LLM导航:对于成本敏感的Query改写或推荐解释生成,借用LLM导航结构化索引(NAVINDEX)的思路,用极轻量的索引替代大段文本,使回答上下文减少约56倍,成本降低25%。
- 缓存交叉规则:论文导出的封闭解可用于决策何时缓存全量文档更划算,可借鉴到广告素材库或推荐理由生成等有固定语料的场景,指导缓存策略以优化总成本。
MIRAGE:无需训练的模型无关防御,抵抗检索增强生成中的错误信息污染
🧭 RAG 错误信息防御与事实性恢复
Mohamed bin Zayed University of Artificial Intelligence (MBZUAI) · INSAIT, Sofia University “St. Kliment Ohridski”
提出一种训练无关、模型无关的防御方法,通过跨文档声明图和多源一致性门控恢复RAG事实性
📌 工作参考价值(4 点)
- 在电商搜索/推荐系统里,若用 RAG 增强物品描述或评论摘要,可借鉴 MIRAGE 的多源一致性验证:对多路召回(不同数据库、不同站点)抽取原子声明,用 NLI 构建声明图,仅保留多文档支持的声明,减少单品描述中的虚假信息。
- 面向 Agent 系统中检索知识冲突的应对:当检索到的证据相互矛盾时,可以设置“防御门”退回参数化回答或拒答,避免 Agent 被污染信息误导,提升决策可靠性。
- 污染检测的工程化思路:定义最小编辑的污染类型(如明确错误、矛盾、误导、捏造),可用于线上 A/B 测试或离线评测,量化检索或生成环节对输入噪声的鲁棒性。
- 无需训练、模型无关的设计使其能即插即用到现有 RAG pipeline,适合快速迭代的工业场景,无需重训练或更换生成模型。
候选约束检索增强生成系统:LongEval-RAG 的设计与实证
🧭 候选约束 RAG 流水线设计与多指标评估
在候选约束 RAG 中,规则分块配合句子级神经选择优于复杂语义分块,获得多项指标最优
📌 工作参考价值(4 点)
- 在候选集受限的检索任务(如给定商品列表的搜索或推荐理由生成)中,分块策略优先采用简单规则(固定句子/段落切分),将语义理解后置到句子级神经重排,避免复杂分块带来的不稳定性。
- 伪相关反馈(PRF)和倒数秩融合(RRF)可作为轻量级召回增强手段,在不明显增加延迟的情况下提升检索精度,适合线上服务。
- 需要引用证据的生成场景(如推荐解释或搜索摘要),可引入引用先验(citation prior),强制生成模型关注已选证据的来源,提高生成内容的可信度。
- 离线评估应采用多指标(如 BERTScore、检索精度、nugget 覆盖、平均等级)和多评判方式(金标准、LLM judge),避免单一指标产生的误导,指导系统迭代。
学术文本 RAG 分块策略评估:聚类语义分块未优于固定/递归分块
🧭 RAG 分块策略对比评估
Deggendorf Institute of Technology
在结构化学术长文档上,聚类 semantic chunking 的检索与答案质量未能超越固定大小和递归分块
📌 工作参考价值(4 点)
- 在结构化文档(如商品详情、政策文件)的 RAG 场景中,优先使用固定大小或递归分块,避免为语义分块付出额外计算成本,本次实验未观察到增益。
- RAGAs 框架的 faithfulness 指标在评价长文档 RAG 时可靠性存疑,业务评估应结合人工校验或更稳定的自动指标(如 retrieval precision)。
- 针对固定问题(如摘要类)与文档特定问题(如细粒度事实)的性能差异显著,实际部署时需为不同问题类型设计不同的分块与检索策略,例如对细粒度问题保留更细粒度 chunk 或添加元数据。
- 文档预处理(格式清洗、结构提取)对性能影响较大,在导入向量库前可强化对标题、段落的语义保留处理。
当RAG遇上查询规划:用逻辑查询树解决探索性推理问题
🧭 复杂查询规划 · 逻辑查询树
School of Data Science, Fudan University · College of Computer Science and Artificial Intelligence, Fudan University · United Automotive Electronic Systems
将探索性推理问题建模为逻辑查询树,通过动态规划与成本模型优化多步检索与推理
📌 工作参考价值(4 点)
- 电商搜索中,用户意图模糊的复杂查询(如“适合敏感肌的平价抗老面霜”)可借鉴PlanRAG的分解与重组逻辑:将原始查询拆分为原子子查询(如“敏感肌适用”、“抗老”、“平价”),通过成本模型决定检索顺序与合并方式,减少无效检索。
- 成本模型的多维评估(如相关性、覆盖度、语义连贯性)可直接迁移到推荐系统的多路召回融合阶段,替代简单加权,动态规划出最优融合计划。
- 树状执行结构与并行节点处理机制适用于Agent工作流:不同子任务可并行检索知识库,再逐步聚合生成最终答案,低延迟场景下可开启多线程加速。
- 动态改写中间结果(rewriting)的思路可用于对话式推荐:对中间检索到的商品列表进行总结与再查询,逐步精炼用户需求。
预算受限多跳RAG的诊断指标与子模证据打包增益条件
🧭 预算受限多跳RAG证据选择
Ahsanullah University of Science and Technology
提出 answer-in-context 诊断,并揭示子模证据打包仅在弱 reader、多跳互补结构下有效
📌 工作参考价值(4 点)
- 离线评估指标:在上下文窗口局限时,用 answer-in-context(答案是否作为连续片段出现在最终上下文)替代传统文档召回率评估打包质量,与下游 F1 相关性更高。
- 证据打包策略:当使用弱 reader(<7B)且面临多跳互补证据时,将上下文构建建模为预算约束的子模最大化,同时优化相关性、查询覆盖、代表性和多样性,可获得明显提升(最高 +5.1 F1)。
- 适用条件判断:该打包收益仅在四种条件同时满足时成立:多跳互补结构、检索已召回证据、严格但非极端预算、reader 能力不足。若使用 7B+ 模型,优势消失甚至反转为负,应切换为简单截断或启发式。
- RAG Agent 工具:在为搜索推荐系统构建 RAG Agent 时,可部署轻量级子模打包模块,针对弱基座模型在预算敏感场景(如商品知识问答、个性化推荐解释生成)中提升证据密度,但需持续监测 reader 规模边界。
一次检索覆盖全会话:面向会话级RAG的共现感知知识库重组
🧭 RAG知识库重组与检索策略优化
University of Southern California
通过共现聚类重组知识库,单次检索会话覆盖率从41%提升至58%,同时压缩KB至20%
📌 工作参考价值(4 点)
- 会话级覆盖率作为评估指标:在电商客服、推荐对话等多意图场景中,直接采用session-level coverage替代单query召回率,更能反映用户完整信息需求的满足程度,可指导检索系统优化。
- 离线知识库重组方法:利用历史问答会话中的文档共现关系构建图,通过聚类将相关文档预先分到同一簇。线上检索时,不仅返回top-k文档,还扩展至同簇其他文档,一次检索覆盖多个潜在意图。可借鉴到商品推荐:根据用户会话中共同点击/购买的物品,构建物品簇,实现“一揽子”推荐。
- 检索效率与压缩:通过簇合并将KB压缩至20%,大幅减少索引大小,适合大规模电商知识库。用更少的索引即可达到较高覆盖率,降低线上延迟。
- 跨模型与跨领域一致性:方法对多种嵌入模型和功能领域稳定有效,表明聚类模式基于共现而非特定编码器,迁移到不同业务数据时无需重新调参,易于落地。
自适应掩码图嵌入提升图检索增强生成效果
🧭 图检索增强生成对齐 · 自适应掩码预训练
OMRON Corporation · OMRON SINIC X Corporation
提出自适应掩码图嵌入AGE,通过可学习节点采样器避开关键节点对齐图与文本特征,显著提升GraphRAG问答准确率。
📌 工作参考价值(4 点)
- 在电商知识图谱问答或商品搜索中,可借鉴AGE的图嵌入对齐方法:用类似文本编码器的Transformer预训练图节点嵌入,与LLM文本空间对齐,提升GraphRAG检索召回。
- 可学习节点采样器识关键节点:对推荐场景中如品牌、类目等关键实体,自适应避免掩码它们,提高嵌入学习的鲁棒性,适合大规模商品图谱。
- 非参数搜索组件与冻结LLM结合,无需微调,降低部署成本,适合电商快速迭代和A/B实验。
- 图数据预处理阶段加入自适应掩码预训练,可作为召回或特征生成步骤,融入现有RAG流程,改善商品关联和语义理解。
ARMOR:低资源电信问答的自适应检索器优化
🧭 检索增强生成 · 自适应检索器优化
Rensselaer Polytechnic Institute · Cornell University · Samsung Research America
冻结生成器,仅微调查询编码器,联合 RAG 似然与 InfoNCE 并学习各自温度,提升低资源 RAG 效果
📌 工作参考价值(4 点)
- 低资源检索适配策略:当类目冷启或新业务标注稀疏时,可冻结下游生成/推荐模型,仅微调查询编码器,避免生成模型过拟合并保持通用能力,适合电商搜索中的长尾 query 优化。
- 多目标联合训练与可学温度:将 RAG 生成质量信号(如点击/转化)与 InfoNCE 对比损失结合,为两个 softmax 分布分别学习温度参数,自动调节分布尖锐度,可迁移到推荐系统中平衡语义相关性与业务指标。
- 正则化防遗忘:微调查询编码器时加入与冻结基编码器的距离正则化,类似持续学习,适合在电商搜索中持续引入新知识而不破坏已有检索能力。
- 温度分离控制:在检索和对比学习中采用独立的可学温度,可解决电商搜索不同场景(导航 query vs 宽泛 query)对检索精细度的不同需求。
获取前须知:检索增强生成中校准的检索预算分配
🧭 自适应检索预算分配 · RAG 校准
University of Maine at Presque Isle · Stanford University · Independent Researcher
为 RAG 提出校准概率接口,依置信度分配检索预算(闭卷/紧凑/完整/弃答),实现延迟与准确率权衡
📌 工作参考价值(4 点)
- 在检索增强的推荐或搜索系统中,可以根据模型置信度自适应调整检索深度(如仅用闭卷回答或检索少量文档),节省计算资源并减少延迟。
- 将序列对数概率等不确定性信号校准为正确性概率,用于选择性召回或拒绝回答,避免低质量输出影响用户体验,尤其适合高可靠性要求的排序或问答环节。
- 提供校准后的概率接口,允许系统在延迟和准确率之间显式权衡,可通过设置不同阈值适应不同场景(如高吞吐的广告检索与低延迟的在线推荐)。
- 离线校准步骤(如 Platt scaling)能大幅降低预期校准误差(ECE),直接移植到电商 RAG 管道中,提升检索决策的可靠性。
基于 Token 共现图的轻量高效 GraphRAG 框架
🧭 Token 共现图高效 GraphRAG
Università Politecnica delle Marche, Ancona, Italy · Università di Modena e Reggio Emilia, Modena, Italy
用 token 滑动窗口共现构造 KG 取代 LLM 抽取,实现多跳推理 RAG 的索引与推理开销大幅降低
📌 工作参考价值(4 点)
- 电商搜索查询扩展:用滑动窗口统计商品标题或查询日志的 token 共现,低成本构建词项联系图,辅助召回阶段的 query 扩展或相关性特征,替代繁重的实体识别链路。
- 多轮交互式推荐:迭代实体驱动的检索策略可迁移至多轮对话推荐,从已召回商品或上下文抽取桥接属性(类目、品牌等)逐步精炼检索,提升复杂需求满足率。
- 长尾知识构建:在攻略、搭配推荐等场景,需要从多篇内容拼接证据,可借鉴无 LLM 的共现图快速索引文档段落,通过神经重排序确保证据链准确,同时控制在线推理延迟。
- 工程落地降本:方法省去了 LLM 抽取实体和关系的高频调用,索引时间、推理延迟和 prompt 长度显著降低,适合对成本和延迟敏感的生产环境直接复用。
字段顺序不应影响:结构化元数据检索的置换不变微调
🧭 结构化元数据检索的置换不变微调
World Bank Group
用随机字段顺序与丢弃微调编码器,将顺序敏感惩罚从 7.4 nDCG 降至 0.2
📌 工作参考价值(4 点)
- 电商推荐中物品常带有结构化字段(标题、类目、属性等),序列化为文本用于检索时会因字段顺序依赖导致索引脆弱。采用 PI-FT 可在不改动模型架构的前提下,让编码器对字段顺序不敏感,索引变更时仍保持稳定,适合多数据源、多语言商品的灵活检索。
- 实现极其轻量:只需在数据加载器中为每条记录随机打乱字段顺序并随机丢弃部分字段(field dropout),几乎零额外开销,即可让模型聚焦字段语义而非位置。
- 在基于 Agent 的购物助手中,不同商家提供的商品元数据字段顺序各异,PI-FT 能保证一致的检索质量,避免因顺序不同导致的召回偏差。
- 用 LLM 自动生成多样化查询覆盖冷启动物品或低资源语言,无需用户行为日志,这一思路可直接迁移到电商长尾商品的检索训练数据构建。
覆盖未见信息:面向RAG的信息需求覆盖优化
🧭 RAG 上下文选择覆盖优化
University of Shanghai for Science and Technology · Singapore Management University
将RAG上下文选择建模为信息需求覆盖优化,通过子查询和Sinkhorn-Wasserstein实现多维需求平衡覆盖
📌 工作参考价值(4 点)
- 复杂查询的多维覆盖:对于电商搜索中的多意图查询(如“高性价比户外便携蓝牙音箱”),可借鉴生成多样化的子查询(“防水”、“长续航”、“轻便”、“音质好”),并加权,以确保召回的商品列表覆盖所有关键属性,避免 top-k 相似度排序导致的单一维度过拟合。
- 即插即用的上下文选择层:方法无监督、无需训练,且与检索器无关,可直接嵌入现有的 RAG pipeline(如客服问答、推荐理由生成),在检索后增加一个覆盖优化步骤,用次模函数选择互补的文档组,提升答案的全面性。
- 利用次模函数平衡覆盖:采用需求加权的设施选址目标,借助贪心算法(1-1/e 近似)选择上下文,工程实现可参考 Sinkhorn-Wasserstein 距离作为边际增益的快速近似,计算开销可控,适合在线服务。
- 结构性限制的揭示:证明单点查询邻近性评分器无法覆盖多模态需求,这提醒从业者在复杂查询场景下(如 Agent 的多步推理、多面商品推荐),不应仅依赖向量相似度排序,而需引入覆盖多样性的选择机制。
RAG上下文增强的分解:元数据、结构与检索策略对齐
🧭 RAG上下文增强与模型能力对齐
University of Passau · Interdisciplinary Transformation University Austria
控制实验揭示大多数RAG上下文增强反而降低准确率,模型-上下文对齐比元数据堆砌更重要
📌 工作参考价值(5 点)
- 在电商搜索/推荐的 RAG 场景中,避免盲目添加置信度、时间戳等元数据,应先在目标模型上测试该元数据是否提升下游准确率。
- 提示词微调时,若显式要求模型利用某类元数据(如分数),需警惕模型“遵从但答错”的现象,可通过 ablation 实验验证元数据的实际效用。
- 元数据格式选择应与模型的预训练特性对齐:若模型在预训练时少见结构化记录,可能无法有效利用,反而可改用简单自然语言描述。
- 多跳检索策略需谨慎:复杂证据链可能引入噪声,仅在模型能力足够时采用,且可通过早期停止或置信度筛选控制上下文质量。
- 小模型在元数据-任务对齐时可超过大模型,在资源受限的线上推理中,优先考虑选择与上下文格式兼容的轻量模型,而非一味堆参数。
小模型大作为:探索紧凑语言模型在 RAG 生成阶段的潜力
🧭 小型语言模型 RAG 生成器基准与设备端部署
Siberian Neuronets LLC, Novosibirsk, Russia
系统评估小型语言模型在 RAG 生成器的表现,证明其可在无 GPU 的设备端合理时间运行
📌 工作参考价值(4 点)
- 低成本 / 边缘端 RAG 部署:在电商客服、商品问答等场景,可用 SLM 替代 LLM 作为生成器,直接运行在智能终端或本地服务器,避免 GPU 成本,保障数据隐私。
- 生成器选型 benchmark 方法:复用其多数据集(开放/专有、不同主题与问题类型)评估框架,为业务中的 RAG pipeline 快速筛选合适的轻量生成模型。
- 延迟优化参考:论文验证了 SLM 在无 GPU 硬件下的推理时间仍在可接受范围,可指导搜索推荐系统中实时类 RAG 应用(如解释性生成)的时延可行性评估。
- 检索与生成能力解耦测试:聚焦仅更换生成器模型的效果,类似思路可应用到推荐理由生成、广告文案自动改写等模块,独立评估不同 SLM 的文本生成质量。
AB-RAG:面向可靠问答的自适应预算检索增强生成
🧭 训练无关的自适应预算RAG与置信度估计 ★ 深度解读
Manipal University Jaipur
无需训练、骨干无关的自适应RAG框架,用三信号置信度控制检索深度,实现高低置信答案准确率57.6% vs 0%的分离
📌 工作参考价值(4 点)
- 预算可控的自适应检索框架:可借鉴到需要调用LLM的推荐/搜索系统中,通过置信阈值平衡效果与调用成本,尤其适合按量计费的商业API场景。
- 闭源API的置信度代理:对于无法获取token概率的闭源模型,采用self-consistency(多次采样取众数一致性)作为模型确信度的代理信号,直接可用于线上QA或相似度判断任务。
- 多信号置信度设计思路:模型内部确信度是最强预测信号,检索得分方差可作为检索质量奖励项,而答案-证据嵌入相似度对短文本任务无效——在构建电商/广告的LLM置信判断时,应优先利用内部概率或采样一致性,并警惕语义相似度在短文本场景的失效。
- 选择性预测与成本控制:利用置信度分离高/低质量回答,高置信直接返回,低置信触发额外检索或人工审核,既提升可靠性又控制检索开销,适合对时延和预算敏感的在线推荐系统。
缓解检索增强生成中知识冲突的门控调制激活引导方法
🧭 门控机制自适应调节激活以解决知识冲突
Northeastern University · Tsinghua University
提出 SHIFT,用可学习门控模块替代神经元编辑,自适应调节激活,以低于 0.01% 参数解决 RAG 知识冲突
📌 工作参考价值(4 点)
- 可借鉴轻量门控模块(训练参数 <0.01%)插件式插入 LLM,冻结骨干,在不损害通用能力的前提下提升 RAG 冲突场景下的上下文遵循度,适合低资源快速适配。
- 门控调制激活的方式比神经元定位和层固定规则更灵活,可在电商搜索推荐中的商品知识增强、客服问答等 RAG 场景使用,避免因知识冲突产生错误推荐。
- 该方法属于参数高效微调,可与现有 PEFT 方案(如 LoRA)叠加,工程实现成本低,可直接嵌入到已有 RAG 管线。
- 论文在多个数据集上验证,开源代码可直接复用,适合业务团队快速验证门控激活引导在自身场景的效果。
位置偏见修正不足以替代迭代注意力排序
🧭 RAG 上下文重排中的位置偏失去偏 ★ 深度解读
Analemma
去偏单次注意力排序在高偏置模型上可小幅提升,但仍远不及迭代排序,仅弥补 37% 的精度差距
📌 工作参考价值(4 点)
- 轻量级文档重排 trick:在长上下文 RAG(如多文档问答)中,仅用一次 decode 的注意力权重即可对文档排序,计算代价极小,可作为生成前的轻量重排模块,且效果接近单次注意力排序基线。
- 提示级位置偏曲线估计:利用同一 prompt 中低注意力文档(剔除 top-α)分箱聚合(中位数或均值)来估计位置偏置曲线,再用减法或除法校正原始注意力分数。这一思路可直接迁移到需要对抗位置偏见的生成式推荐或搜索摘要场景,无需额外训练或外部数据。
- 迭代 vs 单次的取舍:结果表明,对于位置偏置不严重的模型(如 LLaMA‑2‑32K‑Instruct),单次注意力排序已足够,迭代排序带来的增益极小(0.6pp 以内),可节省多轮生成的计算开销;对偏置严重的模型(如 YaRN),仍需要迭代排序才能获得较大收益,但可先尝试去偏一次排序,若效果不足再增加迭代。
- 注意力排序的部署成本控制:若业务对延迟敏感(如实时推荐搜索)且使用偏置较弱的模型,可直接用单次排序(1 sort+1 gen),仅需一次前向和一次生成,大幅降低延迟,避免 5 次 sort‑and‑generate 的代价。
GraphRAG 是否必要?RAG 方案对比与上下文优化
🧭 RAG 方案对比与上下文优化
Generative AI Innovation Center, Amazon Web Services (AWS) · Cisco Systems, Inc.
系统对比 9 种 RAG 场景并提出上下文工程方法,token 用量降低 19%-53%,揭示检索-生成差距
📌 工作参考价值(4 点)
- 上下文工程技巧:提出的混合文本-图检索与 Agent 循环设计可复用,尤其适合电商知识库问答中的长上下文管理,避免 KV cache 膨胀,直接用于客服或导购 Agent 的 memory 控制。
- 检索-生成差距洞察:业务上不要盲目叠加复杂检索(如图谱扩展),应先评估生成端真实增益;在推荐理由生成、商品属性问答等场景中,用生成质量(而非召回率)作为最终优化指标。
- GraphRAG 适用边界:半结构化知识(如商品图谱、品牌关系)用 GraphRAG 能提升一致性,但需注意短期用户交互场景可能用轻量 Modular RAG 更经济。建议按查询复杂度分流:简单事实查询走基础 RAG,多跳推理走 Agentic-GraphRAG。
- Agent 与图谱集成模式:在电商智能导购中,可将商品数据构建为预定义 KG,通过 Agent 多轮规划调用图谱查询与文本检索,实现精准商品推荐与属性解释,文中 Agent-Graph 集成方案可直接参考。
记忆如何塑造对话智能体:评估不同记忆角色的影响
🧭 RAG对话系统 · 记忆角色评估
Dartmouth College · Microsoft
探究不同类型对话记忆对RAG智能体回复的多维影响,提出用户中心评估,证实澄清记忆提升事实准确性与约束意识,不相关记忆有害
📌 工作参考价值(4 点)
- 记忆角色分类与选择性注入:在电商导购/客服对话系统中,可对用户历史行为、偏好约束等记忆打上角色标签(澄清、约束、事实、不相关等),检索时优先注入澄清型和约束相关记忆,抑制不相关记忆,提升回复的准确性和个性化。
- 用户中心评估框架:参考本文模拟用户偏好的评估维度(事实准确性、话题相关性、约束意识等),替代单一参考指标,可更细粒度诊断推荐对话系统的回复质量,尤其适合评估个性化解释、导购话术的合理性。
- 记忆类型与响应行为联动:观察到不相关记忆降低约束意识,这提示我们在多轮推荐中,若记忆检索带入了用户无关历史(如已购品类),可能导致当前推荐脱离用户约束;可据此设计记忆过滤或加权机制。
- 前光线LLM下的记忆控制:即使能力强的大模型,记忆质量仍显著影响回复,因此工程上在RAG管线上增加记忆质量判别模块(如用轻量模型判断记忆相关性)是低成本提升效果的有效手段。
基于令牌影响归因检测RAG中毒攻击并追踪目标答案
🧭 RAG安全性 · 令牌影响归因
National Yang Ming Chiao Tung University · IBM Research · Hon Hai Research Institute
TRACE利用令牌影响归因轻量检测RAG语料中毒,同时还原攻击者预设的错误答案
📌 工作参考价值(4 点)
- 电商客服或知识库RAG场景中,可将TRACE作为轻量安全层,无需额外LLM校验,仅通过高频高影响关键词检测中毒文档,降低计算开销和延迟。
- 方法依赖的令牌影响归因(如梯度×嵌入)可直接集成到现有RAG推理流程,对检索到的文档进行实时评分,用于过滤可疑内容。
- 论文揭示中毒文档中反复出现的高影响令牌会泄露攻击者预设的错误答案,这一特性可用于安全审计:通过追踪此类关键词发现攻击意图和候选恶意文档。
- 在推荐系统的评论问答或商品描述生成中,若使用RAG,同理可借鉴TRACE防止恶意语料篡改生成结果,提升系统鲁棒性。
ProvenAI:生成答案中证据的来源原生追踪
🧭 RAG归因 · 多跳问答透明度
University of Arizona
提出三层透明度框架,独立测量答案正确性、引用忠实度与文档影响力,揭示引用-影响差距
📌 工作参考价值(4 点)
- 推荐解释的可信度评估:借鉴 leave-one-resource-out 消融方法,量化推荐理由(如商品评论、属性)对最终推荐的实际影响,避免“引用了但没起作用”的虚假解释。
- Agent 多步推理审计:在多步搜索或决策 Agent 中,对每步检索结果进行消融,度量每条知识对最终动作的因果贡献,构建真正可追溯的决策链。
- 引用忠实度作为线上指标:设计答案与引用内容的一致性得分,作为 RAG 系统生成质量的持续监控指标,及时捕捉生成幻觉或引用虚标。
- 多层透明度框架迁移:将透明度拆分为结果质量、解释正确性和信息实际影响力三个独立维度,分别测量,可用于电商搜索排序的解释面板或 Agent 调试工具。
TileMaxSim:IO感知的GPU分块MaxSim打分与融合量化
🧭 多向量检索GPU加速 · IO-aware kernel
MIT-IBM Watson AI Lab
通过维度分块与融合PQ解压缩,将GPU上MaxSim峰值带宽利用率提升至80.2%,打分吞吐提升220倍
📌 工作参考价值(4 点)
- 搜索/推荐系统中若使用ColBERT等多向量模型做召回或排序,可将TileMaxSim作为即插即用的GPU算子,将候选评分延迟从百毫秒降至毫秒级,显著降低端到端延迟。
- 在实现自定义的打分/聚合CUDA kernel时,可借鉴其IO-aware SRAM分块策略:流式加载文档嵌入并在寄存器中累积最大值,避免实例化庞大的相似度矩阵,最大化带宽利用率。
- 融合PQ解压缩与scoring的思路可迁移至在线检索中压缩嵌入的快速还原计算,通过共享内存查找表减少HBM读取量,适用于存储压缩的电商商品或广告嵌入。
- 维度分块技术解决了嵌入维度超过共享内存容量的问题,可推广至高维推荐模型(如d>128)的打分加速,保持恒定吞吐。
用多前缀嵌入改进长上下文检索
🧭 长上下文检索 · 多前缀嵌入
University of Waterloo · University of Queensland · University of Utah · Carnegie Mellon University
在单次因果前向传播中用EOS分块抽取前缀嵌入,实现细粒度检索且保留跨块上下文
📌 工作参考价值(4 点)
- 在电商搜索中,若使用基于因果语言模型的检索编码器(如 LLaMA),可采用 MPE 将商品长描述按 EOS 分块,一次编码得到多个前缀嵌入,通过 MaxSim 实现细粒度匹配,兼顾上下文感知,避免独立编码分块带来的信息割裂。
- 训练时仅需文档级相关性标注,无需分块级细标注,显著降低标注成本,适合电商快速迭代场景。
- 查询与文档匹配时可定位到具体分块的贡献分数,天然提供证据归因,可用于排序结果可解释性或辅助人工审核。
- 存储开销远低于 token 级多向量方法(如 ColBERT),同时保持较好的细粒度匹配能力,适合大规模商品库的近似检索。
当全局门控即足够:各向异性向量检索中的入时枢纽控制
🧭 RAG 安全 · 入时枢纽门控
在文档入库时用全局哨兵查询门控检测并隔离枢纽向量,无需周期性全库重扫,实现高召回低误报。
📌 工作参考价值(4 点)
- 向量召回系统中引入轻量级入库门控:用一组固定哨兵查询计算新物品的 kNN 倾向,若频繁出现则视作枢纽并隔离/降权,避免少数物品主导召回分布,提升多样性与防攻击能力。
- 无需周期性全库重扫:门控阈值可增量维护,插入成本与索引大小无关,适合频繁更新的电商商品库或内容池,只在摄入时增加约 3% 延迟。
- 简单全局门控足够:实验表明 per-topic 门控在各向异性空间中无统计显著增益,因此用单一全局阈值即可达到强防御效果,工程实现成本低。
- 结合业务规则处理自然热品:热门商品可能是天然枢纽(如爆款),可额外利用 provenance(如商品来源、类目)做白名单或分级处置,避免误伤正常高热物品。
EvoEmbedding:可进化的表示模型,解决长上下文检索与Agent记忆动态匹配
🧭 可进化嵌入 · 长上下文检索与Agent记忆 ★ 深度解读
Nanjing University
通过FIFO潜在记忆队列实现可进化的上下文感知嵌入,在长上下文检索和Agent记忆任务上大幅超越静态大模型
📌 工作参考价值(4 点)
- 用户行为序列的动态嵌入:电商场景中,同一用户在不同时段对同一query的意图不同(如“耳机”先浏览后比价),EvoEmbedding的可进化表示可压缩历史上下文,使召回/排序阶段感知时序变化,避免检索过时信息。可直接用其FIFO潜在记忆队列增量更新用户状态,嵌入维度仅1024,开销低。
- 多LoRA解耦训练与无损切换:将记忆更新和表示生成拆分为两个LoRA适配器,基座LLM参数冻结,既避免了灾难性遗忘,又可在推理时按需激活。业务中可借鉴为同一个基座模型同时具备记忆压缩和检索嵌入能力,省去额外部署专用嵌入模型。
- 长度加权对比损失:对于电商长序列(如用户全生命周期行为),正负样本数量差异极大且长度悬殊。论文的log(N+1)自适应校准因子可稳定训练,避免模型偏向短序列,值得直接移植到用户长序列表示学习。
- Segment-Batching加速技巧:将多个连续片段拼接后并行编码,训练提速3.8倍且性能小幅提升。在处理用户流水数据时,可按时间窗口并行化,平衡效率与效果。
流式工具使用何时有效?基于工具意图稳定化的流式 RAG 延迟隐藏分析
🧭 流式 RAG 意图稳定化与延迟优化
SMG Labs
在流式 RAG 中,通过分析工具意图稳定点,量化了可隐藏的延迟比例并揭示了早期意图形成的查询特性
📌 工作参考价值(4 点)
- 搜索自动补全/对话式推荐中,可借鉴投机查询思想:在用户输入进行时并行检索,当意图稳定后利用剩余输入时间隐藏检索延迟。
- 意图稳定点分析可指导何时触发推荐或 query 生成:早期意图稳定(如问题类型)可预测,从而提前启动计算,减少感知延迟。
- 提供的无模型边界 H 可为系统设计提供理论最大延迟隐藏能力,评估不同配置下的收益。
- 对于电商客服机器人,可以预测用户问题类型,在输入早期即发起商品或政策检索,提升响应速度。
Stellar:面向自然语言查询的可扩展多模态文档检索
🧭 多模态检索 · 高效延迟交互
通过词法过滤与磁盘驻留延迟交互,将多模态检索的内存和延迟降低1-2个数量级且效果不降。
📌 工作参考价值(4 点)
- 词法表示过滤(LRF):微调多模态大模型作为稀疏编码器生成高质量词法表示,可用于商品搜索的第一阶段候选过滤,大幅减少需深度计算的候选集。
- 磁盘支持的延迟交互(DLI):将商品/文档的多向量 token 级 embedding 存于磁盘,按需动态加载,可有效降低内存占用,适合百亿级商品索引。
- 平衡聚类的存储布局:根据负载模式设计磁盘存储结构,可借鉴到推荐模型的大规模稀疏特征存储,减少随机 I/O。
- 成本模型驱动加载:通过简单代价模型选择必要的 token embedding 参与最终评分,在实时推荐中可用于选择性计算用户与物品的细粒度交互特征。
MonaVec:面向边缘与离线AI的训练无关嵌入式向量搜索内核
🧭 嵌入式向量搜索 · 确定性量化
训练无关、确定性的嵌入式向量搜索内核,4位量化达高召回,如SQLite般随处运行
📌 工作参考价值(4 点)
- 无需训练的量化技巧:采用随机Hadamard变换将任意embedding分布转为近高斯,配合预计算Lloyd-Max表做4位量化,无码本、无训练数据,可直接用于电商推荐系统的物品/用户embedding压缩,节省存储与传输。
- 单文件持久化与确定性:索引存为单个.mvec文件,内嵌ChaCha20种子保证跨架构字节一致性,对离线Agent或移动端推荐场景的结果可复现、调试友好。
- 轻量易集成:纯Rust实现,Python绑定,API极简(类似SQLite),适合嵌入到边缘端推荐或检索模块,无须依赖重型服务端向量数据库。
- 多种后端兼容:提供BruteForce、IVF、HNSW,覆盖从小规模高精度到百万级语料库的检索需求,可直接替换现有方案中FAISS等组件,降低服务器依赖。
MCompassRAG:话题元数据作为段落级检索的语义指南针
🧭 RAG 检索优化 · 话题元数据引导
University of British Columbia · University of Salerno · ServiceNow Research
用话题元数据增强段落嵌入并通过LLM蒸馏训练轻量检索器,实现高效、精确的话题感知检索
📌 工作参考价值(4 点)
- 电商搜索/推荐场景的文档切分优化:商品描述、评论往往混合多主题,直接使用粗粒度段落会引入语义噪声。可借鉴用商品类目、属性等元数据增强段落embedding,让检索结果更精准。
- 低延迟检索器蒸馏:用LLM作为教师蒸馏一个轻量双编码器,推理时无需调用LLM,显著降低线上检索延迟和成本,适合高并发实时推荐系统。
- 话题感知的Agent检索:在多跳推理或Agent工作流中,当需要从大规模非结构化文档中提取证据时,可引入话题元数据引导检索,减少无关片段干扰,提升事实准确性。
- 工程实现简单:只需在现有dense retriever基础上注入话题embedding,无需改动索引结构,易于迁移到商品库、帮助中心文档等场景。
面向无监督检索的时间偏好优化
🧭 时间感知检索 · 偏好优化
Sungkyunkwan University · Microsoft
用时间偏好优化(TRPO)训练无监督稠密检索器,使其偏好时间对齐文档
📌 工作参考价值(4 点)
- 在商品搜索/推荐中,可利用商品发布时间、季节性构建时间偏好对,无需人工标注即可训练检索器优先返回时效性强的物品
- 时间嵌入插值技巧可泛化到未见过的时间段(如未来促销期),解决时间冷启动问题
- 方法轻量:仅需在双塔模型中加入时间嵌入和偏好损失(类似DPO),容易集成到已有推荐召回模型
- 对比超大语言模型嵌入,用72.7倍更小模型达到更高nDCG,适合工程部署中的延迟和成本约束
RSRank:从表示偏移中学习相关性用于重排序
🧭 重排序 · 表示偏移 · 零阈值过滤
Adobe Research
利用查询在文档条件下的表示偏移作为相关性信号,零阈值过滤,克服启发式阈值依赖
📌 工作参考价值(4 点)
- 将 RS 信号用于电商搜索重排序:在精排阶段,用用户查询在商品描述条件下的 hidden state 变化量作为特征,代替传统 logit 或人工特征,可能捕捉更细腻的相关性,尤其适合语义模糊的长尾 query。
- 零阈值过滤简化工程阈值:RS 信号经投影后,不相关文档得分天然接近 0,可省去离线调阈值的麻烦,线上直接截断即可;在推荐系统召回后过滤粗糙结果时,能减少人工维护阈值的工作量。
- 轻量训练框架便于部署:只需在预训练 LLM 顶层加一个投影头,训练成本低,适合在已有 RAG 或搜索管道中快速实验;电商 Agent 生成推荐理由时,可用此方法对候选知识片段做即插即用的相关性过滤。
- 对齐 Oracle 文档集的思路可迁移:如果业务中存在高相关“理想文档”集合(如人工标注的金牌结果),可以计算候选文档与 Oracle 文档集产生的 RS 相似度作为弱监督信号,用于训练推荐排序模型。
SproutRAG:注意力引导的树搜索与渐进式嵌入用于长文档RAG
🧭 RAG长文档检索 · 层级树状检索
University of British Columbia · ServiceNow Research
利用学习到的句子间注意力构建二叉分块树,实现无外部LLM调用的多粒度层次检索,平均信息效率提升6.1%
📌 工作参考价值(4 点)
- 对于电商RAG场景(如长商品描述、用户评论聚合),可借鉴其基于句子级注意力自动构建语义树的方法,替代昂贵的LLM分块,降低索引延迟和成本。
- 多粒度beam search在召回侧能同时捕捉细节与上下文,可应用于广告文案生成中的多尺度信息检索,提升信息覆盖度。
- 端到端联合训练embedding与树结构的思想,可迁移到推荐系统的层级user/item表征学习,如构建多粒度的Semantic ID树,提升检索效率与效果。
- 注意力头选择的机制暗示了在特定领域(如商品属性)可预先分析哪些注意力模式更有效,定制化剪枝或微调,避免重复推理。
RL-Index:用强化学习优化索引推理的检索增强框架
🧭 索引侧推理优化 · RAG 性能提升
University of Oregon · Adobe Research
将检索推理从查询时移到索引阶段,用 GRPO 优化文档的理由生成,提升检索效果并降低在线延迟
📌 工作参考价值(4 点)
- 离线预计算理由,降低在线延迟:在商品搜索或推荐系统的索引构建中,可预先为每个文档/商品生成推理性的文本描述(rationale),将复杂推理从查询时转移到离线阶段,显著减少线上推理耗时。
- 利用 GRPO 优化索引策略:借鉴 RL-Index 使用 Group Relative Policy Optimization 直接以检索相似度作为奖励信号的方式,对商品内容生成模型进行策略优化,无需人工标注,自动提升召回或排序效果。
- 即插即用,跨检索器泛化:该方法生成的文档增强理由适用于多种 dense/sparse 检索器及生成模型,可作为一套标准化索引流程引入现有搜索/推荐系统,无需大幅改造原有架构。
- 可解决复杂意图匹配:对于电商中需逻辑推导的查询(如“送长辈的保健礼品”),可通过预先生成涵盖场景、知识点的理由,增强文档的语义覆盖,提升长尾查询的检索精度。
SCAR:语义连续性感知的检索策略实现RAG高效上下文扩展
🧭 语义连续性感知的自适应上下文扩展
Horizon Flow
提出自适应扩展相邻块的检索策略,以更少的块数达到高召回并减少 token 开销
📌 工作参考价值(4 点)
- 在电商知识库、客服RAG中,可借鉴SCAR的自适应扩展逻辑,通过权衡查询相关性与结构连续性,避免静态窗口造成的token浪费,用更少的上下文块保持高召回。
- 方法对嵌入模型具有尺度不变性,同一超参数可直接跨模型迁移,减少多业务场景下的调参成本,适合快速部署。
- 对于需要跨段落重组证据的长文档(如产品规格书、法律条款),SCAR可提升边界分割后的证据链完整性,避免人工调整分块策略。
- 在Agent的记忆检索或工具调用文档检索中,引入结构连续性惩罚项,能有效缓解因固定分块带来的信息碎片化,提升下游生成质量。
多粒度自适应图证据的智能体多模态RAG
🧭 多模态长文档RAG · 图证据与智能体控制
Beijing Institute of Technology
基于证据图与在线预算控制的多粒度多模态RAG,在长文档QA中动态平衡证据覆盖与噪声
📌 工作参考价值(4 点)
- 多粒度证据图构建:将文档拆解为页面与元素节点,编码布局、阅读顺序、章节层级等结构关系,可迁移到商品详情页的复杂多模态信息检索,例如将商品主图、详情图、参数表、评论链接为图,提升问答或推荐理由生成时的证据定位
- 在线证据控制器与预算机制:按预算迭代激活、搜索、剪枝证据,避免固定Top-k导致的噪声或遗漏。电商场景中可将此法用于动态组装推荐解释/导购上下文的证据片段,在有限令牌内提升说服力
- 多模态证据渲染为结构化输入:将文字、表格、图片等证据统一格式化后馈入大视觉语言模型,启发电商推理时可把商品图文、参数、问答截图等异构信息规范渲染,增强模型理解一致性
- 证据覆盖与噪声的显式权衡:通过预算-性能曲线分析最佳工作点,推荐系统面对长商品详情、长用户评论时,可借此思路为LLM推理设定预算、平衡信息量与推理成本
ScoreGate: 双分数统计融合的自适应块选择
🧭 RAG 自适应检索块选择 ★ 深度解读
HighLevel, Inc.
利用 bi-encoder 和 cross-encoder 双分数四分区自适应决定 RAG 块数量,无额外推理开销
📌 工作参考价值(4 点)
- 在电商 RAG 场景(客服问答、商品推荐解释)中可直接复用:利用已有的 bi-encoder 和 cross-encoder 输出分数,按四分区规则自动决定传给 LLM 的上下文块数量,降低无关信息干扰和 token 开销。
- 借鉴不对称阈值设计:对 cross-encoder 高、bi-encoder 低的分区(如不同术语但高度相关的商品描述)采用更低保留阈值,可显著提升词汇不匹配场景的召回,减少 LLM 过滤器造成的假阴性。
- 阈值可通过生产日志一次性校准(归一化分位点+网格搜索),无需模型重训练,计算增加仅 31 ms,适合实时在线服务。
- 固定 MAX-K 护盾机制防止上下文窗口溢出,可结合业务设置上限,避免极端安全风险。
CoDeR:分离主题与约束的局部兼容稠密检索
🧭 约束兼容信息检索,分离主题与约束
University of Hong Kong · University of Science and Technology Beijing
提出将主题相关性与约束兼容性解耦的双编码器检索方法,专门减少违反负约束的文档暴露
📌 工作参考价值(4 点)
- 电商搜索中处理否定约束(如“不含酒精”、“非转基因”):可独立训练兼容性评估器,对召回的商品根据约束兼容性重排或过滤,避免返回违反要求的商品。
- 在构建Agent的检索组件时,对于用户带有硬约束的查询(如“不要推荐含糖饮料”),可直接采用CoDeR的双编码器架构,无需调用LLM,推理成本低。
- 可用对比学习和词汇极性信号(如反义词对)监督训练兼容性模型,方法简单有效,可迁移至各类产品属性约束。
- 重排和单独检索兼容性候选两种模式灵活,适用于不同时延要求:重排适合在线快速筛选,单独检索适合离线生成高质量候选集。
CQC-RAG:通过跨查询一致性实现鲁棒检索增强生成
🧭 RAG 鲁棒性 · 交叉查询一致性
University of Electronic Science and Technology of China
提出跨查询一致性假说,通过生成多样等价查询并评估答案信心稳定性来过滤幻觉,无需外部监督即可提升 RAG 鲁棒性
📌 工作参考价值(4 点)
- 查询变体注入与一致性筛选:在 RAG 管道中,对同一用户意图生成多个语义等价但句法不同的查询,通过对比各查询下答案的置信度稳定性,可以自动过滤噪声导致的幻觉,直接提升问答或知识检索的可靠性,无需额外标注数据。
- 证据-答案配对自评估协议:将答案与支撑其的证据片段强绑定,要求模型同时输出答案和对应证据,再利用跨查询稳定性筛选,这种方法可迁移到 Agent 的多步推理或工具调用验证环节,用于剔除不可靠的中间结果。
- 共享文档池与重排序策略:不依赖扩大检索覆盖,而是先召回一个共享候选文档集合,再针对每个查询变体重新排列文档顺序,构建差异化的推理上下文,在有限检索计算下实现多样化证据视角,适合低延迟、资源受限的业务场景。
- 生成式推荐的鲁棒性借鉴:当用户 query 或产品描述存在多种表达方式时,可通过生成多个语义等价变体、分别生成推荐理由或纠偏候选,再依据一致性选出最稳定的推荐,减少因表述差异导致的推荐结果波动。
面向长文档 RAG 的不确定性感知多粒度混合检索框架
🧭 检索增强生成 · 多粒度混合检索与不确定性估计 ★ 深度解读
Purdue University
提出无需训练的 UMG-RAG,利用检索得分分布的熵动态估计各检索源与粒度的置信度,并通过父块提升生成连贯的紧凑上下文。
📌 工作参考价值(4 点)
- 多路召回动态融合:借鉴基于熵的置信度估计,电商搜索/推荐的多路召回(如语义向量 + BM25)可以不再使用固定权重融合,而是根据查询的得分分布“锐度”自适应分配权重,提升不同类型 query 的召回质量。
- 细粒度定位 + 父块返回:在商品描述或用户评价的长文本检索中,可用句子级精准召回证据,再通过 parent promotion 返回段落级上下文,保持生成理由或答案的局部连贯性,同时用重叠去重避免冗余。
- 零训练即插即用:整个方法不修改现有检索器和生成器,只做检索后处理,可以极低成本集成到现有 RAG 管线中,适合快速验证和上线。
- 长度惩罚控制上下文体积:通过长度惩罚(除以 sqrt(token 数))在最终排序中倾向紧凑 chunk,能缓解大模型“lost-in-the-middle”问题,减少生成延迟和内存占用,对实时性要求高的推荐文案生成场景尤其有用。
TASR:迭代检索的无训练自适应停止规则
🧭 迭代RAG · 无训练停止策略
San Diego State University · James Silberrad Brown Center for AI · Stanford University · Google DeepMind
提出一个固定的停止谓词,通过重复答案和校准后的logit margin阈值,无需训练就能减少RAG中不必要的检索轮次
📌 工作参考价值(4 点)
- 可直接在现有RAG管线中插入一行代码作为停止条件:重复前轮归一化答案且 isotonically calibrated logit margin > 0.25。对电商问答、多跳商品查询等场景,能在不损失太多精度的情况下大幅降低检索调用次数。
- 发现RLHF调优模型的verbalized置信度极度塌缩(96.5%输出最高分),而logit margin具有44倍的类条件分离度,这提示在依赖LLM自信度进行决策(如Agent中断、推荐解释可信度)时,应避免使用提示词直接索取的置信度分数,转向logit-level信号。
- 通过固定阈值实现跨模型、检索器、语料库的零次迁移,无需针对每个新模型或任务重新训练停止策略,降低了维护成本。对于多智体框架中调用外部工具的轮次控制,可以借鉴这种简单启发式规则作为默认基线。
- 论文从381个候选规则中筛选出Pareto最优规则,这种穷举评估再选择的范式,可以用来为其他agent决策点(如何时触发重排序、何时退出对话)设计低成本、可解释的启发式策略。
基于学习稀疏检索和列表重排序的多轮RAG系统
🧭 多轮对话RAG · 稀疏检索 · LLM重排序
University of Amsterdam
结合学习稀疏检索与LLM重排序的多轮RAG管道,利用完整对话历史提升跨域泛化与鲁棒性
📌 工作参考价值(4 点)
- 多轮对话历史的全上下文利用:使用LLM基于完整对话历史进行查询重写、重排序和生成,可迁移至电商客服/购物助手的多轮对话状态跟踪,提升连贯性。
- 学习型稀疏检索(LSR)的跨域泛化:在不同商品类目或业务场景下无需频繁微调,适合电商导购、售后等多种语域快速冷启动。
- 无法回答查询的识别与处理:在客服场景中可借鉴其拒答/转人工机制,提升系统安全性与用户体验。
- 列表式重排序增强候选质量管理:利用LLM长上下文进行listwise重排序,可在对话式推荐中对候选商品列表进行全局排序,提升推荐精度。
尾部感知自适应k:查询自适应的RAG上下文选择
🧭 RAG · 自适应上下文选择
AI Lab, 37 Interactive Entertainment · School of Computer Science, Wuhan University
利用排序相似度曲线陡-平-陡模式进行拐点检测,结合局部极值理论检验,实现高效、查询自适应的检索截断,近似oracle质量
📌 工作参考价值(4 点)
- 在RAG pipeline中,可利用相似度曲线的几何特征(陡-平-陡)进行拐点检测,动态决定检索文档数量,避免固定k带来的噪声或遗漏,提升面向电商问答、知识检索的生成质量。
- 推荐系统中,向量召回后的结果截断可借鉴该方法:根据item相似度分布自动确定top-k,替代人工经验调参,降低粗排/精排计算量,尤其在长尾查询下稳定。
- Agent系统需要从工具或知识库中动态选取上下文时,TAA-k提供了一种无训练、低计算开销的自适应截断策略,适合线上实时决策。
- 方法对嵌入模型和压缩维度鲁棒,可跨业务场景复用,无需重新训练或校准。
更多文档如何伤害 RAG:领域限定检索缓解向量搜索稀释
🧭 RAG 检索增强生成 · 向量搜索稀释与领域限定检索 ★ 深度解读
University of Wyoming
发现大规模异质文档库中的向量搜索稀释问题,提出基于元数据的领域限定检索显著提升精度,指出多智体编排存在精度-忠实性悖论。
📌 工作参考价值(4 点)
- 利用业务元数据做检索范围限定:当知识库规模大、类别多(如商品文档、售后手册、政策库混合),可借鉴文档类型、类目等现有元数据在查询时过滤索引,能避开密集检索的区分力下降,提升召回精度。工程上轻量级,直接复用已有的字段,不用重新标注。
- 路由模块实用设计:先正则快速匹配,失败再调用 LLM 零样本分类;进一步可训练一个轻量分类器(如 BGE-M3 + 线性层)替代 LLM 路由,在准确性(+28pt)和成本上更优。对于电商搜索或 Agent 工具选择,这种容错路由策略可直接复用。
- 多智体编排小心“忠实度陷阱”:在商业 API 模型上多工具调用可能导致生成忠实度急剧下降(如 Claude 0.25→0.01),优先使用单次检索+单次生成的架构,仅当领域间强隔离且使用开源模型(如 Qwen、DeepSeek)时才考虑多轮调度,否则得不偿失。
- 评测体系需同时关注检索与生成:单看检索精度(P@10)提升可能掩盖生成忠实度退化,需同时监控 RAGAS faithfulness。对于电商问答、产品推荐文案生成等场景,这一点可避免上线后隐式错误。
每个多模态证据一个Token:面向资源受限问答的潜在记忆
🧭 潜在记忆表示 · 多模态RAG效率优化 ★ 深度解读
National University of Singapore
提出 Latent Memory,将多模态证据压缩为单潜在Token进行检索与生成,以3-10倍更少生成Token达到竞争性能。
📌 工作参考价值(4 点)
- 多模态商品/内容压缩:在电商搜索或推荐中,将商品图文、详情页等证据压缩为单个潜在Token,存储和生成成本大幅降低,同时通过联合训练保留检索和生成所需的信息。
- Agent记忆管理:借鉴 Latent Memory 将Agent交互历史、工具返回等多模态证据压缩为潜在Token库,支持高速相似性检索和直接注入生成,适合资源敏感的端侧Agent。
- 三目标训练范式:重建(保持内容)+ 对比(对齐查询与证据)+ 蒸馏(适配冻结生成器)的联合优化,可迁移至其他需要连续表示与检索的场景,如对话状态压缩、用户行为建模。
- 跨域泛化:在 HotpotQA 训练的压缩器直接用于多领域QA,表明压缩出的潜在Token具有良好迁移性,可借鉴以降低电商跨品类/跨场景的重复训练成本。
信任边际:大语言模型中参数记忆与检索证据的无训练仲裁
🧭 训练无关的RAG答案仲裁 · 参数记忆与检索置信度权衡
DCST, Peking University
提出TrustMargin,一种无训练即插即用的仲裁层,利用模型自身似然评分选择直接生成或RAG答案
📌 工作参考价值(4 点)
- 在电商问答或商品知识查询中,可利用似然比(TrustMargin)自动判断直接回答与检索增强回答的置信度,无需额外训练,即插即用。
- “参数先验边际”思想可迁移到推荐解释生成:检测模型对检索到的商品属性是否“熟悉”,避免将不常见的属性强行加入解释。
- “证据绑定边际”提供了一种无监督的问题-证据相关性度量,可用于过滤噪声检索结果,提升 RAG 在电商客服、商品描述生成中的可靠性。
- 该方法不依赖特定检索器,可集成到现有 RAG 流水线中,对生成式推荐的答案选择、多路召回结果仲裁具有参考价值。
解耦语义与逻辑:一种面向视频RAG的免训练由粗到精流水线
🧭 视频RAG · 免训练粗精检索与生成
Huazhong University of Science and Technology
提出免训练两阶段Video RAG方案:粗召回用纯视觉/文本摘要避免噪声模态,细粒度推理过滤用LLM实现逻辑对齐与persona遵守
📌 工作参考价值(5 点)
- 面向电商/Agent/生成式推荐从业者,可借鉴的工程化落地点:
- 两阶段解耦范式:将检索拆分为语义召回与逻辑重排序,召回时主动隔离ASR/OCR等噪声模态(仅用视觉摘要和全局文本),保持向量空间纯净,避免低质量信号污染;在推理阶段再引入全模态,适合多模态内容理解时对抗噪声。
- LLM作为自适应过滤Agent:用商业LLM实现迭代推理式重排序,显式检查候选项与用户persona的逻辑一致性,可迁移到对话式推荐或query改写中,用于剪枝语义相似但意图不符的候选item/query。
- Prompt Sculpting强约束生成:通过prompt工程迫使生成器输出结构化JSON并带精确来源引用,保证可追溯性;在电商场景中可用于从多源视频/直播/评论中生成规范化的商品摘要或问答,降低幻觉。
- 全免训练方案:不依赖标注数据进行微调,适合快速业务验证和资源受限环境,可直接复用现有视觉/文本编码器和LLM。
FLOWREADER:用最小费用流优化多模态长文档问答的证据组装
🧭 多模态RAG · 图优化证据路由
Ca' Foscari University of Venice
将多模态文档的证据组装建模为最小费用流问题,统一控制评分、路由、选择和自适应计算
📌 工作参考价值(4 点)
- 证据组装的图建模思路可迁移到电商多模态信息聚合:将商品标题、详情图、表格参数、用户评价等视为异构节点,用最小费用流从碎片化来源中筛选最优证据组合,代替简单的 Top-K 检索,提升回答或推荐理由的完整性。
- 统一评分向量h控制多目标:通过一个共享的评分向量同时驱动 MMR 去重、相关性筛选和长度感知的可回答性评估,可用于 Agent 的任务规划中,动态权衡信息收集的多样性、可靠性与成本。
- 熵正则化复制者动态(replicator dynamics)用于紧凑子集选择:在 Agent 多智体场景下,从多个候选证据路径中选出无冗余的紧凑集合,可避免信息重复,提升 RAG 或决策模块的效率。
- 双过程门控与自适应 System-2 精炼:当生成一致性低或流图容量紧张时触发二次精炼,电商 Agent 可借鉴这种「成本感知的浅层回答 + 条件化深层推理」模式,优化 API 调用开销与回答质量。
键值分离超图证据组织:多跳RAG的可复用控制机制
🧭 多跳RAG证据组织
Faculty of Computing, Harbin Institute of Technology
提出HKVM-RAG,用超图键值分离组织多跳证据链,作为独立于密集检索的证据控制信号,在三个多跳QA基准上显著提升F1。
📌 工作参考价值(4 点)
- 商品关系路径管理:电商中商品间存在“配套/替代/互补”等多跳关系(如手机→充电器→快充协议)。可借鉴超图建边将多条关系链聚合为高维键,分离存储商品描述文本作为值,检索时直接从键定位完整关系路径,避免中间实体断裂。
- Agent决策链缓存与复用:多Agent协作时,单代理的推理链(如“用户意图→查询改写→API调用”)可视为多跳证据。将成功执行链的LLM中间结果缓存为超边键,对应执行结果作为值,形成经验库。新任务时用查询匹配超边键,直接拉取完整决策链,降低重复推理开销。
- 结构化信号与密集检索融合:本工作证明超图检索分数可作为有效控制信号,与冻结的密集检索器(ColBERTv2)配合。在推荐场景,可将知识图谱子图结构分数与语义向量召回分数简单融合,用轻量控制器(如XGBoost)学习组合权重,提升召回相关性而不必重训检索器。
- 固定子层实验协议:论文固定了证据元组缓存、候选段落、Reader等变量,仅改变键结构,这种对照实验设计范式可用于评估公司内部不同知识组织方式(如图索引vs向量索引),快速定位瓶颈。
扩散语言模型的自增强检索
🧭 扩散语言模型 · 动态检索增强
Cornell University
利用扩散去噪中丢弃的低置信度 token 作为前瞻信号,实现无训练的动态检索增强生成
📌 工作参考价值(4 点)
- 电商对话或商品描述生成中,可利用扩散模型的并行去噪过程,提前从中间低置信度 token 中提取关键实体,触发多跳知识检索,提升答案的完整性和事实准确性。
- 方法完全无训练、不依赖特定检索器,可直接嵌入现有的扩散语言模型推理流程,非常适合业务中快速尝试不同的知识库或检索策略。
- 扩散模型的高吞吐特性(8× 提升)加上前瞻检索,能在高并发电商客服或内容生成场景下,在保持答案质量的同时显著降低延迟。
- 对于 Agent 中的多跳推理或工具调用,可以借鉴前瞻 token 的思路,在最终决策前动态获取更多环境信息,提升决策可靠性。
MolE-RAG:面向化学的分子结构增强检索增强生成
🧭 RAG · 化学分子性质预测
University of Illinois Urbana-Champaign · University of California, San Diego
无训练的分子中心RAG框架,集成多种化学上下文,大幅提升LLM分子性质预测性能。
📌 工作参考价值(4 点)
- 多源上下文注入思路可迁移:为每件商品提供属性、评论摘要、相似商品等多源信息,提升LLM推荐解释或预测。
- 无需微调的推理时增强:直接检索注入知识,适合迭代快的电商业务场景,降低模型更新成本。
- 结构相似性检索:利用商品结构化特征(类目、品牌、价格)计算相似度,检索相似商品信息作为prompt,增强模型理解。
- 根据任务和模型选择上下文源:不同LLM偏好不同来源,可消融实验确定最优组合,避免信息冗余。
智能体编排的自适应 RAG:结构化与多跳检索对比研究
🧭 RAG 自适应编排与多跳检索对比
University of Toledo
提出 Agent 编排的自适应 RAG 框架,发现动态分解与反思并非普适,需根据查询和领域选择性使用。
📌 工作参考价值(4 点)
- 按查询类型自适应路由:电商 RAG 系统中,简单事实查询避免过度分解,多跳推理查询才启动迭代检索,避免统一处理带来的精度损失。
- 引用准确性增强可参考反思机制:在答案生成后增加轻量级自检(如检查引用是否支持声明),能明显提升可信度,但需控制延迟,可只在高风险场景(如售后纠纷、合规问答)开启。
- 结构化领域优先采用查询分解:对于商品说明书、运维手册等结构清晰的语料,动态分解能提升检索覆盖率和排序精度(MRR +0.17),可直接复用。
- 成本感知的编排框架设计:根据延迟预算和查询复杂度动态调节 agent 行为,避免“最强即最好”的暴力策略,对工程落地很有价值。
代理RAG中的级联幻觉检测与缓解:CHARM框架
🧭 代理RAG · 级联幻觉检测与缓解 ★ 深度解读
University of North Dakota
提出CHARM框架,通过跨阶段事实验证、一致性跟踪和置信度监控,实现89.4%的级联幻觉检测率和82.1%的错误传播减少。
📌 工作参考价值(4 点)
- 多步推理流水线的被动检测层:电商推荐Agent常涉及查询解析→召回→排序→生成解释等多步推理,可借鉴CHARM在不替换原有架构的前提下,引入跨阶段事实验证(SFV)和语义漂移跟踪(CSCT),捕获中间步骤的事实错误与逻辑偏移,避免错误积累导致最终推荐结果看似合理实则错误。
- 高价值场景的双模验证:对于大促选品、合规文案等高风险决策,可采用平行验证代理(PVA)进行独立复核,以2倍计算成本换取95.2%的缓解成功率,适合金融、医疗等强监管领域。
- 置信度传播监控:在生成式推荐或对话流中,可借鉴置信度监视器(CPM)的思想,用贝叶斯跟踪模型自信度的变化,防止低置信度的中间结论被后续步骤当作高置信信号使用,尤其在解释生成环节防止自欺欺人的“自信幻觉”。
- 可配置阈值与业务风险对齐:CHARM各组件阈值可按业务域校准,例如搜索Query改写阶段可适度降低NLI阈值以提升召回,而合规内容生成则可收紧阈值,并启用流水线回滚(PRR)确保最终输出基于正确上下文。
十位头痛专家与AI的临床文献总结评估与比较
🧭 临床RAG Agent与人类总结的盲评对比
Stanford University · Mayo Clinic · Harvard Medical School · Thomas Jefferson University · Dalhousie University
专家盲评对比RAG Agent与人类专家撰写的临床总结,发现专家总结仍占优但人机区分困难。
📌 工作参考价值(4 点)
- Agentic RAG pipeline 可复用:论文构建的 RAG agentic 框架(检索+生成+工具调用)可直接迁移到电商场景,用于自动化生成商品优缺点总结、用户评论摘要、竞品分析报告,降低人工撰写成本。
- 多维专家评估方法:采用正确性、完整性、简洁性和临床实用性四维评分+偏好排序+人机辨别实验,这套评估体系可移植到推荐系统生成的推荐理由、搜索摘要、营销文案的质量评测上,尤其适合需专业领域知识的场景。
- 人类与AI生成内容的区分度洞察:专家难以可靠识别人机来源,提示在部署AI生成的用户界面文本时,可无需刻意标注机器生成;但必要时应加入可解释性信号(如引用来源)以增强信任。
- 专家偏好的特征提炼:研究识别出专家看重的关键特征(如证据权重、语境适配),可指导提示工程和微调目标,优化电商推荐中的自然语言生成,使其更贴近人工撰写的高质量内容。
面向分块文档RAG的自条件位置HNSW及其工业证据质量审计
🧭 RAG · 重叠感知检索 · 位置编码 ★ 深度解读
eBay Inc.
通过向分块嵌入追加位置编码并设计自条件双阶段查询,在不改动HNSW图结构的前提下缓解重叠区块检索冗余,并引入大规模人工审计评估证据质量
📌 工作参考价值(4 点)
- 位置编码轻量注入HNSW索引:在现有HNSW索引基础上仅扩展2维(半周期sin/cos位置码),不需要改图构建或遍历逻辑,适合在已有向量检索系统上低成本实施。
- 双阶段自条件查询降低冗余:第一轮纯语义检索估计 query 在文档中的大致位置,第二轮用估计的位置先验修正检索方向;此思路也可用于电商客服证据生成等场景,避免同一对话片段反复占据上下文窗口。
- 可审计的最小索引间隔选择器:引入参数 g 保证选入上下文的 chunk 索引差不小于 g,用简单规则通杀相邻重叠,工程实现十分轻量,且 g 值可解释、可审计。
- 人工审计框架直接参考:770条文本证据评分 + 70个OCR用例的多评估者校准方式(加权 Cohen’s κ、Fleiss’ κ)可直接复制到电商问答、商品描述生成的质量评估流程。
TechGraphRAG:面向技术文献推理的智能体图增强RAG框架
🧭 Agentic RAG · 多源检索与证据充分性评估 ★ 深度解读
The Goodyear Tire & Rubber Company
提出13步证据门控的智能体RAG流水线,自主评估证据充分性并动态调用外部学术搜索与知识图谱,实现领域文献的可靠推理
📌 工作参考价值(4 点)
- 证据充分性自动评估与门控机制:可迁移至电商客服知识库问答中,当本地检索文档相关性不够时,自动触发外部商品手册或政策数据库搜索,避免在低质量上下文上强行生成答案。
- 混合检索与交叉编码器重排序的组合:在商品推荐或智能搜索场景中,将语义向量检索与关键词匹配按RRF融合后,再经交叉编码器精排,可显著提升长尾查询下的相关性,适合直接引入生成式推荐的候选池。
- 知识图谱结构化关系用于增强回答可解释性:在Agent多智体协作中,构建产品、参数、使用场景等实体图谱,利用图遍历提供关系上下文,使推荐理由可溯源到权威文档或已购用户评价,增强决策可信度。
- 自纠正生成循环与引用验证:可借鉴其“生成后质量检查并自动重生成一次”的思路,在多轮对话推荐中,由小模型检验推荐理由是否基于事实、是否遗漏关键表格数据,提升端到端回答的准确性。
检索增强生成中内容表示如何影响答案保留与生成准确性
🧭 RAG 检索内容表示对 LLM 生成的影响
The University of Queensland · CSIRO
在RAG中,答案保留是决定生成器准确性的主导因素,其他表示属性影响有限
📌 工作参考价值(4 点)
- 在电商搜索/推荐RAG场景中,优先保证检索片段经压缩或改写后仍 保留答案关键信息(如产品属性、参数),而非盲目追求简练或语义对齐。
- 引入 答案保留 作为离线评估指标,可快速筛选文档处理策略,避免每次变更都需昂贵生成评估。
- 实验中的13种转换(选择、摘要、重写等)可作为多臂老虎机策略的候选臂,但对每种臂需监控保留率,当保留率低于阈值时自动回退到原始表示。
- 对于多轮Agent对话中上下文有限的情形,采用保留率高的 选择关键句 策略比单纯生成摘要更稳定,能减少幻觉并提升工具调用准确性。
HiKEY:面向开放域文档问答的层次化多模态检索框架
🧭 层次化多模态检索 · RAG
Korea University · Konkuk University
提出层次化树状多模态检索框架,将文档结构作为第一检索信号,通过从粗到细策略大幅提升检索召回和问答性能。
📌 工作参考价值(4 点)
- 在处理电商的海量产品文档、说明书或政策文件时,可将文档的层次结构(章节、段落、表格、图表)显式建模为树状图,作为检索信号,缓解简单分块带来的证据碎片化问题。
- 从粗到细的检索策略可应用于大规模商品库的搜索:先通过高层级索引(如类目或文档标题)快速定位候选集,再精细匹配多模态证据,大幅降低检索延迟和无效内容。
- 多模态融合思路可借鉴到商品详情页理解:将文本描述、表格参数、示意图等映射到统一语义空间,做细粒度排序,提升复杂问题的回答准确率。
- 混合结构-语义打包策略可用于优化 Agent 从多模态文档中提取上下文的 token 效率,在维护逻辑完整性的同时控制成本,尤其适合长文档对话场景。
面向多模态检索增强生成的可学习不确定性量化
🧭 多模态RAG · 不确定性量化
Radboud University · German Research Center for Artificial Intelligence (DFKI)
提出LeMUQ,通过分析输入扰动下的token概率信号来量化多模态RAG的不确定性,AUROC平均提升3.8%
📌 工作参考价值(3 点)
- 输入扰动策略(去除图像/检索上下文)生成多视角概率信号,再通过微调模型集成这些信号,可用于电商多模态RAG系统的答案置信度估计,辅助拒识或人工审核。
- 将 token 概率编码为特殊概率 token 的设计可迁移至生成式推荐的不确定性建模,例如为 Semantic ID 序列生成添加置信度 token 以控制多样性。
- 方法对检索噪声鲁棒,跨检索器泛化实验表明适合电商搜索增强的问答,能缓解错误检索导致的不可靠回答。
跨异构知识源的统一检索框架
🧭 统一异构知识检索 · 跨源查询
KAIST · DeepAuto.ai
提出 OmniRetrieval,将自然语言查询自动分解为各知识源原生查询,实现文本、关系表、知识图的统一检索
📌 工作参考价值(4 点)
- 多源数据统一检索接口设计:在电商搜索/推荐中,产品信息散落在文档、关系数据库(价格库存)、知识图谱(属性关系)等,可借鉴 OmniRetrieval 的“源选择 + 原生查询生成”模式,对用户 query 自动路由到合适数据源,避免预先构建庞大统一索引。
- Agent 工具链中的知识检索模块:为 Agent 提供一种工具,能理解自然语言指令并转化为针对不同数据源的查询(SQL、SPARQL、Cypher 等),无需 Agent 显式指定数据源类型,简化多智体系统中的知识获取。
- 保留源结构优势的跨源证据聚合:不强行将结构化数据嵌入单一向量空间,而是通过跨源证据选择保留表结构、图谱关系等原生表达能力,可迁移到推荐系统的多模态特征融合,如用户行为表、社交图、内容文本的异构证据整合。
- 可复用的源选择与查询生成模块:源选择分类器与基于 LLM 的原生查询生成可独立使用,在电商知识库问答、智能客服等场景,对用户问题自动识别需要查询哪些源库(如维修手册、商品参数表、QA 对),并生成相应的精确查询,降低人工适配成本。
Xetrieval:机械式解释密集检索决策
🧭 密集检索可解释性 · 嵌入空间
Beihang University · BIGAI
提出嵌入空间内推理内部化与稀疏特征分解框架,首次实现密集检索个体决策的机械式可解释性
📌 工作参考价值(4 点)
- 检索模型透明度提升:借鉴推理内部化思想,可在推荐双塔模型的嵌入层注入轻量级推理路径,使查询-物品相似度计算附带可追溯的推理痕迹,便于线上调试与审计。
- 特征级归因与干预:利用稀疏可解释特征重叠解释单个配对决策,可迁移至电商搜索或推荐系统的归因分析,定位具体特征对匹配结果的贡献,并通过特征引导调整检索偏好(如强调品牌匹配或价格敏感度)。
- 在线系统友好设计:推理内部化避免自回归生成,仅需额外单次前向传播,适合对延迟敏感的在线检索与推荐服务,可直接在现有双塔模型基础上微调部署。
- 任务级特征操控:在电商多域场景中,可对检索模型进行特征级方向控制,快速适配不同业务目标(如新品冷启动时侧重“新颖性”特征),无需重新训练。
覆盖幻觉:生产RAG系统中预检索路由失败与检索后级联
🧭 RAG查询增强与检索后级联优化 ★ 深度解读
Aarhus University, Denmark
合成查询高估LLM增强需求 72.2%真实查询仅靠混合检索即可,检索后级联无需训练提质量降延迟
📌 工作参考价值(4 点)
- 电商/推荐系统RAG评估务必使用真实查询,合成查询会严重高估复杂增强(如HyDE)的必要性,造成算力浪费与高延迟
- 实体密集型索引(如商品目录)中,最佳策略是 cheapest-first 检索后级联:先用 BM25+向量混合检索,无结果时再递进调用 LLM 增强,大幅降低推理成本
- 预检索路由(基于查询文本预测是否需要增强)在以上场景几乎无效,因为增强需求取决于索引内容而非查询本身,has_sources 布尔检查比任何 ML 路由都简洁有效
- LLM-as-judge 评估应以覆盖率为主要质量信号,而非回答本身,可据此设计延迟优化:检索落空才触发增强,避免昂贵模型滥用
密集检索器的位置偏差是内置还是源自训练数据?
🧭 检索增强生成中的位置偏差分析
Sionic AI
通过控制训练数据中证据位置分布,发现位置偏差主要由训练数据偏斜导致,平衡训练可显著缓解偏差。
📌 工作参考价值(4 点)
- 训练数据平衡策略:在电商搜索/推荐召回模型训练中,刻意平衡正样本中关键信息的出现位置(如商品标题、描述的头部、中部、尾部),可减少模型对文档起始位置的过度偏好,提升长尾商品的召回机会。
- 评估基准设计:构建位置感知的评估集,检测线上召回服务是否存在位置偏差,尤其对 RAG 或基于文档的推荐场景,防止因信息靠后而被忽略。
- 微调阶段偏差矫正:微调预训练模型时,即使基础模型有内置的位置偏好,通过平衡的位置分布数据仍能有效重塑其行为,这对迁移学习到垂直领域(如法律、医疗文书)有指导意义。
- 多文档输入的结构化处理:在 Agent 多文档推理或 RAG 流水线中,可对输入文档进行预处理,如抽取关键段落重排或添加位置无关的提示,以降低下游任务受原始文档位置偏差的影响。
医学检查器可训练性诊断:信号崩溃与奖励黑客
🧭 医学RAG · 检查器引导的强化学习 ★ 深度解读
University of Pittsburgh
揭示NLI检查器在RL训练中的输出分布而非准确率决定梯度可用性,中等信号优于强信号并避免奖励黑客
📌 工作参考价值(4 点)
- 在RL训练中用验证器作为奖励时,必须监控其输出分布(如支持率、中性率)而非仅依赖离线准确率,防止梯度消失。
- 优先使用微调后的分类器(如PubMedBERT on MedNLI)作为奖励模型,避免LLM log-prob评分导致的信号崩溃,同时摆脱GPT API依赖。
- 强验证信号易引发政策捷径(短回答、搜索跳过、语言切换),而中等信号(支持率50-60%)兼顾可信度与答案质量,可设计梯度裁剪或长度惩罚来抑制。
- 验证信号强度是政策-检查器对偶属性,不同基础模型下同一检查器可能表现迥异,需在目标政策上直接测量信号水平。
Google Embeddings 2 与开源模型的多语言稠密检索及 RAG 系统基准评测
🧭 多语言稠密检索模型评测 ★ 深度解读
University of Salerno · University of Bari
系统对比 GE2 与 5 款开源嵌入模型,揭示 GE2 质量最优但延迟高,mE5-L 在短文本几乎持平,LaBSE 完全不适合检索。
📌 工作参考价值(4 点)
- 绝对不要用 LaBSE 做检索:它的训练目标是跨语言句子对齐,与 top-k 相关性排序天然不兼容,BEIR 上 nDCG@10 仅 0.188,FiQA 上低至 0.069,比随机还差。当前仍有很多教程将其用作多语言检索 backbone,应立即替换为 mE5-L 或 GE2。
- 短文本、单语场景优先用 mE5-L:在意大利语短篇章(平均 60 token)上,mE5-L 的 nDCG@10=0.279,与 GE2 的 0.282 几乎无差异,但延迟仅 31 ms,比 GE2 快 7.5 倍,适合对 <100ms SLA 敏感的实时检索或在线推荐服务。
- 长文档或 query–doc 严重不匹配时切换 GE2:对于法律文本、医疗文献等长篇幅内容,GE2 的 2048 token 上下文窗口避免了 BERT 系模型的截断损失;其RETRIEVAL_QUERY/RETRIEVAL_DOCUMENT 的非对称条件编码能系统性地处理 query 与文档的词汇风格差异,在 TREC-COVID 等任务上优势明显(0.799 vs 0.702)。
- 分块策略可大幅简化:在短篇章体裁(平均 60 token)中,所有模型在 32 token 即达性能饱和,进一步增大分块无增益;可优先使用固定 256-512 token 的窗口,仅在 token 极度受限(16 token)时语义分块才有效果。这可以将分块调优成本降为零。
BeLink:生物医学实体链接中的生成式重排序
🧭 生成式重排序 · 生物医学实体链接
University of Milan · University of Chicago
用指令微调的开源生成模型在重排序阶段实现集合式候选选择,准确率提升3-24%,推理更快。
📌 工作参考价值(4 点)
- 电商商品实体链接(如商品名→标准SPU)可直接复用该方法:用指令微调的开源LLM替代传统BERT交叉编码器做候选重排序,尤其适合冷门实体。
- 集合式指令格式:一次性输入多个候选,要求模型输出最佳匹配,减少推理轮次,降低在线延迟,适合高QPS场景。
- 模块化检索-重排序架构:可灵活插拔不同检索器(稀疏/稠密),业务侧能快速验证不同召回策略与重排序器的组合。
- 低成本部署:微调7B级模型即可达到甚至超越大模型效果,平衡准确率与推理成本,便于在资源受限的工业环境中落地。
消费级硬件上的GraphRAG:本地部署LLM医疗EHR schema检索评测
🧭 GraphRAG本地部署可行性评估
California Polytechnic State University
在8GB消费GPU上评测GraphRAG,发现7B以下模型无法完成管道,本地检索优于全局摘要
📌 工作参考价值(4 点)
- 图谱RAG部署时,模型参数最好≥7B,否则结构化输出不稳定,易导致管道失败;对电商知识图谱等应用,选型要避开过小模型。
- 本地检索(local retrieval)在延迟和事实准确性上均优于全局摘要,且幻觉更少,适合电商实时问答或隐私敏感场景,可优先采用。
- 知识图谱实体丰富度与最终答案质量解耦,评估时需分开关注索引和生成阶段,不能仅凭图谱规模选模型。
- 消费级GPU(8GB VRAM)足以运行GraphRAG全管道,为中小团队本地化部署生成式搜索或推荐系统提供了成本可行的参考。
BiRD:基于双向排序的检索增强生成防御机制
🧭 RAG安全 · 双向排序信号
Wuhan University · Naval University of Engineering · Xi’an Jiaotong-Liverpool University
发现毒化文档的双向排名对齐特征,提出结合前向与后向排名的双信号防御框架,兼顾效率与鲁棒性
📌 工作参考价值(4 点)
- 电商 RAG 系统可借鉴双向排名一致性检查作为轻量级毒化检测:在检索后计算查询到文档的前向排名和文档到查询的后向排名的一致性分值,筛选异常文档,额外延迟 < 1s,适合在线服务。
- 双向排名信号不依赖特定 LLM 或检索器,可嵌入现有检索管道作为插件式过滤器,迁移成本低。
- 该发现启示在推荐/广告系统反作弊中,可分析用户与物品的双向近邻关系来检测异常交互,例如刷单用户的邻居行为异常。
- 实验证明该方法在强攻击下仍有效,可应用于电商问答系统防投毒,提升生成答案的可靠性和任务准确率。
从数量到价值:端侧RAG的偏好对齐记忆构建
🧭 偏好对齐的端侧记忆构建与检索 ★ 深度解读
Ulsan National Institute of Science and Technology (UNIST)
EPIC 框架通过筛选偏好相关数据并引导查询方向,在端侧实现 2404 倍内存压缩、20.17 个百分点的偏好遵循提升和 33 倍检索加速。
📌 工作参考价值(4 点)
- 选择性记忆构建:电商推荐系统可借鉴“只存偏好相关项”的思路,用用户偏好(如价格敏感、品牌偏好)过滤商品池,大幅缩减索引体积,同时保持推荐相关性。
- 偏好对齐的检索引导:在生成式推荐或对话 Agent 中,可在查询向量上叠加最匹配的偏好嵌入,增强检索结果与用户长期偏好的对齐,仅增加 0.18ms 延迟。
- 分级过滤流水线:先使用轻量 Embedding 相似度做粗筛,再用 LLM 细粒度验证,平衡效率与精度;可迁移到商品候选集的粗排-精排流程,节省模型推理成本。
- 偏好漂移适应:端侧流式场景下,偏好的动态增删不会破坏索引,可直接更新偏好嵌入并检索,适合 Agent 长时对话中的兴趣追踪与实时调整。
向量RAG与LLM编译Wiki在小规模多领域研究语料上的预注册对比
🧭 RAG架构对比与知识合成优化
AI for Altruism (A4A)
首次定量对比发现Wiki在跨论文合成与引用支持上优于RAG,但成本高;分解式RAG可低成本恢复部分优势
📌 工作参考价值(4 点)
- 在电商知识库问答中,若需跨商品/多源信息合成(如对比评测),可借鉴Wiki预编译思路构建内部知识图,但需权衡高昂的查询token成本与构建开销。
- 对成本敏感的业务,优先考虑分解式RAG(将问题拆解为子问题分别检索),既能提升跨文档合成效果又保持较低LLM调用成本,适合部署在实时客服或推荐解释生成中。
- 引用的精确性评价不可只看整体有据性,需引入逐项引用检查机制,确保每一条声明都精准对应来源,这对电商合规回答至关重要。
- 架构选择无银弹,应针对业务侧重点(证据组织、引用支撑、查询成本)做有针对性地选型,可设计混合式系统动态路由。
停止过度思考:以最简推理解锁高效列表重排序
🧭 RAG ★ 深度解读
Beijing Institute of Technology
提出长度正则化自蒸馏,剪枝冗余推理,在保持排序效果的同时减少 34–37% 的推理 token
为什么邻域重要:Agentic GraphRAG 中的遍历上下文与溯源
🧭 RAG ★ 深度解读
University of Southern Denmark
发现 Agentic GraphRAG 中最终引用实体虽必要却不充分,答案还依赖未引用的遍历上下文与图结构
一图胜千言?视觉金融文档检索聚合策略实证研究
🧭 视觉RAG · 文档嵌入聚合
实证证明单向量聚合使金融文档区分度崩溃,全局纹理主导是关键原因
📌 工作参考价值(4 点)
- 电商涉及数字敏感文档(价比、标价图)时,避免直接用单向量检索全页图像,应保留 patch 级特征或结合 OCR 文本。
- 视觉 RAG 检索金融类图像时可改用多向量(如后期交互 ColBERT 风格),仅聚合会丢失细粒度数字变化。
- 全局纹理主导提示:均值池化洗掉局部关键信号,可试注意力池化、稀疏 patch 选择或区域编码。
- 商品图搜索若依赖局部细节(LOGO、规格数字),全局向量易误匹配,需强化局部特征权或加 OCR。
面向算法教学意图感知的检索增强辅导系统
🧭 RAG ★ 深度解读
North Carolina State University · University of Pittsburgh · University of California, Berkeley · Aalto University
结合多模态检索与苏格拉底式反馈,为算法追踪与问题求解提供课程对齐的AI辅导
前瞻性引导的记忆检索:语言模型的前瞻思考
🧭 RAG ★ 深度解读
University of Washington · Microsoft Research
提出前瞻性引导检索(PGR),通过模拟未来场景触发相关记忆,解耦存储与检索,大幅提升长期个性化助手的召回率
向量隐写:嵌入存储泄露与加密溯源防御
🧭 RAG 安全 · 嵌入完整性
揭示通过嵌入后处理扰动隐藏数据的隐写攻击,并提出基于 Ed25519 签名的向量溯源协议 VectorPin。
📌 工作参考价值(4 点)
- 在电商/Agent 的 RAG 检索管线中,应防止向量数据库写入权限被滥用,避免成为数据泄露通道。
- 可引入类似 VectorPin 的嵌入签名机制,使用 Ed25519 对(text, model)签名,检索时验证完整性。
- 简单的分布异常检测(如方差、均值偏移)无法识别正交旋转类攻击,需采用密码学手段。
- 若使用托管向量存储(如 Pinecone、Weaviate),应评估原生是否支持嵌入完整性校验,若否,可在外围包装验证逻辑。