学习何时思考:效用引导的自适应推理用于高效文本检索
🧭 推理增强检索 · 自适应深度 ★ 深度解读
Carnegie Mellon University · University of Pittsburgh
提出 AURA,用检索特异性监督中间推理状态并训练效用估计器,在推理时自适应停止,以更少步骤取得最优检索
📌 工作参考价值(4 点)
- 电商搜索/推荐中,对 query 改写、LLM 生成式召回、Agent 推理链路不要无限展开。用线上日志构造“正样本 + 曝光未点击/难负样本”,在每个推理/改写中间态计算 specificity margin 作为 utility label 监督,可抑制过度改写和语义漂移;论文证明该信号与 corpus nDCG 相关达 0.97。
- 部署时训练一个轻量 MLP(10M)预测当前上下文 embedding 的检索/推荐效用,线上连续 p 步不提升就停止生成。论文中延迟从 4.6s 降到 0.76s,指标反升;这比 full trajectory 或按 token entropy 停止都更可靠。
- 多任务联合优化生成+对比检索/推荐时,建议对 embedding 损失做 gradient isolation:不回传到前缀 token,避免生成能力被对比损失干扰。论文消融中去除后 nDCG 从 34.7 掉到 29.8。
- 推理时用 greedy expansion 比 best-of-k 更划算:每步生成多个候选,用 utility estimator 选最优继续,而不是采样完整轨迹;对 query 改写、Agent 多步检索、搜索词生成都可复用。
桥接 RAG 中问答鸿沟的假设提示嵌入
🧭 RAG 检索优化 · 假设嵌入
University of Primorska, Faculty of Mathematics, Natural Sciences and Information Technologies · InnoRenew CoE · Research Centre of the Slovenian Academy of Sciences and Arts, The Fran Ramovš Institute
将假设内容生成从查询时移至索引阶段,用预计算的假设提示嵌入将检索变成问题-问题匹配
📌 工作参考价值(4 点)
- 预计算假设查询嵌入,替换在线 HyDE:在电商搜索或客服 RAG 中,可将每个商品详情页、政策文档预先用 LLM 生成多个可能用户会问的问题(hypothetical prompts),用这些问题嵌入直接建索引,在线时用户查询嵌入直接与问题嵌入匹配,完全消除查询时调用 LLM 的延迟和成本。
- 多假设覆盖长尾查询:每个 chunk 生成 5-10 种不同表述的假设问题,能覆盖更广泛的用户表达习惯,尤其适合电商搜索中同义但非规范表达的查询,提升召回率和上下文精度。
- 与重排序、多向量检索等兼容:HyPE 仅改变索引构建方式,不影响线上检索架构,可直接叠加现有的粗排-精排流水线、多向量延迟交互模型(如 ColBERT)或查询分解,适合渐进式落地。
- 监控与质量保障:生成假设问题时需要控制幻觉,可先用小模型生成再过滤,或结合类目体系约束生成范围,保证问题与文档内容一致,这比 HyDE 在线生成更容易审计和修复。
上下文多模态文档检索:联合编码+对比学习
🧭 多模态检索 · 上下文文档嵌入
NTT Human Informatics Laboratories, NTT, Inc., Tokyo, Japan
提出首个要求跨页上下文建模的多模态文档检索基准与嵌入框架CMDR-Embed,结合CMCL对比学习显著提升跨页查询性能
📌 工作参考价值(4 点)
- 商品详情页跨图检索:可借鉴联合编码多页/多图的上下文嵌入思路,处理商品描述分布在多张细节图或PDF说明书中的场景,提升需要综合多图信息的查询召回率。
- 多模态对比学习训练 trick:CMCL平衡上下文建模与页面区分性的损失设计,可直接用于训练电商多模态检索模型,尤其适合“店铺主页多图组合匹配用户风格查询”等任务。
- RAG 中的多模态文档检索增强:在电商客服或搜索总结系统里,用CMDR-Embed替换现有文档嵌入,能让检索到的页面片段保留更完整的上下文,提高生成答案的事实一致性。
- 构建检索基准的方法论:可参照CMDR-Bench设计面向业务的跨页/跨图上下文检索评测集,衡量排序模型对“浏览型查询”(如“适合搭配这个包的上衣”)的上下文理解能力。