RAG-Match: Retrieval-Augmented Knowledge Injection and Hierarchical Reasoning for Calibrated Semantic Relevance
检索增强与分层推理的语义相关性校准框架
🧭 检索增强的语义相关性判断 ★ 深度解读
Alibaba Qwen Applications Business Group
通过知识注入、分层推理对齐和偏好校准三阶段提升搜索相关性判断
📌 工作参考价值(4 点)
- 用检索生成伪文档做知识注入预训练:对无标注查询,先检索 top-k 证据并合成回答文档,再用 query-to-synthesized-document 生成任务做继续预训练。电商搜索中可直接复用,将商品描述、属性、用户评论作为知识库,让模型学习 query 到最相关商品知识的映射,改善冷启动和长尾查询。
- 分层推理模板设计:将相关性判断拆成 Knowledge-Infused Grounding + Holistic Multi-Dimensional Alignment 两个阶段。电商场景中可类比:先让模型基于查询和检索知识总结用户意图、关键属性约束,再从意图一致性、实体匹配、属性完备性等维度评判候选商品,提升可解释性和准确性。
- 用 相邻等级偏好优化 修正系统性高估:发现 LLM 微调后容易打高相关性分数,可针对人类标注数据构造 adjacent-label 偏好对,使用 DPO 训练让模型倾向于正确标签。电商搜索中常见的“Good vs Fair”容易混淆,可借鉴此方法在少量标注上做边界校准,降低误判率。
- 不依赖在线 RAG 推理:知识注入仅在训练阶段通过伪文档完成,推理时无需拼接检索结果,减少延迟和上下文窗口消耗。对时延敏感的生产排序系统很实用。