量子启发式成对排序聚合与主动 LLM 反馈用于文档重排
🧭 量子启发式排序聚合 · LLM 主动反馈 ★ 深度解读
University of Arkansas, Fayetteville · Walmart Inc. Applied AI
只用高分歧文档对的少量 LLM 判断学习多路检索融合权重，以约 30 次调用逼近 SOTA 零样本 LLM 重排效果
📌 工作参考价值（4 点）
- 如果线上已有多路检索/召回（BM25、dense、SPLADE）需要融合，可借鉴「只让 LLM 判高分歧 top-r 文档对」的主动采样：每 query 约 5–30 次 LLM call 即可超过最强无监督融合，成本远低于 listwise/pairwise 全量重排，适合低延迟搜索与 RAG 候选重排。
- 权重更新公式可直接复用：用 LLM 的 A/B 判断和 logit gap 做置信度过滤，保留高于 τ 的判断；权重 ∝ softmax(β * mean(2*P(winner|ranker)-1))。累积历史 refit 比 momentum 更稳定更强，推荐 β=3、τ=2.5，无需训练数据或微调。
- 最终只做线性分数融合，工程上极轻量，可缓存各 ranker 分数与融合权重，毫秒级重排；若原始 BM25 分数缺失，可用 rank-based proxy 替代。
- 注意当前二选一判断无法处理“两个文档都不相关”的场景，可能引入噪声；低置信度过滤只能缓解，业务可考虑增加“都不相关”选项或校准置信阈值。
仅用 In-Context 示例实现无需训练的 Dense Retrieval
🧭 LLM 免训练 dense retrieval ★ 深度解读
University of Waterloo · The University of Queensland
RICE 用少量 in-context query-document 示例直接提示 LLM 生成 dense 表示，免训练，在 BEIR 上显著超越同类零样本检索方法
📌 工作参考价值（4 点）
- 电商搜索/召回可直接复用：用少量人工标注 query-商品对作为 in-context examples，prompt 自有 LLM 生成 query 侧向量和商品侧向量，再接入 FAISS 做 ANN 召回，省去微调检索模型；商品侧离线预计算，query 侧实时生成，工程上可用 vLLM 加速。
- 动态 exemplar selection 值得落地：查询时先用 BM25 从示例池检索与当前 query 最相似的示例，能进一步提升召回（FiQA/NFCorpus/SciFact 上均有增益），适合电商 query 改写或召回场景。
- 通过换更大/更强的 LLM 可直接提升检索效果，无需重新训练，RICE 用 Qwen3.5-9B 比 Qwen3-8B 平均高 1.6 点，说明 LLM 能力提升能直接迁移到检索表示。
- 示例标签不必精准：同域 query-doc 对（甚至 random / non-relevant 对）都能带来提升，shuffled/blank 代表词影响很小；因此收集少量同域语料即可，不必精细标注相关性，但要避免跨域示例。
基于证据选择的 LLM 查询扩展：多改写器互补文档池与相关性筛选
🧭 LLM 查询扩展 · 证据选择 ★ 深度解读
Toronto Metropolitan University · University of Waterloo · University of Toronto
EviQE 将 LLM 查询扩展重构为文档证据选择问题，聚合多改写器检索结果并筛选后单轮生成，显著提升 TREC DL 与 BEIR 检索效果
📌 工作参考价值（4 点）
- 在电商搜索的 query 改写/扩展场景中，不要只依赖单一改写器或单一检索结果作为生成上下文。用多个改写器（如原始 query、LLM 直改、伪相关反馈、HyDE 等）并行召回文档，合并去重后作为候选池，再让 LLM judge 按与原始 query 的相关性打分选 top-B 篇作为生成 evidence，能显著提升改写 query 的召回质量。
- 证据选择比多轮迭代更划算：EviQE 一轮证据选择即可超过多轮 ThinkQE，且增加迭代会引入噪声。实际线上系统可把计算预算从多轮 RAG 改成“并行多路召回 + 一次性精筛 + 单轮生成”，降低延迟和成本。
- 用 LLM 做 relevance judge 时，建议采用 graded relevance（0-3）并固定 judge 模型，不要用简单的 agreement 或 RRF。论文中 LLM-Score 明显优于 frequency/RRF，且跨 generator 骨干稳定；在商品搜索中可复用类似打分来挑选高质量商品详情段落或用户评论作为改写证据。
- 候选池大小不必盲目扩大：4 个改写源（原始+CSQE+LameR+MuGI）已恢复大部分收益，增加到 11 个提升很小。实际部署可从少量高质量改写器开始。
KaLM-Reranker-V1：基于编码器-解码器的快速重排序与可压缩文档表示
🧭 高效重排序 · FBNL 范式 ★ 深度解读
Harbin Institute of Technology (Shenzhen) · Shenzhen Loop Area Institute (SLAI)
用编码器-解码器解耦文档/查询计算 + 跨注意力 + 嵌套池化压缩，在保持强排序力的同时大幅降低在线计算量
📌 工作参考价值（4 点）
- 离线编码 + 在线交叉注意力：将文档编码器独立出来，文档表示可预计算并缓存；在线只需运行解码器进行查询‑文档交互，大幅降低重复计算。适合电商搜索/推荐中大量候选文档的场景，可显著节省 GPU 成本。
- Matryoshka 嵌入池化：沿序列维度压缩文档表示，通过均值池化得到紧凑的缓存向量，支持 2‑32 倍压缩比。工程上可按存储/延迟要求灵活选择压缩率，轻量模型（如 0.27B）在 2‑4 倍压缩时性能几乎无损，能平衡存储成本与重排序效果。
- 多阶段训练与知识蒸馏：先做无指令通用重排，再加任务指令适配，最后用教师模型软标签蒸馏。可用于业务中冷启动或数据稀缺的垂类，提升正负样本区分度，尤其对困难负例更友好。
- FBNL 范式可嵌入现有 pipeline：任何两阶段召回‑排序系统中，可将第二阶段的传统交叉编码器替换为 FBNL 结构，文档离线编码后即服务，重排时仅消耗轻量解码器。在推荐、广告、问答等场景均可尝试，建议优先用于长文档或多候选场景。