MICE 与你相见：从仅重排到端到端检索
🧭 神经检索 · 端到端 Late-interaction
Sorbonne Université · CNRS · ISIR · Sinequa by ChapsVision · Univ. Toulouse
首个基于 MICE 的端到端检索管线 MICE-P，用 PLAID 索引文档 token 表示，在保持 cross-encoder 效果的同时达到 late-interaction 吞吐量
📌 工作参考价值（4 点）
- 在商品/广告搜索中，可参照 MICE-P 将昂贵的 cross-encoder 级重排模型改造为端到端召回：离线预计算文档/商品侧上下文 token 表示并用 PLAID 类索引存储，线上仅做轻量 token 交互，保持效果同时大幅降低计算开销。
- 借鉴 Ettin Family 的公平对比框架：在自己的模型评测中，确保不同架构训练数据、优化器、步数等保持一致，避免因训练配置差异导致结论不可靠。
- 若已有重排模型表现优异但推理慢，可探索为其增加文档侧预计算与索引模块，转化为召回或第一阶段检索，减少多级 pipeline 的延迟。
- MICE-P 证明存在一种新的效率-效果权衡区间：在部分场景下，不必牺牲 cross-encoder 精度即可获得接近 late-interaction 的吞吐，适用于对精度敏感且有一定计算预算的电商搜索/推荐入口。
H2CE：异构两阶段交叉编码器建模地理语义交互用于 POI 重排
🧭 异构特征融合 · 两阶段 POI 重排 ★ 深度解读
Amazon · University of Trento
提出 H2CE 异构两阶段交叉编码器，融合 bucketized 数值描述与精确标量 MLP，用 pointwise+pairwise 重排 POI，NDCG@5 达 67.48%
📌 工作参考价值（4 点）
- 在电商/本地生活精排中，对价格、销量、评分、距离等强数值特征，可采用「bucketized text descriptor + 精确标量 MLP」双通道，并把数值 MLP embedding 与 cross-encoder [CLS] 做 latent concat；比 late weighted sum 更能学到 query 条件化交互。
- 两阶段 pointwise→pairwise top-K 架构适合实时重排：Stage1 用经济模型粗排，Stage2 只对 top 10~20 做 pair 比较，复杂度 O(N+K²)；训练 pair 时只从 Stage1 top-K 采样，避免训练/推理分布不一致。
- 压延迟可用 half-matrix：只评 unordered pairs，再用概率互补 Mji=1-Mij 重建另一半，比较次数减半、延迟降约 26%，精度几乎不伤。
- 零样本 LLM 重排不适合大规模候选和实时链路；本文 RankGPT 质量明显低于 fine-tuned cross-encoder，且贵得多，更适合离线标数据或小规模 judge。
从主题相关到可回答性：面向对话检索的蕴含蒸馏
🧭 对话检索 · 可回答性 · 蕴含蒸馏 ★ 深度解读
University of Electronic Science and Technology of China · Southwest University of Finance and Economics
提出 CLEAR，用答案-段落蕴含蒸馏和段落中心溯因召回，缩小对话检索中主题相关与可回答性差距。
📌 工作参考价值（4 点）
- 在电商客服/商品问答 RAG 中，不要只优化 query 与商品的 topical similarity：可以在 rerank 阶段加入 answerability 头，训练时用 NLI 模型对「答案-商品/内容」算 entailment 再蒸馏到 cross-encoder，推理时只需 context+passage，能有效把「能回答问题」的候选提上来。
- 对低相似但可回答的商品详情页、评论区、文档，可离线用 LoRA fine-tune 的 LLM 为每个 item 反向生成多个可能 query，建成向量索引，在线做 query-to-query ANN 匹配并 RRF 融合；这样能找回 dense retrieval 漏掉的候选，同时避免在线 LLM 延迟。
- NLI teacher 信号偶尔会倒置（负例 entailment 高于正例），不要直接丢弃；借鉴其 adaptive calibration：正例按 passage 相似度放大，负例按不相似度削弱，保留 hard negatives 排序，可稳定 reranker 训练。
- 工程上把 LLM 生成和 entailment 计算全部放到离线，在线只留 ANN lookup + 固定 size cross-encoder，延迟可比 autoregressive rewrite 方案低约 3-4 倍，适合低延迟线上检索链路。
电商统一多任务相关度建模：对比LLM与Cross-Encoder的任务路由架构
🧭 多任务相关度建模 · 任务路由架构 ★ 深度解读
Walmart Global Tech
首次对比三种任务路由架构在LLM和Cross-Encoder上的效果，发现解码器仅靠文本前缀时若去掉前缀会崩塌，私有层可完全恢复，多任务训练提升低资源任务最高+14%。
📌 工作参考价值（4 点）
- 多任务框架设计: 将6种实体对关系（query-ad, query-query, ad-ad等）统一用三点相关度分级联合训练，利用数据丰富任务（如query-ad）的知识转移到低资源任务（如product-type-product-type），直接提升低资源任务准确率最高14%，适合电商搜索推荐中多种相关性场景的统一建模。
- 任务路由选择: 对于Cross-Encoder，用文本前缀就够了，去掉前缀换成多分类头几乎无损失（~1%）；对于decoder-only LLM，必须加私有Transformer层（MHP），否则去掉文本前缀后模型会崩塌（Gemma-2-2b从87.14%掉到55.59%）。如果用LoRA微调LLM做多任务，务必配套私有层。
- 集成方案: 将LLM和Cross-Encoder的MHP模型做多数投票，利用两类模型的错误多样性（如LLM在抽象任务上更强，Cross-Encoder在词汇丰富任务上更强），在453K测试集上达到89.96%准确率，比文本前缀集成高1.92%，且MHP私有层训练出的模型多样性更强，适合构建高精度离线标注或线上集成。
- 工程效率权衡: Gemma-2-2b（2B）用LoRA（~2M可训参数）搭配MHP后准确率88.04%，接近Llama-3-8b（88.27%），且推理速度快于大模型，适合低延迟线上场景；ModernBERT（396M）用于批量离线标注效果最好（97.81%在ad-ad任务），但泛化到抽象任务弱，可按任务类型选模型。
Querit-Reranker：无标注分布适配的高效多语言重排序器训练
🧭 多语言重排序器训练与分布适配 ★ 深度解读
Institute of Computing Technology, Chinese Academy of Sciences · University of Chinese Academy of Sciences · Baidu Inc.
通过合成query mining与teacher软标签实现无标注目标适配，结合SLERP合并checkpoint，产出紧凑且强劲的多语言重排序模型
📌 工作参考价值（4 点）
- 无标注分布适配：用目标语料库中的文档通过LLM生成合成query，并由teacher模型（如Llama-Embed-Nemotron-8B）打分作为连续软标签，代替昂贵的人工标注，可迁移用于电商搜索中的新行业/小语种适配。
- SLERP单模型合并：将多个针对不同任务/数据分布训练的checkpoint用球面线性插值融合为一个模型，避免多模型部署的推理开销，适合线上低延迟重排序。
- 紧凑MoE架构：Querit-Reranker-A0.4B使用0.4B激活参数的MoE骨干，在保证效果的同时大幅降低推理成本，适合搜索重排序等高性能要求场景。
- 多阶段数据配比：一阶段用大规模开源+业务数据构建通用相关性，二阶段用少量目标分布合成数据精调；可迁移到电商多国家站点/多品类的重排序模型训练。
ScoreGate: 双分数统计融合的自适应块选择
🧭 RAG 自适应检索块选择 ★ 深度解读
HighLevel, Inc.
利用 bi-encoder 和 cross-encoder 双分数四分区自适应决定 RAG 块数量，无额外推理开销
📌 工作参考价值（4 点）
- 在电商 RAG 场景（客服问答、商品推荐解释）中可直接复用：利用已有的 bi-encoder 和 cross-encoder 输出分数，按四分区规则自动决定传给 LLM 的上下文块数量，降低无关信息干扰和 token 开销。
- 借鉴不对称阈值设计：对 cross-encoder 高、bi-encoder 低的分区（如不同术语但高度相关的商品描述）采用更低保留阈值，可显著提升词汇不匹配场景的召回，减少 LLM 过滤器造成的假阴性。
- 阈值可通过生产日志一次性校准（归一化分位点+网格搜索），无需模型重训练，计算增加仅 31 ms，适合实时在线服务。
- 固定 MAX-K 护盾机制防止上下文窗口溢出，可结合业务设置上限，避免极端安全风险。
逐层令牌压缩以提升文档重排效率
🧭 文档重排序效率优化 · Token 压缩 ★ 深度解读
Amazon AGI · Amazon AWS
在中层Transformer层进行自适应令牌池化，保留早期交互并加速计算，吞吐量最高提升116%
📌 工作参考价值（4 点）
- 电商搜索/推荐的重排序阶段常使用 cross-encoder，文档/商品描述较长导致推理延迟高；可借鉴 LTC 在中间层做 token 池化，根据吞吐需求调节压缩率与层位置，平衡效果与速度。
- 训练时必须加入压缩，让模型学习鲁棒的压缩表示；推理时直接对未压缩模型应用压缩会导致效果崩塌（尤其低层高压缩率）。微调成本低，but 效益显著。
- 在 listwise LLM 重排（如商品列表排序）中，通过文档掩码仅压缩物品 token 而保留 query/instruction，可大幅提升吞吐（+73%），同时效果不降甚至提升，可复用到多物品评分场景。
- 轻量压缩（如保留 80% tokens）可能产生正则化作用，使得模型在未见过的长文本上泛化更好，可用来处理商品描述长度差异大的情况，无需额外训练。