MICE to Meet You: From Re-ranking Only to End-to-End Retrieval
MICE 与你相见:从仅重排到端到端检索
🧭 神经检索 · 端到端 Late-interaction
Sorbonne Université · CNRS · ISIR · Sinequa by ChapsVision · Univ. Toulouse
首个基于 MICE 的端到端检索管线 MICE-P,用 PLAID 索引文档 token 表示,在保持 cross-encoder 效果的同时达到 late-interaction 吞吐量
📌 工作参考价值(4 点)
- 在商品/广告搜索中,可参照 MICE-P 将昂贵的 cross-encoder 级重排模型改造为端到端召回:离线预计算文档/商品侧上下文 token 表示并用 PLAID 类索引存储,线上仅做轻量 token 交互,保持效果同时大幅降低计算开销。
- 借鉴 Ettin Family 的公平对比框架:在自己的模型评测中,确保不同架构训练数据、优化器、步数等保持一致,避免因训练配置差异导致结论不可靠。
- 若已有重排模型表现优异但推理慢,可探索为其增加文档侧预计算与索引模块,转化为召回或第一阶段检索,减少多级 pipeline 的延迟。
- MICE-P 证明存在一种新的效率-效果权衡区间:在部分场景下,不必牺牲 cross-encoder 精度即可获得接近 late-interaction 的吞吐,适用于对精度敏感且有一定计算预算的电商搜索/推荐入口。