Quantifying and Expanding the Theoretical Capacity of Late-Interaction Retrieval Models
量化并扩展迟交互检索模型的理论容量
🧭 迟交互检索理论容量分析
Center for Intelligent Information Retrieval, University of Massachusetts Amherst
证明 MaxSim 可复制任意非负稀疏内积并引入 Signed MaxSim,实现任意实向量内积复制,带来理论解释和实验提升。
📌 工作参考价值(4 点)
- 在搜索/推荐中遇到带否定词的查询(如"无糖巧克力"),可直接使用 Signed MaxSim 建模负向信号,比标准 MaxSim 有理论保障且效果显著提升(实验 nDCG@10 从 0.008 到 0.788)。
- MaxSim 等价于软 OR 聚合,能评估正 CNF 逻辑表达式(如"红色 AND (裙子 OR 连衣裙)"),可将其作为复杂用户意图分解与合并的工具,为多条件筛选提供统一相似度计算。
- 理论证明 MaxSim 的表达能力至少不弱于向量内积,且更节省表示空间(k 稀疏只需 O(k) 维),在物品量巨大的电商图库中可替代点积作为高效匹配算子。
- Signed MaxSim 使迟交互模型能处理既有正例又有负例的混合向量,适合用户多兴趣建模与多模态表示,可直接用于召回或精排阶段的相似度计算。