Whole-Pool Setwise Reranking with Long-Context Language Models
长上下文LLM的全池Setwise重排序:双端选择加速排名构造
🧭 LLM重排序 · 全池Setwise · 双端填充 ★ 深度解读
The University of Queensland
在长上下文LLM中一次调用同时选出最相关和最不相关的段落,将排名构造的串行调用数减半。
📌 工作参考价值(4 点)
- 当候选池可完整放入长上下文时,采用 双端选择(DualEnd) 策略:每次 LLM 调用要求模型同时给出最相关和最不相关的物品,将排序构造所需调用数从 N−1 降至 N/2,显著降低延迟与成本。
- 电商推荐重排可参考全池(Whole-Pool)思想:不再用滑动窗口拼凑全局序,直接一次看到全部候选,避免窗口间不一致,提升排序质量,尤其适合召回池在 100 以内的场景。
- 注意长上下文中的位置偏差,DualEnd 对输入顺序敏感;工程落地时可结合随机打乱或自一致性技巧来减弱偏差,或保留原始 BM25 序作为暖启动。
- 该方法的代价有效性曲线表明:用极少的 nDCG@10 损失(-0.018)换取近 50% 的调用量下降,对实时性要求高、预算受限的业务(如在线重排)很有吸引力。