Learning to Retrieve via Reinforcement Learning in Embedding Space
嵌入空间强化学习检索训练
🧭 RL 后训练 dense retriever ★ 深度解读
Renmin University of China
RELER 将 embedding 视为动作，以 vMF 采样探索，用 RL 直接优化检索/下游奖励，结合 CMP 降方差，后训练提升检索与 RAG
📌 工作参考价值（5 点）
- 在电商/广告检索中，可只对 query encoder 做 RL 微调、冻结文档/商品向量库与 ANN 索引，直接把 nDCG@K、Recall@K、点击率或 GMV 等不可微业务指标作为 reward，无需重建索引即可适配新目标。
- 用 vMF 分布对归一化 query/document embedding 做采样探索，再配合 RLOO 策略梯度，可以把已有双塔模型从对比学习后训练成直接优化业务排序指标，线上推理保持确定性单向量检索，无额外成本。
- Product rollouts 将同一批 query 与 document embeddings 两两配对计算 reward，不增加 encoder 前向，却让每个采样获得更多反馈，适合候选集有限、前向成本敏感的场景。
- CMP 把采样嵌入投影到由策略均值和候选向量张成的低维子空间再算梯度，能在不改变期望梯度的前提下显著降噪；当候选集维度远小于 embedding 维度时尤其值得采用，例如电商候选池通常有限。
- 奖励设计上，分档 nDCG@10 + pairwise 准确率（λ=0.5）优于 binary nDCG/MRR；业务中可类比使用分档排序指标与 pairwise 反馈混合，但 pairwise 权重不宜过大。