Understanding the Behaviors of Environment-aware Information Retrieval
理解环境感知信息检索的行为
🧭 RL驱动的查询改写自适应检索器
Fudan University · Alibaba DAMO Academy · Chinese University of Hong Kong · Stanford University · Shanghai University of Finance and Economics
首次用强化学习使LLM学会为不同检索器自适应生成查询风格,并揭示各检索器最优查询风格差异显著
📌 工作参考价值(4 点)
- 电商搜索常混合使用倒排索引与向量检索器,可借鉴 RL 训练查询改写模型,使其根据后台检索器类型动态调整 query 风格(如对 BM25 生成关键词式,对向量检索器生成描述性文本),提升召回相关性。
- 多步检索场景中,可利用论文提出的分支 rollout 技术稳定训练改写策略,避免长轨迹的奖励震荡,适用于需要多轮交互的 Agent 搜索链。
- 揭示的检索器偏好差异(Contriever 偏好文档段落式查询,BM25 偏好精确关键词)可直接指导搜索系统的预处理或 prompt 设计:根据检索器类型设定不同的改写模板或约束。
- 引入检索器特有的人类先验作为辅助奖励,可加速 RL 训练并注入业务知识,类似推荐系统中利用人工规则冷启动生成式模型。