CoHyDE: Iterative Co-Training of LLM Rewriter & Dense Encoder for Tool Retrieval
CoHyDE：密集编码器与LLM改写器的迭代联合训练用于工具检索
🧭 Agent工具检索 · 联合训练编码器与HyDE改写器 ★ 深度解读
SAP Labs
通过多轮交替更新，让编码器和LLM改写器在检索任务中协同进化，解决查询与API目录的词汇鸿沟
📌 工作参考价值（4 点）
- 联合训练改写器与编码器：在电商搜索或Agent工具检索中，可借鉴交替迭代的训练范式，用检索分数直接指导改写器优化，使查询描述与商品/工具表示空间对齐，缓解词汇不匹配问题。
- DPO以检索效果为奖励信号：无需外部标注，直接使用编码器的NDCG分数构建偏好对训练改写器，实现端到端的闭环优化，可应用于生成式推荐中的查询改写或商品描述生成。
- 预热与风格适配：先独立训练编码器（用真实查询-物品对）和改写器（用物品目录多格式文本），再进入联合循环，可快速获得领域适应能力，降低冷启动成本。
- 多轮协同进化：逐步增加轮次可稳定提升跨分布能力，尤其适合电商搜索中口语化查询与商品标题之间的语义对齐，模糊查询改善显著（+6.3pp NDCG@5）。