Project Greenhouse: Progress Toward Fully Open and Sovereign Agentic Search
Project Greenhouse:构建完全开放与主权的智能体搜索重排模型
🧭 开放主权 agentic search 重排 ★ 深度解读
University of Waterloo
用从零预训练+SFT 的 3B 点式重排模型,以少量 GPU 实现不依赖第三方权重的开放主权检索重排
📌 工作参考价值(4 点)
- 可复用训练配方:3B decoder-only 模型从通用语料(ClimbMix)从零预训练,再用公开相关性标注(RLHN-250K)做 LCE 点式微调,即可逼近/超过同量级 fine-tuned listwise/pointwise 重排器;电商/广告团队可照搬到商品/广告候选重排,避免依赖 Qwen/Gemma 等第三方权重带来的 license 与合规风险。
- 工程集成简单:点式重排把 query-doc 对映射为标量分数,候选独立打分、排序;相比 listwise 更适合局部候选集(如召回 top100)和线上并行,3B 可单 GPU 部署,适合 agent 搜索循环中对抓取/召回结果做优先级筛选。
- 模型 soup 提升稳定性:同一 SFT recipe 多次训练后平均权重作为最终 checkpoint,降低单次波动;在业务迭代中可用少量多次微调再平均来提升线上指标稳定性。
- 重排器可当 relevance judge/奖励信号:其标定后的分数可作为 RAG/agent 搜索中的相关性校验、强化学习 reward 或 rollout verifier,与 LLM 生成/重排组件解耦。