SearchJev: A Fast and Calibrated System-1 Model for Search Agents
SearchJev：面向搜索 Agent 的快速且校准良好的 System-1 决策模型
🧭 Agent 双系统搜索决策加速与校准 ★ 深度解读
Huawei Technologies Co., Ltd. · Leiden University
将搜索 Agent 中的短决策与 System-2 生成分离，用 schema-conditioned logits 直接输出校准概率，实现 5.2-5.3 倍决策加速并提升端到端答案准确率
📌 工作参考价值（4 点）
- 把搜索/推荐链路中频繁的短判断（相关性、query 改写是否等价、意图分类、证据充分性、next action）从 LLM 自回归生成中拆出来，用同一个轻量模型基于 schema-conditioned first-token logits 直接做分类/打分，避免 JSON 解码，可显著降低线上延迟。
- 借鉴 SLCD：对不确定标注用 soft-label，训练时混合 cross-entropy + Brier loss，并按输出类型（Choice/Score/Noul）做 temperature calibration；这能提供更可靠的置信度，适合做置信度 gate、拒识或降级。
- 双系统架构值得迁移：System 1 出低延迟决策 + 置信度阈值，不置信时回退到 System 2（大模型）处理；在电商/广告的召回粗排、query 改写、相关性过滤等场景可以平衡成本与效果。
- 将异构标注数据统一成 state-schema 格式训练一个多任务决策模型，用 LoRA 微调小模型即可覆盖多种决策类型，降低多模型维护成本；对 unordered options 做 permute 可减少位置偏差。