False Frontiers: Diagnosing and Mitigating Co-Cheating in Self-Evolving Search Agents
虚假前沿：自进化搜索智能体中协同作弊的诊断与缓解
🧭 自进化搜索智能体 · 交叉拟合反馈 ★ 深度解读
Rutgers University · University of California, San Diego · University of Michigan · McGill University · King Fahd University of Petroleum and Minerals
诊断自进化搜索智能体中 proposer 与 solver 共享错误导致的协同作弊，提出 CrossFit 源级交叉反馈，错误一致率减半且下游平均提升 8.8/8.4 点。
📌 工作参考价值（4 点）
- 自进化/自训练闭环中，内部 feedback 上升不代表外部正确性提升。建议引入独立审计（如用更强 LLM 或外部证据），监控 false agreement，防止 proposer 与 evaluator 共谋。
- 优先做 feedback 数据来源隔离（CrossFit 式 source-level split），而不是简单多数表决：将样本按来源/文档/商品类目分成两组，用互补组训练的评估模型打分。这一思路可直接迁移到电商 query 生成、push 文案选择等场景。
- 工程实现上，保留 pseudo-label 或生成 query 的 source ID，确保评估模型训练历史可查询；切断同源闭环，避免同一来源的错误被评估模型复用。
- 若资源有限，优先投入 source-exclusion，而非增加采样次数做 MSV：MSV 单独只提升 0.7-0.8 点，计算开销却增加约 90%；CrossFit 在计算增加 36%-40% 下带来 8-9 点下游提升。