VibeSearchBench: Benchmarking Long-horizon Proactive Search in the Wild
VibeSearchBench:面向长程主动搜索的渐进式意图评测基准
🧭 长程主动搜索 · 渐进式意图澄清 ★ 深度解读
Xiaohongshu Dots Studio · Unipat AI
提出VibeSearch范式与VibeSearchBench基准,通过多轮渐进式用户模拟与图匹配评估揭示当前模型主动搜索能力严重不足。
📌 工作参考价值(4 点)
- 电商搜索体验升级:VibeSearch 的“模糊意图→多轮渐进澄清”恰好对应电商中消费者“不确定想买什么→通过浏览交互逐步明确需求”的典型行为,可直接将 VibeSearchBench 中的用户角色设计与渐进式意图触发机制迁移到电商搜索 Agent 的评测与训练中,驱动从被动答询到主动引导的范式转变。
- 知识图谱评测框架复用:图匹配评测不依赖固定 schema,能客观度量检索结果对复杂实体关系的覆盖。在生成式推荐或商品知识库问答中,可借鉴此方式评测输出结构化信息的精确度与召回率,避免自由文本评测的不稳定性。
- Agent 交互成本诊断:实验表明,过多工具调用与上下文压缩反而损害性能(如 GPT-5.4 存在“冗长输出→上下文溢出→信息丢失→重复搜索”的恶性循环)。在构建电商客服或购物助手 Agent 时,应监控 #Asst/#User 比值与压缩频率,寻找资源消耗与性能的 sweet spot,避免盲目堆叠多步推理。
- 记忆与子代理机制的实际效果:OpenClaw 的 local/lifelong memory 与 sub-agent 并未显著提升 VibeSearch 性能,说明现有架构增强不能弥补模型本身在长文本整合与意图追踪上的缺陷。这提示在业务中若遇到类似多轮复杂任务,应优先投入提升基座模型的上下文理解能力,而非过度依赖外部记忆工程。