动态 Harness 搜索:按查询预测构建多智能体系统
🧭 成本敏感的按 query 多智能体编排搜索 ★ 深度解读
Google · Arizona State University
SHIFT 用本地小模型预测 harness 效用并以 MCTS 按查询构造多 Agent 系统,无需在线执行候选,精度与成本双优
📌 工作参考价值(4 点)
- 把 agent harness 定义为可执行图(roles/directives/tools/edges),在请求级用本地小模型(如 Gemma-2B + LoRA)做 MCTS 选择,而不是固定 pipeline;电商场景可按 query 决定是否需要「检索→规划→校验」多人链路,还是仅一个 reader/单步商品查询,降低高耗时多 Agent 编排的无效消耗。
- 成本敏感的价值函数值得直接复用:reward=成功项 - 归一化 token/latency/tool/agent 惩罚,用 binary cross-entropy + pairwise ranking loss 训练 value head;线上可选择 value 最高的 harness 而非最强 harness,类似路由/降级策略,在牺牲极小精度下大幅省 token。
- 搜索只在本地模型内完成,候选执行不进入在线路径;MCTS 用虚拟损失实现批量并行,H100 上构造 harness <1s,在线成本接近固定编排。适合已有 workflow/Agent 编排平台做逐 query 编排,或作为 offline 训练 policy、online value 决策的两段式部署。
- 动作空间从最小 harness(single Coder 无 tools)开始,40 个 action 共享跨 domain 的结构/指令,工具权限随 domain 变化;这种冷启动方式可迁移到新的商品类目/垂直搜索,通过少量执行数据训练 architect,再迁移到更难任务。
面向对话推荐系统的双节点蒙特卡洛树搜索结构化上下文建模
🧭 对话推荐 · 结构化状态 + MCTS ★ 深度解读
College of Computer Science, Sichuan University · Institute of Data Science, National University of Singapore · School of Computing and Information Systems, Singapore Management University · Engineering Research Center of Machine Learning and Industry Intelligence, Ministry of Education, China
提出 DREAMS,用双节点 MCTS 在结构化偏好状态上联合优化偏好引导与利用,平均成功率提升约 7.4%
📌 工作参考价值(4 点)
- 用显式结构化偏好状态(JSON key-value)替代直接用对话历史做 embedding 或 prompt,把隐含负面偏好(如“不喜欢 Spike Lee 风格”)解析成可消费的约束,并跨轮累计。电商导购/客服可维护用户属性状态(不喜欢品牌/材质/价格段),避免重复推荐已否定属性。
- 将“何时问/何时推”建模为 MCTS 搜索,节点保存结构化状态而非自由文本,用 LLM 先验 + UCT 选择动作,可减少粗粒度动作错误和无效追问。电商导购机器人可借鉴树搜索模拟用户反馈,决策澄清问题或直接推荐。
- 偏好利用侧做 query refinement:从累积状态生成多个候选查询(删冗余、转成机器可读约束),逐个检索并用属性匹配打分,选最优查询,而不是用整个对话历史编码。可迁移到电商搜索的 query 改写/意图澄清:先结构化成约束,再生成检索请求。
- 工程上,MCTS 延迟可用经验库(EKB)缓存成功/失败轨迹,检索相似案例 warm-start,减少在线搜索,论文中延迟降到 9s 且性能仍可接受(R@1=0.467)。适合低延迟电商场景。