JHiMA-WebRL:长程网页任务的联合分层多智能体强化学习框架
🧭 多智能体分层RL训练网页Agent ★ 深度解读
Center for Advanced AI, Accenture
教师生成子任务监督,分层GRPO联合训练7B规划器与7B执行器,WebArena-Lite-v2达37.2%,超32B RL基线13.2个百分点
📌 工作参考价值(4 点)
- 用强模型从已有轨迹自动蒸馏 subtask 监督,人工零标注构建规划训练集:电商/搜索 Agent 可以拿历史会话或操作日志让 GPT-5 级模型生成高阶子任务,训练轻量 decomposer,降低对闭源大模型推理依赖。
- 角色分离 + 各自优势的 GRPO 扩展值得复用:actor 固定同一 plan 比较 rollout,decomposer 按 plan 平均 reward 比较候选 plan,避免规划与执行 credit assignment 混在一起;工程上只用 terminal success,不需要 dense process reward。
- 小模型分工成本效益明显:7B decomposer + 7B actor 超过 32B 单体 RL agent,适合电商/推荐场景里 QPS 敏感或需要私有化部署的 Agent 系统。
- 当前 decomposer 是一次性 open-loop planning,不能根据执行偏差 replan;业务里可加异步重规划或 subgoal 完成检测,作为后续优化点。
LLM Agent 是否执行所声明的计划?从规划模式声明到模式化执行
🧭 Agent 规划声明与执行一致性诊断 ★ 深度解读
ADIA Lab, Abu Dhabi, United Arab Emirates · University of Granada, Granada, Spain · Luxembourg Institute of Science and Technology, Luxembourg · Cornell University, Ithaca, USA · Lawrence Berkeley National Laboratory, Berkeley, CA
提出 Planning-as-Routing:LLM 声明规划模式并由确定性路由器分派给对应执行器,显著缩小声明-执行差距,但模式选择仍是瓶颈
📌 工作参考价值(4 点)
- 业务 Agent 设计:不要把 LLM 生成的计划仅仅作为 prompt 交给通用 ReAct loop;要把 planning mode 映射到可执行 control flow(predefined/sequential/hierarchical/search)。长链路任务(多步商品约束搜索、广告账户搭建、售后工单处理)优先用 hierarchical/search 执行器,短任务用 predefined 更省成本。
- 评估体系:新增 process-level 指标(plan adherence、plan-order faithfulness、declaration-execution preservation),不要只看最终成功率。可以用规则 verifier 或轻量 judge 检查轨迹是否按声明顺序执行,快速区分是选错模式还是执行漂移。
- 路由与选型:做 planning mode 路由前,先跑 forced dispatch 得到每个模式在目标任务集上的 ceiling;如果 per-task oracle 相对 best fixed policy 的 headroom 很小,就不值得做复杂 selection,固定最优模式+多次重试更划算。
- 少样本与选择先验:few-shot 对模式选择有正收益但不稳定,需按业务环境和模型分别验证;当前 LLM 零样本选择接近任务无关偏好,不要默认模型会为每个任务选对 planning mode。
LongCat-DeepResearch:基于ResearchSpec的多智能体深度研究报告系统
🧭 多智能体深度研究与长文生成 ★ 深度解读
Meituan LongCat Team
用紧凑的ResearchSpec替代全文迭代,结合并行研究员与全局-局部编辑,提升深度研究报告质量
📌 工作参考价值(4 点)
- 将早期迭代从完整文档转移到紧凑可执行的 ResearchSpec(章节范围、研究问题、必需实体、源线索),避免在巨大上下文中反复重写全文,适合改造现有 agent 生成报告/方案的流程。
- 采用 并行独立研究者:每个 section 单独上下文搜索、阅读、撰写,保留完整 section draft,不依赖共享压缩历史,可缓解长上下文中证据丢失;类似做法可迁移到多路召回或者子任务并行执行。
- 编辑阶段分离全局决策与局部文本生成:Global Editor 只指定归属和冲突,Local Editor 基于 directive 修改既有 section,避免整篇重写带来的成本和不稳定,适合需要多轮修订的长文/方案生成。
- 数据构建接口化:用同一套 harness 生成(query, ResearchSpec, traced sections, edit directives),再用于模型 mid-training 和 post-training,实现系统能力与模型能力的迭代闭环。
记忆即计划:基于记忆接地规划的世界-动作建模
🧭 Agent 长程记忆与计划执行解耦
MaP-WAM 将长期记忆转化为稀疏视觉上下文与语言计划,由固定上下文执行器遵循,取得 RMBench 83.3% 成功率
📌 工作参考价值(4 点)
- 在需要长用户历史的推荐/Agent 场景,可借鉴“记忆即计划”:把长时间跨度的行为序列压缩为若干关键帧(或代表性 item 特征)+ 高层意图,供 planner 生成下一步计划,而非让 executor 每次都读全量历史。
- 计划与执行分离:规划器可以处理长历史并生成轻量计划,执行器只接收固定长度上下文和当前计划,结合 progress 预估实现自适应切换,在线推理延迟与历史长度解耦;结构化注意力支持 KV cache 可进一步降低重复规划成本。
- 对电商视觉/短视频推荐,如果任务依赖细粒度视觉证据,语言摘要会丢失信息,可保留用户最近强交互的视觉特征帧作为稀疏长期记忆,而不是仅存文本标签。
- 但这是机器人操作领域,所提 WAP 和进度对齐机制较复杂;直接迁移到推荐/广告需要简化:progress 可类比用户状态/会话阶段,可改造为 session 切分与 memory refresh 信号。
QQWorld:基于分位数-分位数匹配的世界模型正则化
🧭 世界模型潜在空间正则化 · QQ匹配
Xi’an Jiaotong University
用分位数-分位数匹配替代Epps-Pulley检验,解决世界模型潜在表示重尾控制失效问题
📌 工作参考价值(4 点)
- 若推荐模型(如VAE、扩散模型)需要隐空间服从高斯先验,可用QQ匹配替代KL散度,强制尾部对齐,可能增强生成多样性和分布外泛化。
- 跨批次QQ的内存库机制与推荐系统中动量对比学习(如MoCo)或历史嵌入缓存类似,能以低开销扩大样本池改善分布估计,值得在用户表征训练中尝试。
- 监控隐向量的QQ图(而非单一分布距离)可更早发现训练中的尾部问题,适用于大模型调优。
- 在涉及多步序列决策的推荐场景(如交互模拟),该正则化可提升世界模型稳定性,减少误差累积。
超越对话的心智理论:评估LLM通过规划行动诱导信念的能力
🧭 Agent 心智理论评估与规划能力
University of Cambridge · Prolific · Google
提出非对话规划心智理论(NCP-ToM)评估框架,GPT-5在约80%任务中成功诱导信念,超越人类
📌 工作参考价值(4 点)
- Agent 规划能力评估:在电商推荐Agent开发中,可借鉴NCP-ExploreToM框架设计多步骤规划测试,评估Agent是否具备通过环境交互(如调整推荐展示顺序、控制推送时机)来塑造用户偏好的能力。
- 真假信念对齐信号:模型在诱导真信念上成功率更高,暗示可据此设计安全约束——确保推荐Agent的目标是引导用户形成真实偏好而非虚假期望,降低误导风险。
- 自主 Agent 需主动评估:论文强调被动问答不适用于自主 agent,对搜索推荐系统同样适用:应构建 agentic 场景下的离线评测,而非仅依赖静态数据集指标,例如模拟用户动态信念更新的推荐环境。
- 复杂推理与规划结合:任务要求多步逻辑推理(如物体可见性、角色知识限制),对构建能处理多约束、多目标规划的商品组合推荐或广告投放策略 agent 有启发,可引入类似的符号关系推理微调方案。
自我进化的世界模型用于 LLM 智能体规划
🧭 世界模型与记忆自进化增强 LLM Agent 规划
National University of Singapore · Singapore University of Technology and Design · Singapore Management University
提出 WorldEvolver:部署时通过记忆修订增强世界模型预测与规划,无需更新参数
📌 工作参考价值(4 点)
- 在搜索推荐系统中,可构建“世界模型”模拟用户对推荐结果的响应(点击、购买等),替代真实环境试错,加速策略优化。
- 分层记忆(情景记忆 + 语义记忆)可分别存储实时交互序列与长期行为规则,用于用户兴趣建模和动态策略提升。
- 选择性前瞻机制过滤低置信预测,避免劣质生成内容污染推荐或排序结果,可迁移至生成式推荐的幻觉控制。
- 自进化框架支持模型参数冻结下的在线适应性提升,适合电商/广告场景中对延迟敏感的大规模部署。
REPOT:通过检查点修复实现可恢复的程序化思维
🧭 可恢复的 LLM 规划 · 检查点修复 ★ 深度解读
University of California, Santa Cruz
在一次性程序化思维中引入确定性验证重放与单次修复调用,将静默失败变成可恢复的推理过程。
📌 工作参考价值(4 点)
- Agent 动作序列的断点恢复:当 Agent 生成多步操作时,可利用环境接口实时验证每一步,保留已成功的动作前缀,仅让 LLM 从失败点续写剩余动作,避免全盘废弃,节省 token 成本。
- 电商推荐策略的鲁棒执行:例如生成式推荐产生的 action 序列在真实环境(库存、价格等约束)中可能中途失效,借鉴 REPOT 的检查点机制,可保留前缀合法动作,仅修复后缀,提升端到端成功率。
- 成本控制的恢复预算:REPOT 只对首次失败的问题额外调用一次 LLM(~14% 的问题),保持平均成本接近原 POT,适合线上高吞吐场景,可作为 Agent 类系统的基线恢复策略。
- 环境即权威验证器:利用确定性环境(如数据库状态、API 返回码)做真实的下一步状态验证,比模型自我反思更可靠,在电商有明确规则域(库存校验、优惠券有效期等)中可直接复用。
面向延迟优化的 Web Agent 规划与调度的 Agent JIT 编译
🧭 Agent 规划调度优化 ★ 深度解读
Stanford University
通过 JIT 编译、不变式强制工具协议和代价优化规划/调度,将 Web Agent 延迟降低 10.4 倍且准确率提升 28%。
📌 工作参考价值(4 点)
- 工具协议的设计(pre/post conditions):在电商自动化操作中,可以为每个动作(如添加购物车、结算)定义前置页面状态与后置预期状态,编译时即做状态流校验,大幅减少点击错误元素等失误(实验中该类错误从 59% 降至 25%)。
- 代价优化的规划策略:同时生成多个任务计划(代码形式),通过静态检查与代价模型(惩罚 LLM 调用和循环)选出最低成本计划。在电商场景可用来减少不必要的 LLM 推理,将大量纯代码操作替代昂贵模型调用。
- 自适应调度(串行/并行/对冲):根据历史延迟分布做蒙特卡洛估计,为每个任务选择最优策略。当电商操作中某些元素交互方差大(如查找特定商品按钮)时自动采用对冲(同时多路执行取最早成功),可有效控制尾延迟。
- 缓存与工具代码复用:将成功执行 trace 合成为可缓存工具,后续任务直接调用代码而非每步推理,显著降低延迟并将 LLM 调用次数降至接近零。类似做法可直接用于重复性电商流程(如批量比价、多店铺信息抓取)。
SPIN:通过迭代导航实现工业任务的结构化LLM规划
🧭 Agent ★ 深度解读
University at Albany · Kwansei Gakuin University · IBM
一种规划包装器,结合DAG验证与基于前缀的模拟器-批评家停止策略,提升工业LLM代理的执行效率与结构正确性