Mosaic: Multi-Session Agentic Reinforcement Learning
多会话智能体强化学习：分层优势估计与塑造
🧭 Agent 强化学习 · 多会话轨迹优化 ★ 深度解读
LARK, HKUST(GZ) · Foundation Model Lab, Huawei · City University of Hong Kong · HKUST
提出 Mosaic，用 session-aware 轨迹优势与 session 级边际信息增益塑造，在 BrowseComp 上超越广播基线且会话数更少
📌 工作参考价值（3 点）
- 搜索/对话 Agent 常因 query 改写、上下文压缩、子 agent 并行搜索产生多会话轨迹，RL 训练时不要简单广播轨迹奖励；可借鉴 session-aware advantage：按 outcome 分组对 session 数做居中排名，成功样本少 session 给更高优势，失败样本多 session 降低负优势，既提升样本效率又控制推理成本。
- 用 answer-likelihood 的边际信息增益做过程监督，无需额外 critic，仅需两次前向计算 log-prob；按 session 类型（普通、压缩、子代理）分别归一化，避免类型分布偏差，适合多组件 Agent 架构。
- 工程实现上，把每个 session 作为独立 training segment，聚合时保持 trajectory 级 token 权重一致，可兼容 Megatron 等多 segment 训练；对多轮搜索/电商 Agent 的长轨迹训练有直接迁移价值。