Hybrid Reasoning Agents
混合推理智能体：隐空间思考与文本工具调用统一
🧭 混合潜在推理与工具调用的 LLM Agent ★ 深度解读
Stanford University · Together AI · UIUC · Meta
HybridAgent 用轻量 HybridLink 与连续工作记忆交替进行潜在推理和文本工具调用，在 11 个基准上平均提升 10.4% 并大幅降低 token、延迟与成本
📌 工作参考价值（5 点）
- 在搜索/推荐 Agent 中，把长 CoT 的中间推理压缩为 latent steps，仅在需要调用搜索 API、商品过滤工具时切回 text，可大幅降低 token 费用和首字延迟；适用于高并发在线服务。
- 复用 KV cache 作为跨轮工作记忆：多轮搜索/推荐对话中保持工具结果和内部表示，避免重复编码；可参考其 persistent KV accumulation 设计来优化多轮 Agent 服务。
- 后训练要解决 train-inference mismatch：先用 teacher forcing 再 self-conditioned 两遍训练，是让模型学会消费自己 latent 输出的关键；如果业务中做类似隐式状态，这个 trick 值得照搬。
- RL 奖励只给 correctness + format + tool use，不显式控制 latent/text 比例，让模型自适应分配；在电商 Agent 中可避免奖励设计过度约束导致行为退化。
- 可解释性：latent pseudo-text 映射到最近 token，方便监控和 debug；适合需要审计的推荐理由生成/搜索排序 Agent，可保留可解释性同时降本。