AstraFlow: Dataflow-Oriented Reinforcement Learning for Agentic LLMs
AstraFlow：面向智能体大模型的数据流导向强化学习系统
🧭 Agent RL 训练系统 · 数据流架构
Carnegie Mellon University · University of Michigan · UC Berkeley · Meta
以数据流架构解耦训练、数据供给与 rollout，原生支持多策略协作训练并提速 2.7 倍
📌 工作参考价值（4 点）
- 训练与 rollout 解耦的架构：将 rollout 服务化为独立、可替换的组件（Rollout-as-a-Service），可借鉴到推荐模型的在线 RL 训练中，实现策略模型与交互环境分离，便于弹性扩展和资源优化。
- 数据流驱动的异步数据管线：通过数据流层实现完全异步的样本供给，避免训练器等待 rollout，可应用于大规模分布式训练场景，提升 GPU 利用率。
- 多策略协作训练机制：支持多个策略模型（如不同推荐策略或不同 Agent 策略）在同一框架下协同训练，适合多目标推荐或多 Agent 协作优化，可直接复用其稀疏权重更新、选择性 rollout 等设计。
- 异构、跨区域资源的弹性利用：支持不同 GPU 类型、跨地域的 rollout 资源池，对需要动态调度算力（如大促弹性扩容）的业务有参考价值，能降低成本。