GF-DiT: Scheduling Parallelism for Diffusion Transformer Serving
GF-DiT：面向扩散 Transformer 服务的动态并行调度
🧭 扩散模型服务 · 动态并行调度
Shanghai Jiao Tong University · Guizhou University
将 GPU 并行度作为可调度资源，通过弹性运行时和轻量组通信大幅提升 DiT 服务效率
📌 工作参考价值（4 点）
- 动态并行调度思想可直接应用于电商场景中的图像/视频生成服务（如商品图生成、虚拟试穿），根据请求量波动弹性分配 GPU，提升资源利用率并保障延迟 SLO
- Group-free collectives 的低开销通信组建立机制（从 778ms 降至 60μs）可用于需要频繁重配并行组的多 Agent 协作推理或分布式模型推理，减少通信初始化开销
- 异步执行抽象（请求分解为可独立调度的轨迹任务）可借鉴到长推理链的 Agent 系统中，提高步间并发和 GPU 利用
- 策略可编程运行时设计允许按业务目标（如优先降低 P99 延迟）配置并行调整策略，适合推荐系统中对生成式模块的差异化服务质量要求