Accelerating Multi-Condition T2I Generation via Adaptive Condition Offloading and Pruning
通过自适应条件卸载与剪枝加速多条件文生图生成
🧭 多模态生成 · 端边协同推理优化
Huazhong University of Science and Technology · Central South University
端边协同系统通过启发式卸载和特征驱动条件剪枝大幅降低多条件T2I延迟，同时提升生成质量
📌 工作参考价值（4 点）
- 条件重要性剪枝可迁移至推荐特征选择：Conditioning Scale Estimator 通过特征激活强度和重叠度评估条件贡献，该思路可直接用于电商推荐系统中的多模态特征筛选，动态剪枝低贡献特征以降低推理成本。
- 端边协同推理适用于大模型部署：Subtask Manager 联合优化卸载策略与带宽分配，平衡本地与边缘延迟，可参考用于 Agent 推理场景中模型分片或模块的动态放置，降低整体响应时间。
- 启发式延迟优化可复用：针对异构任务的计算/通信成本差异，采用启发式算法快速求解近似最优卸载方案，适合需要实时决策的推荐推理流水线，例如决定特征是在 CPU 还是 GPU 侧预处理。
- 特征激活强度分析辅助模型加速：通过量化中间特征的激活强度与重叠，可以指导模型压缩或动态网络宽度调整，在电商图片生成或虚拟试穿等多条件生成场景中直接降低推理开销。