The Lattice of Transition Laws
转移法则格:扩散与自回归解码调度的统一框架
🧭 生成模型统一解码调度与成本预测
University of Pennsylvania
将扩散、自回归及混合模型统一为 corruption lattice 上的路径,用依赖成本预测不同解码调度性能
📌 工作参考价值(4 点)
- 在生成式推荐或文本生成中,不必固定 AR 顺序或全并行扩散,可根据数据依赖图/树深设计中间解码调度,平衡推理延迟与生成质量。
- 利用预训练模型权重估计成对依赖成本,可低成本预测不同解码策略的排序,用于离线筛选最优推理策略,减少在线实验成本。
- 对于商品序列或图结构数据(如购物车序列、类目树),treedepth 给出最少零成本并行步数,可用于并行生成商品描述、推荐理由等任务时估计加速上限。
- 在支持混合解码的推理框架中,可先用依赖成本排序候选 schedule,再小规模验证,替代全量解码调参,提升工程效率。