Uniform Diffusion Models Revisited: Leave-One-Out Denoiser and Absorbing State Reformulation
均匀扩散模型再审视：留一法去噪与吸收态重构
🧭 离散扩散模型优化 · 均匀扩散重参数化
CMAP, Ecole polytechnique · Institute of Foundation Models · Inria, PSL Research University · MBZUAI · EPITA, LRE
揭示了均匀扩散中标准参数化与训练目标的不匹配，提出留一去噪和吸收态重构改进生成质量
📌 工作参考价值（4 点）
- 在离散扩散生成任务（如商品标题生成、评论生成）中，若使用均匀扩散，可直接换用 leave-one-out 参数化训练，无需模型改动即可提升生成质量。
- 吸收态重构将均匀扩散的采样过程分解为掩码扩散式操作，简化了推理实现，同时保留了联合分布，可降低工程复杂度并支持 remasking 策略。
- 提出的 predictor-corrector 采样器和改进的温度采样技巧，无需额外训练，可用于控制生成多样性和质量，适合电商场景下需调控生成结果风格或创造性的应用。
- 结论表明扩散模型性能差距主要来自参数化和采样设计，而非边缘分布选择，这提示在推荐系统的扩散模型（如生成式推荐）中，应更多关注参数化策略而非生硬选择扩散类型。