Adaptive Item-based Collaborative Structures via Noise Rescheduling in Diffusion for Generative Recommendation
扩散生成推荐中的自适应物品协作结构与噪声重调度
🧭 生成式推荐 · 离散扩散 · 噪声重调度 ★ 深度解读
Tongji University · Huawei Technologies Co., Ltd. · Fudan University
在离散扩散生成式推荐中注入物品共现先验与自适应噪声重调度，显著提升协作结构建模与召回精度
📌 工作参考价值（4 点）
- 生成式推荐的 Semantic ID 构建不要只用文本语义；用 item co-occurrence 矩阵 + SVD 提取 64 维协作特征，与文本 embedding 拼接后再 RQ-KMeans 量化。实验表明一阶共现信号足够，LightGCN 无额外提升，工程上简单且省成本。
- 训练 BERT4Rec / 扩散式推荐等 masked 模型时，可以把 uniform mask loss 换成本文的自适应重加权：按 inter-item 距离衰减、intra-item 位置衰减和 item 级 attention 动态给每个 masked token 的 loss 赋权，并 detach 权重防止模型偷懒，能明显提升协作信号学习。
- 推理端加入 SID-validity constrained decoding：每一步根据已 unmask token 维护真实 item 候选集，只在合法 token 子集上重归一化，可避免生成无效 item；可直接迁移到生成式召回、搜索词 token 生成等场景。
- 在扩散式生成推荐与 AR 生成之间选型时，本文显示双向离散扩散在长序列和中频 item 上更稳，配合噪声重调度可超过强 AR baseline；但需评估 beam search + 约束过滤的推理延迟。