From a Static Multi-Level Small Semantic Codebook to a Dynamic Single-Level Large Semantic Codebook for Generative Recommendation
从静态多级小语义码本到动态单级大语义码本：生成式推荐
🧭 生成式推荐 · Semantic ID码本优化 ★ 深度解读
Kuaishou Technology
单层大语义码本替代多层残差量化结合曝光感知动态更新，缩短SID并提升生成式推荐效果与吞吐
📌 工作参考价值（4 点）
- 若业务在用生成式推荐/Semantic ID，优先评估单层大 codebook + hash disambiguation 结构：把 [256,256,256] 换成 [1024,512] 可减少一个自回归位置，paper 中 FLOPs 降约 48%，QPS 提升 28%–47%；务必保留稳定的 hash-based disambiguation token 解决物品碰撞，且不参与语义重建。
- 面对 item 新老更替与曝光漂移，不要只定期全量重训 codebook：维护 exposure 时间衰减权重 w(t)=γw(t-1)+(1-γ)a(t)，a=1+log10(pv)；用上一版 partition 做 anchor，EMA 更新中心，并在重分配目标里加 λ·w·I(切换) 惩罚高曝光 item 的 SID 变化，可明显减少训练目标跳变。
- 先做 codebook 离线筛，再跑下游模型：指标用 reconstruction cosine similarity、code utilization、cluster load P95/max/CV、full-SID collision、temporal change rate（item/PV weighted），能把每个候选 codebook 的下游训练成本省下来。
- 若要上线生成式推荐，需按 serving 架构（decoder / LazyAR / MTP）分别评估自回归解码成本；缩短 SID 是直接且稳定的吞吐优化路径，即使效果打平，也可作为工程优化单独上线。