HGenPush: A Heterogeneous Generative Recommendation Architecture for Industrial Push Notification Systems
HGenPush：面向工业推送通知系统的异构生成式推荐架构
🧭 生成式推荐 · 异构内容联合生成 ★ 深度解读
Kuaishou Technology
解耦自回归生成，以链式多token预测和行为偏好对齐统一推荐视频与作者，快手推送获+0.181% DAU提升。
📌 工作参考价值（4 点）
- 链式多token预测（Chained-MTP）替代自回归：用稳定的用户兴趣表示作为全局上下文，叠加前序语义ID的累计嵌入来建模层级依赖，整个序列的token可并行预测。相比Transformer级联方式，推理吞吐提升34%，效果基本持平，很适合需要高QPS的生成式推荐落地。
- 异构目标统一生成：对作者（或店铺、媒体源）采用行为偏好对齐得到偏好感知的embedding，经RQ-Kmeans离散化为语义ID，再与视频一级语义ID拼接成混合ID，用同一个decoder生成。这样在系统中自然融合商品推荐与信任源推荐，可直接借鉴到电商中“商品+店铺”或“文章+作者”的组合推荐。
- 用户消费偏好对齐（UCPA + GSISPO）：用点击后会话中真实消费行为（播放完成、点赞、转发等）作为奖励信号，序列级计算重要性采样权重并裁剪，避免token级优化的语义碎片化，同时保留高价值长尾行为的梯度。该RL对齐方案无需额外critic网络，能有效抑制标题党，提升深度消费指标。
- 多场景多视角行为融合：将长/短期feed行为、推送点击行为、推送发送行为与用户静态特征串联输入causal decoder，分别抽取[cls]表示供不同生成分支使用。这种跨场景行为组合及特殊token设计，可迁移到需要跨业务线联合建模的用户理解模块。