Structuring and Tokenizing Distributed User Interest Context for Generative Recommendation
G2Rec:基于稀疏共现图软聚类的生成式推荐结构化分词
🧭 生成式推荐 · 软聚类共现图 tokenization ★ 深度解读
University of Illinois Urbana-Champaign · Meta MRS
通过稀疏共现图软聚类提取物品多兴趣原型并转化为连续 token,结合生成式推荐实现工业级全局行为建模
📌 工作参考价值(4 点)
- 共现图稀疏化:用 O(M log M) 采样子图替代全量共现图,借助图拉普拉斯近似理论保证结构信息,可直接迁移到电商/广告场景的用户行为图构建,减小工程开销。
- 软聚类与多兴趣原型:采用可微 soft modularity,在 GPU 上优化,得到每个物品的多兴趣分布,而非硬聚类;适合电商商品多用途属性(如一件商品同时属于“性价比”、“送礼”等)。
- 交替 token 化序列:将兴趣 profile 连续 token 与物品 token 交替输入生成式序列模型,并同时用交叉熵预测下一物品和兴趣软标签,可复现到推荐 Agent 的上下文表示中。
- 离线计算在线使用:兴趣原型和物品兴趣 token 离线周期性更新,推理时仅需查表拼接,额外耗时可忽略,适合工业低延迟推荐服务。