LSF-SR: Latent Semantic Fusion for Sequential Recommendation via Flow-based Conditional Variational Autoencoders
LSF-SR:基于流式条件变分自编码器的序列推荐潜在语义融合
🧭 序列推荐 · LLM 语义融合 ★ 深度解读
National Yang Ming Chiao Tung University · National Chung Hsing University
用流式 CVAE 融合协同 ID 与 LLM 语义,缓解分布错位并提升长尾推荐
📌 工作参考价值(4 点)
- 语义信号只做 item-level 离线 profile:用 LLaMA 生成 item 描述 + SimCSE 抽取语义向量,避免用户级实时 LLM 调用;电商场景可离线批量构建 item 语义库,推理时只查表。
- 不要简单 concat 或 late fusion:LLM 语义 embedding 呈现高相似度聚类,协同 embedding 近似高斯,直接用会错位。可借鉴 CVAE 条件融合 + planar/radial flow 学习非高斯后验,把 item ID 映射到语义条件约束的潜在空间。
- 训练细节:推荐 loss 用全 catalog softmax,KL 只在序列 item 的随机路径上计算,全 catalog 推理走确定性路径;VAE 融合模块需要 cyclical KL annealing,避免 posterior collapse,比固定/线性/sigmoid 更稳。
- 冷启动/长尾收益明显:论文在 tail items 上相对最强 LLM baseline 的 NDCG@20 提升 22.88%/18.50%,说明语义条件能按语义相关度而非流行度放置尾部 item;适合商品目录长尾、新品冷启动。