RecSys | | arXiv:2608.24363 |★ 深度解读

Rethinking Semantic Alignment in LLM-Enhanced Collaborative Filtering: A Spectral Decoupling Approach

重新思考 LLM 增强协同过滤的语义对齐:谱解耦方法

🧭 LLM 增强协同过滤 · 谱解耦

Nara Institute of Science and Technology · Kyushu University

Yedong Jin, Shaowen Peng, Tsunenori Mine, Shoko Wakamiya, Eiji Aramaki

发现 LLM 语义中的非主奇异分量对推荐有用,而对齐会抑制这些分量;提出无参数预测层解耦融合 UniSpecRec

📌 工作参考价值

  • 不要用 MLP/对比学习把语义 embedding 强行投到 ID 空间;直接在预测分数层做线性融合,保留各自空间,通常优于对齐,且无额外参数。
  • 对 item/user 语义 embedding 做 SVD,使用 power 谱滤波 f(σ)=σ^p(p 在 0.1-0.6)抬高非主奇异分量,能稳定提升 Recall/NDCG;alpha 约 0.35 可固定或粗搜。
  • SVD 可离线做,复杂度 O((|U|+|I|)d_s^2),推理只做矩阵乘法;适合大规模电商 item 库和冷启动/稀疏场景。
  • 评估 LLM embedding 时,不要只看余弦相似度或主成分;跨 encoder 方差可衡量对齐方案的稳定性,解耦方案更鲁棒。

动机:LLM 语义增强推荐主流做法是将语义 embedding 映射到协同 ID 空间做对齐,但哪些语义分量真正有用、对齐是否必要缺乏理解。作者从谱视角发现:协同信号依赖低频谱,而语义有用信息延伸到非主奇异分量;对齐训练会集中到主导协同/主语义子空间,抑制非主语义。控制实验显示非主分量在 alignment 内增益不一致,而在组件级解耦下稳定提升,预测层解耦性能最好。

方法关键点:

  • 对交互矩阵 R 和语义矩阵 S 分别保留原空间,不引入跨空间 MLP/对比投影;最终融合在预测层:(1-α) R̂_CF + α R̂_S。
  • 语义分支对 S 做 SVD,用 power filter f(σ)=σ^p 重加权奇异值,抬高非主分量;协同分支沿用 SGFCF 等稀疏/低通滤波。
  • 无额外可训练参数,SVD 离线预处理;复杂度 O(|V|d_s^2)。
  • 可配合 MF、LightGCN、SimGCL、SGFCF 等骨干。

关键结果:

  • 在 Games/Toys/Books 三个 Amazon 数据集上,UniSpecRec 比最强交互-only SGFCF 的 Recall@20 相对提升 5.1%、15.3%、4.4%(LLaMA-3.2-3B)。
  • 一致优于 AlphaRec、RLMRec-Con/Gen 等 alignment 方法;例如 Toys 上 Qwen3-Embedding-8B 的 Recall@20,Full Decoupling 达 0.1266,AlphaRec-Full 为 0.1018。
  • 效率上,Books 上 UniSpecRec 总耗时 52s,而 AlphaRec 388s、L3AE 162s;跨三个 LLM encoder 的指标方差最低。

最值得记住:别把语义 embedding 强行对齐进 ID 空间;非主语义分量有用,解耦后在预测层融合、对语义谱做 power 重加权,效果更好且零新增参数。