LaRec: Unleashing LLM-based Latent Reasoning for Generative Recommendation
LaRec:释放大模型隐式推理能力的生成式推荐框架
🧭 生成式推荐 · 隐式推理与强化对齐 ★ 深度解读
University of Chinese Academy of Sciences · Xiaohongshu
通过步骤级对齐与过程方向对齐提供细粒度隐式监督,结合个性化高斯混合引导的 RL 探索,实现高效且多样的生成式推荐
📌 工作参考价值(4 点)
- 隐式推理的步级对齐迁移:用强LLM生成目标导向的CoT,将各步隐状态作为教师信号对比学习,可复用于电商搜索query理解、用户偏好挖掘等任务,用少量隐式token替代显式推理,显著降延迟。
- 过程方向对齐损失:约束隐状态演化方向逐步骤指向目标item语义向量,防止“语义空转”。此设计可直接用于生成式召回模型,提升多步推理的语义连贯性。
- 个性化锚定探索:基于用户历史交互物品嵌入构建高斯混合分布,采样作为初始隐状态扰动,有效限制RL探索范围,避免崩溃。适合需要可控多样性的广告文案生成、push推送选词等场景。
- 两阶段训练范式(预训练对齐 + GRPO RL微调):复合奖励(命中+语义相似度)提供密集学习信号,对LLM-based推荐系统的多路径探索对齐具有工程参考价值。