面向 LLM 推荐的多教师推理蒸馏与自探索框架 MUSE
🧭 推理增强推荐 · 多教师蒸馏 ★ 深度解读
The Hong Kong Polytechnic University · Nanyang Technological University
MUSE 构建多教师+学生自探索候选池，用 Rank-Gain 效用筛选并对比蒸馏，让 LLM 推荐器学到真正有益的偏好推理
📌 工作参考价值（4 点）
- 用下游排名收益做无标注推理筛选：RGUA 直接以 ground-truth item 的全库排名提升作为推理轨迹效用，避免人工标注，很适合电商/广告中大量交互日志。工程上只需轻量 encoder 算候选 rank，不必引入 LLM evaluator，成本低。
- 多教师 + 学生自探索的候选池设计：先让多个 teacher LLM 生成候选，再随训练逐步增加学生采样数量，让模型逐渐摆脱 teacher 知识上限。业务中可对重要用户/类目建立多 LLM 候选池，用 ranking 指标筛选后再蒸馏。
- 双对比损失解耦“生成”和“利用”：ConDistill 让 generator 拉开高/低效用推理的 likelihood；ConUtil 让 encoder 强制在好推理下比坏推理更接近目标 item，防止模型只依赖历史行为而忽略推理信号。该思路可迁移到多任务推荐排序中，用对比目标强化特征利用。
- 训练与推理效率可复用：teacher 推理预生成并缓存，推理时只需 student 单次生成，vLLM 延迟与 R2ec 相当；业务可离线跑多教师，在线保持轻量。
微调数据预处理选择对LLM推荐效用与人口统计敏感性的影响
🧭 生成式推荐 · 数据预处理与公平性
Istanbul Technical University
系统评估微调预处理对LLM生成式推荐效用与公平性的影响，并验证目录约束解码与提示增强的有效性
📌 工作参考价值（4 点）
- 采用 catalog-constrained decoding（基于合法商品/标题集合约束解码）可从根本上避免 LLM 生成不存在的商品或标题，并保证固定长度输出；对电商推荐落地非常关键。
- 微调数据中 item-title 表示显著影响效用：优先保留原始商品标题而非清洗/简化文本。该研究显示原始标题使 HR@10 从 10.67% 提升到 12.47%，Coverage@10 从 41.36% 提升到 47.88%。
- prompt augmentation（补充用户/商品上下文模板）可提升 prompt 一致性与推荐效用，适合作为低成本数据增强/正则化手段。
- 人口统计平衡具有属性依赖性：年龄平衡和知识增强可在不损失效用下缩小部分群体差异，但性别平衡可能损害效用且不改善性别指标；业务中不要盲目平衡所有敏感属性，应分属性评估。
R2QRec：从检索反馈中学习推荐查询
🧭 生成式推荐 · 检索反馈强化学习 ★ 深度解读
快手科技 · 香港浸会大学
用固定检索器构造可检索 query 监督，并以 RRF 融合排名反馈优化 query 生成器
📌 工作参考价值（4 点）
- 可借鉴 retrieval-verified SFT 做 query/文案生成：在无法标注“正确 query”的场景，先用 LLM 生成候选 query，再用固定 retriever 对 target item 的命中 rank 过滤，只保留能检索到 target 的表达作为 SFT 数据；比直接拟合商品/内容标题更贴合线上检索行为。
- 用固定检索器 + RRF 融合后 target rank 作为奖励，可在电商/广告搜索推荐中直接复用：让线上 ES/向量召回服务执行当前 policy 的 query set，取 target item 在融合列表中的 rank，奖励设为 -log(1+rank)，再接 GRPO，无需单独训练 reward model。
- 工程实现上只训练 LoRA，冻结 LLM backbone、retriever 和 item index；query generator 不枚举 item，推理成本主要在生成，检索可走预计算 item embedding + 近似索引，适合大 catalog 冷启动和线上迭代。
- 多 query + RRF 是轻量但有效的召回融合方式；query 数 K 可以推理期灵活调整而不改变 checkpoint。该方法还显示 query generator 的跨域迁移能力，新域/冷启动时可直接用其他域训练好的 generator，比重新训练 ID 类模型更易复用。
以语义ID作为唯一物品表示的推理式重排
🧭 SID-only 推理重排 ★ 深度解读
Google · University of Toronto
构建 RERANKID 测试床，证明纯 SID 推理重排可由后训练激发；8B RLVR 在 20 倍更短提示下匹配文本 LLM，但 rationale 不可信
📌 工作参考价值（4 点）
- 候选 slate 和用户历史可只用 SID tokens 渲染，prompt token 降低 20-28 倍；长历史 (>50k 文本 tokens) 场景下，文本 LLM 停止提升，SID 模型仍保持收益。适合作为 cascade 重排中的省 token 输入，尤其是候选集大、历史长的 feed/短剧/电商猜你喜欢。
- 不要直接 zero-shot 用 SID-pretrained 模型做 slate rerank：base 模型大量返回输入顺序（identity copy）或 reasoning loop。先 SFT 解决接口，再用 RLVR + graded ranking reward（NDCG@5 作为奖励）微调；graded reward 显著优于 binary Hit@1，且只在 8B 级别有效，1.7B 无增益，说明需要模型容量。
- 固定 SID token embeddings，仅 LoRA 训练 backbone，能保留编码在 token 中的协同过滤/偏好信号；无需修改 item 编码体系即可迁移到同类 SID-pretrained 模型。
- 排序质量与 rationale 可信度可能脱节：SID 模型能排对但会幻觉物品描述。落地建议：排序用 SID 省 token，解释/文案只对 top 少数 item 检索 metadata 生成，而不是让模型在 SID-only 下描述物品。
跨平台用户历史驱动的个人代理中介推荐
🧭 Personal Agent 中介推荐 · 跨平台历史 ★ 深度解读
University of California San Diego · Meta AI
用反事实掩码估计跨平台历史归因，在 LLM 重排平台榜单时做价值保序的优势再分配
📌 工作参考价值（4 点）
- 在电商/广告推荐中，平台强排序通常已编码 population evidence，Agent 直接重排容易产生 harmful override。可借鉴论文的 rescue–harm 双指标：评估 LLM 重排时只报 HR/NDCG 不够，要同时监控 rescue rate 和 harmful override rate，尤其关注 top-K 中被替换掉的原始命中。
- PAMO 的反事实归因思路可迁移到跨域推荐：训练 agent 时，mask 跨域/跨平台上下文后对同一 rationale 重新打分，得到 context dependence score；再将该 score 注入 RL advantage 分配，避免模型仅凭 outcome reward 学到 generic rerank，而不是真正用上外部用户行为。
- 价值 floor 约束值得工程化：不要只用上下文依赖度分配 advantage，要求重分配后的平均 platform-relative NDCG 不下降。这能抑制“高依赖但低价值”的 intervention，适合平台上做生成式重排时保护强排序基线。
- 成本上，PAMO 只增加一次 masked teacher-forced 前向，不增加 rollout，无推理时开销；用 4B 开源模型即可在多个场景超过闭源 LLM。对搜索/推荐 Agent 训练有直接复用价值。
RPTune：LLM 目录搜索的学习式上下文筛选与后训练
🧭 长上下文 LLM 商品搜索 · 上下文筛选 ★ 深度解读
Google · University of Illinois Urbana-Champaign
提出 RPTune，用可学习 curator 对全量商品目录做剪枝重排，并配合 LLM 后训练，在 7 个小商家上显著提升商品搜索准确率
📌 工作参考价值（4 点）
- 对中小商户/长尾目录，若 catalog 可放入 LLM context，直接全量 prompt 比多阶段 RAG 更优；可先用 RPTune 类 curator 做 25% 剪枝，精度不降反升，同时降低延迟。
- 用 encoder+MLP 重排器，让 reorganizer 以冻结 LLM 反馈为信号做 RL，优化目标对齐下游选择准确率，而非单纯语义相似度；ascending 排列把高分商品放在 prompt 末尾（靠近生成位置）效果最好。
- 无行为数据冷启动时，用 frontier LLM 为每个商品生成合成 query，并对全 catalog 做 graded relevance scoring，训练和评估都无需商户日志；这种数据管线可复用到新品/小目录场景。
- LLM 后训练采用 context-relative reward：只要求在 curated 目录内选最高相关商品，并对幻觉（输出 catalog 外商品）给 -1 惩罚，能充分利用剪枝后的候选集，比全局 top-1 或连续分奖励更稳定。
生成式建模探索论坛帖子检索：跨平台语义 ID 迁移
🧭 生成式推荐 · 跨平台语义 ID 迁移 ★ 深度解读
William & Mary · Meta
用 3B 指令模型生成跨平台语义 ID，系统验证 SID 深度、历史渲染与 RL 后训练对冷启动推荐的影响
📌 工作参考价值（4 点）
- 冷启动新场景：直接复用已有大语料训练好的 RQ-VAE SID，不必为新 surface 训 tokenizer；用 prefix-based SID 跨平台迁移，能继承 item vocabulary，适合电商新频道/广告新位等冷启动。
- SID 层数选择：层数决定命中难度和输出空间。3 层 SID 在 HR@10 上比 4 层高 2.2×，但碰撞率更高；如果下游有精排/ rerank 可解歧，优先选粗粒度 SID 做召回，吞吐和命中联合更优。
- 少样本 prompt 工程：在 history 里用 "liked <a_1><b_1><c_1>" 动词化，几乎零成本，比继续预训练对齐还划算；应优先做 prompt 动词化，预算允许再做 text↔SID 对齐。
- 模型容量不是瓶颈：3B 与 12B 效果几乎相同，算力应花在 SID grounding 和训练步数上。GRPO 在短序列生成式推荐中 reward 过于稀疏，约 95% rollout 组无梯度；若要上 RL，需先按 prefix 重叠设计分级语义 reward，并把 non-zero advantage ratio 作为第一诊断指标。
测量与缓解 LLM 推荐系统中的身份线索偏好漂移
🧭 LLM RecSys 身份线索漂移测量与缓解 ★ 深度解读
Institute of Intelligent Computing, University of Electronic Science and Technology of China
提出 PromptShift 训练-free 框架，量化并缓解 LLM 推荐中单条身份线索导致的群体偏好漂移，SliceShift 平均降低 62.42%
📌 工作参考价值（4 点）
- 在 LLM 排序/推荐中，prompt 注入用户性别、年龄等 profile 属性不是中性输入：即使行为历史不变，也会系统性把结果拉向该群体热门物品。工程上应把身份字段视为可干预变量，并对线上 prompt 做受控对照测试（paraphrase controls）以区分普通措辞敏感性。
- 可复用其 slice-popularity table：用近期正反馈构建 identity slice × item 频率表，小样本 shrink 向全局，再用 Δφ=φ(item,g)-φ(item,⋆) 识别“群体过流行”物品，作为无参数偏差审计信号。
- 后处理 reranking 适合合规/轻量去偏：对 LLM 生成候选池 (N>K) 用 score = α_u·rank_score + (1-α_u)·(1-φ(item,g)) 重排，α_u 由用户历史 mainstreamness 动态调节；保留 top K' 不干预，能提升 HitRate/MRR 且几乎无额外模型调用。
- 注意 trade-off：该方法可能降低 NDCG，因为会扰动多命中排序；如果业务更重 NDCG 需压 α 下限或只在前 K 外做调整。
KuaFu：十亿规模长用户行为压缩与理解的统一层
🧭 用户行为压缩 · LLM 理解 ★ 深度解读
Tencent Inc., Shenzhen, China
以单行为 item 为最小压缩单元，双轴投影将每条行为压到 2–4 token，四阶段训练抑制幻觉，部署后 GMV 提升 1.37%
📌 工作参考价值（4 点）
- 可迁移点 1：采用 item 级压缩而非 sequence 级压缩，使 embedding 只依赖 item 本身，可离线缓存、跨用户/任务复用；缓存随 item inventory 增长而非 #users×#tasks，极大降低每周十亿用户画像刷新成本。在电商/广告中，商品、内容、广告素材均可预先压缩存储，在线只拼接。
- 可迁移点 2：双轴投影（token 轴 8→2，width 轴 2560→128，约10×/20×压缩）配合残差与 Down/Up 低秩投影，能把单 item 缓存从10KB降到0.5KB；适合长行为序列 KV cache 或 prompt 侧压缩，注意压缩宽度对细节丢失的影响，需按 task 选择 ratio。
- 可迁移点 3：四阶段课程训练：重建→压缩 QA→压缩+生成协同→幻觉感知 RL。尤其基于长度的五桶课程（1,1–3,1–200,1–500,1–1200）是收敛必要条件；直接混合长度 loss 卡在2.27。可借鉴到长序列 LLM 训练。
- 可迁移点 4：对生成式用户画像/推荐文案，用分组 DAPO RL 加按危害加权的四类幻觉惩罚（fabrication 0.45、date misattribution 0.24、logic 0.24、missed detection 0.07）并单独给 completeness bonus，可显著降低 fabrication（33.5→4.5）且不诱发拒答；业务上可用较强 judge 做分层中间评测，缩短反馈闭环。
ReliGRec：面向可靠性的用户风险感知生成式推荐提示路由
🧭 生成式推荐 · Semantic ID + 风险路由 ★ 深度解读
Central South University · Beihang University · South China University of Technology
用弱监督用户风险信号在解码前路由 Simple/Cautious Prompt，并注入时序 Graph Token 做 Semantic ID 生成
📌 工作参考价值（4 点）
- 用户级弱风险信号可以从评价反馈里低成本构建：Beauty 用 helpful/total，Yelp 用 useful/(useful+funny+cool)，高/低阈值取 0.85/0.40，再按多数投票聚合到用户。电商/内容场景有差评、举报、刷单投诉等弱标签，可用来标用户行为波动，不必确认恶意身份，降低人工审核成本。
- 把风险估计做成生成前控制，而不是训练侧重加权或生成后 rerank：推理时按分数路由不同 prompt。Cautious Prompt 显式要求忽略短时/孤立/重复证据、优先稳定且协同支撑的 pattern，并用 Graph Token 补充上下文。迁移到推送文案、搜索 query 推荐时，可对高波动用户切换更保守的生成指令。
- Graph Token 注入是更稳定的增益点：按时间窗口建图得到用户/物品状态，聚合窗口物品向量后过 temporal Transformer，再投影替换 LLM 输入占位。Beauty 上相比纯历史序列，Hit@5 +2.78%、NDCG@5 +4.65%；工程上可离线缓存窗口 Graph Token，控制在线开销。
- 弱风险路由本身要谨慎：文中 weak-risk-guided 路由并未超过 All-Simple prompt，耗时也介于 All-Simple 和 All-Cautious 之间。业务上如果目标是稳定性/风控，可结合在线 A/B；不要把弱风险分数当校准概率，也不要单独把它作为推荐质量提升手段。
HypRQ-VAE：面向长尾感知生成式推荐的双曲语义 ID 索引
🧭 生成式推荐 · 语义ID · 双曲空间 ★ 深度解读
Virginia Tech · Amazon · Meta AI · Google · Dartmouth College
首次将双曲空间残差量化 VAE 用于生成式推荐语义 ID，显著提升长尾物品推荐
📌 工作参考价值（4 点）
- 语义 ID 生成可把 RQ-VAE 从欧氏空间换成 Poincaré ball + Möbius 减法/加法，无需额外正则即可让 codebook 使用更均衡，对尾部、新品 item 更友好。
- 长尾收益明确：按 H20/T80 划分评估，Hit@10 在尾部提升 17.24%-52.71%，推荐列表尾部占比提升约 8-10 个百分点；建议上线前对尾部流量单独做指标拆分。
- 碰撞处理可直接复用：对冲突 item 构建距离张量，从最后一层向上做 nearest-available token 分配，比额外 ID 或正则更干净，适合电商大目录 item 压缩。
- 工程配置可参照：Stage1 用 Adam lr=1e-3、L=4、K=256；Stage2 用 LLaMA2-7B + LoRA r=8/alpha=32/dropout=0.05，配合 Trie 约束解码 beam=20。
SelfDR：基于推理自蒸馏的 LLM 推荐框架
🧭 LLM 推荐 · 自蒸馏推理增强 ★ 深度解读
Tsinghua University · Quan Cheng Laboratory · Meituan
用推荐性能为 reward 训练 reasoner，再通过动态加权自蒸馏将推理增强迁移到直接推荐模型，在线推理零额外开销
📌 工作参考价值（4 点）
- 在线延迟敏感场景可直接复用：训练时用 GRPO 以推荐命中率为 reward 训练一个 reasoner 生成用户偏好解释，将解释拼入 teacher 输入得到更强排序分布；在线部署 student 直接输出候选 ID，不产生额外推理 token，实测推理时间与普通 SFT 模型相同。
- 动态蒸馏权重公式值得借鉴：根据 teacher 对正样本的排序位置、teacher 与 student 的 rank 差动态调整蒸馏 loss 权重，teacher 排序差时大幅降权，避免从噪声中学习；超参 β≈0.1、温度系数 1~2 较稳。
- 蒸馏损失用 reverse KL 而非 forward KL，让 student 分布集中到 teacher 高概率区域，适合候选 ID 排序场景（候选集有限，需要聚焦 top 候选）。
- 训练 reasoner 时对 rationale 做细粒度 mask（连续 3 个词与 item 标题重叠则 mask），防止信息泄露，提升 rationale 质量；此策略可迁移到任何用生成解释辅助推荐的 pipeline。
面向分布外推荐的生成式反事实对齐与风险控制选择
🧭 OOD 推荐 · 反事实生成 + 保形 FDR 控制 ★ 深度解读
Southern University of Science and Technology · University of Pennsylvania
提出 GenCAR：离线用 LLM 生成反事实候选并微调排序模型，在线用 conformal+BH 控制 proxy-label FDR，不调用 LLM 提升 OOD 推荐恢复
📌 工作参考价值（4 点）
- LLM 离线反事实样本生成：在场景变化（大促、季节、推荐位策略）前，用 LLM 基于用户 stable preference anchors 生成目标环境候选，通过 trust radius 过滤后微调精排模型，避免在线 LLM 成本。
- 风险控制的选择层：借鉴 conformal p-values + BH/BY 对推荐集合做 FDR 控制，按批次决定输出数量；允许空列表相当于“不推荐”，适合付费/敏感场景（广告、消息推送、商品推荐）的体验保障。
- 偏好-环境解耦的 SCM 架构：将用户 embedding 分解为 stable preference 和 environment 两部分，只更新 item embedding 进行反事实微调，可稳定适配环境变化，适合流量分布频繁变化的业务。
- 轻量对齐预测器替代在线 LLM：用 LLM 生成的 proxy label 训练一个 MLP/score head，在线只计算 embedding 得分，既保留语义对齐信号又保证 <1ms 延迟。
世界模型引导的反事实用户参与模拟强化学习
🧭 世界模型反事实用户模拟 · 推荐策略 RL ★ 深度解读
The Chinese University of Hong Kong · Zhejiang University · ByteDance China · MoE Key Lab of High Confidence Software Technologies, CUHK
用冻结 LLM 用户参与世界模型并行预测多候选 item 的异质反馈，转化为奖励训练 1.7B 推荐策略，跨域匹配或超过更大 LLM。
📌 工作参考价值（4 点）
- 把用户反馈模拟器当作离线 RL 奖励源：对同一 history 采样 G 个候选 item，让 UEWM 并行预测反馈，构造 same-state 反事实比较；这比从 logs 学 policy 或 SFT distillation 更符合策略梯度对「同状态多动作」的需求。
- 多信号反馈向量化 + 权重映射奖励：将点赞、分享、差评、评分、评论文本统一向量化，再用权重向量映射为标量 reward；在电商场景可以把点击、加购、收藏、评论情感按业务目标加权，而不是只看点击率。
- 小模型策略优化可落地：用 8B 模拟器奖励训练 1.7B 学生模型，在 Amazon Books/Movies 和 Google Local 上超过 SFT蒸馏和 DeepSeek-GRM 奖励，说明可低成本获得接近大模型的推荐策略，适合粗排/召回级小模型精调。
- 跨域迁移的边界要清楚：UEWM 从中文短视频迁移到英文电商/本地生活做评分/评论预测有效，说明学到的是「从历史推断用户动态」的通用过程；但它是纯文本、只建模用户侧动态，缺少视觉/价格/库存/平台侧约束，接入业务时需补齐多模态与曝光分配机制。
训练自由 LLM 推荐的后置物品精炼：利用协作信号
🧭 训练自由 LLM 推荐 · 协作信号后置精炼 ★ 深度解读
KAIST · Snap Inc.
提出 CoRRe，在不微调 LLM 的前提下，通过共购图方向传播与流行度模长校准精炼物品嵌入，大幅提升训练自由推荐效果
📌 工作参考价值（4 点）
- 在电商/推荐中，若已用 LLM 生成用户兴趣 query embedding，可对物品标题 embedding 做后处理：构建 item-item 共购图（R^T R），做对称归一化传播，再与原始语义 embedding 加权组合，无需训练就能融合协作信号，适合作为零成本召回/粗排增强。
- 物品流行度对检索分数影响显著，可对 embedding 模长做 popularity^alpha 校准；超参 alpha 通常取 0.05-0.2，数据集不同最优值差异大，建议按业务域单独验证。
- 该方法证明 pre-LLM 的 RAG/rerank 注入协作信号增益有限，post-LLM 对 item 表示直接精炼更有效；在资源受限或冷启动场景可优先尝试训练-free 后处理路线。
- 若业务有共购/共点击数据，可以完全复用该框架：用 LLM 文本编码器得到统一向量空间，再叠加图传播与模长校准，实现快速迭代验证。
FSGR：缓解 SID 生成式推荐中的 Token 频率偏差
🧭 生成式推荐 · Semantic ID 公平性 ★ 深度解读
Nankai University
提出 FSGR 框架，在 SID 构建与 LLM 训练两端联合缓解 Token 频率偏差，平均 Gini 公平性提升超 20%
📌 工作参考价值（4 点）
- 在 RQ-VAE 生成 Semantic ID 时，用 mini-batch 内 OT 对齐均匀边际分布（Sinkhorn-Knopp + KL）替代纯最近邻量化，可显著提升 codebook 覆盖率（实验中 Coverage 从 0.67/0.78 升到 0.999/1.0），缓解冷门类目获得高热度 token 不足的问题。业务中若已有 SID 或 item-id 量化模块，可低成本引入该正则项。
- 对 LLM 做 SID 生成时，先标准 CE 预训练，再在第二阶段对 SID 预测 logits 加对数频率先验（b=-log(f+ε)），并按层设置校准温度（浅层弱、深层强）。这一分层温度技巧直接适配电商类目层级：粗粒度类目不应被强校准，细粒度长尾靠深层强化校准。
- 评估生成式推荐的 item-side fairness 时，不要只看整体 Recall/NDCG，用生成 token 频率分布的 Gini coefficient 做监控，能捕捉头部 token 过度曝光；FSGR 达到平均 Gini 改善 20%+，且准确率几乎不降。
- 该框架与 LoRA 微调兼容（LLM 用 8-bit AdamW + LoRA），适合工业级大模型推荐侧的落地；可直接把 HFC 作为插件用于现有 SID 生成式推荐系统。
让协同信号发挥作用：面向序列推荐的图感知大语言模型
🧭 生成式推荐 · Graph-aware LLM ★ 深度解读
浙江大学 · 中国科学技术大学
将全局 item 共现关系分桶为可学习 attention bias 注入 LLM，无需外部图编码器即可联合建模语义与协同信号
📌 工作参考价值（4 点）
- 在 LLM 生成推荐候选时，用「item token + item-item 共现分桶 attention bias」替代直接拼接 CF embedding，可缓解协同表示与文本空间不对齐；工程上只加少量 bias 参数，适合 LoRA 微调。
- 共现强度用等频分桶（如 5 桶）作为离散 relation，比原始稀疏频率更稳定，且只从训练集统计；在电商 item 候选上可直接计算 item co-occurrence 或 query-item 共现并复用。
- 保留 Text-Text 与 Item-Text 关系显式建模，能减少 LLM 语义能力损失；消融显示三类关系互补，缺少任一都会掉点，尤其全局 Item-Item 关系对跨序列协同至关重要。可借鉴做「graph bias」式的知识注入，不必改 LLM 结构。
- 推理侧采用 trie-constrained beam search 限制生成到合法 item 集合，是 LLM 电商候选生成落地的必要工程手段；item token 从现有 CF 模型 embedding 经 MLP 投影初始化，可复用 SASRec 等已有向量。
RecGPT-V3：状态化混合模态推荐系统技术报告
🧭 生成式推荐 · SID · 记忆与效率优化 ★ 深度解读
Taobao
通过记忆中心、混合模态SID和潜在推理，线上IPV+1.28%、CTR+1.00%、GMV+3.97%，成本降52.4%
📌 工作参考价值（4 点）
- 用户记忆压缩与增量更新：用 LLM 将用户长期行为压成结构化记忆单元（行为模式+偏好摘要），每两个月增量更新一次；线上推理时只输入压缩记忆+近期行为 delta，用户建模计算降低 55.8%。可直接迁移到电商用户画像存储与动态更新，避免每次请求重读全量行为。
- 混合模态 SID 打通意图到物品的管道：通过多模态对比学习 + RQ-VAE 为每个物品生成两层 Semantic ID（65K 词表），作为第二模态注入 LLM 词汇表，与文本联合训练。模型直接输出 SID 而非粗糙标签，大大降低信息瓶颈，让召回更精准。适合将物品侧协同信号与语义理解结合。
- 潜在推理替代显式 CoT 降本增效：用最多 10 个可学习潜在 token 替代平均 ~3K 的显式思维链，通过多粒度掩码重构训练保持推理能力，同时输出可解码回可读文本保障可解释性。输出 token 成本降 200 倍，特别适合高 QPS 线上场景。
- RLRF 让离线训练对齐线上目标：用线上排序模型 top-100 的平均 CTR Score 作为强化学习奖励，替代稀疏的 HitRate 奖励，使模型直接优化业务指标，且与在线 pipeline 一致。可复制到其他场景将离线代理目标改为线上可观测的业务信号。
基于隐式推理的LLM生成式推荐方法
🧭 生成式推荐 · Semantic ID · 隐式推理 ★ 深度解读
University of Virginia · Snap Inc.
用可训练的 <pause> 令牌替代显式思维链，在Semantic ID推荐上效果更好且训练推理更高效
📌 工作参考价值（4 点）
- 用 <pause> tokens 做隐式推理，避免为每个样本生成昂贵且脆弱的文字理由：直接在输入中插入可训练的暂停令牌，仅通过下一个 item 预测损失优化，省去教师模型生成、理由对齐和 RL 后训练，训练成本降低 65%，推理速度提升 3.5 倍。
- 诊断显式 CoT 在 SID 场景下的三大失败原因，避免踩坑：弱化世界知识 verbalization、文本与 SID 嵌入空间分离、理由质量敏感。若团队正在尝试让 LLM 生成带推理的推荐，可将这些发现作为前置分析，避免无效投入。
- pause token 初始化和预训练策略可复用：将 <pause> 初始化为全体词嵌入的均值，再在结合文本与 SID 的数据上预训练，使其位于两个嵌入空间的交界处，有效桥接语义。该套路可迁移到其他需要融合离散 token（如用户行为序列、attribute tokens）的场景。
- 隐式 latent scratch space 思路不限于推荐：在输入和输出之间留出 k 个可学习的位置（不需监督），让模型自行决定如何利用这些中间计算，是一种通用的归约推理开销且提升下游任务表现的方法，可尝试用于搜索、广告点击率预估中的用户意图表征。
基于LLM的实时用户兴趣画像生成用于大规模视频推荐
🧭 LLM实时用户理解与兴趣探索 ★ 深度解读
Google Deepmind · Google
用知识蒸馏与异步推理实现在线LLM生成自然语言用户兴趣画像，平衡利用与探索，显著提升观看价值
📌 工作参考价值（5 点）
- 用户行为结构化输入：用语义聚类（salient terms）将离散观看记录聚合成主题簇，作为LLM的输入，比原始序列或ID更精准；电商场景可借鉴，将用户点击/购买序列用商品title或类目聚类，提升用户画像粒度。
- 大模型蒸馏小模型部署：通过多步推理工作流让大模型（Gemini Pro）生成高质量训练数据（总结+探索），蒸馏为小模型（Nano/Flash）完成在线推理，平衡成本与效果；这种“大模型做老师”的模式可复用于线上需要实时生成文本的任务。
- 异步推理与缓存架构：将LLM推理与用户请求解耦，仅在画像过期或缺失时异步生成，避免实时延迟，并可配置更新频率；电商推送或推荐场景中，可异步生成用户兴趣标签、文案，不影响主链路响应。
- 探索兴趣的随机采样与受限检索：每个请求中随机采样一条总结兴趣和一条探索兴趣，强制均匀探索，对抗排序模型的流行度偏差；这一机制可直接用于推荐系统的多样性注入，尤其适合解决探索-利用的平衡问题。
- 探索兴趣高转化但曝光不足的启示：实验显示探索兴趣曝光量少但转化率高13.6%，暗示下游排序模型存在“安全”偏好；可在排序阶段为探索内容设置加权或保量策略，放大LLM生成内容的收益。
太极：工业级LLM增强推荐的语义-ID帕累托最优策略优化
🧭 LLM增强推荐 · 帕累托最优RL对齐 ★ 深度解读
Kuaishou Technology · Unaffiliated
通过逆推推理生成高质量CoT和帕累托最优策略优化实现LLM语义与推荐ID信号的动态平衡，提升广告收入
📌 工作参考价值（4 点）
- 数据蒸馏与过滤：利用逆推推理（RUPR）和基于PPL的拒绝采样（ORFT）生成高质量、领域相关的CoT数据，可借鉴到电商评论分析、用户意图理解等需要长文本推理的场景，尤其适合在缺少精确标注时自动筛选可靠推理路径。
- 动态多奖励平衡：POPO通过梯度对齐或奖励变异系数动态调整语义和ID奖励权重，避免手工固定权重，适用于多目标对齐的Agent训练或生成式推荐，能自动找到帕累托最优解，提升综合效果。
- 轻量级实现：POPO-light仅用rollout奖励的均值和标准差，零额外计算开销，适合工业级大规模RL训练；可直接嵌入现有GRPO流程，在算力受限时作为快速替代方案。
- 特征工程与检索增强：将LLM生成的语义表征量化为稀疏ID特征，并检索相似用户的行为序列作为排序模型输入，这种增强方式不改变主模型架构，可平滑迁移到推荐、广告等场景，对长尾用户效果显著提升。