POEM: Partial-Order Enhanced Real-Time Sequential Modeling for Recommendation
POEM：基于部分有序序列的实时用户兴趣建模
🧭 实时序列推荐 · 排序信号利用
Kuaishou Technology
用上一次请求的多目标排序分数构造部分有序输入序列，实现请求级实时用户表征学习，在线 A/B 观看时长分别提升 0.249% 和 0.213%
📌 工作参考价值
- 用上游排序结果构造动态输入序列：在每个请求到来时，取出用户上一次请求中排序阶段的多目标分数（CTR、CVR、观看时长），通过分组随机采样形成 64 长度的部分有序序列。该序列作为第二塔的输入，让用户表示每次请求都能刷新，即使没有新的点击行为也能捕捉兴趣漂移。这一机制可直接移植到电商搜索推荐的精排后、召回/粗排前的实时嵌入更新链路。
- 逆排名加权融合多目标分数：简单平均会因量纲和重要性差异导致融合失效。POEM 对每个目标分数按排名取倒数（1/rank），再做加权平均，得到的优先级分数天然归一，且可灵活调整目标权重。工程上只需存储上一次请求的候选集分数和排名，计算开销极小。
- 双正样本 + 图增强硬负样本的层次化训练：正样本同时包含用户真实正向反馈（点击/长播放）和系统最高分候选（蒸馏排序偏好），缓解曝光偏差并提升召回与下游排序的一致性（级联意识）。硬负样本从 Swing 图检索相似项，并做概率采样（选第三低相似度或随机），比 in-batch 随机负例带来更精细的决策边界，提升 HR@50 约 8%。电商场景可复用此方案，用商品共现图或语义图替换 Swing 图。
- 因果性在线架构：严格遵循“用上一次请求的排序结果构造本次请求的表示”的因果时序，避免未来信息泄露。在线部署时仅需缓存一次请求的 top 候选和多目标分数，推理延迟可控制在毫秒级。这一设计原则对需要实时更新的检索模型很重要。
动机
传统序列推荐模型只使用用户历史点击序列，更新依赖新的交互，无法捕捉实时的兴趣漂移，且完全忽略系统内部排序阶段产出的丰富偏好信号（CTR、CVR、观看时长得分）。这些排序分数隐含着系统对用户当前偏好的部分有序判断，是一类高价值的监督信息，但在召回/粗排阶段没有得到结构性的利用。
方法
POEM 框架包含三个核心设计：
- 部分有序序列构造：每次用户请求时，取其上一次请求中排序阶段 top 候选集，对每个物品计算多目标融合分数（对 CTR、CVR、观看时长先按排名取倒数，再以可配置权重加权），按融合分数分组（G=8 组），每组随机采样 K=8 个物品，拼接成 64 长度的有序序列。每个物品用 rank 值、融合分数和 ID 嵌入构成五元组表示。
- 双塔用户表征学习：一个 Transformer 编码该部分有序序列，另一个编码用户历史交互序列，输出 CLS 向量经 MLP 融合得到最终用户嵌入。该嵌入每次请求都会更新，实现请求级实时兴趣建模。
- 层次化学习目标：正样本同时使用“用户真实正向反馈物品”和“系统多目标最高分物品”（蒸馏级联知识），缓解曝光偏差并提升召回与下游排名的一致性。硬负样本从 Swing 图按正样本检索 top-M 相似物品，以一定概率选第三低相似度或随机负例，配合 margin-based pairwise loss，增强部分有序区分力。训练损失为交叉熵 + 加权 pairwise loss。
关键结果
在快手工业数据（1 亿用户，4200 万物品，27 亿训练样本）上离线评估：1 小时测试集上 POEM 相比最强基线（CAIN 变体）HR@50 提升 15.9%，NDCG@50 提升 29.9%；随着测试集时间窗拉长，提升幅度逐渐减小，验证了模型对实时信号的敏感性。消融实验表明，仅使用排名信号序列已大幅优于仅使用历史点击序列；双正样本 + 硬负样本较单正样本或无硬负样本带来显著增益；rank-based 融合显著优于简单平均。线上 7 天 A/B 测试中，单人平均观看时长在 KS 单页面和 Lite 页面分别增加 0.249% 和 0.213%。