Knowledge-Geometry Decoupling: Refreshable Pretrained Transfer for Streaming Recommendation
知识–几何解耦：流式推荐中可持续刷新的预训练迁移
🧭 流式推荐 · 预训练知识迁移 · 参数解耦 ★ 深度解读
Xiamen University · Shopee Pte. Ltd.
通过解耦预训练知识刷新与任务几何学习，使每日更新不干扰下游模型，在电商搜索中提升GMV 1.75%
📌 工作参考价值（4 点）
- BMTP 去噪预训练：仅对协同 (item co-occurrence graph) 和语义 (text embedding cosine) 相关的未来 item 做预测，过滤掉 session 边界的噪声 transition。可在行为序列预训练中引入双阈值过滤，提升知识纯度。
- 解耦读写所有权：让任务模型通过只读交叉注意力读取编码器状态，并通过正交低秩残差 (ACR) 写入任务特有几何，预训练编码器可每日刷新而不破坏下游适配。可推广到多任务排序：每个任务持有独立的 ACR 和 task learner，共享编码器。
- 工程落地友好：训练成本约为单次编码器更新的两倍，推理延迟不增加（任务 learner 仅增加旁路参数）。在实时流式场景可直接复用这种每日刷新 + 任务冻结调优的管线。
- 长期流式下的稳定性：冻结迁移 (如 GPSD) 在 90 天线上会衰减，KGD 持续有效。若自己业务面临分布漂移，可借鉴 decoupled owner 思路，避免共享参数导致刷新与任务冲突。