Divergence Meets Consensus: A Multi-Source Negative Sampling Framework for Sequential Recommendation
发散与共识：面向序列推荐的多源负采样框架
🧭 序列推荐 · 多源负采样协同优化 ★ 深度解读
Renmin University of China · Shandong University · Peking University
提出“教师-伙伴-自我”多源负采样框架，通过发散重排序和共识蒸馏突破自引导硬负采样的三大瓶颈
📌 工作参考价值（4 点）
- 多模型协作打破自反馈循环：使用一个结构不同的peer模型（如主模型用SASRec，peer用Mamba4Rec）提供外部负样本打分，可以注入异质信号，防止模型自引导退化。电商序列推荐可在线上训练时同时维护两个异构模型，互相提供负样本候选。
- 利用预测分歧提升负样本多样性：计算self与peer对同一item的打分差异，选择分歧大的item作为负例，既能保证困难度又带来多样性，相比单纯取预测最高分的方法，更能覆盖物品空间。可直接应用于召回粗排模型的负抽样，提高长尾物品的暴露率。
- 共识蒸馏充分复用计算：将teacher模型在候选池上的打分分布通过KL散度蒸馏到self模型，作为额外训练损失。这一做法在不增加前向推理的前提下，把原本丢弃的候选打分变成了知识迁移信号。在实际推荐系统中，每次负采样时不妨加一个蒸馏loss，几乎零成本提升泛化能力。
- 即插即用的通用框架：方法对MLP、RNN、Transformer、Mamba等主流序列模型均有效，且同时适配BCE和BPR损失。在已有训练流程中引入peer模型和teacher蒸馏头即可，部署成本低，可直接作为负采样模块嵌入现有电商推荐训练管线。