RouteRec: Behavior-Guided Sparse Routing for Sequential Recommendation
行为引导稀疏路由的序列推荐
🧭 行为引导的MoE序列推荐 ★ 深度解读
Korea Advanced Institute of Science and Technology · Seoul National University
用会话行为线索(节奏/主题/记忆/流行度)引导MoE稀疏路由,让不同行为模式的会话走不同计算路径
📌 工作参考价值(4 点)
- 电商/广告序列推荐中,可以用日志侧特征构造行为线索作为MoE路由信号:从timestamp算interaction tempo,从类目标签算focus/switch rate,从item id算repeat/carryover,从训练集频次算popularity tendency;这些信号在预测前可算,且比纯hidden state更能反映会话行为差异。
- 分层稀疏路由值得借鉴:先由行为线索选 top-k 专家组(如tempo/focus/memory/popularity各组),再在组内结合当前hidden state选专家;组选择保持行为语义,组内选择保留位置级适应。
- 训练时不要用load balancing,改用route consistency + z-loss:前者让相似行为session的路由分布接近,后者压制路由logit过大;论文显示load balancing会伤害行为依赖分配。
- 多尺度路由(macro/mid/micro)对电商session有效:跨历史、当前会话、最近局部窗口分别聚合线索,macro/mid共享、micro随位置重算;若缺少类目或时间特征,可退化为sequence-only线索,仍能保持竞争力。