LENS: A Staged Design for Interaction Granularityin Sequential CTR Prediction
LENS: 序列CTR交互粒度分阶段设计
🧭 潜在查询骨干的目标条件增强与交互粒度设计 ★ 深度解读
Tencent Inc.
提出分阶段框架，通过静态位置先验和目标条件残差在潜在查询骨干中恢复目标特异性，并发现密度驱动的条件源规则
📌 工作参考价值（5 点）
- 分阶段设计交互粒度：将目标-历史交互分解为骨干瓶颈、位置先验、目标条件三层，可在不同骨干间独立优化和迁移，降低架构升级风险。
- QueryPos 作为便携式位置先验：为每个潜在查询添加可学习的位置偏差，尤其适合长序列（≥200），参数极小（<10K），可轻松集成到任意带交叉注意力的骨干中。
- LENS 零初始化目标条件模块：通过 TCQG（控制哪些查询激活）和 TCPB（控制从哪里读取历史），在不改变骨干计算模式的前提下恢复候选特异性；零初始化保证从原始骨干平滑启动，适合在线迭代。
- 密度驱动的条件源规则：当样本/项目 > 50 时仅用目标 Item Embedding，反之拼接序列均值，避免稀疏 Embedding 成为瓶颈，对电商长尾商品建模有直接指导。
- 稀疏曝光日志的序列处理：使用类型化曝光历史（添加 action type embedding）而非过滤正样本，能保留长尾序列覆盖度，大幅提升冷启动物料在序列侧的表示学习。