TWICE: Two-Clock, Two-Window Learning for Long-Horizon Conversion Prediction in Online Advertising
TWICE：双时钟双窗口学习用于在线广告长周期转化预测
🧭 延时反馈下的双时钟增量学习
Kuaishou Technology
将点击时钟与转化时钟解耦，用历史 pCVR 质量加权延迟分布学习长周期 CVR
📌 工作参考价值
- 双流增量训练解耦：将及时但标签不完整的点击时钟流和完整但延迟的转化时钟流分开，用停止梯度隔离参数，避免短期标签扭曲延迟分布，可直接迁移到电商长周期购买/退单预测等延时反馈场景。
- pCVR质量加权纠偏：在转化到达条件下，用历史停止的 pCVR 质量（标量）代替原始点击特征构建风险集，通过时间卷积纠正不同历史流量队列的混合偏差，只需维护一个标量索引，无需求存原始特征。
- 分组延迟上下文设计：用紧凑的分组上下文（如广告主行业、设备等低基数特征）代替全特征做延迟建模，避免高基数导致风险集碎片化和梯度消失，同时兼顾延迟异质性和统计鲁棒性，可借鉴到用户行为延迟分布建模。
- 轻量级服务：在线推理时仅需主模型 + 轻量延迟头预测任意窗口 CVR，不做历史查找或卷积，保持 36ms 延迟不变；训练额外成本只有标量索引维护，工程落地友好。
动机：长周期（如 30 天）转化预测面临延时反馈挑战：短期观察窗口释放的点击标签不完整，长期转化窗口的标签又需等待很久，且转化时钟上到达的延迟样本来自不同历史流量队列，队列的转化倾向和体量差异造成到达偏差，简单使用原始延迟分布会受流量动态干扰。
方法关键点：
- 双时钟双窗口分解：点击时钟在短观察窗口𝑜释放记录，只更新目标窗口 CVR 头；转化时钟在整个目标窗口𝑣内到达的转化，只更新分组延时 CDF。两者参数严格分离（停止梯度）。
- 延迟学习中的队列纠偏：在每一次转化到达时刻，用该转化所匹配的历史点击的停止 pCVR 质量做时间卷积，计算到达条件概率，再最小化负对数似然，从而消除历史流量差异造成的偏差。pCVR 质量被冻结为标量，无需回放历史点击特征。
- 分组延迟上下文：延时模型只使用紧凑的低基数上下文（如广告主行业、设备类型），避免使用全特征导致风险集碎片化、梯度消失，同时保证足够的延迟异质性表达。
- 任意窗口单调预测：学习到的延迟 CDF 通过前缀和给出单调估计，可直接预测从短窗到长窗的任意水平 CVR，服务时无需历史状态或卷积。
关键结果：
- 在 Criteo 和快手工业广告数据集上，TWICE 相对于最强基线 MISS 在 AUC 上分别提升 0.0018 和 0.0025（Criteo 上相对可恢复增益从 57.2% 提升至 81.8%）。
- 在线 A/B 测试中，期望收入、收入和转化分别提升 2.486%、1.858% 和 2.061%（𝑝 < 0.01），同时预测耗时保持 36ms 不变，已全量部署。
- 消融实验证明时间卷积、pCVR 权重、梯度隔离均显著贡献，延迟上下文只需 10 个字段即可接近饱和性能。