On the Practice of Scaling Search Conversion Rate Prediction
电商搜索转化率预测模型的规模化实践
🧭 搜索转化率预测 · 模型缩放与推理优化 ★ 深度解读
Coupang
系统研究搜索CVR模型在骨干、嵌入、数据三个维度的独立可加和缩放规律，并实现线上 +2.6% 转化提升
📌 工作参考价值（5 点）
- 优先选用 MaskNet 配合交叉宽度缩放：相比 DCNv2 和序列模型，MaskNet 在相同 FLOPs 下具有更高的特征交叉效率，且内存占用更友好，适合在搜索 CVR 这类强调显式高阶交互的任务中构建 Pareto-optimal 骨干。
- 独立缩放实验可加速迭代：骨干、嵌入维度和训练数据量对离线 mAP 的提升效应接近线性可加，因此可以分别在子数据集上独立调参（如先在小数据上做架构搜索），再将组合方案直接迁移到全量数据训练，大幅降低探索成本。
- 数据缩放遵循对数线性，新特征不必全量回填：训练时长增加带来的收益递减明显，且近期 300 天行为序列就足够支撑个性化嵌入效果，历史特征缺失用 “unseen” 占位不会明显损伤指标，从而可以只对高价值特征做近期回填。
- 推理优化让大模型延迟持平：采用 CPU 特征预处理与 GPU 骨干推理分离、客户端预分组 + 服务端动态批处理的混合方案，可在 8 倍推理 FLOPs 下将 P99 延迟从 82ms 降至 32ms，峰值吞吐提升 4.4 倍，避免因延迟约束放弃大模型。
- 热启动训练策略显著缩短迭代周期：利用固定维度隐层作为输入投影，使得特征增减时只需重新初始化输入映射层，其余参数全部 warm-start，可将训练时间从冷启动的 +264% 压缩到仅 +36%，适合高频模型更新。