FLMNet: Self-Ensemble Distillation from Masks to Seeds for Single-Tower CTR Prediction
FLMNet：从 mask 到 seed 的单塔 CTR 自集成蒸馏
🧭 单塔 CTR 训练 · 自蒸馏闭式正则 ★ 深度解读
National University of Singapore · University of Science and Technology of China
把 masked 自集成目标推到无穷 mask 极限，得到闭式 Jensen gap 正则，单塔一次前向即可训练；再叠加跨 seed 蒸馏
📌 工作参考价值（4 点）
- 工程上若现有 CTR 塔含 dropout 且想做 self-ensemble，不必采样多次：把 gate 改成读未 mask 的 embedding、readout 保持 affine、层间 coordinatewise rescale，就能用高斯-埃尔米特闭式代理训练，成本接近单次前向，可直接迁移到 DCN/DeepFM 类单塔。
- 调参时注意：普通 dropout 对应 κ=1，FinalNet/QNN 式自蒸馏是 κ>1；单独去掉辅助 loss 而不调 dropout rate 会同时降低有效剂量 κ·ρ/(1-ρ)，容易误判增益来源。
- 离线蒸馏：训练同架构不同 seed 的 K 个塔，用 pooled logit 做 teacher，student 只回归 logit（不读 label），可吸收部分集成增益，上线仍是单塔；成本 K+1 次训练，适合广告/电商模型定期刷新。
- 门控自蒸馏中，gate 必须读未 mask 输入，不能读上层的 masked carrier；否则 mean logit≠clean forward pass，闭式失效，实测 Criteo 上 AUC 掉 10.5e-4。