Spectrally Deconfounded Gradient Boosting
频谱解混淆梯度提升方法
🧭 因果推断中隐混淆鲁棒预测方法
通过频谱损失与早停相结合,在梯度提升中实现非线性隐藏混淆校正
📌 工作参考价值(4 点)
- 推荐系统中常存在未观测的混淆因素(如季节性营销活动同时影响用户点击和曝光),梯度提升模型易学到虚假关联。可直接将频谱损失嵌入 GBDT 训练,配合早停策略,在不增加推理成本的前提下提升分布外稳健性。
- 光谱收缩(shrinking high-variance directions)相当于将协变量矩阵的主成分中可能携带混淆信息的方向进行弱化,类似在特征空间中做软性掩码,可作为推荐模型特征预筛选的参考思路。
- 方法中混合模型解释给出的经验贝叶斯调参过程,可用于自动选择频谱损失中的超参数,避免手动搜索,对大规模工业排序模型的自动调优有借鉴意义。
- 对广义线性似然和非线性混淆的扩展(Laplace 近似、核随机效应)表明该框架可适配分类、回归等多种目标,可尝试在点击率预估模型的 boosting 解决方案中应用。