Leveraging Extragradient for Effective Sharpness-Aware Minimization in Deep Learning
利用外推梯度增强锐度感知最小化训练
🧭 训练优化 · 锐度感知最小化改进
将外推梯度引入SAM形成EISAM，两步更新提升泛化且降低超参敏感度
📌 工作参考价值（4 点）
- EISAM 可替换现有 SGD/Adam 训练推荐模型，尤其在数据稀疏或长尾场景下，平坦极小值带来的泛化提升可能直接改善冷启动物品的 AUC 和线上指标。
- 对扰动半径鲁棒的特性意味着超参调优成本更低，适合大规模工业模型快速迭代；可在召回、粗排等不同阶段复用同一组超参。
- 两步更新（预测步探索 loss 地形 + 扰动步微调）提供了一种可工程化的模式：在现有框架中可按 batch 交替执行，额外计算开销主要通过梯度累积补偿，易于分布式实现。
- 当业务模型出现明显过拟合（训练、线上指标背离）时，优先尝试 EISAM，因其不依赖特定架构，可直接融入 CTR 预估、多任务学习等现有训练流程。