SQuAT: Spherical Lattice Vector Quantization-Aware Training
SQuAT：球面格型向量量化感知训练
🧭 LLM量化训练 · 球面格型VQ ★ 深度解读
University of Copenhagen · Qualcomm AI Research
提出分离STE的shape-gain向量量化训练，诱导球面优化，实现LLM低比特压缩SOTA
📌 工作参考价值（4 点）
- 在推荐/广告模型的 embedding 表或大权重矩阵压缩中，可借鉴 shape-gain 分解：将权重块拆为方向向量和标量增益，方向用球面码本量化，增益用少量比特（如 chi 分位标量量化），能在低比特下保留更多角度信息。
- 分离 STE 设计：在量化训练时对 shape 和 gain 分别使用 STE，而非对整个量化器用联合 STE，可诱导切空间更新，改善低比特收敛，该技巧可迁移至其他 VQ 或低秩训练场景。
- 若需对大规模模型做 VQ-QAT，采用分块分配、索引缓存、Triton 融合最近邻搜索，可将训练速度提升一个数量级（12.8×），适合电商场景下亿级参数的在线部署。
- E8S 球面码本支持分数比特率（如 1.75 bpw），有助于在存储与精度之间找到更细粒度的 Pareto 最优，对资源受限的端侧推荐模型尤其有用。