When Does Low-Bit Quantization Preserve the Decisions of Vector Search?
低比特量化何时能保持向量搜索的决策？
🧭 向量检索 · 量化决策保真
Astrmira Tech.
提出基于比较翻转的量化向量搜索分析框架，精确边际预测翻转率显著优于全局秩相关。
📌 工作参考价值（4 点）
- 评估量化方案别再看平均失真或全局秩相关，直接监控 exact margin 分布和比较翻转率，特别是在大规模 ANN 召回中，这更能预测线上相关性丢失。
- 上线低比特索引前，用 held-out block certificate 对冻结量化规则进行选择性失败风险评估，避免特定 query 或 segment 上召回崩塌。
- 对 Vamana / HNSW 等图索引，用耦合定理诊断量化引入的边分叉，定位对量化敏感的具体剪枝步骤，针对性加保护或回退高精度。
- 如果嵌入具有对齐双线性结构，可考虑确定性幅度位等几何设计，在相同码率下提升比较保真；注意残差间共享 query 导致的强相关，评估时采用协方差感知指标而非独立假设。