TileMaxSim: IO-Aware GPU MaxSim Scoring with Dimension Tiling and Fused Product Quantization
TileMaxSim：IO感知的GPU分块MaxSim打分与融合量化
🧭 多向量检索GPU加速 · IO-aware kernel
MIT-IBM Watson AI Lab
通过维度分块与融合PQ解压缩，将GPU上MaxSim峰值带宽利用率提升至80.2%，打分吞吐提升220倍
📌 工作参考价值（4 点）
- 搜索/推荐系统中若使用ColBERT等多向量模型做召回或排序，可将TileMaxSim作为即插即用的GPU算子，将候选评分延迟从百毫秒降至毫秒级，显著降低端到端延迟。
- 在实现自定义的打分/聚合CUDA kernel时，可借鉴其IO-aware SRAM分块策略：流式加载文档嵌入并在寄存器中累积最大值，避免实例化庞大的相似度矩阵，最大化带宽利用率。
- 融合PQ解压缩与scoring的思路可迁移至在线检索中压缩嵌入的快速还原计算，通过共享内存查找表减少HBM读取量，适用于存储压缩的电商商品或广告嵌入。
- 维度分块技术解决了嵌入维度超过共享内存容量的问题，可推广至高维推荐模型（如d>128）的打分加速，保持恒定吞吐。