#SIMD

3 篇

Lossless Compression of Proximity Graph Indexes for Efficient Approximate Nearest Neighbors Search

面向高效近似最近邻搜索的邻近图索引无损压缩

🧭 向量检索 · HNSW 图索引压缩

ISTI-CNR · eBay Inc. · University of Pisa

通过离线图置换制造结构局部性，用 SIMD 整数压缩器快速解压 HNSW 邻接表，压缩率最高 52.7% 且延迟近零损失

📌 工作参考价值（4 点）

电商/广告向量召回中 HNSW 内存吃紧时，先定位边存储占比：若向量已量化、图边成为主要开销，可对邻接表做离线节点重编号，再使用 Stream VByte 等 SIMD 整数压缩器，在线边解压边遍历，基本不损失延迟。
关键 trick 是离线图置换：人为让邻接表内的 ID 分布更集中，能显著提升整数压缩器的压缩率；业务上可直接对 item/user embedding 的 HNSW 索引做同样的重编号，无需改召回精度。
如果已经在用 PQ/Scalar quantization，此方法可叠加使用，进一步降低 HNSW 整体内存，缩小索引集群规模或支持更大规模向量库。
工程落地优先选 SIMD 友好的解压器（如 Stream VByte），避免复杂熵编码带来的分支和延迟；上线前需重点验证查询 P99/P999 延迟，并做无损压缩以避免召回质量回退。

Other | 2026-10-27 | cs.IR | score 7/10

面向学习型稀疏检索的紧凑高效索引

🧭 稀疏检索索引压缩 · SEISMIC ★ 深度解读

ISTI-CNR · University of Pisa · Linkup

用 medoid 替代 block summary，并压缩前向索引组件与值，实现同等精度下最多 5.3× 提速、约 3× 省内存

📌 工作参考价值（4 点）

SEISMIC 类两段式检索可直接把 block summary 换成 medoid：块元数据从几百字节稀疏向量缩到一个 8 字节 doc id，省下的空间可用于更细分块；召回下降通过调低 heap_factor（如 0.9→0.7）补偿，适合内存敏感场景。
前向索引压缩与 selector 解耦，可单独接入 KANNOLO/HNSW 等已有系统：先用递归图二分重排 vocabulary，再对 delta-gap 做 8 整数块 SIMD bit-packing，配合 gather/FMA 融合 decode 与点积，避免 decompress-then-process 的内存墙；在 SPLADE-v3 上可近半减前向索引内存。
值量化优先考虑 per-component 4-bit：SPLADE 类非负权重可近似 v≈w*k 去掉 offset，每条匹配仅保留一次 FMA；k-means centroid 量化在低 bit 下比 scalar 更稳，可用一半 8-bit 内存恢复大部分精度。
若业务有“短 query、长 document”的 inference-free retriever 或 push 选词场景，可用 JUMPDOT：固定 16 entry/块，按 query component 与 block max 跳过不匹配块，获得约 2.1–2.4× 加速，额外内存开销 <2%。

RecSys | 2026-10-08 | cs.IR | score 8/10

面向高维ANN的无指针切空间分层搜索方案

🧭 近似最近邻搜索 · 向量索引与缓存优化

Substratum Labs

用局部切空间降维与无指针Block-SoA布局替代图索引，实现3.6倍提速与近乎零缓存缺失。

📌 工作参考价值（4 点）

电商推荐系统的向量检索引擎可借鉴“聚类-局部 PCA-无指针扫描”策略：将物品 embedding 按簇划分，簇内用少数主成分重建，避免全量高维点积，同时利用 Block-SoA 布局提升 SIMD 效率，减少缓存失败。
Agent 需要瞬时零拷贝分支与快照时，可参考 HNTL 将向量数据组织为只读 Block-SoA，配合分层索引实现轻量级版本切换，无需复制大量指针图。
在高并发场景下，无指针的连续内存布局比图遍历更 CPU 流水线友好，可直接迁移到 Rust/C++ 推理服务中减少停顿，实现每向量 < 5ns 的扫描性能。
当新物品增量加入时，只需更新局部 PCA 基即可保持高召回，适合推荐 embedding 频繁更新的环境。

Other | 2026-06-07 | cs.IR | score 7/10