面向高效近似最近邻搜索的邻近图索引无损压缩
🧭 向量检索 · HNSW 图索引压缩
ISTI-CNR · eBay Inc. · University of Pisa
通过离线图置换制造结构局部性,用 SIMD 整数压缩器快速解压 HNSW 邻接表,压缩率最高 52.7% 且延迟近零损失
📌 工作参考价值(4 点)
- 电商/广告向量召回中 HNSW 内存吃紧时,先定位边存储占比:若向量已量化、图边成为主要开销,可对邻接表做离线节点重编号,再使用 Stream VByte 等 SIMD 整数压缩器,在线边解压边遍历,基本不损失延迟。
- 关键 trick 是离线图置换:人为让邻接表内的 ID 分布更集中,能显著提升整数压缩器的压缩率;业务上可直接对 item/user embedding 的 HNSW 索引做同样的重编号,无需改召回精度。
- 如果已经在用 PQ/Scalar quantization,此方法可叠加使用,进一步降低 HNSW 整体内存,缩小索引集群规模或支持更大规模向量库。
- 工程落地优先选 SIMD 友好的解压器(如 Stream VByte),避免复杂熵编码带来的分支和延迟;上线前需重点验证查询 P99/P999 延迟,并做无损压缩以避免召回质量回退。
通过 LLM 引导剪枝改进最近邻图索引
🧭 LLM 离线精修图索引 · 语义检索 ★ 深度解读
University of Wisconsin–Madison · MIT
提出 LGP,在 DiskANN/HNSW 图索引上离线用 LLM 替换低价值邻居,弥合几何构造与语义评估错配
📌 工作参考价值(4 点)
- 可在现有 HNSW/DiskANN 等图索引上增加离线 LLM 精修环节:对每个节点,用两跳非邻居构造小候选池,先按结构冗余/两跳可达性筛到 M=12~24,再让 LLM 只选 B=2 个语义互补候选替换低价值边;不改查询链路,直接提升低 search width 下的召回与 NDCG。
- 该方法的收益在窄 search width/低距离计算预算下最大,适合召回候选受限、重排器无米下锅的场景;可作为索引侧优化,和 query-time rerank/RGS 等互补。
- 工程上 LLM 调用只发生在离线构图阶段,按节点短list 调用,成本可控;可先对高流量 query 相关节点或重要类目做部分精修(β=0.25/0.5),再逐步放开到全图。
- 语义选择模型越强收益越明显(Qwen3-32B > Qwen3-8B),且对 embedding 模型鲁棒;建议用非推理模式的小 LLM/VLM 控制成本,避免破坏图导航。
图向量搜索的可扩展性:披着对数外衣的幂律
🧭 向量检索 · 图索引扩展性
University of Toronto
实测发现图向量搜索成本在数据规模小于内在维度时呈次线性幂律增长,之后才转入多对数增长,并给出统一理论模型
📌 工作参考价值(4 点)
- 容量规划:若数据规模 N 未达到由内在维度决定的临界点,搜索延迟/算力按 N^c(0<c<1)增长而非多对数;电商/推荐团队做向量库扩容预算时不能假设对数级成本,可用论文模型估计 c 和临界规模。
- 内在维度监控:数据集内在维度随规模增大而升高,导致查询邻域更密集;可在 embedding 上线前/后持续测量 intrinsic dimensionality,预测搜索成本拐点。
- 索引调参:论文提供预测不同 recall target 和索引配置下 power-law 指数的模型,可用来在 M、efSearch、efConstruction 等参数间做 cost-recall 权衡,适合高召回场景(广告召回、相关商品召回)提前规划。
- 评估方法借鉴:做 ANN 基准应跨多个数量级规模测试,而不是只在单点规模测量成本。
基于图Spanner的HNSW精度保证框架
🧭 近似最近邻检索 · 精度保证
University of Toronto · The University of Texas at Arlington · IIT Bombay
通过Certify-then-Rectify框架,动态认证HNSW搜索并利用spanner理论提供最坏情况正确性保证
📌 工作参考价值(4 点)
- 可在线部署轻量级认证器评估HNSW召回质量,避免因贪婪搜索遗漏关键近邻,适合高召回率场景(如广告匹配)。
- 利用极值理论估计spanner拉伸因子提供距离上界,无需重建索引即可动态平衡效率与准确性。
- 过滤搜索扩展可直接应用于带属性约束的商品向量检索(如分类、价格筛选),提升复杂查询的可靠性。
- 分层纠正策略允许在绝大多数查询中保持HNSW速度,仅在必要时触发精确搜索,适合大规模在线服务。
RACORN-1:低选择性过滤向量搜索的自适应保召回加速方法
🧭 过滤向量搜索 · 图索引保连通
Naver Corporation
通过自适应搜索回退和精确回退修复ACORN-1在极低选择率下的召回崩溃,延迟降低9-26倍
📌 工作参考价值(4 点)
- 可复用的自适应桥接机制:在带过滤条件的向量召回中(如电商按类目、价格区间过滤),当过滤后节点稀疏导致图断开时,可借鉴ASF思路:将未通过过滤的节点转为“临时桥梁”,通过步长采样(strided sampling)增加空间多样性,既保连通又控延迟。
- 工程实现中的召回-延迟折衷:在推荐/搜索的HNSW索引上做低选择率过滤时,可直接应用RACORN-1的本地扩展,无需重建索引;在极低选择率(<0.1%)场景下结合AEF动态切换到线性扫描,实现召回1.0且20-75倍加速。
- 对抗过滤-查询负相关:电商中常见“冷门品牌+语义相似”查询会导致图索引严重断开;RACORN-1在这种负相关评测中将召回从0.08-0.41拉升至0.80-0.98,同时延迟比HNSW低5-9倍,为长尾检索提供了鲁棒方案。
- 适用于向量库自研/选型:业务自研向量检索引擎或评估开源方案时,可参考其分阶段跌退策略(ASF先尝试桥接,再AEF保证召回),便于在召回率和延迟间设置安全边界。
当全局门控即足够:各向异性向量检索中的入时枢纽控制
🧭 RAG 安全 · 入时枢纽门控
在文档入库时用全局哨兵查询门控检测并隔离枢纽向量,无需周期性全库重扫,实现高召回低误报。
📌 工作参考价值(4 点)
- 向量召回系统中引入轻量级入库门控:用一组固定哨兵查询计算新物品的 kNN 倾向,若频繁出现则视作枢纽并隔离/降权,避免少数物品主导召回分布,提升多样性与防攻击能力。
- 无需周期性全库重扫:门控阈值可增量维护,插入成本与索引大小无关,适合频繁更新的电商商品库或内容池,只在摄入时增加约 3% 延迟。
- 简单全局门控足够:实验表明 per-topic 门控在各向异性空间中无统计显著增益,因此用单一全局阈值即可达到强防御效果,工程实现成本低。
- 结合业务规则处理自然热品:热门商品可能是天然枢纽(如爆款),可额外利用 provenance(如商品来源、类目)做白名单或分级处置,避免误伤正常高热物品。
面向分块文档RAG的自条件位置HNSW及其工业证据质量审计
🧭 RAG · 重叠感知检索 · 位置编码 ★ 深度解读
eBay Inc.
通过向分块嵌入追加位置编码并设计自条件双阶段查询,在不改动HNSW图结构的前提下缓解重叠区块检索冗余,并引入大规模人工审计评估证据质量
📌 工作参考价值(4 点)
- 位置编码轻量注入HNSW索引:在现有HNSW索引基础上仅扩展2维(半周期sin/cos位置码),不需要改图构建或遍历逻辑,适合在已有向量检索系统上低成本实施。
- 双阶段自条件查询降低冗余:第一轮纯语义检索估计 query 在文档中的大致位置,第二轮用估计的位置先验修正检索方向;此思路也可用于电商客服证据生成等场景,避免同一对话片段反复占据上下文窗口。
- 可审计的最小索引间隔选择器:引入参数 g 保证选入上下文的 chunk 索引差不小于 g,用简单规则通杀相邻重叠,工程实现十分轻量,且 g 值可解释、可审计。
- 人工审计框架直接参考:770条文本证据评分 + 70个OCR用例的多评估者校准方式(加权 Cohen’s κ、Fleiss’ κ)可直接复制到电商问答、商品描述生成的质量评估流程。