登录
推荐 文章 Go 技术 课程 下载 专题 AI
首页 >  科技周边 >  人工智能

FAISS 向量索引选择与召回精度的对比方法

来源:17golang原创

时间:2026-11-18 00:28:08 212浏览 收藏

FAISS 向量索引不要先从“哪个最快”开始选,而要先固定同一批数据库向量、查询向量和精确邻居集合,再比较不同索引的 Recall@K、查询延迟与内存。最稳妥的做法是用 IndexFlatL2 或 IndexFlatIP 建立基线,再把 HNSW、IVF、PQ 等候选放进同一套评测脚本;近似索引只有在明确的速度或内存收益足以接受召回损失时才值得替换。

官方资料:https://github.com/facebookresearch/faiss/wiki/Guidelines-to-choose-an-index

先用 Flat 得到“正确答案”,再让每个候选索引回答同一批 query。Recall@K 下降时,要同时记录 efSearch、nprobe、压缩码率和训练样本,否则只比较一次总耗时,很难解释结果。
  • 精确性:Flat 是基线,不能把近似索引的命中结果直接当作 ground truth。
  • 速度:固定 query 顺序、预热次数、批大小和统计分位数,至少关注 p95。
  • 内存:区分原始向量、索引结构、训练状态与运行时临时空间。
  • 可维护性:确认索引是否需要训练、是否支持按 ID 写入、删除或增量更新。

先把“召回精度”定义成可比较的结果

一条 query 的结果不是一个模糊的“相似”,而是按距离排序的邻居 ID 列表。FAISS 的基础搜索会返回距离矩阵和 ID 矩阵,因此评测时应该先用精确索引得到每条 query 的前 K 个 ID,再拿候选索引的前 K 个 ID 做集合比较。

例如业务关心前 10 个候选,可以使用 Recall@10:候选索引返回的 10 个 ID 中,有多少出现在 Flat 返回的 10 个 ID 里。对全部 query 求平均后,再按 query 分布计算 p50、p95 延迟。若业务更关心“正确答案必须排在前几位”,还可以补充 Recall@1、Recall@5,而不是只报一个 Recall@10。

import numpy as np
import faiss

# 计算一批 query 的 Recall@K;这里只比较邻居 ID,不比较距离数值。
def recall_at_k(ground_truth_ids, candidate_ids, k):
    scores = []
    for truth_row, candidate_row in zip(ground_truth_ids, candidate_ids):
        # 用集合交集统计候选结果命中了多少个精确邻居。
        truth = set(int(x) for x in truth_row[:k])
        candidate = set(int(x) for x in candidate_row[:k])
        scores.append(len(truth & candidate) / k)
    return float(np.mean(scores))

# Flat 索引不做近似剪枝,作为同一距离度量下的精确参考。
def build_ground_truth(xb, xq, k):
    index = faiss.IndexFlatL2(xb.shape[1])
    index.add(xb.astype("float32", copy=False))
    distances, ids = index.search(xq.astype("float32", copy=False), k)
    return distances, ids
FAISS 精确基线、候选索引和 Recall@K 指标的静态关系图
图1:说明图展示 Flat 基线、候选索引、查询集合与 Recall@K 的静态关系,不是运行截图。

用 Flat 建立不会漂移的基线

FAISS 官方选型指南把 IndexFlatL2 和 IndexFlatIP 视为能保证精确结果的索引。L2 适合直接比较平方欧氏距离;如果向量已经归一化并且业务采用内积相似度,就应使用 IP,并让基线与候选索引保持同一度量。不要用 L2 的 ground truth 去评价 IP 索引,反过来也一样。

基线数据至少要固定四个部分:数据库向量 xb、查询向量 xq、前 K 的精确 ID,以及生成这些向量时的预处理规则。FAISS 的 Python 示例要求矩阵是行主序的 float32;如果在送入索引前临时改变 dtype、归一化策略或维度,结果就不再是同一比较问题。

这里的 Flat 不是为了在生产环境永远使用,而是为了回答“近似索引漏掉了哪些邻居”。数据规模较小时,Flat 也可能是更简单的实际方案;规模变大后,再用同一份 ground truth 比较候选索引的收益是否值得。

按约束选择 HNSW、IVF 和 PQ 候选

如果内存充足、希望避免训练并且读多写少,HNSW 通常是第一个值得比较的近似候选。它的 M 控制图中每个向量的连接数量,efSearch 控制搜索时的速度与精度取舍;提高它们通常会增加内存或查询代价。官方指南也提醒,HNSW 只支持顺序添加,需要按 ID 管理时要考虑 IDMap 前缀,并且它不支持从索引中删除向量。

如果数据规模更大,需要先分桶再搜索,IVF 会把向量聚类到若干倒排桶,查询时由 nprobe 决定访问多少桶。nprobe 较小通常更快但可能漏召回;较大通常更接近 Flat 但增加计算量。IVF 类索引需要训练,训练样本要能代表线上向量分布,不能只拿一小段排序后的数据草草训练。

当原始向量的内存占用成为主要约束时,PQ 或 OPQ+PQ 可以压缩向量。压缩带来的收益不是“免费加速”:编码精度、训练质量和搜索参数都会影响 Recall@K。一个实用对比顺序是先比较 HNSW 与 IVFFlat,再在内存预算不够时加入 PQ;这样能分辨召回损失究竟来自分桶,还是来自量化。

FAISS 中 Flat、HNSW、IVF 与 PQ 的精确度内存和训练约束静态关系图
图2:结构图把索引类型、关键参数、训练要求和资源约束放在同一张静态对照图中,不代表固定的性能排序。

把候选索引放进同一套评测循环

评测脚本的核心不是一次性跑出一个漂亮数字,而是让每个候选遵守同样的输入和统计规则。建议为每个索引记录:构建时间、是否训练、索引文件大小、查询批大小、p50/p95 延迟、Recall@1/5/10,以及调节过的 efSearch 或 nprobe。数据集切分、向量归一化、距离度量和线程设置都要写入记录。

def evaluate_index(index, xb, xq, truth_ids, k):
    # 先训练需要训练的索引;Flat、HNSW 等已训练索引会直接跳过。
    if not index.is_trained:
        index.train(xb)
    index.add(xb)

    # 预热只用于减少首次分配带来的干扰,不把预热结果混入统计。
    index.search(xq[: min(32, len(xq))], k)
    distances, ids = index.search(xq, k)
    score = recall_at_k(truth_ids, ids, k)
    return {"recall_at_k": score, "rows": len(ids), "k": k}

# 同一份 xb、xq、truth_ids 传给每个候选,避免比较口径漂移。
candidates = {
    "HNSW32": faiss.index_factory(xb.shape[1], "HNSW32", faiss.METRIC_L2),
    "IVF256,Flat": faiss.index_factory(xb.shape[1], "IVF256,Flat", faiss.METRIC_L2),
}
results = {name: evaluate_index(index, xb, xq, truth_ids, 10)
           for name, index in candidates.items()}

这段示例只返回召回统计,真实基准还应使用高精度计时器、固定线程与多轮重复,并把结果写入结构化记录。不要把示例中的字典当作 FAISS 已经在本机跑出的性能结果;它表达的是评测边界和参数位置。

用参数曲线而不是单点数字做判断

单个参数点很容易误导。例如 HNSW 的 efSearch=32 可能在一个数据集上已经足够,在另一个分布上却明显漏召回;IVF 的 nprobe=4 也不能跨数据集直接比较。更可靠的做法是为每种索引列出几档参数,画出 Recall@K 与 p95 延迟的关系,并标出内存预算。

候选主要调节项通常观察到的变化适合先问的问题
Flat无近似搜索参数精确但计算量随数据量增长能否承受全量扫描?
HNSWM、efSearch提高搜索宽度通常换来更高召回和更高延迟内存是否允许图结构?写入是否以追加为主?
IVFFlatnlist、nprobe分桶和探测桶数共同影响召回与速度数据规模和训练样本是否稳定?
IVFPQ / OPQ+PQnprobe、码率、训练参数显著降低存储,但量化误差会进入排序内存节省是否值得召回损失?

如果线上 SLA 是 p95 延迟,不能只拿平均延迟做结论;如果业务只接受前 1 个结果正确,Recall@1 应该是主指标;如果结果会进入二阶段重排,则可以把候选召回的 K 适当放大,再评估下游成本。所有这些判断都依赖同一批 query,而不是索引名称本身。

最后用约束表做索引决策

可以把最终选择压缩成四个问题:是否必须精确、内存是否紧张、数据量是否需要分桶、索引是否频繁更新。必须精确或需要做基线时保留 Flat;内存足够且追加写入为主时优先测试 HNSW;数据规模大、能接受训练并需要控制探测范围时测试 IVF;原始向量存储压力很大时,再评估 OPQ/PQ 的压缩收益。

不要把官方选型建议理解成固定排名。实际数据的维度、分布、距离度量、查询批量、硬件、线程数和更新模式都会改变曲线。发布前至少保留一份 Flat ground truth、每档参数的 Recall@K 与 p95 记录,以及索引训练和重建策略;当数据分布改变时,重新跑同一套对比,而不是沿用旧参数。

常见问题

为什么不能直接比较两个索引的查询耗时?

如果 query、K、批大小、预热、线程或距离度量不同,耗时数字就不在同一口径。还要同时看 Recall@K,否则更快可能只是漏掉了更多邻居。

Flat 索引可以直接当线上方案吗?

数据规模较小、查询量不高或必须精确时可以。数据量和查询压力上升后,再用它作为精确基线,判断近似索引的收益是否覆盖召回损失与运维成本。

提高 nprobe 一定会得到更高召回吗?

在其它条件相同且候选桶覆盖扩大时,通常会更接近 Flat,但不能把它写成跨数据集的绝对保证。应在自己的 query 集上记录曲线,并关注 p95 延迟。

PQ 只影响内存吗?

不只影响内存。量化改变向量表示和距离近似,可能影响邻居排序与 Recall@K;训练样本、码率和重排策略都应该纳入评测。

声明:本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
相关阅读
更多>
最新阅读
更多>
课程推荐
更多>