Sentence Transformers 批量编码并归一化向量的实现

Sentence Transformers 批量编码的核心写法，是把文本序列交给 SentenceTransformer.encode()，用 batch_size 控制每次处理的数量，再用 normalize_embeddings=True 让每个返回向量长度归一为 1。这样得到的二维矩阵可以直接交给后续相似度计算；关键是固定模型、输入顺序、向量维度和归一化策略。

官方地址：https://www.sbert.net/

先把批量编码的输入和输出定死

输入应是有稳定顺序的字符串列表，输出通常是形状为 [文本数量, 向量维度] 的二维数组。不要把一个批次的大小误认为向量维度：batch_size 只影响推理时一次送入模型多少条文本，模型本身决定每条向量有多少列。

实际项目还要先固定模型名称和设备策略。更换模型通常会改变向量维度、语义空间和相似度分布，因此不能把新旧模型的向量直接混写进同一索引。下面的示意图只表达静态调用关系，不是本机执行截图。

用 encode 批量生成并归一化向量

最小实现可以把批量边界和输出形式都写在一次调用中。示例选择 NumPy 输出，便于后续保存或交给相似度计算；它没有在本文环境中执行，代码中的断言用于表达接口契约。

from sentence_transformers import SentenceTransformer

model = SentenceTransformer("sentence-transformers/all-MiniLM-L6-v2")
texts = [
    "批量编码可以减少重复的模型调用开销",
    "归一化向量适合放进统一的相似度空间",
    "模型更换后要重新建立向量索引",
]

embeddings = model.encode(
    texts,
    batch_size=32,                 # 控制一次送入模型的文本数量，显存紧张时调小
    show_progress_bar=False,      # 服务端批处理通常关闭进度条，避免污染日志
    convert_to_numpy=True,        # 返回二维 NumPy 数组，方便持久化或批量计算
    normalize_embeddings=True,    # 让每一行向量长度归一为 1
)

if embeddings.ndim != 2 or embeddings.shape[0] != len(texts):
    # 输入条数与输出行数不一致时立即停止，避免错位写入索引
    raise ValueError("向量矩阵形状与文本数量不匹配")

print(embeddings.shape)  # 这里只展示形状契约，不代表本文已执行该代码

这里的三个参数职责不同：batch_size 影响内存峰值和吞吐，convert_to_numpy 决定返回容器，normalize_embeddings 决定是否在编码阶段进行长度归一化。不要用改变 batch_size 的方式期待更高的向量维度或不同的语义结果。

为什么归一化要和相似度度量一起设计

如果每个向量长度都为 1，点积和余弦相似度在数值意义上可以保持一致的方向比较；这会让批量检索的评分口径更简单。但“归一化”并不会自动修复模型选择、文本清洗、语言分布或查询/文档任务不匹配的问题。

对称任务可以统一使用 encode。如果是“短查询匹配长文档”的非对称语义搜索，官方示例建议分别考虑 encode_query 和 encode_document，并让两侧进入同一个兼容的向量空间。图中连线表达依赖关系，不表示未经验证的执行顺序。

query_vector = model.encode_query(
    ["怎样降低批量向量编码的显存占用"],
    normalize_embeddings=True,    # 查询侧与文档侧必须采用一致的归一化约定
    convert_to_numpy=True,
)
document_vectors = model.encode_document(
    texts,
    batch_size=32,                 # 文档量较大时独立控制文档批次
    normalize_embeddings=True,
    convert_to_numpy=True,
)

# 只有在维度一致且评分口径明确时，才把两侧送进同一个相似度计算
if query_vector.shape[1] != document_vectors.shape[1]:
    raise ValueError("查询向量和文档向量维度不一致")

批量任务里最容易忽略的四个边界

如果继续使用张量计算，可改用 convert_to_tensor=True，但要明确设备、dtype 和后续算子的要求。批量编码不等于批量写库：写入阶段仍应保留文本主键、模型标识、向量维度、归一化标记和生成时间，便于索引迁移与问题回溯。

相关问题

batch_size 越大，向量质量越好吗？

不一定。它主要影响一次处理多少文本和内存峰值；显存不足时应调小，并按整体吞吐选择合适值。

归一化后还能使用点积吗？

可以，但要确认查询侧和文档侧都遵循同一归一化约定，并把点积的评分解释与索引配置保持一致。

换一个 Sentence Transformers 模型后能复用旧索引吗？

通常不能直接复用。模型变化可能带来维度和语义空间变化，稳妥做法是记录模型标识并重新编码、重建索引。