Embedding 模型更换后怎样处理向量空间不兼容

Embedding 模型更换后，通常应为新模型建立独立向量索引，使用保留的源文本重新计算文档向量，并让查询端采用与目标索引匹配的编码配置。迁移期间旧索引继续服务，新索引接收回填和增量变更；准备好后成套切换查询模型、提示词、归一化方式与索引路由，而不是只替换一个模型名称。

维度相同不代表语义空间相同。没有明确的兼容或对齐依据，就不要用新模型查询向量搜索旧模型文档向量，也不要把不同模型的原始相似度当成同一把尺子排序。

以下采用独立索引的工程设计，配置名和版本号均为教学值，不代表某个模型的真实维度或服务地址。Qdrant 官方迁移教程介绍了双集合和命名向量两种方案；本文只用其支持的隔离与重算原则，不复制其接口示例，也不承诺迁移天然无停机。

Qdrant 官方文档地址：https://qdrant.tech/documentation/tutorials-operations/embedding-model-migration/

先把模型配置和索引绑定成一份契约

把每套检索空间看成一个独立产品配置。除模型标识外，还要记录不可变模型修订、分词与截断设置、文档和查询的输入模板、池化方式、是否归一化、输出维度以及索引距离函数。微调权重、预处理或提示词变化也可能改变输出，不能只比较模型显示名称。

例如，两个编码器都输出同样长度的数组，数据库可能接受写入，但数组中相同位置未必代表相同语义。这种问题常表现为请求成功、召回内容却偏离问题。补零、截断或重新归一化只能改变数组形状或尺度，不能普遍把一个模型的语义坐标变成另一个模型的坐标。

Sentence Transformers 文档说明，部分模型需要特定输入提示，长文本也受模型最大输入长度约束。因此迁移清单不能只有“模型 A 改成模型 B”。使用 query/document 不对称编码的模型时，两侧模板可以不同，但必须是该模型定义的匹配组合。

Sentence Transformers 官方地址：https://www.sbert.net/

下面用标准库写一个不联网的配置示例。demo-space-a 和 demo-space-b 是应用内部空间标识；实际生产系统应把它们绑定到完整、不可变的编码配方。

from dataclasses import dataclass

@dataclass(frozen=True)
class SearchRoute:
    # 模型配方与索引必须作为同一份配置发布
    space_id: str
    encoder_config: str
    index_name: str

ROUTES = {
    "legacy": SearchRoute("demo-space-a", "encoder-recipe-a", "knowledge-a"),
    "candidate": SearchRoute("demo-space-b", "encoder-recipe-b", "knowledge-b"),
}

def resolve_route(name: str) -> SearchRoute:
    # 未知配置拒绝处理，避免静默搜索到另一空间
    if name not in ROUTES:
        raise ValueError("未知检索路由")
    return ROUTES[name]

def ensure_space(query_space: str, route: SearchRoute) -> None:
    # 这是显式标识检查，不会证明向量语义兼容
    if query_space != route.space_id:
        raise ValueError("查询向量与索引空间不匹配")

route = resolve_route("candidate")
ensure_space("demo-space-b", route)
print(route.index_name)

读者运行这段示例时，匹配配置会打印教学索引名；把检查参数改为 demo-space-a，应得到异常。示例未调用模型或数据库，不能据此证明召回质量、实际向量维度或部署配置正确。正式服务还应拒绝缺少空间标识的向量，并根据真实输出核对形状和索引模式。

限制迁移任务的权限和数据范围

建议把源数据读取、新索引写入、线上路由切换分成三种权限。回填工作器只读取被授权的语料并写入候选索引，不持有删除旧索引或修改线上配置的权限。切换由单独的发布角色执行，减少批量任务出错时的影响面。

保留文档身份、切片身份、源修订、正文、引用信息与访问范围。向量是派生数据，不是可靠的原文备份；只有旧向量而没有对应源文本时，不能假定可以逆推出原内容。应从主数据库、文档存储或可信备份恢复输入，再重新编码。

回填读取应有明确的数据边界：固定快照、数据库一致性读或记录过的变更水位，选择取决于源系统能力。跨租户迁移不能为了方便省略租户字段。候选检索仍需执行与线上相同的权限过滤，影子请求也不能把私人问题、完整文档和凭据随意写进日志。

如果新模型由外部服务提供，还应确认组织允许的语料出域范围、请求留存规则与凭据使用方式。这些是部署选择，不应仅凭“替换一个 SDK 参数”默认已有授权。

回填与增量写入必须共享版本规则

建议先定义变更事件，再实现批量回填。每个事件至少带文档或切片标识、源版本、事件类型与目标空间。新文档和更新后的正文分别用两套配方编码，写入各自索引；不能把旧模型的向量复制到新索引，然后只修改 metadata 中的模型名。

更容易漏掉的是删除和权限变更。旧回填读到一份尚未删除的文本，之后删除事件到达新索引，最后回填又把旧文本写回来，就会复活已删除的文档。只有双写 upsert 而不处理这些事件，不能算完整同步。

一种工程设计是在应用侧维护源版本与删除标记，并在落库时原子地执行版本判断：旧版本不得覆盖新版本，删除标记也要阻挡对应的陈旧回填。不能只在 Python 中先读取版本、再无条件写入；两个请求之间仍有竞争窗口。向量数据库若不能提供所需原子条件，就要把排序、去重和版本仲裁放到可靠的写入服务或事务存储中。另一种更简单的选择是在回填窗口暂停相关更新和删除，但必须向业务明确说明限制。

下面的事件只是字段示例，不是完整消费者，不会执行写入：

event = {
    # 稳定切片身份与源版本属于业务契约，不是模型生成的编号
    "chunk_id": "workspace-note:scope",
    "source_revision": 12,
    "kind": "upsert",
    "target_space": "demo-space-b",
    "text": "共享记录的访问范围由所属工作区决定。",
}
# 日志只记录身份和状态，避免默认输出完整业务正文
print(event["chunk_id"], event["source_revision"], event["target_space"])

不要把示例中的整数版本当成所有系统都能直接比较的条件。版本需要在同一文档范围内有确定顺序；若来源只有更新时间或无序修订字符串，就应设计事件序列与仲裁规则。断点还应记录“已经完成写入的事件”，而不是“已经请求生成向量的事件”，否则编码成功、写入失败会被错误跳过。

切换的是整条查询配置，不只是索引名

一次请求进入服务时，先取得同一份路由快照，再用其中的编码配方生成查询向量，并访问对应索引。不要在编码之前读取模型配置、编码之后又读取一次独立索引开关；切换瞬间可能产生新模型配旧索引的组合。

缓存也应包含空间标识、输入文本、相关预处理参数和必要的权限范围。旧空间的查询向量缓存不能直接交给新空间，候选结果缓存也不能仅用相同问题文本覆盖旧结果。灰度可以按稳定用户分组或请求标识分组，但一条请求内部只能采用一致的配置。

建议把候选索引的业务切换条件写成明确记录：应迁移的切片是否齐备，删除与权限变更是否追到指定水位，失败任务是否清空或有批准的例外，同一组授权问题下的召回和响应预算是否满足业务要求。这些是读者系统上线时应安排的检查，不是本文已经完成的测试，也没有统一适合所有业务的数值阈值。

两套系统各自返回分数时，不建议直接把原始余弦或距离值拼在一起排序。需要联合候选可考虑各自召回后按统一重排器或名次融合处理，但融合是额外的检索设计，不会让底层向量空间自动兼容；新空间的分数门槛也应单独确定。

失败后保留旧路由，记录可重试的任务

候选编码服务超时、写入部分失败、配额不足或回填停滞时，默认继续让旧路由提供服务，并暂停扩大候选流量。瞬时失败可进入有上限和退避的重试队列；缺失源文本、配置错误、版本冲突则应分开处理，不能无期限重试相同坏输入。

双写失败应保存目标空间与源版本，补偿重试时重新核对当前源状态。源文本已更新或删除，不能把失败队列中保留的旧正文无条件再写一遍。把完成状态分别记录为“旧空间已提交”“新空间已提交”，能够避免把一侧成功误记成全部完成。

回退同样是恢复整套旧路由，而不是只恢复索引名。旧模型部署、索引、配置和增量同步都还在，才具备可用回退条件。如果切换后立刻停止旧空间更新，经过一段时间再回退可能读到过期知识，因此应事先约定观察窗口与追平方法。

通知可以包含候选空间、失败类型、受影响切片数量、最后提交水位和处理负责人，不应附带密钥或全量语料。旧索引删除应是观察结束后的独立审批动作，而不是回填脚本最后一行默认执行的清理。

用紧凑清单结束迁移

同一个模型换成另一个推理框架，也要重算吗？

不一定。先确认权重、分词、池化、精度与归一化是否保持预期兼容。不能只因为产品名称没变就忽略推理差异；如果没有可依赖的兼容说明和业务证据，应按新配方隔离处理，而不是直接污染旧索引。

能不能只重建索引，不重新生成向量？

若只是改变同一批向量的索引组织方式，可以重建索引；若更换不兼容的编码模型，重建 ANN 结构不会改变旧向量的语义来源，需要重新编码原始输入。

没有预算保存两套索引怎么办？

可评估受控停机、分语料迁移或数据库支持的独立命名向量等方案，但都要明确一致性、容量和可回退代价。不要用混写同一向量字段来省空间。命名向量能力和更新约束取决于数据库版本与集合定义，应按所用产品文档实施。

可复用的迁移原则是：向量空间隔离，原始输入可恢复，变更按版本提交，查询成套切换，旧服务保留到观察结束。它比“把维度改对就上线”多几份记录，却能让失败发生时知道该暂停哪一段、重试哪条数据和恢复哪套服务。

相关官方资料：https://www.sbert.net/examples/sentence_transformer/applications/computing-embeddings/README.html；https://qdrant.tech/documentation/tutorials-operations/embedding-model-migration/。本文的路由、事件与权限划分为工程示例，不是上述产品直接提供的通用原子迁移接口。