OpenAI embeddings 怎样选择维度缩减参数

我第一次把 OpenAI embeddings 接进向量库时，直觉是保留更长的向量：维度越大，应该越不容易丢信息。真正遇到存储预算、索引字段上限和检索延迟后，才发现 dimensions 更像一个工程取舍开关。我的做法是先选模型，再用 2～3 个候选维度做同一批数据的检索评估，而不是凭感觉直接把维度砍半。

官方地址：https://developers.openai.com/api/docs/guides/embeddings

先把 dimensions 当成存储与召回的取舍开关

OpenAI 文档把 embeddings 描述为表示文本相关性的浮点向量。当前 API 参考中，dimensions 是可选数字参数，只有 text-embedding-3-small、text-embedding-3-large 这类 3 代模型支持。它控制返回向量的长度，不是把旧向量库字段自动迁移成新格式。

维度减少后，每条向量的存储和距离计算通常更轻，但效果取决于你的语料、语言比例、切片方式和召回目标。官方示例说明，text-embedding-3-large 可以缩短到 1024 维以适配向量库上限；这只是可行性示例，不代表所有中文知识库都应该固定为 1024。

用模型上限和向量库容量确定候选值

我会先列出硬约束，再列候选值。比如向量库字段最多支持 1024 维，候选可以是 1024、768、512；如果没有这个限制，则把模型默认值也放进对照组。不要只看单条向量的大小，还要把副本数、索引结构、批量导入内存和查询延迟算进去。

调用时直接在生成阶段指定维度，查询和入库走同一个配置。例如下面的 Python 片段只展示参数关系；生产代码还应把模型名和维度写进索引元数据。

from openai import OpenAI

client = OpenAI()

response = client.embeddings.create(
    model="text-embedding-3-small",
    input=["如何配置文档检索", "向量字段容量有限"],
    dimensions=768,  # 文档向量与查询向量必须使用同一个维度
    encoding_format="float",
)

vectors = [item.embedding for item in response.data]
assert all(len(vector) == 768 for vector in vectors)  # 入库前先挡住维度混用
print(len(vectors), len(vectors[0]))  # 这里仅输出数量和维度，不代表线上实测结果

把候选维度放进同一套检索评估

真正决定参数的是测试集。固定同一批文档、同一批查询、同一切片和同一相似度算法，只改变维度；至少记录 Recall@K、MRR、P95 延迟、索引大小和导入耗时。若 512 维只节省少量空间，却让关键问题掉出 Top-K，就不值得为了一个漂亮数字牺牲召回。

选定后要一次性重算文档向量和查询向量，并给索引增加 embedding_model、embedding_dimensions 等元数据。上线时先写入新索引，抽样比较新旧结果，再切换读流量；旧索引不要立刻删除，给回滚留出窗口。手工截断已有向量属于特殊场景，官方指南提醒截断后需要重新做归一化，通常不如在 API 生成时直接传 dimensions 清晰。

常见问题：维度缩减时最容易漏掉什么

dimensions 能用于 text-embedding-ada-002 吗？

不能按当前 API 参考中的支持范围使用。要缩短向量，优先选择支持该参数的 text-embedding-3 模型，并重新生成向量。

文档用 768 维、查询用默认 1536 维可以吗？

不可以。两者必须在模型和维度上兼容；否则轻则入库或查询直接报维度错误，重则在中间层被错误转换，得到不可比较的结果。

有没有一个适合所有项目的最佳维度？

没有。先用向量库上限筛掉不可用值，再用自己的检索标注集比较质量、延迟和成本，最后选择满足业务指标的最小维度。

我的经验是：把默认维度当作基准线，把 512、768、1024 等值当作候选，不把官方 benchmark 直接当成自己的结论。只要保留测试集、索引版本和回滚入口，维度选择就能从“猜参数”变成一次可复查的工程决策。