Hugging Face snapshot_download 怎样只下载指定模型文件
来源:17golang原创
时间:2026-10-21 01:02:41 243浏览 收藏
Hugging Face 模型仓库常常同时放着配置、词表、多个格式的权重和训练说明。想只拿需要的文件,不要先执行完整的 snapshot_download() 再手动删除,而是用 allow_patterns 先定义允许集合,再用 ignore_patterns 排除例外。这样下载范围、缓存位置和后续复用都更容易解释。
官方地址:https://huggingface.co/
参数文档:https://huggingface.co/docs/huggingface_hub/en/package_reference/file_download
allow_patterns是白名单,支持单个通配模式或模式列表。ignore_patterns在允许范围内继续排除文件,二者可以组合。- 默认缓存适合重复复用,
local_dir适合把仓库结构落到指定目录。
一、先把模型仓库拆成可筛选的文件集合
先按任务列出真正需要的文件。准备配置和词表时,可以只允许 JSON、文本和 tokenizer 相关文件;准备推理权重时,再明确允许 *.safetensors 或其他目标格式。不要把“以后可能用到”也放进白名单,否则筛选仍然会退化成整仓库下载。

二、用 allow_patterns 只放行需要的文件
allow_patterns 接受一个字符串或字符串列表,匹配采用标准通配符。下面的例子保留配置、词表和 safetensors 权重,并固定到明确的仓库修订版本;返回值是本地快照目录,不是单个文件。
from huggingface_hub import snapshot_download
# 只下载推理阶段需要的配置、词表和 safetensors 权重
patterns = ["config.json", "generation_config.json", "tokenizer*.json", "*.safetensors"]
snapshot_path = snapshot_download(
repo_id="openai-community/gpt2",
# 固定 revision,避免同一脚本在不同时间拿到不同快照
revision="main",
allow_patterns=patterns,
)
# 返回的是快照目录,后续代码应从这个目录读取文件
print(snapshot_path)
模式写得越具体,结果越可控。像 *.json 会覆盖整个仓库的 JSON 文件;如果只需要根目录配置,应优先写出文件名。权重文件名包含子目录时,模式也应体现相对路径意图。
三、用 ignore_patterns 排除不需要的格式
当仓库中有多种权重格式时,可以先允许一个大类,再排除例外。例如允许全部 JSON 和 Markdown,同时排除一个不需要的词表;也可以允许权重后排除 *.bin。组合规则的重点是:文件必须先被允许,且不能命中排除模式。
from huggingface_hub import snapshot_download
# 允许说明和配置文件,但不下载体积较大的旧格式权重
snapshot_path = snapshot_download(
repo_id="lysandre/arxiv-nlp",
allow_patterns=["*.md", "*.json", "*.safetensors"],
# 排除不需要的词表与 PyTorch 二进制权重
ignore_patterns=["vocab.json", "*.bin"],
)
# 这里的路径只用于后续读取,不能把它当作远端仓库 URL
print(snapshot_path)
如果一个文件同时满足允许和排除条件,排除规则优先于最终下载结果。过滤器只决定文件集合,不会替你判断某个模型是否能被某个推理框架加载;模型结构、依赖和权重格式仍要单独确认。
四、按复用方式选择缓存目录或 local_dir
默认方式使用 Hugging Face 缓存,适合多个项目复用同一份快照;需要把文件交给部署脚本或打包流程时,可以指定 cache_dir。如果希望文件直接落在一个项目目录,则使用 local_dir,它会保留仓库的相对目录结构,并在目录下创建 .cache/huggingface/ 元数据目录。

| 需求 | 建议参数 | 注意点 |
|---|---|---|
| 多个任务重复使用 | 默认缓存或 cache_dir | 记录缓存根目录,避免不同运行环境各自下载。 |
| 交给部署目录 | local_dir | 保留仓库结构,同时会生成本地元数据目录。 |
| 只检查将下载什么 | dry_run=True | 先看文件清单与大小,再决定是否正式下载。 |
落地后至少检查三件事:返回路径是否是预期目录、目标文件是否匹配白名单、是否误把缓存元数据当成模型文件。若要稳定复现,建议把 repo_id、revision、过滤模式和目录参数一起写进配置,而不是只保存一个临时路径。
相关问题
allow_patterns 可以只写一个文件名吗?
可以,参数接受单个字符串;需要多个文件类型或目录模式时再使用列表。
local_dir 和 cache_dir 能同时使用吗?
应先按目标选择其一。使用 local_dir 时,文件直接按仓库结构写入该目录,官方文档说明此时不会使用 cache_dir。
筛选后仍然下载了不想要的文件怎么办?
先检查通配模式是否过宽,再用 ignore_patterns 排除例外,并用 dry_run=True 观察最终清单。
-
234 收藏
-
288 收藏
-
284 收藏
-
455 收藏
-
科技周边 · 人工智能 | 2个月前 | 人工智能 · Hugging Face Transformers generate output_scores compute_transition_scores 长度惩罚 生成概率374 收藏
-
484 收藏
-
381 收藏
-
104 收藏
-
126 收藏
-
105 收藏
-
245 收藏
-
172 收藏
-
科技周边 · 人工智能 | 1小时前 | 人工智能 · 人工智能 Hugging Face Inference Providers OpenAI Chat Completions 路由 API 模型标识 HF_TOKEN442 收藏
-
474 收藏
-
419 收藏
-
400 收藏
-
314 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 485次学习