当前位置:首页 > 文章列表 > 科技周边 > 人工智能 > Hugging Face snapshot_download 怎样只下载指定模型文件

Hugging Face snapshot_download 怎样只下载指定模型文件

来源:17golang原创 2026-10-21 01:02:41 0浏览 收藏

Hugging Face 模型仓库常常同时放着配置、词表、多个格式的权重和训练说明。想只拿需要的文件,不要先执行完整的 snapshot_download() 再手动删除,而是用 allow_patterns 先定义允许集合,再用 ignore_patterns 排除例外。这样下载范围、缓存位置和后续复用都更容易解释。

官方地址:https://huggingface.co/

参数文档:https://huggingface.co/docs/huggingface_hub/en/package_reference/file_download

要点速览
  • allow_patterns 是白名单,支持单个通配模式或模式列表。
  • ignore_patterns 在允许范围内继续排除文件,二者可以组合。
  • 默认缓存适合重复复用,local_dir 适合把仓库结构落到指定目录。

一、先把模型仓库拆成可筛选的文件集合

先按任务列出真正需要的文件。准备配置和词表时,可以只允许 JSON、文本和 tokenizer 相关文件;准备推理权重时,再明确允许 *.safetensors 或其他目标格式。不要把“以后可能用到”也放进白名单,否则筛选仍然会退化成整仓库下载。

Hugging Face snapshot_download 使用 allow_patterns 与 ignore_patterns 筛选模型文件的静态结构图
图1:说明图,展示允许模式、排除模式与最终文件集合之间的关系。

二、用 allow_patterns 只放行需要的文件

allow_patterns 接受一个字符串或字符串列表,匹配采用标准通配符。下面的例子保留配置、词表和 safetensors 权重,并固定到明确的仓库修订版本;返回值是本地快照目录,不是单个文件。

from huggingface_hub import snapshot_download

# 只下载推理阶段需要的配置、词表和 safetensors 权重
patterns = ["config.json", "generation_config.json", "tokenizer*.json", "*.safetensors"]

snapshot_path = snapshot_download(
    repo_id="openai-community/gpt2",
    # 固定 revision,避免同一脚本在不同时间拿到不同快照
    revision="main",
    allow_patterns=patterns,
)

# 返回的是快照目录,后续代码应从这个目录读取文件
print(snapshot_path)

模式写得越具体,结果越可控。像 *.json 会覆盖整个仓库的 JSON 文件;如果只需要根目录配置,应优先写出文件名。权重文件名包含子目录时,模式也应体现相对路径意图。

三、用 ignore_patterns 排除不需要的格式

当仓库中有多种权重格式时,可以先允许一个大类,再排除例外。例如允许全部 JSON 和 Markdown,同时排除一个不需要的词表;也可以允许权重后排除 *.bin。组合规则的重点是:文件必须先被允许,且不能命中排除模式。

from huggingface_hub import snapshot_download

# 允许说明和配置文件,但不下载体积较大的旧格式权重
snapshot_path = snapshot_download(
    repo_id="lysandre/arxiv-nlp",
    allow_patterns=["*.md", "*.json", "*.safetensors"],
    # 排除不需要的词表与 PyTorch 二进制权重
    ignore_patterns=["vocab.json", "*.bin"],
)

# 这里的路径只用于后续读取,不能把它当作远端仓库 URL
print(snapshot_path)

如果一个文件同时满足允许和排除条件,排除规则优先于最终下载结果。过滤器只决定文件集合,不会替你判断某个模型是否能被某个推理框架加载;模型结构、依赖和权重格式仍要单独确认。

四、按复用方式选择缓存目录或 local_dir

默认方式使用 Hugging Face 缓存,适合多个项目复用同一份快照;需要把文件交给部署脚本或打包流程时,可以指定 cache_dir。如果希望文件直接落在一个项目目录,则使用 local_dir,它会保留仓库的相对目录结构,并在目录下创建 .cache/huggingface/ 元数据目录。

Hugging Face snapshot_download 默认缓存与 local_dir 落盘结构的静态关系图
图2:结构图,展示默认缓存、cache_dir、local_dir 与返回快照路径的关系。
需求建议参数注意点
多个任务重复使用默认缓存或 cache_dir记录缓存根目录,避免不同运行环境各自下载。
交给部署目录local_dir保留仓库结构,同时会生成本地元数据目录。
只检查将下载什么dry_run=True先看文件清单与大小,再决定是否正式下载。

落地后至少检查三件事:返回路径是否是预期目录、目标文件是否匹配白名单、是否误把缓存元数据当成模型文件。若要稳定复现,建议把 repo_id、revision、过滤模式和目录参数一起写进配置,而不是只保存一个临时路径。

相关问题

allow_patterns 可以只写一个文件名吗?

可以,参数接受单个字符串;需要多个文件类型或目录模式时再使用列表。

local_dir 和 cache_dir 能同时使用吗?

应先按目标选择其一。使用 local_dir 时,文件直接按仓库结构写入该目录,官方文档说明此时不会使用 cache_dir。

筛选后仍然下载了不想要的文件怎么办?

先检查通配模式是否过宽,再用 ignore_patterns 排除例外,并用 dry_run=True 观察最终清单。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
Hugging Face Text Generation Inference 怎样限制单次输入长度Hugging Face Text Generation Inference 怎样限制单次输入长度
上一篇
Hugging Face Text Generation Inference 怎样限制单次输入长度
Hugging Face 路由 API 怎样兼容 OpenAI Chat Completions
下一篇
Hugging Face 路由 API 怎样兼容 OpenAI Chat Completions
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    571次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    615次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    646次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    603次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    420次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议 和 隐私政策
返回登录
  • 重置密码