当前位置:首页 > 文章列表 > 文章 > python教程 > Python zipfile.ZipFile 怎样用 ZIP64 写入超大文件

Python zipfile.ZipFile 怎样用 ZIP64 写入超大文件

来源:17golang原创 2026-10-24 22:21:01 0浏览 收藏

用 Python 生成可能超过传统 ZIP 限制的压缩包时,通常不需要手工拼接 ZIP64 字段。zipfile.ZipFile 的 allowZip64 默认就是 True,它允许归档在需要时使用 ZIP64 扩展。真正容易写错的是:磁盘文件大小已经确定时用 write(),数据大小尚未确定时则要在流式写入中使用 force_zip64=True。

官方地址:https://docs.python.org/3.14/library/zipfile.html

结论:已知大小的文件保持 allowZip64=True 后直接调用 ZipFile.write();未知大小但可能超过 2 GiB 的流,使用 ZipFile.open(name, mode="w", force_zip64=True),并确保最后关闭归档。

先分清 allowZip64 和 force_zip64

ZIP 的传统字段对单个文件大小、归档总大小和条目数量都有较小的表示范围。ZIP64 是扩展格式,允许这些值突破传统字段的限制。Python 里的两个参数分别位于不同层面:

  • allowZip64 是 ZipFile 的归档级开关,默认值为 True。设为 False 时,只要最终归档需要 ZIP64,写入就会抛出 LargeZipFile。
  • force_zip64 是 ZipFile.open() 写入模式的成员级选项。它适合文件大小暂时未知、但之后可能超过 2 GiB 的流式成员,让写入头部预留 ZIP64 所需格式。

因此,force_zip64=True 不能替代 allowZip64=True。前者解决“这个成员写入前不知道多大”,后者解决“整个归档是否允许使用 ZIP64”。

ZipFile、allowZip64、ZipInfo、ZIP64扩展和LargeZipFile之间的静态关系结构图
图1:归档边界结构图,说明 allowZip64、ZIP64 扩展与 LargeZipFile 的关系;这是静态说明图,不是运行截图。

磁盘文件大小已知时直接使用 write

如果输入是磁盘上的普通文件,zipfile 可以在写入前取得文件大小。此时不需要为了 ZIP64 自己计算头部字段,保持默认配置即可。代码中的注释只说明关键边界和资源关闭点:

from pathlib import Path
from zipfile import ZipFile, ZIP_DEFLATED

source = Path("large-export.bin")
archive = Path("backup.zip")

# 默认 allowZip64=True,允许归档在超过传统 ZIP 范围时使用 ZIP64。
with ZipFile(archive, "w", compression=ZIP_DEFLATED, allowZip64=True) as zf:
    # write() 面向磁盘文件,zipfile 可以先读取文件元数据再写入成员。
    zf.write(source, arcname=source.name)

# with 退出时会关闭归档并写入目录;不要在目录尚未写完时读取 ZIP。

这里的 arcname 只控制压缩包内的成员名,不会把本机绝对路径暴露到归档中。ZIP_DEFLATED 需要当前 Python 环境提供 zlib;若只关注体积边界而不需要压缩,也可以使用默认的 ZIP_STORED。

数据大小未知时使用 force_zip64

流式导出、网络响应转存或生成器输出通常没有一个可以提前交给 ZipFile 的最终大小。此时使用 ZipFile.open() 的写入句柄,并把 force_zip64 设为 True:

from zipfile import ZipFile, ZIP_DEFLATED

archive = "stream-export.zip"

with ZipFile(archive, "w", compression=ZIP_DEFLATED, allowZip64=True) as zf:
    # force_zip64 为未知长度但可能很大的成员预留 ZIP64 写入格式。
    with zf.open("records.ndjson", mode="w", force_zip64=True) as member:
        for index in range(100_000):
            # 每次只写一条记录,避免把整个导出结果堆进内存。
            line = f'{{"id": {index}, "state": "ready"}}\n'.encode("utf-8")
            member.write(line)

# 两层 with 都退出后,成员数据和归档目录才完整落盘。

如果能够可靠地预先知道成员大小,也可以构造 ZipInfo 并设置 file_size,但对于边生成边写入的场景,force_zip64=True 更直接。它不会替你限制内存、磁盘或输入流长度;生产代码仍应在外层设置配额和取消策略。

源文件、ZipFile.write、ZipFile.open、force_zip64、ZIP64扩展和ZipFile.close的静态调用关系图
图2:成员写入关系结构图,比较已知大小的 write 与未知大小的 open 写入;这是静态说明图,不是运行截图。

为什么仍然会收到 LargeZipFile

遇到 LargeZipFile 时,可以按下面的边界判断,而不是只把 force_zip64 加到所有调用上:

  1. 归档显式关闭了 ZIP64:检查创建 ZipFile 时是否传入了 allowZip64=False。需要大归档时应删除这个限制或改为 True。
  2. 流式成员没有预留格式:如果用 zf.open(name, "w") 写入未知大小数据,而且成员可能超过传统范围,补上 force_zip64=True。
  3. 关闭动作没有执行:ZIP 的中央目录在归档关闭时写入。异常路径中如果没有进入 with 的退出逻辑,得到的文件可能不完整,后续读取会表现为坏归档,而不是正常的 ZIP64 结果。
  4. 读取端过旧:写入成功不等于所有下游工具都支持 ZIP64。需要把归档交给旧系统时,应先确认对方支持 ZIP64,不能为了兼容而盲目关闭扩展。

另外,allowZip64 只控制 ZIP64 格式是否允许,并不代表程序可以无限写入。超大文件仍可能受到磁盘、进程权限、压缩库和业务配额限制。

按输入类型选择写法

输入情况推荐接口关键参数注意点
磁盘文件,大小已知ZipFile.write()allowZip64=True用 arcname 控制归档内名称
流式数据,最终大小未知ZipFile.open(..., mode="w")force_zip64=True仍需归档级 allowZip64=True
必须兼容不支持 ZIP64 的旧工具限制输入规模或升级工具谨慎考虑 allowZip64=False超过传统范围时应接受失败,而不是截断

最稳妥的判断顺序是:先确认下游是否支持 ZIP64,再看成员大小是否已知,最后选择 write() 或流式 open()。不要仅因为文件名带有“大文件”就把所有场景改成同一种调用。

常见问题

allowZip64=True 会把小文件强制写成 ZIP64 吗?

不会。它表示需要时允许使用 ZIP64,不等于每个归档都必须使用扩展格式。小文件仍可以保持普通 ZIP 表示。

force_zip64=True 应该和 ZipFile.write() 一起传吗?

不应该。它是 ZipFile.open() 写入句柄的参数;对磁盘文件直接使用 write() 时,让 zipfile 根据已知文件信息处理即可。

为什么压缩包关闭后才出现异常?

目录和最终大小信息要在关闭阶段写入,很多边界错误会因此延迟到 close() 或 with 退出时暴露。把关闭动作放进上下文管理器,才能让异常在写入流程中被调用方捕获。

记住一句话:allowZip64 决定归档能不能使用 ZIP64,force_zip64 解决未知长度成员如何安全开始写入;两者配合,才能覆盖磁盘大文件和流式大成员这两类场景。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
Python argparse 怎样让子命令共享父级选项Python argparse 怎样让子命令共享父级选项
上一篇
Python argparse 怎样让子命令共享父级选项
Python logging 怎样为异常记录 traceback 但避免重复输出
下一篇
Python logging 怎样为异常记录 traceback 但避免重复输出
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    667次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    684次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    731次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    699次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    534次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议 和 隐私政策
返回登录
  • 重置密码