当前位置:首页 > 文章列表 > Golang > Go问答 > Go gzip 解压时如何限制解压炸弹的输出大小

Go gzip 解压时如何限制解压炸弹的输出大小

来源:17golang原创 2026-09-07 18:16:49 0浏览 收藏

Go 里处理 gzip 数据时,限制上传文件大小还不够:攻击者可以提交一个压缩体积很小、解压后远超预期的文件。安全做法是把“压缩输入上限”和“解压输出上限”分开设置,先限制请求体能读入多少字节,再限制 gzip.Reader 能交给业务多少明文。超过解压阈值就立即拒绝,不能把截断结果继续交给 JSON、归档或文本解析器。

最小可靠方案是对解压后的 Reader 使用 io.LimitReader(zr, maxOutput+1),多读一个字节来判断是否超限;只有完整读到 io.EOF 且未超过上限,才把结果交给下游。
要点速览
  • 压缩字节数保护网络和磁盘,解压字节数保护内存、CPU 和下游处理。
  • 读取 maxOutput+1 个解压字节,才能区分“刚好达到上限”和“已经超过上限”。
  • 成功路径要读到 EOF 以触发 gzip 校验;超限、格式错误和校验失败都不能继续处理。

先把压缩输入和解压输出分成两道上限

gzip.NewReader 返回的是解压后的 io.Reader。因此,包在 HTTP 请求体里的大小与解压后产生的明文大小是两个不同指标:前者可能只有几百 KB,后者却可能达到几百 MB。只在网关限制请求体,无法覆盖已经进入应用的解压放大;只在内存缓冲上限制,又可能让应用先读入过大的压缩请求。

Go gzip.Reader 中压缩输入上限、解压输出上限与下游缓冲的边界关系
图1:压缩输入上限与解压输出上限分别保护不同资源边界。

工程上可以给请求体设一个较小的压缩上限,再给业务允许的明文设一个独立上限。压缩体上限应该放在进入 gzip.NewReader 之前;输出上限则必须放在 gzip.Reader 之后。

边界保护对象典型处理
压缩输入网络读取、请求体、临时文件http.MaxBytesReader 或输入层限流
解压输出内存、CPU、解析器、下游写入io.LimitReader(zr, maxOutput+1)
业务对象字段数量、单行长度、嵌套深度解析器自身的字段和结构限制

用多读一个字节识别超出限制

io.LimitReader 到达限制后会返回 EOF。若只读 maxOutput 个字节,业务无法判断数据是“刚好达到上限”还是“后面还有内容”。把窗口设为 maxOutput+1 后,读取结果长度大于 maxOutput 就是明确的超限信号。

Go gzip 解压通过 LimitReader(maxOutput+1) 区分达标与输出超限的静态关系图
图2:多读一个字节即可区分刚好达到上限与已经超过上限。
package gziplimit

import (
    "compress/gzip"
    "errors"
    "fmt"
    "io"
)

var ErrOutputLimit = errors.New("gzip 解压输出超过限制")

func ReadGZIPLimited(src io.Reader, maxOutput int64) ([]byte, error) {
    // 预留一个字节用于识别“超过上限”;避免极端配置发生整数溢出。
    if maxOutput = 1 maxOutput {
        return nil, ErrOutputLimit
    }
    // 未超限时已经读到 EOF,gzip Reader 才有机会校验尾部 checksum。
    return data, nil
}

这个函数拒绝的是解压后的输出,不是压缩包本身。若要限制 HTTP 请求体,还应在调用它之前给原始请求体加输入层限制;如果数据最后要写入文件或消息队列,也要继续限制下游写入,不能因为内存读取安全就默认整个链路安全。

单个 gzip 成员和多成员要分清

Go 的 gzip Reader 默认把连续的 gzip member 当作一个逻辑输入。对上传的单文件格式,如果业务只接受一个 member,可以在创建 Reader 后调用 zr.Multistream(false),并把“是否还有额外数据”作为格式检查的一部分。若业务明确允许拼接成员,则输出上限必须覆盖所有成员的累计解压结果,而不是每个成员分别重置。

还有一个容易被忽略的细节:gzip.Reader.Close 本身不负责验证校验和,完整读到 io.EOF 才能让正常路径完成校验。因此,超限分支可以提前停止并拒绝;未超限分支不能只读一小段就认为成功。读取中出现格式错误、校验和错误或底层 I/O 错误,都应当直接返回失败。

上线前检查哪些资源边界

上线前至少逐项确认:入口是否限制了压缩输入;解压是否使用了独立的输出上限;是否拒绝了超限结果;是否避免用无界的 io.ReadAll(zr);解析器是否还有字段、嵌套和单值限制;超限日志是否只记录大小、请求标识等必要信息,而不保存用户提交的完整压缩内容。

如果明文很大,优先把受限 Reader 流式写入受限目标,而不是先构造完整 []byte。无论采用缓冲还是流式方案,判断超限的原则不变:达到业务上限可以继续收尾,读出第一个额外字节就停止并拒绝。

常见问题

只限制 gzip 文件大小,能防住解压炸弹吗?

不能。文件大小限制只约束压缩输入,必须再约束解压后的输出字节数。

为什么不是直接使用 io.LimitReader(zr, maxOutput)?

这样只能得到最多 maxOutput 个字节,无法知道后面是否还有第 maxOutput+1 个字节;多读一个字节才能明确判定超限。

超限后还需要把 gzip 读完再关闭吗?

通常不需要。超限已经是拒绝结果,可以停止读取并释放 Reader;只有接受的数据才需要读到 EOF 完成校验。

关闭 gzip.Reader 会自动关闭 HTTP 请求体吗?

不会。官方文档说明 Close 不关闭底层 Reader,HTTP 请求体或文件句柄仍应由拥有它的调用方负责关闭。

参考:Go compress/gzip 文档、Go io 文档。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
开源 AI 模型排行榜变化时如何避免只按榜单选模型开源 AI 模型排行榜变化时如何避免只按榜单选模型
上一篇
开源 AI 模型排行榜变化时如何避免只按榜单选模型
PHP Composer 平台依赖不满足时怎么定位真实运行时版本
下一篇
PHP Composer 平台依赖不满足时怎么定位真实运行时版本
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    592次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    630次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    662次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    631次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    446次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议 和 隐私政策
返回登录
  • 重置密码