当前位置:首页 > 文章列表 > Golang > Go教程 > Go io.TeeReader 记录上传流量而不改变数据流

Go io.TeeReader 记录上传流量而不改变数据流

来源:17golang原创 2026-09-28 22:52:42 0浏览 收藏

上传文件时,如果直接把请求体读入 []byte 再统计,内存和延迟都会跟着文件大小增长。更稳妥的做法是把原始 io.Reader 交给 io.TeeReader,再把已经读出的字节同步写给一个只计数的 io.Writer。下游仍然从 TeeReader 读取同一份数据,统计器不会改写内容。

要点速览
  • io.TeeReader 没有内部缓冲,读取一段数据后会同步写入旁路 Writer。
  • 统计量代表“实际被读取并成功写入统计器”的字节数,不等同于请求头的 Content-Length。
  • 包装 HTTP 请求体时要保留原始 Close,统计器写入失败也必须当作上传失败处理。

io.TeeReader 的核心是读取时复制,不是事后回放

它接收一个 Reader 和一个 Writer,返回的仍是 Reader。每次下游调用 Read,TeeReader 先从源 Reader 取得数据,再把这段数据写入 Writer,写入完成后才返回读取结果。Go 官方实现明确没有内部缓冲,因此旁路 Writer 变慢时,上传读取也会变慢;Writer 返回错误时,这个错误会从 Read 传回调用方。

Go io.TeeReader 将上传 Reader 的已读字节同步写入流量统计 Writer 的结构说明图
图1:Go io.TeeReader 的输入、旁路统计和下游读取关系说明图,不是运行截图。

用只计数 Writer 记录真正经过的字节

计数 Writer 不需要保存上传内容,只要按 Write 收到的切片长度累加,并返回完整长度即可。下面的包装器还保留了原请求体的 Close,避免为了统计而把资源生命周期改掉:

type byteCounter struct {
    n int64
}

func (c *byteCounter) Write(p []byte) (int, error) {
    // 统计已经被 TeeReader 读到的字节,不复制上传内容。
    c.n += int64(len(p))
    return len(p), nil
}

type readCloser struct {
    io.Reader
    io.Closer
}

func withUploadCount(body io.ReadCloser) (*byteCounter, io.ReadCloser) {
    counter := new(byteCounter)
    // TeeReader 只负责旁路写入,Close 仍委托给原始请求体。
    wrapped := readCloser{
        Reader: io.TeeReader(body, counter),
        Closer: body,
    }
    return counter, wrapped
}

这个计数器是单个请求内使用的。如果多个 goroutine 会同时消费同一个 Reader,应先重新设计读取模型;Go 的 io 原语默认也不能推断为并发安全。

把包装后的 Reader 接到上传转发链路

统计器准备好后,直接把返回的 Reader 交给 io.Copy。复制成功时,返回值是实际从流中读出的字节数;复制提前失败时,计数器可能已经包含部分数据,不能把它当成完整上传量。

func saveUpload(dst io.Writer, body io.ReadCloser) (int64, error) {
    counter, countedBody := withUploadCount(body)
    defer countedBody.Close()

    // io.Copy 按需读取;每次读取都会先经过计数器的 Write。
    written, err := io.Copy(dst, countedBody)
    if err != nil {
        // 这里同时覆盖源 Reader、目标 Writer 和旁路统计器的错误。
        return counter.n, fmt.Errorf("保存上传流失败,已统计 %d 字节: %w", counter.n, err)
    }
    if written != counter.n {
        // 正常的全量复制中两者应一致,差异提示链路实现有问题。
        return counter.n, fmt.Errorf("统计字节数不一致: copy=%d count=%d", written, counter.n)
    }
    return counter.n, nil
}

生产代码还可以把 counter.n 写入请求日志或进度指标,但不要把完整上传内容写入日志。若要限制体积,应在 TeeReader 外层配合 http.MaxBytesReader 或 io.LimitReader,限制与统计是两个不同职责。

Go io.TeeReader 在统计 Writer 失败、目标写入失败和提前停止时的错误边界说明图
图2:上传复制、统计写入和资源关闭之间的错误边界说明图,不是运行截图。

三个容易混淆的流量口径

口径含义适合用途
Content-Length请求方声明的长度,可能缺失或不可信预估、限额和协议层判断
byteCounter.n已经从源 Reader 读出并成功写入统计器的字节实时进度与实际读取量
io.Copy 返回值目标 Writer 接收的字节数落盘或转发结果判断

TeeReader 不是异步镜像器,也不会替下游缓存数据。旁路 Writer 写得慢,读取就会被反压;旁路写失败,上传不能继续当作成功。若业务只想观测而不希望观测系统拖慢主链路,应另行设计有界缓冲、丢弃策略和可观测性指标,不能误以为 TeeReader 自带这些能力。

常见问题

io.TeeReader 会把上传内容完整保存下来吗?

不会。它只把当前 Read 返回的字节写给 Writer,是否保存由 Writer 决定;只计数 Writer 只保留一个数字。

为什么统计值比 Content-Length 小?

请求可能没有读完就因目标错误、限制或业务提前退出。TeeReader 统计的是实际经过读取链路的数据,不是请求头声明值。

能不能用 io.MultiWriter 替代 TeeReader?

两者位置不同。MultiWriter 复制写入端已经拥有的数据,TeeReader 在读取端旁路观察数据;对上传 Reader 做流式统计时,TeeReader 更直接。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
systemd socket 激活服务的依赖与监听配置systemd socket 激活服务的依赖与监听配置
上一篇
systemd socket 激活服务的依赖与监听配置
栗子漫画每日同步更新怎么看?公开资料页的应用介绍与更新时间区别
下一篇
栗子漫画每日同步更新怎么看?公开资料页的应用介绍与更新时间区别
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    256次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    299次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    275次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    256次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    61次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议 和 隐私政策
返回登录
  • 重置密码