Go json.Decoder.Buffered 怎样把预读字节交还给后续协议
Go 的 json.Decoder 会自己做缓冲,调用一次 Decode 时可能顺手从底层 Reader 多读一些字节。JSON 握手完成后,真正属于后续文本协议的数据可能已经躺在 Decoder 的内部缓冲里。处理方式是:在下一次调用 Decoder 前读取 Buffered(),把这段前缀保存下来,再用 io.MultiReader 按“前缀优先、原 Reader 其次”的顺序交给后续协议。
Buffered()返回的是 Decoder 已从输入读取、但尚未被 Decode 或 Token 消费的字节。- 返回的 Reader 只保证在下一次 Decode 或 Token 前有效,不能把它直接留给异步代码长期使用。
- 最稳妥的交接方式是先复制缓冲内容,再用
io.MultiReader(bytes.NewReader(prefix), source)合并读取。
先把 Decoder 的预读边界说清楚
json.NewDecoder 的输入边界不是一次底层 Read 调用的边界。它为了完成当前 JSON 值,可能已经读过后面的内容,因此原始 Reader 的当前位置不能代表“握手刚好结束”。Buffered() 返回剩余未消费数据,里面甚至可能还有尚未按 JSON 语法校验的字节;具体预读多少是实现细节,不能写死成某个长度。
还有一个容易忽略的生命周期:这个 Reader 只在下一次 Decode 或 Token 前有效。若握手成功后还要把读取工作交给另一个 goroutine,先把它复制出来。
用前缀缓冲把两个协议接起来
下面的例子把一条 JSON 握手和后面的文本行放在同一个输入流中。示例只演示 Reader 交接,不代表已经建立真实网络连接。
package main
import (
"bytes"
"encoding/json"
"fmt"
"io"
"strings"
)
func main() {
// JSON 握手后紧跟后续协议数据,底层 Reader 不知道协议切换点。
source := strings.NewReader(`{"op":"hello"}GET /next HTTP/1.1\r\n`)
dec := json.NewDecoder(source)
var hello struct {
Op string `json:"op"`
}
// 先消费握手;错误必须在交接前返回,避免把半个握手交给下一层。
if err := dec.Decode(&hello); err != nil {
panic(err)
}
// 立刻复制预读内容,避免下一次 Decode/Token 让 Buffered Reader 失效。
prefix, err := io.ReadAll(dec.Buffered())
if err != nil {
panic(err)
}
// 后续协议先读 prefix,再读原始输入中尚未被 Decoder 取走的部分。
handoff := io.MultiReader(bytes.NewReader(prefix), source)
rest, err := io.ReadAll(handoff)
if err != nil {
panic(err)
}
fmt.Printf("%s: %s\n", hello.Op, rest)
}
这里的关键不是把数据“塞回”原 Reader,而是给下一层构造一个新的读取视图。若 prefix 为空,io.MultiReader 仍然安全;若后续协议是持续流式读取,则应把 handoff 保留给它,而不是一次性调用 io.ReadAll。

io.MultiReader 适合交接,但不能掩盖错误

交接层可以抽成一个小函数,统一处理复制和读取错误。不要直接返回 dec.Buffered(),也不要在复制前再次调用 Decoder。对 TCP、管道这类可能长期阻塞的输入,后续层应该按自己的协议边界读取,不能用一次 ReadAll 等待流结束。
func readerAfterJSON(dec *json.Decoder, source io.Reader) (io.Reader, error) {
// Buffered 只在下一次 Decode 或 Token 前有效,所以立即物化成独立字节切片。
prefix, err := io.ReadAll(dec.Buffered())
if err != nil {
return nil, fmt.Errorf("读取 JSON 预读缓冲失败: %w", err)
}
// MultiReader 保证剩余前缀不丢失,再继续消费底层 Reader。
return io.MultiReader(bytes.NewReader(prefix), source), nil
}
函数返回后,调用方可以把 Reader 交给按行协议、长度前缀协议或自定义解析器。若后续代码强制要求 net.Conn,不能简单地把 io.MultiReader 强转成连接;应让协议层接受 io.Reader,或实现一个包装连接,把 Read 做成“前缀优先”,同时转发原连接的 Write、截止时间和关闭方法。
| 场景 | 推荐做法 | 需要注意 |
|---|---|---|
| 同一流继续读取 | 复制 Buffered 后使用 MultiReader | 前缀必须先读 |
| 异步交接 | 复制为独立字节切片再传递 | 不要保存 Buffered 返回值 |
| 后续接口要求 net.Conn | 调整接口或实现连接包装器 | 保留 Write、Deadline、Close 语义 |
三个边界决定方案是否可靠
第一,JSON 握手只成功了一半时不要交接;Decode 返回错误就应该关闭或回收当前连接。第二,Buffered 的内容可能包含后续协议的任意字节,不能把它再次交给 JSON Decoder 做校验。第三,复制动作本身也可能返回错误,尤其是自定义 Reader;这个错误必须保留,不能为了继续读取而静默忽略。
如果协议设计允许,最好在握手阶段就约定明确的长度、分帧或连接升级规则。Buffered 解决的是“Decoder 已经多读了”的读取顺序问题,不会替你定义两个协议之间的安全边界。
常见问题
为什么直接把原始连接交给下一层会卡住
因为后续数据可能已经被 Decoder 读进自己的缓冲,原连接暂时没有这些字节。下一层只读原连接,就会等待永远不会再次到来的数据。
能不能多次调用 Buffered
可以读取当前返回的 Reader,但不要把它当作稳定快照。下一次 Decode 或 Token 后它就不再受支持;需要跨调用、跨 goroutine 使用时先复制。
Buffered 会返回完整的下一个消息吗
不保证。它只返回当前已经被底层 Reader 取来、却尚未被 Decoder 消费的部分,可能是完整消息、半条消息,也可能混有尚未验证的字节。后续协议仍要按自身边界继续读取。
kazumi常见问题在哪里看?安装指南、功能文档与问题排查入口说明
- 上一篇
- kazumi常见问题在哪里看?安装指南、功能文档与问题排查入口说明
- 下一篇
- Go json.Encoder 什么时候应该关闭 HTML 字符转义
-
- Golang · Go教程 | 1小时前 | 命令行 · go · 工程实践 · go generate Go代码生成 go generate -run 生成指令筛选
- go generate -run 怎样只执行指定生成指令
- 453浏览 收藏
-
- Golang · Go教程 | 1小时前 | go · go test -json TestEvent Go测试事件 BuildEvent FailedBuild
- go test -json 输出怎样区分测试事件和构建事件
- 173浏览 收藏
-
- Golang · Go教程 | 1小时前 | 基准测试 · testing · 性能 · Go教程 · GOMAXPROCS RunParallel Go testing.B.SetParallelism 并行基准 IO吞吐
- Go testing.B.SetParallelism 提高 IO 型并行基准吞吐的配置方法
- 404浏览 收藏
-
- Golang · Go教程 | 1小时前 |
- Go testing.T.Cleanup 多次注册时为什么按逆序执行
- 309浏览 收藏
-
- Golang · Go教程 | 1小时前 |
- Go flag.FlagSet 怎样让参数错误返回给调用方
- 273浏览 收藏
-
- Golang · Go教程 | 1小时前 | flag · go ·
- Go flag.BoolFunc 怎样处理重复出现的布尔开关
- 246浏览 收藏
-
- Golang · Go教程 | 1小时前 | 反射 · Go教程 · database/sql · Go database/sql Rows.Scan ColumnType ScanType 动态查询导出
- Go database/sql ColumnType.ScanType 怎样支持动态查询导出
- 381浏览 收藏
-
- Golang · Go教程 | 1小时前 | flag · go · Go flag.TextVar encoding.TextUnmarshaler
- Go flag.TextVar 怎样复用类型的文本解析逻辑
- 479浏览 收藏
-
- Golang · Go教程 | 1小时前 | go · []byte · database/sql ·
- Go database/sql Scan 得到的 []byte 为什么不能直接长期保存
- 343浏览 收藏
-
- Golang · Go教程 | 1小时前 | 数据库 · Go教程 · database/sql · Go database/sql rows NextResultSet SQL结果集
- Go database/sql 怎样依次读取多个 SQL 结果集
- 456浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 446次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 517次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 532次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 478次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 303次使用
-
- Java 性能优化上线清单:从定位、改造到灰度发布
- 2026-06-11 860浏览
-
- Spring Boot 压测验证:Gatling、JMeter 与性能回归门禁
- 2026-06-11 843浏览
-
- Java NMT 非堆内存排查:Direct Buffer、线程栈与 Metaspace 分析
- 2026-06-11 826浏览
-
- Spring Boot 容器内存优化:JVM 堆、非堆与 MaxRAMPercentage
- 2026-06-11 809浏览
-
- Tomcat 连接与线程参数调优:maxThreads、acceptCount 与 KeepAlive
- 2026-06-11 792浏览

