Go encoding/json 怎样用 Decoder 流式读取多个对象处理空输入并保留错误边界
我在接收按行或按消息拼接的 JSON 时,最容易踩的坑不是 json.Unmarshal 本身,而是把“多个顶层对象”误当成一个 JSON 数组。输入如果是 {"id":1}\n{"id":2},更合适的做法是用 json.NewDecoder 循环调用 Decode:每次成功得到一条记录,下一次返回 io.EOF 才算正常结束;空输入同样返回 io.EOF,不能悄悄生成一条零值记录。
- 连续顶层 JSON 值用 Decoder 循环读取,不要用
dec.More()判断流的结束。 io.EOF是干净结束;io.ErrUnexpectedEOF、json.SyntaxError和类型错误都应保留。- 用
InputOffset记录最近一次已确认的字节边界,便于日志定位和重试策略判断。
多个 JSON 对象应该怎样建模
json.Decoder 从 io.Reader 读取输入,并且允许连续解码多个 JSON 值。它内部会预读一部分数据,所以不要假设底层 Reader 每次只提供一个对象;真正的记录边界由 Decode 识别。下面的例子故意使用两个相邻对象,换行只是可读空白,并不是协议必须条件。
package main
import (
"encoding/json"
"fmt"
"io"
"strings"
)
type Event struct {
ID int `json:"id"`
Name string `json:"name"`
}
func readEvents(input io.Reader) ([]Event, error) {
dec := json.NewDecoder(input)
var events []Event
for {
var event Event
// 每次 Decode 只接收一个顶层 JSON 值,成功后再读取下一条。
err := dec.Decode(&event)
if err == io.EOF {
// 没有下一条值是正常结束,空输入也会走到这里。
return events, nil
}
if err != nil {
// 保留原始错误,避免把截断或语法错误伪装成正常结束。
return events, fmt.Errorf("decode JSON at offset %d: %w", dec.InputOffset(), err)
}
events = append(events, event)
}
}
func main() {
// 连续顶层对象不需要额外包成数组。
input := strings.NewReader(`{"id":1,"name":"open"}
{"id":2,"name":"close"}`)
events, err := readEvents(input)
if err != nil {
panic(err)
}
fmt.Println(len(events))
}
这里的返回值保留了已经成功读取的记录。调用方可以根据业务决定“部分成功后停止”还是把整个批次标记为失败,但不应把非 EOF 错误吞掉。若协议要求一条都不能少,可以在外层事务或临时文件中提交,而不是修改 Decode 循环的错误语义。

空输入、结尾空白和损坏数据要分开
循环里只把 io.EOF 当作结束信号。输入为空或只有空白时,第一次 Decode 就返回 EOF,结果是空切片;输入在第二个对象中途断掉时,通常会返回 io.ErrUnexpectedEOF 或具体的语法错误,这代表数据不完整,应该交给重试、隔离或告警逻辑。
| 输入情况 | 典型结果 | 处理建议 |
|---|---|---|
| 空字节或只有空白 | 第一次 Decode 返回 io.EOF | 按空批次处理,是否允许由业务决定 |
| 一个或多个完整对象后到流尾 | 后续 Decode 返回 io.EOF | 提交已读记录,正常结束 |
| 对象只写了一半 | io.ErrUnexpectedEOF 或语法错误 | 保留错误,等待补齐或隔离原始输入 |
| 字段类型不匹配 | json.UnmarshalTypeError | 检查契约,不要用重试掩盖数据问题 |
InputOffset 返回的是最近一次已返回 token 的结束位置,也是下一个 token 的起点附近;由于 Decoder 会缓冲,底层 Reader 实际读取的字节可能更多。因此它适合写入诊断日志,不应被当成“错误字符的精确下标”。

不要用 More 判断连续顶层对象
Decoder.More 的语义是判断当前数组或对象中是否还有元素。连续的顶层对象没有一个外层数组上下文,直接用 More 会让代码的结束判断失去依据。只有在输入明确是 [{"id":1},{"id":2}] 时,才适合先读取左方括号,再在数组内部使用 More。
同样,不要因为看到第一条记录成功就假设后面的字节一定合法。Decoder 可能已经预读尾部内容,但它只会在后续 Decode 时继续验证;所以每一次返回都要检查错误,特别是消息边界来自网络或文件追加时。
把流式解码放进排障清单
遇到“少读一条”时,先记录输入是否为空、已成功记录数、最近一次 InputOffset 和原始错误类型;再确认上游发送的是连续 JSON 值、数组,还是 NDJSON。需要严格字段时可调用 DisallowUnknownFields,但这会把上游新增字段变成错误,适合契约明确的内部接口,不适合随时扩展的公共事件流。
对我来说,最稳的边界是把 EOF、语法/截断、类型不匹配分成三个分支:EOF 结束,语法或截断进入补偿,类型错误进入数据质量处理。这样即使流中已经成功解出几条记录,后续决策仍然有依据。
常见问题
连续 JSON 对象之间必须换行吗?
不必须。Decoder 识别 JSON 值边界,空白只影响可读性;实际协议仍应规定分隔和消息结束方式。
空输入应返回 nil 切片还是错误?
标准库层面是 EOF。示例把它转换为空结果;如果业务要求至少一条记录,应在调用层单独检查数量。
Decode 出错后还能继续读吗?
不要把继续读取当成通用恢复策略。语法已损坏时后续边界未必可信,除非协议有明确的消息隔离和重新同步点。
Go encoding/json 怎样用 Decoder 流式读取多个对象完成一个可复用的最小示例
- 上一篇
- Go encoding/json 怎样用 Decoder 流式读取多个对象完成一个可复用的最小示例
- 下一篇
- Go net/url.URL.Port 怎样读取 URL 端口并区分显式与默认值
-
- Golang · Go教程 | 13分钟前 |
- Go unicode.ToTitle 怎样把 rune 转成标题大小写
- 430浏览 收藏
-
- Golang · Go教程 | 21分钟前 | 标准库 · 错误处理 · Go教程 · Go encoding/json eof io.Reader json.Decoder JSON流
- Go encoding/json 怎样用 Decoder 流式读取多个对象完成一个可复用的最小示例
- 318浏览 收藏
-
- Golang · Go教程 | 23分钟前 |
- Go encoding/json 怎样区分缺失字段和显式 null处理空输入并保留错误边界
- 203浏览 收藏
-
- Golang · Go教程 | 24分钟前 |
- Go encoding/json 怎样区分缺失字段和显式 null在批处理代码中减少额外分配
- 295浏览 收藏
-
- Golang · Go教程 | 27分钟前 | 错误处理 · Go教程 · Go optional encoding/json json.RawMessage 部分更新 JSON null
- Go encoding/json 怎样区分缺失字段和显式 null完成一个可复用的最小示例
- 260浏览 收藏
-
- Golang · Go教程 | 31分钟前 |
- Go unique.Handle 怎样比较唯一句柄而不复制字符串处理空输入并保留错误边界
- 340浏览 收藏
-
- Golang · Go教程 | 32分钟前 |
- Go unique.Handle 怎样比较唯一句柄而不复制字符串在批处理代码中减少额外分配
- 466浏览 收藏
-
- Golang · Go教程 | 33分钟前 | go · 泛型 · Go 字符串比较 unique.Make unique.Handle 规范化值
- Go unique.Handle 怎样比较唯一句柄而不复制字符串完成一个可复用的最小示例
- 364浏览 收藏
-
- Golang · Go教程 | 34分钟前 |
- Go unique.Make 怎样缓存可比较字符串的唯一值在批处理代码中减少额外分配
- 413浏览 收藏
-
- Golang · Go教程 | 35分钟前 |
- Go unique.Make 怎样缓存可比较字符串的唯一值处理空输入并保留错误边界
- 107浏览 收藏
-
- Golang · Go教程 | 39分钟前 |
- Go range over func 怎样让函数迭代器支持提前停止在批处理代码中减少额外分配
- 190浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 920次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 925次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 1024次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 1003次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 831次使用
-
- Java 性能优化上线清单:从定位、改造到灰度发布
- 2026-06-11 860浏览
-
- Spring Boot 压测验证:Gatling、JMeter 与性能回归门禁
- 2026-06-11 843浏览
-
- Java NMT 非堆内存排查:Direct Buffer、线程栈与 Metaspace 分析
- 2026-06-11 826浏览
-
- Spring Boot 容器内存优化:JVM 堆、非堆与 MaxRAMPercentage
- 2026-06-11 809浏览
-
- Tomcat 连接与线程参数调优:maxThreads、acceptCount 与 KeepAlive
- 2026-06-11 792浏览

