当前位置:首页 > 文章列表 > Golang > Go教程 > 用 encoding/json/v2 流式读取连续 JSON 值

用 encoding/json/v2 流式读取连续 JSON 值

来源:17golang原创 2026-10-08 23:59:59 0浏览 收藏

如果输入不是一个 JSON 数组,而是这样连续到来的多个顶层对象:{"id":1} {"id":2},Go 1.27 的 encoding/json/v2 可以用 jsontext.Decoder 配合 json.UnmarshalDecode 逐个读取。每次调用只处理下一个 JSON 值,读完后返回 io.EOF;不要把所有字节先拼成一个数组,也不要把普通解码错误误判成结束。

要点速览
  • 连续对象是多个顶层值,空白和换行都可以作为值之间的分隔。
  • json.UnmarshalDecode 每次消费一个值,只有 io.EOF 表示正常结束。
  • 输入截断、非法 JSON 或字段类型不匹配都应保留为错误,不能静默跳过。

先区分连续顶层值与一个 JSON 数组

Unmarshal 面向单个 JSON 值,输入必须能解释成一个完整的顶层值。连续对象则更像消息流或逐条日志:每条对象独立结束,下一条紧接着到来。此时循环的单位不是数组元素,而是“下一个顶层 JSON 值”。

例如 {"id":1,"kind":"open"}\n{"id":2,"kind":"close"} 是两个对象;[{"id":1},{"id":2}] 才是一个数组。前者用流式逐值解码,后者可以一次解码到切片。这个边界先判断清楚,后面的 API 选择就不会混乱。

用 jsontext.Decoder 接住 io.Reader

v2 把 JSON 语法读取和 Go 类型语义拆成两个包:encoding/json/jsontext 负责从 io.Reader 读取 JSON 文本,encoding/json/v2 负责把下一个值放进 Go 目标。文件、HTTP 响应体和字符串读取器都可以沿用同一种入口。

package main

import (
	"encoding/json/jsontext"
	json "encoding/json/v2"
	"fmt"
	"io"
	"log"
	"strings"
)

type Event struct {
	ID   int    `json:"id"`
	Kind string `json:"kind"`
}

func main() {
	// 空白分隔的两个顶层对象,模拟逐条到来的消息流。
	input := strings.NewReader(`{"id":1,"kind":"open"}
{"id":2,"kind":"close"}`)
	dec := jsontext.NewDecoder(input)

	for {
		var event Event
		// 每次只把下一个 JSON 值解码到当前目标结构体。
		err := json.UnmarshalDecode(dec, &event)
		if err == io.EOF {
			// 没有下一个顶层值时,EOF 是正常结束条件。
			break
		}
		if err != nil {
			// 截断、非法语法和字段类型错误都不能静默跳过。
			log.Fatalf("decode event stream: %v", err)
		}
		fmt.Printf("id=%d kind=%s\n", event.ID, event.Kind)
	}
}

关键点是目标参数必须传指针。每轮使用新的 Event 变量,能避免上一条对象残留字段影响下一条;如果复用目标,也要确认 v2 的对象合并语义符合你的业务预期。

循环调用 UnmarshalDecode 读取下一个值

这段循环把“数据”和“控制信号”分开:返回 nil 表示成功得到一条记录,io.EOF 表示流自然结束,其他错误则说明当前输入或目标类型需要处理。换行不是必须条件,空格、制表符和换行都只是 JSON 值之间的空白。

返回结果含义处理方式
nil成功解出一个顶层值消费当前对象并继续循环
io.EOF没有下一个顶层值正常结束,不当作失败
其他 error语法或语义解码失败记录上下文并退出或转入隔离队列

流式不等于每条记录都零内存。当前目标对象仍需要占用内存,超大单条值也可能很重;它解决的是不必把整个输入先收集成一个巨大字节切片,并且能在前一条成功后尽早交给业务处理。

把语法错误与语义错误分开处理

输入是 {"id":1 这类未闭合文本时,属于 JSON 语法没有完成;输入是 {"id":"one"} 而目标字段为 int 时,则是目标类型无法承接该值。两者都不是 io.EOF,否则会把坏数据伪装成正常收尾。

生产代码可以把来源标识、已处理条数和当前批次一起写入错误日志。若允许跳过坏记录,应先把原始记录隔离下来;不要在解码器已经消费到不确定位置后盲目继续,因为后面的字节未必仍位于可靠的顶层边界。

还要留意 v2 的语义变化:JSON v2 默认拒绝无效 UTF-8 和重复对象名,和旧版 encoding/json 的历史默认行为并不完全相同。迁移时如果输入来自旧系统,应把这类兼容性作为明确的回归样本,而不是只替换 import 路径。

按输入边界选择 v2、v1 或数组方案

输入形态推荐入口判断依据
连续多个顶层 JSON 值jsontext.NewDecoder + UnmarshalDecode逐条消费,io.EOF 收尾
单个对象或数组json.Unmarshal 或 UnmarshalRead输入边界就是一个顶层值
仍需维护旧 v1 语义encoding/json.Decoder.Decode先按旧行为完成兼容回归,再规划迁移

如果要控制 JSON v2 的语法选项,可以在创建 jsontext.Decoder 时配置对应选项;解码到 Go 类型的选项则传给 UnmarshalDecode。不要把“连续值”理解成“必须每行一个对象”,真正的边界是每个顶层 JSON 值能否独立完成。

常见问题

连续 JSON 值之间必须换行吗?

不必须。只要前一个值已经结束,后面有合法 JSON 空白即可;换行只是日志和人工查看时更方便。

为什么不能对连续对象直接调用一次 Unmarshal?

Unmarshal要求输入解释为一个顶层 JSON 值。连续对象没有共同的数组边界,应改用解码器逐个消费。

遇到字段类型错误后能否继续读下一条?

默认不建议直接继续。先记录错误并确认解码器边界是否仍可控;对不可信输入,更稳妥的做法是隔离当前流或在上游按记录切分。

处理连续 JSON 的核心不是把数据拆成很多行,而是让解码循环以“下一个顶层值”为单位,并只把 io.EOF 当作正常结束。
encoding/json/v2 使用 jsontext.Decoder 与 UnmarshalDecode 逐个读取连续 JSON 顶层值的结构说明图
图1:连续 JSON 顶层值经过 jsontext.Decoder 后逐条交给 UnmarshalDecode 的结构说明图,不是运行截图。
Go encoding/json/v2 流式读取中 nil、io.EOF 与语法语义错误的处理边界说明图
图2:成功、io.EOF 与错误分支的处理边界说明图,不是运行截图。
版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
Python TaskGroup 如何汇总多个子任务异常Python TaskGroup 如何汇总多个子任务异常
上一篇
Python TaskGroup 如何汇总多个子任务异常
systemd DynamicUser 如何运行无固定账号的服务
下一篇
systemd DynamicUser 如何运行无固定账号的服务
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    383次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    454次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    467次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    407次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    237次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议 和 隐私政策
返回登录
  • 重置密码