当前位置:首页 > 文章列表 > Golang > Go教程 > Go encoding/json.Decoder 为什么会吞掉下一个 JSON:流式边界、Token 读取与多对象解析

Go encoding/json.Decoder 为什么会吞掉下一个 JSON:流式边界、Token 读取与多对象解析

来源:17golang原创 2026-08-26 06:27:23 0浏览 收藏

排查一个批量导入接口时,日志里出现了两个紧挨着的 JSON 对象:第一轮 Decode 成功,第二轮却像是“少读了一个字段”。这类问题通常不是 encoding/json 把下一个对象吞掉了,而是把 Decoder 当成了“每次只看一个独立字符串”的解析器,忽略了它维护的流式读取位置。

要点速览
  • Decoder 面向连续字节流,读取后会保留内部缓冲和当前游标。
  • Decode 读取一个完整 JSON 值;Token 则按结构符号和原子值推进游标,两者不要混着猜位置。
  • 连续对象应循环检查 Decode 的错误,只有 io.EOF 才表示正常结束;需要查看预读尾部时使用 Buffered

先把“吞掉下一个 JSON”的现场固定下来

先不要在业务结构体上反复改字段。下面的输入没有换行,两个对象直接相邻,正好模拟日志流、HTTP 长连接或批量文件里常见的连续 JSON:

src := strings.NewReader(`{"id":1,"name":"alpha"}{"id":2,"name":"beta"}`)
dec := json.NewDecoder(src)

var first, second Item
err1 := dec.Decode(&first)
err2 := dec.Decode(&second)
fmt.Println(first, err1)
fmt.Println(second, err2)

两次 Decode 都能成功,原因是 JSON 值之间不要求必须有空格;对象结束后,解码器会继续从内部游标读取下一个值。真正值得记录的是每次调用返回的错误,以及调用前后业务变量是否被复用。

Go encoding/json Decoder 处理连续 JSON 时的读取游标与两个对象边界

为什么混用 Token 和 Decode 时最容易误判

Token 返回的是流中的下一个 JSON token,例如 {、字段名、字符串值和 }。它不是“预览下一个对象”的无副作用方法;调用一次就会推进一次游标。随后再调用 Decode,它只能从当前位置继续。

tok, err := dec.Token()
if err != nil {
    return err
}
fmt.Printf("first token: %#v\n", tok)

// 此时游标已经进入对象内部,不能再把整个对象当作完整值从当前位置 Decode。

如果只是想连续读取对象,统一使用 Decode 更容易验证。只有需要遍历未知结构、检查数组/对象边界或做流式过滤时,才把 Token 作为主读取接口,并明确维护当前层级。

用错误类型确认流到底结束在哪里

连续对象解析的循环不要用“目标结构体是否还是零值”判断结束。字段缺失、合法的空对象和真正的输入结束不是一回事:

for {
    var item Item
    err := dec.Decode(&item)
    switch {
    case err == nil:
        fmt.Printf("accepted id=%d name=%q\n", item.ID, item.Name)
    case errors.Is(err, io.EOF):
        return nil
    default:
        return fmt.Errorf("decode item: %w", err)
    }
}

这里的检查点有两个:第一,io.EOF 只代表没有更多 JSON 值;第二,语法错误、类型错误和业务校验错误都应该保留,不能被统一当成“循环结束”。这样日志才能区分半截请求和正常收尾。

Buffered 看到的是什么,不能拿它代替 Decode

Decoder 可能为了完成当前值而提前从底层 io.Reader 读入更多字节。那些已经读入但还没有被当前值消费的内容,会留在内部缓冲中。Buffered 返回的就是这部分尾部视图:

var item Item
if err := dec.Decode(&item); err != nil {
    return err
}
tail, err := io.ReadAll(dec.Buffered())
if err != nil {
    return err
}
fmt.Printf("decoded=%+v buffered-tail=%q\n", item, tail)

尾部字节属于解码器内部已读数据,适合做诊断或把剩余内容交给另一个明确的读取流程。不要在同一条流上同时拿底层 ReaderBuffered 猜谁拥有当前位置,否则很容易得到顺序错乱的结果。

Go Decoder Decode 后通过 Buffered 检查剩余 JSON 字节的边界示意

三种现场对应的处理方式

现场优先做法不要做什么
连续完整对象循环调用 Decode,单独处理 io.EOF用零值结构体判断结束
需要遍历未知层级统一使用 Token,并维护对象/数组层级Token 后假设游标仍在对象开头
当前值后还有预读内容用 Buffered 做诊断或明确交接直接从底层 Reader 再猜着读

如果第二次解析报错,先把每次读取的错误、结构体值和剩余字节记录下来,再判断是输入不完整、Token 已经推进过游标,还是调用方把同一个 Decoder 错误地复用了。

常见问题:到底该选哪种读取方式

两个 JSON 之间必须加换行吗?

不必须。只要前一个值已经完整结束,Decoder 可以继续读取后一个值;换行只是让日志更易读。

第二次 Decode 返回 EOF 是数据丢了吗?

如果第一次 Decode 已经成功且输入确实只有一个值,第二次得到 EOF 是正常结束。只有在发送方声称还有更多对象时,才需要检查上游是否提前截断。

Token 能和 Decode 混用吗?

可以,但必须把它们当作共同推进同一个游标的操作。若目标是连续对象,统一用 Decode 通常更清楚。

Buffered 读完后还能继续 Decode 吗?

不应把 Buffered 返回的内容当作已经回写到底层的输入。要继续由原 Decoder 解析,就不要提前消费这段缓冲;需要交接时,应把职责和剩余数据明确分给新的读取流程。

最后用一条最小验收标准收尾

给连续 JSON 的解析器加测试时,至少覆盖:一个对象、两个相邻对象、对象之间带空白、半截对象、字段类型错误,以及 Token 已推进后再 Decode 的行为。每个用例都检查返回错误和读取数量,不只检查最后一个结构体的值。这样当接口从单对象改成流式批量输入时,所谓“吞掉下一个 JSON”就能被还原成一个明确的游标边界问题。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
JavaScript Promise.withResolvers 怎么管理外部 resolve:一次性完成、重复调用与资源清理JavaScript Promise.withResolvers 怎么管理外部 resolve:一次性完成、重复调用与资源清理
上一篇
JavaScript Promise.withResolvers 怎么管理外部 resolve:一次性完成、重复调用与资源清理
2026年秋分后还会热多久?昼夜变化和换季提醒怎么查
下一篇
2026年秋分后还会热多久?昼夜变化和换季提醒怎么查
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • ljg-skills -
    ljg-skills
    ljg-skills 是李继刚开源的 AI 技能与提示词集合,面向大模型使用者整理了一批可复用的 prompt、角色设定和任务技能模板,适合用于学习提示词设计、搭建个人 AI 工作流和沉淀团队常用智能体能力。
    5280次使用
  • MELO音乐 - AI 音乐生成平台,支持多模态创作能力
    MELO音乐
    MELO音乐是一站式AI视频与音乐制作助手,对标suno, udio的高品质体验。提供伴奏生成、原创写词、无损导出、哼唱识曲、混音变声等全套音频与短视频编辑工具。无论是流行Kpop、电音说唱、民谣古风、摇滚儿歌还是商用轻音乐,MELO为你免费谱曲,轻松做同款!
    4791次使用
  • UniScribe - AI 免费在线音视频转文字平台
    UniScribe
    UniScribe 是一款 AI 音视频转文字与内容整理工具,支持上传音频、视频文件或粘贴 YouTube 链接,自动生成转写文本、摘要、思维导图和关键问题,并支持多格式导出,适合会议记录、课程学习、访谈整理和内容创作复盘。
    4741次使用
  • 剧云 - 免费 AI 智能中文剧本创作平台
    剧云
    剧云是专业中文剧本创作平台,安全稳定运行十余年,集成AI编剧、剧本医生审核、人物小传、剧情关系图、大纲编写、多人协作、Word导入导出、版权管控功能,数据安全防护,轻松高效创作剧本。
    5000次使用
  • 万象有声 - AI 一站式有声内容创作平台
    万象有声
    万象有声,一个专为有声创作者打造的新一代智能有声内容创作平台。平台提供专业的智能拆章、智能画本编辑、AI配音、AI生成音效、后期制作、智能对轨、智能审听等有声创作全流程工具,可以帮助创作者高效、低成本创作出引人入胜的有声作品。立即体验,让有声书制作更简单!
    4944次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议隐私政策
返回登录
  • 重置密码