当前位置:首页 > 文章列表 > Golang > Go教程 > Go encoding/json 怎样用 Decoder 流式读取多个对象处理空输入并保留错误边界

Go encoding/json 怎样用 Decoder 流式读取多个对象处理空输入并保留错误边界

来源:17golang原创 2026-11-07 03:40:35 0浏览 收藏

我在接收按行或按消息拼接的 JSON 时,最容易踩的坑不是 json.Unmarshal 本身,而是把“多个顶层对象”误当成一个 JSON 数组。输入如果是 {"id":1}\n{"id":2},更合适的做法是用 json.NewDecoder 循环调用 Decode:每次成功得到一条记录,下一次返回 io.EOF 才算正常结束;空输入同样返回 io.EOF,不能悄悄生成一条零值记录。

要点速览
  • 连续顶层 JSON 值用 Decoder 循环读取,不要用 dec.More() 判断流的结束。
  • io.EOF 是干净结束;io.ErrUnexpectedEOF、json.SyntaxError 和类型错误都应保留。
  • 用 InputOffset 记录最近一次已确认的字节边界,便于日志定位和重试策略判断。

多个 JSON 对象应该怎样建模

json.Decoder 从 io.Reader 读取输入,并且允许连续解码多个 JSON 值。它内部会预读一部分数据,所以不要假设底层 Reader 每次只提供一个对象;真正的记录边界由 Decode 识别。下面的例子故意使用两个相邻对象,换行只是可读空白,并不是协议必须条件。

package main

import (
    "encoding/json"
    "fmt"
    "io"
    "strings"
)

type Event struct {
    ID   int    `json:"id"`
    Name string `json:"name"`
}

func readEvents(input io.Reader) ([]Event, error) {
    dec := json.NewDecoder(input)
    var events []Event
    for {
        var event Event
        // 每次 Decode 只接收一个顶层 JSON 值,成功后再读取下一条。
        err := dec.Decode(&event)
        if err == io.EOF {
            // 没有下一条值是正常结束,空输入也会走到这里。
            return events, nil
        }
        if err != nil {
            // 保留原始错误,避免把截断或语法错误伪装成正常结束。
            return events, fmt.Errorf("decode JSON at offset %d: %w", dec.InputOffset(), err)
        }
        events = append(events, event)
    }
}

func main() {
    // 连续顶层对象不需要额外包成数组。
    input := strings.NewReader(`{"id":1,"name":"open"}
{"id":2,"name":"close"}`)
    events, err := readEvents(input)
    if err != nil {
        panic(err)
    }
    fmt.Println(len(events))
}

这里的返回值保留了已经成功读取的记录。调用方可以根据业务决定“部分成功后停止”还是把整个批次标记为失败,但不应把非 EOF 错误吞掉。若协议要求一条都不能少,可以在外层事务或临时文件中提交,而不是修改 Decode 循环的错误语义。

Go encoding/json Decoder 从 io.Reader 读取连续 JSON 对象并将 Decode 结果交给记录切片的静态关系说明图
图1:结构说明图,展示 io.Reader、json.Decoder、Decode 和 Event 之间的静态关系;这不是运行截图。

空输入、结尾空白和损坏数据要分开

循环里只把 io.EOF 当作结束信号。输入为空或只有空白时,第一次 Decode 就返回 EOF,结果是空切片;输入在第二个对象中途断掉时,通常会返回 io.ErrUnexpectedEOF 或具体的语法错误,这代表数据不完整,应该交给重试、隔离或告警逻辑。

输入情况典型结果处理建议
空字节或只有空白第一次 Decode 返回 io.EOF按空批次处理,是否允许由业务决定
一个或多个完整对象后到流尾后续 Decode 返回 io.EOF提交已读记录,正常结束
对象只写了一半io.ErrUnexpectedEOF 或语法错误保留错误,等待补齐或隔离原始输入
字段类型不匹配json.UnmarshalTypeError检查契约,不要用重试掩盖数据问题

InputOffset 返回的是最近一次已返回 token 的结束位置,也是下一个 token 的起点附近;由于 Decoder 会缓冲,底层 Reader 实际读取的字节可能更多。因此它适合写入诊断日志,不应被当成“错误字符的精确下标”。

Go JSON 流的空输入、完整对象、截断对象与类型错误边界静态关系说明图
图2:边界说明图,把空输入、完整对象、截断 JSON、SyntaxError 和 UnmarshalTypeError 分组展示;这不是运行结果截图。

不要用 More 判断连续顶层对象

Decoder.More 的语义是判断当前数组或对象中是否还有元素。连续的顶层对象没有一个外层数组上下文,直接用 More 会让代码的结束判断失去依据。只有在输入明确是 [{"id":1},{"id":2}] 时,才适合先读取左方括号,再在数组内部使用 More。

同样,不要因为看到第一条记录成功就假设后面的字节一定合法。Decoder 可能已经预读尾部内容,但它只会在后续 Decode 时继续验证;所以每一次返回都要检查错误,特别是消息边界来自网络或文件追加时。

把流式解码放进排障清单

遇到“少读一条”时,先记录输入是否为空、已成功记录数、最近一次 InputOffset 和原始错误类型;再确认上游发送的是连续 JSON 值、数组,还是 NDJSON。需要严格字段时可调用 DisallowUnknownFields,但这会把上游新增字段变成错误,适合契约明确的内部接口,不适合随时扩展的公共事件流。

对我来说,最稳的边界是把 EOF、语法/截断、类型不匹配分成三个分支:EOF 结束,语法或截断进入补偿,类型错误进入数据质量处理。这样即使流中已经成功解出几条记录,后续决策仍然有依据。

常见问题

连续 JSON 对象之间必须换行吗?

不必须。Decoder 识别 JSON 值边界,空白只影响可读性;实际协议仍应规定分隔和消息结束方式。

空输入应返回 nil 切片还是错误?

标准库层面是 EOF。示例把它转换为空结果;如果业务要求至少一条记录,应在调用层单独检查数量。

Decode 出错后还能继续读吗?

不要把继续读取当成通用恢复策略。语法已损坏时后续边界未必可信,除非协议有明确的消息隔离和重新同步点。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
Go encoding/json 怎样用 Decoder 流式读取多个对象完成一个可复用的最小示例Go encoding/json 怎样用 Decoder 流式读取多个对象完成一个可复用的最小示例
上一篇
Go encoding/json 怎样用 Decoder 流式读取多个对象完成一个可复用的最小示例
Go net/url.URL.Port 怎样读取 URL 端口并区分显式与默认值
下一篇
Go net/url.URL.Port 怎样读取 URL 端口并区分显式与默认值
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    920次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    925次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    1024次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    1003次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    831次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议 和 隐私政策
返回登录
  • 重置密码