当前位置:首页 > 文章列表 > Golang > Go教程 > Go JSON Decoder 解析连续对象流时怎么区分 EOF 和损坏输入

Go JSON Decoder 解析连续对象流时怎么区分 EOF 和损坏输入

来源:17golang原创 2026-09-08 09:52:12 0浏览 收藏

处理连续 JSON 对象流时,io.EOF 只代表“下一个顶层值不存在了”。一个对象已经完整读完后,下一次 Decode 返回 io.EOF,循环可以正常结束;如果当前字节把 JSON 语法截断或写坏,返回的就是语法错误、io.ErrUnexpectedEOF 或类型错误,不能吞掉。

要点速览
  • 循环只用 errors.Is(err, io.EOF) 判断正常结束,其他错误保留。
  • 多态字段先放进 json.RawMessage,确认 kind 后再解码。
  • InputOffset 能补充错误位置;未知字段是否拒绝要显式选择。

连续对象流里,io.EOF 只表示“下一个值不存在”

json.NewDecoder 读取的是流,不要求整个输入包成一个数组。多个完整对象可以用空白分隔。判断结束的关键位置在“准备读取下一个对象”这一次调用,而不是看到某个对象字段为空。

dec := json.NewDecoder(reader)
for {
    var msg Message
    err := dec.Decode(&msg)
    if errors.Is(err, io.EOF) {
        // 没有下一个顶层 JSON 值,属于正常收尾。
        break
    }
    if err != nil {
        // 语法损坏、输入截断或目标类型不匹配都不能当成结束。
        return fmt.Errorf("decode message: %w", err)
    }
    handle(msg)
}

因此,空文件或只包含空白的流会直接得到 io.EOF{"id":1} 后再接一个完整对象也会在下一轮结束。相反,{"id":1 少了右花括号,或者对象之间混入了不合法字符,都应该进入错误分支。标准库文档同时提醒,Decoder 自带缓冲,可能提前从 Reader 读取后续字节,所以不要用底层 Reader 的一次 Read 结果猜测 JSON 是否结束。

Go json.Decoder 连续对象流中 io.EOF 与 json.SyntaxError 的边界关系技术框图
图1:把流末尾和 JSON 损坏放在不同边界内判断,避免把所有 Decode 错误都当成 EOF。

先收下 RawMessage,再按 kind 延迟解码

当消息的 payload 可能是订单、告警或心跳时,不要把它声明成 any 后再到处做类型断言。先让外层结构稳定下来,把载荷保存为 json.RawMessage,这样外层读取成功和载荷具体类型就是两件事。

type Envelope struct {
    Kind    string          `json:"kind"`
    Payload json.RawMessage `json:"payload"`
}

type Order struct {
    ID int `json:"id"`
}

type Heartbeat struct {
    At int64 `json:"at"`
}

func decodePayload(raw json.RawMessage, kind string) (any, error) {
    switch kind {
    case "order":
        var v Order
        // 只有确认 kind 后,才解析延迟保存的 payload。
        if err := json.Unmarshal(raw, &v); err != nil {
            return nil, fmt.Errorf("decode order payload: %w", err)
        }
        return v, nil
    case "heartbeat":
        var v Heartbeat
        // 不同 kind 使用各自的目标类型,互不污染流边界。
        if err := json.Unmarshal(raw, &v); err != nil {
            return nil, fmt.Errorf("decode heartbeat payload: %w", err)
        }
        return v, nil
    default:
        return nil, fmt.Errorf("unsupported kind %q", kind)
    }
}

RawMessage 本质上保留了一段原始 JSON,适合把“外层协议能否读取”和“载荷是否符合某种业务结构”分开记录。注意:外层成功不等于载荷业务有效,decodePayload 的错误仍然要上报或隔离。

Go Envelope kind payload RawMessage 和 json.Unmarshal 的多态载荷关系技术框图
图2:先稳定外层 Envelope,再由 kind 决定 payload 的具体类型,未知字段策略单独放在外层协议边界。

用错误类型和 InputOffset 判断坏在哪

排查时不要只打印一行“JSON decode failed”。可以把语法错误、截断错误和目标字段类型不匹配分开。json.SyntaxError 通常带有字节偏移;json.UnmarshalTypeError 则说明 JSON 值和 Go 目标字段类型不一致。输入分段到一半就断开时,还要保留 io.ErrUnexpectedEOF 这一类信号。

var env Envelope
err := dec.Decode(&env)
if err != nil {
    var syntaxErr *json.SyntaxError
    var typeErr *json.UnmarshalTypeError
    switch {
    case errors.As(err, &syntaxErr):
        // SyntaxError.Offset 是 JSON 语法位置;记录原始错误便于定位。
        log.Printf("bad syntax at byte %d: %v", syntaxErr.Offset, err)
    case errors.As(err, &typeErr):
        // 类型错误说明值读到了,但目标结构无法接收它。
        log.Printf("field %s has incompatible value: %v", typeErr.Field, err)
    case errors.Is(err, io.ErrUnexpectedEOF):
        // 流在一个 JSON 值中间断开,不能按正常 EOF 处理。
        log.Printf("truncated JSON near byte %d: %v", dec.InputOffset(), err)
    default:
        log.Printf("decode failed near byte %d: %v", dec.InputOffset(), err)
    }
}

InputOffset 是 Decoder 当前输入位置的估计锚点,适合和消息序号、连接 ID 一起写入日志。错误发生后是否继续读,要看协议能否可靠找到下一个顶层值;如果坏数据可能破坏了分隔边界,通常应丢弃当前连接或把剩余字节隔离,不能盲目继续循环。

未知字段要不要拒绝:默认兼容与严格模式的取舍

标准 encoding/json 解码到结构体时,默认会忽略没有对应字段的 JSON 键。这适合允许生产者向后增加元数据的协议;如果未知字段意味着客户端版本不匹配,可以在创建 Decoder 后调用 DisallowUnknownFields(),让外层字段变更尽早失败。

这个开关和 RawMessage 并不冲突:它约束的是解码到结构体时的未知字段,而不是把延迟载荷提前解析。实践中可以对协议 Envelope 采用严格策略,对 payload 采用按 kind 选择的独立结构体;这样既能发现外层拼写错误,也不会为了一个新载荷类型改动所有旧分支。

现象应判断为处理建议
下一次 Decode 没有任何 JSON 值io.EOF正常结束循环
对象缺少闭合符号,流中途断开io.ErrUnexpectedEOF 或相关语法错误记录并隔离坏消息
JSON 值类型与字段不符json.UnmarshalTypeError修正生产者或拒绝当前消息
出现协议未声明的字段默认忽略,严格模式报错按兼容性要求选择 DisallowUnknownFields

常见问题

连续 JSON 对象之间必须加逗号吗?

不需要。顶层值可以按空白分隔;逗号是数组或对象内部的语法,不是两个顶层值之间的通用分隔符。

为什么不直接用 json.Unmarshal 解析整个 Reader?

Unmarshal 面向一段完整字节切片;持续输入更适合 Decoder,它能逐个读取顶层值并在下次调用返回 io.EOF

RawMessage 能避免载荷错误吗?

不能。它只延迟载荷解析;选定具体类型后仍要检查 json.Unmarshal 的返回错误。

遇到非 EOF 错误后还能继续 Decode 吗?

只有在协议能确认错误范围并找到可靠边界时才考虑继续。对可能破坏分隔结构的截断或乱码,终止当前流通常更安全。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
Redis 大键怎么用 MEMORY USAGE 和抽样扫描定位Redis 大键怎么用 MEMORY USAGE 和抽样扫描定位
上一篇
Redis 大键怎么用 MEMORY USAGE 和抽样扫描定位
Git worktree 怎么同时打开两个分支而不反复切换
下一篇
Git worktree 怎么同时打开两个分支而不反复切换
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    21次使用
  • SuperCLUE中文大模型评测基准:功能、能力维度与应用指南
    SuperCLUE
    SuperCLUE是权威的中文大语言模型综合评测基准,涵盖语言理解、知识应用、AI Agent智能体及安全性等12项核心能力。通过多轮对话与客观测试,定期发布榜单与技术报告,为模型研发、优化及行业选型提供科学依据。
    177次使用
  • C-Eval中文评测基准:大语言模型多学科能力评估指南
    C-Eval
    深入了解C-Eval中文评估套件,涵盖52个学科与4级难度。本文详解其功能特点、Zero-shot/Few-shot使用方法及代码示例,助您全面评测LLM中文理解与泛化能力。
    112次使用
  • AI Prompt Library:免费AI提示词库,助力ChatGPT高效创作与营销
    AI Prompt Library
    探索AI Prompt Library免费资源库,涵盖营销、写作及多场景AI提示词。兼容ChatGPT、Claude等工具,一键复制优化输出,提升工作效率。
    39次使用
  • Generrated:DALL·E 2/3 AI绘画提示词灵感库与图像对比平台
    Generrated
    Generrated汇集9300+张DALL·E生成图像及对应提示词,支持查看完整图集、对比DALL·E 2与3版本差异,是AI绘图新手学习Prompt设计与获取创作灵感的实用工具。
    18次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议隐私政策
返回登录
  • 重置密码