当前位置:首页 > 文章列表 > Golang > Go教程 > Go encoding/json/v2 怎样把大对象流式编码到 Writer

Go encoding/json/v2 怎样把大对象流式编码到 Writer

来源:17golang原创 2026-11-14 08:24:27 0浏览 收藏

当一个接口要返回大对象时,先把整个结果交给 json.Marshal 再写入响应,通常会多出一份连续的 []byte。Go 1.27 的 encoding/json/v2 提供了 MarshalWrite,可以直接把 JSON 编码到 io.Writer;如果还需要控制 token 或语法层,再使用 encoding/json/jsontext 的 Encoder。

官方地址:https://pkg.go.dev/encoding/json/v2

实用选择是:普通结构体输出优先用 json.MarshalWrite,把 HTTP 响应、文件或压缩流作为 Writer;需要手动写对象边界、逐个写 token 或读取输出偏移时,才下沉到 jsontext.Encoder。流式编码减少的是中间完整字节切片,不代表对象本身、嵌套字符串或 Writer 缓冲区都不占内存。

先分清三种 JSON 输出入口

encoding/json/v2 的 API 可以按输出控制粒度分成三层:Marshal 返回完整字节切片;MarshalWrite 负责语义编码并写入 io.Writer;jsontext.Encoder 负责更底层的 token/value 语法流。它们都属于 JSON 编码,但承担的边界不同。

入口适合场景需要注意
json.Marshal小对象、需要先拿到字节会保留完整编码结果
json.MarshalWrite写入 HTTP、文件、缓冲或压缩 Writer仍然要处理 Writer 返回的错误
jsontext.Encoder控制对象边界、token、格式和输出偏移调用者要维护语法结构

因此,“大对象”不是自动切换底层 API 的理由。先看调用点是否只需要把一个 Go 值编码出去;如果是,优先用高层的 MarshalWrite,让包负责值到 JSON 的语义映射。只有当输出本身需要逐项组合,才进入 jsontext。

业务对象通过 encoding/json/v2 MarshalWrite 和 Options 写入 io.Writer,再连接 HTTP响应、文件输出并返回错误的静态关系图
图1:Writer 输出边界结构说明图,查看 MarshalWrite 如何连接对象、选项、输出目标和错误返回;这不是运行截图。

用 MarshalWrite 把对象直接编码到 Writer

普通大对象输出可以把目标抽象成 io.Writer,调用 json.MarshalWrite。下面的函数同时适用于文件、响应缓冲区和其他实现了 Writer 的输出目标;它不先创建一份完整 JSON 字节切片。

package main

import (
    "fmt"
    "io"

    json "encoding/json/v2"
)

type Report struct {
    ID      string   `json:"id"`
    Summary string   `json:"summary"`
    Items   []string `json:"items"`
}

func writeReport(w io.Writer, report Report) error {
    // 直接把语义编码结果写给目标 Writer,避免先组装完整 []byte。
    if err := json.MarshalWrite(w, report); err != nil {
        return fmt.Errorf("write report json: %w", err)
    }
    return nil
}

这里的关键点是错误必须向上返回。编码过程可能因为值不支持 JSON 语义而失败,也可能因为 Writer 已经关闭、磁盘写入失败或客户端断开而失败;调用方不应该把这些错误都当成成功响应。

如果输出是 HTTP 响应,响应头和状态码应在写入正文前决定。若 Writer 只写出了一部分内容后失败,不能假设还能把一个新的 JSON 错误对象追加到同一个响应中;更稳妥的做法是记录结构化日志,并让上层根据响应是否已经开始写出决定关闭连接或采用协议级错误。

需要 token 控制时使用 jsontext.Encoder

当一个 JSON 文档由多个来源拼成,或者你需要显式写对象开始、字段名、字段值和对象结束时,可以直接创建 jsontext.Encoder。它处理的是 JSON 语法 token 和 value,不再替你推断完整业务对象的字段结构。

package main

import (
    "fmt"
    "io"

    "encoding/json/jsontext"
)

func writeEnvelope(w io.Writer, name string, count int) error {
    enc := jsontext.NewEncoder(w)

    // 显式写边界,便于在同一份文档中组合不同来源的字段。
    if err := enc.WriteToken(jsontext.BeginObject); err != nil {
        return fmt.Errorf("begin object: %w", err)
    }
    if err := enc.WriteToken(jsontext.String("name")); err != nil {
        return fmt.Errorf("write name key: %w", err)
    }
    if err := enc.WriteToken(jsontext.String(name)); err != nil {
        return fmt.Errorf("write name value: %w", err)
    }
    if err := enc.WriteToken(jsontext.String("count")); err != nil {
        return fmt.Errorf("write count key: %w", err)
    }
    if err := enc.WriteToken(jsontext.Int(count)); err != nil {
        return fmt.Errorf("write count value: %w", err)
    }
    // 关闭对象,保证输出仍然满足 JSON 的结构边界。
    if err := enc.WriteToken(jsontext.EndObject); err != nil {
        return fmt.Errorf("end object: %w", err)
    }
    return nil
}

token 级接口的代价是责任更多:字段名和值必须交替出现,对象和数组的开始、结束必须匹配,底层 Writer 的失败也会从写 token 的调用点返回。若只是把一个已定义的结构体写出去,手动管理这些边界反而增加出错面。

结构化对象、Token、Value 进入 jsontext.Encoder 并写入 io.Writer,同时关联 OutputOffset 与 SyntacticError 的静态结构图
图2:jsontext token 编码边界结构说明图,查看语法层节点与 Writer、偏移和错误对象的关系;这不是运行截图。

错误和内存边界要怎样判断

流式编码最容易被误解成“完全不占内存”。更准确的说法是:它不要求调用方先保留完整 JSON 字节结果,但待编码的 Go 对象、字符串字段、切片、编码器内部状态和 Writer 的缓冲仍然会占用内存。

  • 对象本身很大:优先把查询或读取结果拆成可控批次,再分别写入协议允许的数组或对象结构;仅把 Marshal 换成 MarshalWrite 不会把一个已经加载的巨型切片变成流。
  • Writer 失败:保留原始错误链,用 %w 包装;不要在正文已经写出后再追加一个看似完整的错误 JSON。
  • 语法失败:token 级写入通常在当前调用点报告错误;需要更细的定位时,可以结合 Encoder.OutputOffset 和错误类型记录输出位置。
  • 需要格式化:使用 jsontext 的选项表达缩进、空格或转义策略,不要在 JSON 写出后再用字符串替换修改结构。

在 HTTP 场景,还要区分“编码成功”与“客户端完整收到”。Writer 返回成功只代表当前写入路径接受了数据;传输层、代理和客户端是否完整接收,属于更外层的协议与连接问题。

按输出目标选择 API

需求建议原因
小对象且要签名或缓存字节json.Marshal调用方需要完整字节结果
一个 Go 值直接写到响应或文件json.MarshalWrite语义清晰,Writer 错误可直接返回
多个来源拼成一个 JSON 文档jsontext.Encoder可以控制 token 和对象边界
结果集数量本身不可控分批读取 + 明确协议结构避免只减少中间字节而保留巨型对象

落地时建议把 Writer 作为函数参数,把错误处理留在边界函数中,并在日志中记录输出目标类型、对象批次和失败位置。这样既能替换文件、HTTP 或压缩 Writer,也不会把 JSON 编码策略散落到业务层。

MarshalWrite 会不会自动把切片逐项从数据库读出来?

不会。它只负责把传入的 Go 值写成 JSON。数据库游标、分页读取或分块协议需要调用方设计,不能由一个编码函数推断。

什么时候不应该使用 jsontext.Encoder?

如果目标只是编码一个稳定的结构体,优先使用 MarshalWrite。只有在需要 token、value、格式选项或输出偏移等语法层能力时,才使用 jsontext.Encoder。

Writer 写失败后还能继续写 JSON 吗?

通常不应继续把它当成一份完整文档。先保留错误链并停止当前输出;如果是 HTTP 响应,还要根据响应是否已经提交选择关闭连接或交给上层协议处理。

小结:Go 1.27 的 encoding/json/v2 已经把“编码到 Writer”作为明确入口。普通值用 MarshalWrite,token 级组合用 jsontext.Encoder,两者都要认真处理 Writer 错误;真正的大对象治理则要继续控制对象生命周期和批次大小。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
橄榄绿水滴叶片手机壁纸怎么让微距纹理不显拥挤橄榄绿水滴叶片手机壁纸怎么让微距纹理不显拥挤
上一篇
橄榄绿水滴叶片手机壁纸怎么让微距纹理不显拥挤
Go jsontext.Value 怎样保留 JSON 片段原始表示
下一篇
Go jsontext.Value 怎样保留 JSON 片段原始表示
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    1020次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    1021次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    1157次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    1123次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    964次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议 和 隐私政策
返回登录
  • 重置密码