当前位置:首页 > 文章列表 > Golang > Go教程 > Go json.Decoder用 Token 识别嵌套边界的实现方式

Go json.Decoder用 Token 识别嵌套边界的实现方式

来源:17golang原创 2026-09-15 19:38:23 0浏览 收藏

处理一段结构不固定、但又不想一次性反序列化成 map[string]any 的 JSON 时,Go json.DecoderToken 很适合用来判断嵌套边界。它按流读取下一个 JSON token:普通字符串、数字、布尔值和 null 是值;{}[] 会以 json.Delim 表示容器的进入和退出。

实现要点是“先分辨 token 类型,再维护容器深度”:遇到左分隔符进入一层,遇到右分隔符退出一层;当目标层级的右分隔符出现时,就能确定当前对象或数组已经结束。

Token 先分流:普通值、字段名和容器分隔符

Token 返回的是 (json.Token, error)。其中对象的键也会作为字符串 token 返回,所以不能把每个字符串都直接当成业务值。最小的判断方式是先做 json.Delim 类型断言,再处理其他值。

package main

import (
    "encoding/json"
    "errors"
    "fmt"
    "io"
    "strings"
)

func printTokens(input string) error {
    dec := json.NewDecoder(strings.NewReader(input))
    for {
        tok, err := dec.Token()
        if err != nil {
            // EOF 表示 token 已经读完;其他错误说明输入或读取过程异常。
            if errors.Is(err, io.EOF) {
                return nil
            }
            return err
        }
        if delim, ok := tok.(json.Delim); ok {
            // Delim 只描述容器边界,不能当作对象字段值使用。
            fmt.Printf("边界: %q\n", delim)
            continue
        }
        // 字符串可能是对象键,也可能是字符串值,需结合上下文判断。
        fmt.Printf("普通 token: %v\n", tok)
    }
}
Go json.Decoder Token 流分流为普通值、字段名和 json.Delim 的说明图
图1:Token 分流说明图,展示普通值与容器分隔符的处理边界。

遇到 json.Delim('{')json.Delim('[') 时,说明后续 token 属于新容器;遇到右分隔符则说明对应容器收口。顶层读取结束时建议用 errors.Is(err, io.EOF) 判断,而不是比较错误字符串。

用深度计数找到嵌套容器的结束位置

如果只关心最外层数组或对象,可以记录进入时的深度。每个左分隔符让深度加一,每个右分隔符让深度减一;当深度回到进入前的数值时,目标容器就读完了。Token 本身保证返回的分隔符具有正确嵌套关系,应用代码主要负责决定在哪一层停止。

func consumeContainer(dec *json.Decoder) error {
    first, err := dec.Token()
    if err != nil {
        return err
    }
    opening, ok := first.(json.Delim)
    if !ok || (opening != '{' && opening != '[') {
        return fmt.Errorf("expected container, got %v", first)
    }

    depth := 1
    for depth > 0 {
        tok, err := dec.Token()
        if err != nil {
            // 容器尚未闭合就遇到 EOF,说明输入被截断。
            return err
        }
        delim, ok := tok.(json.Delim)
        if !ok {
            // 普通值不会改变嵌套层级,继续读取下一个 token。
            continue
        }
        switch delim {
        case '{', '[':
            // 新容器进入一层,内部的边界由同一个计数器跟踪。
            depth++
        case '}', ']':
            // 右分隔符关闭当前容器,回到零即完成目标容器。
            depth--
        }
    }
    return nil
}
Go JSON 对象嵌套数组、depth 计数和 Delim 边界闭合的结构图
图2:嵌套深度结构图,展示 Delim 配对与容器结束判断。

这个函数只负责“吃完一个容器”,不会把值保存下来。如果业务还要知道对象字段名,可在对象场景维护一个 expectKey 状态:读到字符串键后,下一个 token 才是它对应的值;如果值又是左分隔符,就递归或转入深度处理。数组没有字段名,数组元素按顺序直接消费。

对象字段和数组元素要保持同一读取节奏

常见错误是读到对象键后,再额外调用一次 Token 试图“跳过值”,却没有处理这个值本身也是对象或数组的情况。更稳妥的做法是把读取分成三类:对象键只改变字段上下文;普通值完成一个叶子;左分隔符开启一个需要完整消费的子容器。

例如输入 {"meta":{"trace":"x"},"items":[1,{"ok":true}]},外层对象先读到 meta,随后看到左花括号并进入子对象;子对象闭合后,读取才回到 items。数组里的数字和对象同理,不能用“固定读两次 token”代替边界判断。

Token含义深度动作
{[进入对象或数组加一
}]离开当前容器减一
字符串、数字、布尔值、nil普通 token 或对象键不变

EOF、类型断言与边界检查

正常的顶层读取会在所有 token 消费后得到 io.EOF;容器尚未闭合就得到 EOF,则应把它视为截断输入。未知 token 类型不应静默忽略,尤其是需要区分对象键和值的场景。只用深度计数能定位结构边界,但不会替你校验字段类型、必填项或业务规则。

官方地址:https://pkg.go.dev/encoding/json

相关问题

Token 能否直接返回一个完整的嵌套对象

不能。它一次返回一个 token;需要完整对象时,应在确认边界后调用 Decode,或自行收集 token。

为什么不能只统计左花括号

JSON 同时有对象和数组,且两者可以交叉嵌套。必须同时处理四种 Delim,并让每个右分隔符关闭对应层级。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
Python asyncio取消任务后等待清理完成的实现方法Python asyncio取消任务后等待清理完成的实现方法
上一篇
Python asyncio取消任务后等待清理完成的实现方法
Linux vmstat用 si/so 判断持续换页的实现方法
下一篇
Linux vmstat用 si/so 判断持续换页的实现方法
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    43次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    138次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    74次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    39次使用
  • CMMLU中文大模型评估基准:功能、使用教程与应用场景解析
    CMMLU
    深入了解CMMLU中文评估基准,涵盖67个学科主题,提供数据集下载、Zero-shot/Five-shot评估方法及排行榜,助力优化中文语言模型性能。
    26次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议隐私政策
返回登录
  • 重置密码