当前位置:首页 > 文章列表 > Golang > Go教程 > Go json.Decoder.InputOffset 怎样定位流式 JSON 的当前位置

Go json.Decoder.InputOffset 怎样定位流式 JSON 的当前位置

来源:17golang原创 2026-10-27 02:25:54 0浏览 收藏

在 Go 里用 json.Decoder 连续读取多个 JSON 值时,InputOffset 返回的是“最近一次成功返回的 token 结束位置,也是下一个 token 的起点”。它是输入流的字节偏移,不是字符下标,也不等于底层 Reader 已经从数据源读取的字节数。

官方地址:https://pkg.go.dev/encoding/json#Decoder.InputOffset

如果要记录流式 JSON 的当前位置,先在 Decode 或 Token 成功之后读取 InputOffset;如果要定位语法错误,再结合原始字节和 json.SyntaxError.Offset 转换行列。

InputOffset 到底指向哪个位置

官方定义把位置锚定在最近一次返回的 token 之后。例如输入中连续放着两个 JSON 值,第一次 Decode 成功后,偏移落在第一个值的末尾;下一次成功后,偏移才移动到第二个值的末尾。开头的空白、逗号和换行也会占用字节,但不会被当成 token 返回。

流式 JSON 输入中 token、空白和 InputOffset 边界的静态结构说明图
图1:流式 JSON 中成功返回的 token 与 InputOffset 边界,属于静态说明图,不是运行截图。

这一区别很重要:如果日志写成“底层 Reader 已经读到 offset”,读者会误以为 Decoder 没有预读。实际上 Decoder 会自行缓冲,底层读取量可能比当前位置更大。

连续 Decode 时怎样记录每个值的结束位置

对多值 JSON 流,最简单的做法是每次成功解码后马上读取偏移,并把它和业务序号一起写入日志。下面的示例把每个对象的结束字节位置保存下来:

package main

import (
    "encoding/json"
    "fmt"
    "io"
    "strings"
)

type Event struct {
    Name string `json:"name"`
}

func main() {
    input := `{"name":"start"}
{"name":"finish"}`
    dec := json.NewDecoder(strings.NewReader(input))

    for index := 1; ; index++ {
        var event Event
        // 每次只消费一个 JSON 值,便于把业务序号和结束偏移绑定。
        err := dec.Decode(&event)
        if err == io.EOF {
            // 输入正常结束,不把 EOF 当作一条坏记录。
            break
        }
        if err != nil {
            // 解码失败时保留当前序号,后续可结合原始输入定位。
            fmt.Printf("record=%d decode_error=%v offset=%d\n", index, err, dec.InputOffset())
            break
        }

        // InputOffset 是最近成功值结束后的输入字节偏移。
        fmt.Printf("record=%d name=%s end_offset=%d\n", index, event.Name, dec.InputOffset())
    }
}

这里的 end_offset 适合做进度记录或故障日志。它描述的是 Decoder 的语义位置,不应该拿来判断底层网络连接已经收到了多少字节。

需要行号和列号时,先按字节扫描原文

InputOffset 返回字节数,而中文或表情符号在 UTF-8 中可能占用多个字节。若日志要显示行号和列号,建议保留原始输入,再用同样的字节偏移扫描换行;不要直接把偏移转换成 Go 字符串的 rune 下标。

func lineColumn(data []byte, offset int64) (line, column int) {
    line, column = 1, 1
    // 偏移是字节位置,先限制到输入范围,避免异常输入导致越界。
    if offset < 0 {
        offset = 0
    }
    if offset > int64(len(data)) {
        offset = int64(len(data))
    }
    for _, b := range data[:offset] {
        // JSON 的行分隔通常按换行字节计算,列也保持字节列语义。
        if b == '\n' {
            line++
            column = 1
            continue
        }
        column++
    }
    return line, column
}

如果产品界面必须显示“第几个汉字”,还要在当前行的字节片段上继续做 UTF-8 解码;那是展示层转换,不要改变底层定位使用的字节偏移。

JSON 字节偏移转换为行号和字节列的静态流程说明图
图2:从原始 UTF-8 字节偏移计算行号与列位置的静态流程图,不是运行截图。

解析失败时不要把三个位置混在一起

遇到坏 JSON 时,常见的三个位置各有职责:

位置或接口表示什么适合做什么
Decoder.InputOffset()最近成功返回 token 或值之后的位置记录流式解码进度、标记下一个 token 起点
json.SyntaxError.Offset语法错误附近的输入字节偏移把错误转换成行列和上下文片段
Decoder.Buffered()Decoder 已读入但尚未消费的内部缓冲处理一个 Reader 中连续协议数据的剩余部分

因此,错误日志可以同时记录错误类型、语法错误偏移和最近成功的 InputOffset。若只记录其中一个,排查连续 JSON 或协议拼接问题时很容易误判。

哪些边界最容易误用

  • 在 Decode 返回错误前读取的偏移,不能当成“错误字符位置”;语法错误应优先检查 SyntaxError.Offset。
  • 把偏移当成字符数,会在中文、表情符号或其它多字节 UTF-8 输入上产生列号偏差。
  • 把 InputOffset 当成底层 Reader 的读取进度,会忽略 Decoder 的预读和内部缓冲。
  • 修改或复用原始输入后再用旧偏移做诊断,位置就失去了对应关系;应让输入快照和偏移一起留存。

结论

InputOffset 最适合回答“Decoder 最近成功处理到哪里”。流式读取时在成功的 Decode 或 Token 后采样它;语法错误时使用 SyntaxError.Offset;需要行列时基于原始 UTF-8 字节计算。把这三个职责分开,日志既能保留稳定的字节位置,也能给人类提供可读的错误上下文。

相关问题

InputOffset 是字符下标吗?

不是。它是输入流字节偏移,UTF-8 多字节字符会让字节数和字符数不同。

Decoder 会不会一次读过下一个 JSON 值?

会。Decoder 可能从底层 Reader 预读数据,所以底层 Reader 的读取量不等于 InputOffset。

解析错误应该看 InputOffset 还是 SyntaxError.Offset?

定位语法错误优先看 SyntaxError.Offset;InputOffset 用来表示最近一次成功解码的进度。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
Go maphash.Hash.SetSeed 怎样让多个哈希器使用同一随机种子Go maphash.Hash.SetSeed 怎样让多个哈希器使用同一随机种子
上一篇
Go maphash.Hash.SetSeed 怎样让多个哈希器使用同一随机种子
Go regexp.FindReaderIndex 为什么返回的偏移不是字符下标
下一篇
Go regexp.FindReaderIndex 为什么返回的偏移不是字符下标
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    720次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    728次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    804次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    766次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    604次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议 和 隐私政策
返回登录
  • 重置密码