封装可重试的 JSON API 客户端并限制重试边界
Go 的 JSON API 客户端要做重试,关键不是把 client.Do(req) 放进循环,而是先划清“什么能重试、最多重试几次、什么时候必须停”。下面这个封装只对网络错误和 429/5xx 做有限重试;4xx、JSON 解码失败、调用方取消和总超时直接返回。请求体每轮重新创建,响应体每轮关闭,避免重试后得到空 Body 或连接复用异常。
- 把最大尝试次数、总超时和退避上限放进一个策略对象。
- 先保存 JSON 字节,再用
bytes.NewReader为每次尝试创建新的 Request。 - 副作用请求默认不重试;只有幂等方法或服务端提供幂等键时才放宽。
先把可重试条件和停止条件写清楚
http.Client.Do 返回网络层错误时,通常还没有拿到可用响应;拿到 HTTP 响应后,非 2xx 本身不会变成 Go error。因此策略函数要同时看 err 和状态码。429 表示需要尊重服务端限流,5xx 多数是临时服务端故障;认证失败、参数错误和资源不存在则不应靠重试解决。
| 结果 | 默认动作 | 原因 |
|---|---|---|
| 网络错误 | 有限重试 | 连接、解析或暂时不可达可能恢复 |
| 429、502、503、504 | 退避后重试 | 让服务端和代理有恢复窗口 |
| 400、401、403、404 | 立即返回 | 通常需要修正输入或凭据 |
| JSON 解码错误 | 立即返回 | 重试不会修复契约不一致 |
为每次尝试重建 JSON 请求,避免 Body 被读空
请求体是流,第一次发送后不能假设它还能从头读取。做法是先把结构编码成稳定的字节切片,随后每轮使用 bytes.NewReader(payload) 和 http.NewRequestWithContext 创建新请求。http.Client 可以长期复用,但 Request 应按尝试重新生成。

// 这段代码把 JSON 字节作为可重放输入,每次尝试都创建新的请求。
func newJSONRequest(ctx context.Context, method, endpoint string, payload []byte) (*http.Request, error) {
req, err := http.NewRequestWithContext(ctx, method, endpoint, bytes.NewReader(payload))
if err != nil {
return nil, fmt.Errorf("创建请求: %w", err)
}
req.Header.Set("Content-Type", "application/json") // 明确请求体格式,避免服务端按表单解析。
return req, nil
}
把重试条件、退避上限和取消信号放在同一层
重试封装要有一个总生命周期,而不是每次失败都重新获得一段新时间。用父级 context.Context 控制调用方取消,用总超时限制请求与退避的合计时长;每次 Do 返回后先关闭 Body,再决定是否继续。

// DoJSON 只重试可恢复结果,并用次数、总超时和退避上限共同收口。
func DoJSON(ctx context.Context, client *http.Client, method, endpoint string, in, out any) error {
payload, err := json.Marshal(in) // 先固定字节,避免重试时请求体已经被消费。
if err != nil {
return fmt.Errorf("编码请求: %w", err)
}
ctx, cancel := context.WithTimeout(ctx, 8*time.Second) // 总预算覆盖请求和等待。
defer cancel() // 释放计时器,避免派生 context 留到父级结束。
const maxAttempts = 3
for attempt := 1; attempt = 200 && resp.StatusCode
示例中的三个辅助函数只负责判定和等待:网络错误要排除调用方已经取消的情况;状态码函数只放行 429 与明确的临时 5xx;等待函数必须用 select 同时监听计时器和 ctx.Done()。这样总超时到达时,不会还在退避。
POST 不是“失败就再发一次”
GET、HEAD 通常更容易重试,但 JSON API 常见的 POST 可能已经在服务端完成写入,只是响应在网络上丢失。对这类请求,建议默认关闭重试;如果服务端支持幂等键,才把同一个业务请求 ID 放进 Header,并确认服务端按该键去重。即使使用 PUT,也要先确认接口语义确实幂等。
生产参数可以先按“最多 3 次、总预算 8 秒、单次退避不超过 2 秒”起步,再结合服务端的 Retry-After 和业务延迟调整。不要把退避时间、HTTP 客户端超时、调用方 deadline 叠加成读者无法判断的多个独立预算。
延伸问答:哪些边界最容易漏掉
为什么不直接复用同一个 Request?
Body 是流,第一次发送可能已经读到末尾。重新创建 Request 能明确恢复读取位置,也能为每轮绑定仍然有效的 context。
4xx 都应该立即返回吗?
默认是这样,但 408 或接口明确约定可恢复的 409 需要单独建策略;不要把所有 4xx 一股脑加入重试。
响应体只在成功时关闭可以吗?
不可以。429、5xx 和读取失败路径同样会拿到 Body,必须在判定下一次尝试前关闭。
客户端要不要每次调用都 new?
不建议。官方文档说明 Client/Transport 含连接复用状态并可并发使用,应在服务生命周期内复用。
把重试看成一次受约束的资源操作:输入可重建、响应可回收、条件可解释、时间可截止。这样封装出来的 JSON API 客户端,出了问题能返回足够上下文,也不会因为“再试一次”把副作用扩大。
Redis Vector Set 做语义检索:向量、元数据与过滤条件
- 上一篇
- Redis Vector Set 做语义检索:向量、元数据与过滤条件
- 下一篇
- VS Code 创建项目专用 Profile 并只同步需要的配置
-
- Golang · Go教程 | 41分钟前 | Go教程 · 可观测性 · net/http · HTTP客户端 · 请求头注入 http.Client Go RoundTripper HTTP耗时 Transport中间件
- 用自定义 RoundTripper 注入请求头与耗时记录
- 500浏览 收藏
-
- Golang · Go教程 | 2小时前 | 标准库 · Go教程 · Go text/template block Template.Clone
- Go template.Clone 怎么复用基础模板并覆盖局部块
- 148浏览 收藏
-
- Golang · Go教程 | 2小时前 | 标准库 · 错误处理 · Go text/template FuncMap execute ExecError
- Go template.FuncMap 怎么返回可中断渲染的错误
- 151浏览 收藏
-
- Golang · Go教程 | 2小时前 | 标准库 · 模板 · 迭代器 · Go教程 · text/template iter.Seq2 Go template range-over-func
- Go template 里怎么遍历 iter.Seq2 数据
- 416浏览 收藏
-
- Golang · Go教程 | 3小时前 | golang · 数据库 · 连接池 · Go 连接池 database/sql sql.DB SetConnMaxIdleTime
- Go sql.DB.SetConnMaxIdleTime 怎么淘汰长期空闲连接
- 271浏览 收藏
-
- Golang · Go教程 | 3小时前 | 标准库 · golang · 数据库 · SQL · Go database/sql sql.Named NamedArg NamedValue
- Go sql.Named 怎么让驱动按名称绑定参数
- 290浏览 收藏
-
- Golang · Go教程 | 3小时前 |
- Go sql.Null[T] 怎么扫描可空自定义类型
- 415浏览 收藏
-
- Golang · Go教程 | 5小时前 | 标准库 · 并发编程 · Go教程 · Go panic sync.Once sync.OnceFunc
- Go sync.OnceFunc 包装的函数 panic 后再次调用会怎样
- 377浏览 收藏
-
- Golang · Go教程 | 5小时前 | 反射 · 结构体 · go · Go reflect VisibleFields
- Go reflect.VisibleFields 怎么处理嵌入字段冲突
- 332浏览 收藏
-
- Golang · Go教程 | 5小时前 |
- Go reflect.Value.Seq2 怎么遍历映射和双值序列
- 469浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 357次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 416次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 424次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 380次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 205次使用
-
- Java 性能优化上线清单:从定位、改造到灰度发布
- 2026-06-11 860浏览
-
- Spring Boot 压测验证:Gatling、JMeter 与性能回归门禁
- 2026-06-11 843浏览
-
- Java NMT 非堆内存排查:Direct Buffer、线程栈与 Metaspace 分析
- 2026-06-11 826浏览
-
- Spring Boot 容器内存优化:JVM 堆、非堆与 MaxRAMPercentage
- 2026-06-11 809浏览
-
- Tomcat 连接与线程参数调优:maxThreads、acceptCount 与 KeepAlive
- 2026-06-11 792浏览

