当前位置:首页 > 文章列表 > Golang > Go问答 > 优雅停机时新请求为何还会进入,怎样关闭监听并等待在途请求

优雅停机时新请求为何还会进入,怎样关闭监听并等待在途请求

来源:17golang原创 2026-10-07 03:58:05 0浏览 收藏

Go 服务收到 SIGTERM 后仍有新请求进入,通常不是 http.Server.Shutdown 失效,而是程序还没有真正调用它:仅取消业务 Context、把就绪探针改成失败,或先执行一段清理,都不会自动关闭监听器。真正开始 Shutdown 后,标准库会先关闭该 Server 的监听器,再关闭空闲连接,并等待活动连接回到空闲状态。

一个可靠的停机顺序可以概括为:先把实例标记为 draining,让就绪检查失败并拒绝新业务;给上游少量时间停止路由;随后调用 Shutdown 关闭监听并等待在途 Handler;超过截止时间才调用 Close 强制结束普通 HTTP 连接。主 goroutine 必须等 Shutdown 返回,不能在 ListenAndServe 返回 ErrServerClosed 时直接退出。

Go 标准库参考:https://pkg.go.dev/net/http#Server.Shutdown、https://pkg.go.dev/os/signal#NotifyContext

先分清新请求是在什么时候进入的

“收到停机信号”和“停止接收连接”是两个不同事件。signal.NotifyContext 只把信号转换为 Context 取消;如果代码在收到信号后继续做缓存刷新、注册中心注销或日志归档,而尚未调用 Shutdown,Serve 仍持有监听器,请求自然还能进入。

Go 优雅停机中进程信号、就绪探针、监听器和活动 Handler 的静态边界
图1:信号、摘流量、监听器与活动 Handler 的静态边界;收到 SIGTERM 不等于监听器已经关闭。

负载均衡器或编排平台还有自己的状态传播时间。实例把 /readyz 改成 503 后,上游不一定在同一微秒停止转发;已经建立的 Keep-Alive 连接也可能处在边界窗口。因此 draining 阶段既要让就绪检查失败,也要让业务入口快速返回 503,避免刚被摘除的实例继续接新任务。

动作直接影响不能替代什么
设置 draining就绪检查失败,业务 Handler 可拒绝新工作不能关闭 TCP 监听器
调用 Shutdown关闭监听器和空闲连接,等待活动连接不会自动等待 WebSocket 或任意后台任务
调用 Close立即关闭普通活动连接与监听器不是优雅等待,也不知道被 hijack 的连接

先写一个能观察 draining 状态的服务

下面的示例把信号 Context 和请求 Context 分开。不要把收到 SIGTERM 的 Context 直接设置成所有请求的 BaseContext;否则信号到达时,正在执行的 Handler 会同时看到取消,与“让在途请求自然完成”的目标冲突。

package main

import (
    "context"
    "errors"
    "fmt"
    "log"
    "net"
    "net/http"
    "os"
    "os/signal"
    "sync/atomic"
    "syscall"
    "time"
)

type application struct {
    draining atomic.Bool
}

func (a *application) ready(w http.ResponseWriter, _ *http.Request) {
    if a.draining.Load() {
        // draining 后让上游尽快摘除实例。
        http.Error(w, "draining", http.StatusServiceUnavailable)
        return
    }
    w.WriteHeader(http.StatusOK)
    _, _ = w.Write([]byte("ready"))
}

func (a *application) work(w http.ResponseWriter, r *http.Request) {
    if a.draining.Load() {
        // 边界窗口内到达的请求不再开启新业务工作。
        w.Header().Set("Retry-After", "5")
        http.Error(w, "server is shutting down", http.StatusServiceUnavailable)
        return
    }

    select {
    case 

这段代码里没有额外用 sync.WaitGroup 统计普通 HTTP Handler,因为 Server.Shutdown 已经负责等待标准 HTTP 活动连接。自己再维护一套计数容易在 Add 与 Wait 之间制造竞态。只有 Handler 启动了脱离请求生命周期的后台任务时,才需要单独的任务组和停止协议。

用两类请求观察停机窗口

这个小实验不需要压测工具。先启动服务,再发一个持续三秒的请求;请求尚未完成时发送 SIGTERM。draining 标记会让新请求得到 503,而已经进入的请求仍有机会完成。下面命令里的 PID 请替换为当前服务进程号。

# 启动示例服务,日志保留在当前前台会话中。
go run .

# 在另一个非生产测试会话中发起一个持续约三秒的在途请求。
curl -i http://127.0.0.1:8080/work

# 把 12345 替换为示例服务 PID,发送常见容器停机信号。
kill -TERM 12345

# draining 传播窗口内的新业务请求应返回 503 和 Retry-After。
curl -i http://127.0.0.1:8080/work

# 就绪检查应返回 503,提示上游停止继续路由。
curl -i http://127.0.0.1:8080/readyz

检查时关注三个结果:第一,收到信号后 /readyz 立即失败;第二,新的 /work 不再启动耗时任务;第三,已进入的请求可以在 20 秒截止时间内返回。之后 Serve 以 http.ErrServerClosed 结束,这是正常停机结果,不应被当成启动故障。

Shutdown 等待哪些资源,又不会等待哪些资源

官方定义很明确:Shutdown 先关闭所有已打开的监听器,再关闭空闲连接,然后等待连接返回空闲并结束。如果传入的 Context 到期,它返回 Context 错误;这个超时用于限制等待,并不等于自动把所有自定义资源都清掉。

Go Server Shutdown、标准 HTTP 资源、WebSocket 和强制关闭的静态责任边界
图2:标准 HTTP 资源、长连接通知与超时强制关闭的责任边界;结构图不表示执行时间线。
  • 普通 HTTP Handler:由 Shutdown 等待,前提是 Handler 能在业务超时内返回。
  • 空闲 Keep-Alive 连接:会在 Shutdown 过程中关闭,不再用于接收下一次请求。
  • WebSocket 或 hijacked 连接:不在 Shutdown 的自动等待范围内,应用必须自己通知和等待。
  • 后台消费者、队列和定时任务:不属于 http.Server,需要独立的取消 Context 与任务组。
  • 多个 Server:业务端口、管理端口和指标端口若分别创建 Server,就要逐个停止。

RegisterOnShutdown 适合发出协议级停机通知,例如通知 WebSocket 管理器停止接受新会话;回调本身不应该阻塞等待。真正的等待仍由应用自己的连接管理器完成。

var websocketManager interface {
    BeginShutdown()
    Wait(context.Context) error
}

// 回调只发通知,不在 Server 内部阻塞等待长连接退出。
srv.RegisterOnShutdown(func() {
    websocketManager.BeginShutdown()
})

// Shutdown 返回后,再用同一个截止时间等待应用管理的长连接。
if err := websocketManager.Wait(shutdownCtx); err != nil {
    log.Printf("websocket shutdown incomplete: %v", err)
}

为什么有时调用了 Shutdown 仍像是提前退出

最常见的错误是把 ListenAndServe 放在主 goroutine,而在另一个 goroutine 调用 Shutdown。Shutdown 一开始关闭监听器,ListenAndServe 立刻返回 ErrServerClosed;如果 main 随即 return,整个进程会终止,负责等待活动连接的 goroutine 也被一起结束。

解决方法就是示例中的角色反转:Serve 放到 goroutine,主 goroutine 等信号并同步执行 Shutdown。这样 main 的生命周期覆盖完整停机过程。

另一个误区是把 Shutdown(context.Background()) 当成“永远安全”。它确实可以无限等,但只要某个 Handler 没有业务超时、卡在外部依赖或一直写流式响应,发布就可能永远结束不了。生产环境必须给 Shutdown 一个小于平台终止宽限期的截止时间,把剩余时间留给日志刷新和最后退出。

扩展到多个服务和后台任务

如果同一进程里还有管理端口、指标端口、消息消费者或定时任务,先画清资源所有权,再决定顺序。通常先停止产生新工作,再等待已有工作;HTTP Server、队列消费者和 WebSocket 管理器各自维护自己的停止方法,最外层只负责共享截止时间和错误汇总。

groupCtx, cancelGroup := context.WithCancel(context.Background())
defer cancelGroup()

// 停止消费者继续领取新消息,但让已经领取的任务自行收尾。
consumer.StopAccepting()

// 取消只属于后台任务的 Context,不复用请求的停机信号 Context。
cancelGroup()

// 为所有应用资源共享剩余截止时间,避免各自无限等待。
if err := consumer.Wait(shutdownCtx); err != nil {
    log.Printf("consumer shutdown incomplete: %v", err)
}

数据库连接池通常放在所有请求与后台任务结束后再关闭。否则活动 Handler 虽然被 Shutdown 等待,却可能因为连接池先关而失败。日志器和遥测导出器也应留到最后刷新,但要有独立超时,不能把进程再次卡住。

上线前逐项确认

  • 收到信号后是否立即设置 draining,并让就绪检查失败。
  • draining 窗口内的业务 Handler 是否快速返回 503,而不是继续创建新任务。
  • 是否真正调用了每一个 http.Server 的 Shutdown。
  • main 是否等待 Shutdown 和 Serve 都结束,而不是看到 ErrServerClosed 就退出。
  • Shutdown 截止时间是否小于部署平台给进程的终止宽限期。
  • Handler 是否有数据库、HTTP 客户端和业务级超时,能够在截止时间内返回。
  • WebSocket、hijacked 连接、后台消费者和定时任务是否有独立停止协议。
  • 强制 Close 是否只作为超时兜底,并记录了未完成资源。

排查“停机后还有请求”时,不要只盯着信号处理代码。先确认 draining 是否生效,再确认监听器何时关闭,最后确认主 goroutine 是否真的等到了所有活动 Handler 返回。把摘流量、关监听和等在途请求拆成三个可观察边界,优雅停机才不会停在“看起来已经关了”的状态。

相关问题

Shutdown 会取消所有请求的 Context 吗?

不会为了停机直接打断活动连接。它等待活动连接回到空闲并关闭;请求自身仍应有业务超时和客户端取消处理。

为什么 Shutdown 后 ListenAndServe 返回错误?

这是接口约定。Server 在 Shutdown 或 Close 后,ListenAndServe、Serve 等方法会返回 http.ErrServerClosed,正常停机时应把它当成预期结果。

Shutdown 超时后还要调用 Close 吗?

如果进程必须在固定宽限期内退出,通常要用 Close 强制关闭普通活动连接,并记录哪些请求未完成。它不会自动管理 WebSocket 等 hijacked 连接。

需要自己给每个 Handler 加 WaitGroup 吗?

普通 HTTP Handler 通常不需要,Shutdown 已经等待活动连接。脱离请求生命周期的 goroutine、消费者或长连接才应由应用单独计数和等待。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
在 ServeMux 中拆分路由、中间件与错误响应在 ServeMux 中拆分路由、中间件与错误响应
上一篇
在 ServeMux 中拆分路由、中间件与错误响应
大文件上传占满内存通常错在哪里,何时应流式读取
下一篇
大文件上传占满内存通常错在哪里,何时应流式读取
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    358次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    416次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    428次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    381次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    207次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议 和 隐私政策
返回登录
  • 重置密码