Golang HTTP 服务平滑重启及升级的思路
亲爱的编程学习爱好者,如果你点开了这篇文章,说明你对《Golang HTTP 服务平滑重启及升级的思路》很感兴趣。本篇文章就来给大家详细解析一下,主要介绍一下HTTP、平滑重启,希望所有认真读完的童鞋们,都有实质性的提高。
Golang HTTP服务在上线时,需要重新编译可执行文件,关闭正在运行的进程,然后再启动新的运行进程。对于访问频率比较高的面向终端用户的产品,关闭、重启的过程中会出现无法访问(nginx表现为502)的情况,影响终端用户的使用体验。
实现的一般思路
- 一般情况下,要实现平滑重启或升级,需要执行以下几个步骤:
- 发布新的bin文件覆盖老的bin文件
- 发送一个信号量(USR2),告诉正在运行的进程,进行重启
- 正在运行的进程接受到信号后,以子进程的方式启动新的bin文件
- 新进程接收并处理新的请求
- 老进程不再接收新请求,等待所有正在处理的请求处理完成后自动退出
- 新进程在老进程退出后,继续提供服务
选型与实践
重复造平滑重启及升级的轮子比较简单,但测试覆盖无法控制,比较耗时耗力。所以秉着不重复造轮子的思路,使用github中的三方库进行选择:
- facebookgo/grace
- fvbock/endless
- jpillora/overseer
endless与grace的实现方式原理都比较类似,所以在选型初期我们以facebookgo/grace库为例集成到项目中进行测试:
func (h *Server) ListenAndServe(listenAddress string) error {
// ....
return gracehttp.Serve(&http.Server{
Addr: listenAddress,
Handler: h.httpServerMux,
})
}
使用ab工具压测 api-publish服务进行测试,服务启动后,执行以下命令:
ab -c 10 -n 2000 http://127.0.0.1:38272/api/list
然后给进程发送USR2信号 kill -USR2 api-server-pid,可看到以下结果:

结果中 Failed requests表示在整个压测请求中没有错误的请求,这可以说明服务重启时没有中断请求的接收和处理。如果使用sleep的方式测试,可以明显的看到新进程替代老进程的过程。
supervisor的问题

实际项目中,线上服务是被supervisor启动的。如上所说的我们如果通过grace或者endless的子进程启动后退出父进程这种方式的话,存在的问题就是子进程会被1号进程接管,导致supervisor认为服务挂掉重启服务,为了避免这种问题我们需要使用master-worker的方式。
overseer这个备选库实现了master-worker的方式。简单集成方式:
return overseer.RunErr(overseer.Config{
Address: address,
Program: func(state overseer.State) {
// ...
http.Serve(state.Listener, nil)
},
})
另外:在更新supervisor时,配置不需要更新,但重启服务的命令不能使用supervisor restart,需要使用supervisor signal sigusr2 api的命令。
还是使用上面的测试方式:

可以明显的看到,supervisor发送了USR2信号后,主进程的pid没有变化,重新启动了一个新的子进程来处理线上请求。

其他的问题
在使用overseer集成到项目中测试时,子进程的运行函数中仅仅加入了http服务的启动,这样导致一个问题。
main函数中任务会被执行两次,如果是cron的初始化,那么cron就会初始化两次,导致有两个cron在执行,这样的方式是不符合预期的。
导致这样的原因是:overseer在启动子进程时是使用和主进程一样的启动命令。所以main函数会执行两次。
func (mp *master) fork() error {
mp.debugf("starting %s", mp.binPath)
cmd := exec.Command(mp.binPath)
//mark this new process as the "active" slave process.
//this process is assumed to be holding the socket files.
mp.slaveCmd = cmd
mp.slaveID++
//provide the slave process with some state
e := os.Environ()
e = append(e, envBinID+"="+hex.EncodeToString(mp.binHash))
e = append(e, envBinPath+"="+mp.binPath)
e = append(e, envSlaveID+"="+strconv.Itoa(mp.slaveID))
e = append(e, envIsSlave+"=1")
e = append(e, envNumFDs+"="+strconv.Itoa(len(mp.slaveExtraFiles)))
cmd.Env = e
//inherit master args/stdfiles
cmd.Args = os.Args
cmd.Stdin = os.Stdin
cmd.Stdout = os.Stdout
cmd.Stderr = os.Stderr
//include socket files
cmd.ExtraFiles = mp.slaveExtraFiles
if err := cmd.Start(); err != nil {
return fmt.Errorf("Failed to start slave process: %s", err)
}
// ...
}
我们通过调整main函数的内容来解决这个问题:
- 将之前所有的初始化内容集成在initialization函数中
- 将http初始化的内容集成在httpServer函数中,返回一个http.Server
func main() {
// 配置初始化
if err := config.Init(appConf); err != nil {
fmt.Println(err)
return
}
cfg := config.GetConfig()
// 初始化graceful http服务
gracefulHTTPServer := microsvr.GracefulHTTPServer{
Address: cfg.HTTPListenAddress,
Conf: cfg,
Initialization: initialization,
HttpServer: httpServer,
}
// 启动
if err := gracefulHTTPServer.Run(); err != nil {
fmt.Println(err)
return
}
}
// 初始化日志、数据库链接、定时任务等
func initialization(cfg *config.Conf) {
if err := microsvr.Init(cfg); err != nil {
fmt.Println(err)
return
}
if err := server.AddConnect(cfg.Databases.String()); err != nil {
fmt.Println(err)
return
}
logger.Info("数据库链接成功:" + cfg.Databases.Address)
// cron
cron.Cron.Init()
}
// 初始化http服务,但不启动
func httpServer() *http.Server {
server := microsvr.NewHTTPServer()
server.SetAllowOrginBack()
Routers(server)
return server
}
实践对比结果:
- grace与endless:旧的api都不会断掉,会执行原来的逻辑,但pid会变化;不支持supervisor管理
- overseer:旧api不会断掉,会执行原来的逻辑,主进程pid也不会变化,支持supervisor、systemd等管理
grace与endless的原理比较相像,都是类似上述的一般思路的实现原理。overseer的不同,主要有两点:
- 添加了fetcher:用来支持自动升级bin文件,fetcher运行在一个goroutine中,通过预先设置好的间隔时间来检查bin文件;支持File、Github、S3的方式
- 添加了主进程管理平滑重启:子进程处理链接,能够保持主进程pid不变

我们使用了overseer作为最终的选型结果。
总结
终于介绍完啦!小伙伴们,这篇关于《Golang HTTP 服务平滑重启及升级的思路》的介绍应该让你收获多多了吧!欢迎大家收藏或分享给更多需要学习的朋友吧~golang学习网公众号也会发布Golang相关知识,快来关注吧!
使用Golang的singleflight防止缓存击穿的方法
- 上一篇
- 使用Golang的singleflight防止缓存击穿的方法
- 下一篇
- Go语言库系列之dotsql详解
-
- 无聊的柠檬
- 赞 ??,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢师傅分享博文!
- 2023-02-13 20:24:51
-
- 犹豫的白羊
- 这篇博文出现的刚刚好,很详细,太给力了,已加入收藏夹了,关注up主了!希望up主能多写Golang相关的文章。
- 2023-01-12 00:26:23
-
- 无奈的白羊
- 这篇文章内容真及时,好细啊,很好,码起来,关注老哥了!希望老哥能多写Golang相关的文章。
- 2023-01-11 23:39:46
-
- 复杂的项链
- 这篇技术文章真是及时雨啊,太详细了,感谢大佬分享,已收藏,关注大佬了!希望大佬能多写Golang相关的文章。
- 2023-01-07 21:37:49
-
- 俊逸的小天鹅
- 太给力了,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,看完之后很有帮助,总算是懂了,感谢大佬分享文章!
- 2023-01-04 00:40:39
-
- Golang · Go教程 | 19分钟前 | go · 模板 · html/template · Go html/template HTML转义 模板安全
- Go 模板输出可信 HTML 时为什么不能直接拼字符串
- 388浏览 收藏
-
- Golang · Go教程 | 33分钟前 |
- Go html/template 怎么避免用户输入被当成 HTML 执行
- 314浏览 收藏
-
- Golang · Go教程 | 44分钟前 |
- Go 模板里访问嵌套字段失败时怎么定位字段路径
- 486浏览 收藏
-
- Golang · Go教程 | 55分钟前 |
- Go 模板执行后输出空字符串怎么区分零值和缺失字段
- 204浏览 收藏
-
- Golang · Go教程 | 1小时前 |
- Go text/template 缺少 map 键时怎么让它直接报错
- 102浏览 收藏
-
- Golang · Go教程 | 1小时前 | 正则表达式 · Go教程 · 日志解析 · Go regexp 日志解析 SubexpIndex FindStringSubmatch
- Go 正则匹配日志字段时怎么把子匹配映射成结构体
- 436浏览 收藏
-
- Golang · Go教程 | 1小时前 | 错误排查 · 字符串匹配 · Go正则表达式 · Go regexp 命名捕获组 FindStringSubmatch
- Go 正则 FindStringSubmatch 返回空切片时怎么判断原因
- 207浏览 收藏
-
- Golang · Go教程 | 1小时前 | go · 正则表达式 · regexp · 字符串解析 · Go regexp 命名捕获组 SubexpIndex SubexpNames
- Go regexp 怎么用命名捕获组解析可选字段
- 252浏览 收藏
-
- Golang · Go教程 | 1小时前 |
- Go URL 拼接时怎么避免双斜杠和转义重复
- 149浏览 收藏
-
- Golang · Go教程 | 2小时前 |
- Go net/url 怎么只编码查询参数而不破坏路径斜杠
- 347浏览 收藏
-
- Golang · Go教程 | 2小时前 |
- Go errors.As 提取自定义错误时怎么保留操作上下文
- 227浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 2次使用
-
- SuperCLUE
- SuperCLUE是权威的中文大语言模型综合评测基准,涵盖语言理解、知识应用、AI Agent智能体及安全性等12项核心能力。通过多轮对话与客观测试,定期发布榜单与技术报告,为模型研发、优化及行业选型提供科学依据。
- 174次使用
-
- C-Eval
- 深入了解C-Eval中文评估套件,涵盖52个学科与4级难度。本文详解其功能特点、Zero-shot/Few-shot使用方法及代码示例,助您全面评测LLM中文理解与泛化能力。
- 106次使用
-
- AI Prompt Library
- 探索AI Prompt Library免费资源库,涵盖营销、写作及多场景AI提示词。兼容ChatGPT、Claude等工具,一键复制优化输出,提升工作效率。
- 34次使用
-
- LangGPT
- LangGPT是一种受编程语言启发的结构化提示词设计工具,提供双层框架、模块化模板及变量功能,帮助用户高效编写高质量Prompt。该项目已在GitHub免费开源,适用于内容创作、编程辅助等多场景。
- 43次使用
-
- Golang实现HTTP编程请求和响应
- 2022-12-28 101浏览
-
- golangNewRequest/gorequest实现http请求的示例代码
- 2023-01-24 343浏览
-
- 一文详解Golang中net/http包的实现原理
- 2022-12-29 419浏览
-
- 快速掌握Go语言HTTP标准库的实现方法
- 2022-12-30 327浏览
-
- Go http请求排队处理实战示例
- 2022-12-23 265浏览

