Go并发编程之goroutine使用正确方法
知识点掌握了,还需要不断练习才能熟练运用。下面golang学习网给大家带来一个Golang开发实战,手把手教大家学习《Go并发编程之goroutine使用正确方法》,在实现功能的过程中也带大家重新温习相关知识点,温故而知新,回头看看说不定又有不一样的感悟!
并发(concurrency): 指在同一时刻只能有一条指令执行,但多个进程指令被快速的轮换执行,使得在宏观上具有多个进程同时执行的效果,但在微观上并不是同时执行的,只是把时间分成若干段,通过cpu时间片轮转使多个进程快速交替的执行。
1. 对创建的gorouting负载
1.1 不要创建一个你不知道何时退出的 goroutine
下面的代码有什么问题? 是不是在我们的程序种经常写类似的代码?
// Week03/blog/01/01.go package main import ( "log" "net/http" _ "net/http/pprof" ) // 初始化函数 func setup() { // 这里面有一些初始化的操作 } // 入口函数 func main() { setup() // 主服务 server() // for debug pprof() select {} } // http api server func server() { go func() { mux := http.NewServeMux() mux.HandleFunc("/ping", func(w http.ResponseWriter, r *http.Request) { w.Write([]byte("pong")) }) // 主服务 if err := http.ListenAndServe(":8080", mux); err != nil { log.Panicf("http server err: %+v", err) return } }() } // 辅助服务,用来debug性能测试 func pprof() { // 辅助服务,监听了其他端口,这里是 pprof 服务,用于 debug go http.ListenAndServe(":8081", nil) }
以上代码有几个问题,是否想到过?
- 如果
server
是在其他的包里面, 如果没有特殊的说明, 调用者是否知道这是一个异步调用? main
函数种,最后使用select {}
使整个程序处于阻塞状态,也就是空转, 会不会存在浪费?- 如果线上出现事故,debug服务已经突出,你想要debug这时是否很茫然?
- 如果某一天服务突然重启, 你却找不到事故日志, 是否能想到起的这个
8801
端口的服务呢?
1.2 不要帮别人做选择
把是否 并发 的选择权交给你的调用者,而不是自己就直接悄悄的用上了 goroutine
下面做如下改变,将两个函数是否并发操作的选择权留给main
函数
package main import ( "log" "net/http" _ "net/http/pprof" ) func setup(){ // 初始化操作 } func main(){ setup() // for debug go pprof() // 主服务,http api go server() select{} } func server(){ mux := http.NewServerMux() mux.HandleFunc("ping", func(w http.ResponseWriter, r * http.Request){ w.Write([]byte("pong")) } // 主服务 if err := http.ListerAndServer(":8080",mux); err != nil{ log.panic("http server launch error: %v", err) return } } func pprof(){ // 辅助服务 监听其他端口,这里是pprof服务,拥有debug http.ListerAndServer(":8081",nil) }
1.3 不要作为一个旁观者
一般情况下,不要让 主进程称为一个无所事事的旁观者, 明明可以干活,但是最后使用一个select
在那儿空跑,而且这种看着也怪,在没有特殊场景下尽量不要使用这种阻塞的方式
package main import ( "log" "net/http" _ "net/http/pprof" ) func setup() { // 这里面有一些初始化的操作 } func main() { setup() // for debug go pprof() // 主服务, http本来就是一个阻塞的服务 server() } func server() { mux := http.NewServeMux() mux.HandleFunc("/ping", func(w http.ResponseWriter, r *http.Request) { w.Write([]byte("pong")) }) // 主服务 if err := http.ListenAndServe(":8080", mux); err != nil { log.Panicf("http server err: %+v", err) return } } func pprof() { // 辅助服务,监听了其他端口,这里是 pprof 服务,用于 debug http.ListenAndServe(":8081", nil) }
1.4 不要创建不知道什么时候退出的 goroutine
很多时候我们在创建一个 协程(goroutine)后就放任不管了,如果程序永远运行下去,可能不会有什么问题,但实际情况并非如此, 我们的产品需要迭代,需要修复bug,需要不停进行构建,发布, 所以当程序退出后(主程序),运行的某些子程序并不会完全退出,比如这个 pprof, 他自身本来就是一个后台服务,但是当 main退出后,实际 pprof这个服务并不会退出,这样 pprof就会称为一个孤魂野鬼,称为一个 zombie, 导致goroutine泄漏。
所以再一次对程序进行修改, 保证 goroutine能正常退出
package main import ( "context" "fmt" "log" "net/http" _ "net/http/pprof" "time" ) func setup() { // 这里面有一些初始化的操作 } func main() { setup() // 用于监听服务退出, 这里使用了两个 goroutine,所以 cap 为2 done := make(chan error, 2) // 无缓冲的通道,用于控制服务退出,传入同一个 stop,做到只要有一个服务退出了那么另外一个服务也会随之退出 stop := make(chan struct{}, 0) // for debug go func() { // pprof 传递一个 channel fmt.Println("pprof start...") done <p>查看以下运行结果</p> <blockquote> <p>D:\gopath\controlGoExit>go run demo.go<br> app start...<br> pprof start...<br> err1:0xc00004c720<br> 2021/09/12 22:48:37 server exit err: mock pprof exit<br> 2021/09/12 22:48:37 server will exiting, addr: :8080<br> 2021/09/12 22:48:37 server will exiting, addr: :8081<br> err2:0xc00004c720<br> 2021/09/12 22:48:37 server exit err: http: Server closed</p> </blockquote> <p>虽然我们已经经过了三轮优化,但是这里还是有一些需要注意的地方:</p> <ol><li>虽然我们调用了 Shutdown 方法,但是我们其实并没有实现优雅退出</li> <li>在 server 方法中我们并没有处理 panic的逻辑,这里需要处理么?如果需要那该如何处理呢?</li> </ol><h3>1.5 不要创建都无法退出的 goroutine</h3> <p>永远无法退出的 goroutine, 即 goroutine 泄漏</p> <p>下面是一个例子,可能在不知不觉中会用到</p> <pre class="brush:plain;"> package main import ( "log" _ "net/http/pprof" "net/http" ) func setup() { // 这里面有一些初始化的操作 log.Print("服务启动初始化...") } func main() { setup() // for debug go pprof() // 主服务, http本来就是一个阻塞的服务 server() } func server() { mux := http.NewServeMux() mux.HandleFunc("/ping", func(w http.ResponseWriter, r *http.Request) { w.Write([]byte("pong")) }) mux.HandleFunc("/leak", LeakHandle) // 主服务 if err := http.ListenAndServe(":8080", mux); err != nil { log.Panicf("http server err: %+v", err) return } } func pprof() { // 辅助服务,监听了其他端口,这里是 pprof 服务,用于 debug http.ListenAndServe(":8081", nil) } func LeakHandle(w http.ResponseWriter, r *http.Request) { ch := make(chan bool, 0) go func() { fmt.Println("异步任务做一些操作") <p>复用一下上面的 server 代码,我们经常会写出这种类似的代码</p>
- http 请求来了,我们启动一个 goroutine 去做一些耗时一点的工作
- 然后返回了
- 然后之前创建的那个 goroutine 阻塞了(对于一个无缓冲的chan,如果没有接收或关闭操作会永远阻塞下去)
- 然后就泄漏了
绝大部分的 goroutine 泄漏都是因为 goroutine 当中因为各种原因阻塞了,我们在外面也没有控制它退出的方式,所以就泄漏了
接下来我们验证一下是不是真的泄漏了
服务启动之后,访问debug访问网址,http://localhost:8081/debug/pprof/goroutine?debug=1.
当请求两次 http://127.0.0.1/leak后
查看 goroutine数量,如图
继续请求三次后,如图
1.6 确保创建出的goroutine工作已经完成
这个其实就是优雅退出的问题,程序中可能启动了很多的 goroutine 去处理一些问题,但是服务退出的时候我们并没有考虑到就直接退出了。例如退出前日志没有 flush 到磁盘,我们的请求还没完全关闭,异步 worker 中还有 job 在执行等等。
看一个例子,假设现在有一个埋点服务,每次请求我们都会上报一些信息到埋点服务上
// Reporter 埋点服务上报 type Reporter struct { } var reporter Reporter // 模拟耗时 func (r Reporter) report(data string) { time.Sleep(time.Second) fmt.Printf("report: %s\n", data) } mux.HandleFunc("/ping", func(w http.ResponseWriter, r *http.Request) { // 在请求中异步调用 // 这里并没有满足一致性 go reporter.report("ping pong") fmt.Println("ping") w.Write([]byte("pong")) })
在发送一次请后之后就直接退出了, 异步上报的逻辑是没有执行的
$ go tun demo.go ping ^C signal:interrupt
有两种改法:
- 一种是给 reporter 加上 shutdown 方法,类似 http 的 shutdown,等待所有的异步上报完成之后,再退出
- 另外一种是我们直接使用 一些 worker 来执行,在当然这个 worker 也要实现类似 shutdown 的方法。
一般推荐后一种,因为这样可以避免请求量比较大时,创建大量 goroutine,当然如果请求量比较小,不会很大,用第一种也是可以的。
第二种方法代码如下:
// 埋点上报 package main import ( "context" "fmt" "log" "net/http" "sync" ) // Reporter 埋点服务上报 type Reporter struct { worker int messages chan string wg sync.WaitGroup closed chan struct{} once sync.Once } // NewReporter NewReporter func NewReporter(worker, buffer int) *Reporter { return &Reporter{ worker: worker, messages: make(chan string, buffer), closed: make(chan struct{}), } } // 执行上报 func (r *Reporter) Run(stop <p>上面代码应该还有问题,等日后再做优化</p> <p>第一种方法参考:<a target='_blank' href='https://www.17golang.com/gourl/?redirect=MDAwMDAwMDAwML57hpSHp6VpkrqbYLx2eayza4KafaOkbLS3zqSBrJvPsa5_0Ia6sWuR4Juaq6t9nq5roGCUgXuytMyerphlm5iwoXfdkqqqrpqtdpnFq2Wex2topommsa6_3J6xgXZ8mrCucpSElbKvmtN-YcWgeqDHpoZlfJGLsb67p6yBm2jVxqF_2pq7pqySvoKcroqUqsimq6WRgYusx6azon2rhM--e4aUh6elaZK6m2C8dnmss2uCmn2jpGy0t86kgaybz7Guf9CGurFrkeCbbQ' rel='nofollow'>reporter 添加shutdown方法</a></p> <h2>2. 总结</h2> <p>在使用go语言初期, 使用一个<code>go</code>关键字轻松开启一个异步协程,再加上chan很容易实现 <code>生产者---》消费者</code> 设计模型,但是在使用过程中往往忽略了 程序退出时资源回收的问题,也很容易写成一个数据使用一个go来处理,虽然官方说明了 创建一个goroutine的占用资源很小,但是再小的 占用空间也敌不过一个死循环啊。 所以在使用gorouine创建协程除了注意正确规定线程数以为,也要注意以下几点。</p>
- 将是否异步调用的选择泉交给调用者, 不然很有可能使用者不知道所调用的函数立使用了
go
- 如果要启动一个
goroutine
, 要对他负责
不用启动一个无法控制他退出或者无法知道何时退出的goroutine
启动goroutine时加上 panic recovery机制,避免服务直接不可用,可以使用如下代码
// DeferRecover defer recover from panic. func DeferRecover(tag string, handlePanic func(error)) func() { return func() { if err := recover(); err != nil { log.Errorf("%s, recover from: %v\n%s\n", tag, err, debug.Stack()) if handlePanic != nil { handlePanic(fmt.Errorf("%v", err)) } } } } // WithRecover recover from panic. func WithRecover(tag string, f func(), handlePanic func(error)) { defer DeferRecover(tag, handlePanic)() f() } // Go is a wrapper of goroutine with recover. func Go(name string, f func(), handlePanic func(error)) { go WithRecover(fmt.Sprintf("goroutine %s", name), f, handlePanic) }
- 造成 goroutine 泄漏的主要原因就是 goroutine 中造成了阻塞,并且没有外部手段控制它退出
尽量避免在请求中直接启动 goroutine 来处理问题,而应该通过启动 worker 来进行消费,这样可以避免由于请求量过大,而导致大量创建 goroutine 从而导致 oom,当然如果请求量本身非常小,那当我没说
3. 参考
https://dave.cheney.net/practical-go/presentations/qcon-china.html
https://lailin.xyz/post/go-training-week3-goroutine.html#总结
https://www.ardanlabs.com/blog/2019/04/concurrency-trap-2-incomplete-work.html
https://www.ardanlabs.com/blog/2014/01/concurrency-goroutines-and-gomaxprocs.html
今天带大家了解了goroutine、并发编程的相关知识,希望对你有所帮助;关于Golang的技术知识我们会一点点深入介绍,欢迎大家关注golang学习网公众号,一起学习编程~

- 上一篇
- golang高性能的http请求 fasthttp详解

- 下一篇
- 深入理解go slice结构
-
- 外向的面包
- 这篇技术文章真是及时雨啊,太详细了,写的不错,收藏了,关注博主了!希望博主能多写Golang相关的文章。
- 2023-02-27 17:21:45
-
- 爱笑的小蝴蝶
- 这篇文章内容太及时了,老哥加油!
- 2023-02-24 20:52:22
-
- 单身的路灯
- 这篇技术文章出现的刚刚好,太细致了,受益颇多,收藏了,关注up主了!希望up主能多写Golang相关的文章。
- 2023-02-08 14:05:27
-
- 传统的皮带
- 太细致了,mark,感谢博主的这篇博文,我会继续支持!
- 2023-01-25 16:36:09
-
- 合适的春天
- 赞 ??,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢up主分享技术文章!
- 2023-01-15 09:22:00
-
- 聪明的眼睛
- 真优秀,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢作者分享技术贴!
- 2023-01-07 12:35:51
-
- 酷酷的小兔子
- 赞 ??,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,看完之后很有帮助,总算是懂了,感谢作者分享文章!
- 2023-01-03 03:52:46
-
- 甜蜜的羊
- 这篇技术贴真是及时雨啊,细节满满,赞 ??,收藏了,关注老哥了!希望老哥能多写Golang相关的文章。
- 2023-01-01 18:44:00
-
- Golang · Go教程 | 1分钟前 |
- Golangnet/http教程:搭建服务器与客户端方法
- 217浏览 收藏
-
- Golang · Go教程 | 4分钟前 |
- GolangCookie与Session管理全解析
- 225浏览 收藏
-
- Golang · Go教程 | 4分钟前 |
- Golang原子替换:rename实现与事务解析
- 161浏览 收藏
-
- Golang · Go教程 | 10分钟前 |
- Gin框架构建RESTAPI入门教程
- 455浏览 收藏
-
- Golang · Go教程 | 12分钟前 |
- Golang日志优化:异步缓冲提升效率
- 387浏览 收藏
-
- Golang · Go教程 | 13分钟前 |
- Golang覆盖率统计方法与工具使用技巧
- 119浏览 收藏
-
- Golang · Go教程 | 14分钟前 |
- Golangcontext.WithValue线程安全使用全解析
- 226浏览 收藏
-
- Golang · Go教程 | 16分钟前 |
- Golangselect阻塞问题与channel非阻塞技巧
- 287浏览 收藏
-
- Golang · Go教程 | 22分钟前 |
- Golang接口隐式实现,体现鸭子类型思想
- 341浏览 收藏
-
- Golang · Go教程 | 22分钟前 |
- Golang时间处理性能优化技巧分享
- 373浏览 收藏
-
- Golang · Go教程 | 32分钟前 |
- Golang位操作优化:bitset替代常规方法
- 208浏览 收藏
-
- Golang · Go教程 | 33分钟前 |
- Golang微服务热更新配置方案
- 361浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 511次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 498次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 484次学习
-
- 千音漫语
- 千音漫语,北京熠声科技倾力打造的智能声音创作助手,提供AI配音、音视频翻译、语音识别、声音克隆等强大功能,助力有声书制作、视频创作、教育培训等领域,官网:https://qianyin123.com
- 95次使用
-
- MiniWork
- MiniWork是一款智能高效的AI工具平台,专为提升工作与学习效率而设计。整合文本处理、图像生成、营销策划及运营管理等多元AI工具,提供精准智能解决方案,让复杂工作简单高效。
- 89次使用
-
- NoCode
- NoCode (nocode.cn)是领先的无代码开发平台,通过拖放、AI对话等简单操作,助您快速创建各类应用、网站与管理系统。无需编程知识,轻松实现个人生活、商业经营、企业管理多场景需求,大幅降低开发门槛,高效低成本。
- 105次使用
-
- 达医智影
- 达医智影,阿里巴巴达摩院医疗AI创新力作。全球率先利用平扫CT实现“一扫多筛”,仅一次CT扫描即可高效识别多种癌症、急症及慢病,为疾病早期发现提供智能、精准的AI影像早筛解决方案。
- 98次使用
-
- 智慧芽Eureka
- 智慧芽Eureka,专为技术创新打造的AI Agent平台。深度理解专利、研发、生物医药、材料、科创等复杂场景,通过专家级AI Agent精准执行任务,智能化工作流解放70%生产力,让您专注核心创新。
- 97次使用
-
- Go语言使用goroutine及通道实现并发详解
- 2023-01-02 221浏览
-
- 如果用go写一个高性能点的聊天服务器应该怎么写?
- 2023-02-16 433浏览
-
- GoLang使goroutine停止的五种方法实例
- 2022-12-30 106浏览
-
- Go语言CSP并发模型goroutine及channel底层实现原理
- 2022-12-31 451浏览
-
- SingleFlight模式的Go并发编程学习
- 2023-01-01 285浏览