Go worker pool:别让后台任务无限制创建 goroutine
来源:Golang学习网专题原创
2026-06-08 21:06:00
0浏览
收藏
所属专题:Go 并发治理实战
- 从请求生命周期、并发扇出到限流、连接池和上线清单
消息消费、批量导入、图片处理和报表任务都容易写成“来一个任务开一个 goroutine”。短期看吞吐高,长期看任务高峰会让内存、连接池和 CPU 一起抖动。worker pool 用固定并发换稳定性。
队列必须有容量
无界队列只是把压力藏到内存里。任务队列要有长度上限,超过后选择阻塞、丢弃、返回繁忙或落盘。
worker 数量来自资源预算
如果每个任务都会访问数据库,worker 数不能超过数据库连接池预算。CPU 密集任务则要参考 CPU 核心和单任务耗时。
关闭时要排水
服务退出时要停止接收新任务,等待已有任务完成或超时取消。直接关闭进程会留下半写入状态。
生产场景
适用于消息消费、图片处理、报表生成、批量导入和异步通知。任务来源不稳定时,固定 worker 数可以把资源消耗锁在可预测范围。
关键指标
- 队列长度、入队失败和任务等待时间
- worker 忙闲比例与单任务处理耗时
- 任务失败、重试和死信数量
常见误区
- 用无界队列隐藏压力直到内存被打满
- worker 数量超过数据库或外部 API 容量
- 退出时直接杀进程,导致任务半处理
落地建议
建议给队列设置明确容量和满队列策略。重要任务可落盘或进入消息队列,普通任务可以返回繁忙。停机时先停止接收新任务,再用有限时间等待 worker 排水。
代码示例
jobs := make(chan Job, 100) for i := 0; i
上线检查
- 队列长度可观测。
- worker 数和下游资源预算一致。
- 服务停止时能关闭队列并等待 worker 退出。
版本声明
本文转载于:Golang学习网专题原创 如有侵犯,请联系study_golang@163.com删除
Go rate.Limiter:用令牌桶把入口流量变成可承受的速度
- 上一篇
- Go rate.Limiter:用令牌桶把入口流量变成可承受的速度
- 下一篇
- Go channel 背压:让生产速度服从消费能力
查看更多
最新文章
-
- Golang · Go教程 | 3小时前 | errgroup · singleflight · 超时控制 · 并发编程 · database/sql · golang
- Go 并发治理上线清单:从代码到压测的 20 个检查点
- 357浏览 收藏
-
- Golang · Go教程 | 4小时前 | errgroup · singleflight · 超时控制 · 并发编程 · database/sql · golang
- Go 并发治理监控:只看 QPS 远远不够
- 482浏览 收藏
-
- Golang · Go教程 | 5小时前 | errgroup · singleflight · 超时控制 · 并发编程 · database/sql · golang
- Go 优雅停机:让正在处理的请求有机会收尾
- 659浏览 收藏
-
- Golang · Go教程 | 6小时前 | errgroup · singleflight · 超时控制 · 并发编程 · database/sql · golang
- Go fan-in/fan-out 模式:并发流水线如何正确收口
- 650浏览 收藏
-
- Golang · Go教程 | 7小时前 | errgroup · singleflight · 超时控制 · 并发编程 · database/sql · golang
- Go 共享状态并发安全:mutex、atomic 和 channel 怎么选
- 173浏览 收藏
-
- Golang · Go教程 | 8小时前 | errgroup · singleflight · 超时控制 · 并发编程 · database/sql · golang
- Go goroutine 泄漏排查:用 pprof 找到没有退出的人
- 339浏览 收藏
-
- Golang · Go教程 | 9小时前 | errgroup · singleflight · 超时控制 · 并发编程 · database/sql · golang
- Go 服务降级:不是所有下游失败都要拖垮主流程
- 167浏览 收藏
-
- Golang · Go教程 | 10小时前 | errgroup · singleflight · 超时控制 · 并发编程 · database/sql · golang
- Go 重试与退避:别让失败请求把流量放大三倍
- 456浏览 收藏
-
- Golang · Go教程 | 11小时前 | errgroup · singleflight · 超时控制 · 并发编程 · database/sql · golang
- Go SQL 查询取消:让慢查询跟着请求一起停
- 175浏览 收藏
-
- Golang · Go教程 | 12小时前 | errgroup · singleflight · 超时控制 · 并发编程 · database/sql · golang
- Go database/sql 连接池:MaxOpenConns 不是越大越好
- 513浏览 收藏
-
- Golang · Go教程 | 13小时前 | errgroup · singleflight · 超时控制 · 并发编程 · database/sql · golang
- Go Transport 连接复用:高并发下别把短连接当默认答案
- 609浏览 收藏
-
- Golang · Go教程 | 14小时前 | errgroup · singleflight · 超时控制 · 并发编程 · database/sql · golang
- Go HTTP Client 超时:别让默认客户端拖住 goroutine
- 351浏览 收藏
查看更多
课程推荐
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
查看更多
AI推荐
-
- ChatExcel酷表
- ChatExcel酷表是由北京大学团队打造的Excel聊天机器人,用自然语言操控表格,简化数据处理,告别繁琐操作,提升工作效率!适用于学生、上班族及政府人员。
- 7093次使用
-
- Any绘本
- 探索Any绘本(anypicturebook.com/zh),一款开源免费的AI绘本创作工具,基于Google Gemini与Flux AI模型,让您轻松创作个性化绘本。适用于家庭、教育、创作等多种场景,零门槛,高自由度,技术透明,本地可控。
- 7518次使用
-
- 可赞AI
- 可赞AI,AI驱动的办公可视化智能工具,助您轻松实现文本与可视化元素高效转化。无论是智能文档生成、多格式文本解析,还是一键生成专业图表、脑图、知识卡片,可赞AI都能让信息处理更清晰高效。覆盖数据汇报、会议纪要、内容营销等全场景,大幅提升办公效率,降低专业门槛,是您提升工作效率的得力助手。
- 7324次使用
-
- 星月写作
- 星月写作是国内首款聚焦中文网络小说创作的AI辅助工具,解决网文作者从构思到变现的全流程痛点。AI扫榜、专属模板、全链路适配,助力新人快速上手,资深作者效率倍增。
- 9261次使用
-
- MagicLight
- MagicLight.ai是全球首款叙事驱动型AI动画视频创作平台,专注于解决从故事想法到完整动画的全流程痛点。它通过自研AI模型,保障角色、风格、场景高度一致性,让零动画经验者也能高效产出专业级叙事内容。广泛适用于独立创作者、动画工作室、教育机构及企业营销,助您轻松实现创意落地与商业化。
- 7987次使用
查看更多
相关文章
-
- Golang errgroup 设计及实现原理解析
- 2023-01-07 384浏览
-
- golang 防缓存击穿singleflight的实现
- 2023-01-07 119浏览
-
- GogRPC超时控制Deadlines用法详解
- 2023-01-07 122浏览
-
- gRPC的发布订阅模式及REST接口和超时控制
- 2023-01-07 112浏览
-
- SingleFlight模式的Go并发编程学习
- 2023-01-01 285浏览

