Go worker pool:别让后台任务无限制创建 goroutine
来源:Golang学习网专题原创
2026-06-08 21:06:00
0浏览
收藏
消息消费、批量导入、图片处理和报表任务都容易写成“来一个任务开一个 goroutine”。短期看吞吐高,长期看任务高峰会让内存、连接池和 CPU 一起抖动。worker pool 用固定并发换稳定性。
队列必须有容量
无界队列只是把压力藏到内存里。任务队列要有长度上限,超过后选择阻塞、丢弃、返回繁忙或落盘。
worker 数量来自资源预算
如果每个任务都会访问数据库,worker 数不能超过数据库连接池预算。CPU 密集任务则要参考 CPU 核心和单任务耗时。
关闭时要排水
服务退出时要停止接收新任务,等待已有任务完成或超时取消。直接关闭进程会留下半写入状态。
生产场景
适用于消息消费、图片处理、报表生成、批量导入和异步通知。任务来源不稳定时,固定 worker 数可以把资源消耗锁在可预测范围。
关键指标
- 队列长度、入队失败和任务等待时间
- worker 忙闲比例与单任务处理耗时
- 任务失败、重试和死信数量
常见误区
- 用无界队列隐藏压力直到内存被打满
- worker 数量超过数据库或外部 API 容量
- 退出时直接杀进程,导致任务半处理
落地建议
建议给队列设置明确容量和满队列策略。重要任务可落盘或进入消息队列,普通任务可以返回繁忙。停机时先停止接收新任务,再用有限时间等待 worker 排水。
代码示例
jobs := make(chan Job, 100) for i := 0; i
上线检查
- 队列长度可观测。
- worker 数和下游资源预算一致。
- 服务停止时能关闭队列并等待 worker 退出。
版本声明
本文转载于:Golang学习网专题原创 如有侵犯,请联系study_golang@163.com删除
Go rate.Limiter:用令牌桶把入口流量变成可承受的速度
- 上一篇
- Go rate.Limiter:用令牌桶把入口流量变成可承受的速度
- 下一篇
- Go channel 背压:让生产速度服从消费能力
查看更多
最新文章
-
- Golang · Go教程 | 5小时前 |
- Go utf8.RuneStart 怎么在字节切片中找到字符边界
- 361浏览 收藏
-
- Golang · Go教程 | 5小时前 | Context · 并发控制 · Go教程 · Cause · Err · Go 上下文取消 context.Cause 取消原因 context.Err
- Go context.Cause 和 Err 返回值为什么可能不同
- 382浏览 收藏
-
- Golang · Go教程 | 5小时前 |
- Go utf8.DecodeRuneInString 遇到非法字节时会返回什么
- 109浏览 收藏
-
- Golang · Go教程 | 5小时前 | go · utf-8 · unicode/utf8 ·
- Go unicode/utf8.ValidString 怎么判断输入是否为合法 UTF-8
- 209浏览 收藏
-
- Golang · Go教程 | 5小时前 | 事务 · go · 数据库 · commit 事务回滚 database/sql sql.Tx
- Go database/sql 事务提交失败时怎么保证回滚
- 339浏览 收藏
-
- Golang · Go教程 | 5小时前 |
- Go database/sql 查询结果不用完为什么要关闭 Rows
- 258浏览 收藏
-
- Golang · Go教程 | 13小时前 | 错误处理 · regexp · Go教程 · 配置热加载 · Go regexp.Compile 正则表达式配置 配置错误处理
- Go regexp 编译正则失败时怎么把错误交给配置层
- 222浏览 收藏
-
- Golang · Go教程 | 13小时前 |
- Go regexp.FindAllStringSubmatchIndex 怎么映射捕获组位置
- 134浏览 收藏
查看更多
课程推荐
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
查看更多
AI推荐
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 61次使用
-
- SuperCLUE
- SuperCLUE是权威的中文大语言模型综合评测基准,涵盖语言理解、知识应用、AI Agent智能体及安全性等12项核心能力。通过多轮对话与客观测试,定期发布榜单与技术报告,为模型研发、优化及行业选型提供科学依据。
- 216次使用
-
- C-Eval
- 深入了解C-Eval中文评估套件,涵盖52个学科与4级难度。本文详解其功能特点、Zero-shot/Few-shot使用方法及代码示例,助您全面评测LLM中文理解与泛化能力。
- 145次使用
-
- AI Prompt Library
- 探索AI Prompt Library免费资源库,涵盖营销、写作及多场景AI提示词。兼容ChatGPT、Claude等工具,一键复制优化输出,提升工作效率。
- 78次使用
-
- Generrated
- Generrated汇集9300+张DALL·E生成图像及对应提示词,支持查看完整图集、对比DALL·E 2与3版本差异,是AI绘图新手学习Prompt设计与获取创作灵感的实用工具。
- 55次使用
查看更多
相关文章
-
- Golang errgroup 设计及实现原理解析
- 2023-01-07 384浏览
-
- golang 防缓存击穿singleflight的实现
- 2023-01-07 119浏览
-
- GogRPC超时控制Deadlines用法详解
- 2023-01-07 122浏览
-
- gRPC的发布订阅模式及REST接口和超时控制
- 2023-01-07 112浏览
-
- SingleFlight模式的Go并发编程学习
- 2023-01-01 285浏览

