Golang分布式应用定时任务示例详解
怎么入门Golang编程?需要学习哪些知识点?这是新手们刚接触编程时常见的问题;下面golang学习网就来给大家整理分享一些知识点,希望能够给初学者一些帮助。本篇文章就来介绍《Golang分布式应用定时任务示例详解》,涉及到分布式、定时,有需要的可以收藏一下
正文
在系统开发中,有一类任务不是立即执行,而是在未来某个时间点或者按照一定间隔去执行,比如日志定期压缩、报表制作、过期数据清理等,这就是定时任务。
在单机中,定时任务通常需要实现一个类似crontab的系统,一般有两种方式:
- 最小堆,按照任务执行时间建堆,每次取最近的任务执行
- 时间轮,将任务放到时间轮列表中,每次转动取对应的任务列表执行
最小堆
最小堆是一种特殊的完全二叉树,任意非叶子节点的值不大于其子节点,如图

通过最小堆,根据任务最近执行时间键堆,每次取堆顶元素即最近需要执行的任务,设置timer定时器,到期后触发任务执行。由于堆的特性每次调整的时间复杂度为O(lgN),相较于普通队列性能更快。
在container/heap中已经实现操作堆的相关函数,我们只需要实现定期任务核心逻辑即可。
// 运行
func (c *Cron) Run() error {
// 设置cron已启动,atomic.Bool来保证并发安全
c.started.Store(true)
// 主循环
for {
// 如果停止则退出
if !c.started.Load() {
break
}
c.runTask()
}
return nil
}
// 核心逻辑
func (c *Cron) runTask() {
now := time.Now()
duration := infTime
// 获取堆顶元素
task, ok := c.tasks.Peek()
if ok {
// 如果已删除则弹出
if !c.set.Has(task.Name()) {
c.tasks.Pop()
return
}
// 计算于当前时间查找,设置定时器
if task.next.After(now) {
duration = task.next.Sub(now)
} else {
duration = 0
}
}
timer := time.NewTimer(duration)
defer timer.Stop()
// 当有新元素插入直接返回,防止新元素执行时间小于当前堆顶元素
select {
case
主要逻辑可总结为:
- 将任务按照下次执行时间建最小堆
- 每次取堆顶任务,设置定时器
- 如果中间有新加入任务,转入步骤2
- 定时器到期后执行任务
- 再次取下个任务,转入步骤2,依次执行
时间轮
另一种实现Cron的方式是时间轮,时间轮通过一个环形队列,每个插槽放入需要到期执行的任务,按照固定间隔转动时间轮,取插槽中任务列表执行,如图所示:

时间轮可看作一个表盘,如图中时间间隔为1秒,总共60个格子,如果任务在3秒后执行则放为插槽3,每秒转动次取插槽上所有任务执行。
如果执行时间超过最大插槽,比如有个任务需要63秒后执行(超过了最大格子刻度),一般可以通过多层时间轮,或者设置一个额外变量圈数,只执行圈数为0的任务。
时间轮插入的时间复杂度为O(1),获取任务列表复杂度为O(1),执行列表最差为O(n)。对比最小堆,时间轮插入删除元素更快。
核心代码如下:
// 定义
type TimeWheel struct {
interval time.Duration // 触发间隔
slots int // 总插槽数
currentSlot int // 当前插槽数
tasks []*list.List // 环形列表,每个元素为对应插槽的任务列表
set containerx.Set[string] // 记录所有任务key值,用来检查任务是否被删除
tricker *time.Ticker // 定时触发器
logger logr.Logger
}
func (tw *TimeWheel) Run() error {
tw.tricker = time.NewTicker(tw.interval)
for {
// 通过定时器模拟时间轮转动
now, ok := 0 {
task.circle--
item = item.Next()
continue
}
// 运行任务
go task.Exec()
// 计算任务下次运行时间
next := item.Next()
taskList.Remove(item)
item = next
task.next = task.Next(now)
if !task.next.IsZero() {
tw.add(now, task)
} else {
tw.Remove(task.Name())
}
}
}
// 添加任务,计算下一次任务执行的插槽与圈数
func (tw *TimeWheel) add(now time.Time, task *TimeWheelTask) {
if !task.initialized {
task.next = task.Next(now)
task.initialized = true
}
duration := task.next.Sub(now)
if duration
时间轮的主要逻辑如下:
- 将任务存在对应插槽的时间
- 通过定时间模拟时间轮转动
- 每次到期后遍历当前插槽的任务列表,若任务圈数为0则执行
- 如果任务未结束,计算下次执行的插槽与圈数
- 转入步骤2,依次执行
总结
本文主要总结了定时任务的两种实现方式,最小堆与时间轮,并分析其核心实现逻辑。
对于执行分布式定时任务,可以借助延时消息队列或者直接使用Kubernetes的CronJob。
自己开发的话可以借助Etcd:
- 中心节点Coordinator将任务按照一定算法(Hash、轮询、或者更复杂的分配算法)将任务与工作节点Worker绑定
- 每个Worker添加到有绑定到自己的任务则取出放到本地的Cron中
- 如果Worker挂掉,执行将其上任务重新绑定即可
本文所有代码见github.com/qingwave/go…
今天关于《Golang分布式应用定时任务示例详解》的内容就介绍到这里了,是不是学起来一目了然!想要了解更多关于golang的内容请关注golang学习网公众号!
Golang分布式应用之Redis示例详解
- 上一篇
- Golang分布式应用之Redis示例详解
- 下一篇
- Go日志框架zap增强及源码解读
-
- 精明的龙猫
- 这篇文章内容太及时了,太详细了,感谢大佬分享,收藏了,关注师傅了!希望师傅能多写Golang相关的文章。
- 2023-05-05 14:26:22
-
- 多情的狗
- 很好,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,看完之后很有帮助,总算是懂了,感谢楼主分享技术贴!
- 2023-02-20 15:25:42
-
- 贪玩的花卷
- 细节满满,已收藏,感谢老哥的这篇文章,我会继续支持!
- 2023-02-03 01:12:20
-
- 火星上的火龙果
- 这篇技术文章真是及时雨啊,太细致了,很好,码起来,关注up主了!希望up主能多写Golang相关的文章。
- 2023-01-28 03:23:08
-
- 刻苦的绿茶
- 真优秀,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢老哥分享技术贴!
- 2023-01-17 01:34:06
-
- Golang · Go教程 | 22小时前 |
- Go go.sum 校验记录的提交策略
- 160浏览 收藏
-
- Golang · Go教程 | 22小时前 |
- Go mod graph 排查依赖引入路径的方法
- 142浏览 收藏
-
- Golang · Go教程 | 22小时前 |
- Go coverprofile 按包查看覆盖盲区
- 262浏览 收藏
-
- Golang · Go教程 | 22小时前 |
- Go t.Setenv 测试 os.UserHomeDir 的环境读取边界
- 231浏览 收藏
-
- Golang · Go教程 | 22小时前 | Go教程 · Go encoding/json io.Reader buffered json.Decoder JSON流
- Go json.Decoder.Buffered 怎样读取尚未消费的输入
- 484浏览 收藏
-
- Golang · Go教程 | 23小时前 | goroutine · 流式处理 · Go教程 · Go io.Pipe 生产者消费者 背压 PipeWriter PipeReader
- Go io.Pipe 串流生产者消费者的背压处理
- 228浏览 收藏
-
- Golang · Go教程 | 23小时前 |
- Go 并发读写 map 的保护结构
- 198浏览 收藏
-
- Golang · Go教程 | 23小时前 |
- Go 接口中携带 nil 指针的判断方法
- 380浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 500次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 558次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 587次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 539次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 349次使用
-
- Go语言实战之实现一个简单分布式系统
- 2022-12-23 220浏览
-
- Go与Redis实现分布式互斥锁和红锁
- 2022-12-22 117浏览
-
- golang 基于 mysql 简单实现分布式读写锁
- 2023-01-07 384浏览
-
- golang常用定时任务汇总
- 2023-01-07 327浏览
-
- 一文带你入门Go语言中定时任务库Cron的使用
- 2023-01-07 250浏览
