连续执行多个独立作业
来源:stackoverflow
2024-04-06 22:18:28
0浏览
收藏
学习Golang要努力,但是不要急!今天的这篇文章《连续执行多个独立作业》将会介绍到等等知识点,如果你想深入学习Golang,可以关注我!我会持续更新相关文章的,希望对大家都能有所帮助!
问题内容
我有一组相互独立的工作。因此,这些作业中的每一个都可以使用 goroutine 并发运行。请注意,一旦单个作业完成,它应该等待几秒钟并重新启动(适用于所有作业),并且这会循环进行,直到 Go API 服务停止。另请注意,所有这些作业都执行相同的 goroutine(进行 REST 调用)。在 Go 中实现这一点的最佳模式是什么?请注意,我还想在服务关闭之前等待当前正在执行的作业完成。
正确答案
如果我没猜错的话,你正在寻找这样的东西 这是一个带有消费者池的服务,可以同时执行作业。当一项工作完成后,它会在一段时间后再次重复,直到您停止服务。
type job struct {
id int
result chan error
}
func newjob(id int) job {
return job{
id: id,
result: make(chan error, 1),
}
}
type service struct {
pending chan job
consumerlimit int
repeatinterval time.duration
isclosed chan struct{}
shutdown chan chan error
}
func newservice(repeatinterval time.duration, consumerlimit int, pendingchannelsize int) *service {
s := &service{
pending: make(chan job, pendingchannelsize),
consumerlimit: consumerlimit,
repeatinterval: repeatinterval,
isclosed: make(chan struct{}, consumerlimit),
shutdown: make(chan chan error),
}
for i := 0; i < s.consumerlimit; i++ {
go s.consumer()
}
return s
}
func (s *service) do(ctx context.context, job job) error {
select {
case <-ctx.done():
return ctx.err()
case s.pending <- job:
return <-job.result
case <-s.isclosed:
return errors.new("service has been shut down")
}
}
func (s *service) consumer() {
for {
select {
case j := <-s.pending:
//simulate working process
time.sleep(time.duration(rand.intn(200)) + 200)
j.result <- nil
fmt.println(fmt.sprintf("job %v is done", j.id))
go func() {
//repeat after a time
time.sleep(s.repeatinterval)
ctx, cancel := context.withtimeout(context.background(), 2*time.second)
defer cancel()
if err := s.do(ctx, newjob(j.id)); err != nil {
fmt.println(fmt.errorf("failed to send job to repeat: %v", err))
}
}()
case result := <-s.shutdown:
result <- nil
return
}
}
}
func (s *service) close() error {
result := make(chan error, 1)
for i := 0; i < s.consumerlimit; i++ {
s.shutdown <- result
}
close(s.isclosed)
return <-result
}
func main() {
interrupt := make(chan os.signal, 1)
signal.notify(interrupt, os.interrupt)
service := newservice(time.second, 5, 1000)
//assign jobs
for i := 1; i < 10; i++ {
go func(i int) {
if err := service.do(context.background(), newjob(i)); err != nil {
fmt.println(fmt.errorf("failed to send job: %v", err))
}
}(i)
}
select {
case <-interrupt:
switch err := service.close(); err {
case nil:
fmt.println("service has been shutdown successfully")
default:
fmt.println(fmt.errorf("failed to graceful shut down service: %w", err))
}
return
}
}
如果我理解正确的话,您正在寻找这样的东西。
此代码将在循环中运行工作人员,工作人员作为一个组并行运行,直到您退出发送结束信号的程序,但在退出之前等待当前循环完成。
func main() {
srv := server{
workers: 5,
}
srv.Run()
}
// inspired by: https://goinbigdata.com/golang-wait-for-all-goroutines-to-finish/#:~:text=A%20WaitGroup%20allows%20to%20wait,until%20all%20goroutines%20have%20finished.
func work(wg *sync.WaitGroup, i int) {
defer wg.Done()
rand.Seed(time.Now().UnixNano())
n := rand.Intn(10)
fmt.Printf("Worker %v: Started\n", i)
time.Sleep(time.Duration(n) * time.Second)
fmt.Printf("Worker %v: Finished\n", i)
}
type server struct {
running bool
workers int
}
func (srv *server) Run() {
done := make(chan bool, 1) // this channel
signalCh := make(chan os.Signal, 1) // this channel will get a signal on system call
signal.Notify(signalCh, syscall.SIGINT, syscall.SIGTERM)
go func() {
<-signalCh
srv.running = false
done <- true
}()
srv.running = true
for srv.running {
var wg sync.WaitGroup
for i := 0; i < srv.workers; i++ {
wg.Add(1)
go work(&wg, i)
}
wg.Wait()
}
<-done
}今天关于《连续执行多个独立作业》的内容介绍就到此结束,如果有什么疑问或者建议,可以在golang学习网公众号下多多回复交流;文中若有不正之处,也希望回复留言以告知!
版本声明
本文转载于:stackoverflow 如有侵犯,请联系study_golang@163.com删除
golang.org/x/sys/windows/registry (k Key)ReadSubKeyNames() 返回空切片
- 上一篇
- golang.org/x/sys/windows/registry (k Key)ReadSubKeyNames() 返回空切片
- 下一篇
- 禁用 GORM 中的 CreatedAt UpdatedAt DeletedAt 字段
查看更多
最新文章
-
- Golang · Go问答 | 9小时前 | 标准库 · 性能优化 · Go问答 · io.CopyBuffer WriterTo ReaderFrom Go io.Copy Go手写复制循环
- Copy、CopyBuffer 与手写循环的差别主要在哪里
- 243浏览 收藏
-
- Golang · Go问答 | 9小时前 | error · api设计 · database/sql · Go问答 · database/sql errors.Is 错误封装 Go错误处理 错误转换 领域错误
- 业务层是否应该暴露底层数据库错误,怎样转换才不丢信息
- 409浏览 收藏
-
- Golang · Go问答 | 10小时前 |
- 什么时候应该定义哨兵错误,什么时候使用自定义类型
- 145浏览 收藏
-
- Golang · Go问答 | 10小时前 |
- 敏感字段已经写入日志,怎样从源头建立不可绕过的脱敏层
- 341浏览 收藏
-
- Golang · Go问答 | 11小时前 |
- 日志量过大时先调级别还是做采样,取舍依据是什么
- 354浏览 收藏
-
- Golang · Go问答 | 11小时前 | go · slog · 可观测性 · Go问答 · log/slog Logger.With LogAttrs Go结构化日志 slog Handler
- 结构化日志字段应该在调用处还是 Handler 中补齐
- 406浏览 收藏
-
- Golang · Go问答 | 11小时前 | go · Go问答 · replace go.work 本地联调 Go Modules Go多模块工作区
- 多模块联调时 replace 与 go.work 的职责有什么区别
- 195浏览 收藏
-
- Golang · Go问答 | 12小时前 |
- 项目应使用 replace 还是发布预览版本来联调依赖
- 479浏览 收藏
查看更多
课程推荐
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
查看更多
AI推荐
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 371次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 440次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 448次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 394次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 219次使用
查看更多
相关文章
-
- 用Nginx反向代理部署go写的网站。
- 2023-01-17 502浏览
-
- GoLand调式动态执行代码
- 2023-01-13 502浏览
-
- Go crypto/rand.Text 的长度为什么不是固定字符数
- 2026-10-04 501浏览
-
- Go strings.ToValidUTF8 清洗日志内容的边界
- 2026-10-03 501浏览
-
- Go tls.GetCertificate 为什么收不到空 ServerName 请求
- 2026-09-27 501浏览

