当前位置:首页 > 文章列表 > Golang > Go问答 > 所有 goroutine 都无法继续执行,系统陷入死锁状态,我感到困惑

所有 goroutine 都无法继续执行,系统陷入死锁状态,我感到困惑

来源:stackoverflow 2024-03-06 14:00:29 0浏览 收藏

golang学习网今天将给大家带来《所有 goroutine 都无法继续执行,系统陷入死锁状态,我感到困惑》,感兴趣的朋友请继续看下去吧!以下内容将会涉及到等等知识点,如果你是正在学习Golang或者已经是大佬级别了,都非常欢迎也希望大家都能给我建议评论哈~希望能帮助到大家!

问题内容

tl;dr:典型的all goroutine睡着了,死锁!却搞不出来

我正在解析维基词典 xml 转储以构建单词数据库。我将对每篇文章文本的解析推迟到 goroutine,希望它能加快该过程。

它有 7gb,在我的机器上串行执行时,处理时间不到 2 分钟,但如果我可以利用所有内核,为什么不呢。

我对线程总体来说是新手,我收到了 all goroutine are sleeped, deadlock! 错误。

这是怎么回事?

这可能根本没有性能,因为它使用无缓冲的通道,因此所有 goroutine 实际上最终都会串行执行,但我的想法是学习和理解线程,并衡量不同替代方案所需的时间:

  • 无缓冲通道
  • 不同大小的缓冲通道
  • 一次仅调用与 runtime.numcpu() 一样多的 goroutine

我的伪代码代码摘要:

while tag := xml.getNextTag() {
    wg.Add(1)
    go parseTagText(chan, wg, tag.text)

    // consume a channel message if available
    select {
    case msg := <-chan:
        // do something with msg            
    default:
    }
}
// reading tags finished, wait for running goroutines, consume what's left on the channel
for msg := range chan {
    // do something with msg
}
// Sometimes this point is never reached, I get a deadlock
wg.Wait()

----

func parseTagText(chan, wg, tag.text) {
    defer wg.Done()
    // parse tag.text
    chan <- whatever // just inform that the text has been parsed
}

完整代码:

https://play.golang.org/p/0t2eqptjbxe


解决方案


在 go 演示的完整示例中,您:

  • 创建一个通道(第 39 行,results := make(chan langs))和一个等待组(第 40 行,var waitsync.waitgroup)。到目前为止一切顺利。

  • 循环:在循环中,有时会衍生出一个任务:

    if ...various conditions... {
                    wait.add(1)
                    go parseterm(results, &wait, text)
                }
  • 在循环中,有时会从通道进行非阻塞读取(如您的问题所示)。这里也没有问题。但是...

  • 在循环结束时,使用:

    for res := range results {
        ...
    }

    无需在所有编写器完成后,在同一位置调用 close(results)。此循环使用从通道读取的阻塞。只要某个 writer goroutine 仍在运行,阻塞读取就可以阻塞,而不会导致整个系统停止,但是当最后一个 writer 完成写入并退出时,就没有剩余的 writer goroutine 了。任何其他剩余的 goroutine 可能会拯救你,但没有。

既然你正确使用了 var wait (在正确的位置添加 1,并在 writer 中的正确位置调用 done()),解决方案就是再添加一个 goroutine,这将是拯救你的 goroutine :

go func() {
    wait.wait()
    close(results)
}()

您应该在进入 for res := range results 循环之前关闭此救援程序 goroutine。 (如果您更早地将其分离,它可能会看到 wait 变量计数太快为零,就在通过分离另一个 parseterm 再次计数之前。)

这个匿名函数将阻塞在 wait 变量的 wait() 函数中,直到最后一个 writer goroutine 调用了最终的 wait.done(),这将解锁此 goroutine。然后这个 goroutine 将调用 close(results),这将安排 main goroutine 中的 for 循环完成,从而解锁该 goroutine。当这个 goroutine(救援者)返回并因此终止时,不再有救援者,但我们不再需要任何救援者。

(这个主代码不必要地调用了 wait.wait():由于 for 直到 new goroutine 中的 wait.wait() 已经解除阻塞才终止,我们知道这个next wait.wait() 将立即返回。因此我们可以放弃第二个调用,尽管保留它是无害的。)

问题是没有任何东西关闭结果通道,而只是范围循环关闭时退出。我简化了您的代码来说明这一点并提出了一个解决方案 - 基本上使用 goroutine 中的数据:

// This is our producer
func foo(i int, ch chan int, wg *sync.WaitGroup) {
    defer wg.Done()
    ch <- i
    fmt.Println(i, "done")
}
// This is our consumer - it uses a different WG to signal it's done
func consumeData(ch chan int, wg *sync.WaitGroup) {
    defer wg.Done()
    for x := range ch {
        fmt.Println(x)
    }
    fmt.Println("ALL DONE")
}

func main() {
    ch := make(chan int)
    wg := sync.WaitGroup{}
    // create the producers
    for i := 0; i < 10; i++ {
        wg.Add(1)
        go foo(i, ch, &wg)
    }
    // create the consumer on a different goroutine, and sync using another WG
    consumeWg := sync.WaitGroup{}
    consumeWg.Add(1)
    go consumeData(ch,&consumeWg)

    wg.Wait()  // <<<< means that the producers are done
    close(ch) // << Signal the consumer to exit
    consumeWg.Wait() // << Wait for the consumer to exit
}

今天关于《所有 goroutine 都无法继续执行,系统陷入死锁状态,我感到困惑》的内容介绍就到此结束,如果有什么疑问或者建议,可以在golang学习网公众号下多多回复交流;文中若有不正之处,也希望回复留言以告知!

版本声明
本文转载于:stackoverflow 如有侵犯,请联系study_golang@163.com删除
在Golang中的字符串添加单引号的方法是什么?在Golang中的字符串添加单引号的方法是什么?
上一篇
在Golang中的字符串添加单引号的方法是什么?
深入探讨将 PHP 对象转换为字符串的方法
下一篇
深入探讨将 PHP 对象转换为字符串的方法
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • ChatExcel酷表:告别Excel难题,北大团队AI助手助您轻松处理数据
    ChatExcel酷表
    ChatExcel酷表是由北京大学团队打造的Excel聊天机器人,用自然语言操控表格,简化数据处理,告别繁琐操作,提升工作效率!适用于学生、上班族及政府人员。
    3193次使用
  • Any绘本:开源免费AI绘本创作工具深度解析
    Any绘本
    探索Any绘本(anypicturebook.com/zh),一款开源免费的AI绘本创作工具,基于Google Gemini与Flux AI模型,让您轻松创作个性化绘本。适用于家庭、教育、创作等多种场景,零门槛,高自由度,技术透明,本地可控。
    3405次使用
  • 可赞AI:AI驱动办公可视化智能工具,一键高效生成文档图表脑图
    可赞AI
    可赞AI,AI驱动的办公可视化智能工具,助您轻松实现文本与可视化元素高效转化。无论是智能文档生成、多格式文本解析,还是一键生成专业图表、脑图、知识卡片,可赞AI都能让信息处理更清晰高效。覆盖数据汇报、会议纪要、内容营销等全场景,大幅提升办公效率,降低专业门槛,是您提升工作效率的得力助手。
    3436次使用
  • 星月写作:AI网文创作神器,助力爆款小说速成
    星月写作
    星月写作是国内首款聚焦中文网络小说创作的AI辅助工具,解决网文作者从构思到变现的全流程痛点。AI扫榜、专属模板、全链路适配,助力新人快速上手,资深作者效率倍增。
    4543次使用
  • MagicLight.ai:叙事驱动AI动画视频创作平台 | 高效生成专业级故事动画
    MagicLight
    MagicLight.ai是全球首款叙事驱动型AI动画视频创作平台,专注于解决从故事想法到完整动画的全流程痛点。它通过自研AI模型,保障角色、风格、场景高度一致性,让零动画经验者也能高效产出专业级叙事内容。广泛适用于独立创作者、动画工作室、教育机构及企业营销,助您轻松实现创意落地与商业化。
    3814次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议隐私政策
返回登录
  • 重置密码