Go Kafka `ProduceChannel()` 填满并挂起
本篇文章向大家介绍《Go Kafka `ProduceChannel()` 填满并挂起》,主要包括,具有一定的参考价值,需要的朋友可以参考一下。
我有一个用 go 编写的服务器端应用程序,用于生成 kafka 事件。它完美运行了几天,每秒生成约 1.6k 条消息,然后遇到了一个偶发问题,所有 kafka 消息发送都停止,并且需要手动重新启动服务器应用程序才能恢复发送 kafka 消息。
我提供了事件开始时指标图表的屏幕截图。注释我所看到的情况:
应用程序连续 7 天运行完美。对于排队的每条消息,都会有一个发送事件通知发送到
kafkaproducer.events()。您可以看到排队数 = 已交付数。10:39:问题开始了。送达通知计数很快降至零。 kafka 消息不断排队,但回调停止。
10:52:
kafkaproducer.producechannel()已填满,并尝试将新消息排队到 go 通道中,从而阻塞 goroutine。此时,应用程序将永远不会再次发送 kafka 消息,除非手动重新启动。17:55:我手动重新启动了应用程序。 kafka 消息队列/传递恢复。 kafka_product_attempts 回落为零。
我的 go 代码发送 kafka 消息的唯一地方是这里:
recordchannelgauge.inc()
kafkaproducer.producechannel() <- &msg
recordchannelgauge.dec()
在指标屏幕截图中,请注意 recordchannelgauge 通常保持为零,因为将消息发送到 kafka producechannel() 不会阻塞,并且每个 inc() 后立即紧跟一个匹配的 dec() 但是,当producechannel() 已满,goroutine 阻塞,recordchannelgauge 保持为 1,并且在手动重新启动应用程序之前永远不会解除阻塞。
仅供参考,我的环境详细信息:
- 使用 golang 1.10.x 构建的 go 服务器二进制文件
- 最新版本的
github.com/confluenceinc/confluence-kafka-go/kafka。这个库不使用版本,它使用最新的 git 提交,在撰写本文时已经有 2 个月了,所以我确信我正在使用最新版本。 - 服务器操作系统 ubuntu 16.04.5
- librdkafka1版本librdka0.11.6~1confluence5.0.1-
我怀疑这是由于 confluenceinc go 客户端中的一些内部问题造成的,它无法正确处理某些错误情况。
此外,我在问题发生时没有看到相关的日志输出。在问题发生之前,我确实看到零星的 kafka 代理断开连接并在日志中出现超时错误,但问题似乎并不严重。这些日志消息每隔几个小时左右就会发生一次,持续几天,没有造成严重后果。
Nov 26 06:52:04 01 appserver.linux[6550]: %4|1543215124.447|REQTMOUT|rdkafka#producer-1| [thrd:kafka-broker-3:9092/bootstrap]: kafka-broker-3:9092/bootstrap: Timed out 0 in-flight, 1 retry-queued, 0 out-queue, 0 partially-sent requests Nov 26 06:52:10 01 appserver.linux[6550]: %4|1543215130.448|REQTMOUT|rdkafka#producer-1| [thrd:kafka-broker-3:9092/bootstrap]: kafka-broker-3:9092/bootstrap: Timed out 0 in-flight, 1 retry-queued, 0 out-queue, 0 partially-sent requests Nov 26 08:46:57 01 appserver.linux[6550]: 2018/11/26 08:46:57 Ignored event: kafka-broker-2:9092/bootstrap: Disconnected (after 600000ms in state UP) Nov 26 08:47:02 01 appserver.linux[6550]: %4|1543222022.803|REQTMOUT|rdkafka#producer-1| [thrd:kafka-broker-2:9092/bootstrap]: kafka-broker-2:9092/bootstrap: Timed out 0 in-flight, 1 retry-queued, 0 out-queue, 0 partially-sent requests Nov 26 08:47:09 01 appserver.linux[6550]: %4|1543222029.807|REQTMOUT|rdkafka#producer-1| [thrd:kafka-broker-2:9092/bootstrap]: kafka-broker-2:9092/bootstrap: Timed out 0 in-flight, 1 retry-queued, 0 out-queue, 0 partially-sent requests
放大到问题发生
缩小以显示之前和之后
解决方案
我有和你类似的问题。我找到了一篇文章可能会解释问题的原因。
当被阻止的主题中没有消息时,经过一定时间后,您将出现如下超时错误。
%5|1598190018.518|REQTMOUT|rdkafka#consumer-1| [thrd:sasl_ssl://abcd....confluent.cloud:xxxx/2]: sasl_ssl://abcd....confluent.cloud:xxxx/2: Timed out FetchRequest in flight (after 359947ms, timeout #0) %4|1598190018.840|REQTMOUT|rdkafka#consumer-1| [thrd:sasl_ssl://abcd.confluent.cloud:xxxx/2]: sasl_ssl://abcd.xxxxx.confluent.cloud:xxxx/2: Timed out 1 in-flight, 0 retry-queued, 0 out-queue, 0 partially-sent requests
文章链接:https://www.thecodebuzz.com/apache-kafka-net-client-producer-consumer-csharp-confluent-examples-ii/
希望对您有帮助。
今天关于《Go Kafka `ProduceChannel()` 填满并挂起》的内容介绍就到此结束,如果有什么疑问或者建议,可以在golang学习网公众号下多多回复交流;文中若有不正之处,也希望回复留言以告知!
SpringBoot SpringEL表达式怎么使用
- 上一篇
- SpringBoot SpringEL表达式怎么使用
- 下一篇
- 端到端自动驾驶、多模态场景大脑、全新3D交互:商汤绝影大模型即将亮相北京车展
-
- Golang · Go问答 | 11小时前 | 工程实践 · Go问答 · Go 代码生成 工作目录 go generate go:generate 可重复生成
- Go generate 为什么只在显式命令下执行
- 109浏览 收藏
-
- Golang · Go问答 | 12小时前 | go · Go encoding/binary ByteOrder BigEndian LittleEndian
- Go binary.ByteOrder 怎样明确协议的字节序
- 443浏览 收藏
-
- Golang · Go问答 | 12小时前 | 标准库 · Go问答 · base64 Go padding encoding/base64
- Go Base64 解码遇到缺失 padding 怎么兼容
- 400浏览 收藏
-
- Golang · Go问答 | 12小时前 |
- Go x509.CertPool 怎样加载自定义 CA 而不覆盖系统 CA
- 144浏览 收藏
-
- Golang · Go问答 | 12小时前 | 标准库 · 随机数 · 错误处理 · Go问答 · Go crypto/rand 安全随机数 io.ReadFull rand.Read
- Go crypto/rand.Read 失败时应用应该怎么处理
- 179浏览 收藏
-
- Golang · Go问答 | 12小时前 | 标准库 · Go问答 · Go 切片长度 crypto/subtle XORBytes 字节异或
- Go crypto/subtle.XORBytes 怎样按有效长度异或两段数据
- 343浏览 收藏
-
- Golang · Go问答 | 12小时前 | 标准库 · go · 扩展名 Go MIME mime.TypeByExtension
- Go mime.TypeByExtension 为什么返回空值
- 213浏览 收藏
-
- Golang · Go问答 | 12小时前 | 源码分析 · Go问答 · Go go/ast CommentMap NewCommentMap AST注释
- Go ast.NewCommentMap 怎样把注释关联到语法节点
- 153浏览 收藏
-
- Golang · Go问答 | 13小时前 | 网络编程 · 超时控制 · TLS · Go问答 · Go crypto/tls 网络超时 SetDeadline HandshakeContext tls.Conn
- Go tls.Conn 握手超时为什么要显式设置 deadline
- 337浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 1060次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 1060次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 1226次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 1168次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 1012次使用
-
- 用Nginx反向代理部署go写的网站。
- 2023-01-17 502浏览
-
- GoLand调式动态执行代码
- 2023-01-13 502浏览
-
- 正则命名捕获组取不到值怎么办
- 2026-11-15 501浏览
-
- Go pprof profile duration 参数如何理解
- 2026-11-14 501浏览
-
- Go types.Selection.Type 与 Obj.Type 为什么不总是相同
- 2026-11-10 501浏览

