服务器错误代码 502：“failed_to_connect_to_backend” 在 GCP 负载均衡器后端时发生偶尔性情况

今日不肯埋头，明日何以抬头！每日一句努力自己的话哈哈~哈喽，今天我将给大家带来一篇《服务器错误代码 502：“failed_to_connect_to_backend” 在 GCP 负载均衡器后端时发生偶尔性情况》，主要内容是讲解等等，感兴趣的朋友可以收藏或者有更好的建议在评论提出，我都会认真看的！大家一起进步，一起学习！

对于某些带有“failed_to_connect_to_backend”的请求，我们的 gcp 负载均衡器有时会返回 502。它会定期发生。在谷歌搜索和搜索 stack overflow 时，我发现了这个链接：https://cloud.google.com/load-balancing/docs/https#timeouts_and_retries。我还阅读了几篇有关 gcp 负载均衡器上保持活动超时的文章。

我的 kubernetes 服务器的 cpu 使用率较低，因此后端太繁忙似乎不是问题。

这是我用来设置 http server 的示例代码：

server := &http.server{
        addr:              addr,
        handler:           handler,
        readheadertimeout: 20 * time.second,
        readtimeout:       1 * time.minute,
        writetimeout:      2 * time.minute,
        idletimeout:       time.duration(tcpkeepalivetimeout) * time.second,
    }
    if e := listenandserve(server, 620); e != nil && e != http.errserverclosed {
     return err
    }

func listenAndServe(srv *http.Server, tcpKeepAliveTimeout int) error {
    addr := srv.Addr
    if addr == "" {
        addr = ":http"
    }
    lc := net.ListenConfig{
        KeepAlive: 620 * time.Second,
    }

    ln, err := lc.Listen(context.Background(), "tcp", addr)
    if err != nil {
        return err
    }

    defer ln.Close()

    if err != nil {
        return err
    }
    return srv.Serve(ln)
}

我将 tcp keep-alive 超时设置为 620 秒（google 文档中推荐），但这没有帮助，我仍然收到 502 秒。我做错了什么？

解决方案

当 GFE 无法与后端实例建立连接时，会生成 502 HTTP 响应代码。

502 的常见原因如下，我建议您自行验证这些原因：

• 防火墙（GCP 防火墙规则或在实例本身上运行的防火墙软件）阻止流量
• Web 服务器软件未在后端实例上运行
• 后端实例上的 Web 服务器软件配置错误 服务器资源耗尽且不接受连接：
• CPU 使用率过高而无法响应
• 内存使用率过高、进程被终止或无法 malloc()
• 已建立的最大 TCP 连接数
• 产生的最大数量的工作线程并且都处于忙碌状态（想想 Apache 中的 mpm_prefork）
• 编写糟糕的服务器实现在负载或非标准行为下陷入困境

这是我的发现：

1. 我在 GKE 上运行抢占式节点
2. 我有一个删除 GKE 节点上所有容器的脚本被抢占。
3. 我通过 nodePort 公开我的服务
4. 当节点被抢占时，后端仍将流量路由到“nodePort”事件节点将被删除，直到后端运行状况检查失败。
5. 解决方案是通过容器原生负载均衡从 nodePort 迁移到 neg 端点。

理论要掌握，实操不能落！以上关于《服务器错误代码 502：“failed_to_connect_to_backend” 在 GCP 负载均衡器后端时发生偶尔性情况》的详细介绍，大家都掌握了吧！如果想要继续提升自己的能力，那么就来关注golang学习网公众号吧！