TCP错误：请求并发量过高导致的超时或I/O超时

在Golang实战开发的过程中，我们经常会遇到一些这样那样的问题，然后要卡好半天，等问题解决了才发现原来一些细节知识点还是没有掌握好。今天golang学习网就整理分享《TCP错误：请求并发量过高导致的超时或I/O超时》，聊聊，希望可以帮助到正在努力赚钱的你。

我最近在通过 valyala/fasthttp 开发高并发 http 客户端时遇到了一个问题：客户端在前 15k~ 个请求中工作正常，但之后越来越多的 dial tcp4 127.0.0.1:80: i/o timeout和 拨号到给定 tcp 地址超时 错误发生。

示例代码

var Finished = 0
var Failed = 0
var Success = 0

func main() {
    for i := 0; i < 1000; i++ {
        go get()
    }
    start := time.Now().Unix()
    for {
        fmt.Printf("Rate: %.2f/s Success: %d, Failed: %d\n", float64(Success)/float64(time.Now().Unix()-start), Success, Failed)
        time.Sleep(100 * time.Millisecond)
    }
}

func get() {
    ticker := time.NewTicker(time.Duration(100+rand.Intn(2900)) * time.Millisecond)
    defer ticker.Stop()
    client := &fasthttp.Client{
        MaxConnsPerHost: 10000,
    }
    for {
        req := &fasthttp.Request{}
        req.SetRequestURI("http://127.0.0.1:80/require?number=10")
        req.Header.SetMethod(fasthttp.MethodGet)
        req.Header.SetConnectionClose()
        res := &fasthttp.Response{}
        err := client.DoTimeout(req, res, 5*time.Second)
        if err != nil {
            fmt.Println(err.Error())
            Failed++
        } else {
            Success++
        }
        Finished++
        client.CloseIdleConnections()
        <-ticker.C
    }
}

详细信息

服务器构建在labstack/echo/v4上，当客户端出现超时错误时，服务器没有任何错误，通过postman或chrome等浏览器手动执行请求都可以正常工作。

客户端在前 15k~ 请求中运行得很好，但之后，出现越来越多的超时错误，并且输出 rate 不断减少。我搜索了google和github，发现这个问题可能是最合适的，但没有找到解决方案。

另一个小问题...

正如你所注意到的，当客户端启动时，它首先会生成一些服务器关闭的连接，然后返回第一个响应字节。确保服务器在关闭连接 错误之前返回“connection: close”响应标头，然后工作正常，直到大约 15k 问题，然后开始生成越来越多的超时错误。为什么一开始会生成连接关闭错误？

机器信息

macbook pro 14 2021 (apple m1 pro)，配备 16gb ram，运行 macos monterey 12.4

正确答案

所以基本上，如果您尝试打开一个连接，然后尽快关闭它，它不会像“connection#1 使用端口然后立即将其返回”那样，将会有大量的处理需要已经完成了，所以如果你想同时发送多个请求，我认为最好尽可能重用连接。

例如，在 fasthttp 中：

req := fasthttp.AcquireRequest()
res := fasthttp.AcquireResponse()
defer fasthttp.ReleaseRequest(req)
defer fasthttp.ReleaseResponse(res)

// Then do the request below

今天关于《TCP错误：请求并发量过高导致的超时或I/O超时》的内容就介绍到这里了，是不是学起来一目了然！想要了解更多关于的内容请关注golang学习网公众号！