当前位置:首页 > 文章列表 > 文章 > php教程 > PHP curl_multi 并发请求怎么收敛:句柄回收、超时和失败重试

PHP curl_multi 并发请求怎么收敛:句柄回收、超时和失败重试

来源:17golang原创 2026-08-23 13:10:05 0浏览 收藏

批量调用供应商接口时,单个 curl_exec() 循环很容易把等待时间拉长;但把所有请求一次性塞进 curl_multi,又可能打满连接数、触发对方限流,甚至让失败句柄一直留在内存里。实际可用的做法是把请求放进有限批次,边收结果边补新任务,并给每个句柄设置明确的超时和回收路径。

curl_multi 解决的是等待多个请求的问题,不等于无限并发。并发上限、连接超时、总超时和失败重试必须作为同一组策略设计。

要点速览
  • 使用固定并发窗口,例如同时只处理 5 个 URL。
  • 每次收到完成事件就读取结果并立即移除句柄。
  • 连接超时和总超时要分开配置,重试只针对可恢复错误。
  • 先限制单批任务,再根据耗时、状态码和内存曲线调大窗口。

PHP curl_multi 有限并发窗口中请求完成后补入下一项的处理流程

为什么一次性添加所有句柄会失控

假设要抓取 100 个商品接口。串行调用的总耗时接近每个请求耗时之和;一次性添加 100 个句柄虽然快,却会同时占用连接、DNS、响应缓冲和对端配额。更麻烦的是,某一个慢请求会让简单的收集逻辑迟迟不结束。

我更建议先固定一个窗口,例如 5 个请求。窗口里有请求完成,就拿走结果、释放句柄,再从待处理队列补一个新请求。这样并发度是可见的,排查时也能回答“当时最多有多少个请求在飞”。

先写一个可回收的请求句柄

function makeHandle(string $url, int $timeoutSeconds): CurlHandle
{
    $handle = curl_init($url);
    curl_setopt_array($handle, [
        CURLOPT_RETURNTRANSFER => true,
        CURLOPT_CONNECTTIMEOUT => 2,
        CURLOPT_TIMEOUT => $timeoutSeconds,
        CURLOPT_HTTPHEADER => ['Accept: application/json'],
    ]);
    return $handle;
}

连接超时只约束建立连接的阶段,总超时约束整个请求。两者都不设置时,网络异常可能把一个窗口卡很久。返回值必须保留在句柄上,后面通过 curl_multi_getcontent() 取出。

用有限窗口驱动 curl_multi

下面的函数把待请求地址、并发数和超时集中管理。关键点是:完成一个句柄后,先读取错误和响应,再从多句柄集合中移除,最后关闭它。

function fetchBatch(array $urls, int $limit = 5): array
{
    $multi = curl_multi_init();
    $pending = array_values($urls);
    $active = [];
    $results = [];

    $addNext = function () use (&$pending, &$active, $multi, $limit): void {
        while (count($active)  $url, 'handle' => $handle];
        }
    };

    $addNext();
    do {
        do {
            $state = curl_multi_exec($multi, $running);
        } while ($state === CURLM_CALL_MULTI_PERFORM);

        while ($info = curl_multi_info_read($multi)) {
            $handle = $info['handle'];
            $key = (int) $handle;
            $url = $active[$key]['url'];
            $body = curl_multi_getcontent($handle);
            $error = curl_error($handle);

            $results[] = [
                'url' => $url,
                'status' => curl_getinfo($handle, CURLINFO_RESPONSE_CODE),
                'body' => $body,
                'error' => $error,
            ];

            curl_multi_remove_handle($multi, $handle);
            curl_close($handle);
            unset($active[$key]);
            $addNext();
        }

        if ($running > 0) {
            curl_multi_select($multi, 1.0);
        }
    } while ($running > 0 || $active !== []);

    curl_multi_close($multi);
    return $results;
}

curl_multi_select() 返回 -1 时不应该让代码陷入忙等;上面的超时参数会让循环很快重新检查。批量任务还应记录每个 URL 的状态码、耗时和错误文本,不要只返回一组无法定位问题的空字符串。

PHP curl_multi 请求完成后读取状态码、移除句柄并回收资源的结果面板

失败重试要有分类,不要全部重放

网络连接失败、临时 DNS 错误和部分 429/503 响应通常值得重试;400、401、403 或请求参数校验失败则应该直接记录。重试也要有上限,例如每个 URL 最多 2 次,并在两次之间加入递增等待,避免故障时形成更大的请求洪峰。

function retryable(int $status, string $error): bool
{
    if ($error !== '') {
        return true;
    }
    return in_array($status, [429, 502, 503, 504], true);
}

如果接口返回 429,还要优先读取 Retry-After。不要因为响应体为空就默认重试,空响应也可能是对方明确拒绝或业务接口异常。

上线前用四个指标验收

指标看什么异常时怎么调
窗口并发数是否长期达到上限先核对对端限流,再决定是否增加
连接超时数DNS 或网络是否不稳定拆分连接耗时与服务端耗时
重试比例是不是某类 URL 持续失败按状态码分组,不要盲目放大次数
峰值内存响应体是否过大缩小窗口或改用流式写文件

第一轮压测可以用 20 个固定 URL,窗口分别取 2、5、10,记录总耗时、P95 和峰值内存。若窗口从 5 增到 10 后总耗时几乎不降而 429 增多,说明瓶颈在对方服务,不在 PHP 等待模型。

常见问题

curl_multi 一定比循环调用更快吗?

不一定。它主要减少多个独立网络请求之间的串行等待;如果对方限流、响应体很大或本机连接资源不足,过高并发反而会变慢。

为什么必须调用 curl_multi_remove_handle?

移除句柄可以让多句柄集合停止跟踪已完成请求,随后配合 curl_close() 释放资源。只取响应不回收,长批次任务容易出现句柄和内存持续增长。

失败请求应该在同一批里立即重试吗?

建议把失败项放回带次数的重试队列,等当前窗口完成后再按退避策略补入。这样能避免一个瞬时故障在同一时刻被重复放大。

把并发当成可调参数

PHP 的多句柄接口本身不替你做流量治理。先用小窗口跑通状态记录、超时和回收,再根据真实指标逐步调整并发数;当对端出现 429、P95 上升或内存曲线拐头时,优先降低窗口和缩短重试范围。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
Dependabot 依赖更新新增三天冷却:安全补丁不延迟,普通版本怎么验收Dependabot 依赖更新新增三天冷却:安全补丁不延迟,普通版本怎么验收
上一篇
Dependabot 依赖更新新增三天冷却:安全补丁不延迟,普通版本怎么验收
Java BigDecimal 金额比较为什么会误判:scale 统一与集合去重边界
下一篇
Java BigDecimal 金额比较为什么会误判:scale 统一与集合去重边界
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • ljg-skills -
    ljg-skills
    ljg-skills 是李继刚开源的 AI 技能与提示词集合,面向大模型使用者整理了一批可复用的 prompt、角色设定和任务技能模板,适合用于学习提示词设计、搭建个人 AI 工作流和沉淀团队常用智能体能力。
    5138次使用
  • MELO音乐 - AI 音乐生成平台,支持多模态创作能力
    MELO音乐
    MELO音乐是一站式AI视频与音乐制作助手,对标suno, udio的高品质体验。提供伴奏生成、原创写词、无损导出、哼唱识曲、混音变声等全套音频与短视频编辑工具。无论是流行Kpop、电音说唱、民谣古风、摇滚儿歌还是商用轻音乐,MELO为你免费谱曲,轻松做同款!
    4662次使用
  • UniScribe - AI 免费在线音视频转文字平台
    UniScribe
    UniScribe 是一款 AI 音视频转文字与内容整理工具,支持上传音频、视频文件或粘贴 YouTube 链接,自动生成转写文本、摘要、思维导图和关键问题,并支持多格式导出,适合会议记录、课程学习、访谈整理和内容创作复盘。
    4614次使用
  • 剧云 - 免费 AI 智能中文剧本创作平台
    剧云
    剧云是专业中文剧本创作平台,安全稳定运行十余年,集成AI编剧、剧本医生审核、人物小传、剧情关系图、大纲编写、多人协作、Word导入导出、版权管控功能,数据安全防护,轻松高效创作剧本。
    4869次使用
  • 万象有声 - AI 一站式有声内容创作平台
    万象有声
    万象有声,一个专为有声创作者打造的新一代智能有声内容创作平台。平台提供专业的智能拆章、智能画本编辑、AI配音、AI生成音效、后期制作、智能对轨、智能审听等有声创作全流程工具,可以帮助创作者高效、低成本创作出引人入胜的有声作品。立即体验,让有声书制作更简单!
    4823次使用