PHP curl_multi 并发请求怎么收敛:句柄回收、超时和失败重试
批量调用供应商接口时,单个 curl_exec() 循环很容易把等待时间拉长;但把所有请求一次性塞进 curl_multi,又可能打满连接数、触发对方限流,甚至让失败句柄一直留在内存里。实际可用的做法是把请求放进有限批次,边收结果边补新任务,并给每个句柄设置明确的超时和回收路径。
curl_multi解决的是等待多个请求的问题,不等于无限并发。并发上限、连接超时、总超时和失败重试必须作为同一组策略设计。
- 使用固定并发窗口,例如同时只处理 5 个 URL。
- 每次收到完成事件就读取结果并立即移除句柄。
- 连接超时和总超时要分开配置,重试只针对可恢复错误。
- 先限制单批任务,再根据耗时、状态码和内存曲线调大窗口。

为什么一次性添加所有句柄会失控
假设要抓取 100 个商品接口。串行调用的总耗时接近每个请求耗时之和;一次性添加 100 个句柄虽然快,却会同时占用连接、DNS、响应缓冲和对端配额。更麻烦的是,某一个慢请求会让简单的收集逻辑迟迟不结束。
我更建议先固定一个窗口,例如 5 个请求。窗口里有请求完成,就拿走结果、释放句柄,再从待处理队列补一个新请求。这样并发度是可见的,排查时也能回答“当时最多有多少个请求在飞”。
先写一个可回收的请求句柄
function makeHandle(string $url, int $timeoutSeconds): CurlHandle
{
$handle = curl_init($url);
curl_setopt_array($handle, [
CURLOPT_RETURNTRANSFER => true,
CURLOPT_CONNECTTIMEOUT => 2,
CURLOPT_TIMEOUT => $timeoutSeconds,
CURLOPT_HTTPHEADER => ['Accept: application/json'],
]);
return $handle;
}
连接超时只约束建立连接的阶段,总超时约束整个请求。两者都不设置时,网络异常可能把一个窗口卡很久。返回值必须保留在句柄上,后面通过 curl_multi_getcontent() 取出。
用有限窗口驱动 curl_multi
下面的函数把待请求地址、并发数和超时集中管理。关键点是:完成一个句柄后,先读取错误和响应,再从多句柄集合中移除,最后关闭它。
function fetchBatch(array $urls, int $limit = 5): array
{
$multi = curl_multi_init();
$pending = array_values($urls);
$active = [];
$results = [];
$addNext = function () use (&$pending, &$active, $multi, $limit): void {
while (count($active) $url, 'handle' => $handle];
}
};
$addNext();
do {
do {
$state = curl_multi_exec($multi, $running);
} while ($state === CURLM_CALL_MULTI_PERFORM);
while ($info = curl_multi_info_read($multi)) {
$handle = $info['handle'];
$key = (int) $handle;
$url = $active[$key]['url'];
$body = curl_multi_getcontent($handle);
$error = curl_error($handle);
$results[] = [
'url' => $url,
'status' => curl_getinfo($handle, CURLINFO_RESPONSE_CODE),
'body' => $body,
'error' => $error,
];
curl_multi_remove_handle($multi, $handle);
curl_close($handle);
unset($active[$key]);
$addNext();
}
if ($running > 0) {
curl_multi_select($multi, 1.0);
}
} while ($running > 0 || $active !== []);
curl_multi_close($multi);
return $results;
}
curl_multi_select() 返回 -1 时不应该让代码陷入忙等;上面的超时参数会让循环很快重新检查。批量任务还应记录每个 URL 的状态码、耗时和错误文本,不要只返回一组无法定位问题的空字符串。

失败重试要有分类,不要全部重放
网络连接失败、临时 DNS 错误和部分 429/503 响应通常值得重试;400、401、403 或请求参数校验失败则应该直接记录。重试也要有上限,例如每个 URL 最多 2 次,并在两次之间加入递增等待,避免故障时形成更大的请求洪峰。
function retryable(int $status, string $error): bool
{
if ($error !== '') {
return true;
}
return in_array($status, [429, 502, 503, 504], true);
}
如果接口返回 429,还要优先读取 Retry-After。不要因为响应体为空就默认重试,空响应也可能是对方明确拒绝或业务接口异常。
上线前用四个指标验收
| 指标 | 看什么 | 异常时怎么调 |
|---|---|---|
| 窗口并发数 | 是否长期达到上限 | 先核对对端限流,再决定是否增加 |
| 连接超时数 | DNS 或网络是否不稳定 | 拆分连接耗时与服务端耗时 |
| 重试比例 | 是不是某类 URL 持续失败 | 按状态码分组,不要盲目放大次数 |
| 峰值内存 | 响应体是否过大 | 缩小窗口或改用流式写文件 |
第一轮压测可以用 20 个固定 URL,窗口分别取 2、5、10,记录总耗时、P95 和峰值内存。若窗口从 5 增到 10 后总耗时几乎不降而 429 增多,说明瓶颈在对方服务,不在 PHP 等待模型。
常见问题
curl_multi 一定比循环调用更快吗?
不一定。它主要减少多个独立网络请求之间的串行等待;如果对方限流、响应体很大或本机连接资源不足,过高并发反而会变慢。
为什么必须调用 curl_multi_remove_handle?
移除句柄可以让多句柄集合停止跟踪已完成请求,随后配合 curl_close() 释放资源。只取响应不回收,长批次任务容易出现句柄和内存持续增长。
失败请求应该在同一批里立即重试吗?
建议把失败项放回带次数的重试队列,等当前窗口完成后再按退避策略补入。这样能避免一个瞬时故障在同一时刻被重复放大。
把并发当成可调参数
PHP 的多句柄接口本身不替你做流量治理。先用小窗口跑通状态记录、超时和回收,再根据真实指标逐步调整并发数;当对端出现 429、P95 上升或内存曲线拐头时,优先降低窗口和缩短重试范围。
Dependabot 依赖更新新增三天冷却:安全补丁不延迟,普通版本怎么验收
- 上一篇
- Dependabot 依赖更新新增三天冷却:安全补丁不延迟,普通版本怎么验收
- 下一篇
- Java BigDecimal 金额比较为什么会误判:scale 统一与集合去重边界
-
- 文章 · php教程 | 21小时前 | PHP · 时间处理 · 版本迁移 · PHP 8.4 · DateTimeImmutable · 时区 PHP 8.4 DateTimeImmutable::createFromTimestamp Unix 时间戳 微秒
- PHP 8.4 DateTimeImmutable::createFromTimestamp 怎么处理 Unix 时间戳:时区、微秒与回归验收
- 307浏览 收藏
-
- 文章 · php教程 | 2天前 | 异常处理 · PHP · 版本迁移 · PHP 8.5 · 输入校验 · 输入校验 filter_input PHP 8.5 FILTER_THROW_ON_FAILURE 异常迁移
- PHP 8.5 FILTER_THROW_ON_FAILURE 怎么处理邮箱校验:filter_input 与表单错误
- 347浏览 收藏
-
- 文章 · php教程 | 2天前 | 安全 · ip地址 · php教程 · HTTP代理 · php IPv6 filter_var 客户端IP FILTER_VALIDATE_IP 代理头
- PHP filter_var 验证客户端 IP 为什么会误判:代理头、IPv6 与私网边界
- 214浏览 收藏
-
- 文章 · php教程 | 2天前 | php
- 如何在 PHP 表单中正确提交多个选中的月份并显示对应数据
- 190浏览 收藏
-
- 文章 · php教程 | 2天前 | 其他
- Shopware 6 中嵌套 LineItem 的作用与实践指南
- 334浏览 收藏
-
- 文章 · php教程 | 2天前 | Word
- WordPress 批量创建画漆色产品:FTP 图像自动建站方案
- 312浏览 收藏
-
- 文章 · php教程 | 2天前 | 其他
- Laravel 实现每日事件循环调度(按星期轮播 10 个事件)
- 469浏览 收藏
-
- 文章 · php教程 | 2天前 | php
- 如何在PHP中从文本文件中精准读取并显示匹配的单行内容
- 338浏览 收藏
-
- 文章 · php教程 | 2天前 | 其他
- 如何精准查询满足特定数量条件的多对多关联记录
- 181浏览 收藏
-
- 文章 · php教程 | 2天前 | php
- PHP FFI 调用共享库函数失败的常见原因与修复方案
- 466浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- ljg-skills
- ljg-skills 是李继刚开源的 AI 技能与提示词集合,面向大模型使用者整理了一批可复用的 prompt、角色设定和任务技能模板,适合用于学习提示词设计、搭建个人 AI 工作流和沉淀团队常用智能体能力。
- 5138次使用
-
- MELO音乐
- MELO音乐是一站式AI视频与音乐制作助手,对标suno, udio的高品质体验。提供伴奏生成、原创写词、无损导出、哼唱识曲、混音变声等全套音频与短视频编辑工具。无论是流行Kpop、电音说唱、民谣古风、摇滚儿歌还是商用轻音乐,MELO为你免费谱曲,轻松做同款!
- 4662次使用
-
- UniScribe
- UniScribe 是一款 AI 音视频转文字与内容整理工具,支持上传音频、视频文件或粘贴 YouTube 链接,自动生成转写文本、摘要、思维导图和关键问题,并支持多格式导出,适合会议记录、课程学习、访谈整理和内容创作复盘。
- 4614次使用
-
- 剧云
- 剧云是专业中文剧本创作平台,安全稳定运行十余年,集成AI编剧、剧本医生审核、人物小传、剧情关系图、大纲编写、多人协作、Word导入导出、版权管控功能,数据安全防护,轻松高效创作剧本。
- 4869次使用
-
- 万象有声
- 万象有声,一个专为有声创作者打造的新一代智能有声内容创作平台。平台提供专业的智能拆章、智能画本编辑、AI配音、AI生成音效、后期制作、智能对轨、智能审听等有声创作全流程工具,可以帮助创作者高效、低成本创作出引人入胜的有声作品。立即体验,让有声书制作更简单!
- 4823次使用
-
- PHP 8.5 array_last() 怎么处理空数组:从 null 结果到兼容旧版本的 Polyfill
- 2026-08-16 501浏览
-
- 宝塔配置Ruby环境:RVM+Nginx反代教程
- 2026-05-29 501浏览
-
- unset函数作用范围详解
- 2026-05-29 501浏览
-
- VS Code配置Xdebug教程:PHP调试技巧全解析
- 2026-05-13 501浏览
-
- PHPEnv安装PhpMyAdmin教程详解
- 2026-05-07 501浏览
