PHP curl_multi 并发请求怎么收敛:句柄回收、超时和失败重试
批量调用供应商接口时,单个 curl_exec() 循环很容易把等待时间拉长;但把所有请求一次性塞进 curl_multi,又可能打满连接数、触发对方限流,甚至让失败句柄一直留在内存里。实际可用的做法是把请求放进有限批次,边收结果边补新任务,并给每个句柄设置明确的超时和回收路径。
curl_multi解决的是等待多个请求的问题,不等于无限并发。并发上限、连接超时、总超时和失败重试必须作为同一组策略设计。
- 使用固定并发窗口,例如同时只处理 5 个 URL。
- 每次收到完成事件就读取结果并立即移除句柄。
- 连接超时和总超时要分开配置,重试只针对可恢复错误。
- 先限制单批任务,再根据耗时、状态码和内存曲线调大窗口。

为什么一次性添加所有句柄会失控
假设要抓取 100 个商品接口。串行调用的总耗时接近每个请求耗时之和;一次性添加 100 个句柄虽然快,却会同时占用连接、DNS、响应缓冲和对端配额。更麻烦的是,某一个慢请求会让简单的收集逻辑迟迟不结束。
我更建议先固定一个窗口,例如 5 个请求。窗口里有请求完成,就拿走结果、释放句柄,再从待处理队列补一个新请求。这样并发度是可见的,排查时也能回答“当时最多有多少个请求在飞”。
先写一个可回收的请求句柄
function makeHandle(string $url, int $timeoutSeconds): CurlHandle
{
$handle = curl_init($url);
curl_setopt_array($handle, [
CURLOPT_RETURNTRANSFER => true,
CURLOPT_CONNECTTIMEOUT => 2,
CURLOPT_TIMEOUT => $timeoutSeconds,
CURLOPT_HTTPHEADER => ['Accept: application/json'],
]);
return $handle;
}
连接超时只约束建立连接的阶段,总超时约束整个请求。两者都不设置时,网络异常可能把一个窗口卡很久。返回值必须保留在句柄上,后面通过 curl_multi_getcontent() 取出。
用有限窗口驱动 curl_multi
下面的函数把待请求地址、并发数和超时集中管理。关键点是:完成一个句柄后,先读取错误和响应,再从多句柄集合中移除,最后关闭它。
function fetchBatch(array $urls, int $limit = 5): array
{
$multi = curl_multi_init();
$pending = array_values($urls);
$active = [];
$results = [];
$addNext = function () use (&$pending, &$active, $multi, $limit): void {
while (count($active) $url, 'handle' => $handle];
}
};
$addNext();
do {
do {
$state = curl_multi_exec($multi, $running);
} while ($state === CURLM_CALL_MULTI_PERFORM);
while ($info = curl_multi_info_read($multi)) {
$handle = $info['handle'];
$key = (int) $handle;
$url = $active[$key]['url'];
$body = curl_multi_getcontent($handle);
$error = curl_error($handle);
$results[] = [
'url' => $url,
'status' => curl_getinfo($handle, CURLINFO_RESPONSE_CODE),
'body' => $body,
'error' => $error,
];
curl_multi_remove_handle($multi, $handle);
curl_close($handle);
unset($active[$key]);
$addNext();
}
if ($running > 0) {
curl_multi_select($multi, 1.0);
}
} while ($running > 0 || $active !== []);
curl_multi_close($multi);
return $results;
}
curl_multi_select() 返回 -1 时不应该让代码陷入忙等;上面的超时参数会让循环很快重新检查。批量任务还应记录每个 URL 的状态码、耗时和错误文本,不要只返回一组无法定位问题的空字符串。

失败重试要有分类,不要全部重放
网络连接失败、临时 DNS 错误和部分 429/503 响应通常值得重试;400、401、403 或请求参数校验失败则应该直接记录。重试也要有上限,例如每个 URL 最多 2 次,并在两次之间加入递增等待,避免故障时形成更大的请求洪峰。
function retryable(int $status, string $error): bool
{
if ($error !== '') {
return true;
}
return in_array($status, [429, 502, 503, 504], true);
}
如果接口返回 429,还要优先读取 Retry-After。不要因为响应体为空就默认重试,空响应也可能是对方明确拒绝或业务接口异常。
上线前用四个指标验收
| 指标 | 看什么 | 异常时怎么调 |
|---|---|---|
| 窗口并发数 | 是否长期达到上限 | 先核对对端限流,再决定是否增加 |
| 连接超时数 | DNS 或网络是否不稳定 | 拆分连接耗时与服务端耗时 |
| 重试比例 | 是不是某类 URL 持续失败 | 按状态码分组,不要盲目放大次数 |
| 峰值内存 | 响应体是否过大 | 缩小窗口或改用流式写文件 |
第一轮压测可以用 20 个固定 URL,窗口分别取 2、5、10,记录总耗时、P95 和峰值内存。若窗口从 5 增到 10 后总耗时几乎不降而 429 增多,说明瓶颈在对方服务,不在 PHP 等待模型。
常见问题
curl_multi 一定比循环调用更快吗?
不一定。它主要减少多个独立网络请求之间的串行等待;如果对方限流、响应体很大或本机连接资源不足,过高并发反而会变慢。
为什么必须调用 curl_multi_remove_handle?
移除句柄可以让多句柄集合停止跟踪已完成请求,随后配合 curl_close() 释放资源。只取响应不回收,长批次任务容易出现句柄和内存持续增长。
失败请求应该在同一批里立即重试吗?
建议把失败项放回带次数的重试队列,等当前窗口完成后再按退避策略补入。这样能避免一个瞬时故障在同一时刻被重复放大。
把并发当成可调参数
PHP 的多句柄接口本身不替你做流量治理。先用小窗口跑通状态记录、超时和回收,再根据真实指标逐步调整并发数;当对端出现 429、P95 上升或内存曲线拐头时,优先降低窗口和缩短重试范围。
Dependabot 依赖更新新增三天冷却:安全补丁不延迟,普通版本怎么验收
- 上一篇
- Dependabot 依赖更新新增三天冷却:安全补丁不延迟,普通版本怎么验收
- 下一篇
- Java BigDecimal 金额比较为什么会误判:scale 统一与集合去重边界
-
- 文章 · php教程 | 13小时前 |
- PHP Session 锁为什么会阻塞并发请求,怎样缩短持锁时间
- 305浏览 收藏
-
- 文章 · php教程 | 17小时前 | PHP ·
- PHP Attribute 做路由元数据:读取、缓存与冲突处理
- 413浏览 收藏
-
- 文章 · php教程 | 20小时前 |
- PHP 枚举承载业务状态时怎样避免数据库值漂移
- 135浏览 收藏
-
- 文章 · php教程 | 22小时前 | 协程 · 异常处理 · php教程 · 异常恢复 PHP Fiber Fiber suspend Fiber resume Fiber throw 可暂停任务
- 用 Fiber 封装可暂停任务:启动、挂起与异常恢复
- 246浏览 收藏
-
- 文章 · php教程 | 1天前 |
- PHP 8.5 迁移 PDO 驱动常量时要改哪些代码
- 162浏览 收藏
-
- 文章 · php教程 | 1天前 | pdo · php教程 · php pdo 数组分组 fetchAll FETCH_GROUP FETCH_COLUMN
- PHP PDO FETCH_GROUP 和 FETCH_COLUMN 怎么组合分组结果
- 217浏览 收藏
-
- 文章 · php教程 | 1天前 | web安全 · php session SameSite session_set_cookie_params
- PHP session_set_cookie_params 怎么配置 SameSite
- 105浏览 收藏
-
- 文章 · php教程 | 1天前 |
- PHP stream_context_create 怎么设置 TLS 主机校验
- 460浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 373次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 443次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 450次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 396次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 220次使用
-
- PHP JSON_THROW_ON_ERROR 抛错后怎么保留原始字段位置
- 2026-09-09 501浏览
-
- PHP 8.5 array_last() 怎么处理空数组:从 null 结果到兼容旧版本的 Polyfill
- 2026-08-16 501浏览
-
- 宝塔配置Ruby环境:RVM+Nginx反代教程
- 2026-05-29 501浏览
-
- unset函数作用范围详解
- 2026-05-29 501浏览
-
- VS Code配置Xdebug教程:PHP调试技巧全解析
- 2026-05-13 501浏览

