当前位置:首页 > 文章列表 > 文章 > php教程 > PHP 导出大数据内存耗尽排查:从一次性数组到流式写 CSV

PHP 导出大数据内存耗尽排查:从一次性数组到流式写 CSV

来源:17golang原创 2026-06-29 13:30:24 0浏览 收藏

后台导出 CSV 是 PHP 项目里很常见的功能。小数据量时,先查出数组、再拼成字符串、最后一次性返回,代码看起来很直接。但数据从几千行变成几十万行后,页面可能突然变成 500,日志里只剩一句内存不足。

本文从一个“订单导出偶发失败”的现场出发,按问题排查顺序走一遍:先确认是不是 PHP 内存耗尽,再定位一次性数组和字符串拼接,最后改成分页读取、生成器产出行、fputcsv 流式写入。目标是让导出链路可持续跑完,而不是单纯把 memory_limit 调大。

目录
  • 问题现场:小数据能导出,大数据直接 500
  • 初步判断:先确认内存在哪里涨
  • 动手验证:复现一次性数组的内存曲线
  • 定位原因:查询、映射、拼接都在堆内存里叠加
  • 修复方案:分页读取并流式写 CSV
  • 验证结果:看峰值内存、行数和响应头
  • 总结清单:导出接口上线前检查什么

问题现场:小数据能导出,大数据直接 500

假设后台有一个订单导出接口,本地测试导出 2000 行没有问题,线上运营选择一个月范围后就失败。PHP 错误日志里可能出现类似信息:

PHP Fatal error: Allowed memory size of 134217728 bytes exhausted
while exporting /admin/orders/export

常见旧写法大概是这样:

findByDateRange($start, $end);

$rows = [];
$rows[] = ['订单号', '用户ID', '金额', '状态', '创建时间'];

foreach ($orders as $order) {
    $rows[] = [
        $order['order_no'],
        $order['user_id'],
        $order['amount'],
        $order['status'],
        $order['created_at'],
    ];
}

$content = '';
foreach ($rows as $row) {
    $content .= implode(',', $row) . \"\\n\";
}

header('Content-Type: text/csv; charset=UTF-8');
header('Content-Disposition: attachment; filename=\"orders.csv\"');
echo $content;

这段代码的问题不是某一行语法错,而是数据在内存里被保存了多份:数据库结果一份,$rows 一份,最终 $content 字符串一份。数据量上来后,峰值内存很容易超过限制。

初步判断:先确认内存在哪里涨

第一步不要急着调大 memory_limit。先在导出入口加临时日志,记录关键阶段的内存峰值。这样能判断问题发生在查询、转换,还是拼接输出阶段。

findByDateRange($start, $end);
logMemory('after query');

$rows = buildRows($orders);
logMemory('after rows');

$content = buildCsvContent($rows);
logMemory('after csv');

PHP CSV 导出内存上涨路径:浏览器请求进入 PHP 服务,一次性查询订单数组,拼接 CSV 字符串,最终触发内存不足

如果 after query 已经很高,说明一次性查询结果太大;如果 after rowsafter csv 继续大幅增长,说明中间转换和字符串拼接又复制了数据。

动手验证:复现一次性数组的内存曲线

可以写一个最小脚本模拟 20 万行导出,先不连数据库,直接构造数组。这样能把问题从业务系统里剥离出来。

 'NO' . str_pad((string) $i, 8, '0', STR_PAD_LEFT),
            'user_id' => $i % 10000,
            'amount' => number_format(($i % 5000) / 10, 2, '.', ''),
            'status' => 'paid',
            'created_at' => '2026-06-29 10:00:00',
        ];
    }
    return $orders;
}

$orders = makeOrders(200000);
echo memory_get_peak_usage(true) / 1024 / 1024, \"MB\\n\";

这个脚本的意义是提醒我们:大导出不是普通列表页。列表页只返回当前页,导出可能要处理全部匹配数据。把全部数据一次性放进数组,天然会把内存推高。

定位原因:查询、映射、拼接都在堆内存里叠加

导出接口的内存峰值通常来自三层叠加:

  • 查询层:一次性拿回所有订单,数据库结果数组常驻内存。
  • 转换层:把订单再映射成 CSV 行数组,形成第二份数据。
  • 输出层:把所有行拼成一个大字符串,形成第三份数据。

如果每一层都“先攒起来再处理”,内存只会越来越高。修复方向很明确:让数据一批一批查,一行一行写,写完就释放,不在 PHP 里保存完整导出文件。

修复方案:分页读取并流式写 CSV

修复后的核心结构是:浏览器请求进入 PHP,PHP 设置下载响应头,打开 php://output,先写表头,再分页读取订单,每拿到一行就用 fputcsv 写出去。

PHP CSV 流式导出修复链路:浏览器请求、分页读取订单、生成器产出行、fputcsv 写入输出流、内存保持稳定

findAfterId($start, $end, $lastId, $pageSize);
        if (!$orders) {
            break;
        }

        foreach ($orders as $order) {
            $lastId = (int) $order['id'];
            yield [
                $order['order_no'],
                $order['user_id'],
                $order['amount'],
                $order['status'],
                $order['created_at'],
            ];
        }
    }
}

function downloadOrdersCsv(OrderRepository $repo, string $start, string $end): void
{
    header('Content-Type: text/csv; charset=UTF-8');
    header('Content-Disposition: attachment; filename=\"orders.csv\"');
    header('X-Accel-Buffering: no');

    $out = fopen('php://output', 'w');
    fputcsv($out, ['订单号', '用户ID', '金额', '状态', '创建时间']);

    foreach (orderRows($repo, $start, $end) as $row) {
        fputcsv($out, $row);
    }

    fclose($out);
}

这里有几个关键点:

  • 分页不要用深分页 OFFSET 一直跳,优先用递增主键或稳定游标。
  • 生成器每次只产出一行,调用方写完就继续下一行。
  • fputcsv 负责处理逗号、引号和换行,比手写 implode 稳定。
  • 如果前面还有 Nginx 缓冲,按实际环境决定是否关闭缓冲或改走异步导出。

验证结果:看峰值内存、行数和响应头

改完以后要做三类复查。

第一,看峰值内存是否稳定

保留前面的 memory_get_peak_usage() 临时日志,导出 1 万、10 万、50 万行,对比峰值是否随行数线性暴涨。流式写入后,峰值通常主要受单页查询大小影响。

第二,核对导出行数

导出完成后,用命令核对行数。包含表头时,总行数应该是数据行数加一。

wc -l orders.csv

第三,检查响应头和文件格式

浏览器应当触发下载,响应头里有 Content-TypeContent-Disposition。打开 CSV 时,字段包含逗号、引号或换行也应该保持列结构正常。

总结清单:导出接口上线前检查什么

  1. 不要一次性查询全部数据,按主键游标或稳定条件分页读取。
  2. 不要把所有 CSV 行攒进数组,使用生成器逐行产出。
  3. 不要手写字符串拼接 CSV,优先使用 fputcsv
  4. 导出前记录筛选条件,限制最大时间范围或最大行数。
  5. 用峰值内存、导出行数、响应头和文件预览做复查。
  6. 超大导出建议改成后台任务,生成文件后再通知用户下载。

总结一下,PHP CSV 导出内存耗尽的根因,通常不是某个配置太小,而是导出链路把数据重复攒在内存里。先用日志确认峰值位置,再把一次性查询、数组映射和字符串拼接改成分页读取、生成器产出和 fputcsv 流式写入,导出接口就会更稳,也更容易观测和限制。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
MySQL 热点库存行架构演进:从单行扣减到分桶库存MySQL 热点库存行架构演进:从单行扣减到分桶库存
上一篇
MySQL 热点库存行架构演进:从单行扣减到分桶库存
前端实时通知方案选型:短轮询、SSE、WebSocket 怎么选
下一篇
前端实时通知方案选型:短轮询、SSE、WebSocket 怎么选
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • ljg-skills -
    ljg-skills
    ljg-skills 是李继刚开源的 AI 技能与提示词集合,面向大模型使用者整理了一批可复用的 prompt、角色设定和任务技能模板,适合用于学习提示词设计、搭建个人 AI 工作流和沉淀团队常用智能体能力。
    2769次使用
  • MELO音乐 - AI 音乐生成平台,支持多模态创作能力
    MELO音乐
    MELO音乐是一站式AI视频与音乐制作助手,对标suno, udio的高品质体验。提供伴奏生成、原创写词、无损导出、哼唱识曲、混音变声等全套音频与短视频编辑工具。无论是流行Kpop、电音说唱、民谣古风、摇滚儿歌还是商用轻音乐,MELO为你免费谱曲,轻松做同款!
    2563次使用
  • UniScribe - AI 免费在线音视频转文字平台
    UniScribe
    UniScribe 是一款 AI 音视频转文字与内容整理工具,支持上传音频、视频文件或粘贴 YouTube 链接,自动生成转写文本、摘要、思维导图和关键问题,并支持多格式导出,适合会议记录、课程学习、访谈整理和内容创作复盘。
    2508次使用
  • 剧云 - 免费 AI 智能中文剧本创作平台
    剧云
    剧云是专业中文剧本创作平台,安全稳定运行十余年,集成AI编剧、剧本医生审核、人物小传、剧情关系图、大纲编写、多人协作、Word导入导出、版权管控功能,数据安全防护,轻松高效创作剧本。
    2738次使用
  • 万象有声 - AI 一站式有声内容创作平台
    万象有声
    万象有声,一个专为有声创作者打造的新一代智能有声内容创作平台。平台提供专业的智能拆章、智能画本编辑、AI配音、AI生成音效、后期制作、智能对轨、智能审听等有声创作全流程工具,可以帮助创作者高效、低成本创作出引人入胜的有声作品。立即体验,让有声书制作更简单!
    2686次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议隐私政策
返回登录
  • 重置密码