PHP优化Llama内存占用技巧分享

本文深入剖析了PHP作为调度层调用Llama类大模型（如通过Ollama或llama.cpp）时，如何科学规避自身引发的内存瓶颈——重点指出PHP并不直接运行模型，真正的优化在于避免`shell_exec`全量缓存导致OOM，转而采用`proc_open()`配合流式读取、禁用输出缓冲、合理设置`memory_limit`、主动触发垃圾回收，并警惕静态变量残留、资源未释放等隐蔽泄漏点，为构建稳定高效的AI集成服务提供切实可行的底层实践指南。

PHP 本身不直接运行 Llama 模型——所谓“PHP 优化 Llama 内存占用”，本质是 PHP 作为调度层，调用外部推理服务（如 Ollama、llama.cpp HTTP API 或自建 GGUF 接口）时，避免自身成为内存瓶颈。真正的内存压力来自模型加载和推理过程，但 PHP 的不当使用会放大问题，甚至导致 OOM 崩溃。

为什么 exec() 调用 Ollama 会吃光 PHP 内存？

常见错误是把 ollama run 的完整输出一次性读入 PHP 变量：

$output = shell_exec('ollama run llama3:8b "hello"');

这会让 PHP 进程缓存整个响应（含 token 流、日志、错误堆栈），尤其在流式响应场景下极易超限。Ollama 默认输出是逐 token 打印的，PHP 不做流式消费就会卡住并累积缓冲。

• 改用 proc_open() + stream_get_line() 实时读取 stdout，避免全量缓存
• 设置超时（stream_set_timeout($stdout, 30)），防止模型卡死拖垮 PHP 进程
• 禁用 output_buffering（ini_set('output_buffering', 'Off')），避免 PHP 层额外复制

memory_limit 设太高反而让问题更隐蔽

很多开发者一见“Allowed memory size exhausted”就直接把 memory_limit 改成 -1 或 2G，结果掩盖了真实泄漏点：比如反复 require 同一个模型封装类，或未释放 cURL 句柄、PDO 连接、GD 图像资源。

• CLI 脚本建议设为 256M 并配合 memory_get_peak_usage(true) 定位峰值位置
• Web 请求必须严格限制（如 128M），否则一个慢请求可能拖垮整个 FPM pool
• 用 gc_collect_cycles() 在批量调用模型前主动清理，特别是循环中多次调用 proc_open() 后

如何让 PHP 安全地流式处理 llama.cpp / Ollama 响应？

核心是绕过 PHP 的字符串缓冲机制，用原生流对接子进程输出。下面是最简可行模式：

$descriptorspec = [
    0 => ['pipe', 'r'], // stdin
    1 => ['pipe', 'w'], // stdout
    2 => ['pipe', 'w'], // stderr
];
$process = proc_open('ollama run llama3:8b --format json', $descriptorspec, $pipes);
if (is_resource($process)) {
    stream_set_blocking($pipes[1], false);
    while (true) {
        $line = stream_get_line($pipes[1], 1024, "\n");
        if ($line === false || feof($pipes[1])) break;
        // 处理单行 JSON（如 {"message": "...", "done": false}）
        $data = json_decode($line, true);
        if ($data && isset($data['message'])) {
            echo $data['message']; // 直接输出，不累积
        }
    }
    fclose($pipes[0]); fclose($pipes[1]); fclose($pipes[2]);
    proc_close($process);
}

注意：--format json 是 Ollama 0.3+ 的关键参数，它让输出结构化可解析；旧版本需自行解析纯文本流，容错更差。

别忽略 PHP 自身的资源泄漏点

模型调用只是触发器，真正撑爆内存的常是周边代码：

• 用 file_get_contents() 读大 Prompt 文件 → 改用 fopen() + fgets() 流式拼接
• 把每次响应 json_decode() 结果存进全局数组 → 改为局部变量 + 即时写入文件或数据库
• GD 处理缩略图后没调 imagedestroy($img) → 图像资源不释放，每调一次涨几 MB
• PDO 查询未设 PDO::ATTR_CURSOR => PDO::CURSOR_FWDONLY → 全量结果集驻留内存

最易被忽视的是：PHP-FPM 子进程复用时，静态变量和全局对象不会自动清空。一次模型调用残留的缓存，可能污染后续所有请求。

好了，本文到此结束，带大家了解了《PHP优化Llama内存占用技巧分享》，希望本文对你有所帮助！关注golang学习网公众号，给大家分享更多文章知识！