当前位置:首页 > 文章列表 > 文章 > python教程 > Python cProfile 慢函数 怎样处理

Python cProfile 慢函数 怎样处理

来源:17golang原创 2026-10-22 08:59:50 0浏览 收藏

Python 程序变慢时,不要先凭感觉改某一行代码。更稳妥的处理方式是先用 cProfile 跑一遍真实业务场景,把结果保存下来,再用 pstats 分别看累计时间、自身时间、调用次数和调用关系。这样可以先回答“慢在哪里”,再回答“该改什么”。

官方地址:https://docs.python.org/3.15/library/profile.html

如果只想找最值得先处理的函数,先看 cumulative;如果已经知道调用路径、想找函数内部的热点,再看 time。高调用次数还要结合单次成本判断,不能只看某一个数字。

一、先用 cProfile 覆盖完整业务场景

cProfile 适合回答函数调用层面的整体问题。命令行方式最省事,既能直接看报告,也能把报告保存为 .prof 文件,方便后续反复筛选:

# 采集完整脚本的函数调用统计,并把结果保存下来
python -m cProfile -o profile.prof app.py

# 按累计耗时直接打印前 20 个条目
python -m cProfile -s cumulative app.py

第一条命令适合排查,因为保存后的数据可以用多种排序方式重复阅读。第二条命令适合快速观察,但它只展示一次排序结果。采集时应尽量使用能稳定复现慢问题的输入,避免只分析启动阶段或一个空请求。

cProfile 从业务入口展开函数调用树并汇总耗时的静态说明图
图1:cProfile 从业务入口展开调用关系并汇总耗时的静态说明图,不是运行截图。

二、先看 cumulative,再看 time

拿到 profile.prof 后,用 pstats.Stats 分别排序。cumulative 会把一个函数及其子调用消耗的时间合在一起,更适合先判断哪条调用路径值得深入;time 更接近函数自身执行的时间,适合已经锁定路径后查内部热点。

import pstats
from pstats import SortKey

# 读取 cProfile 的结果,并去掉冗长路径,方便比较函数名
stats = pstats.Stats("profile.prof").strip_dirs()

# 先看包含子调用的累计耗时,定位主调用路径
stats.sort_stats(SortKey.CUMULATIVE).print_stats(12)

# 再看函数自己的耗时,寻找内部循环或昂贵操作
stats.sort_stats(SortKey.TIME).print_stats(12)

常见误判是把累计时间最大的函数直接当成“函数内部最慢”。例如一个入口函数可能只是调用了多个子函数,它的累计时间很高,但自身代码几乎没有成本。此时应继续看 time,或者从累计排名中的下一层函数继续下钻。

指标适合回答的问题下一步
cumulative哪条调用路径总共占时最多?查看调用者和被调用者
time哪个函数自身执行最耗时?检查循环、解析、转换等局部操作
calls哪个函数被调用得异常频繁?确认调用是否重复、输入是否过细

三、用调用关系确认慢函数的来源

当一个函数在累计排名靠前时,下一步不是马上重写它,而是确认它为什么被调用。print_callers() 查看谁调用了它,print_callees() 查看它又调用了谁:

from pstats import SortKey
import pstats

# 先把目标函数筛到前 20 个,再展开它的上游调用者
stats = pstats.Stats("profile.prof").strip_dirs()
stats.sort_stats(SortKey.CUMULATIVE)
stats.print_stats(20)
stats.print_callers("parse_records")

# 查看目标函数内部调用了哪些下游函数
stats.print_callees("parse_records")

这里的函数名过滤是为了缩小阅读范围,不是新的性能指标。若 parse_records 被一个循环调用数万次,即使单次执行不慢,也可能贡献很高的累计时间;若它只调用几次但自身 time 很高,则更可能是内部算法、重复转换或不必要的对象创建。

pstats 用累计时间自身时间调用次数和调用关系交叉定位热点的静态说明图
图2:pstats 交叉比较累计时间、自身时间、调用次数与上下游关系的静态说明图,不是运行截图。

四、把优化动作收敛到一个可验证的改变

定位后一次只改一个因素:减少重复调用、把重复解析移到循环外、缩小输入、替换明显的高成本操作,或调整数据访问方式。改完后重新跑同一业务场景,确认热点是否移动;不要因为某个函数排名下降,就直接认定整体性能已经改善。

如果要比较两个很小的表达式或函数实现,使用 timeit 更合适。它的测量对象更小,能减少完整业务噪声:

import timeit

def parse_with_loop(values):
    # 只演示局部计算;真实项目中应使用与业务一致的输入
    result = []
    for value in values:
        result.append(value.strip().lower())
    return result

def parse_with_comprehension(values):
    # 用同一输入比较另一种实现,避免把数据准备时间算进去
    return [value.strip().lower() for value in values]

values = [" Python "] * 1000

# 重复多轮测量局部实现,比较最稳定的一组结果
loop_time = timeit.repeat(lambda: parse_with_loop(values), repeat=5, number=1000)
comprehension_time = timeit.repeat(
    lambda: parse_with_comprehension(values), repeat=5, number=1000
)
print(min(loop_time), min(comprehension_time))

timeit 的结果只说明这段受控代码在当前环境下的相对表现,不能替代 cProfile 对真实请求、真实数据和真实调用路径的观察。尤其是 I/O、缓存、网络等待和垃圾回收会改变全链路结论。

五、常见误区与处理顺序

  1. 只看第一名。 先看累计时间,再对照自身时间和调用次数,避免把入口函数误判为内部热点。
  2. 把分析器耗时当最终耗时。 cProfile 会带来采集开销,适合定位,不适合直接当作上线基准。
  3. 一次改很多处。 这样即使总耗时变化,也很难知道是哪项改变有效;应保持输入和场景一致。
  4. 用微基准代替业务画像。 timeit 只用于局部比较,完整路径仍要回到 cProfile 或实际指标。

可以把整个过程记成一条短流程:先采集,按 cumulative 找路径;再按 time 和 calls 找内部热点;用 callers/callees 解释来源;最后用 timeit 比较一个小改动,并重新采集确认结果。

相关问题

cProfile 的 cumulative 和 time 应该先看哪个?

先看 cumulative 找主路径,再看 time 判断函数自身是否昂贵。二者回答的问题不同,不能互相替代。

为什么调用次数很多但累计时间不高?

通常是单次成本很低;是否需要优化要看总耗时占比,以及调用是否处在高频请求路径上。

pstats 报告能不能直接比较不同机器?

不建议直接比较绝对时间。应尽量固定输入、Python 环境和运行条件,并把它用于同一环境下的前后对比。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
Python editable install 更新 怎样处理Python editable install 更新 怎样处理
上一篇
Python editable install 更新 怎样处理
Linux systemd 环境文件权限 怎样处理
下一篇
Linux systemd 环境文件权限 怎样处理
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    587次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    623次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    657次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    625次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    439次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议 和 隐私政策
返回登录
  • 重置密码