Pandas月度数据汇总教程
对于一个文章开发者来说,牢固扎实的基础是十分重要的,golang学习网就来带大家一点点的掌握基础知识点。今天本篇文章带大家了解《Pandas月度数据汇总至季度年度教程》,主要介绍了,希望对大家的知识积累有所帮助,快点收藏起来吧,否则需要时就找不到了!

在数据分析中,我们经常会遇到需要将细粒度的月度数据汇总到更粗粒度的季度或年度层面的场景。尤其当数据以“宽格式”存储,即每个月度数据占据一个独立的列时(例如,列名为201003、201004等),传统的手动列求和方法会变得非常繁琐且不灵活。本教程将提供一个通用且高效的解决方案,利用Pandas库的强大功能,实现自动化、动态化的月度数据聚合。
1. 数据重塑:从宽到长 (df.melt())
首先,我们需要将宽格式的月度数据转换成更适合聚合的“长格式”。df.melt()函数是实现这一目标的关键工具,它能将指定的列转换为行,从而方便后续的时间信息提取和分组聚合。
假设我们有以下示例数据框:
import pandas as pd
data = {
'A': [10, 14],
'B': [14, 19],
'201003': [10, 14],
'201004': [11, 19],
'201005': [14, 20],
'201006': [22, 22],
'201007': [10, 26],
'201008': [19, 11]
}
df_original = pd.DataFrame(data)
# 假设 'A' 和 'B' 是标识符列,我们只对年月列进行melt
id_vars = ['A', 'B']
value_vars = [col for col in df_original.columns if col.startswith('20')]
df_long = df_original.melt(id_vars=id_vars, value_vars=value_vars, var_name='YYYYMM', value_name='Value')
print("原始数据框:")
print(df_original)
print("\n重塑后的数据框(部分):")
print(df_long.head())输出示例:
原始数据框:
A B 201003 201004 201005 201006 201007 201008
0 10 14 10 11 14 22 10 19
1 14 19 14 19 20 22 26 11
重塑后的数据框(部分):
A B YYYYMM Value
0 10 14 201003 10
1 14 19 201003 14
2 10 14 201004 11
3 14 19 201004 19
4 10 14 201005 14通过melt操作,我们将所有的年月列转换成了两列:YYYYMM(存储原列名,即年月信息)和Value(存储对应的值)。id_vars参数用于指定保持不变的标识符列。
2. 提取时间维度:年份与月份
在长格式数据框中,YYYYMM列包含了我们所需的年份和月份信息。我们可以利用字符串切片操作,从该列中分别提取出年份和月份。
df_long['Year'] = df_long['YYYYMM'].str[:4]
df_long['Month'] = df_long['YYYYMM'].str[4:]
print("\n提取年份和月份后的数据框(部分):")
print(df_long.head())输出示例:
提取年份和月份后的数据框(部分):
A B YYYYMM Value Year Month
0 10 14 201003 10 2010 03
1 14 19 201003 14 2010 03
2 10 14 201004 11 2010 04
3 14 19 201004 19 2010 04
4 10 14 201005 14 2010 053. 计算季度信息
为了按季度进行汇总,我们需要将月份映射到对应的季度。这里可以创建一个字典作为映射表,然后使用df.map()函数将月份转换为季度。
month_quarter_map = {
'01': 1, '02': 1, '03': 1,
'04': 2, '05': 2, '06': 2,
'07': 3, '08': 3, '09': 3,
'10': 4, '11': 4, '12': 4
}
df_long['Quarter'] = df_long['Month'].map(month_quarter_map)
print("\n添加季度信息后的数据框(部分):")
print(df_long.head())输出示例:
添加季度信息后的数据框(部分):
A B YYYYMM Value Year Month Quarter
0 10 14 201003 10 2010 03 1
1 14 19 201003 14 2010 03 1
2 10 14 201004 11 2010 04 2
3 14 19 201004 19 2010 04 2
4 10 14 201005 14 2010 05 24. 按季度汇总数据
现在,我们已经有了年份和季度信息,可以轻松地使用groupby()函数进行聚合。我们可以按A、B、Year和Quarter进行分组,然后对Value列求和。
quarterly_sums = df_long.groupby(['A', 'B', 'Year', 'Quarter'])['Value'].sum().reset_index()
print("\n季度汇总数据:")
print(quarterly_sums)输出示例:
季度汇总数据:
A B Year Quarter Value
0 10 14 2010 1 10
1 10 14 2010 2 47
2 10 14 2010 3 29
3 14 19 2010 1 14
4 14 19 2010 2 61
5 14 19 2010 3 375. 按年度汇总数据
年度汇总的过程与季度汇总类似,只需按A、B和Year进行分组,然后对Value列求和。
annual_sums = df_long.groupby(['A', 'B', 'Year'])['Value'].sum().reset_index()
print("\n年度汇总数据:")
print(annual_sums)输出示例:
年度汇总数据:
A B Year Value
0 10 14 2010 86
1 14 19 2010 1126. 汇总结果的可视化与进一步处理
上述步骤生成的quarterly_sums和annual_sums都是独立的DataFrame,包含了按季度和年度汇总的数据。如果需要将这些汇总结果作为新列添加到原始数据框中,或者以特定的宽格式呈现,可以考虑使用pivot_table或merge操作。
例如,将季度汇总数据转换回宽格式,以季度作为列:
# 将季度汇总数据转换为宽格式
quarterly_wide = quarterly_sums.pivot_table(index=['A', 'B', 'Year'], columns='Quarter', values='Value').reset_index()
quarterly_wide.columns.name = None # 清除列名中的'Quarter'
# 重命名季度列以便区分
quarterly_wide = quarterly_wide.rename(columns={1: 'Q1_Sum', 2: 'Q2_Sum', 3: 'Q3_Sum', 4: 'Q4_Sum'})
print("\n宽格式的季度汇总数据:")
print(quarterly_wide)输出示例:
宽格式的季度汇总数据:
A B Year Q1_Sum Q2_Sum Q3_Sum
0 10 14 2010 10.0 47.0 29.0
1 14 19 2010 14.0 61.0 37.0请注意,如果某个季度没有数据,pivot_table会默认填充NaN。
注意事项与最佳实践
- 数据类型: 确保Value列是数值类型,否则sum()操作可能不会得到期望的结果。如果不是,可以使用df_long['Value'] = pd.to_numeric(df_long['Value'], errors='coerce')进行转换。errors='coerce'会将无法转换的值设为NaN。
- 日期格式: 本教程假设年月列名为YYYYMM格式。如果您的列名是其他日期格式,需要相应调整字符串切片或使用更强大的pd.to_datetime函数将其转换为日期时间对象,再提取年份、月份和季度。
- 灵活性: 这种方法非常灵活,可以轻松扩展到其他时间粒度(例如,半年、十年)或自定义的时间周期。
- 性能优化: 对于非常大的数据集,pd.to_datetime配合dt.quarter和dt.year属性通常比字符串切片和手动映射更高效。
# 更高效的日期处理方式(如果YYYYMM可以转换为日期) # df_long['Date'] = pd.to_datetime(df_long['YYYYMM'], format='%Y%m') # df_long['Year'] = df_long['Date'].dt.year # df_long['Quarter'] = df_long['Date'].dt.quarter # df_long['Month'] = df_long['Date'].dt.month # 如果还需要月份
然而,由于原始问题中的YYYYMM是列名,melt后它成为字符串,直接使用str[:4]等操作已经足够简洁高效。
总结
通过本教程,我们学习了如何利用Pandas的melt()函数将宽格式的月度数据转换为长格式,并通过字符串操作提取年份和月份信息,进而计算季度。最终,使用groupby()函数实现了按季度和年度的数据汇总。这种方法不仅解决了手动求和的痛点,还提供了一个通用、灵活且易于扩展的数据聚合框架,极大地提高了数据处理的效率和准确性。
终于介绍完啦!小伙伴们,这篇关于《Pandas月度数据汇总教程》的介绍应该让你收获多多了吧!欢迎大家收藏或分享给更多需要学习的朋友吧~golang学习网公众号也会发布文章相关知识,快来关注吧!
2025抖音双11粉丝券领取攻略
- 上一篇
- 2025抖音双11粉丝券领取攻略
- 下一篇
- PHP关闭MySQL连接的正确方法
-
- 文章 · python教程 | 38分钟前 |
- Python列表创建技巧全解析
- 283浏览 收藏
-
- 文章 · python教程 | 1小时前 |
- Python计算文件实际占用空间技巧
- 349浏览 收藏
-
- 文章 · python教程 | 2小时前 |
- OpenCV中OCR技术应用详解
- 204浏览 收藏
-
- 文章 · python教程 | 3小时前 |
- Pandas读取Django表格:协议关键作用
- 401浏览 收藏
-
- 文章 · python教程 | 3小时前 | 身份验证 断点续传 requests库 PythonAPI下载 urllib库
- Python调用API下载文件方法
- 227浏览 收藏
-
- 文章 · python教程 | 3小时前 |
- Windows7安装RtMidi失败解决办法
- 400浏览 收藏
-
- 文章 · python教程 | 3小时前 |
- Python异步任务优化技巧分享
- 327浏览 收藏
-
- 文章 · python教程 | 3小时前 |
- PyCharm图形界面显示问题解决方法
- 124浏览 收藏
-
- 文章 · python教程 | 4小时前 |
- Python自定义异常类怎么创建
- 450浏览 收藏
-
- 文章 · python教程 | 5小时前 |
- Python抓取赛狗数据:指定日期赛道API教程
- 347浏览 收藏
-
- 文章 · python教程 | 5小时前 |
- Python3中datetime常用转换方式有哪些?
- 464浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- ChatExcel酷表
- ChatExcel酷表是由北京大学团队打造的Excel聊天机器人,用自然语言操控表格,简化数据处理,告别繁琐操作,提升工作效率!适用于学生、上班族及政府人员。
- 3179次使用
-
- Any绘本
- 探索Any绘本(anypicturebook.com/zh),一款开源免费的AI绘本创作工具,基于Google Gemini与Flux AI模型,让您轻松创作个性化绘本。适用于家庭、教育、创作等多种场景,零门槛,高自由度,技术透明,本地可控。
- 3390次使用
-
- 可赞AI
- 可赞AI,AI驱动的办公可视化智能工具,助您轻松实现文本与可视化元素高效转化。无论是智能文档生成、多格式文本解析,还是一键生成专业图表、脑图、知识卡片,可赞AI都能让信息处理更清晰高效。覆盖数据汇报、会议纪要、内容营销等全场景,大幅提升办公效率,降低专业门槛,是您提升工作效率的得力助手。
- 3418次使用
-
- 星月写作
- 星月写作是国内首款聚焦中文网络小说创作的AI辅助工具,解决网文作者从构思到变现的全流程痛点。AI扫榜、专属模板、全链路适配,助力新人快速上手,资深作者效率倍增。
- 4525次使用
-
- MagicLight
- MagicLight.ai是全球首款叙事驱动型AI动画视频创作平台,专注于解决从故事想法到完整动画的全流程痛点。它通过自研AI模型,保障角色、风格、场景高度一致性,让零动画经验者也能高效产出专业级叙事内容。广泛适用于独立创作者、动画工作室、教育机构及企业营销,助您轻松实现创意落地与商业化。
- 3798次使用
-
- Flask框架安装技巧:让你的开发更高效
- 2024-01-03 501浏览
-
- Django框架中的并发处理技巧
- 2024-01-22 501浏览
-
- 提升Python包下载速度的方法——正确配置pip的国内源
- 2024-01-17 501浏览
-
- Python与C++:哪个编程语言更适合初学者?
- 2024-03-25 501浏览
-
- 品牌建设技巧
- 2024-04-06 501浏览

