当前位置:首页 > 文章列表 > 文章 > python教程 > PandasGroupBy筛选子字符串分组方法

PandasGroupBy筛选子字符串分组方法

2026-04-20 16:01:02 0浏览 收藏
本文揭秘了一种高效、优雅且高度可扩展的Pandas分组筛选技巧:通过向量化布尔条件构建、`groupby().any()`聚合判断各子串是否在组内至少出现一次,再用`all(axis=1)`实现多条件“与”逻辑,精准识别同时满足多个文本子串匹配规则的分组(如员工必须完成“onboarding part 1”和任意“corporate compliance”培训);该方法彻底规避了低效冗长的`apply`循环和字符串列表操作,兼顾性能、可读性与鲁棒性,轻松应对培训合规校验、订单标签分类、日志行为聚类等真实业务场景。

如何使用 Pandas GroupBy 高效筛选含子字符串的分组结果

本文介绍一种简洁、高效且可扩展的 Pandas 方法:通过布尔条件组合 + groupby().any() + all(axis=1),精准识别满足多个子字符串匹配条件的分组(如员工是否完成“onboarding part 1”和任一“corporate compliance”培训)。

本文介绍一种简洁、高效且可扩展的 Pandas 方法:通过布尔条件组合 + `groupby().any()` + `all(axis=1)`,精准识别满足多个子字符串匹配条件的分组(如员工是否完成“onboarding part 1”和任一“corporate compliance”培训)。

在实际数据分析中,我们常需基于文本子串(如课程名称关键词)对分组数据进行逻辑判断——例如判定某员工是否“完成入职培训”,其业务规则可能是:必须完成至少一门含 "onboarding part 1" 的课程,且同时完成至少一门含 "corporate compliance" 的课程。这类需求看似简单,但若直接在 groupby().apply() 中嵌套字符串操作并转为 list 再用 True in ... 判断,不仅可读性差、性能低,还难以维护和扩展。

更“Pandanic”的做法是将条件向量化、延迟分组聚合、最后统一逻辑合并。以下是推荐的三步范式:

✅ 步骤一:构建向量化布尔条件

避免在 apply 中逐组处理,而是先为整列生成布尔 Series,充分利用 Pandas 底层优化:

import pandas as pd

data = [
    {"EmployeeID": 1, "CompletedCourseName ": "onboarding part 1"},
    {"EmployeeID": 1, "CompletedCourseName ": "onboarding part 2"},
    {"EmployeeID": 1, "CompletedCourseName ": "corporate compliance training A"},
    {"EmployeeID": 2, "CompletedCourseName ": "corporate compliance training B"},
    {"EmployeeID": 2, "CompletedCourseName ": "Random other Training"}
]
df = pd.DataFrame(data)

# 向量化条件(忽略大小写,提升鲁棒性)
c1 = df['CompletedCourseName '].str.contains('onboarding part 1', case=False, na=False)
c2 = df['CompletedCourseName '].str.contains('corporate compliance', case=False, na=False)  # 更通用:匹配任意合规培训

⚠️ 注意:务必添加 na=False 参数,防止缺失值引发 NaN 导致后续 any() 返回 NaN,破坏布尔逻辑。

✅ 步骤二:按分组聚合条件(.groupby().any())

将多个条件拼接为 DataFrame,再按 EmployeeID 分组,对每列独立执行 any() —— 即“该员工是否至少满足该条件一次”:

# 拼接条件列,并按 EmployeeID 分组检查各条件是否被满足
condition_df = pd.concat([c1, c2], axis=1, keys=['has_onboarding_p1', 'has_compliance'])
grouped_any = condition_df.groupby(df['EmployeeID']).any()

print(grouped_any)

输出:

            has_onboarding_p1  has_compliance
EmployeeID                                   
1                        True            True
2                       False            True

✅ 步骤三:跨条件逻辑合并(.all(axis=1))

对每个员工(行),检查所有条件列是否全部为 True,最终得到布尔型结果 Series:

result = grouped_any.all(axis=1)
print(result)

输出:

EmployeeID
1     True
2    False
dtype: bool

? 优势总结与扩展提示

  • 性能优越:全程向量化运算,避免 Python 层循环与 apply 开销;
  • 逻辑清晰:条件分离、聚合解耦、合并明确,便于调试与协作;
  • 高度可扩展:新增条件只需追加 c3, c4 等布尔变量,修改 concat 和 keys 即可;
  • 健壮性强:case=False + na=False 覆盖常见数据噪声;
  • 结果即用:返回 Series 可直接用于布尔索引(如 df.groupby('EmployeeID').filter(lambda g: result[g.name]))或合并回原表。

? 小技巧:若需返回完整员工记录而非仅布尔结果,可用 result[result].index 获取达标 EmployeeID 列表,再通过 df[df['EmployeeID'].isin(...)] 筛选原始数据。

掌握这一模式,你将能优雅应对各类“多条件子串匹配+分组判定”场景——从培训完成度校验,到订单标签分类,再到日志行为聚类,皆可举一反三。

好了,本文到此结束,带大家了解了《PandasGroupBy筛选子字符串分组方法》,希望本文对你有所帮助!关注golang学习网公众号,给大家分享更多文章知识!

宏任务与I/O操作怎么关联?宏任务与I/O操作怎么关联?
上一篇
宏任务与I/O操作怎么关联?
洗碗机清洁剂怎么选?洗碗块粉凝珠全解析
下一篇
洗碗机清洁剂怎么选?洗碗块粉凝珠全解析
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    261次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    307次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    289次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    265次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    76次使用