当前位置:首页 > 文章列表 > 文章 > python教程 > Pandas分层抽样技巧:groupby加sample方法

Pandas分层抽样技巧:groupby加sample方法

2026-04-06 20:33:24 0浏览 收藏
本文深入解析了Pandas中实现分层抽样的核心技巧与常见陷阱,重点阐明为何`groupby().sample()`会报错(因`DataFrameGroupBy`对象不支持该方法),并系统介绍通过`apply()`封装`sample()`的正确写法;同时覆盖关键实战细节:如何处理小分组兜底(避免抽样失败)、`n`与`frac`的选用差异及精度陷阱、索引管理策略(保留原始索引、去重、重置)、以及百万级数据下的性能优化方案(如用`head()`/`tail()`替代、向量化索引选择、`observed=True`等)。内容直击实际开发中易踩坑的逻辑盲区,帮助读者写出健壮、高效、可维护的分层抽样代码。

Python中Pandas如何实现分层抽样_使用groupby配合sample函数

sample() 在 groupby 后直接调用为什么报错 AttributeError: 'DataFrameGroupBy' object has no attribute 'sample'

因为 groupby 返回的是 DataFrameGroupBy 对象,它本身不支持 sample();必须把抽样逻辑“下推”到每个分组内部执行。正确做法是用 apply() 包裹 sample(),让每个子 DataFrame 自己抽。

  • 错误写法:df.groupby('category').sample(n=2) → 直接报错
  • 正确写法:df.groupby('category').apply(lambda g: g.sample(n=2))
  • 注意:apply() 默认会把分组键作为索引层级加回来,如果不需要,加 reset_index(drop=True)
  • 如果分组大小不一,某些组可能抽不到足够样本(比如某组只有 1 行却指定 n=2),此时要加 replace=True 或提前过滤小分组

按比例抽样时,frac 和 n 的选择与陷阱

frac 是按比例抽,n 是按数量抽;但两者不能共存,且 frac 在小分组里容易因向下取整导致抽 0 行 —— 比如 frac=0.3 作用于 2 行的组,结果就是 0 行(不是 1 行)。

  • 想严格保证每组至少抽 1 行?别用 frac,改用 n=1 或动态计算:lambda g: g.sample(n=max(1, int(len(g) * 0.3)))
  • frac 支持小数,n 必须是整数;传浮点数给 n 会报 TypeError
  • 当总行数少、分组多时,frac=0.1 可能让多数组抽不到数据,实际效果远低于预期

如何保留原始索引、避免重排或重复索引

默认 groupby().apply() 会把分组键塞进结果索引,且各组抽样后的索引保留原样 —— 这可能导致最终结果索引不唯一、不连续,后续 merge 或定位出问题。

  • 保留原始行索引不打乱:不用额外操作,sample() 默认 ignore_index=False
  • 去掉分组键索引层级:.apply(...).reset_index(drop=True)
  • 如果担心索引重复(比如多次抽样拼接),可显式重置:.apply(...).reset_index(drop=True) 或抽样前先 df = df.reset_index(drop=True)
  • 想用原始索引做标记?抽完立刻加一列:.apply(lambda g: g.sample(n=2).assign(group=g.name))

性能差得明显?大表分层抽样卡住的几个关键点

对百万级数据做 groupby().apply() 抽样,慢的主因不是 sample() 本身,而是 Python 层循环 + 多次 DataFrame 构造。尤其当分组数极多(比如上万组)、每组又很小时,开销集中在 apply 的调度和对象创建上。

  • 优先考虑向量化替代:如果只是等量抽(如每组固定 5 行),可用 df.groupby('key').head(5) 或 df.groupby('key').tail(5),快一个数量级
  • 避免在 apply 里反复调用 len(g),提前算好或用 g.size
  • 内存敏感场景,加 observed=True(针对 category 类型分组键)可减少未出现类别的占位
  • 真要高速随机抽?考虑先用 numpy.random.Generator.choice 生成每组的行号索引,再用 .iloc 批量切片

分层抽样的真正复杂点不在语法,而在「每组样本数是否可变」「小分组怎么兜底」「索引要不要连贯」——这几个判断没想清楚,代码写出来大概率要返工。

今天关于《Pandas分层抽样技巧:groupby加sample方法》的内容介绍就到此结束,如果有什么疑问或者建议,可以在golang学习网公众号下多多回复交流;文中若有不正之处,也希望回复留言以告知!

PDF转图片方法及批量转PNG工具推荐PDF转图片方法及批量转PNG工具推荐
上一篇
PDF转图片方法及批量转PNG工具推荐
RealVisXL如何提升真实感?
下一篇
RealVisXL如何提升真实感?
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    375次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    445次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    452次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    398次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    223次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议 和 隐私政策
返回登录
  • 重置密码