Python异常检测：Z-score与IQR详解

在数据分析和建模前，异常值检测至关重要。本文深入解析了Python中两种常用的异常检测方法：Z-score和IQR算法，助你高效识别并处理“离群点”。Z-score基于正态分布，通过计算数据点与均值的标准差倍数来识别异常值，适用于近似正态分布的数据集。而IQR（四分位距）算法则更具通用性，尤其适用于非正态分布数据，通过计算四分位距并设定上下界来判断异常值。文章详细阐述了两种算法的原理、实现步骤，并提供了Python示例代码，同时指导读者如何根据数据分布特点选择合适的算法，以及如何结合可视化手段提升异常检测的准确性。掌握Z-score和IQR算法，为数据清洗和后续分析奠定坚实基础。

异常数据检测常用方法包括Z-score和IQR。1. Z-score适用于正态分布数据，通过计算数据点与均值相差多少个标准差，绝对值大于3则判定为异常；2. IQR适用于非正态分布数据，通过计算四分位距并设定上下界（Q1-1.5×IQR和Q3+1.5×IQR），超出范围的数值为异常值。选择方法应根据数据分布情况决定，Z-score更直观但对分布敏感，IQR更稳健且通用，可结合可视化手段提升判断准确性。

检测异常数据是数据分析中一个非常关键的步骤，尤其是在做数据清洗或建模前。Python 中常用的两种方法是 Z-score 和 IQR（四分位距）算法。这两种方法各有适用场景，也都有各自的优缺点。

下面我们就来详细说说它们分别是怎么工作的，以及在实际中该如何使用。

什么是异常值？为什么需要检测？

异常值指的是与整体数据分布明显偏离的数值，可能是由于录入错误、设备故障、极端情况等原因造成的。如果不加以处理，可能会对后续分析造成误导，比如影响模型训练效果、统计结论偏差等。

所以，在进行任何分析之前，先识别并处理这些“离群点”是非常有必要的。

Z-score 方法：适用于正态分布的数据

Z-score 的核心思想是看某个数据点距离均值有多少个标准差。一般来说，如果一个值的 Z-score 绝对值大于3，就认为它是一个异常值。

公式如下：

Z = (x - μ) / σ

其中：

• x 是当前数据点
• μ 是数据的平均值
• σ 是数据的标准差

实现步骤：

• 计算数据集的平均值和标准差
• 对每个数据点计算 Z-score
• 设置阈值（通常是 3 或 -3）
• 筛选出超出阈值的数据点作为异常值

示例代码：

import numpy as np

data = np.array([1, 2, 2, 3, 3, 3, 4, 4, 4, 5, 5, 6, 100])  # 假设100是异常值
mean = np.mean(data)
std = np.std(data)
z_scores = [(x - mean) / std for x in data]
outliers = [x for x, z in zip(data, z_scores) if abs(z) > 3]

注意：Z-score 对数据分布敏感，更适合近似正态分布的情况。如果你的数据偏态严重或者有大量极端值，这个方法可能不太靠谱。

IQR 方法：适用于非正态分布数据

IQR（Interquartile Range）即四分位距，是上四分位数（Q3）与下四分位数（Q1）之间的差值。这种方法不依赖于数据是否服从正态分布，因此更通用一些。

公式如下：

IQR = Q3 - Q1

异常值判断范围为：

• 下界：Q1 - 1.5 * IQR
• 上界：Q3 + 1.5 * IQR

落在这个区间之外的值就是异常值。

实现步骤：

• 找到 Q1 和 Q3
• 计算 IQR
• 定义上下限
• 筛选超出范围的数据点

示例代码：

import numpy as np

data = np.array([1, 2, 2, 3, 3, 3, 4, 4, 4, 5, 5, 6, 100])
Q1 = np.percentile(data, 25)
Q3 = np.percentile(data, 75)
IQR = Q3 - Q1
lower_bound = Q1 - 1.5 * IQR
upper_bound = Q3 + 1.5 * IQR
outliers = [x for x in data if x < lower_bound or x > upper_bound]

这种方法在可视化时也常用于箱线图（boxplot），是探索性数据分析中的常见工具。

怎么选择 Z-score 还是 IQR？

这取决于你的数据分布情况和分析目标：

• 如果数据大致符合正态分布，用 Z-score 更直观；
• 如果数据分布偏斜或者你不确定分布类型，IQR 更稳健；
• 可以同时尝试两种方法，对比结果，有助于发现更多潜在问题。

此外，也可以结合可视化手段（如散点图、箱线图）辅助判断。

基本上就这些。两种方法都不复杂，但在实际应用中容易忽略细节，比如数据标准化、边界定义方式等。掌握好这些小技巧，能让你在数据预处理阶段少走不少弯路。

到这里，我们也就讲完了《Python异常检测：Z-score与IQR详解》的内容了。个人认为，基础知识的学习和巩固，是为了更好的将其运用到项目中，欢迎关注golang学习网公众号，带你了解更多关于的知识点！