异常值,也称离群点(Outlier),指的是个别数据和其它正常数据的分布差异很大。- 一类是真实极端事件:数值如何业务逻辑(例如双十一的促销活动导致销售额的急剧增加),这类数据不能直接删除,需要单独分析,结合当时的情景来看。
- 一类是人为误差:数据录入时的错误,设备故障导致数据存储异常,单位写错等,这类异常值需要进行清洗/修正。
- 先用其它方法找出异常值(箱型图四分位法、3σ原则)
- q1,即下四分位数,25分位数,有25%数据值≤q1
- q2,即中位数,50分位数,有50%数据的值≤q2
- IQR,四分位距=q3-q1(箱线图中间的矩形的纵向距离)
原理:衡量距离均值有多少个标准差。Z=(X-μ)/σ- 数据落在均值附近±1个标准差的概率是68.27%,
直接调用series的mean(),std()方法求值μ=s.mean()σ=s.std()z=(series-μ)/σoutlier=np.abs(z)>3 #异常值
找到异常值后,判断不属于业务真实情况,处理的方式有几种方式: