如何利用 pandas 根据数据类型进行筛选？

2021-09-24

来源：早起Python

作者：刘早起

前两天，有一位读者在知识星球提出了一个关于 pandas 数据清洗的问题。

如何利用 <a href='/map/pandas/' style='color:#000;font-size:inherit;'>pandas</a> 根据<a href='/map/shujuleixing/' style='color:#000;font-size:inherit;'>数据类型</a>进行筛选？

他的数据大致如下

现在希望分别做如下清洗

“A列中非字符行B列中非日期行C列中数值形式行(包括科学计数法的数值）D列中非整数行删掉C列中大小在10%-90%范围之外的行”

其实本质上都是「数据筛选」的问题，先来模拟下数据

如上图所示，基本上都是根据数据类型进行数据筛选，下面逐个解决。

取出所有非整数类型

让我们从第 4 题开始，取出 D 列全部非整数行，其实在 pandas 中可以使用.is_integer() 判断一个元素是否为整数。

这样我们就能结合 apply 函数找到全部整数行

再使用 ~ 取其补集即可得到答案

df[~df[['D']].apply(lambda x: x[0].is_integer(), axis=1)]

取出所有数值类型

第 3 题要求取出 C 列所有数值形式的行。

在 pandas 同样有直接判断的函数 .isdigit() 判断是否为数值。

所以同上可以结合 apply 函数轻松搞定～

df[df['C'].str.isdigit().isnull()].dropna()

取出非日期行

至于第 2 题，pandas 中虽有直接判断时间格式函数，但由于存在其他类型数据，该列为object，并不能直接判断。

所以只要我们将该列转换为时间格式（见习题 8-12）就会将不支持转换的格式修改为缺失值

这样在转换后删除确实值即可

取出非字符行

至于第 1 题，我们可以借助 Python 中 isinstance 函数判断一个变量是否为字符串格式

再同样借助 apply 函数即可找到全部字符串的行，然后使用～取其补集即可

自定义异常值范围

最后是一个看上去是异常值处理的问题，但本质上还是数据筛选。

直接计算该列的指定范围，并多条件筛选即可。

至此我们就成功利用 pandas 根据数据类型进行筛选值。

CDA数据分析师考试相关入口一览（建议收藏）：

▷ 想报名CDA认证考试，点击>>> “CDA报名” 了解CDA考试详情；

▷ 想加入CDA考试题库，点击>>> “CDA题库” 了解CDA考试详情；

▷ 想学习CDA考试教材，点击>>> “CDA教材” 了解CDA考试详情；

▷ 想查询CDA考试成绩，点击>>> “CDA成绩” 了解CDA考试详情；

▷ 想了解CDA考试含金量，点击>>> “CDA含金量” 了解CDA考试详情；

▷ 想获取CDA考试时间/费用/条件/大纲/通过率，点击 >>>“CDA考试官网” 了解CDA考试详情；

pandas 数据类型数据筛选异常值缺失值异常值处理数据清洗

数据分析咨询请扫描二维码

上一篇反了！居然让我教她自动化测试

下一篇国务院国资委：关于加快推进国有企业数字化转型工作的通知

如何利用 pandas 根据数据类型进行筛选？

取出所有非整数类型

取出所有数值类型

取出非日期行

取出非字符行

自定义异常值范围

CDA考试动态

CDA报考指南

热门栏目

最新资讯

数据分析师的工作内容是什么

数据分析师必须掌握的技能有哪些

数据分析入门难吗

数据分析能干啥

数据分析行业的前景

数据分析的常用方法

什么是企业数字化转型

女生做数据分析师最好去哪个行业

大数据技术专业学什么

数据分析师教程《Python数据分析极简入门》第2节 3 ...

什么行业越老越吃香

利用python进行数据分析

大数据与会计专业主要学什么

成为数据分析师需要哪些技能

python可以做数据分析吗

数据分析师的日常工作有哪些？

数据分析五种方法

数字化转型是什么意思

未来发展前景好的十大行业

统计学就业方向及前景