热线电话：13121318867

登录
首页精彩阅读如何做好数据预处理（一）
如何做好数据预处理（一）
2018-12-14
收藏


数据分析中，需要先挖掘数据，然后对数据进行处理。数据预处理的字面意思就是对于数据的预先处理，数据预处理的作用就是为了提高数据的质量以及使用数据分析软件。对于数据的预处理的具体步骤就是数据清洗、数据集成、数据变换、数据规范等工作，而数据预处理是对数据分析工作很重要的事情，所以大家一定要重视这个。


首先说一下数据清洗就是清理脏数据以及净化数据的环境，说到这里大家可能不知道什么是脏数据，一般来说，脏数据就是数据分析中数据存在乱码，无意义的字符，以及含有噪音的数据。脏数据具体表现在形式上和内容上的脏。就目前而言，脏数据在形式上就是缺失值和特殊符号，形式上的脏数据有缺失值、带有特殊符号的数据，内容上的脏数据上有异常值。


那么什么是缺失值呢？缺失值包括缺失值的识别和缺失值的处理。一般来说缺失值处理方法有删除、替换和插补。先来说说删除法吧。删除法根据删除的不同角度又可以分为删除观测样本和变量，删除观测样本，这就相当于减少样本量来换取信息的完整度，但当变量有较大缺失并且对研究目标影响不大时，可以直接删除。接着说一下替换法，所谓替换法就是将缺失值进行替换，根据变量的不同又有不同的替换规则，缺失值的所在变量是数值型用该变量下其他数的均值来替换缺失值；变量为非数值变量时则用该变量下其他观测值的中位数或众数替换。最后说说插补法，插补法分为回归插补和多重插补；回归插补指的是将插补的变量转变成替换法，然后根据替换法进行替换即可。


刚刚说到的缺失值，其实异常值也是需要处理的，那么什么是异常值呢？异常值跟缺失值一样，包括异常值的识别和异常值的处理。对于异常值的处理我们一般使用单变量散点图或箱形图来处理，在图形中，把远离正常范围的点当作异常值。异常值的的处理有删除含有异常值的观测、当作缺失值、平均值修正、不处理。在进行异常值处理时要先复习异常值出现的可能原因，再判断异常值是否应该舍弃。


大家在进行清洗数据的时候需要注意缺失数据的填补以及对异常数值的修正，这样才能够做好数据分析工作，由于篇幅的关系，如何做好数据预处理工作就给大家介绍到这里了，希望这篇文章能够给大家带来帮助。


CDA数据分析师考试相关入口一览（建议收藏）：

▷ 想报名CDA认证考试，点击>>>   “CDA报名” 了解CDA考试详情；

▷ 想加入CDA考试题库，点击>>> “CDA题库” 了解CDA考试详情；

▷ 想学习CDA考试教材，点击>>> “CDA教材” 了解CDA考试详情；

▷ 想查询CDA考试成绩，点击>>> “CDA成绩” 了解CDA考试详情；

▷ 想了解CDA考试含金量，点击>>> “CDA含金量” 了解CDA考试详情；

▷ 想获取CDA考试时间/费用/条件/大纲/通过率，点击 >>>“CDA考试官网” 了解CDA考试详情；

数据分析 数据清洗 缺失值处理 散点图 异常值处理

数据分析咨询请扫描二维码

上一篇求职 | 一份理想的数据科学家简历中要包括哪些技能？
下一篇如何做好数据预处理（二）
CDA考试动态
CDA报考指南
热门栏目
最新资讯
更多
Copyright © 2015-present 北京国富如荷网络科技有限公司 All Rights Reserved.
京ICP备11001960号-9   京公网安备 11010802034615号   经营许可证编号：京B2-20210330
客服在线
立即咨询