作者 | CDA数据分析师
我们把菜品挑选出来以后,就可以开始切菜了。比如要做凉拌黄瓜丝,把黄瓜找出来以后,那就可以把黄瓜切成丝了。
数值替换就是将数值A替换成B,可以用在异常值替换处理、缺失值填充处理中。主要有一对一替换、多对一替换、多对多替换三种替换方法。
1、一对一替换
一对一替换是将某一块区域中的一个值全部替换成另一个值。已知现在有一个年龄值是240,很明显这是一个异常值,我们要把它替换成一个正常范围内的年龄值(用正常年龄的均值33),怎么实现呢?
(1)Excel实现
在Excel中对某个值进行替换,首先要把待替换的区域选中,如果只是替换某一列中的值,只需要选中这一列即可;如果要在这一片区域中进行替换,那么拖动鼠标选中这一片区域。然后依次单击编辑菜单栏中的查找和选择>;替换选项(如下图所示)即可调出替换界面。使用快捷键Ctrl+H也可以调出替换界面。
下图为替换界面,分别输入查找内容和替换内容,然后根据需要单击全部替换或者替换全部即可。
(2)Python实现
在python中对某个值进行替换利用的是replace()方法,replace(A,B)表示将A替换成B。
上面的代码是对年龄这一列进行替换,所以把年龄这一列选中,然后调用replace()方法。有时候要对整个表进行替换,比如对全表中的缺失值进行替换,这个时候replace()方法就相当于fillna()方法了。
Np.NaN是python中对缺失值的一种表示方法。
2、多对一替换
多对一替换就是把一块区域中的多个值替换成某一个值,已知现在有三个异常年龄(240、260、280)需要把这三个年龄都替换成正常范围年龄的平均值33,该怎么实现呢?
(1)Excel实现
在Excel中需要借助if函数来实现多对一替换。一直年龄这一列是D列,要想对这个异常值进行替换,可以通过如下函数实现。
上面的公式借助了Excel中的OR()函数,表示如果D列等于240、260、或者280时,该单元格的值为33,否则为D列的值。替换后的结果如下图所示。
(2)Python实现
在 Python 中实现多对一的替换比较简单,同样也是利用replace()方法,replace([A,B],C)表示将A、B替换成C。
3、多对多替换
多对多替换其实就是某个区域中多个一对一的替换。比如将年龄异常值240替换成平均值减一,260替换成平均值,280替换成平均值加一,该怎么实现呢?
(1)Excel实现
若想在Excel中实现,需要借助函数,且需要多个if嵌套语句来实现,同时已知年龄列为D列,具体函数如下:
下图为该函数执行的流程。
替换后的结果如下图所示:
(2)Python实现
在Python中若想实现多对多的替换,同样是借助replace()方法,将替换值与待替换值用字典的形式表示,replace(“A”:“a”,“B”:“b”)表示用a替换A,用b 替换B。
数值排序是按照具体数值的大小进行排序的,有升序和降序两种,升序就是数值由小到大排列,降序是数值由大到小排列。
1、按照一列数值进行排序
按照一列数值进行排序就是整个数据表都以某一列为准,进行升序或者降序排列。
(1)Excel实现
在Excel中想要按照某列进行数值排序,只要选中这一列的字段名,然后单击编辑菜单栏下的排序和筛选按钮;在下拉菜单中选择升序或者降序选项即可,操作流程如下图所示。
按照销售ID进行升序排列前后的结果如下图所示:
(2)Python实现
在Python中我们若想按照某列进行排序,需要用到sort_values()方法,在sort_values后的括号中指明要排序的列名,以及升序还是降序排序。
上面代码表示df表按照col1列进行排序,ascending = False表示按照col1列进行降序排列。Ascending参数默认值为True,表示升序排列。所以,如果是要根据col1进行升序排序,则可以只指明列名,不需要额外声明排序方式。
2、按照有缺失值的列进行排序
(1)Python实现
在Python中,当待排序的列中有缺失值时,可以通过设置na_position参数对缺失值的显示位置进行设置,默认参数值为last,可以不写,表示将缺失值显示在最后。
通过设置na_position参数将缺失值显示在最前面。
3、按照多列数值进行排序
按照多列数值排序是指同时依据多列数据进行升序、降序排序,当第一列出现重复值时按照第二列进行排序,当第二天出现重复值时按照第三列进行排序,以此类推。
(1)Excel实现
在Excel中实现按照多列排序,选中待排序的所有数据,单击编辑菜单栏下的排序和筛选按钮,在下拉菜单中选择自定义排序选项就会出现如下图所示界面。添加条件就是添加按照排序的列,在次序里面可以单独定义每一列的升序或者降序。
举个例子,对下图左侧的Before表先按照销售ID升序排列,当遇到重复的销售ID时,再按成交时间降序排列,得出下图右侧的After表。
(2)Python实现
在Python中实现按照多列进行排序,用到的方法同样是sort_values(),只要sort_values()后的括号中以列表的形式指明要排序的多列列名及每列的排序方式即可。
上面代码表示df表现按照col1列进行升序排列,当col1 列遇到重复值时,再按照col2列进行降序排列。对于表df我们依旧先按照销售ID升序排列,当遇到重复的销售ID时,再按照成交时间降序排列,代码如下图所示:
数值排名和数值排序是相对应的,排名会新增一列,这一列用来存放数据的排名情况,排名是从1开始的
(1)Excel实现
在Excel中用于排名的函数有RANK.AVG()和RANK.EQ()两个。
当待排名的数值没有重复值时,这两个函数的效果是完全一样的,两个函数的不同在于处理重复值方式不同。
●RANK.AVG(number,ref,order)
number表示待排名的数值,ref表示一整列数值的范围,order用来指明降序还是升序排名。当待排名的数值由重复值时,返回重复值的平均排名。
对销售ID进行平均排名以后的结果如下图所示。图中销售ID为1的值有两个,假设一个排名是1,另一个排名是2,那么二者的均值就是1.5,所以平均排名就是1.5;销售ID为2的值同样有两个,同样假设一个排名为3 ,另一个排名为4,那么二者的均值是3.5;销售ID为3的值没有重复值,所以排名就是5。
●RANK.EQ(number,ref,order)
RANK.EQ的参数与RANK.AVG的意思是一样的。当待排名的数值有重复值时,RANK.EQ返回重复值的最佳排名。
对销售ID进行最佳排名以后的结果如下图所示。图中销售ID为1的值有两个,第一个重复值的排名为1,所以两个值的最佳排名均为1 ;销售ID为2的值也有两个,第一个重复值的排名为3,所以两个值的最佳排名均为3,;销售ID为3的值没有重复值,最佳排名为5。
(2)Python实现
在Python中对数值进行排名,小用到rank()方法。Rank()方法主要有两个参数,一个是ascending,用来指明升序排列还是降序排列,默认升序排列,和Excel中的order的意思一致;另一个是method,用来指明待排列值有重复值时的处理情况。下表是参数method可取的不同参数值及说明。
method取值为average时的排名情况,与Excel中RANK.AVG函数一致。
method取值为first时的排名情况,销售ID为1的值有两个,第一个出现的排名为1,第二个出现的排名为2;销售ID为2的以此类推。
method取值为min时的排名情况,与Excel中RANK.EQ函数一致。
method取值为max时的排名情况,与method取值min时相反,销售ID为1的值有两个,第二个重复值的排名为2,所以两个值的排名均为2;销售ID为2的值有两个,两个重复值的排名为4,所以两个值的排名均为4。
数值删除是对数据表中一些无用的数据进行删除操作。
1、删除列
(1)Excel实现
在Excel中,要删除某一列或某几列,只需要选中这些列,然后单击鼠标右键,在弹出的菜单中选择删除选项即可(或者单击鼠标右键以后按D键),如下图所示。
(2)Python实现
在Python中,要删除某列,用到的是drop()方法,即在drop方法后的括号中指明要删除的列名或者列的位置,即第几列。
在drop方法后的括号中直接传入待删除列的列名,需要加一个参数axis,并让其参数值等于1,表示删除列。
还可以在drop方法后的括号中直接传入待删除列的位置,但也需要用axis参数。
也可以将列名以列表的形式传给columns参数,这个时候就不需要axis参数了。
2、删除行
(1)Excel实现
在 Excel 中,要删除某些行使用的方法与删除列是一致的,先选中要删除的行,然后单击鼠标右键,在弹出的下拉菜单中选择删除选项就可以删除行了。
(2)Python实现
在Python中,要删除某些行用到的方法依然是drop(),与删除列类似的是,删除行也要指明行相关的信息。
在drop方法后的括号中直接传入待删除行的行名,并让axis参数值等于0,表示删除行。
除了传入行索引名称,还可以在drop方法后的括号中直接传入待删除行的行号,也需要用axis参数,并让其参数值等于0。
也可以将待删除行的行名传给index参数,这个时候就不需要axis参数了。
3、删除特定行
删除特定行一般指删除满足某个条件的行,我们前面的异常值删除算是删除特定的行。
(1)Excel实现
在Excel中删除特定行分为两步,第一步先将符合条件的行筛选出来,第二步选中这些筛选出来的行然后单击鼠标右键,在弹出的下拉菜单中选择删除选项。
(2)Python实现
在Python中删除特定行使用的方法有些特殊,我们不直接删除满足条件的值,而是把不满足条件的值筛选出来作为新的数据源,这样就把要删除的行过滤掉了。
在如下例子中,要删除年龄值大于等于40对应的行,我们并不直接删除这一部分,而是把它的相反部分取出来,即把年龄小于40的行筛选出来作为新的数据源。
数值计数就是计算某个值在一系列数值中出现的次数。
(1)Excel实现
在Excel中实现数值计数,我们使用的是COUNTIF()函数,COUNTIF()函数用来计算某个区域中满足给定条件的单元格数目。
range表示一系列值的范围,criteria表示某一个值或者某一个条件。
销售ID的值的计数结果如下图所示。销售ID为1的值在F2:F6这个范围内出现了两次;销售ID为2的值在该范围内也出现了两次;销售ID为3的值出现了1次。
(2)Python实现
在Python中,要对某些值的出现次数进行计数,我们用到的方法是value_counts()。
上面代码运行的结果表示销售ID为2的值出现了两次,销售ID为1的值出现了两次,销售ID为3的值出现了1次。这些是值出现的绝对次数,还可以看一下不同值出现的占比,只需要给value_counts()方法传入参数normalize = True即可。
上面代码的运行结果表示销售ID为2的值的占比为0.4,销售ID为1的值的占比为0.4,销售ID为3的值的占比为0.2。上面销售ID的排序是2、1、3,这是按照计数值降序排列的(0.4、0.4、0.2),通过设置sort=False可以实现不按计数值降序排列。
唯一值获取就是把某一系列值删除重复项以后的结果,一般可以将表中某一列认为是一系列值。
(1)Excel实现
在Excel中,我们若想查看某一列数值中的唯一值,可以把这一列数值复制粘贴出来,然后删除重复项,剩下的就是唯一值了。
(2)Python实现
在Python中,我们要获取一列值的唯一值,整体思路与Excel的是一致的,先把某一列的值复制粘贴出来,然后用删除重复项的方法实现,关于删除重复项在前面讲过了,本节用另一种获取唯一值的方法unique()实现。
举个例子,对表df中的销售ID取唯一值,先把销售ID取出来,然后利用unique()方法获取唯一值,代码如下所示。
数值查找就是查看数据表中的数据是否包含某个值或者某些值。
(1)Excel实现
在Excel中我们要想查看数据表中是否包含某个值可以直接利用查找功能。首先要把待查找区域选中,可以选择一列或者多列,如果不选,则默认在全表中查询,然后单击编辑菜单栏的查找和选择按钮,在下拉菜单中选择查找选项,如下图所示。
下图为选择查找选项后弹出的查找和替换对话框(也可以使用快捷键Ctrl+F打开查找和替换对话框),在查找内容框输入要查找的内容即可,可以选择查找全部,这样就会把所有查找到的内容显示出来;也可以选择查找下一个,这样会把查找结果一个一个显示出来。
(2)Python实现
在Python中查看数据表中是否包含某个值用到的是isin()方法,而且可以同时查找多个值,只需要在isin方法后的括号中指明即可。
可以将某列数据取出来,然后在这一列上调用 isin()方法,看这一列中是否包含某个/些值,如果包含则返回True,否则返回False。
也可以针对全表查找是否包含某个值。
区间切分就是将一系列数值分成若干份,比如现在有10个人,你要根据这10个人的年龄将他们分为三组,这个切分过程就称为区间切分。
(1)Excel实现
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
Python作为一门功能强大的编程语言,已经成为数据分析和可视化领域的重要工具。无论你是数据分析的新手,还是经验丰富的专业人士 ...
2025-01-10完全靠数据决策,真的靠谱吗? 最近几年,“数据驱动”成了商界最火的关键词之一,但靠数据就能走天下?其实不然!那些真正成功 ...
2025-01-09SparkSQL 结构化数据处理流程及原理是什么?Spark SQL 可以使用现有的Hive元存储、SerDes 和 UDF。它可以使用 JDBC/ODB ...
2025-01-09在如今这个信息爆炸的时代,数据已然成为企业的生命线。无论是科技公司还是传统行业,数据分析正在深刻地影响着商业决策以及未来 ...
2025-01-08“数据为王”相信大家都听说过。当前,数据信息不再仅仅是传递的媒介,它成为了驱动经济发展的新燃料。对于企业而言,数据指标体 ...
2025-01-07在职场中,当你遇到问题的时候,如果感到无从下手,或者抓不到重点,可能是因为你掌握的思维模型不够多。 一个好用的思维模型, ...
2025-01-06在现代企业中,数据分析师扮演着至关重要的角色。每天都有大量数据涌入,从社交媒体到交易平台,数据以空前的速度和规模生成。面 ...
2025-01-06在职场中,许多言辞并非表面意思那么简单,有时需要听懂背后的“潜台词”。尤其在数据分析的领域里,掌握常用术语就像掌握一门新 ...
2025-01-04在当今信息化社会,数据分析已成为各行各业的核心驱动力。它不仅仅是对数字进行整理与计算,而是在数据的海洋中探寻规律,从而指 ...
2025-01-03又到一年年终时,各位打工人也迎来了展示成果的关键时刻 —— 年终述职。一份出色的年终述职报告,不仅能全面呈现你的工作价值, ...
2025-01-03在竞争激烈的商业世界中,竞品分析对于企业的发展至关重要。今天,我们就来详细聊聊数据分析师写竞品分析的那些事儿。 一、明确 ...
2025-01-03在数据分析的江湖里,有两个阵营总是争论不休。一派信奉“大即是美”,认为数据越多越好;另一派坚守“小而精”,力挺质量胜于规 ...
2025-01-02数据分析是一个复杂且多维度的过程,从数据收集到分析结果应用,每一步都是对信息的提炼与升华。可视化分析结果,以图表的形式展 ...
2025-01-02在当今的数字化时代,数据分析师扮演着一个至关重要的角色。他们如同现代企业的“解密专家”,通过解析数据为企业提供决策支持。 ...
2025-01-02数据分析报告至关重要 一份高质量的数据分析报告不仅能够揭示数据背后的真相,还能为企业决策者提供有价值的洞察和建议。 年薪 ...
2024-12-31数据分析,听起来好像是技术大咖的专属技能,但其实是一项人人都能学会的职场硬核能力!今天,我们来聊聊数据分析的核心流程,拆 ...
2024-12-31提到数据分析,你脑海里可能会浮现出一群“数字控”抱着电脑,在海量数据里疯狂敲代码的画面。但事实是,数据分析并没有你想象的 ...
2024-12-31关于数据分析师是否会成为失业高危职业,近年来的讨论层出不穷。在这个快速变化的时代,技术进步让人既兴奋又不安。今天,我们从 ...
2024-12-30数据分析师在现代企业中扮演着关键角色,他们的工作内容不仅丰富多样,还对企业的决策和发展起着重要的作用。正如一个经验丰富的 ...
2024-12-29数据分析师的能力要求 在当今的数据主导时代,数据分析师的角色变得尤为重要。他们不仅需要具备深厚的技术背景,还需要拥有业务 ...
2024-12-29