作者 | CDA数据分析师
来源 | CDA数据科学研究院
从事数据分析工作,统计基础不可或缺。今天小编就来给大家好好梳理一下关于一名合格数据分析师所要掌握的统计基础都有哪些,旨在为大家查缺补漏,让大家的数据分析之路走得更扎实稳靠。
统计的基本任务是对经济社会发展情况进行统计调查、统计分析,提供统计资料和统计咨询意见、实行统计监督。统计的信息、咨询和监督三大职能,是相互作用、相互促进、相辅相成和密切联系的。信息职能是统计最基本的职能,是保证咨询和监督职能得以有效发挥的前提。咨询和监督职能是在信息职能基础上的拓展和深化,是在充分发挥信息资源作用的基础上,对统计整体效能的提高。
按照所采用的计量尺度的不同,可以将统计数据分为分类数据、顺序数据和数值型数据。
分类数据是只能归于某一类别的非数字型数据,它是对事物进行分类的结果,数据表现为类别,是用文字来表述的。
顺序数据是只能归于某一有序类别的非数字型数据。顺序数据虽然也是类别,但这些类别是有序的。
数值型数据是按数字尺度测量的观测值,其结果表现为具体的数值。现实中所处理的大多数数据都是数值型数据。
分类数据和顺序数据说明的是事物的品质特征,通常是用文字来表述的,其结果均表现为类别,因而也可统称为定性数据或称品质数据;数值型数据说明的是现象的数量特征,通常是用数值来表现的,因此也可以称为定量数据或数量数据。
本文主要介绍了一名合格的数据分析师所应具备的统计基础——统计描述。数据分析的前提就是要学会观察数据,了解数据,统计描述包括对数据的图表描述和统计量描述,它能让我们对数据有一个直观的认识,比如数据是否完整、是否存在异常、服从什么分布、存在什么规律等,为数据预处理和数据分析做准备。
内容框架
一. 图表描述
1. 分类数据描述
(1) 频数分布表——单变量分布表
主要用于计数和汇总一个分类变量的数据,通过它可以使频数、比例等一目了然,从而为进一步分析做准备。
(2) 频数分布表——双变量列联表
主要用于计数和汇总两个分类变量的数据,通过它可以使两个变量交叉分类的频数、比例等一目了然,从而为进一步分析做准备。
(3) 条形图
它可以用来展示各类别的绝对值和数据的分布特征。它通过相同宽度条形的长短来表示各类别的数值大小。
(4) 帕累托图
它可以用来比较各类别的频数大小。它是按各类别数据出现的频数多少排序后绘制的条形图,通过对条形图的排序,容易看出哪类数据出现得多,哪类数据出现的少。
(5) 饼图
它可以用来展示一个样本的结构。它通过一个圆来表示总的数值大小,用圆内各扇形的角度来表示各类别的数值大小。
(6) 环形图
它可以显示多个样本各部分所占的相应比例,从而用来比较多个样本的结构。它是把饼图叠在一起,挖去中间的部分;图中每一个环都表示一个样本,样本中的每一部分数据则用环中的一段表示。
2. 顺序数据描述
(1) 频数分布表——累计频数分布表
主要用于计数和汇总顺序变量的数据,通过它可以使频数、比例、累积频数、累积频率等一目了然,从而为进一步分析做准备。
(2) 累计频数分布图
主要是用于展示顺序变量的累积频数分布情况。它是将各类别按级别大小进行升序或降序排列在横坐标上,用纵坐标表示各类别的频率,然后用折线绘制出累积频率。
3. 数值型数据描述
(1) 频数分布表——分组表
主要是用于计数和汇总数值型分组数据。通过它可以使分组后的频数、比例等一目了然,从而为进一步分析做准备。
用于展示数据分布特征的图形主要有以下几种:
(2) 直方图
它可以用来展示分组数据的分布特征。它用矩形的面积来表示频数分布,在矩形的高度表示每一组的频数或频率,宽度则表示各组的组距。
区别:条形图主要用来展示分类数据,其高度表示各类别频数的多少,其宽度是固定的;直方图则主要是用于展示数值型分组数据,是用面积表示频数分布,矩形的高度表示每一组的频数或频率,宽度则表示各组的组距,因此其高度和宽度均有意义。且由于分组数据具有连续性,直方图的各矩形通常是连续排列的,而条形图则是分开排列的。
联系:二者都用来展示数据的分布情况;在平面直角坐标系中,二者的横轴都表示分组,纵轴都可表示频数或频率大小。
(3) 茎叶图
它不仅可以用来反映数据的分布特征,还可以保留原始数据的信息,更适用于观察少量数据的分布。它由“茎”和“叶”两部分构成。绘制时,首先将一个数值分成两部分,通常是以该数据的高位数值作为树茎,而叶上只保留该数值的最后一个数字。
(4) 箱线图
它不仅可以用来反映原始数据的分布特征,还可以进行多组数据分布特征的比较。绘制时,先找出数据的最大值、最小值、中位数和两个四分位数;然后连接两个四分位数画出箱子;再将最大值和最小值与箱子相连,中位数在箱子中间。箱线图还可用来寻找离群点,从而来处理数据的异常值。
用于展示时间序列的图形:
(5) 线图
它可以用于展示时间序列数据,反映现象随时间变化的特征。绘制时,时间一般绘在横轴,观测值绘在纵轴。一般情况下,横轴应长于纵轴,纵轴数据下端应从“0”开始(若起始数据与“0”相差大,可采用折断符号),以便于比较。
用于展示变量之间的关系的图形主要有以下几种:
(6) 散点图(两个数值型变量)
它可以用来展示两个数值型变量之间的关系,一个变量在横轴,一个变量在纵轴,通过观察散点的趋势判断两变量的相关性。
(7)气泡图(三个数值型变量)
它可以用来展示三个数值型变量之间的关系。第一个变量用横轴表示,第二个变量用纵轴表示,第三个变量用气泡的大小表示。
(8)矩阵散点图(两个以上数值型变量)
它可以用来同时比较多个变量两两之间的关系。
(9)雷达图(两个以上数值型变量)
它是从一点出发,用每一条射线代表一个变量,多个变量的数据的连成线就围成了一个区域,多个样本就能绘制多个区域 ,从而方便研究各样本间的相似程度。
(10)轮廓图(两个以上数值型变量)
它是用横轴表示各样本,纵轴表示每个样本的多个变量的取值,将不同样本同一个变量的取值用折线连接,从而便于分析各个样本之间的相似程度。
二. 统计量描述
1. 集中趋势度量
(1) 分类数据:众数
众数是一组数据中出现次数最多的变量值,常用于反映一组分类数据的集中趋势,且不受极端值影响。
(2) 顺序数据:中位数、四分位数
中位数是一组数据排序后处于中间位置的变量值。四分位数是一组数据排序后处于25%和75%位置上的值。它们常用于反映一组顺序数据的集中趋势,且不受极端值影响。
(3) 数值型数据:平均数
平均数是一组数据相加后除以数据的个数得到的结果,它的计算公式有多种,如简单平均数、加权平均数、几何平均数。主要是用于反映一组数值型数据的集中趋势,且易受极端值影响。
2. 离散程度度量
(1) 分类数据:异众比率
异众比率是指非众数组的频数占总频数的比例,它主要用于衡量众数对一组数据的代表程度。其值越大,众数的代表性越差;值越小,众数代表性越好。
(2) 顺序数据:四分位差
四分位差是上四分位数与下四分位数之差。它反映了中间50%数据的离散程度,其数值越小说明数据越集中,数值越大说明数据越发散。
(3) 数值型数据:方差和标准差
方差是各变量值与其均值离差平方的平均数。方差的平方根成为标准差。它们是实际中应用最广的数值型数据离散程度测度值。其值越大,说明数据越分散。此外,还有极差、平均差等可以对离散程度进行测度。
此外,还有极差,平均差等统计量有时也可以反映数值型数据的离散程度,不过极差描述的效果不太好,而平均差则不方便计算,故不常用。
注:数值型数据的相对位置度量用标准分数(sc)如z=-1.5,则表示该数值低于平均数的1.5倍标准差,标准分数公式如下:
3. 分布形状度量:偏态系数、峰态系数
(1) 偏态系数是对数据分布对称性的测度,当分布对称时,其值为0;分布左偏时,其值为负;分布右偏时,其值为正。
(2) 峰态系数是对数据分布平峰或尖峰程度的测度,它是通过与标准正态分布的峰态系数进行比较来实现的,当分布为正态时,其值为0;分布为尖峰时,其值为正;分布为平峰时,其值为负。
4. 相对离散程度:离散(变异)系数
离散系数是一组数据的标准差与其相应的平均数之比,其计算公式为:
它主要用来比较不同样本之间的离散程度。离散系数越大,说明数据的离散程度越大;离散系数越小,则说明数据的离散程度越小。
数据分析咨询请扫描二维码
在准备数据分析师面试时,掌握高频考题及其解答是应对面试的关键。为了帮助大家轻松上岸,以下是10个高频考题及其详细解析,外加 ...
2024-12-20互联网数据分析师是一个热门且综合性的职业,他们通过数据挖掘和分析,为企业的业务决策和运营优化提供强有力的支持。尤其在如今 ...
2024-12-20在现代商业环境中,数据分析师是不可或缺的角色。他们的工作不仅仅是对数据进行深入分析,更是协助企业从复杂的数据信息中提炼出 ...
2024-12-20随着大数据时代的到来,数据驱动的决策方式开始受到越来越多企业的青睐。近年来,数据分析在人力资源管理中正在扮演着至关重要的 ...
2024-12-20在数据分析的世界里,表面上的技术操作只是“入门票”,而真正的高手则需要打破一些“看不见的墙”。这些“隐形天花板”限制了数 ...
2024-12-19在数据分析领域,尽管行业前景广阔、岗位需求旺盛,但实际的工作难度却远超很多人的想象。很多新手初入数据分析岗位时,常常被各 ...
2024-12-19入门数据分析,许多人都会感到“难”,但这“难”究竟难在哪儿?对于新手而言,往往不是技术不行,而是思维方式、业务理解和实践 ...
2024-12-19在如今的行业动荡背景下,数据分析师的职业前景虽然面临一些挑战,但也充满了许多新的机会。随着技术的不断发展和多领域需求的提 ...
2024-12-19在信息爆炸的时代,数据分析师如同探险家,在浩瀚的数据海洋中寻觅有价值的宝藏。这不仅需要技术上的过硬实力,还需要一种艺术家 ...
2024-12-19在当今信息化社会,大数据已成为各行各业不可或缺的宝贵资源。大数据专业应运而生,旨在培养具备扎实理论基础和实践能力,能够应 ...
2024-12-19阿里P8、P9失业都找不到工作?是我们孤陋寡闻还是世界真的已经“癫”成这样了? 案例一:本硕都是 985,所学的专业也是当红专业 ...
2024-12-19CDA持证人Louis CDA持证人基本情况 我大学是在一个二线城市的一所普通二本院校读的,专业是旅游管理,非计算机非统计学。毕业之 ...
2024-12-18最近,知乎上有个很火的话题:“一个人为何会陷入社会底层”? 有人说,这个世界上只有一个分水岭,就是“羊水”;还有人说,一 ...
2024-12-18在这个数据驱动的时代,数据分析师的技能需求快速增长。掌握适当的编程语言不仅能增强分析能力,还能帮助分析师从海量数据中提取 ...
2024-12-17在当今信息爆炸的时代,数据分析已经成为许多行业中不可或缺的一部分。想要在这个领域脱颖而出,除了热情和毅力外,你还需要掌握 ...
2024-12-17数据分析,是一项通过科学方法处理数据以获取洞察并支持决策的艺术。无论是在商业环境中提升业绩,还是在科研领域推动创新,数据 ...
2024-12-17在数据分析领域,图表是我们表达数据故事的重要工具。它们不仅让数据变得更加直观,也帮助我们更好地理解数据中的趋势和模式。相 ...
2024-12-16在当今社会,我们身处着一个飞速发展、变化迅猛的时代。不同行业在科技进步、市场需求和政策支持的推动下蓬勃发展,呈现出令人瞩 ...
2024-12-16在现代商业世界中,数据分析师扮演着至关重要的角色。他们通过解析海量数据,为企业战略决策提供有力支持。要有效完成这项任务, ...
2024-12-16在当今数据爆炸的时代,数据分析师是组织中不可或缺的导航者。他们通过从大量数据中提取可操作的洞察力,帮助企业在竞争激烈的市 ...
2024-12-16