作者 | CDA数据分析师
来源 | CDA数据科学研究院
从事数据分析工作,统计基础不可或缺。今天小编就来给大家好好梳理一下关于一名合格数据分析师所要掌握的统计基础都有哪些,旨在为大家查缺补漏,让大家的数据分析之路走得更扎实稳靠。
统计的基本任务是对经济社会发展情况进行统计调查、统计分析,提供统计资料和统计咨询意见、实行统计监督。统计的信息、咨询和监督三大职能,是相互作用、相互促进、相辅相成和密切联系的。信息职能是统计最基本的职能,是保证咨询和监督职能得以有效发挥的前提。咨询和监督职能是在信息职能基础上的拓展和深化,是在充分发挥信息资源作用的基础上,对统计整体效能的提高。
按照所采用的计量尺度的不同,可以将统计数据分为分类数据、顺序数据和数值型数据。
分类数据是只能归于某一类别的非数字型数据,它是对事物进行分类的结果,数据表现为类别,是用文字来表述的。
顺序数据是只能归于某一有序类别的非数字型数据。顺序数据虽然也是类别,但这些类别是有序的。
数值型数据是按数字尺度测量的观测值,其结果表现为具体的数值。现实中所处理的大多数数据都是数值型数据。
分类数据和顺序数据说明的是事物的品质特征,通常是用文字来表述的,其结果均表现为类别,因而也可统称为定性数据或称品质数据;数值型数据说明的是现象的数量特征,通常是用数值来表现的,因此也可以称为定量数据或数量数据。
本文主要介绍了一名合格的数据分析师所应具备的统计基础——统计描述。数据分析的前提就是要学会观察数据,了解数据,统计描述包括对数据的图表描述和统计量描述,它能让我们对数据有一个直观的认识,比如数据是否完整、是否存在异常、服从什么分布、存在什么规律等,为数据预处理和数据分析做准备。
内容框架
一. 图表描述
1. 分类数据描述
(1) 频数分布表——单变量分布表
主要用于计数和汇总一个分类变量的数据,通过它可以使频数、比例等一目了然,从而为进一步分析做准备。
(2) 频数分布表——双变量列联表
主要用于计数和汇总两个分类变量的数据,通过它可以使两个变量交叉分类的频数、比例等一目了然,从而为进一步分析做准备。
(3) 条形图
它可以用来展示各类别的绝对值和数据的分布特征。它通过相同宽度条形的长短来表示各类别的数值大小。
(4) 帕累托图
它可以用来比较各类别的频数大小。它是按各类别数据出现的频数多少排序后绘制的条形图,通过对条形图的排序,容易看出哪类数据出现得多,哪类数据出现的少。
(5) 饼图
它可以用来展示一个样本的结构。它通过一个圆来表示总的数值大小,用圆内各扇形的角度来表示各类别的数值大小。
(6) 环形图
它可以显示多个样本各部分所占的相应比例,从而用来比较多个样本的结构。它是把饼图叠在一起,挖去中间的部分;图中每一个环都表示一个样本,样本中的每一部分数据则用环中的一段表示。
2. 顺序数据描述
(1) 频数分布表——累计频数分布表
主要用于计数和汇总顺序变量的数据,通过它可以使频数、比例、累积频数、累积频率等一目了然,从而为进一步分析做准备。
(2) 累计频数分布图
主要是用于展示顺序变量的累积频数分布情况。它是将各类别按级别大小进行升序或降序排列在横坐标上,用纵坐标表示各类别的频率,然后用折线绘制出累积频率。
3. 数值型数据描述
(1) 频数分布表——分组表
主要是用于计数和汇总数值型分组数据。通过它可以使分组后的频数、比例等一目了然,从而为进一步分析做准备。
用于展示数据分布特征的图形主要有以下几种:
(2) 直方图
它可以用来展示分组数据的分布特征。它用矩形的面积来表示频数分布,在矩形的高度表示每一组的频数或频率,宽度则表示各组的组距。
区别:条形图主要用来展示分类数据,其高度表示各类别频数的多少,其宽度是固定的;直方图则主要是用于展示数值型分组数据,是用面积表示频数分布,矩形的高度表示每一组的频数或频率,宽度则表示各组的组距,因此其高度和宽度均有意义。且由于分组数据具有连续性,直方图的各矩形通常是连续排列的,而条形图则是分开排列的。
联系:二者都用来展示数据的分布情况;在平面直角坐标系中,二者的横轴都表示分组,纵轴都可表示频数或频率大小。
(3) 茎叶图
它不仅可以用来反映数据的分布特征,还可以保留原始数据的信息,更适用于观察少量数据的分布。它由“茎”和“叶”两部分构成。绘制时,首先将一个数值分成两部分,通常是以该数据的高位数值作为树茎,而叶上只保留该数值的最后一个数字。
(4) 箱线图
它不仅可以用来反映原始数据的分布特征,还可以进行多组数据分布特征的比较。绘制时,先找出数据的最大值、最小值、中位数和两个四分位数;然后连接两个四分位数画出箱子;再将最大值和最小值与箱子相连,中位数在箱子中间。箱线图还可用来寻找离群点,从而来处理数据的异常值。
用于展示时间序列的图形:
(5) 线图
它可以用于展示时间序列数据,反映现象随时间变化的特征。绘制时,时间一般绘在横轴,观测值绘在纵轴。一般情况下,横轴应长于纵轴,纵轴数据下端应从“0”开始(若起始数据与“0”相差大,可采用折断符号),以便于比较。
用于展示变量之间的关系的图形主要有以下几种:
(6) 散点图(两个数值型变量)
它可以用来展示两个数值型变量之间的关系,一个变量在横轴,一个变量在纵轴,通过观察散点的趋势判断两变量的相关性。
(7)气泡图(三个数值型变量)
它可以用来展示三个数值型变量之间的关系。第一个变量用横轴表示,第二个变量用纵轴表示,第三个变量用气泡的大小表示。
(8)矩阵散点图(两个以上数值型变量)
它可以用来同时比较多个变量两两之间的关系。
(9)雷达图(两个以上数值型变量)
它是从一点出发,用每一条射线代表一个变量,多个变量的数据的连成线就围成了一个区域,多个样本就能绘制多个区域 ,从而方便研究各样本间的相似程度。
(10)轮廓图(两个以上数值型变量)
它是用横轴表示各样本,纵轴表示每个样本的多个变量的取值,将不同样本同一个变量的取值用折线连接,从而便于分析各个样本之间的相似程度。
二. 统计量描述
1. 集中趋势度量
(1) 分类数据:众数
众数是一组数据中出现次数最多的变量值,常用于反映一组分类数据的集中趋势,且不受极端值影响。
(2) 顺序数据:中位数、四分位数
中位数是一组数据排序后处于中间位置的变量值。四分位数是一组数据排序后处于25%和75%位置上的值。它们常用于反映一组顺序数据的集中趋势,且不受极端值影响。
(3) 数值型数据:平均数
平均数是一组数据相加后除以数据的个数得到的结果,它的计算公式有多种,如简单平均数、加权平均数、几何平均数。主要是用于反映一组数值型数据的集中趋势,且易受极端值影响。
2. 离散程度度量
(1) 分类数据:异众比率
异众比率是指非众数组的频数占总频数的比例,它主要用于衡量众数对一组数据的代表程度。其值越大,众数的代表性越差;值越小,众数代表性越好。
(2) 顺序数据:四分位差
四分位差是上四分位数与下四分位数之差。它反映了中间50%数据的离散程度,其数值越小说明数据越集中,数值越大说明数据越发散。
(3) 数值型数据:方差和标准差
方差是各变量值与其均值离差平方的平均数。方差的平方根成为标准差。它们是实际中应用最广的数值型数据离散程度测度值。其值越大,说明数据越分散。此外,还有极差、平均差等可以对离散程度进行测度。
此外,还有极差,平均差等统计量有时也可以反映数值型数据的离散程度,不过极差描述的效果不太好,而平均差则不方便计算,故不常用。
注:数值型数据的相对位置度量用标准分数(sc)如z=-1.5,则表示该数值低于平均数的1.5倍标准差,标准分数公式如下:
3. 分布形状度量:偏态系数、峰态系数
(1) 偏态系数是对数据分布对称性的测度,当分布对称时,其值为0;分布左偏时,其值为负;分布右偏时,其值为正。
(2) 峰态系数是对数据分布平峰或尖峰程度的测度,它是通过与标准正态分布的峰态系数进行比较来实现的,当分布为正态时,其值为0;分布为尖峰时,其值为正;分布为平峰时,其值为负。
4. 相对离散程度:离散(变异)系数
离散系数是一组数据的标准差与其相应的平均数之比,其计算公式为:
它主要用来比较不同样本之间的离散程度。离散系数越大,说明数据的离散程度越大;离散系数越小,则说明数据的离散程度越小。
数据分析咨询请扫描二维码
在当今以数据为导向的商业环境中,数据分析师的角色变得越来越重要。无论是揭示消费者行为的趋势,还是优化企业运营的效率,数据 ...
2024-11-17金融数学是一门充满挑战和机遇的专业,它将数学、统计学和金融学的知识有机结合,旨在培养能够运用数学和统计方法解决复杂金融市 ...
2024-11-16在信息时代的浪潮中,大数据已成为推动创新的重要力量。无论是在商业、医疗、金融,还是在日常生活中,大数据扮演的角色都愈发举 ...
2024-11-16随着大数据技术的迅猛发展,数据已经成为现代商业、科技乃至生活各个方面的重要资产。大数据专业的毕业生在这一变革背景下,拥有 ...
2024-11-15随着大数据技术的迅猛发展,数据已经成为现代商业、科技乃至生活各个方面的重要资产。大数据专业的毕业生在这一变革背景下,拥有 ...
2024-11-15在快速演变的数字时代,数据分析已成为多个行业的核心驱动力。无论你是刚刚踏入数据分析领域,还是寻求进一步发展的专业人士,理 ...
2024-11-15Python作为一种通用编程语言,以其简单易学、功能强大等特点,成为众多领域的核心技术驱动者。无论是初学者还是有经验的编程人员 ...
2024-11-15在当今数据驱动的世界中,数据分析已成为许多行业的基础。无论是商业决策,产品开发,还是市场策略优化,数据分析都扮演着至关重 ...
2024-11-15数据分析作为现代商业和研究领域不可或缺的一部分,吸引了越来越多的初学者。然而,自学数据分析的过程中,初学者常常会遇到许多 ...
2024-11-15在当今的数据驱动世界中,机器学习方法在数据挖掘与分析中扮演着核心角色。这些方法通过从数据中学习模式和规律来构建模型,实现 ...
2024-11-15随着数据在各个行业的重要性日益增加,数据分析师在商业和技术领域的角色变得至关重要。其核心职责之一便是通过数据可视化,将复 ...
2024-11-15数据分析师的职责不仅仅局限于解析数据和得出结论,更在于将这些复杂的信息转换为清晰、易懂且具有影响力的沟通。良好的沟通能力 ...
2024-11-15数字化转型是企业提升竞争力和实现可持续发展的关键路径。面对快速变化的市场环境,以及技术的飞速发展,企业在数字化转型过程中 ...
2024-11-15CDA数据分析师认证:CDA认证分为三个等级:Level Ⅰ、Level Ⅱ和Level Ⅲ,每个等级的报考条件如下: Le ...
2024-11-14自学数据分析可能是一条充满挑战却又令人兴奋的道路。随着数据在现代社会中的重要性日益增长,掌握数据分析技能不仅能提升你的就 ...
2024-11-14数据分析相关职业选择 数据分析领域正在蓬勃发展,为各种专业背景的人才提供了丰富的职业机会。从初学者到有经验的专家,每个人 ...
2024-11-14数据挖掘与分析在金融行业的使用 在当今快速发展的金融行业中,数据挖掘与分析的应用愈发重要,成为驱动行业变革和提升竞争力的 ...
2024-11-14学习数据挖掘需要掌握哪些技能 数据挖掘是一个不断发展的领域,它结合了统计学、计算机科学和领域专业知识,旨在从数据中提取有 ...
2024-11-14统计学作为一门基于数据的学科,其广泛的应用领域和多样的职业选择,使得毕业生拥有丰厚的就业前景。无论是在政府还是企业,统计 ...
2024-11-14在当今高速发展的技术环境下,企业正在面临前所未有的机遇和挑战。数字化转型已成为企业保持竞争力和应对市场变化的必由之路。要 ...
2024-11-13