数据分析方法:非参数检验
对于分布形态未知的数据,常用处理方法如下:
判断数据序列的分布形态
以标准的正态分布形态为基准,检验数据序列与正态序列是否存在分布差异性,这里可以用单样本的K-S检验,如果没有显著性差异,就认为该序列满足正态分布。对于已经满足正态分布的序列,可以直接使用基于正态分布的数据分析技术,比如T检验和方差分析。
转化为正态分布序列
明确不是正态分布的序列,可以通过技术手段将序列转化为接近正态分布的形态。在数据分析过程中,人们常常借助于秩分把非正态分布的数据转化为接近正态分布的形态;或者借助于Z分数和正态得分对数据序列进行预处理,然后借助正态分布差异性分析结束实现差异显著性检验。(回顾这部分内容:数据分析方法:非正态数据转化成正态数据)
非参数检验方法
除了转化为正态分布序列,还可直接使用非参数检验方法检验其分布差异性。实际上,所谓的非参数检验,其实质就是借助于秩分或符号等技术对原始序列进行转化,然后借用类似参数检验的手段开展数据分析。
非参数检验
前面说到,对于不符合正态分布的数据,可以采用非参数检验的方法进行数据分析。在这里,不符合正态分布的数据可以分为两种:1、不符合正态分布的高测度数据(定距数据和高测度的定序数据);2、低测度数据(定类数据和低测度的定序数据)。根据上面两种数据类型,非参数检验主要包括下面三个方面的内容:
检验样本的分布形态
检验高测度数据序列的分布形态,这是针对单变量的检验,其方法是检验数据序列的分布与标准分布形态的差异性。如果当前数据序列与标准分布形态没有显著性差异,则被认为当前序列满足该分布形态。常见的针对单样本数据判断其分布形态的检验技术主要有:单样本K-S检验、单样本游程检验、二项分布检验、卡方检验。
分布形态差异显著性检验
对于不符合正态分布的高测度数据序列,常见的差异显著性检验方法有:1、两独立样本的差异显著性检验;2、多独立样本的差异显著性检验;3、两关联样本的差异显著性检验;4、多关联样本的差异显著性检验。
低测度数据的差异显著性检验
对于不符合正态分布的定类数据或低测度定序数据,其检验方法是利用交叉表技术分行分列计算交叉点的频数,利用卡方距离实施卡方检验,基于频数和数据分布形态分析不同类别的数据是否存在显著性差异。对于定类数据的对比检验,也叫独立性检验。
分布形态差异显著性检验
分布形态检验前面已经介绍过,低测度数据的卡方检验将在下一篇文章中介绍。下面重点介绍对于非正态分布的高测度数据的分布形态差异显著性检验方法。
两关联样本的非参数检验
对不满足正态分布的两关联样本,如果分析其是否存在显著性差异,不可以通过均值比较其差异性,通常是通过对比其分布形态比较其差异性。
数据序列的三个要求:1、样本数据来源于同一总体的不同视角,或者是对相同样本的多次测量;2、几组样本数据之间存在一一对应的关联性;3、数据不满足正态分布,或样本的测量区分度不高。
两关联样本非参数检验的方法
符号秩检验(Wilcoxon);基于符号检验其秩分分布的办法,本质上是一种检验平均秩的检验。即把样本的两次观测值相减,记录差值的符号和绝对值,并基于绝对值升序求秩分,比较两组数据的正值秩分或负值秩分,从而确定其差异性。
符号检验(Sign);纯粹通过符号实施数据检验的一种方法,即对样本的两次测量值直接相减求取符号,然后根据符号情况确定其差异性。由于符号检验仅仅通过正负号进行检验,适合于测度较低的非定距数据,其检验准确度不够高。
变化显著性检验(McNemar);变化显著性检验,是基于两次测量差值情况的检验方法。即把样本的两次测量值相减,记录差值,然后通过校验公式处理后,求取卡方值。然后基于卡方检验决定其差异性。变化显著性检验,仅适用于两个变量均为二分数据的情况。
边缘一致性检验(MarginalHomo);边缘一致性检验,也是基于两次测量差值情况的检验方法,主要通过把先后测量的两组样本值进行卡方检验。基于卡方检验的方法判断序列之间差异性。边缘一致性检验,对变量的要求并不局限于二分数据,还可以面向多值的分类变量。
多关联样本的非参数检验
当关联样本多于两个时,需要用多关联样本的非参数检验。多关联样本的非参数检验方法主要有:
双向等级方差分析(FriedMan);双向等级方差分析是基于K个变量降序秩分的差异显著性检验。这是基于秩分的一种方差分析方法,其基本思路是先对样本的K个检验量进行降序求秩分,然后按照秩分做方差分析。双向等级方差分析,比较适合于针对定距变量和高测度定序变量的数据分析。
肯德尔和谐系数检验(Kendall);肯德尔和谐系数检验,是基于肯德尔系数的差异显著性检验技术,是基于秩分的平均等级分析。其基本思路是:先计算K个观测量卡方值和肯德尔和谐系数W,然后判断其观测值的分布是否一致。在肯德尔和谐系数检验中,以肯德尔和谐系数W表示被检验变量的秩分之间的差异程度。协同系数W的取值在0~1,W越接近于1,表示变量的组件差异越大,反之,协同系数W越接近于0,表示变量的组间差异越小。肯德尔和谐系数检验,比较适合于定距变量与定序变量的处理。
二分变量检验(Cochran检验);二分变量检验,通过检验多个样本量的CochranQ系数,以便分析K各关联样本是否来自同一总体或者具有相同的分布。二分变量检验,主要面向二分变量的分析。
两独立样本的非参数检验
对不满足正态分布的两独立样本,如需要分析其是否存在显著性差异,同样不可以通过均值比较其差异性,通常是通过分布形态或秩分比较其差异性。对于两独立样本的非参数检验,对数据序列主要有以下要求:1、样本数据来源于同一总体;2、样本数据不满足正态分布,或样本的测量区分度不高;3、样本数据可被另外的分组变量划分为两组;
两独立样本非参数检验的方法
Wilcxon W等级和检验(Mann-Whitney U);Wilcxon W(威尔克科逊)等级与检验,也叫曼-惠特尼U检验,其基本思路是:把全部样本混在一起求秩,然后根据两组样本的秩分情况判断是否存在差异。曼-惠特尼U检验本质上是一种通过比较两个样本秩分情况而获得差异显著性检验结论的一种检验技术。本算法适应于定距数据和定序数据。
摩西极端反映的差异检验(MosesExtreme reaction);摩西极端反映检验,即摩西极端反映的差异显著性检验,即对全体样本混合求秩分,根据两端的极端秩分值确定其差异性。摩西极端反映检验是通过检验极端秩分值来反映的差异情况,来判断两组数据的分布是否存在差异。
两独立样本的K-S检验(Kolmogorov-Smirnov Z);两独立样本的K-S检验,是基于秩分累积频数的检验方式。即对全体样本混合求取秩分,然后针对秩分的累积频数或累积频率进行差异显著性检验。本算法适应于定距数据和定序数据。如果预先把其中一组数据设置为标准分布形态的数据,那么通过K-S分析待检验序列与标准分布的差异性水平,就能实现针对单样本数据的分布形态的判定。
沃尔德-沃尔福威茨游程检验(Wald-Wolfwitz runs);沃尔德-沃尔夫威茨游程检验,是基于秩分排列的游程检验。即对全体样本混合求取秩分,并基于两组样本在秩分序列中的位置构造游程。通过分析游程的大小和数量实现游程检验,从而判断两组样本在混合序列中的排列是否为随机的。若两组样本在混合序列中的排列是随机的,则两组样本之间没有显著性差异。
多独立样本的非参数检验
多独立样本的差异显著性检验既可以是针对同一总体的不同随机抽样,也可以源于不同总体,其目的是判断多个样本序列的差异是否显著。在多独立样本的差异显著性检验中,对符合正态分布的高测度数据,通常使用方差分析的方法,而对不符合正态分布的数据,或者方差非齐性时,则常常使用非参数检验的方法。
多独立样本非参数检验的方法
K-W平均秩检验(Kruskal-Wailis H);K-W平均秩检验是一种基于平均秩的差异显著性检验。其基本思路是:先把待分析的观测变量序列排序后求取秩分(或者把多个独立样本的数据混合后排序并求取秩分),然后基于各组秩分,进行类似方差分析的计算,分析秩分的均值差异是否显著。K-W平均秩检验是基于秩分的一种方差分析技术,适合于观测变量为定距数据或定序数据的场合。
中位数检验(Median);中位数检验是基于数据序列的中位数而设计的一种差异性的检验。其基本思路:先求取混合后数据的中位数,然后利用卡方分布统计量来计算每个样本组内中位数两侧个案数的差异性。中位数检验适合于测度不高的定序变量。
分组分布检验(Jonckheere);分组分布检验是通过检验多个样本组是否具有相同分布来判断差异性的方法。样本的分组根据分组变量定义。分组分布检验既可以检验定距变量,也可以检验定序变量。对于定序变量,本方法比K-W检验更为有效。
数据分析咨询请扫描二维码
在准备数据分析师面试时,掌握高频考题及其解答是应对面试的关键。为了帮助大家轻松上岸,以下是10个高频考题及其详细解析,外加 ...
2024-12-20互联网数据分析师是一个热门且综合性的职业,他们通过数据挖掘和分析,为企业的业务决策和运营优化提供强有力的支持。尤其在如今 ...
2024-12-20在现代商业环境中,数据分析师是不可或缺的角色。他们的工作不仅仅是对数据进行深入分析,更是协助企业从复杂的数据信息中提炼出 ...
2024-12-20随着大数据时代的到来,数据驱动的决策方式开始受到越来越多企业的青睐。近年来,数据分析在人力资源管理中正在扮演着至关重要的 ...
2024-12-20在数据分析的世界里,表面上的技术操作只是“入门票”,而真正的高手则需要打破一些“看不见的墙”。这些“隐形天花板”限制了数 ...
2024-12-19在数据分析领域,尽管行业前景广阔、岗位需求旺盛,但实际的工作难度却远超很多人的想象。很多新手初入数据分析岗位时,常常被各 ...
2024-12-19入门数据分析,许多人都会感到“难”,但这“难”究竟难在哪儿?对于新手而言,往往不是技术不行,而是思维方式、业务理解和实践 ...
2024-12-19在如今的行业动荡背景下,数据分析师的职业前景虽然面临一些挑战,但也充满了许多新的机会。随着技术的不断发展和多领域需求的提 ...
2024-12-19在信息爆炸的时代,数据分析师如同探险家,在浩瀚的数据海洋中寻觅有价值的宝藏。这不仅需要技术上的过硬实力,还需要一种艺术家 ...
2024-12-19在当今信息化社会,大数据已成为各行各业不可或缺的宝贵资源。大数据专业应运而生,旨在培养具备扎实理论基础和实践能力,能够应 ...
2024-12-19阿里P8、P9失业都找不到工作?是我们孤陋寡闻还是世界真的已经“癫”成这样了? 案例一:本硕都是 985,所学的专业也是当红专业 ...
2024-12-19CDA持证人Louis CDA持证人基本情况 我大学是在一个二线城市的一所普通二本院校读的,专业是旅游管理,非计算机非统计学。毕业之 ...
2024-12-18最近,知乎上有个很火的话题:“一个人为何会陷入社会底层”? 有人说,这个世界上只有一个分水岭,就是“羊水”;还有人说,一 ...
2024-12-18在这个数据驱动的时代,数据分析师的技能需求快速增长。掌握适当的编程语言不仅能增强分析能力,还能帮助分析师从海量数据中提取 ...
2024-12-17在当今信息爆炸的时代,数据分析已经成为许多行业中不可或缺的一部分。想要在这个领域脱颖而出,除了热情和毅力外,你还需要掌握 ...
2024-12-17数据分析,是一项通过科学方法处理数据以获取洞察并支持决策的艺术。无论是在商业环境中提升业绩,还是在科研领域推动创新,数据 ...
2024-12-17在数据分析领域,图表是我们表达数据故事的重要工具。它们不仅让数据变得更加直观,也帮助我们更好地理解数据中的趋势和模式。相 ...
2024-12-16在当今社会,我们身处着一个飞速发展、变化迅猛的时代。不同行业在科技进步、市场需求和政策支持的推动下蓬勃发展,呈现出令人瞩 ...
2024-12-16在现代商业世界中,数据分析师扮演着至关重要的角色。他们通过解析海量数据,为企业战略决策提供有力支持。要有效完成这项任务, ...
2024-12-16在当今数据爆炸的时代,数据分析师是组织中不可或缺的导航者。他们通过从大量数据中提取可操作的洞察力,帮助企业在竞争激烈的市 ...
2024-12-16