数据分析方法:非参数检验
对于分布形态未知的数据,常用处理方法如下:
判断数据序列的分布形态
以标准的正态分布形态为基准,检验数据序列与正态序列是否存在分布差异性,这里可以用单样本的K-S检验,如果没有显著性差异,就认为该序列满足正态分布。对于已经满足正态分布的序列,可以直接使用基于正态分布的数据分析技术,比如T检验和方差分析。
转化为正态分布序列
明确不是正态分布的序列,可以通过技术手段将序列转化为接近正态分布的形态。在数据分析过程中,人们常常借助于秩分把非正态分布的数据转化为接近正态分布的形态;或者借助于Z分数和正态得分对数据序列进行预处理,然后借助正态分布差异性分析结束实现差异显著性检验。(回顾这部分内容:数据分析方法:非正态数据转化成正态数据)
非参数检验方法
除了转化为正态分布序列,还可直接使用非参数检验方法检验其分布差异性。实际上,所谓的非参数检验,其实质就是借助于秩分或符号等技术对原始序列进行转化,然后借用类似参数检验的手段开展数据分析。
非参数检验
前面说到,对于不符合正态分布的数据,可以采用非参数检验的方法进行数据分析。在这里,不符合正态分布的数据可以分为两种:1、不符合正态分布的高测度数据(定距数据和高测度的定序数据);2、低测度数据(定类数据和低测度的定序数据)。根据上面两种数据类型,非参数检验主要包括下面三个方面的内容:
检验样本的分布形态
检验高测度数据序列的分布形态,这是针对单变量的检验,其方法是检验数据序列的分布与标准分布形态的差异性。如果当前数据序列与标准分布形态没有显著性差异,则被认为当前序列满足该分布形态。常见的针对单样本数据判断其分布形态的检验技术主要有:单样本K-S检验、单样本游程检验、二项分布检验、卡方检验。
分布形态差异显著性检验
对于不符合正态分布的高测度数据序列,常见的差异显著性检验方法有:1、两独立样本的差异显著性检验;2、多独立样本的差异显著性检验;3、两关联样本的差异显著性检验;4、多关联样本的差异显著性检验。
低测度数据的差异显著性检验
对于不符合正态分布的定类数据或低测度定序数据,其检验方法是利用交叉表技术分行分列计算交叉点的频数,利用卡方距离实施卡方检验,基于频数和数据分布形态分析不同类别的数据是否存在显著性差异。对于定类数据的对比检验,也叫独立性检验。
分布形态差异显著性检验
分布形态检验前面已经介绍过,低测度数据的卡方检验将在下一篇文章中介绍。下面重点介绍对于非正态分布的高测度数据的分布形态差异显著性检验方法。
两关联样本的非参数检验
对不满足正态分布的两关联样本,如果分析其是否存在显著性差异,不可以通过均值比较其差异性,通常是通过对比其分布形态比较其差异性。
数据序列的三个要求:1、样本数据来源于同一总体的不同视角,或者是对相同样本的多次测量;2、几组样本数据之间存在一一对应的关联性;3、数据不满足正态分布,或样本的测量区分度不高。
两关联样本非参数检验的方法
符号秩检验(Wilcoxon);基于符号检验其秩分分布的办法,本质上是一种检验平均秩的检验。即把样本的两次观测值相减,记录差值的符号和绝对值,并基于绝对值升序求秩分,比较两组数据的正值秩分或负值秩分,从而确定其差异性。
符号检验(Sign);纯粹通过符号实施数据检验的一种方法,即对样本的两次测量值直接相减求取符号,然后根据符号情况确定其差异性。由于符号检验仅仅通过正负号进行检验,适合于测度较低的非定距数据,其检验准确度不够高。
变化显著性检验(McNemar);变化显著性检验,是基于两次测量差值情况的检验方法。即把样本的两次测量值相减,记录差值,然后通过校验公式处理后,求取卡方值。然后基于卡方检验决定其差异性。变化显著性检验,仅适用于两个变量均为二分数据的情况。
边缘一致性检验(MarginalHomo);边缘一致性检验,也是基于两次测量差值情况的检验方法,主要通过把先后测量的两组样本值进行卡方检验。基于卡方检验的方法判断序列之间差异性。边缘一致性检验,对变量的要求并不局限于二分数据,还可以面向多值的分类变量。
多关联样本的非参数检验
当关联样本多于两个时,需要用多关联样本的非参数检验。多关联样本的非参数检验方法主要有:
双向等级方差分析(FriedMan);双向等级方差分析是基于K个变量降序秩分的差异显著性检验。这是基于秩分的一种方差分析方法,其基本思路是先对样本的K个检验量进行降序求秩分,然后按照秩分做方差分析。双向等级方差分析,比较适合于针对定距变量和高测度定序变量的数据分析。
肯德尔和谐系数检验(Kendall);肯德尔和谐系数检验,是基于肯德尔系数的差异显著性检验技术,是基于秩分的平均等级分析。其基本思路是:先计算K个观测量卡方值和肯德尔和谐系数W,然后判断其观测值的分布是否一致。在肯德尔和谐系数检验中,以肯德尔和谐系数W表示被检验变量的秩分之间的差异程度。协同系数W的取值在0~1,W越接近于1,表示变量的组件差异越大,反之,协同系数W越接近于0,表示变量的组间差异越小。肯德尔和谐系数检验,比较适合于定距变量与定序变量的处理。
二分变量检验(Cochran检验);二分变量检验,通过检验多个样本量的CochranQ系数,以便分析K各关联样本是否来自同一总体或者具有相同的分布。二分变量检验,主要面向二分变量的分析。
两独立样本的非参数检验
对不满足正态分布的两独立样本,如需要分析其是否存在显著性差异,同样不可以通过均值比较其差异性,通常是通过分布形态或秩分比较其差异性。对于两独立样本的非参数检验,对数据序列主要有以下要求:1、样本数据来源于同一总体;2、样本数据不满足正态分布,或样本的测量区分度不高;3、样本数据可被另外的分组变量划分为两组;
两独立样本非参数检验的方法
Wilcxon W等级和检验(Mann-Whitney U);Wilcxon W(威尔克科逊)等级与检验,也叫曼-惠特尼U检验,其基本思路是:把全部样本混在一起求秩,然后根据两组样本的秩分情况判断是否存在差异。曼-惠特尼U检验本质上是一种通过比较两个样本秩分情况而获得差异显著性检验结论的一种检验技术。本算法适应于定距数据和定序数据。
摩西极端反映的差异检验(MosesExtreme reaction);摩西极端反映检验,即摩西极端反映的差异显著性检验,即对全体样本混合求秩分,根据两端的极端秩分值确定其差异性。摩西极端反映检验是通过检验极端秩分值来反映的差异情况,来判断两组数据的分布是否存在差异。
两独立样本的K-S检验(Kolmogorov-Smirnov Z);两独立样本的K-S检验,是基于秩分累积频数的检验方式。即对全体样本混合求取秩分,然后针对秩分的累积频数或累积频率进行差异显著性检验。本算法适应于定距数据和定序数据。如果预先把其中一组数据设置为标准分布形态的数据,那么通过K-S分析待检验序列与标准分布的差异性水平,就能实现针对单样本数据的分布形态的判定。
沃尔德-沃尔福威茨游程检验(Wald-Wolfwitz runs);沃尔德-沃尔夫威茨游程检验,是基于秩分排列的游程检验。即对全体样本混合求取秩分,并基于两组样本在秩分序列中的位置构造游程。通过分析游程的大小和数量实现游程检验,从而判断两组样本在混合序列中的排列是否为随机的。若两组样本在混合序列中的排列是随机的,则两组样本之间没有显著性差异。
多独立样本的非参数检验
多独立样本的差异显著性检验既可以是针对同一总体的不同随机抽样,也可以源于不同总体,其目的是判断多个样本序列的差异是否显著。在多独立样本的差异显著性检验中,对符合正态分布的高测度数据,通常使用方差分析的方法,而对不符合正态分布的数据,或者方差非齐性时,则常常使用非参数检验的方法。
多独立样本非参数检验的方法
K-W平均秩检验(Kruskal-Wailis H);K-W平均秩检验是一种基于平均秩的差异显著性检验。其基本思路是:先把待分析的观测变量序列排序后求取秩分(或者把多个独立样本的数据混合后排序并求取秩分),然后基于各组秩分,进行类似方差分析的计算,分析秩分的均值差异是否显著。K-W平均秩检验是基于秩分的一种方差分析技术,适合于观测变量为定距数据或定序数据的场合。
中位数检验(Median);中位数检验是基于数据序列的中位数而设计的一种差异性的检验。其基本思路:先求取混合后数据的中位数,然后利用卡方分布统计量来计算每个样本组内中位数两侧个案数的差异性。中位数检验适合于测度不高的定序变量。
分组分布检验(Jonckheere);分组分布检验是通过检验多个样本组是否具有相同分布来判断差异性的方法。样本的分组根据分组变量定义。分组分布检验既可以检验定距变量,也可以检验定序变量。对于定序变量,本方法比K-W检验更为有效。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在当今数据驱动的时代,数据分析能力备受青睐,数据分析能力频繁出现在岗位需求的描述中,不分岗位的任职要求中,会特意标出“熟 ...
2025-04-03在当今数字化时代,数据分析师的重要性与日俱增。但许多人在踏上这条职业道路时,往往充满疑惑: 如何成为一名数据分析师?成为 ...
2025-04-02最近我发现一个绝招,用DeepSeek AI处理Excel数据简直太爽了!处理速度嘎嘎快! 平常一整天的表格处理工作,现在只要三步就能搞 ...
2025-04-01你是否被统计学复杂的理论和晦涩的公式劝退过?别担心,“山有木兮:统计学极简入门(Python)” 将为你一一化解这些难题。课程 ...
2025-03-31在电商、零售、甚至内容付费业务中,你真的了解你的客户吗? 有些客户下了一两次单就消失了,有些人每个月都回购,有些人曾经是 ...
2025-03-31在数字化浪潮中,数据驱动决策已成为企业发展的核心竞争力,数据分析人才的需求持续飙升。世界经济论坛发布的《未来就业报告》, ...
2025-03-28你有没有遇到过这样的情况?流量进来了,转化率却不高,辛辛苦苦拉来的用户,最后大部分都悄无声息地离开了,这时候漏斗分析就非 ...
2025-03-27TensorFlow Datasets(TFDS)是一个用于下载、管理和预处理机器学习数据集的库。它提供了易于使用的API,允许用户从现有集合中 ...
2025-03-26"不谋全局者,不足谋一域。"在数据驱动的商业时代,战略级数据分析能力已成为职场核心竞争力。《CDA二级教材:商业策略数据分析 ...
2025-03-26当你在某宝刷到【猜你喜欢】时,当抖音精准推来你的梦中情猫时,当美团外卖弹窗刚好是你想吃的火锅店…… 恭喜你,你正在被用户 ...
2025-03-26当面试官问起随机森林时,他到底在考察什么? ""请解释随机森林的原理""——这是数据分析岗位面试中的经典问题。但你可能不知道 ...
2025-03-25在数字化浪潮席卷的当下,数据俨然成为企业的命脉,贯穿于业务运作的各个环节。从线上到线下,从平台的交易数据,到门店的运营 ...
2025-03-25在互联网和移动应用领域,DAU(日活跃用户数)是一个耳熟能详的指标。无论是产品经理、运营,还是数据分析师,DAU都是衡量产品 ...
2025-03-24ABtest做的好,产品优化效果差不了!可见ABtest在评估优化策略的效果方面地位还是很高的,那么如何在业务中应用ABtest? 结合企业 ...
2025-03-21在企业数据分析中,指标体系是至关重要的工具。不仅帮助企业统一数据标准、提升数据质量,还能为业务决策提供有力支持。本文将围 ...
2025-03-20解锁数据分析师高薪密码,CDA 脱产就业班助你逆袭! 在数字化浪潮中,数据驱动决策已成为企业发展的核心竞争力,数据分析人才的 ...
2025-03-19在 MySQL 数据库中,查询一张表但是不包含某个字段可以通过以下两种方法实现:使用 SELECT 子句以明确指定想要的字段,或者使 ...
2025-03-17在当今数字化时代,数据成为企业发展的关键驱动力,而用户画像作为数据分析的重要成果,改变了企业理解用户、开展业务的方式。无 ...
2025-03-172025年是智能体(AI Agent)的元年,大模型和智能体的发展比较迅猛。感觉年初的deepseek刚火没多久,这几天Manus又成为媒体头条 ...
2025-03-14以下的文章内容来源于柯家媛老师的专栏,如果您想阅读专栏《小白必备的数据思维课》,点击下方链接 https://edu.cda.cn/goods/sh ...
2025-03-13