处理多重共线性问题
一、多重共线性的表现
线性回归模型中的解释变量之间由于存在精确相关关系或高度相关关系。看似相互独立的指标本质上是相同的,是可以相互代替的,但是完全共线性的情况并不多见,一般出现的是在一定程度上的共线性,即近似共线性。
二、多重共线性的后果
1.理论后果
多重共线性是因为变量之间的相关程度比较高。
按布兰查德认为, 在计量经济学中, 多重共线性实质上是一个“微数缺测性”问题,就是说多重共线性其实是由样本容量太小所造成,当样本容量越小,多重共线性越严重。
多重共线性的理论主要后果:
(1)完全共线性下参数估计量不存在;
(2)近似共线性下OLS估计量非有效;
(3)模型的预测功能失效;
(4)参数估计量经济含义不合理
2.现实后果
(1)各个解释变量对指标最后结论影响很难精确鉴别;
(2)置信区间比原本宽,使得接受假设的概率更大;
(3)统计量不显著;
(4)拟合优度的平方会很大;
(5)OLS估计量及其标准误对数据微小的变化也会很敏感。
三、多重共线性产生的原因
1.模型参数的选用不当,在我们建立模型时如果变量之间存在着高度的相关性
2. 由于研究的经济变量随时间往往有共同的变化趋势,他们之间存在着共性。例如当经济繁荣时,反映经济情况的指标有可能按着某种比例关系增长
3. 滞后变量。滞后变量的引入也会产生多重共线行,例如本期的消费水平除受本期的收入影响之外,还有可能受前期的收入影响,建立模型时,本期的收入水平就有可能和前期的收入水平存在着共线性。
四、多重共线性的识别
1.方差扩大因子法( VIF)
一般认为如果最大的VIF超过10,常常表示存在多重共线性。
2.容差容忍定法
如果容差(tolerance)<=0.1,常常表示存在多重共线性。
3. 条件索引
条件索引(condition index)>10,可以说明存在比较严重的共线性。
五、多重共线性的处理方法
处理方法有多重增加样本容量、剔除因子法、PLS(偏最小二乘法)、岭回归法、主成分法。
今天着重介绍——主成分法。
当自变量间有较强的线性相关性时,利用个p个变量的主成分,所具有的性质,如果他们是互不相关的,可由前m个主成z1、z2、zm来建立回归模型。
由原始变量的观测数据计算前个主成分的得分值,将其作为主成分的观测值,建立Y与主成分的回归模型即得回归方程。这时p元降为m元,这样既简化了回归方程的结构,且消除了变量间相关性带来的影响
六、实际的应用
我们以下这个模型分析主营业务利润的影响
Opinci,t=a0+a1*Intani,t+a2*Ppei,t+a3*Opinci,t-1+a4*Levi,t+a5*Asseti,t +ξi,t
1、回归分析
2、结果
对自变量主成分法从多重共线性的识别方法来看,此模型中存在共线性问题,Ppei,t是影响因子。
3、对自变量主成分法
由于spss没有独立的主成分分析模块,需要在因子分析里完成,因此需要特别注意。
在数据窗口下选择“分析”—“降维”—“因子分析。
3.1 结果
从KMO 和 Bartlett 的检验得知p<0.001,KMO检验通过,适合做主成分或因子分析,从解释的总方差表里初始特征值两个主成分(初始因子)贡献率已达86.89%,提取前两个主成分用于分析。
由成分矩阵和表解释的总方差可计算前两个特征向量,用成分矩阵前两列分别除以前两个特征值的平方根得前两个主成分表达式:
F1=0.4726Opinci,t-1+0.4854 Instani,t +0.5371Ppei,t+ 0.0534Levi,t+ 0.4995Asseti,t(式1)
F2=-0.1219Opinci,t-1-0.0510Instani,t -0.0497 Ppei,t+ 0.9837Levi,t+0.1131 Asseti,t(式2)
其中Opinci,t-1、 Instani,t 、Ppei,t、 Levi,t、 Asseti,t表示为标准化变量(这是因为在进行主成分分析时是以标准化变量进行分析的,是从相关阵出发分析的)
由于主成分互不相关,可以用提取的主成分代替自变量进行回归分析,因此需要计算主成分得分来代替自变量Opinci,t-1、 Instani,t 、Ppei,t、 Levi,t、 Asseti,t。
主成分的计算:依据式1和2中两个主成分的表达式,对各自变量标准化后带入就可以计算出每个样品的主成分得分。
但是在spss中,由因子分析提取时是用主成分法提取的,根据初始因子与主成分的关系,未旋转的初始因子等于主成分除以特征根的平方根,因此主成分得分等于因子得分乘以特征根的平方根,可以由因子得分计算主成分得分。
前面在因子分析选项中保存了因子得分(因子得分保存变量),因此计算两个主成分得分:点击“转换”—“计算变量”。
在弹出的窗口分别定义主成分
F1=第一因子得分*第一特征根的平方根
F2=第二因子得分*第二特征根的平方根
(3)主成分回归过程
要做主成分回归,需要用标准化的因变量(因为自变量经过标准化处理做主成分分析,因变量需要对应做标准化)与主成分做回归,对因变量Opinci,t做标准化处理。
点击“分析”-“描述统计”-“描述”,在弹出窗口中将Opinci,t调入变量,并选中“将标准化得分另存为变量”后确定完成Opinci,t的标准化。
点击“分析”-“回归”-“线性”在弹出窗口中将Z主营业务利润(y)调入因变量,F1和F2调入自变量,其他选项如前,然后点击“确定”运行主成分回归。
相关输出结果:
由表可知,标准化Opinci,t对两个主成分的线性回归p<0.001,通过显著性检验,没有多重共线性,回归系数合理。
Zscore:(Opinci,t) =0.475F1-0.117F2,将前面F1、F2的表达式(式1和2)带入可得标准化Opinci,t关于标准化自变量的回归方程:
Zscore:(Opinci,t)=
0.2388Opinci,t-1+0.2365Instani,t +0.2609Ppei,t-0.0897Levi,t+ 0.2240Asseti,t
求得最终回归结果。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
以下的文章内容来源于刘静老师的专栏,如果您想阅读专栏《刘静:10大业务分析模型突破业务瓶颈》,点击下方链接 https://edu.cda ...
2025-04-23大咖简介: 刘凯,CDA大咖汇特邀讲师,DAMA中国分会理事,香港金管局特聘数据管理专家,拥有丰富的行业经验。本文将从数据要素 ...
2025-04-22CDA持证人简介 刘伟,美国 NAU 大学计算机信息技术硕士, CDA数据分析师三级持证人,现任职于江苏宝应农商银行数据治理岗。 学 ...
2025-04-21持证人简介:贺渲雯 ,CDA 数据分析师一级持证人,互联网行业数据分析师 今天我将为大家带来一个关于用户私域用户质量数据分析 ...
2025-04-18一、CDA持证人介绍 在数字化浪潮席卷商业领域的当下,数据分析已成为企业发展的关键驱动力。为助力大家深入了解数据分析在电商行 ...
2025-04-17CDA持证人简介:居瑜 ,CDA一级持证人,国企财务经理,13年财务管理运营经验,在数据分析实践方面积累了丰富的行业经验。 一、 ...
2025-04-16持证人简介: CDA持证人刘凌峰,CDA L1持证人,微软认证讲师(MCT)金山办公最有价值专家(KVP),工信部高级项目管理师,拥有 ...
2025-04-15持证人简介:CDA持证人黄葛英,ICF国际教练联盟认证教练,前字节跳动销售主管,拥有丰富的行业经验。在实际生活中,我们可能会 ...
2025-04-14在 Python 编程学习与实践中,Anaconda 是一款极为重要的工具。它作为一个开源的 Python 发行版本,集成了众多常用的科学计算库 ...
2025-04-14随着大数据时代的深入发展,数据运营成为企业不可或缺的岗位之一。这个职位的核心是通过收集、整理和分析数据,帮助企业做出科 ...
2025-04-11持证人简介:CDA持证人黄葛英,ICF国际教练联盟认证教练,前字节跳动销售主管,拥有丰富的行业经验。 本次分享我将以教培行业为 ...
2025-04-11近日《2025中国城市长租市场发展蓝皮书》(下称《蓝皮书》)正式发布。《蓝皮书》指出,当前我国城市住房正经历从“增量扩张”向 ...
2025-04-10在数字化时代的浪潮中,数据已经成为企业决策和运营的核心。每一位客户,每一次交易,都承载着丰富的信息和价值。 如何在海量客 ...
2025-04-09数据是数字化的基础。随着工业4.0的推进,企业生产运作过程中的在线数据变得更加丰富;而互联网、新零售等C端应用的丰富多彩,产 ...
2025-04-094月7日,美国关税政策对全球金融市场的冲击仍在肆虐,周一亚市早盘,美股股指、原油期货、加密货币、贵金属等资产齐齐重挫,市场 ...
2025-04-08背景 3月26日,科技圈迎来一则重磅消息,苹果公司宣布向浙江大学捐赠 3000 万元人民币,用于支持编程教育。 这一举措并非偶然, ...
2025-04-07在当今数据驱动的时代,数据分析能力备受青睐,数据分析能力频繁出现在岗位需求的描述中,不分岗位的任职要求中,会特意标出“熟 ...
2025-04-03在当今数字化时代,数据分析师的重要性与日俱增。但许多人在踏上这条职业道路时,往往充满疑惑: 如何成为一名数据分析师?成为 ...
2025-04-02最近我发现一个绝招,用DeepSeek AI处理Excel数据简直太爽了!处理速度嘎嘎快! 平常一整天的表格处理工作,现在只要三步就能搞 ...
2025-04-01你是否被统计学复杂的理论和晦涩的公式劝退过?别担心,“山有木兮:统计学极简入门(Python)” 将为你一一化解这些难题。课程 ...
2025-03-31