作者:丁点helper
来源:丁点帮你
前面的文章主要介绍了回归的一些关键词,比如回归系数、样本和总体回归方程、预测值和残差等,今天我们结合一个案例来看看如何做完整的回归分析,准确而言,是多重线性回归(Multiple Linear Regreesion)。
回顾:多重线性回归
多重线性回归,一般是指有多个自变量X,只有一个因变量Y。前面我们主要是以简单线性回归为例在介绍,两者的差距主要在于自变量X的数量,在只有一个X时,就称简单线性回归。
在实际应用中,我们当然很少只纳入一个自变量。多重线性回归一般也叫“多元线性回归”,我更支持“多重”的叫法,因为“多元”一般也指“因变量Y”有多个。
通过前面的文章,我们知道做线性回归就是要构建Y与X的线性关系,主要目的有两个,一是确定X对Y的影响程度(即回归系数的计算);二是通过X来预测Y。
这里最重要的一条准则是:Y需要是定量变量,就是类似于“收入”、“得分”等。而对X没有这样的要求,可以是定量的,如“教育年限”、“年龄”等;也可以是“性别”、“民族”等分类变量。
案例 从某高校三年级女生体检的数据中,随机抽取20名作为样本,数据包括体重(kg)、胸围(cm)、肩宽(cm)及肺活量(L),分析女大学生肺活量的影响因素,数据见下表:
首先简单看看上表的数据,我们想要研究女生肺活量的影响因素,所以回归的因变量为“肺活量(Y)”,根据常识和数据,这里的Y是定量变量。
搜集的其他数据作为潜在的影响因素(X)纳入回归方程,分别是:体重、胸围、肩宽。我们也能简单就能判断这三个自变量都是定量变量。
(对于变量类型如何判断还不太了解的同学,戳此回顾)
这里进行回归分析,一是判断这些X是否都会影响Y(总体回归系数是否不为0);二是通过构造的回归方程,未来根据X的值计算Y的预测值。
多重线性回归的SPSS操作
回归分析用SPSS操作的步骤如下:
SPSS数据录入格式
回归操作窗口,Dependent为因变量,Independent为自变量,分别移入
上图中的“Method”称作“自变量筛选”方法,我们做线性回归分析很重要的一点是找Y的影响因素,这里的“找”就意味着“筛选”。
比如本案例我们纳入了三个自变量,通过回归分析,就是要找到那些真正对Y产生影响的变量。最终的结果有可能三个X都有影响,则最终的回归方程会有三个X,也有可能一个X都没有。
我们看到Method的下拉菜单有不同的选项:
Enter:将自变量强行全部纳入回归方程,不排除回归系数P值大于0.05的情况;
Stepwise、Remove、Backward、Forward,这些都是软件筛选自变量的方法,虽然名称不一,但思想相近,主要就是根据回归系数检验的P值是否小于0.05(有的是0.1)判断回归方程中应不应该有这个变量。
一般来讲,没有哪个筛选方法最优,但实际应用中常见的是Stepwise和Backward,建议大家自己进行回归分析时可以更换不同的方法尝试,选择自己认为合适的方法。
本案例使用Stepwise法,中文称为“逐步法”或“步进法”。
多重线性回归的结果分析
以下为SPSS分析结果展示:
表1:回归方程的拟合程度
上表最左侧一列为“Model”,表示的是SPSS筛选变量的过程,因为我们选择的是stepwise,所以每进行一步,即每筛选一个变量,就称为一个Model,比如Model"1"表示只纳入1个自变量,Model“2”表示纳入2个,“3”表示纳入3个,”4“表示最终模型剔除了一个自变量,仅纳入2个自变量。
表格第2-4列分别为”R、R Square、Adjusted R Square“,一般的教科书讲的很多,表示的是回归方程对因变量的解释程度,数值越大,解释度越高。但它又是一个比较尴尬的数,实际应用简单参考即可。
表2:回归方程的整体检验
这里的Model和上表1中表示的是同一个意思,代表了包括不同自变量的回归方程。对于回归方程的检验,一般来讲,都是有统计学意义的,看最后一列(Sig.),即P值均小于0.05。
表3:回归系数结果
表3中的Model详细展示了变量的筛选过程,比如在Model 3中,回归方程将三个自变量”肩宽、体重、胸围“全部纳入,但是发现,”肩宽“这个变量的Sig.(P值)大于0.1了,于是就将它剔除出去,从而得到模型4——只纳入”体重和胸围“两个自变量,对照后面的P值结果,均小于0.05。
以上只是一种筛选变量的一种方法(Stepwise),通过统计软件P值自动进行,这并不意味,所有的线性回归分析均只能通过这种方法筛选,我们常说需要结合专业知识判断,在做回归分析时也不例外。
如果回归分析的结果与专业知识相悖,比如根据专业知识有影响的变量却被软件剔除,那我们首先得慎重思考回归的结果是否可信,比如是否满足前文提及的LINE条件,是否出现了多重共线性问题等等;如果经过诊断分析发现这些问题都不存在,在研究报告或论文中,仍可以如实地报告结果,为后面的研究提供参考。
本案例,我们还是依照统计软件的结果筛选变量,得到的最终回归方程为:
根据上表,我们写出本研究的回归方程:
上述结果表示,可以认为体重和胸围是影响该校一年级女大学生肺活量的主要因素,保持胸围不变,体重增加1kg,估计肺活量平均增加0.081L(回归系数”0.081“的含义,在多重线性回归分析中也可称作”偏回归系数“);保持体重不变,胸围增大1cm,估计肺活量平均增加0.046L(回归系数”0.046“的含义)。
另外,上表最后一列提供了一个”标准化偏回归系数“,这是将XY分别标准化之后再进行回归分析,如下:
”标准化偏回归系数“可以用来比较不同的自变量X对Y的影响程度。本例中,体重和胸围的标准化偏回归系数分别为0.644和0.436,意味着体重对肺活量的影响大于胸围对肺活量的影响。
以上即为回归分析的全过程,最后留给大家一个思考题,这里进行的分析,表示的是X和Y的相关关系,还是因果关系?欢迎在评论区留言讨论。
数据分析咨询请扫描二维码
数据分析师的工作内容涉及多个方面,主要包括数据的收集、整理、分析和可视化,以支持商业决策和问题解决。以下是数据分析师的一 ...
2024-11-21数据分析师必须掌握的技能可以从多个方面进行归纳和总结。以下是数据分析师需要具备的主要技能: 统计学基础:数据分析师需要 ...
2024-11-21数据分析入门的难易程度因人而异,总体来看,入门并不算特别困难,但需要一定的学习和实践积累。 入门难度:数据分析入门相对 ...
2024-11-21数据分析是一项通过收集、整理和解释数据来发现有用信息的过程,它在现代社会中具有广泛的应用和重要性。数据分析能够帮助人们更 ...
2024-11-21数据分析行业正在迅速发展,随着技术的不断进步和数据量的爆炸式增长,企业对数据分析人才的需求也与日俱增。本文将探讨数据分析 ...
2024-11-21数据分析的常用方法包括多种技术,每种方法都有其特定的应用场景和优势。以下是几种常见的数据分析方法: 对比分析法:通过比 ...
2024-11-21企业数字化转型是指企业利用数字技术对其业务进行改造和升级,以实现提高效率、降低成本、创新业务模式等目标的过程。这一过程不 ...
2024-11-21数据分析作为一个备受追捧的职业领域,吸引着越来越多的女性加入其中。对于女生而言,在选择成为一名数据分析师时,行业选择至关 ...
2024-11-21大数据技术专业主要学习计算机科学、数学、统计学和信息技术等领域的基础理论和技能,旨在培养具备大数据处理、分析和应用能力的 ...
2024-11-21《Python数据分析极简入门》 第2节 3 Pandas数据查看 这里我们创建一个DataFrame命名为df: importnumpyasnpi ...
2024-11-21越老越吃香的行业主要集中在需要长时间经验积累和专业知识的领域。这些行业通常知识更新换代较慢,因此随着年龄的增长,从业者能 ...
2024-11-20数据导入 使用pandas库的read_csv()函数读取CSV文件或使用read_excel()函数读取Excel文件。 支持处理不同格式数据,可指定分隔 ...
2024-11-20大数据与会计专业是一门结合了大数据分析技术和会计财务理论知识的新型复合型学科,旨在培养能够适应现代会计业务新特征的高层次 ...
2024-11-20要成为一名数据分析师,需要掌握一系列硬技能和软技能。以下是成为数据分析师所需的关键技能: 统计学基础 理解基本的统计概念 ...
2024-11-20是的,Python可以用于数据分析。Python在数据分析领域非常流行,因为它拥有丰富的库和工具,能够高效地处理从数据清洗到可视化的 ...
2024-11-20在这个数据驱动的时代,数据分析师的角色变得愈发不可或缺。他们承担着帮助企业从数据中提取有价值信息的责任,而这些信息可以大 ...
2024-11-20数据分析作为现代信息时代的支柱之一,已经成为各行业不可或缺的工具。无论是在商业、科研还是日常决策中,数据分析都扮演着至关 ...
2024-11-20数字化转型已成为当今商业世界的热点话题。它不仅代表着技术的提升,还涉及企业业务流程、组织结构和文化的深层次变革。理解数字 ...
2024-11-20在现代社会的快速变迁中,选择一个具有长期增长潜力的行业显得至关重要。了解未来发展前景好的行业不仅能帮助我们进行职业选择, ...
2024-11-20统计学专业的就业方向和前景非常广泛且充满机遇。随着大数据、人工智能等技术的快速发展,统计学的重要性进一步凸显,相关人才的 ...
2024-11-20