热线电话：13121318867

登录
首页精彩阅读机器学习实现与分析之四（广义线性模型）
机器学习实现与分析之四（广义线性模型）
2017-03-15
收藏

机器学习实现与分析之四（广义线性模型）

指数分布族

首先需要提及下指数分布族，它是指一系列的分布，只要其概率密度函数可以写成下面这样的形式：

一般的很多分布（如高斯分布，泊松分布，二项式分布，伽马分布等）都属于指数分布族。


广义线性模型构建假设

广义线性模型主要基于以下假设：

1.的分布属于指数分布族

2.预测值为，因此模型就是

3.模型线性性，即


线性回归与逻辑回归模型推导

线性回归中，假设服从高斯分布，则将其写成指数分布族形式如下：

注意这里ηη和T(y)T(y)可以有多种取法满足上面这个式子，但根据上面假设的第二条，由于我们需要预测的是yy，则T(y)=yT(y)=y，从而就有

从而：

这里σ2σ2是一个常数，则上式可写为：

此即为线性回归中使用的线性模型的来源。同理，对于逻辑回归，有

则

由此可得：

故而有

此即为逻辑回归使用的模型。

同理，对于其他分布，我们也可以写出对应的回归模型。上面给出了线性回归和逻辑回归的模型，通过最大似然估计与梯度下降法，即可求出参数。


问题与思考

1.构建GLM的三条假设，其中假设一在此模型构建中起了什么作用，目前还未理解。假如分布不属于指数分布族，那是否也可以构建其他形式的线性模型？有理解的同学望不吝赐教。

2.假设三即是模型的线性假设，这也能说明了逻辑回归只能处理线性可分情况。



CDA数据分析师考试相关入口一览（建议收藏）：

▷ 想报名CDA认证考试，点击>>>   “CDA报名” 了解CDA考试详情；

▷ 想学习CDA考试教材，点击>>> “CDA教材” 了解CDA考试详情；

▷ 想加入CDA考试题库，点击>>> “CDA题库” 了解CDA考试详情；

▷ 想了解CDA考试含金量，点击>>> “CDA含金量” 了解CDA考试详情；

逻辑回归 线性回归 机器学习

数据分析咨询请扫描二维码

若不方便扫码，搜微信号：CDAshujufenxi

上一篇图论在大数据分析中的作用！
下一篇CDA认证再升一档！与国家共同推进大数据人才培养标准教育事业！
数据分析师考试动态
CDA报考指南
数据分析学习
数据分析师资讯
更多

CDA教育闭环

常见问题

关于我们

CDA数据分析师公众号

  • CDA数据分析师公众号

CDA考试中心小程序

  • CDA考试中心服务号

CDA数据分析师App下载

  • CDA数据分析师App下载
Copyright © 2015-2021, www.cda.cn All Rights Reserved. CDA数据分析师(北京国富如荷网络科技有限公司) 版权所有 京ICP备11001960号-9 京公网安备 11010802034615号 经营许可证编号：京B2-20210330
联系电话：13321103290 (微信同号)

OK
客服在线
立即咨询
客服在线
立即咨询