逻辑回归是最简单的机器学习模型,常常应用于各种简单的任务中。这里记录逻辑回归的背景以及学习方法,权当自己的学习记录总结。
逻辑回归:首先,它不是一个回归模型,而是一个分类模型,它是被用来做分类的。 之所以称之为回归,是因为它的学习的是模型模型的参数以最佳拟合已有的数据。(比如,根据已有的一些点,回归出它的直线参数的拟合过程,就称之为回归。)
学习方法:梯度上升法,随机梯度上升法。
模型特点:
1. 优点:训练快、易理解、易实现
2. 缺点:模型不够强大、拟合能力有限,欠拟合,对于复杂的任务效果不够好
在二分类的模型中,我们能最希望的函数是一个二值化函数,也就是
h(x) = 0 当 x > 阈值,h(x)=1 当 x < 阈值
函数下图所示:
然而,虽然这个函数是我们很想学习到的函数,但是由于它在阈值点处的跳跃性(不连续性),使得它变得不好处理(比如在该点处没有导数(梯度)的问题)。
幸好,自然是美好的,我们可以用其它的函数来近似这个函数,Sigmoid 函数就是一个很好的近似方法
其函数图形如下所示(值阈(0–>1))
函数表达式为:
相比于原始的二值化函数,sigmoid函数具有处处连续、可导的优点。
为了实现逻辑回归分类器,我们将每个特征都乘以一个回归系数wi,然后将结果相加得到一个值,并将这个值带入到sigmoid函数中,就会得到一个0–>1之间的数值,而大于0.5的值被分为1类,小于0.5的被分为0类。所以,逻辑回归也被称之为一个概率估计模型。
在已经确定了分类器模型的函数形式之后,问题就在于如何学习以获得最佳的回归系数?
主要是采用梯度上升及其变形的方法。
它的思想是:要找到某个函数的最大值,最好的方法就是沿着该函数的梯度方向进行寻找。(要有梯度就要求待计算的点有定义并且可导,所以二值化函数不能使用。)
权重更新:
其中alpha为步长,学习(训练)的停止条件一般为:迭代到达一定的次数,或者算法已经到达了一定的误差范围之内。
注意区别于梯度下降法:跟梯度上升法是相同的道理,加法变为减法。
随机梯度上升法:因为梯度上升法在每次更新回归系数的时候都需要遍历整个数据集合,当数据很多的时候,就不适用了,改进的方法为:一次只使用一个样本来更新回归系数,这种方法称之为随机梯度上升法。
只是它用来寻找最小值(一般是loss最小),而梯度上升法用来寻找最大值。
所以总的来说,逻辑回归的计算方法很简单,就分为两步:1,计算梯度,2,更新权值。
具体的权重更新方法为:
具体的代码如下(python):
def sigmoid(x):
'''
逻辑回归的判别函数
'''
return 1.0/(1.0+exp(-x))
def gradientAscent(datas,labels):
'''
输入参数datas:训练数据矩阵,每一行为一个数据
输入参数labels:标签数据,为一个值。
要求参数数据匹配
'''
dataX = mat(datas)
#每列代表一个特征,每行代表不同的训练样本。
dataY = mat(labels).transpose()
#标签,将行向量转置为列向量
m,n = shape(dataX)
alpha = 0.001
#步长,也就是学习率
itera_num = 1000
#迭代次数
W = ones((n,1))
for i in range(itera_num):
H = sigmoid(dataX * W)
# H 是一个列向量,元素个数==m
error = dataY - H
W = W + alpha * X.transpose()*error
return W
def stochasticGradientAscent(datas,labels):
dataX = mat(datas)
#每列代表一个特征,每行代表不同的训练样本。
dataY = mat(labels).transpose()
#标签,将行向量转置为列向量
m,n = shape(datas)
alpha = 0.01
W = ones(n)
for i in range(m):
h = sigmoid(sum(dataX[i]*W))
error = dataY[i] - h
W = W + alpha * error *dataX[i]
return W
总结: 逻辑回归的目的是为了寻找非线性函数Sigmoid的最佳拟合参数中的权值w,其w的值通过梯度上升法来学习到。随机梯度上升一次只处理少量的样本,节约了计算资源同时也使得算法可以在线学习。
数据分析咨询请扫描二维码
数据分析师的工作内容涉及多个方面,主要包括数据的收集、整理、分析和可视化,以支持商业决策和问题解决。以下是数据分析师的一 ...
2024-11-21数据分析师必须掌握的技能可以从多个方面进行归纳和总结。以下是数据分析师需要具备的主要技能: 统计学基础:数据分析师需要 ...
2024-11-21数据分析入门的难易程度因人而异,总体来看,入门并不算特别困难,但需要一定的学习和实践积累。 入门难度:数据分析入门相对 ...
2024-11-21数据分析是一项通过收集、整理和解释数据来发现有用信息的过程,它在现代社会中具有广泛的应用和重要性。数据分析能够帮助人们更 ...
2024-11-21数据分析行业正在迅速发展,随着技术的不断进步和数据量的爆炸式增长,企业对数据分析人才的需求也与日俱增。本文将探讨数据分析 ...
2024-11-21数据分析的常用方法包括多种技术,每种方法都有其特定的应用场景和优势。以下是几种常见的数据分析方法: 对比分析法:通过比 ...
2024-11-21企业数字化转型是指企业利用数字技术对其业务进行改造和升级,以实现提高效率、降低成本、创新业务模式等目标的过程。这一过程不 ...
2024-11-21数据分析作为一个备受追捧的职业领域,吸引着越来越多的女性加入其中。对于女生而言,在选择成为一名数据分析师时,行业选择至关 ...
2024-11-21大数据技术专业主要学习计算机科学、数学、统计学和信息技术等领域的基础理论和技能,旨在培养具备大数据处理、分析和应用能力的 ...
2024-11-21《Python数据分析极简入门》 第2节 3 Pandas数据查看 这里我们创建一个DataFrame命名为df: importnumpyasnpi ...
2024-11-21越老越吃香的行业主要集中在需要长时间经验积累和专业知识的领域。这些行业通常知识更新换代较慢,因此随着年龄的增长,从业者能 ...
2024-11-20数据导入 使用pandas库的read_csv()函数读取CSV文件或使用read_excel()函数读取Excel文件。 支持处理不同格式数据,可指定分隔 ...
2024-11-20大数据与会计专业是一门结合了大数据分析技术和会计财务理论知识的新型复合型学科,旨在培养能够适应现代会计业务新特征的高层次 ...
2024-11-20要成为一名数据分析师,需要掌握一系列硬技能和软技能。以下是成为数据分析师所需的关键技能: 统计学基础 理解基本的统计概念 ...
2024-11-20是的,Python可以用于数据分析。Python在数据分析领域非常流行,因为它拥有丰富的库和工具,能够高效地处理从数据清洗到可视化的 ...
2024-11-20在这个数据驱动的时代,数据分析师的角色变得愈发不可或缺。他们承担着帮助企业从数据中提取有价值信息的责任,而这些信息可以大 ...
2024-11-20数据分析作为现代信息时代的支柱之一,已经成为各行业不可或缺的工具。无论是在商业、科研还是日常决策中,数据分析都扮演着至关 ...
2024-11-20数字化转型已成为当今商业世界的热点话题。它不仅代表着技术的提升,还涉及企业业务流程、组织结构和文化的深层次变革。理解数字 ...
2024-11-20在现代社会的快速变迁中,选择一个具有长期增长潜力的行业显得至关重要。了解未来发展前景好的行业不仅能帮助我们进行职业选择, ...
2024-11-20统计学专业的就业方向和前景非常广泛且充满机遇。随着大数据、人工智能等技术的快速发展,统计学的重要性进一步凸显,相关人才的 ...
2024-11-20