热线电话：13121318867

登录
首页精彩阅读深度学习如何改进（二）
深度学习如何改进（二）
2019-02-20
收藏


我们在上一篇文章中给大家介绍了关于深度学习中的前馈神经网络的相关知识，而前馈神经网络是神经网络中最朴素的一个内容，这是因为前馈神经网络的知识是比较简单的。而我们在上一篇文章中给大家提到了一个方法，那就是梯度下降法，在这篇文章中我们就给大家介绍一下这些知识。


首先，梯度下降法就是求出所需参数的极值，使损失最小化。当然，在求取参数的过程中，无论是取任何值，难以避免产生的是一个误差值，在训练过程中，工程师们会引入一个损失函数Loss，而上述的梯度下降求取参数最优解的同时便是求出最小损失函数的过程。


而在训练的过程中，有两个主要环节，一个是训练集训练，另一个是验证集测试。从名字我们可以看出来，训练集训练是搭建最合适模型所需，验证集测试是检验所搭建模型是否合适使用。而在检验的过程中，可能会出现过拟合问题，深度学习中高维的分类器，可能使模型过度拟合，降低模型的准确性——验证集验证过程中会基于Loss损失函数和准确率来判断是否在较优的准确度。当然，模型搭建完以后，并不是万事大吉了，在搭建模型完成后，还有第三步，就是用测试集，检验搭建模型的效用。


一个基础神经网络的流程框架会在训练处理中引入的比较核心的思维。在学习深度学习的过程中，我们会很容易发现，基于上述提到的最基础的神经网络结构，开发者们是一一针对工程实践时，遇到的瓶颈，找到相应的解决办法。而这些办法，慢慢建立成为新的落地模型。所以，我们是可以基于最简单网络模型，再进一步了解这些更新的神经网络模型的特性和属性的，而这些模型，既可以解决最基本神经网络无法突破的部分问题，同时，也面临着其他具体的局限。那么局限是什么呢？在卷积神经网络中比较明显，在和之前的相比，神经元可响应一部分覆盖范围的周围单元、通关权值共享的方式使得下一层工作量大大较少。


从这篇文章中我们不难发现梯度下降法是一个十分重要的内容，而梯度下降法在神经网络和机器学习中都是十分常见的，在后面的文章中我们继续为大家介绍一下这些内容。


CDA数据分析师考试相关入口一览（建议收藏）：

▷ 想报名CDA认证考试，点击>>>   “CDA报名” 了解CDA考试详情；

▷ 想学习CDA考试教材，点击>>> “CDA教材” 了解CDA考试详情；

▷ 想加入CDA考试题库，点击>>> “CDA题库” 了解CDA考试详情；

▷ 想了解CDA考试含金量，点击>>> “CDA含金量” 了解CDA考试详情；

神经网络 损失函数 深度学习 过拟合 机器学习

数据分析咨询请扫描二维码

若不方便扫码，搜微信号：CDAshujufenxi

上一篇深度学习如何改进（一）
下一篇深度学习如何改进（三）
CDA考试动态
CDA报考指南
热门栏目
最新资讯
更多
Copyright © 2015-present 北京国富如荷网络科技有限公司 All Rights Reserved.
京ICP备11001960号-9   京公网安备 11010802034615号   经营许可证编号：京B2-20210330
客服在线
立即咨询