前向传播之-损失函数
损失函数：在前面一节咱们介绍了得分函数，就是给定一个输入，对于所有类别都要给出这个输入属于该类别的一个分值，如上图所示，对于每一个输入咱们都有了它属于三个类别的得分，但是咱们光有这个得分却不知道如何来评判现在的一个分类效果，这节课咱们就要用损失函数来评估分类效果的好坏，而且不光是好坏还要表现出来有多好有多坏！
我们接下来就拿SVM的损失函数来说事吧。什么？你不知道SVM是啥？没关系，我会用很简单的语言来说这个损失函数的。对于SVM来说它的损失函数如上图的公式所示，我们要算的就是对于一个输入样本，这个样本的正确分类的分值和其他所有错误分类的分值的差值，再把这些所有的差值进行求和。我们拿这个小猫来举例吧，就是用它正确分类的分3.2与其它错误分类的得分5.1和-1.7求差值，再把求得的差值和0进行对比，如果大于0就加在最终的LOSS值上。细心的同学可能发现了上面的公式还加了一个数值1，那么这个数值代表着什么呢？它的意思啊就是说咱们求出的得分差异值还要去和咱们的满意程度进行比较，这个1就代表了咱们的满意程度有多大，这个值越大呢就说明咱们的要求越高。
图中红色的区域就是咱们的满意程度，一旦错误分类的得分（绿色区域）超过了红色值，就是说没达到咱们设定的满意程度值，LOSS值就要开始增加了。
正则化：假设有一个样本x=[1,1,1,1]，现在咱们有两组权重参数W1和W2如上图所示，这样对于得分值WX，两组权重参数得出的结果都一样，但是分值一样能说明这两个参数模型的分类效果一模一样吗？接下来就引入了咱们的正则化项来解决这个问题，正则化就是对权重参数进行惩罚，目的就是找到一组更平滑的参数项。正则化项的结果就是对于不同权重参数W进行不同力度的惩罚，惩罚也就是增加其LOSS值。正则化对于整个分类模型来说非常重要，可以很有效的抑制了过拟合现象。
LOSS终极版：由LOSS最终版的公式可以看到。LOSS是由两部分组成的，一部分是得分函数对应的LOSS值另一个部分是正则化惩罚项的LOSS值。
数据分析咨询请扫描二维码
若不方便扫码，搜微信号：CDAshujufenxi
“纲举目张，执本末从。”若想在数据分析领域有所收获，一套合适的学习教材至关重要。一套优质且契合需求的学习教材无疑是那关 ...
2025-03-04以下的文章内容来源于刘静老师的专栏，如果您想阅读专栏《10大业务分析模型突破业务瓶颈》，点击下方链接 https://edu.cda.cn/go ...
2025-03-04在现代商业环境中，数据分析师的角色愈发重要。数据分析师通过解读数据，帮助企业做出更明智的决策。因此，考取数据分析师证书成为了许多人提升职业竞争力的选择。本文将详细介绍考取数据分析师证书的过程，包括了解证书种类和 ...
2025-03-03在当今信息化社会，大数据已成为各行各业不可或缺的宝贵资源。大数据专业应运而生，旨在培养具备扎实理论基础和实践能力，能够应 ...
2025-03-03数据分析师认证考试全面升级后，除了考试场次和报名时间，小伙伴们最关心的就是报名费了，报 ...
2025-03-032025年刚开启，知乎上就出现了一个热帖： 2024年突然出现的经济下行，使各行各业都感觉到压力山大。有人说，大环境越来越不好了 ...
2025-03-03大数据分析师培训旨在培养学员掌握大数据分析的基础知识、技术及应用能力，以适应企业对数据分析人才的需求。根据不同的培训需求 ...
2025-03-03小伙伴们，最近被《哪吒2》刷屏了吧！这部电影不仅在国内掀起观影热潮，还在全球范围内引发了关注，成为中国电影崛起的又一里程 ...
2025-03-03以下的文章内容来源于张彦存老师的专栏，如果您想阅读专栏《Python 数据可视化 18 讲（PyEcharts、Matplotlib、Seaborn）》，点 ...
2025-02-28最近，国产AI模型DeepSeek爆火，其创始人梁文峰走进大众视野。《黑神话：悟空》制作人冯骥盛赞DeepSeek为“国运级别的科技成果” ...
2025-02-271.统计学简介 听说你已经被统计学劝退，被Python唬住……先别着急划走，看完这篇再说！ 先说结论，大多数情况下的学不会都不是知 ...
2025-02-27“我们的利润率上升了，但销售额却没变，这是为什么？” “某个业务的市场份额在下滑，到底是什么原因？” “公司整体业绩稳定， ...
2025-02-26在数据分析工作中，你可能经常遇到这样的问题： 从浏览到消费的转化率一直很低，那到底该优化哪里呢？ 如果你要投放广告该怎么 ...
2025-02-25近来deepseek爆火，看看deepseek能否帮我们快速实现数据看板实时更新。 可以看出这对不知道怎么动手的小白来说是相当友好的，尤 ...
2025-02-25挖掘用户价值本质是让企业从‘赚今天的钱’升级为‘赚未来的钱’，同时让用户从‘被推销’变为‘被满足’。询问deepseek关于挖 ...
2025-02-25在当今这个数据驱动的时代，几乎每一个业务决策都离不开对数据的深入分析。而其中，指标波动归因分析更是至关重要的一环。无论是 ...
2025-02-25以下文章来源于数有道 ，作者数据星爷 SQL查询是数据分析工作的基础，也是CDA数据分析师一级的核心考点，人工智能时代，AI能为 ...
2025-02-25“最近复购率一直在下降，我们的营销力度不小啊，为什么用户还是走了？” “是不是广告投放的用户质量不高？还是我们的产品问题 ...
2025-02-25在数据分析中，地图是一种非常直观的可视化工具，能够帮助我们更好地理解数据在地理空间上的分布情况。无论是展示销售数据、人口 ...
2025-02-25春风拂面，金三银四的求职季如期而至。谁都想在这场竞争里拿下心仪offer。 一份亮眼简历是求职敲门砖，面试紧张则可能让机会溜 ...
2025-02-24
