今天小编给大家带来的是现在非常火爆的机器学习方法——集成学习。集成学习，顾名思义，通过将多个单个学习器集成/组合在一起，使它们共同完成学习任务，有时也被称为“多分类器系统(multi-classifier system)”、基于委员会的学习(Committee-based learning)。
它本身不是一个单独的机器学习算法，而是通过构建并结合多个机器学习器来完成学习任务。也就是我们常说的“博采众长”。集成学习可以用于分类问题集成，回归问题集成，特征选取集成，异常点检测集成等等，可以说所有的机器学习领域都可以看到集成学习的身影。
一般集成学习会通过重采样获得一定数量的样本，然后训练多个弱学习器(分类精度稍大于50%)，采用投票法，即“少数服从多数”原则来选择分类结果，当少数学习器出现错误时，也可以通过多数学习器来纠正结果。
集成学习分类
目前根据个体学习器的生成方式，集成学习可以分为两大类：
1)个体学习器之间存在较强的依赖性，必须串行生成的序列化方法：boosting类算法;
Boosting是一簇可将弱学习器提升为强学习器的算法。其工作机制为：先从初始训练集训练出一个基学习器，再根据基学习器的表现对样本分布进行调整，使得先前的基学习器做错的训练样本在后续收到更多的关注，然后基于调整后的样本分布来训练下一个基学习器;如此重复进行，直至基学习器数目达到实现指定的值T，或整个集成结果达到退出条件，然后将这些学习器进行加权结合。
2)个体学习器之间不存在强依赖关系，可以并行生成学习器：bagging和随机森林
Bagging的算法原理和 boosting不同，它的弱学习器之间没有依赖关系，可以并行生成。
Bagging的基本流程：
1.经过T轮自助采样，可以得到T个包含m个训练样本的采样集。
2.然后基于每个采样集训练出一个基学习器。
3.最后将这T个基学习器进行组合，得到集成模型。
随机森林(Random Forest，简称RF) 是Bagging的一个扩展变体。
随机森林对Bagging做了小改动：
1.Bagging中基学习器的“多样性”来自于样本扰动。样本扰动来自于对初始训练集的随机采样。
2.随机森林中的基学习器的多样性不仅来自样本扰动，还来自属性扰动。
3.这就是使得最终集成的泛化性能可以通过个体学习器之间差异度的增加而进一步提升。
数据分析咨询请扫描二维码
CDA持证人Louis CDA持证人基本情况 我大学是在一个二线城市的一所普通二本院校读的，专业是旅游管理，非计算机非统计学。毕业之 ...
2024-12-18最近，知乎上有个很火的话题：“一个人为何会陷入社会底层”？ 有人说，这个世界上只有一个分水岭，就是“羊水”；还有人说，一 ...
2024-12-18在这个数据驱动的时代，数据分析师的技能需求快速增长。掌握适当的编程语言不仅能增强分析能力，还能帮助分析师从海量数据中提取 ...
2024-12-17在当今信息爆炸的时代，数据分析已经成为许多行业中不可或缺的一部分。想要在这个领域脱颖而出，除了热情和毅力外，你还需要掌握 ...
2024-12-17数据分析，是一项通过科学方法处理数据以获取洞察并支持决策的艺术。无论是在商业环境中提升业绩，还是在科研领域推动创新，数据 ...
2024-12-17在数据分析领域，图表是我们表达数据故事的重要工具。它们不仅让数据变得更加直观，也帮助我们更好地理解数据中的趋势和模式。相 ...
2024-12-16在当今社会，我们身处着一个飞速发展、变化迅猛的时代。不同行业在科技进步、市场需求和政策支持的推动下蓬勃发展，呈现出令人瞩 ...
2024-12-16在现代商业世界中，数据分析师扮演着至关重要的角色。他们通过解析海量数据，为企业战略决策提供有力支持。要有效完成这项任务， ...
2024-12-16在当今数据爆炸的时代，数据分析师是组织中不可或缺的导航者。他们通过从大量数据中提取可操作的洞察力，帮助企业在竞争激烈的市 ...
2024-12-16在现代企业中，数据分析师扮演着至关重要的角色。他们不仅负责处理和分析大量的数据，还需要将这些分析结果转化为切实可行的商业 ...
2024-12-16在当今的大数据时代，数据分析已经成为推动企业战略的重要组成部分。无论是金融、医疗、零售，还是制造业，各个行业对数据分析的 ...
2024-12-16在当今这个以数据为驱动力的时代，数据分析领域正在迅速扩展与发展。随着大数据、人工智能和机器学习技术的不断进步，数据分析已 ...
2024-12-16在信息爆炸和数据驱动的时代，数据分析专业是否值得一选成为许多人思考的议题。无论是刚刚迈入大学校门的新生，还是考虑职业转型 ...
2024-12-16适合数据分析专业学生的实习岗位有很多，以下是一些推荐： 阿里巴巴数据分析岗位实习：适合经济、统计学、数学及计算机专业的 ...
2024-12-16在数据科学领域，探索实习机会是一个理想的学习和成长方式。实习不仅可以提供宝贵的实践经验，还能帮助学生发展关键的数据分析技 ...
2024-12-16在当今信息驱动的时代，数据分析不仅成为了企业决策的重要一环，还催生了各种职业机会。从技术到业务，数据分析专业的就业岗位种 ...
2024-12-16在现代企业中，数据分析师被誉为“数据探险家”，他们通过揭示隐藏在数据背后的故事，帮助公司优化业务策略和做出明智的决策。然 ...
2024-12-16在大数据崛起的时代，数据分析师被誉为企业的“幕后英雄”。他们通过解读数据，揭示隐藏的真相，为企业战略提供重要的指导。这份 ...
2024-12-16在这个信息大爆炸的时代，数据分析师成为了企业中的“福尔摩斯”，他们能够从庞杂的数据中提取关键洞察，为业务发展提供坚实支持 ...
2024-12-16在这个数据为王的现代社会，数据分析师如同企业的导航员，洞悉数据背后所隐藏的商业机会和战略优势。然而，成为一名优秀的数据分 ...
2024-12-16
