1 决策树算法(Decision Tree)是从训练数据集中归纳出一组分类规则的过程。
实际操作中,与训练数据集不相矛盾的决策树可能有多个,也可能一个都没有;理想情况是找到一个与训练数据矛盾较小的决策树,同时也具有良好的泛化能力。
2 决策树结构:
有向边
节点
-内部节点: 数据的特征
-叶节点:数据的类别
决策树准则:每个实例都被一条路径覆盖,且仅被一条路径覆盖
3 决策树算法过程
特征选择
决策树生成过程就是划分数据集的过程,合适地选取特征能帮助我们将数据集从无序数据组织为有序;
有很多方法可以划分数据集,决策树算法根据信息论来度量信息;
信息论中有很多概念,不同的决策树生成算法使用不同的信息论概念来进行特征选择。
决策树生成
有诸如ID3, C4.5, CART等算法用于生成决策树;
ID3和CART4.5的差别在于用于特征选择的度量的不同
-ID3使用信息增益进行特征选择
-C4.5使用信息增益比进行特征选择
-以上两个算法流程:迭代的寻找当前特征中最好的特征进行数据划分,直到所有特征用尽或者划分后的数据的熵足够小。
ID3核心思想:信息增益越大说明该特征对于减少样本的不确定性程度的能力越大,也就代表这个特征越好。
C4.5核心思想:某些情况(比如按照身份证号、信用卡号、学号对数据进行分类)构造的树层数太浅而分支又太多,而这样的情况对数据的分类又往往没有意义,所以引入信息增益比来对分支过多的情况进行适当“惩罚”。具体情景解释可见这篇博客
CART我还没了解过,暂不介绍
4 决策树生成算法得到的树对训练数据的分类很准确,但对未知数据的分类却没那么准确,容易过拟合;因为决策树考虑的特征太多,构建得太复杂。
所以我们需要对决策树进行剪枝:从已生成的树上裁掉一些子树或叶节点,并将其根节点或父节点作为新的叶节点,以此简化树。
剪枝算法很多,这里引入一种简单的:极小化决策树整体的损失函数。
设树 T 的叶节点个数为 |T|, t 是树 T 的叶节点,该叶节点有Nt
个样本点,其中 k 类的样本点有Ntk个, k = 1,2,…,k, Ht(T)是叶节点 t 上的经验熵,α≥0
为参数,决策树的损失函数可定义如下
而经验熵为
其中,为了简洁,令
所以,上面的损失函数可以记为
各个符号定义如下:
C(T) 表示模型对训练数据的预测误差,即拟合程度
|T| 表示模型复杂度
α
控制以上两者之间的平衡
当α
确定时,树越大,与训练数据的拟合就越好,C(T)越小,但是树的复杂度也会上升,|T| 上升;而树越小,树的复杂度就越低,|T| 越小,但往往和训练数据的拟合程度不好,C(T) 又会上升
较大的α
使得生成较简单的树,较小的α使得生成较复杂的树,当α=0
,就完全不考虑树的复杂度了,相当于不进行剪枝操作
决策树生成只考虑提高信息增益来更好拟合训练数据,但决策树剪枝则通过优化损失函数来减少树的复杂度;可以说决策树生成学习的是局部模型,而决策树剪枝学习的是整体模型
剪枝算法流程
计算每个节点的经验熵
递归地从树的叶节点向上回缩:设一组叶节点
回缩到父节点前后的整体树分别是TB
和TA,其对应的损失函数值分别是Cα(TB)和Cα(TA)
,如果
那么将父节点变为新的叶节点,即剪枝
重复执行步骤2,直到不能再继续为止,得到损失函数最小的子树Tα
5
代码部分,先挖个坑。。。过段时间回来填
数据分析咨询请扫描二维码
在如今的数据驱动时代,掌握数据分析的工具和方法不仅是提高工作效率的关键,也是开拓职业机会的重要技能。数据分析涉及从数据的 ...
2024-11-08在现代商业环境中,企业正在逐步认识到数据挖掘技术在客户行为分析中的重要性。通过深度分析客户数据,这项技术不仅可以帮助企业 ...
2024-11-08数据挖掘分析是从大量数据中发现隐藏模式和有用信息的过程。尤其是在图数据挖掘中,提供了分析复杂关系和结构的独特视角。图数据 ...
2024-11-08在当今快速发展的商业环境中,提高运营效率已成为企业取得成功的关键因素。企业需要通过优化工作流程、利用技术创新和提升员工技 ...
2024-11-08Python 是一门非常适合初学者学习的编程语言。其简洁明了的语法、丰富的功能库,以及广泛的应用领域,使其成为学习编程的理想选 ...
2024-11-08在当今快速变化的商业环境中,金融数字化已经成为中小企业(SMEs)发展的关键驱动力。通过采用数字工具和技术,中小企业能够提高 ...
2024-11-08中小企业在全球经济中扮演着重要角色,然而,面对数字化浪潮,这些企业如何有效转型成为一大挑战。数字化转型不仅是技术的升级, ...
2024-11-08选择合适的数据分析方法是数据分析流程中的关键环节。它影响最终结论的准确性和可信度。在这个过程中,需要综合考虑数据的性质、 ...
2024-11-08在当今数据驱动的商业环境中,数据分析师扮演着至关重要的角色。他们帮助企业从大量数据中提取有用的洞察,从而推动决策制定和战 ...
2024-11-07在现代商业环境中,商务数据分析师扮演着至关重要的角色。作为联系业务需求与数据洞察之间的桥梁,数据分析师需要具备一系列技能 ...
2024-11-07在现代商业环境中,商务数据分析师扮演着至关重要的角色。作为联系业务需求与数据洞察之间的桥梁,数据分析师需要具备一系列技能 ...
2024-11-07在现代商业环境中,数据挖掘发挥着至关重要的作用。它不仅帮助企业从庞大的数据集中提取有价值的信息,还为企业的决策和业务运营 ...
2024-11-07数据分析可视化是一种通过图形化方式展现数据的技术,它使复杂的数据变得直观易懂,从而帮助我们更好地做出决策。在这个快速发展 ...
2024-11-07数据分析是一项至关重要的技能,尤其在当今数据驱动的世界中。Python以其强大的库和简单的语法成为了数据分析领域的佼佼者。本文 ...
2024-11-07在现代数据驱动的环境中,数据分析师扮演着至关重要的角色。他们需要掌握多种工具,以满足数据分析、处理和可视化的需求。无论是 ...
2024-11-07作为一名业务分析师,你将发现自己处于企业决策和数据驱动战略之间的桥梁位置。这个角色要求掌握一系列技能,以便有效地将数据转 ...
2024-11-07CDA中科院城市环境研究所(厦门)内训圆满成功 2017年9月12日-15日,CDA数据分析师在中科院城市环境研究所(厦门)进行了 ...
2024-11-07数据分析是现代商业和研究领域不可或缺的重要工具。无论是为了提高业务决策的准确性,还是为了发掘隐藏在数据中的潜在价值,了解 ...
2024-11-06数据分析是一个精细且有序的过程,旨在从海量数据中提取有用的信息,为决策提供有力支持。无论你是新手还是有经验的分析师,理解 ...
2024-11-06在当今竞争激烈的商业环境中,业务分析师(Business Analyst, BA)的角色变得愈加重要。随着企业对数据驱动决策的依赖加深,业务 ...
2024-11-06