决策树归纳分类算法理解-CDA数据分析师官网

决策树归纳分类算法理解

2018-06-14

决策树归纳分类算法理解

决策树归纳是从类标记的训练数据构建决策树，属于分类领域。遍历根节点到全部叶节点的路径，每条路径都属于一个元组分类。整棵决策树形成分类规则。目前构造决策树的算法包括ID3（iterative dichotomy），C4.5，CART，都基于如下抽象的算法流程，现通过一个详细的数据集对算法进行详细解释：

该算法名称Generate_decision_tree（，，），递归进行决策树构建。

Input：
数据划分D，即训练数据，包含训练元组（tuples）和对应类标记。
attribute_list是候选属性集
attribute_selection_method 确定分裂准则splitting_criterion（确定将哪个属性作为第一分裂属性，应该是最合适的分裂属性），包含确定分裂属性和分裂子集/分裂点。
（分裂点：针对连续型元组（每一行数据代表一个元组）；分裂子集：针对离散的数据）

Output：
决策树

该数据集就是数据划分D，包含4个属性和及其对应的类标记。
attribute_list是{age,income,student,credit_rating}构成的候选属性集合。数据划分是根据属性选择度量（Gain、Gainratio、Gini指标）依次选取最合适的属性作为分裂属性。

以ID3算法为例：
分别计算四个属性的信息增益值：Gain(age)、Gain(income)、Gain(student), Gain(credit_rating) （具体求解见博文……）得到Gain(age)最高，故其被选为第一个最合适的分裂属性，其有三个分裂子集，分别对应youth、middle_aged、senior构成的子数据集。
算法中j表示属性age的三个值youth、middle_aged、senior。
Dj表示按这三个值分类对应的新数据划分，如下：

j的值就是age属性拥有的值的个数，构成了新的数据划分。然后分别针对D1,D2,D3递归调用Generate_decision_tree（，，）
递归出口：
1.Di中的元组都属于同一类，直接将其所属的类作为叶节点
2. 候选属性集attribute_list为空，将Di中的多数类作为叶节点。

CDA数据分析师考试相关入口一览（建议收藏）：

▷ 想报名CDA认证考试，点击>>> “CDA报名” 了解CDA考试详情；

▷ 想加入CDA考试题库，点击>>> “CDA题库” 了解CDA考试详情；

▷ 想学习CDA考试教材，点击>>> “CDA教材” 了解CDA考试详情；

▷ 想查询CDA考试成绩，点击>>> “CDA成绩” 了解CDA考试详情；

▷ 想了解CDA考试含金量，点击>>> “CDA含金量” 了解CDA考试详情；

▷ 想获取CDA考试时间/费用/条件/大纲/通过率，点击 >>>“CDA考试官网” 了解CDA考试详情；

决策树 D3

数据分析咨询请扫描二维码

上一篇r语言做决策树代码实现

下一篇用python实现简单EXCEL数据统计的实例

决策树归纳分类算法理解

CDA考试动态

CDA报考指南

热门栏目

最新资讯

数据分析常用工具和方法

数据挖掘在客户行为分析中的作用

如何进行数据挖掘分析

企业提高运营效率的技巧

Python 适合初学者学习吗

金融数字化在中小企业中的应用

中小企业数字化转型策略

如何选择合适的数据分析方法

数据分析师的核心能力有哪些

数据挖掘与分析的基本步骤解析

如何提升商务数据分析师的工作效率 ...

数据挖掘在商业中的重要性

数据分析可视化的应用场景

如何使用Python进行数据分析

数据分析师需要掌握的工具

业务分析师需要掌握的技能

CDA中科院城市环境研究所（厦门）内训圆满成功 ...

常见的数据分析方法及其应用

数据分析的基本步骤是什么

如何成为一名优秀的业务分析师