用xgboost做分类，预测结果输出的为什么不是类别概率？-CDA数据分析师官网

2023-04-10

XGBoost是一种基于决策树的集成学习算法，在分类问题中通常被用来预测二元或多元分类结果。与传统的决策树相比，XGBoost具有更优秀的准确性和效率。

然而，在使用XGBoost进行分类时，其输出通常不是类别概率，而是对每个类别的预测分数或得分。这与其他分类算法（如逻辑回归）不同，因为它们输出的是每个类别的概率。

这种差异主要是由于XGBoost算法的工作原理所决定的。XGBoost通过构建多个决策树来进行分类，每个决策树都会给出一个预测分数。最终的分类结果是所有决策树的预测分数的加权平均值，而不是每个类别的概率。

另外，XGBoost还具有一些特殊的技巧，例如增强正则化和智能分裂点选择等，这些技巧可使模型更加准确和稳健。这些技巧也导致了模型输出预测分数而不是类别概率。

虽然XGBoost输出的是预测分数而不是类别概率，但在实际应用中，可以将预测分数转化为类别概率。这可以通过将预测分数作为输入，然后使用Sigmoid函数（对于二元分类问题）或softmax函数（对于多元分类问题）来转换。这些函数将预测分数映射到概率空间中的值。

总之，XGBoost是一种强大而有效的分类算法，通常输出预测分数而不是类别概率，由于其特殊的技巧，如增强正则化和智能分裂点选择等。但是，预测分数可以很容易地转换为类别概率，从而使其与其他分类算法具有可比性。

相信读完上文，你对算法已经有了全面认识。若想进一步探索机器学习的前沿知识，强烈推荐机器学习之半监督学习课程。

学习入口：https://edu.cda.cn/goods/show/3826?targetId=6730&preview=0
涵盖核心算法，结合多领域实战案例，还会持续更新，无论是新手入门还是高手进阶都很合适。赶紧点击链接开启学习吧！

CDA数据分析师考试相关入口一览（建议收藏）：

▷ 想报名CDA认证考试，点击>>> “CDA报名” 了解CDA考试详情；

▷ 想学习CDA考试教材，点击>>> “CDA教材” 了解CDA考试详情；

▷ 想加入CDA考试题库，点击>>> “CDA题库” 了解CDA考试详情；

▷ 想了解CDA考试含金量，点击>>> “CDA含金量” 了解CDA考试详情；

XGBoost 决策树正则化机器学习半监督学习逻辑回归监督学习半监督

数据分析咨询请扫描二维码

若不方便扫码，搜微信号：CDAshujufenxi

下一篇如何用BP神经网络做时间序列预测?