XGBoost做分类问题时每一轮迭代拟合的是什么？

2023-04-18

XGBoost（eXtreme Gradient Boosting）是一种强大的集成学习算法，常用于解决分类和回归问题。它是一种基于决策树的机器学习算法，在解决分类问题时，每一轮迭代拟合的是残差。本文将对XGBoost分类问题中每一轮迭代 ...

如何对XGBoost模型进行参数调优？

2023-04-10

XGBoost是一个高效、灵活和可扩展的机器学习算法，因其在许多数据科学竞赛中的成功表现而备受瞩目。然而，为了使XGBoost模型达到最佳性能，需要进行参数调优。本文将介绍一些常见的XGBoost参数以及如何对它们进行调 ...

XGBoost算法的这3类参数，你知道吗？

2020-07-09

XGBoost是诞生于2014年2月的一种专攻梯度提升算法的机器学习函数库，它有很好的学习效果，速度也非常快，与梯度提升算法在另一个常用机器学习库scikit-learn中的实现相比，XGBoost的性能可以提升10倍以上。还有，X ...

具有贝叶斯优化的XGBoost和随机森林

2019-09-28

作者 | Edwin Lisowski 编译 | CDA数据分析师 XGBoost and Random Forest with Bayesian Optimisation 在这篇文章中，我们将介绍带有贝叶斯优化算法的两种流行的算法即XGBoost和随机 ...

随机森林在机器学习中的应用优缺点

2024-12-06

随机森林（Random Forest）作为一种集成学习算法，在机器学习领域广受欢迎。它通过构建多个决策树，并结合它们的预测结果，旨在提高模型的准确性和鲁棒性。让我们深入探讨随机森林在机器学习中的应用优势和局限性。 ...

图像识别模型的优化最佳实践

2024-12-06

在机器学习中，特征重要性可视化是一项关键技术，用于评估和展示特征对模型预测结果的影响程度。通过合理利用这些技巧和方法，研究人员和工程师能够更好地优化图像识别模型，提高其性能和准确性。 条形图与水平条形 ...

2024年数据分析师面试高频问题TOP10及答案

2024-09-09

在2024年，数据分析领域的发展如火如荼，伴随着行业的迅速进步，数据分析师成为了企业争相招揽的香饽饽。作为一名有经验的数据分析师，我深知面试中会遇到的挑战。今天，我想通过这篇文章，分享一些常见的面试问题 ...

一线大厂数据分析员的日常工作内容揭秘

2024-09-04

在一线大厂中，数据分析员的角色往往被赋予了极高的责任感与重要性。他们不仅是数据的操作者，更是业务决策的重要推动者。数据分析员的日常工作极为丰富，从数据的收集、清洗，到深入的分析和报告生成，每一个环节都 ...

数据分析怎么做：全面指南

2024-08-16

数据分析是一项复杂且系统性的工作，涵盖从基础数据收集到最终决策支持的多个步骤和方法。本文将为你详细介绍数据分析的基本流程、关键技能、实际应用场景，以及如何通过有效的技术和工具提升数据分析能力。 ...

数据不平衡问题在机器学习中如何处理？

2024-04-23

在机器学习中，数据不平衡是指分类问题中不同类别的样本数量差距较大。这种情况可能会影响模型的训练和性能，导致对少数类别样本的预测能力较弱。因此，为了解决数据不平衡问题，我们需要采取一系列有效的方法来平 ...

CDA LEVEL III

2023-10-11

一、总则 CDA（Certified Data Analyst），即“CDA数据分析师”，是在数字经济大背景和人工智能时代趋势下，面向全行业的资格认证，旨在提升用户数字技能，助力企业数字化转型，推动行业数字化发展。「CDA人才 ...

如何处理缺失值或异常值？

2023-06-15

缺失值与异常值是数据分析中常见的问题，它们可以影响模型的准确性和可靠性。因此，在进行数据分析之前需要对这些值进行处理。本文将介绍如何处理缺失值和异常值的方法。 一、缺失值的处理 缺失值是指数据集中某些记 ...

为什么XGBoost泰勒二阶展开后效果就比较好了呢？

2023-04-13

XGBoost是一种基于决策树的集成学习算法，用于解决分类和回归问题。它在许多数据科学竞赛中表现优异，并被广泛应用于各种领域，如金融、医疗、电子商务等。 在XGBoost中，每个树的构建都是基于残差的。因此，如果我 ...

用XGBoost做分类，预测结果输出的为什么不是类别概率？

2023-04-10

XGBoost是一种基于决策树的集成学习算法，在分类问题中通常被用来预测二元或多元分类结果。与传统的决策树相比，XGBoost具有更优秀的准确性和效率。 然而，在使用XGBoost进行分类时，其输出通常不是类别概率，而是对 ...

XGBoost模型训练时需要对类型特征进行one-hot编码吗？

2023-04-03

XGBoost是一种强大的机器学习算法，广泛应用于数据挖掘和预测建模。在XGBoost模型中，包括许多特征工程技术，例如对类型特征进行编码。在本文中，我们将探讨是否需要对类型特征进行独热编码，并介绍如何使用XGBoost ...

catboost原理介绍，与lightgbm和XGBoost比较优劣？

2023-04-03

CatBoost是一种基于梯度提升树的机器学习算法，它在处理分类和回归问题时都具有优秀的性能。CatBoost最初由Yandex团队开发，在2017年推出，并迅速受到了广泛关注和应用。 CatBoost与LightGBM和XGBoost都属于GBDT（Gr ...

用了更多特征，为什么XGBoost效果反而变差了？

2023-04-03

XGBoost是一种流行的算法，常用于解决回归问题和分类问题。它通过集成多个决策树来提高模型的精度和泛化能力。尽管有时候添加更多的特征可能会改善模型的性能，但有时候它可能会导致模型的性能反而变差。在本文中， ...

XGBoost是用二阶泰勒展开的优势在哪？

2023-03-31

XGBoost（eXtreme Gradient Boosting）是一种高效而强大的机器学习算法，它在大规模数据集上的性能表现非常出色。其中，使用二阶泰勒展开是XGBoost的重要优势之一，下面将详细介绍。 首先，我们来了解一下什么是泰勒 ...

XGBoost中的min_child_weight是什么意思?

2023-03-28

在介绍XGBoost中的min_child_weight之前，先简要介绍一下XGBoost。 XGBoost是一种广泛使用的机器学习算法，被用于各种数据科学任务，例如分类、回归等。它是“Extreme Gradient Boosting”的缩写，是一种决策树集成 ...

机器学习算法中 GBDT 和 XGBoost 的区别有哪些？

2023-03-22

Gradient Boosting Decision Tree (GBDT) 和 Extreme Gradient Boosting (XGBoost) 都是目前机器学习领域中非常流行的算法。两种算法都采用了 boosting 方法来提高分类或回归效果，但在实现细节上还是有一些区别的 ...