catboost是实现xgboost（极限梯度增强）还是简单的梯度增强？

Question

在他们的网站上，他们说“梯度提升”，但似乎这里的人们将其与其他“ xgboost”算法进行了比较。我想知道它是否是真正的 extreme 梯度提升算法。 谢谢

Answer 1

梯度提升是一种元算法。没有简单的梯度增强。每个Boosting库都使用它们自己独特的算法来搜索回归树，因此，我们获得了不同的结果。

极端梯度增强只是对xgboost决策树进行标准梯度增强的一种实现，它具有一些启发式/正则化功能，可以提高模型质量和学习回归树的特殊方案

CatBoost是标准梯度增强的另一种实现方式，具有另一组正则化/启发式方法。

这是不同的算法。