理解梯度提升分类器：训练、预测与$γ_j$的角色

Oct, 2024

理解梯度提升分类器：训练、预测与$γ_j$的角色

Understanding Gradient Boosting Classifier: Training, Prediction, and the Role of $γ_j$

Hung-Hsuan Chen

TL;DR本研究解决了梯度提升分类器（GBC）在训练和预测过程中的具体问题，特别是终端节点值$γ_j$的计算。通过泰勒级数近似，我们提出了一种新方法来优化逻辑损失函数，并提供了算法实现的详细伪代码。这项工作展示了GBC在二分类任务中的有效性，具有重要的应用价值。

Abstract

The Gradient Boosting Classifier (GBC) is a widely used machine learning algorithm for binary classification, which builds decision trees iteratively to minimize →