BriefGPT.xyz
Feb, 2020
梯度提升神经网络:GrowNet
Gradient Boosting Neural Networks: GrowNet
HTML
PDF
Sarkhan Badirli, Xuanqing Liu, Zhengming Xing, Avradeep Bhowmik, Sathiya S. Keerthi
TL;DR
该论文提出了一种新颖的梯度提升框架,其中浅层神经网络被用作“弱学习器”,该框架考虑了一般的损失函数,并针对分类、回归和排序学习提供了具体的示例。该模型通过完全修正步骤纠正了经典梯度提升决策树贪婪函数逼近的缺陷,并在多个数据集上的三项任务中表现出超越同类方法的结果。本文还进行了削减研究,以探讨每个模型组成部分和模型超参数的影响。
Abstract
A novel
gradient boosting
framework is proposed where shallow
neural networks
are employed as "weak learners". General
loss functions
are
→