Jun, 2024

自适应增强和动态权重调整

HTML
PDF
TL;DRAdaptive Boosting with Dynamic Weight Adjustment improves efficiency and accuracy in ensemble learning by dynamically updating instance weights based on prediction error, resulting in a more flexible and effective approach for boosting in challenging classification tasks.
发现论文，激发创造
  • 提升算法的双重表述

    研究使用新视角的提升算法，证明 AdaBoost、LogitBoost 和软边界 LPBoost 的拉格朗日对偶问题都是熵最大化问题，并通过研究这些算法的对偶问题，表明了提升算法的成功可以从最大化边缘并同时控制边缘方差的角度来理解。通过列生成优化算法，实现了更快的收敛率，并使得使用提议的优化技术建立集成所需的弱分类器更少。

    Jan, 2009

  • 标签噪声存在时的Boosting

    研究两种方法来提高AdaBoost算法对标签误差的鲁棒性，一种是使用标签噪声鲁棒的分类器作为基础学习器，另一种则是修改AdaBoost算法以提高鲁棒性。实证评估表明，鲁棒分类器的集合虽然比不考虑标签噪声的AdaBoost算法收敛得更快，但仍容易出现标签误差。然而，将其与我们在此提出的新的鲁棒Boosting算法配对，能够获得更具弹性的算法。

    Sep, 2013

  • 深度增量提升

    本文介绍一种新技术Deep Incremental Boosting，它是从AdaBoost发展而来，并专门适用于Deep Learning方法，它可以缩短训练时间并提高泛化能力。作者借鉴了Transfer of Learning方法，以减少每个增量Ensemble成员的启动时间，我们展示了一系列在一些常见Deep Learning数据集上的实验，印证了一些初步结果，并讨论了Deep Incremental Boosting对传统Ensemble方法在Deep Learning方面带来的潜在改进。

    Aug, 2017

  • ProBoost: 概率分类器的增强方法

    本文提出了一种新的增强算法 ProBoost，它利用每个训练样本的认识不确定性确定最具挑战性/不确定性的样本，从而使得下一个弱学习器的相关性得到提高，生成一个逐渐聚焦于具有最高不确定性的样本的序列。此外，还介绍了三种操作训练集的方法和两种集成组合的方法，并对基于变分推断或蒙特卡洛丢失的不确定性估计的概率模型进行了研究。在MNIST基准数据集上进行的实验评估表明，ProBoost能够显著提高性能。

    Sep, 2022

  • AdaCC: 累积代价敏感增强学习用于不平衡分类

    本文提出了一种新的成本敏感的提升方法AdaCC，该方法不依赖于固定的错误分类成本矩阵，而是根据模型性能动态调整误分类成本，优于12种现有方法，在27个真实世界数据集上实现了稳定的改进。

    Sep, 2022

  • 解读分析计算在AdaBoost编码中的失效

    AdaBoost不是真正的优化算法，而是一种将多个弱分类器组合成强分类器的方法，它的结果可以通过真值表进行明确计算。本研究以两个类别的问题为例，以三个二元分类器为例，与Python库scikit-learn中的AdaBoost算法进行比较。

    Aug, 2023

  • AdaBoost综述：和解视角以更好地理解其动态

    通过整合多个弱学习器以构建强学习器，本论文综合了多个视角对AdaBoost算法的动态性进行探究，并将它们以相同的形式统一起来，旨在帮助非专业读者更好地理解AdaBoost的动态和各种视角之间的等价性和关联性。

    Oct, 2023

  • 在线自适应学习下的概念漂移多流分类的在线增强学习

    本文提出了一种新颖的在线增强自适应学习 (OBAL) 方法，通过自适应学习不同流之间的动态相关性，有效地解决了多流分类中负面转移的问题。

    Dec, 2023

  • 适应性增强与公平感知重新加权技术的公平分类

    提出了一种新颖的公平AdaBoost（FAB）方法，通过公平感知的权重调整技术实现公平分类，并在维持AdaBoost的优势的同时，几乎不牺牲预测性能。在实际数据集上进行的实证结果表明，FAB在公平性和准确性的权衡方面优于同类方法。

    Jan, 2024

  • 最优弱到强学习的多面性

    本文解决了样本复杂度优化的缺口，提出了一种新颖且简单的Boosting算法，证明了其样本复杂度是最优的。该算法将训练数据分为五个相等的部分，分别运行AdaBoost，并通过多数投票结合结果，初步实验证明在大数据集上可能优于以往算法。

    Aug, 2024