Aug, 2023

DynED：数据流分类中的动态集成多样化

PDF
TL;DR提出了一种基于最大边际相关性（Maximal Marginal Relevance）的全新集成构建和维护方法（DynED），该方法在构建集成的过程中动态地将组件的多样性和预测准确性进行结合，实验结果表明，与五种最新方法相比，该方法在四个真实和 11 个合成数据集上提供了更高的平均准确度。
ensemble methodsclassificationconcept driftdiversityprediction accuracy
发现论文，激发创造
  • 使用动态集成选择的不均衡数据流分类

    提出了一种用于流数据分类的新框架，通过对非平稳漂移不平衡数据流进行数据预处理和动态集成选择技术的分类框架，以解决现代流数据分类面临的概念漂移和类不平衡数据的问题。实验结果表明，数据预处理结合动态集成选择技术在处理不平衡数据流时具有更高的准确性。

    Sep, 2023

  • 深度神经网络集成防御欺骗攻击：集成多样性、准确性和鲁棒性

    本文阐述了集成学习的一些基本概念，研究了如何优化集成学习的多样性来对抗敌对攻击，并提供了一些算法来学习如何生成高精度的集成预测。

    Aug, 2019

  • 局部独立预测模型集合

    本文通过介绍新的多样性度量方法介绍了一种新的模型集成方法，该方法特别适用于数据限制和协变量转移，可显著提高模型的多样性和泛化性能。

    Nov, 2019

  • 进化集成模糊分类器

    本文提出了一种新的演化集成分类器，称为 Parsimonious Ensemble pENsemble，该方法由一种被称为 Parsimonious Classifier pClass 的演化分类器构建，具有动态的特征选择和集成结构，并具有检测漂移的新颖方案，在处理动态和演化数据流方面表现最有希望，可以在精度和复杂度之间实现平衡。

    May, 2017

  • 从集成学习中学习时，多样性非常重要

    通过对集成方法进行扰动，可以增加模型多样性并提升性能。

    Oct, 2021

  • 深度集成多样性用于外部分布检测的可用性

    深度学习中用深度集成方法提升神经网络的鲁棒性能，在大规模图片数据集中使用互信息指标 (OOD）的检测效果比单一模型的熵指标要劣 30-40%，使用集成多个分类器的检测得分对 Deep Ensemble OOD 检测性能有着更好的提升表现 。

    Jul, 2022

  • 集成学习中的多样性统一理论

    本论文提出了一种集成多样性理论，阐明了多样性的本质及对各种监督学习场景的影响，揭示了多样性是集合偏差方差分解中的一个隐含维度，同时提供了一种自动识别可使偏差方差多样性分解成立的组合规则的方法。在此基础上，实验进一步说明了我们可以用该框架来理解当前流行的集成方法。

    Jan, 2023

  • 设计新的集成学习算法的系统方法

    本研究通过重新审视集成学习中的误差分解方法，将其应用于神经网络作为基础学习器的集成学习算法的开发，利用最新的理论框架和方法，设计了 21 种新的集成算法，并证明了其中大部分方法在多样化数据集上具有优越的预测性能。

    Feb, 2024

  • 多样性感知的无偏锐度最小化集成方法

    我们的工作调查了集成学习和损失尖锐度最小化相结合是否能增加泛化能力，并提出了 DASH 算法，该算法在深度集成中促进多样性和扁平性，理论和实证证据表明集成的可泛化性得到了改进。

    Mar, 2024

  • 数据流的差分隐私集成分类器

    该论文提出了一种基于隐私保护的集成学习方法，旨在应对连续数据流且涉及数据漂移的场景，该方法可以应对不断增长的数据流以及模型的升级更新，并适用于不同类型的预训练隐私分类 / 回归模型。在实际和模拟数据集上进行的实验表明，在不同的隐私、概念漂移和数据分布设置下，该方法表现优异。

    Dec, 2021