Jun, 2011

流行集成方法：一项实证研究

PDF
TL;DR本研究使用神经网络和决策树作为分类算法，在 23 个数据集上评估了 Bagging 和 Boosting 两种集成方法。研究结果表明 Bagging 方法几乎总是比单个分类器更准确，而 Boosting 方法则在某些情况下比 Bagging 更不准确。数据集的特征对 Boosting 方法的表现有重要影响，这种方法可能会过拟合噪声数据集，从而减少性能。同时我们的结果也说明，集成模型的性能提升大部分发生在前几个分类器的组合中。
ensembleclassifiersbaggingboostingdata sets
发现论文，激发创造
  • 集成深度学习：综述

    本文综述了最新的深度集成学习模型的分类和应用，并指出了未来研究的方向。

    Apr, 2021

  • 集成学习何时真正有效？

    研究加入集成（ensembling）技术在分类任务中的性能提升问题，证明当集成模型中错误率低于集成模型间的不同率时，在学习任务中加入集成技术可以显著提高性能。通过理论和实验的方式证明这种推论，并在实践中找出集成技术适用和不适用的情况。

    May, 2023

  • 集成学习中的进化赋权算法

    本论文提出了一种利用进化算法来优化学习数据子集之间差异性的基于 bagging 的集成学习算法，并表明该算法在多个基准数据集上的性能优于传统的 bagging 和随机森林方法，同时能够在性能准确性不降低的情况下维持多样性的集合。

    Aug, 2022

  • 深度卷积神经网络的集成方法在图像分类中的相对性能

    该研究通过探究多种集成方法，包括超级学习器等，运用人工神经网络在图像识别任务中进行设计多个实验，并进一步研究了神经网络的过度自信现象及其对集成方法的影响，并在所有实验中发现超级学习器是表现最佳的集成方法。

    Apr, 2017

  • 当集成较小的模型比单个大模型更高效时

    本文研究使用 ensemble 方法来提高模型性能的有效性，实验结果表明，与单个模型相比，用 ensemble 组合模型在准确率和计算效率上有更好的表现，并提出 ensemble 模型作为模型推理速度和准确性之间的灵活权衡。

    May, 2020

  • 针对网络入侵检测数据集特征调整的集成分类器设计

    本文针对 UNSW-NB15 数据集的类不平衡和特征空间中的类重叠问题，提出了一种机器学习分类器的数据驱动设计和性能评估方法，其中使用 Balanced Bagging、eXtreme Gradient Boosting、Hellinger Distance Decision Tree 等集成方法来解决不平衡数据问题，提出了两种新的算法来解决类重叠问题，并提高了测试数据的分类性能。实验证明，相比已有技术，该方法在二元和多种情况下均有显著优势。

    May, 2022

  • 深度集成的效果如何，但它们是否必要？

    通过研究和实验证明，相比于单个深层神经网络，神经网络集成在识别度、不确定性量化和对数据集迁移的鲁棒性方面并没有显著提高，二者都能实现类似的性能和效益。

    Feb, 2022

  • 深度学习图像分类中基于置信度集成的评估

    使用了 Conf-Ensemble 技术来提高机器学习模型的性能，通过对 ImageNet 数据集的图像分类实验，发现 Conf-Ensemble 在复杂的多标签分类任务中并未能如预期一样实现优化结果，也说明了大数据难以被利用的非平凡性。

    Mar, 2023

  • 为何多个网络头胜过单独一个：训练深度神经网络的多样集成

    本研究探讨了如何最佳地建立卷积神经网络的组合，比较了多种资源共享和差异性鼓励的策略，其中提出了 TreeNets 算法，最后通过端到端的训练以统一的损失函数获得比传统算法更高的准确率。

    Nov, 2015

  • 使用深度卷积神经网络优化的集成学习医学图像分类分析

    该研究提出了一种可复现的医学图像分类管道，分析了集成学习技术在深度学习医学图像分类管道中的优化效果，发现 Stacking 技术效果最好，能增加 13％的 F1 得分，此外，Augmenting 和 Bagging 技术也能显著提高性能。此外也展示了简单的统计汇总函数与较复杂的机器学习技术汇总函数相比并不逊色。综述结果表明，集成学习技术的使用能够为医学图像分类管道提高性能和抗干扰能力。

    Jan, 2022