Nov, 2023

集合准确性的实用估计

PDF
TL;DR本文提出一种实用的方法来估计多个分类器的联合能力，与现有方法不同的是它不依赖于标签，从而使得在大型无监督数据集中进行工作成为可能。该方法通过组合误差的组合边界实现，能够高效地搜索可能产生更高联合准确性的分类器组合。此外，该方法适用于无标签数据，使其在现代的无监督学习场景中既准确又实用。通过在流行的大规模人脸识别数据集上进行实验证明了该方法的有效性，这些数据集为使用嘈杂数据进行细粒度分类任务提供了一个有用的测试平台。该方法与无监督学习的趋势性实践相吻合，通过衡量一组分类器的内在独立性，而不依赖于其他分类器或标记数据。
ensemble learningpower estimationunsupervised settingdiversity measureface recognition
发现论文，激发创造
  • 使用自训练集成方法检测未标记数据上的错误并估计准确性

    本文提出了一个结合了模型集成学习和自训练的框架，用于解决深度学习模型在实际部署中遭遇训练数据分布不同的测试数据导致性能下降的问题，同时解决无监督准确度估计和错误检测两个挑战性任务，并在 59 项任务中取得了最优结果。

    Jun, 2021

  • 无标记数据下多分类器准确率的估计

    本研究通过谱方法，针对二元情况下的多个分类器预测结果，提出了一种无监督方法来估计分类器的准确性，同时构建了更准确的无监督集成分类器，并通过人工和真实数据集的实验表明了该算法的竞争性能。

    Jul, 2014

  • 盲目多类集成分类

    本研究介绍了一种基于联合张量和矩阵分解的动态匹配方法，旨在实现从多个分类器集合中无损学习。该方案效果得到了在真实和合成数据集上的评测。

    Dec, 2017

  • 基于依赖分类器的无监督集成学习

    本文主要探讨如何在无监督学习中，检测强违反条件独立性的分类器依赖关系，提高分类器准确性估计以及构造更合适的元学习器的方法，旨在提高集成学习算法的性能表现。

    Oct, 2015

  • 流行集成方法：一项实证研究

    本研究使用神经网络和决策树作为分类算法，在 23 个数据集上评估了 Bagging 和 Boosting 两种集成方法。研究结果表明 Bagging 方法几乎总是比单个分类器更准确，而 Boosting 方法则在某些情况下比 Bagging 更不准确。数据集的特征对 Boosting 方法的表现有重要影响，这种方法可能会过拟合噪声数据集，从而减少性能。同时我们的结果也说明，集成模型的性能提升大部分发生在前几个分类器的组合中。

    Jun, 2011

  • 解锁未标记数据：在线和静态环境下基于 Hui-Walter 范式的集成学习性能估计

    该论文介绍了将流行病学和医学领域中传统应用的 Hui-Walter 模式应用于机器学习领域，以估计关键性能指标和处理动态和不确定的数据环境。

    Jan, 2024

  • 集成学习中的准确不确定性估计和分解

    本研究介绍了一种 Bayesian 非参数集成学习方法，利用不同噪声和错误源的 Bayesian 非参数机制，对现有集成学习模型进行改进，以充分量化模型的不确定性，并将整体预测不确定性分解为不同的部分，实现了在噪声和错误较多的情况下，对空气污染暴露的预测及模型的偏差检测。

    Nov, 2019

  • 采用集合学习进行计算光学形态测量的不确定性量化

    通过集合学习方法探索计算光学形态测量中的不确定度量化问题，采用深度学习方法来解决大规模的非线性反问题，并通过插入外分布误差以及噪声数据来探索其可靠性，研究结果表明集合方法可以在高维数据的实际应用中进行可靠预测。

    Mar, 2021

  • 深度神经网络集成防御欺骗攻击：集成多样性、准确性和鲁棒性

    本文阐述了集成学习的一些基本概念，研究了如何优化集成学习的多样性来对抗敌对攻击，并提供了一些算法来学习如何生成高精度的集成预测。

    Aug, 2019

  • 众志成城：使用集成模型的逐轮一致性来抵御过拟合

    通过理论分析和经验验证，在深度神经网络中，过拟合发生时，分类器之间的差异性增加。受此结果的指导，我们提出了一种新的基于集成的预测方法，以对抗过拟合。该方法通过选择训练过程中最一致的预测结果来确定最终预测，有效消除了过拟合对模型泛化性能的不利影响，甚至在性能上超过了早停止方法。这种易于实现、可与任何训练方案和架构集成的方法，不需要额外的先验知识，因此是克服过拟合问题的实用和有用工具。

    Oct, 2023