ICCVApr, 2021

不平衡深度学习的普洛克鲁斯特训练

PDF
TL;DR本文提出了一个新的学习策略，来有效地解决在使用类不平衡数据时神经网络容易出现欠拟合和过拟合问题的困扰，该策略在小批量中混合了主类数据和其它数据的特征，旨在削弱主类数据的特征以防止神经网络优先拟合主类数据的情况，从而实现了类之间的训练过程平衡，并得到了在难度较大的数据集中的最新成果。
neural networksclass-imbalanced dataunderfittinglearning strategyminor class data
发现论文，激发创造
  • 类别不平衡下神经网络训练简化

    现实世界的数据集通常存在严重的类别不平衡问题，通过调整标准深度学习流程的现有组件，如批次大小、数据增强、优化器和标签平滑等，可以实现无需专门的类别不平衡方法即可达到最先进的性能，并提供了关于训练类别不平衡的关键建议和考虑因素，以及关于为什么类别不平衡方法成功或失败的理解。

    Dec, 2023

  • 识别和补偿不平衡深度学习中的特征偏移

    本文研究了在类别不平衡数据情况下学习卷积神经网络分类器，发现卷积神经网络容易过拟合少数类，提出了一种类别依赖温度的训练方法以解决特征偏移问题，并在基准数据集上验证了有效性。

    Jan, 2020

  • 调整决策边界用于类别不平衡学习

    本论文中，我们提出了一种新方法来解决神经网络训练中出现的类不平衡问题，这种方法旨在画出更好的决策边界并缩放权重向量，从而实现优秀的性能结果。

    Dec, 2019

  • M2m: 基于主次平衡转换的非均衡分类

    通过将更频繁出现的类别样本进行翻译，从而扩充较少出现的类别，这种简单的方法使分类器能够学习到少数类别更具有泛化性的特征，从而提高了在不平衡分类问题上的性能。实验结果表明，该方法在各种不平衡数据集上均优于现有的重取样或重加权方法，甚至超过了之前的最优方法。

    Apr, 2020

  • 类别不平衡下神经网络的过拟合：分割任务的分析和改进

    本文研究深度学习中的过拟合现象，并通过分析来自训练数据集和测试数据集的逻辑回归分布之间的变化来解释其在神经网络上的影响。作者针对深度学习中的图像分割任务，提出了针对少量数据样本的正则化模型，模仿少量数据情况下在测试集中出现的数据分布，用于减轻这种分布对模型性能的影响，实验结果证明该方法显著提高了模型在二进制分割图像任务中的性能。

    Jul, 2019

  • 从动态不平衡学习的角度重新考虑逐步学习

    通过数据不平衡的角度来分析深度神经网络在连续学习新概念时容易出现灾难性遗忘问题，提出了一种名为 Uniform Prototype Contrastive Learning (UPCL) 的方法，通过学习均匀且紧凑的特征来解决动态不平衡问题，并通过在多个基准数据集上的实验验证了其在性能上的优越性。

    May, 2024

  • 基于代价敏感学习的深度特征表示从非平衡数据中学习

    该研究提出了一种基于成本敏感深度神经网络的方法，可以在不改变原始数据分布的情况下解决类别不均衡的问题，并在六个主要图像分类数据集上进行了实验证明其明显优于现有方法。

    Aug, 2015

  • 卷积神经网络中类别不平衡问题的系统研究

    本研究系统地研究了类别不平衡对卷积神经网络分类性能的影响，并比较了几种解决该问题的常用方法。在使用三个基准数据集进行实验的过程中，研究者发现类别不平衡对分类性能有不利影响，而通过过采样的方法可以提高分类性能。同时，该研究还发现阈值补偿在一定场景下也能够提高分类性能。

    Oct, 2017

  • 少数类增量修正的不平衡深度学习

    本文提出了一种基于类别不平衡的深度学习模型，使用小样本类别修正和难样本挖掘，通过迭代逐批次学习，最小化数量众多类别的影响。实验结果表明，该模型在处理不平衡数据学习问题上相比现有最先进模型具有性能优势和可扩展性。

    Apr, 2018

  • 应对非均衡分类中的多元少数群体

    通过迭代数据混合的马尔科夫决策过程（MDP）来解决不平衡数据集的问题，并通过使用数据扩充策略训练一个数据扩充策略并设计一种奖励信号，探索分类器的不确定性并鼓励性能提升，不考虑分类器的收敛，从而展示了解决具有不同类别少数样本的不平衡数据集的潜力和前景。

    Aug, 2023