Jan, 2024

基于不平衡数据的深度学习中的最大后验比率对合成信息的研究

PDF
TL;DR本研究通过生成合成数据来平衡少数类别数据，以探究类别不平衡数据对深度学习模型的影响。我们提出一种优先选择高信息熵样本的技术，通过最大化生成合成样本在其类别正确区域的概率来增强机器学习算法的准确性和效率。实验结果显示我们技术在增强深度学习模型方面表现出卓越性能。
class-imbalanced datadeep learning modelsdata balancingsynthetic datamachine learning algorithms
发现论文，激发创造
  • 合成过采样：理论和使用 LLMs 解决数据不平衡的实践方法

    不平衡数据和虚假关联是机器学习和数据科学中常见的挑战。本文介绍了 OPAL（使用人工生成的 LLM 数据进行过采样），一种系统的过采样方法，利用大型语言模型（LLMs）生成高质量的少数类别合成数据，与深度生成模型进行预测任务的合成数据生成方法有所不同，着重解决不平衡数据和虚假关联问题，并提出了新的理论来严格表征使用合成数据的益处，并展示了变压器在生成标签和协变量的高质量合成数据方面的能力。此外，我们进行了大量的数值实验，以证明我们提出的方法相较于一些代表性的替代方案更加有效。

    Jun, 2024

  • 基于反馈的不平衡分类数据合成

    利用分类器对生成模型的反馈来增强静态数据集，并验证其有效性和效率，实现了在低频数据类别上的最新成果以及最糟糕分组准确性的显著提升，为有效利用最先进的文本到图像模型作为数据源，改进下游应用提供了路径。

    Sep, 2023

  • 利用半监督学习开发合成数据以处理小规模和不平衡数据集

    本文研究了通过模式的凸组合生成合成数据以及在半监督学习框架中利用这些数据作为无监督信息的效果，以支持小的高维度数据集和不平衡学习问题，而无需标记合成示例。作者在 53 个二元分类数据集上进行实验，结果表明该方法支持半监督学习中的聚类假设，对于小型高维度数据集和不平衡学习问题表现出色。

    Mar, 2019

  • 利用合成数据解决数据不平衡问题：基于数据视角的基准线

    通过使用合成数据作为初步步骤，SYNAuG 建议在使用特定任务算法解决数据不平衡问题之前，以有效和关键的方式解决数据不平衡问题。

    Aug, 2023

  • 生成式对抗少数族裔过采样

    本文提出了一种基于三方博弈的凸生成器算法，通过在深度学习系统中处理类别不平衡，在类别边界附近生成人工样本，从而优化分类器的性能。对多个类别不平衡的图像数据集进行的实验证实了算法的有效性。

    Mar, 2019

  • 应对非均衡分类中的多元少数群体

    通过迭代数据混合的马尔科夫决策过程（MDP）来解决不平衡数据集的问题，并通过使用数据扩充策略训练一个数据扩充策略并设计一种奖励信号，探索分类器的不确定性并鼓励性能提升，不考虑分类器的收敛，从而展示了解决具有不同类别少数样本的不平衡数据集的潜力和前景。

    Aug, 2023

  • 从真实数据到合成数据的转换：量化模型中的偏差

    本研究旨在建立使用合成数据训练的模型在偏见和公平之间的权衡，并研究了合成数据生成技术的变体，包括差分隐私生成方案，通过实验表明，合成数据训练的模型存在不同程度的偏差影响，且生成的特征不相关的技术表现良好。该研究有助于数据科学实践者理解合成数据的使用中的偏见。

    May, 2021

  • 用于处理不平衡数据的深度过采样分类框架

    本文提出了 Deep Over-sampling（DOS）方法，它通过显式的、受监督的表示学习扩展了合成过采样方法，以利用卷积神经网络获取的深度特征空间，并通过 CNN 的训练和更新目标的迭代过程，使嵌入之间的类内方差较小，从而提高了深度表示的判别力。实验证明，DOS 框架不仅能够更好地解决类别不平衡问题，而且在标准平衡环境下还能提高 CNN 的性能。

    Apr, 2017

  • 从 SMOTE 到 Mixup 的深度不平衡分类

    通过增强传统的 SMOTE 方法并与 Mixup 结合，提出了一种统一的深度学习数据增强框架，实验结果表明该方法在深度不平衡分类任务上具有最先进的性能，并且在极度不平衡数据上也达到了优异的效果。

    Aug, 2023

  • SMOTE: 合成少数类过采样技术

    本文介绍了一种从不平衡数据集中构建分类器的方法，通过在少数类过抽样和多数类欠抽样的组合使用，可以在 ROC 空间中实现比 Ripper 方法和朴素贝叶斯更好的分类器性能。

    Jun, 2011