Oct, 2023

AUC-mixup：混合深度 AUC 最大化

PDF
TL;DR通过混合数据增强技术，即 AUC-mixup 损失，改进了 DAM 在小样本数据集上的推广性能，该方法在不平衡的基准和医学图像数据集上比标准的 DAM 训练方法表现更有效。
deep auc maximizationdammixup data augmentationgeneralizationauc-mixup methods
发现论文，激发创造
  • 大规模鲁棒性深度 AUC 最大化：一种新的代理损失函数及在医学图像分类上的实证研究

    通过最大化模型在数据集上的 AUC 分数，Deep AUC Maximization（DAM）成为一种学习深度神经网络的新范例。本文提出了一种基于边缘的最小 - 最大代理损失函数 AUC margin loss，并在医学图像分类任务中实现了更高的性能。

    Dec, 2020

  • 使用边缘下面积和显著性指导混合训练对预训练语言模型进行校准

    本文研究了 mixup 训练在自然语言理解（NLU）任务的作用，提出了一种用于预训练语言模型的 mixup 策略，并与模型 miscalibration 修正技术相结合来提高模型校准的方法，实验结果表明该方法在低预期的校准误差方面具有竞争优势。

    Mar, 2022

  • 多个未标记数据集的 AUC 优化

    本文研究如何从多个未标注数据集中构建一个 AUC 优化模型，提出了一种称为 U^m-AUC 的方法，将 U^m 数据转化为多标签 AUC 优化问题，可以有效地进行理论与实证研究。

    May, 2023

  • 混合样本如何提高模型鲁棒性和泛化性能？

    本文提供了理论分析，证明了使用 Mixup 在训练中如何帮助模型的鲁棒性和泛化性，表明最小化 Mixup 损失相当于大致最小化对抗性损失的上界，而对于泛化性我们证明了 Mixup 数据增强对应于一种特定类型的数据自适应正则化，从而减少了过拟合。

    Oct, 2020

  • 对抗自动混合

    通过交替优化分类器和混合样本生成器，我们提出了一种对抗性自动混合增强方法 AdAutomixup，用于生成具有挑战性的样本以训练强大的图像分类器，并通过引入指数移动平均教师和余弦相似度来防止图像内在意义的崩溃。大量实验证明，我们的方法在各种分类场景中优于现有技术水平。

    Dec, 2023

  • 大数据和人工智能时代的 AUC 最大化调查

    本文概述了过去 20 年中与 AUC 最大化相关的文献，不仅提供全面的文献综述，还从公式到算法和理论保证提供了详细的解释和比较，并对深度学习 AUC 最大化的剩余和新兴问题进行了讨论。提供未来工作的建议。

    Mar, 2022

  • 混合训练：改进的深度神经网络校准和预测不确定性

    通过将混合样本与标签训练，混合训练方法 (mixup) 在图像分类任务中表现出更好的数据增强效果，并且得到了更好的预测可靠性，表现为更好的校准性和更少的过于自信的预测。

    May, 2019

  • 基于正类未标记学习的半监督 AUC 优化

    本文提出了一种新的半监督 AUC 优化方法，不需要强限制假设，其基于正例和未标记数据的 AUC 优化方法（PU-AUC），并将其与监督 AUC 优化方法结合来实现半监督学习，理论证明了未标记数据对于 PU 和半监督 AUC 优化方法的泛化性能的改善有帮助，并通过实验证明了所提出方法的实用性。

    May, 2017

  • AugMix：一个简单的数据处理方法，用于提高鲁棒性和不确定性

    本文提出了一种名为 AugMix 的数据处理技术，该技术对图像分类器的鲁棒性和不确定性估计有显著的提高，这有助于模型抵御在部署过程中遇到的意外破坏。

    Dec, 2019

  • 从 SMOTE 到 Mixup 的深度不平衡分类

    通过增强传统的 SMOTE 方法并与 Mixup 结合，提出了一种统一的深度学习数据增强框架，实验结果表明该方法在深度不平衡分类任务上具有最先进的性能，并且在极度不平衡数据上也达到了优异的效果。

    Aug, 2023