Oct, 2023

DualAug: 利用 OOD 数据拒绝扩展增强技术

PDF
TL;DR数据增强是减少模型过拟合和提高泛化性能的一种主要方法。本研究揭示了数据增强与模型性能之间的关系，提出了一种名为 DualAug 的新型数据增强方法，并通过各种实验证明其在各种自动化数据增强方法以及半监督学习和对比自监督学习中的改进效果。
data augmentationmodel performanceout-of-distribution datadualaugautomated data augmentation
发现论文，激发创造
  • 使用越界数据消除不良特征贡献

    提出了一种使用缺乏伪标签和数据分布限制的无分布数据进行数据增强的方法，以改善神经网络的推理泛化能力，并在 CIFAR-10，CIFAR-100 和 ImageNet 的子集上进行了实验证明。

    Jan, 2021

  • 通过排除极端增强技术实现领域泛化

    在非领域内和领域泛化设置中，通过使用均匀采样的标准数据增强转换，增加转换的强度以适应领域外的更高数据差异，并设计新的奖励函数来拒绝可能损害训练的极端转换，我们的数据增强方案达到与基准领域泛化数据集上的最先进方法相媲美甚至更好的准确性。

    Oct, 2023

  • 关于形状偏差、准确性和鲁棒性之间关系的澄清

    通过评估 39 种数据增强类型对广泛使用的 OOD 数据集的影响，证明了每种数据增强对模型对 OOD 数据的鲁棒性的影响，并进一步证明了所述假设不成立；形状偏差的增加不一定导致更高的 OOD 鲁棒性。通过分析结果，还发现 ImageNet-1K 数据集中的一些偏差可以通过适当的数据增强来减小。我们的评估结果进一步表明，域内准确性和 OOD 鲁棒性之间不一定存在权衡，选择适当的增强方法可以同时提高域内准确性和 OOD 鲁棒性。

    Jun, 2024

  • AugMax: 随机增强的对抗组合提高训练鲁棒性

    AugMax 是一种数据增强框架，旨在将 DNNs 的鲁棒性的多样性和难度两个方面统一起来。 AugMax 首先随机采样多个增强算子，然后学习所选算子的对抗性混合。 为了解决模型训练更具挑战性的问题，作者进一步设计了一种名为 DuBIN 的解耦归一化模块。 它可以解决由 AugMax 引起的不同实例间特征异质性的问题，并且比现有技术在 CIFAR10-C，CIFAR100-C，Tiny ImageNet-C 和 ImageNet-C 上的超出分布鲁棒性方面表现更好。

    Oct, 2021

  • DecAug: 通过分解特征表示和语义增强实现的外样本泛化

    本文提出 DecAug 方法，使用分解特征表示和语义增强方法来解决深度学习模型在面对分布转移问题时的泛化问题，实验证明该方法可以解决多种泛化问题并且超越了现有算法的表现。

    Dec, 2020

  • 通过对抗性学习实现鲁棒准确的物体检测

    本文提出了一种基于敌对样本的选择性、动态并且与检测器演化相关的数据扩增方法，该方法适用于目标检测模型，能够大幅提高模型的鲁棒性和检测精度。与基于模型无关的自动增广方法相比，在不同的检测模型中，该方法表现更加广泛和稳健。

    Mar, 2021

  • AdaAugment：一种无需调优的自适应数据增强方法

    AdaAugment 是一种无需调参的创新自适应增强方法，利用强化学习根据目标网络的实时反馈动态调整个别训练样本的增强程度，通过优化策略网络和目标网络的联合来有效适应增强程度，从而在效果和效率上一致性地优于其他最先进的数据增强方法。

    May, 2024

  • 通过扩充内容和风格利用超出分布范围的例子

    本文提出了一种 HOOD 方法，通过设计一种基于因果推断的变分推理框架，利用每个图像实例的内容和风格来识别良性和恶性 ODD 数据，并通过干预过程增加内容和风格特征，从而产生良性和恶性 OOD 数据，HOOD 可以有效处理未知和开放环境中的 OOD 示例。

    Jul, 2022

  • MultiOOD：多模态下的扩展外分布检测

    通过引入多模态 OOD（Out-of-Distribution）检测基准 MultiOOD，本研究评估了现有的单模态 OOD 检测算法，并提出了 Agree-to-Disagree（A2D）算法和 NP-Mix 异常值合成方法，通过利用多模态信息和探索更广泛的特征空间，显著提升了现有 OOD 检测算法的性能。

    May, 2024

  • 仅进行数据增强即可改善对抗训练

    本文证明了，与先前的研究相反，仅凭借数据增强，可以显着提高对抗训练的准确性和鲁棒性，数据增强的多样性和难度是提高训练效果的重要因素。作者提出了新的数据增强方案，并通过实验验证，达到了对抗训练中数据增强的最佳效果。

    Jan, 2023