ICMLMay, 2019

基于种群的数据扩充：高效学习数据扩充策略

PDF
TL;DR本文提出一种新的数据增强算法 ——Population Based Augmentation (PBA)—— 来生成非静态的增强策略日程表，相比于目前最先进的方法 AutoAugment，PBA 在 CIFAR-10、CIFAR-100 和 SVHN 数据集上耗费的总计算资源少三个数量级，但性能相当。在 CIFAR-10 数据集上，我们实现了 1.46% 的平均测试误差，稍微优于当前的最先进水平。
data augmentationneural network trainingpopulation based augmentationautoaugmentgeneralization
发现论文，激发创造
  • 通过渐进式基于种群的增强改进 3D 物体检测

    本文介绍了第一次自动设计 3D 目标检测数据增强策略的尝试，通过学习优化增强策略，将搜索空间缩小并采用前一次迭代中发现的最佳参数，使 PPBA 算法在 KITTI 3D 检测测试集上大幅优化了 StarNet 检测器的适度难度汽车、行人和骑车人类别，超过了当前所有最先进的单级检测模型。在 Waymo 开放数据集上的额外实验表明，PPBA 继续有效地提高 StarNet 和 PointPillars 检测器在比 KITTI 大 20 倍的数据集上的表现。

    Apr, 2020

  • AutoAugment: 从数据中学习增强策略

    本文介绍了一种自动搜索图像数据增强策略，使用神经网络在目标数据集上产生最高准确性，并在 CIFAR-10，CIFAR-100，SVHN 和 ImageNet 数据集上实现了最先进的准确性，同时找到的增强策略可在不同数据集间转移学习。

    May, 2018

  • 快速自动增强

    本文提出了一种名为 Fast AutoAugment 的算法，通过基于密度匹配的更高效的搜索策略找到有效的数据扩充策略，相比于 AutoAugment，该算法在各种模型和数据集上加速了搜索时间，并实现了可比较的图像识别性能。

    May, 2019

  • 使用反向传播学习增强策略的更快自动增强

    本文提出了一种可微分的策略搜索方法，用于数据增强，该方法比之前的方法更快，使用的是离散参数变换的近似梯度和可分辨操作选择机制。我们的方法通过最小化增强数据与原始数据之间的分布距离来优化，比之前的工作实现了显著更快的搜索，而不会出现性能下降。

    Nov, 2019

  • 对话任务自动学习数据增强策略

    通过自动化数据增强方法 AutoAugment, 本文实现了可用于自然语言处理任务的优化扰动操作，并且在对话生成等任务中取得了显著的性能提升。

    Sep, 2019

  • 长期预测的数据增强策略搜索

    我们介绍了一种名为 TSAA 的时间序列自动增强方法，用于应对长期预测中的过拟合挑战，并在挑战性的一元和多元预测基准问题上表现出卓越的性能，建议将其整合到预测流程中。

    May, 2024

  • 对抗自动数据增强

    通过使用对抗性方法，Adversarial AutoAugment 能够通过同时优化目标相关对象和数据增强策略搜索损失，以便更快且更有效率地完成深度神经网络的训练及图像分类任务，从而将计算成本减少 12 倍，时间开销减少 11 倍，达到了最佳的实验成果。

    Dec, 2019

  • 贪心策略搜索：用于可学习测试时数据增强的简单基准线

    本文介绍了一种名为贪心策略搜索（GPS）的高性能方法，可用于学习数据增强的策略，以提高机器学习模型的预测性能、领域内不确定性估计以及提高对领域转移的鲁棒性分析。

    Feb, 2020

  • LA3: 高效的标签感知自动增强

    该论文提出了一种名为 Label-Aware AutoAugment（LA3）的新型两阶段数据增强算法，它利用标签信息，分别为不同标签的样本学习增强策略。 LA3 的两个学习阶段分别评估并排名每个标签的单个增强方法，并从一些有效的和互补的增强中构建组合增强策略，从而提高了算法的性能在 CIFAR-10 和 CIFAR-100 上表现出与现有方法相匹配或超越的良好性能，并在 ResNet-50 上实现了 ImageNet 新的最高精度 79.97％，同时保持低计算成本。

    Apr, 2023

  • DADA: 可微分自动数据增强

    本研究提出 Differentiable Automatic Data Augmentation (DADA) 算法，使用 Gumbel-Softmax 方法实现对离散的数据增强方法的选择，引入 RELAX 无偏梯度估计方法，提高了数据增强策略的学习效率。在 CIFAR-10、CIFAR-100、SVHN 和 ImageNet 数据集上的实验证明了该算法在达到同等精度的情况下，比现有最先进算法至少快一个数量级。同时，研究还证明了自动数据增强在预训练方面的价值。

    Mar, 2020