May, 2019

在线超参数学习用于自动增强策略

PDF
TL;DR本文介绍了使用 Online Hyper-parameter Learning for Auto-Augmentation 解决基于离线搜索增广策略所存在的高昂成本问题。在 CIFAR-10 和 ImageNet 数据集上，我们的方法取得了显著的准确率提高，并且速度分别比现有方法快了 60 倍和 24 倍，同时保持了有竞争力的准确性。
data augmentationdeep learningonline hyper-parameter learningauto-augmentationparameterized probability distribution
发现论文，激发创造
  • 使用在线双层优化学习图像分类数据增强

    本研究提出了一种用双层优化训练网络的方法，以自动学习有效的数据增强转换的分布，从而提高其泛化性能并与分类器等模型联合训练，实现数据增强的最优化，相较于手工优化方式，本方法在图像分类准确性上表现更好同时无需昂贵的数据增强超参数外部验证循环。

    Jun, 2020

  • AutoAugment: 从数据中学习增强策略

    本文介绍了一种自动搜索图像数据增强策略，使用神经网络在目标数据集上产生最高准确性，并在 CIFAR-10，CIFAR-100，SVHN 和 ImageNet 数据集上实现了最先进的准确性，同时找到的增强策略可在不同数据集间转移学习。

    May, 2018

  • 使用反向传播学习增强策略的更快自动增强

    本文提出了一种可微分的策略搜索方法，用于数据增强，该方法比之前的方法更快，使用的是离散参数变换的近似梯度和可分辨操作选择机制。我们的方法通过最小化增强数据与原始数据之间的分布距离来优化，比之前的工作实现了显著更快的搜索，而不会出现性能下降。

    Nov, 2019

  • OnlineAugment：基于较少领域知识的在线数据增强

    提供了一个相互正交的在线数据增强方案，同时介绍了三个新的数据增强网络和针对目标学习任务的联合训练。该方案具有更高的效率、更高的适应性和更少的领域知识要求。与当前现有的离线增强方法相比，在与这些方法相结合的情况下，该方案取得了改进，并单独表现与最先进的方法相媲美。

    Jul, 2020

  • 快速自动增强

    本文提出了一种名为 Fast AutoAugment 的算法，通过基于密度匹配的更高效的搜索策略找到有效的数据扩充策略，相比于 AutoAugment，该算法在各种模型和数据集上加速了搜索时间，并实现了可比较的图像识别性能。

    May, 2019

  • 对抗自动数据增强

    通过使用对抗性方法，Adversarial AutoAugment 能够通过同时优化目标相关对象和数据增强策略搜索损失，以便更快且更有效率地完成深度神经网络的训练及图像分类任务，从而将计算成本减少 12 倍，时间开销减少 11 倍，达到了最佳的实验成果。

    Dec, 2019

  • LA3: 高效的标签感知自动增强

    该论文提出了一种名为 Label-Aware AutoAugment（LA3）的新型两阶段数据增强算法，它利用标签信息，分别为不同标签的样本学习增强策略。 LA3 的两个学习阶段分别评估并排名每个标签的单个增强方法，并从一些有效的和互补的增强中构建组合增强策略，从而提高了算法的性能在 CIFAR-10 和 CIFAR-100 上表现出与现有方法相匹配或超越的良好性能，并在 ResNet-50 上实现了 ImageNet 新的最高精度 79.97％，同时保持低计算成本。

    Apr, 2023

  • 深层 AutoAugment

    Deep AutoAugment 提供了一种全自动的数据增强搜索方法，通过高效的搜索方法可制定高效的数据增强策略，获得了强大的性能表现。

    Mar, 2022

  • 数据增强策略和网络结构的联合搜索

    本文提出了一种联合优化模型，实现了数据增强策略和神经网络架构的端到端优化，以实现自动化神经网络训练。实验结果显示，本方法的性能优于独立搜索的结果。

    Dec, 2020

  • AutoDO: 基于可扩展概率隐式微分的鲁棒性标准化数据自适应增强方法

    AutoDO 可用于深度学习模型的自动数据扩充，通过对损失权重、软标签等超参数进行联合估计来最小化测试数据和失真的训练数据之间的分布偏移，实现了偏差数据和标签噪音下的机器学习模型优化，相较于之前的方法，有着多达 9.3% 的准确度提升，并且在 SVHN 分类优化上达到了 36.6% 的增益。

    Mar, 2021