ICMLJul, 2020

数据增强的潜力：领域泛化的视角

PDF
TL;DR探索数据增强提高模型泛化效果的方法，从领域泛化的角度出发，揭示目前最先进数据增强方法的局限性，并探讨优化方法。结果表明，即使使用最好的数据增强技术，在训练时使用的扭曲操作也不能提供足够的鲁棒性，这表明了增强示例的未被开发的潜力。
data augmentationgeneralization accuracydomain generalizationoverfittingrobustness
发现论文，激发创造
  • 选择数据增强以模拟干预措施

    本文从因果研究的角度出发，探讨了领域内数据缺失的问题，并提出用数据扩增方法进行干预，以此来解决数据的缺失问题。同时，本文通过理论和实证分析发现，相比其他数据扩增方法，干预模型的数据扩增方法能够更有效地提高模型的泛化性能。

    May, 2020

  • 重新思考领域泛化基线

    本文针对深度学习部署时出现的不稳定问题，研究了领域泛化方法和数据增强策略。作者聚焦于风格迁移数据增强，展示了如何以简便廉价的策略实现增强，分析了现有领域泛化方法与该策略结合时的表现，并提出了新的领域泛化研究方向。

    Jan, 2021

  • 跨领域特征增强的域泛化

    领域泛化通过提高模型的鲁棒性来开发具有分布偏移上的稳定性的模型。现有方法在跨域数据上学习不变性以增强模型的稳健性，数据增强被广泛用于学习不变的预测模型，其中大多数方法在输入空间进行增强。然而，输入空间的增强的多样性有限，而特征空间的增强更加灵活且显示了有希望的结果。然而，特征语义很少被考虑，现有特征增强方法缺乏增强特征的多样性。我们将特征分解为类通用、类特定、领域通用和领域特定组件。我们提出了一种名为 XDomainMix 的跨域特征增强方法，使我们能够增加样本的多样性，同时强调学习不变表示以实现领域泛化。对广泛使用的基准数据集的实验证明我们的方法能够实现最先进的性能。定量分析表明我们的特征增强方法有助于学习在不同领域中都不变的有效模型。

    May, 2024

  • 将监督领域泛化融入数据增强

    通过将数据增强作为监督领域泛化问题，并利用对比语义对齐损失方法，提高数据增强的鲁棒性和训练效率。实验证明，该方法改善了典型数据增强的鲁棒性和训练效率。

    Oct, 2023

  • 学习为数据增强编写领域特定变换

    利用生成对抗算法学习序列模型来自动生成数据增强方法，有效提高图片和文本数据集的识别准确度。

    Sep, 2017

  • 数据增强再探讨：重新审视干净数据和扩充数据之间的分布差距

    利用数据增强作为正则化方式，我们从解析角度重新考虑了数据增强在深度神经网络中的泛化问题，并发现它显著降低了模型泛化误差，但同时也导致略微增加了经验风险。使用较少的数据对完整增强的数据进行训练能够帮助模型更好地收敛于更好的区域，从而进一步提高准确性。

    Sep, 2019

  • 通过排除极端增强技术实现领域泛化

    在非领域内和领域泛化设置中，通过使用均匀采样的标准数据增强转换，增加转换的强度以适应领域外的更高数据差异，并设计新的奖励函数来拒绝可能损害训练的极端转换，我们的数据增强方案达到与基准领域泛化数据集上的最先进方法相媲美甚至更好的准确性。

    Oct, 2023

  • 预测你将学到什么：非平稳环境下领域泛化的数据增强

    本文提出了一种新的演化域广义化方法，即 Directional Domain Augmentation (DDA)，并采用表示空间中的元学习方法解决了双层优化问题，该方法在合成数据集和现实世界数据集上进行了实际测试，并取得优于其他现有方法的结果。

    Jan, 2023

  • 文本分类数据增强调查

    本文旨在提高机器学习分类系统的泛化能力，通过对数据进行转换的方式来人工创建训练数据，从而增强数据的多样性，该文章就在「文本分类」中，对数据增强方法及其应用目标做了详细概述与分类，最终针对相关领域，提出建设性思路方向。

    Jul, 2021

  • 特征空间中的数据集增强

    该研究提出了一种基于简单转换的数据集增强方法，通过在已有数据点上进行特征空间的变换，从而促进监督和无监督学习技术在静态和序列数据上的应用。

    Feb, 2017