通过隐式对抗数据增强提升模型的弹性

IJCAIApr, 2024

通过隐式对抗数据增强提升模型的弹性

Boosting Model Resilience via Implicit Adversarial Data Augmentation

Xiaoling Zhou, Wei Ye, Zhemg Lee, Rui Xie, Shikun Zhang

TL;DR通过融入对抗性和反对抗性扰动分布，增强样本的深度特征，适应性调整学习困难以适应每个样本的特征。同时，开发了一种基于元学习的框架，通过引入增强的效果并跳过显式的增强过程，优化分类器。在长尾学习、广义长尾学习、嘈杂标记学习和子种群转移学习等四种常见偏差学习场景中进行了广泛实验，实证结果表明该方法始终达到最先进的性能水平，突显其广泛适应性。

Abstract

data augmentation plays a pivotal role in enhancing and diversifying training data. Nonetheless, consistently improving model performance in varied learning scenarios, especially those with inherent data biases,

data augmentation model performance adversarial perturbation meta-learning-based framework biased learning scenarios

发现论文，激发创造

朝向准确性 - 公正性困境：基于对抗样本的数据增强用于视觉去偏差

研究机器学习中的公平性问题和图像分类任务中的去偏见问题，通过使用对抗性样本进行训练数据增强来实现模型的准确性和公平性。

Jul, 2020

用最大熵对抗数据增强来提高泛化能力和鲁棒性

本文提出了基于信息瓶颈原理的最大熵正则化方法用于敌对数据增强，通过扩大模型预测不确定性来产生 “难” 的敌对扰动，提升模型鲁棒性，并在三个基准测试中实现了比现有技术显著的优越性能。

Oct, 2020

提高对抗鲁棒性的数据增强修复

本文研究对抗训练的过拟合问题，提出利用数据增强和生成模型增加训练集大小，提高对抗鲁棒性，并在 CIFAR-10 数据集上取得最新成果，其中对于 Ε=8/255 的 l∞规范扰动，模型不使用外部数据时达到 64.20％的鲁棒准确性，超过了大多数先前使用外部数据的研究成果。

Mar, 2021

通过对抗性学习实现鲁棒准确的物体检测

本文提出了一种基于敌对样本的选择性、动态并且与检测器演化相关的数据扩增方法，该方法适用于目标检测模型，能够大幅提高模型的鲁棒性和检测精度。与基于模型无关的自动增广方法相比，在不同的检测模型中，该方法表现更加广泛和稳健。

Mar, 2021

仅进行数据增强即可改善对抗训练

本文证明了，与先前的研究相反，仅凭借数据增强，可以显着提高对抗训练的准确性和鲁棒性，数据增强的多样性和难度是提高训练效果的重要因素。作者提出了新的数据增强方案，并通过实验验证，达到了对抗训练中数据增强的最佳效果。

Jan, 2023

对抗数据增强用于鲁棒的说话人验证

本文提出了一种名为对抗数据增强（A-DA）的新方法，将数据增强与对抗学习相结合，通过额外的分类器对不同类型的增强进行分类，使得网络能够生成能够欺骗分类器的说话者嵌入，从而提升模型对于增强变化的鲁棒性和泛化能力。在 VoxCeleb 和 CN-Celeb 数据集上的实验证明了我们提出的 A-DA 方法在匹配和不匹配的测试条件下均优于标准数据增强方法，展示了其对于声学变化的卓越鲁棒性和泛化能力。

Feb, 2024

对抗样本可作为无监督机器学习的有效数据增强

本研究提出一种生成无监督模型的对抗性示例的框架，使用相互信息神经估计器作为无监督信息理论相似度测量，建议使用此框架将对抗性样本作为简单的插入数据增强工具进行模型再训练，以大幅提高在不同无监督任务和数据集上的性能。

Mar, 2021

低样本图像生成的自适应特征插值

本文提出了一种新的潜在数据增强方法，利用无监督的学习方式在低数据量的情况下，针对生成模型中容易发散的问题进行了优化，实现了有效而稳定的训练，并生成了高质量的样本。实验结果显示，该方法在少样例学习生成任务中取得了很好的效果。

Dec, 2021

数据增强能提高稳健性

本文研究减轻对抗训练中的过拟合现象，使用常见的数据增强方案，证明数据增强与模型平均结合可以显著提高鲁棒性，尤其是空间组合技术的效果最佳，最终在 CIFAR-10、CIFAR-100、SVHN 和 TinyImageNet 上得到了明显的性能提升。

Nov, 2021

对抗性样本的（不）可避免性

该研究提出了一个确定深度学习模型标签更改是否合理的框架，并且定义了一个自适应的鲁棒性损失，使用导出的经验公式，开发了相应的数据增强框架和评估方法，证明了其对确定性标签下的一阶最近邻分类的维持一致性，并提供了实证评估结果。

Jun, 2021