CVPRFeb, 2022

迈向组合性对抗性鲁棒性：将对抗性训练推广到复合语义扰动

PDF
TL;DR本文提出了一种新的生成组合对抗样本的方法和一种广义对抗训练方法，能够实现模型对多种组合语义扰动的鲁棒性，包括色调、饱和度、亮度、对比度和旋转等，并在 ImageNet 和 CIFAR-10 数据集上具有显著性能优势。
adversarial examplescomposite perturbationsgeneralized adversarial trainingimagenetcifar-10
发现论文，激发创造
  • 鲁棒图神经网络的频谱对抗训练

    本文提出 Spectral Adversarial Training （SAT），基于频谱分解的简单但有效的对抗训练方法，用于提高图神经网络（GNN）对抗攻击的鲁棒性，实验结果表明 SAT 显著提高了 GNN 对抗攻击的鲁棒性，而不影响分类准确性和训练效率。

    Nov, 2022

  • 通过语义操纵生成无限制对抗性样本

    通过引入语义感知扰动来生成有效和逼真的对抗性样本，该方法在复杂数据集（如 ImageNet 和 MSCOCO）上针对图像分类和图像字幕任务进行了有效应用，且经综合用户研究证明其较其他攻击更为逼真。

    Apr, 2019

  • 抵御语义保护的对抗性攻击的鲁棒深度学习模型

    本文使用语义保持的敌对攻击机制（SPA 攻击）研究了深度学习模型对联合扰动的鲁棒性，使用属性调节器生成自然可理解的扰动并使用噪声生成器生成不同敌对噪声，并结合此类扰动来生成联合扰动样本以用于深度学习模型的鲁棒性训练。实验结果表明，SPA 攻击会使性能下降，并且优于现有的防御方法。

    Apr, 2023

  • CARBEN: 组合对抗鲁棒性基准测试

    本文研究对抗攻击方法中的组合对抗攻击（CAA），对 CAA 的攻击顺序进行了研究，提供了不同模型的实时推理，并介绍了一个基准评测 CAA 的排行榜。

    Jul, 2022

  • 结构性对抗攻击：向通用实现和更好的可解释性迈进

    本文提出一种名为 StrAttack 的结构化攻击模型，通过滑动掩模来提取关键的空间结构并具有更好的可解释性，该模型能够实现与现有攻击方法相同水平的 Lp 范数失真的强组稀疏化。实验证明 StrAttack 在 MNIST、CIFAR-10 和 ImageNet 数据集上的攻击效果是有效的。

    Aug, 2018

  • 通用对抗训练提高鲁棒性和泛化性

    本文介绍一种名为生成对抗训练的方法，用于提高深度神经网络对测试集和域外样本的泛化能力，并增强其抵抗未知对抗攻击的能力。

    Sep, 2021

  • 通过使用解缠表示进行对抗混合实现野外的稳健性

    本文提出一种新的方法来达到对真实世界输入的鲁棒性，该方法利用了分解输入的表示来定义不同的变化因素，并通过对不同图像的表示进行对抗组合生成新的输入图像。我们使用 StyleGAN 模型来证明这一框架的有效性，并通过训练模型对真实世界的变化进行了不变性训练，从而改善了模型的泛化能力，并降低了冗余相关性的影响。

    Dec, 2019

  • 评估语义分割模型的对抗鲁棒性

    该研究提出了一种基于梯度的迭代攻击方法来评估在语义图像分割领域中防御对抗扰动的模型的鲁棒性，并发现只有使用对抗样本进行训练才能获得鲁棒性，并分析了鲁棒性和准确性之间的权衡。

    Jun, 2023

  • SAT: 基于课程的损失平滑改进对抗训练

    本文提出了一种平滑对抗训练方法 (SAT)，它利用课程学习的思想对对抗训练过程进行平滑处理，提高了对抗训练的稳定性并在干净精度与鲁棒性之间实现了更好的权衡，具体方法基于海森矩阵的特征值以及 softmax 概率，实验结果显示该方法在 CIFAR-100 和 Imagenette 数据集上比 AT 方法显著提升了干净度与鲁棒度。

    Mar, 2020

  • 多扰动下的对抗训练和鲁棒性

    针对对抗样本的防御，如对抗训练，通常针对单个干扰类型（例如小的 l∞- 噪声），对于其它类型的干扰，这些防御没有保障，甚至会增加模型的脆弱性。我们的目标是了解这种鲁棒性取舍背后的原因，并训练同时对多种扰动类型具有鲁棒性的模型。

    Apr, 2019