Oct, 2023

通过基于分数的对抗图像生成评估鲁棒性

PDF
TL;DR此研究介绍了基于评分的对抗生成（ScoreAG）框架，利用评分模型生成超越 $p$ 范数约束的对抗样本，既能保持图像的核心语义，又能生成逼真的对抗样本，进一步提高分类器的鲁棒性。通过广泛的实证评估，ScoreAG 在多个基准测试上与当前最先进的攻击和防御方法表现相当，强调了对抗样本在语义边界上的研究的重要性。
adversarial attacksscore-based generative modelsunrestricted adversarial examplessemanticsrobustness assessments
发现论文，激发创造
  • GREAT Score：使用生成模型对对抗扰动的全局鲁棒性进行评估

    本文提出了一个称为 GREAT Score 的新框架，用于利用生成模型对对抗扰动进行全球鲁棒性评估。该方法具有高效性、可扩展性、适用于隐私敏感的黑盒模型等多个优点。

    Apr, 2023

  • 通过基于分数的优化提高对抗鲁棒性

    我们引入了一个名为 ScoreOpt 的新的对抗防御方案，通过在测试时优化对抗样本，向原始清数据在得分优先的方向

    Jul, 2023

  • 对抗多样性与艰难正样例生成

    我们提出了一种新的心理测量感知对抗性相似性评分（PASS）方法，用于量化对抗性图像，并引入了艰难正例生成的概念，使用广泛的对抗扰动 - 而不仅仅是最接近的对抗扰动 - 进行数据增强。我们介绍了一种新颖的热 / 冷方法来生成对抗性例子，为每个单独的图像提供多个可能的对抗扰动，这些扰动通常对应于语义上有意义的图像结构，并允许更大的灵活性来缩放扰动幅度，从而产生更多样化的对抗图像。最后，我们证明了在 MNIST 和 ImageNet 数据集上通过使用我们的方法训练的深度神经网络相对于现有方法的鲁棒性更强。

    May, 2016

  • 带有目标的对抗样本的通用框架

    本文提出了一种通用方法 - 对抗生成网络（AGNs），通过训练一个生成器神经网络输出满足特定目标的对抗样本来解决扰动图像误分类的问题，并在两个应用领域进行了演示。

    Dec, 2017

  • 迈向组合性对抗性鲁棒性：将对抗性训练推广到复合语义扰动

    本文提出了一种新的生成组合对抗样本的方法和一种广义对抗训练方法，能够实现模型对多种组合语义扰动的鲁棒性，包括色调、饱和度、亮度、对比度和旋转等，并在 ImageNet 和 CIFAR-10 数据集上具有显著性能优势。

    Feb, 2022

  • 使用生成模型构建不受限制的对抗样本

    本文提出了一种新的威胁模型，即无限制敌对样本。通过条件生成模型，利用辅助分类生成对抗网络（AC-GAN）对数据进行分类，搜索潜空间并生成可能是该类别的在传统敌对攻击中被误分类的图像，证明它们确实属于该类别，并表明无限制敌对样本可以绕过传统的敌对训练和认证的攻击防御方法。

    May, 2018

  • NAG: 对抗生成网络

    本文提出了一种基于生成对抗网络的方法，通过优化骗过分类器的目标和增加多样性的目标训练生成器，从而模拟对抗性扰动的分布，生成多样的对抗性扰动，实现了在各种分类器上实现骗过率最大化，展示出了更好的通用性。

    Dec, 2017

  • 现实有多真实？一种无限制对抗样本的人类评估框架

    通过对图像领域的方法进行调查，我们注意到对所提议的图像修改进行人类评估的需求。基于现有的图像生成质量人类评估框架，我们提出了 SCOOTER - 一种用于无限制图像攻击的评估框架。它为研究人员提供了进行具有统计意义的人类实验的指南，标准化问题以及可直接使用的实现。我们提出了一种框架，允许研究人员分析他们的无限制攻击是否真正不可察觉。

    Apr, 2024

  • 通过语义操纵生成无限制对抗性样本

    通过引入语义感知扰动来生成有效和逼真的对抗性样本，该方法在复杂数据集（如 ImageNet 和 MSCOCO）上针对图像分类和图像字幕任务进行了有效应用，且经综合用户研究证明其较其他攻击更为逼真。

    Apr, 2019

  • 训练基于分数的生成模型的改进技术

    通过新的理论分析，提出了 score-based generative models 在高维空间中的学习和采样方法，并提出了维护模型权重的指数移动平均方法，从而在多个数据集上将生成对抗网络（GANs）的生成样本的质量与分辨率都超过了，如 CelebA、FFHQ 和多个 LSUN 领域的图像数据集。

    Jun, 2020