无限制对抗样本的细粒度合成

Nov, 2019

Fine-grained Synthesis of Unrestricted Adversarial Examples

Omid Poursaeed, Tianxing Jiang, Yordanos Goshu, Harry Yang, Serge Belongie...

TL;DR本文提出一种新的方法，通过操作图像生成的细节方面生成无限制的对抗性样本，使用最新的生成模型学习样式和随机修改，可用于分类、语义分割和物体检测模型的有目标和非有目标的无限制攻击，并在保证人类可分辨度的前提下，能够成功地规避经认证的防御措施，同时证明在仅使用原有模型结构的情况下，本文的对抗训练方法在增进原有模型在干净图像上表现方面也有很大提升。

Abstract

We propose a novel approach for generating unrestricted adversarial examples by manipulating fine-grained aspects of image generation. Unlike existing unrestricted attacks that typically hand-craft geometric tran

adversarial examples unrestricted attacks generative models certified defenses adversarial training

发现论文，激发创造

使用生成模型构建不受限制的对抗样本

本文提出了一种新的威胁模型，即无限制敌对样本。通过条件生成模型，利用辅助分类生成对抗网络（AC-GAN）对数据进行分类，搜索潜空间并生成可能是该类别的在传统敌对攻击中被误分类的图像，证明它们确实属于该类别，并表明无限制敌对样本可以绕过传统的敌对训练和认证的攻击防御方法。

May, 2018

通过语义操纵生成无限制对抗性样本

通过引入语义感知扰动来生成有效和逼真的对抗性样本，该方法在复杂数据集（如 ImageNet 和 MSCOCO）上针对图像分类和图像字幕任务进行了有效应用，且经综合用户研究证明其较其他攻击更为逼真。

Apr, 2019

使用有限的查询和 GAN 进行无限制黑盒对抗攻击

本文通过使用 GAN 生成无约束对抗样本并在潜空间中成功操纵潜向量以欺骗分类模型，提出了一个新的方法：Latent-HSJA，该方法在黑盒设置中只能访问分类模型的前 k 项决策，是对少量查询的分类模型强度评估的有效方法。

Aug, 2022

生成对抗扰动

该研究提出了新型生成模型，用于制造近似自然图像但又能欺骗先前训练好的模型的略微扰动的对抗性样本。通过在具有挑战性的高分辨率数据集上的实验，它证明了这种扰动具有高弄虚率和较小的扰动规模，并且比当前的迭代方法更快。

Dec, 2017

利用对抗样本进行偏见缓解和准确性增强

利用对抗生成和微调的新方法来减轻计算机视觉模型中的偏见，通过使用欺骗深度神经网络但不欺骗人类的对抗图像作为反事实进行公正模型训练，通过 qualitatively 和 quantitatively 的评估证明了相比于现有方法，我们的方法实现了改进的偏见减轻和准确性。

Apr, 2024

基于内容的无限制对抗攻击

该论文提出了一种基于内容的无限制对抗攻击框架，通过利用表示自然图像的低维流形将图像映射到该流形并优化其沿着其对抗方向以实现对抗攻击，实现了基于稳定扩散的对抗内容攻击，可生成具有多种对抗内容的高度可转移的无限制对抗样例。

May, 2023

现实有多真实？一种无限制对抗样本的人类评估框架

通过对图像领域的方法进行调查，我们注意到对所提议的图像修改进行人类评估的需求。基于现有的图像生成质量人类评估框架，我们提出了 SCOOTER - 一种用于无限制图像攻击的评估框架。它为研究人员提供了进行具有统计意义的人类实验的指南，标准化问题以及可直接使用的实现。我们提出了一种框架，允许研究人员分析他们的无限制攻击是否真正不可察觉。

Apr, 2024

对抗样式增强用于领域泛化城市场景分割

本文提出 Adversarial Style Augmentation 方法来解决语义分割中的领域通用性问题，其通过在训练过程中动态生成样式强化的图像，以有效地避免模型过度拟合于源域，并且在两个合成 - 真实语义分割基准测试数据集上进行实验，结果显示 Adversarial Style Augmentation 可以显着提高模型在未见真实域上的性能。

Jul, 2022

语义对抗样本

本文提出了一种新类的对抗样本 ——“语义对抗样本”，即通过对图像进行任意扰动来欺骗模型，但修改后的图像在语义上代表的仍是原始图像，通过构建约束优化问题和基于人类认知系统的形状偏置特性的对抗变换，生成对抗图像的颜色转移极大影响了 Deep neural networks 模型精度。

Mar, 2018

基于特征空间的对抗攻击

本文提出了一种新的对抗攻击方法，通过扰动表示样式的抽象特征，包括可解释和不可解释的风格，诸如鲜艳色彩和锐利轮廓等，通过优化程序注入难以察觉的风格变化，实现深度神经网络模型误分类，我们展示了该方法产生的对抗样本比现有的非受限制攻击更加自然，并支持现有的像素空间的对抗攻击检测和防御技术难以在风格相关特征空间中保证模型的鲁棒性。

Apr, 2020