CVPRNov, 2019

基于感知色彩距离的大规模不可察觉对抗图像扰动

PDF
TL;DR通过以人类色彩知觉为基础的感知色距离来减小图像干扰，以提高对抗性和视觉不可察觉性，在对比 $L_p$ 距离的基础上，创造出两种以感知色距离为基础（PerC-C&W 和 PerC-AL）的图像干扰方式，并证明这种方法在稳健性和可转移性方面优于传统方式。
image perturbationsadversarial effectvisual imperceptibilityperceptual color distancerobustness
发现论文，激发创造
  • 感知空间中的空间变换对抗性图像生成

    基于感知色彩空间和空间变换的对抗例子生成方法具有高置信度和有利的近似感知距离结果。

    Oct, 2023

  • 攻击感知相似度度量

    本研究系统地研究了感知相似度测量方法在面临不可察觉的对抗扰动时的鲁棒性，发现广泛采用的 LPIPS 指标也容易受到空间变换的对抗扰动的攻击，这表明对抗性样本的问题需要被深入探究。

    May, 2023

  • 语义对抗彩色化

    本文提出一种基于图像语义的黑盒对抗攻击方法 ColorFool，可以生成无限制扰动并通过颜色选择实现隐藏，相较于其他五种方法在场景和对象分类任务中对三种深度神经网络的对抗攻击中表现出更高的成功率，对防御框架表现更强，具有更强的传递性。

    Nov, 2019

  • 量化敌对样本的感知失真

    通过引入感知度量标准，提出一种新的对抗攻击威胁模型，探究不同攻击样式之间的融合以及在此基础上进行对抗训练，从而实现在保持感知扭曲度不变的情况下取得更高的误分类率。

    Feb, 2019

  • 空间变换对抗样本

    本文研究深度神经网络中的对抗样本问题，提出了一种新的扰动方法：利用空间变换生成对抗性样本以增强样本的感知逼真度，证明这种方法在现有防御系统方面更加具有挑战性，并通过可视化技术研究神经网络对不同类型对抗样本的感知。

    Jan, 2018

  • 面向不可察觉和可迁移对抗攻击的扩散模型

    论文介绍一种新型的对抗攻击方法 DiffAttack，该方法利用扩散模型的生成和判别能力，在隐空间中生成人类感知不到的、带有语义线索的扰动，并采用内容保持结构。考虑到攻击的传递性，DiffAttack 进一步 “欺骗” 扩散模型，以分散其注意力，达到更好的转移性能，实验结果表明，DiffAttack 在各种模型结构和防御方法下具有更高的攻击成功率。

    May, 2023

  • 难以感知对抗图像扰动的反向工程

    该研究旨在研究如何从对手的图像中逆向工程出对手干扰， 并提出了一个新的逆向工程欺骗（RED）方法，其中结合了 RED 原则和图像去噪方法，称为 CDD-RED，以增加其泛化能力，对多种攻击方法均具有效性。

    Mar, 2022

  • 基于频率的语义相似性不可察觉对抗攻击

    通过在特征表示上进行对抗攻击，使用语义相似性对分类器进行攻击，同时使用低频率约束，保证对抗样本和原始样本的感官相似性和跨数据集泛化。

    Mar, 2022

  • 区域性图像扰动能够降低 $L_p$ 范数的对抗样本，同时保持模型对模型的可转移性

    本研究通过使用交叉熵符号等简单方法，生成有效的区域性对抗扰动，这些局部攻击可能比非本地对抗例子需要更少的扰动，从而潜在地破坏了在 $L_p$ 范数下具有稳健性的防御。

    Jul, 2020

  • 使用知觉球上的对抗扰动解释分类器

    本文提出了一种基于视觉损失的对敌对扰动的简单正则化方法，用于解释图像分类器中的图像分类。这种半稀疏的扰动可以突出对象和感兴趣区域，使其与背景明显不同。通过在多个可解释性基准测试中进行评估，包括局部化、插入删除和指向游戏，证明了感知正则化反事实是图像分类器的有效解释。

    Dec, 2019