Oct, 2022

自然色彩的欺骗：推动黑盒无限制攻击

PDF
TL;DR本论文提出了一种新的自然色欺骗（NCF）方法，它是由公开可用数据集中采样的实际颜色分布所指导，并通过我们的邻域搜索和初始化重置进行优化，以提高对抗性示例的可转移性而不损害图像质量。
unrestricted color attacksadversarial examplesneural networksblack-box attacktransferability
发现论文，激发创造
  • 语义对抗彩色化

    本文提出一种基于图像语义的黑盒对抗攻击方法 ColorFool，可以生成无限制扰动并通过颜色选择实现隐藏，相较于其他五种方法在场景和对象分类任务中对三种深度神经网络的对抗攻击中表现出更高的成功率，对防御框架表现更强，具有更强的传递性。

    Nov, 2019

  • 一种基于几何启发的决策攻击

    该研究提出了 qFool 算法，它是一种基于决策的攻击算法，可以使用少量的查询生成对抗样本。该算法可以在减少查询数量的同时，在低频子空间中限制对抗扰动，从而使其更具计算效率。最终，该算法在商业图像识别系统中获得了欺骗效果的证明。

    Mar, 2019

  • 一种新型对抗样本

    该论文提出了一种新型对抗性攻击方法 NKE，能够在图像中添加可察觉的干扰，导致人类决策产生错误，但对于模型却维持原始决策，实验结果表明该方法能够有效地欺骗深度神经网络。

    Aug, 2022

  • 语义对抗样本

    本文提出了一种新类的对抗样本 ——“语义对抗样本”，即通过对图像进行任意扰动来欺骗模型，但修改后的图像在语义上代表的仍是原始图像，通过构建约束优化问题和基于人类认知系统的形状偏置特性的对抗变换，生成对抗图像的颜色转移极大影响了 Deep neural networks 模型精度。

    Mar, 2018

  • 隐形的贴片：自然黑盒对目标检测器的敌对攻击

    该研究提出一种基于生成对抗网络（GAN）图像流形和物理世界的无梯度攻击方法，用于生成自然物理的对抗贴片以欺骗对目标物体检测器的分类。结果表明，该方法在数字和物理场景下均有效。

    Mar, 2023

  • 针对深度学习图像分类器的感知质量保持黑盒攻击

    该研究论文介绍了如何在低失真路径上发起黑盒攻击，以提高攻击效率和敌对图像的感知质量，并在真实世界系统上进行了实验，验证了该方法在基准分类任务和生物识别及取证等关键应用中的有效性。

    Feb, 2019

  • 面向查询高效的黑盒攻击：一种无输入视角

    本文提出了一种名为 “无需输入” 的攻击方法，用于深度神经网络的对抗攻击，该方法不需要进行大量的查询，可以通过任意图像添加可以感知的扰动来生成对抗性图像。该方法通过灰度图像的初始化和局部扰动与平铺技术来显着降低了查询复杂度，并成功击败了 Clarifai 食品检测 API 和百度动物识别 API。

    Sep, 2018

  • 从白到黑：高效黑盒对抗攻击蒸馏

    本研究通过训练一个能够模拟白盒攻击行为的更高效神经网络，证明了白盒攻击优化过程所隐含的知识可以被提取并泛化，可在黑盒情况下攻击 Google Perspective API 并暴露其脆弱性，扰乱 API 的预测结果，而人类对黄金标签的预测准确率仍然很高。

    Apr, 2019

  • 通过语义操纵生成无限制对抗性样本

    通过引入语义感知扰动来生成有效和逼真的对抗性样本，该方法在复杂数据集（如 ImageNet 和 MSCOCO）上针对图像分类和图像字幕任务进行了有效应用，且经综合用户研究证明其较其他攻击更为逼真。

    Apr, 2019

  • 快速特征愚弄：一种数据无关的通用对抗扰动方法

    本文提出了一种新的数据独立方法，可生成用于对象识别训练的多个 CNN 的图像无关扰动，这些扰动显示出令人惊讶的可转移性和印迹性能，并没有要求攻击者访问训练数据。

    Jul, 2017