AAAISep, 2020

使用单张图片生成具有对抗性但不引人注目的修补

PDF
TL;DR使用多尺度生成器和辨别器以及最小最大训练，在一个图像中生成对抗性但难以察觉的贴片，该方法在白盒和黑盒设置中均表现出强大的攻击能力，并保持物理世界中的攻击能力。
deep neural networksadversarial patchescontextual consistencyinconspicuous patchesblack-box setting
发现论文，激发创造
  • 用于欺骗移动设备图像识别系统的不显眼的对抗性贴片

    本文提出了一种生成难以察觉的对抗性贴片的方法，通过利用多尺度生成器和辨别器粗粒度到细粒度地生成对抗贴片，并在对抗训练中使其保持一致性，从而在白盒设置中展示强大的攻击能力和在黑盒设置中的卓越可转移性。与其他对抗性贴片相比，我们的对抗性贴片具有最小的被检测风险并可以逃避人类观察，这得到了显著实验结果的支持。

    Jun, 2021

  • 针对优化位置的对抗性贴片的对抗训练

    提出了一种可通过物理方式应用于图像中的明显但具有对抗性的矩形贴片，并利用对抗训练的方式来增强深度神经网络对对抗贴片的鲁棒性，这种训练不会降低网络的分类准确率。

    May, 2020

  • 通过联合区域定位和修复来防御对抗性图像贴片

    利用本文提出的 “定位和修复” 机制来处理图像输入，通过协同训练 “定位” 和 “修复” 模块，实现对各种对抗性贴片攻击的防御。

    Jul, 2023

  • 基于潜在扩散模型的自然对抗图像补丁生成方法

    最近的研究表明，深度神经网络对于对抗性攻击很容易受到攻击，而精心训练的样本或补丁可以欺骗神经网络检测器或人类视觉感知。为了解决这个问题，本文提出了一种名为潜在扩散补丁（LDP）的新型对抗性补丁方法，首先设计了一个预训练的编码器将自然图像压缩到具有关键特征的特征空间，然后使用上述特征空间训练扩散模型，最后通过图像去噪技术探索预训练扩散模型的潜在空间，通过扩散模型的强大的自然能力对补丁和图像进行改进，使它们更容易被人类视觉系统接受。实验结果在数字和物理世界中均表明，LDP 在视觉主观评分上达到了 87.3％，同时仍然保持有效的攻击能力。

    Dec, 2023

  • 揭示异常：保护图像分类免受对抗性贴纸攻击

    我们提出了一种防御机制，利用聚类技术 DBSCAN 来分离异常图像片段，并通过三阶段流程对敌对噪声进行定位和减轻，进而中和其效果。该防御机制在多个模型和数据集上验证，证明其在对抗性贴片攻击中的有效性，显著提高了准确性。

    Feb, 2024

  • 欺骗自动监控摄像机：对抗性贴片攻击人员检测

    本文介绍了一种针对具有高度内类变异的待攻击目标，即人体，生成对抗贴片的方法，并且通过实验表明，我们的系统能显著降低人体检测器的准确性，同时还在实际场景中能够进行攻击。

    Apr, 2019

  • Adversarial Patch 的生成与应用：基于注意力引导特征融合的自然与可迁移性

    通过 Adv-Inpainting 框架生成更具迁移性和视觉质量的自然对抗性贴片，从而改进了先前的对抗性贴片攻击方法。

    Aug, 2023

  • 生成逼真的对抗补丁

    深度神经网络容易受到各种类型的对抗性样本的攻击，并且现有的对抗性修补方法通常生成的修补具有无意义的噪声或图案，本研究旨在生成真实视觉效果的对抗性修补以欺骗深度神经网络。通过在真实图像的邻域内限制修补的位置，优化位置的不相关性，并采用总变差损失和伽马变换以保留信息，生成的对抗性修补具有卓越的攻击性能，并且可以伪装成物理世界中的涂鸦或标志来欺骗深度模型，给深度神经网络应用带来重大威胁。

    Dec, 2023

  • 少数派报告防御：对抗性贴片防御

    本文提出了一种基于部分遮挡图像的防御方法，可在 CIFAR-10、Fashion MNIST 和 MNIST 数据集上提供对一定大小区块攻击的安全保障。

    Apr, 2020

  • 对抗性贴片

    提出了一种在现实世界中创建通用、强健和有目标的对抗图像贴片的方法，这些贴片可以被添加到场景中以攻击任何情况的图像分类器。

    Dec, 2017