Sep, 2018

基于深度提议模型的强健性对抗扰动

PDF
TL;DR本文提出了一种有效的 Robust Adversarial Perturbation（R-AP）方法，通过攻击 Region Proposal Network（RPN）的普遍组件，来通用地降低深度自学习物体检测器和实例分割算法的性能，并在 MS COCO 2014 数据集上进行实验，结果表明该方法具有很高的有效性。
adversarial noisesdeep learningcomputer visionobject detectioninstance segmentation
发现论文，激发创造
  • 远程遥感图像的通用对抗扰动

    本文探讨了深度学习在遥感图像领域中的应用，尤其是在普适性对抗扰动方面的研究，并通过设计了一种新方法，可实现对遥感图像分类模型的攻击成功率高达 97.09%。

    Feb, 2022

  • 深度网络的简单黑盒对抗扰动

    研究表明，即使没有内部知识，对深度卷积神经网络进行黑盒攻击并制造对抗性样本是可行的，这暴露了深度神经网络的弱点，为设计安全的网络提供了检验。

    Dec, 2016

  • 深度学习模型的鲁棒性物理攻击

    该研究介绍了一种通用的攻击算法，RP2，用于在不同的物理条件下产生强大的视觉对抗扰动，以及一种用于评估物理对抗性的两阶段评估方法，通过黑白贴纸形式的扰动对真实的红绿灯进行攻击，在实验室测试和场地测试结果分别达到 100% 和 84.8% 的目标分类器的误分率。

    Jul, 2017

  • 通过对抗性噪声传播训练强大的深度神经网络

    本篇论文提出了一种名为 Adversarial Noise Propagation 的训练算法，将噪声注入隐藏层以提高深度模型的鲁棒性，并证明不同的隐藏层对模型鲁棒性和整洁的准确性有不同的贡献。该算法可有效地与其他对抗性训练方法相结合，进一步提高模型的鲁棒性。在 MNIST、CIFAR-10、CIFAR-10-C、CIFAR-10-P 和 ImageNet 上的广泛实验表明，ANP 实现了深度模型对对抗性和受损数据均具有强大的鲁棒性，并明显优于各种对抗性防御方法。

    Sep, 2019

  • 对抗智能意识强鲁棒性目标检测器

    本文介绍了一种基于对抗神经网络（Adversarial Neural Network）的 Robust Detector，采用了 Adversarial Image Discriminator 和 Consistent Features with Reconstruction 等方法，大大提高了在 PASCAL VOC 和 MS-COCO 数据集上物体检测模型在对抗干扰下的鲁棒性。

    Jul, 2022

  • 对抗通用扰动防御

    本文提出了一个 Perturbation Rectifying Network (PRN) 框架，通过学习实际和合成的图像通用扰动，和在 PRN 的输入和输出差异的离散余弦变换上独立训练的检测器，从而有效地保护深度学习网络免受任何图像的通用对抗性扰动的影响。

    Nov, 2017

  • 文本对抗防御的反应性摄动去焦

    利用 Reactive Perturbation Defocusing 的方法来降低基于大型预训练语言模型的恶意攻击，在保证对自然样本性能影响最小的基础上，成功修复了高达 97% 的对抗样本，并提供了基于我们工作的对抗性检测和修复的演示。

    May, 2023

  • 改进糖尿病视网膜病变检测的通用对抗性框架

    通过使用通用对抗扰动来评估医学深度神经网络对糖尿病视网膜病变（DR）的检测的脆弱性，并使用通用对抗扰动对已训练模型进行微调以抵御对抗样本，提升了平均 3.41 Cohen-kappa 值和最大 31.92 Cohen-kappa 值的性能。

    Dec, 2023

  • ROSA: 对抗攻击下的强鲁棒显著目标检测

    本文提出了一种新的针对 FCN-based 显著对象检测模型的对抗攻击防御框架，其采用一些新的通用噪声来破坏对抗扰动，然后学习使用引入的噪声预测输入图像的显著性地图。实验结果表明我们的提出的方法显著地提高了一系列数据集上最先进模型的性能。

    May, 2019

  • 生成对抗扰动

    该研究提出了新型生成模型，用于制造近似自然图像但又能欺骗先前训练好的模型的略微扰动的对抗性样本。通过在具有挑战性的高分辨率数据集上的实验，它证明了这种扰动具有高弄虚率和较小的扰动规模，并且比当前的迭代方法更快。

    Dec, 2017