Apr, 2018

基于 ADMM 的深度神经网络敌对攻击通用框架

PDF
TL;DR本文采用 ADMM（Alternating Direction Method of Multipliers）的算子分裂优化方法来生成对抗样本，统一了 L0，L1，L2 和 L infinity 攻击的方法，与当前领先的攻击方法相比，实验结果表明本文的 ADMM-based methods 是迄今为止最强的，能够实现 100% 攻击成功率和最小扰动。
deep neural networksadversarial attacksadmml0 normoperator splitting optimization
发现论文，激发创造
  • 利用对抗样本的弹性网攻击对深度神经网络进行攻击

    本文利用弹性网正则化优化问题将对深度神经网络 (DNNs) 进行的对抗样本攻击的过程阐述为 $L_1$- 导向的方式，提出了 EAD 攻击，实验结果表明 EAD 可以生成一组具有小 $L_1$ 失真度的对抗样本，与 $L_2$ 攻击具有类似的攻击表现，并引领对 $L_1$ 扭曲在对抗机器学习中的新见解和 DNN 的安全关注。

    Sep, 2017

  • 利用无梯度优化和算子分裂方法设计黑盒对抗样本

    采用交替方向乘数法 (ADMM) 作为基础框架，结合零阶优化 (ZO) 和贝叶斯优化 (BO) 等技术，提出了两种新的黑匣子对抗攻击方法 ZO-ADMM 和 BO-ADMM，用于各种扭曲度量和反馈设置，相较于现有攻击方法，该方法能够以较低的查询复杂度取得更高的攻击成功率。在图像分类数据集上进行的实证研究证明了该方法的有效性。

    Jul, 2019

  • 基于感知度量的任务通用性对抗攻击

    提出一种基于永续度量的方法，通过创造高度扭曲网络特征空间的攻击来达到高度通用的敌对样本，旨在打破相对有限的目前攻击的限制，并可将其通过多个网络扩展到多个任务。

    Nov, 2018

  • 结构性对抗攻击：向通用实现和更好的可解释性迈进

    本文提出一种名为 StrAttack 的结构化攻击模型，通过滑动掩模来提取关键的空间结构并具有更好的可解释性，该模型能够实现与现有攻击方法相同水平的 Lp 范数失真的强组稀疏化。实验证明 StrAttack 在 MNIST、CIFAR-10 和 ImageNet 数据集上的攻击效果是有效的。

    Aug, 2018

  • NATTACK：学习对深度神经网络实施更有效的黑盒攻击的对抗样本分布

    本文提出一种黑盒对抗攻击算法，通过在输入的小区域内查找概率密度分布，不需要访问 DNN 的内部层或权重，实现了成功攻击不同神经网络的目标。此方法表现出色，可用于测试防御技术。结果表明，对抗训练仍然是最佳的防御技术之一。

    May, 2019

  • 深度神经网络对未知对抗攻击的健壮性评估

    通过分析正常和对抗攻击样本的深度神经网络表示之间的差异，研究了对抗攻击的鲁棒性和现有防御机制的普适性，并揭示了 L2 和 Linfinity 范数之间的显著差异。

    Aug, 2023

  • CAAD 2018: 迭代性集成对抗攻击

    本文提出了一种针对图像分类器集合的迭代式对抗攻击方法，通过此方法，在 CAAD 2018 针对性对抗攻击竞赛中获得第五名，该方法提高了黑匣子对抗攻击的成功率。

    Nov, 2018

  • 基于 $L_1$ 的对抗样本攻击 Madry 防御模型

    研究通过实验结果证明，通过放宽对 L-infinity 约束条件，深度神经网络的弹性网络（EAD）可以构建可传递的对抗样本，这些样本具有最小的视觉失真度。这些结果对于通过最小化 L-infinity 距离来评价对抗性攻击的视觉失真度的有效性提出了质疑，并进一步展示了 EAD 的强大能力。

    Oct, 2017

  • 快速自适应边界攻击生成最小扭曲的对抗样本

    本文提出了一种新的基于 $l_p$-norms 的白盒对抗攻击方法，通过最小化扰动的大小来改变特定输入的类别，这个方法具有几何直观性，是一种性能优越的攻击方法，比专门针对一个 $l_p$-norm 的攻击方法具有更好的鲁棒性，并且可以解决梯度掩盖的问题。

    Jul, 2019

  • DLA: 密集层分析用于对抗样本检测

    本文介绍了一种新的端到端框架来检测深度神经网络中可能存在的对抗样本，采用神经元覆盖率引导测试来分析 DNN 的密集层激活模式，以实现实时检测，能够覆盖各种类型的 DNN 架构，包括 LSTM，防御了最先进的攻击，同时提供确保无法轻易绕过的白盒自适应攻击。

    Nov, 2019