CVPRNov, 2018

SparseFool：少数像素造成的巨大差异

PDF
TL;DR本文提出了一种基于几何学思想、利用决策边界低平滑性的攻击方法 SparseFool，能快速计算稀疏扰动，并且经过充分的评估，发现该方法能在高维数据中高效地尺度化，对视觉效果具有一定的可转移性，同时对稀疏加性扰动具有较好的鲁棒性，与对抗训练相比仅能有微小的改进。
deep neural networksadversarial attackssparsefooldecision boundaryrobustness
发现论文，激发创造
  • GreedyFool: 失真感知稀疏对抗攻击

    我们提出了一种新的基于贪婪算法的两阶段畸变感知方法 GreedyFool，实验结果表明，相比于现有方法，我们只需要在相同的稀疏扰动设置下修改 3 倍少的像素，对于目标攻击而言，我们的方法比现有方法在相同像素预算下成功率高出 9.96%。

    Oct, 2020

  • 稀疏且不易察觉的对抗攻击

    本文提出了一种基于黑盒技术的新型对抗样本攻击方法，针对原始图像最小化 l0 距离。实验证明，该攻击方法优于或与现有技术相当。同时，我们可引入部件约束来提高分类器对稀疏和不可察觉的对抗性操纵的鲁棒性。

    Sep, 2019

  • DeepFool：欺骗深度神经网络的一种简单而准确的方法

    本文提出了 DeepFool 算法，通过欺骗深度神经网络来计算对其进行扰动的鲁棒性，从而比现有方法更好地计算对抗扰动和提高分类器的鲁棒性。

    Nov, 2015

  • 稀疏编码前端用于鲁棒神经网络

    该研究提出了一种基于稀疏编码的前端防御方法，该方法在 CIFAR-10 数据集上的实验结果表明，相较于其它对抗训练方法，该方法对 Linf、L2 和 L1 攻击的抵御效果更好。

    Apr, 2021

  • 稀疏深度神经网络的改进对抗鲁棒性

    本文研究了基于深度神经网络的分类模型中稀疏性与鲁棒性之间的关系，并理论和实证分析表明，适当的模型稀疏化可以提高非线性 DNN 的鲁棒性，但过度稀疏化会使模型更难抵抗对抗性样本攻击。

    Oct, 2018

  • AutoAdversary：一种用于稀疏对抗攻击的像素修剪方法

    本文从神经网络剪枝的角度提出了一种名为 AutoAdversary 的端到端稀疏对抗攻击方法，该方法利用可训练的神经网络自动选择关键像素并生成二进制掩码进行对抗扰动，实验证明其在图像大小增加时不会明显减速且具有优秀的攻击效果。

    Mar, 2022

  • 图像分类器的鲁棒性和不变性属性

    本文研究了深度神经网络在噪声环境中的鲁棒性和不变性，提出了快速计算稀疏对抗扰动和数据增强方法，与数据之间的特征联系起来，以实现更可靠的机器学习系统。

    Aug, 2022

  • 针对黑盒深度学习模型的高效决策稀疏攻击

    本文针对深度学习模型的脆弱性与展开的攻击方式，研究了基于模型决策的稀疏攻击，提出了 SparseEvo 算法，并将其应用于卷积深度神经网络和视觉 Transformer 等模型上进行评估。SparseEvo 与之前的算法相比具有更高的攻击效率，但仍需要进一步探究，以增强模型安全性。

    Jan, 2022

  • 稀疏且可转移的通用奇异向量攻击

    通过截断幂迭代提供隐层雅可比矩阵的 $(p,q)$- 奇异向量的稀疏通用白盒对抗攻击，我们的方法在不同设置下使用 ImageNet 验证子集进行了分析，在仅破坏 5% 的像素并使用 256 个样本用于扰动拟合的情况下，取得了与稠密基线可比的超过 50% 欺骗率的结果。我们还展示了我们的算法允许更高的攻击强度而不影响人类解决任务的能力。此外，我们发现所构建的扰动在不同模型之间具有很高的可转移性，而不会显著降低欺骗率。我们的发现证明了最先进模型对稀疏攻击的脆弱性，并凸显了开发强大的机器学习系统的重要性。

    Jan, 2024

  • 人脸识别领域中卷积神经网络的对抗性攻击

    本文以 Fast Gradient Sign Method 为基础，对面部图像数据集进行扰动，测试不同黑盒攻击算法的鲁棒性，并重点研究修改单个最佳像素或所有像素的攻击方法。研究结果表明，所有像素攻击方法能使分类器置信度平均下降至 84％，且 81.6％的误分类率，但这些图像始终可以被人类识别。该研究可为防御性对抗攻击、自适应噪声降低技术等方面的 DNNs 训练和研究提供宝贵的参考。

    Jan, 2020