Mar, 2022

通过内部过度激活分析防御来自物理可实现的对抗性攻击

PDF
TL;DR这项研究提出了 Z-Mask，一种在卷积神经网络中提高物理可实现的对抗攻击鲁棒性的有效策略，通过特定的 Z 得分分析检测和遮盖输入图像中对应于对抗性对象的像素，其在语义分割和物体检测等任务中的表现均优于现有方法。
发现论文，激发创造
  • 一种基于掩码的对抗性防御方案

    本文介绍了一种新的基于掩码的防御策略（MAD），使用此方法可提高深度神经网络模型对低强度的输入扰动的防御能力，相比现有的防御技术该方法不需要任何附加去噪结构或对模型设计的改变，并且实验证明该方法可以对多种对抗性攻击的深度神经网络模型的防御能力提高 20% 至 90% 的分类精度。

    Apr, 2022

  • 针对语义分割的对抗补丁攻击的认证防御

    本文提出一种名为 “Demasked Smoothing” 的方法，可以通过不需要模型结构或训练上的改变，提高深度学习模型抵抗语义分割任务中新兴的对抗性贴花攻击的鲁棒性，提供了可靠的检测和恢复机制。

    Sep, 2022

  • UnMask：基于鲁棒特征对齐的对抗性检测与防御

    UnMask 是一种基于鲁棒特征对齐的对抗性检测和防御框架，能够保护深度学习模型免受对抗性攻击，并在灰盒攻击设置下检测到高达 96.75％ 的攻击，并以 93％的准确度正确分类出当前最强攻击之一的 PGD 制造的对抗性图像

    Feb, 2020

  • 通过对抗语义蒙版实现难以察觉的人脸伪造攻击

    提出了一种具有良好迁移性和隐蔽性的对抗语义掩码攻击框架 (ASMA)，该框架使用了语义掩码来生成具有局部语义区域中的扰动的对抗样本，并通过自适应语义掩码选择策略提高了攻击的迁移性和隐蔽性。与其他对抗攻击方法相比，该方法在公共人脸伪造数据集上具有卓越的性能。

    Jun, 2024

  • 隐秘的物理面部伪装识别攻击通过对抗性样式优化

    本研究提出了一种对深度学习人脸识别模型进行针对性攻击的新型隐蔽物理掩码攻击方法，通过对抗性风格优化，在风格掩码内隐藏对抗扰动，实现了强大而隐蔽的对抗风格掩码生成，通过广泛的实验验证了该方法的有效性和可移植性。

    Sep, 2023

  • 遮盖对抗损伤：寻找稳健、稀疏网络的对抗显著性

    深度神经网络中的对抗样本会引起弱可靠性和潜在安全问题。为了解决对抗鲁棒性和模型压缩之间的问题，我们提出了一种基于对抗损失的二阶信息的新对抗剪枝方法，称为 MAD。通过在三个公共数据集上进行的广泛实验，我们证明了 MAD 有效地剪枝了对抗训练的网络，而不会失去其对抗鲁棒性，并显示出比以前的对抗剪枝方法更好的性能。

    Apr, 2022

  • 自主驾驶实时语义分割模型的现实世界的对抗鲁棒性

    该研究评估并提出改进方法，以提高当受到数字、模拟和实际的对抗性补丁攻击时，对语义分割模型的稳健性。研究结果表明，尽管对抗效果在数字和真实攻击中可见，但其影响通常局限于图像周围的补丁区域，这就打开了进一步探讨实时语义分割模型的空间鲁棒性的问题。

    Jan, 2022

  • 可学习的局部掩模提升对抗迁移能力

    本文提出了一种基于可学习掩模和差分进化算法的预处理方法，通过裁剪模型特定区域以提高泛化性和对抗迁移性，可以进一步提高现有方法的攻击成功率，同时提供了在 Imagenet 数据集上的实验支持。

    Jun, 2023

  • 对抗变焦镜头：一种新型实体世界攻击 DNNs

    本研究介绍了一种名为 Adversarial Zoom Lens（AdvZL）的新型物理对抗攻击技术，使用变焦镜头对物理世界中的图像进行缩放，从而欺骗深度神经网络，同时不会改变目标对象的特征。通过数字环境和物理环境的实验证明了该方法的有效性，并提出了对抗训练的防御建议。还探讨了该方法对未来自动驾驶的威胁可能性以及类似所提出攻击的变种威胁思路。

    Jun, 2022

  • ScaleCert：具有稀疏浅层的可扩展认证抵御对抗性补丁

    提出在高分辨率图像上实现高可证明鲁棒性的认证防御方法，减少敌对区域的搜索开销和过滤预测噪声，从而通过利用重要神经元的本地化性质增强了认证准确性。

    Oct, 2021