CVPRApr, 2022

遮盖对抗损伤：寻找稳健、稀疏网络的对抗显著性

PDF
TL;DR深度神经网络中的对抗样本会引起弱可靠性和潜在安全问题。为了解决对抗鲁棒性和模型压缩之间的问题，我们提出了一种基于对抗损失的二阶信息的新对抗剪枝方法，称为 MAD。通过在三个公共数据集上进行的广泛实验，我们证明了 MAD 有效地剪枝了对抗训练的网络，而不会失去其对抗鲁棒性，并显示出比以前的对抗剪枝方法更好的性能。
adversarial examplesadversarial trainingadversarial pruningdeep neural networksmodel compression
发现论文，激发创造
  • 一种基于掩码的对抗性防御方案

    本文介绍了一种新的基于掩码的防御策略（MAD），使用此方法可提高深度神经网络模型对低强度的输入扰动的防御能力，相比现有的防御技术该方法不需要任何附加去噪结构或对模型设计的改变，并且实验证明该方法可以对多种对抗性攻击的深度神经网络模型的防御能力提高 20% 至 90% 的分类精度。

    Apr, 2022

  • 基于显著性的防御对抗样本的方法（SAD）

    本研究提出了一种基于视觉显著性的方法，用于清理受对抗性攻击影响的数据。该模型利用对抗性图像的显著区域提供有针对性的对策，并在相对减少清理后图像的损失的同时，通过评估各种指标的准确性来证明它的有效性。

    Mar, 2020

  • 无需对抗样本修剪对抗鲁棒神经网络

    该研究通过运用自蒸馏和信息瓶颈方案，提出新的神经网络剪枝框架，使其可以在保持鲁棒性的情况下压缩其大小并提高训练效率。

    Oct, 2022

  • 掩模与混淆对抗训练

    本文提出一种名为 M2AT 的方法来提高卷积神经网络（CNN）对抗攻击的鲁棒性，该方法包括掩蔽和混合对抗训练（M2AT）两个过程，其通过制造多样的对抗样本来缓解模型准确性与鲁棒性的平衡问题，并在 CIFAR-10 数据集上得到了比之前方法更好的对抗攻击鲁棒性。

    Feb, 2023

  • 压缩深度学习模型对抗鲁棒性基准测试

    对于基础模型在受挫折性输入下的修剪版本的影响进行了研究，发现在提升普适性、压缩和更快的推断时间方面，模型压缩虽然具有其独特的优势，但不会削弱对抗性鲁棒性。

    Aug, 2023

  • 通过对抗双机器学习进行因果参数估计来减轻对抗性漏洞

    本文介绍了一种因果方法 ADML，通过量化网络预测的敏感程度和影响，直接估计对抗攻击的因果参数，并在 CNN 和 Transformer 等不同架构上进行广泛实验，证明了 ADML 的优越性和可行性。

    Jul, 2023

  • 稀疏深度神经网络的改进对抗鲁棒性

    本文研究了基于深度神经网络的分类模型中稀疏性与鲁棒性之间的关系，并理论和实证分析表明，适当的模型稀疏化可以提高非线性 DNN 的鲁棒性，但过度稀疏化会使模型更难抵抗对抗性样本攻击。

    Oct, 2018

  • 自监督方法提高对抗性鲁棒性

    本文首次提出了一种自我监督的对抗训练机制，在输入空间中防御对抗性攻击，并提供极大的鲁棒性，可以作为即插即用的解决方案来保护各种视觉系统，包括分类、分割和检测，同时极大降低了未知攻击的成功率。

    Jun, 2020

  • 自适应锐度感知剪枝用于稳健稀疏网络

    应用自适应权重扰动和稳定正则的 AdaSAP 方法对深度学习模型进行剪枝，实现了具有鲁棒性的稀疏网络，该方法在分类和物体检测任务上表现出较高的准确性。

    Jun, 2023

  • 对抗鲁棒性与模型压缩，还是两者兼顾？

    本文提出了一种并发对抗训练和权重修剪的框架，可以在保持对抗鲁棒性的情况下实现模型压缩，同时解决对抗训练的困境，并进一步研究了关于传统设置下的权重修剪的两个假设。

    Mar, 2019