Mar, 2023

面向模态连通性的鲁棒性对抗防御：增强神经网络抵御多样化的Lp攻击

HTML
PDF
TL;DR提出了一种新的强鲁棒性深度神经网络设计方法，称为Robust Mode Connectivity（RMC），通过人群学习技术搜索预训练的神经网络结构，以提高神经网络对多种样本攻击的鲁棒性。
发现论文，激发创造
  • 多扰动下的对抗训练和鲁棒性

    针对对抗样本的防御，如对抗训练，通常针对单个干扰类型（例如小的l∞-噪声），对于其它类型的干扰，这些防御没有保障，甚至会增加模型的脆弱性。我们的目标是了解这种鲁棒性取舍背后的原因，并训练同时对多种扰动类型具有鲁棒性的模型。

    Apr, 2019

  • 多扰动模型联合的对抗鲁棒性

    本研究提出了一种基于PGD-based的方法，该方法融合多种扰动模型来提高深度学习系统的鲁棒性，并在MNIST和CIFAR10数据集上进行了测试。

    Sep, 2019

  • 一组不同参数攻击的集成用于可靠评估对抗鲁棒性

    本文提出两个方法以提高PGD攻击的效率，进而结合现有方法构成一个全新的攻击集合，用于测试对抗鲁棒性，并在50多个模型上进行了测试，发现一些已经被攻破的防御机制。

    Mar, 2020

  • 丢失景观和对抗鲁棒性中的桥接模式连接

    本文提出使用模态连通性来研究深度神经网络的对抗鲁棒性，并提供了提高对抗鲁棒性的新方法。实验结果表明，使用少量的真实数据学习到的路径连接可以有效地减轻对抗攻击的影响，同时在干净数据上保持原有的准确性。同时，该研究还使用模态连通性来对比分析正常模型和鲁棒模型的损失，在对抗鲁棒性损失的路径上存在壁垒，该损失与输入 Hessian 矩阵的最大特征值之间存在高度相关性。

    Apr, 2020

  • 一个标准的对抗鲁棒性基准测试RobustBench

    为了建立标准化的对抗性鲁棒性基准，我们考虑了图片分类任务，并引入了允许的模型限制，使用 AutoAttack 进行评估，同时提供80多种鲁棒模型的开源库，分析了鲁棒性对分布偏移、平滑性等性能的影响。

    Oct, 2020

  • 通过通道级激活抑制来提高对抗性鲁棒性

    本文从渠道角度分析对抗 perturbations 特性，提出了一种基于通道的抑制策略 (CAS) 用于训练一个本质上抑制对抗激活的模型，进一步改善现有防御方法的鲁棒性。

    Mar, 2021

  • 加强对抗性容错性评估的置信度

    该研究提出了一种测试方法以识别弱攻击和防御评估，为了增强透明和信心，将攻击单元测试作为未来强度评估的重要组成部分。

    Jun, 2022

  • 神经进化方法的对抗鲁棒性评估

    本文针对CIFAR-10图像分类任务，评估两种著名的神经进化算法（DENSER和NSGA-Net）找到的模型的对抗鲁棒性，结果表明，当这些模型遭受迭代攻击时，它们的精度通常会降至或接近零，而DENSER模型则对L2威胁模型表现出一定的抵御力，同时观察发现，对输入数据进行的一些预处理技术可能会加剧扰动，从而危害网络的性能。因此，自动设计网络时不应忽视这种影响，尤其是在容易受到对抗攻击的应用程序中。

    Jul, 2022

  • 探索对抗前沿：通过对抗超体积量化健壮性

    通过提出一种新的测量指标——对抗超体积（adversarial hypervolume），该研究验证了该指标对于揭示深度学习模型鲁棒性中微妙差异的有效性，为当前和未来的防御模型的韧性评估和基准制定提供了标准。

    Mar, 2024

  • 深度对抗防御多级-Lp攻击

    本文介绍了一种名为高效鲁棒模型连通性（EMRC）的计算高效的多级lp防御方法，旨在增强深度学习模型对多种lp范数攻击的鲁棒性，并通过实验证明该方法在各种攻击中相对于AT-l∞、E-AT和MSD更具性能优势。

    Jul, 2024