Jun, 2022

认证的免费对抗鲁棒性

PDF
TL;DR本文介绍了一个基于离线预训练模型，通过组合去噪扩散概率模型和高性能分类器等手段实现了对于 2 - 范数边界扰动的认证敌对鲁棒性，并在 ImageNet 数据集上得到了 71% 的分类准确率，显著优于之前的相关研究。
certified adversarial robustnesspretrained modelsdenoised smoothing2-norm bounded perturbationsimagenet
发现论文，激发创造
  • 随机平滑实现认证的对抗鲁棒性

    论文介绍了如何通过随机光滑化技术来提高分类器对抗扰动的鲁棒性，使用该方法得到的 ImageNet 分类器在扰动范围小于 0.5 的情况下，具有 49％的认证准确率，并且该方法在获得更高的认证准确率方面比其他方法更具优势。

    Feb, 2019

  • 通过对抗训练平滑分类器实现可证明健壮的深度学习

    本文提出使用对抗训练来提高基于随机平滑的分类器的效果，并设计一种适应平滑分类器的攻击方法，通过大量实验，得出这种方法在 ImageNet 和 CIFAR-10 上的性能显著胜过所有现有的可证明的 L2 - 强健分类器，证明了这种方法是可靠的，且半监督学习和预训练能够进一步提高其效果。

    Jun, 2019

  • 实证鲁棒性与认证鲁棒性对抗对策间的缩小

    本文介绍了一种新方法，即通过自适应实现认证，将经过对抗训练的模型转化为随机平滑分类器，在推理过程中提供 l2 范数的认证鲁棒性，同时不影响它们对抗攻击的经验鲁棒性。

    Feb, 2021

  • 去噪平滑：针对预训练分类器的可证明防御

    本文提出了一种名为 'denoised smoothing' 的方法，通过添加定制训练的去噪器和使用随机平滑，可以将现有的图像分类器转化为 Robust 分类器以防御 'adversarial attacks'，针对 ImageNet 和 CIFAR-10 数据集进行了广泛实验，并成功对 Azure，Google，AWS 和 ClarifAI 的图像分类 API 进行了 'robustness' 测试。

    Mar, 2020

  • DiffSmooth: 基于扩散模型和局部平滑的可证明鲁棒学习

    通过扩散模型实现对强健平滑模型的提高认证鲁棒性的研究，提出了一种具有针对性的扩散平滑管线 DiffSmooth，通过扩散模型进行对抗净化，然后通过简单而有效的局部平滑策略将净化后的实例映射到一个共同区域，并证明了 DiffSmooth 在不同数据集上实现了最先进的认证鲁棒性。

    Aug, 2023

  • 基于扩散模型的认证对抗性容忍度提高

    使用最先进的扩散模型生成额外的训练数据可以极大地提高敌对训练的鲁棒性，该方法同样可以明显提高确定性认证防御的鲁棒性，我们还提供了一些建议来扩展认证训练方法的鲁棒性。

    May, 2023

  • 多尺度扩散去噪平滑

    通过多尺度平滑和扩散模型，本论文研究了平滑方法的准确性和认证鲁棒性之间的平衡，以实现对大规模模型的对抗性稳健性。

    Oct, 2023

  • 可证明鲁棒性的随机平滑分类器的规则化训练和紧密认证

    本文研究了如何通过正则化风险函数以提高深度神经网络的准确性和稳健性，并提出了一种新的认证算法，能够对 CIFAR-10 和 ImageNet 数据集中的深度神经网络提供更严格的稳健性保证。

    Feb, 2020

  • 基于随机剪枝的稀疏对抗攻击鲁棒性证明

    使用基于随机平滑的 L1 和 L2 变换来保证分类器对于固定 L0 干扰大小的分类鲁棒性，并提出了一种高效且可验证的防御方法，通过使用随机消融的输入特征而非加性噪声来对抗稀疏的对抗干扰攻击，实验结果验证了其在 MNIST、ImageNet 和 CIFAR-10 上有效的性能。

    Nov, 2019

  • 扩散去噪平滑在认证和对抗鲁棒的 ODD 检测中的应用

    研究机器学习中如何确定训练分布和 ODD（Out-Of-Distribution）样本的检测机制，提出了一种基于 l2 范数的无需特定组件或训练的 ODD 鲁棒性证明的新方法以及改进了检测 ODD 攻击技巧的现有技术，在 CIFAR10 / 100 平均 OOD 检测度量方面相对于之前的方法有约 13％/ 5％的提高，并在分布内样本上提供高水平的认证和敌对鲁棒性。

    Mar, 2023