ICLRNov, 2020

近乎紧致 L0 范数认证的 top-k 预测对抗扰动的稳健性

PDF
TL;DR本文介绍的方法，基于随机平滑技术，能够对 top-k 预测模型对 $\ell_0$-norm 对抗扰动具有几乎紧密的保证，并在 ImageNet 数据集上验证了该方法的有效性。
top-k predictions$\ell_0$-norm adversarial perturbationcertifying robustnessrandomized smoothingimagenet
发现论文，激发创造
  • 通过随机平滑，对前 k 个预测的鲁棒性进行认证，以防对抗扰动

    通过引入随机化平滑化技术，本篇论文提出了一种可对 Top-K 预测进行认证的分类器鲁棒性保护方法， 并在 CIFAR10 和 ImageNet 上进行了实证评估。

    Dec, 2019

  • 通过数据本地化对稀疏对抗扰动进行认证鲁棒性

    通过对局部化数据分布的理解，提出了一种基于几何形态的简单分类器 Box-NN，并在 MNIST 和 Fashion-MNIST 数据集上取得了对于稀疏攻击的认证稳健性方面的最新研究成果。

    May, 2024

  • 随机平滑实现认证的对抗鲁棒性

    论文介绍了如何通过随机光滑化技术来提高分类器对抗扰动的鲁棒性，使用该方法得到的 ImageNet 分类器在扰动范围小于 0.5 的情况下，具有 49％的认证准确率，并且该方法在获得更高的认证准确率方面比其他方法更具优势。

    Feb, 2019

  • 通过强健低秩表示实现对抗鲁棒性

    本研究探讨了使用自然低秩表示训练神经网络以提高分类器对抗干扰抵抗力的效果，并提出了一种基于乘法权重更新方法且具有可证明保证的快速算法，以使得网络对于特定类型的干扰具有认证的鲁棒性。

    Jul, 2020

  • 基于几何的前 K 位对抗性扰动

    本文提出了一种用于计算 Top-k 对抗性样例的快速且准确的方法，并基于此方法提出了一种通用扰动的方法，可以使大多数自然图像的真实类别不出现在 Top-k 预测中。

    Jun, 2020

  • 使用 K 最近邻防御对抗性例子

    提出了一个基于神经网络中间层激活的 k - 最近邻（kNN）的防御机制来对抗对手样本，该方案在 MNIST 和 CIFAR-10 上的 l2 扰动上超过了最先进的防御措施，我们的模型在 MNIST 上是 3.07，CIFAR-10 为 2.3。此外，我们提出了一种简单的可辨认下界，该下界是在 Lipschitz 网络学习的表示的基础上，用 1-NN 实现的，我们的模型提供与其他具有类似准确度的 MNIST 的方案相当的平均下界。

    Jun, 2019

  • 对于随机平滑分类器的严格对抗鲁棒性证明

    采用输入随机化生成的分类器的集合可以具有很强的鲁棒性，该方法可扩展到更广泛的分布，特别是在离散情况下保证敌对的鲁棒性，并给出了相应的算法，此外，该研究有助于通过假设分类器的函数类来提高保证，并且具有图像和分子数据集上的实际应用。

    Jun, 2019

  • $L_p$ 范数扭曲效率高的对抗攻击

    该研究提出了一种新型 Lp 范数扰动有效的对抗攻击方法，旨在减少 L0 范数失真，通过设计优化方案和引入对抗阈值概念，实现了更好的对抗稳健性和视觉不可感知性。

    Jul, 2024

  • 快速自适应边界攻击生成最小扭曲的对抗样本

    本文提出了一种新的基于 $l_p$-norms 的白盒对抗攻击方法，通过最小化扰动的大小来改变特定输入的类别，这个方法具有几何直观性，是一种性能优越的攻击方法，比专门针对一个 $l_p$-norm 的攻击方法具有更好的鲁棒性，并且可以解决梯度掩盖的问题。

    Jul, 2019

  • 使用具有 L-inf-dist 神经元的神经网络实现 L-infinity 鲁棒性认证

    本文提出了一种新的神经网络设计方法，基于 L∞-dist neuron 进行构造，设计出的 L∞-dist 网络是个具有 1-Lipschitz 性质，可以提供理论保障的鲁棒性，并且具有足够的表达能力。通过实验，证明了该新型神经网络设计在 MNIST、CIFAR-10 以及 TinyImageNet 上均取得了目前最优秀的性能。

    Feb, 2021