ICMLMar, 2021

L1 认证鲁棒性的改进确定性平滑算法

PDF
TL;DR本文介绍一种面向深度分类器的样本依赖的鲁棒性保证技术 —— 随机平滑；提出了一种非加性和确定性的平滑方法，Deterministic Smoothing with Splitting Noise（DSSN），并通过对 CIFAR-10 和 ImageNet 数据集的测试，证明了其比以前的工作具有更高的 L_1 鲁棒性证明。
randomized smoothingadversarial attacksrobustness guaranteesdeterministic smoothing with splitting noise (dssn)norm-based
发现论文，激发创造
  • 双采样随机平滑

    提出了一种基于双重采样的随机平滑框架 (DSRS) 来提高神经网络模型的鲁棒性，并证明了其可以克服高维度数据集下现有随机平滑算法的 “维数诅咒”，实验表明 DSRS 可以在不同情况下比现有基准证明更大的鲁棒半径。

    Jun, 2022

  • [Re] 双采样随机平滑

    该论文提出了一种名为 “Double Sampling Randomized Smoothing (DSRS)” 框架的方法来提高神经网络的抗干扰性认证，并通过实验验证了其效果。

    Jun, 2023

  • 增量式随机平滑认证

    我们提出了一种增量鲁棒性认证方法 IRS，通过重复利用原始光滑模型的认证保证，来维护新模型的认证保证并使计算成本降低了很多。

    May, 2023

  • 随机平滑实现认证的对抗鲁棒性

    论文介绍了如何通过随机光滑化技术来提高分类器对抗扰动的鲁棒性，使用该方法得到的 ImageNet 分类器在扰动范围小于 0.5 的情况下，具有 49％的认证准确率，并且该方法在获得更高的认证准确率方面比其他方法更具优势。

    Feb, 2019

  • 基于各向异性随机平滑的认证对抗性鲁棒性

    本研究提出了基于像素噪声分布和卷积神经网络生成器的各向异性随机光滑方法，以确保可证明鲁棒性保证，并取得了显著的性能优于现有随机平滑方法的实验结果。

    Jul, 2022

  • 随机平滑用于稳健性保证的扩展和限制

    通过随机平滑来证明分类器决策对于对抗性噪声不变，同时对噪声稳健性的保证受到多种因素的影响，例如平滑度量之间的差异和拟合威胁模型的选择。此外，该研究证明随着 p 的增加，随机平滑受到了维度诅咒的影响。

    Jun, 2020

  • 投影随机平滑实现认证对抗鲁棒性

    通过在低维投影空间中执行随机平滑，我们能够表征在高维输入空间中的平滑复合分类器的认证区域并证明其体积的可行下界。我们在 CIFAR-10 和 SVHN 上进行了实验证明分类器在没有初始投影时容易受到正常与数据流形法线相交的扰动，并且这些扰动被我们的方法的认证区域捕捉到。我们将我们认证区域的体积与各种基准进行比较，并证明我们的方法在数量级上优于现有技术。

    Sep, 2023

  • 基于随机平滑的黑盒认证：一种基于函数优化的框架

    通过一种新的框架，使用非高斯噪声和更广泛类型的攻击来实现在深度学习中的认证鲁棒性，并且比之前的方法提供更好的认证结果和新的随机平滑方法的视角。

    Feb, 2020

  • 可证明鲁棒性的随机平滑分类器的规则化训练和紧密认证

    本文研究了如何通过正则化风险函数以提高深度神经网络的准确性和稳健性，并提出了一种新的认证算法，能够对 CIFAR-10 和 ImageNet 数据集中的深度神经网络提供更严格的稳健性保证。

    Feb, 2020

  • 使用 100 倍的样本效率估计随机平滑的稳健半径

    减少样本数量可以降低鲁棒性半径，但保持相同的置信度；本文提供了数学基础并在 CIFAR-10 和 ImageNet 数据集上进行了实验证明。

    Apr, 2024