AAAIDec, 2021

随机平滑的输入特定鲁棒性认证

PDF
TL;DR提出了一种输入特定采样（ISS）加速方法，该方法可以通过降低采样大小，适应性地减少采样大小，从而实现强化认证的成本效益，同时普遍控制 ISS 采样大小对认证半径的下降。实证结果表明，ISS 可以在有限的 0.05 认证半径成本下将认证加速三倍以上，并且在广泛的超参数设置中 ISS 超越 IAS 的平均认证半径。
randomized smoothingrobustness certificationinput-specific samplingcertified radius declineempirical results
发现论文，激发创造
  • 增量式随机平滑认证

    我们提出了一种增量鲁棒性认证方法 IRS，通过重复利用原始光滑模型的认证保证，来维护新模型的认证保证并使计算成本降低了很多。

    May, 2023

  • 使用 100 倍的样本效率估计随机平滑的稳健半径

    减少样本数量可以降低鲁棒性半径，但保持相同的置信度；本文提供了数学基础并在 CIFAR-10 和 ImageNet 数据集上进行了实验证明。

    Apr, 2024

  • 通过随机平滑技术进行置信度认证

    本文提出了一种针对随机平滑后的分类器预测置信度的证明半径计算方法，利用平滑分布下预测置信度的概率分布信息，基于 Neyman-Pearson 引理，设计了一种计算置信度会高于某一阈值的证明半径估计方法，并在 CIFAR-10 和 ImageNet 数据集上实验表明，利用预测置信度的概率分布信息能够明显提升分类器的可证明鲁棒性。

    Sep, 2020

  • 随机平滑的高阶认证

    该研究提出了一种框架，通过重新定义函数类来提高平滑分类器的认证安全区域，设计了高效、高可信度的估计器来计算相关统计信息，以实现比当前方法更大的认证安全区域，并且不需要使用数据相关的平滑技术。

    Oct, 2020

  • 多扰动界内认证的对抗鲁棒性

    本篇论文提出了一种新的证明方案来提高对不同扰动边界的认证鲁棒性，并通过提出一种新的训练噪声分布和正则化训练方案，同时改善了对于 l1 和 l2 扰动规范的认证，并在 ACR 指标上实现了改进。

    Apr, 2023

  • 投影随机平滑实现认证对抗鲁棒性

    通过在低维投影空间中执行随机平滑，我们能够表征在高维输入空间中的平滑复合分类器的认证区域并证明其体积的可行下界。我们在 CIFAR-10 和 SVHN 上进行了实验证明分类器在没有初始投影时容易受到正常与数据流形法线相交的扰动，并且这些扰动被我们的方法的认证区域捕捉到。我们将我们认证区域的体积与各种基准进行比较，并证明我们的方法在数量级上优于现有技术。

    Sep, 2023

  • 增强随机平滑的 Lipschitz - 方差 - 边缘权衡

    深度神经网络的现实应用受到噪声输入和对抗性攻击时的预测不稳定性的限制。本文介绍了一种基于随机平滑的框架，通过将噪声注入输入来获得平滑且更加鲁棒的分类器，并引入了一种不同的简单投影技术来增加认证半径，利用 Lipschitz 常数和边界的权衡。实验结果表明，与当前最先进的方法相比，我们的新型认证过程在认证准确性上取得了显著提高，有效改善了当前的认证半径。

    Sep, 2023

  • 通过双随机平滑缓解基于认证的鲁棒性的维度诅咒

    提供了一种新的方法，通过在较低维度空间中利用双重平滑来为高维输入提供 ${\ell_2}$ 认证的稳健性，实验证明 Dual Randomized Smoothing（DRS）与传统方法相比，在 CIFAR-10 和 ImageNet 数据集上能够显著提高准确性和 ${\ell_2}$ 认证的稳健性。

    Apr, 2024

  • 双采样随机平滑

    提出了一种基于双重采样的随机平滑框架 (DSRS) 来提高神经网络模型的鲁棒性，并证明了其可以克服高维度数据集下现有随机平滑算法的 “维数诅咒”，实验表明 DSRS 可以在不同情况下比现有基准证明更大的鲁棒半径。

    Jun, 2022

  • 用方差降低分类器的随机平滑增强

    本文介绍一种随机平滑算法来提高基于噪声的鲁棒性，并提出集成模型作为基本模型，通过实验证明其可行性和优越性，同时优化算法以降低计算复杂度。

    Jun, 2021