本篇论文提出了一种新的证明方案来提高对不同扰动边界的认证鲁棒性,并通过提出一种新的训练噪声分布和正则化训练方案,同时改善了对于 l1 和 l2 扰动规范的认证,并在 ACR 指标上实现了改进。
Apr, 2023
减少样本数量可以降低鲁棒性半径,但保持相同的置信度;本文提供了数学基础并在 CIFAR-10 和 ImageNet 数据集上进行了实验证明。
Apr, 2024
深度神经网络的现实应用受到噪声输入和对抗性攻击时的预测不稳定性的限制。本文介绍了一种基于随机平滑的框架,通过将噪声注入输入来获得平滑且更加鲁棒的分类器,并引入了一种不同的简单投影技术来增加认证半径,利用 Lipschitz 常数和边界的权衡。实验结果表明,与当前最先进的方法相比,我们的新型认证过程在认证准确性上取得了显著提高,有效改善了当前的认证半径。
Sep, 2023
提出了一种基于双重采样的随机平滑框架 (DSRS) 来提高神经网络模型的鲁棒性,并证明了其可以克服高维度数据集下现有随机平滑算法的 “维数诅咒”,实验表明 DSRS 可以在不同情况下比现有基准证明更大的鲁棒半径。
Jun, 2022
提出了一种基于 ACAS 的架构,可以在保证预测准确率的同时,检测每个样本是否存在较大威胁,并提供认证的保护措施。在 ImageNet 等数据集上,该方法可以同时提供高准确率和可证明的鲁棒性。
Apr, 2022
本文提出了一种针对随机平滑后的分类器预测置信度的证明半径计算方法,利用平滑分布下预测置信度的概率分布信息,基于 Neyman-Pearson 引理,设计了一种计算置信度会高于某一阈值的证明半径估计方法,并在 CIFAR-10 和 ImageNet 数据集上实验表明,利用预测置信度的概率分布信息能够明显提升分类器的可证明鲁棒性。
Sep, 2020
提供了一种新的方法,通过在较低维度空间中利用双重平滑来为高维输入提供 ${\ell_2}$ 认证的稳健性,实验证明 Dual Randomized Smoothing(DRS)与传统方法相比,在 CIFAR-10 和 ImageNet 数据集上能够显著提高准确性和 ${\ell_2}$ 认证的稳健性。
该论文提出了一种名为 “Double Sampling Randomized Smoothing (DSRS)” 框架的方法来提高神经网络的抗干扰性认证,并通过实验验证了其效果。
Jun, 2023
通过在低维投影空间中执行随机平滑,我们能够表征在高维输入空间中的平滑复合分类器的认证区域并证明其体积的可行下界。我们在 CIFAR-10 和 SVHN 上进行了实验证明分类器在没有初始投影时容易受到正常与数据流形法线相交的扰动,并且这些扰动被我们的方法的认证区域捕捉到。我们将我们认证区域的体积与各种基准进行比较,并证明我们的方法在数量级上优于现有技术。
我们提出了一种增量鲁棒性认证方法 IRS,通过重复利用原始光滑模型的认证保证,来维护新模型的认证保证并使计算成本降低了很多。
May, 2023