随机平滑实现认证的对抗鲁棒性
本文提出使用对抗训练来提高基于随机平滑的分类器的效果,并设计一种适应平滑分类器的攻击方法,通过大量实验,得出这种方法在 ImageNet 和 CIFAR-10 上的性能显著胜过所有现有的可证明的 L2 - 强健分类器,证明了这种方法是可靠的,且半监督学习和预训练能够进一步提高其效果。
Jun, 2019
本文研究了如何通过正则化风险函数以提高深度神经网络的准确性和稳健性,并提出了一种新的认证算法,能够对 CIFAR-10 和 ImageNet 数据集中的深度神经网络提供更严格的稳健性保证。
Feb, 2020
通过一种新的框架,使用非高斯噪声和更广泛类型的攻击来实现在深度学习中的认证鲁棒性,并且比之前的方法提供更好的认证结果和新的随机平滑方法的视角。
Feb, 2020
研究表明随机平滑是一种有效的提高深度神经网络分类器准确度和 L2 / 高斯稳健性能的方法,并且在实验中也通过该方法显著地改善了已有的高斯稳健性能模型的准确性。
Jun, 2020
通过引入随机化平滑化技术,本篇论文提出了一种可对 Top-K 预测进行认证的分类器鲁棒性保护方法, 并在 CIFAR10 和 ImageNet 上进行了实证评估。
Dec, 2019
采用输入随机化生成的分类器的集合可以具有很强的鲁棒性,该方法可扩展到更广泛的分布,特别是在离散情况下保证敌对的鲁棒性,并给出了相应的算法,此外,该研究有助于通过假设分类器的函数类来提高保证,并且具有图像和分子数据集上的实际应用。
Jun, 2019
通过在低维投影空间中执行随机平滑,我们能够表征在高维输入空间中的平滑复合分类器的认证区域并证明其体积的可行下界。我们在 CIFAR-10 和 SVHN 上进行了实验证明分类器在没有初始投影时容易受到正常与数据流形法线相交的扰动,并且这些扰动被我们的方法的认证区域捕捉到。我们将我们认证区域的体积与各种基准进行比较,并证明我们的方法在数量级上优于现有技术。
Sep, 2023
本研究提出了基于像素噪声分布和卷积神经网络生成器的各向异性随机光滑方法,以确保可证明鲁棒性保证,并取得了显著的性能优于现有随机平滑方法的实验结果。
Jul, 2022
通过随机平滑来证明分类器决策对于对抗性噪声不变,同时对噪声稳健性的保证受到多种因素的影响,例如平滑度量之间的差异和拟合威胁模型的选择。此外,该研究证明随着 p 的增加,随机平滑受到了维度诅咒的影响。
Jun, 2020
本文介绍了一个基于离线预训练模型,通过组合去噪扩散概率模型和高性能分类器等手段实现了对于 2 - 范数边界扰动的认证敌对鲁棒性,并在 ImageNet 数据集上得到了 71% 的分类准确率,显著优于之前的相关研究。
Jun, 2022