论文介绍了如何通过随机光滑化技术来提高分类器对抗扰动的鲁棒性,使用该方法得到的ImageNet分类器在扰动范围小于0.5的情况下,具有49%的认证准确率,并且该方法在获得更高的认证准确率方面比其他方法更具优势。
Feb, 2019
提出一种新的随机平滑框架,可以推导并分析各种度量标准的优化平滑分布,提供了两种方法来推导任何平滑分布的证明性鲁棒半径,并通过Banach空间类型的理论展示了当前随机平滑技术的局限性。
Feb, 2020
通过随机平滑来证明分类器决策对于对抗性噪声不变,同时对噪声稳健性的保证受到多种因素的影响,例如平滑度量之间的差异和拟合威胁模型的选择。此外,该研究证明随着p的增加,随机平滑受到了维度诅咒的影响。
Jun, 2020
本文研究了对抗攻击的鲁棒性理论,聚焦于随机化分类器并通过统计学习理论和信息论提供了其行为的彻底分析。我们引入了随机化分类器的新鲁棒性概念,在此基础上进行了两项新的贡献:提出了一种新的随机化分类器对抗泛化间隙的上界限和对其进行了一种简单而有效的噪声注入方法来设计鲁棒的随机化分类器。我们还在CIFAR-10和CIFAR-100标准图像数据集上使用深度神经网络的实验结果证实了我们的发现。
Feb, 2021
本文介绍一种面向深度分类器的样本依赖的鲁棒性保证技术——随机平滑;提出了一种非加性和确定性的平滑方法,Deterministic Smoothing with Splitting Noise(DSSN),并通过对CIFAR-10和ImageNet数据集的测试,证明了其比以前的工作具有更高的L_1鲁棒性证明。
Mar, 2021
本研究发现随机平滑在理论认证与实践中保护分类器免受黑盒攻击的设置存在差异,对RS进行攻击会导致认证的鲁棒性下降且分类器准确度降低。
Apr, 2022
对随机平滑技术进行了改进以提高鲁棒性,包括引入新的训练方法和后处理方法,结果显示这些方法可以提高随机平滑分类器的鲁棒性性能和训练效率,并对基于模型集成的方法进行了理论分析。
Oct, 2023
机器学习模型容易受到对抗攻击,通过随机平滑技术进行认证防御可以提高分类器的鲁棒性。该研究探讨了随机平滑的理论基础、实证有效性和应用,系统化总结了现有知识并提出潜在解决方案。
Dec, 2023
通过训练替代Monte Carlo抽样的替代神经网络,提供随机平滑分类器的近乎精确的近似,加速鲁棒半径认证过程,克服了传统随机平滑方法中的计算瓶颈。
Feb, 2024
该论文提出了一种新的变分框架,通过引入噪声级别选择器,在每个输入上使用适当的噪声级别,从而实现对抗性攻击的提升。实验结果表明,我们的基于样本的平滑方法在经验上具有更强的鲁棒性。我们还提供并分析了我们的样本平滑方法的认证鲁棒性。
Jul, 2024