论文介绍了如何通过随机光滑化技术来提高分类器对抗扰动的鲁棒性,使用该方法得到的ImageNet分类器在扰动范围小于0.5的情况下,具有49%的认证准确率,并且该方法在获得更高的认证准确率方面比其他方法更具优势。
Feb, 2019
本文提出使用对抗训练来提高基于随机平滑的分类器的效果,并设计一种适应平滑分类器的攻击方法,通过大量实验,得出这种方法在ImageNet和CIFAR-10上的性能显著胜过所有现有的可证明的L2-强健分类器,证明了这种方法是可靠的,且半监督学习和预训练能够进一步提高其效果。
Jun, 2019
通过引入随机化平滑化技术,本篇论文提出了一种可对Top-K预测进行认证的分类器鲁棒性保护方法, 并在 CIFAR10 和 ImageNet 上进行了实证评估。
Dec, 2019
研究表明随机平滑是一种有效的提高深度神经网络分类器准确度和L2/高斯稳健性能的方法,并且在实验中也通过该方法显著地改善了已有的高斯稳健性能模型的准确性。
Jun, 2020
通过随机平滑来证明分类器决策对于对抗性噪声不变,同时对噪声稳健性的保证受到多种因素的影响,例如平滑度量之间的差异和拟合威胁模型的选择。此外,该研究证明随着p的增加,随机平滑受到了维度诅咒的影响。
本研究提出了基于像素噪声分布和卷积神经网络生成器的各向异性随机光滑方法,以确保可证明鲁棒性保证,并取得了显著的性能优于现有随机平滑方法的实验结果。
Jul, 2022
本文提出了一个基于高斯噪声控制样本鲁棒性的训练方法,通过高斯噪声的代理指标筛选出不太可能从最坏情况的训练目标中受益的样本,从而获得稳健的分类器,并在实验中证明是有效的。
Dec, 2022
本研究分析了随机平滑在噪声训练基分类器时的风险和收益,并揭示了在什么分布下可以获得收益。实验表明,理论分析对随机平滑的实际应用有直接的影响。
May, 2023
我们研究了在成本敏感场景中学习对抗鲁棒分类器的问题,通过一个二进制成本矩阵编码不同分类的敌对转换的潜在危害。我们提出了一种能够为任意成本矩阵提供严密鲁棒性保证的改进版随机平滑认证方法,并使用针对不同数据子组的细粒度认证半径优化方案,提出了一种优化成本敏感鲁棒性的平滑分类器训练算法。我们在图像基准测试和现实世界医学数据集上的大量实验证明了我们方法在实现显著改善认证成本敏感鲁棒性性能的同时,对整体准确性的影响可以忽略不计。
Oct, 2023
通过采用置信区间与较少样本的统计估计方法,我们提供了一种新的方法来解决随机平滑中的计算负担,从而在标准方法中获得相同的统计保证。同时我们提出了一个随机版本的Clopper-Pearson置信区间,证明了这种方法的效果明显更好。
Jun, 2024