通过在低维投影空间中执行随机平滑,我们能够表征在高维输入空间中的平滑复合分类器的认证区域并证明其体积的可行下界。我们在 CIFAR-10 和 SVHN 上进行了实验证明分类器在没有初始投影时容易受到正常与数据流形法线相交的扰动,并且这些扰动被我们的方法的认证区域捕捉到。我们将我们认证区域的体积与各种基准进行比较,并证明我们的方法在数量级上优于现有技术。
Sep, 2023
论文介绍了如何通过随机光滑化技术来提高分类器对抗扰动的鲁棒性,使用该方法得到的 ImageNet 分类器在扰动范围小于 0.5 的情况下,具有 49%的认证准确率,并且该方法在获得更高的认证准确率方面比其他方法更具优势。
Feb, 2019
通过随机平滑来证明分类器决策对于对抗性噪声不变,同时对噪声稳健性的保证受到多种因素的影响,例如平滑度量之间的差异和拟合威胁模型的选择。此外,该研究证明随着 p 的增加,随机平滑受到了维度诅咒的影响。
Jun, 2020
该研究提出了一种适用于任意类别和任意样本数的少样本学习嵌入方法,通过定义隐式的类别表示函数和学习原型和模型参数来实现,其中类别嵌入涵盖了度量学习,并能够在不拥挤的类别表示空间中添加新类别,并取得了基准数据集最好的性能表现。
May, 2019
深度神经网络的现实应用受到噪声输入和对抗性攻击时的预测不稳定性的限制。本文介绍了一种基于随机平滑的框架,通过将噪声注入输入来获得平滑且更加鲁棒的分类器,并引入了一种不同的简单投影技术来增加认证半径,利用 Lipschitz 常数和边界的权衡。实验结果表明,与当前最先进的方法相比,我们的新型认证过程在认证准确性上取得了显著提高,有效改善了当前的认证半径。
本文研究了如何通过正则化风险函数以提高深度神经网络的准确性和稳健性,并提出了一种新的认证算法,能够对 CIFAR-10 和 ImageNet 数据集中的深度神经网络提供更严格的稳健性保证。
Feb, 2020
通过一种新的框架,使用非高斯噪声和更广泛类型的攻击来实现在深度学习中的认证鲁棒性,并且比之前的方法提供更好的认证结果和新的随机平滑方法的视角。
采用输入随机化生成的分类器的集合可以具有很强的鲁棒性,该方法可扩展到更广泛的分布,特别是在离散情况下保证敌对的鲁棒性,并给出了相应的算法,此外,该研究有助于通过假设分类器的函数类来提高保证,并且具有图像和分子数据集上的实际应用。
Jun, 2019
我们研究了在成本敏感场景中学习对抗鲁棒分类器的问题,通过一个二进制成本矩阵编码不同分类的敌对转换的潜在危害。我们提出了一种能够为任意成本矩阵提供严密鲁棒性保证的改进版随机平滑认证方法,并使用针对不同数据子组的细粒度认证半径优化方案,提出了一种优化成本敏感鲁棒性的平滑分类器训练算法。我们在图像基准测试和现实世界医学数据集上的大量实验证明了我们方法在实现显著改善认证成本敏感鲁棒性性能的同时,对整体准确性的影响可以忽略不计。
Oct, 2023
本文提出使用对抗训练来提高基于随机平滑的分类器的效果,并设计一种适应平滑分类器的攻击方法,通过大量实验,得出这种方法在 ImageNet 和 CIFAR-10 上的性能显著胜过所有现有的可证明的 L2 - 强健分类器,证明了这种方法是可靠的,且半监督学习和预训练能够进一步提高其效果。