通过随机平滑来证明分类器决策对于对抗性噪声不变,同时对噪声稳健性的保证受到多种因素的影响,例如平滑度量之间的差异和拟合威胁模型的选择。此外,该研究证明随着 p 的增加,随机平滑受到了维度诅咒的影响。
Jun, 2020
该研究论文使用 i.i.d. 平滑分布技术进行随机平滑,证明了在高维度情况下使用该技术,防御不同攻击模型会有一定挑战,并有类似到 isotropic Gaussian 平滑的最优结果。
Feb, 2020
通过在低维投影空间中执行随机平滑,我们能够表征在高维输入空间中的平滑复合分类器的认证区域并证明其体积的可行下界。我们在 CIFAR-10 和 SVHN 上进行了实验证明分类器在没有初始投影时容易受到正常与数据流形法线相交的扰动,并且这些扰动被我们的方法的认证区域捕捉到。我们将我们认证区域的体积与各种基准进行比较,并证明我们的方法在数量级上优于现有技术。
Sep, 2023
该研究提出了一种框架,通过重新定义函数类来提高平滑分类器的认证安全区域,设计了高效、高可信度的估计器来计算相关统计信息,以实现比当前方法更大的认证安全区域,并且不需要使用数据相关的平滑技术。
Oct, 2020
通过一种新的框架,使用非高斯噪声和更广泛类型的攻击来实现在深度学习中的认证鲁棒性,并且比之前的方法提供更好的认证结果和新的随机平滑方法的视角。
论文介绍了如何通过随机光滑化技术来提高分类器对抗扰动的鲁棒性,使用该方法得到的 ImageNet 分类器在扰动范围小于 0.5 的情况下,具有 49%的认证准确率,并且该方法在获得更高的认证准确率方面比其他方法更具优势。
Feb, 2019
本研究发现随机平滑在理论认证与实践中保护分类器免受黑盒攻击的设置存在差异,对 RS 进行攻击会导致认证的鲁棒性下降且分类器准确度降低。
Apr, 2022
本研究提出了基于像素噪声分布和卷积神经网络生成器的各向异性随机光滑方法,以确保可证明鲁棒性保证,并取得了显著的性能优于现有随机平滑方法的实验结果。
Jul, 2022
通过定义回归任务中的鲁棒性,灵活地通过概率,我们展示了如何为用户指定的观察到有效输出的概率建立输入数据点扰动(使用 $l_2$ 范数)的上界。我们还展示了在回归模型无约束操作的情况下,基本的平均函数的渐近特性。在处理输出有界的回归模型族时,我们导出了输入扰动的认证上界。我们的模拟验证了理论结果的有效性,并揭示了简单平滑函数(例如平均)在回归任务中的优势和局限性。
May, 2024
本文通过平滑分析模型,使用新颖的算法为多个在线问题提供了保障;提出了一种普适的证明平滑算法保障的技术;并将此技术应用于在线学习、在线差异最小化和在线优化等问题,取得了重要进展。
Feb, 2021