该研究提出了首个集合鲁棒性证明,该证明可以同时保证图灵网络的多个预测结果在扰动下的不可被攻击性,并结合其局部性质使用多个单节点证明来构建强大的集合证明。
Feb, 2023
通过在低维投影空间中执行随机平滑,我们能够表征在高维输入空间中的平滑复合分类器的认证区域并证明其体积的可行下界。我们在 CIFAR-10 和 SVHN 上进行了实验证明分类器在没有初始投影时容易受到正常与数据流形法线相交的扰动,并且这些扰动被我们的方法的认证区域捕捉到。我们将我们认证区域的体积与各种基准进行比较,并证明我们的方法在数量级上优于现有技术。
Sep, 2023
本文介绍了一种结合随机平滑和扩散模型的方法,用于认证图像分割预测结果,实现更高的鲁棒性。实验结果表明,该方法平均提高了 21 个百分点的准确度
Jun, 2023
本研究将证明对抗鲁棒性的研究扩展到具有更一般和结构化输出的问题,并将输出空间建模为度量空间,利用距离 / 相似函数等技术应用于图像分割,物体检测和生成模型等机器学习问题。本研究中的中心平滑程序使用随机平滑技术产生确保在输入的任何有界范数对抗扰动时,由距离度量测量的输出变化保持较小的模型。并应用于创建具有不同输出空间的可证明的强鲁棒模型,展示此方法可以产生有意义的证书,同时不会过度降低模型的性能。
Feb, 2021
通过在复杂数据中引入分层随机平滑的方式,本研究相比现有方法更有针对性地增加噪音,以提供更强的稳健性保证和高准确度,在图像和节点分类中实验证明了其重要性。
Oct, 2023
通过对局部化数据分布的理解,提出了一种基于几何形态的简单分类器 Box-NN,并在 MNIST 和 Fashion-MNIST 数据集上取得了对于稀疏攻击的认证稳健性方面的最新研究成果。
May, 2024
通过随机平滑来证明分类器决策对于对抗性噪声不变,同时对噪声稳健性的保证受到多种因素的影响,例如平滑度量之间的差异和拟合威胁模型的选择。此外,该研究证明随着 p 的增加,随机平滑受到了维度诅咒的影响。
Jun, 2020
本研究提出了基于像素噪声分布和卷积神经网络生成器的各向异性随机光滑方法,以确保可证明鲁棒性保证,并取得了显著的性能优于现有随机平滑方法的实验结果。
Jul, 2022
我们研究了在成本敏感场景中学习对抗鲁棒分类器的问题,通过一个二进制成本矩阵编码不同分类的敌对转换的潜在危害。我们提出了一种能够为任意成本矩阵提供严密鲁棒性保证的改进版随机平滑认证方法,并使用针对不同数据子组的细粒度认证半径优化方案,提出了一种优化成本敏感鲁棒性的平滑分类器训练算法。我们在图像基准测试和现实世界医学数据集上的大量实验证明了我们方法在实现显著改善认证成本敏感鲁棒性性能的同时,对整体准确性的影响可以忽略不计。
基于随机平滑和扩散模型的医学图像分割基线,通过多项公共数据集的实验证明其能够在高度扰动的图像中保持高准确性。