离散数据的高效鲁棒性证明：面向图像，图表等的稀疏感知随机平滑

ICMLAug, 2020

离散数据的高效鲁棒性证明：面向图像，图表等的稀疏感知随机平滑

Efficient Robustness Certificates for Discrete Data: Sparsity-Aware Randomized Smoothing for Graphs, Images and More

Aleksandar Bojchevski, Johannes Gasteiger, Stephan Günnemann

TL;DR使用基于随机平滑框架的模型不可知证书，该证书具有高效、精确和跨度感知性，并能为 nn 中的稀疏输入提供保证，该方法已在各种模型、数据集和任务上证明其有效性，并成功解决了 Graph Neural Networks 中的可证明保证问题。

Abstract

Existing techniques for certifying the robustness of models for discrete data either work only for a small class of models or are general at the expense of efficiency or tightness. Moreover, they do not account for sparsity in the input which, as our findings show, is often essential for obtaining non-trivial guarantees. We propose a model-agnostic certifica

model robustness randomized smoothing sparsity-aware graph neural networks provable guarantees

发现论文，激发创造

增量式随机平滑认证

我们提出了一种增量鲁棒性认证方法 IRS，通过重复利用原始光滑模型的认证保证，来维护新模型的认证保证并使计算成本降低了很多。

May, 2023

基于结构的图分类稳健性证明

本文介绍了一种基于随机平滑法的加性异向噪声分布的结构感知证书方法，此方法相对于传统的邻接矩阵的 $l_{0}$ 范围更加有效，并且能够在图的不同预定义结构之间产生鲁棒性证书，可用于保证图形分类器的鲁棒性

Jun, 2023

基于随机剪枝的稀疏对抗攻击鲁棒性证明

使用基于随机平滑的 L1 和 L2 变换来保证分类器对于固定 L0 干扰大小的分类鲁棒性，并提出了一种高效且可验证的防御方法，通过使用随机消融的输入特征而非加性噪声来对抗稀疏的对抗干扰攻击，实验结果验证了其在 MNIST、ImageNet 和 CIFAR-10 上有效的性能。

Nov, 2019

基于随机平滑的黑盒认证：一种基于函数优化的框架

通过一种新的框架，使用非高斯噪声和更广泛类型的攻击来实现在深度学习中的认证鲁棒性，并且比之前的方法提供更好的认证结果和新的随机平滑方法的视角。

Feb, 2020

数据相关的随机平滑

本文介绍了一种新的数据依赖型平滑分类器构造方法，通过优化高斯分布的方差，最大化平滑分类器的认证半径。该方法易于实现且无需参数，在三个随机平滑方法中表现出更高的认证准确性。

Dec, 2020

分层随机平滑

通过在复杂数据中引入分层随机平滑的方式，本研究相比现有方法更有针对性地增加噪音，以提供更强的稳健性保证和高准确度，在图像和节点分类中实验证明了其重要性。

Oct, 2023

投影随机平滑实现认证对抗鲁棒性

通过在低维投影空间中执行随机平滑，我们能够表征在高维输入空间中的平滑复合分类器的认证区域并证明其体积的可行下界。我们在 CIFAR-10 和 SVHN 上进行了实验证明分类器在没有初始投影时容易受到正常与数据流形法线相交的扰动，并且这些扰动被我们的方法的认证区域捕捉到。我们将我们认证区域的体积与各种基准进行比较，并证明我们的方法在数量级上优于现有技术。

Sep, 2023

GSmooth: 通过广义随机光滑化证明对抗语义转换的鲁棒性

本研究提出了广义随机平滑（GSmooth）理论框架及算法，通过新的维度扩增策略，可证明机器学习系统对普遍的语义转换是有稳健性的，采用基准测试的方法得到的结果显示了我们的方法非常有效。

Jun, 2022

集体鲁棒认证的本地随机平滑

本文提出了一种基于新型局部化随机平滑方法的更普遍的模型合集鲁棒性认证方法，并在图像分割和节点分类任务上得到更高的准确性和更强的认证。

Oct, 2022

通过随机平滑实现可证明稳健的代价敏感学习

我们研究了在成本敏感场景中学习对抗鲁棒分类器的问题，通过一个二进制成本矩阵编码不同分类的敌对转换的潜在危害。我们提出了一种能够为任意成本矩阵提供严密鲁棒性保证的改进版随机平滑认证方法，并使用针对不同数据子组的细粒度认证半径优化方案，提出了一种优化成本敏感鲁棒性的平滑分类器训练算法。我们在图像基准测试和现实世界医学数据集上的大量实验证明了我们方法在实现显著改善认证成本敏感鲁棒性性能的同时，对整体准确性的影响可以忽略不计。

Oct, 2023