增强随机平滑的 Lipschitz - 方差 - 边缘权衡

Sep, 2023

增强随机平滑的 Lipschitz - 方差 - 边缘权衡

The Lipschitz-Variance-Margin Tradeoff for Enhanced Randomized Smoothing

Blaise Delattre, Alexandre Araujo, Quentin Barthélemy, Alexandre Allauzen

TL;DR深度神经网络的现实应用受到噪声输入和对抗性攻击时的预测不稳定性的限制。本文介绍了一种基于随机平滑的框架，通过将噪声注入输入来获得平滑且更加鲁棒的分类器，并引入了一种不同的简单投影技术来增加认证半径，利用 Lipschitz 常数和边界的权衡。实验结果表明，与当前最先进的方法相比，我们的新型认证过程在认证准确性上取得了显著提高，有效改善了当前的认证半径。

Abstract

Real-life applications of deep neural networks are hindered by their unsteady predictions when faced with noisy inputs and adversarial attacks. The certified radius is in this context a crucial indicator of the robustness of models. However how to design an efficient classifier with a

deep neural networks certified radius randomized smoothing lipschitz constant certified accuracy

发现论文，激发创造

通过随机平滑技术进行置信度认证

本文提出了一种针对随机平滑后的分类器预测置信度的证明半径计算方法，利用平滑分布下预测置信度的概率分布信息，基于 Neyman-Pearson 引理，设计了一种计算置信度会高于某一阈值的证明半径估计方法，并在 CIFAR-10 和 ImageNet 数据集上实验表明，利用预测置信度的概率分布信息能够明显提升分类器的可证明鲁棒性。

Sep, 2020

投影随机平滑实现认证对抗鲁棒性

通过在低维投影空间中执行随机平滑，我们能够表征在高维输入空间中的平滑复合分类器的认证区域并证明其体积的可行下界。我们在 CIFAR-10 和 SVHN 上进行了实验证明分类器在没有初始投影时容易受到正常与数据流形法线相交的扰动，并且这些扰动被我们的方法的认证区域捕捉到。我们将我们认证区域的体积与各种基准进行比较，并证明我们的方法在数量级上优于现有技术。

Sep, 2023

随机平滑用于稳健性保证的扩展和限制

通过随机平滑来证明分类器决策对于对抗性噪声不变，同时对噪声稳健性的保证受到多种因素的影响，例如平滑度量之间的差异和拟合威胁模型的选择。此外，该研究证明随着 p 的增加，随机平滑受到了维度诅咒的影响。

Jun, 2020

可证明鲁棒性的随机平滑分类器的规则化训练和紧密认证

本文研究了如何通过正则化风险函数以提高深度神经网络的准确性和稳健性，并提出了一种新的认证算法，能够对 CIFAR-10 和 ImageNet 数据集中的深度神经网络提供更严格的稳健性保证。

Feb, 2020

数据相关的随机平滑

本文介绍了一种新的数据依赖型平滑分类器构造方法，通过优化高斯分布的方差，最大化平滑分类器的认证半径。该方法易于实现且无需参数，在三个随机平滑方法中表现出更高的认证准确性。

Dec, 2020

用方差降低分类器的随机平滑增强

本文介绍一种随机平滑算法来提高基于噪声的鲁棒性，并提出集成模型作为基本模型，通过实验证明其可行性和优越性，同时优化算法以降低计算复杂度。

Jun, 2021

随机平滑的高阶认证

该研究提出了一种框架，通过重新定义函数类来提高平滑分类器的认证安全区域，设计了高效、高可信度的估计器来计算相关统计信息，以实现比当前方法更大的认证安全区域，并且不需要使用数据相关的平滑技术。

Oct, 2020

使用 100 倍的样本效率估计随机平滑的稳健半径

减少样本数量可以降低鲁棒性半径，但保持相同的置信度；本文提供了数学基础并在 CIFAR-10 和 ImageNet 数据集上进行了实验证明。

Apr, 2024

随机平滑实现认证的对抗鲁棒性

论文介绍了如何通过随机光滑化技术来提高分类器对抗扰动的鲁棒性，使用该方法得到的 ImageNet 分类器在扰动范围小于 0.5 的情况下，具有 49％的认证准确率，并且该方法在获得更高的认证准确率方面比其他方法更具优势。

Feb, 2019

通过随机平滑实现可证明稳健的代价敏感学习

我们研究了在成本敏感场景中学习对抗鲁棒分类器的问题，通过一个二进制成本矩阵编码不同分类的敌对转换的潜在危害。我们提出了一种能够为任意成本矩阵提供严密鲁棒性保证的改进版随机平滑认证方法，并使用针对不同数据子组的细粒度认证半径优化方案，提出了一种优化成本敏感鲁棒性的平滑分类器训练算法。我们在图像基准测试和现实世界医学数据集上的大量实验证明了我们方法在实现显著改善认证成本敏感鲁棒性性能的同时，对整体准确性的影响可以忽略不计。

Oct, 2023