本论文分析了深层网络的一个有趣现象，即它们对于对抗性扰动的不稳定性，并提出了一个分析分类器鲁棒性的理论框架，并且为对抗性扰动的鲁棒性建立了一个上限。具体而言，我们建立了分类器对于对抗性扰动的鲁棒性的一个通用上限并用一些线性和二次分类器的例子说明了所获得的上限。我们的结果表明，在涉及小区分能力的任务中，所有选定的分类器将不会对于对抗性扰动产生鲁棒性，即使达到了较高的准确率。

Feb, 2015

本文研究了一种介于随机噪声和最坏情况之间的半随机噪声环境下非线性分类器的鲁棒性，并建立了理论边界，确认并量化了分类器满足曲率约束条件时对随机噪声的鲁棒性。

Aug, 2016

该研究针对分类器的脆弱性进行讨论，提出 Cross-Lipschitz 正则化函数可提高分类器对抗攻击的鲁棒性，并给出了实例具体的下界。在不影响分类性能的情况下，使用该正则化函数可以提高核方法和神经网络的鲁棒性。

May, 2017

本文研究在简单自然数据模型中，对抗鲁棒学习的样本复杂度可以显著大于标准学习，这个差距是信息理论的，且与训练算法或模型家族无关。作者做了一些实验来证实这个结果。我们可以假设训练鲁棒分类器的困难，至少部分来自这种固有的更大的样本复杂度。

Apr, 2018

研究了均匀分布在 {0,1}^n 上的实例中的敌对扰动，提出了不同于通常定义的错误区域的保真度定义，并根据该定义研究了任何分类问题的任何分类器的风险和稳健性的内在限制。使用布尔超立方体的等周不等式和中心极限定理，对单个和大规模的问题提出了与数学相关的结果。

Oct, 2018

论文介绍了如何通过随机光滑化技术来提高分类器对抗扰动的鲁棒性，使用该方法得到的ImageNet分类器在扰动范围小于0.5的情况下，具有49％的认证准确率，并且该方法在获得更高的认证准确率方面比其他方法更具优势。

Feb, 2019

使用基于随机平滑的 L1 和 L2 变换来保证分类器对于固定 L0 干扰大小的分类鲁棒性，并提出了一种高效且可验证的防御方法，通过使用随机消融的输入特征而非加性噪声来对抗稀疏的对抗干扰攻击，实验结果验证了其在 MNIST、ImageNet 和 CIFAR-10 上有效的性能。

Nov, 2019

通过随机平滑来证明分类器决策对于对抗性噪声不变，同时对噪声稳健性的保证受到多种因素的影响，例如平滑度量之间的差异和拟合威胁模型的选择。此外，该研究证明随着p的增加，随机平滑受到了维度诅咒的影响。

Jun, 2020

本研究探讨了深度神经网络面临的对抗攻击问题，提出了随机分类器作为确定性分类器的强大替代品，并且通过实验证明，集成分类器比混合分类器更具抗干扰性。

Feb, 2023

通过采用置信区间与较少样本的统计估计方法，我们提供了一种新的方法来解决随机平滑中的计算负担，从而在标准方法中获得相同的统计保证。同时我们提出了一个随机版本的Clopper-Pearson置信区间，证明了这种方法的效果明显更好。

Jun, 2024