文章系统研究了非参数分类器的对抗性问题,提出了全新的数据预处理方案 adverasrial pruning,并且得到了理论最优的鲁棒分类器,实验结果显示该方法更好或竞争性更好。
Jun, 2019
本文针对分类器的测试攻击问题,引入了一种理论框架,类似于偏差 - 方差理论,并使用该框架对一种典型的非参数分类器 - k 最近邻分类器的鲁棒性进行了分析,并提出了一种新的修改的 1 最近邻分类器,其在大样本极限下具有良好的鲁棒性。
Jun, 2017
通过研究在随机噪声情况下的 k - 最近邻(k-NN)一致性,提出了一种鲁棒的 k-NN 方法 (RkNN),在处理噪声标签时具有一定的纠错和分类能力。
Jul, 2016
在对数据分类问题的不同类型的对抗扰动的影响方面,引入对抗性能力作为一个重要参数,以精确性和稳健性之间的权衡关系。本研究考虑对对抗性扰动分类问题的一般框架,在大数据或整体数据的情况下进行研究。在这样的情况下,我们证明了当对抗性强度趋近于零时,最优分类器在 Hausdorff 距离上收敛于贝叶斯分类器。这一结果显著增强了先前通常集中在 $L^1$ 型收敛上的研究成果。主要论证依赖于直接的几何比较,并受到几何测度理论技术的启发。
Jun, 2024
通过对局部化数据分布的理解,提出了一种基于几何形态的简单分类器 Box-NN,并在 MNIST 和 Fashion-MNIST 数据集上取得了对于稀疏攻击的认证稳健性方面的最新研究成果。
May, 2024
本文研究在简单自然数据模型中,对抗鲁棒学习的样本复杂度可以显著大于标准学习,这个差距是信息理论的,且与训练算法或模型家族无关。作者做了一些实验来证实这个结果。我们可以假设训练鲁棒分类器的困难,至少部分来自这种固有的更大的样本复杂度。
Apr, 2018
本文分析局部插值方案,包括几何单纯插值算法和单一加权 k 近邻算法,在分类和回归问题中证明了这些方案的一致性或近一致性,并提出了一种解释对抗性示例的方法,同时讨论了与核机器和随机森林的一些联系。
Jun, 2018
该论文揭示了现有鲁棒性定义以及鲁棒性认证方法的一些局限性,并调查了除了与鲁棒性相关的对抗性例子之外的其他用途。
Dec, 2023
本文研究了一种介于随机噪声和最坏情况之间的半随机噪声环境下非线性分类器的鲁棒性,并建立了理论边界,确认并量化了分类器满足曲率约束条件时对随机噪声的鲁棒性。
Aug, 2016
本文研究了对抗攻击的鲁棒性理论,聚焦于随机化分类器并通过统计学习理论和信息论提供了其行为的彻底分析。我们引入了随机化分类器的新鲁棒性概念,在此基础上进行了两项新的贡献:提出了一种新的随机化分类器对抗泛化间隙的上界限和对其进行了一种简单而有效的噪声注入方法来设计鲁棒的随机化分类器。我们还在 CIFAR-10 和 CIFAR-100 标准图像数据集上使用深度神经网络的实验结果证实了我们的发现。
Feb, 2021