Sep, 2023

评估对抗鲁棒性及其可行性性能

PDF
TL;DR我们引入了一种度量分类器的鲁棒性的评估指标，特别关注对于可能的对抗扰动而言的预期功能。如果分类器在从该扰动边界的示例上进行测试时，传统的性能度量（如分类准确率）小于最低可行阈值，则假设分类器对于扰动边界的扰动边界是非功能性的（即功能性为零）。通过用期望值来定义鲁棒性，我们提出了一种领域通用的鲁棒性量化方法。
robustnessclassifieradversarial perturbationsfunctionalityperturbation bound
发现论文，激发创造
  • 任何分类器的对抗性易受攻击性

    本文研究了对抗扰动现象，并推导了任何分类函数的鲁棒性的基本上界，以及证明了存在跨不同分类器传递的具有小风险的对抗扰动。研究显示了生成模型的关键属性，如平滑性和潜在空间的维度，并提供了信息量大的鲁棒性基线。

    Feb, 2018

  • 重新审视对抗风险

    本文研究对抗扰动和定义的问题，提出对现有定义的轻微修改，消除了对抗精度和标准测试精度之间的权衡，并证明了在新定义下存在既鲁棒又获得高标准准确性的分类器。

    Jun, 2018

  • 对抗性样本的代价敏感强健性

    本文研究了在实际应用中，某些对抗变换的重要性可能比其他变换更高的情况下，如何衡量分类器在对抗干扰下的鲁棒性，并提出了一般性的目标函数，将 Wong 和 Kolter（2018）的鲁棒训练方法进行了改进。通过实验证明，所提出的方法可以显著降低成本敏感鲁棒错误，同时保持分类准确性。

    Oct, 2018

  • 神经网络鲁棒性解释和评估

    该研究提出了一种定量指标来评估神经网络模型的内在稳健性，并通过损失可视化的方式解释了对抗攻击和防御机制。该指标具有快速生成、结构和参数规模无关、可靠性高的优点，并提供了一种相对于不同测试设置不变的评估方法。

    May, 2019

  • 对抗性鲁棒性的利弊

    该论文揭示了现有鲁棒性定义以及鲁棒性认证方法的一些局限性，并调查了除了与鲁棒性相关的对抗性例子之外的其他用途。

    Dec, 2023

  • 对抗性样本的（不）可避免性

    该研究提出了一个确定深度学习模型标签更改是否合理的框架，并且定义了一个自适应的鲁棒性损失，使用导出的经验公式，开发了相应的数据增强框架和评估方法，证明了其对确定性标签下的一阶最近邻分类的维持一致性，并提供了实证评估结果。

    Jun, 2021

  • 探索对抗前沿：通过对抗超体积量化健壮性

    通过提出一种新的测量指标 —— 对抗超体积（adversarial hypervolume），该研究验证了该指标对于揭示深度学习模型鲁棒性中微妙差异的有效性，为当前和未来的防御模型的韧性评估和基准制定提供了标准。

    Mar, 2024

  • 分类器对于对抗扰动的鲁棒性分析

    本论文分析了深层网络的一个有趣现象，即它们对于对抗性扰动的不稳定性，并提出了一个分析分类器鲁棒性的理论框架，并且为对抗性扰动的鲁棒性建立了一个上限。具体而言，我们建立了分类器对于对抗性扰动的鲁棒性的一个通用上限并用一些线性和二次分类器的例子说明了所获得的上限。我们的结果表明，在涉及小区分能力的任务中，所有选定的分类器将不会对于对抗性扰动产生鲁棒性，即使达到了较高的准确率。

    Feb, 2015

  • 对抗鲁棒分类器的一致收敛性

    在对数据分类问题的不同类型的对抗扰动的影响方面，引入对抗性能力作为一个重要参数，以精确性和稳健性之间的权衡关系。本研究考虑对对抗性扰动分类问题的一般框架，在大数据或整体数据的情况下进行研究。在这样的情况下，我们证明了当对抗性强度趋近于零时，最优分类器在 Hausdorff 距离上收敛于贝叶斯分类器。这一结果显著增强了先前通常集中在 $L^1$ 型收敛上的研究成果。主要论证依赖于直接的几何比较，并受到几何测度理论技术的启发。

    Jun, 2024

  • 对抗鲁棒特征的频谱视角

    研究建议通过解决开发对抗性强特征的简单问题来解决学习对抗性强模型的困难问题，并将对抗性强特征与数据集和度量的自然谱特性建立强连接，最终提供经验证据支持的通过光谱方法生成的对抗性强特征，从而学习到一个强健（又准确）的模型。

    Nov, 2018