ICCVAug, 2021

对抗性严重性的分层评估

PDF
TL;DR本文介绍了在 Adversarial Robustness 领域中，量化 adversarial noise 的影响的新概念 ——Adversarial Severity，并提出了使用基于 Hierarchical Attacks 的新型防护方法和 Hierarchical Curriculum Training 训练方法来提高深度模型的 Robustness 和减轻所有攻击的 severity。实验表明，这种防护方法可以使深度模型的 Robustness 提高 1.85％，平均减少攻击的 severity 0.17。
发现论文，激发创造
  • 深层神经网络的层级对抗鲁棒性的提升

    介绍了一种分类网络设计 -- 分层敌对强韧网络（HAR），将分类任务分解成一个粗分类和多个细分类任务，在经过敌对防御技术的有针对性训练后，极大地提高了神经网络对层次攻击的强度，实验表明对 CIFAR 数据集 L2 和 L∞有显著改进。

    Feb, 2021

  • 探索对抗前沿：通过对抗超体积量化健壮性

    通过提出一种新的测量指标 —— 对抗超体积（adversarial hypervolume），该研究验证了该指标对于揭示深度学习模型鲁棒性中微妙差异的有效性，为当前和未来的防御模型的韧性评估和基准制定提供了标准。

    Mar, 2024

  • 图像识别中神经网络稳健性评估综述

    近年来，对神经网络的稳健性评估引起了极大关注，深度学习的稳健性问题特别突出，研究人员致力于在图像识别任务中评估稳健性，在此综述中，我们对神经网络评估中敌对稳健性和扰动稳健性进行了详细研究，分析当前研究和标准，提供了图像识别中稳健性评估的广泛概述，分析了概念、度量标准和评估方法，研究了用于度量图像扰动程度的扰动度量和范围表示，以及特定于分类模型稳健性条件的稳健度量，还讨论了现有方法的优势和局限性，并提供了一些未来研究的潜在方向。

    Apr, 2024

  • 衡量样本级对抗性脆弱性及其在构建可信系统中的实用综合方法

    本文通过综合度量方法，结合高频特征和样本距离决策边界两个因素来可靠地估计样本的对抗脆弱性，实现了可以向人类警示测试样本高概率被错误分类的系统，并验证了该综合度量方法在样本筛选时优于随机和基于距离的方法。

    May, 2022

  • 神经网络对抗鲁棒性的有用分类法

    深度学习领域的对抗攻击和防御是目前研究的活跃领域。本文针对防御方法进行分类，提出了不同的分类方法：通过增加特征向量的类内紧凑性和类间分隔性来提高对抗鲁棒性，减小或移除非鲁棒图像特征来提高对抗鲁棒性。通过这种重新构架话题的方式，提供了新的视角，深入探讨使网络变得更加强健的潜在因素，启发了更多的解决方案。此外，文献中有一些关于对抗防御成本问题和鲁棒性与准确性之间的权衡的论述，但我们提出的分类方法可以解决这些问题。本文提出了几项挑战，以此推动深度学习研究的进一步发展。

    Oct, 2019

  • 对抗性样本的（不）可避免性

    该研究提出了一个确定深度学习模型标签更改是否合理的框架，并且定义了一个自适应的鲁棒性损失，使用导出的经验公式，开发了相应的数据增强框架和评估方法，证明了其对确定性标签下的一阶最近邻分类的维持一致性，并提供了实证评估结果。

    Jun, 2021

  • 神经网络鲁棒性解释和评估

    该研究提出了一种定量指标来评估神经网络模型的内在稳健性，并通过损失可视化的方式解释了对抗攻击和防御机制。该指标具有快速生成、结构和参数规模无关、可靠性高的优点，并提供了一种相对于不同测试设置不变的评估方法。

    May, 2019

  • 深度学习模型的整体对抗鲁棒性

    该研究论文综述了深度学习模型对抗鲁棒性的研究主题和基本原则，包括攻击、防御、验证和新应用。

    Feb, 2022

  • 对抗鲁棒性基准测试

    本研究旨在建立一个全面、严谨、连贯的标准来评估对抗性鲁棒性，通过两个鲁棒性曲线作为公正的评估标准来进行大规模实验，全面掌握攻击与防御方法的表现并得出重要结论和未来研究的启示。

    Dec, 2019

  • 探索健壮神经网络的误分类以增强对抗攻击

    针对当前神经网络抵御对抗攻击的能力较弱的情况，提出了一种新的损失函数，从而提高了 19 种不同状态下的神经网络的抗攻击能力。同时发现目前不良攻击行为只能诱发少量不同类别的误分类，过于自信或不自信都会影响对模型鲁棒性的准确评估。

    May, 2021