Aug, 2021

对抗性严重性的分层评估

HTML
PDF
TL;DR本文介绍了在Adversarial Robustness领域中，量化adversarial noise的影响的新概念——Adversarial Severity，并提出了使用基于Hierarchical Attacks的新型防护方法和Hierarchical Curriculum Training训练方法来提高深度模型的Robustness和减轻所有攻击的severity。实验表明，这种防护方法可以使深度模型的Robustness提高1.85％，平均减少攻击的severity 0.17。
发现论文，激发创造
  • 神经网络对抗鲁棒性的有用分类法

    深度学习领域的对抗攻击和防御是目前研究的活跃领域。本文针对防御方法进行分类，提出了不同的分类方法：通过增加特征向量的类内紧凑性和类间分隔性来提高对抗鲁棒性，减小或移除非鲁棒图像特征来提高对抗鲁棒性。通过这种重新构架话题的方式，提供了新的视角，深入探讨使网络变得更加强健的潜在因素，启发了更多的解决方案。此外，文献中有一些关于对抗防御成本问题和鲁棒性与准确性之间的权衡的论述，但我们提出的分类方法可以解决这些问题。本文提出了几项挑战，以此推动深度学习研究的进一步发展。

    Oct, 2019

  • 一组不同参数攻击的集成用于可靠评估对抗鲁棒性

    本文提出两个方法以提高PGD攻击的效率，进而结合现有方法构成一个全新的攻击集合，用于测试对抗鲁棒性，并在50多个模型上进行了测试，发现一些已经被攻破的防御机制。

    Mar, 2020

  • 揭示对范数受限对抗样本的对抗训练极限

    探索对抗训练的极限，发现了通过结合更大的模型、Swish/SiLU激活函数和模型权重平均化可以训练出强健模型，同时在CIFAR-10和CIFAR-100数据集上有了大幅度的提升。

    Oct, 2020

  • 一个标准的对抗鲁棒性基准测试RobustBench

    为了建立标准化的对抗性鲁棒性基准，我们考虑了图片分类任务，并引入了允许的模型限制，使用 AutoAttack 进行评估，同时提供80多种鲁棒模型的开源库，分析了鲁棒性对分布偏移、平滑性等性能的影响。

    Oct, 2020

  • 深层神经网络的层级对抗鲁棒性的提升

    介绍了一种分类网络设计 -- 分层敌对强韧网络（HAR），将分类任务分解成一个粗分类和多个细分类任务，在经过敌对防御技术的有针对性训练后，极大地提高了神经网络对层次攻击的强度，实验表明对CIFAR数据集L2和L∞有显著改进。

    Feb, 2021

  • 探索健壮神经网络的误分类以增强对抗攻击

    针对当前神经网络抵御对抗攻击的能力较弱的情况，提出了一种新的损失函数，从而提高了19种不同状态下的神经网络的抗攻击能力。同时发现目前不良攻击行为只能诱发少量不同类别的误分类，过于自信或不自信都会影响对模型鲁棒性的准确评估。

    May, 2021

  • 对抗性训练中类别稳健性的分析和应用

    本文研究了对抗训练中的类别鲁棒性问题，提出了一种基于温度的PGD攻击方法，并对训练和推断阶段进行了改进，以降低类别鲁棒性差异。实验结果表明，该方法可以取得更高的攻击成功率。

    May, 2021

  • 衡量样本级对抗性脆弱性及其在构建可信系统中的实用综合方法

    本文通过综合度量方法，结合高频特征和样本距离决策边界两个因素来可靠地估计样本的对抗脆弱性，实现了可以向人类警示测试样本高概率被错误分类的系统，并验证了该综合度量方法在样本筛选时优于随机和基于距离的方法。

    May, 2022

  • 加强对抗性容错性评估的置信度

    该研究提出了一种测试方法以识别弱攻击和防御评估，为了增强透明和信心，将攻击单元测试作为未来强度评估的重要组成部分。

    Jun, 2022

  • 探索对抗前沿：通过对抗超体积量化健壮性

    通过提出一种新的测量指标——对抗超体积（adversarial hypervolume），该研究验证了该指标对于揭示深度学习模型鲁棒性中微妙差异的有效性，为当前和未来的防御模型的韧性评估和基准制定提供了标准。

    Mar, 2024