Oct, 2021

为正确的原因上当：通过教师引导的课程学习方法提高对抗性鲁棒性

PDF
TL;DR通过限制像素扰动以及使用更准确的物体属性图，提出了一种非迭代的训练方法，实现了在 CIFAR-10、CIFAR-100 和 TinyImageNet 数据集上比现有的 AT 方法更高的鲁棒性，在对抗攻击和自然精度方面优于其他方法。
adversarial robustnessattribution mapsrestricted perturbationsperformance gainsadversarial attacks
发现论文，激发创造
  • SAT: 基于课程的损失平滑改进对抗训练

    本文提出了一种平滑对抗训练方法 (SAT)，它利用课程学习的思想对对抗训练过程进行平滑处理，提高了对抗训练的稳定性并在干净精度与鲁棒性之间实现了更好的权衡，具体方法基于海森矩阵的特征值以及 softmax 概率，实验结果显示该方法在 CIFAR-100 和 Imagenette 数据集上比 AT 方法显著提升了干净度与鲁棒度。

    Mar, 2020

  • FACTUAL: 基于对比学习的鲁棒 SAR 图像分类的新框架

    利用 FACTUAL 框架进行对抗训练和鲁棒性合成孔径雷达目标识别，通过引入逼真的物理对抗攻击方案和线性分类器级联的方法，在干净样本和扰动样本上预训练和微调后，模型在两种情况下的预测准确率分别达到 99.7% 和 89.6%，都优于现有最先进方法。

    Apr, 2024

  • 课程对抗训练

    本文提出课程对抗性训练 (CAT) 的方法，通过产生一系列攻击强度不同的对抗性样本，使用两种技术解决模型遗忘和泛化问题， 并证明 CAT 方法可以将 CIFAR-10 和 SVHN 的经验最坏情况精度大幅提高 25% 和 35%。同时，在非对抗性输入上，该模型的表现与现有最先进模型相当。

    May, 2018

  • 通过缩放定律和人机对齐研究来限制对抗鲁棒性

    对于使图像分类器对微小扰动具有稳健性的问题，本文通过开发对抗训练的首个可扩展规律分析了模型大小、数据集大小和合成数据质量对稳健性的影响，并提出了对进一步推动该领域的可行建议。

    Apr, 2024

  • 针对自然扰动的属性引导对抗训练

    本文提出了一种基于对抗训练的方法，用于使深度神经网络具有对各种自然产生的扰动的鲁棒性，解决了当前小像素级扰动方法的不足，关键在于最大化分类器对属性空间的曝光度。

    Dec, 2020

  • 双边对抗训练：快速训练更健壮的模型以抵御对抗性攻击

    本文提出了一种 Bilateral Adversarial Training 方法，使用一步定向攻击生成对抗样本来训练一个抗攻击性更强的神经网络，实验结果表明该方法对于对抗性攻击的鲁棒性有显著提升。

    Nov, 2018

  • 风格化对抗防御

    利用目标样本的样式和内容信息以及其类边界信息创建对抗性扰动，将其应用于多任务目标并进行深度监督，提取多尺度特征知识以创建最大分离对手，随后提出最大间隔对抗训练方法，最小化源图像与其对手之间的距离，并最大化对手和目标图像之间的距离，证明与最先进的防御相比，我们提出的对抗训练方法表现出强大的鲁棒性，对自然出现的损坏和数据分布变化具有良好的泛化能力，并保留了模型在干净样本上的准确性。

    Jul, 2020

  • 用简单基线重新思考对抗性训练

    使用简单有效的基线方法，通过将调整后的平方损失、循环学习速率和 Erasing 数据增强相结合的训练协议，取得了 CIFAR 和 SVHN 的 RobustBench 上有竞争力的结果。

    Jun, 2023

  • 借鉴过去：基于代理的对抗性防御框架提升稳健性能

    一篇关于深度学习模型鲁棒性和对抗性训练的研究论文，提出了一个基于历史状态的更新规则和自蒸馏的防御目标，以提高模型的鲁棒性和训练稳定性。

    Oct, 2023

  • 关于显著图和对抗鲁棒性

    本文提出了一种基于 Saliency map 的对抗训练方法（SAT），通过使用详细的弱显著性图（如边界框和分割掩码）来改进模型的对抗鲁棒性，同时展示了如何进一步提高性能。

    Jun, 2020