扩展对抗训练以应对大扰动界限

ECCVOct, 2022

Scaling Adversarial Training to Large Perturbation Bounds

Sravanti Addepalli, Samyak Jain, Gaurang Sriramanan, R.Venkatesh Babu

TL;DR本文提出一种新的方法，通过 Oracle-Aligned Adversarial Training (OA-AT) 的方式来提高神经网络对抗攻击的鲁棒性，可以在大的扰动（如 L-inf bound 为 16/255 时）达到最先进的性能，同时在标准边界（8/255）也胜过现有的防御机制。

Abstract

The vulnerability of deep neural networks to adversarial attacks has fuelled research towards building robust models. While most adversarial trai

deep neural networks adversarial attacks adversarial training oracle-aligned adversarial training l-inf bound

发现论文，激发创造

攻击对抗性攻击作为一种防御

通过对敌对学习及攻击的深入探究，我们发现在敌对性训练的模型中，用微小的随机噪声扰动部分攻击样本能够破坏其误导性预测，为此我们提出了一种有效的防御方法，是通过制造更加有效的防御扰动方法，利用敌对训练降低了地面真实的局部 Lipschitzness，同时攻击所有类别，将误导的预测转换为正确的预测，这种方法在经验实验证明有效。

Jun, 2021

朝着对大幅扰动有抵抗力的深度学习模型

本文提出了一种网络权重初始化的方法，使其能够在更高噪声水平下学习，同时评估了在 MNIST 和 CIFAR10 数据集上增强对抗噪声对学习范围的影响，并通过对简单多维伯努利分布的理论结果进行研究，提出了一些关于 MNIST 数据集可行扰动范围的见解。

Mar, 2020

揭示对范数受限对抗样本的对抗训练极限

探索对抗训练的极限，发现了通过结合更大的模型、Swish/SiLU 激活函数和模型权重平均化可以训练出强健模型，同时在 CIFAR-10 和 CIFAR-100 数据集上有了大幅度的提升。

Oct, 2020

对抗训练的规范不可知鲁棒性

本文研究对抗样本攻击机器学习模型并提出一种新的攻击方法，证明最先进的对抗训练方法无法同时获得对 $\ell_2$ 和 $\ell_\infty$ 范数的健壮性，提出可能的解决方案及其局限性。

May, 2019

极端误校准与对抗鲁棒性的错觉

深度学习自然语言处理（NLP）模型容易受到对抗性攻击，而测试时的温度缩放可提高真正的鲁棒性。

Feb, 2024

∞范数的健壮性与更多因素：高效对抗训练技术的实现

本篇论文阐述了对于神经网络存在攻击的情况下，如何通过对抗训练和小样本训练方法，提高模型的鲁棒性。

Dec, 2021

实例自适应对抗训练：神经网络中更好的准确性和权衡

本文提出了一种实例自适应对抗训练技术，通过在每个训练样本周围施加特定的扰动边缘来实现更好的泛化能力和测试准确性。

Oct, 2019

针对自然扰动的属性引导对抗训练

本文提出了一种基于对抗训练的方法，用于使深度神经网络具有对各种自然产生的扰动的鲁棒性，解决了当前小像素级扰动方法的不足，关键在于最大化分类器对属性空间的曝光度。

Dec, 2020

利用弱点感知扰动预算改进对抗训练

透过对自然样本的脆弱性进行考量，提出了两种简单、计算成本低的方法 (Margin-Weighted Perturbation Budget 与 Standard-Deviation-Weighted Perturbation Budget)，用于为 Adversarial Training 算法中的对抗样本分配扰动范围，实验证明这些方法有效地提升了算法的鲁棒性。

Mar, 2024

集成对抗训练：攻击和防御

该研究论文探讨了对抗性样本及训练，以及如何生成更强的对抗性样本以提高鲁棒性，介绍了集成对抗性训练技术，并表明在 ImageNet 数据集上应用该技术可以显著提高模型的鲁棒性。

May, 2017