通过快速微调强健分类器实现对抗多 l𝑝威胁模型和单一 l𝑝威胁模型的强健性

ICMLMay, 2021

通过快速微调强健分类器实现对抗多 l𝑝威胁模型和单一 l𝑝威胁模型的强健性

Adversarial Robustness against Multiple and Single $l_p$-Threat Models via Quick Fine-Tuning of Robust Classifiers

Francesco Croce, Matthias Hein

TL;DR本文提出了一种基于几何特性的极值范数对抗训练（E-AT）方法，不同于其他方法的是，它有效地提供了一种多范数的鲁棒性，且其训练时间仅为其他多范数对抗训练方法的三分之一，E-AT 方法在 ImageNet 的单个 epoch 和 CIFAR-10 的三个 epoch 的训练下，只需要一种 $l_p$ 对抗模型就可以将其传播到多种 $l_p$ 威胁模型并显著提高多个 $l_p$ 鲁棒模型在 CIFAR-10 上的最新技术水平。

Abstract

A major drawback of adversarially robust models, in particular for large scale datasets like imagenet, is the extremely long training time compared to standard ones. Moreover, models should be robust not only to one $l_p$-threat model but ideally to all of them. In this paper we propos

adversarial training multiple-norm robustness imagenet $l_p$-threat models fine-tuning

发现论文，激发创造

RAMP：提高对多个 $l_p$ 扰动的对抗鲁棒性

通过分析 $l_p$ 攻击中的权衡，我们设计了一种对数配对损失来提高联合准确性，并通过梯度投影将自然训练与对抗训练相结合，以改善准确性与鲁棒性之间的权衡，提出了一个名为 RAMP 的框架来增强对多个 $l_p$ 扰动的鲁棒性。

Feb, 2024

多扰动下的对抗训练和鲁棒性

针对对抗样本的防御，如对抗训练，通常针对单个干扰类型（例如小的 l∞- 噪声），对于其它类型的干扰，这些防御没有保障，甚至会增加模型的脆弱性。我们的目标是了解这种鲁棒性取舍背后的原因，并训练同时对多种扰动类型具有鲁棒性的模型。

Apr, 2019

面向未知分布的对抗鲁棒性

该研究探讨了在深度学习领域，对抗性鲁棒性的问题及其解决方法，提出了领域泛化和风险外推方法来应对不同攻击方式，对测试攻击的准确率得到了大幅提升。

Oct, 2022

扩展对抗训练以应对大扰动界限

本文提出一种新的方法，通过 Oracle-Aligned Adversarial Training (OA-AT) 的方式来提高神经网络对抗攻击的鲁棒性，可以在大的扰动（如 L-inf bound 为 16/255 时）达到最先进的性能，同时在标准边界（8/255）也胜过现有的防御机制。

Oct, 2022

多扰动模型联合的对抗鲁棒性

本研究提出了一种基于 PGD-based 的方法，该方法融合多种扰动模型来提高深度学习系统的鲁棒性，并在 MNIST 和 CIFAR10 数据集上进行了测试。

Sep, 2019

迈向组合性对抗性鲁棒性：将对抗性训练推广到复合语义扰动

本文提出了一种新的生成组合对抗样本的方法和一种广义对抗训练方法，能够实现模型对多种组合语义扰动的鲁棒性，包括色调、饱和度、亮度、对比度和旋转等，并在 ImageNet 和 CIFAR-10 数据集上具有显著性能优势。

Feb, 2022

∞范数的健壮性与更多因素：高效对抗训练技术的实现

本篇论文阐述了对于神经网络存在攻击的情况下，如何通过对抗训练和小样本训练方法，提高模型的鲁棒性。

Dec, 2021

揭示对范数受限对抗样本的对抗训练极限

探索对抗训练的极限，发现了通过结合更大的模型、Swish/SiLU 激活函数和模型权重平均化可以训练出强健模型，同时在 CIFAR-10 和 CIFAR-100 数据集上有了大幅度的提升。

Oct, 2020

快速自适应边界攻击生成最小扭曲的对抗样本

本文提出了一种新的基于 $l_p$-norms 的白盒对抗攻击方法，通过最小化扰动的大小来改变特定输入的类别，这个方法具有几何直观性，是一种性能优越的攻击方法，比专门针对一个 $l_p$-norm 的攻击方法具有更好的鲁棒性，并且可以解决梯度掩盖的问题。

Jul, 2019

对抗训练的规范不可知鲁棒性

本文研究对抗样本攻击机器学习模型并提出一种新的攻击方法，证明最先进的对抗训练方法无法同时获得对 $\ell_2$ 和 $\ell_\infty$ 范数的健壮性，提出可能的解决方案及其局限性。

May, 2019