面向数据中心强健学习的抵抗基于迁移的对抗性攻击的深度学习模型

Oct, 2023

面向数据中心强健学习的抵抗基于迁移的对抗性攻击的深度学习模型

Towards Deep Learning Models Resistant to Transfer-based Adversarial Attacks via Data-centric Robust Learning

Yulong Yang, Chenhao Lin, Xiang Ji, Qiwei Tian, Qian Li...

TL;DR该研究提出了一种名为数据中心稳健学习（DRL）的新的防御范例，通过在训练之前进行一次性的对抗性增强来提高对迁移攻击的稳健性，并且在黑盒稳健性上超过了多种常用的对抗训练技术。此外，DRL 还具有模型的泛化能力和稳健公平性。

Abstract

transfer-based adversarial attacks raise a severe threat to real-world deep learning systems since they do not require access to target models. Adversarial training (AT), which is recognized as the strongest defense against white-box attacks, has also guaranteed high robustness to (bla

transfer-based adversarial attacks adversarial training data-centric robust learning black-box robustness model generalization capability

发现论文，激发创造

对抗分布式训练用于强健深度学习

本文提出了一种新的模型训练框架 - 对抗分布式训练（ADT），通过最小值最大化优化问题，训练模型来学习处理各种威胁。ADT 的有效性也在几个基准测试中得到了验证。

Feb, 2020

具有可迁移性对抗样本的有效对抗训练

该研究论文介绍了新型对抗训练方法 ATTA，利用同一训练进程中相邻时期的模型具有高可转移性的特点，通过积累对抗扰动来增强训练模型的鲁棒性，并显著提高训练效率。相较于最先进的对抗训练方法，ATTA 在 CIFAR10 数据集上能提高 7.2% 的对抗准确性，在 MNIST 和 CIFAR10 数据集中只需 12-14 倍的训练时间就可以达到可比的模型鲁棒性。

Dec, 2019

增强扩散以提高强健性泛化能力

本文提出了一种名为 Diffusion Enhanced Adversarial Training (DEAT) 的新方法，以改善 Adversarial Training 中的 generalization 问题，理论上证明了 DEAT 比主要 AT 框架 ——Projected Gradient Descent Adversarial Training (PGD-AT) 更紧密的泛化界限，并通过广泛的实证调查证实了 DEAT 的优越性。

Jun, 2023

AROID：通过在线逐实例数据增强提高对抗鲁棒性

该论文提出了一种新的方法，通过在线实例化学习数据增强策略来提高 Deep neural networks 的 Adversarial training 的鲁棒性，在多个模型结构和数据集上成功地超越了现有的竞争性数据增强方法。

Jun, 2023

借鉴过去：基于代理的对抗性防御框架提升稳健性能

一篇关于深度学习模型鲁棒性和对抗性训练的研究论文，提出了一个基于历史状态的更新规则和自蒸馏的防御目标，以提高模型的鲁棒性和训练稳定性。

Oct, 2023

通过集成方法实现可转移音频对抗攻击

本研究旨在探究对深度学习语音识别中对抗性样本传递性的影响因素，发现图像与语音识别中对抗性样本传递性的巨大差异，并提出了基于随机梯度集成和动态梯度加权集成的两种新方法，获得了有效的传递性。

Apr, 2023

光谱视角理解和提高对抗鲁棒性

本研究从频谱的角度探讨对抗性训练机制（AT），展示在低频区保留偏向形状的表示能够提高深度神经网络（DNNs）的鲁棒性，并提出了一种名称为 “频谱对齐正则化”（SAR）的训练方法，在多个数据集和攻击下显著提高 DNNs 的鲁棒准确性。

Jun, 2023

在对抗训练中提高最劣鲁棒性

本文提出了一种最差类对抗训练（worst-class adversarial training）的新框架，利用无悔动态来解决对抗样本攻击的问题，旨在获得在最差情况下表现优异的分类器，并在同时仅牺牲少量平均鲁棒性。作者在各种数据集和网络上的实验证明了该方法超越了现有方法。

Feb, 2023

针对深度强化学习的隐蔽高效敌对攻击

探索针对深度强化学习的对抗攻击，并提出两种攻击技术：关键点攻击和拮抗攻击，以提高鲁棒性，实验结果显示这两种技术比现有方法更具优势。

May, 2020

净化上的对抗性训练（AToP）：增强鲁棒性和泛化能力

在这篇论文中，研究人员提出了一种称为对抗训练纯化（AToP）的新框架，通过随机转换（RT）的扰动破坏和对抗损失下的纯化模型优化（FT）来加强深度神经网络对抗攻击的鲁棒性和泛化能力，并通过对 CIFAR-10、CIFAR-100 和 ImageNette 的广泛实验表明其在对抗攻击防御方面达到了最先进的结果和泛化能力。

Jan, 2024