理解和改进集成对抗防御

Oct, 2023

Understanding and Improving Ensemble Adversarial Defense

Yian Deng, Tingting Mu

TL;DR通过理论和实验证明集成对抗性防御能够提高效果，提出了一种新的相互作用全球对抗性训练方法，能够通过分配规则和正则化改进集成对抗性防御，提高模型性能。

Abstract

The strategy of ensemble has become popular in adversarial defense, which trains multiple base classifiers to defend against adversarial attacks in a cooperative manner. Despite the empirical success, theoretical explanations on why an ensemble of adversarially trained classifiers is m

ensemble adversarial defense error theory 0-1 loss reduction interactive global adversarial training base classifiers

发现论文，激发创造

集成对抗训练：攻击和防御

该研究论文探讨了对抗性样本及训练，以及如何生成更强的对抗性样本以提高鲁棒性，介绍了集成对抗性训练技术，并表明在 ImageNet 数据集上应用该技术可以显著提高模型的鲁棒性。

May, 2017

深度神经网络对抗扰动的防御方法：集成学习

采用集成方法作为防御策略可增强神经网络在 MNIST 和 CIFAR-10 数据集中对于对抗扰动的鲁棒性。

Sep, 2017

博弈论混合专家在组合对抗机器学习中的应用

本文提供了一种博弈论框架，旨在找到防御者在面对攻击者使用组合性对抗性攻击时的 Mixed-Nash 策略，该框架创造了一组拥有更大鲁棒性的防御措施，相比于多个最先进的单模型防御措施和概率分布均匀的组合防御措施，并且在行业中推进对组合攻击和防御公式的新见解。

Nov, 2022

对抗样本防御：弱防御的集成无法变强

本文探讨多种防御手段组成的强防御系统在防御神经网络对抗性样本方面的效果，研究表明仅靠多种弱防御手段的组合并不能提供强大的对抗性样本防御能力。

Jun, 2017

数量大于强度：通过对抗训练的集合优化鲁棒性和计算效率

通过对对抗样本的数据增广训练神经网络模型，以提高模型的抗干扰性，并发现通过将小型模型构成的集成模型一起进行对抗训练相比使用单个大模型的训练更有效。而重点在于对整个集成模型的对抗训练，而不是只对每个模型进行对抗训练。

Nov, 2018

自组合对抗训练提高鲁棒性

本文提出了一种简单而强大的自我整合对抗训练方法 (SEAT)，通过在训练数据池中加入对抗样本来提高目标模型的鲁棒性，并通过历史模型的权重平均值产生一个健壮的分类器，该方法比起其他防御策略在各种对抗攻击下提高了很多的鲁棒性

Mar, 2022

通过专家集成的方法实现在对抗样本下的鲁棒性

通过使用多个专家的集合，其中专业按混淆矩阵定义，我们发现在存在对抗实例的情况下，专家集合能更好地识别和拒绝愚弄实例，通过拒绝机制使系统更加鲁棒，而不是试图以任何代价正确地对抗其进行分类。

Feb, 2017

随机集成的对抗性漏洞

本文介绍了在深度学习领域中，随机集合相较于标准对抗训练具有更强的鲁棒性，而本文提出的理论框架证明了该观察结果的可靠性，同时改进的对抗攻击算法也被提出。

Jun, 2022

训练集成来检测对抗样本

提出了一种新的集成方法，用于检测和分类最新攻击算法生成的对抗样本，包括 DeepFool 和 C&W，该方法通过训练集成成员对随机良性样本的分类误差较低同时在训练分布之外的样本上最小化一致性来工作。结果表明该方法能够抵抗白盒和黑盒攻击，并且在 MNIST 数据集上表现良好。

Dec, 2017

在对抗性环境下重新审视集成：提高自然精度

为了提高深度学习模型在实际应用中对小型对抗扰动的抵抗力和非恶意输入的准确性，我们考虑了一些集成方法，关键洞见在于训练模型以抵御小型攻击的模型在集成时可以承受更大的攻击，并且可以通过这个概念来优化自然准确性。我们考虑了两种方案，一种是从几个随机初始化的强韧模型中组合预测，另一种则是将强韧模型和标准模型的特征进行融合。

Feb, 2020