通过多样化训练提高集合模型的对抗鲁棒性

Jan, 2019

通过多样化训练提高集合模型的对抗鲁棒性

Improving Adversarial Robustness of Ensembles with Diversity Training

Sanjay Kariyappa, Moinuddin K. Qureshi

TL;DR本研究通过多个神经网络的损失函数不相关来提高其对抗攻击的鲁棒性，提出了一种叫做多样化训练的方法，并发现该方法能够显著增强集合的对抗防御能力。

Abstract

deep neural networks are vulnerable to adversarial attacks even in settings where the attacker has no direct access to the model being attacked. Such attacks usually rely on the principle of →

deep neural networks adversarial attacks transferability ensemble of models diversity training

发现论文，激发创造

通过促进集成多样性来提高对抗鲁棒性

该论文提出了一种新的方法，通过探索个体网络之间的交互来提高集成模型的抗干扰性，通过定义一种新的集成多样性的概念来在对抗性情境中促进网络多样性，并演示了一种适应性的多样性促进正则化器，以提高集成的鲁棒性。该方法在各种数据集上取得了良好的实验效果，同时保持了在正常情况下达到最新水平的精度。

Jan, 2019

通过多样性的专门深度神经网络集成实现对抗鲁棒性

本文研究了利用多样的专业 CNNs 集成对黑盒对抗实例检测的影响，并加强白盒对抗攻击的生成，证明了不同专业集成的多样性如何减轻黑盒和白盒对抗示例的风险，并通过 MNIST 和 CIFAR-10 等实验证明了使用该集成可以检测大部分已知的黑盒对抗实例，从而显著降低敌人的风险率，但会在一定程度上增加干净样本的风险率。此外，相对于普通 CNN 和普通 CNN 集成，我们展示了集成生成白盒攻击的成功率显著下降，突显了集成中多样性对于开发更健壮模型的有益作用。

May, 2020

DVERGE: 增强集合模型的多样化漏洞生成

研究发现，针对图像分类的 CNN 模型存在重叠的对抗性漏洞，DVERGE 通过提取非鲁棒特征并使对抗性漏洞多样化，实现了针对转移攻击的高鲁棒性。

Sep, 2020

多元突出感知深度集成提高对抗性鲁棒性

提出一种基于多样性促进学习的深度集成方法，提高深度集成模型抵抗对手攻击的能力，减少攻击的迁移效应，实现更好的白盒和黑盒攻击防御性能。

Dec, 2021

数量大于强度：通过对抗训练的集合优化鲁棒性和计算效率

通过对对抗样本的数据增广训练神经网络模型，以提高模型的抗干扰性，并发现通过将小型模型构成的集成模型一起进行对抗训练相比使用单个大模型的训练更有效。而重点在于对整个集成模型的对抗训练，而不是只对每个模型进行对抗训练。

Nov, 2018

集成对抗训练：攻击和防御

该研究论文探讨了对抗性样本及训练，以及如何生成更强的对抗性样本以提高鲁棒性，介绍了集成对抗性训练技术，并表明在 ImageNet 数据集上应用该技术可以显著提高模型的鲁棒性。