通过促进集成多样性来提高对抗鲁棒性

ICMLJan, 2019

通过促进集成多样性来提高对抗鲁棒性

Improving Adversarial Robustness via Promoting Ensemble Diversity

Tianyu Pang, Kun Xu, Chao Du, Ning Chen, Jun Zhu

TL;DR该论文提出了一种新的方法，通过探索个体网络之间的交互来提高集成模型的抗干扰性，通过定义一种新的集成多样性的概念来在对抗性情境中促进网络多样性，并演示了一种适应性的多样性促进正则化器，以提高集成的鲁棒性。该方法在各种数据集上取得了良好的实验效果，同时保持了在正常情况下达到最新水平的精度。

Abstract

Though deep neural networks have achieved significant progress on various tasks, often enhanced by model ensemble, existing high-performance models can be vulnerable to adversarial attacks. Many efforts have been

deep neural networks adversarial attacks ensemble models ensemble diversity adversarial robustness

发现论文，激发创造

通过多样化训练提高集合模型的对抗鲁棒性

本研究通过多个神经网络的损失函数不相关来提高其对抗攻击的鲁棒性，提出了一种叫做多样化训练的方法，并发现该方法能够显著增强集合的对抗防御能力。

Jan, 2019

通过多样性的专门深度神经网络集成实现对抗鲁棒性

本文研究了利用多样的专业 CNNs 集成对黑盒对抗实例检测的影响，并加强白盒对抗攻击的生成，证明了不同专业集成的多样性如何减轻黑盒和白盒对抗示例的风险，并通过 MNIST 和 CIFAR-10 等实验证明了使用该集成可以检测大部分已知的黑盒对抗实例，从而显著降低敌人的风险率，但会在一定程度上增加干净样本的风险率。此外，相对于普通 CNN 和普通 CNN 集成，我们展示了集成生成白盒攻击的成功率显著下降，突显了集成中多样性对于开发更健壮模型的有益作用。

May, 2020

多元突出感知深度集成提高对抗性鲁棒性

提出一种基于多样性促进学习的深度集成方法，提高深度集成模型抵抗对手攻击的能力，减少攻击的迁移效应，实现更好的白盒和黑盒攻击防御性能。

Dec, 2021

数量大于强度：通过对抗训练的集合优化鲁棒性和计算效率

通过对对抗样本的数据增广训练神经网络模型，以提高模型的抗干扰性，并发现通过将小型模型构成的集成模型一起进行对抗训练相比使用单个大模型的训练更有效。而重点在于对整个集成模型的对抗训练，而不是只对每个模型进行对抗训练。

Nov, 2018

DVERGE: 增强集合模型的多样化漏洞生成

研究发现，针对图像分类的 CNN 模型存在重叠的对抗性漏洞，DVERGE 通过提取非鲁棒特征并使对抗性漏洞多样化，实现了针对转移攻击的高鲁棒性。

Sep, 2020

深度神经网络集成防御欺骗攻击：集成多样性、准确性和鲁棒性

本文阐述了集成学习的一些基本概念，研究了如何优化集成学习的多样性来对抗敌对攻击，并提供了一些算法来学习如何生成高精度的集成预测。

Aug, 2019

基于深度神经网络不确定性估计的动态集成选择以提高对抗鲁棒性

通过使用动态组合选择技术，该研究提出了一种在模型级别上利用 Dirichlet 分布和多样性约束构建替代集成模型空间的方法，以保护模型免受白盒攻击并提高鲁棒性，同时结合动态和多样性特性，实现了显著的鲁棒性结果而不损害准确性。

Aug, 2023

在对抗性环境下重新审视集成：提高自然精度

为了提高深度学习模型在实际应用中对小型对抗扰动的抵抗力和非恶意输入的准确性，我们考虑了一些集成方法，关键洞见在于训练模型以抵御小型攻击的模型在集成时可以承受更大的攻击，并且可以通过这个概念来优化自然准确性。我们考虑了两种方案，一种是从几个随机初始化的强韧模型中组合预测，另一种则是将强韧模型和标准模型的特征进行融合。

Feb, 2020

随机集成的对抗性漏洞

本文介绍了在深度学习领域中，随机集合相较于标准对抗训练具有更强的鲁棒性，而本文提出的理论框架证明了该观察结果的可靠性，同时改进的对抗攻击算法也被提出。

Jun, 2022

深度神经网络对抗扰动的防御方法：集成学习

采用集成方法作为防御策略可增强神经网络在 MNIST 和 CIFAR-10 数据集中对于对抗扰动的鲁棒性。

Sep, 2017