多元突出感知深度集成提高对抗性鲁棒性

AAAIDec, 2021

多元突出感知深度集成提高对抗性鲁棒性

Saliency Diversified Deep Ensemble for Robustness to Adversaries

Alex Bogun, Dimche Kostadinov, Damian Borth

TL;DR提出一种基于多样性促进学习的深度集成方法，提高深度集成模型抵抗对手攻击的能力，减少攻击的迁移效应，实现更好的白盒和黑盒攻击防御性能。

Abstract

deep learning models have shown incredible performance on numerous image recognition, classification, and reconstruction tasks. Although very appealing and valuable due to their predictive capabilities, one common threat remains challenging to resolve. A specifically trained attacker c

deep learning adversarial attacks ensemble defense saliency map diversity robustness

发现论文，激发创造

通过多样性的专门深度神经网络集成实现对抗鲁棒性

本文研究了利用多样的专业 CNNs 集成对黑盒对抗实例检测的影响，并加强白盒对抗攻击的生成，证明了不同专业集成的多样性如何减轻黑盒和白盒对抗示例的风险，并通过 MNIST 和 CIFAR-10 等实验证明了使用该集成可以检测大部分已知的黑盒对抗实例，从而显著降低敌人的风险率，但会在一定程度上增加干净样本的风险率。此外，相对于普通 CNN 和普通 CNN 集成，我们展示了集成生成白盒攻击的成功率显著下降，突显了集成中多样性对于开发更健壮模型的有益作用。

May, 2020

通过多样化训练提高集合模型的对抗鲁棒性

本研究通过多个神经网络的损失函数不相关来提高其对抗攻击的鲁棒性，提出了一种叫做多样化训练的方法，并发现该方法能够显著增强集合的对抗防御能力。

Jan, 2019

深度集成多样化：一种基于显著性图的增强 OOD 检测、校准和精度的方法

本文提出了一种基于显著性地图的深度集成方法，通过增加集合成员之间的差异性来改进分类和 OOD 检测。在多项实验中，该方法优于传统集成技术，同时提高了校准性，在 OpenOOD 基准测试中显示出潜在的实际应用前景。

May, 2023

通过促进集成多样性来提高对抗鲁棒性

该论文提出了一种新的方法，通过探索个体网络之间的交互来提高集成模型的抗干扰性，通过定义一种新的集成多样性的概念来在对抗性情境中促进网络多样性，并演示了一种适应性的多样性促进正则化器，以提高集成的鲁棒性。该方法在各种数据集上取得了良好的实验效果，同时保持了在正常情况下达到最新水平的精度。

Jan, 2019

深度神经网络集成防御欺骗攻击：集成多样性、准确性和鲁棒性

本文阐述了集成学习的一些基本概念，研究了如何优化集成学习的多样性来对抗敌对攻击，并提供了一些算法来学习如何生成高精度的集成预测。