Sep, 2020

DVERGE: 增强集合模型的多样化漏洞生成

PDF
TL;DR研究发现，针对图像分类的 CNN 模型存在重叠的对抗性漏洞，DVERGE 通过提取非鲁棒特征并使对抗性漏洞多样化，实现了针对转移攻击的高鲁棒性。
adversarial vulnerabilitiescnn modelsensemble methodsrobustness improvementdverge
发现论文，激发创造
  • 通过多样化训练提高集合模型的对抗鲁棒性

    本研究通过多个神经网络的损失函数不相关来提高其对抗攻击的鲁棒性，提出了一种叫做多样化训练的方法，并发现该方法能够显著增强集合的对抗防御能力。

    Jan, 2019

  • 通过多样性的专门深度神经网络集成实现对抗鲁棒性

    本文研究了利用多样的专业 CNNs 集成对黑盒对抗实例检测的影响，并加强白盒对抗攻击的生成，证明了不同专业集成的多样性如何减轻黑盒和白盒对抗示例的风险，并通过 MNIST 和 CIFAR-10 等实验证明了使用该集成可以检测大部分已知的黑盒对抗实例，从而显著降低敌人的风险率，但会在一定程度上增加干净样本的风险率。此外，相对于普通 CNN 和普通 CNN 集成，我们展示了集成生成白盒攻击的成功率显著下降，突显了集成中多样性对于开发更健壮模型的有益作用。

    May, 2020

  • 通过促进集成多样性来提高对抗鲁棒性

    该论文提出了一种新的方法，通过探索个体网络之间的交互来提高集成模型的抗干扰性，通过定义一种新的集成多样性的概念来在对抗性情境中促进网络多样性，并演示了一种适应性的多样性促进正则化器，以提高集成的鲁棒性。该方法在各种数据集上取得了良好的实验效果，同时保持了在正常情况下达到最新水平的精度。

    Jan, 2019

  • 多元突出感知深度集成提高对抗性鲁棒性

    提出一种基于多样性促进学习的深度集成方法，提高深度集成模型抵抗对手攻击的能力，减少攻击的迁移效应，实现更好的白盒和黑盒攻击防御性能。

    Dec, 2021

  • 数量大于强度：通过对抗训练的集合优化鲁棒性和计算效率

    通过对对抗样本的数据增广训练神经网络模型，以提高模型的抗干扰性，并发现通过将小型模型构成的集成模型一起进行对抗训练相比使用单个大模型的训练更有效。而重点在于对整个集成模型的对抗训练，而不是只对每个模型进行对抗训练。

    Nov, 2018

  • 多散布低曲率模型融合的集成对抗防御

    通过降低攻击的可转移性，我们的研究试图增强集成模型的多样性，特别关注在曲率的影响下训练多个更多样且具有低曲率的网络模型，从而提高对各种攻击的鲁棒性。

    Mar, 2024

  • 在对抗性环境下重新审视集成：提高自然精度

    为了提高深度学习模型在实际应用中对小型对抗扰动的抵抗力和非恶意输入的准确性，我们考虑了一些集成方法，关键洞见在于训练模型以抵御小型攻击的模型在集成时可以承受更大的攻击，并且可以通过这个概念来优化自然准确性。我们考虑了两种方案，一种是从几个随机初始化的强韧模型中组合预测，另一种则是将强韧模型和标准模型的特征进行融合。

    Feb, 2020

  • 深度神经网络集成防御欺骗攻击：集成多样性、准确性和鲁棒性

    本文阐述了集成学习的一些基本概念，研究了如何优化集成学习的多样性来对抗敌对攻击，并提供了一些算法来学习如何生成高精度的集成预测。

    Aug, 2019

  • 风格化对抗防御

    利用目标样本的样式和内容信息以及其类边界信息创建对抗性扰动，将其应用于多任务目标并进行深度监督，提取多尺度特征知识以创建最大分离对手，随后提出最大间隔对抗训练方法，最小化源图像与其对手之间的距离，并最大化对手和目标图像之间的距离，证明与最先进的防御相比，我们提出的对抗训练方法表现出强大的鲁棒性，对自然出现的损坏和数据分布变化具有良好的泛化能力，并保留了模型在干净样本上的准确性。

    Jul, 2020

  • 集成模型及其可证明鲁棒性

    该研究分析和提供了证明鲁棒性的集成机器学习模型，其中多样化的梯度和大置信度边界被证明是实现可证书鲁棒模型的必要和充分条件。他们提出了基于多模型平滑策略的有界模型平滑度分析，并证明了集成模型在温和条件下可以始终比单一基础模型实现更高的可证书鲁棒性。他们提出了轻量级多样性正则化的训练用于训练证明的鲁棒集成机器学习模型，不仅比现有的单一模型和集成模型实现了更高的可证书的鲁棒性，还在 MNIST，CIFAR-10 和 ImageNet 数据集上实现了最先进的 L2 - 鲁棒性。

    Jul, 2021