Apr, 2024

元不变性防御：对未知对抗性攻击具有普适健壮性

PDF
TL;DR通过 Meta Invariance Defense (MID) 方法，利用深度神经网络对抗已知和未知的对抗性攻击，实现高级图像分类的鲁棒性和低级图像恢复的抵御能力。
deep neural networkadversarial attacksdefense methodmeta invariance defenseadversarial perturbations
发现论文，激发创造
  • MetaAdvDet：面向演化型对抗攻击的鲁棒性检测

    通过元学习方法构建的双网络框架，旨在解决深度神经网络在遇到少量样本的新对抗攻击时检测精确度低的问题。在 CIFAR-10，MNIST 和 Fashion-MNIST 三个数据集上实验表明，该方法相比于传统的对抗攻击检测方法具有更高的有效性。

    Aug, 2019

  • 通过互信息正则化提高模型抗模型反演攻击的鲁棒性

    该研究提出了一种基于互信息正则化的防御模型反演攻击的方法，通过限制模型输入中包含的信息，从而限制对手从模型预测中推断出私有属性的能力。此方法能够应用于多种模型并在保护隐私和工具合理性方面取得更好的平衡。

    Sep, 2020

  • 采用深度度量学习改进对抗鲁棒性，提高对敏感性与不变性攻击的防御能力

    利用度量学习将对抗正则化框架建模为最优传输问题，可以提高模型对不变扰动和敏感性攻击的防御，从而在对抗样本防御方面具有普遍适用性。

    Nov, 2022

  • MTDeep: 以移动目标防御提升深度神经网络抵御对抗攻击的安全性

    本文提出了一种利用 Moving Target Defense（MTD）的元防御策略来提高深度神经网络（DNNs）在视觉分类任务中的鲁棒性，其中通过将策略交互组成 Bayesian Stackelberg Game（BSG）来确定选取哪个训练好的神经网络，实验证明 MTDeep 可以有效降低 MNIST、FashionMNIST 和 ImageNet 等数据集中被扰动图像的错误分类率，同时保持对于合法测试图像的高分类准确率，并且 MTDeep 能够与任何现有的防御机制一起使用。

    May, 2017

  • 深度防御：用改进的对抗训练训练 DNNs 提高其鲁棒性

    本文提出了一种名为 “deep defense” 的训练方法来解决深度神经网络易受到对抗样本攻击的问题，通过将对抗扰动的正则化器与分类目标相结合，得到的模型能够直接且准确地学习抵御潜在的攻击，实验证明该方法在不同数据集上对比对抗 / Parseval 正则化方法有更好的效果。

    Feb, 2018

  • 深度神经网络的高效元攻击

    本研究提出了一种元攻击方法，通过元学习的方法从以前观察到的攻击模式中学习可推广的先验抽象，并利用这样的先验信息，可以从很少的查询和输出中推断攻击模式，从而显着减少模型查询的数量，而不会牺牲攻击性能。

    Jun, 2019

  • 图像识别上的对抗攻击多用途防御

    在这篇论文中，提出了一种多功能的防御方法，只需要训练一个模型就能有效抵抗各种未知的对抗性攻击，并且该模型的分类准确率平均提高至 86%，表现比之前研究中提出的其他防御方法更好。在面对 PGD 攻击和 MI-FGSM 攻击时，多功能防御模型甚至超过了基于这两种攻击训练的特定攻击模型，并且鲁棒性检查显示我们的多功能防御模型在攻击强度下表现稳定。

    Mar, 2024

  • 基于感知度量的任务通用性对抗攻击

    提出一种基于永续度量的方法，通过创造高度扭曲网络特征空间的攻击来达到高度通用的敌对样本，旨在打破相对有限的目前攻击的限制，并可将其通过多个网络扩展到多个任务。

    Nov, 2018

  • 通过平移不变攻击规避转移对抗样本的防御

    本文提出了一种翻译不变攻击方法，该方法利用一个翻译图像集合上的扰动以生成更易于转移的对抗示例，并表明该方法通常适用于任何梯度攻击方法。作者在 ImageNet 数据集上广泛实验验证了该方法的有效性，并证明该攻击技术的存在不安全性。

    Apr, 2019

  • 模型无关元学习中的快速对抗性鲁棒性适应

    提出了一种基于元学习的小样本学习框架，通过在元模型更新阶段引入鲁棒性正则化来提高模型的对抗鲁棒性，在此基础上，提出了一个通用的鲁棒性正则化的元学习框架，可以使用不带标签的数据增强和对抗性攻击技术来实现有效的鲁棒性训练。此外，引入辅助对比学习任务进一步提高了模型的鲁棒性。

    Feb, 2021