IJCAIMay, 2019

利用对抗训练模型中的潜在层漏洞

PDF
TL;DR本研究通过对鲁棒性模型的分析，发现相对于输入层抗攻击性较强的特征层是高度容易受到小幅度形变攻击的。在此基础上，我们提出了一种名为 LAT 的新技术，通过对已经进行对抗性训练的模型进行微调，以保证其特征层的鲁棒性。研究表明此方法对 MNIST、CIFAR-10 和 CIFAR-100 数据集的前沿对抗准确度有轻微提升。
neural networksadversarial attacksadversarial traininglatent layeradversarial accuracy
发现论文，激发创造
  • 潜在对抗性训练在未知故障模式中的防御

    利用潜在对抗训练（LAT）来防御弱点，减少依赖生成激发输入的方法；通过对图像分类、文本分类和文本生成任务进行实验，LAT 通常在干净数据上提高了鲁棒性和性能，对于开发人员未明确识别的失效模式具备潜在应用前景。

    Mar, 2024

  • LAFEAT：通过潜在特征穿透对抗防御

    本文介绍了目前 CNN 模型容易受到对抗攻击的困境，提出了一种可以利用隐藏组件 LAFEAT 进行攻击的算法，并证明该算法不仅计算效率更高，而且比目前现有的防御技术更为强大。这表明模型鲁棒性可能取决于防御者隐藏组件的有效使用，并且不应从整体的角度来看待。

    Apr, 2021

  • 在潜空间中产生对抗性攻击

    通过使用生成对抗网络在潜在空间中注入对抗性扰动，避免了基于边缘的先验条件并确保了与基于像素的对抗性攻击方法相比视觉上真实的高度，实现了在 MNIST，CIFAR10，Fashion-MNIST，CIFAR100 和 Stanford Dogs 数据集上生成对抗攻击的有效性。

    Apr, 2023

  • 用反对手对抗对手

    通过提出反对抗层，解决深度神经网络对小幅度输入扰动的脆弱性问题，并在 CIFAR10、CIFAR100 和 ImageNet 数据集上进行实验，结果显示该方法显著提高了模型的稳健性能且对准确率没有成本影响。

    Mar, 2021

  • 通过局部和全局潜在分布提高模型的鲁棒性

    通过全局流形的视角考虑深度神经网络对抗攻击的模型鲁棒性问题，提出了一种新的对抗训练方法 ATLD，该方法在不受监督的情况下，利用了本地和全局潜在信息，通过对抗游戏生成潜在流形对抗性实例，保留了流形的局部和全局信息，具有良好的鲁棒性，实验结果表明该方法在多个数据集上显著优于现有技术。

    Jul, 2021

  • AdvGAN++：利用潜层进行对抗样本生成

    提出了一种基于 GAN 网络的对抗生成方法 AdvGAN++，利用潜在特征作为先验，在 MNIST 和 CIFAR-10 数据集上生成了更高攻击成功率和视觉上更真实的对抗样本。

    Aug, 2019

  • 通过潜在对抗扰动实现可靠的快速对抗训练

    本研究提出了一种基于潜在对抗扰动的单步对抗性训练方法，通过梯度正则化来确保性能稳定，并且与现有的基于输入空间的对抗性训练方法相比，具有更高的计算效率和更好的表现。

    Apr, 2021

  • 神经网络潜在表征中的对抗性机器学习

    通过信息论的背景将此问题转化为信息失真和鲁棒性的两个新度量，我们对分布式深度神经网络（DNNs）对抗行为的鲁棒性进行了严格分析，并通过考虑 6 种不同的 DNN 架构、6 种不同的分布式 DNN 方法和对 ImageNet-1K 数据集进行 10 种不同的对抗攻击的广泛实验分析来验证我们的理论发现。实验结果支持我们的理论发现，显示出压缩的隐含表示可以在最佳情况下将对抗性攻击的成功率降低 88％，平均降低 57％，与对输入空间的攻击相比。

    Sep, 2023

  • Robust or Private？对抗训练使模型更容易受到隐私攻击

    本文研究了对抗训练的对抗攻击容忍性与隐私攻击容忍性之间的关系，通过对 CIFAR-10 数据集进行三种不同类型的模型反演攻击，揭示了对抗训练模型输入空间存在的问题。

    Jun, 2019

  • 通过中间层攻击增强对抗样本的可传递性

    介绍了一种名为 ILA 的攻击方法，它可以利用源模型的中间层信息对现有的对抗样本进行微调，从而提高黑盒攻击的成功率。

    Jul, 2019