Jul, 2022

使用扩散模型的威胁模型不可知对抗性防御

HTML
PDF
TL;DR本文介绍了一种在各种威胁模型下生成鲁棒分类器的方法，该方法利用了随机生成建模的最新进展，并利用条件分布采样。通过在被攻击的图像上添加高斯独立同分布噪声，然后进行预训练扩散过程，该方法表现出了可观的鲁棒性。该鲁棒性在CIFAR-10数据集上经过了广泛的实验验证，表明我们的方法在各种威胁模型下优于主要的防御方法。
发现论文，激发创造
  • 使用高层次表征引导去噪器抵御对抗攻击

    提出一种基于高级表示引导去噪者的防御方法（HGD），用于图像分类，并证明该方法在防御白盒和黑盒对抗攻击中表现更加稳健，并可适用于其他模型。

    Dec, 2017

  • 分割、去噪与抵御对抗攻击

    通过将输入图像分成多个块，对每个块进行去噪并重构图像来提高深度神经网络对抗攻击的鲁棒性，在灰盒测试方案下，该方法比现有技术提高了19.7%的准确度，并且在黑盒测试方案下具有可比拟的表现，在白盒测试方案下取得34.4%的准确率，这是最近研究中没有出现的。

    Feb, 2018

  • Defense-GAN: 使用生成模型保护分类器免受对抗攻击

    Defense-GAN使用生成模型来抵御深度神经网络受到的对抗性攻击，并不需要修改分类器结构或者训练过程，可以适用于任何分类模型，并且不需要了解生成对抗性示例的过程。在不同的攻击方法下，实验证明Defense-GAN对抗性攻击防御策略具有一致的有效性，并可以提高现有的防御策略。

    May, 2018

  • 提高对抗鲁棒性的特征去噪

    本研究旨在通过特征去噪的方式提高卷积神经网络在对抗攻击下的鲁棒性，实验结果表明这种方法对提高白盒和黑盒攻击下的分类准确率具有一定效果。

    Dec, 2018

  • 使用对抗网络进行鲁棒性深度学习的直接方法

    该论文提出了一种基于生成对抗网络(GAN)框架下的新防御机制来对抗黑盒攻击，在经验上表现良好并能与利用梯度下降的集成对抗训练和对抗训练等最先进的方法媲美。

    May, 2019

  • 通过选择性特征重建来抵御普适性攻击

    本文提出了一种新的深度神经网络防御机制，该机制通过对DNN特征域中最易受到对抗性噪声攻击的预训练的卷积特征进行可训练的特征重建，将这些DNN滤波器激活转换成鲁棒性更高的特征，从而有效地保护免受通用扰动的攻击。通过重建至多6个DNN层中顶部50%的易受攻击的激活并保留所有剩余的激活状态，无需其他修改，我们的防御在 ImageNet 上经过一个通用对抗攻击的训练即可对抗其他类型的通用攻击。

    Jun, 2019

  • 风格化对抗防御

    利用目标样本的样式和内容信息以及其类边界信息创建对抗性扰动，将其应用于多任务目标并进行深度监督，提取多尺度特征知识以创建最大分离对手，随后提出最大间隔对抗训练方法，最小化源图像与其对手之间的距离，并最大化对手和目标图像之间的距离，证明与最先进的防御相比，我们提出的对抗训练方法表现出强大的鲁棒性，对自然出现的损坏和数据分布变化具有良好的泛化能力，并保留了模型在干净样本上的准确性。

    Jul, 2020

  • 攻击对抗性攻击作为一种防御

    通过对敌对学习及攻击的深入探究，我们发现在敌对性训练的模型中，用微小的随机噪声扰动部分攻击样本能够破坏其误导性预测，为此我们提出了一种有效的防御方法，是通过制造更加有效的防御扰动方法，利用敌对训练降低了地面真实的局部Lipschitzness，同时攻击所有类别，将误导的预测转换为正确的预测，这种方法在经验实验证明有效。

    Jun, 2021

  • 针对视频分类的对抗训练分析与扩展

    本文提出了三种防御方法来增强对多种攻击类型的鲁棒性，包括自适应防御技术Adaptive AT，课程式防御技术Curriculum AT和将AT与去噪生成对抗网络相结合的生成式防御技术Generative AT，并在UCF101数据集上进行了实验。

    Jun, 2022

  • 从攻击到防御：对黑箱设置中的深度学习安全措施的洞察

    深度学习模型对抗攻击和防御的鲁棒性的综合实验研究表明，模型复杂度和鲁棒性之间存在显著关系，并且应用防御策略可以显著减少攻击效果。

    May, 2024