COLINGMar, 2024

子空间防御：通过学习纯净信号的子空间来排除对抗性扰动

PDF
TL;DR通过谱分析来检查样本特征的子空间，我们首先从实证角度表明干净信号或对抗扰动的特征分别是冗余的，而且在低维线性子空间中重叠较少，并且经典的低维子空间投影可以将扰动特征压缩到干净信号的子空间之外，从而使得深度神经网络可以学习一个只包含干净信号特征的子空间，抛弃扰动特征，从而能够区分对抗性样本。为了防止子空间学习中不可避免的残余扰动，我们提出一种独立性准则来区分干净信号和扰动。实验结果表明，所提出的策略能够本质上抑制对抗者，不仅提高了模型的鲁棒性，而且还给出了有效对抗防御的新方向。
deep neural networksadversarial attacksspectral analysislow-dimensional subspacesadversarial defense
发现论文，激发创造
  • 通过限制深度神经网络的隐藏空间来进行对抗性防御

    针对深度神经网络易受对抗性攻击的问题，本文提出了一种基于特征重构的防御方法，具体来说，通过将每个类别的特征强制限制在一个凸多面体内，使得网络学习到的决策区域更加独特和远离各个类别的边界，提高了网络的鲁棒性，同时在干净图像的分类性能上不会退化。

    Apr, 2019

  • 基于局部直方图均衡化的增强图像差异特征对抗样本检测

    基于高频信息增强策略，提出了一种针对对抗性样本的检测框架，可以在不修改现有检测模型的情况下，提高检测器的性能和降低部署成本。

    May, 2023

  • 通过对抗扰动的对比视频表示学习

    此篇论文提出一种新的对比学习方法 —— 用对抗性扰动来构建负样本，以生产改进后的视频表征，并使用斯蒂费尔流形上的黎曼优化方法以实现子空间学习目标，最终产生具有较好鲁棒性的视频表征。

    Jul, 2018

  • 检测来自伪像的对抗性样本

    本文介绍了一种利用深度学习神经网络中 Bayesian 不确定性估计和密度估计的方法，可以实现对于对抗样本的检测，具有很好的泛化性能，并在标准分类任务上取得了 85-93% 的 ROC-AUC 表现。

    Mar, 2017

  • 探索稳健特征以提升对抗性鲁棒性

    通过分离鲁棒特征和领域特定特征，我们提出了一个鲁棒特征分离模型，以增强模型的对抗性鲁棒性。同时，训练出的领域鉴别器几乎完美地能够识别出干净图像和对抗性样本中的领域特定特征，从而无需额外的计算成本实现对抗性样本的检测。这样一来，我们可以为干净图像和对抗性样本指定不同的分类器，避免了干净图像准确率的降低。

    Sep, 2023

  • 深度防御：用改进的对抗训练训练 DNNs 提高其鲁棒性

    本文提出了一种名为 “deep defense” 的训练方法来解决深度神经网络易受到对抗样本攻击的问题，通过将对抗扰动的正则化器与分类目标相结合，得到的模型能够直接且准确地学习抵御潜在的攻击，实验证明该方法在不同数据集上对比对抗 / Parseval 正则化方法有更好的效果。

    Feb, 2018

  • 使用本地内在维度来表征对抗子空间

    本文旨在通过对深度神经网络和其对抗样本的研究，提出并利用局部内部维度 (Local Intrinsic Dimensionality，简称 LID) 给出对抗样本的特征维度描述，并且实验结果表明在五种攻击策略和三项基准数据集上，相较于多种当前主流的检测措施，该方法能够更加准确地区分出对抗样本。

    Jan, 2018

  • 图数据上的对抗样本：攻击和防御的深度洞察

    本文提出了针对图数据的攻击和防御技术，其中引入了集成梯度来解决离散特征的问题，并且发现对于攻击后的图形，它的统计特征与正常图形不同，并提出一种检查图像并找到潜在的对抗扰动的方法。经过若干数据集的测试显示本文方法的有效性。

    Mar, 2019

  • 基于维度驱动的标签噪声学习

    本文提出了一种新的视角 —— 通过研究训练样本的深度表示子空间的维数，来理解在具有大量错误类标的数据集上训练准确的深度神经网络（DNNs）的普适性。根据这一发现，作者开发了一种新的维度驱动型学习策略，该策略在训练过程中监测子空间的维度并相应地调整损失函数，实验证明该方法可以高度容忍大量含有错误标签的数据，并能有效学习捕捉数据分布的低维局部子空间。

    Jun, 2018

  • 针对对抗扰动的准确安全检测器

    本文提出了一种基于空间频率判别分解的密钥安全对抗样本检测方法，相比现有算法更能准确识别和防御深度模型的对抗攻击，并防止防御感知攻击。

    May, 2023