核映射流形减少对抗扰动的影响

CVPRMar, 2019

A Kernelized Manifold Mapping to Diminish the Effect of Adversarial Perturbations

Saeid Asgari Taghanaki, Kumar Abhishek, Shekoofeh Azizi, Ghassan Hamarneh

TL;DR本研究针对深度卷积模型的线性和非弹性的特点易受到对抗扰动的攻击，提出了一种基于非线性径向基卷积特征映射的方法，通过学习类马氏距离函数，将卷积特征映射到线性分离的流形上来提高深度卷积神经网络对抗扰动的鲁棒性。研究结果表明，该方法可以提高深度卷积神经网络对抗扰动的鲁棒性而不会降低对干净数据的准确性。

Abstract

The linear and non-flexible nature of deep convolutional models makes them vulnerable to carefully crafted adversarial perturbations. To tackle this problem, we propose a non-linear radial basis convolutional feature ma

adversarial perturbations convolutional neural networks feature mapping resilience manifold

发现论文，激发创造

流形上的投影梯度下降算法

本文提供了一种可计算、直接且数学严谨的方法，用于近似高维数据的类流形的微分几何，以及从输入空间到这些类流形的非线性投影。该方法应用于神经网络图像分类器的设置中，在流形上生成新颖的数据样本，并实现了流形上的对抗训练的投影梯度下降算法，以解决神经网络对对抗性攻击的敏感性问题。

Aug, 2023

双流形对抗性鲁棒性：抵御 Lp 和非 Lp 对抗攻击

通过在图像的潜在空间中对对抗样本进行对抗训练以及利用生成模型中学习到的流形信息进行双流形对抗训练，可以大大提高深度学习模型的鲁棒性，从而有效地应对多种新颖的对抗攻击。

Sep, 2020

通过限制深度神经网络的隐藏空间来进行对抗性防御

针对深度神经网络易受对抗性攻击的问题，本文提出了一种基于特征重构的防御方法，具体来说，通过将每个类别的特征强制限制在一个凸多面体内，使得网络学习到的决策区域更加独特和远离各个类别的边界，提高了网络的鲁棒性，同时在干净图像的分类性能上不会退化。

Apr, 2019

超越对抗扰动：借助流形辅助的具有合法语义的对抗样本

提出了一种有监督的语义转换生成模型，用于生成具有真实和合法语义的对抗性样本，实现了从非对抗性样本到对抗性样本的合法过渡。实验结果表明，生成的对抗性样本不仅具有更好的视觉质量，还实现了更高的攻击可迁移性和更有效的模型漏洞解释。

Feb, 2024

流形学习对 GAN 的优势

本文在生成对抗网络中引入流形学习方法来打磨辨别器，考虑局部约束线性和基于子空间的流形以及局部约束的非线性流形，利用流形学习和编码的设计将中间特征表示映射到流形上，并通过协调特征表示和流形视图之间的差异性，实现去噪和流形精细化的两难平衡，并在实验中发现局部约束的非线性流形优于线性流形，性能也明显优于现有的基线算法。

Dec, 2021

用扩张卷积神经网络处理序列流形值数据

我们提出了一种使用精神病医学数据进行 Alzheimer 疾病组差异分析的卷积神经网络框架，并介绍了如何在计算过程中考虑 Riemann 流形结构。

Oct, 2019

流形 GCN: 基于扩散的流形值图卷积神经网络

基于黎曼流形的图神经网络模型中，我们提出了两个关键的图神经网络层。第一个是扩散层，其基于流形值图扩散方程，适用于任意数量节点和图的连通模式。第二个是切线多层感知机层，借鉴了向量神经元框架的思想，并在一般的情境中应用。这两个层在节点排列和特征流形的等变性方面表现出非常好的性能。在合成数据和海马右侧三角网格对阿尔茨海默病分类的数值实例中，我们的模型均取得了非常好的性能。

Jan, 2024

特征映射协调：增强对抗鲁棒性的图卷积方法

深度神经网络对对抗性扰动的脆弱性引起了重大的安全关切，本研究提出了一种创新的插拔模块称为基于特征图的重构图卷积（FMR-GC），通过在通道维度上谐调特征图以重构图，并采用图卷积捕获邻域信息，有效校准污染特征，与先进的对抗训练方法相结合，显著提高鲁棒性而不影响模型的准确性。

Jun, 2024

BlurNet：通过滤波特征图来进行防御

本文研究对抗机器学习中的 $RP_2$ 攻击，并提出一种名为 BlurNet 的防御方法，该方法通过低通滤波来减少噪声，并采用正则化策略将其融入网络训练过程中，进而显著提高抵御攻击的能力。

Aug, 2019

对抗性样本在扩散模型流形中不一致

通过扩散模型检测和分析攻击引入的图像异常，结果表明攻击实例与扩散模型的学习流形不一致。

Jan, 2024