AAAIOct, 2018

在费舍尔信息度量下的对抗攻击与检测

PDF
TL;DR本文利用信息几何，提出了一种基于 Fisher 信息和一步谱攻击 (OSSA) 的深度学习模型易遭受对抗攻击的合理解释，并提出了具有较高效率和性能的对抗攻击和检测算法，这为研究对抗攻击和防御提供了一种有前途的途径。
发现论文，激发创造
  • 通过抑制费舍尔信息矩阵的最大特征值来抵御对抗性攻击

    提出一种通过抑制 Fisher 信息矩阵的最大特征值来防御对抗攻击的方案，添加 Fisher 信息矩阵的 trace 值到网络的损失函数中，通过实验验证其有效性和鲁棒性。

    Sep, 2019

  • 深度神经网络中 Fisher 信息度量及其变体的病态谱

    本文研究了 Fisher 信息矩阵以及其在深度神经网络中的特性，发现其存在尺度依赖性，具有病态的特征值谱，本研究提供了 FIM 和其变体的统一视角，以便更深入地理解大规模深度神经网络对学习的作用。

    Oct, 2019

  • 深度生成模型的 Fisher 信息度量的近似方法用于异常检测

    根据梯度的大小来检测离群数据的深度生成模型无偏方法表现优于典型性测试。

    Mar, 2024

  • Fisher-Bures 对抗图卷积网络

    本文介绍了一种基于量子信息几何的图卷积网络模型，通过对图的扰动进行特征分解，找到一个有效的扰动方向以改进半监督节点分类任务性能，同时提出了三种不同的图形式学几何，从而提高对图神经网络的理解和发展新技术。

    Mar, 2019

  • SpectralDefense: 在傅里叶域中检测 CNN 的对抗攻击

    该研究使用傅里叶域的分析方法和特征图的相位和振幅识别方法，成功地区分了对抗示例和良性测试图片，并提出了两种新颖的对抗检测方法。

    Mar, 2021

  • 通过内在维度相关隐性偏差和对抗性攻击

    本论文研究神经网络的偏置问题，通过探讨傅里叶频率与建立对抗攻击的目标频率之间的统计关系，提出了一种新的发现它们之间非线性相关性的方法。实证证明了神经网络在傅里叶空间中的偏置与对抗攻击的目标频率密切相关。

    May, 2023

  • 更强更快的 Wasserstein 对抗攻击

    该研究论文针对深度模型易受到小型攻击的问题，提出了在 Wasserstein 距离约束下的投影梯度攻击算法和有效的优化算法。该算法不仅收敛更快，而且生成更强的攻击模型，从而提高了模型的鲁棒性。

    Aug, 2020

  • 能量攻击：关于转移对抗样本

    该研究提出了一种能量攻击的黑盒 L∞对抗攻击方法，无需梯度逼近，通过主成分分析提取出单位分量向量和特征值，并根据其特征值模拟对抗扰动的能量分布，在多个模型和数据集上达到了最先进的攻击效果

    Sep, 2021

  • 分层表示的特征变形

    通过使用 Fisher 信息的层级图像表示，我们比较了视觉敏感度和各种图像表示之间的关系。我们发现 VGG16 的早期层比人类感知和一个训练基于人类评分的图像质量的 4 阶级卷积神经网络匹配度更高，简单的早期视觉处理模型比 CNN 或任何 VGG16 层的组合更好地预测了人类的敏感度。

    Oct, 2017

  • 可变形形状的通用频谱对抗攻击

    本文提出了一种在几何数据中实现通用攻击的计算程序，攻击采用短特征向量值的小扰动，在光谱域中操作，通用于不同形状，网格和点云的不同表示，并且可以泛化到以前从未见过的数据。

    Apr, 2021