Dec, 2018

阻止对抗样本：$L_0$- 鲁棒稀疏傅里叶变换

PDF
TL;DR本文提供了一种新的算法，用于逼近离散傅里叶变换的近似稀疏信号，该信号被最坏情况下的 $L_0$ 噪声污染，即信号的一定数量的坐标被任意破坏。我们的技术推广到了各种线性变换，如离散余弦变换、正弦变换、Hadamard 变换及其高维模拟。我们利用该算法成功防御了图像分类领域中著名的 $L_0$ 对抗者，对 MNIST、Fashion-MNIST 数据集上的基于 Jacobian 的显著性地图攻击 (JSMA)、Carlini Wagner (CW)$L_0$ 攻击以及在 ImageNet 数据集上的对抗性补丁的实验结果进行了讨论。
approximationdiscrete fourier transformsparse signall_0 noiselinear transformations
发现论文，激发创造
  • 稀疏且不易察觉的对抗攻击

    本文提出了一种基于黑盒技术的新型对抗样本攻击方法，针对原始图像最小化 l0 距离。实验证明，该攻击方法优于或与现有技术相当。同时，我们可引入部件约束来提高分类器对稀疏和不可察觉的对抗性操纵的鲁棒性。

    Sep, 2019

  • 面向有效训练与评估的鲁棒模型：相对于 $l_0$ 有界对抗扰动

    研究了 $l_0$ 范数约束下的稀疏对抗扰动，并提出了一种名为 sparse-PGD 的白盒 PGD 攻击方法来有效高效地生成这种扰动。此外，将 sparse-PGD 与黑盒攻击相结合，全面可靠地评估模型对 $l_0$ 约束下的对抗扰动的鲁棒性，并且 sparse-PGD 的高效性使得我们能够进行对抗性训练以构建对稀疏扰动具有鲁棒性的模型。大量实验证明，我们提出的攻击算法在不同场景下表现出很强的性能。更重要的是，与其他鲁棒模型相比，我们的对抗训练模型展示了对各种稀疏攻击的最新鲁棒性。代码可在此 https URL 找到。

    May, 2024

  • 通过数据本地化对稀疏对抗扰动进行认证鲁棒性

    通过对局部化数据分布的理解，提出了一种基于几何形态的简单分类器 Box-NN，并在 MNIST 和 Fashion-MNIST 数据集上取得了对于稀疏攻击的认证稳健性方面的最新研究成果。

    May, 2024

  • 基于梯度的 $l_0$ 范数对抗性样本的优化

    在这项研究中，我们提出了一个新的 l0 范数攻击方法，称为 sigma-zero，该方法利用了 l0 范数的一种特殊的可微近似来优化梯度，以及一个自适应的投影算子来动态调整损失最小化和扰动稀疏性之间的权衡。通过对 MNIST、CIFAR10 和 ImageNet 数据集进行广泛评估，包括稳健和非稳健模型，在不需要耗时的超参数调整的情况下，sigma-zero 发现了最小的 l0 范数对抗性示例，且在成功率、扰动大小和可扩展性方面优于所有其他竞争的稀疏攻击。

    Feb, 2024

  • $L_p$ 范数扭曲效率高的对抗攻击

    该研究提出了一种新型 Lp 范数扰动有效的对抗攻击方法，旨在减少 L0 范数失真，通过设计优化方案和引入对抗阈值概念，实现了更好的对抗稳健性和视觉不可感知性。

    Jul, 2024

  • 基于随机剪枝的稀疏对抗攻击鲁棒性证明

    使用基于随机平滑的 L1 和 L2 变换来保证分类器对于固定 L0 干扰大小的分类鲁棒性，并提出了一种高效且可验证的防御方法，通过使用随机消融的输入特征而非加性噪声来对抗稀疏的对抗干扰攻击，实验结果验证了其在 MNIST、ImageNet 和 CIFAR-10 上有效的性能。

    Nov, 2019

  • 关于 $l_0$ 有界对抗攻击的对抗训练的泛化性质

    神经网络在输入上的微小扰动会导致错误分类，本文针对截断分类器的 l0 有界对抗攻击进行理论性能分析，证明了一个独立于分布的二分类设置的 l0 有界对抗扰动的新型泛化界限。

    Feb, 2024

  • 利用 L1 回归进行对抗稀疏噪声的压缩感知

    本文提供了一个简单有效的算法来解决稀疏鲁棒线性回归问题，即从被稀疏噪声干扰的线性测量中估计一个稀疏的向量，对于高斯测量，基于 L1 回归的简单算法可以成功地估计任何小于 0.239 的锁定率，而该算法所需的测量数为 O (klog (n/k)) 个，能够同时估计稀疏和稠密的 w*，容忍大常数分数的离群值和对抗性而非分配性（例如，高斯）稠密噪声。

    Sep, 2018

  • 平滑对抗样本

    本文研究对抗样本的视觉质量，探讨了不同于传统 smoothing 的新型 smoothing 方式，即基于 Laplacian smoothing，并以白盒攻击的场景为基础，对不同攻击方式的效果进行了比较和评估，得到新方法在可感知噪音畸变情况下，成功率相对较高的结论。

    Mar, 2019

  • 利用稀疏表示来对抗对抗攻击

    本篇论文研究了针对深度神经网络的对抗攻击问题，表明对于稀疏输入数据表示，我们可以利用线性分类器的稀疏编码来有效减缓攻击，并将其扩展到深度神经网络中，发现使用局部线性模型可以有效降低 MNIST 数据集上的攻击成功率。

    Mar, 2018