Feb, 2021

自适应范数约束的快速最小范敌对攻击

PDF
TL;DR本文提出了一种既能处理不同的扰动模型，对超参数选择具有鲁棒性，又不需要对抗起始点，且仅需几步轻量级的迭代即可收敛的快速最小范数攻击方法（FMN），并通过广泛的实验表明 FMN 在收敛速度和计算时间方面明显优于现有的攻击方法，同时报告了相当或更小的扰动尺寸。
adversarial robustnessminimum-norm attackperturbationconvergence speedcomputation time
发现论文，激发创造
  • 快速自适应边界攻击生成最小扭曲的对抗样本

    本文提出了一种新的基于 $l_p$-norms 的白盒对抗攻击方法，通过最小化扰动的大小来改变特定输入的类别，这个方法具有几何直观性，是一种性能优越的攻击方法，比专门针对一个 $l_p$-norm 的攻击方法具有更好的鲁棒性，并且可以解决梯度掩盖的问题。

    Jul, 2019

  • 优化超参数加强快速最小范数攻击

    利用梯度攻击评估机器学习模型的对抗鲁棒性具有挑战性。本论文通过自动化选择损失函数、优化器、步幅调度器及相关超参数，以及超参数优化，展示了超参数优化如何改善快速最小范数攻击的有效性。我们通过多个鲁棒模型的广泛评估证明了超参数优化对快速最小范数攻击的改进效果。我们在此 https URL 上发布了我们的开源代码。

    Oct, 2023

  • $L_p$ 范数扭曲效率高的对抗攻击

    该研究提出了一种新型 Lp 范数扰动有效的对抗攻击方法，旨在减少 L0 范数失真，通过设计优化方案和引入对抗阈值概念，实现了更好的对抗稳健性和视觉不可感知性。

    Jul, 2024

  • PDPGD: 原始 - 对偶近端梯度下降对抗性攻击

    研究了基于优化问题的对抗攻击，使用双重变量来最小化对抗性噪声与规则化惩罚，针对非光滑 $p$- 范数进行极值点下降攻击，实验表明，比当前最先进的攻击方法在 MNIST、CIFAR-10 和受限制的 ImageNet 数据集上都优异表现。

    Jun, 2021

  • 解耦方向和范数的梯度下降 L2 对抗攻击与防御

    本文研究计算机视觉任务中对抗样本的影响，提出一种基于梯度的对抗攻击方法，通过将对抗扰动的方向和范数分离，能够在较少迭代次数（仅 100 次）内达到与当前最先进攻击方法在 L2 范数上相当的结果，进而达到对于白盒梯度攻击的鲁棒性。

    Nov, 2018

  • 在 MNIST 上开发第一个具有对抗鲁棒性的神经网络模型

    提出了一种使用单独的学习类条件数据分布来执行分析合成的新型鲁棒性分类模型，其在 MNIST 数据集上对 L0，L2 和 L 无穷小扰动都具备最先进的鲁棒性，攻击结果在正常类和对抗类之间呈现明显的感知边界。

    May, 2018

  • 对抗训练线性回归的正则化性质

    最新机器学习模型存在脆弱性，而对抗训练是一种有效方法，本研究着重探究线性模型下的脆弱性，并对对抗训练在线性回归和其他正则化方法中的解决方案进行了比较分析。

    Oct, 2023

  • 精准、可靠、快速的鲁棒性评估

    在神经网络的研究中，我们开发了一种新的梯度基础的对抗攻击方法，相较于已有的攻击方法，它更可靠，可以适应广泛的对抗标准，并且在提高效率的同时，不需要进行超参数调整，这将对神经网络的鲁棒性评估做出有益的贡献。

    Jul, 2019

  • 对抗训练的规范不可知鲁棒性

    本文研究对抗样本攻击机器学习模型并提出一种新的攻击方法，证明最先进的对抗训练方法无法同时获得对 $\ell_2$ 和 $\ell_\infty$ 范数的健壮性，提出可能的解决方案及其局限性。

    May, 2019

  • 基于梯度的 $l_0$ 范数对抗性样本的优化

    在这项研究中，我们提出了一个新的 l0 范数攻击方法，称为 sigma-zero，该方法利用了 l0 范数的一种特殊的可微近似来优化梯度，以及一个自适应的投影算子来动态调整损失最小化和扰动稀疏性之间的权衡。通过对 MNIST、CIFAR10 和 ImageNet 数据集进行广泛评估，包括稳健和非稳健模型，在不需要耗时的超参数调整的情况下，sigma-zero 发现了最小的 l0 范数对抗性示例，且在成功率、扰动大小和可扩展性方面优于所有其他竞争的稀疏攻击。

    Feb, 2024