本文提出采用随机离散化和高斯噪声注入的简单有效防御策略,可以显著提高对抗攻击下的图像分类器准确性,相比于其他对抗训练,以及 NIPS 2017 中获胜的防御方法,在 ImageNet 数据集上表现更优。
Mar, 2019
本文通过使用超空间投影来提出了一种新的针对图像分类器的通用防御机制,可以提高深度学习模型对抗攻击的鲁棒性,实验结果显示通过优化攻击和生成对抗攻击测试其在 MNIST 数据集上的成功率可以至少减少 89% 和 78%。
Jun, 2023
本篇研究论文主要探讨了如何有效防御基于图像分类的深度神经网络攻击。通过研究两种最常见的防御方法,我们发现这些方法对于三种最高危物理攻击的防御效果较差。因此我们提出了一种新的抽象对抗模型,矩形遮挡攻击,并且开发了两种计算结果的对抗样本的方法。最后,我们通过新的模型进行对抗训练,证明了这一方法是一种高效的通用防御策略。
Sep, 2019
通过引入可微分的随机量化器,通过多个不同的量化神经网络学习输入图像的不同表示,提高量化过的深度神经网络对白盒对抗攻击的鲁棒性。在不同威胁模型上进行统一分析,通过相关性将互信息和准确率结合,检测攻击并生成鲁棒性图谱。
Nov, 2023
本文提出 mixPGD 对抗训练方法以提高基于深度神经网络的自动语音识别系统的鲁棒性,实验表明该方法比以前的最佳模型在白盒对抗攻击设置下性能提高了 4.1%WER,并且在黑盒攻击设置下也表现出一定的防御能力。
Mar, 2023
本文提出了一种名为产品量化对抗生成(PQ-AG)的方法,在处理大规模数据集时更高效,但存在输入小细微扰动的漏洞,实验表明该方法能成功创建这种扰动,并显著降低白盒和黑盒环境下的检索性能。
Feb, 2020
引入一种新颖的噪声减小过程 Vector Quantization U-Net(VQUNet),以提供更好的鲁棒性和超越其他最先进的基于噪声减小的防御方法,对抗各种敌对攻击。
Jun, 2024
本文提出了一种名为 vqSGD 的向量量化方法,具有渐近通信成本降低和在分布式优化中具有收敛性保证的特点,并支持隐私保护。该方法基于点集的凸壳,并提供了多个高效实例,通过应用二进制纠错码的特性,平滑地平衡量化通信和估计误差之间的权衡。通过使用这种向量量化方案,作者成功证明了任何维数在单位球中的 g 的无偏估计需要 O (d/R^2) 位表示,同时估计误差足够小,仅需要在通信方面花费小于 o (d) 的比特数。
Nov, 2019
本文提出了一种解决最优对抗数据分布的方法 —— 分布式对抗攻击(DAA),通过在潜在数据分布空间上进行优化,使攻击样本具有更好的泛化性,实验表明其在对抗训练的模型上的攻击效果优于其他对抗攻击方法。
Aug, 2018
本文讨论了利用 SegPGD 进行语义分割的有效攻击和防御方法,并提出了一种更有效和高效的对抗训练机制,可以增强基于语义分割的模型的鲁棒性。
Jul, 2022