SegPGD：一种有效且高效的对抗攻击方法，用于评估和增强分割鲁棒性
本文提出了一种有效的两阶段对抗攻击策略，命名为 TranSegPGD，旨在改善语义分割中对抗性示例的可传递性。通过将输入图像的每个像素分为不同的分支，根据其对抗属性和可传递属性来分配不同的权重进行优化，以提高对抗性示例的传递能力和性能。实验证明，该方法可以达到最先进的性能。
Dec, 2023
本文提出 mixPGD 对抗训练方法以提高基于深度神经网络的自动语音识别系统的鲁棒性，实验表明该方法比以前的最佳模型在白盒对抗攻击设置下性能提高了 4.1％WER，并且在黑盒攻击设置下也表现出一定的防御能力。
Mar, 2023
该研究提出了一种基于梯度的迭代攻击方法来评估在语义图像分割领域中防御对抗扰动的模型的鲁棒性，并发现只有使用对抗样本进行训练才能获得鲁棒性，并分析了鲁棒性和准确性之间的权衡。
Jun, 2023
对语义分割模型进行全面分析，发现传统的对抗攻击方法无法很好地转移到目标模型，因此需要研究适用于语义分割的可传递攻击方法。通过有效的数据增强、平移不变特征以及稳定的优化策略，提出了一种基于集成的语义分割攻击方法，以实现更有效且具有更高可传递性的攻击。
Jul, 2023
本篇研究论文主要探讨了如何有效防御基于图像分类的深度神经网络攻击。通过研究两种最常见的防御方法，我们发现这些方法对于三种最高危物理攻击的防御效果较差。因此我们提出了一种新的抽象对抗模型，矩形遮挡攻击，并且开发了两种计算结果的对抗样本的方法。最后，我们通过新的模型进行对抗训练，证明了这一方法是一种高效的通用防御策略。
Sep, 2019
本文通过使用超空间投影来提出了一种新的针对图像分类器的通用防御机制，可以提高深度学习模型对抗攻击的鲁棒性，实验结果显示通过优化攻击和生成对抗攻击测试其在 MNIST 数据集上的成功率可以至少减少 89% 和 78%。
Jun, 2023
该研究利用弯曲正则化方法，将快速梯度符号方法（FGSM）扩展为可实现 adversarial robustness，并比 adversarial projected gradient decent 攻击方法（PGD）具有更高的训练效率。在 MNIST 数据集白盒攻击下，表现与 adv.PGD 相当，在 CIFAR-10 数据集转移攻击上表现更好。
Nov, 2020
本文研究了在语义分割和物体检测领域中存在的对抗样本，并通过一种名为 DAG（Dense Adversary Generation）的算法来产生大量对抗样本，可以应用于各种先进的深度网络架构，除此之外还发现了对抗扰动可以在不同的训练数据、不同的架构以及不同的任务之间进行传递，尤其是在具有相同架构的网络之间的可传递性更加显著；此外，对多个异构扰动进行求和通常会导致更好的传递性能，这提供了一种有效的黑盒对抗攻击方法。
Mar, 2017
本文提出了一种解决最优对抗数据分布的方法 —— 分布式对抗攻击（DAA），通过在潜在数据分布空间上进行优化，使攻击样本具有更好的泛化性，实验表明其在对抗训练的模型上的攻击效果优于其他对抗攻击方法。
Aug, 2018