本文重新评估了 12 种常见的对抗样本转移攻击方法,得出结论:对抗转移性经常被高估,在不同的流行模型之间不存在能够传递的单个对抗样本,并提出了一个可靠的基准,包括三个评估协议,以便未来的研究。
Jun, 2023
通过自适应地控制每个模型输出的融合,监测其对于攻击目标的贡献差异比率,本文提出了一种自适应集成攻击(AdaEA)方法,并引入一个降低差异的滤波器以进一步同步更新方向,从而在各种数据集上取得了显著改进,同时能够提升已有的基于迁移的攻击方法,进一步证明了其高效性和多功能性。
Aug, 2023
本文首次对大规模数据集和大型模型进行了对抗样本的可迁移性的研究,同时也是首次研究了设计有目标的对抗样本在其目标标签之间的可转移性。通过新颖的集成方法,本文发现大量有目标的对抗样本可以成功地与其目标标签一起转移,并且这些使用集成方法生成的对抗样本可以成功地攻击黑匣子图像分类系统 Clarifai.com。
Nov, 2016
通过对拟合平滑度和梯度相似度进行权衡,我们揭示了对抗传递的调节机制,发现数据分布移位导致的梯度相似度降级说明了拟合平滑度与梯度相似度之间的贸易协定,并提出了一种更好的替代品构建方法,旨在优化拟合平滑度和梯度相似度,通过数据增强、梯度正则化等技术进行验证。
Jul, 2023
深度神经网络的关键问题之一是对抗性攻击和转移性,考虑到安全性和未来的发展,需要加强对抗性漏洞的防御。
Oct, 2023
本文主要研究了针对神经网络分类器的测试时间攻击检测方法,并在不同数据集和场景下提供了八种最先进的检测器的实验结果,为此研究方向提供了挑战和未来的展望。
May, 2021
本文提出了一种随机集成加密 ViT 模型的方法,该方法对于黑盒攻击和白盒攻击都比传统方法更具鲁棒性。
Jan, 2024
本文中,我们提出了一种随机集成的加密视觉转换模型,以实现更加强健的模型,这种模型不仅对黑盒攻击更加强健,而且对白盒攻击也更加强健。
综合探索传输攻击的学习方法,着重在网络安全的背景下,通过不同领域的研究,对传输攻击的架构和影响进行分类和评审,并提出了未来的研究方向。
Nov, 2023
本文提出了一种翻译不变攻击方法,该方法利用一个翻译图像集合上的扰动以生成更易于转移的对抗示例,并表明该方法通常适用于任何梯度攻击方法。作者在 ImageNet 数据集上广泛实验验证了该方法的有效性,并证明该攻击技术的存在不安全性。
Apr, 2019