Nov, 2020

来自贝叶斯神经网络的有效且可迁移的对抗样本

PDF
TL;DR使用贝叶斯深度学习技术，以神经网络权重的后验分布进行抽样建立一个 surrogate，可以进一步提高黑盒攻击的可转移性，本文探究了提高攻击可转移性的训练方法， 将我们方法的表现与几种已有方法进行了比较，能够在 ImageNet 上获得 94% 的准确率。
adversarial examplestransferabilitybayesian deep learningneural network weightssurrogate
发现论文，激发创造
  • 使代替模型更贝叶斯化可以增强对抗样本的可转移性

    本文提出了使用贝叶斯模型对深度神经网络的对抗样本进行攻击的方法，并通过实验验证了其在改善模型迁移性方面的有效性以及攻击效果，攻击成功率平均提升约 19%。

    Feb, 2023

  • 通过贝叶斯攻击提高对抗样本的传递性

    本论文提出了一种新颖的方法，在模型参数和模型输入中都引入贝叶斯公式，以实现对迁移性的增强，在对抗样本中取得了显著的改进并超越了现有技术水平。

    Jul, 2023

  • 探究可转移的对抗样本和黑盒攻击

    本文首次对大规模数据集和大型模型进行了对抗样本的可迁移性的研究，同时也是首次研究了设计有目标的对抗样本在其目标标签之间的可转移性。通过新颖的集成方法，本文发现大量有目标的对抗样本可以成功地与其目标标签一起转移，并且这些使用集成方法生成的对抗样本可以成功地攻击黑匣子图像分类系统 Clarifai.com。

    Nov, 2016

  • 深度神经网络中对抗性样本的可迁移性调查

    深度神经网络的关键问题之一是对抗性攻击和转移性，考虑到安全性和未来的发展，需要加强对抗性漏洞的防御。

    Oct, 2023

  • 理解和提升对抗样本的可迁移性

    本文系统研究了影响对抗样本传递性的两类因素，包括网络结构、测试精度等模型特定因素和构建对抗样本的损失函数的局部光滑性。基于这些理解，提出了一种简单而有效的策略来增强传递性，称为方差降低攻击，因为它利用方差降低梯度来生成对抗样本，实验结果表明其有效性。

    Feb, 2018

  • 通过平移不变攻击规避转移对抗样本的防御

    本文提出了一种翻译不变攻击方法，该方法利用一个翻译图像集合上的扰动以生成更易于转移的对抗示例，并表明该方法通常适用于任何梯度攻击方法。作者在 ImageNet 数据集上广泛实验验证了该方法的有效性，并证明该攻击技术的存在不安全性。

    Apr, 2019

  • 转移攻击再探：在实际计算机视觉环境下的大规模经验研究

    本文通过大规模系统的实证研究，探究了云端机器学习服务平台的漏洞和其普遍存在的在深度神经网络中的 “对抗攻击” 问题，发现先前的假设和结论在真实世界环境下不再一致，并指出了对未来研究方向的启示。

    Apr, 2022

  • 从替代训练中理解对抗可迁移性

    通过对拟合平滑度和梯度相似度进行权衡，我们揭示了对抗传递的调节机制，发现数据分布移位导致的梯度相似度降级说明了拟合平滑度与梯度相似度之间的贸易协定，并提出了一种更好的替代品构建方法，旨在优化拟合平滑度和梯度相似度，通过数据增强、梯度正则化等技术进行验证。

    Jul, 2023

  • 重新审视可转移对抗图像示例：攻击分类、评估准则和新见解

    通过建立新的评估准则，我们在 ImageNet 上对 23 种典型攻击与 9 种代表性防御进行了首次大规模的可传递对抗样本评估，发现既有的评估存在误导性结论和遗漏点，从而阻碍了该领域的实际进展评估。

    Oct, 2023

  • 对抗性样本汤：多个对抗性样本的平均改善了可转移性而不增加额外生成时间

    通过细调超参数，生成不同的批次对抗性样本并取平均的方法可以提高对抗性迁移性，并且相比传统方法没有额外的生成时间和计算成本，与现有的基于迁移的方法相结合可以生成更具迁移性的对抗性样本，通过在 ImageNet 数据集上进行的大量实验表明，我们的方法比现有的攻击方法有更高的攻击成功率。

    Feb, 2024