Nov, 2023

稳定扩散提高对抗转移性

PDF
TL;DR该研究探讨了使用 Stable Diffusion 生成的数据来增强对抗攻击的传递性，提出了一种基于 Stable Diffusion 的新型攻击方法，并提供了一个快速变体，通过实验证明该方法在对抗性传递性方面优于现有方法，并且与现有的基于传递的攻击方法相兼容。
deep neural networksadversarial examplesinput transformation-based attacksstable diffusionadversarial transferability
发现论文，激发创造
  • 深度神经网络中对抗性样本的可迁移性调查

    深度神经网络的关键问题之一是对抗性攻击和转移性，考虑到安全性和未来的发展，需要加强对抗性漏洞的防御。

    Oct, 2023

  • Admix: 提高对抗攻击的可转移性

    该研究旨在提高对抗转移性能，在理论和实验的基础上设计了一种称为 Admix 的输入变换攻击方法，该方法能够利用附加图像集合进行攻击并优于现有方法。

    Jan, 2021

  • 梯度细化改善对抗迁移能力

    采用梯度修正的方法，可进一步提高对抗性转移性，通过对多个转换引入的无用梯度进行修正，我们的方法在 ImageNet 数据集上可以实现 82.07％的平均转移成功率，在单模型设置下胜过其他最先进的方法的平均 6.0％，并且我们已将所提出的方法应用于由阿里巴巴组织的 CVPR 2021 ImageNet 无限制对抗攻击比赛中，攻击成功率在 1558 支队伍中排名第二。

    May, 2021

  • 通过平移不变攻击规避转移对抗样本的防御

    本文提出了一种翻译不变攻击方法，该方法利用一个翻译图像集合上的扰动以生成更易于转移的对抗示例，并表明该方法通常适用于任何梯度攻击方法。作者在 ImageNet 数据集上广泛实验验证了该方法的有效性，并证明该攻击技术的存在不安全性。

    Apr, 2019

  • 提升对抗传递性的技巧包

    通过对现有对抗性攻击的仔细研究，我们提出了一系列技巧来增强对抗性传递性，包括动量初始化、计划的步长、双重示例、基于频谱的输入变换和几种集成策略。在 ImageNet 数据集上的大量实验验证了我们提出的技巧的高效性，并表明结合它们可以进一步增强对抗性传递性。我们的工作提供了实用的见解和技术，以增强对抗性传递性，并通过简单的调整指导提高对现实世界应用的攻击性能。

    Jan, 2024

  • 通过有针对性的攻击揭示稳定扩散中的漏洞

    本研究针对 Stable Diffusion 模型的脆弱性，提出一种生成特定图像的对抗性提示框架，并通过揭示导致模型脆弱性的机制来证明方法的有效性。

    Jan, 2024

  • 保护性扰动是否可以防止个人数据受稳定扩散的侵害？

    在这篇论文中，我们系统评估了使用扰动在实际威胁模型下保护图像的方法，并介绍了一种能够在最大程度上保留原始图像结构的净化方法。实验证明，稳定扩散可以有效地从净化后的图像中学习，并且对各种保护方法具有良好的适应性。

    Nov, 2023

  • 使用扩散模型的威胁模型不可知对抗性防御

    本文介绍了一种在各种威胁模型下生成鲁棒分类器的方法，该方法利用了随机生成建模的最新进展，并利用条件分布采样。通过在被攻击的图像上添加高斯独立同分布噪声，然后进行预训练扩散过程，该方法表现出了可观的鲁棒性。该鲁棒性在 CIFAR-10 数据集上经过了广泛的实验验证，表明我们的方法在各种威胁模型下优于主要的防御方法。

    Jul, 2022

  • 基于感知度量的任务通用性对抗攻击

    提出一种基于永续度量的方法，通过创造高度扭曲网络特征空间的攻击来达到高度通用的敌对样本，旨在打破相对有限的目前攻击的限制，并可将其通过多个网络扩展到多个任务。

    Nov, 2018

  • 理解和提升对抗样本的可迁移性

    本文系统研究了影响对抗样本传递性的两类因素，包括网络结构、测试精度等模型特定因素和构建对抗样本的损失函数的局部光滑性。基于这些理解，提出了一种简单而有效的策略来增强传递性，称为方差降低攻击，因为它利用方差降低梯度来生成对抗样本，实验结果表明其有效性。

    Feb, 2018