May, 2024

一种使用稳定扩散的防御对抗攻击的新方法

PDF
TL;DR我们的研究论文提出了一种基于动态防御策略和稳定扩散的方法，该方法旨在在不使用对抗性示例的情况下进行 AI 系统的训练，以创建一个更广泛范围攻击下具有内在韧性的系统，从而提供一种更广泛且更强大的针对对抗性攻击的防御。
adversarial machine learningai guardianadversarial examplesdynamic defense strategyai security
发现论文，激发创造
  • DiffDefense: 通过扩散模型抵御对抗性攻击

    这篇论文提出了一种新的重建方法，利用扩散模型来保护机器学习分类器免受对抗攻击，而无需对分类器本身进行任何修改。

    Sep, 2023

  • 使用扩散模型的威胁模型不可知对抗性防御

    本文介绍了一种在各种威胁模型下生成鲁棒分类器的方法，该方法利用了随机生成建模的最新进展，并利用条件分布采样。通过在被攻击的图像上添加高斯独立同分布噪声，然后进行预训练扩散过程，该方法表现出了可观的鲁棒性。该鲁棒性在 CIFAR-10 数据集上经过了广泛的实验验证，表明我们的方法在各种威胁模型下优于主要的防御方法。

    Jul, 2022

  • 稳定扩散提高对抗转移性

    该研究探讨了使用 Stable Diffusion 生成的数据来增强对抗攻击的传递性，提出了一种基于 Stable Diffusion 的新型攻击方法，并提供了一个快速变体，通过实验证明该方法在对抗性传递性方面优于现有方法，并且与现有的基于传递的攻击方法相兼容。

    Nov, 2023

  • 保护性扰动是否可以防止个人数据受稳定扩散的侵害？

    在这篇论文中，我们系统评估了使用扰动在实际威胁模型下保护图像的方法，并介绍了一种能够在最大程度上保留原始图像结构的净化方法。实验证明，稳定扩散可以有效地从净化后的图像中学习，并且对各种保护方法具有良好的适应性。

    Nov, 2023

  • AdvDiff：使用扩散模型生成无限制的对抗样本

    提出了一种新方法 AdvDiff，使用扩散模型生成无限制的对抗样本，并通过两种新的对抗引导技术在扩散模型的逆生成过程中进行对抗采样，实现了高质量、逼真的对抗样本生成。实验证明，AdvDiff 在攻击性能和生成质量方面优于基于 GAN 的方法。

    Jul, 2023

  • 针对网络入侵检测系统的逼真对抗攻击建模

    通过对网络入侵检测系统进行基于机器学习的威胁模拟，发现现有文献中的威胁模型不适用于实际的网络安全情景，因此，有必要加强现有防御系统以及探索更加真实和有效的对抗方式。

    Jun, 2021

  • 扩散攻击：利用稳定扩散进行自然图像攻击

    通过结合风格转移的方法，我们提出了一个框架来针对虚拟现实中的对抗性攻击，制造具有自然风格的对抗输入，以达到最小可探测性和最大自然外观，同时保持卓越的攻击能力。

    Mar, 2024

  • 通过有针对性的攻击揭示稳定扩散中的漏洞

    本研究针对 Stable Diffusion 模型的脆弱性，提出一种生成特定图像的对抗性提示框架，并通过揭示导致模型脆弱性的机制来证明方法的有效性。

    Jan, 2024

  • 机器学习与密码学在防御对抗攻击中的桥梁

    本文提出了基于加密学的防御机制抵御神经网络的对抗攻击，对于攻击者在灰盒情况下的各种攻击表现出很强的鲁棒性。

    Sep, 2018

  • 高效的对抗攻击防御

    本文提出了一种基于实践观察的新的防御方法，旨在强化深度神经网络的结构，提高其预测稳定性，从而更难受到针对性攻击，并在多种攻击实验中证明了该方法的有效性，相比其他防御方法具有更好的表现，而且在训练过程中的开销几乎可以忽略不计。

    Jul, 2017