May, 2024

扩散策略攻击者：针对基于扩散的策略的制造对抗攻击

PDF
TL;DR基于扩散模型的行为克隆，探讨扩扩散策略的安全问题，引入对抗攻击场景，构建 DP-Attacker 算法套件，对各种攻击场景下的预先训练的扩散策略进行实验攻击，证明 DP-Attacker 具有显著降低 DP 成功率的能力。
diffusion modelsbehavior cloningdiffusion policiesadversarial attackssafety concerns
发现论文，激发创造
  • DiffAttack：扩散反对抗净化的逃避攻击

    在这篇论文中，我们提出了一种统一框架 DiffAttack，用于对基于扩散的净化防御进行有效和高效的攻击，包括 DDPM 和基于分数的方法。我们通过在中间扩散步骤引入偏差重建损失来解决梯度消失 / 爆炸问题，提供了一种分段转发 - 反向传播算法，通过降低模型的稳健性减少了针对 CIFAR-10 和 ImageNet 的攻击的准确性。

    Oct, 2023

  • 像素是一道屏障：扩散模型比我们认为的更具对抗性的鲁棒性

    通过对扩散模型中的对抗性示例进行研究，我们发现扩散模型在像素空间中对抗性示例 (即 PDMs) 具有较强的鲁棒性，并可用作有效去除对 LDMs 生成的对抗性模式的净化器，使得现有的多种保护方法在一定程度上无法有效保护我们的图像。

    Apr, 2024

  • DiffDefense: 通过扩散模型抵御对抗性攻击

    这篇论文提出了一种新的重建方法，利用扩散模型来保护机器学习分类器免受对抗攻击，而无需对分类器本身进行任何修改。

    Sep, 2023

  • 从扩散到混淆：基于扩散模型的自然敌对图案生成用于目标检测

    提出一种基于扩散模型的新型自然对抗贴片生成方法，通过从模型中预训练的自然图片中抽样生成高质量的自然对抗贴片，达到了更好的质量和更自然的对抗贴片的生成效果。

    Jul, 2023

  • VillanDiffusion：基于扩散模型的统一后门攻击框架

    本文介绍了一个统一的后门攻击框架（VillanDiffusion），用于扩展目前对扩散模型（DMs）的后门分析范围，并通过实验展示了该框架有助于不同 DM 配置的后门分析，并提供了有关基于标题的后门攻击 DMs 的新见解。

    Jun, 2023

  • TrojDiff：针对多样化目标的扩散模型的木马攻击

    本文旨在探讨扰动模型在潜在的训练数据操纵下的脆弱性，提出了一种有效的 Trojan 攻击模型 TrojDiff，通过 Trojan 扩散和生成过程的优化对抗攻击，包括把对抗目标扩散到一个有偏高斯分布中、提出新的参数化的 Trojan 生成功能等，演示了在 CIFAR-10 和 CelebA 数据集上对 DDPM 和 DDIM 扰动模型执行不同类型的 Trojan 攻击的表现。

    Mar, 2023

  • Mist：面向扩散模型的改进对抗样本

    本文研究了扩散模型对于人工智能生成内容，特别是艺术创作的成功，并提出了针对侵权的对抗样本有效性方案。我们探讨了对抗样本的可迁移性问题并利用融合与修改的对抗损失函数明显提高了其可迁移性。实验结果表明我们的方法比现有方法更能生成可迁移且更具有对抗攻击鲁棒性的对抗样本。

    May, 2023

  • 对抗性样本在扩散模型流形中不一致

    通过扩散模型检测和分析攻击引入的图像异常，结果表明攻击实例与扩散模型的学习流形不一致。

    Jan, 2024

  • 扩散模型越强，后门越容易：通过数据投毒实现版权侵权而无需调整微调流程

    通过在精选数据集中插入有毒数据，利用多模式大型语言模型和文本引导的图像修复技术，本研究证实了在触发特定提示时，微调扩散模型可以生成受版权保护的内容，从而揭示了现行版权保护策略中潜在的陷阱，强调了对扩散模型滥用的加强审查和预防措施的必要性。

    Jan, 2024

  • Adv-Diffusion: 通过潜在扩散模型实施难以察觉的敌对人脸身份攻击

    该研究论文提出了一种统一的框架 Adv-Diffusion，可以在潜在空间而不是原始像素空间中生成不可感知的对抗性身份扰动，利用潜在扩散模型的强大修补能力生成逼真的对抗性图像。通过在周围环境中生成语义扰动的身份敏感条件扩散生成模型，设计了自适应强度的对抗性扰动算法，既能确保攻击的可传递性又能保持隐秘性。在公开的 FFHQ 和 CelebA-HQ 数据集上进行了广泛的定性和定量实验，证明该方法在没有额外的生成模型训练过程的情况下取得了卓越的性能。源代码可在此链接中获取。

    Dec, 2023