Apr, 2024

通过对抗去噪扩散训练实现更好的对抗净化

PDF
TL;DR扩散基净化（DBP）是一种有希望对抗恶意攻击的方法，通过确定梯度来检验 DBP 的稳健性，研究表明随机性是 DBP 的主要稳健因素，提出了 Adversarial Denoising Diffusion Training（ADDT）来提高 DBP 模型的稳健性。
diffusion-based purificationdbpadversarial attacksrobustnessadversarial denoising diffusion training (addt)
发现论文，激发创造
  • 引导扩散模型用于对抗性纯化

    本文提出了一种新颖的净化方法，即导向扩散模型净化（GDMP），旨在帮助保护深度神经网络分类器免受对抗攻击的影响。在各种数据集上进行的广泛实验表明，所提出的 GDMP 将由对抗攻击引起的扰动降至浅层范围，从而显着提高了分类的正确性，并提高了 5％的鲁棒性。

    May, 2022

  • 对抗净化的扩散模型

    本文提出了 DiffPure， 使用扩散模型进行过去神经网络的抵御攻击，结果表明它在三个图像数据集上优于现有的对抗训练和对抗净化方法，通常差距很大。

    May, 2022

  • 对抗净化的鲁棒扩散模型

    我们提出了一种具有逆向过程的鲁棒性指导方法，该方法独立于预训练的扩散模型，在不重新训练或微调扩散模型的情况下实现了对抗训练策略，保留了更多的语义内容，并减轻了扩散模型的准确性和鲁棒性之间的权衡，从而为基于扩散模型的对抗净化方法提供了对新攻击的高效适应能力。通过大量实验证实，我们的方法达到了最先进的结果，并展现了对不同攻击的泛化能力。

    Mar, 2024

  • 增强扩散以提高强健性泛化能力

    本文提出了一种名为 Diffusion Enhanced Adversarial Training (DEAT) 的新方法，以改善 Adversarial Training 中的 generalization 问题，理论上证明了 DEAT 比主要 AT 框架 ——Projected Gradient Descent Adversarial Training (PGD-AT) 更紧密的泛化界限，并通过广泛的实证调查证实了 DEAT 的优越性。

    Jun, 2023

  • DiffAttack：扩散反对抗净化的逃避攻击

    在这篇论文中，我们提出了一种统一框架 DiffAttack，用于对基于扩散的净化防御进行有效和高效的攻击，包括 DDPM 和基于分数的方法。我们通过在中间扩散步骤引入偏差重建损失来解决梯度消失 / 爆炸问题，提供了一种分段转发 - 反向传播算法，通过降低模型的稳健性减少了针对 CIFAR-10 和 ImageNet 的攻击的准确性。

    Oct, 2023

  • 使用扩散模型的威胁模型不可知对抗性防御

    本文介绍了一种在各种威胁模型下生成鲁棒分类器的方法，该方法利用了随机生成建模的最新进展，并利用条件分布采样。通过在被攻击的图像上添加高斯独立同分布噪声，然后进行预训练扩散过程，该方法表现出了可观的鲁棒性。该鲁棒性在 CIFAR-10 数据集上经过了广泛的实验验证，表明我们的方法在各种威胁模型下优于主要的防御方法。

    Jul, 2022

  • DensePure: 理解扩散模型以提高对抗鲁棒性

    通过分析扩散模型的基本属性，建立它们能够提高认证鲁棒性的条件，进而提出了新的 DensePure 方法。DensePure 包括多个通过扩散模型的反向过程（具有不同随机因素）的去噪运行，用于消除对抗性输入。最终预测结果是通过对推断标签的多数投票得出的，其设计受到了对反向样本的条件分布的理论分析的启发。

    Nov, 2022

  • 基于扩散的对抗净化用于入侵检测

    证明扩散模型在网络入侵检测中净化对抗样本方面的有效性，通过对扩散参数的全面分析，识别最佳配置以最大限度地提高对抗鲁棒性而对正常性能的影响最小。重要的是，该研究揭示了扩散噪声和扩散步骤之间的关系，对该领域具有重要贡献。实验在两个数据集上进行，并针对 5 种对抗攻击进行了测试。实现代码公开可用。

    Jun, 2024

  • 对抗去噪扩散模型用于无监督异常检测

    本文提出了基于敌对去噪扩散模型（ADDM）的研究。ADDM 基于去噪扩散概率模型（DDPM），并通过敌对学习进行互补训练。实验结果表明，ADDM 在无监督 MRI 图像异常检测上表现优于现有的基于生成模型的无监督异常检测方法。

    Dec, 2023

  • 基于扩散模型的认证对抗性容忍度提高

    使用最先进的扩散模型生成额外的训练数据可以极大地提高敌对训练的鲁棒性，该方法同样可以明显提高确定性认证防御的鲁棒性，我们还提供了一些建议来扩展认证训练方法的鲁棒性。

    May, 2023