Nov, 2022

DensePure: 理解扩散模型以提高对抗鲁棒性

PDF
TL;DR通过分析扩散模型的基本属性，建立它们能够提高认证鲁棒性的条件，进而提出了新的 DensePure 方法。DensePure 包括多个通过扩散模型的反向过程（具有不同随机因素）的去噪运行，用于消除对抗性输入。最终预测结果是通过对推断标签的多数投票得出的，其设计受到了对反向样本的条件分布的理论分析的启发。
diffusion modelscertified robustnessdensepuredenoisingadversarial example
发现论文，激发创造
  • 对抗净化的扩散模型

    本文提出了 DiffPure， 使用扩散模型进行过去神经网络的抵御攻击，结果表明它在三个图像数据集上优于现有的对抗训练和对抗净化方法，通常差距很大。

    May, 2022

  • 单一扩散模型实现鲁棒分类

    本文提出了一种鲁棒扩散分类器 (Robust Diffusion Classifier, RDC)，它是一个基于预训练扩散模型构建的生成分类器，可以更好地应对未知威胁并实现识别准确率的提高

    May, 2023

  • 多尺度扩散去噪平滑

    通过多尺度平滑和扩散模型，本论文研究了平滑方法的准确性和认证鲁棒性之间的平衡，以实现对大规模模型的对抗性稳健性。

    Oct, 2023

  • DiffSmooth: 基于扩散模型和局部平滑的可证明鲁棒学习

    通过扩散模型实现对强健平滑模型的提高认证鲁棒性的研究，提出了一种具有针对性的扩散平滑管线 DiffSmooth，通过扩散模型进行对抗净化，然后通过简单而有效的局部平滑策略将净化后的实例映射到一个共同区域，并证明了 DiffSmooth 在不同数据集上实现了最先进的认证鲁棒性。

    Aug, 2023

  • 对抗净化的鲁棒扩散模型

    我们提出了一种具有逆向过程的鲁棒性指导方法，该方法独立于预训练的扩散模型，在不重新训练或微调扩散模型的情况下实现了对抗训练策略，保留了更多的语义内容，并减轻了扩散模型的准确性和鲁棒性之间的权衡，从而为基于扩散模型的对抗净化方法提供了对新攻击的高效适应能力。通过大量实验证实，我们的方法达到了最先进的结果，并展现了对不同攻击的泛化能力。

    Mar, 2024

  • DiffuseDef: 对抗攻击下的改进鲁棒性

    通过结合迁移学习、扰动模型和集成学习技术，我们提出了一种新颖和灵活的文本分类对抗防御方法 DiffuseDef，它在编码器和分类器之间引入扩散层作为去噪器，经过迭代去噪和集成生成鲁棒的文本表示。实验证明，DiffuseDef 在各种对抗性攻击中表现优异，实现了最先进的性能。

    Jun, 2024

  • 基于扩散模型的认证对抗性容忍度提高

    使用最先进的扩散模型生成额外的训练数据可以极大地提高敌对训练的鲁棒性，该方法同样可以明显提高确定性认证防御的鲁棒性，我们还提供了一些建议来扩展认证训练方法的鲁棒性。

    May, 2023

  • 通过对抗去噪扩散训练实现更好的对抗净化

    扩散基净化（DBP）是一种有希望对抗恶意攻击的方法，通过确定梯度来检验 DBP 的稳健性，研究表明随机性是 DBP 的主要稳健因素，提出了 Adversarial Denoising Diffusion Training（ADDT）来提高 DBP 模型的稳健性。

    Apr, 2024

  • 您的扩散模型实际上是一个可证实稳健分类器

    通过推导证据下界（ELBO）来对高斯污染数据的扩散分类器进行泛化，将其与随机光滑化相结合，构建具有非常数 Lipschitz 性质的平滑分类器，实现了 80％+ 和 70％+ 的在 CIFAR-10 上扰动小于 0.25 和 0.5 的认证稳健性。

    Feb, 2024

  • 一致性净化：有效且高效的扩散净化以保证鲁棒性

    通过一步生成纯净图像的完全一致性净化方法，以及使用 LPIPS 损失进行一致性微调，我们的一致性净化框架在保证证明型鲁棒性和效率方面实现了最先进的水平。

    Jun, 2024