Apr, 2024

UFID: 一个统一框架用于扩散模型上的输入级后门检测

PDF
TL;DR为了缓解背景肃清攻击的威胁，本研究提出了一个针对扩散模型的统一输入层背景肃清检测框架（UFID），它通过扩散模型的观察和理论因果分析进一步验证。广泛的实验结果表明，该方法在检测效果和运行效率方面表现出卓越的性能。
diffusion modelsbackdoor attacksbackdoor detectiongenerative taskufid
发现论文，激发创造
  • 扩散模型的隐形后门攻击

    本文介绍了一种创新而多功能的优化框架，用于获取不可见的触发器，增强插入后门的隐蔽性和韧性。我们的研究首次展示了在文本引导的图像编辑和修复流程中进行扩散模型后门注入的能力，同时还发现条件生成中的后门直接适用于模型水印验证，进一步提升了所提框架的重要性。多个常用采样器和数据集上的广泛实验证实了所提框架的有效性和隐蔽性。

    Jun, 2024

  • DisDet：探索扩散模型上后门攻击的可检测性

    首次从防守者和攻击者的角度对扩散模型进行了系统研究，探索了被破坏的扩散模型中毒噪声输入的可检测性和躲避机制，并提出了基于分布差异的低成本触发器检测方法。

    Feb, 2024

  • 如何背后入侵扩散模型？

    本论文首次提出 BadDiffusion 攻击框架，实现对扩散模型的背门攻击，并探讨了一些可能的风险缓解方案。

    Dec, 2022

  • VillanDiffusion：基于扩散模型的统一后门攻击框架

    本文介绍了一个统一的后门攻击框架（VillanDiffusion），用于扩展目前对扩散模型（DMs）的后门分析范围，并通过实验展示了该框架有助于不同 DM 配置的后门分析，并提供了有关基于标题的后门攻击 DMs 的新见解。

    Jun, 2023

  • 具有有限信息和数据的黑盒检测后门攻击

    该论文提出一种基于黑盒模型的反向工程优化算法，用于检测深度神经网络中嵌入的恶意后门攻击，并通过检测结果进行有效的可靠预测，实验表明其可以有效地应对多种后门攻击。

    Mar, 2021

  • 基于扩散式图像变体的鲁棒训练对抗数据

    隐形功能型后门攻击对训练神经网络构成了严重的安全威胁，本文提出了一种基于扩散模型及知识蒸馏的新方法，能够在潜在受污染的数据集上训练模型，并生成具备对抗后门触发的鲁棒性的学生模型。

    Oct, 2023

  • 最后之舞：通过扩散模型和贝叶斯方法的强韧后门攻击

    本文研究了基于扩散模型的后门攻击方法，通过注入后门扩散采样和贝叶斯方法到模型的训练数据中，成功地对音频转换器模型进行了攻击。

    Feb, 2024

  • Elijah：通过分布变化消除扩散模型中注入的后门

    我们提出了第一个扩散模型的后门检测和清除框架，通过对数百种扩散模型进行评估，实验证明我们的方法可以几乎百分之百地检测出后门，并将后门效果减少到接近零，而不明显损害模型的效用。

    Nov, 2023

  • 输入空间到特征表示的无感后门攻击

    本文提出了一种新颖的隐形后门攻击方法，该方法通过将触发器模式视为一种特殊噪声并以伯努利分布生成参数，从而在不影响正常输入的情况下利用训练集合并夹杂恶意信息，并考虑对多种最新防御措施的效果验证。

    May, 2022

  • BaDExpert：提取后门功能以准确检测后门输入

    我们提出了一种针对深度神经网络 (DNNs) 的后期开发防御新方法，用于对抗恶意背后进攻，该方法通过一种新颖的反向工程方法，可以直接从给定的感染模型中提取出背后功能，并将其重建成仅能识别背后输入的模型。我们称之为背后专家模型。我们的防御方法在多个数据集和模型架构上经过验证，有效地减轻了 16 种最先进的背后进攻。

    Aug, 2023