Mar, 2024

扩散去噪作为清洗标签中毒的认证防御

PDF
TL;DR我们提出了一种经过认证的防御方法来对抗无标签污染攻击，通过使用扩散模型对受损的训练数据进行处理，我们在七种无标签污染攻击中将攻击成功率降低到 0-16%，同时几乎不影响测试准确率。与现有的对抗无标签攻击的防御方法相比，我们的防御方法在降低攻击成功率和保持模型效用方面表现最好。我们的结果强调未来需要研究开发更强大的无标签攻击方法，并将我们的认证而实用的防御方法作为评估这些攻击方法的强有力的基准。
clean-label poisoning attackscertified defenseadversarial robustnessdiffusion modelattack success
发现论文，激发创造
  • 深度 k-NN 防御干净标签数据毒化攻击

    本论文提出了一种有效的深度 k-NN 策略作为可靠的防御干净标签攻击的方法，并在 CIFAR-10 数据集上展示了它的高检测准确性、识别出超过 99% 的攻击性样本并能有效地去除它们，同时无损模型性能。

    Sep, 2019

  • DiffAttack：扩散反对抗净化的逃避攻击

    在这篇论文中，我们提出了一种统一框架 DiffAttack，用于对基于扩散的净化防御进行有效和高效的攻击，包括 DDPM 和基于分数的方法。我们通过在中间扩散步骤引入偏差重建损失来解决梯度消失 / 爆炸问题，提供了一种分段转发 - 反向传播算法，通过降低模型的稳健性减少了针对 CIFAR-10 和 ImageNet 的攻击的准确性。

    Oct, 2023

  • ECLIPSE: 通过稀疏扩散净化清洁标签的不加区分的毒素

    ECLIPSE 是一种更通用、实用和鲁棒的防御方案，它使用高斯噪声吸收干扰物，并通过去噪概率模型和轻量级损坏补偿模块来净化数据集，从而提供一种更通用的防御方法。

    Jun, 2024

  • 增强抗毒能力：针对中毒攻击的改进点对点认证

    通过利用差分隐私和采样高斯机制，我们的模型对有限数量的有毒样本提供了确保每个测试实例预测不变的保证，从而提供了超过以前认证提供的两倍以上的对抗鲁棒性。

    Aug, 2023

  • 多尺度扩散去噪平滑

    通过多尺度平滑和扩散模型，本论文研究了平滑方法的准确性和认证鲁棒性之间的平衡，以实现对大规模模型的对抗性稳健性。

    Oct, 2023

  • 数据炼金术：通过扩散模型净化中毒数据集以缓解后门攻击

    利用扩散模型深度清洗数据集，将中毒样本转化为良性样本，DataElixir 在抵御各种复杂攻击中，效果显著且对良性准确性影响最小。

    Dec, 2023

  • 基于扩散式图像变体的鲁棒训练对抗数据

    隐形功能型后门攻击对训练神经网络构成了严重的安全威胁，本文提出了一种基于扩散模型及知识蒸馏的新方法，能够在潜在受污染的数据集上训练模型，并生成具备对抗后门触发的鲁棒性的学生模型。

    Oct, 2023

  • 数据毒化攻击的认证防御

    对使用用户提供数据训练的机器学习系统进行的数据毒化攻击问题进行了探讨，构建了数据异常移除后采用经验风险最小化的防御方法下的攻击损失上限并给出了攻击方法，检验了在 MNIST-1-7，Dogfish 数据集上其防御能力较强，而在 IMDB 情感数据集上加入 3% 的毒化数据可将测试误差从 12% 提升至 23%。

    Jun, 2017

  • 对抗净化的扩散模型

    本文提出了 DiffPure， 使用扩散模型进行过去神经网络的抵御攻击，结果表明它在三个图像数据集上优于现有的对抗训练和对抗净化方法，通常差距很大。

    May, 2022

  • 数据中毒了吗？防御神经网络数据中毒攻击

    本研究探讨了对洁净标签下的中毒攻击的防御方法，并提出了一种在迁移学习环境中检测和过滤被中毒数据点的新方法，通过实验分析表明，我们的方法能够在特征向量空间中有效区分有效的中毒点和干净点，并通过多个架构、数据集和中毒预算的比较，充分评估了我们的方法，结果显示我们的方案在所有实验设置中均优于现有方法的防御率和最终训练模型性能。

    Mar, 2024