Aug, 2023

毒箭蛙：无训练数据情况下，低中毒率高攻击成功率的干净标签攻击

PDF
TL;DR摘要：为了成功发动后门攻击，注入的数据需要正确标记；否则，即使基本的数据过滤器也很容易被检测到。因此，引入了无标签攻击的概念，这更加危险，因为它不需要更改注入数据的标签。我们提出了一种称为 “Poison Dart Frog” 的新型无标签方法。与所有当前的无标签攻击不同，Poison Dart Frog 不需要访问任何训练数据，只需要攻击目标类别的知识。与现有攻击方法相比，Poison Dart Frog 在 CIFAR10、Tiny-ImageNet 和 TSRD 上的攻击成功率较高。最后，我们证明了四种典型的后门防御算法很难对抗 Poison Dart Frog。
clean-label attacksbackdoor attackspoison dart frogattack success ratebackdoor defense algorithms
发现论文，激发创造
  • 有毒的青蛙！ 针对神经网络的目标性清标签中毒攻击

    本文探讨在机器学习模型中的数据污染问题，提出了基于优化的毒化方法和一种水印策略，并使用含有毒素的图片控制了图像分类器的行为。

    Apr, 2018

  • 基于毒化的任意目标标签带正触发器的后门攻击

    通过利用纯净数据集训练的网络作为触发器生成器，该研究提出了一种新的触发器分类方法并开发了一种多标签和多负载的基于毒化的反向门攻击（PPT），该方法可以在不牺牲准确率的情况下在各种数据集上实现高攻击成功率。

    May, 2024

  • 基于干净标签的 NLP 无触发后门攻击

    本文提出了一种不需要外部触发器、带有正确标签的文本后门攻击策略，通过基因算法生成干净的例子，这些干净的例子的标签是正确的，试验表明这种攻击策略不仅有效，而且由于没有触发器和干净的标签，很难防御，是在 NLP 领域研发无触发器攻击策略的第一步。

    Nov, 2021

  • 标签污染就是您所需要的

    通过 corrupt labels 设计的 label-only backdoor attack 方法 FLIP，在几个数据集和架构上展示了其强大的攻击能力，并且只引起 1.8% 的 clean test 准确度下降。

    Oct, 2023

  • 毒药为疗法：在深度神经网络中检测和中和可变大小的后门攻击

    提出了一种有效的对抗性样本（backdoor）防御方法，它由多个子模块组成，能够在检测到 backdoor 的同时进行筛选清洗，并通过提取毒信号的方式中和攻击。该防御方法在 CIFAR10 数据集上针对 9 种不同的目标基类配对均表现出较好的效果。

    Nov, 2019

  • 洁净图像后门攻击

    通过未经过修改的标签中的错误标签注入，我们提出了清洁图像后门攻击，揭示了后门仍然可以通过错误标签的一小部分分数进行注入，从而对图像分类模型的公正性和鲁棒性造成严重威胁，需要对外包标注中的错误标签保持警惕。

    Mar, 2024

  • 使用数据污染进行深度学习系统的有针对性后门攻击

    该论文研究了基于深度学习的认证系统对于后门攻击的脆弱性，特别是通过数据注入的后门攻击，通过注入极少的毒数据，攻击者可以成功实现攻击，进而窃取敏感信息，从而为后续研究防御策略提供了研究价值。

    Dec, 2017

  • 数据高效后门攻击

    本文提出了一种基于过滤和更新策略的深度神经网络反向攻击样本优化方法，从而提高了毒化数据的效率。通过在 CIFAR-10 和 ImageNet-10 数据集上的实验结果验证了该方法的有效性。

    Apr, 2022

  • 图像分类器后门数据污染攻击的系统评估

    本文系统评估了包括触发器模式、回归技术、模型体系结构及数据集在内的不同实验条件，并研究后门数据污染攻击的成功率及其可被检测的难度。

    Apr, 2020

  • 对比学习的中毒和后门攻击

    研究指出多模态对比学习方法训练在无噪声且未分类的数据集上可能导致后门和毒化攻击成为重要的威胁。通过少量的毒化数据，可以影响模型分类测试图片的准确性，这显然会影响训练数据集的质量。

    Jun, 2021