KDDFeb, 2019

不同威胁模型下 SHIELD 的效能

PDF
TL;DR本文评估用于对抗敌对攻击的压缩式防御框架 SHIELD 的效力，并在原有工作的基础上考虑了替代威胁模型，提出了具有不同危险程度的情况，并通过实验结果得出了在白盒和灰盒情景下训练模型的相关性与承受目标攻击成功率的相关性，证明了从零开始训练模型的更强鲁棒性。
shieldcompression-based defense frameworkadversarial attacksensemble defense approachpgd attack
发现论文，激发创造
  • Shield: 采用 JPEG 压缩的快速实用的深度学习防御和疫苗

    本研究提出了一个名为 Shield 的防御框架，利用 JPEG 压缩和不同压缩级别生成多个被疫苗化的模型来加固深度神经网络模型并保护其免受外部攻击。实验结果表明，Shield 在抵御最新、最强攻击方面的表现优异，能够消除高达 94% 的黑箱攻击和 98% 的灰箱攻击。

    Feb, 2018

  • SHIELD: 用随机多专家修补程序防御文本神经网络遭受多种黑盒对抗攻击

    提出一种名为 SHIELD 的算法，将文本神经网络的最后一层进行修改和重新训练，形成一种加权多专家预测头的随机加权集合，从而混淆攻击者并进一步提高模型准确率。

    Nov, 2020

  • SHIELD: 阻止代码署名归属

    本文介绍了 SHIELD，对六种当前最先进的作者归属方法进行攻击后的实验，通过在 Google Code Jam 竞赛中利用 200 个编程者数据集，从非有目标攻击和有目标攻击两个方向对不同的代码归属提取技术进行了实验，发现现有的作者归属方法对抗攻击的脆弱性，并对攻击成功率和身份识别信任度的影响进行了分析。

    Apr, 2023

  • 多元突出感知深度集成提高对抗性鲁棒性

    提出一种基于多样性促进学习的深度集成方法，提高深度集成模型抵抗对手攻击的能力，减少攻击的迁移效应，实现更好的白盒和黑盒攻击防御性能。

    Dec, 2021

  • 一组不同参数攻击的集成用于可靠评估对抗鲁棒性

    本文提出两个方法以提高 PGD 攻击的效率，进而结合现有方法构成一个全新的攻击集合，用于测试对抗鲁棒性，并在 50 多个模型上进行了测试，发现一些已经被攻破的防御机制。

    Mar, 2020

  • T-SEA：基于迁移学习的自组攻击在物体检测上的应用

    本研究针对单模型迁移黑盒对象检测攻击问题，提出了一种增强型攻击框架以及自举式方法，提高了攻击的传递性和白盒效果。

    Nov, 2022

  • TextShield: 文本分类中超越成功检测攻击性句子

    TextShield 是一种基于显著性信息的检测器和修正器相结合的文本防御方法，可以有效检测和转换输入文本中的对抗性语句。实验表明，TextShield 比同类方法具有更高的性能和更好的检测精度。

    Feb, 2023

  • 不必担心小事，将其分类：样本屏蔽以保护文本分类器免受对抗性攻击

    本文提出了一种新颖的文本分类防御策略 Sample Shielding。该方法在不需要重新配置分类器或外部资源的情况下，对三种流行的深度学习文本分类器进行防御攻击，并在三个数据集中测试其鲁棒性。通过样本选择和分类来实现决策，避免了现有防御策略的关键漏洞。

    May, 2022

  • SHIELD: 多模态大型语言模型的人脸冒充与伪造检测评估基准

    多模态大型语言模型在面部攻击检测、面部欺骗和伪造检测以及多属性思维链等方面表现出潜在的潜力和有效性，优于传统特定模型在可解释性、多模态灵活推理和联合面部欺骗和伪造检测方面

    Feb, 2024

  • 长时动态图模型的对抗攻击和防御方法：矛与盾

    本研究提出了 T-SPEAR 方法，用于针对连续时间动态图上的链接预测进行简单有效的敌对攻击，并探讨了时序图神经网络的弱点。同时，我们还提出了鲁棒的训练方法 T-SHIELD，通过边过滤和强制节点嵌入的时间平滑，提高了受攻击模型的鲁棒性。实验结果表明，T-SPEAR 显著降低了受攻击模型在链接预测任务中的性能，而且我们的攻击方法在不同于攻击者所假设的受攻击模型的 TGNN 上也具有传递性。此外，我们还证明了 T-SHIELD 能够有效过滤掉敌对边，并在面对敌对攻击时展现出强大的鲁棒性，在 T-SPEAR 方法下使链接预测性能超过了普通 TGNN 最多 11.2%。

    Aug, 2023