重新思考图形后门攻击中触发注入位置

Apr, 2023

重新思考图形后门攻击中触发注入位置

Rethinking the Trigger-injecting Position in Graph Backdoor Attack

Jing Xu, Gorka Abad, Stjepan Picek

TL;DR研究发现将触发器注入样本区域的最重要或最不重要的区域（简称 MIAS 和 LIAS）是图神经网络背门攻击中的有效策略，LIAS 的表现比 MIAS 更好，并用说明技术解释了这两种策略的类似（更好）的攻击性能，从而进一步理解了 GNN 中的背门攻击。

Abstract

backdoor attacks have been demonstrated as a security threat for machine learning models. Traditional backdoor attacks intend to inject backdoor functionality into the model such that the backdoored model will pe

backdoor attacks machine learning models graph neural networks trigger-injecting strategies state-of-the-art performance

发现论文，激发创造

基于可解释性的反向门攻击针对图神经网络

本文探讨了在图神经网络中 backdoor 攻击中，触发信号的注入位置对攻击结果的影响，通过实验证实了基于 GraphLIME 方法选择触发信号注入位置可以提高攻击成功率的有效性。

Apr, 2021

重思图形后门攻击：维持分布的视角

本文研究了一种新颖的问题，即使用分布内的触发器进行不可察觉的图形后门攻击。为了生成分布内的触发器，我们引入了一个离群点检测器和对抗性学习策略，以在分布内生成触发器的属性。在真实世界的数据集上进行的大量实验证明了所提方法在生成可以绕过各种防御策略的分布内触发器的同时，能够保持高攻击成功率。

May, 2024

重新思考后门攻击的触发条件

该论文研究了针对深度神经网络的后门攻击，并提出了通过改变触发器来防御后门攻击的方法。

Apr, 2020

基于图神经网络的链路预测任务的后门攻击

本文介绍了一种基于图神经网络的链接预测任务中的后门攻击方法，并揭示了 GNN 模型中存在的安全漏洞，当触发器出现时，后门将被嵌入 GNN 模型中，导致模型错误地预测未连接的两个节点之间存在链接关系。

Jan, 2024

从统计学角度剖析毒化后门攻击

对于机器学习中的黑门攻击，本文通过建立性能的上下界限来评估任何包含恒定触发器的黑门攻击的有效性，回答了一系列基本但以前未被充分探讨的问题，包括黑门攻击成功的决定因素、最有效的黑门攻击方向以及人类难以察觉的触发器何时会成功。该理论适用于判别模型和生成模型，并通过使用基准数据集和最先进的黑门攻击场景进行实验来证明该理论。

Oct, 2023

NLP 中输入唯一触发器的后门攻击

本文提出了一种输入唯一的后门攻击方法 (IDBA)，可以使能够通过语言模型 (GPT2) 生成上下文相关的后门触发器，解决了现有后门攻击方法的缺陷，不仅可以生成流畅、语法正确且多样化的后门输入，同时也达到了高攻击成功率，且难以被现有防御方法识别。

Mar, 2023

图形后门

研究探讨了 GNN 中的防后门攻击，提出了一种新的攻击方法 GTA，可以在各类安全应用中袭击任何实验中的模型；该攻击方法是基于子图，能够在不了解下游模型或微调策略的情况下立即启动，并在基准数据集和最先进的模型上进行了广泛的评估。

Jun, 2020

针对图神经网络后门攻击的可解释性防御

本文提出了第一种基于图神经网络（GNN）的后门攻击检测和防御方法，通过评估模型的透明度和不透明度，识别恶意样本，并利用其可解释性确定最显著的子图，从而减少成功攻击率。

Sep, 2022

使用样本特定触发器的隐形后门攻击

本文研究深度神经网络（DNN）中的后门攻击，提出了一种新的攻击方法，生成样本特定且不可见的添加噪声作为后门触发器，证明了该方法可以有效地攻击有或无防御机制的模型。

Dec, 2020

邻域背水一战：对图卷积网络的攻击

本文旨在解决针对图形数据的后门攻击问题，提出了一种称为 “邻近后门” 的后门，通过设置触发节点并将其与目标节点相连接来触发后门，在保持模型准确性的情况下，提出了两种后门方案：线性图卷积后门和现有图攻击变体。经过多次实验，所有提出的后门攻击均能够在几乎不影响预测准确性的情况下实现几乎 100% 的攻击成功率。

Jan, 2022