Dec, 2023

图神经网络的成本感知的无目标毒化攻击

PDF
TL;DR我们提出了一种名为成本感知中毒攻击（CA-attack）的新型攻击损失框架，通过动态考虑节点的分类间距来改善攻击预算的分配，具体地，它优先处理具有较小正间距的节点，推后处理具有负间距的节点。我们的实验证明，所提出的 CA-attack 显著增强了现有的攻击策略。
graph neural networksstructural perturbationspoisoning attacksattack loss frameworkclassification margins
发现论文，激发创造
  • 图神经网络抵抗注入攻击的鲁棒性转移

    该研究致力于探索清洗图形对提高图神经网络抵御毒化攻击的潜力。提出了一种基于惩罚聚合机制的方法（PA-GNN），该方法通过使用清洗图形和其毒化对应物来训练图神经网络来惩罚干扰项，从而提高了图神经网络对于图形污染攻击的鲁棒性。

    Aug, 2019

  • 针对图神经网络的更实用的对抗性攻击

    研究黑盒攻击图神经网络中节点选择的问题，发现通过基于 PageRank 的重要度计算可提高分类误差率，提出一种基于贪心算法的修正方法能有效地解决被攻击节点数量与分类误差率之间的矛盾。

    Jun, 2020

  • 图神经网络中节点属性的攻击

    通过特征基对抗攻击研究了图在现代社交媒体和学术应用中所具有的复杂网络，并侧重于决策时攻击和毒化攻击，与 Net Attack 和 Meta Attack 等现有模型不同，我们的研究专门针对节点属性。利用 Hellaswag 文本数据集和 Cora 以及 CiteSeer 图数据集进行了分析，结果发现使用投影梯度下降的决策时攻击比使用平均节点嵌入和图对比学习策略的毒化攻击更强大，这为图数据安全提供了启示，指出了图模型最脆弱的部分，从而推动了对此类攻击的更强大防御机制的开发。

    Feb, 2024

  • 通过污染邻居节点实施图卷积神经网络的间接对抗攻击

    本论文旨在研究图卷积神经网络（GCN）中的对抗性攻击，针对 GCN 中利用邻居节点学习聚合信息的方法进行了攻击，并提出了新的方法来执行间接攻击，以检测网络的鲁棒性。在实验中，作者表明，只需毒化一个远离目标节点一个或两个跳点的单个节点，就可以高置信度地欺骗节点分类器。

    Feb, 2020

  • 通过重连对图卷积网络进行攻击

    本文提出了一种针对图神经网络的对抗攻击方法，通过图重连的操作，使用强化学习生成对于目标模型影响较小的扰动，并在真实图数据集上进行实验及分析，证明该方法的有效性。

    Jun, 2019

  • 图神经网络黑盒节点注入攻击

    本文通过建立节点注入攻击的马尔科夫决策过程模型，提出了一种基于强化学习框架 （GA2C）的节点注入方法，将注入节点结构化地插入原图中。研究结果表明，与现有最先进的方法相比，本文提出的 GA2C 方法具有更高的注入成功率和分类误差率。

    Feb, 2022

  • 图数据神经网络的对抗攻击

    本文主要介绍了第一项针对属性通用图的对抗攻击研究，特别关注利用图卷积思想的模型，在针对测试及训练阶段的攻击中生成针对节点特征和图结构的对抗扰动，并确保这些扰动在保存重要数据特征的同时，不被察觉，旨在帮助更好地理解和缓解目前深度学习模型在对抗环境下的不足。

    May, 2018

  • 使用生成对抗网络进行的投毒攻击

    本文介绍了一种新的生成模型，用于对机器学习分类器进行攻击，并提出了一种生成式对抗网络，包括生成器、鉴别器和目标分类器，以模拟在现实攻击中可以预期的检测限制，进而确定底层数据分布的易受数据中毒攻击的区域。

    Jun, 2019

  • 图神经网络的拓扑攻击与防御：优化视角

    本文提出了基于梯度的攻击方法，以解决离散图数据的难点，并基于此提出了第一个面向图神经网络的基于优化的对抗训练，可以提高不同梯度和贪心攻击方法的鲁棒性，同时不牺牲原始图的分类准确性。

    Jun, 2019

  • 以围棋棋盘为图：强化学习下无梯度节点注入攻击的图神经网络

    本研究针对图神经网络的黑盒节点插入攻击问题，提出了基于强化学习框架的渐进式无梯度节点插入攻击方法，并通过对八个基准数据集的广泛实验表明其在攻击效率和攻击成功率方面均优于现有攻击方法。

    Nov, 2022