Dec, 2023

HC-Ref: 针对图神经网络的稳健对抗训练的分层约束优化

PDF
TL;DR近期的研究表明，通过恶意修改图结构或节点特征，攻击者可以严重降低 GNN 的性能。对抗性训练被证明是计算机视觉中最有效的对抗攻击防御机制之一，对于增强 GNN 的稳健性具有巨大潜力。本文提出了一种基于鲁棒对抗训练的分层约束优化框架（HC-Ref），分别增强 GNN 和下游分类器的抗扰动能力，从而提高了稳健性。我们提出了相应的对抗正则化项，有助于根据不同层的特征，自适应缩小正常部分和扰动部分之间的领域差距，促进预测分布的平滑性。此外，现有的图鲁棒对抗训练研究主要集中在从节点特征扰动的角度进行训练，很少考虑图结构的变化。本文通过利用图结构扰动生成对抗样本，为防御基于拓扑变化的攻击方法提供了有效途径。在两个实际图数据集上的大量实验表明，HC-Ref 成功抵御了各种攻击，并相比几种基线方法具有更好的节点分类性能。
发现论文，激发创造
  • 稳健图神经网络的图结构学习

    本文探讨了图神经网络在面临敌对攻击时的脆弱性，并提出了一种名为 Pro-GNN 的框架，以基于真实世界图形的内在属性来联合学习结构性图形和稳健性 GNN 模型以应对此问题。通过实验表明，Pro-GNN 在防御敌对攻击方面表现优异。

    May, 2020

  • 深层神经网络的层级对抗鲁棒性的提升

    介绍了一种分类网络设计 -- 分层敌对强韧网络（HAR），将分类任务分解成一个粗分类和多个细分类任务，在经过敌对防御技术的有针对性训练后，极大地提高了神经网络对层次攻击的强度，实验表明对 CIFAR 数据集 L2 和 L∞有显著改进。

    Feb, 2021

  • 图神经网络的对抗性训练

    本文介绍了对抗训练在解决图神经网络中的结构扰动方面的局限并展示了基于可学习图扩散的灵活图神经网络和针对多节点和全局约束的结构扰动攻击，进一步证明了对抗训练作为对抗性结构扰动的最先进防御手段。

    Jun, 2023

  • GraphDefense: 构建强健的图卷积网络

    本文研究了图卷积网络在对抗扰动下的鲁棒性，通过提出 GraphDefense 方法，成功提高了图卷积网络的鲁棒性，同时能够维持半监督学习的设定，具有较大的应用潜力。

    Nov, 2019

  • 图神经网络对抗性结构扰动的可靠鲁棒性认证

    本研究针对图形结构数据，基于随机平滑技术，开发出可证明鲁棒性的图神经网络，证明其对于节点和图分类具有结构扰动的认证鲁棒性保证，并在多个 GNN 和多个基准数据集上进行了实证评估。

    Aug, 2020

  • 图结构数据对抗攻击

    本文研究了基于图结构的深度学习模型的鲁棒性问题，针对修改数据的组合结构而导致模型攻击的问题，提出了基于强化学习的攻击方法，同时引入遗传算法和梯度法等多种变形方法来进行攻击，并通过实验验证了针对图级别和节点级别分类任务的多种图神经网络模型都具有易受攻击性，同时这些攻击手段可以用来进一步诊断分类器。

    Jun, 2018

  • 重新审视图机器学习的鲁棒性

    本文提出一种更加原则性的对抗图的定义，研究表明当前的 GNN 存在 “过于健壮” 的问题，而该问题可以通过将标签结构纳入推断过程进行解决。

    May, 2023

  • HyperAttack：超图神经网络白盒敌对结构攻击的多梯度引导方法

    本论文介绍了 HyperAttack-- 第一个针对超图神经网络的白盒子对抗攻击框架，提高了攻击成功率和时间效率，作为一种结构攻击方法，通过扰乱向目标节点连接的超边状态，并引导梯度和集成梯度。

    Feb, 2023

  • 自主引导的鲁棒图结构优化

    在本文中，我们提出了一种自导向的图结构加强 (GSR) 框架 (SG-GSR)，该框架利用给定的受攻击图中发现的一个干净的子图。此外，为了应对干净子图提取中的两个技术挑战，即结构信息的丢失和不平衡节点度分布，我们提出了一种新颖的图扩充和群体训练策略。广泛的实验证明了 SG-GSR 在各种情况下的有效性，包括非目标攻击、有针对性的攻击、特征攻击、电子商务欺诈和嘈杂节点标签。

    Feb, 2024

  • 通过实行局部和全局紧凑性以提高对抗鲁棒性

    本文提出了对抗性分歧减小网络（Adversary Divergence Reduction Network），旨在通过对深度神经网络中间层的本地 / 全局紧凑性和聚类假设的强制执行，增强对抗训练的鲁棒性，并与现有的最新对抗性训练方法进行了比较，实验证明该方法可以进一步提高网络的鲁棒性和预测性能。

    Jul, 2020