May, 2023

图形对抗鲁棒性：不变因果防御

PDF
TL;DR提出了一种旨在学习具有强预测性和不变性的因果特征以实现图形对抗鲁棒性的不变因果防御方法，称为 Invariant causal DEfense method against adversarial Attacks (IDEA)，并通过实验证明，在五个基准数据集上 IDEA 在毒害和逃避攻击下显着优于所有基线。
graph neural networksadversarial attacksideacausal featuresgraph adversarial robustness
发现论文，激发创造
  • GraphDefense: 构建强健的图卷积网络

    本文研究了图卷积网络在对抗扰动下的鲁棒性，通过提出 GraphDefense 方法，成功提高了图卷积网络的鲁棒性，同时能够维持半监督学习的设定，具有较大的应用潜力。

    Nov, 2019

  • 图数据上的对抗样本：攻击和防御的深度洞察

    本文提出了针对图数据的攻击和防御技术，其中引入了集成梯度来解决离散特征的问题，并且发现对于攻击后的图形，它的统计特征与正常图形不同，并提出一种检查图像并找到潜在的对抗扰动的方法。经过若干数据集的测试显示本文方法的有效性。

    Mar, 2019

  • CausalAdv：因果视角下的对抗鲁棒性

    本文利用因果分析来建模敌对攻击的产生过程，并定义敌对分布以形式化敌对攻击的直观；通过因果解释，本文提出了一种由 Causal inspired Adversarial distribution alignment 方法，CausalAdv，以消除自然分布和敌对分布之间差异的方法，并证明了该方法的有效性。

    Jun, 2021

  • 稳健图神经网络的图结构学习

    本文探讨了图神经网络在面临敌对攻击时的脆弱性，并提出了一种名为 Pro-GNN 的框架，以基于真实世界图形的内在属性来联合学习结构性图形和稳健性 GNN 模型以应对此问题。通过实验表明，Pro-GNN 在防御敌对攻击方面表现优异。

    May, 2020

  • 可解释的人工智能安全：探索图神经网络对对抗攻击的鲁棒性

    图神经网络 (GNNs) 的脆弱性研究，通过系统性地考虑图数据模式、模型特定因素和对抗样本的传递性，揭示了对抗攻击对 GNN 的影响，从而为提高 GNN 的对抗鲁棒性提供了相关的准则和原则。

    Jun, 2024

  • 学习因果不变表示以实现图上的跨分布泛化

    该研究提出了一种新的框架，Causality Inspired Invariant Graph LeArning (CIGA)，通过使用因果模型来确定图表上的潜在分布偏移，从而捕获图表的不变性，以在各种分布偏移下保证 OOD 泛化性能。

    Feb, 2022

  • 同时扰乱一切：实现可微分的图攻击

    通过对图结构进行连续松弛和参数化，我们提出了一种名为 Differentiable Graph Attack（DGA）的新型攻击方法，以高效生成有效的攻击并同时消除了昂贵的重新训练的需求。与最新技术相比，DGA 在不同基准数据集上实现了几乎相等的攻击性能，训练时间减少了 6 倍，GPU 内存占用减少了 11 倍。此外，我们还对 DGA 在不同图模型之间的可转移性以及对广泛使用的防御机制的鲁棒性进行了广泛的实验分析。

    Aug, 2023

  • 攻击何时何地？一种基于因果关系的生成反事实对抗样本的方法

    通过考虑因果生成过程，我们通过因果关系解释深度神经网络脆弱性的源头，给出了理论结果来回答攻击的目标所在。为了更真实地生成对抗性示例，我们提出了 CADE 框架，可以生成反事实的对抗性示例，并在白盒、基于迁移的以及随机干预攻击等各种攻击场景中表现出竞争力。

    Dec, 2023

  • 图上反对抗免疫实现可证明的稳健性

    本文提出了一种名为 AdvImmune 的算法，它通过耗费仅 5% 的边缘预算，通过优化元梯度以离散的方式解决敌对免疫问题，从而使得图表具有可证实的稳健性，实验证明该算法在两个引用网络和一个社交网络上可以显著提高稳健节点的比例。

    Jul, 2020

  • 图形上的对抗攻击与防御：一项综述，一项工具和实证研究

    该研究论文介绍 Deep Neural Networks 和 Graph Neural Networks 对抗攻击的脆弱性，提出了相关攻击和防御的借鉴，以及一个算法库用于研究对抗攻击和防御。

    Mar, 2020