基于多面体抽象解释的节点扰动图卷积网络鲁棒性认证
本文研究了图卷积网络在对抗扰动下的鲁棒性,通过提出 GraphDefense 方法,成功提高了图卷积网络的鲁棒性,同时能够维持半监督学习的设定,具有较大的应用潜力。
Nov, 2019
本研究针对图形结构数据,基于随机平滑技术,开发出可证明鲁棒性的图神经网络,证明其对于节点和图分类具有结构扰动的认证鲁棒性保证,并在多个 GNN 和多个基准数据集上进行了实证评估。
Aug, 2020
通过挑战经典的图形拉普拉斯算子,设计出一种可以证明在频谱域内具有鲁棒性的新卷积算子,它被纳入 GCN 体系结构中以改善其表达能力和可解释性,同时通过将原始图形扩展到一系列图形,提出了一种鲁棒的训练范式,以鼓励跨越具有一系列空间和频谱特征的图形的可转移性,这些方法在广泛的实验中得到证明,可以同时提高在良性和对抗性情况下的性能。
May, 2019
本文提出了第一种证明(非)稳健性的图卷积网络方法,该方法能够在考虑特定攻击模型的情况下,保证节点属性的 L0 - 范围内的扰动。最后,我们还提出了一种鲁棒的半监督训练过程,通过实验证明我们的方法证明了图神经网络的鲁棒性,对预测精度的影响最小。
Jun, 2019
本文提出了一种针对图神经网络和标签 / 特征传播模型的验证可证(非)鲁棒性的方法,并通过 PageRank 和马尔可夫决策过程的相关性来计算证书。我们同时研究了一种鲁棒性训练程序,以增加可证明鲁棒性节点的数量,同时保持或提高了干净的预测准确性。
Oct, 2019
在这项工作中,我们从理论上定义了属性图背景下的预期稳健性概念,并将其与图表示学习文献中的敌对鲁棒性概念相关联。我们的定义使我们能够得出图卷积网络和图同构网络在节点特征攻击下预期稳健性的上界,并基于这些发现将图卷积正交稳健网络(Graph Convolutional Orthonormal Robust Networks)作为对敌对攻击更稳健的变体提出,将 GNN 的预期稳健性与其权重矩阵的正交性联系起来。我们进一步引入了一种概率方法来估计预期稳健性,这使我们能够评估 GCORN 在几个真实世界数据集上的有效性。实验结果表明,GCORN 优于现有的防御方法。
Apr, 2024
本文研究了图卷积神经网络在图拓扑的随机小扰动下的稳定性问题,通过导出了一个新的界限,明确了未经扰动和经扰动图卷积神经网络输出之间的期望差异,该界限明确取决于拉普拉斯矩阵特征对的扰动程度以及插入或删除的边。在此基础上,我们定量地描述了特定边的扰动对网络稳定性的影响,并利用小扰动分析工具来以闭合但近似的形式表达界限,以提高结果的解释性,而无需计算任何扰动移位运算符。最后,我们对所提出的界限的有效性进行了数值评估。
Dec, 2023
该研究论文研究并解决了在安全关键环境中验证神经网络的稳健性和不确定性中的计算依赖关系问题,并使用(矩阵)多项式范围体进行可达性分析验证了其方法在三个流行基准数据集上的有效性。
Apr, 2024
本文提出了一种具有全局注意机制的图卷积网络,能够选择性地关注和汇聚图中的任何节点,同时使用基于 Permutohedral 网络的近似高斯过滤技术实现全局汇聚方案,从而实现对节点分类性能的优化。
Mar, 2020