Mar, 2024

对图注入攻击的集体可信韧性

PDF
TL;DR我们研究图注入攻击下 GNN 的认证鲁棒性。现有研究仅通过验证每个节点提供逐节点的证书，导致认证性能非常有限。在本文中，我们首次提出了集体证书，同时为一组目标节点提供认证。为了实现这一目标，我们将问题形式化为二次约束的线性规划问题，并进一步开发了一种定制线性化技术，使我们能够将问题松弛为线性规划，从而能够高效地求解。通过全面的实验证明，我们的集体认证方案显著改善了认证性能，同时具有最小的计算开销。例如，在 Citeseer 数据集上在 1 分钟内解决线性规划问题时，当注入节点数量占图大小的 5% 时，我们的认证比例从 0.0% 增加到 81.2%。我们的工作是实现可证明的防御更加实际的关键进展。
certified robustnessgraph injection attackscollective certificateinteger quadratic constrained linear programmingprovably defense
发现论文，激发创造
  • 集体鲁棒性证书：利用图神经网络中的相互依赖性

    该研究提出了首个集合鲁棒性证明，该证明可以同时保证图灵网络的多个预测结果在扰动下的不可被攻击性，并结合其局部性质使用多个单节点证明来构建强大的集合证明。

    Feb, 2023

  • 节点感知的双平滑算法：对图注入攻击的认证鲁棒性

    通过节点感知的双平滑框架，我们引入了第一种可证明对抗图注入攻击的通用节点分类任务的鲁棒方法，并通过严密的理论分析建立了我们平滑方案的可证明条件。此外，我们将两个最先进的可证明鲁棒性框架扩展到节点注入攻击，并与它们进行了比较。广泛的评估证明了我们提出的证书的有效性。

    Dec, 2023

  • 图形扰动的可验证鲁棒性

    本文提出了一种针对图神经网络和标签 / 特征传播模型的验证可证（非）鲁棒性的方法，并通过 PageRank 和马尔可夫决策过程的相关性来计算证书。我们同时研究了一种鲁棒性训练程序，以增加可证明鲁棒性节点的数量，同时保持或提高了干净的预测准确性。

    Oct, 2019

  • 图卷积网络的可认证鲁棒性和鲁棒训练

    本文提出了第一种证明（非）稳健性的图卷积网络方法，该方法能够在考虑特定攻击模型的情况下，保证节点属性的 L0 - 范围内的扰动。最后，我们还提出了一种鲁棒的半监督训练过程，通过实验证明我们的方法证明了图神经网络的鲁棒性，对预测精度的影响最小。

    Jun, 2019

  • 可证实的鲁棒图对比学习

    在本文中，我们开发了第一个能够确定性地提高图对比学习（Graph Contrastive Learning，GCL）鲁棒性的框架。我们提出了一个统一的评估和认证 GCL 鲁棒性的标准，并引入了一种新的技术 RES（Randomized Edgedrop Smoothing）来确保任何 GCL 模型的鲁棒性，并能够在下游任务中被可靠地保持。此外，我们还提出了一种有效的培训方法来提高 GCL 的鲁棒性。在真实世界的数据集上进行的大量实验证明了我们提出的方法在提供有效的可证鲁棒性和提高任何 GCL 模型的鲁棒性方面的有效性。RES 的源代码可在此 https URL 获得。

    Oct, 2023

  • 图神经网络对抗性结构扰动的可靠鲁棒性认证

    本研究针对图形结构数据，基于随机平滑技术，开发出可证明鲁棒性的图神经网络，证明其对于节点和图分类具有结构扰动的认证鲁棒性保证，并在多个 GNN 和多个基准数据集上进行了实证评估。

    Aug, 2020

  • 基于图的安全和隐私分析，通过联合权重学习和传播进行集体分类

    本文提出了一种新颖的集合分类框架来解决安全和隐私分析中长期存在的挑战 —— 如何分配边缘权重，以获得更高的精度。通过将学习边缘权重和传播信誉度称为联合优化问题，我们可以同时解决这两个问题，并获得比传统方法更高的准确性。

    Dec, 2018

  • 稳健的图神经网络通过无偏聚合

    通过对代表性鲁棒性图神经网络的鲁棒性分析，我们提供了一个统一的鲁棒估计视角以了解它们的鲁棒性和局限性。我们通过估计偏差的新颖分析来设计了一个鲁棒而无偏的图信号估计器，并开发了一个高效的拟牛顿迭代加权最小二乘算法来解决估计问题，在图神经网络中展开为鲁棒无偏的聚合层，并具有理论上的收敛保证。我们的综合实验证实了我们提出模型的强鲁棒性，剖析研究深入认识了其优势。

    Nov, 2023

  • 大规模图神经网络的健壮性

    本文研究了如何攻击和防御大规模 GNN，设计了一种高效表示的稀疏感知优化攻击和鲁棒的聚合函数 ——Soft Median，并且展示了优于常见代理损失函数的全局攻击替代方案。

    Oct, 2021

  • 基于结构的图分类稳健性证明

    本文介绍了一种基于随机平滑法的加性异向噪声分布的结构感知证书方法，此方法相对于传统的邻接矩阵的 $l_{0}$ 范围更加有效，并且能够在图的不同预定义结构之间产生鲁棒性证书，可用于保证图形分类器的鲁棒性

    Jun, 2023