Jul, 2023

使用图度及采样理论的图神经网络可转移性

PDF
TL;DR通过引入显式的两层图状神经网络 (WNN) 架构，我们证明其能够用最少的网络权重近似带限信号在指定误差容限内，并且通过这一结果，建立了明确的两层 GNN 在收敛于图状函数的一系列充分大图上的可传递性。我们的工作解决了其他 GNN 结果中出现的维度诅咒问题，提供了处理各种大小图形数据的实际解决方案，同时保持性能保证而无需进行大量的重新训练。
graph neural networkstransferabilitygraphonsbandlimited signalsnetwork weights
发现论文，激发创造
  • 图境神经网络与图神经网络的可迁移性

    本文介绍了图神经网络（GNN）的转移性以及与该特性相关的图卷积和限制对象图形神经网络（Graphon NNs），证明了一个 GNN 和其极限图形的输出之间的差异，该差异随着节点数量的增加而消失，如果图卷积滤波器在图谱域中是带限制的，则该结果确立了 GNN 的可辨别性和可传输性之间的权衡。

    Jun, 2020

  • 探索图神经网络的泛化理解

    研究了图神经网络在泛化上的机制，建立了高概率边界和其对泛化差距和梯度的影响，得出结论和实验证据相符的新认识。

    May, 2023

  • 图嵌入神经网络的图信号分析

    本文针对以往工作的不足，引入了一种有意义的图信号相似度度量，提出了一种称为图信号切割距离的相似度度量，证明了 MPNN 可以在图信号度量空间中满足收敛性并得出了二次元情况下相似度度量的性质，进而提出了 MPNN 的泛化界和稳定性。

    May, 2023

  • 图表，卷积和神经网络：从图滤波器到图神经网络

    本文利用图信号处理来表征图神经网络（GNNs）的表征空间，讨论了图卷积滤波器在 GNNs 中的作用，并展示了这类滤波器所建立的任何架构都具有置换等变性和对网络拓扑的稳定性的基本属性。然后，我们讨论了扩展了边变量和自回归移动平均图滤波器的 GNNs 以及它们的属性，并最终研究了在推荐系统和学习机器人群体的分散式控制器中使用 GNNs 的相关研究。

    Mar, 2020

  • 混合图上的消息传递网络的泛化界限

    研究了消息传递神经网络（MPNNs）的泛化能力，并给出了具体适用于具有规范化求和和平均聚合的 MPNNs 的泛化边界。在更现实和具有挑战性的情境下，通过分析简单的随机图、扰动的图标和稀疏图，得出结论表明，只要图形足够大，比训练集的大小复杂，MPNNs 仍然可以有效地泛化。

    Apr, 2024

  • 通过迭代同质图神经网络实现规模不变的图相关问题求解

    通过引入适应计算进程的学习终止机制和具有通用同态函数逼近器的同态转换层，从构造图论程序的角度出发，针对当前图神经网络在解决多个图分析问题时规模（图大小、图直径、边权重等）的泛化性不足问题提出了几种扩展方法，实验结果表明该方法在小规模图上训练，但是对于大规模图也具有很好的泛化性。

    Oct, 2020

  • 图神经网络的泛化和表征限制

    本研究关注图神经网络的本质问题：无法仅仅依靠局部信息计算多个重要的图形特征；同时提出了信息传递图神经网络的第一个数据相关泛化界限，这一分析专门考虑了 GNN 局部置换不变性，该边界比现有的基于 VC 维度的 GNN 保证要紧密，与循环神经网络的 Rademacher 界限相当。

    Feb, 2020

  • 基于自我图信息最大化的图神经网络迁移学习

    该研究提出了一种基于理论基础和实用性的 GNN 传递学习框架，首先提出了一种新颖的图信息视图，并提出通过 EGI (Ego-Graph Information maximization) 来分析实现传递学习目标，其次，当节点特征是结构相关的时，我们对 EGI 的可转移性进行了分析，综合两个真实数据集的实验结果表明具有传递性，在大规模知识图谱的转移学习中表现出良好的效果。

    Sep, 2020

  • 灵活表示多模块图神经网络以实现更好的泛化

    本文研究了图神经网络的可扩展性和推广性，并提出了灵活的 GNNs 框架，通过多种节点更新函数和内部循环优化，使网络能够灵活适应新图并在多项推理任务中提高泛化能力。

    Sep, 2022

  • 近似等变图网络

    图神经网络 (GNNs) 和欧几里德卷积神经网络 (CNNs) 的等变性对称性不同，本篇论文侧重于探讨 GNNs 的主动对称性，通过对信号在固定图上的支持进行学习，将近似对称性形式化为图粗化，提出了一个偏差 - 方差公式来量化损失表达性与学习估计的规则性之间的权衡，实验证明，选择比图自同构群大但小于全排列群的适当大的群可以达到最佳泛化性能。

    Aug, 2023