图神经网络在生物数据上的规模通用性:来自谱视角的洞见和实践
本文针对图形分布中局部结构与图形大小相关的情况,探讨了图神经网络在不同大小的图上的泛化能力,发现了一些针对小图很好但对大图表现不佳的全局最小值,提出了两种改善图形大小泛化能力的方法,其中包括一个自我监督学习任务,该任务能够提供在大图中出现的局部结构的有意义表示,并在多个数据集上改善了分类准确度。
Oct, 2020
本文总结了谱图神经网络的最新发展,包括模型、理论和应用等方面的内容,其中介绍了谱性 GNN 能够捕捉全局信息,并具有更好的可表达性和可解释性。通过对现有谱性 GNN 的分析,本文梳理了主要理论结果和应用,最后进行了定量实验来评估几种常见的谱性 GNN 模型,为未来的研究提出了一些方向。
Feb, 2023
本文研究了图神经网络的可扩展性和推广性,并提出了灵活的 GNNs 框架,通过多种节点更新函数和内部循环优化,使网络能够灵活适应新图并在多项推理任务中提高泛化能力。
Sep, 2022
最近在图神经网络领域中,频谱图神经网络因其在频域捕捉图信号的特点而受到广泛关注,展示出在特定任务中的有希望的能力。然而,对于评估其频谱特征的系统研究还很少。此观点论文通过对超过 30 个包含 27 个相应滤波器的频谱图神经网络进行广泛的基准测试,分析和分类这些模型,并在统一框架下实现这些频谱模型,提供了对有效性和效率的多方位实验评估,并提供了在评估和选择性能良好的频谱图神经网络时的实用指南。我们的实现能够在更大的图上应用,性能可比且开销较小,可以从以下链接获得:
Jun, 2024
通过引入适应计算进程的学习终止机制和具有通用同态函数逼近器的同态转换层,从构造图论程序的角度出发,针对当前图神经网络在解决多个图分析问题时规模(图大小、图直径、边权重等)的泛化性不足问题提出了几种扩展方法,实验结果表明该方法在小规模图上训练,但是对于大规模图也具有很好的泛化性。
Oct, 2020
基于 Laplacian 算子,谱图卷积神经网络是一种用于图数据的卷积网络,并已被证明可以稳定地在不同大小和连接性的图之间传输谱滤波器,在图回归、图分类和节点分类等任务中表现出良好的性能。
Dec, 2020
本研究关注图神经网络的本质问题:无法仅仅依靠局部信息计算多个重要的图形特征;同时提出了信息传递图神经网络的第一个数据相关泛化界限,这一分析专门考虑了 GNN 局部置换不变性,该边界比现有的基于 VC 维度的 GNN 保证要紧密,与循环神经网络的 Rademacher 界限相当。
Feb, 2020
本论文通过 PAC-Bayesian 分析来研究非 IID 半监督学习设置下的图神经网络(GNNs)的广义化性能,并分析了不同子组的未标记节点的广义化表现,以从理论角度进一步研究 GNNs 的准确性 -(不) 平等式(不)公平性。实验证实了我们的理论结果。
Jun, 2021
本研究提出一种基于规则化策略的方法,能够在只有训练数据而没有测试数据的情况下,提高图神经网络在更大规模的图上的泛化能力,从而改善图分类的性能。实验结果表明,流行的 GNN 模型在我们的规则化策略下,在 50% 规模最小的图上进行训练,在 10% 规模最大的图上进行测试时,性能提高了达到 30%。
Jul, 2022