Jun, 2024

图神经网络在统计泛化中的多样视角

PDF
TL;DR通过流形理论，分析在由流形样本构造的图上操作的图神经网络的统计泛化差距，研究了图神经网络在节点级和图级任务上的泛化差距。在训练图中节点数量增加时，泛化差距减小，从而保证图神经网络对流形上的未见点的泛化性能。通过多个真实世界数据集验证了我们的理论结果。
convolutional neural networksgraph neural networksmanifold theorygeneralization gapsreal-world datasets
发现论文，激发创造
  • 几何图形滤波器和神经网络：极限特性与区分度的权衡

    本文通过对图神经网络和流形神经网络在图构建、卷积核和神经网络等方面的分析，得出了一种针对该关系的适当内核及其密集和中等稀疏图的非渐进误差界定理，并探讨了图过滤器的可区别性和近似期望行为之间的权衡关系，并分析了非线性操作的频率混合特性和相同流形采样的几何图的可转移性推论，并在导航控制问题和点云分类任务上验证了其结果。

    May, 2023

  • 探索图神经网络的泛化理解

    研究了图神经网络在泛化上的机制，建立了高概率边界和其对泛化差距和梯度的影响，得出结论和实验证据相符的新认识。

    May, 2023

  • 流形 GCN: 基于扩散的流形值图卷积神经网络

    基于黎曼流形的图神经网络模型中，我们提出了两个关键的图神经网络层。第一个是扩散层，其基于流形值图扩散方程，适用于任意数量节点和图的连通模式。第二个是切线多层感知机层，借鉴了向量神经元框架的思想，并在一般的情境中应用。这两个层在节点排列和特征流形的等变性方面表现出非常好的性能。在合成数据和海马右侧三角网格对阿尔茨海默病分类的数值实例中，我们的模型均取得了非常好的性能。

    Jan, 2024

  • 基于流形学习的图卷积网络用于半监督图像分类

    本文提出一种基于图卷积神经网络的半监督图像分类方法，采用不同类型的流形学习策略，通过无监督学习的方式实现了对于有限标注数据的图像分类任务，实验结果表明该方法优于传统和现有技术，并且运行时间高效。

    Apr, 2023

  • 图表，卷积和神经网络：从图滤波器到图神经网络

    本文利用图信号处理来表征图神经网络（GNNs）的表征空间，讨论了图卷积滤波器在 GNNs 中的作用，并展示了这类滤波器所建立的任何架构都具有置换等变性和对网络拓扑的稳定性的基本属性。然后，我们讨论了扩展了边变量和自回归移动平均图滤波器的 GNNs 以及它们的属性，并最终研究了在推荐系统和学习机器人群体的分散式控制器中使用 GNNs 的相关研究。

    Mar, 2020

  • 使用混合模型 CNN 对图和流形进行几何深度学习

    这篇论文提出了一个以卷积神经网络为基础的统一框架，以推广 CNN 的应用领域到非欧几里得结构的数据，如图形和流形，并且发现这个框架可以在图像、图形和三维形状分析的标准测试中取得更好的性能。

    Nov, 2016

  • 图境神经网络与图神经网络的可迁移性

    本文介绍了图神经网络（GNN）的转移性以及与该特性相关的图卷积和限制对象图形神经网络（Graphon NNs），证明了一个 GNN 和其极限图形的输出之间的差异，该差异随着节点数量的增加而消失，如果图卷积滤波器在图谱域中是带限制的，则该结果确立了 GNN 的可辨别性和可传输性之间的权衡。

    Jun, 2020

  • 灵活表示多模块图神经网络以实现更好的泛化

    本文研究了图神经网络的可扩展性和推广性，并提出了灵活的 GNNs 框架，通过多种节点更新函数和内部循环优化，使网络能够灵活适应新图并在多项推理任务中提高泛化能力。

    Sep, 2022

  • 图神经网络从结构信息中可得证明的益处：视作特征学习角度

    本研究旨在通过研究梯度下降训练中神经网络中的特征学习理论中图卷积的作用，提供了两层图卷积网络与两层卷积神经网络之间的信号学习和噪声记忆的不同表征，发现图卷积显着增强了对手 CNN 的良性过拟合的范围，并且在梯度下降训练后， GNNs 和 MLPs 在特征学习和泛化能力方面存在重大差异，这一结论在我们的实证模拟中得到了进一步证实。

    Jun, 2023

  • 图神经网络：方法和应用综述

    本文介绍了图神经网络（GNNs）的设计管道，详细讨论了其各个组成部分的变体，对其应用进行了系统分类，并提出了四个开放性问题供未来研究。

    Dec, 2018