图卷积神经网络的稳定性和泛化性能

KDDMay, 2019

图卷积神经网络的稳定性和泛化性能

Stability and Generalization of Graph Convolutional Neural Networks

Saurabh Verma, Zhi-Li Zhang

TL;DR本文研究了图卷积神经网络在半监督学习环境下的算法稳定性及其一阶推论；通过分析单层 GCNN 模型的稳定性，导出其一般化保证，提出稳定性关于其卷积核最大绝对特征值的依赖规律，并说明产生保证所需的卷积核最大特征值与图大小无关，为设计保证的算法稳定性的新型及更好的卷积核提供新思路。最后在多个真实世界的图数据集上评估了实验结果，实验结果支持理论结果。

Abstract

Inspired by convolutional neural networks on 1D and 2D data, graph convolutional neural networks (GCNNs) have been developed for various learning tasks on graph data, and have shown superior performance on real-world datasets. Despite their success, there is a dearth of theoretical explorations of GCNN models such as their generalization properties. In this

graph convolutional neural networks algorithmic stability generalization guarantees semi-supervised graph learning eigenvalue

发现论文，激发创造

大规模随机图上图卷积网络的收敛性和稳定性

本研究通过对随机图模型的分析，研究了图卷积网络（GCN）的性质，包括 GCN 达到其连续对应的收敛性以及 GCN 对随机图小变形的稳定性，这有助于解释卷积表示在欧几里得域中成功的原因。

Jun, 2020

图卷积神经网络的稳定性：小扰动分析视角

本文研究了图卷积神经网络在图拓扑的随机小扰动下的稳定性问题，通过导出了一个新的界限，明确了未经扰动和经扰动图卷积神经网络输出之间的期望差异，该界限明确取决于拉普拉斯矩阵特征对的扰动程度以及插入或删除的边。在此基础上，我们定量地描述了特定边的扰动对网络稳定性的影响，并利用小扰动分析工具来以闭合但近似的形式表达界限，以提高结果的解释性，而无需计算任何扰动移位运算符。最后，我们对所提出的界限的有效性进行了数值评估。

Dec, 2023

图神经网络的稳定性属性

研究了拓扑结构变化对图神经网络输出的影响，证明了使用积分 Lipschitz 过滤器的图卷积与相应非线性混合效应的组合可以实现稳定性和高频信息的判别力，解释了 GNNs 卓越性能的原因。

May, 2019

半监督学习中图卷积网络的深入洞察

本文研究机器学习领域的图半监督学习，提出了基于图卷积网络的深度学习方法，解决了图卷积网络机制不清晰及需要大量标注数据的问题，并针对浅层结构的限制提出了弱监督训练的方法。经过广泛实验验证，研究结果具有实际应用价值。

Jan, 2018

单层图卷积网络的渐近泛化误差

通过分析单层图卷积网络在属性随机块模型和神经先验块模型上的训练性能，我们研究了图卷积网络的收敛速率以及其达到的最优贝叶斯速率。

Feb, 2024

图神经网络中稳定性与表示能力之间的权衡

验证了在图神经网络中引入拓扑扰动的稳定性，针对不同结构的 EdgeNet 框架证明其稳定性，以及参数空间的自由度与代表能力之间的关系和边缘网络参数矩阵与图移动算子的特征向量错配程度对稳定性的影响。

Dec, 2023

图卷积神经网络在边重连下的稳定性研究

本文研究图神经网络 (GNN) 的稳定性，提出一种可解释的上界，表明 GNN 对于高度连通节点之间的重连是稳定的，这为我们进一步了解 GNN 的性质提供了帮助。

Oct, 2020

图卷积神经网络学习什么？

本文研究了 Graph Convolutional Neural Networks 在半监督节点分类中的表现。实验发现，节点的相似度和 GCN 的性能有正相关关系，并且 GCN 在同一类中节点邻居的一致性和唯一性对性能影响显著。

Jul, 2022

简化图卷积网络

通过消除 GCN 中的不必要的非线性和权重矩阵，我们提出了一种线性模型，它对应于一个固定的低通滤波器，然后是一个线性分类器。在许多下游应用中，我们的实验评估表明这种简化并不会对精度产生负面影响。此外，由于我们的模型简化减少了计算量，因此我们的模型在更大的数据集上具有可扩展性，并且具有更快的推理速度。

Feb, 2019

贝叶斯图卷积神经网络用于半监督分类

本文提出一种贝叶斯图卷积神经网络的框架，用于在图结构数据上进行节点分类和矩阵补全任务，并采用一种迭代学习算法来提高模型性能，并在试验中展示了当训练数据少时，该方法提供更好的性能。

Nov, 2018