散射 GCN: 克服图卷积网络的过度平滑问题

Mar, 2020

散射 GCN: 克服图卷积网络的过度平滑问题

Scattering GCN: Overcoming Oversmoothness in Graph Convolutional Networks

Yimeng Min, Frederik Wenkel, Guy Wolf

TL;DR本文提出了一个叫做 Scattering GCN 的方法，将传统图卷积神经网络与几何散射变换和残差卷积相结合，以提高半监督节点分类的性能。实验结果显示，与最新提出的图神经网络相比，这种方法在处理图数据时具有优越性能。

Abstract

graph convolutional networks (GCNs) have shown promising results in processing graph data by extracting structure-aware features. This gave rise to extensive work in geometric deep learning, focusing on designing

graph convolutional networks geometric deep learning scattering gcn semi-supervised node classification oversmoothing

发现论文，激发创造

图神经网络并非总是过度平滑

本研究探讨了图神经网络中的过度平滑问题，并通过使用高斯过程在无限多隐藏特征的极限中对图卷积网络中的过度平滑进行了研究。我们通过一种新的非过度平滑阶段，验证了该理论，并通过在有限大小的图卷积网络上进行训练线性分类器来测试我们的方法的预测结果，结果与有限大小的图卷积网络相吻合。

Jun, 2024

从优化角度重新审视半监督节点分类中的图卷积网络

本文从优化的角度解释了当前的图卷积操作存在的过度平滑问题，并引入了两个衡量节点级任务上过度平滑的度量标准，提出了一种新的卷积核 GCN+，并在真实的数据集上证明了其在节点分类任务上的优秀性能表现。

Sep, 2020

基于散射的图卷积神经网络

该研究将散射变换（scattering transform）推广到图像上并在此基础上构建了图卷积神经网络（convolutional neural network on graphs），证明了在特定条件下，该网络生成的任何特征对排列的变化具有近似不变性（invariance）和对图像操作的稳定性，并在相关数据集上展现出卓越的性能（numerical results）。

Mar, 2018

基于几何散射的图数据分析

本篇论文探讨了散射变换从传统（如图像或音频）信号到图数据的归纳推广，类似于 geometric deep learning 中 ConvNets 的归纳推广，并研究了提取的图特征在图数据分析中的实用性，尤其关注这些特征保留数据中的信息变量和关联的能力，同时将我们的构建与之前的一些理论结果联系起来，这些结果建立在类似变换到图变形的家族上的稳定性上。我们证明了在社交网络数据的图分类和生物化学数据的数据探索中应用了我们的几何散射特征。

Oct, 2018

深度图卷积网络中过度平滑化的重新审视

本论文提出了一种新的观点，即深度图卷积网络在训练过程中可以学习抗去平滑化的能力，并设计了一种简单却有效的技巧来改善 GCN 训练，同时在三个引用网络上验证了结论并提供了 GCN 邻域聚合方面的见解。

Mar, 2020

半监督学习中图卷积网络的深入洞察

本文研究机器学习领域的图半监督学习，提出了基于图卷积网络的深度学习方法，解决了图卷积网络机制不清晰及需要大量标注数据的问题，并针对浅层结构的限制提出了弱监督训练的方法。经过广泛实验验证，研究结果具有实际应用价值。

Jan, 2018

图修订卷积网络

提出一种名为图修正卷积网络（GRCN）的框架，通过引入基于 GCN 的图修正模块来预测缺失边并在下游任务中进行边缘权重修正，以避免过度参数化或简单的重新加权观察到的边缘的问题，并且在六个基准数据集上的实验结果表明，与强基准方法相比，GRCN 始终表现出较大的优势，尤其是原始图严重不完整或用于模型训练的标记实例高度稀疏的情况。

Nov, 2019

DeeperGCN：训练深度 GCN 所需的全部

本文提出了一种名为 DeeperGCN 的新型 Graph Convolutional Networks，它有效地解决了深度较大的 GCNs 存在的梯度消失、过度平滑和过度拟合等问题，实现了对大规模图数据的成功且可靠的训练，并在 Open Graph Benchmark (OGB) 上进行的实验证明其在节点属性预测和图形属性预测的大规模图形学习任务中比现有技术有显著提高。

Jun, 2020

包含缺失特征的图形卷积网络

该文提出了一种基于高斯混合模型的图卷积神经网络方法，有效解决了节点特征信息不完整所带来的性能退化问题，实现了端到端的特征填充和图学习过程，并在节点分类和链路预测任务中明显优于基于特征填充技术的方法。

Jul, 2020

AGNN: 循环使用图正则化神经网络缓解过渡平滑问题

本研究提出了一种 Alternating Graph-regularized Neural Network (AGNN) 模型，其中包括 Graph Convolutional Layer (GCL) 和 Graph Embedding Layer (GEL)。GEL 通过包含拉普拉斯嵌入项的图正则化优化导出，可以通过从低阶特征空间定期投影到高阶空间来缓解过度平滑问题。通过改进的 Adaboost 策略聚合来自每一层的输出，并探索多跳邻居的集成嵌入，评估表明，在比较某些多层或多阶图神经网络的性能基础上，AGNN 比现有的最先进模型表现更好。

Apr, 2023