解放图神经网络：摆脱繁琐调整

May, 2024

Unleash Graph Neural Networks from Heavy Tuning

Lequan Lin, Dai Shi, Andi Han, Zhiyong Wang, Junbin Gao

TL;DR为了解决图神经网络的高计算成本和高人力成本问题，本研究提出了一种图条件潜在扩散框架（GNN-Diff），通过从粗略搜索中学习保存的检查点直接生成高性能的图神经网络，不需进行复杂的调参和搜索空间设计，比传统的扩散框架在生成高质量的图神经网络方面具有更好的表现。

Abstract

graph neural networks (GNNs) are deep-learning architectures designed for graph-type data, where understanding relationships among individual observations is crucial. However, achieving promising GNN performance,

graph neural networks gnn-diff deep-learning architectures hyperparameter tuning diffusion frameworks

发现论文，激发创造

分布式图神经网络训练：综述

这篇综述论文分析了分布式图神经网络训练的三个挑战以及通过四类优化技术解决这些挑战的方法：GNN 数据分区、GNN 批量生成、GNN 执行模式和 GNN 通信协议。最后，本文总结了现有的多 GPU、GPU 集群和 CPU 集群的分布式 GNN 系统，并就可伸缩 GNNs 的未来方向进行了讨论。

Nov, 2022

在连续图扩散函数空间中重新思考和重新设计图神经网络

本文提出了一种基于变分分析的归纳偏差方法以增强图神经网络的长距离依赖和全局模式捕捉能力，并采用总变差方法对图扩散模式与社区拓扑进行对齐，最后构建了一种能够预测图中传播流的生成对抗网络。最终，我们的方法在 Cora、Citeseer 和 Pubmed 等著名图学习数据集上实现了最新的性能水平。

Jul, 2023

自动图神经网络

本研究提出自动设计深层 GNN 的方法，其中添加了新型的跳跃连接以促进特征重用和缓解梯度消失问题，并允许进化算法在演化过程中增加 GNN 层数来生成更深的网络，在 Cora、Citeseer、Pubmed 和 PPI 数据集上实验表明，GNNs 的生成结果具有最先进的性能。

Nov, 2020

图神经网络代理模型的可解释微调

使用图神经网络的可解释微调策略对基于网格的流体动力学建模进行研究，以提高其可预测性和解释性，并通过正则化过程识别与预测错误相关的图节点。

Nov, 2023

约束狄利克雷能量的深度图神经网络学习

该论文分析了深度图神经网络的瓶颈问题以及提出了一种基于狄利克雷能量的通用原则，通过该原则设计了一种新型深度图神经网络框架 - EGNN，并在实验结果中取得了最新颖的表现。

Jul, 2021

图神经网络分布式系统的演化及其在图处理和深度学习中的起源：一项调查

本文总结和分类大规模图神经网络解决方案的重要方法和技术，并建立了图神经网络系统、图处理系统和深度学习系统之间的联系。

May, 2023

图神经扩散网络用于半监督学习

GND-Nets, a new graph neural network that exploits local and global neighborhood information, is proposed to mitigate the over-smoothing and under-smoothing problems of Graph Convolutional Networks, using a new graph diffusion method called neural diffusions, which integrate neural networks into the conventional linear and nonlinear graph diffusions.

Jan, 2022

搜索 UGLE 真相：无监督 GNN 学习环境的调查

本文介绍了使用 GNN 进行社区检测的问题，并提出了一个用于公平、严谨评估 GNN 的社区检测的基准环境的框架。该文章强调了实验设置对性能的强烈依赖性，并提供了使用框架促进一致性研究的明确动机。

May, 2023

隐式图神经网络

本文提出了一种名为 “Implicit Graph Neural Networks（IGNN）” 的图学习框架，其利用 Perron-Frobenius 理论来确保该框架的良好性，并利用隐式微分得到一种可行的投影梯度下降法来训练该框架，实验证明 IGNN 可以稳定捕捉长程依赖并优于现有的 GNN 模型。

Sep, 2020

GNN-Ensemble: 面向随机决策图神经网络的研究

本文提出了一种基于随机建模的新方法，称为 GNN-Ensemble，用于构建多个随机决策图神经网络的集成，从而提高图神经网络的性能，泛化能力和对抗性鲁棒性。该方法在不同的子结构和子特征空间中构建 GNN，在决策时进行组合，从而提高了它们的分类性能，并有效降低了对训练数据的过拟合。同时，我们证明 GNN-Ensemble 可以显著提高对抗性攻击的鲁棒性。

Mar, 2023