神经网络的图结构

ICMLJul, 2020

Graph Structure of Neural Networks

Jiaxuan You, Jure Leskovec, Kaiming He, Saining Xie

TL;DR研究了神经网络的图结构对其预测性能的影响，开发了一种称为关系图的神经网络图结构，并发现关系图的 “甜点” 导致神经网络具有显着提高的预测性能，这个发现在许多不同的任务和数据集中都是一致的，通过高效的方式可以识别出最佳的神经网络，而且表现最佳的神经网络的图结构非常类似于真正的生物神经网络。

Abstract

neural networks are often represented as graphs of connections between neurons. However, despite their wide use, there is currently little understanding of the relationship between the graph structure of the neur

neural networks graph structure predictive performance relational graph biological neural networks

发现论文，激发创造

一切皆有联系：图神经网络

本文概述了图表示学习的关键概念与相关领域，并指出了图表示学习在交通预测、社交网络分析、推荐系统、药物研发等应用领域中的重要性，以及与图表示学习相关的机器学习应用领域。

Jan, 2023

图神经网络在不必要的情况下使用图

图神经网络在图数据上学习的支配方法中，普遍存在过拟合图结构的现象，本研究通过对不同图分布进行分析，提出了一种理论解释和图编辑方法，以减轻图神经网络对应该被忽略的图结构的过拟合问题，并在多个基准测试中验证了该方法的有效性。

Sep, 2023

关系数据的神经网络

该研究针对深度神经网络在社交网络分析等结构化领域表现不佳的问题，提出了一种新方法，即基于关系随机游走的特征和参数共享的关系神经网络。实验证明，该方法在多个标准关系数据集上的表现优于多种神经网络和统计关系模型。

Aug, 2019

图神经网络：方法和应用综述

本文介绍了图神经网络（GNNs）的设计管道，详细讨论了其各个组成部分的变体，对其应用进行了系统分类，并提出了四个开放性问题供未来研究。

Dec, 2018

使用图神经网络学习复杂系统的动力学和结构

本研究训练了图神经网络以适应来自非线性动力系统的时间序列，发现了学习表示和模型组件的简单解释，并成功地确定了 ' 图翻译器 '，使两种新类型广义：仅基于时间序列观测来恢复新系统实例的潜在结构，或者直接从该结构构造新网络。结果表明，理解复杂系统的动态和结构及其如何用于泛化的途径。

Feb, 2022

图结构学习的调查：进展与机遇

本文综述了最近在图结构学习（GSL）方法中的进展，着重于建模图结构的方法，应用和未来方向。GSL 旨在联合学习优化的图结构和对应的图表示。

Mar, 2021

图神经网络与概率图模型的交叉：综述

该研究综述了图神经网络和概率图形模型的交叉应用，探讨了 GNN 如何受益于 PGM 学习结构表示，如何实现更有效的推理和结构学习，以及分析了近期研究中使用的基准数据集和未来研究方向。

May, 2022

图学习网络：一种结构学习算法

本文提出了基于图卷积神经网络的 Graph Learning Network 模型，用于解决社区检测、节点分类、链路预测等任务，并能够学习节点嵌入和结构预测函数。该模型能够递归地提高预测结果和嵌入质量。

May, 2019

学习潜在的图结构及其不确定性

该研究展示了在预测任务中，图神经网络（GNNs）利用关系信息作为归纳偏差以提高模型的准确性。通过学习图结构的方法来解决下游预测任务中未知的相关关系，同时证明了点预测损失函数（如平均绝对误差）的最小化并不能保证对潜在关系信息及其相关不确定性进行适当的学习。相反，合适的损失函数在随机模型输出上同时确保了（i）未知邻接矩阵潜在分布和（ii）在预测任务上的最佳性能。最后，我们提出了一种基于采样的方法来解决这一联合学习任务。实证结果验证了我们的理论观点，并证明了所提方法的有效性。

May, 2024

学习图的深度生成模型

本文介绍了一种基于图神经网络的强大新方法，用于学习生成模型的过程中捕获图的结构和属性。实验证明，相较于不使用图结构表示的基线，我们的模型常常表现更好，是学习任意图的生成模型的第一个最通用的方法，为从矢量和序列式知识表示的限制中走向更具表现力和灵活性的关系型数据结构开辟了新方向。

Mar, 2018