NIPSOct, 2018

图神经网络在图划分中的平均场理论

PDF
TL;DR研究了图神经网络的理论性能分析，证明了其在分类任务中灵活性优势高于贝叶斯推断，并探讨了其高精度性能是由反向传播还是架构本身引起的问题。采用最小化图划分问题的平均场理论，证明了数值实验的良好一致性。
graph neural networkflexibilityaccuracybackpropagationarchitecture
发现论文，激发创造
  • 探索图神经网络的泛化理解

    研究了图神经网络在泛化上的机制，建立了高概率边界和其对泛化差距和梯度的影响，得出结论和实验证据相符的新认识。

    May, 2023

  • 基于图神经网络的概率图模型推理

    使用图神经网络作为一种有利于推断任务的推送算法，对于在循环密集的概率有向图上显著优于置信传播算法

    Mar, 2018

  • 图机器学习基础的未来方向

    机器学习与图神经网络，尤其是使用图神经网络（GNN）的机器学习，在各个领域的图数据广泛应用中受到了广泛关注。然而，对于 GNN 的性质仍存在理论上的不完备性。最近的理论进展主要集中于阐明 GNN 的粗粒度表达能力，主要使用组合技巧。然而，这些研究与实践并不完全一致，特别是在理解使用随机一阶优化技术训练时 GNN 的泛化行为方面。在本文中，我们将论证图机器学习社区需要将关注点转向发展一个更加平衡的图机器学习理论，重点研究表达能力、泛化和优化的相互作用。

    Feb, 2024

  • 半监督分类的图分区神经网络

    本文提出了一种名为 GPNN 的图划分神经网络，通过在小子图中进行本地传播和在子图之间进行全局传播来处理极大的图形。经过大量实验，实验结果表明，GPNN 在图形半监督分类任务中表现优异或与现有算法相当，且使用更少的传播步骤也能够达到标准 GNN 的性能。

    Mar, 2018

  • 图学习理论的基础与前沿

    图形学习的理论基础、突破和挑战以及可能的解决方案的综合概述。

    Jul, 2024

  • 平均场网络

    本文针对平均场算法在应对不可精确推断的图模型中的广泛使用进行研究，并将该算法转化为具有多层结构和绑定权重的前向网络以进行一些自然的扩展，包括权重不绑定和 MFNs 作为推理工具和判别模型，最终的实验结果表明，在作为判别模型时，MFNs 可以比平均场算法更有效地进行推理并具有更好的性能。

    Oct, 2014

  • 图形算法的神经执行

    通过在算法空间中训练 Graph Neural Networks 来解决基于图结构的问题，使用基于最大化的信息传递神经网络来实现离散决策，同时实现了任务迁移并提升学习效果。

    Oct, 2019

  • 利用均方最大流和 Kemeny 常数进行马尔可夫链图神经网络的大规模训练

    我们提出了使用图神经网络解决 Markov 链描述的动力学网络的图划分问题，通过使用编码器 - 解码器架构和简单的 GraphSAGE-based GNNs 能够在这个背景下胜过更大更有表达力的基于注意力的模型。

    Dec, 2023

  • 图神经网络的子群泛化和公平性

    本论文通过 PAC-Bayesian 分析来研究非 IID 半监督学习设置下的图神经网络（GNNs）的广义化性能，并分析了不同子组的未标记节点的广义化表现，以从理论角度进一步研究 GNNs 的准确性 -(不) 平等式（不）公平性。实验证实了我们的理论结果。

    Jun, 2021

  • 通过图分割提升图神经网络的表达能力

    图分区神经网络（GPNNs）是一种新颖的 GNN 架构，通过对图进行分区以及顶点集和子图之间的结构相互作用的探索，提高了 GNN 的表达能力，并在各种图基准任务中展示了超越现有 GNN 模型的卓越性能。

    Dec, 2023