图神经网络中超越同构性:现有限制与有效设计
本研究提出了CPGNN框架,它使用可解释的兼容性矩阵来建模图中异相性(heterophily)或同相性(homophily)水平,并证明了该框架在更现实和具有挑战性的实验设置下比以前的作品要有效。
Sep, 2020
提出了GloGNN和GloGNN两种模型应用于具有异质性的图上,能够从全局节点中聚合信息生成节点嵌入,理论证明了这种方法的有效性并在15个基准数据集中进行实验证明其性能优异。
May, 2022
本文通过重新评估广泛使用的同质性度量,并从后集成节点相似性的角度研究了异质性。提出了一种新的度量方法,并证明了local diversification operation可以有效解决一些有害的异质性情况,然后提出了Adaptive Channel Mixing(ACM)框架来自适应地利用聚合,多样性和标识通道,从而从多样化的节点异质性情况中提取更丰富的局部信息。经过10项基准节点分类任务的评估,ACM-augmented基线始终实现了显着的性能提升,超过大多数任务上的最新GNN,而不会带来显着的计算负担。
Oct, 2022
我们提出了GCNH,是一种简单但有效的GNN架构,适用于异构和同质图形,并使用一个学习的重要系数平衡中心节点和邻域的贡献,可以解决异构图上性能问题和过度平滑问题。
Apr, 2023
利用元路径识别异质图中的异质性并提出了两个度量方法来定量描述异质性水平,在多个具有不同异质性水平的真实异质图上进行了深入研究,观察到继承自处理同质图的图神经网络对异质图的异质性或同质性较低的泛化能力有限。为解决这一挑战,提出了一种新的异质图神经网络 Hetero$^2$Net,通过蒙版元路径预测和蒙版标签预测任务,有效且灵活地处理同质性和异质性异质图,在五个具有不同异质性水平的真实异质图基准上评估了 Hetero$^2$Net 的性能,结果表明 Hetero$^2$Net 在半监督节点分类任务中优于强基线模型, 为有效处理更复杂的异质图提供了有价值的见解。
Oct, 2023
最近,图神经网络(GNNs)通过利用图数据库中的知识,在半监督节点分类中展示了显著的性能。然而,大多数现有的GNN都遵循同质性假设,即连接的节点更有可能展示相似的特征分布和相同的标签,而这种假设在越来越多的实际应用中被证明是脆弱的。作为补充,异质性反映了连接节点之间的不相似性,在图学习中引起了重要关注。为此,数据工程师旨在开发一个能够确保在同质性和异质性下性能的强大GNN模型。尽管已经做出了许多尝试,但大多数现有的GNN由于无向图的限制而难以实现最佳节点表示。忽视有向边导致次优的图表示,从而限制了GNN的能力。为解决这一问题,我们引入了AMUD,它从统计的角度量化节点配置和拓扑之间的关系,为自适应地将自然有向图建模为无向图或有向图以最大化后续图学习中的效益提供了宝贵的见解。此外,我们提出了ADPA作为AMUD的新的有向图学习范式。实证研究表明AMUD指导了高效的图学习。与此同时,在14个基准数据集上的大量实验证实了ADPA的出色性能,优于基准线3.96%。
Dec, 2023
在异质性的情况下,图神经网络(GNNs)往往表现出次优的性能。本文提出并证明了异质性中宝贵的语义信息可以通过研究每个节点在图中的邻居分布来有效地利用于图学习,进而构建了一种新的图结构HiGNN,该结构通过利用节点分布来增强具有相似语义特征的节点之间的连接性。通过在节点分类任务上的实证评估和与其他方法比较,我们验证了HiGNN在改进图表示方面的有效性,并证明通过整合异质性信息可以显著提升现有基于GNN的方法,以及在真实世界数据集中的同质性程度,从而证明了我们方法的功效。
Mar, 2024
同质性原则(Homophily principle)是图神经网络(Graph Neural Networks)在图结构数据中表现优越的主要原因,但低同质性(heterophily)却是导致某些情况下图神经网络表现不理想的主要原因。本综述调查了异质图学习的最新进展,包括标杆数据集的详细概述、合成图上同质性度量的评估、最新监督和非监督学习方法的分类、同质性/异质性的理论分析以及与异质性相关的广泛应用。同时,我们首次将标杆的异质性数据集分为恶性、良性和模糊三个子类,其中恶性和模糊数据集是用于测试新模型在异质性挑战上有效性的真正具有挑战性的数据集。最后,我们提出了几个关于异质图表示学习的挑战和未来方向。
Jul, 2024