同一问题的两个方面:图卷积神经网络中的异质性和过度平滑
基于 Transfer Entropy 的策略可解决 Graph Convolutional Networks 中的过度平滑和节点关系属性的利用两个重要挑战,并通过使用异质性和度信息作为节点选择机制以及基于特征的 Transfer Entropy 计算来提高 GCN 模型的分类准确率,但需要考虑计算复杂度。
Jun, 2024
本研究通过引入 Heterophilous Stochastic Block Models (HSBM) 来深入理解图中物种异质性模式对图神经网络的影响,揭示了图卷积操作对分类的可分性提升受到邻域分布欧氏距离和平均节点度的影响,且拓扑噪声对可分性有不利影响,多次图卷积操作时,可分性受邻域分布归一化距离的影响。通过实验验证了理论的有效性。
Jan, 2024
该研究通过节约和邻居嵌入、高阶邻居和中间表示的结合,设计出一种草图神经网络(H2GCN),并通过实验表明其在半监督节点分类任务下,具有比传统模型更高的预测准确率,尤其对于异质性网络(即一对连接的节点可能具有不同的类别标签和不同的特征)表现更出色。
Jun, 2020
本文提出了一种新的传播机制,可以智能地根据同类和异类节点之间的同质性或异质性自动更改传播和聚合过程,并基于拓扑和属性信息学习同质性度量方法,以刻画不同类别节点之间的相似度,在七个现实世界数据集上实验表明该方法优于现有方法。
Dec, 2021
在异质性的情况下,图神经网络(GNNs)往往表现出次优的性能。本文提出并证明了异质性中宝贵的语义信息可以通过研究每个节点在图中的邻居分布来有效地利用于图学习,进而构建了一种新的图结构 HiGNN,该结构通过利用节点分布来增强具有相似语义特征的节点之间的连接性。通过在节点分类任务上的实证评估和与其他方法比较,我们验证了 HiGNN 在改进图表示方面的有效性,并证明通过整合异质性信息可以显著提升现有基于 GNN 的方法,以及在真实世界数据集中的同质性程度,从而证明了我们方法的功效。
Mar, 2024
本文通过重新评估广泛使用的同质性度量,并从后集成节点相似性的角度研究了异质性。提出了一种新的度量方法,并证明了 local diversification operation 可以有效解决一些有害的异质性情况,然后提出了 Adaptive Channel Mixing(ACM)框架来自适应地利用聚合,多样性和标识通道,从而从多样化的节点异质性情况中提取更丰富的局部信息。经过 10 项基准节点分类任务的评估,ACM-augmented 基线始终实现了显着的性能提升,超过大多数任务上的最新 GNN,而不会带来显着的计算负担。
Oct, 2022
本文从优化的角度解释了当前的图卷积操作存在的过度平滑问题,并引入了两个衡量节点级任务上过度平滑的度量标准,提出了一种新的卷积核 GCN+,并在真实的数据集上证明了其在节点分类任务上的优秀性能表现。
Sep, 2020
本文提出了 Adaptive Channel Mixing 框架,利用聚合,多样化和恒等通道来以自适应的方式解决 Graph Neural Networks 中的有害异质性问题,并在 10 个真实世界节点分类任务中获得了显着的性能提升。
Sep, 2021
本文提出了一种基于树的层次结构和有序神经元的图神经网络方法,解决了图中多次信息传递导致的过度平滑和异质性问题。实验证明,该方法在同质性和异质性场景下均能取得最优表现,并能有效防止图模型存在的过度平滑问题。
Feb, 2023