HHGT: 分层异构图变换器用于异构图表示学习
本文介绍了一种用于建模Web规模异构图的异构图转换器架构(HGT),通过设计基于节点类型和边类型的参数来实现异构性,并引入相对时间编码技术和异构迷你批图采样算法来处理动态异构图数据,实验表明,所提出的HGT模型在各种下游任务中始终优于所有最先进的HNN基线9%至21%。
Mar, 2020
本研究旨在提供一个统一框架以深入概述和评估异构网络嵌入(HNE)的现有研究,并通过提供分类和分析不同现有HNE算法的优点和缺点、创建四个基准数据集以便于对HNE算法进行公正的评价、以及修改并创建13个受欢迎的HNE算法的友好界面,并在多个任务和实验设置中进行全方位比较来推动深度学习在异质网络关键任务中的应用。
Apr, 2020
本文综述了近年来异构图嵌入方法和技术的发展,并系统地归类了各种学习方法来解决异构性带来的挑战,探索了不同类型的应用中使用嵌入方法的可行性,总结了开源代码、现有的图学习平台和基准数据集,预测了未来的研究方向。
Nov, 2020
本文提出了一种名为Heterformer的异构图神经网络-嵌套变形器,能够融合图神经网络和预训练语言模型来进行节点表示学习,实验结果证明其在链接预测、节点分类、节点聚类以及语义检索方面都优于现有的基准模型。
May, 2022
本论文通过对异构图神经网络(HGNN)中注意力机制、多层结构进行深入研究,提出了Simple and Efficient Heterogeneous Graph Neural Network(SeHGNN),该方法采用轻量级平均聚合器预先计算邻居聚合以捕获结构信息,采用长元路径和Transformer语义融合模块来更好地利用语义信息,结果表明SeHGNN具有简单的网络结构、高预测准确性和快速的训练速度。
Jul, 2022
本文提出了一种新的框架,名为HAGNN(Hybrid Aggregation for Heterogeneous GNNs),可以同时利用元路径邻居和直接相连邻居进行节点聚合来充分利用异构图中的异质性,通过在自身内部对齐和外部对齐两个阶段分别聚合结构语义信息和类型语义信息,获得了优于现有异构GNN模型的效果。
Jul, 2023
利用异构图神经网络建模了类型多样性节点,并通过两个关键组件,即类型感知编码器和维度感知编码器,解决了节点类型信息丢失和高阶信息损失问题,在编码节点表征时充分利用了图的异构性。实验证明了MULAN在六个异构数据集上的优越性和高效性。
Nov, 2023
在异质性的情况下,图神经网络(GNNs)往往表现出次优的性能。本文提出并证明了异质性中宝贵的语义信息可以通过研究每个节点在图中的邻居分布来有效地利用于图学习,进而构建了一种新的图结构HiGNN,该结构通过利用节点分布来增强具有相似语义特征的节点之间的连接性。通过在节点分类任务上的实证评估和与其他方法比较,我们验证了HiGNN在改进图表示方面的有效性,并证明通过整合异质性信息可以显著提升现有基于GNN的方法,以及在真实世界数据集中的同质性程度,从而证明了我们方法的功效。
Mar, 2024
同质性原则(Homophily principle)是图神经网络(Graph Neural Networks)在图结构数据中表现优越的主要原因,但低同质性(heterophily)却是导致某些情况下图神经网络表现不理想的主要原因。本综述调查了异质图学习的最新进展,包括标杆数据集的详细概述、合成图上同质性度量的评估、最新监督和非监督学习方法的分类、同质性/异质性的理论分析以及与异质性相关的广泛应用。同时,我们首次将标杆的异质性数据集分为恶性、良性和模糊三个子类,其中恶性和模糊数据集是用于测试新模型在异质性挑战上有效性的真正具有挑战性的数据集。最后,我们提出了几个关于异质图表示学习的挑战和未来方向。
Jul, 2024