异构图神经网络梯度正则化的统一方法
本文介绍了一种新的框架,Blend&Grind-HGNN(BG-HGNN),该框架有效地解决了现有 HGNN 在处理不同关系类型复杂异构图时所面临的问题,其通过将不同关系融合到一个统一的特征空间中,在参数可管理的单一参数集的帮助下,得到了一个更高效、更有效地从异构图中学习的 HGNN 方法。实证研究表明,BG-HGNN 在参数效率(高达 28.96 倍)、训练吞吐量(高达 8.12 倍)和准确性(高达 1.07 倍)方面显著超过了现有的 HGNN。
Mar, 2024
我们提出了一种名为 RpHGNN 的混合预计算型异构图神经网络,它将一种风格的效率与另一种风格的低信息损失相结合,通过引入随机投影压缩步骤和关系化邻居收集组件,在七个小型和大型基准数据集上获得了最先进的结果,并比大多数有效的基准方法快 230%。
Oct, 2023
本文通过使用官方代码、数据集、设置和超参数,对 12 个最近的异质图神经网络进行了系统的复现,揭示了关于 HGNNs 进展的惊人发现。发现由于不当的设置,简单的同质 GNNs 被大大低估,GAT 在适当的输入情况下可以在各种情况下与或胜过所有现有的 HGNNs。为了促进鲁棒且可重复的 HGNN 研究,我们构建了异质图基准 (HGB),其中包括具有三个任务的 11 个不同的数据集。HGB 规范了异质图数据分割、特征处理和性能评估的流程。最后,我们介绍了一个简单但非常强大的基准 Simple-HGN,它在 HGB 上明显优于所有先前的模型,以加速未来 HGNNs 的发展。
Dec, 2021
本论文通过对异构图神经网络(HGNN)中注意力机制、多层结构进行深入研究,提出了 Simple and Efficient Heterogeneous Graph Neural Network(SeHGNN),该方法采用轻量级平均聚合器预先计算邻居聚合以捕获结构信息,采用长元路径和 Transformer 语义融合模块来更好地利用语义信息,结果表明 SeHGNN 具有简单的网络结构、高预测准确性和快速的训练速度。
Jul, 2022
本文提出了一种新的广义 PageRank(GPR)图神经网络(GNN)架构,用于联合优化节点特征和拓扑信息提取,无论节点标签是同质的还是异质的。通过学习 GPR 权重,学到适应节点标签模式的权重,避免了特征信息过度平滑的问题,从而提高了在同质性和异质性数据集上的节点分类性能。
Jun, 2020
本文研究异构图神经网络 (HGNNs) 的课程学习技术应用,设计了一种损失感知的训练进度表,命名为 LTS,该表度量数据的每个节点的质量,并逐步增加难度地将训练数据集融入模型中。LTS 可无缝集成到各种框架中,有效减少偏差和方差,减轻噪声数据的影响,并提高整体准确性,从而展示了课程学习在增强 HGNNs 分析复杂图结构数据能力方面的功效。
Feb, 2024
通过设计一种新的 HGNNs 攻击模型,即 MGHGA,集中在修改节点特征上,本论文试图填补现有研究中对 HGNNs 敌对攻击的研究空白,通过在特征选择和特征修改模块中使用动量梯度机制和特征生成方法,MGHGA 能够在离散和连续数据集上有效对节点和视觉对象分类任务进行攻击,并在实验证明相对于基准方法,MGHGA 的攻击性能平均提升了 2%。
Oct, 2023
HGAttack 是针对异构图设计的首个灰盒逃避攻击方法,通过设计一种新颖的代理模型,利用梯度方法实现扰动生成,提高了生成攻击在目标 HGNN 上的可转移性并显著降低了内存成本。在三个数据集上的综合实验证实了 HGAttack 的有效性。
Jan, 2024