Sep, 2024

特征异质性对图神经网络链接预测的影响

HTML
PDF
TL;DR本研究解决了特征异质性对图神经网络（GNN）在链接预测任务中性能影响的不确定性。通过引入同质性和异质性的链接预测任务的理论框架，我们展示了不同优化需求，并提出了改进的设计。实证分析表明，使用可学习的解码器和在消息传递中采用自我和邻居嵌入分离的GNN编码器是提升链接预测性能的关键。
发现论文，激发创造
  • 异质性如何影响图神经网络的鲁棒性？理论联系和实践含义

    研究图神经网络中的异质性标签与GNN对抗性攻击鲁棒性之间的关系，并且证实采用相应设计原则可以提高GNN的鲁棒性，实验证明采用这种设计可以比未接种疫苗的模型实现更好的鲁棒性，并且采用防御机制可以使其鲁棒性更强，性能提高达18.33%。

    Jun, 2021

  • 异质性是否对图神经网络进行节点分类造成实质性威胁？

    本文提出了Adaptive Channel Mixing框架，利用聚合，多样化和恒等通道来以自适应的方式解决Graph Neural Networks中的有害异质性问题，并在10个真实世界节点分类任务中获得了显着的性能提升。

    Sep, 2021

  • 异质图上的图神经网络综述

    本文首次全面回顾了异态图神经网络，提出了系统的分类法，分析了主要异态图神经网络模型，总结了主流异态图基准，并指出了未来研究和应用方向。

    Feb, 2022

  • 重新审视异质性对图神经网络的影响

    本文通过重新评估广泛使用的同质性度量，并从后集成节点相似性的角度研究了异质性。提出了一种新的度量方法，并证明了local diversification operation可以有效解决一些有害的异质性情况，然后提出了Adaptive Channel Mixing（ACM）框架来自适应地利用聚合，多样性和标识通道，从而从多样化的节点异质性情况中提取更丰富的局部信息。经过10项基准节点分类任务的评估，ACM-augmented基线始终实现了显着的性能提升，超过大多数任务上的最新GNN，而不会带来显着的计算负担。

    Oct, 2022

  • 图神经网络中本地同质水平的性能差异

    理论和实证研究表明，图神经网络可能过度依赖于用于训练的全局同质性，需要设计出更适应大范围局部同质性的图神经网络。

    Jun, 2023

  • Hetero$^2$Net: 非同质图上的异质感知表示学习

    利用元路径识别异质图中的异质性并提出了两个度量方法来定量描述异质性水平，在多个具有不同异质性水平的真实异质图上进行了深入研究，观察到继承自处理同质图的图神经网络对异质图的异质性或同质性较低的泛化能力有限。为解决这一挑战，提出了一种新的异质图神经网络 Hetero$^2$Net，通过蒙版元路径预测和蒙版标签预测任务，有效且灵活地处理同质性和异质性异质图，在五个具有不同异质性水平的真实异质图基准上评估了 Hetero$^2$Net 的性能，结果表明 Hetero$^2$Net 在半监督节点分类任务中优于强基线模型, 为有效处理更复杂的异质图提供了有价值的见解。

    Oct, 2023

  • 打破半监督节点分类中同质性和异质性的纠缠

    最近，图神经网络（GNNs）通过利用图数据库中的知识，在半监督节点分类中展示了显著的性能。然而，大多数现有的GNN都遵循同质性假设，即连接的节点更有可能展示相似的特征分布和相同的标签，而这种假设在越来越多的实际应用中被证明是脆弱的。作为补充，异质性反映了连接节点之间的不相似性，在图学习中引起了重要关注。为此，数据工程师旨在开发一个能够确保在同质性和异质性下性能的强大GNN模型。尽管已经做出了许多尝试，但大多数现有的GNN由于无向图的限制而难以实现最佳节点表示。忽视有向边导致次优的图表示，从而限制了GNN的能力。为解决这一问题，我们引入了AMUD，它从统计的角度量化节点配置和拓扑之间的关系，为自适应地将自然有向图建模为无向图或有向图以最大化后续图学习中的效益提供了宝贵的见解。此外，我们提出了ADPA作为AMUD的新的有向图学习范式。实证研究表明AMUD指导了高效的图学习。与此同时，在14个基准数据集上的大量实验证实了ADPA的出色性能，优于基准线3.96%。

    Dec, 2023

  • 迈向异质图学习的进展与未来

    本文综述了关于从异质图中学习的现有研究成果，包括图的学习策略、模型架构和应用案例，并探讨了现有研究的主要挑战和未来研究的有希望方向。

    Jan, 2024

  • 异质友善信息增强图神经网络

    在异质性的情况下，图神经网络（GNNs）往往表现出次优的性能。本文提出并证明了异质性中宝贵的语义信息可以通过研究每个节点在图中的邻居分布来有效地利用于图学习，进而构建了一种新的图结构HiGNN，该结构通过利用节点分布来增强具有相似语义特征的节点之间的连接性。通过在节点分类任务上的实证评估和与其他方法比较，我们验证了HiGNN在改进图表示方面的有效性，并证明通过整合异质性信息可以显著提升现有基于GNN的方法，以及在真实世界数据集中的同质性程度，从而证明了我们方法的功效。

    Mar, 2024

  • 异质图学习手册：基准、模型、理论分析、应用和挑战

    同质性原则（Homophily principle）是图神经网络（Graph Neural Networks）在图结构数据中表现优越的主要原因，但低同质性（heterophily）却是导致某些情况下图神经网络表现不理想的主要原因。本综述调查了异质图学习的最新进展，包括标杆数据集的详细概述、合成图上同质性度量的评估、最新监督和非监督学习方法的分类、同质性/异质性的理论分析以及与异质性相关的广泛应用。同时，我们首次将标杆的异质性数据集分为恶性、良性和模糊三个子类，其中恶性和模糊数据集是用于测试新模型在异质性挑战上有效性的真正具有挑战性的数据集。最后，我们提出了几个关于异质图表示学习的挑战和未来方向。

    Jul, 2024