Oct, 2023

基于本地感知的图重连技术在图神经网络中的应用

PDF
TL;DR图神经网络是基于图的机器学习的流行模型，本文提出了一种新的图重连框架，通过一系列的重连操作满足降低过度挤压、保持图的局部性和稀疏性等特点，并验证其在多个真实世界基准测试中的有效性。
graph neural networksmessage-passing paradigmgraph rewiring techniqueslong-range interactionslocality-aware sequence
发现论文，激发创造
  • 图神经网络中的重连效果究竟有多大帮助？

    本文针对图神经网络在传递节点特征时的过度平滑和过度压缩问题，提出了通过改变图结构解决该问题的方法，并给出了不需要训练就能计算节点和图表示的评估设置，结果表明重构底层图对消息传递很少有实际的好处。

    May, 2023

  • 基于信息收缩和图扩展视角的 GNN 过度挤压问题

    提出一种用于分析过度压缩的基于信息收缩的框架，此分析是基于 von Neumann 的可靠计算模型的，该计算模型认为在噪声计算图中过度压缩会导致信号闷灭。同时，本研究提出了一种基于重连的算法来缓解过度压缩问题。

    Aug, 2022

  • 图神经网络中的过度压缩现象：一项综合调查

    对图神经网络（GNN）中普遍存在的过烈抑制问题进行了细致剖析，探讨了研究者目前提出的改善方法和创新，旨在解决 GNN 领域面临的挑战。

    Aug, 2023

  • FoSR: 基于一阶谱重连技术解决 GNN 中过度压缩问题

    本文提出了一种基于谱扩展的计算有效算法，通过系统地添加边来防止过度压缩，该算法结合使用关系架构，可让 GNN 保留原始图形结构并可证明防止过度平滑，实验表明我们的算法在几个图分类任务中优于现有的图重连方法。

    Oct, 2022

  • DiffWire: 通过 Lovász 上界进行归纳图重连

    本文提出了一个新框架 DiffWire，使用 CT-Layer 和 GAP-Layer 两种新型层，令 Graph Neural Networks 具有更好的表达能力和稳定性，解决了现有 MPNNs 存在的问题。同时，实验证明不同层分别在图分类和节点分类等任务中也有较好表现。

    Jun, 2022

  • 图形神经网络的图形重写

    本文提出将图重写作为研究和比较图神经网络的形式模型，并将 GNN 表示为图重写系统，探讨其架构和算法。作者开发了一个基于 Groove 图重写模型的案例研究，用于模拟消息传递神经网络，并探讨其对动态更新的增量操作。

    May, 2023

  • Riemannian 图神经网络中的过度压缩

    本研究探索了通过图神经网络的嵌入空间来减轻过度压缩现象，特别关注于将双曲型图神经网络推广到可变曲率的黎曼流形，以使嵌入空间的几何与图的拓扑相符，通过提供敏感性的界限结果，实现在具有负曲率的图中减轻过度压缩的有希望的理论和实证结果。

    Nov, 2023

  • 通过重连对图卷积网络进行攻击

    本文提出了一种针对图神经网络的对抗攻击方法，通过图重连的操作，使用强化学习生成对于目标模型影响较小的扰动，并在真实图数据集上进行实验及分析，证明该方法的有效性。

    Jun, 2019

  • PANDA: 扩展宽度感知的消息传递超越重连

    引入一种扩展型宽度感知信息传递（PANDA）的新信息传递范式，在网络结构中选择性地扩展具有高度中心性的节点，以解决 “过度压缩” 问题，并且在实验中表现优于传统的网络重连方法。

    Jun, 2024

  • 理解图神经网络中过度平滑和过度压缩之间的关系

    本研究旨在从拓扑学的角度理解深度图神经网络中关于过度平滑和过度挤压的交错关系，发现这两个问题的本质相似性，并提出了一种基于 Ollivier 的 Ricci 曲率边界的随机 Jost 和 Liu 曲率重连算法 (SJLR)，该方法比以前的基于曲率的重连方法更简单且更经济实惠，旨在帮助减轻过度平滑或过度挤压的影响并更好地理解这两个问题。

    Dec, 2022