Jun, 2020

使用结构消息传递构建强大且等变的图神经网络

PDF
TL;DR通过在节点特征的基础上传播节点的 One-hot 编码，以学习每个节点周围的本地上下文矩阵以及保证置换等变性的消息和更新函数，我们提出了一种具有强大表达能力和等变性的消息传递框架，用于对图形网络进行建模，实验表明本模型可以更准确地预测合成数据上的图形拓扑性质，并在 ZINC 数据集的分子图回归任务中取得了最优结果。
graph neural networksmessage-passing frameworkpermutation equivariancegraph topological propertiesmolecular graph regression
发现论文，激发创造
  • 强结构编码是否能减少消息传递的重要性？

    当提供强大的结构性编码时，基于张量乘积的相互作用模型表明比基于拼接的编码更加鲁棒，即使去除了消息传递层，也能在某些任务上几乎不降低性能。

    Oct, 2023

  • 对称消息传递算法用于张量特性和分子光谱预测

    本文介绍了通过使用极化原子相互作用的神经网络（PaiNN）来改善基于消息传递神经网络的分子预测性能，从而实现分子光谱模拟速度的提升。

    Feb, 2021

  • 使用一阶消息传递进行超图节点表示学习

    本研究提出了一种新颖的单阶段信息传递范式，用于超图中的全局和局部信息传播模型，在超图节点表示学习的 Transformer 框架 HGraphormer 中引入此范式，通过结合注意力矩阵和超图拉普拉斯矩阵将超图结构信息注入 Transformer，实验表明 HGraphormer 在半监督超节点分类任务上表现优于最新的超图学习方法，提升准确率在 2.52% 至 6.70% 之间。

    Dec, 2023

  • PushNet：高效且自适应的神经消息传递

    本文介绍了一种异步信息传递算法，利用单个同步信息传递迭代来推动最相关的边，使用基于有意义的稀疏节点邻域的节点自适应接受场，通过学习和组合不同大小邻域上的节点表示来捕获多尺度的相关性，并在五个现实世界数据集上提出了半监督节点分类的竞争对手，具有明显的统计优势和更快的运行时间。

    Mar, 2020

  • 通过虚拟节点的概率图重连

    隐式重连消息传递神经网络 (IPR-MPNNs) 整合了概率性图重连机制，解决了信息传递受限和结构瓶颈导致的问题，实现了跨较大距离的消息传递，并在多个图数据集上取得了最先进的性能，同时保持了显著更快的计算效率。

    May, 2024

  • 图属性预测的最短路径网络

    本文章提出了一种最短路径消息传递神经网络框架，可以解决节点间信息传递瓶颈以及节点无法直接通信的问题，从而实现更准确的图分类。

    Jun, 2022

  • 自适应信息传递：缓解过度平滑、过度压缩和未能到达的通用框架

    通过在变分推断框架中赋予消息传递架构自由适应其深度和筛选消息的能力，本研究提出了一种能够更好捕捉长程相互作用的简单策略，并在与该问题相关的五个节点和图预测数据集上超越了现有技术水平，稳定提高了基线方法在这些任务上的性能。

    Dec, 2023

  • 概率重连的消息传递神经网络

    利用最近在精确和可微分的 k 子集采样中的进展，我们设计了一种概率重连的消息传递图神经网络（PR-MPNNs），该网络学习在省略不太有益的边的同时添加相关边。首次，我们的理论分析探索了 PR-MPNNs 如何增强表达能力，并且我们确定了它们优于纯随机方法的精确条件。经验证实，我们的方法有效地缓解了如过度压缩和预测能力不足等问题。此外，根据现有的真实世界数据集，我们的方法在预测性能上与传统的 MPNN 模型和最近的图变压器架构相比表现出有竞争力或更好的性能。

    Oct, 2023

  • 持续消息传递

    本文介绍了 Persistent Message Passing (PMP) 机制，该机制为 GNN 的 latent representations 中加入了查询过去状态的能力，从而更好地支持时间依赖性数据结构的查询，允许 GNN 创建新节点来记录历史状态，并在动态时间范围查询上表现出色，具有优于覆盖状态的 GNN 的通用性。

    Mar, 2021

  • 简单流形消息传递用于化学性质预测

    该论文提出了一种基于 Simplicial Message Passing 框架来处理分子结构的方法，其中包括用于量子化学性质预测的深度学习体系结构，并比传统的 MPNN 表现更好。

    Jun, 2023