Mar, 2020

PushNet：高效且自适应的神经消息传递

PDF
TL;DR本文介绍了一种异步信息传递算法，利用单个同步信息传递迭代来推动最相关的边，使用基于有意义的稀疏节点邻域的节点自适应接受场，通过学习和组合不同大小邻域上的节点表示来捕获多尺度的相关性，并在五个现实世界数据集上提出了半监督节点分类的竞争对手，具有明显的统计优势和更快的运行时间。
message passing neural networksasynchronous message passingnode-adaptive receptive fieldsemi-supervised node classificationmultiple scales correlations
发现论文，激发创造
  • 图属性预测的最短路径网络

    本文章提出了一种最短路径消息传递神经网络框架，可以解决节点间信息传递瓶颈以及节点无法直接通信的问题，从而实现更准确的图分类。

    Jun, 2022

  • 使用结构消息传递构建强大且等变的图神经网络

    通过在节点特征的基础上传播节点的 One-hot 编码，以学习每个节点周围的本地上下文矩阵以及保证置换等变性的消息和更新函数，我们提出了一种具有强大表达能力和等变性的消息传递框架，用于对图形网络进行建模，实验表明本模型可以更准确地预测合成数据上的图形拓扑性质，并在 ZINC 数据集的分子图回归任务中取得了最优结果。

    Jun, 2020

  • 预测后传播：图神经网络遇见个性化 PageRank

    本文通过引入 PageRank 的个性化传播机制，构建了 PPNP 和其快速逼近版本 APPNP 两种新的方法，其训练速度相当或更快，参数数量相当或更少，并且与任何神经网络结合使用， 用于半监督分类，在最彻底的 GCN-like 模型的研究中，展示了该模型胜过几种近期提出的方法。

    Oct, 2018

  • 提升表达能力的非冗余图神经网络

    基于邻域树的新型聚合方案提高了表达能力，减轻了过度压缩，并通过神经树规范化技术提供了高分类准确性。

    Oct, 2023

  • 自适应信息传递：缓解过度平滑、过度压缩和未能到达的通用框架

    通过在变分推断框架中赋予消息传递架构自由适应其深度和筛选消息的能力，本研究提出了一种能够更好捕捉长程相互作用的简单策略，并在与该问题相关的五个节点和图预测数据集上超越了现有技术水平，稳定提高了基线方法在这些任务上的性能。

    Dec, 2023

  • 合作图神经网络

    图神经网络是基于迭代计算的节点表示的图机器学习流行架构之一；本文提出了一个新的框架，用于训练图神经网络，其中每个节点可以选择自己的策略，从而更灵活地探索图拓扑结构并进行学习。

    Oct, 2023

  • 强结构编码是否能减少消息传递的重要性？

    当提供强大的结构性编码时，基于张量乘积的相互作用模型表明比基于拼接的编码更加鲁棒，即使去除了消息传递层，也能在某些任务上几乎不降低性能。

    Oct, 2023

  • 使用一阶消息传递进行超图节点表示学习

    本研究提出了一种新颖的单阶段信息传递范式，用于超图中的全局和局部信息传播模型，在超图节点表示学习的 Transformer 框架 HGraphormer 中引入此范式，通过结合注意力矩阵和超图拉普拉斯矩阵将超图结构信息注入 Transformer，实验表明 HGraphormer 在半监督超节点分类任务上表现优于最新的超图学习方法，提升准确率在 2.52% 至 6.70% 之间。

    Dec, 2023

  • 概率重连的消息传递神经网络

    利用最近在精确和可微分的 k 子集采样中的进展，我们设计了一种概率重连的消息传递图神经网络（PR-MPNNs），该网络学习在省略不太有益的边的同时添加相关边。首次，我们的理论分析探索了 PR-MPNNs 如何增强表达能力，并且我们确定了它们优于纯随机方法的精确条件。经验证实，我们的方法有效地缓解了如过度压缩和预测能力不足等问题。此外，根据现有的真实世界数据集，我们的方法在预测性能上与传统的 MPNN 模型和最近的图变压器架构相比表现出有竞争力或更好的性能。

    Oct, 2023

  • 社交网络中基于观点动力学的神经消息传递的统一视角

    我们提出了一种基于有界置信度的信息传递框架 ODNet，将社会网络和神经信息传递的概念相结合，用于分析和推断动态系统的行为。通过调整有界置信度和影响力权重，并定义与社交网络图特点一致的观点交换规则，我们的方法能够简化复杂的社交网络图，准确识别内部社区和基因在不同代谢途径中的角色。

    Oct, 2023