基于 GNN 的 SAT 求解中的变量依赖问题解决
通过将神经网络和统计结构学习模型相结合,我们提出了一种混合方法,通过从多变量数据中自主学习依赖关系并构建动态变化的依赖图,从而实现了在缺乏明确定义图的情况下利用图神经网络进行多变量预测。在真实世界的基准数据集上,我们的方法显著提高了性能。
Dec, 2023
图神经网络(GNN)是用于各种图学习任务的主要架构。我们通过研究 GNN 概率分类器在从某个随机图模型中抽取的较大图上应用时的预测如何演变来呈现 GNN 表达能力的新视角。我们展示了输出收敛为常函数的现象,这个常函数上界了这些分类器能够统一表达的内容。这种收敛现象适用于包括最先进模型在内的广泛类别的 GNN,其中包括均值聚合和图转换器中的基于注意力的机制。我们的结果适用于包括(稀疏的)Erdős-Rényi 模型和随机块模型在内的广泛类别的随机图模型。我们通过实证验证了这些发现,并观察到即使在相对较小的图上,收敛现象已经显现出来。
Mar, 2024
该研究展示了在预测任务中,图神经网络(GNNs)利用关系信息作为归纳偏差以提高模型的准确性。通过学习图结构的方法来解决下游预测任务中未知的相关关系,同时证明了点预测损失函数(如平均绝对误差)的最小化并不能保证对潜在关系信息及其相关不确定性进行适当的学习。相反,合适的损失函数在随机模型输出上同时确保了(i)未知邻接矩阵潜在分布和(ii)在预测任务上的最佳性能。最后,我们提出了一种基于采样的方法来解决这一联合学习任务。实证结果验证了我们的理论观点,并证明了所提方法的有效性。
May, 2024
该研究提出了一种面向多变量时间序列数据的图神经网络框架,采用图学习模块提取自动生成的变量之间的关系,同时运用新颖的混合传递和膨胀创新层捕捉时间序列中的空间和时间相关性,而这些模块被联合学习在一个端对端框架中。实验结果表明,该模型的性能在 3 个基准数据集上优于现有最先进方法,并在提供额外结构信息的两个交通数据集上实现了与其他方法相当的性能。
May, 2020
本研究提出自动设计深层 GNN 的方法,其中添加了新型的跳跃连接以促进特征重用和缓解梯度消失问题,并允许进化算法在演化过程中增加 GNN 层数来生成更深的网络,在 Cora、Citeseer、Pubmed 和 PPI 数据集上实验表明,GNNs 的生成结果具有最先进的性能。
Nov, 2020
介绍了一种名为图结构和积网络的概率方法,可用于机器人领域的结构预测问题,演示了该方法如何通过处理机器人在大规模办公空间中的嘈杂拓扑关系来提高关于语义概念描述的推断,并显示 GraphSPNs 始终优于传统基于无向图模型的方法。
Sep, 2017
本文提出了一种称为简化空时交通预测 GNN 的模型,它通过对不同邻域进行分别聚合的方式有效地编码了空间依赖性,并使用简单而有效的加权空时聚合机制捕获时间依赖性,而且使用了一种新颖的位置编码方案来捕获周期性的交通模式,实验表明该模型优于最先进的交通预测模型。
Mar, 2021
我们提出了一种使用增强学习进行训练的 GNN 方法,通过移除边和 / 或节点找出最具预测性的子图,同时优化图分类任务的性能,从而在与基线相竞争的性能下,依赖于更稀疏的子图,从而产生更可解释的基于 GNN 的预测结果。
Apr, 2024