本文提出了一种专门针对地震震中和天气预测等问题的图形卷积递归神经网络 (GCRNN) 架构,使用卷积滤波器组保持可训练参数的数量与图形尺寸和时间序列无关,并提出了 Gated GCRNNs,一种类似于 LSTM 的时间门控变体。在使用合成和实际数据进行的实验中,与 GNN 和另一种图形递归架构相比,GCRNN 显着提高了性能,同时使用的参数数量要少得多。
Mar, 2019
针对图状数据的学习问题,该研究提出了一种基于递归架构的图神经网络算法,其关键在于使用跳过连接、状态规则化和边缘卷积等三种技术以实现对小型图问题的端到端学习及大规模图问题的推广。实验证明该算法具有较高的推广能力。
Dec, 2022
提出了一种新的神经网络模型结合 Gated Graph Neural Networks 和输入转换解决了线性化启发式和参数爆炸问题,可以对 AMR 图和基于语法的神经机器翻译进行生成,实验结果表明该模型优于强基线模型。
Jun, 2018
本文提出了一种结合高级时空图和序列学习成功的递归神经网络(RNN)的方法,通过将任意时空图转化为丰富的 RNN 混合物来提高模型性能,适用于模拟人类运动到对象交互等多种问题领域。
Nov, 2015
本论文研究图结构数据的学习技术,以 Graph Neural Networks 为起点,使用门控循环单元和现代优化技术,并将其扩展为输出序列,展示出其在一些简单的 AI 和图算法学习任务中的能力,并在程序验证的问题中实现了最新水平的性能。
本文提出了一种可扩展的体系结构,利用随机循环神经网络将输入时序的历史数据嵌入到高维状态表示中,并利用不同幂次的图相邻矩阵沿空间维传播以生成节点嵌入,从而实现多尺度的时空特征表示,我们的方法在保证结果竞争力的同时,大大降低了计算负担。
Sep, 2022
本文提出了一种名为 “Implicit Graph Neural Networks(IGNN)” 的图学习框架,其利用 Perron-Frobenius 理论来确保该框架的良好性,并利用隐式微分得到一种可行的投影梯度下降法来训练该框架,实验证明 IGNN 可以稳定捕捉长程依赖并优于现有的 GNN 模型。
Sep, 2020
本文介绍了图神经网络(GNNs)的设计管道,详细讨论了其各个组成部分的变体,对其应用进行了系统分类,并提出了四个开放性问题供未来研究。
Dec, 2018
本文介绍 Causal Graph Process Neural Network (CGProNet),它结合了 CGPs 和 GNNs,用于时空预测,并通过使用更少的参数、减少内存使用和提高运行效率来优化模型。实验结果表明 CGProNet 在保持竞争力的预测性能的同时,最小化了内存和时间需求。
May, 2024
本研究提出一种新型的循环神经网络结构,即门控反馈循环神经网络,通过全局门控单元来控制和允许来自上层循环层到下层层的信号,改进了现有的多层循环层叠加方法,我们评估了不同类型的循环神经元,如 tanh,长短时记忆和门循环单元,在字符级语言建模和 Python 程序评估等任务上,实验证明 GF-RNN 优于传统方法构建深度堆叠循环神经网络,因为 GF-RNN 可以通过学习对这些交互进行门控从而自适应地将不同的层分配给不同的时间尺度和层间交互。
Feb, 2015