Jun, 2023

JGAT: 一种用于脑解码的联合时空图注意力模型

PDF
TL;DR本文提出了一种新的多模态时间图注意力网络框架 —— 联合核图注意力网络（Joint kernel Graph Attention Network，JGAT），结合了功能磁共振成像（fMRI）和扩散加权成像（DWI）的数据，可以保留动态信息，具有更好的编码能力。使用 JGAT 模型从多个 7T fMRI 数据集中对大脑进行解码任务，同时可以计算和学习到注意力得分（AS）和帧得分（FS）来定位多个信息时间段，并建立富有意义的动态通路。
brain neural networksmulti-modal imaging techniquesjoint kernel graph attention networkfunctional magnetic resonance imagesdiffusion weighted imaging
发现论文，激发创造
  • 图注意力网络

    本文提出新颖的神经网络结构图注意力网络（GATs），利用掩码的自我关注层处理图结构化数据的缺点，有效提出解决谱学派图神经网络中的几个关键挑战的方法，并在四个数据集上取得了最先进的结果。

    Oct, 2017

  • 异质图中的方向性邻居注意力表示学习

    提出了一种名为 Directional Graph Attention Network (DGAT) 的新型图神经网络结构，利用特征注意力和全局方向信息提高图信息的传播能力，并通过拓扑信息引导的节点剪枝和边添加机制以及新的拉普拉斯矩阵来改善 GAT 存在的局限性，实验证明在真实数据集和合成数据集上，DGAT 在性能上优于传统的 GAT 模型，并在 7 个真实数据集中的 6 个数据集上超越了现有的最先进模型。

    Mar, 2024

  • GAT-GAN：一种基于图注意力机制的时间序列生成对抗网络

    本文提出了一种基于图注意力机制的生成对抗网络（GAT-GAN），使用这种方法可以生成具有高保真度的长时间序列数据，可以通过使用 FTD 评分标准来标准化地评估生成数据的质量和多样性，并且评估结果表明，相比于现有的基于 Frechet Transformer distance 和 Predictive score 的基准模型，GAT-GAN 在多个真实数据集上表现更优。

    Jun, 2023

  • 脑功能连接的拓扑周期图注意力网络

    本研究介绍了一种新颖的拓扑周期图注意力网络（CycGAT），旨在从非必要、冗余的连接中绘制出脑功能图的功能骨架 —— 信号传输的关键通路，这些连接环绕在核心结构周围形成循环。我们首先引入一个循环关联矩阵，建立了图中的独立循环基础，以映射其与边的关系。我们提出了一种循环图卷积，利用循环关联矩阵导出的循环邻接矩阵，在循环的领域内针对性地过滤边的信号。此外，我们通过在循环中引入边的位置编码，进一步增强了循环图卷积的表示能力，并通过模拟和在一个 ABCD 研究的 fMRI 数据（n=8765）上的实验验证了 CycGAT 的定位能力，将其与基准模型进行了比较。CycGAT 优于这些模型，能够识别出功能骨架，并且所需的循环数量明显较少，这对于理解与智力相关的神经回路至关重要。我们的代码将在接受后发布。

    Mar, 2024

  • MST-GAT: 多模空时图注意力网络用于时间序列异常检测

    提出了一种多模态空时图注意力网络 (MST-GAT) 用于多模态时间序列 (MTS) 异常检测，通过模型内 - 模型间关注机制、时空卷积等技术来捕捉时间序列之间的空时关系，实验结果显示 MST-GAT 在四个多模态基准上超过了现有方法，进一步分析表明 MST-GAT 通过定位最异常的单变量时间序列增强了异常检测的解释性。

    Oct, 2023

  • DynSTGAT：动态时空图注意力网络用于交通信号控制

    本论文提出了一种名为 DynSTGAT 的神经网络框架，该框架结合了动态历史状态和新的时空图注意力网络，旨在解决现有方法未充分利用空间 - 时间关联性的问题，提高交通信号控制的性能。

    Sep, 2021

  • Co-GAT: 一种用于对话行为识别和情感分类的交互式图注意力网络

    本文提出了一种基于共交互图注意网络（Co-GAT）的方法，通过同时考虑上下文信息和相互作用信息来完成对话行为识别和情感分类任务，实现了两种信息类型的全面融合。实验结果表明，在两个公开数据集上，该方法成功捕捉了两种信息来源，并取得了领先的性能。此外，本文还发现，本文所提出的相互作用信息对于诸如 BERT、Roberta 和 XLNet 等已有的文本编码矩阵并不完全重叠。

    Dec, 2020

  • 使用时空注意力学习脑连通图的动态图表示

    提出了一种名为 STAGIN 的方法，该方法可以学习到大脑连通性的动态图表示，其中包括空间 - 时间关注的新型读取功能和变压器编码器，对 HCP - 休息和 HCP - 任务数据集的实验表现优异，并且具有与神经科学知识的相应解释。

    May, 2021

  • 具有快速特征值逼近的谱图注意力网络

    本文提出 Spectral Graph Attention Network 和 SpGAT-Cheby 两种新的基于注意力机制的子图表示学习算法，具备捕捉图形全局特征和更少的学习参数的能力，通过半监督节点分类实验验证了算法的效果。

    Mar, 2020

  • GAT 是否失衡？

    基于图神经网络 (Graph Neural Networks) 的优化和学习动态尚未被广泛探索，本研究通过分析图注意力网络 (Graph Attention Network) 提出的保守定律解释了标准初始化中参数变动困难的现象，并提出了一种初始化方案来平衡图注意力网络，使得深层网络更易于训练并加速收敛速度。

    Oct, 2023