Jan, 2022

利用时间注意力在网格化简空间中预测物理

PDF
TL;DR本文提出一种基于图的下一步预测模型，采用了一种类 Transformer 的时序关注模型来捕捉长期的依赖关系，利用编码器 - 解码器结构来总结特征和创建系统状态的紧凑网格表示，并在几个复杂的流体力学预测任务中优于竞争性 GNN 基线，可以帮助解决高维物理问题的序列建模。
graph-based modelstemporal attentionmesh representationfluid dynamicsphysics tasks
发现论文，激发创造
  • 用于三维人体运动预测的时空转换器

    本文提出一种新颖的基于 Transformer 的架构，用于生成 3D 人体运动的模型。该模型能够学习高维度骨骼关节的嵌入，通过解耦的时间和空间自注意机制使得生成的姿态在时间上是连贯的。实验结果表明该模型能够准确地生成短期预测并在长期时间跨度内生成合理的运动序列。

    Apr, 2020

  • 交通流预测的自适应图空时转换网络

    该论文提出了一种基于自适应图形时空网络和 Transformer 的交叉空间时间注意力机制，在流量预测上的实验结果表明其具有更优秀的性能。

    Jul, 2022

  • TransformerG2G：使用 Transformer 学习时变图嵌入的自适应时间步长

    开发了一种具有不确定性量化的图嵌入模型 TransformerG2G，通过利用先进的转换编码器从当前状态 ($ t $) 和先前上下文（在时间戳 [$ t-1，t-l $] 上，$ l $ 是上下文的长度）中首先学习中间节点表示。

    Jul, 2023

  • 基于注意力的社交图变换网络用于随机轨迹预测

    提出了一种关注社交图转换网络的多模态轨迹预测方法，它结合了图卷积网络和 Transformer 网络，并通过生成稳定分辨率的伪图像来处理空时图，还设计了关注社交交互信息的模块。实验证明该模型在多个度量指标上最大限度地降低了位移误差，并显著减少碰撞的可能性，同时具备长时间预测的能力。

    Dec, 2023

  • 交通流量预测的时空转换网络

    本文提出了一种新的空间 - 时间变换网络的范例来改善长期交通预测的准确性，其中使用图神经网络和自注意机制来动态建模交通数据中的有向空间相关性，并利用跨多个时间步骤的长程双向时间依赖性。实验证明，该模型在 Real-world 数据集上预测交通流量方面的性能要好于现有工作。

    Jan, 2020

  • 面向点云的三维视频目标检测的图神经网络和时空变换器注意力

    本文采用多帧点云视频中的时间信息来探测 3D 物体。研究者们提出了一种名为 GMPNet 的格网信息传递网络来编码短期时间信息，并提出了一个名为 AST-GRU 的基于注意力的时空变换 GRU 来进一步聚合长期帧。在 NuScenes 基准测试中，该方法表现优异，且不需要任何额外的手段。

    Jul, 2022

  • TransGlow: 基于图神经网络的注意力增强传导模型用于水流预测

    该研究论文提出了一种基于图卷积循环神经网络和注意机制的时空预测模型 TransGlow，用于水量的水文预测与预测建模，通过对水系统的动态性和有限数据进行建模，实验结果表明该模型在水文应用领域取得了显著的优势。

    Dec, 2023

  • 利用全局注意力表示图神经网络的长距离上下文

    本篇论文提出了一种名为 GraphTrans 的算法，它将 Transformer 自注意力模块和标准的 GNN 模块相结合，并应用置换不变性的 Transformer 模块，从而解决了当前方法在表示长程依赖关系方面的不足。该算法在多个图分类任务上表现出色，说明纯粹的基于学习的方法可能适用于在图上学习高水平、长程的关系。

    Jan, 2022

  • 时空注意力图神经网络用于剩余寿命预测

    本研究提出了一种时空注意力图神经网络模型，通过结合图神经网络和时间卷积神经网络，以改进预测精度和模型可解释性；该模型在统一归一化下表现出了卓越的结果。此外，对于具有多个操作条件的数据集，聚类归一化提升了我们所提出模型的性能高达 27%。

    Jan, 2024

  • 基于时空图转换器网络的行人轨迹预测

    本研究提出使用关注机制进行轨迹预测的 STAR 模型，采用 TGConv 和临时 Transformer 模型，以及可读写的外部记忆模块，以实现复杂的时空交互并实现了 5 个真实世界的行人预测数据集的最新性能。

    May, 2020