线性注意力在时空预测中足够有效
本文提出一种空间-时间动态网络(STDN)进行交通预测,该网络引入流量控制机制来学习位置之间的动态相似性,设计周期移位关注机制来处理长期周期性时间移位,并在实际交通数据集上进行实验验证。
Mar, 2018
该论文提出了一种新的模型ST-GRAT,通过空间和时间注意力以及哨兵向量的使用,能够更有效地捕捉道路网络中的时空动态,并且在交通速度快速变化的困难条件下表现出色。
Nov, 2019
本文提出了一种新的空间-时间变换网络的范例来改善长期交通预测的准确性,其中使用图神经网络和自注意机制来动态建模交通数据中的有向空间相关性,并利用跨多个时间步骤的长程双向时间依赖性。实验证明,该模型在Real-world数据集上预测交通流量方面的性能要好于现有工作。
Jan, 2020
本文提出了一种统一的Spatio-Temporal Graph Convolution Network (USTGCN)模型用于交通预测,该模型具有通过频谱计算实现的时空图表达和历史模式的捕捉等优点,并在实验中证明了其超越了现有模型,同时减少了培训时间。
Apr, 2021
本研究提出了一种基于Spatio-Temporal Meta-Graph Learning机制的交通预测模型MegaCRN。通过调用Meta-Node Bank的能力实现判别路段和时间在交通速度预测中的不同变化,实验结果表明该模型在多个基准数据集上的表现优异。
Nov, 2022
本文提出了一种新的空间-时间神经网络框架ASTGCRN,其中包括图卷积循环模块GCRN和全局注意力模块,以有效地对运输数据进行复杂的时空依赖性和相关性建模,并采用三个独立模块的时间关注层来实现对全局时间依赖性的有效提取。实验结果表明,这三个模型均具有极佳的预测表现优于基准方法。
Feb, 2023
提出了一种多尺度空时循环神经网络 (MSSTRN) 用于交通流量预测,结合了两种不同的循环神经网络来捕捉不同时间窗口下的复杂空时信息,并通过自注意机制和自适应位置图卷积实现了空时依赖的同步捕捉,实验结果表明,该模型的预测准确性优于其他二十种基准方法。
Oct, 2023
我们提出的MultiSPANS框架通过使用多过滤卷积模块生成信息丰富的ST-token嵌入来捕捉复杂的多尺度依赖关系,借助Transformers来捕捉长时空距离依赖,并引入结构熵理论优化空间注意机制,进一步提出了相对结构熵位置编码和基于多层编码树的多头注意力掩蔽方案,实验证明这一框架在真实交通数据集上优于现有方法,并有效利用更长的历史观测窗口。
Nov, 2023
本文提出了一种多层多视图增强时空Transformer(LVSTformer)用于交通预测,该模型旨在从局部地理、全局语义和关键节点三个不同层次捕获空间依赖性,同时还具备长期和短期的时间依赖性,通过结合三种空间增强视图与三个并行空间自注意机制,模型可以全面捕获不同层次的空间依赖性,并且采用门控时间自注意机制有效捕捉长期和短期的时间依赖性。此外,在两个时空层之间引入了时空上下文广播模块,以确保注意力分配的均匀分布,缓解过拟合和信息损失,增强模型的泛化能力和鲁棒性。通过在六个知名交通基准上进行全面的实验,实验结果表明LVSTformer相比竞争基线模型实现了最先进的性能,最大改进幅度达到了4.32%。
Jun, 2024