Mar, 2024

CCDSReFormer: 基于交叉双流增强校正变压器模型的交通流预测

PDF
TL;DR精确、高效的交通预测对于智能交通系统至关重要，在城市交通规划和管理中具有重要意义。我们介绍了 Criss-Crossed Dual-Stream Enhanced Rectified Transformer 模型（CCDSReFormer），该模型通过 Enhanced Rectified Spatial Self-attention（ReSSA）、Enhanced Rectified Delay Aware Self-attention（ReDASA）和 Enhanced Rectified Temporal Self-attention（ReTSA）三个创新模块，旨在降低计算需求、更好地理解交通动态，并通过独特的学习方法融合空间和时间的见解。对六个真实数据集的广泛测试显示 CCDSReFormer 具有更优越的性能，消融研究也证实了每个组件对模型预测准确性的显著影响，展示了我们模型有效预测交通流量的能力。
traffic forecastingsmart traffic systemsspatio-temporal transformer modelsccdsreformertraffic flow
发现论文，激发创造
  • 跨融合：基于交叉注意力变换增强的条件扩散模型的汽车跟驰轨迹预测

    车辆轨迹预测在推动自动驾驶和高级驾驶辅助系统（ADAS）方面至关重要，本研究介绍了一种专为汽车跟驰轨迹预测设计的交叉注意力变换增强条件扩散模型（Crossfusor），它将详细的车辆间相互作用和跟驰动力学结合到强大的扩散框架中，提高了预测轨迹的准确性和真实性，实验结果证明 Crossfusor 在长期预测方面优于最先进的模型，展示了它增强自动驾驶系统预测能力的潜力。

    Jun, 2024

  • 多通道时空变换器模型的交通流量预测

    提出了一个多通道时空变换模型用于交通流量预测，通过融合来自不同通道的交通数据结果，改善了预测准确性。该模型使用图卷积网络从每个通道提取空间特征，并使用基于变换器的体系结构捕捉通道之间的时间依赖性。在六个真实数据集上的实验证明，引入多通道机制到时间模型中提高了性能，并且在准确性方面优于现有模型。

    May, 2024

  • 使用从头开始训练的 Transformer 进行遥感变化检测

    本文提出了一种全新的变化检测方法，采用转换器进行从头开始训练，并在四个公共基准测试中实现了最先进的性能。该方法使用一种混洗的稀疏注意力操作来捕获 CD 数据的固有特征，并介绍了一种改变增强的特征融合模块来提高相关语义变化，同时抑制噪声。

    Apr, 2023

  • 交通流预测的自适应图空时转换网络

    该论文提出了一种基于自适应图形时空网络和 Transformer 的交叉空间时间注意力机制，在流量预测上的实验结果表明其具有更优秀的性能。

    Jul, 2022

  • 高效视觉 Transformer 用于准确的交通标志检测

    该研究论文解决了自动驾驶车辆和驾驶辅助系统中与交通标志检测相关的挑战，特别关注使用 Transformer 模型来提高检测的速度和准确性。

    Nov, 2023

  • WcDT: 世界中心扩散变压器用于交通场景生成

    我们介绍了一种新颖的自动驾驶轨迹生成方法，通过利用扩散概率模型（即扩散模型）和变形器的互补优势。我们提出的框架称为 “世界中心扩散变形器”（WcDT），它从特征提取到模型推断优化了整个轨迹生成过程。广泛的实验结果表明，该方法在生成逼真且多样化的轨迹方面表现出卓越性能，显示了它集成到自动驾驶模拟系统的潜力。

    Apr, 2024

  • 使用 Transformer 学习动态和分层交通时空特征

    本研究提出了 Traffic Transformer 模型，通过多头和掩码多头机制，动态地从数据中抽取时空特征，提高了交通预测性能，比现有技术表现更好。

    Apr, 2021

  • 融合 Transformer 和时空自监督学习的长期交通预测

    利用混合 Transformer 和时空自监督学习的模型来提高长期交通预测的鲁棒性，该模型通过在交通数据的序列级和图级应用自适应数据增强技术来增强其鲁棒性，利用 Transformer 克服了循环神经网络在捕捉长期序列方面的局限性，并采用 Chebyshev 多项式图卷积来捕捉复杂的空间依赖关系。此外，考虑到时空异质性对交通速度的影响，我们设计了两个自监督学习任务来建模时空异质性，从而提高模型的准确性和泛化能力。在两个真实数据集 PeMS04 和 PeMS08 上进行了实验评估，结果进行了可视化和分析，证明了所提模型的卓越性能。

    Jan, 2024

  • 改进的上下文敏感转换器模型用于内陆船舶轨迹预测

    通过合并船舶位移信息和空间信息，本研究提出了一种上下文敏感的分类转换器，用于改进船舶轨迹预测的空间感知能力，并通过在推理期间启用辍学来评估模型不确定性。该方法在不同内陆水道上进行了训练，分析了其可推广性，显示出较低的预测误差和对每个预测的可信度估计，更适用于内陆航行中的安全关键应用。

    Jun, 2024

  • 交通预测中的时空变换器的再思考：多层多视角增强学习框架

    本文提出了一种多层多视图增强时空 Transformer（LVSTformer）用于交通预测，该模型旨在从局部地理、全局语义和关键节点三个不同层次捕获空间依赖性，同时还具备长期和短期的时间依赖性，通过结合三种空间增强视图与三个并行空间自注意机制，模型可以全面捕获不同层次的空间依赖性，并且采用门控时间自注意机制有效捕捉长期和短期的时间依赖性。此外，在两个时空层之间引入了时空上下文广播模块，以确保注意力分配的均匀分布，缓解过拟合和信息损失，增强模型的泛化能力和鲁棒性。通过在六个知名交通基准上进行全面的实验，实验结果表明 LVSTformer 相比竞争基线模型实现了最先进的性能，最大改进幅度达到了 4.32%。

    Jun, 2024