SST：基于现有轨迹的出租车目的地预测的简化 Swin Transformer 模型

Aug, 2023

SST：基于现有轨迹的出租车目的地预测的简化 Swin Transformer 模型

SST: A Simplified Swin Transformer-based Model for Taxi Destination Prediction based on Existing Trajectory

Zepu Wang, Yifei Sun, Zhiyu Lei, Xincheng Zhu, Peng Sun

TL;DR通过将出租车轨迹转化为二维网格并使用计算机视觉技术，本研究提出了一种简化的 Swin Transformer 结构 (SST) 用于准确预测出租车轨迹的目的地，并通过基于真实轨迹数据的综合实验表明，SST 相较于现有方法能够实现更高的准确性。

Abstract

Accurately predicting the destination of taxi trajectories can have various benefits for intelligent location-based services. One potential method to accomplish this prediction is by converting the taxi trajector

taxi trajectories intelligent location-based services computer vision techniques swin transformer trajectory data

发现论文，激发创造

SST-GNN: 基于图神经网络的简化时空交通预测模型

本文提出了一种称为简化空时交通预测 GNN 的模型，它通过对不同邻域进行分别聚合的方式有效地编码了空间依赖性，并使用简单而有效的加权空时聚合机制捕获时间依赖性，而且使用了一种新颖的位置编码方案来捕获周期性的交通模式，实验表明该模型优于最先进的交通预测模型。

Mar, 2021

ST-SSMs：交通预测的时空选择性空间模型

准确高效的交通预测对智能交通系统的规划、管理和控制至关重要。本文介绍了一种创新的交通流预测方法，即空间 - 时间选择性状态空间模型（ST-SSMs），采用了创新的 ST-Mamba 块，可以在较少的计算成本下实现良好的预测准确性。通过对多样化的真实数据集进行严格测试，ST-SSMs 模型在预测准确性和计算简易性方面呈现出异常的改进，为交通流预测领域树立了新的基准。

Apr, 2024

Video Swin Transformer

本文介绍了一种针对视频领域的区域局部性 Transformer 架构，通过使用 Swin Transformer 设计来实现，同时利用预训练模型的威力，取得了行动识别和时间建模等广泛的视频识别基准的最新准确性。

Jun, 2021

SwinLSTM：使用 Swin Transformer 和 LSTM 提升时空预测准确性

整合了 CNN 和 RNN 以捕捉时空相关性的方法被广泛应用于时空预测任务中。然而，CNN 学习局部空间信息的特性降低了其捕捉时空相关性的效率，从而限制了其预测准确性。本文中，我们提出了一种新的循环单元 SwinLSTM，它与 Swin Transformer 块和简化版的 LSTM 相结合，用自注意力机制替代了 ConvLSTM 中的卷积结构。此外，我们构建了一个以 SwinLSTM 单元为核心的网络用于时空预测。在 Moving MNIST、Human3.6m、TaxiBJ 和 KTH 数据集上，SwinLSTM 在没有使用特殊技巧的情况下，表现优于最先进的方法，特别在预测准确性方面展现了显著的提升。我们的竞争性实验结果证明了对模型捕捉时空相关性来说学习全局空间依赖性的优势，希望 SwinLSTM 能成为推动时空预测准确性进步的坚实基准。代码可在给定的 URL 中公开获取。

Aug, 2023

一种轻量且准确的时空变换器用于交通预测

ST-TIS 提出一种基于 Transformer 的轻量级交通预测方法，结合信息融合和区域采样技术，能够高效地处理区域之间动态的空间和时间依赖关系，相对于现有方法，能够实现更高的预测精度和更快的离线训练速度。

Dec, 2021

STT: 自动驾驶的具有状态的变形器跟踪

通过使用 Transformer 模型，本文提出一种名为 STT 的有状态跟踪模型，它能够可靠地跟踪三维空间中的对象，并精确预测它们的状态，以确保自动驾驶的安全。通过消耗检测历史记录中的丰富外观、几何和运动信号，STT 在数据关联和状态估计任务上进行联合优化，并通过引入新的 S-MOTA 和 MOTPS 指标来评估其综合性能。在 Waymo Open 数据集上，STT 实现了具有竞争力的实时性能。

Apr, 2024

多领域视频分类的迁移学习：Video Swin Transformer

本文研究视频分类中使用 Video Swin Transformer 模型进行跨领域分类的泛化能力，使用 Kinetics-400 数据集进行迁移学习减少内存，实现 85% 的 top-1 准确率，但当对象不属于 Kinetics-400 数据集时准确率降低，为 21%。我们结论是，当目标类别与训练模型的类别相同时，VST 能够实现跨领域视频分类。

Oct, 2022

SwinTrack：用于 Transformer 跟踪的简单和强大基线

本文提出了一种基于 Transformer 架构的简单且高效的完全注意力追踪器 SwinTrack，并对其进行了全面的实验。通过对运动标记进行轻量化和历史目标轨迹的嵌入，SwinTrack 在多个基准测试中取得了优于现有各种方法的最佳表现。该算法预计将为追踪任务奠定坚实的基础，并促进未来的研究。

Dec, 2021

RealTranS: 基于卷积加权缩减 Transformer 的端到端实时语音翻译

本文提出了一种基于端到端模型的实时同声传译技术 RealTranS，通过交错的卷积和单向 Transformer 层逐渐对输入语音进行降采样，再通过带权收缩操作和语义编码器将语音特征映射到文本空间。此外，为了提高模型性能，本文提出了 Blank Penalty 和 Wait-K-Stride-N 策略，实验表明 RealTranS 模型在多种延迟设置下优于先前的端到端模型及级联模型。

Jun, 2021

VT-Former：一种基于 Transformer 的智能高速公路交通系统车辆轨迹预测方法

在现代网络物理系统和智能交通系统中，提高道路安全和交通管理已成为一个重要的关注领域。通过引入一种新的基于 transformer 的方法 —VT-Former，并结合 Graph Attentive Tokenization (GAT) 模块，我们提出了一种精确的车辆轨迹预测方法。在三个基准数据集上的研究表明，VT-Former 在车辆轨迹预测方面具有最先进的性能，并且具有普适性和鲁棒性。我们还评估了 VT-Former 在嵌入式板上的效率，并探讨了其作为样本应用的车辆异常检测潜力，展示了其广泛的适用性。

Nov, 2023