该研究提出了一种名为 RegionTrans 的跨城市转移学习方法，旨在解决城市计算中深度时空预测任务中数据匮乏的问题，并在人群流量预测实验中验证其有效性。

Feb, 2018

基于历史序列预测未来序列的时空预测学习提供了一种自监督学习范式，主流方法利用循环单元进行建模，但循环单元的并行性不足，常常在现实场景中表现欠佳。为了在保持计算效率的同时提高预测质量，我们提出了一种创新的三元注意力变换器，在设计上捕捉了帧间动态与帧内静态特征。通过将 Triplet Attention Module (TAM) 整合到模型中，我们取代了传统的循环单元，并对时空和通道维度中的自注意力机制进行了深入探索。在这种配置下：(i) 时序标记包含了帧间的抽象表示，有助于捕捉固有的时序依赖性；(ii) 空间和通道的注意力结合，通过在空间和通道维度上进行细粒度交互来改进帧内表示。交替运用时序、空间和通道级别的注意力使得我们的方法能够学习更复杂的短程和长程时空依赖关系。广泛的实验表明，我们的方法在移动物体轨迹预测、交通流预测、驾驶场景预测和人体动作捕捉等多种场景下性能超过了现有的基于循环和非循环方法，达到了最先进水平。

Oct, 2023

本文研究了时空预测学习方法，提出了一种通用框架，其中空间编码器和解码器捕获帧内特征，中间的时间模块捕获帧间相关性。我们提出了一种时间注意力单元（TAU）以并行化时间模块，并引入新的差异散度正则化以考虑帧间变化。广泛的实验证明，该方法使得模型在各种时空预测基准测试上具有竞争性能。

Jun, 2022

在无线和移动设备的广泛部署导致了时空数据的大量产生，我们提出了一个统一的回放式持续学习框架，用于实现对流数据的时空预测，避免灾难性遗忘并提高性能。

Apr, 2024

本文通过对四个最新的基于图像的视角的统一，提出了一种可以很好地概括所有这些方法的简单目标，该目标鼓励同一视频中的时间持久特征，在不同的无监督框架、预训练数据集、下游数据集和骨干架构中效果惊人，我们从该研究中得出了一系列有趣的观察结果，例如，即使时间跨度为 60 秒，鼓励长时间持久性也可以很有效。

Apr, 2021

本文提出了一种新的循环神经网络 PredRNN，该网络利用 zigzag 记忆流在不同层次 RNN 中进行传播，通过内存解耦丢失来防止内存单元学习重复功能，并使用课程学习策略来促使网络从上下文帧中学习长期动态。在五个数据集上进行的行为无关和行为条件预测学习场景中，该方法表现出了极高的竞争力。

Mar, 2021

本文提出一种模块化的设计方法，将时空序列模型分解为空间编码器 - 解码器和预测器两个模块。通过在 KTH-Action 和 MovingMNIST 数据集上进行实验，我们提高了计算性能并获得了最先进的结果。

Oct, 2022

提出一种基于无监督增量学习、迁移学习和贝叶斯融合模型的人物再识别算法，通过将视觉分类器从已有的小型单一数据集转移到未标记的目标领域，以学习行人的时空模式，并将其与视觉特征结合，最终利用基于学习排序的相互促进过程来增量地优化，实验结果表明，相比于现有的跨数据集无监督人物再识别算法，该算法取得了显著的改进。

Mar, 2018

在这篇论文中，我们提出了统一的时空扩散模型（USTD），以条件信息和共享的时空模式为基础，统一地处理学习任务。USTD 综合设计了共享的时空编码器和基于注意力的去噪网络，有效捕捉条件时空模式并生成预测。与确定性编码器和概率扩散模型的优点相结合，USTD 在预测和 Kriging 的下游任务中取得了最先进的性能，并提供了宝贵的不确定性估计。

Oct, 2023

利用混合 Transformer 和时空自监督学习的模型来提高长期交通预测的鲁棒性，该模型通过在交通数据的序列级和图级应用自适应数据增强技术来增强其鲁棒性，利用 Transformer 克服了循环神经网络在捕捉长期序列方面的局限性，并采用 Chebyshev 多项式图卷积来捕捉复杂的空间依赖关系。此外，考虑到时空异质性对交通速度的影响，我们设计了两个自监督学习任务来建模时空异质性，从而提高模型的准确性和泛化能力。在两个真实数据集 PeMS04 和 PeMS08 上进行了实验评估，结果进行了可视化和分析，证明了所提模型的卓越性能。

Jan, 2024