Dec, 2023

稀疏数据填充的时空变换器：一种深度学习方法

PDF
TL;DR通过引入一种新颖的时空 Transformer 模型（ST-Transformer）来解决稀疏时空数据中缺失值的问题，本研究展示了该模型在土壤湿度数据中的应用，其通过多个时空注意力层来捕捉数据中复杂的时空相关性，并在填补过程中整合额外的时空协变量以提高准确性，相较于其他著名的填补方法，该模型表现出卓越的准确性，并在其他数据集的模拟研究中展示了其在各种时空填补任务中的广泛适用性。
soil moisture datamissing valuesspatiotemporal transformer modelimputation processspatiotemporal imputation tasks
发现论文，激发创造
  • 基于时空依赖的交通数据插值的深度学习框架

    本文研究了如何使用数据填充的方法处理由于交通网络动态变化引起的多变量时间序列中缺失的时空数据，并就现有方法存在的问题提出了改进方案。

    Apr, 2023

  • SERT：基于 Transformer 的用于环境监测的时空传感器数据填充模型

    通过使用 SERT 和 SST-ANN 模型，可以在不需要插补的情况下处理多变量稀疏时间序列，适用于环境监测中的数据预测。

    Jun, 2023

  • 光学时间序列图像中的多尺度缺失数据修复与遮挡时空注意力网络

    提出了一种基于深度学习的新方法 MS2TAN (Multi-scale Masked Spatial-Temporal Attention Network)，用于重建时间序列的遥感图像，通过充分利用空时辅助信息，得到更高的恢复准确性。

    Jun, 2024

  • 时空自适应嵌入使得 Vanilla Transformer 成为交通预测的最佳模型

    智能交通系统中，精确的交通预测是一项重要挑战。本研究提出了一种名为时空自适应嵌入的新型组件，可以通过使用传统的 Transformer 模型取得出色的结果，该模型在五个实际交通预测数据集上实现了最先进的性能，进一步实验证明时空自适应嵌入在交通预测中起着关键作用。

    Aug, 2023

  • 时序解缠对比扩散模型的时空填补

    利用趋势和季节信息的条件特征和对比学习，C$^2$TSD 能更好地生成稳定和泛化性能强的模型，在三个真实数据集上的广泛实验显示其优越性能。

    Feb, 2024

  • ImputeFormer: 用于可推广的时空插补的图变换器

    这篇论文研究了使用深度神经网络架构解决多元时间序列插补问题。通过利用低秩插补方法的经验和专长，我们为传统的 Transformer 模型添加了三项知识驱动的增强，包括投影时间注意力、全局自适应图卷积和 Fourier 插补损失。这些面向任务的归纳偏置利用了不完整时间序列的内在结构，使得我们的模型适用于多种插补问题。我们通过在包括交通速度、交通流量、太阳能、智能电表和空气质量等异构数据集上进行全面的案例研究来进一步加强其可解释性，并通过有希望的实证结果有力地证明了将低秩属性等时间序列原始特征纳入模型可以大幅促进通用化模型的开发，从而解决广泛的时空插补问题。

    Dec, 2023

  • 结合卫星和气象数据进行作物类型地图绘制：一种逆向建模方法

    用天气和卫星影像结合的逆模型方法，提出了一种深度学习模型 WSTATT，能够精确生成农田作物分布地图，具有较传统方法更好的预测效果和提前五个月预测作物类型的能力，评估结果与作物表现学相一致。

    Jan, 2024

  • 融合 Transformer 和时空自监督学习的长期交通预测

    利用混合 Transformer 和时空自监督学习的模型来提高长期交通预测的鲁棒性，该模型通过在交通数据的序列级和图级应用自适应数据增强技术来增强其鲁棒性，利用 Transformer 克服了循环神经网络在捕捉长期序列方面的局限性，并采用 Chebyshev 多项式图卷积来捕捉复杂的空间依赖关系。此外，考虑到时空异质性对交通速度的影响，我们设计了两个自监督学习任务来建模时空异质性，从而提高模型的准确性和泛化能力。在两个真实数据集 PeMS04 和 PeMS08 上进行了实验评估，结果进行了可视化和分析，证明了所提模型的卓越性能。

    Jan, 2024

  • 利用 Transformer 网络融合卫星图像和气象数据进行霜霉病检测

    利用多域融合技术，结合深度学习和天气遥感数据检测农作物疾病的新方法取得了 97% 的准确率，该方法由三个 Transformer 组成，通过结合图像与天气数据信息达到多模态融合，解决了数据融合问题。

    Sep, 2022

  • SSIN: 面向降雨空间内插的自监督学习

    提出了一种新型的基于自我监督学习的数据驱动型降雨空间内插法，通过挖掘历史观测数据中的潜在空间模式来推断降雨分布情况，并在两个真实世界的雨量计数据集上进行了广泛实验验证，取得了优于现有解决方案的结果。此外，通过对交通空间内插问题的研究，证明了该方法的有效性和广泛适用性。

    Nov, 2023