一个面向时空图传输学习的生成预训练框架

Feb, 2024

一个面向时空图传输学习的生成预训练框架

A Generative Pre-Training Framework for Spatio-Temporal Graph Transfer Learning

Yuan Yuan, Chenyang Shao, Jingtao Ding, Depeng Jin, Yong Li

TL;DR我们提出了一种新颖的生成式预训练框架 GPDiff，用于解决智能城市应用中由于数据稀缺导致的空间 - 时间图 (STG) 学习问题。通过将 STG 迁移学习重新视为生成式超网络的预训练，我们的方法能够在多个真实数据集上显著优于现有方法，对于交通速度预测和人群流动预测等任务具有良好的适应性。

Abstract

Spatio-temporal graph (STG) learning is foundational for smart city applications, yet it is often hindered by data scarcity in many cities and regions. To bridge this gap, we propose a novel generative pre-training

spatio-temporal graph learning generative pre-training stg transfer learning data scarcity smart city applications

发现论文，激发创造

基于 Prompt 的时空图迁移学习

提出了一个基于提示增强的跨时空图转移学习框架，适应数据稀缺领域中的多样任务，在三个下游任务预测、克里金插值和外推中明显优于现有基线方法。

May, 2024

GPT-ST：时空图神经网络的生成式预训练

该研究提出了一个融入下游基线模型并提升其性能的时空预训练框架，其中包括一个时空蒙版自编码器和一个自适应蒙版策略，通过学习时空依赖关系和不同关系的建模，在交通管理和旅行规划方面取得了显著的效果。

Nov, 2023

跨城市知识迁移的时空图少样本学习

针对数据稀缺的城市，在跨城市知识转移的基础上，提出了一个面向时空图的模型不可知少样本学习框架 ST-GFSL，用于从城市之间不规则的时空相似性中提高特征提取的质量，重构图结构以实现结构感知学习并提高交通速度预测的准确性。

May, 2022

SpecSTG: 一种快速的谱扩散框架用于概率时空交通预测

通过提出一种新的谱扩散框架，将空间依赖性和交通数据中的系统模式充分利用，我们的模型在交通流量和交通速度数据上表现出色，超越了最先进的基准模型。

Jan, 2024

基于空间 - 时间图扩散网络的交通流量预测

为了更准确地预测城市交通流量并在智能交通管制和公共风险评估等方面实现更有效的空间 - 时间挖掘应用，我们开发了一种新的交通预测框架 Spatial-Temporal Graph Diffusion Network（ST-GDN），该框架具有层次结构的图神经架构，不仅可以从局部角度学习区域地理依赖关系，而且可以从全局角度学习空间语义。该框架还配备了多尺度注意力网络，以提高其捕捉多级时间动态的能力。多项实验结果表明 ST-GDN 的性能优于多种最新基线。

Oct, 2021

增强型时空图神经网络预训练在多元时间序列预测中的应用

本文介绍了一种新型的预训练框架，将 “可扩展时间序列预训练模型”（STEP）与 “空间 - 时间图神经网络”（STGNN）相结合，通过长期历史时间序列数据的预处理，提供上下文信息，显著提高预测准确性。

Jun, 2022

融合扩散模型的概率时空图学习方法

在这篇论文中，我们提出了统一的时空扩散模型（USTD），以条件信息和共享的时空模式为基础，统一地处理学习任务。USTD 综合设计了共享的时空编码器和基于注意力的去噪网络，有效捕捉条件时空模式并生成预测。与确定性编码器和概率扩散模型的优点相结合，USTD 在预测和 Kriging 的下游任务中取得了最先进的性能，并提供了宝贵的不确定性估计。

Oct, 2023

基于图形的深度建模和稀疏时空数据实时预测

提出了一个通用的时空数据建模、分析和预测框架，重点关注空间和时间都稀疏的数据。该框架由自激励点过程和图结构循环神经网络两个组成部分无缝耦合，并实现了更精准的实时预测，针对犯罪和交通预测具有良好的效果。

Apr, 2018

时空元对比学习

提出了一种新的空间 - 时间对比学习（CL4ST）框架，通过 STG 的扩充范式来编码稳健和可推广的 STG 表示，实验证明 CL4ST 在交通和犯罪预测方面明显优于各种最先进的基准模型。

Oct, 2023

全球感知增强的时空图循环网络：交通流预测的新框架

该论文介绍了一种新颖的交通预测框架，它包括两个核心组件：空间 - 时间图递归神经网络和全局感知层。通过引入序列感知图神经网络，该模型可以学习不同时间步骤上的非固定图并捕捉局部时间关系。为了增强模型的全局认知，该框架还设计了三种独特的全局空间 - 时间转换器架构。在四个实际交通数据集上进行的广泛实验证明了我们框架和三种具体模型的优越性。

Jan, 2024