通过提出地理感知的生成模型 MobilityGPT，该研究利用生成预训练变压器（GPT）将人类移动性建模为一个自回归生成任务，并采用基于引力的抽样方法和道路连接矩阵来确保生成的轨迹符合地理空间限制，在减轻挑战的同时生成高质量、接近真实数据的移动轨迹。

Feb, 2024

利用大量的无标签用户轨迹序列，我们引入了预训练移动性 Transformer（PMT）模型，通过将地理区域转化为标记并在这些表示中嵌入空间和时间信息，从而理解城市空间和人类移动性的基础。在三个美国大都市地区进行的实验证明了 PMT 在捕捉地理和社会人口特征以及预测下一个位置、轨迹完整和轨迹生成等任务方面的优越性，为解码人类移动性的复杂模式和洞察城市空间功能和个体移动偏好提供了新的见解。

May, 2024

基于国家级无标签人类流动数据进行事先训练的转换器能够通过微调形成对目标地理区域及其相应流动模式的深入理解，我们的预先训练嵌入在涵盖与人类流动直接和间接相关的广泛概念方面表现出良好性能，包括地理位置、距离、行政区划和土地覆盖等，通过大量实证分析，我们发现预先训练可以显著提升性能，在树木覆盖回归等任务中达到 38％，我们将这一结果归因于预先训练能够揭示原始数据中隐藏的有意义模式，并有助于建模相关的高级概念，预先训练的嵌入成为表征区域和轨迹的强大工具，在广泛的后续应用中具有潜在价值。

Jun, 2024

本文综述了最近在利用机器学习技术（尤其是 Transformer 模型）预测疫情期间人类流动模式方面的进展。了解疫情期间人们的流动情况对于建立疾病传播模型和制定有效的应对策略至关重要。预测人口流动对于提供流行病学模型的信息和在公共卫生紧急情况下实施有效的应对计划非常关键。预测流动模式可以使当局更好地预测疾病的地理和时间传播情况，更高效地分配资源，并实施有针对性的干预措施。我们回顾了一系列方法，这些方法既利用了像 BERT 这样的预训练语言模型，也利用了专门针对流动性预测任务设计的大型语言模型（LLMs）。这些模型在捕捉文本数据中的复杂时空依赖关系和上下文模式方面表现出重要潜力。

Apr, 2024

GSGFormer 是一个创新的生成模型，能够考虑复杂的相互作用并提供大量潜在的行为模式来预测行人的轨迹。通过采用异构图神经网络捕捉行人、语义地图和潜在目的地之间的相互作用，以及使用 Transformer 模块提取时间特征和采用 CVAE-Residual-GMM 模块生成多样的行为模态，GSGFormer 在多个公共数据集上的评估中不仅超过了领先方法的表现（在数据充足时），而且在数据有限时仍具有竞争力。

Dec, 2023

提出了一种基于 PoseGPT 的自回归变换器的方法，该方法可以生成人体运动序列，利用离散的潜在空间使 GPT-like 模型集中于长程信号预测，获得了在几个数据集上实现最先进的结果。

Oct, 2022

本文提出一种基于语言生成的人类移动趋势预测方法 SHIFT，通过将输入移动趋势描述句子转化为未来的移动状态描述，提高了移动预测模型的有效性和准确性。

Dec, 2021

利用 GraphTransformers 框架，在地理空间序列中进行轨迹预测，通过显式利用自动生成的图结构，可以显著改善地理空间轨迹预测。在 HurDAT 数据集上，我们的 GraphTransformer 方法明显优于基于 Transformer 的基准方法，用于基于 6 小时为间隔的飓风轨迹预测。

Oct, 2023

我们提出了一种新颖的 Attention-GCNFormer（AGFormer）模块，通过使用两个并行的 Transformer 和 GCNFormer 流来减少通道数，以精确捕捉邻接关节之间的局部依赖关系。通过以适应性方式融合这两种表示，AGFormer 模块在学习底层 3D 结构方面表现出更好的能力。通过堆叠多个 AGFormer 模块，我们提出了四个不同变体的 MotionAGFormer 模型，可以根据速度 - 准确性的权衡来选择。我们在两个常用基准数据集 Human3.6M 和 MPI-INF-3DHP 上评估了我们的模型。MotionAGFormer-B 取得了最先进的结果，分别为 38.4mm 和 16.2mm 的 P1 错误率。值得注意的是，与 Human3.6M 数据集上的前一最先进模型相比，它使用了四分之一的参数，并且计算效率提高了三倍。该模型的代码和模型可在指定的网址上获得。

Oct, 2023

本研究提出了一种基于数字孪生的人类移动预测方法，将粗粒度预测与细粒度预测分为两个阶段，通过自动提取城市范围内的移动趋势和使用概率轨迹检索方法来实现预测。该方法在日本关东地区的真实 GPS 数据集上测试获得了良好的预测准确度和时间效率。

Jun, 2022