UrbanGPT:时空大型语言模型
CityGPT 是一种用于增强大型语言模型在理解城市空间和解决相关城市任务方面能力的系统框架,通过在模型中构建城市规模的世界模型,并使用包含城市知识的多样化指令调整数据集 CityInstruction 来进行模型微调,实现对城市空间的理解和空间推理能力的有效增强。
Jun, 2024
提出了一种基于空间 - 时间大型语言模型(ST-LLM)的交通预测方法,通过重新定义位置上的时间步长作为标记,并结合空间 - 时间嵌入模块来学习标记的空间位置和全局时间表示,在提供统一的空间和时间信息的基础上,进一步提出了一种部分冻结的 LLM 关注策略,用于捕捉交通预测的空间 - 时间依赖关系。综合实验表明 ST-LLM 在真实交通数据集上优于最先进的模型,同时在少样本和零样本预测场景中也表现出鲁棒性。
Jan, 2024
通过提出 STG-LLM 方法,本文解决了序列文本与复杂空间 - 时间数据之间的不匹配问题,通过 STG-Tokenizer 和 STG-Adapter,将大型语言模型的能力应用于空间 - 时间预测,取得了与专用方法相媲美的竞争性性能。
Jan, 2024
在本研究中,我们提出了一种创新方法 GATGPT,它将已训练好的大型语言模型(LLM)与图注意机制相结合,用于时空插补。我们保持大部分 LLM 参数不变,以利用现有知识学习时间模式,并针对不同应用程序调整上层的微调。图注意组件增强了 LLM 理解空间关系的能力。通过对三个真实世界数据集的测试,我们的方法表现与已建立的深度学习基准相当。
Nov, 2023
该研究提出了一个融入下游基线模型并提升其性能的时空预训练框架,其中包括一个时空蒙版自编码器和一个自适应蒙版策略,通过学习时空依赖关系和不同关系的建模,在交通管理和旅行规划方面取得了显著的效果。
Nov, 2023
UniST 是一个通用模型,通过对多样的时空数据特征的灵活性、精心设计的掩模策略以及时空知识引导的提示,实现对城市时空预测的强大泛化能力,15 个城市和 6 个领域的广泛实验证明了 UniST 在提升最先进预测性能方面的普适性,特别是在少样本和零样本情况下。
Feb, 2024
为了提高城市规划专业人员的效率并克服相关挑战,我们介绍了 PlanGPT,这是首个专门为城市和空间规划定制的大型语言模型。PlanGPT 通过与中国城市规划学会等机构的合作,利用自定义的本地数据库检索框架、基础模型的领域特定微调和先进的工具能力进行开发。经验证实,PlanGPT 在城市规划的复杂性上取得了卓越的性能,提供了精确适配城市规划细节的高质量响应。
Feb, 2024
針對城市場景的複雜問題,我們引入 UrbanLLM,這是一個經過微調的大型語言模型,通過分解城市相關查詢為可管理的子任務,識別適合的時空人工智能模型並生成綜合回應,顯著地提升了處理城市活動規劃和管理相關問題的效能,減輕了對人工專家的工作量和依賴。
Jun, 2024
该论文通过评估大型语言模型的时空数据理解能力,将其能力分解为知识理解、时空推理、准确计算和下游应用四个维度,并通过构建基准数据集 STBench 以及对 13 个语言模型的评估实验,揭示现有语言模型在知识理解和时空推理任务上表现出色,且通过在上下文学习、思维链提示和微调方面有进一步优化的潜力。
Jun, 2024
通过对领先的大语言模型如 GPT-4 和 Claude-2 在检测移动数据中的异常行为的能力进行实证研究,我们的研究发现大语言模型可以在没有特定线索的情况下达到合理的异常检测性能,并且在提供上下文线索的情况下可以进一步提高预测效果,同时能够提供合理的判断解释,从而增加透明度,为人类空间轨迹分析的研究提供了洞察。
Oct, 2023