GeoDecoder 是一个专门为处理地理空间信息的多模态模型，通过利用 GaoDe Amap 作为底图，该模型具有对道路、建筑形状、相对位置和其他属性的重要细节的隐含理解，同时能够接受各种上下文文本和问题提示，并生成符合 GPT 风格的文本输出，在单个模型中进行多个任务的训练和执行，并能在不同商业场景中高效应用各种地理空间任务。

Jan, 2024

本研究提出了一种称为 SE-KGE 的位置感知知识图嵌入模型，该模型通过将地理实体的点坐标或边界框直接编码到 KG 嵌入空间中来处理空间信息，并在 DBGeo 数据集上对其进行了评估。结果表明，此模型在地理逻辑查询回答任务上优于多个基线，并引入了一种称为空间语义提升的新型下游任务，该任务通过某些关系将研究区域中的任意位置链接到 KG 中的实体。

Apr, 2020

GeoNorm 是一种新的地理编码体系结构，它使用了信息检索技术来生成地理空间本体库中的候选条目列表，然后使用基于变压器的神经网络重新整理这些条目，该神经网络融合了本体库的信息，例如条目的人口。我们提出的地名解析框架在多个数据集上实现了最先进的性能。

May, 2023

本文介绍了为改善百度地图上的地理相关任务而设计和开发的基于地理和语言预训练模型 ERNIE-GeoL，通过对一个包含大量地理知识的异构图中生成的大规模数据进行预训练，ERNIE-GeoL 得以学习地理 - 语言的通用表示，并且已自 2021 年 4 月起在百度地图的生产环境中部署，有效提升了各种地理相关任务的性能，从而证明了 ERNIE-GeoL 可作为广泛用于地理相关任务的基础。

Mar, 2022

GeoLM 是一个地理信息语言模型，通过连接文本语料库中的语言信息和来自地理数据库的地理信息，利用对比学习和遮蔽语言建模的方法，结合空间坐标嵌入机制来捕捉地理空间上下文，从而提升自然语言中的地理实体的理解能力。实验证明 GeoLM 在地名识别、地名链接、关系提取和地理实体类型等方面具有良好的能力，弥合了自然语言处理和地理空间科学之间的差距。

Oct, 2023

本文从机器学习的角度提出了位置编码的概念，系统回顾并讨论了当前位置编码研究的现状和挑战，将已有的位置编码模型分类，并探讨了它们与不同类型空间数据的应用，并指出了未来位置编码研究面临的挑战。

Nov, 2021

通过预先训练基于位置的嵌入来提高位置服务的性能，并利用 Geo-Tokenizer 减少训练的位置数量，在考虑位置的时间依赖性的同时，有效地训练分解的位置，从而提供更少的模型参数并改善下游任务的性能。

Oct, 2023

该论文介绍了一种针对变压器架构的位置编码方法，使用地理位置信息的输入组件，通过球面坐标定制的位置编码方法。与传统的语言序列不同，这些地理位置的相对顺序不如地理坐标本身重要，为了在嵌入空间中保持真实世界距离和距离的平衡，该方法基于 Rotary Position Embedding 结构进行设计。

Mar, 2024

本文提出了一种名为 SEER 的点 - of-interest 推荐模型，该模型利用嵌入式学习技术来捕捉上下文信息，学习用户偏好，进而在顺序和时间约束下推荐 POI，并将时间和地理影响因素纳入模型以增强其性能。

Jun, 2016

本文使用序列到序列的方法解决了从自由文本中预测地理位置的问题，通过训练 T5 encoder-decoder transformer 模型，基于地标数据进行自适应单元划分，获得了一个地理编码模型，其中的代码、数据集和模型检查点都是公开的。

Jan, 2023