Jan, 2024

大规模语言模型中地理位置嵌入方法的系统回顾：通向空间人工智能系统的路径

PDF
TL;DRGeospatial Location Embedding (GLE) 在大型语言模型（LLM）中帮助模型吸收和分析空间数据。GLE 的出现是由于在当代复杂空间中对更深层次的地理空间意识的需求以及 LLMs 在生成式人工智能方面提取深层含义的成功。GLE 为对空间的理解提供了帮助，但强调了在空间模态和推理方面进一步的提升的需求。GLE 标志着 “空间” 和 “LLM” 之间对话式对接，为建立将空间知识嵌入模型结构的 Spatial Foundation/Language Model（SLM）框架提供了契机。该框架推动了 Spatial Artificial Intelligence Systems（SPAIS）的发展，建立了一个与物理空间相映射的空间向量空间（SVS）。由此得到的具有空间特征的语言模型是独特的，同时代表了实际空间和基于人工智能的空间，为 SPAIS 的地理存储、分析和多模态提供了基础。
geospatial location embeddinglarge language modelspatial artificial intelligencespatial foundation/language modelspatial vector space
发现论文，激发创造
  • GeoLM：地理空间语言理解模型的增强

    GeoLM 是一个地理信息语言模型，通过连接文本语料库中的语言信息和来自地理数据库的地理信息，利用对比学习和遮蔽语言建模的方法，结合空间坐标嵌入机制来捕捉地理空间上下文，从而提升自然语言中的地理实体的理解能力。实验证明 GeoLM 在地名识别、地名链接、关系提取和地理实体类型等方面具有良好的能力，弥合了自然语言处理和地理空间科学之间的差距。

    Oct, 2023

  • GeoLLM：从大型语言模型中提取地理空间知识

    在这篇论文中，我们探讨了机器学习在地理空间预测任务中的应用，提出了一种名为 GeoLLM 的新方法，利用大型语言模型中的地理空间信息和开放街道地图的辅助数据，有效地提取地理空间知识，用于测量人口密度等中心问题，相较于最近邻和直接使用提示信息的基准方法，在多个任务上展现了 70% 的性能提升，并且与卫星数据的基准结果相当甚至超出，证明了大型语言模型在地理空间任务上的可行性和潜力。

    Oct, 2023

  • 大型语言模型具备地理空间知识吗？

    该研究通过探测具备预训练能力的大型语言模型对地理数据的理解程度和与此相关的促进地理空间决策的能力，通过三个实验验证结论，表明合成地理空间知识需要更大规模和更复杂的语言模型，并且对于处理地理空间信息，大型语言模型的潜力和局限性值得研究。

    Oct, 2023

  • 知识图谱嵌入的位置敏感嵌入

    知识图谱嵌入主要分为平移距离模型和语义匹配模型，在平移距离模型中，头尾实体的区分能力是一个关键挑战，而新颖的位置敏感嵌入 (LSE) 方法通过使用关系特定的映射来改变头实体，将关系概念化为线性变换，而不是简单的平移，它的理论基础、表现能力和与现有模型的联系都得到了充分的研究，一个更简化的变体 LSEd 通过对变换使用对角线矩阵以提高实际效率，在四个大规模数据集上进行的链接预测测试中，LSEd 要么表现出色，要么与领先的现代模型竞争力相当。

    Dec, 2023

  • 评估大型语言模型在几何和空间关系的文本描述中的有效性

    研究使用大型语言模型（LLMs）对几何形状及其空间关系进行表示的能力，并使用 GPT-2 和 BERT 等 LLMs 对几何形状的文本（WKT）格式进行编码，然后将其嵌入分类器和回归器中评估 LLMs 生成的嵌入表示对几何属性的效果。实验证明，尽管 LLMs 生成的嵌入可以保留几何类型并捕捉一些空间关系（准确率高达 73%），但在估计数值和检索空间相关对象方面仍存在挑战。此研究强调了在捕捉底层地理空间数据的细微差别和复杂性以及整合领域知识以支持各种基于 GeoAI 应用的需要改进的重要性。

    Jul, 2023

  • SE-KGE: 一种面向地理问答和空间语义提升的位置感知知识图谱嵌入模型

    本研究提出了一种称为 SE-KGE 的位置感知知识图嵌入模型，该模型通过将地理实体的点坐标或边界框直接编码到 KG 嵌入空间中来处理空间信息，并在 DBGeo 数据集上对其进行了评估。结果表明，此模型在地理逻辑查询回答任务上优于多个基线，并引入了一种称为空间语义提升的新型下游任务，该任务通过某些关系将研究区域中的任意位置链接到 KG 中的实体。

    Apr, 2020

  • 自治 GIS：下一代 AI 动力 GIS

    本研究提出一种基于大型语言模型的 AI 地理信息系统 (Autonomous GIS)，通过自动化的空间数据收集、分析和可视化，解决空间问题。Autonomous GIS 的设计原则包括信息充足性、LLM 能力和代理架构，能够实现自动生成、自组织、自验证、自执行和自增长等五个自主目标，从而以更快、更简单、更可靠的方式进行空间分析。

    May, 2023

  • 开拓新领域：探索多模态 LLMs 的地理和地理空间能力

    通过进行一系列实验，我们研究了多模态大型语言模型在地理和地理空间领域的知识和能力，重点关注前沿模型 GPT-4V 的视觉能力，并与开源模型进行性能比较。我们的方法涉及使用一套地理任务的小规模基准测试这些模型，测试它们在不同难度任务上的能力。分析结果揭示了这些模型的优点，包括超过人类的性能，并揭示了它们的不足之处，提供了它们在地理领域能力的全面视角。为了促进未来模型的比较和评估，我们将公开发布我们的基准测试。

    Nov, 2023

  • 评估大型语言模型的空间理解能力

    大型语言模型（LLMs）展现出在各种任务中的卓越能力。我们探索 LLMs 对于一种特别显著的基于实际距离的知识，即空间关系的表示。通过设计自然语言导航任务，我们评估了 LLMs（特别是 GPT-3.5-turbo，GPT-4 和 Llama2 系列模型）在表示和推理空间结构方面的能力，并将这些能力与人类在相同任务上的表现进行比较。这些任务揭示了 LLMs 在不同空间结构（包括正方形、六边形和三角形网格、环和树形结构）中的表现变异性。我们还发现，类似于人类，LLMs 利用对象名称作为地标来维护空间地图。最后，在广泛的错误分析中，我们发现 LLMs 的错误反映了空间和非空间因素。这些发现表明，LLMs 似乎能够隐含地捕捉到空间结构的某些方面，但仍有改进空间。

    Oct, 2023

  • 嵌入中藏着什么？无论是什么嵌入，玫瑰都会闻起来一样香吗？

    大型语言模型 (LLMs) 通常被批评缺乏真正的 “理解” 和 “推理” 能力，被视为高级自动填充系统。本研究认为这种观点可能忽视了一个重要的见解，即 LLMs 确实发展出一种类似于 “几何” 的经验性 “理解”，这对自然语言处理、计算机视觉、代码辅助等领域的应用似乎足够了。然而，这种基于不完全和嘈杂数据构建的 “几何” 理解使得 LLMs 不可靠、难以推广，并且缺乏推理能力和解释能力，类似于几十年前启发式专家系统面临的挑战。为了克服这些局限性，本研究建议将 LLMs 与包括专家系统中使用的符号 AI 元素在内的 “代数” 知识表示集成起来。这种集成旨在创建大型知识模型 (LKMs)，它们不仅具备以第一原理为基础的 “深度” 知识，而且具备推理和解释的能力，模仿人类专家的能力。为了安全有效地利用生成式 AI 的全部潜力，需要从 LLMs 转向更全面的 LKMs，这是一种新的范式转变。

    Jun, 2024