Apr, 2023

基础模型在地理空间人工智能中的机遇与挑战

PDF
TL;DR通过在多个地理空间子领域进行测试，发现在某些文本模态的地理任务中，基于任务不可知的大型语言模型可以在零样本或少样本学习设置中胜过基于任务特定的全监督模型，但是在其他涉及多种数据模态的地理任务上，现有的基础模型仍然不如基于任务特定的模型表现。因此，通过处理不同的地理数据模态，建议可能性使用能够通过地理对齐来推理各种类型的地理数据的多模态基础模型来应对地理人工智能挑战的多模态特征。
foundation modelsgeoaimultimodal modelgeospatial taskszero-shot learning
发现论文，激发创造
  • CityFM：解决城市挑战的城市基础模型

    通过开放地理空间数据和自我监督学习，CityFM 构建了一个多模态的预训练基础模型，用于处理地理空间数据和回答城市相关问题，并在道路、建筑和区域级别的任务上获得了优秀的性能。

    Oct, 2023

  • 建立隐私保护和安全的地理空间人工智能基础模型

    本文介绍了 GeoAI 基础模型的潜在隐私和安全风险，并提出了全面的预防和控制策略，旨在引起地理空间领域的研究人员和决策者对 GeoAI 基础模型固有的隐私和安全风险的重视，并倡导隐私保护和安全的 GeoAI 基础模型的发展。

    Sep, 2023

  • 在前沿上预训练十亿级地理空间基础模型

    在预训练基于互联网规模无标签数据的基础模型 (Foundation Models，FMs) 中，研究增至十亿级参数规模的 FMs 和高性能计算 (HPC) 训练，以应用于地理空间图像应用中，取得了较小规模模型的显著准确率提升。

    Apr, 2024

  • 面向视觉 - 语言地理基础模型：一项调查

    本文全面审查了视觉 - 语言地理基础模型（VLGFMs），总结和分析了该领域的最新发展，包括 VLGFMs 的背景、动机、核心技术和应用，以及未来研究方向的洞察、问题和讨论。

    Jun, 2024

  • 通用地理空间人工智能的基础模型

    基于深度学习的 Prithvi 地球观测模型通过高效前期训练和微调，成功实现地球观测领域多个任务的优化，证明了预训练模型在加速微调过程以及在性能上优于随机初始化权重的作用，并表明可显著减少可用标注数据的数量而不影响模型准确性。

    Oct, 2023

  • 评估与基准化地球观测和地理空间的人工智能模型

    基于基础模型对计算机视觉、地球观测和地理空间人工智能领域的问题进行联合解决，其对于有限的标记数据表现出更好的性能，并且在下游任务中具有标签高效的特点。

    Jun, 2024

  • 地球科学和基础模型的结合：通向通用地球科学人工智能系统

    地球科学基础模型通过整合大量跨学科数据模拟和理解地球系统动态，以数据为中心的人工智能范例从结构化和非结构化数据中发现见解，灵活的任务规格、多样的输入和输出以及多模态的知识表示使得全面分析成为可能，但在验证和验证、规模、可解释性、知识表示和社会偏见等方面仍存在挑战，提高模型一体化、分辨率、准确性和公平性的跨学科团队合作是关键，尽管当前存在限制，地球科学基础模型通过探索场景和量化不确定性向气候变化、自然灾害和可持续性等紧迫问题提供了关键见解，其不断向集成化的数据驱动建模演化具有改变范式的潜力。

    Sep, 2023

  • 多模态基础模型在地理、环境、农业和城市规划应用中的承诺与挑战

    GPT-4V 在地理学、农业和城市规划领域的绩效评估中展现出潜力，但在一些需要细粒度识别和精确计数的任务中存在局限性。

    Dec, 2023

  • 基础模型在推进自动驾驶车辆方面的前景角色

    基于人工智能的大规模基础模型在自主驾驶中具有着巨大的应用潜力，能够提升场景理解和推理能力，增强语言和行动命令的认知推理，并改善自主驾驶系统的准确性和可靠性。同时，通过自我监督学习范式下的大规模数据，世界模型可以生成看似真实的未见过的驾驶环境，促进对道路使用者行为的预测和驾驶策略的离线训练，从而提高自主驾驶的安全性和处理长尾分布问题的能力。

    Dec, 2023

  • 智能农业中的基础模型：基础、机遇和挑战

    本研究旨在探索基于基础模型（foundation models）在智能农业领域的潜力，通过回顾计算机科学领域的最新研究，并将其归类为语言基础模型、视觉基础模型、多模态基础模型和强化学习基础模型，本文提出了农业基础模型的发展过程和潜在应用及其在模型训练、验证和部署过程中可能面临的挑战，旨在通过引入农业基础模型这一有前景的范式，显著减少对大规模标记数据集的依赖，同时提高农业人工智能系统的效率、效果和泛化能力。

    Aug, 2023