Oct, 2023

通用地理空间人工智能的基础模型

PDF
TL;DR基于深度学习的 Prithvi 地球观测模型通过高效前期训练和微调，成功实现地球观测领域多个任务的优化，证明了预训练模型在加速微调过程以及在性能上优于随机初始化权重的作用，并表明可显著减少可用标注数据的数量而不影响模型准确性。
artificial intelligencegeospatial dataprithvifine-tuningearth observation
发现论文，激发创造
  • 在前沿上预训练十亿级地理空间基础模型

    在预训练基于互联网规模无标签数据的基础模型 (Foundation Models，FMs) 中，研究增至十亿级参数规模的 FMs 和高性能计算 (HPC) 训练，以应用于地理空间图像应用中，取得了较小规模模型的显著准确率提升。

    Apr, 2024

  • 评估 IBM 和 NASA 的地理空间基础模型在洪涝淹没区划中的应用

    评估 IBM-NASA 的 Prithvi 模型在洪水淹没区域的地理空间分析任务中的性能，并与其他卷积神经网络和视觉变换器架构进行比较，结果显示了 Prithvi 模型在未见过的区域中分割淹没区域的出色可迁移性，同时建议在多尺度表示学习、高级图像分析任务的端到端流程和输入数据波段的灵活性方面进一步改进。

    Sep, 2023

  • 基础模型在地理空间人工智能中的机遇与挑战

    通过在多个地理空间子领域进行测试，发现在某些文本模态的地理任务中，基于任务不可知的大型语言模型可以在零样本或少样本学习设置中胜过基于任务特定的全监督模型，但是在其他涉及多种数据模态的地理任务上，现有的基础模型仍然不如基于任务特定的模型表现。因此，通过处理不同的地理数据模态，建议可能性使用能够通过地理对齐来推理各种类型的地理数据的多模态基础模型来应对地理人工智能挑战的多模态特征。

    Apr, 2023

  • GEO-Bench：地球监测基础模型

    本研究针对遥感任务的基础模型研究进行了探讨，提出了一种包括六项分类任务和六项分割任务的基准测试以及可靠的评估方法，并报告了二十种基线模型的结果，旨在推动地球监测领域的模型进展。

    Jun, 2023

  • 利用地理空间基础模型的多光谱遥感图像检索

    使用地理空间基础模型 Prithvi 进行遥感图像检索，在多光谱卫星数据上取得了出色的性能，提出了三种压缩方法，能够在保持浮点数嵌入精度的同时实现 32 倍的压缩比，而且与更短哈希码的检索速度相匹配。

    Mar, 2024

  • 遥感图像亿级基础模型

    本文研究了模型参数数量增加对远程遥感领域中基础模型在旋转物体检测和语义分割等下游任务性能的影响，并通过实验验证了模型参数数量的增加可以提升模型性能和数据效率，进而提出了一种有效的基于视觉变换器进行扩展和微调的远程遥感领域的方法。

    Apr, 2023

  • 建立隐私保护和安全的地理空间人工智能基础模型

    本文介绍了 GeoAI 基础模型的潜在隐私和安全风险，并提出了全面的预防和控制策略，旨在引起地理空间领域的研究人员和决策者对 GeoAI 基础模型固有的隐私和安全风险的重视，并倡导隐私保护和安全的 GeoAI 基础模型的发展。

    Sep, 2023

  • 地球科学和基础模型的结合：通向通用地球科学人工智能系统

    地球科学基础模型通过整合大量跨学科数据模拟和理解地球系统动态，以数据为中心的人工智能范例从结构化和非结构化数据中发现见解，灵活的任务规格、多样的输入和输出以及多模态的知识表示使得全面分析成为可能，但在验证和验证、规模、可解释性、知识表示和社会偏见等方面仍存在挑战，提高模型一体化、分辨率、准确性和公平性的跨学科团队合作是关键，尽管当前存在限制，地球科学基础模型通过探索场景和量化不确定性向气候变化、自然灾害和可持续性等紧迫问题提供了关键见解，其不断向集成化的数据驱动建模演化具有改变范式的潜力。

    Sep, 2023

  • 基础模型的有效时机：利用多光谱图像进行像素级分类的适用性研究

    基础模型在遥感任务中的适用性取决于自监督学习任务与实际下游任务的一致性，而传统机器学习模型在某些场景下表现得更好，尤其是在纹理不适用于分类的任务中。

    Apr, 2024

  • 评估与基准化地球观测和地理空间的人工智能模型

    基于基础模型对计算机视觉、地球观测和地理空间人工智能领域的问题进行联合解决，其对于有限的标记数据表现出更好的性能，并且在下游任务中具有标签高效的特点。

    Jun, 2024