Sep, 2023

EarthPT：地球观测的基础模型

HTML
PDF
TL;DREarthPT是一个地球观测预训练的变压器模型，通过自回归自监督方式训练了一个7亿参数、针对地球观测应用场景的模型。我们展示了EarthPT是一个有效的预测器，可以准确预测未来的像素级表面反射率在400-2300nm范围内变化。此外，通过EarthPT学习的嵌入具有语义上有意义的信息，可用于下游任务，如高精度、动态的土地利用分类。
发现论文，激发创造
  • EarthNet2021: 一个大规模数据集和挑战问题，用于作为引导视频预测任务的地表预测

    通过预测与未来天气相关的卫星图像，借助大规模数据集和深度神经网络模型进行天气预测，从而有助于农作物产量预测、森林健康评估或生物多样性监测等下游应用。

    Apr, 2021

  • Earthformer：探索用于地球系统预测的时空变压器

    该论文提出了一种名为Earthformer的深度学习模型，通过利用cuboid attention机制，成功地应用于El Nino/Southern Oscillation (ENSO)的预测，该方法表现出了最新的性能。

    Jul, 2022

  • EarthNets：赋能地球观测中的人工智能

    本文综述了400多个公共数据集，包括土地利用/覆盖、变化/灾害监测、场景理解、农业、气候变化和天气预报。通过对数据集进行系统分析，我们基于其属性提出了评估标准，并发布了用于评估深度学习方法的新平台EarthNets，从而弥合了遥感和机器学习社区之间的差距。

    Oct, 2022

  • GEO-Bench：地球监测基础模型

    本研究针对遥感任务的基础模型研究进行了探讨，提出了一种包括六项分类任务和六项分割任务的基准测试以及可靠的评估方法，并报告了二十种基线模型的结果，旨在推动地球监测领域的模型进展。

    Jun, 2023

  • 通用地理空间人工智能的基础模型

    基于深度学习的Prithvi地球观测模型通过高效前期训练和微调，成功实现地球观测领域多个任务的优化，证明了预训练模型在加速微调过程以及在性能上优于随机初始化权重的作用，并表明可显著减少可用标注数据的数量而不影响模型准确性。

    Oct, 2023

  • 一切于一：走向地球视觉统一基础模型

    采用单一的Transformer骨干网络，将多种数据模态与不同空间分辨率结合，解决了当前基础模型在地球视觉领域的多个下游任务中的适用性问题。

    Jan, 2024

  • 基于神经可塑性的地球跨模态观测基础模型

    基于神经可塑性的多模态地球观测数据的适应性单一框架——Dynamic One-For-All（DOFA）模型提供了更准确、高效和统一的地球观测分析方法。

    Mar, 2024

  • MMEarth: 多模态预测任务研究地理空间表示学习

    利用未标记的地球观测数据创建多模态预训练数据集，通过多模态预训练任务，提出了改进的ConvNeXt V2架构的Multi-Pretext Masked Autoencoder (MP-MAE)方法，证明多模态预训练可以显著提高图像分类和语义分割的性能，以及标签和参数的效率。

    May, 2024

  • 基于卫星图像的地球观测分类：预训练视觉变换器模型的比较研究

    本研究针对传统卷积神经网络在遥感图像分类中的局限，探索了预训练视觉变换器模型在卫星处理中的应用。通过与CNN和ResNet模型的比较，我们发现MobileViTV2和EfficientViT-M2在准确性和效率上表现优越，尤其EfficientViT-M2在有噪声的条件下表现出更高的适应性，成为卫星地球观测任务中的最佳选择。这项研究为遥感图像分类提供了新的高效方法。

    Sep, 2024

  • 遥感与地球观测的基础模型：综述

    本研究探讨了遥感领域面临的重要挑战，特别是在复杂的地球环境和多样的传感器模态下的发展需求。文章提出了遥感基础模型（RSFM）的概念，并系统地回顾了现有的研究，评估了这些模型的性能及其对地球观测任务的潜在影响，为未来研究方向提供了指导。

    Oct, 2024