Dec, 2023

SkySense: 一种面向地球观测影像的多模态远程感知基础模型

PDF
TL;DRSkySense 是目前最大的多模态遥感基础模型，通过多种模态的时空序列输入，采用 Multi-Granularity Contrastive Learning 和 Geo-Context Prototype Learning 进行预训练学习，能灵活结合或单独使用其模块以适应各种任务，并在 16 个数据集上的 7 个任务中表现出了卓越的泛化能力，超过了 18 个最新的遥感基础模型。
remote sensing foundation modelskysensemulti-modalspatiotemporal encodergeo-context prototype learning
发现论文，激发创造
  • SkySenseGPT：用于遥感视觉语言理解的细粒度指令调整数据集和模型

    通过 FIT-RS 数据集，提出了一种用于远程感知的大规模指令调整数据集，通过评估复杂关系理解能力并建立 FIT-RSRC 基准，以 FIT-RSFG 基准为依据，提出了 SkySenseGPT 模型来增强远程感知大规模细粒度数据源与关系理解能力。

    Jun, 2024

  • 用于土地覆盖分类的多模态遥感基准数据集和共享特征学习模型

    本文提出了一个用于遥感数据的前沿技术 —— 共享和特定特征学习（S2FL）模型。该模型不仅可以将多模式遥感数据分解为模态共享和模态特定组件，更可以在陆地覆盖分类等多方面任务上发挥有效作用，达到其前沿性和先进性的地位。

    May, 2021

  • 在多传感器地理空间基础模型中连接远程传感器

    msGFM 是一个多传感器地理空间基础模型，有效地汇集来自四个关键传感器模态的数据，适用于各种类型的传感器，包括遥感图像分类、分割、云去除和泛光等任务，为发展多传感器地理空间预训练模型提供指南。

    Apr, 2024

  • EarthGPT：遥感领域多感知器图像理解的通用多模态大型语言模型

    提出了一个先驱性的多模态大型语言模型（MLLM）EarthGPT，该模型集成了各种多传感器遥感图像解释任务，通过构建大规模的多传感器多模态遥感指令追踪数据集 MMRS，解决了 MLLM 在遥感领域缺乏专业知识的问题，并在各种遥感图像解释任务上展现出其卓越的性能，并为开放式推理任务提供了一种多功能的范例。

    Jan, 2024

  • SkyEyeGPT: 大型语言模型中通过指令调整实现遥感视觉 - 语言任务的统一

    SkyEyeGPT 是一个针对远程感知视觉语言理解而设计的统一的多模态大型语言模型，通过对视觉特征与语言域的对齐以及使用 LLM 的 RS 解码器来预测远程感知开放式任务的答案，在 RS 视觉语言任务中表现出卓越的图像级和区域级任务结果。

    Jan, 2024

  • GAMUS：一种适用于遥感数据的几何感知多模态语义分割基准测试

    本文提出一种基于 RGB-Height 数据的遥感多模态语义分割新基准数据集，包含大规模数据集，认真评测已有的方法并提出一种新的 Transformer-based 中间多模态融合 (TIMF) 模块来适应令人满意的语义分割性能。

    May, 2023

  • RS5M：一种用于遥感视觉语言的大规模数据集和基础模型

    本文提出了一种新的框架，包括领域基础模型（DFM），该模型缩小了通用基础模型（GFM）和特定领域下游任务之间的差距，并通过预训练的 VLM 将筛选后的遥感图像与英文描述进行配对，构成了第一个大规模遥感图像 - 文本匹配数据集。在该数据集上的实验结果表明，使用上述数据集和提出的 DFM 方法的零样本分类和视觉语言检索任务的性能都较好，并且 RS Stable Diffusion 模型的训练也取得了成功的结果。

    Jun, 2023

  • RS-DFM：一种用于多样化下游任务的遥感分布式基础模型

    提出了一种基于广义信息映射和交互的远程感知分布式基础模型（RS-DFM），可以通过将观测映射到统一空间并实施任务不可知的信息交互策略，实现多平台和各种下游任务的在线协同感知。

    Jun, 2024

  • 通用多模态 Transformer 满足遥感语义分割

    在遥感语义分割领域中，本研究调查了 PerceiverIO 等普适性多模态网络在处理遥感图像中的物体尺度变化和车辆检测方面的表现，并提出一种空间和体积学习组件来解决这些问题。通过广泛的实验证明，该方法在与 UNetFormer 和 SwinUNet 等专用架构相比具有竞争力的结果，显示出最小化网络架构工程且性能不受明显影响的潜力。

    Jul, 2023

  • 远程感知图像变化检索与标注的多模态框架

    在多模态应用中，我们提出了一种创新的基于对比学习的模型，并利用 RS 数据集进行双时序遥感图像对的变化检测分析，实现了文本 - 图像检索功能。

    Jun, 2024