Dec, 2023

USat: 一种用于多传感器卫星图像的统一自监督编码器

PDF
TL;DR使用 USat 架构的多光谱数据的自监督预训练方法在遥感数据中优于状态 - of-the-art 的自监督 MAE 模型，并在低数据环境中带来改进。
self-supervised vision modelsremote sensing datausatmulti-sensorself-supervised pre-training
发现论文，激发创造
  • SatMAE: 为时间序列和多光谱卫星图像预训练 Transformers

    通过使用遮蔽自动编码器（MAE）的卫星图像的预训练框架 SatMAE，我们结合时间嵌入和分组打包多光谱数据以提高预训练能力，进一步提高基准数据集上的监督学习性能（最高可达 7%），并在后续的遥感分类任务中表现出强大的转移学习能力（最高可达 14%）。

    Jul, 2022

  • 重新思考用于多光谱卫星图像的 Transformer 预训练

    SatMAE++ 是一种多尺度的远程感知图像预训练方法，通过利用多模态数据和卷积上采样块在不同尺度上重构图像，达到了光学和多光谱遥感数据的同等有效性，并在大规模数据集上实现了最先进性能。

    Mar, 2024

  • 大规模掩码自编码减少合成孔径雷达数据的标签要求

    利用遥感卫星监测和缓解人为气候变化的影响在关键的干预和政策决策方面有着重要作用。合成孔径雷达 (SAR) 提供了一种强大的光学数据替代方案，通过自监督预训练方法在预测植被覆盖和土地分类关键任务上减少了标记数据需求，从而大大推进了气候变化监测的发展。

    Oct, 2023

  • S4：自主监管跨频谱感知

    利用卫星图像时间序列（SITS）的自监督预训练方法 (S4)，通过利用波段差异和地理信息进行预训练任务，从而显著降低对标记训练数据的需求，为 SITS 分割任务提供了一种有效且能使用有限标记数据的解决方案。

    May, 2024

  • MMEarth: 多模态预测任务研究地理空间表示学习

    利用未标记的地球观测数据创建多模态预训练数据集，通过多模态预训练任务，提出了改进的 ConvNeXt V2 架构的 Multi-Pretext Masked Autoencoder (MP-MAE) 方法，证明多模态预训练可以显著提高图像分类和语义分割的性能，以及标签和参数的效率。

    May, 2024

  • A$^{2}$-MAE：一种基于锚点感知屏蔽自编码器的空时谱统一遥感预训练方法

    利用遥感数据构建了一个空间 - 时间 - 光谱结构化数据集（STSSD），并提出了一个新方法（A$^{2}$-MAE），通过预训练相互补充不同类型的遥感图像和地理信息来重构遮蔽补丁，实现了多种下游任务的全面改进。

    Jun, 2024

  • OmniSat：地球观测自监督模态融合

    利用地球观测数据的多模态性质，提出了一种无监督多模态学习方法 OmniSat，可用于改进森林学、土地覆盖分类和农作物映射等任务，并在半监督和全监督设置下获得更好的性能。

    Apr, 2024

  • 基于知识引导的预测架构的 SAR ATR 自监督学习

    通过使用本文提出的具有知识引导预测架构，通过预测未见上下文的多尺度 SAR 特征表示，将传统 SAR 领域特征提取与最先进的可扩展自监督学习相结合，以准确的广义特征表示进行 SAR 目标识别，这一方法在各种下游数据集上验证成功，并在 SAR 目标识别中实现了一致的性能提升。

    Nov, 2023

  • SS-MAE：用于多源遥感图像分类的空间 - 频谱屏蔽自编码器

    提出了一种空间 - 光谱掩码自编码器 (SS-MAE) 用于高光谱成像和激光雷达 / 合成孔径雷达数据的联合分类，实现了空间和光谱表示的充分利用，并通过在训练阶段添加两个轻量级卷积神经网络来补充局部特征，成功在三个公开数据集上验证了 SS-MAE 相对于其他先进基线方法的优越性。

    Nov, 2023

  • 远程感知的传感器间自我监督训练与校准

    我们介绍了 “X-STARS” 的远程感知数据的跨传感器自监督训练和对齐方法，通过设计多传感器对齐稠密损失（MSAD）来对齐不同分辨率的传感器所表示的数据，从而提高模型在各种数据可用性和分辨率条件下的性能。

    May, 2024